可解釋人工智慧自動化方法之研究及其在醫學影像分類上的應用

Abstract

近年來，可解釋人工智慧（Explainable AI）的快速發展，促使研究人員致力於開發能夠有效偵測輸入資料對預測模型輸出影響的方法。然而，大多數現有方法都需要經過多個處理階段來分析輸入資料，其中部分階段涉及對輸入資料進行重新抽樣（re-sampling）。當輸入資料量龐大時，這類重新抽樣程序往往需要耗費相當多的計算時間。在本次演講中，我們提出一種能夠自動偵測輸入資料對預測模型輸出影響的方法。我們的方法基於一個核心概念：將影響偵測問題轉化為一個預測問題來處理。模擬實驗結果顯示，我們的方法能夠正確地辨識輸入資料對模型輸出的影響，同時無需耗費過多時間於輸入資料的前處理與重新抽樣程序。

關鍵字：攤提式估計；深度學習；可解釋人工智慧；跨模型適用的局部可解釋方法。

線上視訊請點選連結