本文依托于綜述性文章，首先回顧了可解釋性方法的主要分類以及可解釋深度學習在醫療圖像診斷領域中應用的主要方法。然后，結合三篇文章具體分析了可解釋深度學習模型在醫療圖像分析中的應用。作為一種領先的人工智能方法，深度學習應用于各種醫學診斷任務都是非常有效的，在某些方面甚至超過了人類專家。其中，一些計算機視覺方面的最新技術已經應用于醫學成像任務中，如阿爾茨海默病的分類、肺癌檢測、視網膜疾病檢測等。但是，這些方法都沒有在醫學領域中得以廣泛推廣，除了計算成本高、訓練樣本數據缺乏等因素外，深度學習方法本身的黑盒特性是阻礙其應用的主要原因。盡管深度學習方法有著比較完備的數學統計原理，但對于給定任務的知識表征學習尚缺乏明確解釋。深度學習的黑盒特性以及檢查黑盒模型行為工具的缺乏影響了其在眾多領域中的應用，比如醫學領域以及金融領域、自動駕駛領域等。在這些領域中，所使用模型的可解釋性和可靠性是影響最終用戶信任的關鍵因素。由于深度學習模型不可解釋，研究人員無法將模型中的神經元權重直接理解 / 解釋為知識。此外，一些文章的研究結果表明，無論是激活的幅度或選擇性，還是對網絡決策的影響，都不足以決定一個神經元對給定任務的重要性［2］ ，即，現有的深度學習模型中的主要參數和結構都不能直接解釋模型。因此，在醫學、金融、自動駕駛等領域中深度學習方法尚未實現廣泛的推廣應用。可解釋性是指當人們在了解或解決一件事情的過程中，能夠獲得所需要的足夠的可以理解的信息。深度學習方法的可解釋性則是指能夠理解深度學習模型內部機制以及能夠理解深度學習模型的結果。關于 “可解釋性” 英文有兩個對應的單詞，分別是 “Explainability” 和“Interpretability”。這兩個單詞在文獻中經常是互換使用的。一般來說，“Interpretability”主要是指將一個抽象概念（如輸出類別）映射到一個域示例（Domain Example），而 “Explainability” 則是指能夠生成一組域特征（Domain Features），例如圖像的像素，這些特征有助于模型的輸出決策。本文聚焦的是醫學影像學背景下深度學習模型的可解釋性（Explainability）研究。可解釋性在醫學領域中是非常重要的。一個醫療診斷系統必須是透明的（transparent）、可理解的（understandable）、可解釋的（explainable），以獲得醫生、監管者和病人的信任。理想情況下，它應該能夠向所有相關方解釋做出某個決定的完整邏輯。公平、可信地使用人工智能，是在現實世界中部署人工智能方法或模型的關鍵因素。本文重點關注可解釋深度學習方法在醫療圖像診斷中的應用。由于醫學圖像自有的特點，構建用于醫療圖像分析的可解釋深度學習模型與其它領域中的應用是不同的。本文依托于綜述性文章，首先回顧了可解釋性方法的主要分類以及可解釋深度學習在醫療圖像診斷領域中應用的主要方法。然后，結合三篇文章具體分析了可解釋深度學習模型在醫療圖像分析中的應用。