放射学深度学习计算机辅助诊断中可解释性AI应用的系统综述:使用有限?
该系统综述纳入2016年1月至2021年1月期间490项使用端到端深度学习的放射学诊断准确性研究,其中179项(37%)使用了可解释性AI,82%用于模型可视化与检查,类激活映射最常用(65%),仅1项研究评估了解释结果的质量。作者认为常用技术存在潜在局限,且因缺乏质量评估,这些解释对解决深度学习黑箱问题的有效性尚不明确。
要点
- 仅37%的放射学深度学习CAD研究使用了可解释性AI。
- 类激活映射是最常用的可解释性技术,占65%。
- 绝大多数研究未评估解释的质量,仅1项有评估。
核心结论
- 相当一部分计算机辅助诊断研究为其深度学习模型提供了可解释性,但主要用于模型可视化与检查。
- 常用技术(类激活映射、特征激活映射、t-SNE)存在潜在局限,且研究者通常不测量解释质量,因此这些解释对解决黑箱问题的有效性尚不明确。
研究设计与样本
- 系统综述,遵循PRISMA指南,检索2016年1月1日至2021年1月20日的原发诊断准确性研究,纳入使用端到端深度学习的放射学研究,共490项。
- 通过识别解释目标、测量方法和可解释性AI技术进行结果综合。
诊断标准与关键数值
- 纳入490项原发诊断准确性研究,其中179项(37%)使用了可解释性AI。
- 在179项研究中,147项(82%)将可解释性AI用于模型可视化与检查。
- 类激活映射是最常用技术,在179项研究中117项(65%)使用。
- 仅1项研究使用了评估可解释性AI结果的方法。
临床应用与阅片要点
- 日常阅片中使用深度学习CAD的可视化解释时,需注意其质量通常未经评估,解释可能不可靠。
- 类激活映射等常用技术存在潜在局限,不应过度依赖其定位或判断。
局限性
- 仅1项研究评估了解释质量,无法判断常用解释方法的有效性。
- 常用可解释性技术(类激活映射、特征激活映射、t-SNE)存在潜在局限。
以上解读依据论文摘要(全文未开放获取或许可不允许翻译转载)。
英文原文(摘要)· 点击展开
OBJECTIVES: This study aims to contribute to an understanding of the explainability of computer aided diagnosis studies in radiology that use end-to-end deep learning by providing a quantitative overview of methodological choices and by discussing the implications of these choices for their explainability.
METHODS: A systematic review was executed using the preferred reporting items for systemic reviews and meta-analysis guidelines. Primary diagnostic test accuracy studies using end-to-end deep learning for radiology were identified from the period January 1st, 2016, to January 20th, 2021. Results were synthesized by identifying the explanation goals, measures, and explainable AI techniques.
RESULTS: This study identified 490 primary diagnostic test accuracy studies using end-to-end deep learning for radiology, of which 179 (37%) used explainable AI. In 147 out of 179 (82%) of studies, explainable AI was used for the goal of model visualization and inspection. Class activation mapping is the most common technique, being used in 117 out of 179 studies (65%). Only 1 study used measures to evaluate the outcome of their explainable AI.
CONCLUSIONS: A considerable portion of computer aided diagnosis studies provide a form of explainability of their deep learning models for the purpose of model visualization and inspection. The techniques commonly chosen by these studies (class activation mapping, feature activation mapping and t-distributed stochastic neighbor embedding) have potential limitations. Because researchers generally do not measure the quality of their explanations, we are agnostic about how effective these explanations are at addressing the black box issues of deep learning in radiology.
引用
- Groen, Kraan, Amirkhan, et al. A systematic review on the use of explainability in deep learning systems for computer aided diagnosis in radiology: Limited use of explainable AI? Eur J Radiol. 2022. PMID: 36371947. doi:10.1016/j.ejrad.2022.110592
供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。