文献速递胸部技术与安全PETCT

PET-CT肺癌TNM分期中可解释AI的放射科用户观察研究

Examining explainable artificial intelligence in TNM staging with PET-CT: a user-centred observation study.
PubMed 文献 · Radiol Med · 2026-07-13

该用户观察性研究纳入来自英国8家机构的10名核医学放射科医师,在肺癌TNM分期的全身PET/CT任务中评估输入特征归因、高级概念解释和全局算法透明性三种可解释AI方式。结果显示所有解释方式均显著提高放射科医师对AI系统的采纳意愿,且被认为有助于确认或质疑AI分期建议,但解释深度与可用性之间存在权衡。

要点

  • 输入特征归因解释最受医师偏好,基于热图展示病灶线索,便于融入常规阅片流程。
  • 全局算法透明性解释提供与临床推理一致的决策逻辑,但增加阅片认知负荷。
  • 高级概念解释因抽象难懂被多数放射科医师评为最不偏好,尽管能暴露AI逻辑缺陷。

核心结论

  • 在PET/CT肺癌TNM分期任务中,放射科医师对含可解释性组件的AI支持系统采纳意愿显著高于黑箱系统(所有解释类型P<0.05)。
  • 输入特征归因(IFA)方法的采纳意愿中位数为5.0(P=0.001),为三种解释类型中最高。
  • 高级概念解释(HLC)和全局算法透明性(GAT)的有用性中位数均为4.0(均P<0.005)。
  • 解释深度与临床可用性之间存在权衡,深度解释支持更优但增加认知负荷。

研究设计与样本

  • 任务式访谈的用户观察性研究,10名英国8家机构的核医学放射科医师参与,平均工作年限14.7年(范围5至25年)。
  • 使用公开的Tübingen大学数据集全身FDG PET/CT图像,在Mirada XD 3.6.11诊断软件中展示模拟AI分期推荐与解释内容。
  • 每位放射科医师从10例肺中评估3例,每例对应一种解释水平,采用Likert量表和非参数符号检验分析。
  • 事后半结构化访谈经Anthropic Claude 3.5-sonnet大语言模型辅助编码并进行人工核验。
  • 3种解释方式为输入特征归因(热图)、高级概念解释(特征图)和全局算法透明性(决策树)。

关键影像表现/征象

  • 输入特征归因热图与放射学常规病灶识别工作流一致,被认为可直接关联影像依据。
  • 高级概念解释所展示的分类规则常被识别为过度简化,例如引用「距原发灶的径向距离」作为分期标准。
  • 全局算法透明性的决策树解释与临床推理流程对齐,使医师能够理解系统分类逻辑。
  • 人类与AI初始分期不一致时,解释对医师置信度改变的影响更大。

诊断标准与关键数值

  • 采纳意愿(1至5 Likert评分)对比黑箱系统:IFA中位数=5.0,P=0.001;HLC中位数=4.5,P<0.005;GAT中位数=4.0,P<0.05。
  • 解释有用性评分对比中立基线:IFA中位数=3.5,P=0.001;HLC中位数=4.0,P<0.005;GAT中位数=4.0,P<0.005。
  • 6名参与者将输入特征归因列为首选解释类型,2名首选全局算法透明性,高级概念解释最不受偏好。
  • 解释后分期修订很少发生,高级概念解释后仅出现1次分期修改。

临床应用与阅片要点

  • 日常阅片中可优先采用输入特征归因热图作为AI结果的解释方式,便于与先行影像观察对照。
  • 对于高置信度且与临床推理一致的病例,AI解释不一定需要过深,深度解释可能增加不必要的认知负荷。
  • 人工智与医师判断不一致的场景中,解释信息对确认或驳回AI建议最有价值,应在工作流中加强此环节。
  • 面对抽象度高的高级概念解释时,存在把解释语义不清误判为AI逻辑错误的风险。
  • 可根据病例复杂程度配置解释深度:复杂病例需要更深层的全局解释支持决策。

局限性

  • 样本量仅10名放射科医师,统计效力与结果外推性有限。
  • 采用模拟AI建议和模拟解释而非真实AI模型,未评估技术上存在偏差的AI输出,可能高估解释有用性。
  • 研究任务局限于肺癌TNM分期的PET/CT,未覆盖其他病种或影像方式。
  • 单一,未涉及多中心多机构设计。
全文中译9 节 · 点击展开
本译文由 AI 依据开放获取原文逐段翻译,供学习参考,可能存在误差,请以原文为准。原文 © 原作者,按 CC BY 许可使用,本译文为翻译改编。出处:Radiol Med. 2026 Jul 13;131(9):1601–12. doi: 10.1007/s11547-026-02226-9

引言

全球放射科人员短缺持续引发人们对患者护理影响的担忧 [1, 2]。英国皇家放射科学院报告称,2023年英国放射科医生短缺率达30%,预计随后几年还将上升 [3]。70%的临床主任表示这是对安全有效患者护理的一个担忧 [3]。人工智能(AI)已被提出通过决策支持来帮助缓解人力压力并改善临床工作流程 [4]。在核医学领域,其应用包括病灶检测、自动分期和治疗反应预测 [5–7]。

尽管具有这些能力,AI工具的临床采用仍然有限,因为研究中的高技术性能往往未能转化为临床应用 [8, 9]。除技术局限外,采用障碍贯穿产品整个生命周期,从人员培训成本和系统互操作性等后勤障碍,到终端用户对性能预期、独立验证和系统透明度的关键关切 [10, 11]。这些终端用户的顾虑是实质性的;在最近的一次研讨会上,60%的放射科医生将准确性和可靠性方面的担忧列为实施的主要障碍 [12]。虽然有人认为透明度作为障碍被夸大了,但关于模型逻辑、训练数据和决策过程的不清晰被广泛报告为一个重要问题,损害了用户信任并阻碍了自信的采用 [12, 13]。

监管要求进一步增加了复杂性。欧盟《人工智能法案》要求对高风险AI(如医疗保健中使用的AI)进行人工监督,并赋予用户无视、推翻或逆转AI系统输出的权利 [14]。这一方面强调了通过可解释人工智能(XAI)实现AI决策透明度的必要性。

透明度不足,尤其是在神经网络等复杂模型中,会同时损害信任和人工监督 [15, 16]。XAI旨在通过人类可解释的说明性输出来提高对AI决策的理解 [17]。然而,术语和方法的不一致使这一新兴领域变得更加复杂 [18]。本研究采用表1所示的定义。尽管本研究的主要焦点是可解释性,但全文采用“XAI”这一术语以与既有文献保持一致 [16, 17]。

除技术开发外,理解XAI对用户的影响的需求日益增长。然而,仅22%的XAI研究纳入了用户,其中仅23%涉及领域专家 [21]。本研究侧重于基于专家用户对可应用于PET-CT报告中不同XAI方法的评估。

XAI评估方法通常分为以计算机为中心或以人为中心两类[22]。由领域专家进行的基于任务的评估仍是XAI评估的金标准;然而,参与者招募和任务真实感构成了重大挑战[23]。此外,XAI方法可能对AI模型行为生成不准确的解释,从而可能妨碍在不同可解释性水平之间进行公平评估[22]。若干准则指导着XAI评估,包括信任、可用性以及与用户知识的一致性。Nauta等人确定了“Co-12”准则,其中包括情境相关性、与先前知识的一致性以及解释的交互性[21]。其他评估维度包括信任校准、可用性以及人机协作绩效[24]。常见的XAI评估方法包括有声思维法[25]、眼动追踪研究[26]和半结构化访谈[27–29]。值得注意的是,Bergquist等人对放射科医生、管理者和开发者进行了半结构化访谈,以探讨采用方面的问题[29]。

大多数研究仅考察单一的XAI方法,因而无法分析用户对不同解释类型的偏好。一个例外是Naiseh等人的研究,其使用李克特量表在药物处方决策中评估了多种XAI方法[30]。许多XAI研究的孤立聚焦缺乏评估利益相关者在广泛XAI技术谱系中偏好的细致度。虽然若干XAI分类法侧重于技术维度,如方法、范围和适用领域,但当前文献中缺少一个涵盖不同利益相关者的公认分类法[17,31,32]。这些利益相关者包括放射科医生、AI开发者、监管机构和患者,他们拥有不同的领域知识和目标[33]。Saboury等人认为,考虑利益相关者是实现可信AI系统的关键[34]。鉴于AI立法中预计将纳入可解释性要求,而当前对利益相关者XAI偏好的理解有限,填补这一利益相关者考量方面的空白变得日益重要[3]。放射学中基于图像的XAI应用缺乏以用户为中心的验证,是本研究的主要动机,因为图像解读在这些工作流程中具有核心作用,且AI的使用日益增多。

因此,本研究的主要目的是探讨XAI在日常临床采用方面的影响,以及基于XAI的临床决策支持系统(XAI-CDSS)的实用性。对多种XAI的评估基于一个新颖的以利益相关者为中心的框架——AI可解释性层级体系。开展了一项基于任务的用户研究,以肺癌PET-CT分期为主要临床任务,由放射科医生积极评估最佳可解释性层级。这是首项以放射科医生为关键利益相关者、考察并比较多种XAI方法的研究。

表1 本研究中使用的关键术语定义 查看原表 ↗

材料与方法

AI可解释性层级体系

受马斯洛需求层次理论 [35] 的启发,本研究提出了一种新的结构,将模型可解释性的程度(解释深度)表示为分层递进的层级。这一新颖结构将可解释性要求与利益相关者需求进行形式化对应(见图1),便于进行利益相关者之间的比较。为优先排序利益相关者需求,该层级从方法论和格式等技术细节中抽象出来。

“范围”被定义为该层级的主轴,用于区分解释单个实例的局部方法(例如“为什么是这位患者?”)与解释整体系统逻辑的全局方法 [32]。然而,尽管这一区分仍是评估利益相关者需求的有用工具,仅测试局部和全局范围不足以区分当前文献中众多可用的可解释人工智能(XAI)方法。从用户的角度来看,解释范围等同于解释深度,具体而言,全局范围的解释比局部范围的解释提供了“更深层”的模型理解。以解释深度为重点审视XAI文献,可以发现清晰的层级水平,代表了当前方法所提供的解释深度中的根本性区别 [12, 15]。这些层级被有意设计得较为宽泛,以促进利益相关者进行有效区分。

该层级的基础层(预测,见图1)代表模型预测及其相关的置信度水平,提供的可解释性最低。虽然置信度分数能提供一定的模型洞察,但其纳入通常是实现层面的选择,而非出于可解释性考虑的架构决策。输入特征归因(IFA)识别驱动预测的最具影响力的特征,例如梯度加权类激活图(Grad-CAM)可视化 [36]。这些解释在局部范围内运作,聚焦于特定的输入实例。相比之下,全局范围的可解释性涵盖一组预测,从而揭示有关AI总体决策过程的信息。这包括训练过程中学习到的高层概念(HLC),例如训练数据聚类模式 [37]。该层级的最高层是全局算法透明性(GAT)层,在这一层中,模型组件是可见的,可以被独立分解和模拟,“白盒”模型即为典型例子 [38]。

利用这一框架,可以在对照研究中调查利益相关者(此处为放射科医生)的需求。针对以下假设,对该层级的多个水平进行了测试:

采纳度 与黑盒AI-CDSS相比,放射科医生更有可能将具有[IFA、HLC和GAT]可解释性水平的AI临床决策支持系统(AI-CDSS)纳入常规临床实践。

有用性 哪些可解释性水平[IFA、HLC和GAT]能为放射科医生提供有用的信息,使其能够更有信心地接受或拒绝AI建议?

图1 AI可解释性的层级结构。与AI决策过程相关的解释深度随层级水平的升高而增加。可解释性水平分为两种类型:局部可解释性考虑单个预测,全局可解释性涵盖一组预测。 查看原图 ↗

研究设计

基于任务的访谈

十名放射科医生利用来自公开可用的蒂宾根大学医院数据集 [39] 的图像数据,在全身 [18F] 氟脱氧葡萄糖(FDG)PET-CT 扫描上执行肺癌肿瘤-淋巴结-转移(TNM)分期任务。Mirada XD 3.6.11 版诊断软件(Mirada Medical Ltd.,英国牛津)展示扫描图像,并整合了模拟的 AI 分期建议和解释。结构化评估方案如图 2 所示。在初始分期之后,放射科医生有两次依次进行修改评估的机会,首先基于 AI 建议,随后基于 AI 解释 [40]。在每个修改阶段,参与者对 AI 建议的同意程度进行 Likert 量表评分。解释从较低可解释性水平到较高可解释性水平依次呈现,以防止信息从更高水平“泄漏”。

每名放射科医生评估从十个病例库中选出的三个病例,每个可解释性水平分配一个病例。在每个病例之后,参与者完成一项半结构化访谈(全文见在线资源第 1 节),该访谈专为评估采纳度、信任度、可用性和满意度而设计 [22, 41]。在这些任务后评估中,放射科医生被要求讨论所提供解释的合理性和整体质量,识别潜在的 AI 局限性,并将其报告体验与标准黑箱系统进行定性比较。为了实现定量分析,整合了五点 Likert 量表,以衡量解释对分期一致性的有用性、对用户信心的整体影响以及在临床实践中采纳可解释系统的可能性。在完成所有病例后,进行最终访谈,参与者对解释类型进行排序,并反思他们在会议期间对 AI 临床采纳的看法是否发生了变化。所有访谈均通过 Microsoft Teams 进行并录制,采用可解释 AI 研究中普遍使用的评估方法,以引出全面而聚焦的回答 [27–29]。

为确保公平评估,避免技术上不准确的 XAI 输出造成偏倚,模拟建议和解释由 VP(顾问放射科医生)根据真实放射学报告推导得出 [22]。IFA、HLC 和 GAT 解释分别采用热图、特征图和决策树,作为 Nauta 等人 [21] 确定的解释类别。为有意设计人机分歧,每名参与者的一条分期建议被策略性地修改。所有内容均经 VP 临床验证,并嵌入 Mirada XD 中,可见性由访谈者控制。示例见在线资源第 2 节图 1–5。

来自八家英国机构的十名专家放射科医生(TA、SB、GE、RF、SK、SM、DR、AS、PDS 和 AZ)参与研究,平均工作经验为 14.7 年(范围:5–25 年)(见在线资源第 3 节图 6)。所有人均积极从事 PET-CT 的 TNM 分期工作,其中四人先前有 AI 研究经验。

图 2 与放射科医生进行的基于任务的访谈的会议结构。红色箭头表示放射科医生修改患者分期和置信度评分的机会。 查看原图 ↗
图3 分期信心因解释方式(a 输入特征归因,b 高层次概念,c 全局算法透明度)及人机一致性而发生的变化。由于访谈失误,b 中省略了一名参与者。 查看原图 ↗
图4 概述放射科医生在看到AI分期建议和解释后可能保留/更改患者分期的决策/修正路径的示意图。 查看原图 ↗
图5 AI可解释性水平偏好排序频次图。第1名——最喜欢,第3名——最不喜欢。由于访谈失误,省略了一名参与者。这表明了对输入特征归因的偏好,而高层次概念是最不受青睐的方法。 查看原图 ↗
图6 雷达图,比较输入特征归因(IFA)、高层次概念(HLC)和全局算法透明度(GAT)在任务后访谈提取的关键主题方面的表现。该图使用Anthropic的Claude 3.5-sonnet大语言模型生成,并经过正确性验证。 查看原图 ↗

分析

使用单侧符号检验(IBM SPSS Statistics 29)分析Likert评分(1–5),以评估表2中列出的假设。符号检验衡量评分相对于基线是正向还是负向。该基线代表一个“黑箱”系统,即一个在没有解释的情况下建议TNM分期的AI。

在转录验证和整理之后,使用Anthropic的Claude 3.5-sonnet大语言模型(LLM)进行访谈分析,并遵循既定的主题分析原则[42, 43]。选择该方法是基于支持LLM在演绎编码和医疗访谈解读方面有效性的证据[44–46]。由一名人类编码员确定清晰定义的初始主题,以尽量减少LLM的误读。根据Zhang等人的研究结果[44],对提示工程进行了迭代优化以提高分析准确性。所有发现均使用支持性引文进行验证,最终判断由人类编码员负责,以避免LLM幻觉风险[47]。

表2 研究输入特征归因(IFA)、高层次概念(HLC)和全局算法透明度(GAT)解释对利益相关者考量影响的假设 查看原表 ↗

结果

定量分析

大多数参与者在所有解释类型中都比黑箱系统更可能采纳XAI(见在线资源第3节图7)。对于每种解释类型,均有一名参与者保持与黑箱系统相同的采纳可能性,而一名参与者对GAT解释的采纳偏好显著降低。

如表3所示,单侧符号检验表明,与黑箱系统相比,IFA(中位数 = 5.0,p = 0.001)、HLC(中位数 = 4.5,p < 0.005)和GAT解释(中位数 = 4.0,p < 0.05)的采纳可能性显著更高,支持H1-A。

有用性Likert评分(见在线资源第3节图8)显示GAT解释的评分高度集中在“非常有用”附近,IFA的回答集中在3–5分(总体为正)范围内,而HLC解释则表现出较高的方差。单侧符号检验(见表4)证实了所有解释类型的显著有用性:IFA(中位数 = 3.5,p = 0.001)、HLC(中位数 = 4.0,p < 0.005)和GAT(中位数 = 4.0,p < 0.005),支持H1-B。

AI系统置信度影响在所有解释类型间差异显著(见在线资源第3节图9),当数据按人机分期一致性分组时该影响持续存在,但样本量限制值得考虑。如图3所示,汇总热图展示了参与者在解释后分期置信度的变化,按初始AI推荐一致性水平分组。IFA和GAT解释仅在人机不一致情况下影响置信水平,而HLC解释使一名参与者在人机一致情况下提高了置信度。这些发现表明,当初始人机不一致存在时,解释对置信度的影响更大。

图4展示了各解释类型下的分期决策/修改路径(修改机会由图2中的红色箭头表示)。虽然IFA和HLC部分显示了遵循AI建议的均衡分期变化,但所有参与者在GAT评估期间均维持初始分期。解释后仅发生一次分期修改(使用HLC解释),提示AI解释对放射科医生分期决策的影响极小。

六名放射科医生将IFA列为第一偏好(图5)。GAT受两人青睐,且被五人列为第二。HLC是大多数参与者最不偏好的解释方式。

表3 XAI-CDSS采纳度与黑盒AI-CDSS比较的单侧非参数符号检验结果(假设中位Likert评分3) 查看原表 ↗
表4 解释效用评价的单侧非参数符号检验结果(Likert评分与假设中位数1比较—XAI不提供有用信息) 查看原表 ↗

定性分析

从访谈中提取的关键主题(列于在线资源第4节表1)构成了可解释性水平比较的基础,如图6所示。

对AI决策过程缺乏理解常被引为信任障碍。IFA通过清晰性建立了基本信任,但对复杂分期决策而言不够充分。GAT因与临床推理一致而产生最强信任,而HLC常因抽象格式而削弱信任。

AI系统置信度与人机一致性及AI系统局限性检测相互作用。当与放射科医生的观察一致时,IFA提高了置信度;当AI错误暴露时则降低了置信度。当检测到全局决策错误时,HLC降低了置信度,而GAT则通过其临床熟悉感增强了对AI系统的置信度。

在访谈中,解释有用性成为一个突出主题。GAT提供了最大的解释深度,支持透明性但也增加了认知负荷。HLC因抽象可视化和可解释性差而表现不佳。IFA被证明对病灶检测部分有用,但缺乏分期理由的解释深度。

错误检测能力在各解释类型间差异显著。IFA通过病灶验证实现了局部错误检测,但缺乏GAT和HLC所展现的分类逻辑全局评估能力(如在线资源第2节图3所示的过度简化的“距原发肿瘤径向距离”标准)。参与者常将AI逻辑错误误归因于解释质量差,尤其是对HLC,从而降低了AI系统置信度和决策支持价值。

IFA因其直接的影像关联以及与常规病灶检测流程的一致性,被认为具有很高的可用性、协作性和临床相关性,提供了最佳的工作流程整合。然而,由于对分类差异的洞察有限,其临床价值有所折扣。相反,GAT提供了有效的协作和对AI分期逻辑的详细描述,增加了其临床价值。这种细节可能超出了简单病例的需求,引发了可用性和工作流程整合方面的担忧。这些担忧在HLC中同样被观察到,HLC由于可解释性问题通常被认为临床相关性低,因此临床价值有限。HLC显示出用于监管评估的潜力,对于需要应对欧盟AI法案的供应商来说是一个有用的辅助工具[14]。

访谈记录分析揭示了偏好驱动因素:简单性总体上最受青睐,但需与决策支持价值和临床相关性相平衡。尽管一些人认为IFA深度有限,但其易用性使其比其他解释类型更受偏好。GAT因全面性和与临床直觉的一致性获得了四位放射科医生的青睐,而HLC因解读困难最不受偏好。图6阐明了在解释质量(特别是深度)与可用性之间出现的一个关键权衡,该权衡取决于临床相关性。放射学和AI经验水平与偏好无相关性,提示存在其他决定因素。

讨论

本研究考察了多种深度递增的XAI方法——IFA、HLC和GAT,应用于PET-CT扫描的TNM分期。对测试模拟XAI-CDSS工具的放射科医生进行的访谈为解释偏好和采用可能性提供了见解。

与黑盒系统相比,放射科医生对所有可解释性水平均表现出显著更高的采用可能性。信任和系统信心是关键驱动因素,支持了Bergquist等人的研究结果,他们强调透明度和可验证性是关键的信任相关主题[29]。虽然Panigutti等人在不同的临床环境中报告了有限的信任影响,但他们仍观察到对解释的偏好——这与本研究的发现一致[40]。

临床推理一致性被证明对建立信任至关重要。HLC解释的低感知质量阻碍了对一致性的评估。可用性问题限制了HLC和GAT等更深层解释的整合。许多参与者认为解读HLC和GAT所需的努力超过了其决策支持价值。IFA虽然信息量较少,但因其易于整合而受到称赞。

本研究的次要发现是解释深度与可用性之间出现的偏好权衡,决策支持价值与解释深度相关,但与临床整合便利性呈负相关,如图6所示。参与者主张可配置的解释深度,使其能够根据病例复杂度进行调整——这对AI开发者来说是一个值得注意的发现。具体而言,感知复杂度更高的病例,由于更可能产生多样化的临床解读,需要更深层的解释。Nauta等人进一步支持可配置性,强调根据利益相关者不同的专业水平和视角来定制解释的重要性[21]。鉴于研究结果可能无法推广到不同的应用和利益相关者群体,这一建议具有特别的分量[24]。

所有解释类型均被证明有助于评估AI输出,尤其是在人机意见不一致时——鉴于已观察到的用户过度依赖XAI系统的倾向,这是一个重要的研究领域[30]。在此类情况下,更深层的解释有助于错误检测和决策仲裁。IFA解释能够发现病变检测错误,而GAT解释有助于识别细微的分类错误。错误检测能力对于AI无缝整合到临床工作流程中尤为相关,有助于更好地理解如何以及何时在AI与人类专业知识之间进行取舍/仲裁,正如欧盟《人工智能法案》中的人类监督要求所体现的[14]。此类能力还可缓解性能预期方面的顾虑,而这些顾虑是采纳的重要障碍[48, 49]。

当有效揭示AI决策缺陷的解释反而经常收到负面反馈时,便产生了困惑。这可能部分解释了HLC受到负面评价的原因——尽管HLC能有效揭示学习到的概念与临床指南之间的不一致,却被批评为缺乏临床相关性。

虽然小样本量限制了普适性,但置信度热图(图3)表明在意见不一致时置信度变化更大,值得对协作决策进行进一步研究。尽管分歧频繁出现,解释很少改变分期决策——这可能归因于AI交互时间不足以建立信任,或TNM分期的演绎性特征,即仅凭分期建议往往就能揭示潜在的病变检测模式。

IFA是最受偏好的可解释性层级,GAT紧随其后。对IFA的偏好似乎由可用性和临床整合驱动,而GAT的支持者则看重解释深度和决策支持——进一步证明了解释深度与可用性之间的权衡。HLC排名最低,可能由于其不熟悉的呈现格式,尽管有一位参与者青睐其深度与可用性的均衡比例。

本研究局限性主要在于样本量受限和参与者交互时间有限,每位放射科医生在每个可解释性水平上仅评估一个病例。需要指出的是,研究结果专门针对使用PET/CT数据进行肺癌分期的任务。未来需要在不同癌症类型和成像模态中开展进一步研究,以更好地理解这些发现在不同应用中的可推广性。有限的交互时间可能妨碍了参与者对黑箱系统建立信任。鉴于解释深度与可用性之间的权衡因病例复杂程度而异,未来研究应评估跨可解释性水平的多个病例。虽然测试环境旨在模拟真实世界条件,同时允许屏幕录制和访谈互动,但它仍然是一个略显人为的设置,这也构成了研究的一项局限性。滚雪球抽样尽管在此类研究中被广泛接受和采用,但也必须认识到其可能带来选择偏倚[50]。此外,虽然在可解释性水平之间控制解释格式在方法学上是合理的,但为HLC解释所选的视觉格式被证明存在问题,提示替代呈现格式可能产生不同结果。HLC替代格式的一个例子是基于示例的解释,特别是反事实解释,在Naiseh等[30]的研究中被认为是最易理解的解释类型。

未来采用更大规模队列的研究应验证本研究的发现,并进一步探讨在不同利益相关者群体中已识别的解释深度与可用性之间的权衡。在本研究理论框架和放射科医生反馈的基础上,后续研究应评估符合既定利益相关者偏好的真实世界XAI实施。

结论

本研究表明,与基线黑箱模型相比,在肺癌PET-CT分期期间为放射科医生提供可解释AI可显著提高其采用临床决策支持系统的意愿。当诊断系统提供透明解释而非黑箱推荐时,放射科医生接纳人工智能整合的可能性显著增加。这些可解释工具通过使终端用户能够验证算法逻辑、检测潜在错误,并在人机分歧时自信地仲裁决策,提供了重要的临床价值。为优化实际效用并实现无缝工作流程整合,未来的临床决策支持系统应具备可配置的解释深度,以适应个体病例的复杂程度,确保这些工具在常规放射学报告中成为值得信赖且高效的工具。

补充信息

以下是电子补充材料的链接。补充文件1(PDF 665 kb)

引用

  1. Baskerville, Willaime, Prakash, et al. Examining explainable artificial intelligence in TNM staging with PET-CT: a user-centred observation study. Radiol Med. 2026. PMID: 42440231. doi:10.1007/s11547-026-02226-9
  2. 全文:PMC13658394(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC13658394/

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。