文献速递技术与安全CTMRDR乳腺X线

人工智能(AI)在放射学中应用的实施:阻碍与促进因素

Implementation of artificial intelligence (AI) applications in radiology: hindering and facilitating factors.
PubMed 文献 · Eur Radiol · 2020-05-26

本研究采用嵌入式多案例研究和定性设计,对荷兰7家医院的24位受访者进行半结构化访谈,基于NASSS框架分析AI应用在临床放射学中实施的促进与阻碍因素。促进因素包括成本控制压力、对AI附加值的高期望、医院创新战略和本地倡导者;阻碍因素包括技术性能不稳定、实施过程缺乏结构、临床附加值不确定以及采纳者接受度和信任度差异大。结论认为需要有结构地实施并提供临床附加值证据。

要点

  • 本地倡导者的存在可促进AI在放射科的实施。
  • AI技术性能不稳定(假阳性和假阴性)是主要阻碍因素。
  • 转诊临床医生对AI输出的信任度差异大,部分会重新手工分析。

临床应用与阅片要点

  • 作者认为成功的AI实施需要放射科医生和转诊临床医生之间的合作。
  • 作者认为本地倡导者的存在可促进AI在放射学中的实施。
  • 作者认为需要AI在放射学中临床附加值的证据以支持成功实施。

局限性

  • 本研究仅关注荷兰放射科中的AI应用,不能推广到其他医疗系统。
  • 各案例中访谈了不同角色和职位的人员,限制了结果对荷兰及其他地区其他医院的普遍性。
  • 由于AI在放射学实践中处于早期实施阶段,受访者的相关经验和知识存在差异,样本可能偏向对AI应用有特殊兴趣和高于平均积极态度的人员。
  • 为进一步提高结果的普遍性,未来研究应调查技术复杂性高于BoneXpert且代表放射科医生更大比例诊断工作的应用。
  • 未来研究需了解国家特定政治和社会背景如何决定实施过程,并可识别AI应用实施的具体技术挑战(如数据集及其相关要求:大小、算法和数据异质性)。
全文中译8 节 · 点击展开
本译文由 AI 依据开放获取原文逐段翻译,供学习参考,可能存在误差,请以原文为准。原文 © 原作者,按 CC BY 许可使用,本译文为翻译改编。出处:Eur Radiol. 2020 May 26;30(10):5525–32. doi: 10.1007/s00330-020-06946-y

引言

人工智能(AI)正日益被视为临床放射学中的一项重要应用[1–5]。机器学习的最新进展已产生能够自动且准确检测和诊断医学图像的算法。巨大的技术进步在放射科医生、医疗保健提供者和政策制定者中 alike 产生了很高的期望。它们有望为医疗保健带来显著的效率和质量提升,例如通过实现更精确的诊断以及自动化目前由放射科医生执行的劳动密集型任务[3, 6]。

AI预计将引起临床工作实践的巨大变化,并要求放射科医生具备 complementary 技能[5, 7, 8]。随着关于这一话题的讨论充斥主要会议和科学出版物,“放射科医生将被AI取代”的叙事已经出现[8, 9]。毫不意外,这种取代叙事在放射学专业内引发了强烈反应[1, 3, 10, 11]。虽然AI应用的技术性能预计将持续提高,但其在临床放射学实践中的实施相当复杂,且迄今为止进展缓慢[6, 12, 13]。早期形式的AI应用,例如最早的计算机辅助诊断(CAD)系统,未能实现广泛采用。文献主要将此归咎于这些早期应用的技术性能较低[5, 14–16],而其他可能阻碍成功实施的因素,例如组织或社会方面,则在很大程度上被忽视[17]。

医院环境中的技术实施涉及大量利益相关者和组织程序,具有强烈的常规和职业身份,以及严格的法律和监管标准[18–20]。考虑到放射学中的AI应用正处于新兴阶段,评估其实施还为时过早[21]。然而,鉴于早期CAD系统未能成功广泛传播,可以推测AI应用将遇到实施障碍。我们研究了放射科成功实施AI应用的促进因素和阻碍因素,不仅包括技术方面,还包括组织和社会方面。

材料与方法

在本研究中,我们使用非采用、放弃、扩大、传播和可持续性(NASSS)框架[20]来识别临床放射学中AI应用实施的成功和失败因素,从而也关注社会-组织方面。NASSS框架旨在从七个领域检测医疗保健中复杂技术实施过程的决定因素:疾病状况、技术、价值主张、采用者系统(患者、非专业照护者、个体技术使用者和其他工作人员)、组织,以及更广泛的制度和 social 背景。该框架通过跟踪这些领域随时间推移的相互作用,采取动态视角。基于该框架,我们创建了关于潜在促进和阻碍因素的命题。

我们采用嵌入式多案例研究方法,对七家荷兰医院进行了调查。附录A概述了我们的受访者及其参与的案例(即医院)。我们选择聚焦荷兰,原因是该国医疗行业面临巨大的成本节约压力,而放射学中的人工智能预计将对此作出显著贡献[22–24]。荷兰各放射科在内部可用人工智能应用的数量和类型上差异很大。这些应用范围从CT扫描中肺结节的检测与量化、乳腺X线摄影计算机辅助诊断(CAD)系统,到卒中检测和自动骨龄评估。我们聚焦于使用BoneXpert的科室,该软件是一款纯软件医疗器械,自2009年起由Visiana商业分销。它基于儿科患者手部X线片进行自动骨成熟度评估。BoneXpert是放射学中最早的人工智能商业应用之一[25],并且似乎是荷兰多家医院中唯一进入临床使用的人工智能应用。1

采用最大变异逻辑,选取了在参与医院中担任不同职位的受访者(见表1和附录A)。受访者的联系依据是其对BoneXpert的具体经验,或更广泛地对放射学人工智能应用实施的经验,这些经验由公开可获取的信息或内部推荐表明。每家医院的受访者人数从一名到四名参与者不等。此外,还进行了四次关键知情人访谈,以调查案例的外部背景,如社会经济和监管影响。

2019年2月至6月,由单一研究者进行了24次半结构化访谈,并辅以基于各案例内部文件和公开可获取文件的文档分析。访谈持续进行直至达到主题饱和,即在额外访谈中不再出现新主题。二十一次访谈为面对面进行;三次通过电话进行。访谈尽可能以英语进行,时长在20至80分钟之间。所有受访者均给予口头录音许可。访谈随后被转录并在NVivo中编码。访谈中识别出的概念与原始NASSS框架进行了比较,该框架随后得到完善。

表1 案例和受访者概述 查看原表 ↗

结果

我们首先呈现促进因素,然后呈现放射学中人工智能实施的阻碍因素。

已识别的放射学中人工智能实施的促进因素

表2概述了提及促进因素的受访者人数和身份。

首先,医疗预算压力促使荷兰医院和放射科开发和实施有望带来效率和/或质量提升的创新技术。荷兰医疗系统面临需求的持续增长,同时伴随限制相关成本的强烈压力[27]。这一背景为人工智能应用创造了有利的政治环境。

其次,尽管几乎没有实证证据,但放射科医生、医院管理层成员和技术开发人员预期人工智能应用在临床实践中具有很大的附加价值。受访者提到了两个主要益处:(1)由于更精确和客观的诊断、避免错误以及繁琐任务的自动化而改善诊断实践;(2)运营效益,如减轻工作量、节省时间、提高放射科医生之间报告的一致性以及提升服务可用性。

第三,为了使人工智能应用被放射科医生视为用户友好,它们需要能够轻松集成到放射科医生使用的现有IT系统中,如图片归档和通信系统(PACSs)。这意味着人工智能应用的输出应以尽可能少的点击次数显示。此外,人工智能应用的实施不应需要对常规和工作流程实践做出大的改变,即避免为报告人工智能应用的结果增加额外步骤。例如,受访用户认为BoneXpert集成到PACS中的过程非常顺畅,这是其被认为用户友好的主要原因。然而,对于其他人工智能应用集成到PACS中仍存在担忧。

第四,对放射学中人工智能应用的开放态度体现在采用全院性或放射科专属的创新战略上。在七个案例中的四个,存在包含人工智能的全院性创新战略,反映了医院管理层中的创新领导力。这种领导力也体现在是否设有指定的创新管理者(七个案例中有三个设有)。在放射科层面,只有一个医院制定了关于人工智能的正式创新战略。然而,在本研究进行时,另有四家医院正在制定此类战略方针。

第五,受访者和文档分析[28, 29]表明,本地倡导者在发起和推动其科室内的实施以及在整个过程中发挥引领作用方面至关重要。这些本地倡导者是对人工智能应用表现出特别强烈兴趣的放射科医生,通常对人工智能应用的技术方面有高于平均水平的理解。为了克服潜在持怀疑态度的同事的反对,本地倡导者似乎遵循两种策略:(1)通过科学文章、书籍和演示文稿提供关于人工智能或特定人工智能应用的一般信息;(2)推广试用应用的机会,例如通过组织展示或安装应用的测试版本。这两种策略都旨在建立信任,并帮助其他放射科医生(直接采用者)和转诊临床医生(间接采用者)熟悉和信服人工智能应用。

最后,荷兰放射学会(NVvR)作为其成员之间的知识交流平台,促进人工智能应用的实施。NVvR自2017年起将人工智能纳入其战略研究议程[28],并设有“技术委员会”,即一个研究小组,通过组织定期开放会议、就人工智能战略的制定为医院提供咨询以及推动将人工智能纳入未来放射科医生的课程等方式,提高荷兰放射科医生的意识。

表2 AI实施促进因素概览 查看原表 ↗

已识别的放射学中AI实施的阻碍因素

表3概述了提及阻碍因素的受访者数量和身份。首先,用户认为大多数AI应用的技术性能不稳定。从技术上讲,这指的是算法的性能,即敏感性(假阳性数量)和特异性(假阴性数量)。从临床角度而言,大量假阳性会给放射科医生带来额外的工作负担,这正是早期失败的CAD应用的情况。大量假阴性则更为危险,因为这意味着潜在的病灶可能被遗漏。在对AI缺乏技术理解的背景下,一些放射科医生对应用的质量和安全性存有疑虑,因而未能采用或放弃使用AI应用。访谈显示,AI算法开发所需的计算机科学和编程知识并非当今放射科医生所具备的能力。然而,一定的技术理解对于质量和安全性评估至关重要,因此有助于建立对AI应用可靠性的信任[8, 21, 30]。

其次,AI实施的规划和监测往往缺乏结构性。从组织角度来看,使用AI应用可能实现的临床获益或组织目标未能在实施前明确确立,因此实施后难以评估。从工作流程角度来看,实施计划未明确说明AI应用应如何整合到临床工作流程中,导致不同科室在使用该应用的方式上存在显著差异。此外,在所有案例中,目前用于监测现有实践或新技术实施对医院层面影响的工作均较为有限。实施过程缺乏结构性的原因可以归结为缺乏官方指南或最佳实践。

第三,缺乏关于AI应用对放射学工作流程影响的实证证据,以及其对临床放射学实践附加价值的证据。原因之一在于,在微观层面衡量AI的临床和组织效益较为困难。例如,目前没有衡量诊断质量提升的标准方法。当技术性能方面的证据可得时(如BoneXpert),受访者指出,关于算法验证的发表文献基于实验室环境而非临床环境。

第四,AI应用的资金投入存在不确定性,因为缺乏支持采用和资助决策所需的AI应用附加价值证据。此外,使用AI的收益和成本可能在不同科室之间分配不均,这使得资助决策更加复杂。如果其他科室需要承担部分额外成本,他们需要了解该技术以及使用AI应用的潜在收益。这需要科室之间的有效沟通,而这在若干研究案例中是一个不足之处。

第五,直接采纳者(放射科医生)和间接采纳者(转诊临床医生)对人工智能应用的接受度和信任度差异很大。放射科医生对人工智能应用的看法从完全热情到好奇、怀疑和恐惧不等[31]。放射科医生之间的这些意见差异在BoneXpert上也可见到。有趣的是,没有一位受访者表达对被人工智能取代的恐惧。相反,受访者提到需要因人工智能应用的出现而重新界定其职业身份和职责。例如,他们设想未来的放射科医生是“影像顾问”,在跨学科以患者为中心的医院环境中发挥积极作用[28]。这一重新界定过程中的一个重要元素是围绕人工智能创造“正确的”叙事。为克服放射科医生的抵触,开发者和医院管理层将人工智能应用框定为“副驾驶”,使放射科医生能够在保持控制的同时表现更好。

获得转诊临床医生的接受很重要,因为他们是人工智能应用输出的潜在最终“客户”。有趣的是,在三家医院中,我们发现转诊临床医生不信任人工智能应用的输出,并对每次扫描重新进行手工骨龄分析。因此,与放射科医生一样,转诊临床医生对人工智能应用表现出不同程度的接受度。

最后,缺乏来自《欧洲通用数据保护条例》和将于2020年5月生效的新《医疗器械条例》(MDR)的判例法,导致放射学中人工智能应用面临若干监管和法律不确定性[32, 33]。目前,CE标志的授予不要求证明性能和临床实践的附加效益。新MDR要求通过公告机构进行CE认证,并需要大幅增加对质量、安全和上市后监督的要求。此外,我们的受访者对因人工智能生成的诊断导致的假阴性和假阳性等损害的法律责任这一未解决问题表示担忧[34]。

基于实证发现,NASSS框架针对放射学中人工智能应用的实施案例进行了调整和细化。原始NASSS模型形成放射学人工智能NASSS的主要调整涉及“采纳者系统”(图1)。它通过本地倡导者、作为技术直接采纳者的放射科医生以及作为间接采纳者的转诊临床医生加以阐述。

表3 人工智能实施障碍因素概览 查看原表 ↗
图1 NASSS框架[20],针对荷兰临床放射学中的人工智能应用加以具体化 查看原图 ↗

讨论

本研究为基于人工智能(AI)的医疗技术在实施过程中所面临挑战的现有实证证据提供了补充。我们发现,缺乏接受度是导致不采用、弃用进而成为放射学中AI应用成功实施障碍的最重要原因之一。本研究中发现的放射科医生对AI应用接受度的决定因素与针对放射科医生[2, 35]和放射学住院医师[31]的调查证据以及早期关于临床医生对计算机化决策支持系统(CDSS)接受度决定因素的证据一致:知识不足[5, 6, 36]、信任[36, 37]、临床医生职业身份的改变以及职业自主性[36, 38]。我们发现本地倡导者在克服技术使用者缺乏接受度方面发挥着关键作用。拥有本地倡导者的重要性此前已出现在关于远程医疗系统采用[39]以及CDSS实施[36]的研究中。值得注意的是,最近一项关于美国放射科CDSS实施的研究同样将本地倡导者确定为实施的重要促进因素[40]。两项研究均提及本地倡导者在启动和推进CDSS实施过程中的促进作用。

我们发现的另一项实施挑战,即证据在创新实施中的作用,已在循证医疗领域得到广泛讨论[41]。科学证据是从业者创新实施的重要决定因素,这一发现同样适用于放射学中的AI[8, 21, 41, 42]。因此可以推论,放射学AI应用反映了医学影像领域的一种趋势,即采用那些尚未证明其有助于改善医疗质量或效率的承诺的技术[43]。

放射学中的AI应用被预测不仅能够支持而且有可能自动化某些医疗决策过程,从而对高学历个体的工作岗位提出质疑。这种因自动化而导致的工作替代因素增加了健康数字化领域采用和实施过程的复杂性。尽管AI取代放射科医生并由此威胁其职业身份的可能性在许多近期放射学出版物中被广泛提及[5, 9, 16, 44],但本研究中没有一位受访者认同这一威胁。这与近期在放射科医生中开展的民意调查一致[2, 31, 35]。在整个医疗领域,放射科医生已经拥有最数字化的工作环境[44],并且他们自我认同为在日常实践中使用数字化支持工具的自然先行者。为了在医院内AI应用的实施中发挥引领作用,放射科医生需要通过补充培训获得AI素养[5–7]。

由于其探索性本质和定性实证方法,本研究的若干局限性需要考虑。本研究仅关注荷兰放射科的人工智能应用,无法推广至其他医疗系统。在各案例中,访谈了不同角色和职位的个人,这限制了结果对荷兰及其他地区其他医院的可推广性。由于人工智能在放射实践中的实施尚处于早期阶段,受访者的相关经验和知识存在差异。因此,受访者样本可能存在偏倚,偏向于对人工智能应用具有特定兴趣且态度高于平均积极水平的个人。

为实现结果更好的可推广性,进一步研究应调查比BoneXpert技术复杂性更高、且占放射科医生诊断工作更大比例的应用。此外,理解国别政治和社会背景如何决定实施过程非常重要。未来研究可以识别人工智能应用实施中的具体技术挑战,例如数据集及相关要求(其规模、算法和数据异质性)。此外,未来研究应关注人工智能应用的实施对放射科医生知识发展的影响。

结论

考虑到人工智能应用在放射学及病理学等其他医学学科中受到的极大关注,理解人工智能实施的障碍和促进因素十分重要。重要的促进因素之一是“本地倡导者”的存在,即对人工智能应用具有强烈个人兴趣、最常发起并积极推动组织内人工智能实施的个人。最突出的阻碍因素之一是对临床实践的附加价值不确定,这导致采用者对人工智能应用的接受度较低,并使获取人工智能应用的资金调动复杂化。此外,未能将所有相关利益相关者纳入人工智能应用实施的规划、执行和监测阶段,被发现是一个主要阻碍因素。为提高采用者的接受度,需要更多证据证明其人工智能应用在临床环境中的附加益处。同时,所有相关利益相关者(最值得注意的是放射科医生和转诊临床医生)应被纳入人工智能应用实施过程的决策和设计中。

电子补充材料

(DOCX 24 kb)

引用

  1. Strohm L, Hehakaya C, Ranschaert ER, et al. Implementation of artificial intelligence (AI) applications in radiology: hindering and facilitating factors. Eur Radiol. 2020. PMID: 32458173. doi:10.1007/s00330-020-06946-y
  2. 全文:PMC7476917(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC7476917/

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。