供应商视角下的医学影像与肿瘤学人工智能实施:一项横断面调查
该研究通过在线调查收集了83份来自全球AI供应商的有效回复,探讨其在医学影像与肿瘤学中实施AI的促进因素与挑战。受访者认为从业者接受度、商业案例和可解释性是主要促进因素,而新法规、从业者接受度和商业案例是主要挑战。供应商呼吁合理报销、稳健IT支持、临床接受度、严格监管和充分用户培训。
要点
- 供应商认为从业者接受度、商业案例和可解释性是AI实施的主要促进因素。
- 新法规、从业者接受度和商业案例被列为AI实施的主要挑战。
- 64.1%受访者将数字基础设施问题视为满足客户期望的关键障碍。
核心结论
- 研究强调人员、基础设施和资金是AI实施的基础。
- AI供应商希望与监管者、患者、临床从业者及其他关键利益相关者紧密合作,确保AI平稳过渡到日常实践。
研究设计与样本
- 观察性横断面研究,遵循CHERRIES和STROBE指南。
- 通过Qualtrics平台创建包含23个封闭式和5个开放式问题的在线调查。
- 调查于2024年7月11日至2024年9月10日开放两个月,通过社交媒体、个性化邮件及EuSoMII和Health AI Register渠道发放。
- 共收到137份回复,其中83份为有效回复;有效回复定义为至少有一个超出人口学问题的回答。
- 定量数据使用SPSS 28.0进行描述性统计,定性数据使用NVivo 14进行内容分析。
诊断标准与关键数值
- Cronbach's alpha系数为0.797,在Cronbach量表内属于可接受的信度。
- 52.9%的受访者确认与最终用户共同生产是關鍵实践(42/71确认,9/71否认,18/71不确定,2/71表示曾涉及但非平等伙伴)。
- 64.1%(41/64)受访者将数字基础设施问题列为满足客户期望的关键问题。
- 54.7%(35/64)受访者将临床环境缺乏参与列为关键问题。
- 42.2%(27/64)受访者将缺乏财务资源列为关键问题。
临床应用与阅片要点
- 原文未据此给出针对放射科/超声科医生的具体阅片或报告推荐。
局限性
- 样本可能不能代表整个AI供应商领域,保密条款、当地治理和公司政策可能限制了样本量。
- 调查的匿名性质可能妨碍准确识别参与的独立供应商数量或每家供应商/公司的受访者数量。
- 受访者地理分布广泛,但可能更集中于欧洲和北美,可能限制研究结果对其他地区(如亚洲或非洲)的普适性。
- 通过合作研究人员网络的便利抽样方法可能引入自选择偏倚。
- 由于各亚组回复数量少,未能进行推断性统计。
全文中译14 节 · 点击展开
引言
医学影像和肿瘤学中的人工智能(AI)正处于一个关键节点。欧盟(EU)[1]、英国(UK)[2]及全球[3]近期的监管进展正在重塑治理方式,并因此改变实践。虽然这些变化旨在确保负责任的创新和患者安全,但由于立法的复杂性和AI领域的不均一性,人们对实施可能面临的障碍提出了担忧。
首先,有必要界定AI实施;该术语指的是将AI赋能技术整合到组织的流程和决策中[4],有观点认为AI实施是一个多因素且复杂的过程,由社会和技术两方面组成[5]。AI实施常与其他具有相似但不同定义的术语互换使用,如部署、整合、采用及其他术语。
一些人认为,增加的监管可能通过对健康技术供应商施加额外要求而抑制创新[6];相反,另一些人指出,设计良好的监管可以通过为安全临床实践提供清晰的路线图来加速AI的安全有效实施[7]。虽然这些框架和治理结构旨在确保患者安全并支持临床医生有效使用AI,但关于它们如何影响市场准入路径和部署实践,以及AI供应商如何看待和体验这些监管,研究仍然有限。这些AI供应商,从大型制造商到中小型企业,是医疗保健行业创新的关键驱动力,它们为新产品的开发贡献了大量“专门知识”和财务投资,因此,理解它们的观点对于促进合作、推动最有前景的工具从“代码到临床”转化以最终惠及患者护理至关重要。
本研究的目的是了解在医学影像和肿瘤学AI实施领域工作的供应商的观点。通过为供应商提供一个表达其对所面临的促进因素和感知挑战的看法以及改进建议的平台,我们希望为围绕AI负责任整合和采用的持续对话做出贡献,并在这一不断演变的环境中促成协作努力,以实现积极变革和患者获益。
材料与方法
伦理
伦理批准由伦敦城市大学圣乔治研究伦理委员会提供(编号:ETH2324-2242)。参与调查为自愿性质,不提供激励。受访者通过在线调查被要求提供知情同意,同意其回答用于源自本研究的科研成果。收集的回答为匿名(包括IP地址),因此无法撤回。
研究设计
这是一项观察性横断面研究。使用了互联网电子调查报告结果清单(CHERRIES)[8]和加强流行病学观察性研究报告(STROBE)指南[9]。
调查设计
该调查最初通过与行业代表的初步讨论制定,以确保其基于目标人群的当前观点、需求和关切。随后,经过多学科研究团队的连续会议和讨论进行完善,团队成员此前曾在欧洲不同国家的医学影像或肿瘤学研究项目中与不同的人工智能供应商合作,确保了专业知识的多样性。该调查最终基于循证实践[10–14]得到丰富,所有调查条目均根据最佳实践和主题创建,以确保与最新证据保持一致。在广泛传播之前,该调查最初由五位具有不同背景(放射科医生、放射技师、生物医学工程师、放射科管理人员)和不同工作经验年限(3–25年)的医学影像和肿瘤学研究人员进行试点,以确保内容和表面效度,并允许对内容和格式进行必要调整。计算Cronbach's alpha作为调查一致性的替代测量指标[15]。
最终用于传播的调查包含28个问题,包括23个封闭式问题和5个开放式问题,以允许分享更深入的观点。完整调查见补充材料1。
纳入标准
参与者如符合以下标准则被邀请完成调查:年龄超过18岁。
在开发或销售经美国食品药品监督管理局(FDA)/欧盟 conformity 认证(CE)/英国 conformity 评估认证的人工智能工具用于医学影像和肿瘤学的公司工作。
邀请具有不同工作角色、资历、职称或办公室、部署或运营地点不同的参与者参加(这是一项国际研究)。
调查分发
在线调查使用Qualtrics平台(Qualtrics)创建。调查通过社交媒体(LinkedIn)传播,利用研究人员网络的集体覆盖范围(合计超过40,000名关注者)以及通过个性化电子邮件发送给人工智能行业供应商内的专业联系人。欧洲医学影像信息学会(EuSoMII)[16]和Health AI Register [17]也通过其社交媒体渠道推广了该调查。Health AI Register还通过直接电子邮件向其网站上列出的公司代表分享了调查链接。
调查开放两个月(2024年7月11日至2024年9月10日)以最大化参与。每3周向潜在受访者发送提醒邮件以鼓励参与。
数据分析
分析前,调查回复中所有无效条目均被清除。有效条目定义为除人口统计学问题外至少有一个回答的条目。
定量数据使用社会科学统计软件包(SPSS)28.0版(IBM Corp)进行描述性统计分析。定性数据使用内容分析[18]进行评估,其中自由文本回答在NVivo 14版(QSR International Pty LTD)上编码,并组织为类别和主题,附以相关频率趋势。
结果
本研究的Cronbach's alpha系数为0.797,在Cronbach量表中可被定性为可接受的信度[19]。
受访者特征
在最初收到的137份回复中,根据上述标准,仅有83份回复有效。需要注意的是,由于调查流失,并非所有问题收到的回复数量相同。因此,下文呈现的任何频率均对应每个独立问题实际收到的回复数。受访者的主要人口学数据见表1。
近半数受访者(n = 38/83;45.8%)报告处于高级职业水平,超过三分之一(n = 34/83;41%)为 mid-career 专业人士,12%(n = 10/83)处于职业生涯初期。样本在既往人工智能教育/培训方面总体分布均衡,52.5%(n = 42/80)报告曾接受过人工智能培训,而47.5%(n = 38/80)未接受过。在曾接受过人工智能教育/培训者中,多数(n = 21/38;55.3%)报告曾接受正规教育,如机器学习研究生课程,其次为公司提供的培训(n = 8/38;21.1%)、在职培训(n = 4/38;10.5%)、自学阅读(n = 4/38;10.5%)或会议(n = 1/38;2.6%)。
多数受访者(n = 65/76;85.6%)表示其所在公司为员工提供人工智能培训,相比之下未提供者为(n = 9/76;11.8%)。微型企业受访者报告员工获得人工智能培训的机会较少(n = 2),相比之下较大竞争企业受访者为(大型企业 n = 23,中型企业 n = 26)。图1显示,本研究受访者所在公司主要在欧洲和北美运营,但样本包含了来自世界各地的参与者。
负责任的人工智能开发与部署
图2根据受访者(n = 79)总结了公司开发的不同人工智能工具。值得注意的是,一些公司的产品超出上述主题领域,一些公司生产不止一种此类产品。多数受访者(n = 42/71;59.2%)确认其公司与终端用户共同生产/共同创造人工智能工具,相比之下表示未采用者为(n = 9/71;12.7%),不确定者为(n = 18/71;25.3%)。另有2.8%(n = 2/71)说明其过去会让终端用户参与,但并非始终作为平等伙伴。30名受访者表示其公司让医疗专业人员或临床合作者参与共同生产。此外,一些受访者将共同生产作为用户测试和评估流程的一部分。描述性统计显示,大型企业受访者报告采用共同生产方式的频率高于微型企业受访者(大型企业 n = 13,相比之下微型企业 n = 2)。
受访者(n = 69)所在公司最看重的负责任人工智能前3项特质是(a)数据隐私/保密性(n = 46/69;66.6%),(b)临床主导的执业范围(n = 29/69;42%),以及(c)数据的公平性/多样性(n = 25/69;36.2%)。上述评分最高的价值观之后是稳健的治理框架(n = 20/69;28.9%)、透明度(n = 18/69;26.1%)、人在回路方法(n = 16/69;23.1%)、可解释性(n = 15/69;21.7%)、团队合作(n = 15/69;21.7%)、可持续性(n = 7/69;10.1%)和团队培训(n = 6/69;8.7%)。人工智能行业员工(n = 71)还描述了其公司为确保人工智能产品可持续性所采取的措施(图3)。
研究参与者就其公司是否在业务实践中使用人工智能赋能工具(例如用于培训、营销、招聘等)进行了回答。近一半参与者(n = 33/74;44.6%)确认了这一做法,其次是不确定者(n = 21/74;28.4%)和回答否定者(n = 19/74;25.7%)。此外,另一名受访者(n = 1/74;1.3%)澄清,人工智能的使用正在演进,以便融入日常工作。在日常实践中使用人工智能赋能工具的受访者中,工作流程自动化和效率是最普遍的应用领域(n = 19/26;73.1%),其次是用于培训目的的人工智能工具(n = 3/26;11.5%),以及用于影像应用(n = 2/26;7.7%)或招标目的(n = 2/26;7.7%)的工具。关于人工智能治理,受访者(n = 69)报告了其公司用于人工智能工具开发和部署的框架或标准(图4)。受访者在开放式问题中与这些主题相关的具体引述也可在补充材料2中找到。
人工智能部署的挑战与促进因素
在人工智能工具成功部署于临床实践方面,受访者(n = 65)报告了不同的促进因素和挑战,如下所示(图5)。受访者认为数字基础设施问题(n = 41/64;64.1%)、临床环境参与不足(n = 35/64;54.7%)和财政资源缺乏(n = 27/64;42.2%)是阻碍其满足客户预期的关键问题,其次是缺乏明确的商业案例(n = 22/64;34.4%)、临床病例的复杂性(n = 18/64;28.1%)、不断变化的法规(n = 18/64;28.1%)、算法性能不足(n = 10/64;15.6%)以及公司内部专业知识缺乏(n = 8/64;12.5%)。
从人工智能工具的生命周期来看,他们报告外部测试(n = 37/62;59.6%)、上市后监测(n = 25/62;40.3%)和人工智能部署(n = 22/62;35.4%)是最难应对的领域,其次是法规合规(n = 20/62;32.2%)、与最终用户共同生产(n = 17/62;27.4%)、可持续性(n = 11/62;17.7%)、人工智能创新(n = 9/62;14.5%)和内部测试(n = 6/62;9.6%)。
图6总结了受访者对于新的人工智能治理规则和法规是否会阻碍其公司创新的看法。许多人对新的人工智能治理对创新的影响持中立态度,并澄清新法规的实际影响即将显现,其潜在后果将在不久的将来发生。
认为人工智能治理会扼杀其公司创新的受访者强调了该法规管理将给其团队增加的额外工作量、相关成本,以及小型公司可能面临的额外挑战,这些挑战往往与大型公司相比不成比例。此外,受访者确认,由于治理可能因地域而异,创新重点可能会转移到监管负担较轻的国家。
受访者被要求就以下陈述自由写下他们的想法:“互操作性可以提高运营效率、降低成本并改善患者结局,但它也可能扼杀创新”。内容分析显示,大多数人(n = 31/50;62%)不同意互操作性会以任何方式扼杀创新。然而,一些人表示中立(n = 10/50;20%)或支持相反论点(n = 9/50;18%)。
关于在医学影像中使用生成式人工智能所带来的机遇或挑战,许多人对幻觉和偏见在患者结局和诊断/预后方面的影响表示担忧(表2)。他们还指出,生成式人工智能应用目前在医学影像中有限,需要严格的审计和认证,并且从监管角度来看存在严峻的验证挑战。然而,他们强调乐观地认为生成式人工智能有潜力改善临床工作流程、缩短新产品的周转时间并帮助缓解劳动力短缺。
受访者被要求就成功和可持续地部署人工智能需要什么提供他们的观点。结果分别见表3和表4。
讨论
本研究强调了影响人工智能在医学影像和肿瘤学中成功开发和部署的几个关键因素,展示了在多学科团队中采用人工智能的复杂性,以及行业、监管机构和临床利益相关者之间战略合作的重要性。
本研究的结果得到了其他研究中报道的类似结局的支持。首先,本研究表明了共同生产的重要性,许多受访者强调需要让从业者和最终用户都参与人工智能产品的开发。共同生产是医疗保健中实现用户友好和以人为本设计的一种有价值的实践[20]。但是,正如我们的数据所示,这主要由较大的公司承担,因为这是一项资源密集型活动。员工培训的提供也是如此。此外,我们的数据显示,较小的公司可能更容易受到新治理要求的影响,这些要求可能会强制实施需要更大预算的举措。
应赋权多学科团队以真实的临床问题为导向,指导人工智能技术的创建和设计[21]。多学科和多机构团队对于指导成功的人工智能采用和建立工具的共有权至关重要[22, 23]。然而,近期研究结果表明,在评估人工智能影响的研究中,行业代表是最代表性不足的利益相关者群体之一,突显了本研究的重要性和及时性[24]。在人工智能实施的所有阶段纳入人工智能供应商的视角并促进合作关系,可能赢得信任并支持更好的工作关系,从而提高从业者的接受度,这是人工智能部署的关键使能因素。这些发现与更广泛的研究一致,表明从业者的接受度对人工智能采用至关重要,缺乏接受度是实施的重大障碍[25, 26]。在负责任的人工智能实施方面,本研究与以往研究[27, 28]一样,证实了可靠性和透明度在培养最终用户信任中的关键作用。
适当的报销的基础性作用以及为人工智能工具建立清晰商业案例的挑战也得到了强调。许多供应商在获取财务资源和证明其产品的长期经济价值方面面临困难,这对广泛和长期采用构成了重大障碍,而真正的效益恰恰体现在长期采用中。先前一项针对人工智能供应商的调查恰好强调了不同地区和系统对资金可得性的需求[29]。同样,临床环境缺乏专项资助是人工智能采用的重要障碍[10, 27]。在创建商业案例时,临床环境中的不同部门通常需要协作并协调其目标,因为采用人工智能工具的真正效益往往不会被采用部门看到,而可能与不同部门的临床或其他结局相关联。因此,需要对人工智能的效益进行整体评估,认识到医疗保健环境中服务的互联性,并让每个组织的高级和执行领导层参与其中。这得到了其他研究的证实,这些研究表明所有人工智能工具都必须有明确的商业案例并遵循严格的评估流程[30]。基于价值的方法确保人工智能工具对护理具有临床相关的影响。可以采用卫生技术评估来评估人工智能工具是否对医疗保健组织有益[31]。
监管要求是人工智能实施方面的一项重大挑战,尤其是由于新近发布的欧盟《人工智能法案》和待定的英国《人工智能法案》[12, 32, 33]。从我们的数据来看,监管合规成为供应商的主要关切,尤其是那些在较小企业工作的供应商,它们在满足不断演变的治理要求方面往往面临不成比例的资源挑战。开发者需要了解人工智能采用相关的复杂性,监管机构应主动制定标准[34],并与临床从业者和行业合作,开展有意义且有重点的治理,以解决基层挑战[35]。
从受访者的角度来看,算法的外部测试和人工智能工具的上市后监测被认为是最具挑战性的领域。这可能与这些流程的复杂性和成本有关,也与需要与临床客户进行信息交流和合作有关,而数据共享和数据隐私限制往往阻碍了这种交流和合作[35]。此外,上市后监测可能复杂且繁琐,因为它可能需要考虑与当地人员配置、设备和机构流程相关的变化[22]。然而,它至关重要,作为一道护栏,确保人工智能模型性能在临床环境变化情况下的稳定性[36]。此外,开发者应了解任何更新的上市后监测监管要求[35],还应了解客户/用户可能提供的实时反馈,这些反馈涉及对其原始人工智能工具进行所需更新和更改的需求,以优化患者护理并使其契合每个临床环境中的最终用户。
本研究的结果还揭示,关键因素(例如从业者接受度、人工智能验证、人工智能应用的商业论证)之间存在显著重叠,据人工智能供应商报告,这些因素在很大程度上既表现为挑战,也表现为成功部署人工智能的使能因素。这凸显了受访者以往在人工智能实施方面经验的异质性,这也可归因于其专业背景、从业年限、部署人工智能的使用场景、临床环境基础设施以及当地文化的差异。既往研究也报告了类似的异质性[13, 37, 38],其中医学影像领域内不同职业对成功实施人工智能报告了不同的优先事项、需求和挑战。近期一项研究还强调了人工智能部署在模型设置、当地基础设施和人为因素方面的局限性[39]。
局限性
尽管收到了来自全球不同公司100多名受访者的回复,但该样本可能无法代表整个人工智能供应商的总体格局。保密条款、地方治理和公司政策可能限制了样本量。这表明,要在最终用户与产业界之间建立信任并形成更强的合作,还有更多工作要做。此外,调查设计为确保鼓励参与而采用的匿名性质,可能妨碍了准确识别参与的独立供应商数量或每家供应商/公司的受访者人数。这一局限性在一开始就已确认;然而,研究决定匿名对于鼓励参与、确保回复真实性以及在不危及客户关系或商业动态的前提下保持诚实至关重要。受访者的地理分布广泛,尽管可能更集中于欧洲和北美,这可能限制研究结果对其他地区(如亚洲或非洲)的普适性。未来研究应致力于在较长时间内招募更大的样本,以帮助识别人工智能部署的挑战和促进因素是否存在差异,尤其是考虑到不断变化的治理格局。通过本研究合作研究人员网络进行便利抽样的方法也可能引入了自选择偏倚,这应被视为一项额外的局限性。最后,尽管我们尽最大努力进行推断统计,但我们想要考察的不同亚组中回复数量较少,无法进行可靠的统计分析。
总之,人员、基础设施和资助模式仍然是人工智能实施的核心,既作为挑战,也作为促进因素。人工智能供应商必须准备好面对新治理和立法带来的新挑战,这将不可避免地对中小企业施加更大压力。采用负责任的做法,例如与最终用户共同设计、确保可持续性和透明度,是从业者和产业界普遍认可的价值,也是强有力临床-产业合作和成功人工智能实施项目的关键决定因素。
补充信息
补充信息
引用
- Stogiannos N, Skelton E, van Leeuwen KG, et al. Vendors' perspectives on AI implementation in medical imaging and oncology: a cross-sectional survey. Eur Radiol. 2025. PMID: 40987933. doi:10.1007/s00330-025-12013-1
- 全文:PMC12963099(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC12963099/
供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。