影像学中的人工智能:监管格局
本文综述了影像人工智能(AI)的应用分类与监管演变,指出FDA截至2023年7月底已批准692款AI医疗器械、其中逾75%用于放射学;监管机构要求AI器械更严格地识别和缓解偏倚等风险,并在真实临床环境中验证其输出的临床意义。
要点
- FDA截至2023年7月底共批准692款AI医疗器械,其中逾75%为放射学应用。
- 监管机构要求AI器械开发者识别并缓解偏倚等风险,并在真实临床环境中验证输出具有临床意义。
- 独立数据集验证的研究较交叉验证报告更低准确率,尤其在使用社区人群时。
核心结论
- 监管格局演变意味着AI影像器械上市耗时更长,但额外严谨性对解决领域现有弱点是必要的,可确保患者和医护人员信任AI器械。
- 学术界考虑该监管框架亦有益处,可提高文献质量并便于学术开发的AI工具转化为影响医疗的医疗器械。
研究设计与样本
- 本文为综述,梳理AI在医学影像中的应用分类、监管文件与标准以及已上市AI影像器械情况。
- 数据来源包括FDA于2023年10月19日发布的AI医疗器械授权统计及FDA 510(k)与513(f) de novo数据库。
诊断标准与关键数值
- FDA统计截至2023年7月底共有692款AI医疗器械获上市授权,其中逾75%为放射学应用,心脏病学应用如心电图心律失常检测占10%位居第二。
- 放射学AI器械中三分之二在2020年8月至2023年7月的三年间获得上市授权。
- Borchert等的系统综述报告,使用独立数据集验证的研究较交叉验证报告更低准确率,尤其在使用社区人群时。
- IMDRF的SaMD临床评价指南引入器械输出与目标临床状况之间的「临床关联」概念及二维风险分类框架。
临床应用与阅片要点
- FDA承认AAMI CR34971:2022为共识标准,用于将ISO14971风险管理标准应用于含AI和机器学习的医疗器械。
- FDA的「预定变更控制计划」允许制造商在510k或de novo提交时可选附交描述无需FDA重新审查即可进行变更的文件,包括风险缓解方式。
局限性
- Wynants等对COVID-19期间AI文献的综述报告多数报告质量差且偏倚风险高,临床价值可能非常有限。
- 对AI影像文献的系统综述常因方法学原因排除绝大多数论文,提示该领域仅小部分工作接近临床适用。
- 在研阶段AI工具达到的性能在进入临床使用时很可能无法复现。
- MHRA的「airlock process」提案尚未实施,且需与其他国际监管途径衔接才有较大价值。
全文中译9 节 · 点击展开
引言
机器学习与人工智能(AI)方法应用于医学影像领域已有数十年历史,20世纪90年代即已有相关出版物和专题会议。1–3 然而近年来,该领域的活动急剧加速,无论是学术研究还是商业产品的推出。AI在大众媒体中的关注度日益升高,最近几款备受瞩目的生成式AI工具的发布更是如此。公众越来越意识到AI和机器学习对其生活的潜在影响,以及AI的益处与风险,而在AI影响其健康的情况下,这一点可能尤为突出。
由于AI影像工具应用于患者的诊断和管理,它们属于医疗器械的定义范畴,因此医疗器械监管机构是此类AI工具进入市场的关键把关者。医学影像中的AI应用目前正以相当大的数量进入医疗健康市场。美国食品药品监督管理局(FDA)目前拥有最全面的医疗器械数据库,定期发布已获得上市许可(如510k clearance、de novo)的AI医疗器械数量。Muehlematter等人发表了一篇对2019年至2021年间获批器械的综述。4
FDA最新一期的出版物于2023年10月19日发布,5 报告称截至2023年7月底,共有692款AI医疗器械获得上市许可,其中超过75%用于放射学应用。
监管机构需要在促进这一重要领域的创新与确保投放市场的AI工具对患者具有正向获益:风险比之间取得平衡。本文探讨AI在医学影像中的应用、AI医疗器械不断演变的监管格局,以及这对AI医学影像应用的开发者和使用者乃至更广泛的医学影像界的影响。
AI在医学影像中的最新进展
鉴于本文聚焦于AI在医学影像中的监管格局,从FDA最近发布的医疗器械监管机构定义6开始是恰当的。我们将在本文其余部分沿用这一定义,并以“人工智能”(AI)作为该定义的简称。人工智能(AI)与机器学习(ML)可被描述为计算机科学、统计学和工程学的一个分支,它使用算法或模型来执行任务并表现出学习、决策和预测等行为。ML被认为是AI的一个子集,它允许通过分析数据训练算法来开发模型,而无需对模型进行显式编程。
Barragan-Montero等人在一篇详尽的技术综述中7 强调,AI在医学影像中最近的创新集中在AI的机器学习子集。在机器学习中,算法从数据中学习,无需以一套规则对其进行显式编程。本文所讨论的算法类型是基于机器学习的算法,有别于基于规则的方法。
一般来说,用于训练人工智能模型的医学图像已经被预先标注。这种标注通常由专家完成,他们手工勾画图像特征。例如,用于在心脏超声扫描中寻找左心室边界的算法,可能使用放射科医生或超声技师在工作站上使用绘图工具仔细勾画过的图像进行训练。然而,标注也可以基于图像中不存在的数据来完成;例如,可以通过纵向结局数据进行训练,使算法能够区分疾病快速进展或缓慢进展的患者。
一种特定类型的机器学习,称为深度学习,近来在医学影像应用中变得极其普遍。深度学习用于描述这样一类方法:更复杂的人工智能模型(通常是多层神经网络)被训练用于对输入数据进行分类。已证明它们比更传统的数据驱动机器学习方法具有更好的性能。Barragan-Montero等人的综述对各种深度学习方法提供了有用的总结,并强调卷积神经网络目前被视为许多医学影像应用中的最先进技术。
近来,生成式人工智能因其在自然语言处理中的应用以及基于大语言模型的OpenAI ChatGPT等生成式人工智能应用的推出而受到广泛关注。此类应用可以生成可能与人类生成内容无法区分的内容,并已被证明能够通过三年级医学生考试。8
Gong等人9综述了生成式人工智能在医学影像中的应用,以及其用于创建基于现有医学图像数据训练的模型,以生成与真实世界图像具有相似底层属性的新图像。虽然伪造的医学图像可能为医学研究中的欺诈提供机会,但目前尚不清楚这些与患者管理有何相关性。然而,Gong等人指出,它们确实提供了一种方法,可以从较少的手工标注图像中生成大量训练图像,用于训练传统深度学习算法。因此,生成式人工智能可被视为解决获取足够标注图像以训练医学应用人工智能算法这一挑战的方案。我们将在本综述后文回到这一主题,因为它凸显了获取真正具有代表性的图像用于训练和测试的挑战。
无论底层算法方法如何,文献中提出了人工智能在医学影像中的多种应用。这些多样化的应用可以通过根据其生成的输出以及该输出随后在临床环境中的使用方式,将人工智能应用分为以下五类来说明:
自动勾画图像中已知存在的感兴趣结构。该结构可能是MRI中的一个或多个心腔、10腹部CT中的肝脏、11容积MRI中的海马体。12
检测医学图像中的异常,例如,检测乳腺X线摄影中的病变,13或MRI中的胶质瘤。14与第一类不同,这种方法涉及检测图像中是否存在异常,而不是测量已知存在的结构。
图像增强,例如提高重建图像的分辨率,如深度学习超分辨率,例如在保持图像诊断质量的同时缩短检查时间。15
识别一种疾病特异性特征,该特征从多种图像特征中学习获得,可用于某种疾病的诊断,例如从MRI中识别阿尔茨海默病(AD)的影像学特征。16 与第1类和第2类不同,这种AI应用超越了放射科医生在工作站上可完成的自动化任务。这些方法可能使用图像以外的信息来源来生成其输出。
基于医学图像预测结局,例如预测缺血性卒中17、颅内动脉瘤破裂、COVID-19 18或肿瘤学19中的结局。这些方法也可能使用图像以外的信息来源来生成其输出。
这五类影像AI可按对医疗保健产生积极影响的潜力递增的顺序来看待:前两类涉及将目前可能由放射科医生执行的任务自动化。第三类使用AI为放射科医生提供原本无法获得的更高质量图像。然而,第四类和第五类更具颠覆性,因为它们提供的信息无法从传统放射学阅片中获取,此类方法可能用于优化临床工作流程,AI对图像的审查被用于直接影响患者管理决策,而无需放射科医生的参与。
在所有这些类别中,可能存在仅训练一次、验证后即使用的AI算法(“训练-然后-验证”),也可能存在一旦进入临床使用便利用接收到的额外数据进行自我再训练的算法(“持续学习”)。“训练-然后-验证”方法更符合医疗器械软件的传统编写方式,即软件开发、“冻结”、然后验证,验证后的器械在上市前提交监管审查。软件随后的任何重大更新都需要重新审查技术文件。“持续学习”方法不符合这一传统医疗器械框架。虽然它们提供了一种在AI工具进入临床使用后持续改进其性能的手段,但需要保障措施以确保性能不会因额外训练而恶化, particularly 算法不会变得更擅长生成错误输出。因此,持续学习算法在影响医疗实践方面仍处于早期得多的阶段。
考虑AI在影像学中应用的一个基本概念是在真实临床环境中评估AI工具的性能。
评估基于AI的医学影像应用的性能
学术文献中评估AI方法在医学影像中性能的出版物越来越多,并报告AI方法的表现可以与正常临床实践相当或更好。例子包括乳腺X线摄影中的乳腺癌检测20和卒中21。
然而,也有出版物指出了人工智能方法的局限性,并发现放射科医生的表现优于人工智能工具。一项比较四种市售人工智能工具评估胸部X线片的研究发现了令人担忧的假阳性率。22
在COVID-19大流行期间,基于人工智能的方法被非常迅速地实施和发表,以试图帮助管理患者,包括通过预测胸部CT扫描的结果。Wynants等人对这些出版物的综述18报告称,大多数报告质量较差且存在高偏倚风险,因此潜在的临床价值非常有限。
关于人工智能在医学影像中的学术文献数量庞大,每年发表数万篇论文,7但对这些方法的系统综述往往因方法学原因排除了绝大多数研究,表明该领域只有一小部分工作可能接近临床适用性。23越来越多的论文强调许多人工智能产品可能不够安全和有效用于临床使用的风险,并鼓励制定合适的“实施综合指南”。24
这表明了考虑人工智能影像工具在上市前和上市后应如何评估其性能的重要性。人工智能工具在开发过程中所达到的性能很可能在进入临床使用时无法复现。
该领域面临的主要挑战通常被认为是难以获得足够的高质量标注数据来训练人工智能模型。例如,在乳腺影像学中,已有研究表明,算法在使用大量高度标注数据进行训练时表现最佳,关键图像特征均由专家标注精心标记。20开发人工智能工具有两个不同的阶段:训练和测试。这些任务是不同的,分别使用训练数据和测试数据。虽然在临床实践中每天收集大量医学图像,但对高质量标注的需求意味着用于训练和测试算法的图像数据往往供不应求。因此,开发者经常使用同一数据集进行训练和测试,使用一种称为“交叉验证”的方法。一种常见的方法是将数据集分成k个等大小的子集,然后重复训练-测试循环k次,每次使用不同的子集进行测试,其余k-1个子集用于训练。性能通过k次重复的平均性能来评估。在这种方法中,用于训练的数据与用于测试的数据不同,但并非真正独立,因为所有训练和测试数据都来自同一原始数据集。另一种方法是在一个数据集上训练算法,并在独立获取的数据集上测试,例如从不同医院或在不同时间段收集的数据。Borchert等人的系统综述25报告称,“使用独立数据集进行验证的研究,与交叉验证相比,报告的准确率要低得多,尤其是当使用社区为基础的人群时”。这导致许多人质疑交叉验证是否能提供人工智能工具在临床实践中性能的可靠衡量。
医疗器械监管机构已注意到这些文献以及对市场上产品性能的担忧,近年来一直忙于应对人工智能应用的快速增长,就医疗器械法规如何适用于人工智能赋能的器械提供更多明确说明。
人工智能监管格局
医疗器械法规并未专门涉及人工智能在医疗器械中的使用,这往往是因为相关法规在人工智能被广泛使用之前就已制定。因此,监管格局由适用于软件的法规所界定,并由监管机构发布的文件加以补充,如指导文件、讨论文件和公认标准,以帮助制造商将医疗器械法规应用于其产品。
从医疗器械监管的角度来看,证明医疗器械安全有效所需的性能数据量取决于制造商声称器械能够做什么。这些声称不仅体现在器械特定的监管文件中,如预期使用、预期用途或使用说明,还体现在相关营销材料中,无论是纸质版、网站上还是社交媒体帖子中,监管机构均将其视为器械“标签”的一部分。本文前面我们列举了5类不同的人工智能应用,以说明预期用途的多样性:证明充分性能所需的性能数据类型和数量显然会有所不同。人工智能应用的快速创新导致医疗器械监管机构的关注日益增加,在某些情况下,人工智能成像工具上市前所需文件也发生了重大变化。
软件医疗器械与传统“硬件”医疗器械(如关节植入物)的一个显著区别在于,通过升级软件可以显著改变器械的性能,而软件升级比更新硬件医疗器械的设计和性能要快得多,且升级可完全远程部署。与传统硬件器械不同,软件升级还可能改变器械的预期用途,例如,从通过提示放射图像中的病灶为放射科医生提供决策支持,转变为自动发现病灶并生成治疗方案,无需放射科医生参与。
医疗器械监管机构在国际医疗器械监管机构论坛(IMDRF)的主持下合作发布了《作为医疗器械的软件(SaMD)临床评价》指南,为SaMD提供了风险框架和验证指导。26该指南为制造商引入了重要概念,包括器械输出与目标临床状况之间的“临床关联”,作为器械上市前所需临床评价过程的一部分(见表1),以及一个二维风险分类框架,该框架同时考虑软件所提供信息对医疗决策的重要性以及医疗情境或状况的状态(见表2)。虽然该指南适用于机器学习软件,但并未以与其他医疗器械软件有本质不同的方式对待它。
人工智能的快速演进意味着监管机构越来越希望将人工智能与传统软件区别对待,因此我们看到监管机构定期发布聚焦于人工智能赋能器械的文件。
在医疗器械监管机构之间合作的又一个例子中,美国FDA、英国MHRA和加拿大卫生部于2021年10月联合发布了“良好机器学习实践:指导原则”。27这是一份简短文件,概述了在开发纳入机器学习的医疗器械时良好实践的某些方面。表3重现了这些指导原则。
尽管这些指导原则是有帮助的,例如指出应使用独立测试数据(而非交叉验证方法),但并非在所有情况下都清楚如何证明符合性。为了给开发者提供更大的明确性,FDA认可AAMI CR34971:2022发布的一份指导文件为“共识标准”,该文件涉及将既有的医疗器械风险管理标准ISO14971应用于纳入人工智能和机器学习的医疗器械。该文件随后由BSI发布为BS/AAMI 34971:2023,展示了其国际影响力。该出版物以一则警示性说明开篇:尽管采用了复杂精细的方法学,机器学习系统仍可能通过错误学习、做出错误推断,然后推荐或启动某些行动而引入安全风险,这些行动非但不能带来更好的结果,反而可能导致伤害。
人工智能系统中错误的放大有可能对患者造成大规模伤害。
对于不含人工智能的医疗器械,风险可以从该技术的真实世界经验中评估。然而,对于人工智能赋能的医疗器械,这种经验是缺乏的……识别风险和偏倚可能更加复杂,因为算法决策路径可能难以解释。
医疗器械中的风险管理已经聚焦于对患者可能造成的伤害以及可能引起该伤害的危险情况。这份AAMI出版物强调了一个事实:人工智能引入了新的可能危险,而当前针对“基于规则”算法的产品开发方法学并未适当覆盖这些危险,并提供了如何处理人工智能软件中风险的详细方案。表4列出了该文件中强调的风险。
可以说,FDA是在为器械开发者和制造商提供人工智能赋能器械指导方面领先的医疗器械监管机构。虽然从技术上讲,FDA的管辖范围仅限于美国,但其他若干司法管辖区提供了快速通道途径,使经FDA许可或批准的器械能够在其本国上市。最近,英国MHRA宣布了此类认可途径的计划,以使经FDA许可和批准的器械能够在英国销售。
最近发表了一篇由FDA员工撰写的论文,特别聚焦于人工智能赋能医学影像器械的监管概念和挑战。28这篇文章强调了放射学如何在临床环境中成为采用人工智能赋能医疗器械的先驱,但也强调了这些器械“伴随着独特挑战”,包括需要大型且具有代表性的数据集、处理偏倚、理解对临床工作流程的影响,以及随时间推移保持安全性和有效性。
FDA的一项关键创新是“人工智能/机器学习赋能的医疗器械的预定变更控制计划”这一概念。这一理念于2021年1月在FDA的“人工智能/机器学习软件作为医疗器械行动计划”中提出,29并于2023年发布了一份指南草案,30其中描述了该方法将如何用于提供FDA所称的“一种基于科学的方法,以确保AI/ML赋能的器械能够根据新数据安全、有效且快速地修改、更新和改进”。预定变更控制计划并不提供许多AI支持者所主张的“持续改进”方式,但确实提供了一种途径,使AI赋能的医疗器械制造商可以选择在其510k或de novo申报中提交一份文件,该文件描述了可以在不经FDA重新审查的情况下对器械进行的各类变更,包括如何降低风险。
FDA还于2023年发布了一份关于在药物和生物制品开发中使用AI和机器学习的“讨论文件”。6虽然该文件并非聚焦于医疗器械,且作为讨论文件,其正式程度低于指南文件,但它确实提供了关于FDA内部对监管机构在医学应用中应用AI方面角色的进一步见解,并提出了在确保AI工具安全有效使用方面需要解决的问题。这些问题归纳于表5所列的类别中。
英国MHRA在英国脱离欧盟后正在更新其医疗器械监管架构,同时也在考虑AI对医疗器械审批路径的影响。他们正在考虑的一种可能途径是所谓的“气闸流程”,31该流程提供了一种使部分器械在上市前性能数据有限的情况下进入市场的方式:一些满足关键未满足临床需求的创新产品制造商可能难以在上市前阶段生成证据。因此,该流程将允许软件在有限时间内生成真实世界证据,同时接受持续监测。
该提案尚未实施,且要对器械开发者具有重大价值,它将需要与其他国际监管方法相衔接。
除了考虑医疗器械监管机构关于AI赋能器械的出版物外,开发者还需要考虑其他相关法规,如数据隐私和欧盟人工智能法案,后者与上述FDA讨论文件颇为相似,围绕AI制定了透明度和治理要求。
市场上AI赋能的医学影像设备
如引言部分所述,FDA5公布的数据显示,截至2023年7月底获得上市许可的人工智能医疗器械中,超过四分之三用于放射学应用,心脏病学应用(如从心电图检测心律失常)是第二大应用领域,占器械的10%。三分之二的放射学器械在2020年8月至2023年7月这三年间获得上市许可。从FDA网站下载了这350款人工智能放射学器械的电子表格,并根据FDA产品代码进行排序。随后使用FDA产品分类数据库将产品代码与器械类型进行交叉比对,以确定这些器械是基于硬件的(例如图像采集设备)还是纯软件的,以及这些产品代码是否专门针对人工智能产品。然后检索了FDA 510(K)和513(f) de novo数据库32,33,以查找所选器械的适应症,从而确定预期的放射学应用以及它们预期如何融入临床工作流程。
在表6和表7中,我们总结了该分析的结果。对于每种器械类型,我们列出了FDA许可或批准的此类器械数量及相关产品代码。表6列出了124款人工智能硬件器械。这些类型的器械均非人工智能专用,但一些制造商正在将这些人工智能融入器械中,以提供图像特征自动勾画等功能。
表7总结了226款人工智能软件医疗器械如何按器械类型和产品代码进行分类。与表6中的硬件器械不同,这些软件器械类型中的大多数在FDA产品代码数据库中都有相关定义,总结在右列中。对于产品代码LLZ,其历史比其他代码更早,FDA产品代码数据库中未提供此类定义,因此我们以斜体提供了一个定义以便比较。此外,这些产品代码中的大多数是人工智能器械专用的。
表6和表7说明了FDA最近许可或批准的放射学硬件和软件产品的多样性。它们涵盖了多种成像模式和临床应用,以及一些治疗器械。
数量最多的器械对应产品代码QIH(自动放射图像处理软件)和LLZ(系统,图像处理,放射学:历史上用于PACS工作站的产品代码)。这些人工智能器械比传统的放射学PACS工作站提供更复杂的图像分割、增强、操作和可视化工具。
表7中设备数量第三多的产品代码是QAS,即放射学计算机辅助分诊与通知软件。对这些设备的适应症进行检查显示,其中69%用于头部CT分析,目的是对急性脑损伤患者(颅内出血、卒中、脑创伤、大血管闭塞)进行分诊,其余大部分用于胸部CT,以对可能存在肺栓塞或主动脉夹层的患者进行分诊。然而,这些设备的适应症强调其需要在影像专家的监督下使用,并附有如下声明:“不打算作为主要诊断设备使用”、“被通知的临床医生最终负责按诊疗标准审阅完整图像”,以及需“与标准诊疗并行”使用。这表明,对于AI赋能的医学影像设备,目前需要通过确保显著的临床监督来减轻性能不足的风险。
尽管我们看到越来越多的AI赋能放射学设备进入市场,但本分析表明,这些近期上市的设备对临床实践的影响可能更多是渐进式的而非颠覆性的,更多是作为当前放射学工作流程的辅助,而非显著改变工作流程。
讨论
已有大量关于AI和机器学习在医学影像和放射学中应用的出版物,以及数百个基于机器学习和AI工具上市销售的医疗器械。然而,这种快速创新凸显了该领域需要解决的一些重要挑战,以使这些创新工具能够被患者和医疗专业人员信任。特别是,越来越多的证据表明,实施不当的AI可能导致患者伤害,需要识别和减轻潜在风险。
该领域面临的两个关键挑战是处理可能对真实世界性能产生不利影响的偏倚,以及确保输出与临床诊疗相关,即具有临床意义。公开可用数据集在催化AI算法创新方面所发挥的作用说明了这些挑战。目前已有广泛范围的公开可用数据集可用于训练机器学习图像分析算法,此处我们将特别考虑英国生物样本库(UK Biobank)和阿尔茨海默病神经影像学倡议(ADNI)。这些数据集推动了大量高质量科学研究,但它们并不包含一般人群的代表性样本,并说明了用于训练影像AI模型的算法中的偏倚问题。
偏倚
Petrick等28报告称,监管机构特别关注的一个问题是,用于评估性能的研究“通常基于有限的患者、群体和站点多样性”,并且不清楚这些结果如何推广到实际临床实践。
大型公开可用数据集(如英国生物银行和ADNI数据集)在人口统计学方面存在偏倚。Fry等报告称:“与未参与者相比,英国生物银行的参与者更可能年龄较大、为女性,且居住在社会经济剥夺程度较低的地区”。34 Borchert等25进行了一项系统综述,其中他们考察了ADNI在使用人工智能进行神经退行性疾病诊断和预后预测的已发表算法中的作用。他们报告称,这些算法中有71%依赖ADNI数据,这引入了多种偏倚来源。他们进一步指出,首先“潜在的种族和社会经济偏倚……可能妨碍泛化”,此外,图像采集可能不能代表当前的临床数据收集情况,从而引入了与数据相关的偏倚。在乳腺X线摄影中人工智能辅助计算机辅助诊断(CAD)方面,也提出了类似的训练集偏倚问题35,包括患者人群和图像采集方案及设备厂商不具有代表性。
这些训练数据集的偏倚性质说明了在人工智能医疗器械的开发和验证中考虑表4所列偏倚来源的重要性,以及使用独立的训练和测试数据集的必要性,其中测试数据集应能代表目标人群,以确保获得相关的性能数据。虽然人工数据可作为人工智能设备性能评估的一部分使用(例如,表7中的FDA产品代码QIH),但存在一种风险:如果使用生成式人工智能基于这些有偏倚的数据集模拟大量额外的训练或测试数据,这种偏倚将被放大。
临床意义
精心管理的公共数据库的广泛可用性促进了人工智能工具的创新,但一个反常的后果是,它们鼓励算法开发者关注数据集中隐含的问题,而非临床诊疗中的挑战。例如,许多在ADNI数据集上训练算法的作者证明他们能够区分“正常”、“轻度认知障碍”(MCI)或“阿尔茨海默病”的受试者,或者能够准确预测MCI向早期AD的转化。然而,不仅入组ADNI的患者不能代表社区记忆门诊的典型患者人群,而且这类分类器可能与解决具有临床意义的问题无关。例如,如果一位患者因记忆受损来到记忆门诊,问题很可能不是“该患者患有MCI还是AD”,而是“导致这些症状的潜在病理是什么”,因为这会影响后续管理。Borchert等在其系统综述中报告称:“我们未发现有任何研究评估了从多种(>2)可能诊断中进行鉴别诊断这一常见临床挑战”,这是对该领域相当有力的批评。
本文所述的人工智能医疗器械监管框架与解决学术人工智能工具开发中的此类局限性具有相关性。临床评价软件作为医疗器械(SaMD)框架有助于明确界定在临床诊疗背景下评估性能的必要性;良好机器学习规范明确了独立数据集用于测试和验证的重要性(不应将英国生物样本库(UK Biobank)或ADNI等单一数据集同时用于训练和测试),FDA认可的共识标准AAMI CR34971:2022提供了详细的框架,用于识别和缓解人工智能器械中的偏倚等风险。
结论
人工智能已经展现出其在实现新颖且有价值的医疗技术方面的巨大潜力,而目前已上市的人工智能医疗器械绝大多数用于医学影像应用。然而,正如本文前面所举的例子所示,文献中有许多论文支持了医疗器械监管机构的立场,即这些方法引入的风险与传统“基于规则”的软件医疗器械所具有的风险不同,且在許多情况下更大。因此,市场上的人工智能器械通过要求其在专家监督下使用(通常与当前临床实践并行)的预期用途来缓解这些风险,从而降低了其对临床实践的潜在影响。
为使人工智能产生更大的临床影响,人工智能医学影像工具的开发者需要提供比市场上已有的传统软件方法更严格的风险分析和性能评估。放射科医师及其专业团体在帮助影像人工智能研究人员和器械开发者建立更严格的医学影像人工智能器械开发框架,以及监测其在市场上临床实践中的性能方面,可以发挥关键作用。放射科医师及其放射技师和医学物理同事对患者表现的变异性、伪影的影响、放射实践导致的变异性以及不同影像设备制造商和采集参数导致的变异性有详细的了解,这对于帮助识别和缓解人工智能医学影像工具开发中的风险具有重要价值。
此外,随着技术的发展,监管格局可能将继续演变,特别是人工智能软件上市后如何更新的方式,以及如何利用上市前和上市后性能数据的平衡来证明安全性的方式,可能在不久的将来发生演变。
不断演变的监管格局可被批评为给开发者提供了一个“移动靶”,因为人工智能赋能的医疗器械上市前所需的文档要求快速变化,从而构成创新障碍。然而,也可以说监管机构正在灵活应对,使开发者越来越清晰地了解如何管理风险和评估这些不断演变技术的性能,从而使安全有效的人工智能赋能的医疗器械能够惠及患者。与医疗器械监管一贯的情况一样,需要在促进创新和确保患者安全之间取得平衡,而人工智能将继续挑战现有监管框架。开发人工智能赋能器械的学术研究人员也应熟悉这一监管框架,以提高其发表成果的质量,并促进研究成果转化为能够对患者管理产生积极影响的产品。
引用
- Hill DLG. AI in imaging: the regulatory landscape. Br J Radiol. 2024. PMID: 38366148. doi:10.1093/bjr/tqae002
- 全文:PMC11027239(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC11027239/
供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。