文献速递技术与安全

放射科医生在环:放射科医生在人工智能应用开发中的角色

Radiologists in the loop: the roles of radiologists in the development of AI applications.
PubMed 文献 · Eur Radiol · 2021-04-16

通过对欧洲、亚洲和北美8家开发放射学AI应用公司的案例研究,进行17次半结构化访谈并收集文档数据,系统主题分析识别出放射科医生在AI开发不同步骤中扮演的9种角色;放射科医生参与程度和与开发团队互动方式因案例而异,资源、时间、专业知识和信任是影响其积极参与的关键因素。

要点

  • 放射科医生在AI应用开发中可扮演9种角色,包括问题发现者(4家公司)、问题塑造者(3家公司)、问题主导者(1家公司)、数据研究员(2家公司)、数据标注员(3家公司)、数据质量控制员(2家公司)、算法塑造者(3家公司)、算法测试员(6家公司)和AI研究员(1家公司)。
  • 放射科医生需要主动参与开发过程并拥抱新角色。
  • 资源、时间、专业知识和信任是影响放射科医生在开发过程中角色活跃程度的关键因素。

核心结论

  • 放射科医生在AI应用开发中可扮演广泛角色,其参与活跃程度和与开发团队互动方式因案例显著不同;放射科医生需要主动参与开发过程并拥抱新角色。

研究设计与样本

  • 对8家活跃于开发放射学AI应用的公司(分布于欧洲、亚洲和北美)进行案例研究,开展17次半结构化访谈并收集文档数据,基于系统主题分析识别角色。

临床应用与阅片要点

  • 原文未据此给出推荐。

局限性

  • 原文未报告局限性。
全文中译16 节 · 点击展开
本译文由 AI 依据开放获取原文逐段翻译,供学习参考,可能存在误差,请以原文为准。原文 © 原作者,按 CC BY 许可使用,本译文为翻译改编。出处:Eur Radiol. 2021 Apr 16;31(10):7960–8. doi: 10.1007/s00330-021-07879-w

引言

如今,人工智能(AI)在放射学中的应用已变得如此重要,不容忽视。在放射学领域开发的AI应用正在迅速增长[1]。除了挑战之外[2],这些应用日益进入临床实践,并可能显著影响放射学工作[3]。在这种情况下,放射科医生的角色不再局限于仅作为应用的“用户”。放射科医生作为对医学图像诊断具有深刻见解的领域专家,需要积极参与开发过程[4]。

关于AI开发的文献[5],特别是在放射学领域,已经提出了放射科医生在AI应用开发过程中可以而且应该扮演的各种角色。作为领域专家,他们拥有隐性知识,可以引导AI开发者走向医学相关的用例[2, 6]。他们可以就如何使工具有效贡献于放射学工作向开发者提供建议。同时,通过参与开发过程,放射科医生可以更好地理解AI系统的原理,并识别这些应用的潜在陷阱和局限性[4]。此外,将放射科医生纳入开发过程可以增强对AI应用的信任,以及放射科医生对这些系统的接受度[7]。少数研究表明,我们需要更深入地研究开发步骤,以更好地理解放射科医生如何为每个步骤做出贡献(见表1)。

尽管有这些建议,我们对这些角色在现实世界中实际如何发生以及放射科医生在AI应用开发中是否扮演其他角色的理解仍然有限。我们还需要研究放射科医生的角色如何随组织条件而变化(例如,小型初创企业与大型公司之间的差异)。

在本文中,我们考察了放射科医生在AI解决方案开发过程中的各种角色,涵盖八家专门从事放射学领域AI应用开发的公司。我们表明,放射科医生扮演的角色比当前文献所提出的更为广泛。这些角色出现在AI开发的不同步骤中,取决于组织条件,如组织规模、公司背景以及与放射科医生的互动形式。

在下一节中,我们描述了我们如何开展研究。然后,我们报告放射科医生在AI开发各个步骤中的角色。最后,我们讨论我们的发现对放射学界的启示及其对AI开发的参与。

表1 放射科医生如何为AI开发过程做出贡献 查看原表 ↗

方法

我们采用多案例研究方法来捕捉AI开发者的多样性及其在开发过程中与放射科医生互动的方式[8]。我们遵循“最大多样性”原则[8](见表2)。选择案例的纳入标准基于在以下方面最大化案例的多样性:(1) 公司规模(从大型跨国公司到小型初创企业);(2) 技术和商业背景(例如,专注于AI开发的公司和生产医疗产品的通用企业);以及(3) 地理位置(代表不同的经济、法律和文化背景)。

我们通过半结构化访谈收集数据,访谈对象为参与开发项目的关键管理人员和技术员工(访谈提纲见附录1)。定性访谈使我们能够深入探究放射科医生在每种案例中于何时、如何、为何以及在何种条件下发挥某些作用[9]。我们进行了17次访谈,平均用时60分钟1。所有访谈均录音并逐字转录。我们还基于公开和内部文件收集了关于每家公司及开发项目的丰富信息(数据概览见表A1)。最初,我们咨询了几位放射科医生对本研究以及放射学领域人工智能开发现行实践的看法。这些放射科医生或受雇于这些公司,或隶属于这些公司。这些咨询以非正式方式进行,提供了关于放射科医生角色的背景信息。

为系统分析数据,我们遵循四个步骤。首先,我们将访谈和文件中的数据整合为每个案例的详细案例研究报告。其次,我们基于归纳性主题分析方法[10]对每份报告进行编码,以识别放射科医生在开发五个步骤中的各种角色。我们使用文献中讨论的角色列表(表1)作为初始编码本,但在开放式编码中亦开放性地探索其他角色。第三,对于每个角色,我们识别了任务、正式职能以及放射科医生与开发团队之间的互动形式。第四,我们基于放射科医生在不同步骤中发挥的角色对案例进行比较,以考察哪些条件影响了每种角色发生的时间和方式。

表2 所选人工智能供应商概览(按公司规模排序) 查看原表 ↗

结果

在各公司中,我们识别出放射科医生在开发过程不同步骤中发挥的9种角色,我们将在以下部分进行描述(见表3和表A2-A7)。图1概述了放射科医生在不同开发步骤中的角色

表3 放射科医生在开发步骤中的角色 查看原表 ↗
图1 放射科医生在人工智能开发步骤中的角色概述 查看原图 ↗

步骤1:定义用例和概念设计

在第一步中,开发者定义医疗用例:即需要解决的问题以及在放射学工作中需要实现的某些改进。该用例应具有医学相关性,并提供可实施、可操作的可行解决方案。我们观察到放射科医生在这一步中扮演三种角色。首先,作为问题发现者,放射科医生可以通过识别特定问题、需求、挑战或改进点来发起用例的想法,这些想法可以由AI解决方案支持、加速或完全自动化。其次,放射科医生可能在问题定义之后参与,就潜在工具的功能、特性、考虑因素、局限性以及该想法的挑战提供见解和反馈(问题塑造者)。第三,放射科医生有时成为对需求和特性做出最终决策的主导角色(问题主导者)。我们观察到,这三种角色通常基于偶发性咨询,而非持续、不断的互动。尽管放射科医生参与了用例的定义,但他们往往缺席解决方案的概念设计环节,例如定义操作、设计界面以及确定如何将应用程序整合到放射学工作流程中。

第二步:数据获取与整理

应以图像和扫描的形式收集和准备相关、丰富的数据,以便训练算法并对其进行测试。开发者必须识别相关的数据类型,深入理解其属性(包含哪些信息),以及获取和处理这些数据的局限性和挑战(例如缺失的参数和数据中的偏差),这一点至关重要。放射科医生具备医学数据(尤其是医学图像)方面的知识,可以在寻找和选择相关、丰富的数据源方面发挥重要作用。此外,所获取的数据需要以能够输入算法的方式进行检查、整理和组织(数据整理)。为此,数据工程师咨询放射科医生,以确保他们的数据整理不会破坏数据的信息丰富性和准确性(数据维护者)。

大多数公司偶尔咨询外部放射科医生来获取和整理数据(例如,通过与医疗机构的联系)。然而,大型公司有资源聘请放射科医生来扮演这一角色。放射科医生能够利用他们与PACS管理员以及放射科数据仓库管理员的专业关系,获取AI解决方案开发所需的数据。有时,他们必须决定如何收集和整理数据。他们还促进了与隐私官员和伦理委员会的互动,以确保数据的安全和合规处理。

第三步:标注与建立金标准

在训练算法之前,对于(半)监督式算法,需要对已获取的数据进行标注,以便为算法设定性能标准。除标注外,开发者还需要建立金标准,据此评估其算法的准确性和性能。AI供应商认为数据标注员的角色应由放射科医生担任。有经验的数据标注员来自与医疗机构长期合作的关系。有时,供应商使用自动化技术或使用经过培训的编码员(非放射科医生)来标注数据。这些经过培训的标注员是技术团队(如软件开发人员、数据科学家)的一部分,他们已经熟悉放射学领域和AI应用的概念设计。这种情况多见于小型供应商,他们聘请放射科医生进行标注的资源有限。于是,他们依靠放射科医生作为数据质量控制者,检查标注数据的准确性和一致性,并解决复杂病例。

步骤4:训练算法

一旦数据经过整理和标注,就用于训练算法。算法通过对医学病例的检测、分类和分割(如检测癌性肿瘤)来学习如何识别特定模式。训练应基于包含广泛代表性病例(如不同类型的患者特征)的数据集。训练通常由数据科学家和程序员执行,他们选择算法类型、进行配置、设定参数、定义阈值、执行各种迭代,并确定稳定、准确的配置。这些决策基于关于医疗实践应如何开展以及什么是相关、有效结果的某些假设。在此过程中,放射科医生扮演了算法塑造者的角色,就技术决策是否与医疗实践一致(如阈值是否与医学分类一致)以及训练结果从领域专家角度来看是否准确、正确和可理解(如如何展示肺结节的不同分类以具有医学意义)提供见解和反馈。

步骤5:验证AI应用

训练完成后,开发者需要确保算法在代表真实世界环境多样性和复杂性的更广泛数据集上使用时准确且稳定(验证),并能够在临床条件下有效运行(测试)。在这一步骤中,开发者需要基于输入多个异质性数据集对算法及其应用进行严格检查。为此,放射科医生通过以下方式履行算法测试者的角色:建议如何在真实数据集上验证算法(例如,不同的患者特征和不同的模态),检查算法的偏倚和敏感性,审查假阳性和假阴性病例并识别常见问题,在复杂病例上测试算法,并明确其边界条件和局限性。由于没有通用的标准数据库和程序来验证算法,放射科医生在确定验证数据集的组成以及为确保准确和审慎的验证应遵循的程序方面发挥着关键作用。所有这些使技术团队能够修改应用和算法,以达到预期性能。此外,供应商依赖放射科医生作为人工智能(AI)研究人员来设计和执行科学测试,并产生科学上可靠的证据以支持AI应用的性能。在这一角色中,他们还积极参与撰写科学出版物(尤其是当开发处于研究阶段时)以及起草法律文件中的科学部分(当应用即将获批时,例如由FDA批准用于商业用途)。

讨论

纵观各公司和不同的开发步骤,我们看到放射科医生扮演着多样化的角色。

超越标注和标记的角色

我们看到放射科医生除了标记数据之外还扮演着若干其他角色。事实上,公司越来越多地依赖其他方式来标注数据,而不仅仅是招募放射科医生(例如,使用半监督或无监督算法、使用经过培训的员工来标注数据、使用自动工具进行数据标记、众包标记)。因此,公司可以在开发的其他步骤中受益于放射科医生作为领域专家所具有的稀缺而有价值的知识。许多这些角色在使用AI的过程中会反复出现。例如,AI工具的评估和验证不是一次性事件,而是一个持续的过程,因为软件的定期更新和使用新型设备需要对算法进行重新验证。放射科医生应确定如何在临床环境中评估这些工具以及应当如何评估。

不仅仅是提供专业知识

除了提供专业知识外,放射科医生还可以在建立公司与医疗机构之间的联系(例如,获取数据)以及在同行放射科医生中建立信任方面发挥重要作用。除了医学知识外,他们的技术参与对于指导开发过程也至关重要。此外,他们还可以为应用在放射学工作流程中的无缝集成以及AI在运行中的持续评估提供指导。通过这种方式,放射科医生可以有助于与潜在客户建立关系、将AI解决方案引入临床实践以及确定可行的商业案例。

与放射科医生互动的不同模式

我们看到,各公司与放射科医生采用了多种协作模式。当公司倾向于积极协作且拥有足够资源和重要开发项目时,它们往往将放射科医生聘为开发团队的成员,赋予专门职责。有时,公司依赖与外部放射科医生的偶尔互动,尤其是在其聘请放射科医生的资源有限时。在某些情况下,放射科医生通过与发展团队持续互动而积极参与,尽管他们没有任何正式职责。当公司与某些客户共同开发产品时,客户方的一些放射科医生会参与该过程。尽管这些放射科医生可能并未正式隶属于开发公司,但他们可以扮演上述所有角色。

影响放射科医生积极参与的因素

纵观各案例,我们看到若干因素影响放射科医生在开发过程中的积极参与。具有强大医学背景并与放射科部门有联系的公司从开发过程伊始就让放射科医生参与。然而,当公司由技术团队主导且具有技术密集型背景时,它们往往对放射科医生的参与有限,且参与发生在开发的较后阶段。这有时会在后续过程中造成重大挑战2。随着组织在产品开发方面日趋成熟,放射科医生在整个开发过程中的角色变得更加多样化。此外,拥有可用于聘请放射科医生并系统性地让其参与开发的资源是一个关键因素。特别是,公司不能仅依赖偶尔的咨询,并期望放射科医生在全职医疗工作之外提供帮助。除资源外,放射科医生的积极参与有时因放射科医生自身专业知识有限(例如,了解深度学习算法如何工作或数据特征如何影响算法结果)以及他们对人工智能应用如何帮助自己持怀疑态度而受到阻碍。

结论

我们的研究表明,放射科医生在开发过程中扮演着多种多样的角色。除这些角色外,放射科医生仍有进一步的参与机会,尤其是在塑造人工智能应用的产出、设计界面以及将其配置和对齐到放射科工作流程方面。随着更多样化的数据库变得可用以及对算法要求更严格的质量水平,放射科医生可以在数据采购以及就算法的开发和验证提供建议方面发挥更强的作用。我们预计,随着组织在开发方面日趋成熟、数据来源变得更加多样和可用,以及识别出更多样化的使用场景,放射科医生将扮演新的角色。

随着时间的推移,组织不应将其与放射科医生的互动仅限于偶尔的咨询;相反,他们应积极、系统地将放射科医生纳入其中,赋予其职责和权限,使其成为开发团队的一部分。这种紧密协作对于开发者与客户之间的迭代共同创造过程至关重要。同时,人工智能开发者需要认识到放射科医生可以扮演的各种角色,并找到方法在整个开发步骤中更有效、更积极地吸引放射科医生参与,并通过各种形式的协作(例如外部顾问、附属医学专家、内部团队成员以及数据科学家与放射科医生之间的协作团队)促进其参与。

对于放射科医生而言,重要的是认识到贡献领域广阔、多样且开放。放射科医生应主动参与开发过程并明确其角色和贡献。并非所有放射科医生都需要成为开发者。然而,他们需要对人工智能应用的开发有足够的了解,以便能够将其宝贵的医学经验带入开发过程。放射科医生应了解基本原理、局限性、风险和陷阱,以及用于开发这些应用的技术和方法,并学习如何评估和监测算法[11]3。

局限性与未来研究的方向

尽管我们考察了多样化的公司样本,但未来研究可以通过比较放射科医生在不同地理背景和不同生产模式(例如内部开发、商业公司和共同创造)中如何发挥作用,来扩展实证范围和案例多样性。未来研究可以深入探讨放射科医生在参与开发过程(之前和)期间(需要)学习的技能和能力。我们仍然可以通过追踪放射科医生以不同方式参与人工智能开发(例如作为外部顾问、作为内部医学专家或作为开发中的主导角色)的各种职业轨迹来学习。放射科医生可以在人工智能系统的“实施”和“使用”阶段发挥重要作用(例如作为本地倡导者和人工智能监督者),这值得进一步研究。最后,重要的是研究放射学界,了解他们自己如何看待和扮演人工智能应用开发中的各种角色。

补充信息

ESM 1(DOCX 31 kb)

引用

  1. Scheek D, Rezazade Mehrizi MH, Ranschaert E, et al. Radiologists in the loop: the roles of radiologists in the development of AI applications. Eur Radiol. 2021. PMID: 33860828. doi:10.1007/s00330-021-07879-w
  2. 全文:PMC8050223(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC8050223/

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。