医疗人工智能的公平性:综述与建议
该综述讨论医疗人工智能临床整合中的公平性问题,梳理数据偏倚与算法偏倚及医患交互相关偏倚的来源,提出多样代表性数据、算法审计与验证、医患教育等缓解策略,并讨论数据隐私、责任归属、透明性与可解释性等伦理法律问题,最后给出FAIR声明以提供最佳实践。
要点
- AI偏倚可来自训练数据(少数群体偏倚、缺失数据偏倚、信息性偏倚、训练-部署偏倚)与算法设计(标签偏倚、队列偏倚)。
- 临床交互可产生自动化偏倚、反馈环、拒绝偏倚与分配差异,患者交互可产生特权偏倚、知情不信任与能动性偏倚。
- 缓解策略包括使用多样代表性数据、开展算法审计与验证、对临床医生和患者进行教育。
核心结论
- 该综述强调需要医生、AI研究者、AI开发者、政策制定者与患者协作,以确保公平地整合AI。
- 作者提出FAIR声明(Fairness of Artificial Intelligence Recommendations in healthcare)以提供最佳实践。
- 作者指出需要更多研究的领域,并以此作为讨论负责任和公平实施与部署医疗AI的基础。
研究设计与样本
- 本文为综述,旨在全面概述AI公平性相关担忧、讨论缓解AI偏倚的策略并强调利益相关方协作的必要性。
- 文末提出FAIR声明以提供最佳实践。
- 原文未报告系统检索范围与纳入文献数量。
临床应用与阅片要点
- 作者建议在AI开发与训练中确保使用多样且代表性的数据集,以反映目标人群的人口学、特征、医疗需求与潜在差异。
- 作者建议开展独立的外部专家或机构审计,评估AI的公平性、准确性与性能,并据识别出的偏倚调整算法。
- 作者建议对临床医生和患者开展AI固有偏倚的教育,以促进共同理解与医疗公平。
- 作者指出医生应负责核实AI生成的诊断并将其整合入临床决策过程。
- 作者指出AI开发者有责任确保其算法的准确性、可靠性与公平性,并提供预期用途与局限性的清晰说明。
局限性
- 原文未报告局限性。
全文中译20 节 · 点击展开
引言
公平性是人工智能(AI)伦理的核心原则之一[1–3],近年来,针对AI公平性的研究投入不断增加,越来越多的文献强调需要加以改进[4–9]。在AI的开发与应用过程中涉及多种偏见,这些偏见可能通过错误地扭曲AI结果而影响公平性[10]。在医学领域,AI中的偏见与歧视已在多个方向得到研究[11, 12]。世界医学协会《日内瓦宣言》将“年龄、疾病或残疾、信仰、民族出身、性别、国籍、政治立场、种族、性取向、社会地位或任何其他因素”等列为不应影响医师对患者义务的因素[13]。因此,如果AI对特定患者的表现不够充分,就会引发公平性担忧。
放射学领域的AI研究是医疗健康中一个活跃的方向,这得益于其与影像学的天然契合[14],AI相关文献数量和医疗器械认证数量逐年增加[15–17]。其中一个重要原因是全球放射科医师短缺[18–21]。特别是日本,在放射学领域AI应用方面有大量文献,包括X线[22–25]、乳腺摄影[26–30]、超声(US)[31]、CT[32–40]、MRI[41–50]和PET[51, 52]。日本放射学AI文献的激增可能与日本在经济合作与发展组织(OECD)国家中同时拥有人均放射科医师数量最低以及人均CT和MRI设备数量最高有关[53]。此外,由于新型冠状病毒感染(COVID-19)大流行,来自日本的COVID-19相关研究数量有所增加[54–61],其中聚焦于AI的此类研究显著增加[62–64]。
作为AI临床实践时代的医师,我们必须关注医疗健康中AI偏见所引发的公平性问题,以便为所有患者提供更好的照护。本综述旨在全面概述与AI公平性相关的关切,讨论减轻AI偏见的策略,并强调需要利益相关方之间的协作以确保AI的公平整合。借此,本综述为讨论AI在医疗健康中负责任且公平的实施与部署奠定基础。
首先讨论医疗健康中的公平性。随后讨论医疗健康中所用AI系统的偏见问题。接着,我们提出减少偏见的策略,例如使用多样化数据、验证算法以及就AI对临床医师和患者进行教育。然后讨论伦理与法律问题,如患者知情同意、数据隐私、问责制以及AI系统透明度的必要性。在此背景下,协作至关重要;因此,我们探讨各方利益相关者的角色,包括医师、AI研究人员、政策制定者、监管机构、患者、倡导团体和专业协会。我们纳入推荐用于AI公平性的最佳实践以及需要更多研究的领域。最后,我们以主要发现的总结结束全文。
医疗健康中的公平性关切
医疗健康中公平性的定义
医疗保健中的公平性是一个多维概念,包括在不同患者群体之间公平分配资源、机会和结果[65]。公平性的概念基于正义、有益和不伤害的基本伦理原则。医疗保健系统必须为所有个人提供获得高质量医疗服务的机会,不得歧视。在放射学背景下,人工智能中的公平性是指开发和部署无偏倚的人工智能,为所有患者提供准确的诊断和治疗,无论其社会地位或种族差异如何。实现这种公平性需要全面理解人工智能中偏倚的潜在原因,并制定减轻这些偏倚的策略[66]。
医疗保健中人工智能的偏倚
一般来说,人工智能中的偏倚可源于两个主要方面:用于算法训练的数据(数据偏倚)以及算法本身固有的设计或学习机制(算法偏倚)。然而,在医疗保健背景下,由于人类互动和决策过程的复杂性,可能会产生额外的偏倚。这些额外偏倚可分为两类:源于人工智能与临床医生互动的偏倚,以及源于人工智能与患者互动的偏倚[11]。这些偏倚的概述见图1。
数据偏倚
数据偏倚是指在人工智能训练所用数据的收集和组织过程中产生的问题,这些问题可能对公平性和准确性产生有害影响[67]。数据偏倚的类型包括少数群体偏倚、缺失数据偏倚、信息性偏倚和训练-服务偏差[11]。少数群体偏倚是指数据集中受保护群体成员的数量不足以让人工智能学习到准确的统计模式。这可能导致算法应用于这些代表性不足的群体时性能下降并产生有偏结果。例如,许多心血管风险预测算法历史上主要基于男性患者数据进行训练[68, 69]。这导致对具有不同症状和风险因素的女性患者进行不准确的风险评估。缺失数据偏倚是指受保护群体的数据非随机缺失,使人工智能难以生成准确预测。例如,如果接触隔离患者的生命体征记录少于其他患者,算法可能难以识别临床恶化。信息性偏倚是指用于检测的特征对某些受保护群体不够明显,从而降低其预测时的信息性。例如,从深色皮肤患者图像中识别黑色素瘤比浅色皮肤患者更具挑战性[70, 71]。训练-服务偏差是指人工智能训练所用数据与部署期间所用数据之间的不匹配。这可能源于选择偏倚导致的非代表性训练数据,或将模型部署于人群患病率与训练数据不同的患者上。在一项训练人工智能从胸部X线片诊断肺炎的研究中,该模型在来自训练数据采集机构的未见数据上的性能显著高于其在来自外部医院采集的数据上的性能[72]。这一常见情形意味着基于内部测试数据的人工智能性能估计可能高估其在外部数据上的真实世界性能[73–75]。
算法偏倚
算法偏倚指人工智能(AI)在开发与实施过程中产生的问题,可能对公平性和有效性造成负面影响。即使使用无数据偏倚的代表性数据,AI也可能因其固有设计或学习机制而表现出偏倚。算法偏倚包括标签偏倚和队列偏倚[11]。标签偏倚是一个广义概念,包括检查转诊偏倚和判读偏倚。当AI训练使用不一致的标签时即会发生这种情况,这些标签可能受医疗保健差异而非普遍接受的事实所影响。这可能导致AI算法基于不准确或不一致的信息做出有偏倚的决策。例如,在用于预测患者医疗保健需求的市售算法中已观察到显著的种族偏倚。尽管受到多种偏倚的影响,但该算法偏倚的一个主要促成因素是其设计,即使用费用作为医疗保健需求的替代指标,导致与病情相似的白人患者相比,黑人患者的需求被低估[76]。队列偏倚发生在AI基于传统的或易于测量的群体进行开发时,而未考虑其他潜在受保护群体或不同的细分粒度。例如,心理健康障碍在女同性恋、男同性恋、双性恋、跨性别者、酷儿或疑性恋、间性人、无性恋及其他(LGBTQ+)人群中存在诊断不足或误诊[77]。其原因之一是算法通常未考虑LGBTQ+人群的细分粒度,仅依赖关于生物学男性和女性的信息。在此类数据上训练的AI可能继续忽视或误诊这些人群的心理健康问题,从而可能使心理健康照护中现有的差异持续存在。
临床医生交互相关偏倚
当医疗保健专业人员与AI交互时,可能出现与交互相关的偏倚,可能影响算法的性能、公平性和采用[11]。其中一种偏倚是自动化偏倚,指当任务从医疗保健专业人员转移至AI程序时过度依赖AI的倾向[78]。对算法的过度自信可能导致基于不准确预测的不当行为。一项研究发现,不正确的AI建议对所有专业水平的放射科医生的乳腺X线摄影判读表现均产生负面影响。经验不足的放射科医生更可能遵循不正确的AI建议[79]。另一种与交互相关的偏倚是反馈循环[80]。当临床医生即使AI建议不正确也予以接受时即会发生这种情况,导致算法重新学习并延续相同的错误。拒绝偏倚指对过度警报的有意识或无意识脱敏。警报疲劳是这种偏倚的一种表现,因为临床医生可能因大量虚假警报而忽视重要警报[81, 82]。最后,分配差异发生在受保护群体的阳性预测值不成比例地偏低时,导致AI扣留必要资源,如临床关注或社会服务。此类资源分配差异可能加剧受影响群体在照护和结局方面的差异。
患者交互相关偏倚
与患者和人工智能或包含人工智能的系统之间互动相关的偏见包括特权偏见、知情不信任和能动性偏见[11]。特权偏见发生在某些人群无法在医疗环境中获得人工智能,或这些算法需要并非所有人群都能获得的技术或传感器时[83]。这可能导致人工智能驱动的医疗保健惠益分配不均,可能加剧现有的医疗保健差距。知情不信任是指受保护群体可能因医疗保健中的历史剥削和不道德行为而对人工智能持怀疑态度[84, 85]。这种不信任可能导致这些患者避免就医或故意向临床医生或使用人工智能的系统隐瞒信息。能动性偏见发生在受保护群体在人工智能的开发、使用和评估中缺乏发言权时[86]。这些群体可能缺乏检测人工智能偏见、表达关切和影响变革所需的渠道、资源、教育或政治影响力。这种能动性的缺乏可能导致人工智能不足以考虑受保护群体的需求和视角,可能造成医疗保健结果中的偏见和差距。
减轻偏见的策略
多样化和具有代表性的数据
减轻人工智能偏见最有效的方法之一是在人工智能开发和训练期间确保使用多样化和具有代表性的数据集[67, 87]。这一过程需要仔细收集和整合来自广泛来源的数据,以准确反映目标人群的人口统计学特征、特点、医疗保健需求和潜在差距。这种多样性不仅对于开发能够满足众多患者需求的人工智能系统至关重要,而且对于培养对人工智能驱动医疗保健解决方案的信任和信心也至关重要。通过整合来自不同患者人群、年龄组、疾病阶段、文化和社会经济背景以及医疗保健环境的数据,人工智能可以学会以更高的精确度和情境理解来识别、诊断和治疗广泛的患者状况。这种全面的数据收集和管理方法可防止人工智能系统中出现潜在偏见,从而减少差距并促进医疗保健结果的公平性[76]。此外,多样化和具有代表性的数据集可确保人工智能算法在不同场景下得到严格测试,从而增强其整体性能和实用性。这使医疗保健提供者能够依赖人工智能驱动的诊断和治疗建议,从而改善患者护理并减轻临床医生的工作负担。
算法审计和验证
定期审核和人工智能验证在识别和处理潜在偏差、确保人工智能系统在不同医疗环境中保持公平、准确和有效方面发挥着至关重要的作用。可由外部专家或组织进行独立审核,以评估人工智能的公平性、准确性和性能,并对算法进行调整以纠正已识别的偏差[88]。医疗格局不断变化;因此,无法保证性能优异的人工智能算法在未来仍能保持其高性能[89]。验证研究对于核实人工智能在不同患者人群和病症中的有效性至关重要[72]。有人主张在医院内设立专门的算法质量控制部门[90]。该部门应负责持续监测人工智能性能、识别潜在偏差并对算法进行必要更新。这种主动的质量控制方法将确保人工智能系统受到问责,并保持其有效性,为所有患者提供准确和公平的照护。鉴于医疗人工智能日益普及,从业者必须保持警惕,在算法开发过程中和部署后评估关键指标,如漏诊率和其他健康差异。这种持续评估将有助于识别和纠正新出现的问题,确保人工智能系统继续有效和公平地服务于患者。
对临床医生和患者的教育
教育临床医生和患者认识人工智能固有的偏见,对于促进共识和推动医疗保健公平至关重要[1]。这一教育过程包括提高对潜在偏见的认识、分享应对偏见的最佳实践,以及鼓励就人工智能在医疗保健决策中的影响开展公开讨论。了解人工智能偏见的临床医生可以避免过度依赖人工智能生成的结果,并基于更准确的信息做出决策[91]。这种认识的提高使医疗保健专业人员能够批判性地评估人工智能建议、权衡潜在风险与获益,并在做出患者照护决策时考虑替代信息来源。此外,临床医生可以倡导并参与人工智能系统的开发和评估,以确保其专业知识和经验被纳入模型,进一步增强模型的准确性和可靠性。了解人工智能偏见的患者可以做出更知情、更满意的决策[92, 93]。通过认识人工智能生成建议的潜在局限性和偏见,患者可以与医疗保健提供者就治疗方案开展更有意义的对话,并在自身照护中发挥更积极的作用。这种赋权促进了以患者为中心的照护,并确保在做出医疗保健决策时考虑个人偏好、价值观和具体情况。为培育持续学习和改进人工智能的文化,建立医疗保健专业人员与患者之间的反馈和协作渠道至关重要。这可以通过研讨会、会议、在线论坛或跨学科协作来实现,汇聚多元视角和经验。通过分享知识、见解和最佳实践,他们可以共同努力识别和应对偏见,并持续完善人工智能系统,以更好地满足所有患者的需求。
伦理与法律考量
数据隐私与安全
确保数据隐私是人工智能公平性的重要伦理和法律考量,因为它对患者自主权、对人工智能的信任以及遵守法律框架具有重大影响。尊重患者自主权并保护机密医疗信息是合乎伦理地实施人工智能的基础,只有通过解决与数据隐私相关的重要问题才能实现这一点[94, 95]。其中一个问题是获取数据使用的知情同意[96, 97]。患者必须充分了解其数据如何被人工智能使用、共享和存储。为实现这一目标,需要就数据共享的目的、风险和益处进行透明沟通,使患者能够就参与人工智能驱动的医疗保健举措做出知情决定。保护数据存储和传输是数据隐私的重要方面[98]。需要采取强有力的安全措施,如加密和匿名化技术,以保护患者数据免受未经授权的访问、数据泄露和其他网络安全威胁。此外,必须实施严格的访问控制和审计机制,以监测和追踪数据使用情况,确保问责制并防止数据滥用。遵守隐私法规,如美国的《健康保险可携性和责任法案》(HIPAA)和欧盟的《通用数据保护条例》(GDPR),对于合法且合乎伦理的人工智能实践至关重要[99]。这些法规为个人健康信息的收集、存储和处理提供了严格的指导方针,人工智能研究人员和医疗保健专业人员必须遵守标准化的数据保护协议。通过应对这些挑战并确保数据隐私,人工智能开发者和医疗保健专业人员可以增进对人工智能的信任,维护患者自主权,并遵守伦理和法律标准。这促进了尊重所有患者隐私和尊严的公平公正的人工智能驱动医疗保健解决方案的开发与实施。
责任与问责
为解决人工智能生成的预测中可能存在的错误、有害结果和偏倚,必须建立医疗保健人工智能中责任与问责的明确指南。这包括确定各利益相关方(如医生、人工智能开发者和医疗机构)在发生误诊或其他患者伤害情况下的角色和责任[100, 101]。医生应负责验证人工智能生成的诊断并将其整合到临床决策过程中。这可能涉及对人工智能输出进行批判性评估,将其与其他相关临床信息一并考虑,并就患者护理做出知情决策。相反,人工智能开发者有责任确保其算法的准确性、可靠性和公平性。这包括解决偏倚问题并根据临床界的反馈持续改进算法。开发者还需要就人工智能解决方案的预期用途和局限性提供明确指导,使医生能够就其患者护理中的应用做出知情判断。医疗机构在监督人工智能解决方案整合到临床工作流程中发挥关键作用[90]。它们必须确保具备必要的基础设施、培训和支持,以安全有效地使用人工智能。这包括制定管理潜在风险和有害结局的政策和程序,以及监测和评估人工智能性能以确保持续质量改进。一个健全的问责与责任框架使人工智能利益相关方能够更有效地应对潜在的伦理和法律问题。因此,对人工智能驱动医疗保健解决方案的信任可以增强,从而促进负责任的使用并改善患者结局和整体护理质量。
透明性与可解释性
透明性和问责制是伦理人工智能的基本要素,因为它们使医疗保健专业人员和患者能够理解人工智能生成预测的依据,并培养对人工智能的信任[102]。为增强人工智能的问责性,开发可解释的算法、可视化决策过程以及对人工智能预测提供可理解的解释非常重要[103]。通过提高医疗保健中人工智能的透明性和问责性,可以支持医疗保健专业人员和患者做出知情决策,并解决与医疗保健中使用人工智能相关的伦理和法律问题[104]。然而,认识到可解释性的局限性很重要[104–107]。即使使用显著性图来可视化图像中对人工智能判断有贡献的区域,人类也必须解读解释背后的含义。当人们偏好那些证实其信念或假设的含义时,这被称为确认偏倚。换言之,即使人工智能不准确或不可信,人类也倾向于积极地解读解释。认识到可解释人工智能的局限性对于对其潜在益处和缺点保持现实视角很重要。通过在透明性、问责性和理解可解释人工智能局限性之间取得平衡,医疗保健专业人员可以应对与医疗保健中使用人工智能相关的伦理和法律问题。
利益相关方之间的协作
医生、人工智能研究人员和人工智能开发者
医生、人工智能研究者和人工智能开发者之间的合作对于解决人工智能中的公平性问题至关重要[108, 110]。医生的参与可以为人工智能研究者提供有价值的领域专业知识和见解。近期为利用图像而开发的人工智能[14, 111]与放射科医生尤为匹配。通过与医生交流该领域的专业知识并分享他们在实际医疗实践中使用人工智能的经验,可以实现一个改进循环。通过共同努力,利益相关者可以识别潜在的偏倚并制定有效的策略来减轻这些偏倚,确保人工智能是公平、公正且有效的。此外,关于人工智能偏倚的实证研究对于独立研究者而言往往难以分析,因为大规模部署的算法通常是专有的[112]。这使得充分评估偏倚变得困难,因此不仅需要人工智能研究者的积极参与,也需要来自公司的人工智能开发者的积极参与。
政策制定者和监管机构
政策制定者和监管机构通过建立全面的指南、标准和法规来规范医疗保健中人工智能的开发和部署,在确保人工智能公平性方面发挥着至关重要的作用[95, 113–115]。通过积极主动地制定政策,他们可以促进人工智能设计、训练和验证框架的发展,确保人工智能在构建时考虑到公平性和包容性。促进人工智能的透明度和问责制也是其职责的重要方面[5, 116]。政策制定者和监管机构可以实施相关要求,让人工智能开发者披露其方法、数据来源和性能指标,从而能够更好地评估和比较人工智能。此外,政策制定者和监管机构可以将资源和资金分配给人工智能创新和研究,以及用于解决人工智能驱动的医疗保健中的公平性和公正性问题。通过制定鼓励发展以健康公平为重点的人工智能技术的政策,政策制定者和监管者可以最大限度地减少偏倚,确保所有患者都能从人工智能中受益,无论其背景或处境如何。这将有助于建立一个更加公平的医疗保健系统,在其中人工智能驱动的解决方案可以改善患者结局并减少在获得高质量护理方面的差距。
患者和倡导团体
患者和倡导团体在推进人工智能公平性方面发挥着关键作用,因为他们为对话贡献了宝贵的见解和第一手经验。他们能够提供关于不同患者群体需求和偏好的宝贵见解,确保人工智能应对各个社区面临的具体挑战[86, 117, 118]。作为直接受人工智能输出影响的患者,他们在识别人工智能可能在医疗结果中存在潜在偏见和差异的领域方面具有切身利益。通过与患者和倡导团体合作,医生、人工智能研究人员和人工智能开发者可以更深入地了解不同患者群体面临的独特挑战和关切,并促进开发针对个体需求量身定制的更公平、更有效的人工智能解决方案[119]。这也有助于建立对人工智能驱动医疗的信任[84, 85]。通过在人工智能的设计、实施和评估中赋予他们发言权,组织可以通过回应他们的关切和增强透明度来展示对患者的承诺。
专业协会
专业协会在引导人工智能驱动医疗解决方案的开发和实施、应对伦理挑战以及推广最佳实践方面发挥着关键作用。制定指南、标准和伦理框架,促进跨学科合作,以及推动所有利益相关者之间的公开对话,将弥合这一差距。其独特地位使其能够为制定公平透明的政策和实践做出贡献,同时确保人工智能技术以负责任、公平且符合患者最大利益的方式开发和部署。
建议与未来方向
医疗领域人工智能公平性的最佳实践
为促进医疗领域的人工智能公平性并确保所有患者获得公平且准确的照护,制定一项在多层面应对偏见以及伦理、法律和实践问题的综合策略至关重要。该方法应促进关键利益相关者之间的合作,以实现公平的人工智能驱动医疗解决方案。我们提出以下建议,称为FAIR(医疗领域人工智能公平性建议)原则,旨在确保公平公正的人工智能驱动医疗解决方案(见表1):确保人工智能开发中的多样性和代表性数据
在人工智能开发和训练过程中使用多样化和具有代表性的数据。这确保人工智能系统能够更好地识别、诊断和治疗广泛的患者状况,减少差异,并促进医疗结果的公平性。2.人工智能算法的独立审计与验证
由独立专家或组织对人工智能算法实施定期审计和验证。这确保评估过程的客观性和透明度,并有助于识别潜在偏见,从而对算法进行必要的调整。在医院内建立专门的算法质量控制体系,以持续监测人工智能性能、识别潜在偏见并相应更新算法。3.面向临床医生和患者的人工智能偏见教育
教育临床医生和患者认识人工智能固有的偏见,并根据需要持续开展教育。这将促进共识,并通过为医疗专业人员和患者建立反馈与协作渠道,鼓励就人工智能在医疗决策中的影响展开公开讨论。这可以通过研讨会、会议、在线论坛和跨学科合作来实现。4.加强数据隐私和安全措施
加强数据隐私和安全措施,确保遵守HIPAA和GDPR等现有法律框架。制定透明的沟通协议,告知患者数据的使用、存储和共享情况,使其能够就是否参与人工智能驱动的医疗举措做出知情决定。5.建立责任和问责框架
应建立强有力的责任和问责框架,明确界定医生、人工智能开发者和医疗机构的角色和职责。鼓励对人工智能算法进行持续反馈和改进,同时保持透明度,并就人工智能解决方案的预期用途和局限性提供指导。6.增强人工智能透明度和可解释性
通过开发可解释的算法、可视化模型的决策过程以及为人工智能预测提供解释,增强人工智能的透明度和可解释性。认识到可解释人工智能的局限性,并解决潜在偏见,以防止过度依赖人工智能生成的输出。7.医生、人工智能研究人员和开发者之间的合作
促进医生、人工智能研究人员和开发者之间的合作,以分享专业知识、识别潜在偏见并制定缓解策略。应鼓励人工智能公司的积极参与,以支持关于人工智能偏见的独立研究并提高算法公平性。8.政策制定者和监管机构的参与
让政策制定者和监管机构参与制定全面的指南、标准和法规,以确保人工智能公平性;促进透明度和问责制;并分配资源以支持人工智能驱动医疗领域的研究和创新。9.患者和倡导团体参与人工智能开发和评估
让患者和倡导团体参与人工智能解决方案的设计、实施和评估,赋予他们在决策过程中的发言权。利用他们的见解和经验来应对独特挑战,并促进开发适合个体需求的公平人工智能解决方案。10.专业协会的支持
专业协会帮助建立指南、标准和伦理框架,并促进跨学科合作和所有利益相关者之间的公开讨论。其独特地位使其能够制定公平和透明的政策与实践。
通过实施这些建议并解决数据和算法中的偏见,人工智能驱动医疗领域的利益相关者可以促进信任、透明度和包容性。这将确保人工智能技术以合乎伦理、负责任和公平的方式开发和部署,造福所有患者,无论其差异如何。最终,这种方法有助于建立更加公平的医疗系统并改善患者结局。
研究空白和未来工作
关于人工智能偏见和公平性的担忧,存在若干研究空白和未来研究机会。应开展随机对照试验,探索人工智能在改善患者照护和结局方面的潜力。这些试验应纳入多样化人群,并采用针对不同人口群体特定需求定制的人工智能。应研究人工智能在医疗保健中的采用对患者治疗、结局和医生工作量的长期影响。应定期监测模型,以解决可能随时间推移而出现的偏见[89]。开发可解释性和透明度的新技术是必要的,以使医疗保健专业人员和患者能够更好地理解人工智能生成的预测,增进对人工智能的信任,并确保其合乎伦理的部署。
结论
在本综述中,我们首先定义了医疗保健领域人工智能中的公平性,通过示例和潜在对策介绍了各种偏见,并强调了与利益相关者合作的重要性。随后,我们讨论了重要的伦理和法律问题。因此,我们将最佳实践总结为FAIR声明。这包括准备多样化和具有代表性的数据、持续验证人工智能、教育医生和患者,以及强调跨学科合作的重要性。尽管实施每一项最佳实践都很困难,但随着人工智能在医学领域的整合不断推进,这些努力已变得越来越重要。此外,人工智能技术仍在不断发展,情况也在不断变化,新挑战层出不穷。聊天生成预训练变换器(ChatGPT)等工具的出现预计将极大地改变白领工作,医生也不例外[120–122]。我们目前正处于一个医生需要灵活思维和快速应对新技术能力的时代。
自诞生以来,人工智能已影响现代社会的多个方面,带来了显著进步。医学领域也未能置身于这一变革浪潮之外,放射学尤其有望利用人工智能的力量[123]。鉴于这一独特地位,放射学界负有重要责任,应分享其将人工智能积极整合到医学中的经验[124–126],为其他医学专科提供宝贵的指导和见解。作为人工智能实施的先驱,放射科医生应在医疗保健中倡导人工智能公平。我们在应对人工智能采用复杂格局和克服其部署相关挑战方面的早期经验,可以作为其他医学专业人员的路线图。通过这样做,我们可以确保人工智能惠及所有患者,无论其背景如何,并为社会更大的利益做出贡献。
引用
- Ueda D, Kakinuma T, Fujita S, et al. Fairness of artificial intelligence in healthcare: review and recommendations. Jpn J Radiol. 2023. PMID: 37540463. doi:10.1007/s11604-023-01474-3
- 全文:PMC10764412(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC10764412/
供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。