文献速递技术与安全

放射科人工智能项目的网络安全考量

Cybersecurity considerations for radiology departments involved with artificial intelligence.
PubMed 文献 · Eur Radiol · 2023-07-07

本文综述了放射科人工智能项目中的网络安全问题,涉及数据、训练、实施和审计等环节,并介绍了通用和医疗特定的网络安全挑战、监管要求以及风险缓解策略。文章强调放射科医生对AI相关网络安全问题的意识或培训可能不足,建议借鉴金融和国防等行业的经验,通过检测和预防技术提升安全性。

要点

  • 放射科AI项目整合多种设备与网络,网络安全威胁已成为医疗主要风险之一。
  • 放射科医生对AI特定网络安全问题的意识或培训可能不足。
  • 可借鉴金融、国防等行业经验,通过检测与预防技术提升安全性。

核心结论

  • 放射科AI项目复杂且伴随网络安全风险,医疗行业网络安全威胁日益增多。
  • 医疗提供者和设备制造商可借鉴其他行业领先的网络安全实践。
  • 本文介绍了网络安全概念、挑战及通过检测和预防技术提升安全性的方法。

研究设计与样本

  • 本文为综述,旨在介绍与医学影像相关的网络安全概念,并提供通用和医疗特定网络安全挑战的背景信息。
  • 文章讨论了通过检测和预防技术增强安全性的方法,以及技术如何在降低风险的同时提升安全性。
  • 综述首先回顾通用网络安全概念和监管问题,然后结合放射科AI的数据、训练、实施和审计性进行探讨,最后提出风险缓解策略。

诊断标准与关键数值

  • CIA三元组:机密性、完整性和可用性是定义组织安全计划的知名网络安全模型。
  • HIPAA安全规则要求医师使用适当的行政、物理和技术保障措施,确保电子受保护健康信息的机密性、完整性和安全性。
  • GDPR第5(1)(f)条「安全原则」强调个人数据的「完整性和机密性」,要求采取适当技术和组织措施确保安全。
  • GDPR第32条要求组织采取与风险相称的适当技术和组织措施,并包含「不成比例的努力」概念。
  • ISO27001是管理信息安全的国际标准,涵盖14个不同控制集,主要关注治理和政策层面的信息安全管理。

临床应用与阅片要点

  • 放射科医生应了解AI项目中的网络安全风险,并参与数据去标识化、审计和临床治理。
  • 在AI项目的数据、训练、实施和审计环节中,应实施强安全控制(如加密、多因素认证和端点保护)。
  • 应定期审计和临床治理AI系统,注意连续学习中的灾难性遗忘问题。
  • 应避免使用遗留软件,采用网络分段,并记录所有用户操作以便事件根因分析。
  • 可考虑联邦学习等技术在保护数据隐私的同时训练模型,但需注意节点增加带来的攻击面扩大。

局限性

  • 本文为综述,未报告原始研究数据或定量分析。
  • 未涉及特定影像检查方式的技术参数或诊断准确性数据。
全文中译23 节 · 点击展开
本译文由 AI 依据开放获取原文逐段翻译,供学习参考,可能存在误差,请以原文为准。原文 © 原作者,按 CC BY 许可使用,本译文为翻译改编。出处:Eur Radiol. 2023 Jul 7;33(12):8833–41. doi: 10.1007/s00330-023-09860-1

引言

开展放射学人工智能(AI)项目涉及整合大量医疗设备、无线技术、数据仓库甚至社交网络。网络安全威胁对医疗行业而言并非完全陌生,但随着放射学AI研究的兴起,此类威胁无疑变得更加普遍,并已被确定为2021年主要医疗风险之一[1]。医疗服务提供方和设备制造商可以从研究金融和国防等行业部门的网络安全实践中获益,这些行业已实施了强有力的安全措施来保护敏感数据并防范网络攻击。通过考察这些方法并将其调整以适应医疗环境的独特挑战,提供方和制造商可以改善其网络安全态势,降低放射学AI项目中数据泄露和其他安全事件的风险。本综述旨在介绍与影像相关的网络安全,阐述一般性和医疗行业特有的网络安全挑战的背景,通过检测和预防技术改善安全的通用方法,以及技术能够在降低风险的同时增强安全的实例。我们将首先讨论一般网络安全概念和监管问题,然后从数据、训练、实施和可审计性方面考虑这些主题与放射学AI的关系,最后提出降低风险的潜在方案。

一般性与监管考量

一般网络安全概念

近年来,各行业数据泄露和网络攻击(如勒索软件)的发生率呈指数级增长[2]。图1显示了2009年至2020年间向美国卫生与公众服务部民权办公室报告的数据泄露数量稳步增长的情况[3]。因此,各组织正在实施强制性的、有监管支持的网络安全项目,这在医疗行业尤为重要,因为其在社会中扮演着关键角色且所保留的数据具有敏感性。用于界定组织内安全项目的著名网络安全模型被称为“CIA三元组”。CIA三元组涉及数据的机密性、完整性和可用性原则。这些术语的定义见(表1)[4]。

医疗保健行业正成为一个高度受针对的网络攻击目标行业。一项对223家机构的调查确定,81%受到网络攻击影响,2015年美国超过1.1亿患者的数据遭到泄露[5]。图2显示了按类型划分的事件模式百分比,图3显示了按类型划分的事件百分比[6]。类似地,图4显示了根据2020年医疗信息与管理系统学会(HIMSS)网络安全调查[7]所报告的基于对168家美国医疗保健机构调查的安全事件数量。医疗保健行业目前在保护关键数据方面落后于其他领先行业部门[8]。医疗保健网络安全项目成熟度不足可能是组织风险优先级排序、资源和人脉资金有限、治理分散以及文化行为的结果。对信息技术(IT)的持续投资不足可能导致有效保护遗留IT面临挑战[8]。使用生命周期终止软件会带来更高风险,这一点已在针对医疗保健提供者的攻击中清楚证明,例如爱尔兰健康服务执行局的“Conti”和英国国家医疗服务体系的“WannaCry”勒索软件攻击[9, 10](图5)。

图1 向卫生与公众服务部民权办公室报告的数据泄露数量 查看原图 ↗
表1 CIA三要素 查看原表 ↗
图2 医疗保健行业事件模式(n = 798) 查看原图 ↗
图3 医疗保健行业泄露模式(n = 521) 查看原图 ↗
图4 过去十二个月经历的重大安全事件类型(n = 168) 查看原图 ↗
图5 重大安全事件——事件影响(n = 168) 查看原图 ↗

监管合规与标准

政府和监管机构已通过强制组织落实强有力的网络安全项目来应对日益增多的网络安全威胁,以确保所有个人的个人信息受到保护。美国《健康保险携带和责任法案》(HIPAA)和欧盟《通用数据保护条例》(GDPR)[11, 12]是促成网络安全项目改进的主要立法行动。

HIPAA

HIPAA有一项明确的安全规则,要求医生保护患者以电子方式存储的受保护健康信息(称为“ePHI”)。该规则要求医生使用适当的管理、物理和技术保障措施,以确保此类信息的保密性、完整性和安全性[11]。HIPAA中的安全规则适用于任何以电子格式传输健康信息的医疗保健提供者。

GDPR

GDPR并不专门适用于网络安全或医疗保健;它确保组织妥善存储和处理个人可识别信息(PII)。因此,GDPR直接适用于医疗保健行业。关于安全性,GDPR“安全原则”第5(1)(f)条强调个人数据的“完整性和保密性”。它规定个人数据应:以适当的技术或组织措施确保个人数据适当安全的方式处理,包括防止未经授权或非法的处理以及防止意外丢失、销毁或损坏。

与HIPAA类似,GDPR并未规定具体的安全控制措施。然而,安全控制措施必须与风险相适应,并保护PII的保密性和完整性。GDPR认识到,组织实施某些安全措施可能困难或不切实际。为解决这一问题,GDPR引入了“不成比例的努力”这一概念,允许组织在实施某些安全措施时考虑成本和技术的可行性。具体而言,GDPR第32条规定,组织必须实施适当的技术和组织措施以确保个人数据的安全,但这些措施应与所涉及的风险成比例。

换言之,如果实施某些安全措施在时间、成本或其他资源方面需要不成比例的努力,组织可能被允许实施仍能提供适当安全水平的替代措施。

值得注意的是,“不成比例的努力”这一概念并非漏洞,也不是组织尽量减少安全措施实施的借口。相反,它是对以下情况的认可:在某些情形下,实施某些措施不切实际或不可行,组织必须以适合其资源和能力的方式评估和管理其风险。

美国和欧盟之间主要监管差异的总结可见表2 [13–15]。

表2 HIPAA与GDPR对照汇总表 查看原表 ↗

数据考量

过去十年间,医疗数据量显著增长 [16]。这相应带来了对能够解读数据的医学专家需求的增长。然而,医学专家的供给目前无法满足需求 [17]。人工智能的使用已被提出作为解决这一问题的一种潜在方案 [18]。为机器学习准备医学影像数据的过程已被概述,该过程认识到了与共享医学影像数据相关的数据考量的伦理问题 [19]。

数据伦理

使用患者个人数据训练和测试人工智能算法的伦理影响是复杂的,也是一个值得辩论的问题 [20]。Larson及其同事 [21] 认为,与其考虑医疗机构或患者是否“拥有”数据,不如将数据视为一种可造福社会的资源更为有效。Kurpinski [22] 观察到,几乎每家医疗机构都曾有第三方请求购买其数据。虽然购买数据的伦理问题仍是一个争论的话题,但显而易见的是,安全性和保密性的更新与良好的伦理标准密不可分。

数据访问

大多数数字健康数据存储在电子健康记录(EHR)中。然而,伴随所有潜在益处而来的是与隐私和安全相关的弊端。关键的潜在安全顾虑之一涉及需要与EHR交互的不同系统和服务(放射信息系统、实验室、计费系统)的数量,这些代表了潜在的访问点。多用户与EHR交互的能力是其价值的基石。然而,多用户也带来其自身的风险。那些拥有访问互联网或下载在线内容权限的人员有可能被利用。

数据查询

不同医疗保健设备和信息系统之间自由交换信息的重要性已得到充分确立[23]。不同供应商和技术之间的集成框架在健康 level 7(HL7)中进行了概述。基于 XML 的 HL7 版本 3 涉及无需加密的文本数据传输。为促进不同技术之间的传输,HL7 假定加密将在较低层级进行,并且不提供协议级别的加密。

数据去标识化

去标识化从患者数据中移除或分离 PII。这是确保患者隐私的必要过程。然而,此过程中存在若干挑战。例如,存在许多类型的软件可以从医学图像中移除患者姓名和其他数据(如出生日期)。然而,大多数医学图像是包含元数据的复杂文件。这些元数据随后可用于识别患者。此外,医学图像本身通常包含可识别信息,例如可用于重建患者面部图像的数据。这强调了放射学特定用例遇到的一些额外复杂性,尽管存在不成比例努力的概念[24]。

数据存储

医学数字成像和通信(DICOM)是已有 30 年历史的国际标准协议,用于管理和传输医学图像,如超声、MRI、X 射线和 CT 扫描[25]。2019 年,研究人员强调了“展示攻击者如何使用深度学习从体积(3D)医学扫描”(即 DICOM 文件)中“添加或移除医疗状况证据”的可能性[26]。研究人员证明,使用恶意软件修改 DICOM 文件格式是可能的。迄今为止尚未发生此类攻击;然而,这项研究强调医疗保健行业特有的安全问题存在且此前未被审查。这进一步强调需要审查医疗保健技术和行业标准以识别潜在的安全漏洞。

数据传输

数据通常需要传输到不同的医疗保健机构或提供者。这种传输可以通过网络连接以物理或虚拟方式进行。医疗保健机构通常没有计算资源来执行大规模数据分析,并将数据传输到外部组织(如行业合作伙伴)以执行数据分析。此过程增加了网络攻击面。无论数据存储在本地还是远程,安全性和隐私都是硬件和软件应用、访问控制以及管理这些过程的系统完整性的重要考虑因素。

数据标注

数据标注涉及分配一个或多个为数据提供上下文的描述符,代表了数字健康大数据和 AI 中最有趣的挑战之一[27]。数据标签在网络攻击期间可能被破坏。AI 算法随后可能在此数据上训练,这将导致不准确的结果或建议。这可能对患者护理产生有害影响,并且可能仅在 AI 算法的评估或测试期间才变得明显。

训练

机器学习系统往往无法区分有效的训练输入数据与被操纵的训练输入数据。AI模型通常使用开源平台构建,其中Python、R和C是开发AI算法最常用的编码语言[28]。用这些编码语言开发的软件经常成为攻击目标。此外,机器学习项目通常使用Numpy和Scikit learn等开源库。使用这些库也带来安全挑战。例如,在发现漏洞后,可能难以及时对这些库进行快速更改。此外,如果软件中使用了多个开源库,识别所有正在使用的模块可能会变得困难。在使用Keras和Pytorch等高层API时尤其如此。如果所有模块未知,这可能导致软件中存在未识别的漏洞。算法本身可能带来网络安全挑战,用于视觉影像分析的卷积神经网络已被证明容易受到恶意攻击[29]。

潜在解决方案

医疗机构内网络安全计划的成熟度可能处于令人担忧的水平;有几个反复出现的问题将减轻部分风险。

审计

系统的定期审计和临床治理对于与数字健康系统的安全集成至关重要。对于使用持续学习作为机器学习方法的系统来说,这可能具有挑战性,因为模型是随着时间推移在传入数据流上训练的,而不是在固定数据集上训练的。这使模型能够适应数据分布的变化,并随着时间的推移持续提高其性能[30]。另一个主要挑战是灾难性遗忘,指的是机器学习模型在新数据上训练时倾向于忘记先前学到的信息[30]。具体而言,当模型学习新信息时,它可能覆盖或“忘记”先前学到的信息,导致在先前任务上的性能下降。灾难性遗忘在模型需要随时间执行多个任务的场景中可能尤其成问题,例如在医疗保健或金融应用中。例如,一个被训练用于诊断某种医疗状况的模型可能需要随着时间的推移不断用新数据更新,但它也需要保留诊断先前见过的状况的能力。

为了解决持续学习中的灾难性遗忘,已经开发了各种技术,如正则化方法、基于集成的方法和生成式重放。这些方法试图平衡模型学习新任务的能力与保留先前学习信息的能力,使其能够在不忘记过去所学内容的情况下持续提高性能。

安全控制

强大的安全控制措施(如加密、多因素认证和端点保护解决方案)是保护医疗机构内数据的明显第一步。此外,组织可以将其信息安全计划与常见的网络安全行业框架对齐,以维持“最低”级别的安全标准和控制。一个知名的信息安全框架ISO27001是管理信息安全的国际标准,涵盖14个不同的控制集,涉及各种信息安全领域,主要侧重于从治理和政策层面管理信息安全[31, 32]。在某些情况下,框架内所含安全控制的认证可由外部机构进行认证,以使组织的安全计划获得认证。增加安全控制与合规之间存在有趣的相互作用。遵守网络安全框架/监管要求似乎可以提供安全性;然而,在实践中,它可能无法提供更高水平的安全性,并且往往难以跟上技术进步的步伐。安全控制会定期更新,在某些情况下可能提供比监管机构规定的要求更大的保护。

处理遗留软件

如前所述,由于医疗保健中所使用技术的环境独特性,运营可能依赖基于遗留软件的系统。这些系统通常使用遗留软件(即Microsoft Windows 7操作系统)运行,由于不受供应商支持且没有最新的安全控制,因此存在风险。如果遗留软件中发现漏洞,它可能无法获得修复,并可能成为永久性风险。医疗机构应维护稳健的生命周期和资产管理计划,以确定其支持基础设施的范围并识别与遗留软件相关的风险。这还需要医疗技术供应商的支持,以确保软件与最新操作系统版本兼容。

网络安全

医疗保健系统使用信息系统在不同部门和机构之间传递行政和临床数据。“扁平”网络允许网络上的设备与同一网络内的其他设备通信,路由/交换控制极少。已知在创建这些通信路径时使用正确的网络分段可显著降低网络攻击的风险,否则攻击可能利用这些通信渠道在整个组织中传播。

审计与日志记录

医疗设备被开发用于准确、安全地服务于特定医疗目的。这些设备应记录用户在设备上的所有操作。因此,当事件发生时,可以检查日志并确定事件的根本原因。然后这些数据可用于改善设备的网络安全,从而增强机构的整体安全性。

开发运维与开发安全运维

随着网络攻击的发生率上升和软件开发实践的成熟,用于开发基于软件的解决方案的开发运维(DevOps)和开发安全运维(DevSecOps)流程日益普及。这些流程旨在将网络安全的集成提前到软件开发的早期阶段。这被称为“左移”,使网络安全能够内建于软件开发过程中,并允许在流程早期识别潜在的安全问题。研究表明,实施DevOps和DevSecOps流程可产生更安全的设备/系统[33]。在开发过程早期识别安全问题也为以更低成本更早修复问题提供了机会。

联邦学习

联邦学习是一种创新技术,能够开发更稳健的模型[34]。联邦学习在医院和机构本地训练模型,而不是从不同机构收集数据并将数据集中存储。因此,敏感数据可以保留在其数据控制者处,避免因在机构之间传输数据而带来的相关法律和安全复杂性。

一种常见的联邦学习方法是联邦平均,其中客户端是在每个站点数据上本地工作的人工智能模型。它们独立执行本地梯度更新,并将其权重传回中央服务器。所有站点的权重被平均后广播回所有站点,用于下一轮训练。

在另一站点数据上微调预训练权重是另一种常见的协作技术。然而,该技术通常在一个站点训练出的权重易于获取时应用,例如来自公共数据集[35]。在循环机构增量学习和机构增量学习技术中,一个模型从一个站点传递到另一个站点,直到所有站点的数据都被用于增量更新该模型的权重。

学习可以执行多次,以确保早期特征不断增强。联邦平均需要许多客户端与服务器进行同步和通信,这在训练过程中可能成为显著的开销。然而,从概念上讲,联邦平均对于可能包含有限数量对手的站点网络更为稳健,这些对手可能试图(也许在不知情的情况下)减慢网络速度或注入不良或偏斜数据[36]。

联邦学习的另一个挑战是,网络攻击的接入点随着节点数量的增加而增加。如果单个节点被攻破,模型的完整性将受到影响。确保所有系统始终更新最新的安全控制是一项具有挑战性的任务。联邦学习模型可能引入特定的安全弱点,这些弱点随着每增加一个节点而攻击面扩大而呈指数级增长。

结论

在这篇综述中,我们提供了与放射学人工智能相关的网络安全背景。我们介绍了核心概念及其如何应用于数据训练和实施,并介绍了降低风险的潜在方法。虽然人工智能革新放射学实践的前景显而易见,但重要的是要认识到,连接性的增强和技术的采用对医疗保健数据的保密性、完整性和可用性可能产生的影响。

引用

  1. Kelly, Quinn, Belton, et al. Cybersecurity considerations for radiology departments involved with artificial intelligence. Eur Radiol. 2023. PMID: 37418025. doi:10.1007/s00330-023-09860-1
  2. 全文:PMC10667413(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC10667413/

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。