联邦学习与研究原型:多中心MRI前列腺癌检测的跨机构泛化改进
该研究提出一种灵活的联邦学习框架,用于跨机构训练、验证和评估自定义深度学习前列腺癌检测算法。利用两家大学医院的1400余例异质性多参数前列腺MRI,采用UCNet模型同时监督像素级、区域级和腺体级分类。结果显示跨机构病灶分割IoU提升100%,跨机构病灶分类总体准确率提升9.5-14.8%,而机构内性能下降可忽略。
要点
- 联邦学习可提升前列腺癌检测模型的跨机构泛化性能,同时保护数据隐私。
- UCNet支持异质性病理标注(靶向穿刺、系统穿刺、前列腺切除)的联合监督。
- 跨机构病灶分割IoU提升100%,分类准确率提升9.5-14.8%。
关键影像表现/征象
- 输入为配准的3通道bp-MRI(T2WI、DWI、ADC图),模型输出3D病灶分割图、3D ISUP分级图及区域直方图。
- 跨机构病灶分割性能IoU提升100%,跨机构病灶分类总体准确率提升9.5-14.8%(取决于各站点选择的最优检查点)。
- 机构内性能下降可忽略,跨站点泛化性能显著改善。
诊断标准与关键数值
- 临床显著前列腺癌定义为ISUP分级分组≥2(Gleason分级分组≥2)。
- 跨机构病灶分割IoU提升100%,跨机构病灶分类总体准确率提升9.5-14.8%。
临床应用与阅片要点
- 联邦学习框架可支持异质性标注数据(靶向穿刺、系统穿刺、前列腺切除)的联合训练,无需共享图像或敏感健康信息。
- 使用UCNet时需提供配准的T2WI、DWI和ADC图作为输入,并进行腺体分割和图像强度归一化(IQR99和Z-score)。
- 注意不同机构间MRI协议、标注粒度和病理数据格式的差异,联邦学习可缓解但非消除这些异质性。
局限性
- 改善分类模型绝对性能可能仍需更多数据和参与机构。
- 数据集在种族分布上显著偏向白人男性。
- UCLA站点仅提供每个检查的最高ISUP分级分组,未包含系统穿刺数据,与UCSF数据存在标注粒度不匹配。
全文中译16 节 · 点击展开
引言
前列腺癌是美国男性中最常见的癌症,但数据显示,如果早期发现,其生存率可达99%(1)。与PSA血液检测的低特异性和侵入性活检的潜在并发症相比,基于磁共振成像(MRI)的筛查提供了一种快速、安全(非侵入性)且可定位的前列腺癌检测手段,可辅助诊断和治疗规划(2)。尽管PI-RADS 2.0版引入了前列腺MRI报告亟需的标准化(3),但已表明单个病灶相关评分与活检和组织病理学分析确定的Gleason分级(癌症严重程度)相关性较差,阳性预测值仅为35%(4,5)。虽然PI-RADS 2.1版的引入旨在改进该报告系统(6),但已表明这些变化在提高总体癌症检出率方面效果有限,因为变化仅对极少数患者生效(7)。因此,开发数据驱动算法以辅助和提升放射科医生检测和分期临床显著性前列腺癌(CS-PCa)的能力引起了极大兴趣。
遗憾的是,迄今为止,基于MRI的前列腺癌准确早期检测一直未能被机器学习和甚至深度学习算法所实现。虽然阳性结果已显示在临床显著性病变(Gleason模式 >3 + 3,Gleason分级组 ≥2)的分期方面提高了准确性(8),但绝大多数深度学习前列腺癌检测研究在利用Gleason分级组均衡代表的筛查人群时,发现其准确性与PI-RADS相似(9)。此类模型仍具有临床价值,例如用于从专家放射科医生处转移知识,但需要模型在机构内部和跨机构均具有强泛化行为,而MRI方案、活检数据粒度、MRI硬件和患者人群在不同机构间可能差异显著(10,11)。这对于应用于筛查人群尤为重要,因为前列腺癌可能表现隐匿,而单中心训练可能遭受无意偏差或脆弱性的影响,最终即使在同一机构采集的数据上也会限制性能。
联邦学习(FL)为此提供了克服这些障碍的机会,它提供了一个平台来共享模型和丰富的数据以进行广泛的跨中心验证和增强的模型训练,而无需共享图像或其他敏感的保护健康信息(PHI)。然而,现有的FL实现有许多局限性,例如仅使用有限的最常见神经网络架构集合、冻结模型代码和数据流水线、机构内和机构间数据同质性、或发布机构特定代码或数据,这为纳入研究站点创造了障碍并限制了专业化方法的使用(12)。这对于医学影像问题尤为不利,因为患者检查方案因研究站点而异,深度学习仍处于探索阶段,且社区尚未就理想的模型架构或数据格式达成一致,基于MRI的前列腺癌评估即是如此。
相反,所需要的是一种能够大规模应用深度学习模型的灵活环境,同时保留调试操作、修改模型超参数和数据管道以及处理异构数据格式的能力,并维护参与机构代码和数据的安全性、隐私性和自主性(图1)。联邦学习在其最真实的意义上意味着每个机构应能自由维护各自的实现,只要它们遵守联邦的规则,或者在本例中即应用程序编程接口(API)。为此,在本文中我们介绍一种用于研究原型联邦学习的设计模式,它提供了一个联邦学习(FL)的模板API,具有以下高层次特性:私有的机构特定代码和数据保持私有。每个机构不需要与其他机构甚至中央服务器共享数据加载、预处理或训练代码。例如,梯度或权重通过API调用共享,因此机构特定的实现永远不会被暴露。
所有联邦组件和模型代码均为公开领域。这允许每个机构验证联邦学习系统的安全性、隐私性和运行情况。我们的威胁模型将每个机构视为可信方,中央服务器被设定为诚实但好奇,且仅在安全通道上进行通信。此外,每个客户端对发送至中央服务器的内容拥有程序化控制,防止契约被侵蚀。
自定义模型、训练策略和联邦聚合留给研究人员决定。唯一的要求是每个客户端提供一个get_objects函数,用于组装本地训练所需的对象。分布式训练策略(在后端使用NVFlare (13)实现,或类似地使用Flower (14))构建在本地训练对象之上——而非代码之上,因此研究人员可以自由实验新模型和新策略,而无需修改任何联邦组件。
我们在一个开源工具包FLtools中将这一设计模式具体化,它提供了必要的模型和数据无关的联邦组件,使用联邦学习训练任何前馈深度神经网络,且对站点特定的模型架构代码或本地训练例程零修改。我们通过定义数据和模型抽象来实现这一点,这些抽象被本地训练和联邦训练例程共同使用,但关键之处在于它们可以在不同的联邦客户端和研究站点之间有所不同。我们的工具包可在https://federated.ucsf.edu免费获取,并包含一个模拟系统FLsim,允许在应用与全规模联邦学习系统相同的例程时进行模型调试和中间张量检查。
作为一个说明性示例,在本文中我们使用FLtools对一种定制深度学习模型进行跨机构训练,该模型用于基于多参数MRI的前列腺癌检测和分类。对于此任务,我们采用了最近提出的UCNet模型架构(15),其特征是带有3D感兴趣区(ROI)分类头的全卷积3D UNet骨干网络,能够实现 per-lesion、per-sextant 以及最终 per-exam 的前列腺癌严重程度预测。UCNet模型通过利用国际泌尿病理学会(ISUP)分级分组(或Gleason分级分组)(4)的直方图表示来实现这一点,该表示反映了各研究中心前列腺癌组织病理学的通用数据表示形式,而这些研究中心本身可能包含不同粒度的检查和 groundtruth 组织病理学数据。灵活的UCNet结合所提出的联邦学习系统,使得能够使用具有来自靶向活检、系统活检和前列腺切除术的 groundtruth 数据的异质性检查,以及在病灶、六分区和全腺体水平报告的结果。
既往工作
联邦学习(FL)领域的既往工作既包括理论性问题(各种约束条件下的学习策略,如通信瓶颈、非独立同分布数据或隐私问题),也包括实用价值问题;后者侧重于开发工具和框架以缓解各种用户约束。McMahan等人对各种可用的FL框架和研究问题提供了出色的综述(16)。FL系统面临的主要实际挑战之一是使工作流程尽可能简单直接,理想情况下接近机器学习库用于本地(单机)训练所实现的易用性。在本文中,我们通过开发一个库和设计模式来解决这一痛点,该库和设计模式扩展了NVIDIA的NVFlare工具包,使用可复用、可替换和可互操作的联邦组件进行联邦训练。
具体到基于MRI的前列腺癌检测,已有若干工作利用了联邦学习。Sarma等人(11)使用多中心联邦训练改善了前列腺腺体分割,这是寻找前列腺癌生物标志物的重要子步骤。Yan等人(17)提出了一种变异感知的联邦学习框架,通过将所有客户端的图像(ADC图)变换到共同图像空间来最小化客户端之间的变异。尽管检测模型需要一定程度输入MRI的同质性(序列、分辨率、对比度归一化)以充分利用大型数据集,但传统的FL方法(包括(11)和(17)中的方法)将注释数据类型同质化,而这是机构内部和机构之间的重要离散变异。相比之下,我们的工作通过一种利用高度异质性放射学注释和组织病理学的模型架构直接解决了这一变异。我们使用在UCSF和UCLA研究型医院收集的大型数据集进行多中心联邦学习,评估了该方法的有效性。
材料与方法
数据集与假设
伦理审查委员会批准
本研究的数据和分析获得了UCSF和UCLA机构审查委员会(IRB)的批准。
多参数磁共振成像
前列腺MRI协议通常是多参数采集,由T2加权图像(T2WI)、弥散加权图像(DWI)和动态对比增强(DCE)MRI组成。T2WI MRI提供解剖数据,DWI及相关表观弥散系数(ADC)图代表组织内水运动受限,与健康组织相比,前列腺肿瘤中这种受限会发生改变,而DCE评估血管分布和血供的差异。PI-RADS主要依赖DWI和T2WI,DCE在特定病例中作用和作用影响有限。鉴于DCE在PI-RADS中作用有限,以及其所需增加的采集时间、复杂性、成本和对比剂风险,仅涉及T2WI和DWI的简化双参数(bp-MRI)检查已被越来越多地探索。在此,我们研究bp-MRI用于前列腺癌分类的应用。具体而言,从mp-MRI检查中提取T2加权和DWI以及相关ADC图,并将其用于所有后续分析。
所有MRI数据均在3T MRI扫描仪上采集。在UCSF,扫描在GE Healthcare的MRI扫描仪上进行,主要使用直肠内接收射频线圈。在UCLA,扫描在Siemens Healthineers的MRI扫描仪上进行,通常使用外部接收射频线圈阵列(<2%使用直肠内线圈)。UCSF的T2WI典型参数为二维快速自旋回波序列,TE = 102 ms,TR = 6 s,空间分辨率 = [0.35, 0.35, 3] mm。UCLA的T2WI典型参数为三维涡轮自旋回波序列,TE = 201 ms,TR = 2200 ms,空间分辨率 = [0.66, 0.66, 1.5] mm。UCSF的DWI典型参数为TE = 50-65 ms,TR = 4-5 s,b = 600 s/mm2,空间分辨率 = [1.6, 1.6, 3] mm,或TE = 60-85 ms,TR = 4-5 s,b= 1350 s/mm2,空间分辨率 = [2, 2, 3] mm。UCLA的DWI典型参数为TE = 80 ms,TR = 4.8 s,空间分辨率 = [1.625, 1.625, 3.59] mm,b值 = 1400 s/mm2。本研究中使用的所有病例均采用高b值DWI。来自两个参与研究机构的数据集中的所有序列,所有图像均被降采样和/或插值至x、y和z轴分别为[0.66, 0.66, 2.24] mm的相同空间分辨率。
腺体分割与对比度归一化
由于T2和DWI具有任意的非定量图像幅度,我们应用基于四分位距(IQR99)的图像内归一化,以处理研究机构内部和机构之间MR图像强度值的相对性质,并消除由成像伪影产生的离群值。具体而言,每幅图像均归一化至在三维前列腺腺体内计算的图像级IQR99(由放射科医师或先前开发的神经网络分割模型标注(18,19),如(20)所述):
为克服患者间强度分布高度变异的问题,我们额外应用Z分数图像归一化,将前列腺腺体内的T2WI和DWI图像强度转换为零均值和单位方差。尽管即使经过此预处理,大学A和大学B所用数据集之间的图像特征仍存在差异(图2),但我们发现提供样本级归一化可以显著提高训练模型的性能。通过进一步协调,使用跨样本和跨机构数据集归一化进一步同质化输入数据,可以实现显著改善。
源自前列腺活检的组织病理学
前列腺MRI通常在提示前列腺特异性抗原(PSA)血液浓度升高后进行。在两个研究中心,均由委员会认证的放射科医生对mp-MRI序列进行标注,标记可能的病灶,提示前列腺活检的区域。在UCSF,前列腺活检通过经直肠超声(TRUS)MR引导进行,即将T2 MRI序列与超声融合,以帮助引导穿刺针并靶向MR标注区域。除靶向活检外,UCSF泌尿科医生还对前列腺进行6个区域的系统采样,为腺体层面的癌症判定提供额外信心。遗憾的是,由于前列腺高度非刚性,每个活检核心样本仅关联粗略坐标。也就是说,对于UCSF数据,我们基于配准MR图像空间中前列腺分为六分区的几何划分来假设系统活检的位置,并假设靶向活检发生在配准MRI每一层中每个病灶周围的2D边界框内。每个活检样本的地面真值组织病理学由病理学家确定,其在显微镜下观察活检核心的染色切片并为每个样本分配Gleason模式。我们将此Gleason模式转换为标准化的ISUP分级分组(1-5,0为阴性),其中分级分组≥2表示临床显著前列腺癌(CS-PCa)。
在UCLA,进行类似的靶向TRUS前列腺活检,但增加了创新技术以在超声-MRI联合图像空间中识别穿刺针位置,并增强了放射科医生定义的每个病灶的轮廓勾画。每个活检核心的组织病理学以与UCSF类似的方式确定,产生一组ISUP分级分组评分。然而在本文中,对于UCLA中心的数据,我们假设每次检查中最高的ISUP分级分组是已知的,但不知道它们对应哪个病灶。对于UCLA中心,我们也不纳入任何系统活检数据。可用数据的这种不匹配为我们所选深度架构和监督系统的设计与监督提供了额外考量,这将在第2.2节中变得明显。
研究中心数据集摘要
表1总结了两个研究中心训练、验证和测试检查中ISUP分级分组的分布。由于每个前列腺腺体可能产生多个活检核心,检查按最高ISUP分级分组进行分组。显而易见,我们的数据集在癌症分级分组分布方面存在一定的不平衡,此外还有图像特征方面较难表格化的差异。
这些数据集在年龄、种族、PSA密度方面的人口统计学分布显示于表2中。值得注意的是,这些数据集反映了多样化的筛查和主动监测人群,但由于健康公平性以及UCSF和UCLA所服务的人群,在代表白人男性方面存在显著不平衡。我们希望本文提出的联邦学习系统能够打破传统的数据共享地理障碍,从而使用更多样化的队列。
用于混合组织病理学监督的UCNet
针对该问题,我们采用最近提出的3D UCNet模型,该模型本质上由一个3D残差UNet加上一个额外的全连接分类输出头组成(15)。我们的实现(图3)以配准后的3通道bp-MRI作为输入,预测3D病灶分割图、3D ISUP分级组图以及区域直方图,后者用于确定区域级和检查级的癌症严重程度。尽管类UNet架构适用于医学影像中的许多深度学习任务(11,19,21,22),但UCNet已被证明特别适合联合处理前列腺癌可用的多种互补真实组织病理学数据类型,尽管这些数据来自单一机构(15)。
本文所用联邦学习方法的核心重要性在于动态填充的多任务目标函数,我们用它来训练UCNet,所用数据为机构内部和跨机构收集的高度异质性数据:其中表示配准后的3通道(T2WI、DWI、ADC图)输入MRI,表示真实病灶分割掩膜,表示一次检查中R个区域各自的真实Gleason分级组,表示适用于每个区域可用真实数据类型(病灶活检或系统活检)的监督类型(1-强监督或2-弱监督)。
具体而言,UCNet模型使用来预测tanh激活的3D病灶分割图和softmax激活的3D癌症分级组图,用于填充以下目标项:病灶分割,采用以下组合实现:其中
均匀病灶中的强体素级癌症分级,采用标准分类交叉熵实现:其中1r表示一个指示(Kronecker delta)函数,选择在空间上对应于区域的体素,本文中我们取来表示CS-PCa的二分类检测问题。
以及,组织类型异质的腺体区域中的弱空间癌症分级,通过实现,即每个区域预测的软维直方图,其中:表示在监督信号为1(病灶活检)的每个区域中,对每个直方图箱的标准分类交叉熵求和,表示在监督信号为2(系统活检)的每个区域中,对大于真实活检评分的每个直方图箱的分类交叉熵的修正求和。的思路是抑制代表组织病理学数据不支持的等级组的体素比例,即对于异质组织,对应于真实等级组的直方图箱可能不具有最高比例。
最后,由预测得到的直方图被馈入RegionNet分类头以产生区域级预测,其使用标准交叉熵目标函数进行监督:
关于UCNet方法的更多细节以及与最先进方法比较的基线实验,在(15)中有全面论述。
联邦学习的模块化框架
我们使用联邦学习(FL)作为一种方法,在研究机构之间整合并最大化利用前列腺MRI检查数据,同时将对研究原型算法设计及现有训练和验证流程的影响降至最低。尽管所选的UCNet模型在处理与前列腺MRI相关的多样化组织病理学数据类型方面提供了相当大的灵活性,但本文的目标是开发一种方法,以处理不同机构间数据类型的多样性,而不论所选的具体模型如何。
分布式联邦学习通常需要将“本地”(单机)训练循环改造为“联邦”训练循环,其中模型权重更新在远程客户端与中央服务器之间同步,以实现联邦随机梯度下降(FedSGD)或权重平均(FedAverage)等学习算法。通常,这种同步需要高级工程支持,因此研究人员往往依赖联邦学习框架来实现细节并帮助他们更快地构建联邦循环。
为实现这一目标,许多框架(如NVIDIA Clara、Flower)使用依赖注入等编程设计模式来保持对主程序逻辑(如循环结构)的控制,同时为自定义代码提供编程钩子。尽管这简化了联邦部署的接口,并提高了在成熟问题领域中经过良好校准的生产就绪模型的采用率,但对于在处于起步阶段的问题领域(如从MRI检测前列腺癌)中开发新模型的研究人员来说,这构成了障碍。这是因为研究人员无法轻松地将核心模型或训练逻辑作为独立于联邦学习框架工程代码的模块进行开发、调试和重构。例如,即使是像Flower (14)这样与硬件无关的框架,也需要重新实现联邦循环。
为解决这一问题,我们提出了一种联邦学习设计模式,将模型开发与联邦学习实现代码分离,为医学影像研究人员提供功能丰富的联邦学习开发环境。我们的设计模式由3个要素组成:模型抽象(第2.3.1节)、数据抽象(第2.3.1节)和模型无关的联邦工具包(第2.3.1节)。模型抽象和数据抽象具有可扩展性,旨在向联邦工具包暴露本地梯度计算和权重更新的基本功能,而无需任何重新实现。联邦工具包可以在后端使用不同的分布式框架实现,例如NVIDIA的NVFlare 2.1或Flower。在当前实现中,我们的联邦工具包FLtools可无缝处理在torch中实现的任何可微分前馈网络架构。
模型抽象
我们采用pytorch lightning (23)设计模式来指定模型,这涉及定义一个类,其中包含关键方法:forward——一个函数,在给定一批输入数据的情况下,使用模型架构和权重(类中定义的对象)实现前向传播或推理,产生一组张量作为模型的输出。
training_step——一个函数,接受一批训练数据(配对的输入数据和真实标签数据),用输入数据调用forward以产生输出数据,并通过与真实标签比较来计算指标和损失,以同时监控和训练模型。
validation_step——(可选)一个在验证数据批次上使用模型冻结版本对training_step执行相同功能的函数,用于监测模型性能。
unpack_batch——(可选)我们定义的一个函数,用于接收并解包整理后的训练或验证数据字典,以便无需复杂参数即可轻松调度前向传播和training_step。
configure_optimizers——一个返回用户所选神经网络优化函数的函数。
我们当前的实现利用封装在pytorch lightning类中的torch网络,但类似的设计模式同样适用于其他深度学习框架,如tensorflow。使用pytorch lightning类的一个明显优势是,现有的本地日志记录和检查点保存功能也可在联邦训练期间使用。
数据抽象
我们在这里使用两种抽象,一种用于通用联邦学习(FL)设计模式,另一种用于特定的基于MRI的前列腺癌定位与分类问题。
对于通用FL设计模式,我们要求每个客户端提供一个get_objects函数,返回以下内容:model——一个python类,使用前述成员函数和可学习算法参数定义(第2.3.1节)。
train_dataloader——一个python可迭代对象,当其被迭代时,使用客户端特定的代码和数据源返回批处理训练数据的整理后字典。这可以使用私有的、客户端特定的文件加载器和torch.utils.data.DataLoader来执行整理。
val_dataloader——与train_dataloader相同,但返回验证数据的整理后字典。
因此,从FL训练循环的角度来看,客户端特定数据加载器产生的数据直接输入training_step,无需在FL环境内进行额外指定或连接代码。这为各研究站点的原型算法开发者提供了灵活性,可以在不修改接口的情况下更改模型和数据规格(例如DNN拓扑结构、文件加载、预处理、增强)。此外,每个站点都可以自由修改和优化所有上述组件的本地实现(包括训练目标和指标的选择),尽管要在所采用的联邦算法的约束范围内。
具体而言,对于基于MRI的前列腺癌检测问题,我们使用一个可扩展字典来定义训练数据的内容。除了以配准的多通道3D张量形式提供的影像数据外,我们还包括3D二值区域掩膜,表示包含组织病理学数据的每个区域(病灶和六分区)。关键的是,在本工作中我们使用一个矩阵对组织病理学数据进行编码,表示每个区域的监督信号{0,1,2}和最大ISUP分级组(0-阴性,1-5)。监督信号用于在我们的UCNet模型内部逐区域动态选择适用于组织病理学金标准类型的学习目标,从而使前列腺癌研究站点内部和之间可纳入训练的检查类型具有很大的异质性。这种动态选择在第2.2节描述UCNet时予以说明。
联邦工具包(FLtools)
我们的轻量级FLtools库包含若干组件,这些组件代表了各种联邦例程的基线实现(其结构设计旨在与Nvidia的NVFlare (13) 和Flower (14) 兼容,但关键在于可跨模型和FL实验复用。这些组件包括:FLComponents——利用get_objects接口的训练、聚合和序列化策略的基线实现。这将模型实现与后端实现(例如基于Nvidia的NVFlare或Flower的实现)解耦,从而能够跨模型和实验复用所有必要的联邦组件。
FLTrainer——一个可复用模块,扩展了NVFlare的“Trainer”组件,使用get_objects接口在客户端上执行训练。
FLAggregator——一个可复用模块,扩展了NVFlare的“Aggregator”组件,负责(a)验证来自每个客户端的梯度贡献,以及(b)通过FLUtils进行梯度平均聚合。
FLSharableGenerator——一个可复用模块,扩展了NVFlare的“Sharable Generator”组件,将模型转换为可共享对象,即可在服务器和客户端之间传输的权重和梯度字典。
FLModelPersistor——一个可复用模型,扩展了“ModelPersistor”,负责在服务器上保存和加载检查点文件。
例如,Nvidia的NVFlare环境包括“自带训练器”(BYOT)和“自带组件”(BYOC)模式,使用户能够开发自己的FL组件,例如使用与深度学习模型架构和数据特定代码(如预处理或模型执行)分离的高级API,在客户端之间提取、聚合、序列化和传输模型权重和梯度。FLtools NVFlare后端包含这些组件的基线实现,作为一个轻量级库,可以导入到现有研究代码库中,并且关键在于利用get_objects接口,将本地模型开发和FL部署分离。此外,FLtools包含一个模拟工具FLsim,使研究人员能够在Nvidia联邦环境之外的一个或多个系统上测试FL部署(表3)。
图5描绘了一个序列图,阐明了为FedSGD实现的联邦拓扑(图4)中各个实体之间的通信。FLtools的一个重要特性是负责机器学习运维(MLOps)团队的工程师职责与开发模型的研究人员职责之间的清晰分离。我们发现,各自领域的专家在各自领域独立工作并通过编程契约进行集成的自主性,营造了一种有利于FL成功的协作环境。
图6展示了FLsim如何在研究人员的本地机器上模拟联邦循环(图5)。由于FLsim与NVFlare解耦,研究人员可以自由使用现有的调试工具(例如pdb)在通过NVFlare运行联邦训练之前微调模型或计算超参数(例如批量大小)。
模型训练与实现细节
本文的联邦学习(FL)实验在Amazon Web Services(AWS)EC2实例上托管中央服务器,两个客户端分别位于UCSF和UCLA的机构防火墙之后(图4)。中央服务器聚合来自各客户端的梯度,并使用适当的动量项执行权重更新(我们使用AdamW优化器配合FedSGD)。我们的FL概念涉及私有数据,也涉及私有指标,因此每个客户端都不知道联邦模型在其他研究机构的表现如何。相反,每个机构的客户端仅在本机构自己的私有验证数据集上监测性能。因此,从服务器的角度不存在停止标准,客户端可以自由选择其认为表现最佳的检查点。
结果
我们在两个不同的前列腺癌检测任务中评估UCNet的性能:MRI识别的病灶分割和临床显著性前列腺癌(CS-PCa)的病灶级分类。
表4比较了局部训练模型和通过FL训练的模型在病灶分割测试集平均IoU上的表现。局部训练的模型在评估另一机构的数据时失败(IoU = 0.000)。FL模型在跨机构泛化性能上取得了显著改善,对任一机构的测试集数据均表现出合理的性能。
由于我们的方法利用私有验证集,客户端不知道模型在其他机构的表现,并且可以在每个机构独立自由地选择验证性能最高的模型检查点。这是一个重要的问题,导致了最终联邦模型的两个版本(UCSF-FL和UCLA-FL),因为每个机构可能根据自己保留的验证集选择不同的检查点作为“最佳”。
表5比较了局部训练模型和通过FL训练的模型在测试集总体(类别平衡)二分类病灶分类准确率、敏感性和特异性上的表现,同样表明FL模型在跨机构泛化性能上取得了显著改善。我们报告发生归一化(类别平衡)的总体准确率,因为这最能反映模型在筛查人群上的泛化性能,这与近期其他基于前列腺癌MRI的工作报告的使用模型敏感性和特异性的交叉验证性能结果不同(8,9,22)。对于该指标,每个模型的病灶级前列腺癌分类性能在人群水平上通过计算发生归一化混淆矩阵并对角线取平均来表示类别平衡的总体准确率。由于UCNet模型中的区域分类器不是基于阈值的分类器,我们不计算使用验证集优化敏感性和特异性的受试者工作特征(ROC)曲线。相反,我们选择验证集上总体准确率最佳的检查点,并将该操作点用于测试集评估。
特别地,在表5中我们可以看到,在各机构本地训练的模型在各自机构的私有测试集上表现良好,但在另一机构的数据集上性能要低得多,即表明泛化性能较差。UCLA本地模型在UCSF数据上显示出47.9%的准确率,比UCSF本地模型的性能低30%。UCLA模型在UCSF数据上的评估结果显示出高TNR(0.93)和低TPR(0.03),这意味着该模型在另一机构数据上的可用性较低。UCSF本地模型在UCLA数据上显示出略高的准确率53.3%,但仍比UCLA本地模型结果低23%。尽管最佳FL模型是根据本地验证性能在每个站点分别选择的,但两个FL模型均成功实现了泛化。UCLA-FL模型将UCSF数据分类准确率提高了14.8%,同时TNR和TPR相应提高,使该模型可被另一机构实际使用。UCSF-FL模型取得了相同的结果,将UCLA本地数据性能准确率提高了9.5%,同时TNR和TPR提高。此外,FL模型在本地数据上的性能仅有小幅下降。
在此,我们主要关注模型的分类性能,因此IoU性能仅用于提供模型在每次检查中对感兴趣区域定位效果的度量。如图7和图8所示,在大多数检查中,模型倾向于高估癌症区域。分类的假阳性率(I型错误)可从表5中推断为1 - TNR(真阴性率);这表明在每个站点训练的本地模型和数据上初始为26-33%,而当本地模型初始交换时为7-45%。请注意,低假阳性百分比并不代表整体模型准确性,因为当模型初始交换时真阳性率也较低(3-51%),导致整体性能较差。例如,7%的FPR伴随3%的TPR表明模型倾向于主要预测“阴性”疾病。然而,表5中的结果进一步证明了联邦学习实验的积极结果,表明在同一机构数据上选择和评估的联邦检查点提升至35-40%,在另一机构数据上评估的联邦检查点提升至43-53%。结合在降低假阴性率(II型错误)方面的改进,联邦实验在类别平衡准确率(真阴性和真阳性率的平均值)方面表现出更好的泛化准确性。
在图7和图8中,我们分别通过来自两个机构的本地模型和FL模型在UCSF和UCLA测试集上评估的样本结果来展示性能。这些图显示了输入图像和MRI识别的病灶掩膜以及UCNet模型的DL预测结果。这些包括旨在预测和突出病灶位置的病灶掩膜、旨在进行CS-PCa体素级预测的空间分级图,以及每个六分仪和病灶的CS-PCa区域级分类。
如上所述,本地UCSF和UCLA模型在各自站点数据上表现良好,但未能很好地泛化到另一站点的数据,如图7.A和8.A第2行所示。在这些示例中,MRI识别的病灶在深度学习(DL)预测的病灶掩膜、空间分级图或区域分类中均未被识别。图中最后两行显示,在这些示例中,联邦学习(FL)模型能够挽回精度损失以实现更好的泛化。特别是DL预测的病灶掩膜在两个FL模型以及两个站点的测试数据上均清晰突出了MRI识别的病灶。
虽然在同站点评估的总体FL模型导致了轻微的精度下降,但我们观察到在某些情况下FL改善了本地模型的性能,如图7.B和8.B所示。在这些情况下,本地模型能够识别病灶位置(由DL预测病灶掩膜的强度指示),但未能正确将这些患者的临床显著性前列腺癌(CS-PCa,ISUP GG 2)进行分类。有趣的是,两个FL模型均能在空间分级图和区域分类中正确将这些病灶识别为CS-PCa(第3-4行)。
讨论
联邦学习的主要目标是提高模型的绝对性能,同时也改善模型跨机构的泛化能力。为此,我们通过呈现高度异质性的MRI数据、患者分布和真实标注(机构内和机构间)来挑战我们的FL系统和深度学习模型。我们的定制架构UCNet能够处理该任务,并在本地和联邦训练中均取得了良好性能。最终模型基于本地验证性能在每个站点独立选择,获得了从每个私有数据集中学习的益处,而无需在单一位置传输、汇集或同质化数据。两个FL检查点均表现出理想的泛化性能,并在来自对方机构的本地数据集上评估时取得了更高的精度,而任一站点均没有足够的数据在自身数据上良好泛化。联邦CS-PCa检测模型的临床影响是提高了泛化精度以及医生对部署模型的信心。
一个应重新审视的设计选择是在私有机构验证数据上独立选择检查点的停止标准。尽管私有验证增加了隐私性并激励机构参与FL以改善其自身数据上的性能,但我们认为更好的方法可能是监测全局验证精度,因为在另一机构数据集上的精度可能更好地指示分布外数据上的性能,这是所有深度学习模型的常见陷阱。这从验证集和测试集的站点内性能之间的偏差中可以明显看出,尤其是UCLA数据表现较差,分类精度为−15.4%,病灶分割IoU为−45%。
在实际的联邦学习(FL)实现方面,所提出的在FLComponents中实现的FedSGD技术相对于客户端数量实现了O(1)的内存复杂度,因此对于数百个研究站点的训练具有高度可扩展性。然而,FedSGD的一个实际问题是它具有相对较高的时间和通信复杂度,因为在每次迭代时,它必须等待每个客户端响应后才能更新全局模型。在这方面,FedAvg可能是更理想的聚合策略,尽管尚未在UCNet和前列腺MRI中探索其训练动力学。降低FedSGD复杂度常数的一种选择可能是实现梯度的异步点对点分发和权重的本地更新,由中央服务器仅负责全局更新动量项。我们将此作为FLtools库的未来工作。
除前列腺MRI外,其他可直接受益于该方法的医学影像应用包括较罕见癌症的分类,例如脑肿瘤、肾癌和胰腺癌,在这些应用中,利用多站点数据和所有组织学 ground truth 来源的能力可以显著增加数据集规模,从而有可能提升整体检测准确性和/或泛化能力(24)。所提出的FL设计模式对于数据稀缺的深度学习问题尤其有用,这些问题具有足够挑战性以至于需要使用非标准架构或损失函数,同时需要扩展数据集规模和多样性,并保持模型、数据加载器和学习算法的可变性(12,25)。
更广泛地说,我们希望这项工作能够促进跨机构的合作和数据共享,使我们能够应对放射学模型训练的下一阶段。此处的考虑因素包括增加输入数据多样性、标签粒度多样性和发现/人口统计学多样性。通过这种方式,我们相信联邦学习在解决健康公平问题方面可以发挥重要作用,通过改善服务不足人群的代表性(26),例如黑人前列腺癌患者(27)。
结论
我们开发并开源了一个联邦学习工具包FLtools,它可以与强大的NVFlare和Flower后端结合,为研究人员提供可扩展和可复用的联邦组件,以便与自定义深度学习模型和工作流程一起复用,或与联邦中客户端间规格可能不同的异构数据集一起使用。我们成功应用该设计模式训练了我们开发的自定义UCNet深度学习模型,使用两个包含1800+次检查的大型数据集来处理多样化的前列腺MRI及相关放射学和组织病理学标注。结果表明,病灶分类的泛化性能提高了9.50-14.8%,病灶分割的泛化性能提高了近100%。为提高模型的绝对性能并充分发挥联邦学习的潜力,需要纳入额外的多机构数据。所提出的工具和方法将 readily 支持这些工作,以改善基于MRI的前列腺癌评估。
引用
- Rajagopal, Redekop, Kemisetti, et al. Federated Learning with Research Prototypes: Application to Multi-Center MRI-based Detection of Prostate Cancer with Diverse Histopathology. Acad Radiol. 2023. PMID: 36914501. doi:10.1016/j.acra.2023.02.012
- 全文:PMC10869141(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC10869141/
供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。