文献速递技术与安全MR

深度学习与卷积神经网络临床入门解读

A primer on deep learning and convolutional neural networks for clinicians.
PubMed 文献 · Insights Imaging · 2021-08-12

本文以医学影像为视角,系统介绍机器学习与深度学习的基本概念,涵盖监督学习、无监督学习、图像矩阵表示、神经网络结构、学习过程及卷积神经网络。重点讲解梯度下降、反向传播、激活函数与正则化等关键技术,并指出深度学习在医学影像应用中的过拟合与泛化挑战。

要点

  • 监督学习需标注数据,无监督学习可发现新亚型但准确性较低。
  • 卷积神经网络通过卷积操作提取图像特征,优于全连接网络。
  • 过拟合是深度学习在医学影像中的主要问题,可用dropout、数据增强和L1/L2正则化缓解。

核心结论

  • 卷积神经网络通过卷积操作直接处理原始图像数据,无需人工特征提取,已成为计算机视觉领域的最先进方法。

研究设计与样本

  • 本文为教育性综述,以教学方式总结深度学习与卷积神经网络在医学影像中的主要方面,未报告系统检索范围或纳入文献数量。

关键影像表现/征象

  • 图像在计算机中以矩阵表示,8位黑白图像像素值0至255,彩色图像为红绿蓝三个矩阵。
  • 卷积神经网络使用卷积操作替代全连接层中的矩阵乘法,通过滤波器滑动生成特征图。

临床应用与阅片要点

  • 理解图像为矩阵及表示变换有助于认识机器学习分类问题的本质。
  • 隐藏层推荐使用ReLU或leaky ReLU激活函数,二分类最后一层可用sigmoid。
  • 需关注学习率、激活函数类型、隐藏层数、epoch数和批大小等超参数选择。

局限性

  • 深度学习模型泛化到新数据仍是主要问题,医学影像数据集常不够大、多样和均衡。
全文中译12 节 · 点击展开
本译文由 AI 依据开放获取原文逐段翻译,供学习参考,可能存在误差,请以原文为准。原文 © 原作者,按 CC BY 许可使用,本译文为翻译改编。出处:Insights Imaging. 2021 Aug 12;12:117. doi: 10.1186/s13244-021-01052-z

引言

人工智能(AI)被定义为机器所展示的智能,与人类所展示的自然智能相对。尽管目前正遭遇炒作,但它并不像人们想象的那样新。大多数人认为图灵在1950年撰写的具有历史意义的文章[1]通过提出一个简单的问题开创了这一新领域:机器能思考吗?AI包括后来被称为机器学习的内容,但最初的AI算法实际上并不学习。最早的AI计算机程序基于所谓的符号AI。这第一种方法包括编写一套足够大的规则来操作知识,并在八十年代专家系统的繁荣时期达到了其受欢迎程度的顶峰。符号AI被证明在规则明确的逻辑问题(如国际象棋)上运行良好,但在更为模糊和感知性的问题(如图像、语音、语言的识别和操作)上则毫无用处。这就是学习方法发挥作用的地方。

学习方法

机器学习的概念源于回答某些符号AI未能涵盖的问题的需要,在符号AI中,解决某些问题的所有规则都应由某个专家编码。其中一些未解决的问题是:计算机程序能否超越我们所知道如何编码的范围?

计算机程序能否仅通过查看数据来学习?

计算机程序甚至能让我们感到惊讶吗?

机器学习背后的主要思想是让计算机通过接触给定情境或类别的大量示例来直接学习。然后,机器学习算法将自动开发出一个模型,该模型能够对其所接触的示例进行推导和泛化,并据此对全新的案例做出预测。这使得开发能够完成多种多样任务的系统成为可能,例如通过观察房地产市场的历史行为来预测房价(回归问题),或者一个能够仅通过观察两类胶质母细胞瘤的许多不同磁共振图像(MRI)样本,就学会如何区分它从未见过的两种不同亚型胶质母细胞瘤的系统(分类问题)。归根结底,这类似于我们人类学习的方式:通过接触许多示例,使我们能够对某一概念进行泛化。在医学影像的背景下,目前主要有两种不同类型的学习:监督学习和无监督学习。在监督学习方法中,学习算法接收一系列标有正确答案或标签的数据作为输入。这意味着,在胶质母细胞瘤分类的情况下,机器学习系统将能够获取两种胶质母细胞瘤类型各自的若干MRI,并且每一幅图像都带有标签,指示其属于哪一类别。人们很容易看出相对于符号人工智能的改进:在符号人工智能方法中,某些专家本应找出并编码能够区分两种不同肿瘤类型的规则。这通常意味着需要有一个关于如何区分待预测类别的明确建立的度量标准,而这在计算机视觉问题中通常并非如此。实际上,人类用于执行日常行动的大多数机制,例如识别人脸,甚至说话或理解句子的上下文,都很难被归纳为某些编码规则。经典编程或符号人工智能与机器学习方法之间的范式转变,可以通过观察图1轻松理解。

在无监督学习方法中,学习算法不接收标签。相反,它只接收一些输入数据,算法独自运行以提取解决所研究问题所需的信息。使用无监督方法解决的最常见任务之一是聚类。聚类包括将一组对象分组,使得同一组(称为簇)中的对象根据某种度量彼此之间比其他组中的对象更相似。对于前面提到的胶质母细胞瘤案例,这意味着只需将一组脑部MRI作为输入提供给算法而无需任何进一步指示,让系统学习是否存在某些有意义的特征允许将数据集分为不同类别。如果我们要分离非常明显的类别,例如绿色圆圈图像与红色圆圈图像,这可能是一项简单的任务,但对于更多维度的任务,可能会变得非常复杂。无监督学习方法的一些优点是,它可以允许我们真正学到关于问题的新知识。例如,它可能发现三种不同的肿瘤类别而不是两种,有可能使我们发现人类经验所未能触及的脑癌诊断中的细微差别。此外,找到未标记的数据比找到愿意为大标数据集打标签以训练监督算法的专家要容易得多。另一方面,无监督学习的主要缺点是,如今这些算法的准确性和可信度仍然不如监督方法。

值得注意的是,即使我们聚焦于监督学习和无监督学习,还有其他目前较少用于医学背景的学习方法,但仍值得提及:半监督学习方法结合了监督学习和无监督学习。在这种情况下,算法可以从标记和未标记数据的混合中学习。这种方法包括一系列可能的技术,超出了本文的范围。

强化学习方法关注的是软件代理应如何通过在环境中采取行动来最大化某种累积奖励的某一部分。这些是目标导向的算法,它们学习如何达到一个复杂的目标(目的)或如何在许多步骤中沿特定维度最大化。例如,它们可以在许多步棋中最大化游戏中赢得的分数。这种方法目前广泛用于机器人学。

在本节中,已总结了可用于机器学习算法的不同学习类型。对于本文中的示例,我们将聚焦于使用监督学习方法的分类问题,因为它如今在医学中最为广泛使用,并已在许多不同应用中证明了其成功。

图1 经典编程与监督学习方法 查看原图 ↗

计算机如何“看”图像

为了理解机器学习算法,更具体地说是卷积神经网络,如何处理图像,需要了解计算机实际上是如何看到这些图像的。图2显示了黑白图像的矩阵表示[2]。由于这是一幅8位图像,像素值可以从0到255(28 = 256)不等,取决于灰度的色调。对于彩色图像,矩阵表示相同,但不是单个矩阵,而是有三个分别对应红、绿、蓝三种颜色的矩阵,其值同样范围从0到255。这三种颜色通道的混合将形成最终图像,如图3所示。

现在我们知道计算机如何表示图像了,让我们做一个小练习。以图4中的左图为例。想象你需要将绿色点与蓝色点分开。这就是我们之前定义的分类问题。任何人只要看一眼图像就能想象出分隔这两个类别的直线。但是,如果有人要求你给出这条直线的方程呢?由于没有刻度轴,而且你可能很久没有做过这类练习了,可能需要几分钟才能想出答案。现在让我们想象按照图4中间图像那样旋转和平移坐标轴。为更清晰起见,图4右图显示了与文本平行的新x轴。问题没有改变,只是通过执行线性变换改变了数据的表示方式。如果现在要求我们分开绿色点和蓝色点,我们甚至不需要10秒:x > 0的点是蓝色,x < 0的点是绿色。这里发生了什么?通过改变数据的表示方式,我们将一个稍显困难的问题转化为一个容易得多的问题。这种表示变化的概念在理解机器学习和深度学习算法的工作原理时至关重要。既然我们已经看到,对于计算机而言,图像只是一组构成矩阵的值,我们很容易理解图4中的二维示例与多维图像矩阵之间没有太大区别。因此,在基于图像的分类问题中,我们的目标是找到原始图像值的替代表示,直到找到一种新的看待数据的方式,使问题变得更容易。图4中的二维问题用肉眼很容易解决,但现实中的问题要复杂得多。这意味着我们希望有某种方法能够高效且系统地寻找和测试新的表示,直到找到最优的表示。这种自动为我们的问题搜索最优解(或表示)的过程正是机器学习算法所做的。

图2 一幅8位黑白图像的矩阵表示。值范围从0到255 查看原图 ↗
图3 用于糖尿病视网膜病变检测的视网膜图像的三个颜色通道(红、绿、蓝) 查看原图 ↗
图4 通过改变数据表示用肉眼解决二维分类问题 查看原图 ↗

神经网络

人工神经网络提供了一种系统搜索待解决问题最优解的方法。其基本单元——神经元——在一定程度上受到生物神经元的启发:一个人工神经元接收一个或多个输入(在生物学类比中对应于生物神经元树突的突触后电位),并将它们求和以产生输出(或激活值,代表神经元的动作电位沿其轴突传导)。每个输入分别加权,其和通过一个称为激活函数的非线性函数。如果没有激活函数,神经网络只能解决线性问题。这些函数的作用类似于神经系统中所需要的调节和传播信号的阈值电位。这些激活函数的选择是学习算法中的超参数之一,这意味着由我们来决定使用哪一个。图5显示了人工神经元的结构。

首先将W矩阵和b或偏置因子应用于输入数据x,以执行线性变换(分别为旋转+平移),类似于第3节中的二维示例。此处的σ是一种特定且广泛使用的激活函数,称为S形函数(sigmoid)。S形函数的形状可见于图6。与简单的阶跃函数相比,S形函数给出的输出值更平滑,可微,并且具有一个非常好的性质:其导数依赖于函数本身。

我们稍后将看到,这是激活函数的一个理想特性。

图5 人工神经网络中单个神经元的结构 查看原图 ↗
图6 S形函数 查看原图 ↗

学习过程

现在让我们看看学习过程是如何工作的。在其大部分范围内,S形函数将返回接近1或接近0的值。这使得该函数非常适合二分类问题,如图4中的分类问题。激活函数的输出可以被视为问题的答案:输出值0可以对应于蓝色,值1对应于绿色,或者反过来:只要我们保持标准一致,这并不重要。我们可以取图4中的每个数据点并将其通过神经元。在这种情况下,输入是二维的,对应于每个数据点的x和y坐标,即输入值为X = (xinput, yinput)。从输入数据集中取一组值通过单个神经元(也称为前向传播),完整表达式如图7所示。

这个最小化过程就是我们所说的学习。可以根据要解决的问题来决定哪个是损失函数,例如,损失函数可以只是预测值a和真实标签y之间的均方误差。均方误差计算为预测值与实际值或标签之间差值的平方的平均值,即Σ(ai − yi)2。结果始终为正,完美的算法将给出值为0。平方意味着较大的错误比较小的错误导致更多的误差,即模型因犯较大错误而受到惩罚。损失函数的另一种可能选择是交叉熵函数,广泛用于分类问题。就本文档的教学目的而言,理解均方误差就足够了。

在用随机值对W和b完成第一次神经元传递后,第二次迭代将完全不再是随机的。我们希望学习W和b取哪些值才能使L尽可能小。为此,我们将计算导数,并按照最小值的方向更新W和b的值。看一下图8可以更好地理解这一点,其中绘制了L对W的假设曲线。在神经元的第一次迭代之后,W值可能大于或小于使L函数最小化的W值(Wmin)。对于这个特定问题,如果W值小于Wmin(图8中的点1),则该点处的斜率、也就是导数dL/dW将为负。同样,如果W值大于Wmin(图8中的点1),则该点处的导数将为正值。这意味着,在两种情况下,如果我们从W的初始随机值中减去导数,我们就会朝着Wmin的方向前进,如图8中红色箭头所示。

b的值同样如此。在第一次迭代之后,W和b的值可以通过图9中的公式更新。计算损失函数相对于网络权重(W和b)的梯度称为反向传播。图9中的项α称为学习率。导数给出朝最小值方向迈步的方向,学习率给出迈步的幅度。α是模型的另一个超参数。对于α,我们必须考虑到,如果它太大,我们可能迈出太大的步长而错过最小值。如果学习率太小,学习过程将太慢,因为我们将以很小的步长接近最小值。

然后将对图4中的所有点重复该过程,在每次迭代时更新W和b的值,使它们始终更接近使损失函数最小化的值,从而优化算法的性能。

图7 单个神经元的前向传播 查看原图 ↗
图8 抛物线的最小化。点1处的随机W值呈现负斜率,而点2处呈现正斜率 查看原图 ↗
图9 使用链式法则计算导数并沿最小值方向更新W和b参数 查看原图 ↗

多层神经网络

对于非常简单的问题,单个神经元可能就足够了。通常在实际问题中,需要不止一次的数据表示变换才能解决。这就是网络一词发挥作用的地方。对于复杂问题,需要许多不同的数据表示,这些表示将相互组合以创建进一步表示,这些表示又依次组合,等等,以达到能够解决图像分类问题或人们希望机器学习解决的任何其他问题的最优表示。这种组合表示的堆叠可以用网络的形状很好地可视化。图10展示了这些神经网络之一,其中每个连接的节点代表一个神经元,如“卷积神经网络”部分所示。我们将这类网络称为全连接神经网络,因为一层中的所有神经元都与下一层中的所有神经元相连。神经网络的层是在神经网络中特定深度协同操作的一组神经元。输入层包含原始数据。隐藏层是输入层和输出层之间的层。隐藏层的数量是优化过程中需要选择的另一个模型超参数。图10表示一个具有5个隐藏层的神经网络。

上一节中描述的优化过程,即通过沿梯度负值所定义的最陡下降方向迭代移动来最小化函数,称为梯度下降。

为单个神经元描述的学习过程在具有多个层的神经网络中将是相同的。表达式与图9中的类似,具有许多层这一事实将反映在应用链式法则计算梯度时不同表达式中项的数量上,但过程将与仅一个神经元的情况类似。

为清晰起见,我们的示例基于一个二维问题,但这里解释的一切都可以平凡地推广到N维数据集。

图10 具有5个隐藏层的神经网络 查看原图 ↗

一些补充评论

可以观察到,本节中的所有表达式都以矩阵形式书写。这是梯度下降方法的优点之一:它允许用非常简单的符号压缩方程。此外,许多编程语言对矩阵工作最优,与每次迭代对所有变量进行循环相比,极大地加快了计算速度。此外,如前所述,选择导数依赖于函数本身的激活函数,允许在执行反向传播(在“学习过程”部分解释)时计算导数的值,因为它在前向传播步骤中已经获得。这大大提高了学习算法的计算性能。

另一方面,模型超参数的适当选择对神经网络模型的成功起着关键作用。学习率、激活函数类型和隐藏层数量已被提及为其中一些主要超参数。另一个值得提及的超参数是轮数(epochs),它表示学习算法遍历整个训练数据集的次数。数据集通常被分组为批次(batches),尤其是当数据量非常大时。在学习过程中,每当算法遍历每个数据批次时,模型权重的值都会更新。每个批次中来自原始数据集的数据量也是机器学习从业者需要设置的超参数。

为什么深度学习中的“深度”?

神经网络的深度是其神经元层数。深度学习指的是拥有比所谓机器学习算法更多的层,以及由此产生的所有问题。两种情况下的哲学是相同的,但拥有更多层通常意味着更多的问题。我们在此总结深度学习中三个最常见的问题:梯度消失:sigmoid激活函数在其大部分范围内呈现非常接近零的导数。这在层数较少时并不重要,但对于非常深的神经网络,许多过于接近零的值的乘积可能导致神经网络无法学习。通过查看图9中的表达式并想象如果da/dz因子非常小会发生什么,这很容易理解。对于深度学习算法,使用特定的激活函数,如ReLU [3]或泄漏ReLU(见图11),其中导数值(以及因此的梯度)大于sigmoid。每个问题都不同,但一个经验法则可以是在隐藏层使用ReLU(或泄漏ReLU),仅在处理二分类问题时在最后一层使用sigmoid。

过拟合问题:过拟合是指在训练数据上实现了良好拟合,而模型在新的、未见过的数据上不能很好地泛化。这意味着模型学到了训练数据特有的模式,而这些模式与其他新的或不同的数据无关。这在机器学习算法中也可能发生,但由于神经元数量更大,对深度学习模型来说更是问题。可以很容易地通过将神经元数量想象为多项式的阶数来理解:阶数越大,就越容易找到一条经过所有N个点的曲线。但如果我们向数据集中添加一个新点,很可能完美的N点拟合会在第N+1个点上失败,这意味着该模型对于这个特定问题不够通用。已经开发了几种正则化方法来避免过拟合,例如dropout、数据增强或L1/L2正则化。dropout技术包括在训练期间随机丢弃节点,以避免某些神经元过度专门化。数据增强技术用于通过添加已有数据的稍作修改的副本或从现有数据新创建的合成数据来增加数据量,从而使算法不会两次看到相同的数据。在处理图像时,修改可以是几何变换、翻转、颜色修改、裁剪、旋转、噪声注入、随机擦除等。

L1/L2正则化技术包括向损失函数添加惩罚项:L1为网络权重幅值的绝对值,L2为幅值的平方。

当最小化这个修改后的损失函数时,惩罚项(由于它是幅值或其平方值,因此始终为正)将在仍试图优化网络性能的同时,使网络权重尽可能小。这将帮助神经网络自身正则化,因为它会倾向于更简单的模型。这同样可以用多项式拟合来理解:试图拥有更小的多项式系数将导致更简单的模型,该模型不会试图完美拟合训练数据集中的每一个离群值,而是给出更通用的结果,在接触新数据时可能具有更好的性能。

无论如何,对新数据的泛化仍然是人工智能的主要问题之一,特别是在医学背景下,数据集有时不如所希望的那样大、多样和平衡。

收敛问题:不能保证梯度下降算法快速收敛到最小值。所使用的优化算法是另一个超参数,正确的选择可能意味着在几分钟、几小时或几天内获得良好结果的差异。已经开发了几种优化算法来改善收敛问题,例如Adam优化[4]。该算法使用平方梯度来缩放学习率,并利用自适应动量,使用梯度的移动平均值而不是梯度本身。

图11 ReLU和leaky ReLU激活函数 查看原图 ↗

卷积神经网络

到目前为止,我们已经描述了学习算法如何在一般的N维数据点上工作,但之前所解释的一切都可以应用于图像。图像的计算结构已在第3节中描述,并且已经解释过,归根结底,图像只是矩阵,可以按照我们在前几节中所示的相同方式进行处理。然而,为了处理图像,我们必须引入卷积神经网络。自2012年以来,这类神经网络在计算机视觉领域确立了最先进水平,当时它们在2012年ImageNet大规模视觉识别挑战赛(ImageNet Large Scale Visual Recognition Challenge)中击败了所有竞争对手[5]。

卷积神经网络采用一种称为卷积的专门线性运算。卷积网络就是在其至少一个层中使用卷积代替一般矩阵乘法的神经网络。图12展示了卷积网络(ConvNet)的一般架构,其中采用多个滤波器对图像进行切片,并逐一映射它们以学习输入图像的不同部分。可以想象一个小滤波器从图像左上到右下滑动,这个移动的滤波器在寻找例如某个垂直边缘。每当找到匹配时,就将其映射到称为特征图的输出图像上。

滤波器的示例可见图13。左侧图像显示了垂直线滤波器的像素表示,右侧图像显示了其可视化。

在神经网络中输入图像的滑动过程中,滤波器像素值与图像部分的像素值相乘。如果图像在特定位置呈现类似于垂直线的某种特征,则乘法结果将是高值标量;而如果该点的形状与垂直线完全不同,则所得标量值较小。特征图则是由所有这些标量形成的矩阵,提供关于特定特征存在与否及其位置的信息:如果原始输入图像左上角有一条垂直直线,则相应的特征图矩阵将在同一角落呈现较大值。这意味着,每个特征图是原始图像中某一特征的映射(见图14)。因此,神经网络的卷积部分通过提取和分离原始图像的主要相关特征,创建了原始图像的新表示。这里所说的主要相关特征,是指解决某一特定问题的最优特征,例如如何区分第2节中提到的两种不同胶质母细胞瘤变体,或对自动驾驶汽车前方物体的分类。

由于通常需要数十个滤波器来解决图像分类问题,且每个滤波器生成相应的特征图作为神经网络下一层的输入,问题的规模可能非常迅速地增长。

为减轻这种影响,有几种方法可以降低特征图的维度。其中最广泛使用的方法之一是所谓的最大池化。

它包括遍历特征图,通常使用2×2的滑动窗口,取该方形区域上的最大像素值。其图形化说明可见图15。

另一种众所周知的池化类型是平均池化,它不是取最大值,而是取特征图中所有值的平均值。

对于卷积神经网络,滤波器值是需要学习的值(按照我们的术语,即W和b)。至于全连接神经网络,第一次迭代将具有随机滤波器,所有优化过程将通过应用梯度下降法进行,直到达到最优滤波器集。

在提取特征的卷积部分之后,这些特征作为输入被提供给全连接网络,该网络将如前几节所述执行分类。感兴趣的特征在优化过程中被学习这一事实,相对于计算机视觉中更经典的算法而言是又一个巨大的进步,在经典算法中,某些专家应首先手工提取所考虑的特征以解决问题(特征工程),然后将它们作为输入提供给分类算法。

使卷积神经网络在处理图像时如此具有竞争力的一个有趣事实是它们具有平移不变性。这意味着如果将一个图像稍微平移,它将具有与平移前图像相似的激活图。这是因为卷积是一种特征检测器,与特征的位置无关。卷积神经网络的平移不变性允许相对于经典方法仅使用非常少的参数进行学习。

图12 一般卷积神经网络架构 查看原图 ↗
图13 垂直线滤波器的像素表示(左)及其可视化(右) 查看原图 ↗
图14 通过使用滑动滤波器从原始图像中提取特征 查看原图 ↗
图15 应用于特征图的最大池化,降低其维度 查看原图 ↗

迁移学习

当我们没有足够的标记数据用于我们关心的任务来训练可靠模型时,传统的监督学习方法就会失效。在处理医学图像时通常就是这种情况。迁移学习是通过从已经学习过的相关任务转移知识来学习新任务的能力。这得益于神经网络学习的分层方式而得以实现。用于分类图像的模型中的前几层将学习非常通用的视觉特征,例如交叉点、直线、简单曲线、点。这些基本图像组件对于我们将要处理的任何类型的图片都是常见的。随着深入模型的层,算法将提取更复杂的特征,这些特征也更特定于所研究的特定问题。

这意味着我们可以使用大型数据集(通常是ImageNet [6])训练一个模型执行图像分类,然后将其重新用于执行另一个我们没有那么多数据的任务。为此,在新训练过程中可以保持神经网络的前几层冻结,即滤波器权重不会改变。然后,小数据集将仅用于学习最后几层上负责问题特定特征提取的滤波器权重。这使得能够更好地利用小数据集,充分利用相关信息来提取最有意义的特征,并将模型中最通用的部分从一个有更多数据可用的不同问题中迁移过来。这项技术目前广泛应用于医学领域。例如,关于其在糖尿病视网膜病变案例中应用的广泛综述可见于[7]。

局限性

毫无疑问,深度学习已在包括医学在内的许多不同领域成功实现了非常重要的科学里程碑。但这些新技术在广泛应用于临床实践方面仍存在一些局限性。问题之一来自数据本身的变异性(例如对比度、分辨率、信噪比),这使得当训练数据来自具有不同采集参数化或任何可能导致数据分布偏移的底层组件的不同机器(不同供应商、型号等)时,深度学习模型会出现泛化能力差的问题。这些过参数化模型高度倾向于依赖多余的相关性,并且对外部因素(如不同的扫描仪或采集协议)引起的任何偏移非常敏感。

这种泛化差距可以通过一些技术部分缓解。其中一些技术已在本文中介绍,还有一些仍在广泛探索中。最简单的方法依赖于这样一个事实:当有更多数据用于训练模型时,所有深度学习方法的表现都更好。这在医学中也是一个问题,因为单个站点不容易生成大量数据和手动标签。在多中心倡议和众包中合作可以成为获得此类有用资源的有效途径。在这类问题上将产生重大影响的其他方法依赖于生成模型。缺点之一是,最突出的生成模型如生成对抗网络(GANs)[8]通常需要大量数据,并且可能采取非预期的捷径来建模底层分布。近期基于似然的模型[9]显示了一些改进;然而,对此类高维分布进行建模仍然非常困难。另一种同样涉及未标注数据的方法是使用半监督学习方法,即使在小数据集上工作也能产生改进。最小化创建大量手动标注问题的一种可能方法是使用主动学习,即在重新训练模型之前选择最不确定的预测进行手动纠正。

另一个重要问题是深度学习模型缺乏模型可解释性和可解释性。这在所有领域都很常见,但在其中一些领域,例如医学和医疗保健领域,如果不解决这一挑战,可能会严重限制依赖这些复杂非线性模型的计算机系统在实际应用中被采用的机会。目前,正在探索许多解决这一非常重要问题的技术,并且在这一方向上正在取得巨大进展[10]。

最后,有必要解决一个与所有其他提到的问题都相关的主要问题:深度学习从业者与卫生专业人员之间的反馈回路对于能够取得真正进展并从数学和医学角度构建稳健模型至关重要。因此,采用多学科方法的项目,包含来自不同领域的人员,对于充分利用这些非常强大的技术并能够在临床常规中自信地使用它们至关重要。

结论

本文档为非深度学习专家,特别是临床医生,总结了理解神经网络工作原理的主要方面,重点强调了代表图像分析最先进算法的卷积神经网络。自动学习和数据表示的概念已与神经网络中神经元的工作方式以及主要优势和问题一起进行了回顾,强调深度学习不仅仅是一种多层机器学习方法,它还关系到学习算法的后续改进和优化,以使神经网络更加稳健。这项工作的意图是向临床医生介绍基础知识并为其奠定坚实的基础,以便他们能够继续在此基础上构建更高级的概念。

引用

  1. Iglesias LL, Bellón PS, Del Barrio AP, et al. A primer on deep learning and convolutional neural networks for clinicians. Insights Imaging. 2021. PMID: 34383173. doi:10.1186/s13244-021-01052-z
  2. 全文:PMC8360246(PMC 开放获取,CC BY)https://pmc.ncbi.nlm.nih.gov/articles/PMC8360246/

供执业医师工作参考,不替代临床判断;数值与分级以指南原文为准。