文摘
肺癌有复杂的生物学特性和高度恶性肿瘤。它一直在癌症的头号“杀手”,威胁着人类的生命和健康。肺癌的诊断和早期治疗仍然需要改进和进一步发展。发病率和死亡率高,迫切需要有一个准确的诊断方法。然而,现有的计算机辅助检测系统有一个复杂的过程,检测精度低。为了解决这个问题,本文提出了一种两阶段检测方法基于动态提出卷积神经网络(动态R-CNN)。我们将肺癌分为鳞状细胞癌,腺癌,小细胞癌。通过添加self-calibrated卷积模块功能网络,我们提取更丰富的肺癌特性,提出了一种新的回归损失函数,进一步提高肺癌的检测性能。实验验证后,模型的映射(平均平均精度)肺癌的数据集可以达到88.1%,表现特别好高的借据(十字路口在联盟)阈值。这种方法有很好的性能的检测肺癌和可以提高医生的诊断的效率。 It can avoid false detection and miss detection to a certain extent.
1。介绍
癌症是人类死亡的第二大原因,及其死亡率和发病率逐年增加。据世界卫生组织(世卫组织)的数据,2018年癌症已经导致960万人死亡和肺癌居第一位,其中176万人死亡(1]。与其他癌症相比,肺癌的生物学特性非常复杂,发病时间短和高恶性肿瘤,这使得肺癌仍然癌症的头号“杀手”(2,3]。高发病率和死亡率的主要原因是肺癌的诊断和治疗方法仍处于初期阶段,因此迫切需要完善和提高肺癌的诊断方法。
目前,组织病理学检查是肿瘤的病理诊断标准,这只会等组织标本进行手术切除或穿刺活检。然而,入侵和容易获得的组织标本标本采样。协助医生诊断他们的工作和提高癌症诊断的效率,计算机断层扫描(CT) (4)已广泛应用于医学图像的智能诊断,成为一个强大的工具,全面捕捉癌症的特点。计算机辅助检测系统大多是支持向量机等机器学习算法,通常用来检测和分类肿瘤(5,6]。然而,他们通常由期间做出的假设有限元素的定义和仍然有缺点,如一个复杂的过程,参数设置基于经验和强烈的依赖。例如,肺癌检测结果依赖于分割结果的质量和特征提取的有效性。
近年来,人工神经网络,尤其是深层神经网络在许多领域取得了显著成就智能医学(7- - - - - -9]。这种学习算法是由大数据,从大量数据挖掘规则,然后分类和法官未知现象(10- - - - - -16]。医疗数据的不断积累提供了强大的材料和工具智能筛查和诊断癌症。Zhang et al。17)用卷积神经网络提取深度特性,结合浅特性实现卵巢癌的分类。此外,吴et al。18)使用基于AlexNet深卷积神经网络实现的分类卵巢癌病理图像和模型的准确率达到了78.2%。Tajbakhsh和铃木19)用一个人工神经网络和卷积神经网络测试肺结节的良恶性分类在CT图像,实验发现,卷积神经网络的性能比其他类型的人工神经网络在肺损伤和肿瘤分类的任务。
的发展领域的智能医疗、疾病增加的类型和病理之间的关系的复杂性疾病也越来越多,所以深神经网络的要求越来越严格。目前,在深度学习的主流目标检测算法主要是基于两种类型:第一种是单程检测算法,其中包括Yolo[意思20.]和RetinaNet [21];这些方法较快的表演不准确的。单程算法的代表,Yolo系列意思跑得快。它将图像分成多个单元相同的大小,预测每个细胞的分类,并给出了一类边界框的信心。另一个是两级对象检测算法,如快速R-CNN [22),快R-CNN [23),而面具R-CNN [24]。这个算法的第一阶段的CT图像作为输入,通过该算法生成的。第二阶段是利用第一阶段的输出来进一步分类和回归边界框。虽然两级对象检测算法的检测精度比单程对象检测算法,高质量的样品贡献显著减少网络在训练过程中。赵et al。25,26)提出了一种级联R-CNN网络基于R-CNN更快解决问题,高质量的贡献少的培训对象检测样品。通过级联R-CNN网络,每个R-CNN网络设置不同的借据阈值。通过这种方式,每个网络输出的准确性在一定程度上已得到改进和先前R-CNN网络的输出可以作为下一个高精度网络的输入。最后,网络将逐步改善的准确性。此外,为了解决目标检测的不平衡在培训过程中,庞et al。27)提出了一个天秤座R-CNN网络,注意的问题样品层,功能层和目标层,通过整体平衡设计和平衡不平衡。Zhang et al。28]从级联R-CNN的想法中吸取教训并提出动态R-CNN,进而解决培训过程之间的矛盾问题。
除了网络的体系结构、功能图提取的质量也大大影响目标检测的准确性。在大多数计算机视觉任务,它有助于建立一个长距离依赖机制功能映射提取。远程依赖模型的一种方法是使用一个内核空间池或卷积算子大窗口。一些典型的例子,比如PSPNet [29日),采用多个不同大小的空间池运营商来捕获多尺度环境。有很多的工作30.- - - - - -32)使用大型卷积内核或延长卷积长期上下文聚合。通过引入一种自适应响应校准操作,SCNet [33]构造多尺度特性表征的构建块,极大地提高了预测精度。
在这项研究中,肺癌的组织学类型,我们看是腺癌,鳞状细胞癌,小细胞癌。前两个类型是肺癌的主要类型的非小细胞肺癌(NSCLC)以85%到90%的肺癌病例。小细胞癌是肺癌的10%到15% (34]。不同类型肺癌的比例不平衡的客观原因图像数据收集。一些数据预处理过程进行了解决其影响我们SC-Dynamic R-CNN发展。肺癌的类型研究研究熊高层在医疗实践意义和现实价值。
为了提高肺癌的检测精度,一个新的肺癌检测算法基于动态R-CNN [28本文提出了。我们将收集到的数据集划分为三类:腺癌,鳞状细胞癌,小细胞癌,放大数据鳞状细胞癌和小细胞癌的过采样方法。接下来,我们实现SCNet [33]模块动态R-CNN网络,它可以完全提取损伤特征。此外,我们提出一个新的损失函数,DBS L1损失,进一步改善的贡献高质量的训练样本。实验验证后,我们发现,我们的算法有很大提高肺癌的检测与其他先进的算法。
2。材料和方法
2.1。材料
本文的数据集是来自山东省医院和山东省第三医院在山东,中国。34056病理图像数据集包括261名患者,和病变位置,专业的放射科医生。根据放射学家的注释,我们选择3442肺癌与病变的图像。
数据选择首先分为三类,即腺癌,鳞状细胞癌,小细胞癌。在本文中,我们使用“腺癌”,“鳞状细胞癌,”和“小细胞癌”代表这三个类别。肺癌的病理类型中,腺癌是最常见的和几乎没有数据在其他类型的癌症,导致不平衡对样本数量的不同类型的肺癌。肺癌的数据集分布如下:
图1表明,有2273个样本的腺癌,鳞状细胞癌的845个样本,324个样本的小细胞癌。更客观地训练方法,我们想要的数据集不同癌症类型相似的大小;因此,小尺寸的癌症数据集,我们扩大了数据集的大小由过采样方法。值得注意的是,腺癌数据样本的数量大约三倍的鳞状上皮细胞癌和小细胞癌8倍,因此,后两个少数民族类数据集采样过量3 * 8倍的原始大小匹配大多数类,即。腺癌。
有别于传统的过采样方法,如随机采样过密和合成少数(SMOT)过采样技术,对图像数据,我们可以合成样品使用图像处理技术,如空间转换包括翻转,剪切,旋转(35],伽马变换、直方图均衡化和其他方法来提高数据集(36]。图像增强的一个例子结果如图2。
2.2。方法
我们现在下一个健壮的肺癌病灶在CT检测的新方法研究,使用动态R-CNN训练数据集。达到准确检测肺癌病变,我们使用动态R-CNN基线网络,使用self-calibrated沟回取代传统的卷积。除此之外,我们提出了一种新的回归损失函数是比在动态R-CNN损失函数。
我们首先提出方法的概述,然后详细描述它的组件。本文独立,我们描述的扩展方法的所有步骤。
2.2.1。模型
图3展示了我们的方法的流程图。的结构SC-Dynamic R-CNN网络类似于更快R-CNN [23]。它是由两个模块组成的。第一个模块是一个深完全卷积网络,提出了地区,该地区被称为建议网络(RPN)模块。项模块旨在检测多个对象在一个图像。第二个模块是该地区使用的探测器,即Box_Head。Box_Head后,有两个功能:损失分类损失函数和回归损失函数。但与快R-CNN [23),SC-Dynamic R-CNN可以调整标签自动分配标准和回归损失函数的形状在训练更好地利用训练样本。为了提高肺癌的特征表示的能力,SC-Dynamic R-CNN SCNet[补充道33]RPN模块。除此之外,动态R-CNN的损失函数进行了优化获得更好的检测结果肺癌。
如图3,最初,肺癌图像大小 像素的训练阶段。调整图像随后联储地区建议网络(RPN)提议的地区。接下来,该地区进行分类和退化Box_Head模块。最终,分类和回归结果被送入相应的损失函数和参数更新的网络。我们使用softmax损失分类损失,损失和回归新提出的损失函数,使用我们的细节将在下一节中描述。
更好地利用动态特性在训练阶段,SC-Dynamic R-CNN使用较低的借据阈值,以更好地适应这些不完美的提议在第二阶段的训练(图3(a))。随着培训,质量不断改善的建议。因此,我们可以更好地使用它们来增加阈值训练高质量检测器,所以网络可以更有识别力的更高的借据。动态标签分配可以制定如下: 在哪里代表当前借据阈值。为了实现动态属性,建议分布的变化随着时间的推移,在培训过程中,动态标签分配将自动更新基于建议的统计数据。具体来说,SC-Dynamic R-CNN首先计算借据建议和目标之间的地面实况,然后选择的最大价值从的阈值 。随着培训,借据建议和目标之间的地面真理会逐渐增加,那么更新后的阈值 。
此外,根据动态R-CNN[的结论28),借据阈值的提高,阳性样品的质量将进一步提高。结果,贡献高质量的样品将进一步减少,这将大大限制了整体性能。基于动态R-CNN的方法,我们已经提高了其回归损失函数,获得更准确的结果,在下一节中描述。
2.2.2。DBS L1损失
根据动态R-CNN[的结论28),与样品质量的提高,其贡献将逐渐减少。因此,动态R-CNN添加一个因素基于光滑L1损失函数。网络调整损失函数通过调整的价值因素 。增加的因素 ,高质量的样本训练的梯度将逐渐增加,因此对网络的贡献将会增加。回归损失函数的动态R-CNN显示如下: 在哪里将减少训练,如图2。
但损失函数可以进一步改善。把天秤座R-CNN [27作为参考,我们改善动态R-CNN损失函数和进一步提高的贡献高质量的训练样本。改进的DBS L1损失可以制定如下: 在哪里和是常量和制约因素是他们的价值观 。
类似于动态R-CNN动态标签分配过程(28),DBS L1损失首先获得回归标签建议与其目标之间地面真理。然后,我们选择最小值的更新的因素在方程。
如图4,DBS L1因素的不断减少损失,高质量的贡献逐渐增加训练样本。显然,DBS L1损失比DS L1损失,大大提高了识别肺癌病变的准确性。
(一)
(b)
2.2.3。自校准
传统二维卷积仍然是用来计算卷积在动态R-CNN [28]。但在传统的二维卷积,每个地图输出特性是由相同的公式,结果在卷积过滤器学习类似的模式。此外,每个空间位置的领域来看,在卷积特性转换只能由预定义的卷积核的大小控制。因此,肺癌特征映射的歧视将会减少。为了提高肺癌病变的能力的特征表示和识别肺癌病变更准确地说,SCNet [33)是用于SC-Dynamic R-CNN取代传统的二维卷积。
如图5,鉴于群的形状过滤器 ,在哪里的渠道和数量吗和分别是空间的高度和宽度。SCNet首先将它分为四个部分,每个人负责不同的功能。表达的分离过滤器 ,和每个过滤器的大小( )。输入将分成两部分进入self-calibrated之前卷积网络,代表和 ,在哪里将进行自校准通过 生产 。与此同时,将会被和生产 。最后,将连接到生成最终的输出 。
为了有效收集每个空间位置的上下文信息,SCNet进行卷积特性转换在两个不同的尺度空间。首先,输入将平均池进行操作:
然后,获得中间引用从小型空间映射到原始特征空间的双线性插值算子。具体公式如下: ,““表示卷积和是一个双线性插值算子。校准操作可以制定如下:
在哪里 ,””并表示element-wise乘法是乙状结肠函数。标定操作后,需要由以下公式来得到最终的输出:
在我们的模型中,SCNet用于代替卷积二维卷积,认为每个空间位置周围的环境,避免损伤部分无关的信息,同时也提高了识别肺癌病变的准确性。
3所示。实验
3.1。评价指标
评估的性能提出SC-Dynamic R-CNN图像数据,我们有,我们利用一组普遍为目标检测性能指标,美联社50据美联社75年和地图。美联社50和美联社75年平均精度与借据(十字路口在联盟)阈值的50%和75%。地图是指平均精度。之所以选择超过一个阈值来消除可能的评价偏见和提供更客观的评价结果。我们分区数据分成三组,即训练集、验证集,和test-dev集。该动态R-CNN变体是训练和验证与训练集和验证集。
最终结果报告test-dev集。值得注意的是,我们的地图平均美联社50和美联社75年为每个类别作为一个整体。一般来说,模型的检测效果越好,地图的价值就越高。
3.2。实现细节
真实的比较,所有的实验都使用PyTorch实现和mmdetection37]。和实验在Ubuntu 16.04操作系统的操作环境6×英特尔(R) (TM)核心i7 - 7700 CPU使用NVIDIA GeForce 2080 RTX GPU进行训练。测试实验使用相同的配置。每个网络的输入图像大小 像素,除非指出。我们训练探测器12世纪,最初学习速率为0.01。SGD势头将是0.9,体重衰变是一个值为0.0001。所有其他hyperparameters紧跟mmdetection设置(37如果没有特别指出。
3.3。主要结果
在本文的实验结果中,我们使用“腺癌”,“鳞状,”和“小细胞,”代表腺癌,鳞状细胞癌,小细胞癌,分别。
不同模型下的检测结果如下表所示:
有五个当代方法用于比较和基准的结果提出SC-Dynamic R-CNN。五个方法ReinaNet [21],SSD [38),快R-CNN [23],天秤座R-CNN [27],和级联R-CNN [25]。这些方法中最受欢迎的对象检测神经网络算法。肺癌相同的图像数据,训练集、验证集和test-dev设置用于一个公平的比较。我们建议的方法的性能对最受欢迎的五种方法提出了表1。
结果表明,SC-Dynamic R-CNN ResNet-50达到88.1%的地图,这是8点高于FPN-based更快R-CNN基线。单程检测网络,RetinaNet和地图,SSD实现81.5%和78.9%分别的准确性不如我们的方法。
此外,SC-Dynamic R-CNN比其他网络美联社要好得多75年。这是因为SC-Dynamic R-CNN可以训练更好的结果通过不断增加借据阈值。虽然在检测级联R-CNN也取得了良好的结果,我们的网络比级联R-CNN无论在美联社50或者美联社75年我们的地图比级联R-CNN高出4.1分。
我们建议的方法演示了一个像样的有效性和鲁棒性。我们的方法的性能精度甚至借据不同阈值是一致的。我们的方法的原因超过其他方法的准确性是由于小说增强在前面的动态R-CNN算法实现。在训练阶段,该变异能够自动调整标签分配标准和回归损失函数的形状,以便更好地利用训练集。另一个独特的改进是集成自校准机制的RPN的以前的方法,它有助于CNN产生更多的歧视表示,最终提高整体性能的变异。
3.4。烧蚀实验
显示每个提出了组件的有效性,我们报告整个消融研究表2。
这些结果显示我们的方法的有效性和鲁棒性。(1)DBS L1失:与动态R-CNN相比,DBS L1损失提高肺癌检测地图从85.4%降至87.1%。这证明了我们提出的模块有更好的性能比动态R-CNN损失模块。导致更高的借据指标如美联社75年大大改善了,这验证的有效性改变高质量损失函数,以弥补样本在训练吗(2)SCNet:当我们与SCNet取代传统的卷积,肺癌检测地图从87.1%提高到88.1%。而动态R-CNN双L1损失,美联社50和美联社75年分别增加了0.9点和1.1点,添加SCNet之后。这也证明了SCNet用于肺癌检测的有效性
实验结果的SC-Dynamic R-CNN如下图所示:
如图6,本文使用SC-Dynamic R-CNN模型检测肺癌病灶,效果良好。这充分表明,我们提出的模型大大提高了识别肺癌病变的效果。
4所示。结论
为了解决这个问题,肺癌的生物学特性复杂且难以检测,我们提出了SC-Dynamic R-CNN网络。首先,我们延长了肺癌与过采样方法和数据集获得平衡的数据集。然后,我们添加了self-calibrated卷积模块动态R-CNN网络,提出了一种新的回归损失函数,DBS L1损失。该算法解决问题的错误检测和小姐检测在一定程度上,极大地提高了检测的准确性肺癌。经过实验验证,新算法实现肺癌88.1%地图数据集,表现特别好高借据阈值(如美联社75年)。在未来的工作,我们将努力进一步提高网络的准确性和验证模型的广泛适用性在癌症检测。
在未来,它总是值得解决这个问题和其他智能算法和仿生计算方法,如帝王蝶优化(MBO) [39),蚯蚓优化算法(EWA) [40),大象放牧优化(EHO) (41],蛾搜索算法(MS) [42(SMA)[],黏菌算法43搜索(硫化汞)[],饥饿游戏44),龙格库塔优化器(运行)45),殖民地掠夺算法(CPA) (46(HHO)[],哈里斯鹰优化47,强化神经P (SN-P)系统学习(48]。
数据可用性
可以根据要求提供的数据。
的利益冲突
作者宣称没有利益冲突。
确认
这项研究得到了国家自然科学基金(61972416号,61873280,和61873281)和山东省自然科学基金(没有。ZR2019MF012)。