文摘

新疾病的诊断是一个具有挑战性的问题。早期的新疾病的出现,很少有样品;这可能会导致较低的智能诊断的准确性。因为优势的支持向量机(SVM)在处理小样本问题,是选择的智能诊断方法。标准支持向量机诊断模型更新需要重新培训所有样本。花费巨大的存储和计算成本,难以适应不断变化的现实。为了解决这个问题,本文提出了一种新的疾病诊断方法基于模糊支持向量机增量学习。根据支持向量机理论,支持向量集和边界样本集与支持向量机诊断模型提取。只有这些样本集被认为是在增量学习,确保准确性和减少计算和存储的成本。减少噪音的影响点造成的减少训练样本,FSVM用于更新诊断模型,泛化是改善。 The simulation results on the banana dataset show that the proposed method can improve the classification accuracy from 86.4% to 90.4%. Finally, the method is applied in COVID-19’s diagnostic. The diagnostic accuracy reaches 98.2% as the traditional SVM only gets 84%. With the increase of the number of case samples, the model is updated. When the training samples increase to 400, the number of samples participating in training is only 77; the amount of calculation of the updated model is small.

1。介绍

现代生活的步伐的加速和加重污染的空气,水,和其他生物资源引起疾病发病率的增加率(1]。尽管医疗条件的建设已经取得了很大的进步,它仍然是拉伸面对如此大的人口基数。医务人员和患者面临巨大的压力。

随着人工智能技术的发展,它在各个领域得到了广泛的应用,取得了非常好的结果2- - - - - -5]。在医学领域,智能诊断和治疗已成为一个强大的工具和一个热点6,7]。机器学习,以其强大的数据处理和挖掘能力,已成为智能诊断和治疗的主要研究方向:神经网络、贝叶斯网络、随机森林、支持向量机等方法已被应用到这个问题的探索(8- - - - - -12]。特别是在大数据时代的到来,深度学习方法(13)显示了强大的优势。

尽管这些方法很有效,高精度,治疗通常需要大量的数据支持。目前,有许多数据采集渠道。然而,人们常常忽略一个问题:新疾病的诊断,特别是那些有很强的传染性。冠状病毒疾病2019 (COVID-19)爆发了2019年12月,是一个非常典型的例子,病毒肺炎。在新皇冠的早期阶段,如果疾病情况下,可以快速、准确地诊断,疾病控制的难度和成本将大大降低。许多人工智能方法被用来帮助诊断(14- - - - - -19]。文献[20.)提出了一个基于DenseNet201深层迁移学习方法来判断是否感染了COVID-19病人。卷积神经网络模型提出了基于多任务学习模型在文献[21)实现COVID-19检测和改进病人的严重程度。王先生和王22)提出了一个基于ResNet CNN网络模型(COVID净)。模型预测正常,细菌感染,non-COVID-19病毒性感染,和COVID-19病毒性感染,精度高于80%,计算复杂度小于2.5亿次乘法和加法。Narin等人提出了三个不同的深度学习模型基于ResNet50,《盗梦空间》V3, Inception-ResNet v2 (23)检测COVID-19从x射线图像。所有这些研究取得了诊断精度高,但它们是基于大样本的条件。然而,该最初病例样本很少。在本文中,我们分析这个问题,研究了智能诊断在新疾病的早期阶段的几例样本。

这个问题面临两个挑战:(1)很少有样本数据;(2)疾病发展后,添加新病例样本和诊断模型需要更新。的机器学习方法,支持向量机可以解决小样本条件下的分类问题。因此,本文选择了支持向量机方法来解决这个问题,通过增量学习新收集病例样本学习,不断更新和提高了诊断模型,提高了诊断的能力(11,12]。然而,每次更新标准支持向量机的诊断模型,所有的样品需要再次培训,大量的存储和计算成本。为了解决这个问题,许多学者提出了支持向量机增量学习方法。这些方法主要包括三种观点:支持向量,Karush库恩塔克(马)条件和几何特性(24- - - - - -29日]。从支持向量的角度的想法,只支持向量影响解决方案(25,26),因此我们只需要关注支持向量。从几何的角度特性(28,29日),所有支持向量分类超平面的边界。在此基础上,在这篇文章中,我们打算找出支持向量集和边界样本集与SVM模型,放弃大多数样本,确保模型的分类精度,减少了计算和存储的成本。

在实际情况下,一些疾病的症状相似,给诊断带来困难。这些特性往往存在噪声点。支持向量机采用相同的惩罚方法为所有数据点在培训过程中,使培训模型对噪声和离群值更敏感。这种情况会更明显的当样品的数量是相对较小的。我们打算采用增量学习方法,大部分的样品将样本更新过程中省略了。在这种情况下,如果仍然使用传统的支持向量机训练诊断模型,一旦一些噪声点或离群值大的偏差出现在新的样品,这可能会导致一个大分类超平面的偏差,导致大幅下降的可能性诊断的效果。在这种情况下,有必要减少噪声点和异常值的敏感性。林和王提出了模糊支持向量机(FSVM)通过引入模糊隶属函数为标准支持向量机(30.]。通过给不同的处罚不同的样本,这些点的影响减弱,提高分类精度。

总之,解决样本数量有限的新疾病的初期,采用支持向量机。随着新样本收集,更新实时诊断模型通过支持向量机的增量学习方法。同时,为了减少噪声点对模型的影响,介绍了模糊隶属函数。希望这些方法可以提高新疾病的准确诊断,提高诊断的准确性。

本文的其余部分组织如下:部分2介绍了支持向量机增量学习方法;样本更新和模糊会员提出的计算方法。节3验证了该算法的有效性,香蕉的数据集。节4,一个智能诊断应用程序使用COVID-19数据进行了分析;我们讨论和比较实验和分析的结果。最后,结论是,未来的发展方向进行了讨论5。

2。支持向量机增量学习方法

智能诊断分类的关键。支持向量机方法解决方案速度快,泛化能力强的优势在解决小样本、非线性和高维问题[31日]。这是符合新疾病早期阶段的数据特征。本文选择支持向量机诊断算法实现准确诊断的新疾病的早期阶段。

2.1。支持向量机的分类原理

假定样本空间的情况 ,在哪里疾病的特征向量和吗相应的状态标识值(1表示目标疾病,1代表不属预定目标的疾病)。SVM将疾病诊断分为凸二次规划所示 在哪里是对应于最优分类超平面的法向量和是惩罚因子。越大值越大,处罚错误分类样本。是一个松弛变量代表的距离采样点之间的分类界限各自的分类边界。方程的对偶问题(1)所示 在哪里是拉格朗日乘子。当 满足Karush库恩塔克条件给出了方程(3),相应的最优方程解(2)是

违反马条件(相应的样品 )构成了SV集和训练的诊断模型完整的示例所示

从方程(的歧视的结果4),我们可以看到,基于svm诊断模型只涉及到支持向量集(SV)。SV集相当于全套。

2.2。训练样本集更新

通过上面的分析,我们可以得到的支持向量机诊断方法,SV模型只是相关集。这也适用于样本更新增量学习的过程。在培训过程中,我们可以简化更新过程,只要我们找到了SV提前设定。支持向量机分类,直观的几何解释如图1。

在图1、固体点和空心点代表两种类型的样本,分别;最优分类超平面;和分类边界超平面平行在两个类中,通过最近的样本。保证金之间的间隔是分类边界。SV设置的位置主要集中在两者之间的分类边界和分类边界,即点了红图中“o”。

因为只有SV集对分类超平面,non-SV样本应该被删除在模型更新,可以减少计算量。新添加的样品,如果样品分类边界之外,这意味着所有新样品non-SV,他们没有贡献的诊断模型。添加两个样品分类边界通常新sv。由于这些新样品,前面的分类边界将偏转,这将使一些原始non-SV_年代转变成SV_年代(28]。根据SV的几何分布,样本可能转化为SV通常是分布式分类边界附近。因此,当更新模型,我们需要考虑这些采样点除了最初的SV集。通过这种方式,我们可以将更新后的样本集分为三个部分:新样本集 ,最初的SV集,和样本集在分类边界附近。

附近的样本集分类边界: 在哪里是一个常数;选择的样本的数量可以通过设置调整的 。较小的是,更新的尺寸小一点的吗 。它可以获得更快的训练速度和简单的诊断模型。然而,这可能会导致损失的关键信息,降低了诊断的准确性。相反,大更新的大小 ,将获得的精度越高。增量学习模型更新,更新速度取决于训练样本的数量参与更新。小训练样本的数量,更新的速度越快。在这里,我们进一步降低更新后的样本集:在新的样本集,我们使用方程(5)找到边界样本。当更新的诊断模型,只有三套 ,SV,需要再次培训。

2.3。模糊支持向量机

FSVM首先分配成员值样本训练集的分类根据其重要性。评估后的训练样本集 。 模糊的会员吗 ; 是一个足够小的正数。培训与支持向量机优化问题在方程(1)转换到优化问题:

与标准支持向量机相比,FSVM使用加权误差测量减少一定程度上的分类。的异常值和噪声样本往往在分类边界内,拥有庞大的松弛变量值,FSVM削弱异常值和噪声的影响,分配他们模糊的小会员,以避免过度拟合,提高诊断模型的泛化。FSVM的核心问题是给不同的模糊隶属度不同的采样点。摘要模糊成员是由点之间的关系,分类超平面,和分类边界。样品分为内部边界和外部界限。边界外的样品可以被视为确定样本,和模糊隶属度1。如果采样点,因为我们给其模糊隶属一个很小的值(这里 )。边界之间的正确分类样本的样本是我们应该关注的焦点。考虑采样点之间的时间间隔和最优分类超平面。越远的间隔越大,概率,他们属于这一类。的时间间隔采样点的最优分类超平面可以表示为

最终的模糊隶属函数

模糊隶属函数的函数图如图2。

构造模糊隶属函数的广义贝尔隶属函数模型。当改变从0到1,上半年增加迅速,因为它是接近最优分类超平面,远离样本类;下半年接近分类边界,和增加价值往往是温柔。

2.4。诊断过程

加工过程的智能诊断方法基于FSVM增量学习如图3。

首先,建立了初始模型由以前收集的历史案例数据库,用于判断它是目标疾病和给特定的诊断和治疗建议;根据病人的恢复,误诊,错过了最初的诊断结果进行了分析。被专家鉴定后,输入历史样本数据库增量样本。增量样本积累到一定数量时,模型更新程序触发;在模型更新阶段,SV集和边界样本集从历史样本数据库中提取历史样本,根据诊断结果和他们加在一起的边界样本和边界样本的新样本集作为新的训练样本集,和一个新的诊断模型是通过给不同的模糊隶属度FSVM训练不同的样品。智能诊断系统纳入模型更新形成一个闭环自学习系统,这有利于连续诊断模型的修正和改进,提高了支持向量机诊断新疾病的能力。

3所示。算法验证

为了验证该方法的有效性在本文中,我们选择典型的二维非线性可分的数据集香蕉数据集在基准数据集32),验证算法的性能通过更新数据集的分类样本和分析分类的结果。实验环境是至强(R) 3.3 g CPU、8 g内存,Windows 7系统,MATLAB 2018 b。RBF核函数选择支持向量机训练。它的参数是由交叉验证和网格搜索方法和决定的设置为1.5。

首先,我们分析样本更新算法的结果。图4显示了香蕉的分类数据集(最初的训练集包括150个采样点的积极和消极类)在最初的训练。紫色,绿色和黄色的轮廓图4代表正类样本分类边界,最优分类超平面,分别和负类分类边界。“o”表示支持向量的集合,和“□”表示边界样本的集合。从图中,我们可以看到,支持向量集内的分布和分类边界,和附近的边界样本集分类边界。验证之前的分析是正确的。这些样本包含所有分类边界信息。

接下来,验证更新模糊隶属函数的合理性。我们添加了50正负样本,分别。图5显示了更新后的数据集和模糊成员。红色的“o”的图都是更新后的样本集(包括边界样本集发现前,支持向量集,剪裁后和新样本集)。大小的“o”表示模糊成员的价值。应该注意的是,为了更好的显示效果,“o”的最小大小设置为8标签在MATLAB的大小。从实验结果可以清楚地看到,样本点“o”的分类边界是最大的。点越接近两个分类边界之间的最优分类超平面,其值越小。通过这种方式,他们的影响力在分类模型可以减少培训期间,和分类错误的样本点是最小的,这意味着他们几乎可以忽略在训练。通过这种方式,FSVM可以提高分类模型的推广。

最后,我们分析后更新分类模型的分类性能添加新的样本。比较非更新分类超平面,SVM增量学习更新模型,通过添加加入模糊分类模型。图6显示了三种方法的分类结果。从结果中,我们可以看到分类模型增量学习后改变了。这主要是因为新的训练样本的加入影响了增量学习后原来的分类超平面。新获得的分类超平面是比原来的更准确的分类超平面。相比这两个更新方法,获得的分类超平面FSVM可以有效地减少噪声点和异常值的影响给予不同的惩罚系数不同的训练样本。举个例子,我们可以看到从本地图放大部分6向右,最优分类超平面有偏见的影响由于两个“。”。FSVM可以有效地修改分类超平面,提高泛化。

此外,我们不断加入训练集的样本集,每增加100个样本(积极类50,消极类50)。更新后的模型是banana_test_2上测试过。具体的分类精度结果如表所示1。

从实验结果表1我们可以看到,如果没有增量学习,分类模型的准确性仅为86.4%。然而,通过支持向量机增量学习模型不断优化更新的样本集,最后,分类精度达到89.8%。通过引入模糊因素,进一步提高模型的泛化,分类精度可以达到90.4%。模型更新过程中训练集的大小会影响训练时间和模型更新的及时性。本文提出的方法可以过滤初始样品,只有选择支持向量集和边界样本集;参与更新样品的数量非常小。所以模型的更新速度也相对较快。

4所示。应用程序分析的智能诊断

为了验证该算法的有效性,智能诊断应用程序进行了分析使用COVID-19提供的数据我们的附属医院。数据集包括两种类型的样本:COVID-19 non-COVID-19。样品的总数是571,其中包括357 non-COVID-19和212 COVID-19。

示例包括共有37个特性。前两个特征是患者ID和类别。排除这些二维特性,其余35尺寸是我们用于诊断的功能。总的来说,它包括生理功能,生化检查结果,CT图像特征。的生理功能包括动态血压、肺动脉高血压、心率、热点₂、体温和呼吸速率。生化检查主要包括以下功能:白细胞的数量,淋巴细胞的比例,肌酸激酶,丙氨酸转氨酶、天冬氨酸转氨酶、高敏c反应蛋白和红细胞沉降率。CT图像特征主要包括密度、形状、病变分布、间质增厚,增厚的维管束病变,绳专注和胸腔积液。从总体数据,non-COVID-19的比率和COVID-19大约是6:4。我们假设100组病例收集在最初的阶段,其中60组是COVID-19 non-COVID-19 40组。选择方法是随机的。每100个样本进行增量学习。最后,剩下的171组作为测试样本集。实验结果如表所示2。

从实验结果中,我们可以看到,诊断精度逐渐提高样本集的增加和改善,这是类似于前面的香蕉实验数据集。在初始样本集,只有100例;诊断模型的诊断准确率达到84.0%,这反映了支持向量机方法的优点在处理小样本。分类精度相同的BP神经网络训练的数据仅为74.6%,远低于SVM方法。如果不用于更新增量学习样本集与诊断模型,这种模型的诊断准确性远远不够,这意味着超过15%的病人会被误诊。当只使用SVM方法来更新模型,诊断准确性大大改善了由于新病例样本,最后诊断精度可以达到95.9%。然而,野生点和噪声点的存在可以减少模型的泛化。FSVM通过这些样本点的模糊处理,可以有效地减少它们对模型的分类超平面的影响,提高泛化。实验结果表明,增量学习模型由FSVM处理可以提高诊断准确性为98.2%,进一步验证FSVM增量学习的优势。

在增量学习被认为是另一个关键问题是更新速度。与样本的增加,如果更新速度太慢,没有实时性能,整个增量学习方法不会被应用于实践。支持向量机学习,训练的速度取决于参与训练样本的数量。如果更新后的训练样本不剪裁,存储和计算系统的成本将会更高。本文中的方法丢弃无用的样本点的基础上以前的模型。图7显示了支持向量机训练样本训练的数量没有剪裁和训练样本的数量更新的方法。从图中,我们可以看到,没有剪裁,样本的数量逐渐增加的变化模型更新迭代和第四更新已达到400。该方法使必要的选择每次和采样点的数量相对稳定。甚至在第四代,参与训练样本的数量只有77人。可以看出,本文的方法可以大大减少计算量,确保更新的效率。

接下来,我们分析的整体诊断模型的准确性。选择这里,混淆矩阵来判断二元分类问题。混淆矩阵如表所示3。

根据表3召回率和准确率的诊断模型可以计算如下:

在诊断问题,召回率可以表示正确的比例确定阳性病例确诊病例。这个措施新疾病的诊断模型的识别能力。准确率是面向培训模型,代表确诊病例的比例确定的模型。这两个指标的诊断性能诊断模型从不同的角度。我们通常把两个画precision-recall (PR)曲线探讨诊断模型。公关曲线在不同样品和方法数据所示8和9。

当公关曲线接近右上角,它表明,模型的性能更好。当比较不同模型时,如果一个模型的公关曲线是完全被另一个模型的公关曲线,它表明,后者比前者的性能。从实验结果图8,我们可以看到,随着样本的增加和诊断模型的更新,新的诊断模型的公关曲线逐渐趋于向右,和公关曲线更新每次可以完全覆盖前面的曲线,也表明该FSVM增量学习方法可以有效地提高诊断模型的性能。从图9与支持向量机相比,没有更新和支持向量机增量法,FSVM增量学习方法也可以覆盖了其他两个方法,和获得的曲线右上角比其他两种方法,这也表明FSVM增量学习诊断方法提出了能获得更好的诊断效果。

5。结论

新疾病的诊断是一个具有挑战性的问题与机器学习智能诊断和治疗。为了解决一些问题的样本情况下,支持向量机方法被选中。同时,增量式学习是用于更新示例数据库和诊断模型。增量学习是一个重要手段,以确保基于知识的智能诊断方法能够适应样本的增加。根据支持向量机方法的基本原理,本文确定了样本集相关模型,主要包括支持向量集,边界样本集,和新的样本集,边界样本集解决问题的支持向量变换。为了解决这个问题,噪声点和异常值对诊断结果的影响增加样本的数量减少后,FSVM方法中使用的模型更新的过程。实验表明,该方法不仅有效地简化了增量训练集,而且有效地提高训练效率,同时保证诊断的准确性。模糊的会员也有效地提高了模型的泛化。本文的研究可以为应用程序提供一个新想法的机器学习方法在智能医疗诊断领域,特别是在早期阶段的新疾病和诊断模型的实时更新。未来的发展方向包括继续提高灵敏度和精度COVID-19和其他疾病感染的新数据收集,以及将该方法扩展到生存的危险分层分析,预测风险状态的病人等等。

数据可用性

数据可以从相应的作者。

的利益冲突

作者宣称没有利益冲突。