文摘gydF4y2Ba

监督和interpatient分类原始心脏跳动的心脏功能的许多应用程序需要长期监测。几个分类模型能够应付强大的类不平衡和各种各样的特性集提出了这一任务。在实践中,往往被认为超过200特性,并保留在最终模型的特性选择使用领域知识或穷举搜索的特性集没有评估每个特性的相关性包括在分类器。因此,这些模型获得的结果可能是次优的,难以解释。在这项工作中,特征选择技术被认为是最先进的心电图分类模型的提取最优特征子集。性能评估在实际动态记录和相对于之前报道特点选择使用相同的模型。结果表明,少量的个人特性实际上更好的分类和性能可以通过删除无用的功能。gydF4y2Ba

1。介绍gydF4y2Ba

心脏疾病的诊断需要监测心脏功能通过记录和处理的心电图(ECG)信号。诊断可能依靠几瞬态等短期因素间歇心律失常;长期的心电图记录因此通常需要。这种长期的人工分析心电图信号,包含数百成千上万的心跳来评估,证明了单调乏味,而且容易出错。gydF4y2Ba

一些计算机辅助心跳分类算法已经提出了这一任务。这些算法可分为两类:gydF4y2BainterpatientgydF4y2Ba或gydF4y2BaintrapatientgydF4y2Ba分类系统(gydF4y2Ba1gydF4y2Ba]。Intrapatient分类需要贴上跳动测试病人的模型的训练。相比之下,interpatient模型分类的跳动测试病人根据参考数据库构建数据来自先前诊断病人。在现实情况下,标签节拍通常不及时可用于一个新的病人使intrapatient分类不适用。出于这个原因,这项工作的重点是interpatient分类。gydF4y2Ba

监督分类用于自动分类过程需要提取的歧视的心跳信号特性。杂散特性可以危害分类器,特别是在不平衡类的存在和大量的功能(gydF4y2Ba2gydF4y2Ba,gydF4y2Ba3gydF4y2Ba]。此外,特征选择是分类器的可解释性,因为歧视特征识别。这个属性特别有用在医学应用所选择的特征可能有助于理解原因和病理的起源。gydF4y2Ba

不幸的是,很少的信息可用来决定如何提取和构建从心跳时间序列特性。在这个工作中,大量的特性之前提出了心跳分类提取,和两种特征选择方法研究了选择最优特征子集:包装器方法使用forward-backward搜索策略与加权线性判别分类器和过滤器的方法使用互信息准则和加权支持向量机分类器。实验是进行真正的动态信号从Physiobank心律失常数据库。gydF4y2Ba

以下本文组织如下。部分gydF4y2Ba2gydF4y2Ba细节的艺术interpatient分类和强调我们对这个领域的贡献。部分gydF4y2Ba3gydF4y2Ba提供了一个简短的理论背景在这项工作中使用的分类器。部分gydF4y2Ba4gydF4y2Ba评论特征选择方法,以及他们的优缺点在这个特定的心跳分类应用程序。部分gydF4y2Ba5gydF4y2Ba细节中使用的数据库实验和ECG信号的处理。部分gydF4y2Ba6gydF4y2Ba详细介绍了实验并给出了结果。最终,节gydF4y2Ba7gydF4y2Ba得出一些结论。gydF4y2Ba

2。国家的艺术和贡献gydF4y2Ba

研究首次建立可靠interpatient分类方法是(gydF4y2Ba4gydF4y2Ba),加权线性判别分析(LDA)模型训练分类的节拍AAMI的标准定义的四类(gydF4y2Ba5gydF4y2Ba]。该算法后来改进使用相同的分类器和其他功能首先在gydF4y2Ba6gydF4y2Ba),后来由同一作者(gydF4y2Ba7gydF4y2Ba]。这些算法之间的共同点是加权LDA的使用分类器,它有三个强大的局限性。首先,它是一个线性分类器将无法检测非线性决策功能。第二,LDA分类器是基于高斯假设类分布并不总是有效的。最后,它的参数的估计变得困难的强相关特性,因为奇点的协方差矩阵。gydF4y2Ba

出于这个原因,更强大的分类器,如支持向量机(svm)也被认为是。在[gydF4y2Ba8gydF4y2Ba),层次支持向量机使用,但算法并不能提高报道的结果(gydF4y2Ba4gydF4y2Ba]。后,(gydF4y2Ba1gydF4y2Ba)提出了一个基于支持向量机分类器算法优化加权成本函数。该算法增加了表演的gydF4y2Ba4gydF4y2Ba为病理类)。gydF4y2Ba

然而,不同的功能组被认为是在每一个研究很难在公平的基础上评估其辨别力。例如,形态、分割和rr间隔特性被认为是在gydF4y2Ba4gydF4y2Ba,gydF4y2Ba6gydF4y2Ba,gydF4y2Ba7gydF4y2Ba]。另一方面,(gydF4y2Ba8gydF4y2Ba)利用rr间隔,埃尔米特函数扩展基础,高阶统计数据。在[gydF4y2Ba1gydF4y2Ba),所有这些特性集被认为是,但执行特征选择只在集团层面,没有评估每个特性的相关性包括在分类器。gydF4y2Ba

在这项工作中,我们的贡献在于提取这些特征集和评估每个特性的相关性。为了这个目的,一个包装器方法使用forward-backward搜索策略和筛选方法使用互信息准则进行了研究。据我们所知,这是第一个工作(1)评估所有常用的特性集的相关性共同点,(2)使用互信息准则来选择最佳心跳功能。稍后将详细,互信息准则确实提供了许多优势基于模型的方法,如较低的计算成本。在下一节中,一个理论背景加权LDA和加权支持向量机分类器提供,连同介绍互信息准则。gydF4y2Ba

3所示。理论背景gydF4y2Ba

让我们定义gydF4y2Ba gydF4y2Ba thgydF4y2Ba gydF4y2Ba 维观测gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba {gydF4y2Ba gydF4y2Ba 1gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba 2gydF4y2Ba gydF4y2Ba ,gydF4y2Ba …gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba }gydF4y2Ba 和相关的类值gydF4y2Ba gydF4y2Ba gydF4y2Ba ∈gydF4y2Ba {gydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba …gydF4y2Ba ,gydF4y2Ba gydF4y2Ba }gydF4y2Ba 对于一个给定的心跳gydF4y2Ba gydF4y2Ba 与gydF4y2Ba gydF4y2Ba 从1到gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba 的数据集和心跳的总数gydF4y2Ba gydF4y2Ba 类的数量。传统分类器优化精度使隐藏的假设类同样平衡(gydF4y2Ba3gydF4y2Ba]。然而,在一个心跳分类任务中,大约90%的节拍是正常的节拍,而其他病理类代表了10%。出于这个原因,重量必须介绍了分类器来处理这种情况。成本上升然后给少数类以指导培训过程解决方案,支持这些类。两个不同的模型被认为是在这个工作:加权LDA模型(gydF4y2Ba4gydF4y2Ba,gydF4y2Ba6gydF4y2Ba,gydF4y2Ba7gydF4y2Ba)和加权支持向量机模型(gydF4y2Ba1gydF4y2Ba]。gydF4y2Ba

3.1。加权LDAgydF4y2Ba

传统的线性判别分析(LDA)分类器是第一个描述,接下来它显示如何调整其配方在不平衡数据集的情况下(gydF4y2Ba4gydF4y2Ba]。LDA方法分类问题的假设条件概率密度函数gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba )gydF4y2Ba 与简化同方差的正态分布假设类协方差是相同的。所有的参数gydF4y2Ba gydF4y2Ba 因此模型总结的意思类向量gydF4y2Ba gydF4y2Ba gydF4y2Ba 和独特的协方差矩阵gydF4y2Ba ΣgydF4y2Ba 。这些参数被定义为最大化对数似函数gydF4y2Ba 米gydF4y2Ba 一个gydF4y2Ba xgydF4y2Ba gydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba gydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba …gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba ΣgydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba lgydF4y2Ba ogydF4y2Ba ggydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba ,gydF4y2Ba ΣgydF4y2Ba gydF4y2Ba gydF4y2Ba (gydF4y2Ba 1gydF4y2Ba )gydF4y2Ba 在哪里gydF4y2Ba gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba ΣgydF4y2Ba )gydF4y2Ba 是高斯分布的价值意味着什么gydF4y2Ba gydF4y2Ba gydF4y2Ba 和协方差gydF4y2Ba ΣgydF4y2Ba 。优化可以通过封闭形式和收益率以下解决方案:gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba ∑gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba 1gydF4y2Ba ΣgydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba −gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba −gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba 。gydF4y2Ba (gydF4y2Ba 2gydF4y2Ba )gydF4y2Ba 在不平衡的情况下,一个流行的方法是添加不同的类误分类目标函数的权重。LDA的分类器,下面的分解和权重应用于观测求和(gydF4y2Ba1gydF4y2Ba)[gydF4y2Ba4gydF4y2Ba]:gydF4y2Ba 米gydF4y2Ba 一个gydF4y2Ba xgydF4y2Ba gydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba gydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba …gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba ΣgydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba lgydF4y2Ba ogydF4y2Ba ggydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba ,gydF4y2Ba ΣgydF4y2Ba gydF4y2Ba gydF4y2Ba (gydF4y2Ba 3gydF4y2Ba )gydF4y2Ba 在哪里gydF4y2Ba gydF4y2Ba gydF4y2Ba 每个类参数相关联的权重。现在模型的参数估计gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba ∑gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba ∑gydF4y2Ba ΣgydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba ∑gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba −gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba −gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ∑gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba 。gydF4y2Ba (gydF4y2Ba 4gydF4y2Ba )gydF4y2Ba 然后通过使用推理gydF4y2Ba gydF4y2Ba ∗gydF4y2Ba gydF4y2Ba =gydF4y2Ba 米gydF4y2Ba 一个gydF4y2Ba xgydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba 1gydF4y2Ba =gydF4y2Ba −gydF4y2Ba 2gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ΣgydF4y2Ba −gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba +gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ΣgydF4y2Ba −gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba (gydF4y2Ba 5gydF4y2Ba )gydF4y2Ba 这对应于分配gydF4y2Ba gydF4y2Ba gydF4y2Ba 类拥有最小的类均值和之间的距离gydF4y2Ba gydF4y2Ba gydF4y2Ba 。gydF4y2Ba

3.2。加权支持向量机gydF4y2Ba

支持向量机(SVM)是一种监督学习方法引入Vapnik [gydF4y2Ba9gydF4y2Ba]。这里描述的两种情况gydF4y2Ba gydF4y2Ba gydF4y2Ba ∈gydF4y2Ba {gydF4y2Ba −gydF4y2Ba 1gydF4y2Ba ,gydF4y2Ba +gydF4y2Ba 1gydF4y2Ba }gydF4y2Ba ,因为它扩展到多个类通过应用one-against-all或one-against-one方法很简单。在这个工作,详细的节gydF4y2Ba6gydF4y2Ba,one-against-one方法将用于实验。gydF4y2Ba

svm是线性的机器依靠预处理代表在更高维度的特性,通常远高于原始特征空间。用一个适当的非线性映射gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba )gydF4y2Ba 一个足够高维空间,有限的数据两类可以被分离超平面。在支持向量机,该超平面距离最近的数据点两侧,称为利润最大化。假定每一个观察gydF4y2Ba gydF4y2Ba gydF4y2Ba 已经改变了gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba gydF4y2Ba )gydF4y2Ba 。soft-margin配方的SVM分类错误是允许的例子或躺在边缘的引入松弛变量gydF4y2Ba gydF4y2Ba gydF4y2Ba 在目标约束gydF4y2Ba 米gydF4y2Ba 我gydF4y2Ba ngydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba +gydF4y2Ba gydF4y2Ba 为gydF4y2Ba gydF4y2Ba 为gydF4y2Ba 2gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba (gydF4y2Ba 6gydF4y2Ba )gydF4y2Ba 年代gydF4y2Ba 。gydF4y2Ba tgydF4y2Ba 。gydF4y2Ba gydF4y2Ba gydF4y2Ba ⟨gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba ⟩gydF4y2Ba gydF4y2Ba ≥gydF4y2Ba 1gydF4y2Ba −gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba ∀gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba ⋯gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba ≥gydF4y2Ba 0gydF4y2Ba ,gydF4y2Ba ∀gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba ⋯gydF4y2Ba gydF4y2Ba ,gydF4y2Ba (gydF4y2Ba 7gydF4y2Ba )gydF4y2Ba 在哪里gydF4y2Ba gydF4y2Ba 超平面的参数。任何可行的解决方案,分类错误的例子有一个松弛值有关gydF4y2Ba gydF4y2Ba gydF4y2Ba 大于1。我们可以看到从(gydF4y2Ba6gydF4y2Ba),第一项最小化分类误差最小化,同时最小化第二项相当于最大化分类。gydF4y2Ba

这个经典SVM配方已被证明患有类不平衡严重不平衡的情况下产生分类器偏向于多数类(gydF4y2Ba10gydF4y2Ba]。原因是分类中的一切多数类使利润最大,累计损失为零的丰富的大多数例子。唯一的代价是少量的累计损失的一些少数的例子并不重要。为了克服这个问题,不同的处罚为每个类可以包含在第一项(gydF4y2Ba6gydF4y2Ba),gydF4y2Ba 米gydF4y2Ba 我gydF4y2Ba ngydF4y2Ba gydF4y2Ba ⎛gydF4y2Ba ⎜gydF4y2Ba ⎜gydF4y2Ba ⎝gydF4y2Ba gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba +gydF4y2Ba gydF4y2Ba −gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba −gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba ⎞gydF4y2Ba ⎟gydF4y2Ba ⎟gydF4y2Ba ⎠gydF4y2Ba +gydF4y2Ba gydF4y2Ba 为gydF4y2Ba gydF4y2Ba 为gydF4y2Ba 2gydF4y2Ba 。gydF4y2Ba (gydF4y2Ba 8gydF4y2Ba )gydF4y2Ba 这个加权SVM分类器已成功的制定提出了心跳的分类(gydF4y2Ba1gydF4y2Ba]。gydF4y2Ba

通过引入拉格朗日因子gydF4y2Ba gydF4y2Ba gydF4y2Ba ,这gydF4y2Ba原始的gydF4y2Ba所谓的配方可以改写gydF4y2Ba双gydF4y2Ba的形式。然后通常通过优化解决系统使用二次编程(gydF4y2Ba11gydF4y2Ba]。对偶形式的映射函数的显式形式gydF4y2Ba gydF4y2Ba 不能知道只要内核函数gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba )gydF4y2Ba =gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba gydF4y2Ba )gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba gydF4y2Ba )gydF4y2Ba 定义。下面的符号判决函数用于确定预测类值gydF4y2Ba gydF4y2Ba ∗gydF4y2Ba gydF4y2Ba 新的标记观察:gydF4y2Ba gydF4y2Ba ∗gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 年代gydF4y2Ba 我gydF4y2Ba ggydF4y2Ba ngydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba =gydF4y2Ba 1gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba 。gydF4y2Ba (gydF4y2Ba 9gydF4y2Ba )gydF4y2Ba

3.3。互信息gydF4y2Ba

互信息(MI) [gydF4y2Ba12gydF4y2Ba)已被证明是一种非常有效的判据的特征选择,因为它能够检测(组)特性之间的非线性关系。MI值给定的特性和类标签之间会给出一个分数的预测能力这个特性。作为一个例子,在一个不同的区域,gydF4y2Ba13gydF4y2Ba)成功地使用MI确定最相关的特征光谱非线性建模。gydF4y2Ba

正式的MI一双随机变量gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba 是一个对称测量这两个变量之间的依赖和被定义为gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba ;gydF4y2Ba gydF4y2Ba )gydF4y2Ba =gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba )gydF4y2Ba +gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba )gydF4y2Ba −gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba (gydF4y2Ba 1gydF4y2Ba 0gydF4y2Ba )gydF4y2Ba 在哪里gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba )gydF4y2Ba 的熵gydF4y2Ba gydF4y2Ba ,这是一个测量的不确定性gydF4y2Ba gydF4y2Ba 。连续随机变量的熵定义为:gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba )gydF4y2Ba =gydF4y2Ba −gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba lgydF4y2Ba ogydF4y2Ba ggydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba (gydF4y2Ba 1gydF4y2Ba 1gydF4y2Ba )gydF4y2Ba 在哪里gydF4y2Ba gydF4y2Ba gydF4y2Ba 的概率密度函数是gydF4y2Ba gydF4y2Ba 。方程(gydF4y2Ba10gydF4y2Ba)可以写成的条件熵gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba ;gydF4y2Ba gydF4y2Ba )gydF4y2Ba =gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba )gydF4y2Ba −gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba )gydF4y2Ba ,gydF4y2Ba (gydF4y2Ba 1gydF4y2Ba 2gydF4y2Ba )gydF4y2Ba 在哪里gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba ∣gydF4y2Ba gydF4y2Ba )gydF4y2Ba 条件熵gydF4y2Ba gydF4y2Ba 鉴于gydF4y2Ba gydF4y2Ba 测量的不确定性gydF4y2Ba gydF4y2Ba 一次gydF4y2Ba gydF4y2Ba 是已知的。后(gydF4y2Ba12gydF4y2BaMI),因此可以被视为减少不确定性gydF4y2Ba gydF4y2Ba 所带来的知识gydF4y2Ba gydF4y2Ba 因此自然条件特征选择假设gydF4y2Ba gydF4y2Ba 输出是一个我们想要预测的gydF4y2Ba gydF4y2Ba ,一组特性。gydF4y2Ba

最终,可以表示为gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba ;gydF4y2Ba gydF4y2Ba )gydF4y2Ba =gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba lgydF4y2Ba ogydF4y2Ba ggydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba gydF4y2Ba 。gydF4y2Ba (gydF4y2Ba 1gydF4y2Ba 3gydF4y2Ba )gydF4y2Ba

不幸的是,在实践中gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba gydF4y2Ba 也不gydF4y2Ba gydF4y2Ba gydF4y2Ba ,gydF4y2Ba gydF4y2Ba 是已知的。MI因此不能直接计算;它必须是估计的可用的样本。这个任务提出了几种方法,包括直方图估计量(gydF4y2Ba14gydF4y2Ba),Parzen-window-based估计量(gydF4y2Ba15gydF4y2Ba),和一个gydF4y2Ba gydF4y2Ba -NN-based估计量(gydF4y2Ba16gydF4y2Ba]。MI能力提供许多实用的优点,如发现变量之间的非线性关系和标签,使用多级标签,和较低的计算复杂度。gydF4y2Ba

4所示。特征选择gydF4y2Ba

特征选择是传统上实现通过包装或过滤方法(gydF4y2Ba17gydF4y2Ba]。包装方法是基于一个特定的分类的准确性。为例,详尽的包装器包含在喂养一个模型gydF4y2Ba 2gydF4y2Ba gydF4y2Ba −gydF4y2Ba 1gydF4y2Ba 可能的特征子集(gydF4y2Ba gydF4y2Ba 功能)的总数和选择最好的模型执行。这种策略是最优特征选择技术对于一个给定的模型。然而在实践中,这种穷举搜索棘手,因为它需要的培训(包括潜在hyperparameters的耗时的优化)gydF4y2Ba 2gydF4y2Ba gydF4y2Ba −gydF4y2Ba 1gydF4y2Ba 不同的模型。gydF4y2Ba

当简单和快速(如线性)模型被认为是一个可以通过使用一个不过规避这个问题gydF4y2Ba增量gydF4y2Ba包装方法(gydF4y2Ba18gydF4y2Ba]。最常见的一种增量搜索过程是forward-backward选择算法。其原理是选择在每一步添加到当前的特征子集导致预测性能最高的增加。然后检查如果删除之前选定的一个特性允许增加模型的性能。更准确地说,整个过程通常始于空集的功能。第一个选定的功能是那么一个单独最大化模型的性能。第二步由找到特性集的特性导致最好的增加性能结合时前面选择的功能。这个过程仍在继续,但从第三步,添加一个倒退可能删除功能如果这使得模型表现的更好。算法结束时不再特性可以提高性能或固定数量的功能已经达到。gydF4y2Ba

虽然这个增量搜索不能保证收敛到最优特征子集的选择,它已经在实践中被证明是非常有效的和减少所需数量的模型火车gydF4y2Ba 2gydF4y2Ba gydF4y2Ba −gydF4y2Ba 1gydF4y2Ba 来gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba )gydF4y2Ba (gydF4y2Ba19gydF4y2Ba]。自训练加权LDA模型不需要任何hyperparameter,封闭的解的估计,只需要几秒钟现代电脑。因此,一个包装器算法基于一个向前搜索策略可以用于加权LDA分类器。包装方法,负担得起的时候,确实是首选的过滤方法,因为他们预计会产生更好的结果,因为它们被设计为一个特定的模型。gydF4y2Ba

另一方面,当它不是负担得起的火车几十或几百个预测模型,特征选择,而应该通过过滤方法。过滤方法是基于标准的独立表现的模型(见,例如,(gydF4y2Ba20.gydF4y2Ba,gydF4y2Ba21gydF4y2Ba])。这些方法比包装程序,从而更快的适合与更复杂的(即。、非线性)模型。例如,如果one-against-one方法用于多级加权支持向量机分类器,gydF4y2Ba gydF4y2Ba (gydF4y2Ba gydF4y2Ba −gydF4y2Ba 1gydF4y2Ba )gydF4y2Ba /gydF4y2Ba 2gydF4y2Ba 模型必须被训练为一个选择的特性,以及每个模型本身需要调整两hyperparameters leave-one-patient-out交叉验证。给一个想法的运行时间,包装提出加权支持向量机模型的选择策略将在上几周的顺序运行现代电脑。显然,在这种情况下,因此,而应被视为一个过滤器策略。gydF4y2Ba

由于MI是能够探测到随机变量之间的关系,自然是适用于多类问题,它是一个强大的标准过滤程序(gydF4y2Ba22gydF4y2Ba,gydF4y2Ba23gydF4y2Ba]。然而,MI可以检测非线性关系和一个线性分类器使用给定的特性可能会失败在掌握所需的非线性歧视信息。出于这个原因,只有加权支持向量机模型与非线性内核应该测试选择的变量MI排名过程。运行时间是,只需要几秒钟在现代电脑估计MI值之间数以百计的特性和类标签使用直方图。gydF4y2Ba

最终,值得一提的是它也只计算成本的特征选择策略和训练模型的考虑,因为测试成本的计算模型可以实时实现。gydF4y2Ba

5。方法gydF4y2Ba

以前的工作在interpatient心跳分类使用特点从心跳信号中提取使用先验知识或通过比较几种组合的特性集。因此缺乏评估单个特性的相关性。在这个工作中,研究了两种特征选择方法选择个人特色服务分类的任务。大量的特性被认为是在公平的基础上和比较。本节介绍了方法后在我们的实验。gydF4y2Ba

5.1。心电图数据gydF4y2Ba

标准MIT-BIH心律失常数据库(gydF4y2Ba24gydF4y2Ba)用于实验。它包含48 half-hour-long动态录音来自48个病人,总共110.000近似地心跳手动标记为15个不同的节拍类型。根据AAMI标准四个录音,包括节奏节拍被拒绝总共44实验记录(gydF4y2Ba5gydF4y2Ba]。gydF4y2Ba

为每一个记录,从两个不同的两个信号是可用的。采样ECG信号首先过滤使用的过滤过程一样gydF4y2Ba1gydF4y2Ba,gydF4y2Ba4gydF4y2Ba,gydF4y2Ba8gydF4y2Ba]删除不需要的构件(如基线漫游由于呼吸,电力线路干扰,和其他高频工件。gydF4y2Ba

44可用录音分为两个独立的数据集22记录每个心跳类的近似地相同的比率(gydF4y2Ba4gydF4y2Ba]。第一个数据集训练集,用于构建模型。第二个数据集是测试集,用于获得一个独立的分类器的性能。gydF4y2Ba

R飙升注释提供数据库作为一个标记分离和识别节拍。MIT-BIH心脏beat-labeled类型然后根据AAMI建议分组成四个临床相关的心跳类(见表gydF4y2Ba1gydF4y2Ba分组的详细信息)。表gydF4y2Ba2gydF4y2Ba显示了每个类的节奏和频率的两个数据集。gydF4y2Ba

5.2。特征提取gydF4y2Ba

以前流行的功能组提出了心跳从心跳时间序列中提取分类:rr间隔(用于几乎所有以前的作品),分割间隔(gydF4y2Ba4gydF4y2Ba,gydF4y2Ba25gydF4y2Ba),形态学特征(gydF4y2Ba4gydF4y2Ba,gydF4y2Ba26gydF4y2Ba),埃尔米特基函数扩张系数(住宅)gydF4y2Ba8gydF4y2Ba,gydF4y2Ba27gydF4y2Ba,gydF4y2Ba28gydF4y2Ba),和高阶统计(gydF4y2Ba8gydF4y2Ba,gydF4y2Ba29日gydF4y2Ba]。以下本节描述的特性包括在每一个组。gydF4y2Ba(1)gydF4y2Ba分割间隔(24):心电图特征点,对应的发病和抵消P, QRS,和T波,带注释的使用标准gydF4y2BaecgpuwavegydF4y2Ba(见gydF4y2Bahttp://www.physionet.org/physiotools/software-index.shtmlgydF4y2Ba)分割软件提供MIT-BIH心律失常数据库。各种各样的24特点然后注释特征波的计算:gydF4y2Ba(一)gydF4y2BaQRS波:国旗、面积、最大、最小、积极的区域,负区域,标准差,偏态、峰态,长度,QR长度,和RS长度;gydF4y2Ba(b)gydF4y2BaP波:国旗,面积,最大,最小,和长度;gydF4y2Ba(c)gydF4y2BaT波:国旗、面积、最大、最小值,长度,QT的长度,长度和圣。gydF4y2Ba当所需要的特征点计算功能未能被发现在心跳注释步骤中,它已经选择在这工作特性值设置为病人的平均特性值而不是丢弃了。注意,只有一个非常小的部分拍未能进行注释(例如,QRS波群的Q和S点未能被发现只有0.60%的节拍)。gydF4y2Ba(2)gydF4y2Barr间隔(8)特征:这组由四个功能由原来的R飙升MIT-BIH数据库提供的注释:前面的rr间隔,接下来的rr间隔,平均的rr间隔在一个窗口周围的10 R的峰值,和信号意味着rr间隔。相同的四个特性也计算使用R注释算法检测到的峰值。gydF4y2Ba(3)gydF4y2Ba形态学特征(特征)19日:10特性得到了均匀采样心电图振幅在一个窗口中定义的开始和偏移量的QRS波群,和其他九个功能在一个窗口中定义的QRS抵消,让抵消。心电图信号已经取样,利用线性插值估计心电图振幅的中间值。在这里,当发病或抵消点需要计算一个功能没有发现,特征值设置为病人的平均特征的值。gydF4y2Ba(4)gydF4y2Ba住宅系数特性(20):定义的参数计算住宅膨胀系数(gydF4y2Ba8gydF4y2Ba使用)。埃尔米特多项式的顺序设置为20,和宽度参数gydF4y2Ba gydF4y2Ba 据估计,每个击败的重建误差最小化。gydF4y2Ba(5)gydF4y2Ba高阶统计特性(30):第二,第三和四阶累积量计算功能。中定义的参数(gydF4y2Ba28gydF4y2Ba]使用;滞后参数从−250毫秒到250毫秒以R飙升,和10个等距的每个累积量函数的样本点作为特征,总共30特性。gydF4y2Ba(6)gydF4y2Ba规范化的rr间隔(6)特性:这些特性对应相同的功能的rr间隔组除了他们规范化的平均值为每一个病人。这些特性也独立于意味着心脏的正常行为的患者,可自然是非常不同的个体之间,可能误导分类器。gydF4y2Ba(7)gydF4y2Ba归一化分割间隔(21):这组包含相同的功能作为细分的群体,除了他们规范化的平均值为每一个病人。正常化显然不是应用于布尔细分功能。在这里,目标是使每个特性独立意味着行为的病人的心脏,因为它可以自然是非常不同的个体之间。gydF4y2Ba

多项研究表明,使用来自领导的信息可以提高分类性能(gydF4y2Ba4gydF4y2Ba,gydF4y2Ba6gydF4y2Ba];所有功能都因此计算独立领导(除了四的rr间隔和三个标准化的参考的rr间隔计算从原始注释都是常见的领导),总共有249个人特性。gydF4y2Ba

6。实验和结果gydF4y2Ba

在部分详细的原因gydF4y2Ba4gydF4y2Ba两种截然不同的方法,特征选择问题,根据分类模型的复杂性,包装过程的加权LDA模型用forward-backward搜索策略和排名程序使用MI标准与加权支持向量机模型。gydF4y2Ba

如心跳分类问题大约90%的数据点对应于正常节拍,一个简单的模型总是预测正常类将达到90%的精度。精度本身就不是适合这个问题和平衡分类率(BCR),定义为类精度的几何平均数,而被认为是在这个工作gydF4y2Ba1gydF4y2Ba]。在上面的示例中,只有25%的BCR,更好地反映,只有一个类四类的正确分类。根据初步的实验和专家意见,允许的最大数量特性是任意设置为10。两种模型的权重设置为相同的值(gydF4y2Ba4gydF4y2Ba]:先知先觉的逆类。gydF4y2Ba

forward-backward选择执行训练集和BCR获得每一步测试集和训练集如图gydF4y2Ba1gydF4y2Ba。尽管BCR超过80%可以达到训练集上,最佳的性能达到73%的测试集是BCR只有两个功能。这两个特征的归一化值前的rr间隔和o(1)的高阶统计量与−166毫秒的延迟。然而,如果选择特性的数量通过训练集上的最大结果,BCR低于70%将获得测试。因此,包装器算法似乎overfit训练数据和推广很差。gydF4y2Ba

加权支持向量机模型是,one-against-one方法用于多类分类,和多项式内核用于允许非线性预测。最优多项式的次数内核(一至四)和正则化参数的最优值(之间gydF4y2Ba 1gydF4y2Ba 0gydF4y2Ba −gydF4y2Ba 5gydF4y2Ba 和gydF4y2Ba 1gydF4y2Ba 0gydF4y2Ba 5gydF4y2Ba )选择使用leave-one-patient-out交叉验证过程在训练集上。每个特性和类标签之间的MI值计算使用直方图估计量(gydF4y2Ba14gydF4y2Ba在训练集上得分的特性。建议由(gydF4y2Ba14gydF4y2Ba直方图),箱子的数量是启发式的选择的平方根gydF4y2Ba gydF4y2Ba 。gydF4y2Ba

表gydF4y2Ba3gydF4y2Ba拥有十大功能,MI排名的标准。从表中可以观察到,重要的功能似乎rr间隔,T波的振幅和长度,和二阶统计(自相关函数)。2功能从顶部patient-normalized特性集。这是按照LDA forward-backward算法和分类器的选择两所选功能是排名第一和第五最好的特性。这些发现还按照以前的工作,如(gydF4y2Ba1gydF4y2Ba),最好的表演获得使用rr,规范化的rr和累积量特征集,第二个表现最好与规范化区间的特性。gydF4y2Ba

这些结果验证的标准化特征的相关性。另一方面,一些受欢迎的特性集似乎并不为分类性能。确实没有特征选择模型从住宅系数,第三和第四订单统计和非规范分类间隔。此外,它似乎不需要提取功能在两个领导因为只有功能从原来的注释和从第一个领导选择。gydF4y2Ba

重要的是要注意,与的相关性不同,MI是没有边界的,明显信息特征的选择并不是简单的(gydF4y2Ba15gydF4y2Ba]。出于这个原因,为了使计算时间合理,功能的数量选择通过查看排序MI值10最丰富的特性,如图gydF4y2Ba2gydF4y2Ba。它可以观察到在图gydF4y2Ba2gydF4y2Ba的六个特征似乎是一个合理的选择。gydF4y2Ba

表gydF4y2Ba4gydF4y2Ba总结了表演通过获得的两种特征选择方法一起表演与之前报道的特性选择相同的模型。每个类的分类精度,BCR一起。gydF4y2Ba

结果在表gydF4y2Ba4gydF4y2Ba显示执行特征选择是非常重要的,因为加权支持向量机只有6特性明显优于其他分类过程50特性。的准确性gydF4y2Ba gydF4y2Ba 类是提高了近40%。这可以解释为的选择更多的相关特性和功能可以单独选择,不仅在一组水平。LDA分类而言,提高不到1%的BCR可以通过使用50特征而不是只有2特征选择的包装方法。gydF4y2Ba

重要的是要注意,报告的性能表gydF4y2Ba4gydF4y2Ba不同的发表在[gydF4y2Ba4gydF4y2Ba)和(gydF4y2Ba1gydF4y2Ba]。这可以用不同的方法来解释。在[gydF4y2Ba4gydF4y2Ba),作者犯了一个巨大的工作,手工纠正所有的R飙升注释。自的rr特性显然是最重要的一个特性,这也许可以解释的差异表现。然而,手工注释所有的信号是一个耗时的过程不是负担得起在实践中成千上万的节拍时必须被评估。性能的差异与gydF4y2Ba1gydF4y2Ba)可以用这一事实来解释作者选择hyperparameters SVM通过直接测量性能的测试集,而不是使用交叉验证过程的训练集是一个不太有利的但更现实的情况。gydF4y2Ba

最终,重要的是要注意,在gydF4y2Ba7gydF4y2Ba),作者也报告性能相比增加(gydF4y2Ba4gydF4y2Ba]。然而,融合类合并gydF4y2Ba gydF4y2Ba 在他们的实验类。自gydF4y2Ba gydF4y2Ba 类是最不平衡类,分类过程然后减少不平衡的影响,可能产生更高的结果。然而,当看着类精度研究病理报告的类gydF4y2Ba gydF4y2Ba (77%)和gydF4y2Ba gydF4y2Ba (81%)是常见的这项工作,我们的算法的表现也更好。gydF4y2Ba

7所示。结论gydF4y2Ba

的选择有识别力的特点是重视帮助解释模型,提高性能通过消除伪特征。在这个工作中,大量的特性提出了文学从心跳时间序列中提取,和他们的相关性评估一个共同点。为此,两个特征选择策略评估真正的动态记录。第一个是增量包装过程,第二个是一个过滤器的方法。gydF4y2Ba

包装方法是使用加权LDA模型用forward-backward搜索策略。结果表明,测试集上的最好的表演得到了只有两个功能。这些结果是相似的BCR表现相同的模型使用之前报道的功能选择,50的特性,被要求达到同样的性能。gydF4y2Ba

结合使用的排名方法是加权支持向量机分类器和MI标准分数的特性。六个特性经验从排名中选择过程。结果与加权支持向量机分类器只使用这六个功能高于之前报道interpatient算法。gydF4y2Ba

这些结果表明,一个非常小的数量的功能实际上是必要收益率高表演和几种流行特性集似乎并不服务分类过程。特别是,似乎最重要的特征的rr间隔,T波的振幅和长度,和二阶统计数据。结果还表明,互信息的特征选择标准是一个功能强大的工具。特别是,它可以用于结合模型具有计算复杂度使包装过程在实践中棘手的。gydF4y2Ba

承认gydF4y2Ba

g . Doquire和g . de Lannoy是由比利时F.R.I.A.格兰特。gydF4y2Ba