文摘
一个新的航空燃气涡轮发动机气路部件故障诊断方法基于multi-hidden-layer极端学习机(OM-ELM)提出了优化结构。OM-ELM雇佣研究粒子群优化自动获得最优网络结构根据训练数据集的均方根误差和标准输出权重。该方法应用于手写识别数据集和燃气涡轮发动机诊断应用程序与基本的榆树,multi-hidden-layer榆树,和两个先进的深度学习算法:深度信念网和去噪autoencoder不利。结果表明,优化网络结构,OM-ELM取得更好的测试精度在应用程序和传感器噪声更健壮。与此同时它控制模型复杂性和需要远不及multi-hidden-layer榆树隐藏节点,从而节约计算机内存,使其更高效的实现。所有的这些优势使我们的方法的有效和可靠的工具引擎组件故障诊断工具。
1。介绍
航空燃气涡轮发动机是容易很多问题,包括腐蚀、腐蚀、污染和外物损伤在其操作过程(1]。这些问题可能导致引擎组件恶化,从而影响发动机的性能。因此,它是非常重要的开发引擎组件诊断方法利用发动机的性能数据检测和隔离组件故障飞机的安全,减少维护成本。
传统的基于模型的诊断方法,在实践中,使用通常需要一个精确的发动机数学模型和可靠性往往减少系统非线性复杂性和建模不确定性增加。在本质上,引擎组件故障诊断是一项具有挑战性的分类问题,利用神经网络技术解决。应用神经网络的发动机故障诊断已广泛研究在文献[2- - - - - -7]。近年来,一种新的学习算法对single-hidden-layer神经网络称为极端学习机(ELM) [8,9)提出了应用于发动机故障诊断。在榆树,输入重量和隐藏的偏见是随机生成的,和输出权重计算了Moore-Penrose (MP)广义逆。它学习更快更高的基于泛化性能比传统的梯度学习算法,如反向传播。它还避免了基于传统的梯度学习算法所面临的许多问题,如停止标准,学习速度和局部最小值的问题。怡港等。10]榆树应用于航空发动机传感器故障诊断,结果表明,榆树算法具有更高的分类精度和缩短训练时间比传统的BP神经网络方法。李等人。11)提出了一种融合诊断方法的航空燃气涡轮发动机组件基于榆树和卡尔曼滤波器的缺点。克服缺点的榆树,输入重量和偏见是由微分进化优化输入层。在[12的榆树]优化输入权重和隐藏的偏见是应用于燃气轮机涡轮风扇发动机诊断问题,取得更好的结果比SVM和BP神经网络方法。然而,当隐藏节点数量的增加,很多输入重量和偏见的优化变得更加困难和耗时。
基本榆树和大部分变异采用单隐层前馈网络,这些都限制了其功能的抽象能力和分类一些真实世界的应用程序的性能。最近,学习方法如深深信仰网络(DBN) [13),堆叠去噪autoencoder (SDAE) [14),和深玻耳兹曼机(DBM) (15)表现出更好的性能比浅神经网络在机器学习领域(16,17]。深层网络架构可以指数比浅的更有效率18]。后者可能需要大量的隐藏神经元代表高度不同的功能(19- - - - - -21]。虽然深架构可以代表这些功能更有效率,因此他们比浅模型在许多应用程序中。
灵感来自深度学习的深度结构网络,Kasun et al。22)开发了一种多层学习架构使用ELM-based autoencoder作为构建块。深架构提取特征的多层网络,和更高的层表示更抽象的信息比从较低的。测试表明MNIST M-ELM执行与DBM和优于SDAE DBN持平。
然而,在(22]M-ELM雇佣固定网络结构,往往需要一个大规模的模型与大量的隐藏节点在处理困难的分类任务。花了700-700-15000网络结构MNIST数据集和需要实现在计算机与32 gb RAM。然而,这样的一个网络与大量的隐藏节点无法实施与中小型计算机RAM。此外,设计一个合适的网络需要大量的试验和经验。此外,固定的网络结构不健壮的噪音和可以执行更糟糕的是当传感器噪声水平高。
M-ELM为了解决上述问题,在本文中,我们提出一个有效的multi-hidden-layer极限学习机算法自动选择最优网络结构和自适应。新方法采用QPSO策略来优化网络结构根据训练数据集和两个RMSE输出权重的标准。结果MNIST数据集和发动机故障诊断应用表明,我们的方法优于榆树,M-ELM和其他先进的深度学习方法测试精度和鲁棒性传感器噪声。和QPSO有助于大幅减少隐藏节点的数量,从而节省计算资源,使其更高效的实现。
剩下的纸是组织如下。部分2简要回顾榆树、M-ELM和QPSO算法。部分3介绍了OM-ELM求婚。节4,我们的方法是应用于MNIST数据集,与其他方法相比。部分5与其他方法比较OM-ELM引擎组件故障诊断应用程序之后的结论部分6。
2。预赛
2.1。Multi-Hidden-Layer极端学习机
Kasun等人开发了一个multi-hidden-layer学习架构使用ELM-based autoencoder (ELM-AE)作为表征学习的构建块(22]。
为每个ELM-AE M-ELM执行layer-wise无人管理的培训。但是,与传统的学习算法,它不需要微调和无监督培训执行批处理的方式。这使得M-ELM运行速度比任何深度学习算法。
2.1.1。ELM-AE
如图1插图,一个ELM-AE输入层、隐藏层和输出层。输入数据作为输出数据。随机权重和偏见隐藏节点的选择是正交的。正交化的随机生成隐藏参数往往提高ELM-AE的泛化性能23]。在ELM-AE正交随机权重和偏见的隐藏项目输入数据到另一个节点或等于维度空间,计算 在哪里表示正交随机权重表示正交随机输入和隐藏节点之间的偏见。
输出的重量计算如下: 在哪里表示ELM-AE隐层输出和同时其输入和输出数据。正则化项,用于提高泛化性能和使方案更加健壮。
2.1.2。M-ELM
图2说明了M-ELM建设。从图可以看出,输出权值对输入数据是M-ELM的第一层的权重。和输出权重ELM-AE,对th隐层输出M-ELM的th层权重M-ELM, M-ELM输出层权值计算使用正则化最小二乘(2)。作为输出权重ELM-AE的学习特性,M-ELM实现layer-wise特性抽象像深度学习但是没有迭代过程和微调。
2.2。QPSO
QPSO算法解决过早或局部收敛问题和显示性能优于PSO在许多应用程序中(23,24]。在QPSO,一个粒子的状态由薛定谔波函数描述,而不是位置和速度。量子粒子的位置和速度不能同时确定。粒子的出现在一个位置的概率从概率密度函数的形式,取决于粒子在势场,只能学习。采用蒙特卡罗方法,th粒子从人口中,粒子根据以下迭代方程: 在哪里的位置吗粒子对th维度在迭代。当地的吸引子吗th粒子的维度和被定义为 在哪里粒子的数量和吗代表前最好的位置粒子。是全球最好的粒子群的位置。的平均最佳位置定义为平均人口和所有最好的位置,,均匀分布随机数,分别。Contraction-expansion系数是用来控制算法的收敛速度。
3所示。OM-ELM
因为M-ELM不是能够自动设计合适的网络结构和自适应在不同的应用程序中,它往往需要大量的隐藏节点达到良好的分类性能,因此花费更多的计算时间和计算机内存。此外,可能存在很多不必要的冗余节点,导致一个坏脾气的隐藏输出矩阵和泛化性能下降。
要解决这些问题,实现自动最优的网络结构,在本节中,我们提出了一个方法叫OM-ELM,如图3。方法利用QPSO优化网络结构根据训练精度和输出的标准重量达到良好的泛化性能。
提出OM-ELM的主要步骤如下。
步骤1(初始化)。首先,我们产生粒子的人口随机,,,表示节点的数量隐藏层。注意,必须是整数,因此是圆形的整数由以下方程迭代期间当它不是: 为了控制网络的复杂性和节省计算资源,仅限于一定范围内与预定义的上部和下部债券根据应用程序。
步骤2(健身评价)。相应的输出权重(最后一个隐藏层和输出层之间的权重)每个粒子(潜在的网络结构)的计算根据(2)。然后每个粒子的适应度评估所需的输出之间的均方根误差和估计输出:
步骤3(更新和)。在人口,所有粒子的适应度值之前最好的位置th粒子和全球最佳位置当前的人口更新。书中建议的那样(25),神经网络具有更好的泛化性能的权重较小的常态。因此,健身价值的标准输出权值被认为是一起更新和。更新标准如下: 在哪里,,的健身价值吗粒子的位置,最好的先前的位置th粒子,和全球人口的最佳位置。,,相应的输出权值(最后一个隐藏层和输出层之间的权重)的吗th粒子,最好的先前的位置th粒子,和全球迄今为止获得的最佳位置。通过这个更新标准,规范健身值或小颗粒更容易选择或。
步骤4。计算每个粒子的地方吸引子和平均最佳位置根据(4)和(5)。
第5步。更新粒子的新位置根据(3)。
步骤2来5重复,直到达到最大数量的时代。最后,我们获得了优化的网络结构和应用测试数据集。
4所示。比较在MNIST数据集
之前我们申请航空燃气涡轮发动机故障诊断的方法,在这一部分中,我们首先应用MNIST手写数据集(26]。MNIST由60 000训练图像和000测试图像的手写数字0 - 9。作为其独特的形状和不同的数字有不同的人写数量在他们自己的方面,MNIST是理想的数据集和常用测试深度学习算法的性能。
在本节中,我们比较了该方法与其他四个最先进的分类方法:基本的榆树,M-ELM SDAE, DBN。在我们的方法中,时代优于经典的最大数量是20,人口的粒子数是20,和隐藏的上界在每个隐层节点数是1500。我们已经做了一些验证测试选择岭参数在(2),它被设置为108隐藏层。
我们第一个测试方法MNIST数据集,取得了75-108-1473的优化结构。因此,比较公平,所有其他的算法大致相同数量的隐藏节点和相同的三个隐藏层除了基本的榆树。
DBN, SDAE M-ELM,隐层结构是400-400-800。和榆树与1000年有一个隐层节点(更多的节点可能会导致一个“内存耗尽”问题与中型计算机RAM)。和所有方法采用乙状结肠激活函数。两个深度学习方法,他们的学习速度设置为0.1。无监督pretraining时代设置为200和监督微调时代是设置为400。训练数据集分为mini-batches每个包含100个样本。
所有模拟了在MATLAB R2008a环境下PC上运行3.4 GHz CPU核心2和4 GB RAM。表中列出的结果1。
从表中可以看出,我们的方法的测试精度最高的最先进的学习方法有类似隐藏节点的大小。这种测试精度略低于的结果(22),但它只需要1656个节点,约十分之一的数量用于(22]。因此节省了多少计算内存和效率来实现共同的电脑没有很大的RAM。计算时间比M-ELM和基本榆树作为我们需要评估整个人口的迭代方法。但与深度学习方法相比,OM-ELM节省了很多时间。
良好的性能在MNIST表明,我们的方法是一个很好的工具,发动机的故障诊断。
5。故障诊断使用OM-ELM
5.1。引擎选择和建模
我们评估方法在双轴涡轮风扇发动机混合器和加力燃烧室(出于保密原因引擎类型省略),如图4。这台发动机有一个低旁路比为0.62。
燃气轮机是容易受到许多物理问题,这些问题可能导致组件故障,减少组件等熵效率。因此导致偏差的一些性能参数,如转速、压力和温度在不同的引擎组件。这是一个可行的方法来检测和隔离默认组件使用测量发动机的性能数据。然而,真正的错误的引擎的性能数据很难获得,通常属于制造商或无法访问用户的专有信息和容易。因此组件故障通常是由发动机数学模型模拟的建议(12]。在这项研究中,我们模拟的行为引擎组件故障使用发动机数学模型在MATLAB环境中开发的。通过植入特定大小的等熵效率恶化的某些组件到发动机的性能模型,我们可以获得与组件故障模拟发动机的性能参数数据。
5.2。生成组件故障样本
在这项研究中,我们主要关注四个旋转组件,和不同的引擎组件故障场景包括单一和multifault例测试和表中列出2。
第一个四列代表四个单一故障情况下。他们是低压压缩机(LPC)故障类、高压压缩机(HPC)故障类,低压涡轮(LPT)故障情况下,高压涡轮(HPT)故障类。每个类是贴上一个“F”。C5、C6代表双故障情况下,“LPC的+ HPC”和“LPC的涡轮+”故障类。最后两列代表三故障情况下,“LPC的涡轮+ HPC +”和“LPC的涡轮+ + HPT”故障类。
根据(12),发动机操作点对分类精度的影响没有明显的故障检测方法;因此,我们选择只有一个操作点的条件。燃料流量和环境设置参数表中列出的操作点3。
训练和测试数据集的输入参数的相对偏差模拟发动机的性能参数与“健康”引擎组件故障参数。和选择这些参数的敏感性分析。低压转子转速、高压转子转速、总压和总温度后表示,HPC后,总压和总温度,成后,总压和总温度,下后,总压和总温度,。在这项研究中,所有的输入参数都是标准化的范围。和输出故障类是不同的。例如,代表第二个故障类故障(HPC)表2。
图5显示的偏差反应(即发动机的性能参数。,the input parameters) against different fault patterns (1% loss in isentropic efficiency). It can be seen that the engine performance deviation responses of HPC and HPT are very similar. Thus it is very difficult to distinguish these two faults for a diagnosis method.
(一)
(b)
(c)
对于每一个单一故障类,50个样本随机选择相应的组件生成的等熵效率恶化级1% - -5%的范围内。100双故障类,实例为每个类生成了随机设置等熵效率恶化中的两个错误的组件同时范围1% - -5%。相同的方法是申请三故障类,每个类有300个样本。我们有1000个样本。
在真正的引擎应用程序中,总是存在传感器噪声。模拟实际发动机感官信号,所有输入数据与测量噪声污染以下方程: 在哪里是干净的输入参数,表示对噪声水平,的标准偏差数据集。与此同时,对于实施噪声水平,我们扩大样本按比例从1000年到4000年的数据。我们选择3000个样本作为训练数据集(每个类中的样本数量比例来源数据集)和左1000样品测试数据集。
5.3。引擎组件故障诊断的五个方法
5.3.1。参数设置
在我们的方法中,时代的最大数量是30,人口的粒子数是20,和隐藏的上界在每个隐层节点数是200。岭参数设置为107隐藏层。
我们的第一个测试方法与噪声的数据集并获得一个优化结构34-51-129。比较相当,DBN的隐层结构,SDAE, M-ELM是60-60-90。因此,他们有相同的隐藏节点总数。和榆树210年有一个单隐层节点。两个深度学习方法,他们的学习速度设置为0.1。无监督pretraining时代设置为200和监督微调时代是设置为500。训练数据集分为小mini-batches每个包含30个样本。
为了占这些诊断方法的随机性质,所有的五个方法分别运行10次。所有模拟在相同的环境部分4。
5.3.2。比较的五个方法
性能比较的五个方法首先进行小的噪音水平。表4列出了平均性能的培训和测试精度对所有故障类和培训时间在10分。图6是指在不同故障类别测试精度。
从表可以看出4基本榆树获得最少的测试精度但训练精度最高,这意味着榆树的泛化性能不如其他方法有更多的隐藏层。这表明multi-hidden-layer结构能够改善所面临的过度拟合问题单隐层神经网络。
在四个multi-hidden-layer方法,我们的方法达到了最高的意思是测试精度对单一故障类和multifault类。平均测试精度对所有故障类(0.985)也比其他方法好,这是与MNIST结果一致。此外,测试性能非常稳定,因为它达到了平均标准偏差。的测试性能M-ELM与SDAE和比DBN相提并论。
由于OM-ELM的迭代性质,它成本相比基本榆树和M-ELM训练时间。但是我们的训练方法要快得多的深度学习算法,如DBN和SDAE。
表5介绍了我们的方法在一个随机的混淆矩阵。可以看出,我们的方法取得了令人满意的结果。它识别四个故障类准确率达到了100%。和分类错误的样本的数量小于其它方法。
我们还比较了这些方法的性能和不同的噪声水平。表6列出了意味着训练的准确性,测试精度和训练时间与噪声级10分。我们的方法中仍取得了最好的测试精度的方法。
研究噪声影响的方法,我们已经测试了这些方法六噪声条件下的性能:。平均测试精度与噪声电平的方法见图7。从图可以看出,所有方法的测试精度随噪声水平的增加而减小。由于其浅架构,基本榆树没有执行与多个隐藏层和其他方法一样好。优化网络结构,我们的方法是最不受传感器噪声,取得所有噪声条件最好的测试精度。这表明,我们的方法更可靠和健壮的传感器噪声和可能更适合航空燃气涡轮发动机故障诊断任务。
进一步展示了QPSO战略帮助我们的方法获得这么好的性能,种群的进化意味着测试精度和输出权重噪音水平的标准在一个单一的运行数据中列出8和9,分别。
作为测试精度值的标准输出权重都认为在QPSO更新标准,测试精度不断增加与迭代和规范随迭代。最后,获得优化的网络结构,我们的方法能够获得一个良好的分类和泛化能力。
6。结论
在本文中,我们提出了一个multi-hidden-layer极端与网络结构优化算法通过QPSO学习机器。我们已经评估的有效性方法MNIST数据集和一个燃气轮机涡轮风扇发动机组件故障诊断。结果两个应用程序不仅表明,我们的方法优于深学习算法的分类性能和训练时间,但也比M-ELM的测试精度和稳定性更健壮和可靠的网络结构。
良好的性能是归因于QPSO策略,就是能自动优化网络结构根据RMSE训练集和标准输出权重,从而达到良好的分类性能和泛化能力在不同的应用程序。此外,它控制网络的规模,从而大大减少隐藏节点需要在原始M-ELM和更有效的方法。我们的方法也更加独立的发动机数学模型和容易实现。在实践中,如果有足够的和适当的引擎性能数据,这将是适当的和有效的使用我们的发动机故障诊断方法的应用程序。但方法的适用性主要受到发动机的性能数据。有时,发动机的性能数据是不够的,有些发动机测量参数将会更少。在这种情况下,应用程序的开发方法可能是一个未来的研究课题。
相互竞争的利益
作者宣称没有利益冲突有关的出版。