文摘

因为它们是飞机的关键组件,提高安全性、可靠性和经济的引擎是至关重要的。为了确保飞行安全,减少维护成本的航空发动机操作期间,一个预测和健康管理系统,着重于故障诊断,介绍了健康评估和寿命预测来解决这个问题。预测剩余寿命(原则)是最重要的信息关于航空发动机操作和维护的决策,这在很大程度上依赖性能退化特性的选择。这些特性是非常重要的选择,但也有一些缺点在当前原则预测的算法,值得注意的是,无法获得数据的倾向。尤其是在飞机引擎,从多传感器数据中提取有用的降解特性与复杂的相关性是一个关键技术问题,阻碍了退化评估的实现。要解决这些问题,提出了深度学习近年来利用多层无监督学习的非线性信息处理功能。提出了一种深度学习的方法来预测飞机引擎的原则基于堆叠稀疏autoencoder和逻辑回归。堆叠稀疏autoencoder用于自动提取从多个传感器在航空发动机性能退化特性,通过多层自学习融合多个特性。使用逻辑回归来预测剩余寿命。但是,深度学习的hyperparameters显著特征提取和预测性能的影响,在大多数情况下基于专家经验确定。 The grid search method is introduced in this paper to optimize the hyperparameters of the proposed aircraft engine RUL prediction model. An application of this method of predicting the RUL of an aircraft engine with a benchmark dataset is employed to demonstrate the effectiveness of the proposed approach.

1。介绍

因为他们是飞机的核心组件,引擎的失败往往是重大事故和人员伤亡的主要原因1]。因此,安全性和可靠性的引擎飞机的性能是至关重要的。然而,很难确保其安全性和可靠性由于其复杂的结构,和引擎故障出现了不可避免的由于老化的影响,环境,和可变荷载随着工作时间的增加。出于这个原因,必须检测潜在的退化,预测多久有效引擎将会失败,最终实现维护及时,防止灾难性故障。

在飞机维修领域,传统的维护是纯粹的无功(修复或更换飞机引擎组件失败后)或盲目主动(假设一定程度的性能下降从飞机发动机本身没有输入和维护日常安排的飞机发动机维修是否实际需要)。场景很浪费和效率低下,也不进行实时(2- - - - - -5]。鉴于维护任务的调度基于故障诊断、性能退化评估和飞机的剩余使用寿命预测设备和需要提前预防故障,预测与健康管理(榜单)逐渐取代这两个维护策略。预测榜单的核心,涉及到管理性能恶化过程或在航空发动机故障和预测当组件/系统的引擎将故障或性能将达到不可接受的水平。

原则有三个主要类别的预测方法:(1)数据驱动的方法,(2)物理模型方法,(3)方法,结合数据驱动和物理模型方法(6- - - - - -9]。数据驱动的方法使用的过去状态监测数据,系统的当前健康状况和数据在类似系统的退化。基于物理模型的方法使用系统特定的机械知识,监管失败和状态监测数据预测系统或组件的原则。有两个主要挑战预测基于物理:(1)没有足够的物理知识构建一个物理退化模型和(2)物理模型的参数的值很难准确地确定。因此,重要的是要正确理解系统的失效机理,基于物理模型所需的和有经验的人员(10,11]。此外,装置操作期间周边环境(如温度和湿度)和操作条件(例如,风扇转速)可能被用作输入和构成额外维度考虑。因此,数据驱动方法的需求模型退化和预测原则更容易满足在现实中。目前,数据驱动的方法原则广泛应用于预测(12,13]。

许多数据驱动的性能预测方法严重依赖的选择应用的性能退化数据(14]。然而,发动机有许多传感器参数。来自不同传感器的数据的敏感性不同的显示发动机性能下降;一些传感器的数据是敏感和其他传感器的数据不敏感。因此,有必要选择合适的传感器参数的数据引擎的性能下降趋势更敏感的荷重软化预测模型的训练数据。通过观察数据的变化特征的传感器参数、二次拟合曲线是用来适应退化来自不同传感器的数据和排名发动机传感器参数的敏感性。

三个问题阻碍性能下降的实现在实践中特征提取。首先是选择最敏感的性能退化特性对于识别性能下降的趋势。第二,相关的性能退化特性往往无法获得和未知先验;大量的候选人提出了性能退化特性更好地代表了性能退化状态。最后是大多数传统方法提取性能退化特性的预测不受监督,不能自动调节特征提取模态参数基于预测的反馈(15- - - - - -17]。特征提取和选择是重要的但代表了流行的预测算法的主要缺点:无法从数据中提取和组织歧视或趋势的信息。因此,重要的是要开发一个自动特征提取方法,能够提取显著特征来实现更好的洞察潜在的性能退化状态。

深度学习的一种新方法,提出了在过去的几年里,可以用来从数据中提取多层次特征,这意味着该方法可以表达数据在不同的抽象级别(18]。深度学习是一个端到端的机器学习系统。它可以自动处理一个原始信号,确定输入数据中的歧视和趋势特征层的层,然后,直接输出分类/回归的结果。整个过程的特征学习和分类器/回归模型训练是基于整体优化目标函数。相比之下,传统的机器学习过程分为几个不连续数据预处理步骤,如手动特征提取和分类器/回归模型训练,和每个步骤是基于优化一个目标函数。由于自主学习的优势功能,深度学习已经成功应用在人工智能,包括计算机视觉(CS)、自然语言处理(NLP) [19,20.,对象识别21),和图像信息检索(22,23]。深度学习不仅在学术界流行而且工业世界的青睐。公司,如谷歌、微软、IBM、苹果公司和百度(24),其产品广泛使用,研究深度学习和取得的成就,比如AlphaGo。

有许多深刻的学习方法:深层神经网络(款),卷积神经网络(cnn)深处,深深的信念网络(DBNs)等等(25),例如,已经提出。堆叠稀疏autoencoder (SAE) [26)是一种最常用的深层神经网络方法。SAE由多层autoencoder稀疏autoencoder等去噪autoencoder,等等。稀疏autoencoder autoencoder的基础上,介绍了稀疏约束条件来帮助表达代码尽可能稀疏。去噪autoencoder可以学会删除添加到初始输入数据的噪声和提取更健壮的表达式的输入数据27]。出于这个原因,SAE能有效捕捉输入数据的重要因素,提取更多的有用的和健壮的特性数据,然后实现出色的性能在模式识别和机器学习。

近年来,各种研究人员演示了款的成功和SAE模型机健康监测中的应用,如感应电动机故障分类操作在六种不同的条件下,基于振动故障诊断滚动轴承和液压泵的故障检测在潮汐涡轮机发电机的振动从一个加速度计传感器获得的数据放置在发动机舱的涡轮机,基于振动状态监测的空气压缩机,多类故障分类航天器使用各种各样的数据生成的航天器测试期间,在大型飞行数据异常检测和故障消歧,钻头和钢板健康监测使用振动数据,故障识别电压互感器在电力行业等等28- - - - - -36]。大多数基于SAE的健康监测的研究目前主要集中在异常检测和故障诊断。然而,很少有应用程序原则预测,尤其是对航空发动机预测原则。

因此,预测方法的基础上提出了一种叠稀疏autoencoder促进多层自学习功能和预测飞机引擎的原则。本文的其余部分组织如下:部分2介绍了整个过程预测方法和框架。部分3提出并讨论了预测结果。最后,结论部分4。

2。方法

本部分介绍了本研究中使用的相关算法。如图1原则,整个过程预测飞机引擎包括两个主要步骤:数据预处理和荷重软化预测使用SAE。


图1
预测飞机引擎的荷重软化的过程。
2.1。数据预处理

选择传感器的敏感性能退化和传感器数据的标准化与不同维度的主要任务需要获得一个高荷重软化预测精度。需要三个步骤进行预处理数据。

2.1.1。传感器的选择

不同的传感器在飞机引擎有非常不同的反应性能退化过程。一些传感器显示不清楚的倾向,因为噪音或不敏感退化趋势。选择不敏感参数数据原则可以减少预测精度。提高预测模型的性能,更敏感的传感器性能下降过程选择原则预测模型作为输入。一个名为边坡分析的方法提出了测量灵敏度。它的三个主要步骤如下:步骤1:曲线拟合在每个参数的退化数据上执行的每个引擎。最佳拟合曲线的参数,称为斜坡,是用于分析退化数据的敏感性。步骤2:所有的发动机参数的平均值在步骤1属于同一传感器计算。然后,不同的平均参数值不同的传感器显示个人退化数据的敏感性。步骤3:斜坡选择较大的退化数据预测的荷重软化引擎。

2.1.2。数据归一化

线性函数,最好保留原来的飞机发动机的性能退化模式选择每个选择的传感器的数据映射到[0,1]。

2.1.3。荷重软化正常化

该预测方法输出结果的范围从0到1。在训练阶段的预测模型中,每个周期的荷重软化的飞机引擎也应该规范化使用线性函数[0,1]。测试输出的预测模型需要反向映射从[0,1]真正的原则。

2.2。SAE模型建设
2.2.1。深层结构

大脑皮质的计算有很深的体系结构和多层次的处理。例如,视觉图像处理的多个阶段的大脑,首先皮质区“V1”然后皮质区“V2”等等(37]。灵感来自大脑的信息处理机制,神经网络有类似的架构和多个隐藏层,它可以支持复杂的认知任务6,37]。是典型的深层神经网络,堆放稀疏autoencoder (SAE)由多个autoencoders组成。与浅架构与传统的神经网络相比,它能更好地学习特性,提取更深层次的区别的表征(38]。

然而,很难训练深架构(39]。这个问题已经解决辛顿等。40- - - - - -42),表明深架构可以被依靠训练有素的两个主要过程:(1)基于无监督autoencoder, pretraining深处理架构层,顶层的autoencoder的输出作为输入逻辑回归和基于反向传播(2)微调是用来调整模型参数来获得准确的预测结果。

2.2.2。稀疏Autoencoder

autoencoder,首先介绍了辛顿et al。40),是一种通用的深度学习方法(43),已广泛应用于无监督学习功能。如图2,autoencoder有三层:输入层、隐藏层和输出层。整个网络训练实现重建从输入层到输出层,而隐层被接受为关键特性。然而,传统的autoencoder不是一个有效的方式来获得显著的代表性由于其固有的局限性。SAE autoencoder的扩展,可以通过训练获得相对稀疏的代表通过引入稀疏惩罚项进入autoencoder [44]。SAE稀疏特征学习的含义更实用的实验和应用程序。


图2
autoencoder的结构。

SAE模型包含两个部分:(我)一个编码器地图编码器地图一个输入向量 (我训练例子)的表示 通过确定的映射 乙状结肠在哪里的激活函数和权重矩阵编码器吗 和偏差向量 。(2)解码器的地图译码器地图功能 回一个重建的向量 在输出空间(45通过映射函数) 译码器映射试图学习功能 ,这意味着使输出 类似于输入 。同样,乙状结肠是设置为激活函数矩阵解码器地图的重量 和偏见向量 。

在学习过程中,SAE的参数调整使用反向传播通过最小化代价函数中的稀疏约束。稀疏约束隐藏层限制其工作单位和使它变成一个稀疏向量中大部分元素为零或接近于零44]。autoencoder的网络结构,与乙状结肠神经元激活函数的活动状态,如果其输出接近1和非活动状态,如果其输出接近0。因此,介绍了稀疏约束限制大部分的神经元活动的大部分时间。

激活隐藏的单位 用 ,和平均激活隐藏的单位 如下:

然后,我们定义了稀疏约束 ,在那里 表示稀疏准则和有一个值接近于零,也就是说,大多数的隐层神经元活动。

达到稀疏的目标,一个点球是引入目标函数,处罚 如果它明显偏离了 。在我们的研究中,KL散度(45)被选中作为惩罚项;

的训练集 用训练样本 ,最初的成本函数被定义为

第一项(5)是一个平均平方和误差项,第二项是正则化项或体重衰减项,会降低权重的大小。在这里, 和 是一样的(1)和(2), 是重量衰减参数。

通过添加稀疏惩罚项,修改成本函数 在哪里 表示稀疏惩罚项的重量。

2.2.3。去噪Autoencoder

尽管上述过程,学习特性很好地提高预测模型的性能和泛化能力继续面临挑战,因为噪声和离群值,通常出现在现实世界的数据。强制隐藏层发现更健壮的特性,可以训练autoencoder重建输入从一个损坏的版本,这是背后的想法去噪autoencoders [37),如图3。


图3
去噪autoencoder的概念。

这些数据腐败是由腐蚀实现最初的输入 创建一个部分被毁的版本 通过随机映射,

标准方法是应用屏蔽噪声原始数据通过设置一个随机元素的一部分 为零。接下来,损坏数据 通过一个基本autoencoder过程和映射到一个隐藏的代表,

从这个方程,我们重建

在最后阶段,参数训练最小化平均重建误差 为了使 尽可能接近未堕落的输入 。

2.2.4。结构的稀疏Autoencoder不利

作为一个典型的神经网络,堆放autoencoder由多层稀疏或去噪autoencoders(丢弃解码器)和逻辑回归。输出的每一层堆叠autoencoder是后续的连接到输入层。一个两层的体系结构堆叠稀疏autoencoder如图4。每个稀疏或去噪autoencoder生成的表示输入(数据从飞机发动机的传感器),比前一层抽象和高维的,因为它是通过应用一个额外的非线性变换。的输出的最后一层稀疏autoencoder输入逻辑回归,然后,结果(预测原则)。


图4
一个两层堆叠稀疏autoencoder和逻辑回归。

(1)使用逻辑回归预测。逻辑回归的目的是找到一个最优模型匹配的独立变量和因变量的阶级差别(事件发生的概率)。所表达的逻辑函数

物流或logit模型 在哪里 是一个独立变量的线性组合 。

(如参数模型 )需要事先确定,它是确定的大前提 。因为两个因变量的存在,是不当使用最小二乘法估计参数的值(46]。因此,相比之下,最小化的平方之和的方法错误,本文使用最大似然方法估计参数(如 )的逻辑回归47]。然后,事件的发生的概率可以获得使用(11)一旦向量 已经确定。

(2)微调。微调的过程主要集中在SAE网络调整权重,从而导致更好的预测性能。

首先,前馈是用来计算所有autoencoder层的激活。

在下一步中,我们设置 输出层的 , 是输入标签, 条件概率是向量。然后,对于层 ,我们设置 ,然后,所需的偏导数 在哪里 , ,和 在(1)和(2)。

最后,批处理梯度下降算法最小化总成本函数。

2.3。培训和优化SAE-Based原则预测
2.3.1。程序训练SAE-Based荷重软化预测模型

一个两层堆叠稀疏autoencoder和逻辑回归(LR)模型被用来作为一个例子来说明我们提出的培训程序深上优于荷重软化预测方法。SAE参数的值是预先确定的。用网格搜索找到一组最优的SAE参数。这个过程的四个主要步骤如下:步骤1:一个单层去噪autoencoder (DAE), SAE的第一层,是训练有素的提取健壮的性能退化特性使用无监督学习(37]。所选择的传感器的信号输入到DAE,然后,低级特性由DAE的隐层输出。步骤2:单层稀疏autoencoder (AE), SAE的第二层,是训练有素的无监督自学习功能。低级特征输入到AE,高级特性由AE的隐层输出。步骤3:使用高级特性作为输入训练原则的LR模型预测。的目标输出LR模型是飞机发动机的规范化原则。步骤4:以前训练的SAE和LR模型结合成一个综合学习和荷重软化特性预测模型。然后,综合使用监督学习模型训练的最终功能学习原则得到预测模型。所选发动机传感器的信号输入的集成模型,和发动机的规范化原则作为目标输出在模型训练。使用监督学习培训的综合模型可以调整模态参数(DAE的参数、AE和LR模型)的基础上获得的值在前面的训练,步骤1 - 3。的特性从调整获得DAE和AE更清楚地呈现退化趋势的发动机的性能。基于这些特性,LR模型可以提供一个更准确的原则预测结果。

训练的过程原则提出的预测方法是总结在图5。


图5
程序训练SAE-based荷重软化预测模型。
2.3.2。网格搜索SAE原则预测模型参数优化和验证

的hyperparameters深度学习,特征提取性能有显著的影响,在大多数情况下,基于专家经验调整。针对调整的难度hyperparameters通过深度学习,优化hyperparameters的方法是必要的。

目前有两种主要类型的自动化方法hyperparameter选择SAE(如图6)。包括一个模范自由的方法,其中包括网格和随机搜索方法;其他包括基于模型的方法,主要包括三个子类,贝叶斯优化(例如,留兰香[48]),非概率方法(如RBF代理模型(49]),进化算法(如遗传算法(50)和粒子群优化(51])。基于模型的方法有效地探索解空间根据选择的算法,然后迅速获得公认的参数值。然而,确定hyperparameter价值可能是局部最优,有几个个人hyperparameters方法,这将增加其复杂性。


图6
自动化hyperparameter选择方法。

与基于模型的方法hyperparameter选择、模范自由hyperparameter选择方法定义的空间内搜索最优参数;主要的是网格和随机搜索(52,53]。摘要网格搜索方法是选择搜索的hyperparameters SAE。

有几个原因网格搜索选择hyperparameter优化算法用于该SAE-based荷重软化预测模型。(1)与手动搜索方法优化hyperparameters相比,网格搜索更容易识别模型参数比纯手工顺序优化(在同一时间)。(2)与基于模型的hyperparameter选择方法相比,网格搜索实现起来比较简单,容易实现并行计算。(3)与hyperparameter优化的随机搜索方法相比,网格搜索推荐当几个参数需要优化。

理论上,当定义的空间优化参数足够大,足够小,变化的最优参数优化方法称为网格搜索可以找到全局最优解。

有三个主要的步骤在网格中基于搜索hyperparameter SAE荷重软化预测模型的优化。步骤1:hyperparameters是优化中定义的空间,和一个固定的空间划分为网格步长。每个点每个网格模型参数的组合。步骤2:训练集划分为若干个相等大小的子集。然后,SAE训练相结合的模型参数。细节训练SAE-based荷重软化过程的预测模型部分2.3。1这篇论文。步骤3:重复步骤2,直到网格搜索已经完成。所得的最优hyperparameters输出。

图7显示了该方法的过程。获得SAE的最优参数,预测退化数据引擎输入训练模型,以及每个引擎的荷重软化。


图7
网格搜索SAE原则预测模型参数优化和验证。

3所示。案例研究

3.1。发动机数据描述

挑战数据集用于预测挑战竞争在2008年的榜单国际会议由多个多元时间序列,它是通过收集发动机动态仿真系统。模型模拟各种退化场景的五个模拟发动机的旋转组件(风扇、LPC的HPC、HPT和涡轮),和引擎之间的连接模块的仿真如图8。引擎开始正常运行,降低出现在一些仿真的周期。每个引擎的退化数据记录到引擎失败。218年发动机仿真模型结果数据集定义为单位1到218部队与不同故障时间衡量操作周期的数量相同的引擎系统。


图8
连接各个模块的仿真环境。

每个周期的完整数据集的每个引擎单元由单元ID,营业周期指数操作制度设置,和典型的传感器测量。共有21个传感器(见表1)是安装在飞机发动机的不同组件。共有21个感官信号得到R1操作政权下表所示2。在这项研究中,传感器数据收集从200年飞机引擎注射HPC退化的故障模式。数据集被认为是在这个研究包括三个文件,其中包括100年的退化数据训练和测试单位100和100年的剩余使用寿命测试单位。每个培训单元运行故障,每个测试单元停止运行一段时间它分解。通过调查和研究,发现数据集非常权威和准确54- - - - - -56]。

表1
传感器信号的描述飞机燃气涡轮发动机。
表2
操作飞机引擎的政权。
3.2。结果与讨论
3.2.1之上。数据预处理

在发动机性能退化的过程中,传感器的性能数据逐步改变随着时间的推移,和数据间接反映发动机的性能的退化趋势。然而,不同参数的敏感性下降随着时间的变化。图9显示了21个性能参数的退化趋势。根据图9传感器,数据从7(1、5、6、10、16、18和19)展览没有倾向,所以剩下的敏感性参数对发动机性能退化进行了分析。14的结果性能参数的灵敏度分析进行如表所示3。降低计算复杂度,前六传感器的数据(4、7、8、11、12和15)的敏感性排序选择。通过测量和分析相关信息的荷重软化引擎,参数T24和T30也选为研究的对象。最后,八个性能参数(2、3、4、7、8、11、12和15)选择预测航空发动机的原则(57- - - - - -59]。


图9
引擎退化趋势随着时间的推移使用来自不同传感器的数据。
表3
操作飞机引擎的政权。
3.2.2。使用网格搜索SAE参数优化

SAE用于本文有八个hyperparameters:输入层、隐层1,隐层2,输出层,SAE的学习速率,神经网络模型的学习速率和数量的培训周期。根据结果,参数输入层,神经网络模型的学习速率,和训练周期的数量如表所示4,它是一个很好的参数匹配。然后,有三个hyperparameters需要使用网格搜索优化。网格搜索方法的自动执行hyperparameter选择SAE在定义空间与一个固定的步长。SAE的提出参数获得使用网格搜索方法如表所示5。

表4
SAE的参数使用网格搜索方法获得。
表5
SAE模型的参数获得的使用方法。
3.2.3。结果

通过自动选择的hyperparameters款使用网格搜索,实验结果表明,该方法是有效的,准确率高达83.82%,可接受率高达86.32%排名第一(如表所示6)。相比之下,2008年榜单数据的准确性挑战引擎寿命预测,最佳的预测精度是84.19%(见表7原则),预测精度是相当接近。然而,有六个类型的工作条件和218年FD005T数据集训练集和测试集,用于数据的挑战。然后,比较了本文提出的方法,挑战2008年榜单数据只提供了一个相对比较。本文获得的荷重软化预测的准确性是可以接受的在发动机领域的预测,并得到了满意的结果。表8显示了前七最佳网格搜索方法获得的参数数组。表6显示了寿命预测结果的基础上,前七最优参数。表7显示了七个最精确的发动机寿命预测在2008年的榜单数据的挑战。

表6
寿命预测结果前七最优参数。
表7
发动机寿命预测精度的2008榜单数据的挑战。
表8
前七最佳网格搜索方法获得的参数数组。

4所示。结论

在本文中,一个新的引擎预测数据驱动的方法是开发了基于深度学习,自己可以捕捉有效的非线性特性,减少人工干预。SAE,深度学习的一种模型,不仅能够捕获系统发展的趋势也足够健壮的噪音。自动选择hyperparameters SAE的网格搜索算法。的的飞机引擎的剩余使用寿命预测方法应用于2008年榜单数据挑战数据证明了该方法的有效性。实验结果,显示一个令人满意的预测精度和录取率为所有样本,表明该方法是有效地预测飞机引擎的原则。它还有意义加强安全的飞机引擎和未来和管理健康的飞机引擎降低维护的成本。

数据可用性

使用的数据来支持本研究的发现可以从相应的作者。

的利益冲突

作者宣称没有利益冲突。

确认

这项研究得到了国家自然科学基金(批准号。51605014,51605014,51575021),航空科学基金(批准号20163351018),国防技术基础项目(批准号Z132013B002),中央大学的基础研究基金(批准号ywf - 18 - bj - y - 159)。