维纳的识别模型和内部噪声使用三次样条Approximation-Bayesian复合分位数回归算法

文摘

一立方样条approximation-Bayesian复合分位数回归算法来估计维纳模型的参数和结构与内部噪音。首先,ARX模型与高阶代表了线性分组;与此同时,非线性块(可逆性)由三次样条函数近似。然后,使用贝叶斯参数估计复合分位数回归算法。为了减少计算负担,介绍了马尔可夫链蒙特卡罗算法来计算参数的后验分布的期望。确定结构秩序,最终的输出误差和Akaike信息准则用于非线性块和线性分组,分别。最后,数值模拟和工业案例验证该算法的有效性。

1。介绍

维纳模型是一个非线性系统,它是由一个动态线性块和一个静态非线性块。由于其结构简单,适应性强,维纳模型广泛应用于工业过程,如化学工程进程(1],采油[2)、生物植物(3),和流体控制单元(4]。然而,如何识别的参数和结构维纳模型仍然是一个具有挑战性的问题。

大部分的现有工作相关识别维纳模型与一个已知的结构。许等人介绍了s形的函数来提高突变率F在自适应差分进化算法5]。此外,维纳模型的盲识别方法研究[6]。系统的输入信号周期平稳信号是由一个代替高斯随机信号和内部变量只恢复基于输出。然后,秩序和维纳模型的参数估计采用支持向量机回归。

然而,维纳模型的结构和顺序通常是未知的工业过程。难以识别维纳模型由于其非线性特性。此外,现有的研究大多是没有噪音或只与相关系统的输出噪声(7- - - - - -9]。拉弥亚等人描述了使用多项式非线性维纳模型状态空间(PNLSS)模型,并开发了一个输出非线性误差识别方法块(10]。里卡多。等人提出了一个基于维纳估计参数识别系统(11]。脉冲响应的线性分组和静态非线性高斯过程建模和基函数的组合,分别。然后,使用迭代算法采用维纳模型的方法是估计参数。Al-Dhaifallah双子支持向量回归应用于识别非线性维纳系统,包括一个线性动态块(12]。线性块扩展的基础功能,而非线性部分是由双子支持向量机回归。

虽然提到算法的工作好,工业过程与内部噪音少。Lindsten等人处理内部状态空间系统的方式白噪声和非参数高斯过程模型用于静态非线性(13]。京等人提出了一种可变结样条逼近贝叶斯递归算法来减少内部白噪声的影响(14]。李等人提出了一个neurofuzzy-based single-input-single-output维纳模型识别方法对色彩的输出噪声(15]。张,毛泽东提出了一个健壮的递归最小二乘算法和一个死区加权系数基于非线性的逆函数块,考虑了过程噪声和测量噪声(16]。最相关的文章都是假设内部过程噪声满足高斯分布或近似满足对称分布。由于内部噪声变化的增益变化系统,很难消除情感。(一)变量之间的线性块和非线性块无法衡量,和现有方法无法准确估计参数(9]。(b)由于维纳模型的非线性特点,内部噪声会被放大的增益非线性块(14]。(c)逆非线性块通常利用多项式函数近似。然而,也有一些振荡现象在用高阶多项式17]。结果,现有算法无法达到满意估计当外部插值的效果是不好的。(d)可获得的最佳无偏估计的参数只有在建模误差满足分布与零均值和方差相同。因为错误无法保证满足高斯分布,最小二乘算法不再显示其鲁棒性(18]。

得到一个无偏估计维纳模型与内部噪音,一立方样条approximation-Bayesian复合分位数回归(CSA-BCQR)提出了这项工作。的贡献如下:(一)内部过程噪声与未知的不对称分布形式在维纳模型解决(b)重复抽样利用马尔可夫链蒙特卡罗(密度)方法实现实现更快的收敛的参数(c)克服使用多项式逼近高阶振动引起的,也被认为是和一个结构检测框架

结构组织如下。部分2给出了问题描述。部分3分位数回归的原理和贝叶斯组合详细分位数回归。部分4描述的顺序确定非线性维纳模型的块和线性块。部分5提出了一种数值模拟和工业情况下评估算法,分别。最后,结论部分进行了总结6。

2。问题描述

如图1,输入信号首先通过线性块维纳模型并生成 。在内部噪声的干扰 , 进一步发展为并成为非线性的输入块 。整体输出最终生成的。

假设(一)非线性函数是连续的、单调的、可逆的(b) 被认为是一个高斯白噪声和输入信号的独立(c)未知的多项式阶可以定义为最终的输出误差(敌人)和Akaike信息准则(AIC)

这里,ARX模型与采用高阶近似的线性分组维纳模型:

考虑到非线性部分是可逆的,方程(1)改写如下:

成本函数定义如下: 在哪里是样本的大小。因为表达式的具体形式是未知的,一个稳定的线性传递函数近似的有限脉冲响应(杉木)模型。 在哪里是线性的顺序。

非线性维纳的块模型,应用三次样条逼近(CSA)函数以适应非线性时钟的逆函数: 在哪里样条函数的顺序, 估计参数, 结组内部收集点吗 并满足 , , 样品的大小, 。

因为是无法计量的,任意大小获得线性模块和非线性模块之间的分配。集并结合方程(2)和(5):

然后,维纳模型参数化如下: 与

3所示。贝叶斯组合分位数回归

3.1。分位数回归

根据最小二乘法理论,估计是无偏当建模误差 。如果建模错误 和 ,估计是无偏最小方差。当数据大幅/厚尾分布和明显的异方差的最小二乘算法不再有上述优势。为了弥补这些缺陷,分位数回归(QR)提出的爆炸等。19]。

QR的性质之间的线性关系是描述自变量和因变量分位数的形成。从0到1的分位数变化时,相应的回归平面的位置和指导将会调整。因此,因变量不同分位数条件下可以获得。QR不仅描述了因变量的变化范围也措施的条件分布形状的影响回归变量。与最小二乘回归,QR的最佳线性无偏估计和模型残差满足正态分布。

如果条件分位数的是一个线性的函数 ,然后 。分位数估计的显示如下: 在哪里 , 是线性的损失函数,指标函数。

同样, 。方程(9)也可以表示如下:

当需要不同的值,估计的参数也不同,以及回归方程的表达式。

然而,QR nondifferentiable或非凸目标函数,使得最优解过程复杂化(20.]。两个方程(9)和(10)是分段线性函数,因此不能直接从目标函数解决的解决方案。需要找到另一种方式来获得每个QR的后验密度函数的参数。

定义1。一个随机变量有一个不对称拉普拉斯分布(ALD)指出 与和(21]。给出了它的概率密度函数(pdf) 在哪里是一个位置参数,是一个尺度参数,是一个不对称参数。当 ,简化了分布的拉普拉斯分布。
假设肾上腺白质退化症患者,满足相应的pdf写如下(22]: 的似然函数定义如下: 然后,最小化代价函数的方程(10)是等效的最大化似然函数方程(13基于“肾上腺脑白质退化症”(23]。

3.2。贝叶斯组合分位数回归

与最小二乘算法相比,QR有着更多的灵活性在评估响应的预测对不同位置的影响分布(22]。它也解决了最小二乘回归的问题只能描述当地的因变量,因变量的影响。邹和元指出,QR会导致任意小相对效率与最小二乘法相比(24]。此外,中位数回归,QR的特殊情况,可能不是最好的选择一些异常错误。因此,复合分位数回归(CQR)可以将多个分位数信息聚合在一起产生一个健壮的参数估计。同时,CQR可以实现基于单个分位数回归估计的效率收益(25]。

与 , ,的CQR是 这也是重写

很明显,估计可以计算的QR的组合吗 。然而,CQR和QR很高的计算负担。有必要找到一个好的解决方案。

的后验分布 , 是由 在哪里的先验分布 , 似然函数:

引理1。如果似然函数 ,的后验分布 , ,将会有一个适当的分布(25),即

如果 , , 仍然存在的期望后验分布的贝叶斯估计 。

为了提高计算效率,马尔可夫链蒙特卡罗(密度)方法,是研究人员从复杂的样本分布,方便了(26]。获得主要有两种方法:pmmh (mh)采样和吉布斯抽样。在这里,mh算法。mh抽样算法所示的程序1。

贝叶斯CQR (BCQR)本文算法不依赖于数据的实际分布,但在退化(形成的似然函数27]。BCQR的本质是估计参数视为随机变量,和抽样分布的参数可以通过重复抽样。当一个稳定分布,参数的平均值和标准偏差在每个分位数可以确定。

4所示。维纳模型的选择

敌人和AIC通常用于确定非线性块的顺序和线性分组,分别。

4.1。订单确定的非线性

如方程所示(5),逆非线性函数的顺序和相应的敌人如下: 在哪里样本的大小和吗参数的数量。是克服过度拟合问题的因素。然而,方程(19需要估计的值 。因此,一个等价的标准介绍: 在哪里 。

假设

由于非线性函数是单调 。

4.2。订单确定的线性块

敌人则需要知道系统的输入和输出的线性块,但系统的中间变量是无法计量的。因此,采用间接法估计中间变量首先和最近订单确定。

据估计参数 ,线性模块 与

方程(22)也可以被重写

的似然函数是 。的最大似然估计是由

利用AIC准则,

最后,确定订单 。

5。案例研究

5.1。数值模拟

离散维纳模型是由一个内部的噪声 在哪里 , , 满足“肾上腺脑白质退化症” 。

5.1.1。估计

三次样条函数的顺序使用敌人则在不同的方差估计。敌人的三次样条函数的变化与不同分位数图所示2。当 ,敌人是最低的。

5.1.2中。估计

如图3、AIC时最低 ,这是完全符合真实的维纳模型。

5.1.3。参数估计使用CSA-BCQR

估计误差的线性部分和非线性部分,绝对相对误差( )和均方误差( )定义如下: 和综合误差( )是

估计结果见表1和图4。显示CAS-BCQR算法的优越性,CSA-Bayesian分位数回归(CSA-BQR)和CSA-recursive最小二乘(CSA-RLS)算法进行比较。

当使用CSA-BCQR算法,迭代收敛的195、79和83年,分别。然而,在CSA-BQR算法,不收敛的迭代时间是300年,什么时候收敛,分别在91年和249年。在CSA-RLS算法,在300年,也无法收敛是收敛的,分别在190年和298年。显然,CSA-BCQR算法的收敛速度更快比CSA-BQR和CSA-RLS算法。

5.2。工业案例

水箱模型为例(如图5)。进水口流,是理论上的液面,是实际液位,是水出口流(28]。

模型的变量之间的关系如下: 在哪里 是一个持续的激励信号序列, 。在这里,和和参数估计CSA-BCQR算法表所示2。

如表所示2,CSA-BQR CSA-BCQR的估计错误和CSA-RLS算法逐渐减少增加。与此同时,估计价值是接近真实的价值。当 ,CSA-BCQR算法0.0282的是和是CSA-BQR CSA-RLS分别为0.1136和0.1642,分别。

如图6的MSE CSA-BCQR算法显著减少,100年之后收敛迭代。使用CSA-BQR和CSA-RLS的准确性的非线性参数识别小于块CSA-BCQR算法。可以看出CSA-BCQR算法具有较高的精度和更快的收敛。

6。结论

一立方样条Approximation-Bayesian复合分位数回归算法来估计维纳系统的结构和参数与内部噪音。使用三次样条函数来近似非线性块,克服了高阶振动引起的多项式近似。然后,使用贝叶斯组合分位数回归算法考虑不同分位点的信息可以有效地提高参数估计的精度。数值模拟和工业案例表明,CSA-BCQR算法具有更快的收敛速度和更高的参数识别精度与CSA-BQR和CSA-RLS算法。此外,CSA-BCQR算法也适用于其它block-oriented模型,如汉默斯坦系统或Hammerstein-Wiener系统。

数据可用性

维纳的详细机理模型和模型参数模型给出的手稿。在MATLAB软件计算结果给出的模型和参数,而相关的结果给出的手稿。

的利益冲突

作者宣称没有利益冲突有关的出版。

确认

这项工作得到了国家自然科学基金(批准号61873113),333年江苏省高层次人才培训项目,江苏的主要研发项目(批准号BE2018370)和江苏省研究生创新研究与实践项目(批准号KYCX17_1785)。

引用

1. h . Salhi s Kamoun: Essounbouli, a . Hamzaoui”所描述的非线性系统的自适应离散滑模控制维纳模型”国际期刊的控制,卷89,不。3、611 - 622年,2016页。视图:出版商的网站|谷歌学术搜索
2. h . Hamzaoui和c .盛”建模的复数维纳系统使用b样条神经网络”神经网络,22卷,不。5,818 - 825年,2011页。视图:谷歌学术搜索
3. s . Li y通用电气,y,“三元复合驱采油对基于双正交的时空维纳建模和迭代动态规划,“复杂性卷,2018 - 2018页。视图:出版商的网站|谷歌学术搜索
4. x y . Tan, h·l·高,Chen等人“维纳结构基础模型识别的电子节气门的身体,”《13 IEEE控制与自动化国际会议上页,在18到22岁的奥赫里德、马其顿、2017年7月。视图:谷歌学术搜索
5. 徐x、b .白和钱,”维纳模型的识别基于改进微分进化算法(萨德),“系统仿真学报,28卷,不。1,第153 - 147页,2016。视图:谷歌学术搜索
6. x, f . Wang和f .钱,“基于支持向量机和高阶累积量的盲识别非线性维纳模型,”信号处理专业,12卷,不。6,761 - 769年,2018页。视图:出版商的网站|谷歌学术搜索
7. j·李和李x”,粒子群优化迭代维纳系统识别算法和梯度迭代识别算法与有色噪音,”复杂性卷,2018篇文章ID 7353171、8页,2018。视图:出版商的网站|谷歌学术搜索
8. m .大使和m . m . Arefi”,快速迭代递归最小二乘算法对维纳模型识别的高度非线性系统,”ISA事务卷,67年,第388 - 382页,2017年。视图:出版商的网站|谷歌学术搜索
9. g . j .郭l . y . Wang, y赵,肯尼迪。张,”维纳的识别系统与量化的输入和输出binary-valued观察,“自动化卷,78年,第286 - 280页,2017年。视图:出版商的网站|谷歌学术搜索
10. 妖妇,t . Djamah、k . Hammar和m . Bettayeb“维纳使用多项式非线性状态空间模型,系统识别”诉讼第三国际会议控制、工程和信息技术(CEIT)特莱姆森,页1 - 5,阿尔及利亚,2015年5月。视图:谷歌学术搜索
11. f r . s . Risuleo Lindsten h . Hjalmarsson”Semi-parametric基于维纳的识别系统,”学报2018年IEEE会议决定和控制(CDC)迈阿密海滩,页3874 - 3879年,FL,美国,2018年。视图:谷歌学术搜索
12. m . Al-Dhaifallah“双子支持向量机的识别方法维纳模型”数学问题在工程,卷2015,不。2、1 - 7,2015页。视图:出版商的网站|谷歌学术搜索
13. f . Lindsten t·b·舍恩和乔丹,“贝叶斯半参数维纳系统识别,”自动化卷,49号7,2053 - 2063年,2013页。视图:出版商的网站|谷歌学术搜索
14. 京,t·潘,z,“变量knot-based样条逼近维纳的递归贝叶斯算法识别系统与过程噪声、”非线性动力学,卷90,不。4、2293 - 2303年,2017页。视图:出版商的网站|谷歌学术搜索
15. j·李,问:熊和l .冯”相关分析方法的输出去噪维纳模型,”《过程控制58卷,第89 - 73页,2017年。视图:出版商的网站|谷歌学术搜索
16. b .张和z毛,”维纳非线性系统鲁棒自适应控制方法,”国际期刊的健壮和非线性控制,27卷,不。3、434 - 460年,2017页。视图:出版商的网站|谷歌学术搜索
17. s . l .梁x w·李,j . d .王先进的遥感:地面信息提取和应用程序爱思唯尔/学术出版社、剑桥、马,美国,2012。
18. w·徐w·陈,梁y”可行性研究的最小二乘法拟合非高斯噪声数据,”自然史答:统计力学及其应用卷,492年,第1930 - 1917页,2018年。视图:出版商的网站|谷歌学术搜索
19. 美国爆炸工程学系。Eo, m . Jhun和h . j .赵“复合内核分位数回归,”Statistics-Simulation通信和计算,46卷,不。3、2228 - 2240年,2015页。视图:出版商的网站|谷歌学术搜索
20. y Lim和H.-S。哦,”变量选择在分位数回归模型自回归错误,”朝鲜统计学会杂志》上,43卷,不。4、513 - 530年,2014页。视图:出版商的网站|谷歌学术搜索
21. t . j . Kozubowski和k . Podgorski拉普拉斯分布不对称。”数学科学家,25卷,不。1,37-46,2000页。视图:谷歌学术搜索
22. j . m . Bleik“完全贝叶斯估计的同时回归分位数下不对称拉普拉斯分布规范,”概率论与数理统计》杂志上,没有。2、1 - 12,2019页。视图:谷歌学术搜索
23. k . Yu和r . a . Moyeed“贝叶斯分位数回归,”统计和概率的信件,40卷,不。1,37-40,2001页。视图:谷歌学术搜索
24. h .邹和m .元”复合分位数回归和oracle模型选择理论,“统计年报,36卷,不。3、1108 - 1126年,2008页。视图:出版商的网站|谷歌学术搜索
25. y风扇、m . Tang和m .田“复合分位数回归系数单指标模型,”通信在统计理论和方法,45卷,不。10日,3027 - 3047年,2016页。视图:出版商的网站|谷歌学术搜索
26. c . w . Li Peng x周et al .,“生态系统的应用模型和马尔可夫链蒙特卡罗参数估计和生产力的预测,”生态球》第六卷,没有。12日,页1 - 15,2015。视图:出版商的网站|谷歌学术搜索
27. y田、h·丽安和m .田,“贝叶斯线性mixed-effects复合分位数回归模型”,通信在统计理论和方法,46卷,不。15日,第7731 - 7717页,2016年。视图:出版商的网站|谷歌学术搜索
28. 肖y . m . Liu, r·丁”迭代维纳非线性系统识别算法使用牛顿法,“应用数学建模,37卷,不。9日,第6591 - 6584页,2013年。视图:出版商的网站|谷歌学术搜索

版权

版权©2020天虹锅等。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。