文摘
动力系统是由两个组件,随时间变化:状态空间和观测模型。本研究探讨参数推理在动力系统从贝叶斯推理的角度。推断未知参数的非线性、非高斯动态系统是具有挑战性的,因为相对应的后验密度未知参数没有可追踪的配方。这样一个系统是由堆垛机模型,这是一个传统的离散人口模型在生态学和流行病学在许多领域使用。这项研究中,处理参数推理,也称为参数学习,是本研究的核心目标。顺序提出了嵌入式估计技术来估计后验密度和获取参数推理。由此产生的算法称为增强连续马尔可夫链蒙特卡罗(ASMCMC)过程。实验是通过仿真来说明执行ASMCMC算法的性能从草垛动力系统观测。
1。介绍
可以研究线性和非线性系统的动态特性使用状态空间模型,因为它提供了一个一致的框架。状态空间建模过程分为两个阶段:开发一个模型,描述了底层系统动力学随着时间的推移,称为状态空间模型;和(2)的发展模式与观测状态空间变量,称为测量状态模型(也称为测量状态模型)。本文中涉及的问题的类是未知参数的推理,用符号 ,调节下的动力系统考虑。为代表的离散随机系统的一个例子和 ,扩大到包括离散随机系统解决推理问题,给出了参数 为 与 代表了已知的先验分布在初始状态空间变量 ;在(1)和(2),代表了一个通用的步骤和时间表示最后一次,表示状态空间模型的传递函数与噪音 ,和代表的非线性和非高斯的度量模型。这两个和进一步只知道未知的参数 这是推理的对象。此外,在(1),被认为是分布式根据这是再次参数化的组件吗 。换句话说,代表所有未知参数的收集的动力系统(1)和(2),它是基于观测数据的推断。上述参数贝叶斯推理方法的发展动力系统是本文的主要目标。
物理、生物学、神经科学和对象跟踪系统都是多学科领域的例子的推理问题,管理的特点,应用非线性动力系统(1- - - - - -10]。最常用的统计框架参数推理问题寻找解决方案似乎频率论的(或non-Bayesian)方法使用最大似然估计(ML),如期望最大化(EM)过程11- - - - - -16]。计算很难推断参数非线性动力系统使用频率论的方法。此外,这些程序返回点估计而不是整个分布,表明参数不确定性。需要运行评估方法大量的时候,使用引导等不确定性评估技术,得到估计的不确定性。这需要计算负载和增加强度。
未知参数的后验分布,另一方面,是用来提供相应点估计值和估计的不确定性估计未知参数时使用贝叶斯方法。贝叶斯过程在一个动力系统设置的目的是获取后的 , ,考虑到观测到最后一次 。后在封闭的形式通常是很难获得,所以贝叶斯计算算法是利用蒙特卡罗意义上的近似。马尔可夫链蒙特卡罗(密度)方法是最常用的方法估计后验分布的封闭形式无法访问时,他们是最准确的。虽然贝叶斯计算方法可用于推导出一个未知参数的后验分布,它们只是合理限制意义上,需要大量的老化前密度算法收敛(17- - - - - -19]。尽管如此,某些计算方法是简单的构思和执行在电脑上,和标准的包已经用于许多简单的实现这些过程的20.- - - - - -22]。获得的一些程序pmmh (MH)算法,吉布斯采样器,粒子马尔可夫链蒙特卡罗(PMCMC) [23- - - - - -25]。
几个序列蒙特卡罗(SMC)方法已经开发解决的约束马尔可夫链蒙特卡罗(密度)对动态系统的参数估计算法。SMC的核心概念是利用重要样本估计的后在每一个时间点和传播的样品按顺序通过合适的内核。存在一个广泛的文献SMC方法(见,例如,(26- - - - - -29日])。SMC-based参数推理在首次提出了非线性动力系统(30.刘和西过滤了)。参数的人工进化参数用于过滤和刘和西部假设后验分布的混合正态分布, ,为 混合物内的分布。的调优参数控制的程度控制overdispersion的混合组件30.,31日]。尽量减少重量退化或粒子衰变,主要的思想是产生新样本后,拟合后的混合物。刘和西部过滤器通常可以应用于任何动力系统,这是这个过程的主要景点。然而,由于人工进化的未知参数,结合人工可变性,这是该算法的主要缺点。
贝叶斯过程的目的是获得的后 , ,考虑到观测时间 。后在关闭形式又很难获得,所以利用贝叶斯计算算法近似在蒙特卡洛的感觉。
SMC的另一个主要类方法参数推理不引入overdispersion后是粒子学习算法32,33]。最初的方法是归因于Storvik [34,35导致Storvik的过滤器(类似的方法也提出了36,37])。Storvik滤波器假设后验分布鉴于和取决于一系列低维的足够的统计信息,可以递归地更新 。这对充分的统计数据被定义为递归 ,导致的生成根据样品 为每一个 。与刘和西部过滤器,Storvik的过滤器,没有人工进化过程因此它不遭受overdispersion [38]。然而,关键的假设Storvik过滤器是足够的可用性的统计数据以及采样后的的能力考虑到足够的数据 。
随后的发展在SMC方法参数推理扩展Storvik适用性的过滤器,各种各样的更一般的设置(见,例如,(39,40])。刘氏和西部(ELW)滤波器来估计参数和状态(40推断]把参数集 ,成两组,和分别代表参数没有和有足够的统计数据。为刘集,ELW过滤器使用过滤器,在人工随机误差引入静态参数 。参数的设置更新基于Storvik的过滤器 。足够的数据基于静态参数。其余的参数的人工进化overdispersion使用。总体的参数集表示为 。ELW过滤器适用于更广泛的一类状态空间模型相比Storvik最初的过程,但会受到来自两方面的缺点,即,(i)人工overdispersion决赛后,(ii)的要求充分统计量的存在为并从后采样的能力 。
统计方法的发展在特定生态系统结合了附近的非线性和混沌行为的响应为各种应用程序(41- - - - - -44]。推理问题的详细比较了非线性生态学和流行病学的(45]。非线性是一个观察者在实验研究[46]。尽管流行病学家和生态学家的目标是不同的,两者都关注特定物种的持久性。的数学解释种群动态是相似的在这两项研究[45]。
本文的目的和范围,使用混乱的流行病学或生态模型和执行参数推理。有两个目标。首先是执行推理提出了应用程序即使充分的统计数据是不可用的。第二是使用一个在线执行参数推理方法。许多研究人员(47,48]讨论了统计和混乱之间的关系。主要的推理方法在这个手稿是开发的49),这是一个连续的密度(SMCMC)过程得到未知参数后在动力系统推理。然而,在(49),该方法仅适用时考虑测量模型是线性和加性高斯噪声。在这部作品中,堆垛机的测量模型动力系统结合了非高斯分布,和相关的动力系统的一种特殊情况(1)和(2通过传递函数)具有非线性 。适当的SMCMC推断算法随后了堆垛机的动力系统。
本文的其余部分被组织成以下部分:在部分2,堆垛机的模式进行了探讨。节3,SMCMC细节过程。仿真实验给出了部分4。在上一节,一节5、我们国家的结论和未来的工作进行了探讨。
2。堆垛机的模型
生态学理论在很大程度上依赖于数学模型的竞争。迄今为止已经提出几种数学模型描述认为人口的增长;有些详细(50- - - - - -52),包括离散时间模型(53,54]。广泛的生物因素影响生态系统的行为使研究人员很难达成共识如何模拟种群竞争的动力。众多物种竞争和技术的实例探讨了数学建模的一个开创性的出版物在种间相互作用55]。的争夺竞争已经找到适合堆垛机模型(56,57]。从秩序混乱,堆垛机模型说明了动力学(20.- - - - - -58]。这将是有趣的观察动态模式出现两个草垛地图时加入。
堆垛机的模型是经典的离散人口模型。它给预期的密度或个别物种的数量在每个下一代。
堆垛机的模型常被用来解释两个种群的动态链接通过迁移(50- - - - - -58]。因此,没有知道雷克社区是如何进化的。在实验设置中,嘈杂的模型被认为是在方程(3);在这里代表着时间演化变量。是一个参数代表内在的人口增长率。噪音是由过程 ,这也可以认为是环境噪声。这过程噪声具有零均值,协方差参数 。假设人口的动态建模与堆垛机的模型,但它是不可能知道确切的人口密度在任何时候,所以有必要有一个测量模型。
在这里是个体采样的测量参数在任何时间点 ,和尺度参数。
使用转换变量,方程(5)和(6)可以看作是特殊形式的一般状态空间和测量模型给出的方程(1)和(2),分别。我们有 ,和的泊松概率密度函数的意思吗 。因此,堆垛机的动力系统有三个基础参数管理系统,也就是说, , ,和 。在这篇文章中,后两个参数是未知的,也就是说, 和 假定固定的和已知的。对我们的模拟研究参数的真实值了 ,在[给出的一样45]。
3所示。一个增广连续马尔可夫链蒙特卡罗算法
连续马尔可夫链蒙特卡罗算法的工作过程在随后的文本描述。顺序更新SMCMC用于拟议的技术特征。的核心概念是解决59),这是集中在蒙特卡洛和,但估计概率累积过滤步骤 最小化。状态变量和未知参数时间步的补充吗在[49]。因此,相应的似然函数的变化 来 。可以实现避免需要累积的解析表达式过滤程序。这是特别有用的数量是可观的。
ASMCMC是一个迭代的过程,从最初的时间步 ,增加顺序,最后结束的时候 。在 - - - - - -th ASMCMC过程的步骤,后样品得到基于一个潜在的马尔可夫链蒙特卡罗程序。这将被称为马尔可夫链蒙特卡罗程序 - - - - - -时间步马尔可夫链蒙特卡罗程序。的目标 - - - - - -th一步获得过程后, ,在时间步 。因此,当 ,我们将获得样本所需的后部 以及 通过边缘化。的实现细节 - - - - - -th一步马尔可夫链蒙特卡罗程序如下。
假设后 - - - - - -th获得时间步过程中,(即样品。粒子) 可从后验密度 。的高斯混合模型(GMM)安装使用 后中概述的方法(48- - - - - -60]。这导致估计的密度 基于gmm。(中开发和实现的方法48- - - - - -60)确保安装GMM接近真实的后验密度 ,也就是说, 尽管后者的确切形式不可用。
初始化 - - - - - -th获得时间步过程中,样品 被形成的起点 th一步获得过程, 和 为 。这里开发一些符号:用和 ,分别的值和在 - - - - - -th的周期 - - - - - -获得时间步程序初始化的为 。换句话说, 初始化基于th获得时间步过程连锁形式单独基于单独的起始值;这需要获得链为每个时间步可以并行运行 。
在每个步骤的细节 - - - - - -th一步获得过程,我们抑制符号。为一个通用的 - - - - - -th(注意,有一步获得过程),初始化 如上所述的输出 - - - - - -链。在步骤的一步获得过程,假设 已经是可用的。交通从 ,(我)生成 在哪里在方程(8)建议密度。(2)计算接受概率 在哪里 的概率函数鉴于和在((13))。
集 的概率 ;否则,设置
继续的迭代 。
前面提到的马尔可夫链也会收敛 固定(目标)分布取决于分子的表达在(10),即 自
目标的密度 - - - - - -th一步获得过程的后验密度 鉴于 ,第一个近似平等是由于((7))。在我们以前的工作(49), 可以在封闭形式由于线性测量模型和加性高斯噪声变量分配在状态空间和测量模型。在现在的环境下,
随后,老化后的时期 ,的样本只收集的一个较大的值 ,而样品被丢弃。确保获得理论和边缘化属性根据后验分布 。因为有获得平行链,这样的样品 ,也就是说, ,以这种方式收集。随后,纯如在过滤步骤((15)执行得到的样本从 为每一个在集合中(48]。因此,粒子对构成样本的联合后验密度 和可以作为下一个的输入 - - - - - -圣ASMCMC算法的时间步1。
|
||||||||||||||||||||||||||||||||||||||||||||||||||||
4所示。结果与讨论
在本节中,ASMCMC方法用于参数推理堆垛机的动力系统。的 - - - - - -观察生成的time-discretized堆垛机的模型(状态空间模型由(5)和给定的测量模型(6))使用前初始质点 。从之前产生的初始状态值,更新状态和测量系统在每一个固定的时间步 。的真正价值被认为是 ,这是一样的选择(45]。的老化被设定为 。估计后验密度曲线是根据最终获得后的样本 在完成ASMCMC算法。这些密度曲线给出了数据1和2参数的和 ,分别。在图1密度曲线估计,基于最终后的样品参数在完成ASMCMC。垂直固体黑线表示参数的真正价值 ,而估计的密度曲线的基础上,最终后的样品参数在完成ASMCMC呈现在图3。垂直固体黑线表示参数的真正价值 。我们注意到的真实值参数在各自的后验密度的支持,这让人使用ASMCMC过程参数推理方法。下面的表1代表认为在实验设置仿真参数。
为了说明ASMCMC过程的收敛,箱线图轨迹代表的分布为 可以绘制。构建基于这些箱线图最后一次迭代为 ,老化后收集。图3箱线图显示,基于后的样本轨迹 。图3箱线图表明这些轨迹已经企稳之前达成最后的时间点 。换句话说,后变化时方法最后的时间点 ,可以显示,估计的基于ASMCMC取样器聚集。类似的箱线图轨迹图(如图4)是获得这表明其取得的后验分布的收敛。
5。结论
基于堆垛机的动力系统的模型是一个非线性、非高斯系统应用生态学和流行病学。我们开发的ASMCMC算法草垛动力系统参数进行贝叶斯推理。我们观察到后验包含真正的参数值用来模拟观测堆垛机的动力系统。我们的未来工作将调查ASMCMC算法时的性能是未知的,对高维动力系统出现在生态学和流行病学。
符号
| : | 状态变量 |
| : | 观测变量 |
| : | 状态模型 |
| : | 度量模型 |
| : | 最后的时间点 |
| : | 时间变量 |
| : | 状态噪声 |
| : | 观测噪声 |
| : | 未知参数 |
| : | 概率密度函数 |
| : | 建议分布 |
| : | 观察向量时间点1 |
| : | 足够的数据在 - - - - - -个时间点 |
| : | 时间点的权重向量 |
| : | 老化时间 |
| : | 堆垛机的动力系统未知参数 |
| : | 增强粒子的未知状态和参数。 |
数据可用性
本文不需要任何数据集使用MATLAB工具而使用模拟数据。
的利益冲突
这篇文章的作者没有利益冲突在杂志出版这篇文章传感器。