文摘
摘要非线性模型的似然推理问题灵活skew-t-normal (FSTN)分布,提出了一个通用框架内的灵活斜对称的(FSS)分布结合skew-t-normal (STN)分布。相比与斜等常见的倾斜分布正常(SN)和skew-t (ST)以及规模的混合物斜正常(SMSN), FSTN分布可以容纳更大的灵活性和健壮性的扭曲,重尾分布,特别是多通道的结果。然而,对于这个分布,通常基于EM算法的最大似然估计的方法变得不可用,另一种方法是返回到原始牛顿型方法。为了提高估计为信心以及感兴趣的参数估计和假设检验,修改后的牛顿迭代算法本文基于配置文件可能对于FSTN分布的非线性回归模型,然后,置信区间和假设检验也发达。此外,一个真实的例子和仿真进行演示我们的方法的有效性和优越性。
1。介绍
常见的假设分布统计建模的随机误差是正常的。这种假设可能缺乏鲁棒性对偏离常态和/或异常值,并可能导致误导性的推论结果(1,2]。在过去的几年里,有一个越来越浓的兴趣发展中更灵活的参数家庭能够采用尽可能真实的数据,具有非常可观的非正态的特征,如偏态和沉重的尾巴。在各种应用程序中,一个受欢迎的选择是修改一个对称概率密度函数的变量,从而引入偏态。一个重要的优势,与其他方法相比这种方法鲁棒性是一个概率的显式声明设置,导致一个明确的解释的结果3]。这个想法后,skw-normal (SN)首先介绍了分布4),然后,skew-t (ST)分布,[推出了5];skew-t-normal (STN),[推出了6];此外,一些扩展这些多元的情况下研究了(7,8)等等。自那时以来,一些作者试图将这些结果扩展到更一般形式的斜对称的分布,这里想提到的(9),摘要;他们提出了一个通用框架的分布称为灵活斜对称的(FSS)分布。所指出的(10],该分布家庭享有足够的灵活性,在不同的子模型的选择设置,金融监督院分布包括几个已知的分布如SN和圣作为它的特殊情况。
然而,在许多实际应用,它不是罕见的遇到一个多峰性,有时甚至是不规则的形状,而且,对于这种情况,所有上述分布似乎unsufficient来描述数据的多通道特性。对这个问题的解决方案是使用有限混合模型。在[11),作者曾与混合模型组件属于STN的密度分布和计算可行EM-type算法计算了最大似然(ML)估计的参数。不幸的是,尽管该方法对分析多通道非对称数据很有用,它遭受的问题“模式识别”的数量的参数估计通常是大的。因此,在本文中,我们处理一个新的扩展的类的FSS分布,这称为灵活skew-t-normal (FSTN)分布。这个新分布提出了金融监督院分布的总体框架内结合STN分布的定义。在实际应用程序中,它能够调节密度在一个更灵活的方式提供鲁棒性,它可以被视为一个有吸引力的选择适应数据偏斜和沉重的尾巴以及共同多峰性。
另一方面,非线性回归模型被广泛应用于经济学、工程、生物医学研究,等等,未知参数的非线性函数是用来解释或调查研究随机现象的非线性关系。最近,几个作者使用了一个类偏态分布的非线性回归模型的上下文中,和一些有价值的结果。例如,[12开发了稳健估计和回归模型的局部影响分析SMSN分布。从贝叶斯的角度来看,13)认为贝叶斯估计和非线性回归模型的情况下影响诊断SMSN分布。能找到更多的相关文献(14- - - - - -17]。一般来说,非线性回归模型拟合的倾斜分布,一个流行的方法是考虑的层次表示变量与一个特定的分布,在假定分布表示为等简单形式的条件分布正常,学生的和γ。基于此,EM算法或贝叶斯分层方法可以有效地实现进行模型估计和统计推断。
在本文中,我们的目标是开发一个可能性推理方法与FSTN非线性回归模型的假设。由于没有随机表示FSTN分布,为我们的考虑上面所提到的所有方法不可用的问题,另一种方法是返回到原始牛顿迭代程序模型估计。在非线性回归范式下,估计的准确性受到非线性强度的影响和相应的置信区间与假设检验需要估计的假设正常的或分布,限制太多。此外,考虑到在许多实际应用,而不是总参数,我们通常感兴趣的一个真子集。通过考虑到所有这些因素,在本文中,我们专注于感兴趣的参数,提出一种改进的牛顿迭代算法计算ML估计基于配置文件的可能性。此外,参数的置信区间与假设检验的兴趣也考虑。我们进行应用程序和仿真对比研究算法的有效性和鲁棒性分布的非线性回归模型的拟合性能和模型选择。算例的结果说明我们的方法的有效性和优越性。
本文的其余部分组织如下。节2金融监督院分布和FSTN分布,我们简要讨论。节3可能性推理,包括大量的第一,二阶导数以及标准的牛顿迭代公式。节4,我们给介绍的配置文件推理模型,估计和假设检验的信心在哪里了。部分5给出了数值例子使用模拟和真实的数据来说明该方法的性能。最后,给出了一些结论6。
2。模型和符号
类的倾斜分布如SN、圣、STN执行合理的建模偏态或(和)沉重的尾巴的观察。实际情况是不罕见的遇到的多峰性,有时更不规则的形状,,对于这种情况,上述分布成为unsufficient。本文采用一种足够灵活的分布,我们认为这些扩展之一,被称为灵活的家庭反对称的(FSS)分布由[介绍9以下类型的密度函数: 在哪里和分别是对称的单变量密度和分布函数,也就是说,,,是一个奇怪的多项式的学位(即。,a polynomial including only terms of odd degree),,是位置参数,尺度参数,和是形状参数。
一般来说,STN分布的密度函数可以表示为,在那里和分别表示学生的一元标准标准正态分布密度函数和单变量和函数的自由度。偏态是由形状参数和尾部的厚度分布控制。通常,与SN分布相比,STN沉重的尾巴时的分布表现出明显的特征。
在本文中,我们使用的一个版本(1),具体可以给出如下定义。让和,在那里和之前的定义是 也就是说,单变量学生的的密度函数分布在0位置,规模,的自由度。上面的扩展的(1)被称为灵活skew-t-normal (FSTN)分布,用。
有人指出FSTN分布的总体框架内提出了FSS分布结合STN的定义,因此,它与这两个分布共享类似的功能。为所有,FSTN分布提出了一些有趣的和特殊的功能,能够调节密度以更灵活的方式。是特定的,除了建模偏态和尾部厚度,FSTN分布允许多峰性,根据特定的设置。为了比较和说明,我们假设和在FSS分布用烟度,,然后,我们集在,也就是说,STN分布,对于这种情况,不同的选择和确定密度是单峰和双峰。此外,同样的假设和FSTN分布。
图1显示烟度的密度函数和STN FSTN分布有四个不同的情况下考虑,即,,;和;,,;,,分别与,对所有病例。通过检查图1,我们可以发现这三种密度的不同组合是怎样变化的和。例如,在图1(一)、烟度、STN和FSTN似乎非常接近,而STN和FSTN沉重的尾随在一点程度上。在图1 (b)烟度和FSTN时单峰和保持相同的标志,和偏态程度的排名是STN, FSTN,反过来,烟度;也就是说,STN和FSTN分布厚尾烟度相比分布。与相反的迹象和烟度和FSTN分布的双峰和高度倾斜的数字1 (c)和1 (d);此外,在同一方向,FSTN比烟度厚尾分布。我们提出FSTN分布可视为一个适当的金融监督院分布和STN分布之间的妥协。它允许更广泛的尾巴行为相比,FSS分布而它能够容纳多峰性无法描述的STN分布。从应用的角度来看,FSTN分布是一个很好的选择,可以预计将产生强劲的推论的结果在边远的观察。
(一)
(b)
(c)
(d)
3所示。可能性推理
考虑独立观察满足非线性回归模型与为。在这里,是一个维向量和是一个向量的参数。同时,让是设计矩阵;是一种已知的两次可微函数。然后,相应的对数似参数是由 我们有 在哪里和。相应的二阶导数(3可以显示为) 在哪里,,。
假设梯度或得分向量海赛矩阵是由上面的二阶导数。获得的ML估计定义的牛顿迭代算法 它指出,上述迭代过程是一个分区算法;也就是说,所有的参数包括非线性回归系数规模参数,形状参数以及尾部厚度参数同时估计。为我们考虑问题,至少有两个可能会遇到的困难(6);第一个是,一旦要估计的参数数量变大,相应的计算负担与不可接受沉重的估计误差,和第二个如下:当链接的强度的非线性函数改变,迭代过程可能会变得不稳定甚至nonconvergent,导致穷人的评估结果。考虑实际问题的需要,而不是总参数集,我们通常感兴趣的一个真子集。提高算法的效率,并促进与FSTN分布的非线性模型的统计推断,我们提出以下资料方法基于(可能性3)和(6)。
4所示。概要可能性推理
4.1。姿态估计算法
让的分区,在那里是一个参数向量的非线性回归,感兴趣的参数,然后呢是一个维多余参数与。同样,分区的和给药,在那里,,,的对角元素是由分别和非对角元素可以获得类似。让,对应的分区。
在随后的背景下,我们的估计基于剖面法(可能性18]。首先,假设众所周知,我们重写原始似然函数(3), 在符号表示,是固定的,但各不相同。为每一个,估计我们可以获得 另外,估计,我们评估的最大价值在并有 在哪里和被称为概要似然函数和概要ML估计,分别。
后(19),我们定义概要文件牛顿迭代公式如下: 在哪里,,所有的矩阵和向量的右边(10)评估和。
注意,在(6)和(10),联系函数的非线性强度反映在大的区段。因此,通过检查的表达式的元素时,我们发现 远低于相应的元素 以下可以得到近似的结果 然后,的迭代公式,,,还可以获得以前一样。上述估计过程称为概要文件修正牛顿迭代算法。
上述算法的停止规则可以作为迭代进行直到一段距离涉及连续两个评估概要文件的可能性,如或是足够小;例如,摘要采用。
ML估计的渐近协方差矩阵为概要文件可以通过反相评估可能性预期信息矩阵;然而,它没有一个封闭的形式表达;观察到的信息矩阵可以用作替代估计是哪个,在那里,,可以得到类似的如上所述。
初始值的选择起着重要的作用在非线性回归拟合;本文选择起始值实现的具体步骤如下:(我)计算初始值基于非线性回归模型与标准正态假设;(2)与固定的,计算初始值和SN和有限混合SN的假设,分别。
为了简化参数的估计,我们有固定的积分值从2到40,选择的价值最大化这个概要文件的可能性的初始值,然后,,,所需的估计过程都得到了。
4.2。概要文件估计和假设检验的信心
置信区间与假设检验在统计推断中发挥重要作用,在随后的内容中,我们将考虑这个概要文件的信心感兴趣的参数估计和假设检验的非线性回归模型。假设;以下正则条件似然推理假设:(我) ;(R-ii) ;(R-iii) ,在那里是任意的可测函数;(R-iv) 。
除了上述假设,在本文中,一些额外的条件假设持有:(ⅰ) 两次连续可微的对吗;(A-ii) 是满秩的吗;(A-iii)假设的真正价值;然后,存在一个邻居的和一个常数这样对于任何。
在上述假设,(后20.),我们有 在哪里的真正价值和收敛意义下的收敛概率。基于可能性理论,区域的信心的置信水平是由 在哪里表示上卡方分布的百分比的自由度。此外,假设检验 也可以考虑,并给出了相应的测试数据。可能性与标准方法,概要可能性置信区间与假设检验不需要假设正常的估计或分布的限制太多;它们基于日志的一个渐近卡方分布剖面数据的似然比检验和这些属性带来很多便利和可行性在实际计算。
5。模拟研究
调查我们的方法的实验性能,我们进行仿真对比研究misspecified分布的拟合性能以及理解ML估计的大样本性质。为了实现这个目的,我们将从以下两个非线性模型生成人工数据:
模型:药物反应模型:
模型:非线性增长曲线模型: 两种偏态分布的随机误差如下:(I):和案例(二):。
真正的人口参数选择如下:被认为是相同的上述两个模型。在模型,让,,,在模型让,,,。注意,价值观的自由度相对价值(我们需要)可以产生重尾分布。
在这个模拟,完全有四个模拟数据集对应两个非线性模型,模型和模型以及两个分布情况(I)和(II),随机误差。类似于前面分析,每个模拟数据集是安装在STN和烟度FSTN场景使用三种不同的估计算法。阐明实验性能的方法,一个有趣的比较可以通过检查多长时间我们可以认识到真正的模型。
表1显示之间的平均偏差的绝对值的真实和每个模型的估计参数和百分比被评为最好的模型基于AIC准则500复制也展示在表1。
通过检查表1,我们可以找到以下:(i)估计结果之间的差异药物反应模型和生长曲线模型意义重大,表明模型对影响的非线性参数估计;(2)当真正的随机误差分布是STN,三个拟合分布大致相同的行为;很难说哪种方法对参数估计是好的,哪些方法是坏的,可以获得相似的结果基于AIC的模型选择;(3)当FSTN真正的随机误差分布,烟度和FSTN分布比STN分布通过产生较低的估计偏差和AIC比例更高;此外,内线和MPNR方法比传统的NR方法执行。
研究一致性ML估计的性质,我们关注的情况随机误差的真实分布情况(II)而拟合分布也是FSTN。对于这种情况,两个估计算法,内线MPNR,采用参数估计与样本大小不同的、100和200)生成模型和。我们计算95%置信区间对感兴趣的参数和均方误差(MSE)对不同模型,。95%置信区间的长度和MSE结果总结表2。从表2我们可以看到,置信区间的长度和MSE倾向于减少随着样本容量的增加。
表1和2显示一般FSTN分布在建模数据与享有更多的鲁棒性和灵活性偏态和沉重的尾巴以及多峰性与其他相比倾斜MPNR方法的选择和实现带来更多的准确性和改进模型估计的非线性回归与这个新分布。
6。结论
我们已经提出了一种新的基于通用FSS分布偏态分布框架,称为FSTN分布,可以容纳多峰性、不对称,和沉重的尾巴共同比SN和STN同行提供更大的灵活性。此外,我们已经开发出一种修改的牛顿迭代算法估计非线性模型的参数的利益与FSTN分布区间估计和假设检验的可能性范式也考虑。
数值研究表明,非线性回归分析中,如果真正的分布是STN或烟度FSTN而拟合的分布,评估结果不会受到这misspecification分布假设。然而,一旦真正的分布是FSTN拟合分布STN,估计结果似乎有些失望,这显示了FSTN分布的鲁棒性。一般来说,与MPNR FSTN分布方法的组合给人们带来更多的非线性回归估计的精度和改进。
到目前为止,现在的方法是局限于完整的数据分析;本文的扩展包括缺失的数据版本以及贝叶斯分析的模型,将在另一篇论文。
利益冲突
作者宣称没有利益冲突有关的出版。
确认
这项工作得到了国家自然科学基金资助下11171105和11171105和CQ cstc2013jjB40008的自然科学基金项目部分。