一种自适应非单调线搜索方法求解非线性方程组

文摘

在本文中,提出了一种新的非单调线搜索技术求解非线性方程组。我们试图回答这个问题如何控制nonmonotonicity线搜索规则的程度以达到更有效的算法?因此,我们提出一种新颖的算法,可以避免失败的增加迭代。为了这个目的,我们展示的健壮的行为该算法通过求解几个数值例子。在一些合适的假设下,证明了全局收敛性的策略。

1。介绍

不同范围的科学,如经济学、化学、机器人技术和工程可以制定为非线性方程组。另一方面,科学进步在这些地区更依赖这些系统的分辨率。

有两种类型的系统方程,称为线性和非线性系统,主要有两种方法来解决他们称为数字解决方案和优化方法。文中针对方法是使用最广泛的求解非线性类型。

因此,在本文中,我们讨论如何找到解决非线性方程组如下: 在哪里 是连续可微的地图和 。让的形式(1)

近年来,几种文中针对方法开发了解决非线性系统方程(1牛顿类和梯度类等)。牛顿类,例如,牛顿和拟牛顿方法,更适合的小规模系统方程和梯度类;例如,谱梯度和共轭梯度方法,可以适当应对大规模系统。有许多不同的方法将问题(1一个优化问题。例如,在方法(1],作者系统变成一个无约束最优化问题,然后解决了新的无约束问题而不是通过应用一种优化方法,制定如下: 和另一种形式存在2,3]。在本文中,我们考虑下面的形式: 在哪里代表了欧几里得范数。所以我们更换问题(1) 并设置 。无疑地,最优解的问题(5)的零值目标函数对应全球解决方案的系统(1)。文中针对的方法可以分为两类,即线搜索方法和信赖域方法(3,4]。线搜索方法,在当前迭代如果 ,定义一个搜索方向在某种程度上,发现携带一些线搜索的步长 。最受欢迎的线搜索规则Armijo规则,沃尔夫戈尔茨坦的规则,规则(5- - - - - -7]。对于一个给定的 ,线搜索生成下一个点 在哪里 是一个步长搜索和获得的是一个下降方向。传统的线搜索需要在每次迭代函数值下降单调,也就是说,

单调规则可能极度降低收敛速度迭代时狭窄弯曲的峡谷附近被捕,这可能会导致非常短的步骤或曲折的。Grippo et al。8最早提出了非单调线搜索。通过结合强制函数非单调线搜索技术,太阳et al。9)提出了一个通用非单调线搜索规则,称为非单调F规则,无约束最优化。求解系统方程,Ataee Tarzanagh等人在4在[]和Reza Peyghami Ataee Tarzanagh10据)开发了一种新的非单调术语 在哪里 和 。此外,Grippo非单调的术语定义的是哪一个 在哪里 ,和 , ,在哪里是一个正整数,是一个消失的正序满足以下条件:

注意,对 他们证明了弱收敛性质

本文中的算法的主要贡献是使用函数派生值提高测序过程。我们引入一种自适应非单调技术,有很强的收敛性质, 并且可以控制函数的凸组合值比以前的方法。数值实验显示的效率提出了线搜索技术。数值实验表明提出的新技术的效率和鲁棒性。

本文的其余部分组织如下:在部分2,我们现在提出的自适应非单调规则和部分3,我们现在收敛性质。数值结果和结论给出了部分4和5,分别。

2。算法结构

以下假设是对整个文章。

假设1。 下面有界在水平集吗 和是连续统一在一个开集包含水平集吗 。
为了达到全局收敛性,我们需要满足以下假设的搜索方向。

假设2。 在哪里是一种强制函数,我们以后把它。

假设3。矩阵均匀非奇异的 ,即。,there exists a constant 这样 在下面,我们给强迫函数定义在[9]。

定义1。这个函数 是一种强制函数(F如果任何序列函数) 我们定义新的非单调线搜索方法如下: 集 ,那 在哪里 那 (在哪里。]表示函数和的地板上 ,和是一个消失的正序满足以下条件: 和是强制函数 。所以 在哪里 。通过定义2.3。2.4和主张。在[9),非单调线搜索规则(21)很容易满足新的非单调规则(17)。更新(19在每个迭代中。我们现在目前的高级描述我们的算法称为自适应非单调线搜索技术(退火)。
与变量在算法1,我们尽量避免额外的迭代。

3所示。全局收敛性

在本节中,我们使我们的算法的全局收敛性。在我们的证明,我们采用方法(11]。

引理1。让序列是一个序列生成算法1;然后下面的不平等是适用的:

证明。让我们开始用归纳法证明。
如果 ,从(17),我们从 那 假设(22适用于所有 。继续证明,我们考虑两种情况:案例1: 假说的归纳 为 : 通过使用 和 , ,我们有 案例2: 因为 ,证明在第一种情况下是相同的。

现在通过使用引理1,我们建立一个强大的新的nonmonotonte算法全局收敛性定理。

定理1。我们假设1- - - - - -3感到满意,算法所产生的序列1。然后 和

证明。从引理1,我们知道 对所有 。自上有下界的 ,引理1意味着 当 ,我们有 这 从定义1,我们有 使用的假设2,我们得出结论 这意味着 。因此,通过假设3,完成证明。

4所示。数值实验

为了评估方法的计算效率,我们专注于提供一些数值结果的算法,用退火,并比较结果与DFU-PRP [4]。我们测试了算法通过一组示例。我们的算法停止如果终止条件 是满意的。所有的测试问题是来自[12),并使用MATLAB进行计算。

问题。问题8

问题b。问题26

问题c。问题39

问题d。问题40

问题e。61题

问题f。81题

问题 。111题

算法1优势参数 , , , , , , , ,和 。让的数量和功能评估迭代的数量为两个成本措施,提出的算法进行比较。此外,标志意味着的总数和梯度评估函数值的数量超过10000。

在这个表中,DFU-PRP的值方法是根据数值结果在附录表4]。很明显从表1退火算法显示比DFU-PRP算法更好的性能。

5。结论

在本文中,我们提出一个结合梯度算法和牛顿的方法求解非线性方程组。我们已经考虑了一个新的组合和不同于其他文学作品。数值结果表明,发达算法比其他类似的更有效。我们将这个算法扩展到信赖域方法在我们未来的研究。

数据可用性

没有数据被用来支持本研究。

的利益冲突

作者宣称没有利益冲突。

引用

1. m . Abdollahi a浮标,d . Abdollahi”提高杜鹃优化算法求解非线性方程组,”《华尔街日报》的超级计算,卷72,不。3、1246 - 1269年,2016页。视图:出版商的网站|谷歌学术搜索
2. y . Mo, h·刘,问:王,“共轭方向粒子群优化求解非线性方程组,”计算机和数学与应用程序卷,57号11 - 12,1877 - 1882年,2009页。视图:出版商的网站|谷歌学术搜索
3. 美国塔和m . Mammadov”解决非线性方程组使用一个全局收敛的优化算法,”全球技术和优化杂志》上,3卷,第138 - 132页,2012年。视图:谷歌学术搜索
4. d . Ataee Tarzanagh、p . Nazari和m . Reza Peyghami”一个非单调PRP共轭梯度法求解系统方程,广场,我要说“计算机和数学与应用程序,卷73,不。2、339 - 354年,2017页。视图:出版商的网站|谷歌学术搜索
5. 丹尼斯和r·b·施纳贝尔约束优化问题的数值方法和非线性方程新世纪,恩格尔伍德悬崖,新泽西,美国,1996年。
6. r·弗莱彻实用的优化方法新泽西州霍博肯市约翰·威利& Sons,美国,1987年。
7. y元,w .太阳,最优化理论和方法,科学出版社,北京,1997。
8. l . Grippo f . Lampariello, s . Lucidi“截断牛顿法和约束优化问题的非单调线搜索,“优化理论与应用》杂志上,60卷,不。3、401 - 419年,1989页。视图:出版商的网站|谷歌学术搜索
9. w .太阳、j .汉和j .太阳”解无约束优化问题的非单调下降方法的全局收敛性,”计算和应用数学杂志》上,卷146,不。1,第98 - 89页,2002。视图:出版商的网站|谷歌学术搜索
10. m . Reza Peyghami和d Ataee Tarzanagh”,轻松解决无约束最优化问题的非单调自适应信赖域方法,”计算优化和应用程序,卷61,不。2、321 - 341年,2015页。视图:出版商的网站|谷歌学术搜索
11. z Yu和d . Pu约束优化问题的一种新的非单调线搜索技术,”计算和应用数学杂志》上,卷219,不。1,第144 - 134页,2008。视图:出版商的网站|谷歌学术搜索
12. w .典当和k . Schittkowski“测试非线性规划的示例代码,”优化理论与应用》杂志上,30卷,不。1,第129 - 127页,1980。视图:出版商的网站|谷歌学术搜索

版权

版权©2021 Masoud Hatamian et al。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。