文摘

粒子群优化(PSO)是一种广泛使用的优化算法,然而遭受被困在局部最优和过早收敛。许多研究已经提出了解决上述缺点的改进。他们中的大多数已经实施了一个策略,一个问题或一个固定的社区结构在整个搜索过程。进一步提高算法的性能,我们介绍了一个简单而有效的方法,为自适应粒子群优化高斯摄动和突变(AGMPSO)组成的三个策略。高斯摄动和突变结合促进勘探和开发能力,同时介绍了自适应策略确保前两种策略的动态实现,保证搜索的平衡能力和精度。比较实验提出AGMPSO和现有算法变异在解决29 2017年CEC基准函数测试套件表明,尽管简单架构,提出AGMPSO获得收敛精度高和重要的鲁棒性进行证明的Wilcoxon的排名和测试。

1。介绍

粒子群优化(PSO)是一种进化计算技术进行肯尼迪和埃伯哈特在1995年提出的(1),来自捕食和其他行为的模拟鸟群和鱼群。每个优化问题的解的算法类似于“粒子”在搜索空间。粒子群算法随机生成一个初始种群,给每个粒子随机速度。在优化过程中,粒子调整速度和轨迹根据自己和同伴的经验,所以整个游包含飞到一个更好的搜索区域的能力。涉及几个参数和容易实现,算法已广泛应用于许多领域,如函数优化、神经网络训练,模糊系统控制、模式识别,工程应用。然而,PSO算法仍然有问题,如过早,轻松解决复杂多峰问题时陷入局部最优。为了提高粒子群优化的解决能力,研究者提出的方法,如调整粒子群算法的惯性参数,包括动态策略和自适应方法,学习因素,社会因素(2),一个社区搜索策略来加强社区的探索当前的人口(3),采用信息共享机制,提高人口的多样性,避免算法过早收敛(4),与其他算法集成,如结合粒子群优化算法和免疫算法,遗传算法,人工蜂群算法(5]。

提出了各种改进的方法来解决算法存在的问题。动态调整惯性权重和速度参数通过粒子群收敛加快收敛速度和平衡状态的全局搜索和局部搜索能力6]。Alatas et al。7)提出了一个战略学习以外的优秀个体最优粒子适应高维问题的解决方案。赵et al。8]介绍了生物学原则给粒子multi-crossover和群殖民行为的能力。梁等。9)实现社区发展战略以提高算法的搜索能力。陈等人。10]杠杆所有其他粒子的最优信息来更新粒子的速度在不同的维度。粒子群算法与生命周期和挑战性行为提出了保持粒子的活动在粒子群的进化,这有利于全球范围搜索(11]。弗兰斯和Engelbrecht12)把混乱到粒子运动的过程,所以,混乱和之间的粒子群交替动作稳定,逐渐接近最好的点。田(13)初始化粒子群混乱的方式,以确保可以将粒子群均匀分布在解空间,实现更好的全局搜索能力。杜et al。14]和Munlin Anantathanavit [15)提出了使用多个方法实现粒子的进化来提高算法的搜索能力。Kiran [16)提高了效率与新的进化算法的进化机制。它提高了算法的计算速度,特别是在解决多峰问题的优势。

这些方法在一定程度上提高算法的性能,但仍有许多缺陷,如高复杂性在建筑和低收敛速度。的解决方案,如自适应、扰动和突变,将解决这些问题。

旨在实现算法的突出性能,介绍了自适应策略动态更新算法的参数在先前的研究中,例如,惯性权重17- - - - - -21),速度和位置(22,23),而ω,c1,c2每个粒子的5,24]。王等人。25程)和李和et al。26]介绍了混合自适应策略调整参数以平衡搜索和收敛功能。除了自适应更新参数,提出了更复杂的自适应策略。粒子的随机检测的变化的基础上 值(27]。以自适应维护群体的社会归因,活性粒子起飞是基于健身之间当前粒子的多样性和最好的历史经验28]。

为了促进粒子跳出局部最优进一步提高全局搜索能力,引入了多个扰动策略。一个混乱的扰动被纳入PSO算法,提高了粒子的多样性(29日]。Mahmoodabadi et al。30.)利用柯西扰动和反向学习加快粒子群收敛和逃离局部最优解。王等人。31日)提出了非均匀变异和多级微扰的粒子,这扰乱在不同演化阶段的最优解,从而增加群体多样性和增加的概率跳出当地极端点。

增加活力和多样性的粒子,变异策略已经在许多优化算法的实现。Pehlivanoglu [32)随机突变策略应用到全球多样性和本地控制的多样性。突变后的不受欢迎的粒子取代战略,加快收敛速度(33]。大规模基因突变和小规模的突变进行防止过早收敛,同时保证收敛速度(34]。

与之前的研究相比之下,我们提出了一种自适应原则根据摄动和突变进行平衡收敛精度和速度。总结我们的主要贡献如下:(1)一种自适应调整规则是包含余弦定律后,为了使粒子的干扰较大的振幅来改善粒子的全局搜索能力在早期阶段和一个更小的振幅来提高收敛精度。(2)自适应策略后,高斯摄动是合并泵最优粒子跳出局部最优。(3)相同,根据自适应策略,实现突变来改善粒子的多样性,停滞不前进化和遗传和变异的比例平衡,确保人们的搜索能力。

2。自适应变异粒子群优化算法和高斯摄动

2.1。基本粒子群优化

算法首先初始化一个群。群中的一个粒子代表每个搜索空间的一个解决方案,每个粒子都有两个参数:位置和速度。假设当前的群体的大小P(t)是N、位置和速度的我th粒子群的表示为 和 ,在哪里 问题的维度和吗 是一个进化代数。粒子是由先前设计适应度函数评价。粒子 通过群最优更新它的速度和位置 和个体历史最优 在迭代的过程。方程更新粒子的速度和位置如下: 在哪里 是粒子的惯性权重,这决定了粒子的影响程度的先前的速度对当前速度, 是粒子自我认知学习系数, 是社会认知学习系数, 和 0到1之间的随机数。

2.2。任务定义

随着迭代次数的增加在标准PSO算法中,粒子将逐渐接近最优解,进化速度和群多样性将逐渐减少。一旦最优粒子陷入局部最优,它很难逃脱。为了解决这个问题,我们将高斯摄动和变异策略的阈值stop_num设置定义粒子是否在进化停滞状态。自适应性的一个粒子不再发展,记录连续倍标签,即的时代我- - - - - -th粒子标记(我)和《纽约时报》 作为 。如果 ≥stop_num,这意味着人口的发展停滞不前,应用高斯摄动泵种群跳出局部最优。如果标签(我)≥stop_num,这意味着这个粒子的进化停滞不前,而突变进行更新粒子。扰动或突变进行后,提出自适应策略,保证搜索的平衡能力和精度。AGMPSO如图的过程1。


图1
AGMPSO流程图。
2.2.1。自适应策略

在许多先前的研究,干涉PSO的振幅参数保持不变在迭代期间,这并不有利于后期的收敛。旨在达到PSO的理想状态,需要一个更大的干扰振幅在迭代初期阶段,以确保更好的全局搜索能力,和一个小的迭代后期阶段保证收敛。因此,动态自适应策略是必要的。在这项研究中,我们将介绍电脑的概率自适应地改变余弦定律后,随着迭代的增加,和方程如下: 在哪里t目前进化迭代,个人电脑(t(如图)2)的概率是应用高斯摄动或突变t迭代,c3自适应系数,Max_Gen迭代的最大数量。


图2
概率的曲线个人电脑在整个迭代。
2.2.2。高斯摄动的策略

采用高斯摄动的粒子 ,在进化停滞状态,改善跳出局部最优的能力。为了确保每个维度的 有一个逃离局部最优的可能性,每个维度 的 更新高斯摄动的概率个人电脑(t),它引导扰动进行自适应,以确保更好的逃离局部最优的能力在早期阶段,还在后期更好的收敛能力。

除了阶段调整算法,通过自适应方差δ,高斯摄动策略能够适应提出了PSO算法根据其价值不同的功能空间(见方程(4)。

当粒子的进化 停滞不前, ≥stop_num,扰动实现如下: 在哪里 是一个0到1之间的随机数, 的最优粒子吗d -th维度, 的自适应方差是吗d -维度。

2.2.3。突变策略

突变的策略是利用改进算法的粒子多样性和平衡突变的比例和继承,确保收敛。类似于高斯摄动策略,变异策略能够适应我们的算法不同的功能如下: 在哪里 是一种自适应变异系数, 是一个0到1之间的随机数, 的自适应变异程度吗d -维度。

当粒子落入进化停滞,变异算子引入部分维度在速度更新方程(6),这增加了多样性的人口摆脱的束缚 粒子,尤其是提高搜索能力较低的粒子由于附近的收敛速度 ,并促进粒子的利用率。自维 的粒子的概率也使用 算法的变异,变异范围的粒子很大在最初的时期,这是有利于全球搜索。在后期,变异范围和继承比例很小,这是有利于算法收敛。

2.2.4。算法复杂性分析

标准的粒子群算法的计算成本包括初始化O (锰)、健身评价O (锰),速度和位置更新O (2锰)(米和n群的大小和尺寸,分别)。因此,算法的时间复杂度是O (锰)。与标准PSO相比,AMGPSO涉及两个运营商。然而,高斯摄动运营商O (n)或变异算子O (锰)需要进行单独只有当全球最佳位置停滞不前,或几个迭代内个人的最佳位置是停滞不前的。AGMPSO的最坏时间复杂度是O (锰),包括初始化O (锰),评价O (锰+n),并更新O (2 mn+锰)。上述结论可以从组件复杂性分析;AGMPSO包含相同级别的标准PSO算法时间复杂度。

3所示。实验和讨论

3.1。算法聚合程度分析

PSO的理想状态是,在早期阶段,粒子可以更散乱地探索解空间,但在后期,他们就能更好地聚合获得更高的收敛精度。我们引入一个聚合程度分析的收敛状态标准PSO和AGMPSO。当粒子健身组平均值偏差较大,粒子聚合度 较大,粒子多样性是更好,该算法搜索能力更强。聚合度 的t -th代粒子表示如下: 在哪里 的平均健身价值吗t -th代粒子, 是最大的健身价值t -th代粒子 的最低的健身价值吗t -一代粒子。

图3之间的聚合程度显示了比较标准PSO和AGMPSO而解决Rastrigin函数。(A)和(B)的聚合曲线标准PSO和3500年AGMPSO迭代,和(C)和(D)放大截图过去20迭代。可以看出标准PSO持有较高的粒子聚合甚至在以后的迭代中,这表明高多样性,也就是说,可怜的收敛。值得注意的是,聚合度仍然是一个高水平,这意味着群不收敛于一个令人满意的程度,直到结束。相反,AGMPSO可以保持更高的多样性在早期和较低的多样性在后期,既保证了全局搜索能力和收敛。

(一)
(一)
(b)
(b)
(c)
(c)
(d)
(d)
图3
聚合程度的标准PSO和AGMPSO解决Rastrigin函数。
3.2。与PSO变体

为了评估算法的性能,比较实验与PSO AGMPSO, TSLPSO, HFPSO,和MPEPSO进行在本节中,列出了每个算法和参数表1。所有实验进行Windows 10系统下,8核处理器(Intel (R) (TM)核心i7 - 10700 k的CPU @ 3.80 GHz),使用MATLAB R2018a 16 g内存。

表1
所有的参数比较竞争对手。
3.2.1之上。基准测试函数

CEC 201738]介绍了测试套件在实验中,包括29日基准功能分为四类:单峰函数,简单的多峰函数、混合功能,组成功能。基于2017年CEC的定义描述测试套装,F2被排除在外,因为它不稳定行为尤其是在更高的维度。

两个执行一系列的实验,每个系列的每个测试函数的尺寸是10和30,分别数量是30,每个算法每个基准测试函数运行30独立运行。根据2017年的定义CEC测试服,每次运行的停止条件的最大数量评估函数(maxf)达到10000 D, maxf = 100000 10 D, maxf = 300000 30 D。表2显示了搜索范围和基准测试函数的全局最优。

表2
描述CEC2017基准函数的测试。
3.2.2。比较基准测试函数的仿真结果

平均值的比较结果(平均),标准偏差(std), Wilcoxon等级和测试(hPSO相比)产生的所有变体在十维表示在表进行功能测试3和30-dimensional表4被标记为粗体,最优结果。计算时间的比较结果每次运行数据4和5。

表3
比较性能AGMPSO与PSO、TSLPSO HFPSO和MPEPSO CEC 2017基准函数(10 d)。
表4
比较性能AGMPSO与PSO、TSLPSO HFPSO和MPEPSO CEC 2017基准函数(30天)。
(一)
(一)
(b)
(b)
图4
比较算法的平均计算时间基准函数(10 d)。
(一)
(一)
(b)
(b)
图5
比较算法的平均计算时间基准函数(30天)。

如表所示3,AGMPSO执行对单峰函数,尤其是获得最优的意思是健身价值F3,尽管TSLPSO在F3的相同的结果。在解决多峰函数从F10 F4, AGMPSO有优越的优势,实现更好的结果在5个7的功能。然而,AGMPSO并不获得优势解决混合函数(F11-F20)和HFPSO算法一样的成就:4的。还值得注意的是,AGMPSO的标准差小于HFPSO,这表明更稳定。复合函数(F21-F30) AGMPSO算法完全反映了更好的搜索全局最优的能力6测试函数,与其他竞争对手相比。一般来说,AGMPSO最高排名14日所有功能。虽然对F3, F28 F29,该算法不包含统计上显著的优势,它的意思是健身值等于赢得的算法,这使得AGMPSO第二个等级对上述功能。

30-dimensional实验表4的结果,由于迭代大大增加,所有算法都在不同程度上改善。AGMPSO F3和F20达到最优的意思是健身价值。得到相同的性能在十维单峰实验和多峰函数,得到7 10个最佳效果的混合功能,和6的组成功能最好的结果。一般来说,AGMPSO优于同行的19个指标函数。

简而言之,AGMPSO最高排名在十维和30-dimensional实验。

AGMPSO不同基准函数的标准差通常小于比较算法变异,这表明更好的鲁棒性算法。

旨在分析计算效率的同龄人相比,平均计算时间为每个算法运行所有基准函数描述了数据4和5。它可以得出结论,AGMPSO消耗计算开销低于同行,优势也明显当迭代增加如图5。值得注意的是,尽管共享相同的标准算法时间复杂度,AGMPSO的时间消耗显著降低,表明计算效率越高。

总之,优秀的结果AGMPSO的平均计算时间和健身价值证明我们的算法获得比同行更高的搜索精度和收敛速度,同时,由于重要的健壮。

3.2.3。Wilcoxon的排名和测试结果

Wilcoxon秩和检验的显著性水平α= 0.05执行AGMPSO之间的排名和其他PSO变异分析他们的统计学意义。表3和4Wilcoxon等级和测试的结果列在健身的所有29个函数值。在这两个表, 值(+ /−/∼)表明,AGMPSO执行更好,明显恶化,或者比它的竞争者不具有统计学意义。

可以观察到的结果,AGMPSO明显优于PSO相比变体在大多数的测试功能。与TSLPSO AGMPSO得到相同的平均值,标准PSO和HFPSO十维F3, F28,和F29, TSLPSO 30-dimensional F3。然而,从等级和测试结果,AGMPSO执行上面明显比同行差功能。尽管该算法没有获得优越的这些功能,它仍然需要第二等级意味着健身价值在每个函数,和不同的是轻微的。

3.2.4。收敛过程

为了观察所有同行算法的收敛速度,比较算法的收敛过程随机运行基准10个维度描述数据的函数6和7。


图6
F1-F16比较算法的收敛曲线。

图7
F17-F30比较算法的收敛曲线。

在图6AGMPSO不显示,快速收敛的特点在F1、F3初期由于提议的强大的粒子多样性产生了变异策略;与此同时,解决方案精度高是通过我们的算法后期收敛阶段。

从F10 F4,我们可以观察到其他比较算法陷入局部最小值在不同的程度上,虽然AGMPSO达到良好的性能在所有多通道功能。然而,值得注意的是提出的自适应策略的效果不是很明显在F4, F6,和F9,这可能会导致较低的多样性在早期和找不到全球最佳状态。这是证明了F6的结果表3。

表演的F11 F20,快速收敛的类似的问题在初期可以观察到在F11 F14, F15。此外,F18 AGMPSO未能达到令人满意的结果。尽管4杰出成就和改善30-dimensional实验结果,由于在早期阶段快速收敛速度,算法在解决混合函数的勘探能力应该被提升。

中给出的结果F21 + 30描绘,剥削AGMPSO能力高于大多数同行。逐渐收敛过程F21、F24 F26, F28, + 30可以看到,反映了勘探开发的平衡我们的算法。

有意识的总结可以得出,AGMPSO执行的大部分功能。与此同时,该算法没有得到满意的表演混合功能,所以做其他PSO的变异,这表明在解决这些函数改进的余地。原来从30-dimensional比较结果,尽管低效率,增加迭代的数量可以是一个改进的洞察力值得讨论。

与其他竞争对手相比之下,一个相对缓慢而渐进收敛曲线提出了解决许多功能,它描绘了算法的意图的发现更有前途的解决方案。

4所示。结论

自适应粒子群优化具有高斯摄动和变异提出了解决现有标准PSO的缺点。为了防止捕捉到局部最优,实现高斯摄动全球最适条件,进一步提高开发能力。的nonoptimal粒子落入进化停滞,突变是杠杆促进粒子的多样性和利用率提高勘探的能力。同时,自适应策略调节高斯摄动的干扰水平和变异在不同演化阶段为了平衡搜索能力和精度。聚合分析的视觉效果验证这一动态过程。CEC 2017的性能基准测试函数测试适合体现AGMPSO大大优于其竞争对手的搜索精度,可靠性,搜索和搜索效率。

在未来的工作,考虑到强大的粒子群算法的全局搜索能力,可以考虑优化拓扑中,神经网络的连接权值和阈值或合并与局部优化算法的全局优化能力摘要提高泛化能力和神经网络的学习性能。

数据可用性

没有数据被用来支持本研究。

的利益冲突

作者宣称没有利益冲突有关的出版。

确认

这项工作得到了国家自然科学基金资助下71371181和71371181的研究基金会授予BSZA2019003下西安外国语大学。