文摘

最近,这是证明了多任务进化算法(MTEA),新提出的算法,同时可以解决多个优化问题通过一个单一的运行,突破传统进化算法的局限性(EAs),具有良好的收敛性能和探索。作为一种新颖的算法,MTEA仍有很多未知的空间。一般来说,解决方案的顺序变量没有显著影响单一任务东亚峰会。据我们所知,的影响变量的顺序在多任务场景中没有被探索。填补这一研究空白,三个订单的变量在多任务场景中本文提出了包括完全相反的顺序,二分倒序,三等分相反的顺序。这些订单的一个重要特性的变量是一个个人可以恢复后两次改变变量的顺序。为了验证我们的想法,这些变量是嵌入MTEA的订单。实验结果显示,不同订单的变量的影响是普遍但不足够重要的实际应用。此外,任务与高相似度和高程度的交叉敏感的变量和任务之间得到很大的影响。

1。介绍

优化问题存在于各个领域的科学、工程和工业。在许多情况下,这类优化问题涉及各种决策变量、复杂结构目标,和各种形式的约束(1,2]。一般来说,传统的数学优化技术会遇到困难在解决实际优化问题的原始形式。灵感来自于“适者生存”的自然选择机制和法律遗传信息传输在生物进化的过程中,进化算法(EAs)提出了解决这类复杂优化问题。进化算法模拟物种繁殖的过程中通过程序迭代和认为要解决的问题是环境,通过自然进化寻求最优解。EA有许多优点比如强大、高效、灵活、可靠、进化算法的研究工作一直非常富有(3- - - - - -6]。因此,进化算法已被广泛用于实际的应用程序,包括电池健康诊断和管理(7- - - - - -10]。

进化算法的出现帮助解决许多棘手的现实问题,但仍有改进的余地。在实践中,现实问题很少是孤立的,但有些是相似或相关专业。因此,我们可以处理一些相似或互补问题在同一时间。进化计算作为一种新的范式,多任务进化算法(MTEA)是非常不同的从传统的进化算法,它利用经验(个人和全局最优指导)和选择压力智能解决简略或多目标问题(11]。EA是单基因遗传的生物学基础12,13]。相比之下,MTEA包含基因和文化之间协同进化的概念。直观地,多任务处理是相当于一个基因的环境。任务可以使用不同的基因进化的相似性信息,有利于自己的学习进化当多个任务同时进行优化。显然,知识来自过去的学习经验可以建设性地应用到更复杂的或看不见的任务。多任务优化(MTO)显著提高进化的效率优化的解决多个问题[11- - - - - -13]。MTO的过程中,迁移和基因多样性发挥重要作用当多个任务同时进行优化。相比之下,积极或消极的基因迁移演示的本质MTO [14]。在文献[13),MTEA用于解决多目标的实际应用问题。同时,MTEA具有良好的通用性,可以结合运营商有良好的进化算法的搜索能力。例如,经典进化算法和粒子群优化(PSO)可以结合MTEA [15]。

在传统的单一任务优化变量的顺序不那么重要影响解决方案过程(16- - - - - -18]。毫无疑问,选择压力的作用下,全球最佳解决方案最终将方法(12]。简略的优化和多目标优化问题的顺序变量并不明显发挥重要作用在东亚峰会。在某种意义上,新秩序的含义的变量为一个特殊的目标函数可以被认为是一个不同的目标函数具有相同的最优解的值。因此,它一直在有意无意忽略社区的进化算法和优化。相反,MTO问题的情况明显不同。在MTO,一个任务可以影响的优化过程优化过程和其他任务的结果。目前,变量的顺序对MTO尚未研究。记住这一点,我们将演示的效果变量顺序于单一任务和多任务的进化算法。

在实验部分,三种转换方法旨在探索质量的影响变量的顺序在多任务情况下的解决方案。实验表明,变量的顺序会影响多任务优化过程,以及影响的程度与任务之间的关联度,如任务相似和相同大小的任务之间的最优解。因此,实际影响并不显著。此外,实验还表明,这种影响是普遍的多任务的场景。

总之,当前工作的核心贡献是多方面的,概括如下。(1)解决方案的顺序的影响变量于单一任务优化问题和多任务优化问题分析了进化机制的观点。对单一任务的顺序变量没有影响进化算法而影响多任务进化算法。(2)提出了三个订单的变量,包括完整的倒序,二分倒序,三等分相反的顺序。这些订单的一个重要特性的变量是一个个人可以恢复后两次改变变量的顺序。(3)为了验证我们的想法,这些变量是嵌入MTEA的订单。实验结果显示,不同订单的变量的影响是普遍但不足够重要的实际应用。此外,任务与高相似度和高程度的交叉敏感的变量和任务之间得到很大的影响。

本文的其余部分组织如下。部分2简要概述的原始多因子的进化算法(MFEA)和介绍了基于multipopulation MTEA进化模型。此外,多因子的微分进化(MFDE)和相关作品MTEA也在这部分解释。节3,解决方案的顺序变量的影响于单一任务优化和多任务优化算法。此外,变量也在这里介绍的三个订单。接下来,我们进行了相关的实验来验证我们的猜想包括实验的设计思路和实验结果的讨论部分4。最后,部分5本文总结和期待未来的研究领域。

2。背景

2.1。多因子的进化算法

在实践中,许多不同程度的问题是相互关联的。换句话说,普遍的相似性问题是多任务优化的动机。的utilizability相似,多任务优化算法使解决多个问题同时成真。假设有K任务:T₁,T₂、…T_K。一个现实的任务可以用函数吗 ;在这里 。数学上,可以表示为一个多任务优化问题 。MFEA多个问题映射到一个统一的空间均匀随机密钥方案(13),每个个体在搜索空间有以下四个特点。

定义1。阶乘健身:阶乘成本表示客观健身或个体的价值在一个特定的任务 。每个人将会计算K的阶乘健身的基础上K任务。

定义2。阶乘排名:阶乘等级仅仅代表个人的指数人口列表中的成员是按升序排序对阶乘成本任务T_k。应该注意的是,在多目标多任务的过程中优化,计算因子排序根据非惯用的分类和拥挤距离。本文只关注简略多任务优化,因此这里不会说。

定义3。技术因素:阶乘等级的个人对应的任务最先进的指数因子排名的顺序。技能因素被认为是文化特征的计算等效。meme的原则计算,一个个体的文化特点可以传播到另一个地方。

定义4。标量健康:健康的个体通过计算 。
所示的算法1,它是假定K同时优化任务必须执行。首先,我们初始化N个体在搜索空间Y然后对初始种群流行通过计算阶乘的健康每个单独的在流行,在那里 。然后,我们计算的技术因素在人口据 。初始化后,在算法如第5行所示1迭代开始生产offspring-pop它包含N孩子们根据算法2。算法3用于为每个人分配技能因素。接下来,子女和父母形成合并transitional-pop哪有2 n个人,然后N选择最优的个体作为下一代新的人口。
传统遗传算法的交叉和变异操作应用,也用于多任务进化算法。此外,后代是如何产生的技能因素取决于父母和概率(随机交配rmp)。在详细描述算法2。直接使用交叉产生的后代将当父母双方有相同的技术因素。否则,要么通过交叉产生的后代将给定的随机交配概率或突变产生的后代当父母有不同技能的因素。的参数rmp允许跨文化不同任务之间的交配。一个更大的rmp意味着更多的知识交换之间的两个任务,一个更小的值表示相反。一个合适的rmp不能平衡彻底的扫描的小范围搜索空间探索的整个空间。与传统的进化算法,它不是直接生成后代后评估。后代一代后,技术因素是分配给后代的后代根据交配模式选择,这过程的详细算法3。

2.2。MTEA Multipopulation进化模型

不同于古典MFEA multipopulation多任务进化算法不再采用一个种群初始化K亚种群的数量根据任务。个人在一个族群进化为一个特定的任务在整个优化过程(19]。

图1演示了一个multipopulation优化模型有两个优化任务。很明显,任务1和任务2有自己的群体。图中的虚线1表示可能的场景。在生育选择,父母可能来自同一特定于任务的子组或其他团体。通过这种方式,可以提高知识共享和优化效率在繁殖。multipopulation进化模型的一个核心功能是交叉或变异算子被认为帮助交换信息和协助找到有前途的解决方案。

另一个重要特性是,亲代和子代个体必须属于同一分组人口和发展在同一个程序。的好处之一是尽可能保持人口稳定。最后的优化,优化解决方案的程序对应的任务是解决。

应该注意,interpopulation交叉概率(icp)MTEA控制不同任务之间知识转移的密度是不同的rmp在MFEA。参数icp在MTEA直接控制任务之间的知识转移,而rmp用于控制知识共享当父母在MFEA技能因素。

2.3。微分进化和多因子的微分进化

随机东亚峰会的一个分支,差分进化(DE)最初在1995年提出的价格和Storn [20.)已被证明是一种有效的、健壮的、可靠的全球优化器。德本身有别于其他东亚峰会与个人的焦点是变异和交叉。德产生新的候选解决方案组件基于加权人口区别两个随机选择的个体被添加到第三个人。原始DE,变异、交叉和选择的三个关键组件DE描述如下。

变异操作使德探索搜索空间并保持多样性。在[21),5个突变策略已经被普遍使用,详细给出如下: 在哪里表示变异向量对每个人在一代 ,D是问题的维数,r1,r2,r3,r4,r5是随机和互斥选择整数区间[1,D),F是控制的比例因子的振幅差异向量,然后呢给最好的个人发现到目前为止的一代 。

交叉算子的目标是构建试验结合当前向量和向量的突变。DE算法的家庭雇佣了两个交叉方案:指数交叉和二项交叉。二项式交叉利用摘要,下面简要讨论。在二项交叉,试验向量 定义如下: 在CR∈[0, 1]是预定义的交叉率,兰德是一个随机数在[0,1],然后呢 是一个随机选择的索引用于确保至少有一个维度的试验向量是改变。

交叉后,一个贪婪的选择机制用于选择父向量之间的更好的和试验向量根据他们的健身价值如下所述。

在最近的研究中,MTO与微分进化进行了,名叫多因子的微分进化(MFDE)。MFDE类似于经典MFEA过程,除了孩子的操作生产。的选型交配MFDE生产孩子了算法4。首先,在第一代,生成一个随机数在[0,1]。然后,如果任意数量小于rmp,两种解决方案和有不同技能的因素将随机选择生成新的解决方案吗 。 是一个随机选择的解决方案,分享共同的技能因素 。否则,将生成的原始吗德/兰德/ 1策略。

2.4。相关作品MTEA

MFEA于2016年首次提出以来,多任务处理EA的研究已经引起了人们广泛的关注。作为一个通用的框架,多任务处理EA可以以多种方式实现(22]。目前,这个社区的主要研究方向是算法框架,改进算法,典型的应用程序。目前,该算法框架主要分为两个框架,一个是基于动态子组,多任务优化算法框架和定向优化任务的个人人口将不断改变整个优化过程中23]。另一个是个体的人口将直接分配任务根据优化任务的数量和分配的任务在整个优化过程。实验结果表明,多任务进化算法基于multipopulation也是非常有利的22,24- - - - - -26]。

提出了很多改进的多任务优化算法(27- - - - - -30.]。一般来说,知识转移的操作在不同的任务之间有一个重要的对算法性能的影响(31日]。迁移模式和频率是多任务优化研究的方向。多任务进化算法还可以与其它进化算法相结合来吸收其他东亚峰会的优点。例如,微分进化和粒子群优化结合MTEA和可以执行比MFEA [32- - - - - -34]。此外,改进的交叉算子和搜索机制可以结合MTEA偏见来提高算法的性能(35]。同时,机器学习的概念可以很好地结合多任务优化(36,37]。

多任务优化算法不仅在理论上被证明是可行的(38),但也显示出良好的实际问题的效率。多任务处理算法可以用来解决复杂工程设计和昂贵的优化问题。在文献中,存在很多的作品MTEA应用于解决现实问题,如车辆路径问题(39- - - - - -42),光伏系统的优化和控制(43),上下两层的优化问题(44)、复杂供应链网络管理(45),双极平衡问题(46),和复合制造问题47]。

3所示。变量的顺序优化问题

3.1。单一任务优化进化模型

我们简略优化问题为例,研究变量的顺序的影响。一般来说,可以制定为一个优化问题 受 在哪里和分别是等式约束和不等式约束。

当变量的顺序的候选方案x改变,新的解决方案吗可以发现作为一个个体的其他功能吗 。值得注意的是两个函数有相同的搜索空间和最优解(坐标变换后)。例如,如图2, 和 两个人的功能吗 。改变他们的顺序变量后, 和 两个人的功能吗 。很明显,他们有相同的函数值,分别。

更重要的是,如图2,无论什么遗传机制(交叉、变异等)对于给定的进化算法,涉及他们的后代是相同的由于相同的输入给定的遗传机制。从这,我们可以讨论秩序单一任务优化的效果。我们没有理由怀疑,尽管变量的顺序的变化是相当转换的目标函数在单任务操作优化的情况下,几乎没有变化,优化问题本身。实际上,任何进化算法得到的优化结果将不会通过改变变量的顺序的影响。

3.2。多任务优化问题

数学上,多任务优化问题可以定义如下: 在哪里 代表了kth优化与搜索空间的任务X_k和 解决方案空间是一个可行的解决方案,在吗D_k搜索空间的维度X_k。

在一个多任务优化问题,改变变量的顺序的影响不再是无关紧要的。在分析之前,我们需要解释order-dependent函数和order-independent函数的概念。根据变量的作用顺序,优化功能可以分为两类:order-independent函数和order-dependent函数。order-independent函数,变量的顺序并不影响目标函数的特殊形式。例如,对于球面函数 ,无论多么的顺序变量发生变化时,目标函数保持不变。因此,它不能影响任何多任务优化算法的性能,包括MFEA。相应地,变量的顺序会影响order-dependent功能,如函数。 。

在这里,我们用一个简单的例子来进一步理解变量变化对多任务。如图3,我们将2-task优化为例,进一步研究变量的顺序的影响。两个目标函数 和 。明确,两个函数可以改变他们的顺序变量以同样的方式。然而,这是一个微不足道的,不感兴趣的。因此,只有变量的顺序的第一个函数f₁(x)改变在接下来的讨论。注意变量的顺序会影响两个函数和选择第一个函数改变秩序的变量。

一般来说,对于任何多任务优化算法,两位家长候选人将接受intrapopulation和interpopulation生殖过程,如在MFEA交叉。基于分析部分3所示。1人口的个人经历intragenetic机制时,他们会产生相同的后代即使改变变量的顺序。与此同时,这些人可能接受intergenetic机制。在这种情况下,两位家长候选人来自不同人群。如图3,两个人和接受inter-crossover在最初的情况下,和两个人和接受inter-crossover后改变变量的顺序。由于改变了第一个目标函数的变量 ,他们会产生不同的后代,如虚线①与⑤,②与⑥,③与⑦,④与⑧图3。因此,很明显,①和⑤有丰富的机会产生不同的后代通过交叉变异算子。同样的一个适用于其他三个对照组。因此,改变变量的顺序在多任务的情况下分析了产生实际影响的优化过程。

3.3。三个订单的变量

在本文中,我们的目的是研究的影响的解决方案在多任务优化变量。正如我们之前分析的,变量的顺序使原始功能成为一个新的,所以解决订单转换影响优化过程。在我们的工作中,我们设计和研究变量的三个订单。他们被定义为方程(7)- (9)。第一顺序命名完全相反的顺序,所有变量的函数在相反的顺序编码。同样,二分/三等分相反的顺序,所有的变量分为两/三个部分均匀然后编码在每一部分的倒序。

这些变量转换的有两个优点。一方面,这些订单的重要特征的变量是一个个人可以恢复后两次改变变量的顺序。让 是一个任意点D维空间;数学上,x=皮毛(皮毛(x)),x=出生(出生(x)),x=TrR(TrR(x))。另一方面,转换的复杂性的增量式设计解决方案可以为学习奠定基础的影响解决方案的复杂性顺序对优化过程的转换,方便分析。具体来说,输出相应的变换顺序的解决方案可以通过上述三个方程。

在这里,我们需要做一个小的区别我们的设计转换策略变量顺序和策略(48]。首先,应用场景是不同的。文献[48)是对单个任务的多目标问题,但我们的工作主要集中在多个任务。其次,在48),它所研究的变量选择和优先级选择原则对收敛的影响不同的原则学习期间innovization [49)涉及不同数量的变量或不同的规则涉及相同的变量。变量相关的目标策略(48)是探索如何维维修和维修规则结合起来可以提高算法收敛在最大的程度上在多目标环境中。然而,在这篇文章中,三个变量顺序改变策略旨在探索整个多任务优化过程的敏感性不同变量的订单,和变量不是动态的变化。显然,这三种策略并不是为了提高MTEA的收敛性能。

4所示。实验结果和讨论

4.1。实验设置

本文采用的基本算法是multipopulation MFEA突出解决方案的直接影响秩序的多任务的场景。为了消除随机性个人生成的初始种子随机函数设置为一个固定值,以便它可以提供相同的个人设置。换句话说,固定使用一个给定的算法获得的结果是。此外,MFDE也用于验证变量的影响订单的普遍性。

七个常用优化功能是用作9合成MTO问题的组件。其中,两个函数(。海涅和Griewank)是order-dependent函数影响的四个MTO问题。这些问题可分为三类:完整的十字路口(CI),部分路口(PI),没有十字路口(NI)。此外,基于健身景观之间的相似性,它们也可以被分为三组:高相似度(HS),中相似(MS)和低相似性(LS)。关于这些基准问题的更多细节,可以参考技术报告(11]。实验方便、任务1和任务2在第五任务组交换,这样所有任务组的第一个任务是依赖于序列的功能。

列出了所有参数设置如下:(1)人口规模:N_p= 100(2)最大数量的功能评估:MaxF = 10⁵(3)参数设置在MFDE(我)微分放大系数:F= 0.5(2)交叉概率:CR = 0.9(3)随机交配概率:rmp= 1.0(4)参数设置在MFEA(我)指数模拟二进制交叉:μ= 2(2)指数多项式变异:妈妈= 5(3)突变的概率:p_米= 1(iv)Interpopulation交叉概率:icp= 1.0

有人指出,为了减少随机性质的影响在每个指标衡量,报告的结果是平均50岁以上的试验。最后,本文给出的实证研究进行下Windows10使用电脑2.4 GHz Intel Corei5处理器和4 GB RAM。

4.2。参数敏感性分析

为了测试的有效性interpopulation交叉概率,一套实验简略多任务处理基准问题进行这部分。首先,参数的重要性icp在多任务情况进行了分析。之后,实证结果的分析和讨论。

的过程中同时优化多个任务,任务之间的相似性和互补性发挥重要作用[4]。任务之间的高相似性往往以一种积极的方式相互影响,而互补帮助任务跳过不必要的搜索。在多因子的优化算法基于multipopulation,种群之间的交叉概率控制多个任务之间知识转移的影响。交叉概率越接近于1,相互影响会越大。相反,种群之间的交叉概率越小,越小之间的交互任务。

当任务组之间的相似性较低,高概率的interpopulation交叉将优化结果适得其反。当然,高相似性和icp不一定是有利于问题的优化。例如,当一个优化问题分为局部优化,其他任务也可能陷入局部优化。

在本文中,我们设置的值icp作为一个线性增量的影响探讨icpMFEA。应该注意的是,设置intrapopulation交叉概率为0.5,实验。表1显示的性能MFEA各种不同人群之间的概率。最好的结果以粗体显示。可以看出,在完全相交多任务组,最优结果总是同时发生在同一人口交叉概率,表明一个更大的icp加强之间的交互任务。然而,结果不理想时实现良好的性能参数icp达到最大。

其原因可能是一个问题多任务组似乎停滞,从而影响其他任务的优化过程。另一方面,在多任务情况下,优化问题组不相交,任务之间的影响是相反的,该算法性能更好,种群之间的任意交配率相对较低。因此,为了提高多任务优化变量的影响秩序,我们设置了种群之间的交叉概率为1在接下来的实验。

4.3。比较三个订单的变量

在本节中,实证研究进行比较的解决方案质量MFEA有三个订单的变量。,并给出了实验结果和讨论。随后,我们取得了一个合适的实验结果的原因分析。

MFEA获得的最优解在9简略MFO基准问题总结在表2,相应的标准差也用括号中所给,和Wilcoxon采用秩和检验在5%的显著性水平。T1和T2表示中包含的两个任务MTO基准。不足为奇的是,我们可以看到从表2MFEA算法不同变量的订单可以获得不同的最优解,但这些最优解决方案之间的差距非常小。总共18优化问题,第三变量的顺序执行比其他的七倍。第一和第二的三到五次,做得更好。然而,获得的结果之间的差异,不同的变量不是常规的订单。这三个订单可以获得更好的结果,但是在三阶频率相对较高。出于某种原因,变量的复杂性影响优化算法。的复杂性和多任务处理算法是敏感的顺序变量。

令人惊讶的是,另一方面,在实践中对算法性能的影响不显著。一些可能的原因包括以下。(1)从本质上讲,改变后的最优解是固定的顺序变量。这意味着不同变量的算法的订单可以在同一个方向发展。(2)在操作层面,在一代across-population交叉执行时,不同的顺序的后代的策略变量是非常相似的,因为他们的父母来自个人定位。

数据4- - - - - -12显示多任务问题的收敛块9组不同变量下订单。原始顺序意味着没有变化的变量,和order1 order2,和order3表明完全相反的顺序,二分相反的顺序,分别和三等分相反的顺序。从数据可以看出4- - - - - -12这三个变量的收敛曲线命令是一致的。和的顺序变量没有显著影响算法的收敛性。随着世代的增加,算法的收敛性几乎是一样的,没有变化的变量。一代的进化后,健身价值问题的不同变量的顺序是一样的。只有在PI + LS,收敛的顺序不同的变量在后期有明显的区别。这可能是因为PI + LS分类任务间相似度低。

4.4。普遍性的影响变量

为了进一步验证的普遍效应变量顺序,我们给MFDE算法的性能与三个不同的变量的命令。介绍了相关实验参数对MFDE节4.1。总结了九个简略MTO基准业绩表3的收敛MFDE见数据13- - - - - -21。

从实验结果可以看出,变量的影响秩序MFDE MFEA相似。相关的实验数据如表所示3最优值,括号内的平均值,Wilcoxon等级和测试在5%的显著性水平。值得注意的是,MFDE算法不同变量的订单也可以得到不同的结果,但不同的结果之间的差异很小。在总18优化任务,第三个变量顺序执行比其他订单的四倍。第一和第二类别比其他三次,分别。总的来说,第三个变量顺序有优于其他两个,这是符合MFEA算法的性能。此外,对算法性能的影响也不显著。MFDE算法,收敛曲线趋势没有明显区别不同变量下订单。只有在CI + LS和π+ LS,不同变量的收敛阶显示显著差异在以后的阶段,这是多任务组本身的相似度密切相关。不同变量的影响订单MFDE和MFEA相似。多任务优化变量的影响秩序由于变化不明显的变化多任务处理算法的框架。

5。结论

在本文中,我们调查的影响变量的顺序算法解决多任务时的性能优化问题。前后两个个体之间的相应关系变化的顺序单任务操作变量优化问题和MTO问题进行了分析,分别。当一个优化函数的变量的顺序发生了变化,不同的后代将生成的MTO问题。因此,我们设计和研究三个订单的变量,即完全相反的顺序,对分倒序,三等分相反的顺序。这些订单的一个重要特性的变量是一个个人可以恢复后两次两次改变变量的顺序。

实验结果表明,该变量的顺序对MFEA算法在实践中并不重要的所有MTO问题。记住这一点,我们分析优化结果的差异不同变量之间的订单在不同演化阶段。我们发现该算法收敛,因为变量的顺序变化不明显。为了进一步证明,我们也进行了相同的顺序变化对MFDE,与MFEA和获得的结果基本上是一致的。然而,MTO与高度的相似性和十字路口是更容易受到变量顺序和更敏感复杂的变量。

对于未来的工作,我们想进一步研究变量的顺序的影响在其他情况下,最优解的位置和多任务处理等优化问题包含两个以上的问题。

数据可用性

使用的数据来支持本研究的发现可以从相应的作者。

的利益冲突

作者宣称没有利益冲突。

确认

本研究部分由中国国家自然科学基金批准号。61773314和61773314下,下的陕西省自然科学基础研究项目批准号。2019 jz-11和2020 - jm - 709,和科学研究基金会资助下的国防科技大学。ZK18-03-43。