基于多任务协同的粒子群聚类优化算法
2021-09-09颜志鹏
现代计算机 2021年19期
关键词:优化
颜志鹏
(广东工业大学计算机学院,广州 510006)
0 引言
多任务学习(Multi-Task Learning)[1-2]是机器学习,特别是迁移学习中的一个子领域。多任务优化(Multi-Task Optimization)[3-5]应用多任务学习优化,以研究如何有效地同时解决多个优化问题。在多任务学习中,多个相关学习任务使用(部分)共享的模型表示并同时进行训练。子问题之间也是相互关联的,通过一些共享因素实现知识迁移从而有效促进单个任务的学习效率和泛化能力。
多任务优化和多目标优化[6-7]之间有相似的地方,但存在根本性的差异。多任务优化的目的是利用种群间个体在多个不同任务之间同时搜索各个目标值对应的最优值,利用潜在的遗传互补性实现互相之间的迁移学习;多目标优化则试图解决同一个任务下竞争目标之间的冲突,寻找帕累托前沿上所有的解[8]。如图1的最小值优化问题,在多目标优化中,P2、P3、P4和P5组成了帕累托前沿,它们被认为是当前解集合中互不支配的最优解;而在多任务进化中,P1、P2、P5和P6组成了最优解,因为这些解都各自有一个目标值达到了最小值。

图1 动态演示程序界面
多任务优化最早用于进化算法中的是多任务进化算法(Evolutionary Multi-Tasking)[9],它将多任务学习的方法结合进化算法来解决各类优化问题。Gupta等人[9]提出了多因子进化算法MFEA(Multi-Factorial Evolution Algorithm),在测试了多因子进化算法效果后验证了多因子进化算法的有效性,证明新算法比单一目标优化更快收敛,更容易找到全局最优值。多因子进化后来得到了发展,不断有学者改进算法,也衍生出了更多新算法。……
登录APP查看全文
