本文已参与【新人创作礼】活动，一起开启掘金创作之路

论文研读-memetic算法的多面综述

A Multi-Facet Survey on Memetic Computation

觉得有用的话,欢迎一起讨论相互学习~

此篇文章为 X. Chen, Y. Ong, M. Lim and K. C. Tan, "A Multi-Facet Survey on Memetic Computation," in IEEE Transactions on Evolutionary Computation, vol. 15, no. 5, pp. 591-607, Oct. 2011, doi: 10.1109/TEVC.2011.2132725. 的论文学习笔记，只供学习使用，不作商业用途，侵权删除。并且本人学术功底有限如果有思路不正确的地方欢迎批评指正！

Abstract

模因计算是一种范式，它以模因（meme）的概念作为在计算表示形式中编码的信息单元，以解决问题。它涵盖了许多潜在的丰富的模因启发式计算方法，框架和运算算法，包括简单的混合，自适应混合和模因自动机。本文对模因计算的最新研究进行了全面的多方面调查

关键词

自适应模因算法，演化和学习，混合，模因模仿，模因算法设计问题，不确定环境中的模因算法，模因自动机，模因计算，多主体系统，多目标模因算法，代理辅助模因算法。

Introduction

在过去的三十年中，许多基于种群的搜索技术已经浮出海面，成为优化[1]-[4]的支柱。这些技术依赖于搜索意识形态，这些搜索意识形态工作在操作样本的基础上，这些样本代表了解决方案范围内的搜索子区域。这种内在并行或多轨迹搜索算法的优势来自于对多个搜索区域的同时探索和不同搜索轨迹之间的相互利用或耦合。
通常，每个搜索轨迹将自己表示为种群中的一个个体，该种群表示算法打算解决的问题[2]、[5]-[7]的潜在解决方案。过渡状态的每个个体都是由自然启发的过程控制,如进化和群体智慧包括但不限于遗传算法[8],[9]进化策略、进化编程[10],遗传编程[11],差分进化[12],[13]分布估计算法,蚁群优化[14],粒子群优化[15],和人工免疫系统[16],它通常被归类在两个主要因素;每一个个体的替代模式和指导原则，规定作为一个整体的种群的行为规则或相互作用[17]-[19]。
最近，进化过程通常是由在自然中观察到的过程激发的，更具体地说是在种群遗传学中。应该注意的是，除了评估群体中个体的适合度所需要的信息之外，这些过程通常不会灌输任何更高层次的领域或特定问题的信息。最近在优化方面的研究趋势偏向于结合更高层次的进化和适应行为的算法[17]-[21]。与遗传学一样，模因科学[22]成为了动机的基础，并激发了模因发展为人类思维的正确假设的可能性。在过去的十年中，有迹象表明，在人口模因学的启发下，有关进化方法学的研究工作日渐增多，这进一步增强了算法在探索性和开发性特征之间建立良好平衡的能力。在计算的背景下[23]，模因是为了有效解决问题而在计算中重复编码的现实世界模式或领域特定知识。在过去的十年中，有迹象表明，越来越多的人在研究受人口模因论启发的进化方法，这进一步提高了算法在探索性和开发性特征之间建立良好平衡的能力。
就像遗传学中的基因一样，模因与模因论同义，是可传播和可复制的文化知识的基石。基因形成“构建蛋白质的指令”，而模因则是“执行行为的指令，储存在大脑(或其他物体)中”，并通过模仿[22]等方式传递。模因这个词可以追溯到道金斯的《自私的基因》一书中。这个词激发了模因论这门新科学的诞生。模因论是文化进化中心智-宇宙的类比，与遗传学类似，它延伸到人类学、生物学、认知学、心理学、社会学和社会生物学[22]等多个领域。在计算机科学与工程中，模因启发的计算方法，或者更确切的模因计算，已成为近年来研究的热点[23]。模因计算在解决问题中的一个最直接的应用是模因算法[25]。值得注意的是，它是受模因论启发的技术中最简单的形式之一，是解决大规模、真实世界搜索问题的复杂优化和运筹学中的关键方法之一。
术语模因算法(MAs)起源于Moscato[26]，是基于种群的搜索方法与一个或多个改进的算法配对。 MAs已成功地应用于广泛的领域，包括组合优化[27]-[29]、连续优化[30]、[31]、动态优化[3]、[32]、多目标优化[1]、[33]、[34]等问题。特别是,非凡的成功重要的实例化MAs已报告在广泛的实际应用,从生物信息学领域[35],[36],[27]置换流水车间调度,调度和路由[28],[29],非线性规划问题包括空气动力学设计[30],[37]原子和分子结构问题,最优控制系统与机器学习[38]-[43],和计算昂贵的和不确定的环境[44][45]。
很明显，MA已经设法激起了人们对进化优化算法[46]领域的广泛兴趣，有时，这是一个容易混淆的来源，任何受模因启发的范式都被方便地当作MA[23]的同义词。可能还有许多其他丰富的模因启发设计、操作模型和算法框架，这些构成了模因计算的基石[3]、[18]、[23]、[47]-[51]。为了抓住该领域现有和潜在研究的本质，有必要阐明模因计算是一种范式，它使用模因(s)的概念作为信息单位，即为解决问题而编码在计算表征中的构建块。从算法的观点来看，模因是用于解决问题的领域特定信息的单位。例如，在混合算法中，模因被作为指令、规则、策略、先验知识等进行搜索，在更一般的问题求解环境中，模因被编码在问题求解者的各种计算表示中[52]。
迄今为止，为了简洁，模因计算的工作可以分为几个独特的类别。在本次调查中，我们从简单混合，自适应混合以及随后的将模因整合到信息单元中以解决问题的框架角度对它们进行分类，从而成为模因自动机。像MAs[26]这样的简单混合代表了基于种群的启发式算法和局部的提炼启发式算法之间的协同组合形式。理由是，如果结合特定问题的改进技术，通常可以提高基于种群的搜索（例如进化算法）的性能。这些简单的混合工具结合了特定于域的信息，以利用优化组件增强基于种群的搜索。模因算法一词源于以下事实：局部精简过程类似于一个模因，该模因代表人类专家关于如何更好地精炼解决方案的某种形式的领域特定先验知识[26]。由于种群中的个体被认为正在经历某种形式的不断完善，因此该过程通常称为局部搜索，终生学习或个体学习。
尽管在广泛应用领域的专业MAs的重要实例上取得了显著的成功，但研究人员也积极地进入了自适应模因算法这一新兴领域。适应性杂交[17]-[21]，[53]是一类模因计算方法，通过系统地利用获得的关于问题与过程匹配的信息，并重新配置自身以适应所解决问题的领域或实例，具有很强的适应手头给定问题的能力。潜在的算法改进已经尝试适应几个关键的设计问题，包括改进的频率，选择改进的个体子集，改进的强度，选择进行改进的模因，以及选择基于种群的搜索和适应函数[54]。
文中出现一个单词叫做refinement,这里我将其翻译为‘改进’或者‘精炼’，但是本质我认为应该都是某种局部搜索的过程即解的改进过程
广义的模因-模因自动机 为了解决日益增加的复杂性和动态性的问题，模因自动机的概念在模因计算中提出。模因自动机是一种软件实体，它通过嵌入的模因独立学习或相互作用[52]、[55]，自主地获得越来越高的能力和智力水平。模因在进化过程中相互竞争和合作，经历着模因的传播、选择、复制和变异。从系统级的角度来看，在memetic中通用达尔文主义[24]、[56]被付诸实践。它解放了模因的概念化，使其成为信息(知识、信念、情感等)的构建块，这些信息被编码在适于解决问题的计算表征中。人工神经网络[57]、归纳逻辑编程[58]、图[59]等虽然没有明确地称为模因，但都可以看作是模因表示的形式。无监督学习、有监督学习和强化学习都是促进与模因相关的学习的潜在工具。
本调查的目的是对模因计算的最新研究进行全面的、多方面的阐述。为了完整起见，本概览从第二节和第三节开始，简要回顾模因计算在进化计算中的早期表现，通常被解释为模因算法、混合和适应混合算法。随后，第四节重点介绍了“模因自动机”，这是一种将“模因”作为模因计算焦点的自然的发展，并指出了该领域一些值得注意的新兴研究趋势，但这些研究仍未得到充分探索。具体来说，第四部分以模因为中心回顾了正在进行的计算智能研究，这些研究关注于可重用性、可迁移性、模式泛化，如各种基于模因和基于代理的文化系统。最后，我们对模因计算作了一些评述。希望在这个调查中提出的分类将有助于识别模因计算的新鲜和令人兴奋的研究前沿。

Simple Hybrids

模因计算的许多早期工作都是以基于种群的搜索和[60]精炼程序之间的杂交的形式实现的。它们通常被称为遗传局部搜索，典型模因算法或简单地称为hybrid(混合)。从算法的角度来看，将两种或两种以上不同的方法结合领域知识以协同的方式组合在一起[61]，可以大大提高派生的混合方法的解决问题的能力。此外,混合利用以种群为基础的(探索exploration)和精炼(开发exploitation),前者提供了一个可靠的全局最佳的估计而后者重点关注迄今为止最好的解决方案的四周来发现更好的解决方案[17]。因此，混合是模因计算领域的一个重要特征。在本节中，我们将讨论简单混合中的主要问题，包括基于群体的搜索方法和精炼过程、混合的级别、继承的模式以及合并到简单混合中的特定领域信息的类型。

Types of Search Methods

在这里，我们以混合的形式展示一些在文献中典型使用的完善的基于种群的搜索方法，以及用于增强它们的改进方法。在简单的混合中，基于种群的搜索和优化过程是由问题领域中先验知识的存在所激发的。
典型的基于人口的搜索框架包括遗传算法（GA）[8]，进化策略（ES）[9]，进化规划[10]，遗传规划[11]，差分进化（DE）[12]，分布算法估计（EDA）[13]，蚁群优化（ACO）[14]，粒子群优化（PSO）[15]，人工免疫系统[16]等在本质上是随机的[2]。这些是适用于许多问题领域的基于人口的通用搜索框架。但是，由于易于使用，因此在某些特定领域中，有些产品受到青睐。在基于订单的离散组合优化领域中，ACO和GA具有更强的存在性，而DE，EDA和PSO更常用于处理连续变量问题。
在多目标优化（MOO）领域[7]，[33]，[48]中，比较流行的基于人群的方法包括非主导排序遗传算法II [62]，进化多目标优化算法[27]， Pareto存档的进化策略[63]，多目标PSO [64]等。值得注意的是，迄今为止，许多非常成功的多目标进化算法都涉及一些专门为应对各自挑战而设计的混合形式[27]，[33] ]，[34]。作为一种方法，专用复制算子[65]，专用适应度函数管理方案[66]-[68]，多目标细化算子[27]，[69]等被引入多目标MA（MOMA）混合中。改进，与Pareto最优解的收敛速度，沿着Pareto前沿的解的扩展或处理非线性约束的存在。
另一方面，在混合动力车中使用的细化程序既有确定性[70]，也有随机性[71]。在确定性细化方法中，分支定界法已用于处理组合问题，例如最长的公共子序列[72]，而Hooke-Jeeves算法，Nelder-Mead单纯形搜索方法，Rosenbrock算法等则用于处理连续问题，例如复杂的工程设计[73]。为了应对问题复杂性的扩大（例如高多模态），研究人员冒险进行随机优化以增强附近的搜索多样性。在组合优化领域，其中一些方法包括禁忌搜索，以查找低自相关二进制序列[74]，模拟退火以发现p2p网络中的最佳资源[75]，等等。尽管其中许多优化方法已设计用于单目标优化，还出现了其他一些专门针对多目标优化的方法[7]，[63]，[76]，[77]。 MOMA [76]中的一项较早的工作提出了一个本地搜索算子，它以随机选择的，非支配的目标改善方向来扰动解，以提高对Pareto前沿的收敛速度。最近引入的其他一些方法包括优化程序，该程序将搜索指向（或沿着）（本地）Pareto集，以在Pareto前端中获得更广泛的解决方案，例如带有Sidestep [78]的Hill Climber。为减轻不确定搜索环境或嘈杂问题的影响而提出的其他专门优化程序包括信任区域无导数模因算法[79]-[82]。