基于反向学习策略的深度搜索布谷鸟算法
- 格式:doc
- 大小:1000.00 KB
- 文档页数:13
1引言群智能算法以其简单灵活,易于实现,并在实际应用中取得了有效成果而备受研究者们的青睐。
受布谷鸟巢寄生育雏行为的启发,Yang等[1]于2009年提出了一种新型的群智能优化算法:布谷鸟搜索(Cuckoo Search,CS)算法。
CS算法通过模拟布谷鸟巢寄生育雏行为,结合鸟类、果蝇等的Lévy flights机制进行寻优操作,能够快速有效地找到问题的最优解。
CS算法的关键参数仅为外来鸟蛋被发现的概率和种群数目,整个算法操作简单、易于实现。
CS算法利用莱维飞行进行全局搜索,具有良好的全局寻优能力。
作为一种通用型算法,CS算法易于与其他算法相结合,进而获得性能更加优越的混合算法。
自CS算法被提出以来,国内外学者对其进行了大量的研究。
文献[2]建立了CS算法的Markov链模型,对算法的收敛性进行了分析,通过仿真实验验证了CS能够收敛于全局最优;文献[3]使用模糊系统来动态调整CS算法的参数,分析了参数对CS算法性能的影响。
CS 算法的变体及其应用研究也得到了快速发展,文献[4]对CS算法及其变体最初的发展进行了综述,但没有进行详细的介绍。
目前CS算法的理论研究比较零散,尚未形成体系。
本文在综述国内外相关研究成果的基础上,对CS算法及其变体和应用进行比较全面的综述,并指出CS算法未来值得关注的研究方向,为研究者们深入研究CS算法提供借鉴。
布谷鸟搜索算法综述张晓凤,王秀英ZHANG Xiaofeng,WANG Xiuying青岛科技大学信息科学技术学院,山东青岛266000College of Information Science&Technology,Qingdao University of Science&Technology,Qingdao,Shandong266000,ChinaZHANG Xiaofeng,WANG Xiuying.Survey of cuckoo search puter Engineering and Applications, 2018,54(18):8-16.Abstract:As an efficient swarm-intelligence-based algorithm,Cuckoo Search(CS)algorithm is inspired by the cuckoo breeding behavior in combination with the Lévy flight of some birds and fruit flies.Firstly,the principle of CS algorithm is introduced,and and it is compared with the current mainstream group intelligent algorithm to illustrate the effectiveness and deficiency of CS algorithm.Then the research achievements and application status of CS at home and abroad are intro-duced in detail,including binary CS,chaotic CS,discrete CS and other versions of CS,and applications in the fields of image processing,data mining,combinatorial optimization and other fields.Finally the further research directions of CS are proposed according to characteristics of CS algorithm and its application research results.Key words:cuckoo search algorithm;swarm intelligence;optimization algorithm;image processing摘要:布谷鸟搜索(Cuckoo Search,CS)算法是一种新型的群体智能优化算法,该算法受布谷鸟的巢寄生育雏行为的启发,并结合鸟类、果蝇等的莱维飞行特征而提出。
一种改进的布谷鸟搜索算法田野;方明【期刊名称】《长春理工大学学报(自然科学版)》【年(卷),期】2017(040)001【摘要】布谷鸟搜索算法是近年来提出的一种新的仿生智能算法,算法主要通过模拟布谷鸟的繁殖习性对问题进行最优求解.针对布谷鸟搜索算法中解的发现及放弃策略的随机性问题,将解的适应度情况同时考虑进来,并在此基础上提出一种基于解的优劣度的改进布谷鸟搜索算法.算法充分考虑解的适应度,并将适应度作为评估是否被放弃的一个标准,从而使得适应度较好的解更有可能被保留下来,提高算法的求解质量.实验结果表明新算法在求解质量以及收敛速度方面,都比标准的布谷鸟搜索算法有了一定的提高.%Cuckoo search (CS) algorithm is a new nature-inspired intelligent algorithm which simulates the breed behav-ior of the cuckoo species to solve the global optimization problems. In this paper, an improved cuckoo search (ICS) algorithm based on the fitness of the solution is presented to overcome the randomness on finding and abandoning one solution. In the presented algorithm, the fitness of the solution is considered and as the abandon metric, which makes the better solution be likely to survive, and improve the performance of the algorithm. The experiment results show that ICS is better than CS in not only the solution quality,but also the convergence speed.【总页数】4页(P115-118)【作者】田野;方明【作者单位】长春理工大学计算机科学技术学院,长春 130022;长春理工大学计算机科学技术学院,长春 130022【正文语种】中文【中图分类】TP18【相关文献】1.一种改进的新型布谷鸟搜索算法在工业流水作业中调度问题的优化应用 [J], 边倩2.改进布谷鸟搜索算法在多机器人任务分配及路径规划中的应用 [J], 谢永盛;曾箫潇;冯文健3.基于混沌算法的改进布谷鸟搜索算法及其应用 [J], 殷文明;李辉4.基于混沌算法的改进布谷鸟搜索算法及其应用 [J], 殷文明;李辉5.基于改进布谷鸟搜索算法的多传感器调度方法 [J], 魏文凤;刘昌云;田桂林;岳韶华因版权原因,仅展示原文概要,查看原文内容请购买。
改进的布谷鸟算法,布谷鸟算法和粒子群算法改进的布谷鸟算法(Improved Cuckoo Search Algorithm)、布谷鸟算法(Cuckoo Search Algorithm)和粒子群算法(Particle Swarm Optimization)是现代优化算法中常用的三种启发式算法。
本文将逐步回答关于它们的定义、原理、应用和优化效果等问题。
一、布谷鸟算法的定义和原理1. 布谷鸟算法的定义布谷鸟算法是一种基于生物学启发的优化算法,模拟了鸟巢寄生行为。
它首先随机初始化一组“布谷鸟”个体,每个鸟个体对应一个解,之后它们根据适应度函数评估各自解的好坏程度。
较好的解将以概率性地替换较差的解,从而通过迭代搜索过程逐渐改进。
2. 布谷鸟算法的原理布谷鸟算法的原理主要包括布谷鸟的寄生行为、布谷鸟的拾取和布谷鸟的放置。
(1)布谷鸟的寄生行为:布谷鸟在随机选择巢穴进行寄生时,采用了Levy飞行策略,在搜索空间中执行长距离跳跃,以避免陷入局部最优解。
(2)布谷鸟的拾取:布谷鸟在拾取巢穴时,通过“拟合度”来表示适应度,较好的拟合度对应着较好的解。
拾取行为是布谷鸟算法的核心步骤,根据随机概率选择是否拾取巢穴。
(3)布谷鸟的放置:布谷鸟在放置巢穴时,采用了随机遗忘策略,即通过一定的概率丢弃部分已有解,从而引入新的解以增加搜索空间的多样性。
二、粒子群算法的定义和原理1. 粒子群算法的定义粒子群算法是一种模拟鸟群行为的启发式优化算法,模拟了鸟群中个体间的信息共享和合作搜索过程。
每个粒子代表一个解,群体中所有粒子共同协作寻找最优解。
2. 粒子群算法的原理粒子群算法的原理主要包括粒子的更新和群体中最优解的更新两个主要步骤。
(1)粒子的更新:每个粒子通过学习自身的历史最优解和群体全局最优解,以确定自身下一步的移动方向和速度。
这一过程利用了惯性、个体认知和社会认知三个因素。
(2)群体中最优解的更新:每个粒子将自身的历史最优解与群体中当前的最优解进行比较,并更新全局最优解。
专利名称:一种新的基于布谷鸟搜索算法的XGBoost训练方法
专利类型:发明专利
发明人:胡雪梅,徐蔚鸿
申请号:CN202210236632.2
申请日:20220311
公开号:CN114611719A
公开日:
20220610
专利内容由知识产权出版社提供
摘要:本发明涉及机器学习领域,尤其涉及一种新的基于布谷鸟搜索的XGBoost训练方法,本发明详细提出了一种新的极梯度提升模型(XGBoost)训练方法,并首次使用布谷鸟搜索算法(CS)同时调整了其九个参数。
基于CS的XGBoost,在通过所提出的方法训练的XGBoost之后,应用于一个真实世界企业人事管理领域职员信息数据集的是否离职预测。
此外,基于CS的XGBoost与现有的XGBoosts进行了比较,这些XGBoosts由其他优化算法训练,包括GA、PSO等,另外还有GBDT、RF、SVM和KNN四个分类器。
实验结果和相应讨论表明,基于MFO的XGBoost在准确率、准确率、召回率等主要性能指标上均优于上述比较模型。
申请人:长沙理工大学
地址:410114 湖南省长沙市天心区万家丽南路2段960号
国籍:CN
更多信息请下载全文后查看。
布谷鸟算法1、概述布谷鸟搜索算法[CuckooSearch(CS)],也叫杜鹃搜索,是由剑桥大学Xin-SheYang(杨新社)教授和S.Deb于2009年提出的一种新兴启发算法CS算法通过模拟某些种属布谷鸟(CuckooSpecies)的寄生育雏(BroodParasitism)来有效地求解最优化问题的算法.同时,CS也采用相关的Levy飞行搜索机制。
2、优点全局搜索能力强、选用参数少、搜索路径优、多目标问题求解能力强,以及很好的通用性、鲁棒性等特点,同时其特有的莱维特性能够有效地扩大搜索范围,是一种高效的全局随机搜索算法.并且实例测试结果证明了它比遗传算法、粒子群算法、萤火虫算法具有更高寻优性能。
布谷鸟搜索算法凭借参数少,算法简单,易于实现的特点被广泛应用在各个领域,是群体智能算法中的一个新亮点3、应用领域布谷鸟算法自提出之后引起了许多学者的关注,并在许多项目调度、工程优化问题、求解置换流水车间调度和计算智能方面得到了应用。
在工程设计领域,布谷鸟算法对于一系列连续优化问题如弹簧设计和焊接梁设计等问题有着优于其他算法的性能。
Vazquez利用布谷鸟算法训练脉冲神经网络模型,Chifu等人利用布谷鸟算法优化语义Web服务组合流程, Bhargava等人在求解复杂相平衡问题中,用布谷鸟算法获得了可靠的热力学计算。
在组合优化问题方面,Tein和Ramli针对护士调度问题提出了离散化的布谷鸟算法,布谷鸟算法还成功的应用于软件测试中数据生成程序问题独立路径的产生。
Speed修改了CS并成功应用于处理大规模问题。
Moravej和Akhlaghi用CS研究了分布式网络中的DG分配问题。
对于多目标问题的研究,Deb针对工程应用提出了多目标CS算法,Simon等人则利用CS算法针对多目标调度问题取得了很好的效果。
综上所述,虽然布谷鸟算法于2009年才刚刚提出,但己经被成功应用到各个领域的优化问题中,布谷鸟算法可以求解大部分优化问题,或者是可以转化为优化问题进行求解的问题。
布谷鸟算法基本原理1. 前言布谷鸟算法是一种基于鸟类种群行为的启发式优化算法,它模拟了布谷鸟群体在寻找食物的行为过程。
该算法在解决优化问题方面表现出了很高的效果,因此受到了广泛关注。
本文将详细介绍布谷鸟算法的基本原理及其在优化问题中的应用。
2. 布谷鸟算法基本原理2.1 随机漫步布谷鸟群体中的每只个体都会进行随机漫步,以寻找食物。
这个过程中,每只个体都会根据当前位置和周围信息进行移动决策。
移动方向和距离都是随机生成的,以模拟现实中布谷鸟能够自由地在飞行中改变方向。
2.2 声音吸引当一只布谷鸟能够找到食物时,它会发出声音以吸引其他周围的个体。
这种声音可以被其他个体接收到,并据此调整自己的移动方向和距离。
这一过程模拟能够有效地传递信息,并将整个群体引导到更好的解决方案附近。
2.3 布谷鸟的巢穴选择布谷鸟群体中的个体会选择一个巢穴作为自己的家,用于存放食物和繁殖。
个体在选择巢穴时,会考虑到自身和周围个体的食物储备情况、竞争关系以及巢穴的位置等因素。
这样,群体中的布谷鸟会趋向于选择食物储备充足、竞争较小且位置合适的巢穴。
3. 布谷鸟算法在优化问题中的应用3.1 布谷鸟算法在函数优化中的应用布谷鸟算法可以用于求解函数优化问题,通过模拟布谷鸟能够自由地改变位置和移动方向这一特点,可以在搜索空间中寻找到全局最优解。
通过随机漫步和声音吸引等机制,布谷鸟能够快速收敛到最优解附近,并以较高概率找到全局最优解。
3.2 布谷鸟能量模型及其应用布谷鳥算法引入了能量概念,在搜索过程中通过能量模型来评估每个解决方案。
能量模型可以帮助算法更好地探索搜索空间,并避免陷入局部最优解。
通过调整能量模型的参数,可以平衡搜索的广度和深度,提高算法的搜索效率。
3.3 布谷鸟算法在组合优化中的应用布谷鸟算法也可以用于解决组合优化问题,如旅行商问题、背包问题等。
通过将问题转化为布谷鸟群体在搜索空间中寻找最优解的过程,可以有效地求解组合优化问题。
精英反向学习的单纯形交叉布谷鸟搜索算法
林要华;王李进
【期刊名称】《郑州大学学报(工学版)》
【年(卷),期】2017(038)006
【摘要】提出一种加强搜索能力的改进布谷鸟搜索算法,该算法采用精英反向学习策略促使Lévy Flights随机走动中的部分精英个体进行反向搜索,以避免搜索新个体的趋同性;并采用单纯形交叉操作在Biased随机走动中随机选择一个个体进行精细搜索,以降低搜索的盲目性以及低效性.另外,提出的算法采用混沌映射模型实现发现概率参数的自适应控制.仿真实验结果表明,该算法能够总体上有效改善算法的搜索能力和收敛速度.
【总页数】6页(P33-38)
【作者】林要华;王李进
【作者单位】福建农林大学计算机与信息学院,福建福州350002;福建农林大学计算机与信息学院,福建福州350002
【正文语种】中文
【中图分类】TP301
【相关文献】
1.求解最小最大VRP的精英反向学习鱼群算法 [J], 李小川; 刘媛华; 王影歌
2.基于精英反向学习的烟花爆炸式免疫遗传算法 [J], 韩江; 闵杰
3.一种基于精英选择和反向学习的分布估计算法 [J], 孟磊;张婷;董泽
4.基于精英反向学习粒子群算法的光伏电池参数辨识 [J], 张枭;林国汉;胡慧
5.融合Lévy飞行和精英反向学习的WOA-SVM多分类算法 [J], 何小龙;张刚;陈跃华;杨尚志
因版权原因,仅展示原文概要,查看原文内容请购买。
基于精英策略改进的自适应布谷鸟搜索算法
李锐;龙文高;原可欣
【期刊名称】《智能计算机与应用》
【年(卷),期】2021(11)12
【摘要】传统的布谷鸟搜索算法,在二维优化问题中经常出现陷入局部最优、寻优解精度低以及计算解偏差大等问题。
针对于此,本文提出了一种基于精英策略改进的自适应布谷鸟搜索算法。
该算法仿生生物群体中的精英策略,将布谷鸟群体按照黄金分割,划分为普通布谷鸟与精英布谷鸟两类。
普通布谷鸟基于Levy飞行寻找巢穴寄生,提高了寻优解的精度,加快了后期的收敛速度;而精英布谷鸟则会围绕群体中心位置进行定向侦查,为种群提供更优的巢穴,提高了算法的鲁棒性,避免算法过早成熟,加强了布谷鸟群的全局搜索能力。
同时,布谷鸟被寄主鸟发现的概率基于迭代次数而自适应变化,保证了布谷鸟后期将不断收敛于全局最优解。
通过仿真对比实验,表明本文提出的改进算法在二维全局寻优上具有较好的鲁棒性与准确性。
【总页数】6页(P37-42)
【作者】李锐;龙文高;原可欣
【作者单位】湖南科技大学数学与计算科学学院;太原理工大学文法学院
【正文语种】中文
【中图分类】TP18
【相关文献】
1.基于多开端策略的改进布谷鸟搜索算法研究
2.基于逐维改进的自适应步长布谷鸟搜索算法
3.基于动态平衡因子自适应步长的布谷鸟搜索算法
4.基于自适应差分扰动的布谷鸟搜索算法
5.基于自适应布谷鸟搜索算法的Tsallis熵阈值图像分割
因版权原因,仅展示原文概要,查看原文内容请购买。
布⾕鸟搜索算法算法定义算法模拟布⾕鸟使⽤别的鸟的巢⽳来孵化⾃⼰的蛋的⾏为。
为了模拟这个过程,算法提出了三个规则进⾏模拟:蛋巢数量固定,⽽布⾕鸟的蛋被寄主发现的概率为p a∈(0,1),如果发现外来鸟蛋,则鸟窝主⼈重新建⽴⼀个鸟窝。
布⾕鸟每次只下⼀个蛋,并且将这个蛋放⼊随机选择的巢中。
最优质的蛋巢会被记录并传递给下⼀代。
基于以上三个假设,可以认为,鸟窝和卵⽤来指代待求解问题的解,卵是否能够被宿主鸟孵化并茁壮成长,是衡量解好坏的唯⼀标准。
布⾕鸟寻找鸟窝下蛋的过程就是在n维空间内寻找解的过程,鸟窝的好坏象征着解的好坏。
莱维飞⾏在⾃然界中,动物会以随机或者准随机的⽅式寻找⾷物。
⼀般来说,是根据当前的位置或状态和到下⼀个位置的转移概率⽽做出的下⼀次移动,因此动物的觅⾷过程实际上是随机⾏⾛,其选取的⽅向可以⽤数据建模的⽅式来表⽰。
莱维飞⾏是⼀类⾮⾼斯随机过程,其平稳增量服从莱维稳定分布。
在飞⾏过程中,步长较⼩的短距离⾏⾛与偶尔较⼤步长的长距离⾏⾛相互交替,有利于增加种群多样性、扩⼤搜索范围,不⾄于陷⼊局部最优。
算法步骤定义⽬标函数,对搜索函数初始化,并随机⽣成n个鸟窝的初始位置,设置种群规模、问题维数、最⼤发现概率P和最⼤迭代次数等参数。
选择适应度函数(⽬标函数)并计算每个鸟窝位置的⽬标函数值,并得到当前的最优函数值。
记录上⼀次最优函数值,利⽤莱维飞⾏对其他鸟窝的位置和状态进⾏更新。
现有位置函数值与上⼀代最优函数值进⾏⽐较,若更好,则改变最优函数值。
通过位置更新后,⽣成随机数r∈[0,1]与最⼤发现概率P进⾏⽐较,如果r<P,则对该巢的位置进⾏随机改变,反之则不变,最后保留最好的⼀组鸟窝位置。
若未达到最⼤迭代次数或最⼩误差要求,则返回步骤2,否则进⾏下⼀步。
输出全局最优位置。
改进⽅向种群初始化进⾏优化(使⽤低差异序列⽣成在空间中均匀分布的随机点)使⽤动态步长动态调整寄主发现概率对于越界的巢的处理(将其导航⾄最佳巢⽳周围)Loading [MathJax]/jax/output/HTML-CSS/jax.js。
收稿日期:2018 10 25;修回日期:2018 12 03 基金项目:贵州省科技计划项目重大专项项目(黔科合重大专项字[2018]3002;黔科合重大专项字[2016]3022);贵州省公共大数据重点实验室开放课题(2017BDKFJJ004);贵州省教育厅青年科技人才成长项目(黔科合KY字[2016]124)作者简介:黄闽茗(1995 ),女,硕士研究生,主要研究方向为进化计算、数据挖掘;何庆(1982 ),男(通信作者),副教授,博士,主要研究方向为大数据应用、进化计算(qhe@gzu.edu.cn);文熙(1995 ),男,硕士研究生,主要研究方向为进化计算、智能控制.基于逐维反向学习的动态适应布谷鸟算法黄闽茗1a,1b,何 庆1a,1b,文 熙2(1.贵州大学a.大数据与信息工程学院;b.贵州省公共大数据重点实验室,贵阳550025;2.河北工业大学人工智能与数据科学学院,天津300000)摘 要:为了解决布谷鸟搜索算法寻优精度不高、收敛速度慢、后期搜索活力不足以及处理高维优化问题时存在维间干扰等缺陷,提出了逐维反向学习策略的动态适应布谷鸟算法。
首先,对选择更新后的解进行逐维反向学习,减少维间干扰,扩大种群多样性;然后,使用精英保留方式评价该结果,提高算法寻优能力;最后,充分利用当前解的信息进行动态适应的缩放因子控制,引导解快速收敛,提升算法搜索活力。
实验结果表明,该算法相比较于标准布谷鸟搜索算法,寻优精度、收敛速度以及后期搜索活力有所提高,与其他改进算法相比也具有一定的竞争优势。
关键词:布谷鸟搜索算法;反向学习;函数优化;维间干扰;动态适应中图分类号:TP301 文献标志码:A 文章编号:1001 3695(2020)04 012 1015 05doi:10.19734/j.issn.1001 3695.2018.10.0725Dynamicallyadaptivecuckoosearchalgorithmbasedondimensionbyopposition basedlearningHuangMinming1a,1b,HeQing1a,1b ,WenXi2(1.a.CollegeofBigData&InformationEngineering,b.GuizhouProvincialKeyLaboratoryofPublicBigData,GuizhouUniversity,Guiyang550025,China;2.SchoolofArtificialIntelligence,HebeiUniversityofTechnology,Tianjin300000,China)Abstract:Therearestillsomeshortcomingsincuckoosearchalgorithm,suchaslowconvergenceprecision,slowconvergencespeed,weaksearchvitalityandinterferencephenomenaamongdimensionswhendealingwithhigh dimensionaloptimizationproblems.Thispaperproposeddynamicallyadaptivecuckoosearchalgorithmbasedondimensionbyopposition basedlearning.Firstly,theselectedsolutionupdatedfordimension by dimensionbyopposition basedlearning,whichcouldreduceinterdimen sionalinterferenceandexpandpopulationdiversity.Thenitusedthemethodofeliteretentiontoevaluatetheresultandimprovethesearchabilityofthealgorithm.Finally,itfullyutilizedtheinformationofthecurrentsolutiontodynamicallyadaptivethesca lingfactorcontroltoguidethesolutiontoconvergequicklyandenhancethesearchvitalityofthealgorithm.Theexperimentalresultsshowthatcomparedwiththestandardcuckoosearchalgorithm,theproposedalgorithmhasimprovedconvergenceprecision,convergencespeedandsearchvitality.Comparedwithotherimprovedalgorithms,ithascertaincompetitiveadvantage.Keywords:cuckoosearchalgorithm;opposition basedlearning;functionoptimization;interdimensionalinterference;dynamicallyadaptive 布谷鸟搜索(cuckoosearch,CS)算法[1]是由Yang和Deb于2009年提出的一种新的全局搜索算法,该算法源于对布谷鸟育雏行为以及鸟类的莱维飞行(Lévyflight)行为的模拟。