传统优化算法与智能优化算法与凸优化算法如何界定其区别?都属于最优化算法吗?

  新闻资讯     |      2024-03-12 13:29

三者之间的区别是什么

感觉这是一个很大的问题,我还回答不好,希望做一个交流,慢慢补充吧。

先说说我眼里的传统优化、凸优化、智能优化指的是那些吧。

一、传统优化

1、线性规划:单纯形法

2、无约束优化:最速下降法、牛顿法、共轭梯度法

3、约束非线性规划:罚函数法、可行方向法

二、凸优化

参考Stephen Boyd的凸优化的书,主要是将问题怎么转化成凸问题上去。因为凸优化是一类被解决的优化问题。采用CVX可以轻松地使用内点法进行求解。

三、智能优化

1、模拟退火、遗传算法、禁忌搜索、神经网络

2、Q-learning,可以用于求解组合优化问题


作者观点:

凸优化与传统优化并非孤立的。在求解一个非凸的问题的时候,一个常规思路是将非凸问题转化成一系列的凸问题,这一步是凸优化教你怎么辨别哪一类凸问题可以求解。在每一次的迭代过程中,除了内点法之外,我们还可以使用传统的优化方案,比如说牛顿法具有二次收敛速度去求解。

个人理解:本质上都是求解最优化问题(一个目标函数在给定区域内的最小值就是约束优化,不考虑给定区域就是无约束优化)。传统优化算法可以理解为比较general的优化算法但是针对不同问题可能并不适用,且考虑的最优只能是局部最优;凸优化则是优化问题中的一种特殊情况,因为凸性可以保证全局最优;而智能优化算法很多就是加入一些trick来避免陷入局部最优。

1.250+种优化算法及对比-Matlab版:cnblogs.com/huakaifugui

2.实现250+种优化算法对变分模态分解(VMD)参数的优化:cnblogs.com/huakaifugui

3.250+种优化算法实现电力系统最优潮流计算:cnblogs.com/huakaifugui

4.基于250多种优化算法实现三维无人机路径规划:cnblogs.com/huakaifugui

5.基于250多种优化算法实现机器人网格地图路径规划:cnblogs.com/huakaifugui

6.基于250多种优化算法实现图像多阈值分割:cnblogs.com/huakaifugui

7.基于250多种优化算法的图像分割:cnblogs.com/huakaifugui

8.基于250多种优化算法结合聚类的图像分割:cnblogs.com/huakaifugui

9.基于250多种优化算法实现无人机三维路径规划:cnblogs.com/huakaifugui

10.基于250+种优化算法的发电机经济负荷调度问题:mbd.pub/o/works/449892

11.基于250多种优化算法解决14种限制性工程设计问题:cnblogs.com/huakaifugui

星雀优化算法(Nutcracker optimizer algorithm,NOA)由Mohamed Abdel-Basset等人于2023年提出,该算法模拟星雀的两种行为,即:在夏秋季节收集并储存食物,在春冬季节搜索食物的存储位置。星雀优化算法(Nutcracker optimizer algorithm,NOA)_IT猿手的博客-CSDN博客

参考文献:

Mohamed Abdel-Basset, Reda Mohamed, Mohammed Jameel, Mohamed Abouhawwash.Nutcracker optimizer: A novel nature-inspired metaheuristic algorithm for global optimization and engineering design problems[J]. Knowledge-Based Systems,2023,262.

光谱优化算法(Light Spectrum Optimizer,LSO)由Mohamed Abdel-Basset等人于2022年提出。


参考文献:Abdel-Basset M, Mohamed R, Sallam KM, Chakrabortty RK. Light Spectrum Optimizer: A Novel Physics-Inspired Metaheuristic Optimization Algorithm. Mathematics. 2022; 10(19):3466. doi.org/10.3390/math101

蜘蛛蜂优化算法(Spider wasp optimizer,SWO)由Mohamed Abdel-Basset等人于2023年提出,该算法模型雌性蜘蛛蜂的狩猎、筑巢和交配行为,具有搜索速度快,求解精度高的优势。蜘蛛蜂优化算法(Spider wasp optimizer,SWO)_IT猿手的博客-CSDN博客


参考文献:

[1]Abdel-Basset, M., Mohamed, R., Jameel, M. et al. Spider wasp optimizer: a novel meta-heuristic optimization algorithm. Artif Intell Rev (2023). doi.org/10.1007/s10462-

斑马优化算法(Zebra Optimization Algorithm,ZOA)Eva Trojovská等人于2022年提出,其模拟斑马的觅食和对捕食者攻击的防御行为。斑马优化算法(Zebra Optimization Algorithm,ZOA)_IT猿手的博客-CSDN博客



参考文献:

E Trojovská, M Dehghani, P Trojovsky. Zebra Optimization Algorithm: A New Bio-Inspired Optimization Algorithm for Solving Optimization Algorithm[J]. IEEE Access, 2022,10:49445-49473.

能量谷优化算法(Energy valley optimizer,EVO)是MahdiAzizi等人于2023年提出的一种新颖的元启发式算法,其灵感来自关于稳定性和不同粒子衰变模式的物理原理。能量谷优化算法(Energy valley optimizer,EVO)_IT猿手的博客-CSDN博客



参考文献

Azizi, M., Aickelin, U., A. Khorshidi, H. et al. Energy valley optimizer: a novel metaheuristic algorithm for global and engineering optimization. Sci Rep 13, 226 (2023). doi.org/10.1038/s41598-

开普勒优化算法(Kepler optimization algorithm,KOA)由Mohamed Abdel-Basset等人于2023年提出。


参考文献:Mohamed Abdel-Basset, Reda Mohamed, Shaimaa A. Abdel Azeem, Mohammed Jameel, Mohamed Abouhawwash, Kepler optimization algorithm: A new metaheuristic algorithm inspired by Kepler’s laws of planetary motion, Knowledge-Based Systems, 2023. DOI: doi.org/10.1016/j.knosy

淘金优化算法(Gold rush optimizer,GRO)由Kamran Zolf于2023年提出,其灵感来自淘金热,模拟淘金者进行黄金勘探行为。淘金优化算法(Gold rush optimizer,GRO)提供MATLAB代码_IT猿手的博客-CSDN博客

参考文献: K. Zolfi. Gold rush optimizer: A new population-based metaheuristic algorithm. Operations Research and Decisions 2023: 33(1), 113-150. DOI 10.37190/ord230108

测试集:23组基本测试函数简介及图像(提供python代码)_常用测试函数有几个典型_IT猿手的博客-CSDN博客

在智能优化算法的性能测试过程中,经常需要借助一些测试函数对算法的全局搜索和局部搜索的性能测试。CEC(国际进化计算会议) 测试函数,常用的23组整理如下:

参考文献:

[1]Yao X, Liu Y, Lin G M. Evolutionary programming made faster[J]. IEEE transactions on evolutionary computation, 1999, 3(2):82-102.

(1)部分代码

Function_name='F8';%测试函数F1-F23(可以修改)
addpath('https://www.zhihu.com/question/AlgorithmCode/')%添加算法路径
SearchAgents_no=100; % 种群大小(可以修改)
Max_iteration=100; %最大迭代次数(可以修改)
[lb,ub,dim,fobj]=Get_Functions_details(Function_name);%获取测试函数上下界、维度及目标函数
for i=1:size(AlgorithmName,2)%遍历每个算法,依次求解当前问题
[Best_score,Best_pos,Convergence_curve]=Algorithm(SearchAgents_no,Max_iteration,lb,ub,dim,fobj);%当前算法求解
%reference matlab code: https://mbd.pub/o/bread/mbd-ZJuYk5hp
%将当前算法求解结果放入data中
data(i).Best_score=Best_score;%保存该算法的Best_score到data
data(i).Best_pos=Best_pos;%保存该算法的Best_pos到data
data(i).Convergence_curve=Convergence_curve;%保存该算法的Convergence_curve到data
end

(2)部分结果











完整代码获取见博主主页联系方式。



2023年8月18日,由 51WORLD主办、超创者数字产业联盟与元宇宙三十人论坛支持协办的第六届地球克隆计划大会在苏州如期举行,这是一场数字孪生行业最值得期待的年度盛会行业风问标。本论坛备受政、学、产的关注,中国工程院院士、浙江大学教授谭建荣,第十四届全国政协委员、北京交通发展研究院院长郭继孚,第十四届全国政协委员黄绵松,中国信通院产业与规划研究所总工程师、数字孪生工委会秘书长高艳丽,中国信息通信研究院华东分院院长廖运发,中国水利水电科学研究院水资源所水资源调度室主任雷晓辉,北京交通发展研究院研发中心主任缐凯,上海测绘院副院赵长峰,南京水利科学研究院水工水力学研究所副所长、大数据与智慧水利研究中心主任范子武,微软(中国)首席技术官韦青,元宇宙三十人论坛发起人、超创者首席架构师徐远重, 清华大学社会美育研究所学术委员、东方特色未来学家李春光等60+国家级科研院负责人、顶级高校学术带头人、国家行业协会负责人、头部科技企业CEO等作为重磅嘉宾发表精彩观点。论坛中各位大咖,齐聚一堂、尖峰对撞、跨界交流,为中国下一代数字孪生行业画上浓墨重彩的一笔。



本文为元宇宙三十人论坛学术与技术委员会委员、中国未来研究会青年分会学术主持、东方特色未来学家李春光于“AIGC技术创新与元宇宙论坛”活动上所作的《AIGC 背后的未来文明秘密》的分享。一.深邃人性与智能融合的时代命题


站在人工智能演进的十字路口,我们的目光投向了OpenAI的首席科学家ILya Sutskever,他对于“压缩世界知识”的信念实质上是对维特更斯坦命题的回应,进而引发了对人性与智能关系的更深层次思考。

近来,一曲名为《罗刹海市》的音律,如同一波波涌动的海潮,将我们带入一个富有深邃哲思的领域。这首音乐的点睛之笔就在它的末尾:

“西边的欧钢有老板/生儿维特根斯坦……是我们人类根本的问题

本歌词似乎在无声中述说着人性与智能的交织,引领我们驶入了一个扣人心弦的思考之境——人类不能被束缚于语言所代表的智能符号。

当歌曲的终曲渐行渐远,我们仿佛听到了人类文明的回声,这一不凡的旅程将引领我们步入人类文明AIGC时代的新纪元。ILya Sutskever的这种信念,实质上是在无意识地坚信人工智能的进步远不仅仅是技术的提升,更是对人性内核的重新审视与解构,因为人类的灵感与灵性正是对世界知识的先天压缩。这样的观点恰恰点明了人工智能在不断演进中所带来的冲击不仅仅是技术层面的,更是对人性本质的冲击与拷问。

二、历史的辩证与人性的恒久价值


历史犹如一面智慧的镜子,它凝视着过去、现在和未来,为我们揭示了人性与智慧的深远内涵。回望历史的长河,科技的革新从未停歇,它带来了社会体制的颠覆,也带来了生活方式的巨变。根据黑格尔历史哲学,智能时代辩证法的正题可以视为以“AI大模型的创新为先的技术革命决定一切”,它的反题则为“不被AI大模型所替代的人性与更深禀赋是什么?”于是,我们可以看见在智能变革的浪潮中,情感、创造力和人际纽带从未消失,也再次回应了维特更斯坦命题,那就是“人性是如何不受限于语言符号”的。三、哲思的启迪:人性的深度和智能的边界


哲学是思想的探索,是对人性、现实和存在的深度思考。在面对人性与智能的辩证关系时,我们或许可以借鉴哲学的思辨方式,来寻找一个更为全面的答案。亚里士多德曾说:“人的本性就是一个目标,一个目标的表现就是在生活中获得幸福。”这个观点引导我们思考人性的目的是什么,是追求幸福、追求智慧、还是两者兼而有之?进一步地,我们可以思考智能与人性的交汇点在哪里。智能在很大程度上是对信息的处理和模式的学习,而人性则包含了情感、创造力、道德观念等多维度的内容。那么,智能是否能够真正体验情感,创造出真正的艺术品,或者具备自我意识与道德判断?这些问题引发了我们对智能边界的深刻思考,同时也引导我们探究人性的深度之处。四、东方智慧与全球文明的交融


在全球范围内,不同文化背景下的智慧在交融中绽放出独特的光彩。而在人类文明AIGC代,东方智慧将如何融合于全球文明的演进中,成为了一个引人深思的问题。东方的传统哲学(儒释道等)从一开始便拥有对人工智能时代反题的思索,例如“三生万物”、“缘起性空”、“不二法门”、“致中和”、等概念。于本时代而言,这些思想是否能够提供一种超越技术的智慧,引导人工智能与人性的和谐共生?

同时,东方文明的原生思想是否能够在全球范围内扩展,成为智能时代的文明之光?我们是否能够借鉴本思想,将人性的价值观融入到智能发展的每一个角落,使科技与人性之间形成一种有益的互动与平衡?

五、开拓未来:《全球人工智能开放协议》的倡议


在思考人性与智能的交融之际,李春光老师再次代表元宇宙三十人论坛、超创者数字产业联盟、OpenDAI等全球人工智能开放协议参与者DAO的意志,于现场宣讲了《全球人工智能开放协议》的倡议,并期许汇聚各界精英,共同探讨人性、科技以及文明的前沿议题。这一协议也有望成为引导智能发展的文明指南,确保技术进步与人性价值的无缝契合。六、 “元宇宙火人节”倡议发布


基于“开放协议”带来的文明基石,李春光老师预告超创者希望在未来联合社会精英、思想者、艺术家和技术极客等有识之士共同发起“元宇宙火人节”的倡议。

我们期许未来的“元宇宙火人节”盛会将成为各路智能时代玩家与开风气之先者齐聚的舞台,共同探讨人性、科技、艺术与文明的未来,旨在为智能时代的到来奠定坚实的文明基石。

七、 结语:在智慧与人性的交织中启航


在地球克隆计划6终极大会上,怀揣着对人性的尊重,对智能的崇敬,共同探索智慧的边界,引领着智能时代的未来,借鉴哲学的智慧,引领智能的进步,创造一个兼容并蓄、和谐发展的美好世界。在深邃的人性与智能的交织中,大家将齐心协力,启航向着更加辉煌的明天。

我们期许在这个崭新的人类文明纪元中,超创者们可以在思想碰撞的火花中不断超越、不断深化,以塑造一个兼具智慧与人性光辉的宏大画卷。正如地球克隆计划6终极大会所呈现的,智能与人性的融合将成为未来文明的重要支柱,引领着我们踏入更加辉煌的明天,而我们超创者所提出的“文明算法”也将进一步助力人类文明的“地球克隆计划”。