智能计算的国际期刊IEEETransactionsonEvolutionaryComputationAppliedSoftComputingSoftComputingIEEETransactionsonSystems,ManandCyberneticsIEEETransactionsonNeuralNetworksArtificialIntelligenceIEEEComputationalIntelligenceMagazineIEEETransactionsonComputationalIntelligenceandAIinGamesNeuralNetworksExpertSystemswithApplicationsMachineLearningComputersandOperationsResearchOperationsResearch2参考书[1]李敏强,寇纪淞,林丹,李书全著.遗传算法的基本理论与应用.北京:科学出版社,2004.[2]邢文训,谢金星.现代优化计算方法.北京:清华大学出版社,2005.[3]王凌.智能优化算法及其应用.北京:清华大学出版社,2001.3[4]王小平,曹立明.遗传算法——理论、应用与软件实现.西安:西安交通大学出版社,2002.[5]黄席樾等.现代智能算法理论及应用.北京:科学出版社,2005.[6]高尚,杨静宇.群智能算法及其应用.北京:中国水利水电出版社,2006.4授课方式教师讲授专题报告学生讨论教师讲授:(专题报告+学生讨论)=2:1考试:闭卷、开卷或者大作业成绩=平时(30%)+考试(70%)5学生报告及讨论(每人15+5分钟)遗传算法3次(基本+高级+应用)模拟退火1次(基本原理)禁忌搜索1次(基本原理)模拟退火和禁忌搜索算法应用1次蚁群算法1次(基本原理)粒子群优化1次(基本原理)蚁群算法和粒子群优化应用1次6内容安排遗传算法模拟退火禁忌搜索蚁群算法粒子群优化7智能计算的基本思想智能计算(软计算)就是借用自然界生物规律的启迪,根据其原理,模仿设计求解问题的算法。人工神经网络技术、遗传算法、进化规划、模拟退火技术和群智能技术等。“仿生学”在计算智能的发展中起到了很大的推动作用(锯子)。从自然的规律中得到启迪,利用其原理进行算法设计,就是智能计算的思想。模仿海豚皮而构造的“海豚皮游泳衣”;依照鲸鱼皮构造,造成一个薄膜蒙在飞机的表面(节能3%);依照蜘蛛的行走发明液压步行机。8智能优化算法及其特点智能优化算法又称为现代启发式算法,是一种具有全局优化性能、通用性强、且适合于并行处理的算法。这种算法一般具有严密的理论依据,而不是单纯凭借专家经验,理论上可以在一定的时间内找到最优解或近似最优解。它们的共同特点:都是从任一解出发,按照某种机制,以一定的概率在整个求解空间中探索最优解。由于它们可以把搜索空间扩展到整个问题空间,因而具有全局优化性能。9第一章导言一.最优化的重要性二.传统优化方法的基本步骤——三步曲三.传统优化方法的局限性四.实际问题中对最优化方法的要求五.智能优化算法的产生与发展六.应用前景局限性和研究方向、注意事项101.人类的一切活动都是认识世界和改造世界的过程即:认识世界→改造世界↓↓(建模)(优化)例:水电站建设一.最优化的重要性(1)112.一切学科都是建模与优化在某个特定领域中的应用概念模型(定性)→结构模型(图)→→数学模型→智能模型一.最优化的重要性(2)123.最优化理论的发展①极值理论;②运筹学的兴起(OperationResearch);③数学规划:线性规划(LP);非线性规划(NLP);动态规划(PP);马尔托夫规划(MDP);排队轮;决策论;存储论。4.最优化理论在国民经济中的广泛应用一.最优化的重要性(3)13停机选择一个初始解停止准则向改进方向移动启动YN二.传统优化方法的基本步骤141.对问题中目标函数、约束函数有很高的要求——有显式表达,线性、连续、可微,且高阶可微;2.只从一个初始点出发,难以进行并行、网络计算,难以提高计算效率;3.最优性达到的条件太苛刻——问题的函数为凸,可行域为凸;4.在非双凸条件下,没有跳出局部最优解的能力。三.传统优化方法的局限性151.对问题的描述要宽松(目标和约束函数)——可以用一段程序来描述(程序中带判断、循环),函数可以非连续、非凸、非可微、非显式;2.并不苛求最优解——通常满意解、理想解就可以了;3.计算快速、高效,可随时终止(根据时间定解的质量);4.能够处理数据、信息的不确定性(如数据的模糊性,事件的随机性)。四.实际问题中对最优化方法的要求161.1975年holland提出遗传算法(GeneticAlgorithm)2.1977年Glouer提出禁忌搜索算法(TabuSearch)3.1982年Kirkpatrick提出模拟退火算法(SimulatedAnnealing)4.人工神经元网络(NeuralNetwork)5.1995年Dorigo提出蚁群算法(AntColonyOptimization)五.智能优化算法的产生与发展(1)176.1995年Kennedy&Eherhart提出粒子群优化(ParticleSwarmOptimization)7.其它①文化算法(CulturalAlgorithm)②人工生命算法(Artificial-LifeAlgorithm)五.智能优化算法的产生与发展(2)18我们统称以上算法为人工生命计算(ArtificialLifeComputation)1.人工生命计算+模糊逻辑(FuzzyLogic)=软计算(SoftComputation)2.人工生命计算+进化编程=进化算法(Evolutionarycomputation)五.智能优化算法的产生与发展(3)191.应用前景十分广阔——国民经济的各个领域2.局限性——不能保证最优解,理论上不完备六.应用前景局限性和研究方向、注意事项203.研究方向及注意事项①以应用为主,扩大面向新问题的应用;不要刻意做理论研究;②算法改进表现在以下几个方面:问题的描述、编码方法、算法构造及可行性修复策略;③要进行大量的上机计算;④算例的选取,以下算例的说服力降序排列:网上的测试用例、文献中的例子、实际例子、随机产生的例子、自己编的例子;⑤如何检验算法的好坏:比较计算速度、可解规模、(从不同的随机种子出发)达优率。六.应用前景局限性和研究方向、注意事项21个人介绍本科毕业设计内容是什么?研究生期间的主要学术工作、解决思路?对智能计算方法的掌握程度如何?第二章遗传算法进化计算基本遗传算法遗传算法应用案例遗传算法的特点和优势遗传算法原理2.1进化计算进化计算简介进化计算是研究仿照生物进化自然选择过程中所表现出来的优先规律和方法,它用来解决,对复杂的工程技术领域或其他领域提出的而传统优化理论和方法又难以解决的优化问题。进化计算包括四个方面内容:遗传算法(GeneticAlgorithm)进化规则(Evolutionaryprogramming)进化策略(EvolutionaryStrategy)遗传规划树图结构编码从进化算法对决策变量编码方案的不同来看,可以有固定长度的编码(静态编码)和可变长度的编码(动态编码)2.1进化计算进化计算的诞生(1)1990年,遗传算法开始与进化规划和进化策略有所交流。(2)1992年,进化规划和进化策略这两个不同领域的研究人员首次接触到对方的研究工作,提出了“进化计算”(EC)的方法。(3)1993年,进化计算这一专业领域的第一份国际性杂志《进化计算》在美国问世。(4)1994年,IEEE神经网络委员会主持召开了第一届进化计算国际会议,以后每年举行一次。此外,此会每三年与IEEE神经网络国际会议、IEEE模糊系统国际会议在同一地点先后连续举行,共同称为IEEE计算智能国际会议。进化计算的理论研究与应用现状由于Holland及其同事的长期努力,在遗传算法的数学基础方面做了许多工作,如提出了“模式定理”,证明了一些遗传算法的收敛性等;因此遗传算法的理论研究成果相对成熟些。建立进化计算的数学模型,奠定进化计算的理论基础,更深刻地认识进化计算的本质。■进化算法的理论研究有关进化计算的理论基础主要研究以下一些问题:①进化计算的数学模型和理论基础,如算法的复杂性分析、算法的收敛性和收敛速度等。②确定特别适合采用进化计算方法求解的问题类型,以及采用进化计算方法求解效果不太明显的问题类型。③从理论上和实际计算效果两方面比较进化计算方法与其他优化方法的计算效果。④进化计算方法与其他优化方法结合,提出新的混合算法。⑤探索在非优化类问题中如何使用进化计算方法。⑥从生物进化或自然界的各种现象中获得新的启发,提出新的方法,或对现有的进化计算方法进行改进。⑦进化计算方法在计算机上的有效实施方案,如进化计算的并行算法等。■进化算法的实际应用研究进化计算的一些典型的应用领域如下:①复杂的非线性最优化问题:对具有多个局部极值的非线性最优化问题。普通的优化方法一般难以找到全局最优解,而进化计算方法可以克服这一缺点,找到全局最优解。②复杂的组合规划或整数规划问题:大多数组合规划或整数规划问题属于NP问题,难以找到有效的求解方法;进化计算方法广泛用于求解这类问题,在可以承受的计算时间内求得满意的近似解如旅行商问题、装箱问题等。③生物学:进化计算起源于对生物现象的模拟,现在又反过来用于生物学的研究,如利用进化算法研究小生境理论和生物物种的形成等。④计算机科学:进化算法广泛用于计算机科学的研究,如用于图像处理和自动识别以及文档自动处理等。⑤工程应用:进化算法越来越多地用于工程实际,如通讯网络的优化设计、超大规模集成电路的布线、飞机外形的设计等。⑥社会科学:进化计算在社会科学的许多领域也有广泛应用,如人类行为规范进化过程的模拟、人口迁移模型的建立等。一般来说,进化计算的求解过程应包括以下几个步骤:①给定一组初始解;②评价当前这组解的性能(即对目标满足的优劣程度如何);③按②的解的性能从当前这组解中选择一定数量的解作为迭代后解的基础;④对③所得到的解进行操作(如基因重组和突变),作为迭代后的解;⑤若这些解已满足要求,则停止;否则,将这些迭代得到的解作为当前解,返回②。进化算法的一般框架进化算法它是一种具有“鲁棒性”的方法,它能适应不同的环境、不同的问题,并且在大多数情况下都能得到比较满意解。古典搜索方法主要有以下3类:①基于导数的方法:包括直接法(如爬山法等)和间接法(即求导数为零的点)。这类方法首先要求导数存在并容易得到;其次,这类方法一般是一种局部搜索方法,而不是一种全局搜索方法。②枚举法:包括完全枚举法、隐式枚举法(分枝定界法)、动态规划法等。③随机搜索方法:在问题空间中随机选定一定数量的点,从中选优。进化算法的特点及与古典搜索方法的比较2.2基本遗传算法遗传算法(geneticalgorithms,GA):一类借鉴生物界自然选择和自然遗传机制的随机搜索算法,非常适用于处理传统搜索方法难以解决的复杂和非线性优化问题。遗传算法可广泛应用于组合优化、机器学习、自适应控制、规划设计和人工生命等领域。遗传算法的发展历史1962年,Fraser提出了自然遗传算法。1965年,Holland首次提出了人工遗传操作的重要性。1967年,Bagley首次提出了遗传算法这一术语。1970年,Cavicchio把遗传算法应用于模式识别中。1971年,Hollstien在论文《计算机控制系统中人工遗传自适应方法》中阐述了遗传算法用于数字反馈控制的方法。1975年,美国J.Holland出版了《自然系统和人工系统的适配》;DeJong完成了重要论文《遗传自适应系统的行为分析》。20世纪80年代以后,遗传算法进入兴盛发展时期。遗传算法的基本原则适用性:算法所能适用的问题种类。可靠性:算法对于所设计的问题,以适当的精度求解