人工智能算法综述人工神经网络(ANN)遗传算法(GA)人工免疫算法(AIA)专家系统()一.遗传算法遗传算法(GeneticAlgorithms,GA)是由美国Michigan大学的学者Holland于1975年首先提出的,它是模拟达尔文的遗传选择和自然淘汰的生物进化论的计算模型。其基本思想是模拟自然界中遗传机制和生物进化论而形成的一种过程搜索最优解的算法。其特点是几乎不需要所求问题的任何信息,而仅需要目标函数的信息,不受搜索空间是否连续或可微的限制就可找到最优解。依据它的并行性,遗传算法非常适用于大规模并行计算机。(一)基本要素1)参数编码;2)初始群体的设计;3)适应度函数的设计;4)遗传操作设计;5)控制参数设定。(二)特点优点:简单、通用、鲁棒性强、适应性强,全局搜索能力强,适合于并行分布处理。运用迭代算法,使用概率搜索技术。(1)对参数进行编码。即他的处理对象不是参数本身,而是对参数集进行了编码的个体。此编码操作使得遗传算法可直接对结构对象进行操作。(2)多线路并行搜索。即采用的是同时对搜索空间的多个解进行评估,所以使得遗传算法具有较好的全局搜索能力。(3)不需要相关体系的经验。在标准的遗传算法中,基本上不需要其他的辅助信息,而仅用适应度函数值来评估个体,并在此基础上进行遗传操作。(4)是一种基于多点随机搜索的启发式算法,适用于处理传统搜索方法解决不了的复杂非线性问题,操作对象是一组可行解,而非单个可行解。(5)不会陷入局部最优。这是由他的多线路并行式算法所带来的优点。(6)直接以目标函数值为搜索信息。缺点:容易陷入局部最优解(即在迭代计算后期,种群中适应值大的个体数量上绝对占优,失去了个体的多样性,个体之间缺乏竞争性)过大的交叉率和变异率导致在最优点附近搜索效率降低,求解速度慢。(三)应用GA以其很强的解决问题的能力和广泛的适应性渗透到研究与工程的各个领域,在机器学习、智能控制、组合优化等方面遗传算法已经被广泛地应用于自动控制、计算科学、模式识别、工程设计、智能故障诊断、管理科学和社会科学等领域,适用于解决复杂的非线性和多维空间寻优问题函数优化、组合优化、生产调度问题、自动控制、机器人学、图像处理、人工生命、遗传编码、机器学习等方面。(四)发展出现了自适应遗传、小生镜像遗传和免疫遗传等算法,从改变遗传操作参数和加快进化等方面对遗传算法进行改进而这其中免疫遗传算法应用最为广泛。免疫遗传算法是根据人或其他高等动物免疫系统的机理而设计,实现了算法的群体收敛性和个体多样性间的动态平衡的调整,与遗传算法相比,具有良好的全局收敛能力和计算速度。免疫遗传算法对比于遗传算法有如下几个优点:(1)免疫记忆功能,加快搜索速度,提高全局搜索能力,确保很快搜索到全局最优解;(2)通过计算抗体浓度,实现保持抗体多样性的功能,可提高全局搜索能力,避免早熟收敛。该算法把待求解的问题作为抗原,问题的解作为抗体。何耀华提出集成运用神经网络和遗传算法的优化方法。张玉祥将遗传算法、小波分析、人工神经网络和模拟退火的思想结合起来。遗传算法应用于小波神经网络,即遗传小波神经网络,通过遗传算法对小波神经网络进行全局优化。(小波神经网络具有较强的自适应性,鲁棒性和函数逼近能力,还具有良好的时频局部特性和恒等分辨能力。)遗传算法可以有效地确定小波神经网络隐层节点的个数,且遗传小波神经网络预测模型比传统的小波神经网络有更广泛的自由度,能克服普通神经网络的局部极小点、收敛速度慢、容错性差等缺陷,而小波基函数良好的时频特性又保持了较高故障预报精度的优点和较强的实时性。二.人工神经网络(ANN)人工神经网络的研究始于20世纪40年代,1943年,心理学家W.S.McCulloch和数学家W.Pitts在研究生物神经元的基础上提出了一种简单的人工神经元模型,即后来所谓的“M-P模型”,开创了神经网络的先河。BP网络本质上是把一组样本输入输出问题转变为非线性优化问题,采用梯度下降法(最速下降),迭代调整权值和阈值。但是BP网络有其自身的固有缺陷,如学习速度慢,容易陷入局部极小点,隐含层节点数的选取无理想的规则可循,导致无法确定合适的网络拓扑结构等等。(一)基本要素它是生理学上的真实人脑神经网络的结构和功能,以及若干基本特性的某种理论抽象、简化和模拟而构成的一种信息处理系统;它是理论化的人脑神经网络的数学模型;它是由大量神经元通过极其丰富和完善的链接而构成的自适应非线性动态系统,是对生物神经系统的模拟,其信息处理功能是由网络的单元(神经元)的输入输出特性(激活特性)、网络的拓扑结构(神经元的连接方式)所决定。有输入层、隐含层、输出层构成,在BP神经网络中,工作信号正向传播,误差信号反响传播,通过修改各神经元的权值,使误差信号减小。(二)特点(1)容错性强。在神经网络中,一个处理单元的失效不会造成整个网络系统失效,只是导致整个网络系统性能的降低,因此,神经网络系统具有良好的容错能力。(2)分布式信息存储。神经网络记忆的信息是存储在神经元的互连分布上(联中),信息在整个网络中作为一种连接的模式被存储,从单个连接权上看不出存储内容,因而是分布式存储方式。(3)具有自学习和自组织能力。神经网络可以自动调整其结构来学习新的模式,这种变结构系统表现出很强的环境适应性及学习能力,体现在状态变化过程中神经网络系统内部连接结构和连接方式的改变。(4)多层神经网络系统具有强大的运算能力和处理实际问题的能力,它可以处理一些背景信息十分复杂、知识背景不清楚、推理规则不明确的问题。在实际问题中所面对的模式类型丰富多变,甚至互相矛盾,而制定决策又无规则可循,对于这些问题,神经网络系统通过学习,可以学会处理具体事例,给出满意结果。(三)应用东北大学设备诊断工程中心虞和济研制的通用型神经网络智能诊断系统,已达到商业化水品,并已在生产线上运行。在故障诊断的实际应用中,有多种神经网络结构模型,如Hopfield网络、BoltZmxam机、ART网络和BAM网络等。(四)发展1985年,Powell提出了多变量插值的径向基函数(RBF)方法。1988年,Broomhead和Lowe首先将RBF应用于神经网络设计,对径向基函数和多层神经网络进行了对比,揭示了二者的关系。1989年,Moody和Darken提出了一种新颖的神经网络——径向基神经网络。1989年,Jackon论证了RBF神经网络对非线性连续函数的一致逼近性能。进入20世纪90年代,随着RBF这一新颖的网络类型出现,RBF网络可以根据问题确定相应的网络拓扑结构,学习速度快,不会出现局部极小值问题。径向基函数(RBF)网络理论为多层前馈网络的学习提供了一种新颖而有效的手段。RBF网络不仅能以任意精度逼近任意连续函数,而且具有良好的推广能力,避免了BP算法中繁琐、冗长的计算,其学习速度可以比通常的BP算法快100-10000倍,其隐层节点的数目也在训练过程中确定,因此可以得到最优解。RBF神经网络是一个具有单隐层的三层前馈网络[63],即输入层、隐层和输出层。各种诊断理论与神经网络结合。如概率(数理统计)神经网络、分析型(函数识别法)NN、逻辑(逻辑识别)NN、模糊(模糊识别)NN、灰色(灰色识别)NN;信号处理与神经网络结合;神经网络结构的改进;专家系统与神经网络系统结合;设备故障诊断智能系统的微型化和“傻瓜”化。三.人工免疫算法(AIA)人工免疫算法的研究始于20世纪90年代后期,目前其研究还刚刚起步。其思想来源于生物的免疫系统,它通过模拟免疫系统的学习、记忆等功能来进行模式识别和寻优搜索。在人工免疫算法中,被求解的问题视为抗原,抗体则对应于问题的解,与GA相似,AIA也是从随机生成的初始解群出发,采用复制、交叉、变异等算子进行操作,产生比父代优越的子代,这样循环执行,逐渐逼近最优解。不同的是,AIA的复制算子模拟了免疫系统基于浓度的抗体繁殖策略,出色地保持了解群(对应于免疫系统中的抗体)的多样性,从而克服了GA解群多样性保持能力不足的缺点。(一)基本要素抗原\\抗体优化问题的目标函数\\可行解。把抗体和抗原的亲和力视为可行解与目标函数的匹配程度:用抗体之间的亲和力保证可行解的多样性,通过计算抗体期望生存率来促进较优抗体的遗传和变异,用记忆细胞单元保存择优后的可行解来抑制相似可行解的继续产生并加速搜索到全局最优解,同时,当相似问题再次出现时,能较快产生适应该问题的较优解甚至最优解。(二)特点(1)是一种进化算法,与遗传算法操作相似(2)能够搜索到全局最优(3)具有记忆能力(即能够快速产生相似问题的的较优解)(三)与遗传算法的区别免疫算法与遗传算法在生物学上的区别是:遗传算法的生物学机理是基于达尔文的物种宏观进化思想,免疫算法是在个体基础上发展的,但物种宏观进化对个体免疫系统的进化是有重要影响的。免疫系统随着物种的进化一方面慢速进化,另一方面为了适应病原体环境而快速进化。也就是说,生物进化是在有机体之间进行的自然选择,免疫系统个体发育进化是在一个有机体内进行的自然选择。自然选择和个体发育盲目变化对于生物为了生存而进行地无休止地斗争至关重要。正是这种千丝万缕的联系,使得遗传算法和免疫算法即具有相似性,又具有各自的特点,且可以相互促进。(四)应用(五)发展,四.可拓学(EXTENSICS)可拓学(Extensics)是中国人创立的新学科。1983年,我国学者、国家级有突出贡献的专家蔡文研究员在《科学探索学报》[37]上发表“可拓集合与不相容问题”,标志着这门新学科的诞生。可拓学和神经网络技术都在故障诊断领域有所应用。为解决故障发生的随机性,可拓学采用其独特的方法研究故障拓展的可能性,通过引入关联函数,可以确切计算故障发生的程度。从而为分析故障诊断系统提供一种定性与定量结合的新方法。台湾学者WangMenghui发明了可拓神经网络(ENN)。可拓学涉及的领域较多,应用范围较广,在新产品设计、企业策划、过程控制、识别与评价、技术科学与人工智能等诸多方面都有着广泛的应用。可拓学由物元理论,可拓数学两部分组成,其逻辑细胞是物元。事物的变换以物元变换来描述,其核心是研究物元的可拓性和物元变化的性质。可拓学的基础是物元变换,可拓集,关联函数。文献从以下三个方面分析了可拓学与人工神经网络的联系与互补。(1)人工神经网络将思维、推理、判断过程寓于从简单到复杂的组合之中,属联结主义结构,但其具体的判断推理过程不易解释;可拓学则着重思维、推理、判断过程的形式化描述,其推理判断过程当然是明晰的。(2)人工神经网络处理信息的过程是并行分布处理,比较接近人脑;可拓学在求解问题时也要有大量的信息处理,自然需要研究信息的处理方式与过程。(3)人工神经网络的重要特点是具有学习功能,学习功能应有两个方面:结构学习和参数学习。参数学习通常采用教师数据指导学习,而结构学习是一个未完善解决的问题,网络结构的确定往往缺乏理论依据。可拓学注重可拓元可拓性的研究,注重分析推理的层次性和方向性。从这点上看,可拓学可以为神经网络的结构学习提供理论依据并指导结构学习。缺点:容错能力差发展可拓神经网络:可拓学与神经网络结合形成的可拓神经网络。可拓神经网络利用可拓学里面提供的形式化的语言给事物以定性和定量分析,但是不具有并行计算能力和学习能力,而神经网络可以依据样本进行自学习。所以可拓神经网络可以将两者优势互补:一方面可以用形式化的语言构造网络,使网络的权值具有明显的意义;另一方面,引入学习机制,提高知识表达的精度和实用性。它有两层神经网络组成,包括输入层和输出层。利用BP算法来训练权值,用时长,不易找到最恰当的权值组合,容易陷入局部极小值。采用自适应遗传算法优化可拓神经网络的权值。五.智能诊断的现状和发展(一)现状日本日立公司研究了用于核反应堆的故障诊断系统;美国通用电气公司研制的用于内燃电气机车故障诊断的专家系统CATS-l;华中理工大学研制的用于汽轮机组工况监测和故障诊断的智能系统DEST;清华大学研制的用于锅炉设备故障诊断的专家系统等等;哈尔滨工业大学和上海发电设备成套设计研究所联合研制的