搜索
ArtificialIntelligence(AI)人工智能第5章计算智能ComputationalIntelligence(CI)内容第5章计算智能1、概述2、神经网络3、模糊计算4、遗传算法现代科技发展的一个显著特点就是学科间的交叉、渗透和促进。(如生物信息学)计算智能是另一个有说服力的示例。计算智能涉及神经计算、模糊计算、进化计算、粒群计算、蚁群计算、自然计算、免疫计算和人工生命等领域。反映了多学科交叉与集成的发展趋势。5.1概述通过人工方法模仿人类智能已有很长历史（如仿生学的众多成果）,都是人类人工模仿智能的典型例证，而现代人工智能领域则力图抓住智能的本质。人工神经网络（ANN）主要是通过Hopfield网络的促进和反向传播(BP)网络训练多层感知器来推广的，将神经网络(NN)归类于人工智能可能不太合适，而归类于计算智能（CI）应更能说明问题实质。进化计算、人工生命和模糊逻辑系统的某些课题，也都归类于计算智能。第一个对计算智能的定义由贝兹德克（Bezdek）于1992年提出。他认为，从严格意义上讲，计算智能取决于制造者提供的数据数值，而不依赖于知识；另一方面，人工智能则应用知识。他认为，人工神经网络应当称为计算神经网络。尽管计算智能与人工智能的界限并不十分明显，但讨论它们的区别和联系是有必要的。贝兹德克对相关术语给予一定的符号和简要说明或定义。他给出有趣的ABC：A－Artificial，表示人工的（非生物的），即人造的。B－Biological，表示物理的＋化学的＋(?)＝生物的。C－Computational，表示数学＋计算机。ABC与神经网络(NN)、模式识别(PR)和智能(I)之间的关系:可看出：计算智能是一种智力方式的低层认知，它与人工智能的区别只是认知层次从中层下降至低层而已，中层系统含有知识)，而低层系统则没有。当一个系统只涉及数值(低层)数据，含有模式识别部分，不使用人工智能意义上的知识,且具有计算适应性、计算容错性、接近人的速度、近似于人的误差率这4个特性，则该系统就是计算智能系统。一个计算智能系统以非数值方式加上知识值，即成为人工智能系统。从学科范畴看：计算智能是在神经网络(NN）、进化计算(EC）及模糊系统(FS）这三个领域发展相对成熟的基础上，形成的一个统一的学科概念。1、什么是计算智能ComputationalIntelligenceDarwinPrincipleCollectiveBehaviorofSocietyNeuralNetworkEvolutionaryComputationFuzzySystemOthersGeneticAlgorithmEvolutionaryStrategyEvolutionaryprogrammingGeneticProgrammingParticleSwarmAntArtificialSystem神经网络对人类智能的结构模拟方法。通过对大量人工神经元的广泛并行互联，构造人工神经网络系统以模拟生物神经系统的智能机理。进化计算对人类智能的演化模拟方法。通过对生物遗传和演化过程的认识,用进化算法模拟人类智能的进化规律。模糊计算对人类智能的逻辑模拟方法，通过对人类处理模糊现象认知能力的认识，用模糊逻辑模拟人类的智能行为。计算智能不仅涉及神经网络、模糊系统和进化计算三个主要分支，还包括：粒子群算法蚁群算法人工免疫系统人工生命模拟退火算法粗集理论与粒度计算支持向量机量子计算DNA计算智能agent……生物智能(BiologicalIntelligence，BI)由脑的物理化学过程反映出来的,脑智能的基础。人工智能(ArtificialIntelligence，AI)非生物的,人造的,常用符号表示，来源于人类知识的精华。计算智能(ComputationalIntelligence，CI)由数学方法和计算机实现的，来源于数值计算的传感器。ABC：ArtificialBiologicalComputational2、关系另一种观点：计算智能和人工智能是不同的范畴。虽然人工智能与计算智能之间有重合，但计算智能是一个全新的学科领域，无论是生物智能还是机器智能，计算智能都是其最核心的部分,而人工智能则是外层。实践证明，只有将AI和CI很好地结合起来，才能更好地模拟人类智能，才是智能科学发展的正确方向。内容提要第5章计算智能1、概述2、神经计算3、模糊计算4、遗传算法5.2神经计算以神经网络为基础的计算。广义上，神经网络可泛指生物神经网络，也可指人工神经网络。人工神经网络（ArtificialNeuralNetwork）是指模拟人脑神经系统的结构和功能，运用大量的处理部件，由人工方式建立起来的网络系统。人脑是ANN的原型，ANN是对人脑神经系统的模拟。人工智能领域中，在不引起混淆的情况下，神经网络一般都指的都是ANN。现代计算机虽有很强的计算和信息处理能力，但解决像模式识别、感知、评判和决策等复杂问题的能力却远远不及人。特别是其只能按人预先编好的程序机械地执行，缺乏向环境学习、适应环境的能力。人脑是由大量的基本单元（神经元）经过复杂的互连而构成的一种高度复杂、非线性、并行处理的信息处理系统,单个神经元的反应速度在毫秒级，比起计算机的基本单元---逻辑门（反应时间在10-9s量级）慢5～6个数量级。但由于人脑的神经元数量巨大（约为1010个），每个神经元可与几千个其他神经元连接（总连接数约为6×1013），因而对有些问题的处理速度反而比计算机要快得多，且能耗要低得多。由此可见，人脑的性能要比现代计算机高得多。所谓人工神经网络，是模仿人脑工作方式而设计的一种机器，可用电子或光电元件实现，也可用软件在常规计算机上仿真。或者说是一种具有大量连接的并行分布处理器，具有通过学习获取知识并解决问题的能力，且知识是分布存储在连接权（对应于生物神经元的突触）中，而不是像常规计算机那样按地址存储在特定的存储单元中。符号（功能）主义：符号逻辑推理联结（结构）主义：人工神经网络行为主义：智能行为模拟，“模式-动作”联结主义的观点：智能的寓所在大脑皮层，是由大量非线性神经元互联而成并行处理的神经网络。人工智能的各种学派：总体而言，人工神经网络（ANN）是反映人脑结构及功能的一种抽象数学模型，是由大量神经元节点互连而成的复杂网络，用以模拟人类进行知识的表示与存储以及利用知识进行推理的行为。简单地讲，ANN是一个数学模型，可用电子电路实现，也可用计算机程序来模拟，是人工智能研究的一种方法。人工神经网络力求从四个方面模拟人脑的智能行为：物理结构，计算模拟，存储与操作，训练。5.2.1人工神经网络研究的进展1、萌芽期（20世纪40年代）1890年，美国生物学家W.James首次阐明了有关人脑结构及其功能,以及相关学习、联想、记忆的基本规律。1943年，心理学家McCulloch和数学家Pitts建立起了著名的阈值加权和模型，简称为M-P模型。1949年，心理学家D.O.Hebb提出，神经元之间突触联系是可变的假说---Hebb学习律。2、第一高潮期（1950-1968）以Minsky，Rosenblatt，Widrow等为代表人物。1957年Rosenblatt定义了一个神经网络结构，称为感知器。将神经网络研究从纯理论的探讨推向工程实现，在IBM计算机上进行了模拟，并可用电子线路模拟。3、反思期（1969-1982）1969年Minsky和Papert在《感知机》一书中指出感知机的缺陷(异或运算不可表示)，使得神经网络的研究从兴起期进入了停滞期。芬兰学者Kohonen提出了自组织映射理论(SOM)，美国学者Grossberg提出了自适应谐振理论(ART)，这些研究成果对神经网络以后的发展产生了重要影响。4、第二高潮期（1983-1990）1982年，Hopfield提出Hopfield模型。1984年，Hopfield设计研制了Hopfield网的电路。较好地解决了著名的TSP问题，引起了较大轰动。1985年，Hinton、Sejnowsky、Rumelhart等人在Hopfield网络中引入随机机制，提出Boltzmann机。1986年，Rumelhart,Hinton提出多层感知机与反向传播(BP)学习算法，该方法克服了感知器非线性不可分类问题，给神经网络研究带来了新的希望。1990年12月中国首届神经网络大会在北京举行。5、成熟期（1991-）平稳发展，应用广泛，与其他领域的结合：与进化计算结合、与模糊逻辑结合、……。实际应用：计算机视觉、自然语言理解、优化计算、智能控制等。并行分布处理：并行结构，耐故障。(实时、动态)非线性映射：任意非线性映射能力。(非线性问题)通过训练进行学习：通过数据记录进行训练，能处理由数学模型或描述规则难以处理的问题。适应与集成：自适应和信息融合能力。(复杂、大规模、多变量)硬件实现：快速和大规模处理能力。(并行处理)人工神经网络的特性：神经网络的生物学机理。⑴、神经元结构包括四个部分胞体：神经细胞的本体，维持细胞生存功能树突：接收来自其他神经元的信号（输入）轴突：输出信号突触：与另一个神经元相联系的特殊部位5.2.2人工神经网络的结构◇一个神经元有两种状态：兴奋、抑制。◇平时处于抑制状态的神经元，其树突和胞体接收其它神经元由突触传来的兴奋电位，多个输入在神经元中以代数和的方式叠加。◇如果输入的兴奋电位总量超过某个阈值，神经元会被激发进入兴奋状态，发出输出脉冲，并由突触传递给其他神经元。◇神经元被触发后进入不应期，在不应期内不能被触发，然后阈值逐渐下降，恢复抑制状态。⑵、神经元的基本工作机制（简化）◇神经元及其连接。◇神经元之间的连接强度决定信号传递的强弱。◇神经元之间的连接强度可以随训练改变。◇信号可以起刺激作用，也可以起抑制作用。◇一个神经元接受信号的累积效果决定该神经元的状态。◇每个神经元有一个“阈值”。⑶、生物神经网络的六个基本特征MP模型：一种人工神经元的数学模型，是最早的神经元模型之一。是大多数神经网络模型的基础。MP模型示意图：1、神经元及其特性输入输出中间状态人工神经元是仿照生物神经元提出的，神经元可以有N个输入：12,,,Nxxx12,,,N每个输入端与神经元之间有一定的连接权值：1Niiiuwx神经元总的输入为对每个输入的加权求和，同时减去阈值θ。u代表神经元的活跃值，即神经元状态：神经元的输出y是对u的映射：1Niiiyfufwx二值函数f称为输出函数(激励函数，激活函数)，有几种形式：001()0xxfxxx，，S型函数双曲正切函数1()-1f(x)11axaxefxe，1()0()11axfxfxe，输出函数“f”的作用：◇控制输入对输出的激活作用。◇对输入、输出进行函数转换。◇将可能无限域的输入变换成有限范围内的输出。2、人工神经网络的基本特性和结构结构由基本处理单元及其互连方法决定。人工神经网络由神经元模型构成。这种由许多神经元组成的信息处理网络具有并行分布结构，每个神经元具有单一输出，并且能够与其它神经元连接。存在许多(多重)输出连接方法，每种连接方法对应一个连接权系数。严格地说，人工神经网络是一种具有下列特性的有向图：(1)对于每个节点i存在一个状态变量xi；(2)从节点i至节点j，存在一个连接权系数wij；(3)对于每个节点i，存在一个阈值i；(4)对于每个节点i，定义一个变换函数fi(xi,wij,i)；对于最一般的情况，此函数的形式为：1()niijjijfwx神经元模型确定之后，一个神经网络的特性及能力即主要取决于网络的拓扑结构及学习方法。人工神经网络（ANN）可以看成是以人工神经元为节点,用有向加权弧连接起来的有向图。人工神经元就是对生物神经元的模拟。有向弧则是轴突—突触—树突对的模拟。有向弧的权值表示相互连接的两个人工神经元之间相互作用的强弱。人工神经网络的结构基本上分为两类：递归(反馈)网络、和前馈网络。⑴、递归网络在递归网络