MP模型和感知器

1120110427马帅M-P模型•目前人们提出的神经元模型有很多，其中最早提出且影响最大的，是1943年心理学家McCulloch和数学家W.Pitts在分析总结神经元基本特性的基础上首先提出的M-P模型。指出了神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从而开创了人工神经网络研究的时代MP模型的概念把神经元视为二值开关元件按不同方式组合可以完成各种逻辑运算，这种逻辑神经元模型被称为MP模型M-P模型的六点特性关于神经元的信息处理机制，该模型在简化的基础上提出了以下六点进行描述：每个神经元都是一个多输入单输出的信息处理单元神经元输入分兴奋性输入和一致性输入两种类型神经元具有空间整合特性和阈值特性神经元之间连接方式有两种，兴奋性和抑制性突触，其中抑制性突触其否决作用每个输入通过权值表征它对神经元的耦合程度，无耦合则权值为0突触接头上有时间延迟，以该延迟为基本时间单位，网络的活动过程可以离散化。特性1：多输入单输出图(a)表明，正如生物神经元有许多激励输入一祥，人工神经元也应该有许多的输入信号，图中每个输入的大小用确定数值xi表示，它们同时输入神经元j，神经元的单输出用oj表示特性2：输入类型：兴奋性和抑制性•生物神经元具有不同的突触性质和突触强度，其对输入的影响是使有些输入在神经元产生脉冲输出过程中所起的作用比另外一些输入更为重要。图(b)中对神经元的每一个输入都有一个加权系数wij，称为权重值，其正负模拟了生物神经元中突触的兴奋和抑制，其大小则代表了突触的不同连接强度。特性3：空间整合特性和阈值特性•作为ANN的基本处理单元，必须对全部输入信号进行整合，以确定各类输入的作用总效果，图(c)表示组合输人信号的“总和值”，相应于生物神经元的膜电位。神经元激活与否取决于某一阈值电平，即只有当其输入总和超过阈值时,神经元才被激活而发放脉冲,否则神经元不会产生输出信号。MP模型神经元特性函数可表示为][TxWfyEiiEiixWE0,000,01ITEITEy或且u的输入输出关系如表：E≥T，I=0y=1E≥T，I00ET，I=00ET，I00MP模型的逻辑表示MP模型可以表示布尔逻辑关系（与或非）例如逻辑与：设T=2，I=0，E=x1W+x2W=x1+x2当x1=1，x2=1，E=1+1=2，触发y=1当x1=1，x2=0，E=1+0=1，不触发y=0当x1=0，x2=1，E=0+1=1，不触发y=0当x1=0，x2=0，E=0+0=0，不触发y=0满足y=x1.x2逻辑与关系。逻辑或：•令T=1，I=0，E=x1+x2（二个兴奋性输入）•当x1=1,x2=1,E=1+1=2,触发y=1•当x1=1,x2=0,E=1+0=1,触发y=1•当x1=0,x2=1,E=0+1=1,触发y=1•当x1=0,x2=0,E=0+0=0,不触发y=0•满足y=x1+x2逻辑或关系逻辑非：令T=0，E=0，I=xW=x（一个抑制性输入）当x=1，I=10,不触发y=0当x=0，I=0，触发y=1满足逻辑非关系MP模型能够构成逻辑与、或、非，就可进而组成任意复杂的逻辑关系，因此，MP模型是按一定方式组织起来，可以构成具有逻辑功能的神经网络。MP模型是最简单的网络，但是由于生物神经元本质上是模拟过程，过早地把物理量抽象为0和1，会丢失许多有用信息，因此神经计算应当将模拟的和数字的技术结合起来。从最简化的观点看，仍具有一定指导意义MP模型应用MP模型应用：可用于实现分类、模式识别等，当前已经有许多成功的基于M-P神经元模型的神经网络得到应用，如BP算法，这种算法是实现人脸识别的主要算法之一。感知器模型1957年，美国心理学家罗森布拉特（FrankRosenblatt）提出一种具有单层计算单元的神经网络，成为Perceptron,即为感知器。感知器是一种前馈网络，同层内无互连，不同层间无反馈，由下层向上层传递。其输入、输出均为离散值，神经元对输入加权求和后，由阈值函数决定其输出。单层感知器的结构与功能都非常简单，但却是要就其他网络的基础。•由于在感知器中第一次引入了学习的概念，使人脑所具备的学习功能在基于符号处理的数学模型中得到了一定程度的模拟，所以引起了广泛的关注。•简单感知器模型实际上仍然是M－P模型的结构，但是它通过采用有监督学习来逐步增强模式划分的能力，达到学习的目的感知器的功能感知器是一种简单的非线性神经网络，在线性神经元中加入了阈值函数，也称为线性阈值元。它可接受实数型信号，而输出二值离散量(0,1)。它可用于模式分类。•一个模式识别的简单问题：•某商贩有一个存储各种水果和蔬菜的货仓。当将水果放进货仓时，不同类型的水果可能会混在一起，所以商贩非常希望能够有一台帮他将水果自动分类摆放的机器。v3v1v2w0w1w2w3输入输出阈值u感知器网络的训练方法计算举例首先写成广义形式并规格化进行迭代运算继续迭代。。。感知器的权值修改完成时，四种已知模式已经被记忆在连接权重矢量中，该神经网络能够对四种模式进行识别。•广义权重矢量=•权重矢量=•阈值=•判别函数感知器的能力与局限性与的问题解：增广并规格化进行迭代运算可得广义权矢量=权重矢量=阈值=判别函数：或的问题异或的问题。。。。•可以看出，迭代出现震荡找不出一组权值能对4个样本正确分类。说明异或问题不能利用单层感知器分类。•三维异或函数求解方法把两维情况下不可分的问题扩展到三维情况中去，新增加的一维是前两维的与。