16 人工神经网络方法

§16人工神经网络方法人工神经网络简介应用实例一：城市水环境调控预测模型应用实例二：长江三角洲地区城市体系的职能分类人工神经网络，是一个具有高度非线性的超大规模连续时间动力系统，是由大量的处理单元(神经元)广泛互连而形成的网络。是人脑的某种抽象、简化与模拟。人工神经网络的特点和优越性：具有自学习功能；具有联想存储功能；具有高速寻找优化解的能力。在现代地理学中，人工神经网络方法特别适用于地理模式识别、地理过程模拟与预测、复杂地理系统的优化计算等问题的研究。§16.1人工神经网络简介神经元模型神经网络的基本结构人工神经网络的工作原理人工神经网络的学习规则神经网络模型的种类神经元模型基于生物神经元构造，W.McCulloch和W.Pitts于1943年建立了一个模拟神经元功能的数学模型，这个模型被称为MP模型（图16.1.2）。（变量具体含义见书本）yiθix1x2xnW1iW2iWni图16.1.2神经元模型MP模型是一个多输出单输出的非线性元件。在MP模型中，f是二值函数，其输出值为0或1，分别代表神经元的抑制和兴奋状态，它可以用阶跃函数表示，即当wji0时，为兴奋性突触结合；当wji0时，为抑制性突触结合；当wji=0时，为无结合。njijjixwtu1i)()]([tufyii0001)(iiiuuuf在MP模型中，神经元的状态是0或1，在时间上也是离散的，类似于二值的数字电路。但是，神经元也可以有模拟量输入输出和时间上是连续的模型，其数学模型为01)()()(utxwtudttdunjjjiii)]([tufyiiueuf11)(神经元构成的神经网络如图16.1.3所示。yjwkjθjj#θkk#θii#θmm#wijwmiwkiyiymyk…图16.1.3神经网络神经元之间的突触结合有兴奋性和抑制性两种。在图16.1.4中，（a）和（b）分别给出了两个神经元串行连接和相互结合型连接的情形。(a)12y1w21y221y1y2(b)w12w21图16.1.4两个神经元的不同连接（a）所示的两个神经元串行连接，当w210为兴奋性连接时，若神经元1处于兴奋状态，则神经元2也处于兴奋状态；当w210为抑制性连接时，若神经元1处于兴奋状态，反而会使神经元2容易处于抑制状态。在（b）中，两个神经元处于相互结合性状态，若w12和w21均为正，则某一个神经元处于兴奋状态时，另一个神经元也倾向于兴奋状态，这称为神经元之间的协调作用；若w12和w21均为均为负，则当某一个神经元处于兴奋状态时，另一神经元倾向于抑制状态，这称为神经元之间的竞争作用。协调和竞争是神经网络中并行信息处理的基本动态特性。神经网络的基本结构把大量的神经元通过一定的拓扑结构连接起来，就形成了神经网络。神经元之间的连接方式有相互结合型结构和层状结构两大类。（见图16.5.1）21435(a)相互结合型12345(b)层状结构图16.1.5神经网络的结构在图16.1.5(a)所示的相互结合型神经网络系统中存在着反馈环。在神经元的学习过程中，进行误差反馈。反馈有正、负之分，正反馈使系统发生振荡，负反馈是系统稳定。在大脑神经系统中，由于负反馈的存在，使控制抑制的机构起着十分重要的作用。正反馈对大脑神经元的同步动作起着一定的作用。在图16.1.5(b)所示的层状神经网络结构中，信号依特定的方向传播。在生物体内，大脑皮质之间、感觉器官和大脑之间，就可以看作是一种分层结构，即功能模块级的分层。在大脑内确实存在各种机理不同的功能模块，这一点被大脑的解剖研究已经证明，而且每一个模块内部是由神经元组成的并行处理系统。人工神经网络的工作原理人工神经网络首先要以一定的学习准则进行学习，然后才能工作。网络学习的准则应该是：如果网络作出错误的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。将模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。神经网络的工作过程主要由两个阶段组成，一个阶段是工作期，此时各连接权值固定，计算单元的状态变化，以求达到稳定状态。另一阶段是学习期(自适应期，或设计期)，此时各计算单元状态不变，各连接权值可修改(通过学习样本或其他方法)，前一阶段较快，各单元的状态亦称短期记忆(STM)，后一阶段慢的多，权及连接方式亦称长期记忆(LTM)。人工神经网络的学习规则神经网络的学习过程，一般是，首先设定初时权值，如果无先验的知识，初时权值可设定为随机值。接着输入样本数据进行学习，参照评价标准进行评判。如果达到要求，就停止学习，否则按照给定的学习法则调整权值，继续进行学习，直到取得满意的结果为止。神经网络的学习规则，主要包括误差传播式学习、联想学习、竞争性（Competitive）学习和基于知识的学习等。各种学习规则都是以Hebb规则为基础的。▲误差传播式学习感知器（Perceptron）神经网络中的是一种最基本的神经网络模型，它是F.Rosenblatt于1961年提出来的。设神经元的输入输出关系为η是学习速率，di是教师信号或希望输出，δi是实际输出yi与希望输出di之差，yi和xj取1或0的离散值。)(1iinjijjiiufyxwu0001)(iiiuuufjijijiijijixtwxdytwtw)()()()1(▲联想式学习根据空间或时间上接近的事物之间，性质上相似或相反的事物之间，以及存在因果关系的事物都可能在人的大脑中产生联想的原理，人们提出了许多无教师的联想式学习模式，其学习规则可以表示为在联想式学习中，权值变化仅是输入与输出同时兴奋的结果。由于联想发生在输入与输出之间，所以这种联想被称为异联想（Hetroassociation）。jijijixytwtw)()1(▲竞争性学习在竞争性学习时，网络各输出单元相互竞争，最后达到只有一个最强者激活，最常见的一种情况是输出神经元之间有侧向抑制性连接（图16.1.6）,这样，原来输出单元中若有一个单元较强，则它将获胜并抑制其它单元，最后只有此强者处于激活状态。最常见的竞争性学习规则可以写为竞争失败若神经元竞争获胜若神经元j0j)(jiijiwxw输入层输出层图16.1.6具有侧向抑制性连接的竞争学习网络▲基于知识的学习利用知识进行操作的过程。神经网络模型的种类按照拓扑结构可以分为反馈神经网络模型和前向神经网络模型；按照性能可以分为连续型和离散型神经网络模型，确定型和随机型神经网络模型；按照学习方式可以分为有教师学习和无教师学习神经网络；按照连接突触性质可以分为一阶线性关联神经网络模型和高阶非线性关联神经网络模型。常见的人工神经网络模型，主要包括感知器（Perceptron）神经网络、线性神经网络、前馈神经网络、径向基函数神经网络、自组织竞争神经网络、回归神经网络等。§16.2应用实例：城市水环境调控预测模型原理与方法模型的建立结论与建议将水环境综合指数作为预报因子，运用BP网络建立城市水环境调控预测模型，图16.2.1三层BP网络结构图研究步聚•筛选指标值，对原始数据进行归一化处理。•建立三层BP网络模型，如图16.2.1所示。•网络的训练•根据1990－1999年影响研究区可持续发展的相关指标，将前述的6个主要因素作为影响因素，水环境综合指数作为预报因子，建立神经网络模型。模型的建立结论与建议(1)建模时尽量减少隐含层神经元的个数。由于隐含层神经元个数的确定是凭经验的，没有公式可套，而个数的多少直接关系到网络的性能。个数太少，网络容易陷入局部极小值；太多，则网络的预测结果不稳定。为此，本文在网络的训练过程中，隐含层神经元个数的确定利用“试错法”来实现，即先给定一个较小的值，根据训练的结果逐渐增加，这样可找到适合该模型隐含层神经元个数的最小值，从而提高了网络的稳定性。(2)尽量获取足够多的样本，它的多少直接关系到所建模型的可靠性。(3)将神经网络与其它方法(如遗传算法)相结合。由于每种方法都有其各自的特点，多种方法的结合可改善单一方法所存在的缺陷。§16.3应用实例之二：长江三角洲地区城市体系的职能分类建立城市职能分类的指标体系Kohonen网络的原理建立城市分类的Kohonen网络模型结果及讨论1选择反映城市社会发展的指标在人口与劳动力构成中选取总人口、非农业人口、从业人员作为衡量城市规模的指标；将在校小学生数、中等学校学生数、高等学校学生数三项合并为一项，即在校学生数，同时选取各类专业技术人员、公共图书馆图书藏量、医院卫生院床位数作为反映社会文化教育的指标。建立城市职能分类的指标体系2选择反映城市社会经济的指标在城市国民生产总值综合指标中，选取国内生产总值、人均国民生产总值、第一产业、第二产业、第三产业、工业产值、农林牧渔总产值以及有关财政、金融、保险等17项指标。3选择反映城市基础设施的指标从交通运输、邮电事业的指标中，选取了公路客运量、公路客运量、邮电业务总量3项指标。城市社会发展总人口、非农业人口、从业人员、在职职工年平均工资、在校学生数、各类专业技术人员、公共图书馆图书藏量、医院卫生院床位数。城市经济发展城市社会发展国内生产总值、人均国民生产总值、第一产业产值、第二产业产值、第三产业产值、工业产值、农林牧渔总产值、固定资产投资、财政总收入、地方财政收入、地方财政支出、出口总额、利用外资、年末金融机构存款余额、年末金融机构贷款余额、保险收入、已决赔款。城市基础设施公路客运量、公路客运量、邮电业务总量。表16.3.1城市职能分类指标体系Kohonen网络的原理Kohonen网络也称为自组织特征映射网络(Self-OrganizingFeatureMap,简称SOM网络)，通过寻找最优权值矢量对输入模式集合进行分类。1Kohonen网络结构由输入层和输出层（也称竞争层）构成的两层网络，输入层用于接收输入模式，输出层的神经元一般按正则二维阵列排列，两层之间的各神经元实现双向权连接（见图16.3.1）。图16.3.1Kohonen网络结构2Kohonen网络的学习和工作规则Kohonen网络的自组织学习过程可以描述为：对于每一个网络的输入，只调整一部分权值，使权向量更接近或跟偏离输入矢量，这一调整过程，就是竞争学习，随着不断学习，所有权矢量都在输入矢量空间相互分离，形成了各自代表输入空间的一类模式，这就是Kohonen网络的特征自动识别的聚类功能（具体步骤参见书本）建立城市分类的Kohonen网络模型1指标数据的处理在本模型中，采用标准差标准化，将原始数据转换为：),,2,1(),,,,(21mixxxxXinijiii),,2,1(),,,,('''2'1'mixxxxXinijiii),,2,1;,2,1('njmisxxxjjijijmijijjmiijjxxmsxmx1211,12运用Matlab神经网络工具箱建立Kohonen网络模型将长江三角洲各城市的28项指标导入Kohonen网络中，作为网络的输入模式，因此输入层的神经元个数为28；而竞争层的神经元个数决定于需要分成几类，在不清楚分类数目的情况下，竞争层神经元个数从开始，然后依次加1，分别进行学习。在Kohonen网络模型中，选择网络训练的迭代最大次数为1000次，初始的学习率为0.5。),,,(2821kkkkPPPP3Kohonen网络模型的分类结果（详见课本）结果及讨论从长江三角洲城市的分类模型结果来看，分类结果与实际情况大体一致，结果较为理想。该方法的最大的优点是避免了各层次权重带来的主观性。运用Kohonen网络进行城市分类，存在很多需要改进的地方。比如，如果指标体系的合理选取和完善，加大学习样本以及输入模式，就可以加大网络的适应性；另外网络的学习算法也有待进一步改进，Kohonen网络是自适应学习的神经网络，其学习率随着时间减少，保证了全