Chapter10智能综合评价方法

综合评价方法何永秀博士教授华北电力大学经济与管理学院OverviewChapter10：智能化综合评价方法问题当权重难以决定，如何由部分评价对象到全体评价对象？-所有评价对象抽取样本-通过智能分析方法获取权重等综合评价的知识；-对所有评价对象进行评价人工神经网络评价法非线性数学模型；ANN由大量与自然神经细胞类似的人工互联而成的网络，学习和培训-经验-知识-判断与评价；人工神经网络评价法通过神经网络的自学习、自适应能力和强容错性，建立更加接近人类思维模式的定性和定量相结合的综合评价模型。训练好的网络把专家的评价思想以连接权方式赋予于网络上。BP神经网络BP神经网络，即多层前馈式误差反向传播神经网络，是人工神经网络中最具代表性和广泛应用的一种，其结构简单，可操作性强，能模拟任意的非线性输入输出关系。BP神经网络通常由输入层、输出层和若干隐含层构成，每层由若干个结点组成，每一个结点表示一个神经元，上层结点与下层结点之间通过权联接，同一层结点之间没有联系。神经元结构图BP神经网络模型结构………输入层隐含层输出层BP神经网络算法神经元输入、输出关系1NiijjijYfwx式中，xj为第j个输入;Yi为第i个神经元的输出；wij为第j个与第i个神经元相连的权值；θi为第i个神经元的阀值。传递函数传递函数：对数S型（logsig）双曲正切S型（tansig）线性等等。传递函数-激励函数权值修正–反向1NpjjipiinetWOk()()()pjpjpjpjpjpkkjfnetdOfnetW对于输出节点对于输入节点()[()(1)]jijipjpjjijiWWtOWtWt式中，Opj为输出；dpj为期望输出；E为误差；η为学习速率；netpj为节点j的输入总和；α为势态因子。()pjpjOfnet(2pjpjjppdOEE2）BP神经网络模型的算法流程BP神经网络模型设计网络层数的确定：网络层数与隐含层元个数；输入神经元个数：随评价目的定。隐含层神经元个数-n输入，m输出，a常数BP神经网络模型设计激励函数选择:logsig、purelin学习速率一般取（0.01，0.8）训练函数选择:（一）普通：批梯度下降函数（traingd）；动量批梯度下降函数（traindm）；（二）快速：自适应修改学习率算法(traingda，traingdx)有弹回的BP算法(trainrp)。…面向MATLAB的BP神经网络设计神经网络工具箱:net=newffnet=newff(PR,[S1S2…SN],{TF1,TF2…TFN},BTF,BLF,PF)PR输入向量的取值范围；Si第i层的神经元个数，总共N层；TFi第i层的激励函数，缺省值为“tansig”；BTF神经网络训练函数，缺省值为“trainlm”；BLF神经网络权值和阈值的学习函数，缺省值为“learngdm”；PF性能函数，缺省值为“mse”；执行结果：创建一个N层的BP神经网络。面向MATLAB的BP神经网络设计训练命令：train(),adapt()仿真：sim()绘图函数poltperf可以用来计算网络性能曲线。径向基网络的神经网络工具箱函数径向基（RBF）网络是以函数逼近理论为基础构造的一类前向网络。具有结构自适应确定、输出与初始权值无关的优良特性，在多维曲面拟合、故障诊断应用广泛。[net,tr]=newrb(P,T,GOAL,SPREAD,MN,DF)P:输入；T：目标输出；GOAL：均方差；SPREAD：径向基函数的扩展速度；MN：神经元的最大数目，默认25；DF：两次显示添加的神经元数目；net:返回值，一个径向基（RBF）网络；tr：返回值，训练记录。ANN问题局部极小隐含层节点个数确定问题GABP+GA均方误差函数MSE的倒数作为遗传算法的适应度函数。在遗传操作的每一代中，对每一条染色体进行译码得到相应权值和闭值，并根据权值和闲值计算出相应个体的适应度，当个体适应度值满足优化准则，则停止执行遗传操作，否则一直执行，直到执行遗传代数达到最大代数为止。最后记住该模型的网络结构、权值和阂值，最后用测试数据来评价整个网络的优劣。GA一BP技术继承了遗传算法全局搜索功能强和BP神经网络局部搜索能力强的特点，实现了快速高效的全局寻优。GA优化BP神经网络参数开始样本数据预处理随机产生权重和阀值,t=0停止准则？适应值计算轮盘选择交叉变异下一代训练BP网络输出结果停止准则？误差允许？调整学习参数YNYNGABPGA优化BP神经网络参数1()()fiEi2111()2pnkkjjkjEiTO1iiNiifpfFA+BP对定性指标进行模糊化处理，指标综合化等等。粗糙集RS+BP/RBF把粗糙集RS作为模型的前置系统进行属性约简，消除样本冗余，减少BP神经网络输入维数和隐含层神经元权值连接的个数，从而达到提高BP神经网络训练速度、运行速度和评价精度的目的。RS：不确定或不精确知识的表达;经验学习并从经验中获取知识;不一致信息的分析;根据不确定、不完整的知识进行推理;近似模式分类;识别并评估数据之间的依赖关系。软件：ROSETTA支持向量基SVM支持向量机是由Vapnik及其合作者提出的一种创新性机器学习方法，其理论基础是统计学习理论。SVRM求得的回归函数形式上类似于一个神经网络,其输出是若干中间层节点的线性组合,而每一个中间层节点对应于输入样本与一个支持向量的内积，因此，也叫支持向量网络。支持向量基SVM线性情况下的最优分类线支持向量机解决回归问题的基本原理设训练样本集线性回归问题，线性回归方程为常用的损失函数有ε-insensitive损失函数支持向量机解决回归问题的基本原理支持向量机解决回归问题，可转化为求解下列数学规划问题支持向量机解决回归问题的基本原理把原问题转化为对偶问题，使得计算的复杂度不再取决于空间维数，而是取决于样本数，尤其是样本中的支持向量数，支持向量机的这个特点使它能有效地对付高维问题。支持向量机解决回归问题的基本原理其对偶问题为非线性支持向量机解决回归问题的基本原理非线性回归，回归方程为规划问题核函数多项式径向基函数Sigmoid核函数支持向量机解决回归问题的基本原理分类函数式变为任选一支持向量x，b*由下式给出小波网络小波网络WN（WaveletNetwork）：–小波分析WA，20世纪30年代，真正形成是1984年，法国科学家Grossman和Morlet在进行地震信号分析时提出，随后得到快速发展。–小波网络WN最早由法国信息科学研究机构IRISA的QinghuaZhang等于1992年提出，它是一种前馈型网络。小波网络是小波理论与神经网络相结合的产物，它是小波分解与前馈神经网络的融合。基于小波网络的多属性综合评价基本思想：对于复杂对象的多属性综合评价，在统一指标类型的基础上，利用评价指标的无量纲数据，通过小波网络的学习，得到专家知识，建立由评价指标属性值到输出综合评价值的非线性映射关系。在对其他类似问题进行评价时，只需输入待评价对象的指标数据向量，即可经网络计算得到其综合评价值，从而达到自动运行、快速评价及决策支持的目的。基于小波网络的多属性综合评价小波网络模型小波变换是一种不同参数间的积分变换：dttbahtfbawf),,()(),(12(,,)()tbhabtaha小波ｂ：平移因子，ａ：缩放因子ykxk（1）rk（i）rk（1）rjrnr1∑h1hjhnlim指标一致化及无量纲化处理…………wmnrk（m）xk（m）xk（i）……基于小波网络的多属性综合评价基于小波网络的多属性综合评价jmijkijnjjkabirwhry11)(余弦调制的高斯波：Morlet母小波)2(2)75.1cos()(tetthth(t)网络的误差能量函数211ˆ(),,.2pkkkEyy调整参数使其最低基于小波网络的多属性综合评价基于小波网络的多属性评价算法①赋予小波网络参数wij、rj、bj、aj的随机初始值并赋予最大计算次数N；②将评价样本k的指标属性值向量{xk（i）}转化为指标属性一致的无量纲数据{rk（i）}。③将{rk（i）}输入该网络，计算相应输出yk。基于小波网络的多属性综合评价④计算网络的梯度向量，jmijkijkabirwj1)()(计算网络的梯度向量njjkkjPkkkijijairjhryywEwg11)()()ˆ()(PkkkkjjjhyyrErg1))(()ˆ()(njjkkjPkkkjjajjhryyaEag11)()()ˆ()(njjkjPkkkjjajhryybEbg111)()ˆ()(计算网络的梯度向量2)(2)(22))(75.1sin(75.1)())(75.1cos()(jkkjkkkkejjejjh基于小波网络的多属性综合评价⑤采用共轭梯度法（Fletcher-Reeves公式）调整网络参数（t为迭代次数）：同理,可计算st（rj）、st（aj）、st（bj）。1),()(twgwsijtijt1),()()()()(11twswgwgwgwsijtijtijtijtijt基于小波网络的多属性综合评价则网络参数调整如下：w（t）ij=w（t-1）ij+αst-1（wij）r（t）j=r（t-1）j+βst-1（rj）a（t）j=a（t-1）j+γst-1（aj）b（t）j=b（t-1）j+ηst-1（bj）基于小波网络的多属性综合评价⑥返回步骤2，直到网络的误差能量函数不大于给定数值ε或计算次数超过最大计算次数N为止。粒子群算法粒子群算法(ParticleSwarmOptimization，PSO)是由Kennedy和Eberhart等于1995年开发的一种演化计算技术，来源于对一个简化社会模型的模拟。由于PSO算法概念简单，实现容易，短短几年时间，PSO算法便获得了很大的发展，并在一些领域得到应用。每个个体（微粒）根据下式来调整它的飞行速度和位置(1)()()()()()1122VtwVtcrPtXtcrPtXtikikgkikikik(1)()(1)ijijijxtxtvt粒子群算法的基本实现步骤（1）在初始化范围内，对粒子群进行随机初始化，包括随机位置x和速度v。（2）计算每个粒子的适应值。（3）对于每个粒子，将其适应值与所经历过的最好位置的适应值进行比较，如果更好，则将其作为粒子的个体历史最优值，用当前位置更新个体历史最好位置。（4）对每个粒子，将其历史最优适应值与群体内或邻域内所经历的最好位置的适应值进行比较，若更好，则将其作为当前的全局最好位置。（5）对粒子的速度和位置进行对比优化。（6）若未达到结束条（件通常为足够好的适应值或达到一个预设最大代数），则返回步骤（2）。蚁群算法蚁群算法(AntColonyAlgorithm，ACA)是由意大利学者MarcoDorigo、VManiezzo、AColorni等人在20世纪90年代初首先提出来的。该算法不仅能够实现智能搜索、全局优化，而且具有鲁棒性、正反馈、分布式计算、易与其它算法相结合等特点。MDorigo等人将蚁群算法先后应用于旅行商(TSP)、资源二次分配等经典优化问题，取得了较好效果。蚁群算法各个蚂蚁在没有事先告诉他们食物在什么地方的前提下开始寻找食物。当一只找到食物以后，它会向环境释放一种信息素，吸引其他的蚂蚁过来，这样越来越多的蚂蚁会找到食物！有些蚂蚁并没有象其它蚂蚁一样总重复同样的路，他们会另辟蹊径