BP神经网络实例分析

——蚊子分类问题正向传播：◦输入样本－－－输入层－－－各隐层－－－输出层判断是否转入反向传播阶段：◦若输出层的实际输出与期望的输出（教师信号）不符误差反传◦误差以某种形式在各层表示－－－－修正各层单元的权值网络输出的误差减少到可接受的程度或达到预先设定的学习次数为止一、BP网络的标准学习算法-学习过程•已知的两类蚊子的数据如表1：翼长触角长类别1.781.14Apf1.961.18Apf1.861.20Apf1.721.24Af2.001.26Apf2.001.28Apf1.961.30Apf1.741.36Af目标值0.90.90.90.10.90.90.90.1翼长触角长类别1.641.38Af1.821.38Af1.901.38Af1.701.40Af1.821.48Af1.821.54Af2.081.56Af目标t0.10.10.10.10.10.10.1训练样本确定模型输入/输出结构：两输入、单输出输入数据有15个，即p=1,…,15;j=1,2;对应15个输出。建模：(输入层、中间层、输出层、每层应选取多少个元素？)建立神经网络规定目标为：当t(1)=0.9时表示属于Apf类，当t(2)=0.1时表示属于Af类。(1)网络初始化给各连接权值分别赋一个区间（0，1）内的随机数，设定误差函数E，给定计算精度值和最大学习次数M。令p=0，p为样本编号二、具体训练步骤如下：)3,2()2,2()1,2()3,1()2,1()1,1(1111111)3,1()2,1()1,1(2222)()3,(jjwii表示第i层第j个神经元的阈值其中3101010101131010101011)(),2()3()3,2()2()2,2()1()1,2()2()(),1()3()3,1()2()2,1()1()1,1()1(jjjajwawawawujajwawawawu(2)根据输入数据计算网络输出))(()(11iufia))(exp(111iu=2,1i))1(exp(11)1()(),1()1(2231122uajajwuj同理，输出神经元取,1)3(0a1)3(1a将各神经元的阈值作为固定输入(3)训练输出单元的权值xexf11)(取激励函数则)](1)[()1()(2'xfxfeexfxx))1(())1()1(()1(2'22ufat2222)))1(exp(1/())1(exp())1()1((uuat取学习速率（或其他正数，可调整大小）1.0计算),1()1(2jWP)()1(),1(),1()1(1)1(2)(2)1(2jajWjWppppj=1,2,3其中p为第p个样本，j=1,2,3PS：利用输出层各神经元的误差项和隐含层各神经元的输出来修正权值。)1(2(4)训练隐藏单元的权值)()(),(),()1(0)1(1)(1)1(1jaijiWjiWpppp其中i=1,2,3j=1,2,3上述4个步骤为：使用第一个样本调整输出层和隐藏层各个神经元的权值。PS：利用隐含层各神经元的误差项和输入层各神经元的输入来修正权值。)()1(1ip),1()1()](1)[(),1()1()]([)()1(2)1(211)1(2)1(21')1(1iWiaiaiWiufippppp(5)计算全局误差211)]1()1([21)(2)(2ppatEEppppp当用完所有样本时，判断网络误差是否满足要求。当误差达到预设精度或学习次数大于预设最大次数，则结束算法。否则，返回(2)，进入下一圈学习。•注：仅计算一圈（p=1，2，…，15）往往是不够的，直到误差达到预设精度或学习次数大于设定的最大次数时停止。本例中，共计算了147圈，迭代了2205次。•最后计算结果是：2764.02875.05787.05765.05976.75921.51W9829.34838.04075.82W网络模型的解为：2764.0)2(2875.0)1(5787.0)2(5765.0)2(5976.7)1(5921.5)1(001001aauaau))(()(11iufia))(exp(111iu2,1i=))1(exp(11)1(9829.3)2(4838.0)1(4075.8)1(22112uaaau谢谢！