基于BP神经网络的手写数字识别PPT

基于BP神经网络的手写数字识别内容1234背景介绍神经网络分类器设计实例讲解小结手写数字识别是光学字符识别技术（OCR）的一个分支,研究如何利用计算机自动辨认手写在纸张上的数字。手写体数字的随意性很大,字体大小、倾斜、笔画的粗细等都会对识别结果造成影响。下面是一些样例：研究背景图像标准化处理输入：白底黑字的二值图像处理办法：把图像中每10*10的点进行划分相加，进行相加成一个点,统计每个小区域中图像象素所占百分比作为特征数据输出：5*7=35个网格特征待测图片标准化人工神经网络概况人工神经网络(ArtificialNeuralNetworks，ANN)：简称神经网络。模拟人脑神经细胞的工作特点：与目前按串行安排程序指令的计算机结构截然不同。*单元间的广泛连接；*并行分布式的信息存贮与处理；*自适应的学习能力等。人工神经元人工神经元：生物神经元的简化模拟。人工神经元间的互连：信息传递路径轴突-突触-树突的简化；连接的权值：两个互连的神经元之间相互作用的强弱。x1x2xnw1w2wn┇∑fy┇人工神经元模型接收的信息(其它神经元的输出)互连强度作比较的阈值n维输入向量X输出激活函数niiixwfy1神经元的动作：niiixwnet1)(netfy),(Rwxii激活函数f：01ynetθ（a）01ynet（b）ynet（c）01阈值型S型分段线性型输出值：niiixwfy11nw设，点积形式：)(TXWfyT11],,,[nnWT1]1,,,[nxxX式中，BP神经网络网络拓扑结构：1、BP神经网络具有三层或三层以上的多层神经网络2、每一层都由若干个神经元组成3、左右各层之间神经元实现全连接，同层神经元无连接神经网络之梯度下降法确定参数1、输入向量X=[X1,X2,X3,...,Xn]2、输出向量Y=[Y1,Y2,Y3,...,Yn]希望输出向量O=[O1,O2,O3,...,On]3、隐含层输出向量B=[b1,b2,b3,...,bp]T4、输入层到隐含层权值Wji=[wj1,wj2,...,wjt,...,wjn]5、隐含层到输出层权值Vkj=[vk1,vk2,...,vkj...,vkp]输入模式顺传播：1、计算隐含层各神经元的激活值激活函数采用S型函数，即2、隐含层j单元的输出值同理，可以求得输出端的激活值和输出值jinijijxws.1pj,..,3,2,1)exp(11xxfnijijijjxwsfb1.exp11神经网络之梯度下降法3、计算输出层第k个单元的激活值4、计算输出层第k个单元的实际输出值kpjjkjkbvS1.kksfyqt,...,2,1输入模式顺传播：神经网络之梯度下降法输出误差的逆传播：1、输出层的校正误差2、隐含层各单元校正误差3、连接权值以及校正量kkkkkyyyod1jjqkkkjjbbdve1.1wdbdvkkjkkj...jjijjiexew...神经网络之梯度下降法循环记忆训练：为了让网络的输出误差趋于极小值，一般需要进行数百次甚至上万次循环记忆，不断的反复循环上面介绍的步骤神经网络之梯度下降法实例详解图片库mnist样例:(0~9)500*(28*28)待测试图片：实例详解1实例详解2小结1、神经网络可以有效对手写数字进行分类2、需要尽可能的添加手写数字到样品库3、神经网络有可能会陷入局部极小值，导致错分结束