第七章 图像识别

第7章图像识别利用神经网络识别实现图像分割第7章图像识别7.1概论7.2图像匹配7.3基于最小错误率贝叶斯决策理论7.4线性判别函数7.5人工神经网络图像识别运用模式识别的原理对图像对象进行分类的学问。7.1概论1模式识别的基本定义（1）模式识别(PatternRecognition)进行物体分类的学科。举例：人日常生活中的模式识别（2）模式(pattern)A、事物所具有的时间或空间分布信息。（狭义）B、描绘子的组合。（更狭义）一维信息：例如声音信号，腾格尔的歌声。二维信息：例如图像信号，数字照相机拍摄的照片。三维信息：CT重建图像。多维信息：（3）模式类(patternclass)一个拥有某些共同特性的模式族。2模式识别系统（1）信息的获取通过传感器，将光或声等信息转化为电信息。（2）预处理：A、信号增强：去除噪声，加强有用信息。信号恢复：对退化现象进行复原。B、归一化处理（例如图像大小的归一化；神经网络输入数据的归一化）（3）特征提取和特征选择A、特征分类：物理特征、结构特征、数学特征。B、特征形成：根据被识别的对象产生出一组基本特征，它可以是计算出来的（当识别对象是波形或数字图像时），也可以是用仪表或传感器测量出来的（当识别对象是事物或某种过程时），这样产生的特征叫做原始特征。C、特征提取：原始特征的数量可能很大，通过映射（或变换）的方法可以用低维空间表示样本，这个过程叫做特征提取。映射后的二次特征是原始特征的线性组合（通常是线性组合）。D、特征选择：从一组特征中挑选出一些最有效的特征以达到降低特征空间维数的过程。例如：一幅96x64的图象（a）Gabor滤波器编码；（b）小波变换+神经网络；（c）细节点（分叉点、端点）（4）分类器设计分类器设计的主要功能是通过训练确定判决规则，使按此类判决规则分类时，错误率最低或风险最小。（5）分类决策在特征空间中对被识别对象进行分类。思考题：水果（如苹果和桔子）图像自动识别系统：选择那些有效特征，可以把苹果和桔子有效地区分开来？3模式识别的基本问题（1）特征如何提取？-------特征产生（2）最有效的特征是那些特征？-------特征选择（3）对特定任务，如何设计分类器？-------分类器设计（4）分类器设计后，如何评价分类器？分类错误率是多少？-------分类器评价模式传感器特征产生特征选择分类器设计分类器评价设计流程4模式识别方法的分类（1）监督与非监督模式识别A、监督模式识别利用先验知识和训练样本来设计分类器。B、非监督模式识别利用特征向量的相似性来自动进行分类。（2）其他分类方法A、统计模式识别依据决策理论而进行模式识别的方法。包括贝叶斯决策理论、判别函数、近邻法等。B、聚类模式识别C、神经网络模式识别D、结构模式识别（句法模式识别）5预备知识（1）特征用于分类的测度。（2）特征向量由多个特征组成的向量。Ⅹ=(X1,X2,…,Xn)T（3）分类器把特征空间划分为不同类别区域的“机器”。7.2图像匹配1定义根据已知模式到另一幅图中寻找相应的模式。2基于相关的模板匹配10210102101010)],([)],([),(),(),(KkJjKkJjKkJjkjtkyjxfkyjxfkjtyxR3基于误差平方和的模板匹配10102)],(),([),(JjKkkjtkyjxfyxD4、特征模板匹配5、特征匹配WjmxxDWjxNmjjxjjj,,2,1)(,,2,117.3基于最小错误率贝叶斯决策理论1贝叶斯公式（1）概率：某事件发生的几率。（2）先验概率在实际的事件没有出现之前，我们所拥有的该事件可能出现的概率。举例：（1）扑克牌：大王，K。（2）硬币：正面，反面。（3）赌场押大小：1000次：810次大，190次小。1001次？1002次？…问题：是否可以提高押对的概率，减少押错的概率？除先验概率外，必须利用其他的信息。（3）类条件概率密度细胞识别：正常细胞ω1异常细胞ω2光密度特征：x类条件概率密度p(x|ω)：类别状态为ω时的x概率密度函数。)(1xP)(2xPx条件概率密度分布)(ixP（4）贝叶斯公式A、P(ωj,x)=P(x|ωj)P(ωj)（总体；类）举例：P(ω1)=0.4，P(ω2)=0.6,P(x=12|ω1)=0.15，P(x=12|ω2)=0.35则：P(ω1,x=12)=0.15*0.4P(ω2,x=12)=0.35*0.6B、P(ωj,x)=P(ωj|x)P(x)C、贝叶斯公式)()()()()()()()(21两类时（后验概率）jjjiiiPxPxPxPPxPxP贝叶斯公式的物理含义：通过观察x的值，就可以把先验概率转化为后验概率，即特征值x已知的情况下类别属于ωj的概率。2、基于最小错误率的贝叶斯决策（1）决策规则（两类情况）)(1xP)(2xPx2.04.06.08.00.1后验概率分布)(xPi2112212112212122112121)()(ln)()(ln)(D)()()()(C)()()()(B)()(AxPPxPxPxgxPPxPxPxPxPPxPxxPxP、、、、（2）判决的误差概率这时错误率最小。当当为这时错误率则二类问题：若21122121),(),()().(,),()(xxPxxPxePxPxxPxP练习：某地区细胞识别；P(ω1)=0.9，P(ω2)=0.1未知细胞x，先从类条件概率密度分布曲线上查到：求解：该细胞属于正常细胞还是异常细胞？7.4线性判别函数1问题的引入（1）Bayes决策尽管是最优决策，但实现困难。A、类条件概率密度的形式常难以确定。B、非参数方法需要大量样本。（2）模式识别的任务是分类，可根据样本集直接设计判别函数。（次优的）2线性判别函数的基本概念（1）线性判别函数的一般表达式：ddT21210)(（举例）（2）决策规则，则拒绝或任意类则，则，0)(0)(0)(21xgxxgxxg7.5人工神经网络人工神经网络是对生物神经网络的简单模拟。1生物神经网络（1）复杂多样性生物神经网络复杂多样，不仅在于神经元和突触的数量大、组合方式复杂和联系广泛，还在于突触传递的机制复杂。已经发现的传递机制有突触后兴奋、突触后抑制、突触前兴奋、突触前抑制，远程“抑制”。（2）生物神经计算六个基本特征•神经元及其联接：多输入，一输出；•神经元之间的联接强度决定信号传递的强弱；•神经元之间的联接强度可以通过训练改变；•信号可以起刺激作用，也可以起抑制作用；•神经元接受信号的累积决定该神经元的状态；•每个神经元可以有一个“阈值”。2人工神经网络人工神经网络ArtificialNeuralNetworks（ANN）是对人类大脑系统的一阶特性的一种描述，是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。（1）人工神经元模拟生物神经元的一阶特性–输入：X=（x1，x2，…，xn）–联接权：W=（w1，w2，…，wn）T–网络输入：y=∑（xi*wi）=XW–激励函数：f–输出：o（2）激活函数激活函数(ActivationFunction)——执行对该神经元所获得的网络输入的变换：o=f（y）A、线性函数（LinerFunction）f（y）=ky+cB、非线性斜波函数(RampFunction)C、阈值函数（ThresholdFunction）阶跃函数D、S形函数Sigmoid（3）三层前馈神经网络（BP神经网络模型：Back-propagation）（可以逼近任意函数）x1o1输出层隐藏层输入层x2o2omxn…………由教师对每一种输入模式设定一个期望输出值。对网络输入实际的学习记忆模式，并由输入层经中间层向输出层传播（称为“模式顺传播”）。实际输出与期望输出的差即是误差。按照误差平方最小这一规则，由输出层往中间层逐层修正联结权值，此过程称为“误差逆传播”。随着“模式顺传播”和“误差逆传播”过程的交替反复进行，网络的实际输出逐渐向各自所对应的期望输出逼近，网络对输入模式的响应的正确率也不断上升。补充材料：鱼的分类我们通过鱼眼的图像特征，用支持向量机对鱼进行分类。当用一个支持向量机时，正确识别率为83~85%之间，当用多个支持向量机形成分类器组合时，正确识别率提高到89~91%之间。点评