线性可分

线性可分用判别域界面方程分类的概念1.分类的基本原理不同模式对应特征点在不同的区域中散布。运用已知类别的训练样本进行学习,产生若干个代数界面d(x)=0,将特征空间划分成一些互不重叠的子区域。2.判别函数表示界面的函数d(x)称为判别函数对于来自两类的一组模式,如果能用一个线性判别函数正确分类,则称他们是线性可分的。3.线性可分的定义12,,....Nxxx2x1x21o0)(32211wxwxwxd两类的分类问题，它们的边界线就是一个判别函数X轴Y轴两类问题中线性不可分的实例123边界2x1x三类的分类问题，它们的边界线也是一个判别函数一、两类问题对于两类问题,待识别模式增广特征矢量可通过下面的判别规则进行分类识别:设为判别函数x()dx120()00ixdxwxxx或拒判11223()dxwxwxw211x2x二、多类问题M个判别函数：具有性质：判别规则：（1）二分法例1：已知三类ω1,ω2,ω3的判别函数分别为：问属于哪一类？解：带入判别函数结论：属于ω2类。132模糊区域1R3R2R11非22非（2）ωi/ωj二分法区分ωi/ωj的判别函数：'()ijijdxwx有M(M-1)/2个判别平面具有性质：ij0()0ijwhenxdxijwhenx判别规则：()0,,ijidxjix若判例2：已知三类ω1,ω2,ω3，判别函数分别为：12121312322()5()3()dxxxdxxdxxx问：当时属于哪一类？(4,3)x解：代入判别函数可得:121323()2,()1,()1dxdxdx下标变换可得:213132()2,()1,()1dxdxdx33()0,jdxx1321R3R2R122313模糊区域（3）最大判别准则如果不用区别二类问题的线性判别函数，可采用一般的c类线性判别函数：0(),1,2,,TiiigwicXWX如果对于所有的i≠j，有：()(),,1,2,,ijggijcXX则把模式X归到类去。而如果这个模式在第i类和第j类的分界面上，则有i00()()()()()()0ijTijijijggggwwXXXXWWX例：假设判别函数为：11221232()()1()dxxxdxxxdxx问属于哪一类。(1,1)x解：将模式代入上面各式得：(1,1)x0)(1xd1)(2xd1)(3xd)()(12xdxd)()(32xdxd由于2x所以1321R2R3R12()()ggxx12()()ggxx13()()ggxx13()()ggxx32()()ggxx32()()ggxx三种方法小结