SVM-支持向量机算法概述-1.

支持向量机（SupportVectorMachine）算法概述沈新蕊OutlineSVM的理论基础线性判别函数和超平面间隔与几何间隔核函数与松弛变量SVM的理论基础支持向量机(SupportVectorMachine)是Cortes和Vapnik于1995年首先提出的，从诞生至今才10多年，发展史虽短，但其理论研究和算法实现方面却都取得了突破性进展，有力地推动机器学习理论和技术的发展。这一切与支持向量机具有较完备的统计学习理论基础的发展背景是密不可分的。它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。SVM支持向量机支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accuracy）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折衷，以期获得最好的推广能力（或称泛化能力）。VC维VC维是对函数类的一种度量，可以简单的理解为问题的复杂程度，VC维越高，一个问题就越复杂。正是因为SVM关注的是VC维，SVM解决问题的时候，和样本的维数是无关的。结构风险最小机器学习本质上就是一种对问题真实模型的逼近，真实模型一定是不知道的，那么我们选择的假设与问题真实解之间究竟有多大差距，我们就没法得知。这个与问题真实解之间的误差，就叫做风险（更严格的说，误差的累积叫做风险）。我们选择了一个假设之后，真实误差未知，但我们可以用某些可以掌握的量来逼近它。最直观的想法就是使用分类器在样本数据上的分类的结果与真实结果之间的差值来表示。这个差值叫做经验风险Remp(w)。结构风险最小以前的机器学习方法都把经验风险最小化作为努力的目标，但后来发现很多分类函数能够在样本集上轻易达到100%的正确率，在真实分类时却一塌糊涂（即推广能力差，或泛化能力差）。此时的情况便是选择了一个足够复杂的分类函数，能够精确的记住每一个样本，但对样本之外的数据一律分类错误。此原则适用的大前提是经验风险要确实能够逼近真实风险才行，但实际上能逼近么？不能，因为样本数相对于现实世界要分类的文本数来说简直九牛一毛，经验风险最小化原则只在这占很小比例的样本上做到没有误差，当然不能保证在更大比例的真实文本上也没有误差。泛化误差界统计学习因此而引入了泛化误差界的概念，就是指真实风险应该由两部分内容刻画，一是经验风险，代表了分类器在给定样本上的误差；二是置信风险，代表了我们在多大程度上可以信任分类器在未知文本上分类的结果。显然，第二部分是没有办法精确计算的，因此只能给出一个估计的区间，也使得整个误差只能计算上界，无法计算准确的值（所以叫做泛化误差界，而不叫泛化误差）。置信风险与两个量有关，一是样本数量，显然给定的样本数量越大，我们的学习结果越有可能正确，此时置信风险越小；二是分类函数的VC维，显然VC维越大，推广能力越差，置信风险会变大。泛化误差界泛化误差界的公式为：R(w)≤Remp(w)+Ф(n/h)公式中R(w)就是真实风险，Remp(w)就是经验风险，Ф(n/h)就是置信风险。统计学习的目标从经验风险最小化变为了寻求经验风险与置信风险的和最小，即结构风险最小。SVM正是这样一种努力最小化结构风险的算法。其它概念小样本，并不是说样本的绝对数量少，而是说与问题的复杂度比起来，SVM算法要求的样本数是相对比较少的。非线性，是指SVM擅长应付样本数据线性不可分的情况，主要通过松弛变量（也叫惩罚变量）和核函数技术来实现，这一部分是SVM的精髓。关于文本分类这个问题究竟是不是线性可分的，尚没有定论，因此不能简单的认为它是线性可分的而作简化处理，先当它是线性不可分的（反正线性可分也不过是线性不可分的一种特例）。其它概念高维模式识别是指样本维数很高，例如文本的向量表示，如果没有经过降维处理，出现几万维的情况很正常，其他算法基本就没有能力应付了，SVM却可以，主要是因为SVM产生的分类器很简洁，用到的样本信息很少（仅仅用到那些称之为“支持向量”的样本），使得即使样本维数很高，也不会给存储和计算带来大麻烦。线性判别函数和超平面线性分类器是最简单也很有效的分类器形式。在一个线性分类器中，可以看到SVM形成的思路并接触很多SVM的核心概念。用一个二维空间里仅有两类样本的分类问题来举例。如下图所示：线性函数C1和C2是要区分的两个类别，在二维平面中它们的样本如上图所示。中间的直线就是一个分类函数，它可以将两类样本完全分开。一般的，如果一个线性函数能够将样本完全正确的分开，就称这些数据是线性可分的，否则称为非线性可分的。线性函数什么叫线性函数呢？在一维空间里就是一个点，在二维空间里就是一条直线，三维空间里就是一个平面，如果不关注空间的维数，这种线性函数还有一个统一的名称——超平面（HyperPlane）。实际上，一个线性函数是一个实值函数（即函数的值是连续的实数），而我们的分类问题需要离散的输出值，例如用1表示某个样本属于类别C1，而用0表示不属于，这时候只需要简单的在实值函数的基础上附加一个阈值即可，通过分类函数执行时得到的值大于还是小于这个阈值来确定类别归属。线性函数例如我们有一个线性函数：g(x)=wx+b取阈值为0，这样当有一个样本xi需要判别的时候，我们就看g(xi)的值。若g(xi)0，就判别为类别C1，若g(xi)0，则判别为类别C2（等于的时候就拒绝判断）。此时也等价于给函数g(x)附加一个符号函数sgn()，即f(x)=sgn[g(x)]是我们真正的判别函数。线性函数注意：一，式中的x不是二维坐标系中的横轴，而是样本的向量表示，二，这个形式并不局限于二维的情况，在n维空间中仍然可以使用这个表达式，只是式中的w成为了n维向量（在二维的这个例子中，w是二维向量，为了表示起来方便简洁）；三，g(x)不是中间那条直线的表达式，中间那条直线的表达式是g(x)=0，即wx+b=0，我们也把这个函数叫做分类面。间隔与几何间隔中间那条分界线并不是唯一的，我们把它稍微旋转一下，只要不把两类数据分错，仍然可以达到上面说的效果，稍微平移一下，也可以。此时就牵涉到一个问题，对同一个问题存在多个分类函数的时候，哪一个函数更好呢？显然必须要先找一个指标来量化“好”的程度，通常使用的都是叫做“分类间隔”的指标。几何间隔对于文本分类这样的不适定问题（有一个以上解的问题称为不适定问题），需要有一个指标来衡量解决方案（即我们通过训练建立的分类模型）的好坏，而分类间隔是一个比较好的指标。在进行文本分类的时候，可以让计算机这样来看待我们提供给它的训练样本，每一个样本由一个向量（那些文本特征所组成的向量）和一个标记（标示出这个样本属于哪个类别）组成。几何间隔如：Di=(xi,yi)xi就是文本向量（维数很高），yi就是分类标记。在二元的线性分类中，这个表示分类的标记只有两个值，1和-1（用来表示属于还是不属于这个类）。定义一个样本点到某个超平面的间隔：δi=yi(wxi+b)几何间隔首先注意到如果某个样本属于该类别的话，那么wxi+b0，而yi也大于0；若不属于该类别的话，那么wxi+b0，而yi也小于0，这意味着yi(wxi+b)总是大于0的，而且它的值就等于|wxi+b|（也就是|g(xi)|）。现在把w和b进行一下归一化，即用w/||w||和b/||w||分别代替原来的w和b，那么间隔就可以写成：几何间隔当用归一化的w和b代替原值之后的间隔有一个专门的名称，叫做几何间隔，几何间隔所表示的正是点到超平面的欧氏距离，我们下面就简称几何间隔为“距离”。图更加直观的展示出了几何间隔的现实含义。H是分类面，而H1和H2是平行于H，且过离H最近的两类样本的直线，H1与H，H2与H之间的距离就是几何间隔。几何间隔与样本误分次数间的关系之所以如此关心几何间隔这个东西，是因为几何间隔与样本的误分次数间存在关系：其中的δ是样本集合到分类面的间隔，R=max||xi||i=1,...,n，即R是所有样本中向量长度最长的值。不必追究误分次数的具体定义和推导过程，只要记得这个误分次数一定程度上代表分类器的误差。而从上式可以看出，误分次数的上界由几何间隔决定。由此说明为何要选择几何间隔来作为评价一个解优劣的指标，几何间隔越大的解，它的误差上界越小。因此最大化几何间隔成了我们训练阶段的目标。优化目标一个线性分类函数，有了判断解优劣的标准——即有了优化的目标，这个目标就是最大化几何间隔，但是一些关于SVM的论文的优化目标是要最小化||w||，这是怎么回事呢？间隔和几何间隔的定义：间隔：δ=y(wx+b)=|g(x)|几何间隔：得：δ=||w||δ几何几何间隔与||w||是成反比的，因此最大化几何间隔与最小化||w||完全是一回事。常用的方法并不是固定||w||的大小而寻求最大几何间隔，而是固定间隔（例如固定为1），寻找最小的||w||。求一个函数的最小值（或最大值）的问题都可以称为寻优问题（也叫作一个规划问题），又由于找最大值的问题总可以通过加一个负号变为找最小值的问题，因此下面讨论针对找最小值的过程来进行。一个寻优问题最重要的部分是目标函数，就是指寻优的目标。目标函数例如寻找最小的||w||这件事，就可以用下面的式子表示：但实际上对于这个目标，常常使用另一个完全等价的目标函数来代替，那就是：不难看出当||w||2达到最小时，||w||也达到最小，反之亦然。这个式子是否能描述我们的问题呢？我们的问题是有一堆点，可以被分成两类，我们要找出最好的分类面。如果直接来解这个求最小值问题，很容易看出当||w||=0的时候就得到了目标函数的最小值。但是无论给什么样的数据，都是这个解。反映在图中，就是H1与H2两条直线间的距离无限大，这个时候，所有的样本点（无论正样本还是负样本）都跑到了H1和H2中间。而我们原本的意图是，H1右侧的被分为正类，H2左侧的被分为负类，位于两类中间的样本则拒绝分类（拒绝分类的另一种理解是分给哪一类都有道理，因而分给哪一类也都没有道理）。但，所有样本点都进入了无法分类的灰色地带。约束条件造成这种结果的原因是在描述问题的时候只考虑了目标，而没有加入约束条件。约束条件就是在求解过程中必须满足的条件，体现在问题中就是样本点必须在H1或H2的某一侧（或者至少在H1和H2上），而不能跑到两者中间。前文提到过把间隔固定为1，这是指把所有样本点中间隔最小的那一点的间隔定为1，意味着集合中的其他点间隔都不会小于1，按照间隔的定义，满足这些条件就相当于让下面的式子总是成立：yi[(w·xi)+b]≥1(i=1,2,…,l)（l是总的样本数）但我们常常习惯让式子的值和0比较，因而经常用变换过的形式：yi[(w·xi)+b]-1≥0(i=1,2,…,l)因此我们的两类分类问题也被我们转化成了它的数学形式，一个带约束的最小值的问题：从最一般的定义上说，一个求最小值的问题就是一个优化问题，它同样由两部分组成，目标函数和约束条件，可以用下面的式子表示：式1约束条件用函数c来表示。可以看出一共有p+q个约束条件，其中p个是不等式约束，q个等式约束。式1式中的x是自变量，但不限定它的维数必须为1（视乎解决的问题空间维数）。要求f(x)在哪一点上取得最小值，不是在整个空间里找，而是在约束条件所划定的一个有限的空间里找，这个有限的空间就是优化理论里所说的可行域。注意可行域中的每一个点都要求满足所有p+q个条件，而不是满足其中一条或几条就可以，同时可行域边界上的点有一个额外好的特性，它们可以使不等式约束取得等号。可行域还有个概念不得不提，那就是凸集：凸集是指有这么一个点的集合，其中任取两个点连一条直线，这条线上的点仍然在这个合内部。再来看我们线性分类器问题的描述：式2自变量就是w，而目标函数是w的二次函数，所有的约束条件都是w的线性函数。这种规划问题有称呼——二次规划（QuadraticProgramming，QP），更进一