支持向量机在人脸识别中的应用

支持向量机在人脸识别中的应用姓名___郝硕__学号_2009482100_专业_计算机科学与技术_分数_________1.引言人脸是人类视觉中的常见模式,人脸识别在安全验证系统、公安(犯罪识别等)、医学、视频会议、交通量控制等方面有着广阔的应用前景[28]。现有的基于生物特征的识别技术,包括语音识别，虹膜识别，指纹识别等，都已用于商业应用。然而最吸引人的还是人脸识别，因为从人机交互的方式来看，人脸识别更符合人们的理想。虽然人能毫不费力地识别出人脸及其表情，但人脸的机器自动识别仍然是一个具挑战性的研究领域。由于人脸结构的复杂性以及人脸表情的多样性、成像过程的光照、图像的尺寸、旋转及姿势的变化等,即使同一个人，在不同的环境下拍摄得到的人脸图像也可能不同,所以,虽然人脸识别的研究已有２０多年的历史,至今还没有通用成熟的人脸自动识别系统出现。从算法的实践看,人脸识别不同于很多经典的识别问题，经典的模式识别,譬如文字识别等要处理的是相对较少的类同时每个类有大量的训练样本,人脸识别中通常处理的是有相当多的类，对于每个类则存在很少的样本，识别算法必须在很少的样本中提取特征，通过训练进行人脸图像的匹配。支持向量机是建立在统计学习理论基础上的解决两类问题的学习方法，由于其快速性和有效性，近年来得到了广泛的研究和应用。2.支持向量机支持向量机(SupportVectorMachines–SVM)是在结构风险最小化基础上，对两种不同类别类别的样本数据找到一个最优分类面的方法。支持向量机AT&TBell实验室的V。Vapnik等人根据统计学习理论提出的一种新的机器学习方法，已经在模式识别、回归分析和特征选择等方面得到了较好的效果。支持向量机可以看作一种新的训练多项式、径向基机分类器或神经网络分类器的方法。支持向量机是基于统计学理论的基础上的，可以克服神经网络难以避免的问题。通过支持向量机在逼近能力方面与BP网络仿真结果的比较表明，支持向量机具有较强的逼近能力和泛化能力。支持向量机因其特有的优越性在将越来越受到各领域的重视，具有很好的应用前景。支持向量机是以统计学理论为基础的，因而具有严格的理论和数学基础，可以不像神经网络的结构设计需要依赖于设计者的经验知识和先验知识。支持向量机与神经网络的学习方法相比，支持向量机具有以下特点:1)支持向量机是基于结构风险最小化原则，保证学习机器具有良好的泛化能力;2)解决了算法复杂度与输入向量密切相关的问题;3)通过引用核函数，将输入空间中的非线性问题映射到高维特征空间中在高维空间中构造线性函数判别;4)支持向量机是以统计学理论为基础的，与传统统计学习理论不同。它主要是针对小样本情况，且最优解是基于有限的样本信息，而不是样本数趋于无穷大时的最优解;5)算法可最终转化为凸优化问题，因而可保证算法的全局最优性，避免了神经网络无法解决的局部最小问题;6)支持向量机有严格的理论和数学基础，避免了神经网络实现中的经验成分。支持向量机根据结构风险最小化准则，在使训练样本分类误差极小化的前提下，尽量提高分类器的泛化推广能力。从实施的角度，训练支持向量机等价于解一个线性约束的二次规划问题，使得分隔特征、空间中两类模式点的两个超平面之间距离最大，而且它能保证得到的解为全局最优点。本文主要是针对支持向量机目前存在的若干问题展开的研究与探讨，涉及支持向量机的训练、分类、模型选择和多分类器构造等方面，把研究成果应用于人脸识别问题中，可取得的效果主要有：(1)提出一种快速支持向量机分类算法FCSVM。FCSVM算法旨在减少分类方程中的支持向量数量以提高分类速度，对支持向量集采用变换的方式，用少量的支持向量代替全部支持向量进行分类计算，并在决策过程中保留所有支持向量的信息量，在一定条件下保证不损失分类精度，同时使得分类速度有较大提高。在UCI标准数据集上进行的分类实验以及在FERET标准人脸库上进行的人脸识别实验都表明该算法具有较好的性能，在一定程度上克服了传统的支持向量机分类速度较慢的缺点，尤其在训练集规模庞大、支持向量数量较多的情况下，采用该算法能够较大幅度地减小计算复杂度、提高分类速度，改善支持向量机的性能。(2)提出一种支持向量机核参数优化选择算法OMSA。OMSA算法以核矩阵和核校准的概念为基础，通过对核矩阵的研究，根据核矩阵的对称正定性，用优化的方式实现核函数参数的选择，仅利用训练样本且不通过SVM标准训练和测试过程而寻求最优的核参数和相应的最优学习模型，改善了目前支持向量机在模型选择方面经验性强和计算量大的缺点。采用该算法在UCI标准数据集和FERET标准人脸库上进行了实验，结果表明通过该算法找到的核参数以及相应的核矩阵是最优的，为SVM最优模型选择提供了一种方法。(3)提出一种基于差异的支持向量机多分类算法DMSVM。DMSVM算法引入了样本特征差异的概念，根据特征差异将整个多分类系统构造为一个二分类问题，实现过程中只需要求解一个二次规划，减小了计算复杂度。在UCI标准数据集上的分类实验以及在FERET和BioID标准人脸库上的人脸识别实验都表明该算法比其他一些SVM多分类方法具有更快的速度和更高的正确率，且具有较大的灵活性和较好的可扩展性，适用于较大规模的分类问题，改善了传统SVM方法在解决多分类问题上的不足。(4)提出一种球结构支持向量机多分类算法SMSVM。SMSVM算法以一类分类方法为基础，将同一类数据用一个超球来界定，特征空间中的多类样本由多个超球来构成，不同的超球包含不同类的样本，以各个超球之间的边界来区分不同类的样本而实现多分类。在UCI标准数据集上的分类实验以及在Yale和ORL标准人脸库上的人脸识别实验都表明该算法具有计算复杂性小、速度快、易于扩充等优点，可以用来处理规模较大的分类问题。支持向量机用于分类，构造的复杂程度取决于支持向量的数目,而不是特征空间的维数,这就有效地解决了机器学习中非线性与维数灾难问题,图1就是SVM用于分类的构造示意图。3.人脸特征表示和提取人脸识别中应用最广的技术是由A.Pentland和M.Turk提出的Eigenface技术，思路是通过Karhunen-Loève(简称K-L)变换将图像数据映射到一个特征空间上，即通过主成分分析(PrincipleComponentsAnalysis-PCA)的方法达到降低维数的目的,这里称降维后的图像数据为人脸的特征数据,下面就来讨论人脸识别系统中通过PCA提取数据的方法。3.1预处理过程在人脸识别系统中，要达到正确识别的目的，预处理过程是非常重要的。系统采用了模板匹配的方法，先根据图像中人脸不同器官色素的特殊性，定位出瞳孔的中心，然后将图像缩放旋转使眼睛处于固定的位置，并采用直方图匹配技术使图像具有统一的均值和方差，以部分消除光照强度的影响,同时屏蔽头发和背景。3.2识别过程对于训练和测试，首先都是将经过预处理的人脸图像投影到经过K-L变换得到的原有的人脸图像特征子空间中，系统中特征子空间维数是64。因此一个人脸图像可用特征空间中的一个64维的向量表示,这样的数据即为人脸特征数据.识别问题可以被简单的定义为，给定一系列人的训练图片，和一个未标明的人脸测试图片，给出这个图片所在的类别。分为训练和测试两个模块.图4为识别系统框图,包含了前面讨论的各个子系统。SVM算法的算法很多,系统中采用了J.C.Platt的快速算法,并根据实验结果调整。