搜索
随机过程PCA用于人脸识别附Matlab代码于琦2011/10/27学号：20090111492011-10-27PCA用于人脸识别1【摘要】人脸识别技术是近来非常活跃的研究领域，它综合多学科知识，且应用非常广泛。采用主元分析法（PCA）进行人脸识别的经典方法之一。本文利用Matlab在ORL人脸库上实现PCA初步人脸识别，包括图像特征提取、人脸重构与识别方法设计。讨论了用奇异值分解等方法简化特征向量求解，并详细阐述其在Matlab中的实现过程。结合ORL人脸库自身特点，通过对特征值和特征脸的分析进行合理取舍，提高了识别率。【介绍】“人脸识别是一项热门的计算机技术研究领域，它属于生物特征识别技术，是对生物体（一般特指人）本身的生物特征来区分生物体个体。更好的解决该问题将有助于身份确认和身份查找等应用、促进众多学科的发展。”“目前，人脸识别的方法可以分为5类，分别为基于特征脸（PCA）的人脸识别方法，神经网络的人脸识别方法，弹性图匹配的人脸识别方法，线段Hausdorff距离(LHD)的人脸识别方法支持向量机(SVM)的人脸识别方法。其中给予特征脸的人脸识别是传统方法，基于K-L变换(PCA)的人脸识别方法又叫特征脸方法、本征脸方法（Eigenface），最早由Turk和Pentland提出。它有均方误差最小，降维减少计算量，主分量特性稳定等优点。”“由于PCA较之于前几种方法相对简单，故本文对PCA算法进行研究并用Matlab给出实现。”“本文的结构安排如下：第二章模型（Model）及基本理论和方法（BasicTheoryandMethod），第三章方法（Method）及方法分析（AnalysisofMethod），第四章算法（Algorithm）及算法分析（AnalysisofAlgorithm），第五章数值结果及讨论（Discussion），第六章结论（Conclusion）。第二章模型及基本理论和方法采用PCA对原始数据的处理，通常有三个方面的作用—降维、相关性去除、概率估计。下面分别进行介绍：1.去除原始数据相关性从统计学上讲，E{[X−E(X)][Y−E(Y)]}称为随机变量X与Y协方差，记为Cov(X,Y)。ρ=Cov(X,Y)√𝐷(X)D(Y)，称为随机变量X与Y的相关系数。若ρ≠0，则X与Y是相关的；若ρ=0，则X与Y是不相关的。命题1对于矩阵A来说，如果AA𝑇是一个对角阵，那么A中的向量是非相关的。由PCA处理的人脸库数据的非相关性可以从两点进行说明。（1）基底的非相关性特征空间基U=[u1,u2,⋯,u𝑟−1]是非相关的，即UU𝑇=I。（2）投影系数的非相关性由SVD可知A={ϕ,ϕ2,⋯,ϕ𝑀}=UΛVT,其中φi=xi–mx,mx是均值脸。根2011-10-27PCA用于人脸识别2据公式（2）可以把A映射到特征空间上，得到：B=UT×A，其中B非相关。2.统计参数（均值及方差）均值即mx--平均人脸。命题2随机变量方差越大，包含的信息越多，当一个变量方差为0时，该变量为常数，不含任何信息。用PCA计算主分量，就是寻找一组向量，使得原始数据A={φ1,φ2,...,φM}在这组向量上的投影值的方差尽可能大。最大方差对应的向量就是第一主成份，以后递推就是第二主成份，第三主成份„„。用PCA计算主分量就是求原始数据A={ϕ,ϕ2,⋯,ϕ𝑀},其中φi=xi–mx协方差矩阵的特征向量U=[u1,u2,⋯,u𝑟−1]，由公式（3）可知，P=u𝑖𝑇𝐴=(p1,p2,⋯,p𝑚)是A在ui上的投影值，其中P的方差就是ui对应的特征值λi，可以理解为：命题3所有原始数据在主分量iu上的投影值方差为λi3.降维如果在原始空间表示一幅n×m大小的图片X，那么需要一个N＝n×m维矢量，但是当用公式(2)把它映射到特征空间后，只需要一个r*1维的向量就可。另外，由命题2可知，可以根据方差的大小来判断特征向量的重要性。由ORL图片库的200个人脸计算得到的特征值呈图2分布，可知特征向量重要性呈指数下降，据此可以只选用前面几个重要的特征向量来构建特征空间。通过计算，前71个特征值占了90.17%，因此r可以取71而非200，从而达到进一步降维的作用。当然除了通过贡献率简单截取特征值外，通过其他方式也可，这这在后面会介绍。图1.ORL人脸库的特征值2011-10-27PCA用于人脸识别3第三章方法及方法分析3.1特征脸与均值脸U=[u1,u2,⋯,u𝑟−1]中的每一个单位向量都构成一个特征脸，如图3所示。由这些特征脸所张成的空间称为特征脸子空间，需要注意对于正交基的选择的不同考虑，对应较大特征值的特征向量(正交基)也称主分量，用于表示人脸的大体形状，而对应于较小特征值的特征向量则用于描述人脸的具体细节，或者从频域来看,主分量表示了人脸的低频部分,而此分量则描述了人脸的高频部分（源码见’Show_Ui.m’）。13115272160Averge3.2图片重建要进行图片X的重建，首先对X投影到特征空间上，得到系数Y=U𝑇(X–mx),然后选用一部分系数与特征向量进行原始图片的重建：Y𝑟𝑒𝑠𝑡𝑟𝑢𝑐𝑡𝑖𝑜𝑛=𝑈∗𝑈′∗(𝑋−𝑚𝑥)+𝑚𝑥要注意：对U空间的选取不同，重构结果也不相同，而且并不是保留的特征向量越多，所得的重构结果绝精确，因为小特征值代表细节部分（高频部分），不是人脸的一般特征。第四章算法及算法分析我们当然可以直接计算的自相关矩阵，但由于图像形成的向量维数过大，直接计算的计算量成为问题，为解决这个问题，我们采用奇异值分解。4.1奇异值分解定理设A是一个秩为r的n×r维矩阵，那么存在两个正交矩阵以及对角阵分别为U=[u1,u2,⋯,u𝑟]∈×，UTU=I;V=[1,2,⋯,𝑟]∈𝑟×，VTV=I;=diag[1,2,⋯,𝑟]𝑟×其中1≥2≥⋯≥r，满足A=U𝑇由此可得一个推论：U=AVΛ可以计算A𝑇A的特征值λ2及相应的正交归一特征向量vi后，可由推论知AA𝑇的正交归一特征向量:ui=1Avi综上所述，我们可以用训练集的维数代替图向量的维数，这大大降低了计算量。2011-10-27PCA用于人脸识别4注：本题中，图向量长度为N=112×=10304，而训练集的长度为M=200.4.2识别算法方法一：把待测试人脸（40张不同的人脸，来自ORL，训练集用剩余的160张）和待测猩猩脸分别输入重构系统进行重构，简单的计算原图像和重构图像的差的范数，即：=‖Y−Yoo‖定义识别率为：=o−（p）（p）若识别率超过某一个阈值（设为），即,就认为给图像非人。方法二：根据训练集里的样本在最优特征脸空间的坐标，生成阈值，若o,则认为它是非人脸图像。这样的可以定义为：,=12max{‖𝑖−‖},注：当然通过这种方法，可以以一定的准确率去判断测试人脸是属于训练集里的那个人的。就是根据待测向量在特征脸空间的投影坐标和那个训练集里向量的投影坐标夹角最小即可。4.3特征值的取舍为得到最优特征脸空间U，需要根据ORL人脸库的实际情况，运用各种不同的方法：首先，由于ORL人脸图像背景的敏感条件变化较大，这种不利变化反应到特征脸上，就是前几幅图像背景明显过亮，故去除前三个特征值（如不去掉，重构图像严重重影），最后面的特征值代表细节分量，而且前图看到最后一个特征脸基本上呈现雪花状态（其实小特征值部分的信噪比很低了）。故去掉后40%的特征值达到去噪的目的。最后经反复实践，发现ui=4:90~95为最佳特征空间（按法一，得到最高识别率=）。第五章数值结果及讨论数值结果如下：40张非训练集人脸重构图如下：2011-10-27PCA用于人脸识别5按照方法一（详见Face-Process.m）：1范数下的重构误差（41点为猩猩）：2范数下的重构误差：−1=0−2=0按照方法二(详见Face_Rec.m)：=11.466916630933683o=23.626080297708491结论：可以判断出KingKong不属于人脸。附录：一．致谢感谢卞峰凯同学，姜项羽同学的帮助。二．参考文献[1]程自龙，雷秀基于K-L变换(PCA)的特征脸人脸识别方法综述[2]龚勋PCA人脸识别及理论基础[3]全星慧于丽计春悦基于主元分析的人脸识别方法研究[4]于澄清.基于K-L变换的人脸识别算法研究[D].沈阳:沈阳工业大学,20072011-10-27PCA用于人脸识别6[5]赵宏伟.基于PCA针对表情变化的人脸识别技术研究[D].西安:西安电子科技大学,2009[6]赵旻.基于KL算法的人脸识别理论的研究及系统实现[D].成都:四川大学,2004[7]YangJian,DavidZhang.Two-DimensionalPCA:ANewApproachtoAppearance-BasedFaceRepresentationandRecognition[J].IEEETrans.onPAMI,2004,226(4):131-137[8]杨梅.基于LBP和混合2DPCA+PCA的人脸识别研究[D].南京:南京理工大学,2007[9]李武军,王崇骏,张炜,陈世福.人脸识别研究综述[J].模式识别与人工智能.2006,19(1):58-65[10]WenyiZhao.Robustimagebased3Dfacerecognition[D].PhD.Thesis.UniversityofMaryland,CollegePark,1999[11]ComonP.IndependentComponent