主成分分析PPT

主成分分析1基本思想2数学模型与几何解释3主成分的推导及性质4主成分性质目录CONTENT5样本的主成分6主成分分析计算步骤7主成分分析软件操作基本思想1在研究中，多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，人们会很自然地想到，能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息？§1基本思想事实上，这种想法是可以实现的，主成分分析方法就是综合处理这种问题的一种强有力的工具。主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。从数学角度来看，这是一种降维处理技术。数学模型与几何解释2§2数学模型与几何解释假设实际问题中有p个指标，我们把这p个指标看作p个随机变量，记为x1，x2，…，xp，主成分分析就是要把这p个指标，转变为讨论p个指标的线性组合的问题，这些新的指标y1，y2，…，yk(k≤p），原则:保留主要信息量的充分反映原指标的信息，并且相互无关。这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。11112121212122221122ppppppppppyuxuxuxyuxuxuxyuxuxux主成分分析通常的做法，是寻求原指标的线性组合yi：满足如下的条件：0,1,,ijCovyyijijp（，），，12()()pVaryVaryVary（）(2)主成分之间相互无关，即无重叠的信息。即(3)主成分的方差依次递减，重要性依次递减，即22211121iipiuuuuu(1)每个主成分的系数平方和为1（否则其方差可能为无穷大），即二维空间中主成分的几何意义：设有n个样品，每个样品有两个观测变量xl和x2。在由变量xl和x2所确定的二维平面中，n个样本点所散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl的方差和x2的方差定量地表示。显然，如果只考虑xl和x2中的任何一个，那么包含在原始数据中的信息将会有较大的损失。•••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴o将xl轴和x2轴先平移，再同时按逆时针方向旋转角度，得到新坐标轴Fl和F2，则•2x1x••••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴o1F2Fo旋转变换的目的是为了使得n个样品点在Fl轴方向上的离散程度最大，即yl的方差最大。变量yl代表了原始数据的大部分信息，在研究某些实际问题时，即使不考虑变量y2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。•2x1x1F2F•••••••••••••••••••••••••••••••••••主成分分析的几何解释平移、旋转坐标轴•ooyl，y2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的各点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。yl和y2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。主成分的推导及性质3§3主成分的推导及性质一、两个线性代数的结论1、若A是p阶实对称阵，则一定可以找到正交阵U，使p000000AUU211其中是A的特征根。pii.2.1,2、若上述矩阵的特征根所对应的单位特征向量为11121212221p12U(u,,u)ppppppuuuuuuuuu则U是正交矩阵，即有p1uu,,令IUUUU二、主成分的推导（一）第一主成分设x的协方差阵为2112122122x212Σppppp由于Σx为非负定的对称阵，所以存在正交阵U，使得1X0UΣU0p其中1,…,p为Σx的特征根，不妨假设1…p。11121212221p12U(u,,u)ppppppuuuuuuuuu12iiipiuuuu，，，i1,2,,iPU是由特征根相对应的特征向量所组成的正交阵：1211111()UUpDyaaaa设有P维单位向量111211,,,paaaa111121211ppyaxaxaxax下面证明，由U的第一列元素所构成的原始变量的线性组合有最大的方差。1122112p1puuu,u,,uupaa11111111111111uuuuUUppiiiiiiiaaaaaaaay1称为第一主成分。当11au时，11111ppyuxux，且11x11Varyuu．所以当且仅当11au时，1y有最大的方差1．如果第一主成分的信息不够，则需要寻找第二主成分。（二）第二主成分在约束条件下，寻找第二主成分12cov(,)0yy212122ppyaxaxax因为121212112cov(,)cov(,)0yyuxaxuaua210au所以于是，对任意的p维向量a2，有222221222221222222212222()uu(u)(u)uuUUpiiiippiiiiipiiiVyaaaaaaaaaaaa21212222ppyuxuxux所以如果取线性变换：则y2的方差为λ2次大，并且y1和y2线性无关。类似地，可以得到方差逐步减少的p个线性无关的主成分：小结：方差逐步减少的p个线性无关的主成分为11112121212122221122ppppppppppyuxuxuxyuxuxuxyuxuxux写为矩阵形式：yUx1112121222112(,,)pppppppuuuuuuUuuuuu12(,,,)pxxxx主成分性质41、均值y(Ux)UEE2、原总体的总方差（或称为总惯量）等于不相关的主成分的方差之和111()pppiiiiiiiVarx§4主成分的性质若存在mp，使得11pmiiiii，则p个原始变量所提供的总信息（总方差）的绝大部分只需用前m个主成分来代替。3.主成分ky与原始变量ix之间的相关系数,kiyx称为因子负荷量（或因子载荷量），并且,,1,2,,kikkiiiuyxkip证明：,x,ex,kikikikiikiiCovyxCovuyx，其中e0,,0,1,0,0i。于是x,exx,xeeeekikikiikkikkikCovuuCovuuuu4、贡献率与累积贡献率1）贡献率：第i个主成分的方差在全部方差中所占比重,称为第i个主成分的贡献率，反映了第i个指标提供多大的信息，有多大的综合能力。piii12）累积贡献率：前k个主成分共有多大的综合能力，用这m个主成分的方差和在全部方差中所占比重来描述，称为累积贡献率。11pmiiii累积贡献率大小反映m个主成分提取了12,,,pxxx的多少信息，但没有表达某个变量被提取了多少信息，为此引人下述概念。3)将前m个主成分12,,,myyy对原始变量ix的贡献率定义为ix与12,,,myyy之间的相关系数的平方，即2()1mmkikiiiiu4)主成分个数的选择进行主成分分析的目的之一是简化数据结构，用尽可能少的主成分12,,,myyymp代替原来的p个指标。在实际工作中，主成分个数的选取通常有两个标准一个是按累积贡献率达到一定的程度（如70%或80%以上）来确定m；另一个先计算协方差矩阵或相关矩阵的特征值的均值，取大于的特征值的个数作为m.大量实践表明，当20p时，第一个标准容易取太多的主成分，第二个标准容易取太少的主成分，故最好将两者结合起来使用，并考虑m个主成分对ix的贡献率。例:设x1,x2,x3的协方差矩阵为120250002解得特征根为15.8322.0030.17第一个主成分的贡献率为5.83/（5.83+2.00+0.17）=72.875%，尽管第一个主成分的贡献率并不小，但在本题中第一主成分不含第三个原始变量的信息，所以应该取两个主成分。10.3830.9240.000u2001u30.9240.3830.000u相应的正交特征向量为在实际问题中，不同的变量往往具有不同的量纲，为了消除由于量纲的不同可能带来的不合理的影响，常采用将变量标准化的方法。记2,()iiiiExVarx，令*,1,2,,iiiixxip，则标准化后的随机变量****12x,,,pxxx的协方差阵*就是原随机向量x的相关阵R。从R出发求得的主成分****12y,,,pyyy，有与总体主成分相同的性质。5标准化变量的主成分及其性质样本的主成分5在实际问题中，总体的协方差阵通常是未知的，需要由样本方差阵估计。记样本观测阵为§5样本的主成分11()()1nijliiljjpplppSsxxxxn则样本协方差阵和样本相关阵分别为ppjjiiijppijSSSrR**)*()(一、样本主成分1.主成分得分阵注意到所以，主成分得分阵和标准化后的原始观测阵之间满足：二、样本主成分的导出在前面讲到，若原始资料阵是经过标准化处理的，则求得的协方差阵就是相关矩阵，我们仅介绍由样本相关阵出发求解主成分。由此可知新的综合变量（主成分）Y1,Y2,…,Yp彼此不相关，并且Yi的方差为λi，则Y1=γ1'X,Y2=γ2'X,Yp=γp'X分别称为第一、第二、......、第p个主成分。由上述求主成分的过程可知，主成分在几何图形中的方向实际上就是R的特征向量的方向，关于主成分分析的几何意义在前面已经讨论过；主成分的方差贡献就等于R的相应特征值。这样，我们在利用样本数据求解主成分的过程实际就转化为求相关阵或协方差阵的特征值和特征向量的过程。主成分分析计算步骤6§6主成分分析计算步骤一、主成分的计算表1n个指标取值的一组样本数据指标样本X1X2···Xn12···mY11Y12···Y1nY21Y22···Y2n············Ym1Ym2···Ymn1.对样本进行标准化处理•数据标准化首先是无量纲化，因为不同指标的量纲通常是不完全相同的，为了使各指标之间具有可比性，必须消除指标的量纲。其次，数据的原始样本不一定满足E(X)=0,因此必须对原始样本数据进行标准化处理，以便使样本数据量纲为一，并且满足E(X)=0。•标准化处理的计算式为：),...,2,1()(11),...,2,1(12121njYYmSnjYmYSYYXmijijjmiijjjjijij•经标准化处理后可得到标准化矩阵：mnmmnnXXXXXXXXXX.....................2122221112112.计算相关系数，得到相关矩阵•计算标准化后的每两个指标间的相关关系，得到相关系数矩阵R，即n个指标的协方差矩阵。即mkjkikijnnnnnnnjiXXmrrrrrr