第三讲多元正态分布

第一章多元正态分布2多元正态分布及参数估计基础知识统计距离和马氏距离多元正态分布均值向量和协方差阵的估计几种常用的抽样分布3基础知识随机向量分布密度函数多元变量的独立性随机向量的数字特征随机变量（randomvariable）5复习：（一元统计中的分布和密度函数）＊设是一个随机变量，称为的概率分布函数或称为分布函数，记为。＊离散型随机变量的概率分布列：在有限或可列个值上取值，记为，且。连续型随机变量的密度函数：存在一个非负函数，使得对一切实数有，称为的概率密度函数或密度函数。且满足：(1)，(2)。X)()(xXpxFX)(xFXX}{kxkkpxXp)(,2,1k1kkpX)(xfxxdxxfxF)()()(xfX)(xfxxf对一切实数,0)(1)(dxxf7随机向量随机向量:由多个随机变量组成的向量。n个样品，p个指标数据表：变量为列，样品为行。),,(21pXXXXX1X2……Xp1x11x12……x1p2x21x22……x2p…………………………nxn1xn2……xnp8分布函数与密度函数),,(21pXXXX),,(),,()(221121pPpxXxXxXPxxxFxFppRxxxx),,(219分布函数与密度函数设若存在一个非负函数f(.)，使得对一切成立，则称X有分布密度f(.)，并称X为连续型随机向量。性质：①，对于任意x属于p维实数空间。②),,()(~21pxxxFxFXpxpxdtdtdttttfxF,,,),,()(212112ppRxxxx),,(21pRdxxf1)(0)(xf边缘分布函数及边缘密度函数用途：判断随机变量的独立性独立的充分必要条件：),,(),,(),,,,,(11121pqqpqqxxFxxFxxxxxF或),,(),,(),,,,,(11121pqqpqqxxfxxfxxxxxf特别的中与独立的),,,(21pXXXXiX)(jiXj)()(),()()(),(jijijijixfxfxxfxFxFxxF多元向量的独立性12多元向量的独立性两个随机向量X和Y是相互独立的，则，对一切x,y成立。若F(x,y)为(X,Y)'的联合分布函数，G(x)和H(y)分别为X和Y的分布函数，则X和Y独立当且仅当F(x,y)=G(x)H(y)若f(x,y)为(X,Y)’的密度函数，g(x)和h(y)分别为X和Y的分布密度，则X和Y独立当且仅当f(x,y)=g(x)h(y)类似地，若它们的联合分布等于各自分布的乘积，则p个随机变量是相互独立的。)()(),(yYPxXPyYxXP13随机向量的数字特性随机向量的均值ppXEXEXEXE2121)()()()()()()()()()()(YBEXAEBYAXEBXAEAXBEXAEAXE性质14协方差矩阵1、定义：设和分别为维和维随机向量，则其协方差矩阵为),,,(21pxxxX),,,(21qyyyYpq)()()()()()(22112211qqppyEyyEyyEyxExxExxExE15),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111YXyxyxyxyxyxyxyxyxyxqpppqq时的协方差矩阵为YX)var(),cov(),cov(),cov()var(),cov(),cov(),cov()var()(2122121211pppppxxxxxxxxxxxxxxxVarx161)若(x1,x2,…，xp)’和(y1,y2,…，yq)’不相关。则0),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111qpppqqyxyxyxyxyxyxyxyxyx性质17)var(000)var(000)var()(21pxxxVarx若X=Y,且各分量相互独立，则协方差矩阵除主对角线上的元素外均为零，即协方差阵为方差D(x)182）随机向量X的协方差矩阵是非负定矩阵。证：设a为任意与X有相同维数的常数向量，则axxEaaa]))(([]))(([axxaE0)]([2xaE3）设A是常数矩阵，b为常数向量，则D(AX+b)=AD(X)A’；)(bAXD)]()[(bAbAXE])()[(bAbAX']))([(AxxAEAxA)(D194)若(x1,x2,…，xp)’和(y1,y2,…，yq)’分别是p和q维随机向量，A和B为常数矩阵，则ByxAByAx),(),(CovCov),(ByAxCov证}])()][(({[(yEyEEBBxAAx'),cov(]))([(BYXAEyyEEBxxA5)若(k1,k2,…，kn)是n个不全为零的常数，(x1,x2,…，xn)’是相互独立的n维随机向量，则)(21n21xxxnkkkD)()()(22221n21xxxDkDkDkn若的协方差阵存在，且每一个分量的方差大于0，则称随机向量的相关阵为其中。TpXXXX),,(21X11121212112ppppRjjiiijjjiijiijxxCov),(相关系数矩阵1/21/212111111/21/212222221/21/2121/21/211111/211/222221/2/11222ppppppppppppppRijjiiiiiirZZCovRpiXZ),(,,2,1,22多元正态分布•多元正态分布函数及其特征•抽样分布23多元正态分布多元正态分布在多元统计分析中占有重要的地位，是多元统计分布的基础。多元正态分布具有良好的性质：•有些现象服从多元正态分布•许多多元统计分布的抽样分布是近似正态分布24多元正态分布它是一元正态分布的推广设随机向量服从P维正态分布，则有，,~pNXxxXfp121221exp2)()',,,(21pxxxX二元正态分布设x~N2(μ,Σ)，这里易见，ρ是x1和x2的相关系数。当|ρ|1时，可得x的概率密度函数为211112222122,,xxxμΣ122122211112222211221,211exp221fxxxxxx二元正态分布的密度曲面图下图是当时二元正态分布的钟形密度曲面图。2212,0.75（1）、若，是对角阵，则相互独立。（2）、若，为阶常数阵，则且对任何维常数向量，。考虑的情形？),(~),,(21pTpNXXXXpXXX,,21),(~pNXApsds),(~TsAAANAX),(~dNdXpdAX多元正态分布性质(3)、若，将作如下剖分：则，。注：(1)多元正态分布的任何边缘分布为正态分布，但反之不真。(2)由于，故表示和不相关，因此可以知道，对于多元正态变量而言，和的不相关与独立是等价的。),(~pNX,,XqqpXXX)2()1(qqp)2()1(qqp22211211),(~11)1()1(qNX),(~22)2()2(qpNX),cov()2()1(12XX012)1(X)2(X)1(X)2(X29若,且0,则有：a)b)给定，),(~pNX),(~pNX1)(21pxxP多元正态分布的性质12pxμΣxμ总结起来，多元正态随机向量具有下列性质：▲的分量的线性组合服从正态分布；▲的分量的任一子集，仍服从正态分布；▲具有零协方差的分量相互独立；▲两个多元正态随机向量独立等价于协方差阵为0；▲多元正态随机向量的线性组合仍然是正态的。XX多元正态分布性质31条件分布和独立性若,将X，作如下划分：(p=2)),(~pNX,)2()1(XXX)2()1(22211211定理1若,则),(~pNX,0),(~)(21121)2()1(pNXX其中：)()2()2(12212)1(21X21122121121132条件分布和独立性若,将X，作如下划分：),(~pNX,tsrXXXX)3()2()1(tsr333231232221131211定理2则,0)(),(32)2(132231231)3()2()1(XXXXE其中：)()3()(3XXEiikjkkikijkij1tsr)3()2()1(3211322312311)3()2()1(),(XXXD例题：例1对于，求的分布。例2若，求的分布。例3设，其中。问：是否独立？和也独立？),(~),,(3321NXXXXT3221XXXX),(~),,(3321NXXXXT31XX),(~),,(3321NXXXXT50001202121,XX),(21XX3X复相关系数和偏相关系数一、复相关系数二、偏相关系数一、复相关系数（简单）相关系数度量了一个随机变量x1与另一个随机变量x2之间线性关系的强弱。复相关系数度量了一个随机变量x1与一组随机变量x2,⋯,xp之间线性关系的强弱。将x,Σ(0)剖分如下：111212212211,1111xpppσxΣxσΣx1和x2的线性函数间的最大相关系数称为x1和x2间的复(或多重)相关系数(multiplecorrelationcoefficient)，记作ρ1∙2,⋯,p,它度量了一个变量x1与一组变量x2,⋯,xp间的相关程度。可推导出12121222112,,1211max,pxlσΣσlx02lx偏相关系数将x,Σ(0)剖分如下：称为给定x2时x1的偏协方差矩阵。记，称为偏协方差，它是剔除了的（线性）影响之后，xi和xj之间的协方差。1111222122,kkpkpkkpkxΣΣxΣxΣΣ111211122221ΣΣΣΣΣ1121,,ijkpΣ1,,ijkp21,,kpxxx给定x2时xi和xj的偏相关系数（partialcorrelationcoefficient）定义为其中。ρij∙k