第1章高阶统计量的定义与性质

第1章高阶统计量的定义与性质§1.1准备知识1.随机变量的特征函数若随机变量x的分布函数为)(xF，则称dxxfexdFeeExjxjxj)()(][)(为x的特征函数。其中)(xf为概率密度函数。离散情况：}{,][)(kkkkxjxjxxpppeeEk*特征函数)(是概率密度)(xf的付里叶变换。例：设x~),(2aN，则特征函数为dxeexjax222/)(21)(令2/)(axz，则dzeajzjz221)(根据公式：ABACCxBxAxeAdxe222，则2221)(aje若0a，则2221)(e。2.多维随机变量的特征函数设随机变量nxxx,,,21联合概率分布函数为),,,(21nxxxF，则联合特征函数为),,,(][),,,(21)()(2122112211nxxxjxxxjnxxxdFeeEnnnn令Tnxxx],,,[21x,Tn],,,[21ω，则dXfeTj)()(xωxω矩阵形式或nnxjndxdxxxfeknkk,,),,(),,,(11211标量形式其中，),,,()(21nxxxffx为联合概率密度函数。例：设n维高斯随机变量为Tnxxx],,,[21x,Tnaaa],,,[21annnnncccccc2111211c)])([(],cov[kkiikiikaxaxExxcx的概率密度为)()(21exp)2(1)(2/12/axcaxcxTnPx的特征函数为cωωωaωTTj21exp)(矩阵形式其中，Tn],,,[21ω,ninjjiijniiinCaj1112121exp),,,(标量形式3.随机变量的第二特征函数定义：特征函数的对数为第二特征函数为)(ln)((1)单变量高斯随机过程的第二特征函数22221ln)(22ajeaj(2)多变量情形jniinjiijiniinCaj1112121),,,(§1.2高阶矩与高阶累积量的定义1.单个随机变量情形（1）高阶矩定义随机变量x的k阶矩定义为dxxpxxEmkkk)(][显然10m，][1xEm。随机变量x的k阶中心矩定义为dxxpxxEkkk)()(])[((1)由式(1)可见，10,01,22。若),,2,1(nkmk存在，则x的特征函数)(可按泰勒级数展开，即)()(!1)(1nknkkOjkm(2)并且km与)(的k阶导数之间的关系为nkjddjmkkkkkk),0()()()(0（2）高阶累积量定义x的第二特征函数)(按泰勒级数展开，有)()(!)(ln)(1nknkkOjkc(3)并且kc与)(的k阶导数之间的关系为nkjddjddjckkkkkkkkk),0()()(1)(ln100kc称为随机变量x的k阶累积量，实际上由1)0(及)(的连续性，存在0，使时，0)(，故第二特征函数)(ln)(对有意义且单值（只考虑对数函数的主值），)(ln的前n阶导数在0处存在，故kc也存在。(3)二者关系下面推导kc与km之间的关系。形式地在式(2)与式(3)中令n，并利用kkkkkkjkcjkm)(!exp)(!1)(11nkkkkkkkkkjkcnjkcjkc)(!!1)(!!21)(!11211比较上式中各),2,1()(kjk同幂项系数，可得k阶累积量与k阶矩的关系如下：][11xEmc22222122]])[[(])[(][xExExExEmmc33323312133]])[[(])[(2)][(][3][23xExExExExExEmmmmc4441221312244]])[[(61243xExEmmmmmmmc若0][xE，则011mc][222xEmc][333xEmc2242244])[(3][3xExEmmc由上可见，当随机变量x的均值为零时，其前三阶累积量与前三阶矩相同，而四阶累积量与相应的高阶矩不相同。2.多个随机变量情形(1)高阶矩给定n维随机变量),,,(21nxxx，其联合特征函数为)]([exp),,,(221121nnnxxxjE(4)其第二联合特征函数为),,,(ln),,,(2121nn(5)可见，联合特征函数),,,(21n就是随机变量),,,(21nxxx的联合概率密度函数),,,(21nxxxp的n维付里叶变换。对式(4)与(5)分别按泰勒级数展开，则阶数nkkkr21的联合矩可用联合特征函数),,,(21n定义为021212121212121),,,()(][nnnnknkknrrknkkkkkjxxxEm(2)高阶累积量同样地，阶数nkkkr21的联合累积量可用第二联合特征函数),,,(21n定义为02121021212121212121),,,(ln)(),,,()(nnnnnknkknrrknkknrkkkjjc(3)二者关系联合累积量nkkkc21可用联合矩nkkkm21的多项式来表示，但其一般表达式相当复杂，这里不加详述，仅给出二阶、三阶和四阶联合累积量与其对应阶次的联合矩之间的关系。设nxxx,,,21和4x均为零均值随机变量，则][),(212111xxExxcumc(6a)][),,(321321111xxxExxxcumc(6b)),,,(43211111xxxxcumc][][][][][][][3241423143214321xxExxExxExxExxExxExxxxE(6c)对于非零均值随机变量，则式(6)中用][iixEx代替ix即可。与单个变量情形类似，前三阶联合累积量与前三阶联合矩相同，而四阶及高于四阶的联合累积量则与相应阶次的联合矩不同。注意，式(6)中采用)(cum表示联合累积量的方法在以后将时常用到。3.平稳随机过程的高阶累积量设)}({nx为零均值k阶平稳随机过程，则该过程的k阶累积量),,,(121,kxkmmmc定义为随机变量)}(,),(),({11kmnxmnxnx的k阶联合累积量，即))(,),(),((),,,(11121,kkxkmnxmnxnxcummmmc而该过程的k阶矩),,,(121,kxkmmmm则定义为随机变量)}(,),(),({11kmnxmnxnx的k阶联合矩，即))(,),(),((),,,(11121,kkxkmnxmnxnxmommmmm这里，)(mom表示联合矩。由于)}({nx是k阶平稳的，故)}({nx的k阶累积量和k阶矩仅仅是时延121,,,kmmm的函数，而与时刻n无关，其二阶、三阶和四阶累积量分别为)]()([)(,2mnxnxEmcx)]()()([),(2121,3mnxmnxnxEmmcx)()()]()()()([),,,(32,21,2321321,4mmcmcmnxmnxmnxnxEmmmcxxx)()()()(21,23,213,22,2mmcmcmmcmcxxxx可以看出，)}({nx的二阶累积量正好就是其自相关函数，三阶累积量也正好等于其三阶矩，而)}({nx的四阶累积量则与其四阶矩不一样，为了得到四阶累积量，必须同时知道四阶矩和自相关函数。§1.3高阶累积量的性质高阶累积量具有下列重要特性：（１）设),,2,1(kii为常数，),,2,1(kixi为随机变量，则),,(),,(1111kkiikkxxcumxxcum（２）累积量关于变量对称，即),,,(),,(211kiiikxxxcumxxcum其中),,(1kii为),,1(k中的任意一种排列。（３）累积量关于变量具有可加性，即),,,(),,,(),,,(1010100kkkzzycumzzxcumzzyxcum（４）如果为常数，则),,,(),,,(2121kkzzzcumzzzcum（５）如果随机变量),,2,1(kixi与随机变量),,2,1(kiyi相互独立，则),,(),,(),,(1111kkkkyycumxxcumyxyxcum（６）如果随机变量),,2,1(kixi中某个子集与补集相互独立，则0),,(1kxxcum§1.4高斯过程的高阶累积量1.单个高斯随机变量情形设随机变量x服从高斯分布),0(2N，即x的概率密度函数为22221)(xexp故有222)(ex的第二特征函数为2)(ln)(22(7)利用累积量kc与)(的关系式(3)，并比较(3)与(7)两式，可以得到随机变量x的各阶累积量为01c，22c，2,0kck由此，我们有下列结论：(1)高斯随机变量x的一阶累积量1c和二阶累积量2c恰好就是x的均值和方差。(2)高斯随机变量x的高阶累积量)2(kck等于零。(3)由于高斯随机变量x的各阶矩为为奇数，为偶数kkkxEmkkk0,)1(31][可见，高阶累积量与高阶矩不一样。由于高斯随机变量x的高阶矩并不比其二阶矩多提供信息，它仍取决于二阶矩的统计知识2，所以人们宁愿选择高阶累积量这一统计量，直接把多余的信息用零来处理。2.高斯随机过程情形先讨论n维高斯随机矢量Tnxxx],,,[21x，设其均值矢量为Tnaaa],,,[21a，协方差矩阵为nnnnnnccccccccc212222111211c其中nkiaxaxEckkiiik,2,1,)])([(n维高斯随机变量x的联合概率密度函数为)()(21exp)2(1)(12/12/axcaxcxTnpx的联合特征函数为cωωωaωTTj21exp)(其中，Tn],,,[21ωx的第二联合特征函数为ninijinjijiiTTcajj1112121)(ln)(cωωωaωω由于阶数nkkkr21的联合累积量nkkkc21可由第二特征函数定义为021212121)()(nnnknkkrrkkkjc于是，n维高斯随机变量),,,(21nxxx的各阶累积量为：（1）1r，即nkkk,,,21中某个值取1(设1ik)，而其余值为零，于是][)()(001021iiixEajcn（2）2r，这有两种情况：1）),,2,1(niki中某两个值取1(设jikkji,1)，其余值为零，这时jiaxaxEcjcjjiiijjin