第5章高阶统计分析

第5章高阶统计分析清华大学自动化系张贤达功率谱估计，Weiner滤波器都是以信号的相关函数为工具。相关函数的局限性模型的多重性：考虑功率谱由于,故即不同ARMA过程的功率谱具有相同形状的功率谱。这一特性称为相关函数的多重性或模型的多重性。2222121|1|()()()|1|qjiipjiieBzPAze*11|1()||||1|jjee222221122211|||1|||()()|||1|||qqjiiiiippjiiiiiePPe两个具有零均值和相同方差的高斯白色噪声和指数分布白色噪声显然是不同的随机过程，但它们的功率谱相同。用这样两个白色噪声激励同一个ARMA模型，产生的两个ARMA过程显然是不同的随机过程，但它们的功率谱相同。两个灰度图相同的图像有可能是不同的图像。以上事实说明,要准确地刻画随机信号,仅使用相关函数（二阶统计量）是不够的，还必须使用更高阶的统计量。三阶和更高阶的统计量合称高阶统计量。相关函数：刻画信号的粗糙像高阶统计量：刻画信号的细节5.1高阶矩与高阶累积量()()()Egxfxgxdx特别地，若，则称()jxgxe()()jxjxEefxedx函数f(x)的Fourier反变换。()()()kkkkjxkjExe函数g(x)的均值：是随机变量x的特征函数。它实际上是概率密度1.单个随机变量x的高阶矩与高阶累积量特征函数的k阶偏导数K阶矩的定义：用特征函数描述K阶原点矩：令则kxmEx原点矩：()kxEx中心矩：()(0)kkkjEx即()()0()(0)()()kkkkkxmExjj由于K阶矩由生成，故称特征函数为随机变量x的矩生成函数(矩母函数)，又称第一特征函数。()0,()第二特征函数：()ln()k阶累积量(cumulant)：()0()()(0)()kkkkxkdcjjd第二特征函数累积量生成函数或累积量模母函数()k个随机变量r.v.(randomvariable)1,,kxx第一联合特征函数111()(,,)kkkjxxEe1111()1111(,,)(,,)kkkkrrkkrrkjxxrrrkjExxe1krrr2.多个随机变量的高阶矩与高阶累积量第一联合特征函数的阶偏导数第二联合特征函数11(,,)ln(,,)kk1()1,,1110cum,,()(,,)kkkkkcxxjk阶联合累积量：当时，有11krr1()11110()(,,)krkkkmExxjk个随机变量r阶矩：111()110()(,,)kkkrrrrrrkkmExxj考查随机信号，令()xt1211(),(),,()kkxxtxxtxxt1111(,,)()()()kxkkmExtxtxt随机信号x(t)的k阶矩：随机信号x(t)的k阶累积量：1111(,,)cum(),(),,()kxkkcxtxtxt3.随机信号的高阶矩与高阶累积量随机信号的高阶矩与高阶累积量分别是多个随机变量的高阶矩与高阶累积量的推广高斯随机变量的矩与累积量2(0,)N222()e0,13(1),kxkkmkk奇数偶数22()ln()2(),2(),()0,3kk20,1,20,3kxkckk第一特征函数：K阶矩第二特征函数：由于故有结论：高斯随机变量的奇次阶矩恒为零，偶次阶矩仅决定于二阶矩，而二阶累积量与二阶矩等价，所有高阶累积量恒为零。1111(,,)()()()kxkkmExtxtxt？11(),(),,()kxtxtxt11(,,)kxkc111111ˆ(,,)()()()NkxkktmxtxtxtN1,2,,kI符号集矩—累积量转换关系：111()(1)(1)!()qppqqxxppUIIcIqmI高阶矩的计算：定义式：估计式：问题：如何估计集合的无序、非空、无交连分割(唯一性)1,2,,Ik1,2I集合的分割1,2I2q(1)分割为1个子集合：1q1,2I1()()()xmIExtxt(2)分割为2个子集合：1()()()xmIExtExt2(){()()}{()}{()}xcExtxtExtExt矩—累积量转换公式：若x(t)为零均值，则2(){()()}()xxcExtxtR3121212122112(,)()()()()()()()()()()()()2()()()xcExtxtxtExtExtxtExtExtxtExtExtxtExtExtExt112()()()()xmIExtExtExt1,2,3I321()()()()xmIExtExtxt33,1,2I212()()()()xmIExtExtxt22,1,3I112()()()()xmIExtExtxt11,2,3I2q12()()()()xmIExtxtxt1,2,3I(1)分割为1个子集合：1q矩—累积量转换公式：(2)分割为2个子集合：1,2,3I集合的分割(3)分割为3个子集合：3q4123123123231312(,,)()()()()()()()()()()()()()()()()xcExtxtxtxtExtxtExtxtExtxtExtxtExtxtExtxt31212312(,)()()()(,)xxcExtxtxtm特别地，若具有零均值，则()xt类似地，对于零均值的随机过程或信号，有2211()()()()()xxxNncmRxnxnN3312121211(,)(,)()()()xxNncmxnxnxxN四阶累积量的估计：412312311ˆ(,,)()()()()NxnmxnxnxnxnN44123123132231312(,,)(,,)()()()()()()xxxxxxxxcmRRRRRR以上讨论的是“实信号”,复信号的高阶矩与高阶累积量的定义不同，详见后叙。三阶累积量的估计：二阶累积量的估计：累积量的估计公式：注释：5.2矩与累积量的性质性质1:性质2:矩和累积量相对于变元是对称的，即11111111mom,,mom,,cum,,cum,,kkkikikkkikixxxxxxxx1111mom,,mom,,cum,,cum,,kkkiikiixxxxxxxx1,,kii是的排列1,,k例：333333(,)(,)(,)(,)(,)(,)xxxxxxcmncnmcmnmcnmmcnmncmnn33(,)cum(),(),()cum(),(),()(,)xxcmnmxtxtmxtnmxtmxtxtmncmn仅需知道阴影部分的值，便可知道整个平面性质3:可加性12122mom,,,mom,,,mom,,,kkkxyxxxxxyxx例.观测数据，与独立，12122cum,,,cum,,,cum,,,kkkxyxxxxxyxx性质4:若与独立，则1111cum,,cum,,cum,,kkkkxyxyxxyy1,,kxx1,,kyy()()()ynxnvn()xn()vn1()xn与独立，则1()vn111111(,,)(,,)(,,)kykkxkkvkccc高斯噪声3阶以上累积量恒为0又称为半不变量（semi-invariablecumulant）故称为“累积量”。四阶矩没有半不变性。性质5:若中某个子集同其他子集独立，则11(,,)0kxkc应用：独立同分布（i.i.d）过程(iid:independentlyidentificallydistributed)1,,kk阶矩无此性质。()et若为独立同分布，则累积量11111111(,,)cum(),(),,(),00,(,,)kekkkekkekcetetetrr若其他其中11111,0(,,)0,kk若其他Fourier变换常数高阶谱与频率无关，称为“高阶白噪声”（“白色光”）而42222(0,,)()()()()()()0emEetetetetEetEet性质6:1212cum,,,cum,,,kkxxxxxx常数⑴对称性质：36,!k！种对称公式线性系统i.i.d非高斯信号非高斯信号的产生途径：⑵理论上可完全抑制高斯有色噪声(“盲性”)⑶i.i.d过程容易建立线性系统理论线性系统高斯白噪声非高斯信号结论：用高阶累积量，而不用高阶矩高阶累积量的优点：5.3高阶谱功率谱的缺点：由功率谱只能恢复,不可能恢复2*()()()()xPfXfXfXf“模型的多重性”()Xf自相关函数辨识系统，无法辨识非最小相位系统“自相关函数等价性”“功率谱等价性”|()|Xf高阶谱（Higher-orderspectrum）又称多谱（polyspectrum），是信号多个频率的能量谱。k-1维DFT,即111111()1111(,,)(,,)kkkjkxkkxkSce三阶谱称为双谱(bispectrum)，意即两个频率的谱。112212()12312(,)(,)jxxBce四阶谱称为三谱(trispectrum)，意即三个频率的谱。112233123()1234123(,,)(,,)jxxTce条件：“绝对可求和”1111(,,)kkxkc高阶谱定义为k阶累积量的二阶谱即为功率谱，它是单个频率的谱。⑴双谱估计的直接方法：121212*1212(,)()()()()()()xBXXXXXX双谱：()xn双谱2()()xPX功率谱：()xn()Xf*121212(,)()()()BffXfXfXff⑵双谱估计的间接方法：3(,)xcmn2D-FT123123123*123123(,,)()()()()()()()()xTXXXXXXXX三谱：非高斯信号(非正态分布的随机信号的总称)峰度242()3()kExtExt高斯信号亚高斯信号(Sub-GaussianSignal)超高斯信号(Super-GaussianSignal)归一化峰度4122()()ExtkExt13k亚高斯信号13k超高斯