ARMA谱估计与系统辨识 清华大学《现代信号处理》讲义-张贤达

第三章现代谱估计清华大学自动化系张贤达[e-mail]电话：62794875经典谱估计样本直接法间接法10()()NjnTNnXxne(0),(1),,(-1)xxxN假设已零均值化，2kN周期函数21()()xNPXN101()()()NxnRkxnxnkN10()()NjkTxxnPRke周期图法有偏估计,平滑性差加窗函数功率谱曲线平滑,但分辨率下降2101()()()NjnTxnPxncneN数据窗10()()()NjkTxxkPRkwke谱窗要提高分辨率，使用参数化的谱估计！经典谱估计：使用FFT的谱估计现代谱估计：参数化谱估计3.1ARMA谱估计与系统辨识平稳ARMA过程离散随机过程服从线性差分方程：为离散白噪声，则称为ARMA过程。自回归(autoregressive)—滑动平均(movingaverage)过程{()}en{()}xn{()}xn11()(1)()()(1)()pqxnaxnaxnpenbenbenq11()()()()pqijijxnaxnienbenjAR阶数AR参数MA阶数MA参数2()~(0,)enN()()jzxnxnj后向移位算子：11()1ppAzazaz其中：00()()pqijijaxnibenj()()()()AzxnBzen11()1qqBzbzbz()()()nknkxnekhenhARMA模型描述的线性时不变（LTI）系统传递函数：()()ienxnh()()()iiiBzHzhzAz满足ARMA模型的条件：(1)冲激响应系数必须绝对可求和：(系统稳定)(2)A(z)和B(z)无公共因子(p,q唯一)(3)系统是物理可实现的(因果系统)极点的作用：决定系统的稳定性和因果性即极点不在单位圆上因果性：称x(n)是e(n)的因果函数，若即因果系统要求极点在单位圆以内，A(z)的根|z|1kkh()()()BzHzAz()0Az零点部分极点部分0()()iiiihxnheni⑴⑵零点的作用：决定系统的可逆性，即是否存在。可逆性：称e(n)是x(n)的可逆函数，若(1)存在序列，并满足——可逆系统的稳定性(2)——可逆性条件11()()()()AzHzHzBz0()()iienxniiii1*11*1()1()()1()ppqqAzazazAzBzbzbzBz21221()()()()()()()xjwjwzezeBzBzBzPAzAzAzARMA过程的功率谱密度则功率谱其中()()()()AzxnBzen2()(0,)enN～ARMA功率谱估计的两种线性方法Cadzow谱估计子又其中11211()()()()()()()()()xBzBzNzNzPzAzAzAzAz1121()()()()()()NzAzNzAzBzBz12(),0()(),xxCkkkCk其他00()()()()kkkxxkkkPzCkzkzkz则两边同乘，比较系数得所以，Cadzow谱估计子的关键：估计AR阶数p和AR参数000()()()piikipikiinzNzkzAzaz0()0,1,,pkiinakikpia0piiiaz1211()()()()()()()qjjjqxczBzBzPzAzAzAzAz21()()qjjjqBzBzczKaveh谱估计子jjcc22220102011120qqqqqbbbcbbbbcbbc非线性方程，MA参数辨识（Newton－Raphson迭代）1()()()()qjjjqkxxkczPzCkzAzAz*00()0,1,,ppkijxijcaaCkijkq21()1qkkkqxpiiijwzeczPaz协方差函数的Fourier变换Kaveh谱估计子：()1Az11()()1()iqiqiBzHzhzbzbzAzARMA功率谱密度的特例()()()()AzxnBzen特例一：MA过程()()()xnBzen1,,ihiq抽头有限冲激响应(FIR)系统1()()HzAz2()1,()WN(0,)eBzen()()()Azsnen特例二：AR过程中含有的无数多项1z无限冲激响应(IIR)系统白噪声中的AR过程：2()()()()~WN(0,)vxnsnvnvn222221()()()()()()()exsvvwjjzezeBzPPPAzAzAzARMA(p,p)过程1()()0,()(1)()0pAzsnsnasnasnp若即1(1),(2),(1),(2),,()()()piispspssspsnasni可由递归出来，即特例三：完全可预测过程加性白噪声中的可预测过程：()()()xnsnvn11()()()()ppijijxnaxnivnavnj线谱特殊的ARMA所以：白噪声中的AR过程=ARMA过程白噪声中的可预测过程=特殊的ARMA过程00()()pqijijaxnibenj()()enn令()()xnhn令00()()pqijnijahnibnjb()()iixnheni等价高斯白噪2(0,)N修正Yule-Walker方程**00*00200(){()()}()()()()()xiijiijijijijRkExnxnkEhenjhenkihhEenjenkihhkij20()xiikiRkhhBBR公式：220000()ppixijjlijjliijjaRliahhhb修正Yule-Walker方程(MYW方程)20BBR()xiikiRkhh公式00()()pqijnijahnibnjb0()0pixiaRlilq，定理(AR参数的可辨识性)：1()()1,,pixxiaRliRllqqp，若A(z)和B(z)无可对消公共因子，且，则AR参数可由p个修正Yule-Walker方程唯一确定或辨识。0pa1,,paa11(1)()(1)0(2)(1)(2)0()(1)()0xxxxxxpxxxRqRqRqpaRqRqRqpaRqpRqpRq若构造：11(1)()(1)0(2)(1)(2)0()(1)()0exexexeexexexeepxexexeeRqRqRqpaRqRqRqpaRqMRqMRqMp使得，则,,,eeeeeqqppqpqpMprank()peReReaAR阶数确定的奇异值分解方法奇异值分解(SVD)：mnAA为矩阵，可分解为HA=UΣVmmnnUV其中为酉矩阵，为酉矩阵。酉矩阵：-1HU=U主奇异值：p个大的奇异值（p个信号分量的能量）2221122diag(,,,)nnΣ次奇异值：其它小奇异值（扰动或误差的能量）准则一：归一化比值信号与噪声的分离：1/222111/22211()1kknnvk若阈值=0.995，v(k)阈值的最小整数k定为矩阵A的“有效秩”。准则二：使用归一化奇异值11111kkkk，且某个很小的阈值(0.05)的最小整数k定为有效秩。kk最终预报误差方法(FPE,FinitePredictionError)：FPE准则选择使FPE(p,q)最小，作为AR模型的阶数。21ˆ(,)1wpNpqFPEpqNpq20ˆ垐()pwpixiaRqiAIC(Akaike’sInformationCriterion)2ˆ(,)ln2()wpAICpqpqN2lnˆ(,)ln()wpNBICpqpqN“信息量准则”遵循“吝啬原则”AR阶数确定的信息量准则法11(1)()(1)0(2)(1)(2)0()(1)()0exexexeexexexeepxexexeeRqRqRqpaRqRqRqpaRqMRqMRqMp若，则,,,eeeeeqqppqpqpMprank()peR扩展阶MYW方程0eeRa选,eeeqppMpAR参数估计的总体最小二乘法Axb总体最小二乘TLS:TotalLeastSquares1bA0x-bA+-eEz=0B+Dz=0或扰动矩阵思想：寻求一个解z，使得1/21211minmnijijd1||||2,1()||||21TTTTTTJJ22BzzBBzBBz0z0zzBzzBBzzz1=，2由只有平凡的零解。求解约束优化1min=2约束条件定义代价函数Lagrange1((1)2()RayleighTTTTTTTTJJzzBBzzzzBBzz0zzzBBzzz使用乘子法，定义目标函数）＝则左乘后，得＝这是个典型的商问题min121111=[]/,1,,TTniivvvxvvinnpnzBBxBvxB因此，是矩阵的与最小特征值对应的特征向量,即矩阵的与最小奇异值对应的右奇异向量,,,。从而，得解向量的元素为这种解包含个参数，与矩阵的秩相矛盾。方法2：只包含p个参数（主要因素）TB=UΣVˆBz=0ˆ(1:1)0ˆ(2:2)0ˆ(1:1)0ppnpnBaBaBa：用秩为p的矩阵对B的最佳逼近()ˆpBˆTpB=UΣV2211diag,,,0,,0pppΣ111,,,,,,eTpppxxxxz令，则11,,,Tpxxa构造代价函数1^11^1()ˆ()(:)(:)ˆ[(:)](:)TnpinpTTiTpfipiipiipiipiaBaBaaBBaaSa1()211()pnppiiTjjjjjiSvv(,),(1,),,(,)Tijvijvijvipjv()0faa()1100pSae0,,0,1,0,,0Tie标准向量由于存在误差()()ˆ(1,1)(1,1)ppixiSSAR定阶与AR参数估计的SVD-TLS算法：()pS步骤1：构造扩展阶相关函数，求SVD，存储和eR2iiV(1)()(1)(2)(1)(2)R()(1)()eeeeeeeRpRpRRpRpRRpMRpMRM步骤2：确定的有效秩p，给出AR阶数估计值eR步骤3：计算步骤4：计算()()ˆ(1,1)(1,1)ppixiSS讲义下载地址