3-4 第三章 levinson、最大熵谱估计

AR谱估计与最大熵谱估计等效最大熵谱估计的提出：经典谱估计方法具有分辨率低和旁瓣“泄漏”的问题。其根本原因是自相关函数加窗，这样克服这些问题必须对自相关函数进行外推。Burg提出以最大熵作为自相关函数外推的准则，其合理性在于这样对自相关函数的约束最少，因而时间序列的随机性最大，功率谱最平坦。（即，对在观测时间之外的取值不做任何假定，保持最随机、最不确定性，也就是使熵最大。）MESEARMA谱估计：差分模型最大熵方法(MEM:MaximumEntropyMethod)：信息论信息量：事件X，事件发生时(概率)，带来的信息以e为底：nat(奈特)以2为底：bit(比特)kXxkP1()loglogkkkIxPP性质1：()0,1(kkIxP若肯定发生的事件发生时，不带来任何信息)性质2(非负性)：()001,kkIxP任何事件发生时，都不会造成信息的丢失性质3：()(),kjkjIxIxPP若熵：平均信息量称为熵，X：取值的字符集X()()lnkkkkkkxxHXPIxPP连续型随机变量：()()()()ln()()HXpxIxdxpxpxdxEIx熵：Burg最大熵谱估计的思路是：已知自相关函数的2p+1个值，现希望以这2p+1个值R(k)，对的自相关函数予以外推。外推的方法很多。Burg的准则是：外推后的自相关函数所对应的时间序列具有最大的熵，即是最随机的。Burg(功率)谱熵定义：1()lnS()d2HS已知：共2p+1个样本相关函数，使(),0,1,,Rkkpmax()HS问题：求估计功率谱时，应该使谱熵最大。()S1max()maxlnS()d21ˆ()()(),0,1,,2jkHSRkSedRkkp约束优化问题：约束条件：随机信号x(n)的熵正比于其谱熵，所以谱熵最大等价于熵最大。Burg最大熵谱估计原理：求功率谱，使得在约束条件下其谱熵最大。这样估计出来的功率谱称为最大熵谱。()S()S1ˆ()()(),0,1,,2jkRkSedRkkp()HSˆ()S11ˆ()ln()()()22pjkkxkpJSSdRkSed与AR功率谱等价()0()JSS11()koptkppjkjkkkkpkpSee构造目标函数：拉格朗日算子,每个自相关值全都乘拉格朗日算子取最大为了实现最大熵谱估计，需要确定AR参数的阶数和系数，如何确定？AR参数的递推关系：问题的提出：一种求解AR参数方法是要计算各阶情况下的预测系数和误差功率，进而选择出比较合理的模型阶数，计算量很大，因此是否可能从低阶模型的参数递推出高阶模型的参数？定义：前向预测：前向预测误差：个系数表示预测器的第其中：j,j)-x(n(n)xjp1jjdefˆpdeffj0j0ˆf(n)=e(n)x(n)-x(n)x(n-j),1222p1kjk-k2)(j1)(HeSAR参数的递推关系：求解预测器参数：准则：预测均方误差最小求解方法：正交性原理(预测误差与已知数据正交)}(n){2p21,j,jfEMinp1jjdefj)-x(n(n)xˆ1,j)-x(n(n)0p0jjdeffpm10,m)}-(n(n)x{*fE000(0)R2)-(pR1)-(pR(p)Rp)-(2R(0)R(1)R(2)Rp)-(1R(-1)R(0)R(1)Rp10p0jj*2defp(-j)(n)}(n)x{}(n){RfEfEP预测均方误差：希望其最小AR参数的递推关系：与Yule-Walker方程组的比较：0001(0)2)-(p1)-(p(p)p)-(2(0)(1)(2)p)-(1(-p)(-1)(-2)(0)(1)(-1)(0)2p21RRRRRRRRRRRRRRRR0001(0)2)-(p1)-(p(p)p)-(2(0)(1)(2)p)-(1(-p)(-1)(-2)(0)(1)(-1)(0)pp21PRRRRRRRRRRRRRRRR两个方程组是一样的。AR参数的递推关系：问题的提出：一种求解AR参数方法是要计算各阶情况下的预测系数和误差功率，进而选择出比较合理的模型阶数，计算量很大，因此是否可能从低阶模型的参数递推出高阶模型的参数？0001(0)2)-(p1)-(p(p)p)-(2(0)(1)(2)p)-(1(-p)(-1)(-2)(0)(1)(-1)(0)pp21PRRRRRRRRRRRRRRRRAR参数的递推关系：问题的定义：已知k阶预测器的参数，怎样用k阶预测器的参数求出k+1阶预测器的参数?求预测器参数方程组的性质：某阶方程的系数矩阵包含了前面各阶系数矩阵。系数矩阵先进行列倒序再进行行倒序（或先行倒序后列倒序）为原矩阵的共轭阵（共轭对称矩阵）。0001(0)2)-(p1)-(p(p)p)-(2(0)(1)(2)p)-(1(-p)(-1)(-2)(0)(1)(-1)(0)pp21PRRRRRRRRRRRRRRRRAR参数的递推关系：问题分析：条件：目标：001(0)1)-(k(k)k)-(1(0)(1)(-k)(-1)(0)kkk,k,1PRRRRRRRRR0001(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)1k1`k1,kk1,k1,1kPRRRRRRRRRRRRRRRR0001(0)2)-(p1)-(p(p)p)-(2(0)(1)(2)p)-(1(-p)(-1)(-2)(0)(1)(-1)(0)pp21PRRRRRRRRRRRRRRRRAR参数的递推关系：求解过程：将条件向目标转化，扩充条件方程组：其中：kkkk,k,1D0001(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)PRRRRRRRRRRRRRRRRk+1kk,ik,0i0DR(k1-i),10001(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)1k1`k1,kk1,k1,1kPRRRRRRRRRRRRRRRR目标：由条件推出：扩充条件方程组001(0)1)-(k(k)k)-(1(0)(1)(-k)(-1)(0)kkk,k,1PRRRRRRRRRAR参数的递推关系：将扩充方程组与目标方程组比较，发现缺少一个自由度，故利用共轭对称性质创造一个条件：kk,kk,1kD*R(0)R(1)R(k)R(k1)00R(-1)R(0)R(k-1)R(k)*0R(-k)R(-k-1)R(0)R(1)*PR(-k-1)R(-k)R(-1)R(0)1kkkk,k,1D0001(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)PRRRRRRRRRRRRRRRR)(-)(*RR扩充条件方程组由于这个方程组的系数矩阵是对称的，各主对角线元素相等，各平行于主对角线元素相等，所以首先颠倒方程的次序，再颠倒变量的次序。矩阵先行倒序再列倒序是原阵的共轭阵，再利用共轭对称性，可以得到。*号是共轭0001(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)1k1`k1,kk1,k1,1kPRRRRRRRRRRRRRRRRAR参数的递推关系：kk*k,1kk,00D10(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)PRRRRRRRRRRRRRRRR**0001(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)1k1`k1,kk1,k1,1kPRRRRRRRRRRRRRRRR,D0Dkk1kk1kkPPkkkk,k,1D0001(0)(1)(k)1)(k(-1)(0)1)-(k(k)(-k)k)-(1(0)(1)1)-(-k(-k)(-1)(0)PRRRRRRRRRRRRRRRRp7、8、9①②①+②*γk+1AR参数的递推关系：求解得到的结果：k21kk*1kk1k1kkk,1kkk,k,11k1,kk1,k1,1k)||(1-D10PPP,**,Dkk1kP1,i)-1(kDk,0k0ik,ikRLevinson-Durbin递推：Levinson递推算法（上推）：初始条件：迭代求解：(0)1000RP,,Dkk1kP1,i)-1(kDk,0k0ik,ikRk21kk*1kk1k1kkk,1kkk,k,11k1,kk1,k1,1k)||(1-D10PPP,**