chapter3_3

3.3LMS格型自适应滤波器本节讨论的主要内容及方法预测误差滤波器预测误差格型滤波器LMS格型自适应滤波器1、本节讨论的主要内容及方法讨论的主要内容：前、后向横向预测误差滤波器、预测误差格型滤波器和LMS格型自适应滤波器主要方法：基于前、后向横向预测误差滤波器，导出预测误差格型滤波器2、线性预测误差滤波器前向预测误差为,,10ˆ()()()()()()pppkpkkkenxnxnxnaxnkaxnk将前向预测误差用表示，上式重写为)(nefppkkpfpknxanxne1,)()()(前向预测误差滤波器z－1ap,0……z－1z－1ap,1ap,2ap,p－1ap,px(n))(nefp111,1()()()pfppkkenxnaxnk,,10()()1()fpppkkfpkpkkkEzHzazazXzpkkpfpknxanxne1,)()()(pixxipxxppixxipxxirarpkikrakr1,21,)()0(,,3,2,10)()(将上式用矩阵方程表示为2,1,(0)(1)()1(1)(0)(1)00()(1)(0)xxxxxxppxxxxxxppxxxxxxrrrparrrparprpr其Yule-Walker方程式为：假设前、后向预测器具有相同的系数，则后向预测误差为,,,000()()()1ppbppkppkpkkenaxnpkaxnka,1ˆ()()()()()ppkkbnxnpxnpxnpaxnpk后向预测误差用表示，上式可写为：)(nebp后向预测误差滤波器111,1(1)()()pbppkkenxnpaxnpkz－1ap,0……z－1z－1ap,1ap,p－1ap,px(n))(nebpap,p－2()xnp(1)xnpkkkppbpbzazzXzEzH1,1)()()(,1()()()pbppkkenxnpaxnpk前、后向预测误差滤波器的系数函数之间的关系是)()(1zHzzHfpb为了求解前、后向预测误差滤波器的最佳系数，需要解Yule-Walker方程，求解方法采用Levinson-Durbin算法。Levinson-Durbin的一般递推公式如下：)]([)0()1(1,,3,2,1])()([2202122,1,1,,21111nxErkpkakaaakkpraprkxxpppkpppkpkppppppkxxpxxp其中，kp称为反射系数。σ2p和σ2p-1是预测误差的均方值，因此1-k2p必须大于等于0，这样kp应要求满足下式：1||pk由上式可知，预测误差随递推次数增加而减少。212pp3、预测误差格型滤波器由预测误差滤波器导出格型滤波器将前面已推导的前向预测误差公式重写如下:pkkpfpknxanxne1,)()()(将系数ap,k(k=1,2,3,…,p)的递推公式代入上式，并令kp=ap,p，得到1,111,1,111,111,11,1111(()()()()()())()()()()()())(()(pfppkpkppkpppppkpkppppkkpfpppkkfkpkenxnaxnkkxnpxnakaxnkkxxnpknpaxnpxnaxnxnpaxnkkkenek11)()bppnekn由此，便可得到前向预测误差的递推公式，即)1()()(11neknenebppfpfp类似地，得到后向预测误差的递推公式为)()1()(11neknenefppbpbp对于p=0的情况，得到)()()(00nxnenebf图3.3.5全零点格型滤波器)(nefp)(nebp......x(n)z-1z-1ef0(n)ef1(n)eb0(n)eb1(n)k1k1k2k2kpkp)(nefp)(nebp)(1nefp)(1nebpkpkp(a)(b)z-1z-1格型滤波器的性质(1)各阶后向预测误差相互正交。用公式表示如下：jineneEbjbi0)]()([(2)平稳随机序列可由自相关函数或反射系数表征。(3)前向预测误差滤波器是最小相位滤波器，即它的全部零点在单位圆内。后向预测误差滤波器是一个稳定的最大相位滤波器，全部零点在单位圆外。4、LMS格型自适应滤波器在满足预测误差的均方值最小的准则下，最佳自适应格型滤波器求解关键在于计算出反射系数。其方法有：222min[(())(())]pfbpppLevinsonDurbinkEenenBurgk1、观测数据估计自相关函数递推求、观测数据法求采用使前、后向预测误差功率的和为最小的原则求反射系数。公式为0]))(())([(22pbpfpkneneE即111111112()(1)2()()02()(1)(1)2(1)()()0fbbfppppfbbppppbffppppEenenenenEenkenenEenkenen可以得到]))1([]))([)]1()([2212111neEneEneneEkbpfpbpfpp实际计算时，上式中的统计平均值用时间平均计算，公式为1122112()(1)ˆ(())((1))fbppipfbppiieieikeiei对于复信号情况，公式为]|)1(||)([|)1()(2ˆ2121*11ieieieiekbpifpbpifpp如果输入数据为x(i),i=0,1,2,…,n，当p=1时，00122002()(1)ˆ[(())((1))]fbifbieieikeiei这里)()()(00ixieiebf因此112212()(1)ˆ[()(1)]ninixixikxixi当p=2时，ibfibfieieieiek]))1(())([()1()(2ˆ2121112其中1010110101()()(1)()(1)()(1)()(1)()ffbbbfeieikeixikxieieikeixikxi1122221122()(1)ˆ[(())((1))]nfbinfbieieikeiei以此类推，可以得到的具体计算公式为pkˆnpibpfpnpibpfppieieieiek]))1(())([()1()(2ˆ212111这种算法必须从低阶推起，要求较大的存储时间，有较大的计算延迟，使应用受到限制。采用梯度算法计算反射系数22(1)()[(())(())]pfbppkppknknenen其中，222211[(())(())][(())(())]2[(()(1)()()]pfbfbkpppppfbbfppppenenenenkenenenen将上式代入前一式中，得到)]()()1()([)()1(11nenenenenknkfpbpbpfppp式中，β=2μ，为步长因子。3.4最小二乘自适应滤波本节讨论的主要内容及方法最小二乘（LS）滤波递推最小二乘（RLS）算法1、本节讨论的主要内容及方法主要内容：讨论一种以误差的平方和最小作为最佳准则的误差准则——最小二乘准则，及其递推算法。分析方法：2*min()jjneWWXdydeTjjjjj2、最小二乘滤波22min()()()optminEenhnEen最小均方误差(LMS)滤波（统计分析法）2*min()jjneW最小二乘(LS)滤波（精确分析法）最小二乘的基本问题已知n个数据｛x(1),x(2),…,x(n)｝，采用M个权的FIR滤波器对数据进行滤波，假设期望信号为d(i)，滤波器的输出是对期望信号d(i)的估计)(ˆidnikixiwidMkk,,1,0)1()()(ˆ1n时刻的估计误差为Mkkknxnwndndndne1)1()()()(ˆ)()(图3.4.1M个权的FIR滤波器z－1z－1x(i－1)x(i－M＋1)z－1d(i)…x(i)－＋e(i)d(i)^w1(i)w2(i)wM(i)误差信号的平方加权和为21()()nniinei为了后面叙述方面，引入一些符号。TT21)]1(,),1(),([)()](,),(),([)(MnxnxnxnxnwnwnwnwMMMe(n)=［e(1),e(2),…,e(n)］Td(n)=［d(1),d(2),…,d(n)］TXM(n)=［xM(1),xM(2),…,xM(n)］TT)](,),2(),1([)(nxxxnXCMMMM应用这些符号，期望信号的估计、估计误差和误差信号能量分别为T1Tˆ()()(1)()()()ˆ()()()()()()()()MkMMMkMMMdnwixikXnwnCwnendndndnXnwndnCwn)()()()()(T21nenΛneienniin式中100000021nnΛ为了推导简单起见，取Λ=I，则误差信号能量重新表示为)]()(d[)]()(d[)()()(TTnCwnnCwnnenenMM要使ξ(n)取得最小值，满足()()()0()MwnMnnwnTTTTˆ2[()()]0()()0ˆ()()MMMCdnCwnXnenCCwnCdn引入M维向量pM(n)以及M×M维矩阵RM(n)，niTMMTMMMMniMMixixnXnXCCnRixidndnXndCnp1T1T)()()()()()()()()()()(TTTˆ()()ˆ()()()MMMMCCwnCdnRnwnpn可以转换为可得wM(n)的最小二乘估计wLS(n))()()]()([)(][)()()(ˆ11T1ndnXnXnXndCCCnpnRnwMTMMTMMLS若rank［XM(n)］＜M,则wM(n)不能唯一辨识。当存在时，最小二乘的估计值为)(ˆnwLS)(ˆnd)(ˆ)()(ˆTnwnXndLSM最小二乘估计的误差信号能量ξmin为TminTTTTT()()()ˆˆˆ()()2()()()()()ˆ()()()()LSMLSMLSLSMnenendndnwnpnwnRnwndndnwnpn2T1T1Tminˆˆ[]ˆ()TLSLSzAnzAddewCCCdAAAz最小二乘估计的模型描述令误差信号能量为J，并取加权矩阵Λ=I，则)()()()(TTAzAzAzAzJ3、递推最小二乘法(RLS)基本思想：新的估计值是在老的估计值的基础上修正而成的。新的估计值θ(k)=老的估计值θ(k-1)+修正项^^最小二乘递推算法的关键是得到修正项的表达式递推最小二乘法(RLS)根据最小二乘估计式,用a(i)表示第i步迭代时A的取值，Ak表示前k步A的数值构成的向量。定义一个变量P：1111T11T1def)()()1(def)()()(kTkkikTkkiAAiaiakPAAiaia