第6章最小二乘滤波器与卡尔曼滤波器现代信号处理中滤波器的特性不仅与输入信号特性有关,也与噪声特性有关。估计信号就是待估计信号在已观测信号张成空间的投影。6.1相关抵消6.2Gram-Schmidt正交化6.3确定性最小二乘滤波器6.4最小二乘滤波器的渐近性6.5最小二乘逆滤波器6.6白化滤波器6.7统计性最小二乘滤波器6.8统计性最小二乘滤波器的求解6.9最佳线性平滑维纳滤波器6.10最佳线性滤波维纳滤波器6.1相关抵消设x和y分别是N维和M维零均值随机矢量,TT1212[],[]NMxxxyyyxy,,iixy是随机变量且彼此相关,T[]0ExyRxy相关抵消器就是通过线性变换去掉这种相关。并令y中与x相关的部分为:ˆxHy适当选择H,使随机矢量ˆexxxHy与y无关,即TT[][]0EEeyxyyRxyHyyRHR由此求得线性变换矩阵1TT1[][]EEyxyHRRxyyy即按上式选择线性变换矩阵H,则x中与y相关的部分即将被消除。如图所示,相关抵消器有信号分离功能。设12x=x+x,其中1x与y相关,2x与y不相关,由于121TT12[][()]xyxyxyxyERRxyxxyRRR所以,1111ˆˆxyyxyyxRRyRRyx,因此,ˆx实际上就是对1ˆx的估计,即对x中与y相关部分的估计。所以相关抵消器的输出中与y相关的部分1x得到了尽可能大的抵消。6.2Gram-Schmidt正交化随机矢量正交:设x和y分别是N维和M维随机矢量:T12Nxxxx,T12Myyyy它们的集合可生成N+M维的线性矢量空间1212NMxxxyyy,,,,,,,设u和v是N+M维线性空间中的任意两个矢量,随机矢量u和v之间的内积定义为,Euvuv范数uv定义为两矢量u和v间的距离:22,Euvuvuvuv非零矢量u和v间的夹角的余弦为:,cosuvuv若,0uv,表示u和v不相关,且cos0,这时称u和v为正交,记为uv。内积空间:设有M个两两正交的随机矢量12,,,Mεεε,满足,0,ijijεε令Y=12,,,Mεεε是由这M个随机矢量张成的线性子空间,那么随机矢量就是该内积空间的正交基底。根据正交分解定理,对于任何随机矢量x,相对于线性子空间Y,可唯一分解为两个互相正交的部分,即ˆˆ,,xxexYeYˆx在空间Y内,1ˆMiiiaxε,有11,,iiiiiaEEiixεεεxεεε式中T12T12T22212diag,,,MMMEEEEEEEEεxεxxεxεεεεεε正交方程为:T[]0EeεReε正交投影定理和Gram-Schmidt正交化:正交投影定理矢量X在线性子空间Y上的正交投影ˆx是Y中与x距离最近的矢量。证明:根据正交分解定理,x关于子空间Y的唯一正交分解可表示为ˆˆ,,xxexYeY。设y是Y中任意矢量,由于ˆ()x-yY,因而,故有2222ˆˆ-(-)-xyxy+exye上式可写成222ˆ[()][()][]EEExyxye当ˆ=yx时,x与间距离最近。定理得证。ˆ()ex-y1112121231231231212,,,,,,,,,,,,nnnYεyYεεyyYεεεyyyYεεεyyy用符号1ˆnny来表示ny在子空间1nY上的正交投影即1111ˆnniiiinniEEyy则1ˆnnnnyy就是ny在子空间1nY上的正交分解。引入符号111niniiibEEiny≤≤1nnb有1111ˆ,1nnnniinniinnniibbnMyy≤≤或YB式中Y=12Myyy,T12M基底12,,,Mεεε就是Y的正交基底。即1112121231231231212,,,,,,,,,,,,nnnYεyYεεyyYεεεyyyYεεεyyy用符号1ˆnny来表示ny在子空间1nY上的正交投影即1111ˆnniiiinniEEyy则1ˆnnnnyy就是ny在子空间1nY上的正交分解。新息:Gram-Schmidt正交化可改变基底矢量信号之间的关系,而不改变空间的维数,本质上是因为这两组基底Y和中所含信息是相同的,从基底Y到基底的正交化过程只是去掉了Y中各基底矢量之间的相关性或冗余信息。因为中各基底分量是不相关的,每一个基矢量,1,,iiM均表示某种不同的或新的信息,每增加一个基底i意味着增加新的信息,所以随机变量i有时也称为新息。Y的相关矩阵:TTTTYEERYYBBBRB明显:TER是对角矩阵,B是下三角矩阵。上式就是YR矩阵的Cholesky分解。随机矢量x相对于线性子空间Y进行正交分解:1TTˆEExxε,它是x在Y上的正交投影,Y的正交基底是。将1BY代入上式可得1TTˆ[]EExxYYYY上式正交分解与相关抵消分解是等效的,利用Y或的线性组合来估计x是相同的。6.3确定性最小二乘滤波器设滤波器的输入离散信号为x,现设计一个滤波器h,滤波器期望输出信号为d,理想情况下有:dxh假设信道的传递函数为()Gz,而在接收端需级联一个滤波器()Hz来恢复信号,如图所示。当设计滤波器h满足-1()()()zGzHzDzd=g*h,就可得到稳定的期望输出。但实际上是不能实现原始信号的完全恢复的,即实际滤波器总会偏离理想滤波器,主要原因有(1)()Gz可能不是最小相位,那么1()Gz就不是因果稳定的;(2)()Dz可能不是因果的,()()DzGz就不是因果的;(3)()()DzGz对应的是一个因果稳定的IIR滤波器,而所设计的()Hz是一个n阶的FIR滤波器。上述因素都会使滤波器的实际输出y=g*h不一定等于期望输出d。设2ld2lg,且g是因果的。则滤波器实际输出y与期望输出d的误差为:ddeyg*h。误差能量为22jjj1()[()()()]()()()d2kVdkgkhkDeGeHeh期望输出能量:22kdkd互相关:jjj1()()()()()d2mkqmdkgkmDeGee自相关:2()1,()()()2jjmlkrmlgkmgklGeedrlmVh达到最小值要求:02[()()()]()00nkmdkhmgkmgklln≤≤矩阵形式:01001110rrrnhqrrrnrrhnqnRhq或最小误差能量TTT22min2kkVdkykhqhhqqh=相对误差能量:2()kVVdkhh6.4最小二乘滤波器的渐近性同样假定22,lldg,且g是因果的IIR滤波器:00hkk假定()Gz有一个零点位于单位圆外,可令1min0()()()GzGzzzmin()Gz是最小相位的,而01z,所以*11100min000*1*1001()()()()()()11zzzzGzGzzzGzGzEzzzzz其中,10min0()()(1)GzGzzz是最小相位的,而10*10()1zzEzzz是全通函数。于是0()1()()()()DzDzGzGzEz,即要设计的滤波器()Hz由两部分01()Gz和()()DzEz级联构成。由于0()Gz是最小相位的,因此用一个因果稳定的IIR滤波器来实现01()Gz是不会产生误差的;另一部分可以看成是输入为e,期望输出为d的最小二乘滤波器,这一部分用0()Hz来表示,即001()()()HzHzGz则误差能量:220()Vhd-x*hd-e*h这样就把输入为g,期望输出为d的最小二乘滤波器h等效为输入为e,期望输出为d的最小二乘滤波器0h。0eeRhq和min0()TeVhqh其中,eq是输入e和期望输出d的互相关矢量,eR是输入e所对应的输入自相关矩阵因为一个因果信号通过一个因果滤波器,其输出也是因果的,所以e是一个因果序列,且0m≥,上式又可写成22min=000021210()()()()()()()=()()()kkkllkmkVdkdkdkekmdlelmdkdkekmh上式中的第一项是dk的非因果部分,因果滤波器的实际输出是不可能具有期望输出0dkk的非因果部分;第二项是由于g不是最小相位信号而产生的误差,当输入信号g是最小相位信号时,有0GzGz,或者Ez=1,也即e,此时第二项必定为零。这也说明当输入信号g为最小相位时,要使它通过一个因果稳定的IIR滤波器,得到d的因果部分是不会有误差的。6.5最小二乘逆滤波器要求总的通道传输函数()()()1DzGzHz,或dgh。假设同上。h一定满足正则方程Rhqq是因果输入g和期望输出d的互相关矢量,有0000gmqmgmm正则方程式:01001101100rrrnhgrhrrnrrhn逆滤波器的最小误差能量:min()1(0)(0)ghVh当n时,可得最小二乘逆滤波器的渐近特性,仍假定Gz是一个因果的,但有一个零点在单位圆外,可得最小二乘逆滤波器的渐近误差能量:2min1lim()()nmVemh因为全通信号满足20()1mem,所以2minlim()1(0)nVeh例6.1非最小相位滤波器的求逆。假设信道的传递函数为1()11Gzz。设计一个n阶的FIR滤波器。解:因为()Gz是非最小相位滤波器,它有一个零点在单位圆之外,所以1()Gz不可能是因果的,现设计一个最小二乘n阶的FIR滤波器,使它逼近1()Gz。计算可得:10()00kqkk,210()10krkkk为其他值正则方程:22011+010001+hhhn解得:11130()0nknknnnknhkk≤≤为其他值n阶逆滤波器的最小误差能量31min13()1(0)(0)1(0)nnnnVghhh当n时,2111lim()1nnHzz,2min21lim()lim1nnVhδ-gh例6.2假设信道的传递函数为21()4Gzz,它是非最小相位的,现设计一个均衡滤波器()nHz,但允许有延迟,即()LDzz,令n=10,取L=12和L=0这两种情况。分别列出其计算结果。解:对于L=12,009()1101.06250()0.2520kqkkkrkkk