AdaptiveFilters自适应滤波器第一节引言一、自适应DF•60年代以后才出现,发展很快。•所谓自适应DF:利用前一时刻已获得的滤波器参数等结果,自动地调节现时刻的滤波器参数,以适应信号与噪声未知的或随时间变化的统计特性,从而实现最优滤波。•这个概念是从仿生学中引伸出来的,生物能以各种有效的方式适应生存环境,生命力极强。二最小均方误差(LMS)•自适应DF:以均方误差最小为准则,能自动调节单位脉冲响应h(n),以达到最优滤波的时变最佳DF也即:参数会变,随着外界参数变化自动调节,使滤波器效果最佳。•1957~1966年美国通用公司应用于天线,为了抑制旁瓣而提出。•奠定自适应滤波器的人是:美国B.Windrow及Hoff:提出自适应DF算法,主要用于随机信号处理。三、目的•设计自适应DF,可以不必预先知道信号与噪声的自相关函数。•在滤波过程中,即使信号与噪声的自相关函数随时间缓慢变化,DF也能自动适应,自动调节到满足均方误差最小的要求。四、自适应发展前景11、广泛用于系统模型识别如系统建模:其中自适应滤波器作为估计未知系统特性的模型。2、通信信道的自适应均衡如:高速modem采用信道均衡器:用它补偿信道失真,modem必须通过具有不同频响特性而产生不同失真的信道有效地传送数据,则要求信号均衡器具有可调系数,据信道特性对这些系数进行优化,以使信道失真的某些量度最小化。又如:数字通信接收机:其中自适应滤波器用于信道识别并提供码间串扰的均衡器。四、自适应发展前景23、雷达与声纳的波束形成如自适应天线系统,其中自适应滤波器用于波束方向控制,并可在波束方向图中提供一个零点以便消除不希望的干扰。4、消除心电图中的电源干扰如:自适应回波相消器,自适应噪声对消器:其中自适应滤波器用于估计并对消预期信号中的噪声分量。5、噪声中信号的滤波、跟踪、谱线增强以及线性预测等。五、目前常见的自适应滤波器•由于设计简单、性能最佳,自适应DF是目前数字滤波器领域是活跃的分支,也是数字滤波器研究的热点。•主要自适应滤波器:递推最小(RLS)滤波器,最小均方(LMS)滤波器,格型滤波器、无限冲激响应(IIR)滤波器。第二节最小均方误差(LMS)自适应DF的基本原理一、均方误差用统计方法,大量数求平均,提出均方误差最小准则,即输出信号与进行信号之间误差最小。其定义为:22))(ˆ)(()(nsnsEnE测量数据越多,则越准确。h(n)x(n)=s(n)+w(n))(ˆ)(nsny其中s(n)信号(可以是随机信号或规则信号。10)()()()()(Nmmnxnhnxnhny输出:二、自适应DF基本原理1.自适应DF的原理框图自适应数字滤波器参考输入-+d(j)ε(j)原始输入x(j)y(j)x(j)表示j时刻的参考输入,y(j)表示j时刻的输出响应;d(j)表示j时刻的原始输入信号,即所期望的输出响应;ε(j)为误差信号=d(j)-y(j);2、自适应DF的原理(1)自适应DF的h(n)单位脉冲响应受ε(j)误差信号控制。(2)根据ε(j)的值而自动调节,使之适合下一刻(j+1)的输入x(j+1),以使输出y(j+1)更接近于所期望的响应d(j+1),直至均方误差E[ε2(j)]达到最小值.(3)y(j)最佳地逼近d(j),系统完全适应了所加入的两个外来信号,即外界环境。•注意:x(j)和d(j)两个输入信号可以是确定的,也可以是随机的,可以是平稳的随机过程,也可以是非平稳的随机过程。•从图中可见:自适应DF是由普通DF+相关抵消回路构成。3、ADF实现•可以由FIRDF或IIRDF实现。但由于收敛性及稳定性,目前用得多为FIRDF实现。•FIR滤波器结构有:横向型结构(直接型)(TransveralStructure)对称横向型结构(SymmetricTransveralStructure)格形结构(LatticeStructure)4、FIRADF实现若FIRDF的单位脉冲响应长度为,则其输出为可见:(1)是个现在或过去输入值的加权和.(2)加权系数就是h(m)。(3)在自适应DF中,这个加权系数常用符号wj表示,时间用j表示.(4)则输出可表示为:(5)自适应DF可变成自适应线性组合器。10)()()(NnmnxmhnyNiiijxwjy1)()(5、FIRADF的框图(也即自适应线性组合器)自适应算法...x1jx2jxNj+-d(j)ε(j)y(j)w1w2wN若设x1j,x2j,x3j……xNj,为同一信号的不同延时组成的延时线抽头形式,即所谓横向FIR结构。它是最常见的一种自适应DF结构形式。一般来讲x1j,x2j,x3j……xNj,可以是任意一组输入信号,并不一定要求当时x1j=xj,x2j=x(j-1),x3j=x(j-2),……,xNj=x(j-N+1),即并不要求各xi(j)是由同一信号的不同延时组成.6、横向FIRADF的结构自适应算法...x(j)x(j-1)x(j-N+1)+-d(j)ε(j)y(j)w1w2wN若设x(j),x(j-1),x(j-2)……x(j-N+1)j,为同一信号的不同延时组成的延时线抽头形式,即为横向FIR结构。它是最常见的一种自适应DF结构形式。AFy(j)ε(j)x(j)简化符号为7、由横向FIRAF组成的自适应系统...x1(j)x2(j)xN(j)+-d(j)ε(j)y(j)w1w2wNAFAFAF当所处理的输入信号x1(j),x2(j),x3(j)……xN(j)来自不同的信号源时,它实际上就等于自适应线性组合器。三、寻找E[ε2(j)]=min时的各wi值•自适应DF的要害在于按照ε(j)和各xi(j)的值,通过某种算法寻找出E[ε2(j)]=min时的各wi值,从而可自动地调节各wi值。1.写出均方误差的式子•首先我们推导出自适应线性组合器均方误差E[ε2(j)]与加权系数wi的关系式。)()()()()()()()()(,321)()()()(2110jXWjdjyjdjjxjxjxjX求均方误差:此处大写代表矩阵式中:写成矩阵形式:2.x(j)信号与d(j)信号的自相关函数的自相关函数是的自相关矩阵称为输入信号)(令)()0()]([)(][)0()0(0)0()0()0()0()0(])]()][([[][221222111211221222111221jdjdEjxRxxxxxxxxxxxxxxEjXjXERddxNxNxNxxNxxxxxxNxxxxxjNjNjjNjjjjjjNjjjT3.x(j)信号与d(j)信号的互相关函数0)()}0(),0(),0({)()()()()()()]]()[([][12121mmmjxjdjxjdjxjdEjXjdEPdxTxNddxdxN为时间差,同一时间相关函数,与期待输出的信号的互为输入信号在随机过程中令:4.求出E[ε2(j)]与wi的关系单个值单个值单个值行方阵列列行单个值均方误差为:代入式中求得,,将)0(]][[][][][2)]([)]([)0()]([])]()][([[][)]]()[([][]][)]()][([][[]][)]()[([2)]([][)]()][([][)](][)[(2)(])()([)]([2222222ddTTddTTTTTTTWRWWPjdEjEjdEjXjXERjXjdEPWjXjXWEWjXjdEjdEWjXjXWjXWjdjdEjXWjdEjE5.求出自适应滤波器的E[ε2(j)]与wi的关系11111122211122)(2)()0()]([)0(2)0()0()]([1)0(2)0()0(]][[][][][2)]([)]([NiNmNidixxmiddxdxxddNiNmNidxixxmiddTTiWmiWWjEFIRWWjEN数字滤波器有横向不难证明,对于自适应时,只有一个信号当由于均方误差为:第二节性能函数E[ε2(j)]及其梯度一、研究E[ε2(j)]与[W]的关系11111122)(2)()0(]][[][][][2)]([)]([NiNmNidixxmiddTTiWmi由于均方误差为:看出:均方误差E[ε2(j)]是加权系数W的二次函数,它是一个中间上凹的超抛物形曲面,是具有唯一最小值的函数。二、E[ε2(j)]与[W]的关系曲线)]([2jE)]([22jE)]([12jEAB调节加权系数W使均方误差最小,相当于沿超抛物形曲面下降到最小值。w)(2jW)(1jW三、梯度法•在数学上,可用梯度法沿着该曲面调节权矢量的各元素得到这个均方误差E[ε2(j)]的最小值。1.均方误差梯度•将对上式均方误差对权矢量的各wi进行求导,得到均方误差梯度:NdwjdEdwjdEj)([)]([)(212)]([2jE2.求最佳权矢量(用w*表示)(1)对均方误差梯度求导]][[00,0,12012)]([][][][][00,0,1][][00,0,101][][01][][]][[00,0,10120)]([0)(1212WRPdwjdERRRWRRWRWRWWRPdwjdEjTTTTTTTTT为对称方阵,即:求最佳权矢量,则令(2)求出均方误差梯度表示式][2]][[2]][[2][2)(]][[22)]([]][[22)]([]][[22)]([]][[]][[00,0,12012],,[][222211211PWRWRPjWRxddwjdEWRxddwjdEWRxddwjdEWRWRxdPxdxdPNjNjNjjjjjjTjNjjjT均方误差梯度为:以此类推:个元素第第二元素第一元素第一元素(3)维纳-霍夫方程霍夫方程这是著名的维纳或达最佳值。为最小,时,当均方误差梯度为:][][][][]][[][)]([0)(][2]][[2]][[2][2)(1**2PRWPWRWjEjPWRWRPj(4)最小均方误差算法][],[],[]][[)]([)]([][][][**221*WPRPWjdEjEPRW即可以求出已知最小误差为:最小权矢量为:实际上,设计自适应DF无需知道R和P。自适应DF与维纳(平稳随机过程)DF比较,其差别在于增加了一个识别控制环节,将输出y(j)与所期望的响应d(j)比较,看是否一样,如果有误差ε(j),用ε(j)去控制w,使w为E[ε2(j)]=min时的W*.因此,关键:找到LMS算法,寻找一个W的递推式,由W=W0,起始值开始,沿着趋于W*的正确方向逐步递推,直至W=W*,E[ε2(j)]=min为止。这就是最小均方误差算法,简称LMS算法。第三节LMS递推算法•寻找一个W的递推式,由W=W0,起始值开始,沿着趋于W*的正确方向逐步递推,直至W=W*,E[ε2(j)]=min为止一、LMS算法递推式•LMS递推算法是Windrow与Hoff两个提出的。•设w(j)是j时刻的权矢量,w(j+1)是j+1时刻的权矢量;•则LMS算法的递推公式为:•式中μ0,