3.3递推算法

国防科学技术大学航天与材料工程学院2011-11-5第三章参数估计(1)内容介绍参数估计是根据试验测得的样本推断未知参数的数值，包括参数估计准则和估计算法。准则：最小二乘、最大似然、最小方差、最小风险、最小预报均方误差等。算法：迭代算法、递推算法。内容介绍§3.1最小二乘估计准则§3.2最小二乘估计迭代算法§3.3最小二乘估计递推算法内容介绍LS估计算法在具体使用时不仅计算量大,占用内存多,而且不能很好适用于在线辨识.随着控制科学和系统科学的发展,迫切需要发展一种递推参数估计算法,以能实现实时在线地进行辨识系统模型参数，进行实时控制和预报,如在线估计自适应控制和预报时变参数辨识故障监测与诊断为什么要研究递推算法？内容介绍迭代方法解决了矩阵求逆的问题，可以给出参数的最小二乘估计，但在计算效率和存储效率上都不如递推方法；递推方法需要利用迭代方法或者其它方法获得初始值，一旦起步就可以发挥递推方法的特点；递推方法适于在线估计；迭代方法适于事后估计。§3.3最小二乘估计递推算法•递推辨识算法的思想可以概括成新的参数估计值=旧的参数估计值+修正项即新的递推参数估计值是在旧的递推估计值的基础上修正而成,这就是递推的概念.–递推算法不仅可减少计算量和存储量,而且能实现在线实时辨识.–该工作在1950年由Plackett完成。递推算法的基本思想是什么？本节约定：，，§3.3最小二乘估计递推算法设j时刻的观测方程如下：()()()yjhjvjYHV()YYj()HHj()VVj而包括j时刻观测方程的总的观测方程为：§3.3最小二乘估计递推算法于是，可以定义如下几个量的具体形式：可以利用和新的观测信息确定1()(1)(1)()(1)(1)defjdefjdefjjyjYjYjyj(1)yj1jj§3.3最小二乘估计递推算法主要问题是上述矩阵的求逆问题，记信息矩阵B的逆为P。引入矩阵反演公式：可以获得递推最小二乘公式。111111()()TTTACCAACICACCA()()(1)(1)(1)(1)()()(1)(1)TTTTHjHjHjHjhjhjHjHjhjhj　　　　　　　　§3.3最小二乘估计递推算法TT1()(1)[(1)()(1)]jKPjhjIhjPjhj(1)()(1)()[(1)]()jjPjPjKhjPjIKhjPj1ˆˆˆ[(1)(1)]jjjjKyjhj其中进一步推得：B的逆为PTT()(1)[(1)()(1)]jPjhjKIhjPjhj结果：新的参数估计值修正项旧的参数估计值预报误差增益矩阵§3.3最小二乘估计递推算法STEP1：j=0，给定和；0ˆˆj0jPP(1)yj(1)hj()Kj(1)Pj1ˆj1ˆˆjj算法步骤：STEP4：若退出，否则j=j+1，返回STEP2。STEP2：利用j+1时刻的观测值和计算；STEP3：利用和的递推关系可以得到新的参数估计值和信息逆矩阵；§3.3最小二乘估计递推算法例3.6：对参数和进行线性观测，值为其中为测量噪声，对其增加一组观测，试用递推算法估计。1211212122312332yvyvyviv41244yvˆ§3.3最小二乘估计递推算法解：由最小二乘估计公式得到：7811231630152123552ˆˆ(3)ˆyyyyy由最小二乘递推公式：11111305115566(3)(3)(3)611TPHH(4)14h113188989(3)(3)(4)(4)(3)(4)TTTKPhIhPhˆˆˆ(4)(3)(3)(4)(4)(3)Kyh§3.3最小二乘估计递推算法17316813123489894458939218111234898944589ˆ(4)yyyyyyyy§3.3最小二乘估计递推算法例3.7：时不变单自由度体系模型如图所示，其中，k为弹簧刚度，c为阻尼，m为质量，f(t)为输入（激励）。对系统结构物理参数进行辨识，确定[m,c,k]。()()()()mxtcxtkxtft输入：激励f(t)；输出：位移、速度、加速度。§3.3最小二乘估计递推算法下面关于递推算法,有关于其实现问题的如下说明:A.递推初始值选取B.信号充分丰富，系统充分激励C.数据饱和§3.3最小二乘估计递推算法递推初始值选取在递推辨识中,如何选取递推计算中的和P(k)的初值是一个相当重要的问题.一般来说,有如下两种选取方法:)(ˆk)0(ˆ选取各元素为零或较小的参数,P(0)=I,其中为充分大的实数（105～1010）;先将大于所需辨识的参数个数的L组数据,利用成批型的LS法求取参数估计值LS和信息逆阵P(L),并将这些量作为递推估计的初值.§3.3最小二乘估计递推算法信号充分丰富与系统充分激励•对于所有学习系统与自适应系统,信号充分丰富(系统充分激励)是非常重要的.–若系统没有充分激励,则学习系统与自适应系统就不能一致收敛.•不一致收敛则意味着所建模型存在未建模动态或模型误差较大,这对模型的应用带来巨大隐患.•如对自适应控制,未建模动态可能导致系统崩溃.–为保证学习系统与自适应系统一致收敛,则所产生的系统的学习样本数据(系统输入输出信号)应具有尽可能多的模态,其频带要足够宽,而且其信号强度不能以指数律衰减.§3.3最小二乘估计递推算法数据饱和随着信息的不断增加，一般估计精度会越来越高，但在实际使用中，有时会出现估计值精度下降的现象。(1)()PjPj(1)()(1)()jPjPjKhjPjTT1()(1)[(1)()(1)]jKPjhjIhjPjhj推得信息矩阵的正定性不断减小，对新的信息的改进作用也逐步趋于零，新增加的数据对估算没有影响。§3.3最小二乘估计递推算法–渐消记忆法通过对不同时刻的数据赋予一定的加权系数,使得对旧数据逐渐遗忘,加强新数据对当前辨识结果的影响,从而避免信息逆矩阵P(k)与增益矩阵K(k)急剧衰减而失去对参数估计的修正能力,使算法始终保持较快的收敛速度.–信息逆矩阵重调即在指定的时刻重新调整信息逆矩阵P(k)至某一给定值,避免信息逆矩阵P(k)与增益矩阵K(k)急剧衰减而失去对参数估计的修正能力,使算法始终保持较快的收敛速度.()(1)(1)YjYjyj§3.3最小二乘估计递推算法–信息逆矩阵修正为了防止矩阵P(k)趋于零,当参数估计值超过某阈值时,矩阵P(k)自动加上附加项Q,避免信息逆矩阵P(k)急剧衰减.–限定记忆法限定记忆法依赖于有限长度的数据,每增加一个新的数据信息,就要去掉一个老数据的信息,数据长度始终保持不变.限定记忆法通过两步递推过程来实现:–一步递推为将需要去掉的历史数据从辨识中通过递推来将其影响去掉.–另一步即为前面介绍的RLS,其作用为根据新数据进行递推辨识.小结最小二乘估计递推算法的思想最小二乘估计递推算法的推导及步骤最小二乘估计递推算法的实现问题本章总结输入系统模型输入miiiRyJ12min||一般最小二乘极值原理测量值加权批处理加权最小二乘在线递推最小二乘估值精度低迭代最小二乘事后一次完成作业：习题：3-7，3-8，3-9。上机作业：例3.7:①f自由设计，令m=1,c=1,k=1，产生观测量位移、速度和加速度，加入白噪声后利用递推算法辨识参数[m,c,k]；②f自由设计，令m=1,c=1,k=104，产生观测量位移、速度和加速度，加入白噪声后利用递推算法辨识参数[m,c,k]。§3.3最小二乘估计递推算法END！