系统识别 第9章

第9章其它一些辨识方法9.1.1随机逼近法基本原理考虑系统模型()()()Tytkek（9.1.7）的参数辨识问题，其中()ek是均值为零的噪声。选取准则函数2211(){()}{[()()]}22TJEekEykk（9.1.8）求参数的估计值使()minJ。在{e(k)}是均值为0的独立随机序列的情况下，只要求()J的一阶负梯度并令其为0，即()[]{()[()()]0TTJEkykk（9.1.9）就可以求出使()minJ的参数估计值。但是，在不知道e(k)统计性质的情况下，式（9.1.9）是无法求解的。如果式（9.1.9）中的数学期望用平均值来近似，即将式（9.1.9）近似写成11()[()()]0NTkkykkN（9.1.10）则有111[()()][()()]NNTTkkkkkk（9.1.11）这种近似使问题退化为最小二乘法问题，式（9.1.11）即时最小二乘法。设x是标量，y(x)是对应的随机变量，(|)pyx是x条件下y的概率密度函数，则随机变量y关于x的条件期望为(|)(|)Eyxydpyx（9.1.12）对于给定的，设方程()(|)xEyx（9.1.14）具有唯一解。当()x函数的形式和条件概率密度都不知道时，求方程式（9.1.14）的解析是困难的，可用随即逼近法求解。所谓的随即逼近法就是利用变量12,,...,xx及对应的随机变量12(),(),...yxyx通过迭代算法，逐步逼近方程（9.1.14）的解。常用的迭代算法有鲁宾斯算法和凯伐-伍夫维兹算法。9.1.2随即逼近参数估计法考虑模型式0{lim()}1kprobxkx的参数辨识问题。设准则函数(){(,)}kJEh（9.1.21）式中：h(.)为某一标量函数；k表示k时刻之前的输入和输出数据集合。显然，准则函数的一阶负梯度为()(,)[][{}]{(,)}kTTkJhEEq（9.1.22）模型的参数辨识问题可归结为求如下方程的解，即{(,)}kEq=0（9.1.23）根据随即逼近原理有()(1)()((1),)kkkkqk（9.1.24）式中()k为收敛因子，必须满足式（9.1.16）的条件。如果()J具体取式（9.1.18）作为准则函数，则式（9.1.24）可写成()(1)()()[()()(1)]Tkkkkykkk（9.1.25）该式即时利用随即逼近法对模型（9.1.17）进行参数辨识的基本公式。设系统的差分方程为11()()()()()azykbzukk（9.1.26）式中()k是均值为0，方差为2()k的不相关噪声；输入输出数据对应的测量值为()()()()()()xkukskzkykvk（9.1.29）()sk和()vk分别是均值是为0、方差为2v和2的不相关随机噪声，且()k，()sk，()uk和()vk在统计上两两不相关。式（9.1.26）可写为()()()Tzkkek（9.1.30）式中()ek具有如下性质：{()}0{()()}0,{()()0}EekEeiejEkek有限值，|i-j|n|i-j|n（9.1.32）式中max(,)nmn。取准则函数为21(){[()()]}2TJEzkknn（9.1.33）利用随机逼近原理，可求得参数估计值的随即逼近算法****()(1)()()[()()(1)]Tknklknzknknk（9.1.34）为了避免误差累计，算法中所采用的数据必须是互不相关的，或者说数据中所含的噪声e(k)必须是统计独立的。利用式（9.1.34）所获得的参数估计是有偏的，因为根据式（9.1.19），由准则函数（9.1.33）可得**1**{[()()]}[()()]TEknknEknzkn=**1**0{[()()]}[()()]0TEknknEknekn（9.1.35）9.1.3随机牛顿法上面所讨论的随即逼近法实质上就是沿着准则函数的一阶负梯度方向去搜索极小值点，其递推公式可以写为(1)()()(1)|TkJkk（9.1.39）但是，当搜索点接近极小值点时，这种算法的收敛速度变得很慢，要获得较高的辨识精度。辨识时间很长。为了加快收敛速度，可采用牛顿算法22(1)()()()(1)[]|kJJkk（9.1.40）式中22()J为准则函数()J关于的二阶导数，通常称为海赛矩阵。海赛矩阵是对称矩阵，在递推计算过程中必须保证它的正定性。一般地，对于确定性准则函数，式（9.1.40）给出的牛顿算法具有较快的收敛速度和较好的辨识精度。对式（9.1.21）所示准则函数是回归函数的情况，可用随机牛顿算法1(1)()(1)()(,)|KkkkRkq（9.1.41）式中：(,)Kq的定义如式（9.1.22）；()Rk是海赛矩阵在(1)k点上的近似形式，在特定的准则函数下，它可以再次用随即逼近法确定。根据式（9.1.22），有(,)()[()()]KTqkykk（9.1.42）且海赛矩阵为22()[()()]TJEkk（9.1.43）设()Rk是海赛矩阵在k时刻的估计值，则有[()()()]0TEkkRk（9.1.44）根据式（9.1.15）可得()Rk的随机算法()(1)()[()()(1)]TRkRkkkkRk（9.1.45）于是式（9.1.7）所示系统模型参数辨识的随机牛顿算法可归结为1()(1)()()()[()()(1)]()(1)()[()()(1)]TTkkkRkkykkkRkRkkkkRk（9.1.46）9.22类不同概念的递推最小二乘辨识方法9.2.1随观测方程个数递推的最小二乘估计法假设一组观测值与未知参数具有线性关系，其关系式由向量-矩阵表示为mmmY（9.2.1）式中：mY是由m个观测值组成的列向量；是n个待估计的参数12,,...n组成的向量；m是元素为{}ij的mn阶已知系数矩阵；m是m个观测值所对应的随机误差12,,...m组成的列相量。若记列相量m的协方差矩阵{}TmmE=mR，并假设{}0mE，det0mR，当观测值个数m大于未知参数个数n时，有mrankn。由最小二乘估计原理可得未知参数相量的最佳线性无偏估计111()TTmmmmmmRRY（9.2.2）估计值m的误差协方差矩阵为11()TmmmmPR（9.2.3）若2mmRI，其中mI是mn单位矩阵，即观测误差是等方差不相关时，式（9.2.2）和（9.2.3）退化为高斯估计，也就是第5章所介绍的普通最小二乘法。如果方程式（9.2.1）又增加了l个观测值，则将式（9.2.1）改写为1mmlmlY（9.2.4）假设随机误差相量ml具有下列性质：（1）{}0mlE；（2）{},0,0{}0,0,{}TmmmTmlmlmlTlllERERRE（3）mlrankRml，即mlR満秩。显然所增加的l个观测值的误差相量与前面m个观测值的误差相量互不相关。为了减少存储旧的信息和避免重复计算，由ml个观测值对未知参数相量的最小二乘法可用递推最小二乘法得到，其计算公式为1()TmlmmlllllmPRY（9.2.5）误差协方差方程为11()TmlmlllPPR（9.2.6）由式（9.2.5）、（9.2.6）与（9.2.1）、（9.2.2）所得到的ml和mlP是完全一致的。同样有观测值从ml个减少到m个时的逆变递推公式111()TmmllllPPR（9.2.7）以及1()TmmlmllllmmlPRYP（9.2.10）上面正逆变的最小二乘法估计递推公式是随即观测方程个数变化的递推最小二乘估计法。9.2.1随未知参数个数变化的递推最小二乘估计如果式（9.2.1）增加L个未知参数，则可将式（9.2.1）改写为mnnllY（9.2.11）并且假设：（1）{}0E，{}TER，且det0RR；（2）[,]mlnlrankranknl现在利用最小二乘法进行参数估计，第一次仅估计未知参数n，然后由n的估计表达式地推到未知参数向量n和l的合成的参数估计ln。若记第1次、第2次参数估计分别为(1)(1)(2)(2)(2)nll（9.2.12）根据最小二乘法表达式（9.2.3）和（9.2.2）可分别得到11()TnnnPR（9.2.13）和(1)1111()TTTnnnnnRRYPRY（9.2.14）以及11[,]TnnlnlTlPR（9.2.15）(2)1TnnlTlPRY（9.2.16）下面要导出（9.2.15）和（9.2.16）的递推形式根据矩阵分块求逆定理有2(22)1(1)(22)1(22)1(1)()TTTlnllnnnllnllnnPRPRPRY（9.2.26）9.2.3利用递推最小二乘法导出EMBET公式利用随参数变化的最小二乘法可以导出在外测数据处理中用EMBET方法估算弹道参数和外测误差的误差系数表达式。假设k时刻的观测方程iiiiycx，1,2,...,ik（9.2.27）式中iy是i时刻的q维观测向量；ic是qn阶的已知系数矩阵，且qn，ic的秩为n；ix是待估计的第i时刻的n维未知的误差系数向量；i是第i时刻的q维观测误差向量。在外测中，视观测误差由随机误差和系统误差组成。观测误差可表示为,1,2,...,iiiFzik（9.2.28）式中：z是L维未知的误差系数向量；iF是ql阶的已知系数矩阵i是q维观测误差的随机误差向量，且满足：（1）{}0,1,2,...,;iEik（2）,,||0{},0,,,1,2,...,iiTijiijRijRERijijk且若将式（9.2.27）代入（9.2.28），并联立k组方程，则有YCXFz（9.2.29）当kpknl和[,]rankCFknl时，利用最小二乘估计法同时解得k组状态向量ix和误差向量z的估计值，这就是EMBET方法，其结果如下：1111111{[()]}kTTTTziiiiiiiiiiiiipFRFFRCCRCCRF（9.2.31）111111[()]kTTTTziiiiiiiiiiiizpFRFRCCRCCRy（9.2.32）而第i时刻状态向量估计和误差协方差矩阵为11111111111()()()()(),1,2,..,iTTTTTxiiiiiiiiiziiiiiiTTiiiiiiiipCRCCRCCRFPFRCCRCxCRCCRyFzik（9.2.33）应用随未知参数个数变化的递推最小二乘法估计很容易得到式（9.2.31）、（9.2.32）和（9.2.33）.比较式（9.2.11）和式（9.2.29）有nnllCXFz（9.2.34）首先对式（9.2.29）仅估计状态向量X，由式（9.2.13）和式（9.2.14）得(1)11()iTxPCRC（9.2.35