2015误差理论与数据处理第五章

第五章参数的最小二乘法估计数学工具关于最小二乘法数据处理↓参数估计↙回归分析↘•算术平均值，依据使残差的平方和为最小的原则•组合测量的问题•拟合经验公式等最小二乘法典型应用最小二乘法发展•200多年的历史；•天文和大地测量；•近代矩阵理论与电子计算机•经典的最小二乘法及其在组合测量的应用•深入的内容可参阅专门的书籍和文献主要内容•最小二乘法原理•线性测量方程组中参数的最小二乘法估计•非线性测量方程组中参数的最小二乘法估计•组合测量第一节最小二乘法原理从一组测量值中寻找最可信赖值x12,,,nxxx12,,,n221exp()22iiiivpdxix,iixxdx∝fx()_33+测得值同时出现的概率为12,,,nxxx最可信赖值满足22iiivMin2iiwvMin22()iivxxMin21iiw211exp()2(2)niiniiiiivPpdx最可信赖值；P为最大；式中负指数中因子达最小11niiiniiwxxw微分法得最可信赖值•（1）最小绝对残差和法：MinviMinvimaxMinvviiminmax小结•从一组测量数据中求得最佳结果，还可使用其它原理。例如•最可信赖值是在残差平方和或加权残差平方和为最小的意义下求得的，称之为最小二乘法原理。•（3）最小广义极差法：•（2）最小最大残差法：主要内容•最小二乘法原理•线性测量方程组中参数的最小二乘法估计•非线性测量方程组中参数的最小二乘法估计•组合测量第二节线性测量方程组中参数的最小二乘法估计•先举一个实际遇到的测量问题，为精密测定三个电容值:•采用的测量方案是，分别等权、独立测得,•列出待解的数学模型。这是一个组合测量的问题。321,,xxx323121,,,xxxxxx第二节线性测量方程组中参数的最小二乘法估计如为精密测定1号、2号和3号电容器的电容量1x2x3x测得值1y2y3y4y11221332340.3()0.4()0.5()0.3()xyxyxxyxxy待解的数学模型待求量为了获得更可靠的结果，测量次数总要多于未知参数的数目组合测量，指直接测量一组被测量的不同组合值，从它们相互所依赖的若干函数关系中，确定出各被测量的最佳估计值。第二节线性测量方程组中参数的最小二乘法估计这是一个超定方程组，即方程个数多于待求量个数，不存在唯一的确定解，事实上，考虑到测量有误差，记它们的测量误差分别为，按最小二乘法原理4321,,,vvvv第二节线性测量方程组中参数的最小二乘法估计分别对求偏导数，令它们等于零，得如下的确定性方程组。Minvi2321,,xxx(x1-0.3)+(x1+x3-0.5)=0(x2+0.4)+(x2+x3+0.3)=0(x1+x3-0.5)+(x2+x3+0.3)=0x1=0.325,x2=-0.425,x3=0.150可求出唯一解第二节线性测量方程组中参数的最小二乘法估计以下，一般地讨论线性参数测量方程组的最小二乘解及其精度估计。第二节线性测量方程组中参数的最小二乘法估计一、正规方程组第二节线性测量方程组中参数的最小二乘法估计设线性测量方程组的一般形式为：titiiixaxaxay2211),,2,1(ni第二节线性测量方程组中参数的最小二乘法估计tntnnnttttxaxaxayxaxaxayxaxaxay22112222121212121111即式中，有n个直接测得值，t个待求量。nt,各等权，无系统误差和粗大误差。第二节线性测量方程组中参数的最小二乘法估计tjjijiixayv1),,2,1(ni第二节线性测量方程组中参数的最小二乘法估计jxnitjjijiniiMinxayv12112][上式分别对求偏导数，且令其等于零，经推导得jx应当满足][][][][][][][][][][][][22112222211211221111yaxaaxaaxaayaxaaxaaxaayaxaaxaaxaatttttttttt式中，，分别为如下列向量jay第二节线性测量方程组中参数的最小二乘法估计njjjjaaaa21nyyyy21第二节线性测量方程组中参数的最小二乘法估计和分别为如下两列向量的内积：][klaa][yaj][klaanknlklklaaaaaa2211=][yaj=nnjjjyayaya2211正规方程组有如下特点：第二节线性测量方程组中参数的最小二乘法估计tntnnnttttxaxaxayxaxaxayxaxaxay22112222121212121111测量方程组系数与正规方程组系数][klaanknlklklaaaaaa2211=（1）主对角线系数是测量方程组各列系数的平方和，全为正数。（2）其它系数关于主对角线对称（3）方程个数等于待求量个数，有唯一解。由此可见，线性测量方程组的最小二乘解归结为对线性正规方程组的求解。][klaanknlklklaaaaaa2211=][][][][][][][][][][][][22112222211211221111yaxaaxaaxaayaxaaxaaxaayaxaaxaaxaatttttttttt二、正规方程组的矩阵形式第二节线性测量方程组中参数的最小二乘法估计为了便于进一步讨论问题，下面借助矩阵工具给出正规方程组的矩阵形式。记列向量12nyyyY12txxxX12nvvvV12nlllL=和n×t阶矩阵第二节线性测量方程组中参数的最小二乘法估计111212122212ttnnntaaaaaaaaaA第二节线性测量方程组中参数的最小二乘法估计则测量方程组可记为：AX=Y测量残差方程组记为T()()MinL-AXL-AXV=L-AX最小二乘原理记为第二节线性测量方程组中参数的最小二乘法估计利用矩阵的导数及其性质有()2()2()()2()22xxxx①②TTTTTTTTVVVVLXAL-AXAL-AXAL-AAX第二节线性测量方程组中参数的最小二乘法估计令()0xTVV，得正规方程组的矩阵形式。展开系数矩阵和列向量，可得代数形式的正规方程组。当满秩的情形，可求出1()TTXAAALTAALAAXATT第二节线性测量方程组中参数的最小二乘法估计小结第二节线性测量方程组中参数的最小二乘法估计线性测量方程组的一般形式为11221tiiiittijjjyaxaxaxax1,2,,in1tiijjijyaxv测量残差方程组含有随机误差Ax=yy-Ax=v矩阵形式111212122212ttnnntaaaaaaAaaa12nyyyy12txxxx12nvvvv第二节线性测量方程组中参数的最小二乘法估计T()()Miny-Axy-Ax最小二乘法原理式求导TTAAx=Ay正规方程组正规方程组解1ˆTxCAyTAACT()w()Miny-Axy-AxwwTTAAx=Ay1ˆ(TTwwxAA)Ay不等权第二节线性测量方程组中参数的最小二乘法估计三、精度估计第二节线性测量方程组中参数的最小二乘法估计对测量数据的最小二乘法处理，其最终结果不仅要给出待求量的最可信赖值，还要确定其可信赖程度，即估计其精度。具体内容包含有两方面：一是估计直接测量结果的精度；二是估计待求量的精度。12,,,nyyy12,,,txxx第二节线性测量方程组中参数的最小二乘法估计1．直接测量结果的精度估计对t个未知量的线性测量方程组进行n次独立的等精度测量，得其残余误差为；标准偏差如果服从正态分布，那么服从分布，其自由度n-t，有变量的数学期望。AXY12,,,nlll12,,,nvvviv22/ii22tnEii}/{22即有第二节线性测量方程组中参数的最小二乘法估计tnii2令t=1，由上式又导出了Bessel公式。第二节线性测量方程组中参数的最小二乘法估计2．待求量的精度估计按照误差传播的观点，估计量的精度取决于直接测量数据的精度以及建立它们之间联系的测量方程组。12,,,txxx12,,,nlll第二节线性测量方程组中参数的最小二乘法估计可求待求量的协方差12()DTXAA矩阵1112121222112()ttttttdddddddddTAA各元素可由矩阵求逆得，也可由下列各方程组分别解得ijdTAA第二节线性测量方程组中参数的最小二乘法估计111112121121112212211112121[][][]1[][][]0[][][]0tttttttttaadaadaadaadaadaadaadaadaadd11第二节线性测量方程组中参数的最小二乘法估计112112221221212222221212222[][][]1[][][]0[][][]0tttttttttaadaadaadaadaadaadaadaadaadd21第二节线性测量方程组中参数的最小二乘法估计111122121122221122[][][]1[][][]0[][][]0ttttttttttttttttttaadaadaadaadaadaadaadaadaaddt1第二节线性测量方程组中参数的最小二乘法估计是直接测量数据的标准差，可按tnii2估计待求量jx的方差),,2,1(22tjdjjxj1()TAAjjd矩阵中对角元素就是误差传播系数第二节线性测量方程组中参数的最小二乘法估计待求量与的相关系数ixjx),,2,1,(tjidddjjiiijij第二节线性测量方程组中参数的最小二乘法估计小结第二节线性测量方程组中参数的最小二乘法估计1、直接测量结果的标准差估计（加权）未知量个数方程个数残差2、待求量的标准差估计xjjjd直接测量量的标准差1TAA对角元素误差传播系数3、待求量与的相关系数ijijiijjddd1TAA元素tnii2tniii2第二节线性测量方程组中参数的最小二乘法估计例2为精密测定1号、2号和3号电容器的电容量，进行了等权、独立、无系统误差的测量。测得1号电容值，2号电容值，1号和3号并联电容值，2号和3号并联电容值。试用最小二乘法求及其标准偏差。123,,xxx10.3y20.4y30.5y40.3y123,,xxx【解】列出测量残差方程组代数求解过程第二节线性测量方程组中参数的最小二乘法估计代数法求解例.docy-Ax=v0.30.40.50.3y100010101011A1234vvvvv11223134230.30.40.5()0.3()xxxxxx矩阵形式第二节线性测量方程组中参数的最小二乘法估计TTAAx=Ay100101020101001010211010011112011TCAA0.310100.80.401010.70.500110.20.3T