第五章-线性参数的最小二乘法

第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第5章线性参数的最小二乘处理第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪最小二乘法原理是一种在多学科领域中获得广泛应用的数据处理方法．本章将重点阐述最小二乘法原理在线性参数和非线性参数估计中的应用。从而使学生掌握最小二乘法的基本思路和基本原理，以及在等精度或不等精度测量中线性、非线性参数的最小二乘估计方法，并科学给出估计精度。教学目标第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪•最小二乘法原理•等精度测量线性参数的最小二乘处理•不等精度测量线性参数的最小二乘处理•最小二乘估计量的精度估计•组合测量的最小二乘法处理重点与难点第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第一节最小二乘原理一、引入待测量（难以直接测量）：tXXX,,,21直接测量量：nYYY,,,21),,,(),,,(),,,(212122221111tnnnttXXXfYlXXXfYlXXXfYl问题：如何根据和测量方程解得待测量的估计值？nlll,,,21txxx,,,21第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪:tn直接求得。txxx,,,21:tn有利于减小随机误差，方程组有冗余，采用最小二乘原理求。txxx,,,21第一节最小二乘原理讨论：最小二乘原理：最可信赖值应使残余误差平方和最小。第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第一节最小二乘原理二、最小二乘原理设直接测量量的估计值为，则有nYYY,,,21nyyy,,,21),,,(),,,(),,,(2121222111tnnttxxxfyxxxfyxxxfy由此得测量数据的残余误差nlll,,,21),,,(),,,(),,,(212122221111tnnnttxxxflvxxxflvxxxflv残差方程式第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第一节最小二乘原理若不存在系统误差，相互独立并服从正态分布，标准差分别为，则出现在相应真值附近区域内的概率为nlll,,,21n,,,21nddd,,,21),,2,1(21)2(22nidePiiiii由概率论可知，各测量数据同时出现在相应区域的概率为nnniidddePPniii21)2(21112221nlll,,,21第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第一节最小二乘原理测量值已经出现，有理由认为这n个测量值出现于相应区间的概率P为最大。要使P最大，应有nlll,,,212222222121nn最小由于结果只是接近真值的估计值，因此上述条件应表示为2222222121nnvvv最小第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪等精度测量的最小二乘原理：niinvvvv1222221最小不等精度测量的最小二乘原理：niiinnvpvpvpvp122222211第一节最小二乘原理最小最小二乘原理（其他分布也适用）测量结果的最可信赖值应使残余误差平方和（或加权残余误差平方和）最小。第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第一节最小二乘原理三、等精度测量的线性参数最小二乘原理线性参数的测量方程和相应的估计量为：tntnnnttttXaXaXaYXaXaXaYXaXaXaY22112222121212121111tntnnnttttxaxaxayxaxaxayxaxaxay22112222121212121111残差方程为)()()(2211222212122121211111tntnnnnttttxaxaxalvxaxaxalvxaxaxalv第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第一节最小二乘原理令ntnnttnnnaaaaaaaaaAvvvVxxxXlllL212222111211212121ˆ则残差方程的矩阵表达式为XALVˆ等精度测量最小二乘原理的矩阵形式：最小）（）（最小XALXALVVTTˆˆ第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪不等精度测量最小二乘原理的矩阵形式：第一节最小二乘原理思路一：2222221221000000000000nnnnpppP权矩阵最小）（）（最小XALPXALPVVTTˆˆ四、不等精度测量的线性参数最小二乘原理第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第一节最小二乘原理思路二：不等精度等精度iptnntnnnnnnnnttttxpaxpaxpaplpvxpaxpaxpaplpvxpaxpaxpaplpv22112222221221222211211211111111'iv'il'1ia'2ia'ita则有：最小）（）（最小XALXALVVTTˆ''ˆ''''第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程正规方程：误差方程按最小二乘法原理转化得到的有确定解的代数方程组。一、等精度测量线性参数最小二乘处理的正规方程tntnnnnttttxaxaxalvxaxaxalvxaxaxalv2211222212122121211111最小22221nvvv0)(0)(12112nniiniixvxv第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程正规方程：tniititniiitniiitiniittniitiniiiniiiiniitniitiniiiniiiiniixaaxaaxaalaxaaxaaxaalaxaaxaaxaala12121111122122111212112121111111特点：主对角线分布着平方项系数，正数相对于主对角线对称分布的各系数两两相等第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪看正规方程组中第r个方程：0][12121111tniitirniiirniiiriniirxaaxaaxaala02211nnrrrvavava则正规方程可写成000221122221121221111nntttnnnnvavavavavavavavava0VAT第二节正规方程即正规方程的矩阵形式第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程将代入到中，得XALVˆ0VAT0ˆXAALATTLAXAATTˆAACTLAXCTˆLACXT1ˆ（待测量Ｘ的无偏估计）第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程例5.1已知铜棒的长度和温度之间具有线性关系：，为。为获得０℃时铜棒的长度和铜的线膨胀系数，现测得不同温度下铜棒的长度，如下表，求，的最可信赖值。)1(0tyyt0y0y1020304050602000.362000.722000.82001.072001.482000.60Cti0/mmli/解：1）列出误差方程)(00iiitayylv令为两个待估参量，则误差方程为daycy00,第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程)(dtclviii按照最小二乘的矩阵形式计算601501401301201101ˆ60.200148.200107.200180.200072.200036.2000AdcXL则有：0012.0034.0034.013.11C第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程03654.097.1999ˆ1dcLACXT那么：Cydmmcy000/0000183.0/97.1999第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程二、不等精度测量线性参数最小二乘处理的正规方程＝最小niiivp120)(0)(12112nniiiniiixvpxvp由此可得不等精度测量线性参数最小二乘处理的正规方程：第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程tniititiniiitiniiitiiniititniitiiniiiiniiiiiniiitniitiiniiiiniiiiiniiixaapxaapxaaplapxaapxaapxaaplapxaapxaapxaaplap12121111122122111212112121111111整理得：000222111222221121122121111nntnttnnnnnnvapvapvapvapvapvapvapvapvap第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程即0PVAT不等精度的正规方程将代入上式，得XALVˆ0ˆXPAAPLATTPLAXPAATTˆPAACTPLAXCTˆPLACXT1ˆ（待测量Ｘ的无偏估计）第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程例5.2某测量过程有误差方程式及相应的标准差：08.0)5(27.1508.0)4(22.1308.0)3(81.1006.0)2(60.806.0)(44.652154214321322121211xxvxxvxxvxxvxxv试求的最可信赖值。21,xx解：首先确定各式的权9:9:9:16:161:1:1:1:1::::252423222154321ppppp第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪第二节正规方程令615141312111ˆ27.1522.1381.1060.844.621AxxXL900000900000900000160000016nnP227.2186.4)(ˆ121PLAPAAxxXTT第五章线性参数的最小二乘法处理西华大学物理与化学学院物理实验中心谌晓洪三、非线性参数最小二乘处理的正规方程第二节正规方程