计算方法-第三章曲线拟合的最小二乘法

2021/7/22第三章曲线拟合的最小二乘法1第三章曲线拟合的最小二乘法§1曲线拟合与最小二乘法§2多项式拟合函数§3用正交多项式最小二乘法§4矛盾方程组的最小二乘法2021/7/22第三章曲线拟合的最小二乘法2§1曲线拟合与最小二乘法当我们得到的实验数据是准确值时，可以用代数插值的方法，求出原函数的近似表达式。经常由观察或测试可得到y=f(x)的一组离散数据：但是，这组离散数据由观察或测试得到，往往并非完全精确，如果用插值的方法来逼近，效果就不会太好。这时可以考虑用最小二乘法进行数据拟合，给出逼近曲线。其特点是：所求的逼近曲线不一定经过这些离散点，但却尽可能的靠近原曲线。(xi,yi),yi=f(xi),i=0,1,…,m离散点的最佳平方逼近-几何上称为曲线拟合(curvefitting)2021/7/22第三章曲线拟合的最小二乘法3最小二乘拟合曲线2021/7/22第三章曲线拟合的最小二乘法4三次样条函数插值曲线2021/7/22第三章曲线拟合的最小二乘法5Lagrange插值曲线2021/7/22第三章曲线拟合的最小二乘法6一、数据拟合的最小二乘法的思想已知离散数据：(xi,yi),i=0,1,2,…,m,假设我们用函数逼近函数f(x)，则两个函数在每一个点xi都会产生一个误差：**()()()iiiiixfxxy.,,2,1,0mi我们希望所求的逼近函数在每一个xi处所产生的误差δi的绝对值|δi|达最小。但这样分别考虑太困难，所以我们应考虑整体误差miim02221202*20[()]miiixy*()x2021/7/22第三章曲线拟合的最小二乘法7应该使2222012*200[()]mmmiiiiiδδδδδφxyL整体达最小（误差的平方和最小）。通过这种度量标准求得拟合曲线的方法，就称作曲线拟合的最小二乘法(最小二乘逼近)。按照以上思想求f(x)的拟合曲线（逼近函数）时，首先需要确定出f(x)所属的函数类，然后进一步求出具体函数，具体按照以下步骤进行。221202m2021/7/22第三章曲线拟合的最小二乘法8二、最小二乘法拟合曲线的步骤第二步：根据图示判断点(xi,yi)所反映的函数类，确定曲线所属的函数类型，例如多项式函数类、三角函数类、指数函数类、对数函数类等。假设所确定的函数类的基函数为第一步：根据如下已知点的坐标，在坐标系里描点miyxii,,2,1,0),,(01{,,,}nHspan则所求的函数可以表示为：*0()()njjjxax只要确定了系数，就可以求出拟合曲线。经验公式2021/7/22第三章曲线拟合的最小二乘法9第三步：对于其整体误差所求的解应该使以上二次函数达到极小，由极值原理应有：22*200[()]mmiiiiixy200[()]mnjjiiijaxy令：20100(,,,)[()]mnnjjiiijaaaaxy0,0,1,2,,kkna2021/7/22第三章曲线拟合的最小二乘法10这样由0,0,1,2,,kkna20100(,,,)[()]mnnjjiiijaaaaxy及002()()0mnjjiikiijkaxyxa求得整理为000()()()0mnmjjikiikiijiaxxyx000()()()nmmjikijikijiixxayx2021/7/22第三章曲线拟合的最小二乘法11000()()()nmmjikijikijiixxayx令miikijkjxx0)()(),(miikikxyf0)(),(则有0(,)(,),0,1,,njkjkjafkn这样就给出了求解方程组：01,,,naaa离散内积2021/7/22第三章曲线拟合的最小二乘法120,00,10,001,01,11,11,0,1,()()()(,)()()()(,)()()()(,)nnnnnnnnafafaf同样称其为法方程组。解法方程组求得***01,,,naaa便得到最小二乘拟合曲线为了便于求解，我们再对法方程组的导出作进一步分析。**0()()njjjxax2021/7/22第三章曲线拟合的最小二乘法13得到法方程组系数矩阵第j行的元素为：miikijkjxx0)()(),()()()()(,),(),(1010mkkkmjjjxxxxxx),(),(),(10njjj)()()()()()()()()()(,),(),(0111100010010mnmnmnnmjjjxxxxxxxxxxxx由),1,0(nk2021/7/22第三章曲线拟合的最小二乘法14于是法方程组的系数矩阵可写为：)()()()()()()()()(101110101000mnnnmmxxxxxxxxx)()()()()()()()()(,1,0,,11,10,11,01,00,0nnnnn)()()()()()()()()(101111000100mnmmnnxxxxxxxxx将右端第二个矩阵记为：2021/7/22第三章曲线拟合的最小二乘法15)()()()()()()()()(101111000100mnmmnnxxxxxxxxxA0,00,10,1,01,11,,0,1,()()()()()()()()()nnTnnnnAA则系数矩阵可以表示为：此外，关于法方程组的右端项（常数项）：2021/7/22第三章曲线拟合的最小二乘法16由),1,0()(),(0nkxyfmiikjkmmkkkyyyxxx1010)(,),(),(得到),(),(),(10nfff)()()()()()()()()(101110101000mnnnmmxxxxxxxxxmyyy10YAT2021/7/22第三章曲线拟合的最小二乘法17最后可以将法方程组表示为：YAACATT其中1,1101111000100)()()()()()()()()(nmmnmmnnxxxxxxxxxAmyyyY1001naaCa这样可以较快写出法方程组来。2021/7/22第三章曲线拟合的最小二乘法18如果所求得最小二乘拟合函数为n次多项式，则：nnxx,,,110nmmnnxxxxxxA1111100nmnnmTxxxxxxA1010111这时：YAACATT01naaCamyyyY10误差：miiimiiimiiyxfyy0202*022])([)(*200[()]mnjjiiijaxy法方程的解是存在且定理唯一的。证：法方程组的系数矩阵为001000111101(,)(,)(,)(,)(,)(,)(,)(,)(,)nnnnnnG01(),(),...,()[,]0,nxxxabGGCF因为在上线性无关，所以故法方程的解存在且唯一。2021/7/22第三章曲线拟合的最小二乘法20例3.1根据如下离散数据拟合曲线并估计误差x1234678y2367532解:step1:描点123456787654321*******step2:从图形可以看出拟合曲线为一条抛物线：2210xcxccystep3:根据基函数给出法方程组§2多项式拟合函数2021/7/22第三章曲线拟合的最小二乘法21nmnnmTxxxxxxA1010111由得到262120610111xxxxxxAT即6449361694187643211111111TATY2357632又求得81471171179117117931179317AATYAT63512128法方程组为：01273117931179117117911718147ccc635121282021/7/22第三章曲线拟合的最小二乘法2201273117931179117117911718147ccc63512128解得：3864.0,4321.3,3185.1210ccc求得拟合二次多项式函数223864.04321.33185.1)(xxxp误差为：60222])([iiiyxp先计算出拟合函数值：得到：0000.32或者：7321.1xi1234678p21.72724.00015.50026.22755.36373.77261.40872021/7/22第三章曲线拟合的最小二乘法23解：在坐标轴描点例3.2根据如下离散数据拟合曲线并估计误差xi-3-2-10123yi4230-1-2-5从离散点的图形上看不出原函数属于哪一类型，一般多采用多项式拟合，在此我们用二次多项式拟合。22102)(xcxccxp2021/7/22第三章曲线拟合的最小二乘法24根据如下离散数据给出法方程组xi-3-2-10123yi4230-1-2-5这时941014932101231111111TATY5210324求得19602802802807AATYAT7391得到法方程组739119602802802807210ccc2021/7/22第三章曲线拟合的最小二乘法25所求二次拟合曲线为2*28411283932)(xxxp拟合曲线的均方偏差为759.1))((602*2iiiyxp012702810280392801927ccc由8411,2839,32210ccc解得：2021/7/22第三章曲线拟合的最小二乘法26拟合曲线在实际中有广泛应用，特别在实验、统计等方面是如此。通常，由一组试验或观测取得数据，这些数据先在平面上标出，然后确定拟合曲线的类型。例如，电阻与导线的长度呈线性关系，如何确定具体的线性表示式，可通过对不同长度的导线测试电阻所得数据作拟合曲线而得。对于某些具体问题，有时拟合曲线的类型是已知的，所对应的公式也叫做经验公式，只需确定曲线的具体参数即可。下面给出一个已知经验公式，如何确定其