第四章函数最优逼近法一、最优平方逼近二、最优一致逼近一、最优平方逼近例1:距离0.511.522.533.54水深1.551.982.453.153.214.124.965.32例2:化学反应分子扩散时间0.10.511.52浓度2.821.61.31.2对于例2,设逼近函数形为:,该函数应该与已知点的某种差距最小。记:xyabe521(,)()ixiiSababey51512()02()0iiixiixxiiSabeyaSabeyeb52.2388.92.2381.394.7890.856,0.9240.8560.924xabababye,可求,min(,)abSab如果取逼近函数形为:2xxyabece522,,1min()iixxiabciSabecey52152152212()02()02()0iiiiiiiixxiixxxiixxxiiSabeceyaSabeceyebSabeceyec1.01,0.9870.998abc同样,对于例1,由于已知点几乎分布在一直线上,所以,设拟合函数为yabx0.9981.01ab1.最小二乘拟合通常情况下,我们会遇到这样的问题:在研究某种客观现象的时候,需要建立所描述对象的量之间的函数关系式。此时,我们对要研究的函数进行一系列观测,得到若干组观测值,然后利用这些观测值构造函数表达式。显然,由于观测误差等原因,构造出的函数不可能严格过这些观测值的点。对此,我们要求构造出的函数在观测点上的值与观测值差的平方和达到最小。这称为最小二乘拟合。线性最小二乘问题的一般提法:已知函数列线性无关,对于一组已知点(观测值),求函数列的一个组合,使之在加权最小二乘的意义下最佳逼近这些点,即求系数,使下面的和取最小:这里,求和中加了数,代表求和的权重。称为基于函数列的对已知观测点的一个最小二乘逼近。01(),(),,()nxxx1122(,),(,),,(,)mmxyxyxy0()()niiiPxax(0,1,,)iain211(,,)[()]mniiiiSaaPxy()Px0(1,,)iim注意到S实际上是关于的一个函数,欲取最小值,则如此得到一组方程,从中即可求出系数。引入记号:则得方程组:称为正规方程组,从中即可求出系数。(0,1,,)iain0(0,1,,)iSina(0,1,,)iain1(,)()()miiiifgfxgx0(,)(,),0,1,2,,nkjjkjaykn1(,)()mkikiiiyxy类似,可以得到多元函数的线性最小二乘拟合:设多元函数列线性无关,一组测量数据为求拟合函数使最小。则拟合系数同样满足上页蓝色的方程。只不过{}ja01211212(,,),(,,),,(,,),nnjnxxxxxxxxx12(,,,),(1,2,,)iiniixxxyim12120(,,)(,,)lnjjnjPxxxaxxx2121[(,,)]miiiniiiSPxxxy12121(,)(,,)(,,)mjkijiinikiiniixxxxxx例3:观测得到某函数一组数据,求其近似表达式:1234567891.782.242.743.744.455.316.928.8510.97设拟合函数为,引入变换,拟合函数为,数据变为:得正规方程组:1234567890.580.811.011.321.491.671.932.182.395lg()Yy0101010.22679455.8114528534.9620.15342,0.098451.424,0.22671.424xaaaaaaabyebxyae01lg()lg()Yabexaax最后结果如图最小二乘拟合多项式:设有变量x和y的一组数据:对多项式,选择适当系数后,使达到最小的多项式,称为数据的最小二乘(平方)拟合多项式,或称为变量x和y之间的经验公式.01()nnPxaaxax(,),,1,2,,iixyim211[()]miiiSPxym显然,S达到最小值,则记:得正规方程组(法方程):1100110,0,1,,()22[()]2{}kmmnjkiiijiiiiijkknmmjkkjiiijiiSknaPxSPxyaxyxamamaxxym11,mmllliliiiisxtxy0,0,1,,njkjkjsatkn2.内积定义:设X为R上的线性空间,对于X中的任意两个向量u,v,定义(u,v),如果满足下面条件:则称(u,v)为空间X上的一个内积。(1)(,)(,),(2)(,)(,),(3)(,)(,)(,),,,(4)(,)0,(,)0uvvuuvuvRuvwuwvwuvwXuuanduuiffu例:n维空间中的两个向量定义:证明:这是内积。例:设{i}是一组正实数,定义:证明:这也是内积。例:区间[a,b]上的所有连续函数全体构成一个线性空间C[a,b],在这个空间上定义:证明:这是一个内积。1212(,,,),(,,,)nnxxxxyyyy1(,)niiixyxy1(,)niiiixyxy(),()[,],(,)()()bafxgxCabfgfxgxdx定理:设(u,v)为空间X上的一个内积,对于空间中的一组向量,它们线性无关的充分必要条件是下面的所谓Gram(克拉姆)矩阵非奇异。12,,,nuuuX112111222212(,)(,)(,)(,)(,)(,)(,)(,)(,)nnnnnnuuuuuuuuuuuuuuuuuu.,0:2211作内积即得两边与由证明innuucucuc定义:设(u,v)为空间X上的一个内积,对于X中的任意两个向量u,v,如果(u,v)=0,则称u与v正交。记为:uv。例:3维空间中,证明下面向量两两正交例:区间[-1,1]上的所有连续函数全体构成一个线性空间C[-1,1],证明任意一个奇函数与偶函数正交。例:C[-,]中,证明下面函数两两正交:1,cosx,sinx,cos2x,sin2x123(1,0,0),(0,1,0),(0,0,1)eee3.正交多项式定义:满足的函数系称为正交函数系,如果该函数系是多项式,称为正交多项式系。1:[-,]中,1,cosx,sinx,cos2x,sin2x,cos3x,sin3x,…,cosnx,sinnx,…正交(,)0(),(,)0kjkkkj.0sincos)sin,(cos,,0,coscos)cos,(cos,,0,sinsin)sin,(sin,2)1,1(:mxdxxnmxnxnmnmmxdxxnmxnxnmnmmxdxxnmxnxdx证明2:勒让德(Legendre)多项式:[-1,1]上权为1的正交多项式21()(1),0,1,2,2!kkkkkdPxxkkdx230123425345()1,(),()(31)/2,()(53)/211()(35303),()(637015)88PxPxxPxxPxxxPxxxPxxxx此外还有下面的正交多项式如出都可由罗德里格公式推很多常用的正交多项式见公式有罗德里格一般地由分部积分法得证明,PRodrique,jkkjkdxxjdxxxxdxdxxxPPjkkjjjkkkkjjkkjjjkLegendre.).102()(.,122,0])1[()!2()1(])1[(])1[(0])1[(])1[(])1[(])1[(),(:11)(211)1(2)1(211)1(2)(211)(2)(23.拉盖尔(Laguerre)多项式:()(),0,1,2,kxkxkkdLxexekdx2012233()1,()1,()24()6189,LxLxxLxxxLxxxx2(,)(!)kkLLk()xwxe的正交多项式区间[0,)上权函数为4.埃尔米特(Hermite)多项式:22()(1)(),0,1,2,kkxxkkdHxeekdx2(,)2(!)kkkHHk201234234535()1,()2,()42()812,()164812()32160120,HxHxxHxxHxxxHxxxHxxxx2()xwxe的正交多项式区间(-,)上权函数为5.切比雪夫(Chebyshev)多项式:21()1wxx1()cos(arccos)2,0,1,2,kkkTxkxxk区间[-1,1]上权函数为的正交多项式0111()1,()2()(),0,1,2,kkkTxTxxTxTxTxk1210,()()/2,01,0mnmnTxTxdxmnxmn正交多项式的构造01100()1,()(),xxxcx001010001000(,)(,)00(,)(,)(,)xxcc11,1,(,)0(,)(,)(0,1,,)(,)kiikiiikiiixxccik对给定的有限点集X和权{ωi}或区间[a,b]和权函数,定义了内积后,可与向量的Schmite正交化类似,通过函数组{1,x,…,xn,…}可构造由给定内积(离散型或连续型)定义的正交多项式,如下:设其中c10是待定常数。由设01,,k已构造,两两正交,令111,0()(),kkkkjjjxxcx由1(,)0(0,1,,),ikik正交多项式的性质1.线性无关.证:假定存在常数,使得推论:次数低于n次的多项式必与n次正交多项式正交.2.n次正交多项式在正交区间[a,b]上有n个不同零点.证:nccc,,,10.,,1,0)(0)()()(1100nkcxgxgcxgcxgckknn作内积两边与)(xgn正交矛盾与或从而不妨设不变号则没有奇重根假定上在正交区间nbaninniinnnnggdxxgxxggg,xg,xg,xg,ba,,0)()(0)(),(0)()(0)(],[010kkxxg,,x,gxg的最高次项为且为正交多项式设)()()(103.对于最高次项系数为1的正交多项式,有三项递推公式:{()}kgx1111000()()()(),1/,/,(,),(,),()(/)().nnnnnnnnnnnnnnnnngxxbgxcgxnbcxgggggxxgx..0)(,1,.,,0)()()(,0)()()()(),(.0)()()()()()()()(,.,,0)()(),()()()(,,,.0)(111111111111111111111证毕个不同的实根有即这说明正交矛盾与或则作多项式假定均为奇数不妨设不变号其中即的重数分别为设奇重根必有奇重根所以nxgrrnkgPxQxxdxxQxxxgPxQxxxgxPxxxPnknrr,rr,rxQ,xQxQxxxgrr,,xgnnnkirkirimiirkrbankrkrnkkkkkrkrnkknkkkk