用回归系数的最小二乘估计法确定直线方程

用回归系数的最小二乘估计法确定直线方程为了研究附表3中数据之间的关系，我们以实际销售量x为横坐标，以计划销售量y为纵坐标将这些数据点（,iixy）在平面直角坐标系上标出，这些数据点大致落在一条直线附近，这说明变量x与y之间的关系大致可以看作是直线关系。不过这些点又都不在一条直线上，这表明x和y之间的关系是不确定关系。实际上，计划销售量y除了与实际销售量x有一定关系外，还受到许多其他因素影响。因此，y与x之间可假定有如下关系式：+yAbx…………………①由以上可以确定一元线性回归模型，记为，2+0,yAbxED①式两边同时取数学期望：yAbx，称为y对x的回归直线方程。在该模型下，第i个观测值可以看作样本iiiyAbx的实际抽样值，即样本值。一元线性回归分析法的主要任务是：用试验值（样本值）对bA、和作点估计；对回归系数A、b作假设检验。模型参数估计回归系数的最小二乘估计用最小二乘法来估计模型中的未知参数a和b，假设有n组独立观测值：（11,xy），（22,xy），…，（55,xy），则由模型有i2125,1,2,,50,iiiiyAbxiED且，，，相互独立记5221=()iiiQQyAbx5ii=1（A,b）=称(,)QAb为偏离真实直线的偏差平方和。最小二乘法就是选择A,和b的估计^^Ab和,使得^^(,)QQAbA,b（A,b）=min为此，将上式分别对A、b求偏导数，得51512()2()iiiiiiQyAbxAQyAbxb令上两式为0，并用^^A,b取代A,b，得5^^15^^1(b)=0(b)=0iiiiiiyAxyAx于是有55^^11555^^21115iiiiiiiiiiiAbxybxAxxy此方程组为正规方程组。有正规方程组解得^^^22Aybxxyxybxx其中55552211111111,,,5555iiiiiiiiixxyyxxxyxy此时回归方程为^^^^()yAbxybxx注：⊙52^1552211()(,)()()iiiiiiixxybNbxxxy,所以^b是b的无偏估，同样，^A也是A的无偏估计；⊙对每组ii（x,y）,可求出拟合值^iv以及残差^iiyy,易知5^i1()0iiyy这说明残差之和为零。