第三章回归分析预测方法

第三章回归分析预测方法要求掌握以下内容：概念部分：1.变量之间的关系可以分成哪两类2.回归分析与相关分析的区别和联系3.一元线性回归（Linearregression）4.最小二乘回归法的基本思想5.回归方程的显著性检验6.区间估计7.虚拟变量计算部分：8.一元线性回归预测法第一节引言本章学习目的与要求：通过本章的学习，了解回归分析预测法的概念，掌握回归分析中各系数的计算方法及回归预测方法，能够运用Excel工具来进行预测。回本章目录一、回归与回归分析预测方法“回归”一词的涵义“回归”最初是遗传学中的一个名词，由英国生物学家兼统计学家高尔登首先提出。他在研究人类的身高时，发现子女身高有回归于人类的平均身高的趋势。回归现代涵义研究自变量与因变量之间的关系形式的分析方法。目的：根据已知自变量来估计和预测因变量的值。例如：农作物亩产量施肥量降雨量气温在研究某一社会经济现象的发展变化规律时，经过分析可以找到影响这一现象变化的原因。在回归分析中，把某一现象称为因变量，它是预测的对象，把引起这一现象变化的因素称为自变量，它是引起这一现象变化的原因。而因变量则反映了自变量变化的结果。回归分析预测方法就是从各种经济现象之间的相互关系出发，通过对与预测对象有联系的现象变动趋势的分析，推算预测对象未来状态数量表现的一种预测方法。二、回归分析和相关分析1、变量之间的关系现实世界中，每一事物都与它周围的事物相互联系、相互影响，反映客观事物运动的各种变量之间也就存在着一定的关系。变量之间的关系可以分成两类：函数关系和相关关系。（1）函数关系。函数关系反映客观事物之间存在着严格的依存关系，是一种确定性关系，亦即当其它条件不变时，对于某一自变量或几个自变量的每一数值，都有因变量的一个的确定值与之相对应，并且这种关系可以用一个确定的数学表达式反映出来。设有两个变量x和y，y与x一起变化并完全依赖于x，当x取某个数值时，y依确定的关系取相应的值，则称y是x的函数，记作y=f(x)。如，企业的原材料消耗金额y与产量x1、单位产量消耗x2、原材料价格x3之间的关系可表示为y=x1x2x3。例：圆面积对于半径的依存关系，正方形的面积对于边长的依存关系等等。变量间的函数关系是一一对应的确定关系。（2）相关关系相关关系。反映事物之间的非严格、不确定的线性依存关系。有两个显著的特点：①事物之间在数量上确实存在一定的内在联系。表现在一个变量发生数量上的变化，要影响另一个变量也相应地发生数量上的变化。例：②事物之间的数量依存关系不是确定的，具有一定的随机性。表现在给定自变量一个数值，因变量会有若干个数值和它对应，并且因变量总是遵循一定规律围绕这些数值平均数上下波动。其原因是影响因变量发生变化的因素不止一个。例：影响工业总产值的因素除了职工数外，还有固定资产原值、流动资金和能耗等因素。成本劳动生产率相关关系的特点1．变量间关系不能用函数关系精确表达。2．一个变量的取值不能由另一个变量唯一确定。3．对于线性相关，各观测点分布在直线周围。-3-2-1012-2-1012(a)xy-2-1012-2-1012(b)xy-2-1012-2-1012(c)xy-3-2-1012302468(d)xy-3-2-1012-2-1012(a)xy-2-1012-2-1012(b)xy-2-1012-2-1012(c)xy-3-2-1012302468(d)xy不相关正相关负相关相关但无线性关系2、回归分析与相关分析研究和测度两个或两个以上变量之间关系的方法有回归分析和相关分析。相关分析。研究两个或两个以上随机变量之间线性依存关系的紧密程度。通常用相关系数表示，多元相关时用复相关系数表示。回归分析。研究某一随机变量（因变量）与其他一个或几个普通变量（自变量）之间的数量变动的关系。区别相关分析研究变量都是随机变量，不分自变量与因变量回归分析明确的自变量和因变量，自变量是确定的普通变量，因变量是随机变量。联系相关分析事物之间相互依存关系的两个不可分割的方面。在实际工作中，一般先进行相关分析，由相关系数的大小决定是否需要进行回归分析。在相关分析的基础上建立回归模型，以便进行推算、预测。回归分析相关分析相关关系线性相关非线性相关完全相关(R=±1)(即线性相关)不相关(R=0)正相关负相关正相关负相关相关系数——对变量之间关系密切程度的度量的取值范围是[-1,1]:完全相关/完全正相关/完全负相关/不存在线性相关关系/负相关/正相关一般，︱r︱＞0.7为高度相关；︱r︱＜0.3为低度相关；0.3＜︱r︱＜0.7为中度相关。rr222)()(*)())((iiiiiyyxxyyxx相关系数的缺点：r接近于1的程度与n有关。当n较小时r的波动较大，当n较大时r的绝对值容易偏小。例如，n=2时，r的绝对值总为1（两点连线总为一条直线）。例3-1设有10个厂家的投入和产出如下，根据这些数据，我们可以认为投入和产出之间存在相关性吗？（相关数据）厂家12345678910投入20402030101020202030产出30604060304040503070回归分析是研究某一随机变量(因变量)与其他一个或几个普通变量(自变量)之间的数量变动的关系。其基本思路是：从一组样本数据出发，确定变量之间的数学关系式，对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著。然后利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度。3、回归分析的基本思路三、回归模型的种类(1)根据自变量的多少，回归模型可以分为一元回归模型和多元回归模型。(2)根据模型中自变量与因变量之间是否线性，可以分为线性回归模型和非线性回归模型。(3)根据回归模型是否带有虚拟变量，回归模型可以分为普通回归模型和带虚拟变量的回归模型。应用回归分析预测需满足条件：1.数据量不能太少（以多于20个较好）；2.预测对象与影响因素之间必须存在相关关系；第二节一元线性回归预测法一元线性回归（Linearregression）是指成对的两个变量数据分布大体上呈直线趋势时，运用合适的参数估计方法，求出一元线性回归模型，然后根据自变量与因变量之间的关系，预测因变量的趋势。现实中，很多社会经济现象之间都存在相关关系，因此，一元线性回归预测有很广泛的应用。进行一元线性回归预测时，必须选用合适的统计方法估计模型参数，并对模型及其参数进行统计检验。回本章目录一、一元线性回归模型一元线性回归（Linearregression），只研究一个自变量与一个因变量之间的统计关系。对于只涉及一个自变量的简单线性回归模型可表示为：其中，b0和b1称为模型的参数；e是随机误差项，又称随机干扰项，有01yxbbe20,Ne在线性回归模型中加入随机误差项是基于以下原因：第一，模型不可能包含所有的解释变量。第二，模型的设定误差。第三，测量误差的影响。第四，其他随机因素的影响。简单线性回归方程的形式为也称为直线回归方程。其中，b0是回归直线在y轴上的截距；b1是直线的斜率，称为回归系数，表示当x每变动一个单位时，y的平均变动值。总体回归参数b0和b1是未知的，必需利用样本数据去估计。用样本统计量b0和b1代替回归方程中的未知参数b0和b1，就得到了估计的回归方程：其中，b0是估计的回归直线在y轴上的截距，b1是直线的斜率。01,yxbbe01ˆybbx二、参数b0和b1的最小二乘估计对例3-1中两个变量的数据进行线性回归，就是要找到一条直线来适当地代表图中的那些点的趋势。用数据寻找一条直线的过程也叫做拟合一条直线。02004006008001000120019921993199419951996199719981999200020012002200320042005利润额yt系列2线性(利润额yt)?22yabx11yabx33yabx首先需要确定选择这条直线的标准。这里介绍最小二乘回归法（leastsquaresregression）。最小二乘回归法的基本思想：通过数学模型，拟合一条较为理想的直线，这条直线必须满足两点要求（1）原数列的观测值与模型估计值的离差平方和（即所有点到该直线的垂直距离的平方和）为最小。（2）原数列的观测值与模型估计值的离差总和为0。最小二乘法离差与离差平方0246810121234567eeˆttteyy离差：11ˆ()0nnttttteyy离差和：2211ˆ()nnitttteyy离差平方和最小拟合程度最好6y6ˆy最小二乘原理简单讲，使历史数据到拟合直线上的离差平方和最小，从而求得模型参数的方法。法国数学家勒让德于1806年首次发表最小二乘理论。事实上，德国的高斯于1794年已经应用这一理论推算了谷神星的轨道，但迟至1809年才正式发表。最小二乘法也是数理统计中一种常用的方法，在工业技术和其他科学研究中有广泛应用。设简单线性回归模型中，b0和b1是b0和b1的估计值。则y的估计值用表示。我们要求出这样的待估参数b0和b1，使因变量的观察值与估计值之间的离差平方和达到最小，即使极小。为此，分别求Q对b0和b1的偏导，就可以求出符合要求的待估参数b0和b1：01ˆybbx01yxbbe22201iiiQyyybbxe10122,()nxyxyyxbbbnxxnn例3-2：已知某种商品的销售量同居民的可支配收入有关，现有如下表的统计数据，试建立回归方程，并求出相应参数的最小二乘估计值。年份实际可支配收入x（单位：10元）商品的销售量（单位：件）年份实际可支配收入x（单位：10元）商品的销售量（单位：件）19835226700199174181581984539713619927698683198557776581993801931719866137784199485596751987644810820198428542198867075832019860858419896958002201989096121990713844220199209719第一步：绘制散点图6000650070007500800085009000950010000500550600650700750800850900yi(件)xi（10元）950第二步：设一元线性回归方程为12201()iiiiiiiinxyxybnxxyxbbnn01ˆybbx年份实际可支配收入x(10元)商品的销售量（件）xi×yixi2198352267003497400272484198453971363846304290521198557776584418666332929198661377844771592375769198764481085221552414736198867075835080610448900198969580025561390483025199071384426019146508369199174181586045078549081199276986836677227591361199380193177462917641601199485596758272125731025201984285427192364708964201986085847382240739600201989096128554680792100201992097198941480846400SUM1165113370398944771872686598944771iixy28726865ix11651ix133703iy1201169894477111651133703168726865(11