统计学相关与回归分析

1第六章相关分析与回归分析本章内容第一节相关分析第二节一元线性回归分析2第一节相关分析本节内容一、相关关系的概念二、相关关系的种类三、相关关系的测定四、相关分析中应注意的问题31.函数关系当一个或几个变量取一定的值时，另一个变量有确定值与之相对应，我们称这种关系为确定性的函数关系。例:某种商品的销售额(y)与销售量(x)之间的关系可表示为:y=px(p为单价)圆的面积(S)与半径之间的关系可表示为:S=r2企业的原材料消耗额(y)与产量(x1)、单位产量消耗(x2)、原材料价格(x3)之间的关系可表示为:y=x1x2x3一、相关关系的概念4xy（1）变量之间是一一对应的确定关系;（2）设有两个变量x和y，变量y随变量x一起变化，并完全依赖于x，当变量x取某个数值时，y依确定的关系取相应的值，则称y是x的函数，记为y=f(x)，其中x称为自变量，y称为因变量;（3）各观测点落在一条线上.函数关系的特点：52.相关关系指变量之间保持着不确定的数量依存关系。即变量间关系不能用函数关系精确表达，一个变量的取值不能由另一个变量唯一确定，当变量x取某个值时，变量y的取值可能有几个。例：商品的消费量(y)与居民收入(x)之间的关系；商品的消费量(y)与物价(x)之间的关系；商品销售额(y)与广告费支出(x)之间的关系；粮食亩产量(y)与施肥量(x1)、降雨量(x2)、温度(x3)之间的关系；收入水平(y)与受教育程度(x)之间的关系。6相关关系的特点：xy（1）变量间关系不能用函数关系精确表达；（2）一个变量的取值不能由另一个变量唯一确定；（3）当变量x取某个值时，变量y的取值可能有几个；（4）各观测点分布在直线周围。7具有相关关系的某些现象可表现为因果关系。自变量：是引起某种结果变化的原因，它是可以控制、给定的值，常用x表示；因变量：是自变量变化的引起结果量，它是不确定的值，常用y表示。它们的表现形式有多种：一种原因引起一种结果；多种原因引起一种结果；还有变量之间是互为因果的关系。相关分析时，一般不区分原因和结果。8二、相关关系的种类1.按相关的程度可分为完全相关、不完全相关和不相关完全相关：当一个变量的变化完全由另一个变量所决定时，称变量间的这种关系为为完全相关关系，这种严格的依存关系实际上就是函数关系。不相关：当两个变量的变化相互独立、互不影响时，称这两个变量不相关（或零相关）。不完全相关：当变量之间存在不严格的依存关系时，称为不完全相关。不完全相关关系是现实当中相关关系的主要表现形式，是相关分析的主要研究对象。92.按相关的方向可分为正相关和负相关正相关：当一个变量随着另一个变量的增加（减少）而增加（减少），即两者同向变化时，称为正相关。如家庭收入与家庭支出之间的关系。负相关：当一个变量随着另一个变量的增加（减少）而减少（增加），即两者反向变化时，称为负相关。如产品产量与单位成本之间的关系，单位成本会随着产量的增加而减少。103、按相关的形式可分为线性相关和非线性相关线性相关：当变量之间的依存关系大致呈现为线性形式，即当一个变量变动一个单位时，另一个变量也按一个大致固定的增（减）量变动，就称为线性相关。非线性相关：当变量间的关系不按固定比例变化时，就称之为非线性相关。114.按研究变量的多少可分为单相关、偏相关和复相关单相关：两个变量之间的相关，称为单相关。复相关：一个变量与两个或两个以上其他变量之间的相关，称为复相关。偏相关：在复相关的研究中，假定其他变量不变，专门研究其中两个变量之间的相关关系时称其为偏相关。12三、相关关系的测定注意：并非所有的变量之间都存在相关关系，因此需要用相关分析方法来识别和判断。相关分析就是借助于图表和分析指标对变量之间的依存关系的密切程度进行测定的过程。定性分析是依据研究者的理论知识和实践经验，对客观现象之间是否存在相关关系，以及何种关系作出判断。定量分析在定性分析的基础上，通过编制相关表、绘制相关图、计算相关系数等方法，来判断现象之间相关的方向、形态及密切程度。13（一）相关表：将自变量x的数值按照从小到大的顺序，并配合因变量y的数值一一对应而平行排列的表。（二）相关图（散点图）识别变量间相关关系最简单的方法是散点图法。所谓散点图法，就是将所研究变量的观察值以散点的形式绘制在相应的坐标系中，通过它们呈现出的特征，来判断变量之间是否存在相关关系，以及相关的形式、相关的方向和相关的程度等。14【例】在研究我国人均消费水平的问题时，把全国人均消费记为y，把人均国内生产总值（人均GDP）记为x。我国人均国内生产总值与人均消费金额数据单位:元年份人均国内生产总值X人均消费金额Y199519961997199819992000200120022003485455766054630865517086765182149101223626412834297231383397360938184089从上表可以看出X和Y这两个变量之间存在什么样的相关关系？将上表资料绘制散点图如下：15所绘制的散点图呈现出从左至右的上升趋势，它表明x与y之间存在着一定的正相关关系，即随着人均GDP的上升，人均消费金额也会增加。有时也可通过表格来直接观察变量之间是否存大相关关系。将上表资料绘制散点图如下：16(a)正相关\直线相关(b)负相关\直线相关(c)正相关\曲线相关x与y关系散点图的主要类型17(d)负相关\曲线关系(e)负相关直线相关(相关程度较小)(f)不相关18（二）相关系数相关图表可反映两个变量之间的相互关系及其相关方向，但无法确切地表明两个变量之间相关的程度。统计学家卡尔·皮尔逊设计了统计指标–––相关系数。简单相关系数：在线性条件下说明两个变量之间相关关系密切程度的统计分析指标，简称相关系数。•根据总体全部数据计算的，称为总体相关系数，记为;根据样本数据计算的，则称为样本相关系数，记为r。将反映两变量间曲线相关关系的统计指标称为非线性相关系数、非线性判定系数；将反映多元线性相关关系的统计指标称为复相关系数、复判定系数等。191、由未分组资料计算相关系数公式：的协方差。与的标准差及、变量分别为变量和、其中：yxyxrxyyxyxxy22nxxx2)(nyyy2)(nyyxxxy))((22)()())((yyxxyyxxr上述公式还可以变换为其它形式，如：20nxxxnxxnxnnxxxnxxx22222222)(222)(yynyy22)(nyxxyyyxx))(()2()(222xxxxxx212222)(1)(11ynyxnxyxnxyr2222)()(yynxxnyxxynr22【例】根据上述资料，计算人均消费与人均国内生产总值的直线相关系数。239938.02873494547496961395433057667928734613952022998529222222yynxxnyxxynr将上表计算结果代入公式为：相关系数较大，这说明人均消费额与人均国内生产总值高度相关。2、由分组资料计算相关系数的公式为:2222)()(jjjjjiiiiijjiiijjiijfyfyffxfxffyfxfyxfr24-1.0+1.00-0.5+0.5无线性相关负相关程度增加r正相关程度增加完全负相关完全正相关3、相关系数取值及其意义相关系数的值介于–1与+1之间，即–1≤r≤+1。25（1）当r0时，表示两变量正相关，r0时，两变量为负相关。（2）当|r|=1时，表示两变量为完全线性相关，即为函数关系。（3）当r=0时，表示两变量间无线性相关关系，它并不意味着Ｘ与Ｙ之间不存在其他类型的关系。。（4）当0|r|1时，表示两变量存在一定程度的线性相关。且|r|越接近1，两变量间线性关系越密切；|r|越接近于0，表示两变量的线性相关越弱。（5）通常判断的标准是:|ｒ|＜0.3称为微弱相关；0.3≤|ｒ|＜0.5称为低度相关；0.５≤|ｒ|＜0.8称为显著相关；0.8≤|ｒ|＜1称为高度相关或强相关。264、相关系数取正值或是负值，与分子有直接的关系.它可能出现以下情况：1）所有相关点都为正相关，则0，说明两变量之间正线性相关；2）所有相关点都为负相关，则0，说明两变量之间负线性相关；3）在全部相关点中，既有正相关、又有负相关和零相关，这时计算协方差时就会出现正负抵消。抵消的结果为正数，为正相关；为负数就是负相关.2xy2xy2xy27四、相关分析中应注意的问题（一）相关系数是说明线性联系程度的，相关系数很小的变量间可能存在非线性联系。（二）相关系数不能解释两变量间的因果关系，警惕虚假相关导致的错误结论。有人曾对教师工资提高和酒价上涨的数据计算相关系数，得到的数值比较大，这是否表明教师工资提高导致酒的消费量增加，从而导致酒价上涨呢？经定性分析，事实是由于经济繁荣导致政府普遍增加工资，其中教师工资也随之增加，同时人们收入提高增加了酒的消费导致酒价的上涨，而教师工资增长和酒价之间并没有什么直接关系。（三）不要在相关关系据以成立的数据范围以外，推论这种相关关系仍然保持。28第二节一元线性回归分析本节内容：一、回归分析的概念及种类二、一元线性回归模型三、回归估计标标准误差四、可线性化的常用曲线类型29一、回归分析的概念1、什么是回归分析“回归”一词是由英国生物学家F.Galton在研究人体身高的遗传问题时首先提出的。回归分析通过一个变量或一些变量的变化解释另一变量的变化，即从一组样本数据出发，确定变量之间的数学关系式。302、相关分析与回归分析的关系相关分析是回归分析的基础和前提，回归分析则是相关分析的深入和继续。相关分析需要依靠回归分析来表现变量之间数量相关的具体形式，而回归分析则需要依靠相关分析来表现变量之间数量变化的相关程度。只有当变量之间存在高度相关时，进行回归分析寻求其相关的具体形式才有意义。31二者的区别：(1)相关分析中变量之间的关系是对等的；回归分析中，变量之间的关系是不对等的，将变量划分自变量和因变量。(2)相关分析中变量都必须是随机变量；回归分析中，自变量是给定的，因变量是随机的。(3)相关分析主要是通过一个指标即相关系数来反映变量之间相关程度的大小，相关系数是惟一的。而在回归分析中，对于互为因果的两个变量，则有可能存在两个或多个回归方程。323、回归分析的种类一个自变量两个及两个以上自变量回归模型多元回归一元回归线性回归非线性回归线性回归非线性回归334、回归分析步骤：首先对变量之间的关系进行相关分析，并将变量分为自变量和因变量；其次，找出合适的回归模型（即数学方程式），描述变量间的关系；再次，对回归模型进行统计检验；最后，统计检验通过后，利用回归模型，根据自变量去估计、预测因变量。本节仅讨论一元线性回归分析。34二、一元线性回归模型如果变量x和y相关，并且从相关图表中可以看出它们之间大致形成一种直线关系，我们就可在相关图上求出一条与各点最相配合的直线。y=a+bx+式中x为自变量，通常由研究者事先选定数值。a为样本回归直线在y轴上的截距；b为样本回归直线的斜率（又称回归系数），它表示当x增加一个单位时y的平均增加数量；为误差项。351.当只涉及一个自变量时称为一元回归，若因变量y与自变量x之间为线性关系时称为一元线性回归。2.对于具有线性关系的两个变量，可以用一条直线方程来表示它们之间的关系。3.描述因变量y如何依赖于自变量x和误差项的方程称为回归模型。一元线性回归概念要点36在回归分析中，欲使所求回归直线y=a+bx最适合于实际资料，必须使每个xi对应的指标实测值yi与回归直线确定的估计值yi的离差平方之和为最小。这样便把寻找适当直线问题转化为使Q(a,b)达到最小