第8章 SPSS的相关分析和线性回归分析

相关分析线性回归分析提纲相关分析偏相关分析回归分析曲线估计4321一、相关分析•一.变量相关的概念•二.相关系数及其计算变量间的关系——函数关系1.是一一对应的确定关系设有两个变量x和y，变量y随变量x一起变化，并完全依赖于x，当变量x取某个数值时，y依确定的关系取相应的值，则称y是x的函数，记为y=f(x)，其中x称为自变量，y称为因变量2.各观测点落在一条线上xy函数关系的例子某种商品的销售额(y)与销售量(x)之间的关系可表示为y=px(p为单价)圆的面积(S)与半径之间的关系可表示为S=R2企业的原材料消耗额(y)与产量(x1)、单位产量消耗(x2)、原材料价格(x3)之间的关系可表示为y=x1x2x3相关关系的例子商品的消费量(y)与居民收入(x)之间的关系商品销售额(y)与广告费支出(x)之间的关系粮食亩产量(y)与施肥量(x1)、降雨量(x2)、温度(x3)之间的关系收入水平(y)与受教育程度(x)之间的关系父亲身高(y)与子女身高(x)之间的关系变量间的关系——相关关系1.变量间关系不能用函数关系精确表达2.一个变量的取值不能由另一个变量唯一确定3.当变量x取某个值时，变量y的取值可能有几个4.各观测点分布在直线周围xy相关关系和函数关系的联系•函数关系在实际中往往通过相关关系表现出来•相关关系常常要使用函数关系的形式来表现，以便找到相关关系的一般数量表现形式相关关系的类型相关关系非线性相关线性相关正相关正相关负相关负相关完全相关不相关相关关系的图示不相关负线性相关正线性相关非线性相关完全负线性相关完全正线性相关相关关系的测度——相关系数1.对变量之间关系密切程度的度量2.对两个变量之间线性相关程度的度量称为简单相关系数3.若相关系数是根据总体全部数据计算的，称为总体相关系数，记为4.若是根据样本数据计算的，则称为样本相关系数，记为r相关系数的计算样本相关系数的计算公式22)()())((yyxxyyxxr或化简为2222yynxxnyxxynr相关系数取值及其意义1.r的取值范围是[-1,1]2.|r|=1，为完全相关–r=1，为完全正相关–r=-1，为完全负正相关3.r=0，不存在线性相关关系4.-1r0，为负相关5.0r1，为正相关6.|r|越趋于1表示关系越密切；|r|越趋于0表示关系越不密切相关系数取值及其意义-1.0+1.00-0.5+0.5完全负相关无线性相关完全正相关负相关程度增加r正相关程度增加相关系数计算示例表8-1某国人均国民收入与人均消费金额数据单位:美元年份人均国民收入人均消费金额年份人均国民收入人均消费金额2001200220032004200520062007393.8419.14460.86544.11668.29737.73859.972492672893294064515132008200920102011201220131068.81169.21250.71429.51725.92099.56436907138039471148【例8.1】在研究某国人均消费水平的问题中，把全国人均消费额记为y，把人均国民收入记为x。我们收集到2001～2013年的样本数据(xi，yi)，i=1,2,…，13，数据见表8-1，计算相关系数。解答•解：根据样本相关系数的计算公式有•人均国民收入与人均消费金额之间的相关系数为0.9987，两者之间高度正相关．9987.074575226399135.1282777.160733231374575.1282799.915617313222222yynxxnyxxynr相关系数的显著性检验1.检验两个变量之间是否存在线性相关关系2.等价于对回归系数b1的检验3.采用t检验4.检验的步骤为–提出假设：H0：；H1：0–计算检验的统计量：–确定显著性水平，并作出决策•若tt，拒绝H0•若tt，接受H0)2(~122ntrnrt示例对前例计算的相关系数进行显著性检(0.05)1.提出假设：H0：；H1：02.计算检验的统计量9809.649987.012139987.02t3.根据显著性水平＝0.05，查t分布表得t(n-2)=2.201由于t=64.9809t(13-2)=2.201，拒绝H0，人均消费金额与人均国民收入之间的相关关系显著相关分析SPSS操作案例为研究高等院校人文社会科学研究中立项课题数受哪些因素的影响，收集到某年31个省市自治区部分高校有关社科研究方面的数据，研究立项课题数（当年）与投入的具有高级职称的人年数（上年）、发表的论文数（上年）之间是否具有较强的线性关系。思路•1、绘制散点图，直观展现变量之间的统计关系–图形→旧对话框→散点→矩阵分布–选取相应变量到“矩阵变量”中•2、计算相关系数，以数值的方式反映变量间线性相关的强弱程度–分析→相关→双变量–选择参加相关系数的变量到“变量”中–选择计算哪种相关系数练习1•利用SPSS软件完成【例8.1】二、偏相关分析•1、分析→相关→偏相关•2、选择参与分析的变量•3、选择一个或多个控制变量偏相关分析也称净相关分析，在控制其他变量的线性影响的条件下分析两变量间的线性相关，所采用的工具是偏相关系数（净相关系数）。三、回归分析•线性回归模型•回归参数的最小二乘估计•回归方程的拟合优度检验•回归方程的显著性检验•回归系数的显著性检验知识点回顾什么是回归分析？1.从一组样本数据出发，确定变量之间的数学关系式2.对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著3.利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度回归分析与相关分析的区别1.相关分析中，变量x变量y处于平等的地位；回归分析中，变量y称为因变量，处在被解释的地位，x称为自变量，用于预测因变量的变化2.相关分析中所涉及的变量x和y都是随机变量；回归分析中，因变量y是随机变量，自变量x可以是随机变量，也可以是非随机的确定变量3.相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量x对变量y的影响大小，还可以由回归方程进行预测和控制回归模型与回归方程回归模型1.回答“变量之间是什么样的关系？”2.方程中运用–因变量(响应变量)•被预测的变量–自变量(解释变量)•用于预测的变量3.主要用于预测和估计回归模型的类型一个自变量两个及两个以上自变量回归模型多元回归一元回归线性回归非线性回归线性回归非线性回归一元线性回归模型1.当只涉及一个自变量时称为一元回归，若因变量y与自变量x之间为线性关系时称为一元线性回归2.对于具有线性关系的两个变量，可以用一个线性方程来表示它们之间的关系3.描述因变量y如何依赖于自变量x和误差项的方程称为回归模型一元线性回归模型对于只涉及一个自变量的简单线性回归模型可表示为y=b+b1x+–模型中，y是x的线性函数加上误差项–线性部分反映了由于x的变化而引起的y的变化–误差项是随机变量•反映了除x和y之间的线性关系之外的随机因素对y的影响•是不能由x和y之间的线性关系所解释的变异性–b0和b1称为模型的参数基本假定1.误差项ε是一个期望值为0的随机变量，即E(ε)=0。对于一个给定的x值，y的期望值为E(y)=b0+b1x2.对于所有的x值，ε的方差σ2都相同3.误差项ε是一个服从正态分布的随机变量，且相互独立。即ε~N(0,σ2)–独立性意味着对于一个特定的x值，它所对应的ε与其他x值所对应的ε不相关–对于一个特定的x值，它所对应的y值与其他x所对应的y值也不相关回归方程1.描述y的平均值或期望值如何依赖于x的方程称为回归方程2.简单线性回归方程的形式如下E(y)=b0+b1x方程的图示是一条直线，因此也称为直线回归方程b0是回归直线在y轴上的截距，是当x=0时y的期望值b1是直线的斜率，称为回归系数，表示当x每变动一个单位时，y的平均变动值估计(经验)的回归方程3.简单线性回归中估计的回归方程为其中：是估计的回归直线在y轴上的截距，是直线的斜率，它表示对于一个给定的x的值，是y的估计值，也表示x每变动一个单位时，y的平均变动值0ˆb1ˆb2.用样本统计量和代替回归方程中的未知参数和，就得到了估计的回归方程0ˆb1ˆb0b1b1.总体回归参数和是未知的，必需利用样本数据去估计0b1bxy10ˆˆˆbb+参数β0和β1的最小二乘估计最小二乘法——图例xy(xn,yn)(x1,y1)(x2,y2)(xi,yi)｝ei=yi-yi＾xy10ˆˆˆbb+最小二乘法最小niiniieyyQ121210)ˆ()ˆ,ˆ(bb1.使因变量的观察值与估计值之间的离差平方和达到最小来求得和的方法。即2.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小0ˆb1ˆb和的计算公式0ˆb1ˆb根据最小二乘法的要求，可得求解和的标准方程如下0ˆb1ˆb估计方程的求法——实例•【例】根据例8.1中的数据，配合人均消费金额对人均国民收入的回归方程•根据和的求解公式得0ˆb1ˆb•人均消费金额对人均国民收入的回归方程为020040060080010001200140005001000150020002500人均消费与人均国民收入的回归y=54.22286+0.52638x^回归方程的显著性检验1、拟合优度的检验2、线性关系的检验3、回归系数的检验离差平方和的分解1.因变量y的取值是不同的，y取值的这种波动称为变差。变差来源于两个方面–由于自变量x的取值不同造成的–除x以外的其他因素(如x对y的非线性影响、测量误差等)的影响2.对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差来表示yy图示xyyxy10ˆˆˆbb+yy{}}yyˆyyˆ),(iiyx离差分解图三个平方和的关系2.两端平方后求和有yyyyyy+ˆˆ1.从图上看有SST=SSR+SSE+niiniiniiyyyyyy121212ˆˆ总变差平方和（SST）{回归平方和（SSR）{残差平方和（SSE）{图示xyyxy10ˆˆˆbb+yy{}}yyˆyyˆ),(iiyx离差分解图拟合优度检验——判定系数r21.回归平方和占总离差平方和的比例2.反映回归直线的拟合程度3.取值范围在[0,1]之间4.r21，说明回归方程拟合的越好；r20，说明回归方程拟合的越差5.判定系数等于相关系数的平方，即r2＝(r)2拟合优度检验——估计标准误差Sy1.实际观察值与回归估计值离差平方和的均方根2.反映实际观察值在回归直线周围的分散状况3.从另一个角度说明了回归直线的拟合程度4.计算公式为注：上例的计算结果为14.949678线性关系的检验1.检验自变量和因变量之间的线性关系是否显著2.具体方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系检验的步骤1.提出假设–H0：线性关系不显著2.计算检验统计量F3.确定显著性水平，并根据分子自由度1和分母自由度n-2找出临界值F4.作出决策：若FF,拒绝H0；若FF,接受H0回归系数的显著性检验2.在一元线性回归中，是否等于0等价于回归系数的显著性检验1.检验自变量x对因变量y的影响是否显著1ˆb样本统计量的分布1ˆb1.是根据最小