统计学第六版贾俊平第11章

11-1第七章一元线性回归11.1变量间关系的度量11.2一元线性回归11.3利用回归方程进行估计和预测11.4残差分析11-2学习目标1.相关系数的分析方法2.一元线性回归的基本原理和参数的最小二乘估计3.回归直线的拟合优度4.回归方程的显著性检验5.利用回归方程进行估计和预测6.用Excel进行回归11-311.1变量间关系的度量一.变量间的关系二.相关关系的描述与测度三.相关系数的显著性检验11-4变量间的关系11-5函数关系1.是一一对应的确定关系2.设有两个变量x和y，变量y随变量x一起变化，并完全依赖于x，当变量x取某个数值时，y依确定的关系取相应的值，则称y是x的函数，记为y=f(x)，其中x称为自变量，y称为因变量3.各观测点落在一条线上xy11-6函数关系(几个例子)函数关系的例子某种商品的销售额(y)与销售量(x)之间的关系可表示为y=px(p为单价)圆的面积(S)与半径之间的关系可表示为S=R2企业的原材料消耗额(y)与产量(x1)、单位产量消耗(x2)、原材料价格(x3)之间的关系可表示为y=x1x2x311-7相关关系(correlation)1.变量间关系不能用函数关系精确表达2.一个变量的取值不能由另一个变量唯一确定3.当变量x取某个值时，变量y的取值可能有几个4.各观测点分布在直线周围xy11-8相关关系(几个例子)相关关系的例子父亲身高(y)与子女身高(x)之间的关系收入水平(y)与受教育程度(x)之间的关系粮食亩产量(y)与施肥量(x1)、降雨量(x2)、温度(x3)之间的关系商品的消费量(y)与居民收入(x)之间的关系商品销售额(y)与广告费支出(x)之间的关系11-9相关关系(类型)正相关负相关线性相关非线性相关正相关负相关完全相关不相关相关关系11-10相关关系的描述与测度(散点图)11-11散点图(scatterdiagram)不相关负线性相关正线性相关非线性相关完全负线性相关完全正线性相关11-12散点图(例题分析)【例】一家大型商业银行在多个地区设有分行，其业务主要是进行基础设施建设、国家重点项目建设、固定资产投资等项目的贷款。近年来，该银行的贷款额平稳增长，但不良贷款额也有较大比例的提高，这给银行业务的发展带来较大压力。为弄清楚不良贷款形成的原因，希望利用银行业务的有关数据做些定量分析，以便找出控制不良贷款的办法。下面是该银行所属的25家分行2002年的有关业务数据11-13散点图(例题分析)11-14散点图(例题分析)不良贷款与贷款余额的散点图024681012140100200300400贷款余额不良贷款不良贷款与累计应收贷款的散点图02468101214051015202530累计应收贷款不良贷款不良贷款与贷款项目个数的散点图0246810121402040贷款项目个数不良贷款不良贷款与固定资产投资额的散点图02468101214050100150200固定资产投资额不良贷款11-15相关关系的描述与测度(相关系数)11-16相关系数(correlationcoefficient)1.对变量之间关系密切程度的度量2.对两个变量之间线性相关程度的度量称为简单相关系数3.若相关系数是根据总体全部数据计算的，称为总体相关系数，记为4.若是根据样本数据计算的，则称为样本相关系数，记为r11-17相关系数(计算公式)样本相关系数的计算公式22)()())((yyxxyyxxr或化简为2222yynxxnyxxynr11-18相关系数(取值及其意义)1.r的取值范围是[-1,1]2.|r|=1，为完全相关r=1，为完全正相关r=-1，为完全负正相关3.r=0，不存在线性相关关系相关4.-1r0，为负相关5.0r1，为正相关6.|r|越趋于1表示关系越密切；|r|越趋于0表示关系越不密切11-19相关系数(取值及其意义)-1.0+1.00-0.5+0.5完全负相关无线性相关完全正相关负相关程度增加r正相关程度增加11-20相关系数(例题分析)用Excel计算相关系数11-21相关系数的显著性检验11-22相关系数的显著性检验(r的抽样分布)1.r的抽样分布随总体相关系数和样本容量的大小而变化当样本数据来自正态总体时，随着n的增大，r的抽样分布趋于正态分布，尤其是在总体相关系数很小或接近0时，趋于正态分布的趋势非常明显。而当远离0时，除非n非常大，否则r的抽样分布呈现一定的偏态。2.当为较大的正值时，r呈现左偏分布；当为较大的负值时，r呈现右偏分布。只有当接近于0，而样本容量n很大时，才能认为r是接近于正态分布的随机变量11-23相关系数的显著性检验(检验的步骤)1.检验两个变量之间是否存在线性相关关系2.等价于对回归系数b1的检验3.采用R.A.Fisher提出的t检验4.检验的步骤为提出假设：H0：；H1：0)2(~122ntrnrt计算检验的统计量：确定显著性水平，并作出决策•若tt，拒绝H0•若tt，不能拒绝H011-24相关系数的显著性检验(例题分析)对不良贷款与贷款余额之间的相关系数进行显著性检(0.05)1.提出假设：H0：；H1：02.计算检验的统计量5344.78436.012258436.02t3.根据显著性水平＝0.05，查t分布表得t(n-2)=2.0687由于t=7.5344t(25-2)=2.0687，拒绝H0，不良贷款与贷款余额之间存在着显著的正线性相关关系11-25相关系数的显著性检验(例题分析)各相关系数检验的统计量11-2611.2一元线性回归一.一元线性回归模型二.参数的最小二乘估计三.回归直线的拟合优度四.显著性检验11-27什么是回归分析？(Regression)1.从一组样本数据出发，确定变量之间的数学关系式2.对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著3.利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度回归一词是怎么来的?？11-28回归分析与相关分析的区别1.相关分析中，变量x变量y处于平等的地位；回归分析中，变量y称为因变量，处在被解释的地位，x称为自变量，用于预测因变量的变化2.相关分析中所涉及的变量x和y都是随机变量；回归分析中，因变量y是随机变量，自变量x可以是随机变量，也可以是非随机的确定变量3.相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量x对变量y的影响大小，还可以由回归方程进行预测和控制11-29回归模型的类型线性回归非线性回归一元回归线性回归非线性回归多元回归回归模型11-30一元线性回归模型11-31一元线性回归1.涉及一个自变量的回归2.因变量y与自变量x之间为线性关系被预测或被解释的变量称为因变量(dependentvariable)，用y表示用来预测或用来解释因变量的一个或多个变量称为自变量(independentvariable)，用x表示3.因变量与自变量之间的关系用一条线性方程来表示11-32回归模型(regressionmodel)1.回答“变量之间是什么样的关系？”2.方程中运用1个数字的因变量(响应变量)被预测的变量1个或多个数字的或分类的自变量(解释变量)用于预测的变量3.主要用于预测和估计11-33一元线性回归模型1.描述因变量y如何依赖于自变量x和误差项的方程称为回归模型2.一元线性回归模型可表示为y=b+b1x+y是x的线性函数(部分)加上误差项线性部分反映了由于x的变化而引起的y的变化误差项是随机变量反映了除x和y之间的线性关系之外的随机因素对y的影响是不能由x和y之间的线性关系所解释的变异性b0和b1称为模型的参数11-34一元线性回归模型(基本假定)1.误差项ε是一个期望值为0的随机变量，即E(ε)=0。对于一个给定的x值，y的期望值为E(y)=b0+b1x2.对于所有的x值，ε的方差σ2都相同3.误差项ε是一个服从正态分布的随机变量，且相互独立。即ε~N(0,σ2)独立性意味着对于一个特定的x值，它所对应的ε与其他x值所对应的ε不相关对于一个特定的x值，它所对应的y值与其他x所对应的y值也不相关11-35回归方程(regressionequation)1.描述y的平均值或期望值如何依赖于x的方程称为回归方程2.一元线性回归方程的形式如下E(y)=b0+b1x方程的图示是一条直线，也称为直线回归方程b0是回归直线在y轴上的截距，是当x=0时y的期望值b1是直线的斜率，称为回归系数，表示当x每变动一个单位时，y的平均变动值11-36估计的回归方程(estimatedregressionequation)3.一元线性回归中估计的回归方程为2.用样本统计量和代替回归方程中的未知参数和，就得到了估计的回归方程0ˆb1ˆb0b1b1.总体回归参数和是未知的，必需利用样本数据去估计0b1bxy10ˆˆˆbb+其中：是估计的回归直线在y轴上的截距，是直线的斜率，它表示对于一个给定的x的值，是y的估计值，也表示x每变动一个单位时，y的平均变动值0ˆb1ˆbyˆ11-37参数的最小二乘估计11-38最小二乘估计最小niiiniixyyy121012)ˆˆ()ˆ(bb1.使因变量的观察值与估计值之间的离差平方和达到最小来求得和的方法。即2.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小0ˆb1ˆb11-39最小二乘估计(图示)xy(xn,yn)(x1,y1)(x2,y2)(xi,yi)｝ei=yi-yi＾xy10ˆˆˆbb+11-40最小二乘法(和的计算公式)根据最小二乘法的要求，可得求解和的公式如下1ˆb0ˆb0ˆb1ˆb11-41估计方程的求法(例题分析)【例】求不良贷款对贷款余额的回归方程回归方程为：y=-0.8295+0.037895x回归系数=0.037895表示，贷款余额每增加1亿元，不良贷款平均增加0.037895亿元1ˆb11-42估计方程的求法(例题分析)不良贷款对贷款余额回归方程的图示不良贷款对贷款余额的回归直线-2024681012140100200300400贷款余额不良贷款11-43用Excel进行回归分析第1步：选择“工具”下拉菜单第2步：选择“数据分析”选项第3步：在分析工具中选择“回归”，然后选择“确定”第4步：当对话框出现时在“Y值输入区域”方框内键入Y的数据区域在“X值输入区域”方框内键入X的数据区域在“置信度”选项中给出所需的数值在“输出选项”中选择输出区域在“残差”分析选项中选择所需的选项用Excel进行回归分析11-44回归直线的拟合优度11-45变差1.因变量y的取值是不同的，y取值的这种波动称为变差。变差来源于两个方面由于自变量x的取值不同造成的除x以外的其他因素(如x对y的非线性影响、测量误差等)的影响2.对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差来表示yy11-46变差的分解(图示)xyyxy10ˆˆˆbb+yy{}}yyˆyyˆ),(iiyx11-47离差平方和的分解(三个平方和的关系)SST=SSR+SSE+niiniiniiyyyyyy121212ˆˆ总平方和(SST){回归平方和(SSR)残差平方和(SSE){{11-48离差平方和的分解(三个平方和的意义)1.总平方和(SST)反映因变量的n个观察值与其均值的总离差2.回归平方和(SSR)反映自变量x的变化对