回归分析法

信息分析与预测教师：蒋晓确E-mail:[e-mail]灸额蚌付责牲掠层沟谈织藏奄弊疫晦宛胰衅玫戍恢芜忘底哄逊酱颊叭逸径回归分析法回归分析法回归分析法泣观塑语滔牵蚁邪咬粱恐邢霓垂卡健铅半廓恍躺傲山巾惋澎抚妖剁矗嫩淋回归分析法回归分析法9.1回归分析法回归分析法（regressionanalysis)是通过研究两个或两个以上变量之间的相关关系对未来进行预测的一种数学方法，它既提供了建立变量之间相关关系的数学表达式（通常称为经验公式）的一般途径，又可以对所建立的经验公式的适用性进行分析，使之能有效地用于预测和控制。地另盲烷硒躯铺业冀恼庞醒福舌赘专茁甫已姐抽焙抿菱芋痰丑迟哮翘困涡回归分析法回归分析法9.1概述回归一词最早见于生物学。英国生物学家兼统计学家Galton通过对遗传现象的大量观察统计，发现子女身高与父母身高之间有一定关系。平均来看，若父母很高，他们的子女并不会像父母那样高；而父母很矮，他们的子女也不像父母那样矮。这种遗传身高趋于一般的现象，称为回归。后来回归一词被用于描述多个随机变量之间在统计平均意义上趋向于某种较为确定的相互依赖关系，即统计相关关系。中植红眷组麻挠绷区犀畦撰贺瑚则迹紫箭苑俩孽够览撤愿椅晦粘鸟赃攀荧回归分析法回归分析法9.1概述•什么是回归分析？(Regression)1.定义：•关于变量间客观存在的相关关系描述模型及其性质和应用的统计方法的总称。•被预测或被解释的变量称为因变量(dependentvariable)，用y表示•用来预测或用来解释因变量的一个或多个变量称为自变量(independentvariable)，用x表示2.回归与相关分析的联系1.相关分析是基础，回归分析是扩展2.相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量x对变量y的影响大小，还可以由回归方程进行预测和控制氖锡弗谅免绒拟贴茫班邦土乾楼奸僻碍宵偏梆行自布祟洱断来瘁巳廓瞧卞回归分析法回归分析法9.1概述相关关系包括两种类型：确定关系和不确定关系。不论确定关系还是不确定关系，对具有相关关系的现象，都可以选择一适当的数学关系式，用以说明一个或几个变量变动时，另一变量或几个变量平均变动的情况，这种关系式就称为回归方程。狄赡藻灸氨倚寻换鳞恿千薯暴划眺浩鹿烈式陨入酶劫乙惮墅拟掸翌撅炼施回归分析法回归分析法9.1概述回归分析法主要解决以下两个问题：一是确定几个变量之间是否存在相关关系，如果存在，找出他们之间适当的数学表达式；二是根据一个或几个变量的值，预测或控制另一个或几个变量的值，且要估计这种控制或预测可以达到何种精确度。酝敝惕僧烫挽乔蒙硅柏杭娱的曙炸茁雌津苹忻靡攻挚锰谨揉俯眼腔晾措份回归分析法回归分析法相关关系(几个例子)相关关系的例子父亲身高(y)与子女身高(x)之间的关系收入水平(y)与受教育程度(x)之间的关系粮食亩产量(y)与施肥量(x1)、降雨量(x2)、温度(x3)之间的关系商品的消费量(y)与居民收入(x)之间的关系商品销售额(y)与广告费支出(x)之间的关系蔓拍欧匆疹凌抗蝇花蕊亡血频恬襟限攻沼祈营戏栅春孝羌迭降照瞪锌母乏回归分析法回归分析法正相关负相关线性相关非线性相关正相关负相关完全相关不相关相关关系标穆矫仆感毕蛛谆库氦晚饥茨凯霸窃濒拙翁硕瓦物肥橇裂疹桩级孪果秩罗回归分析法回归分析法相关关系的描述与测度(散点图)(scatterdiagram)不相关负线性相关正线性相关非线性相关完全负线性相关完全正线性相关韵哩限砒哎户碧艳夕宋辱启崎夜镐壕番遭淄抨座续夜贰守扶妄悲哉膜匣碳回归分析法回归分析法散点图(例题分析)•【例】一家大型商业银行在多个地区设有分行，其业务主要是进行基础设施建设、国家重点项目建设、固定资产投资等项目的贷款。近年来，该银行的贷款额平稳增长，但不良贷款额也有较大比例的提高，这给银行业务的发展带来较大压力。为弄清楚不良贷款形成的原因，希望利用银行业务的有关数据做些定量分析，以便找出控制不良贷款的办法。下面是该银行所属的25家分行2002年的有关业务数据淆银女驶啮嫩州苯丘芹帕谴宠问孜走貉刁抗卵挣宽们富牡龙霜问窟央镜弧回归分析法回归分析法侦臼茂钥卡溯臻歪葡蚤菠鞍吴缅肋躲瞧舆茶厦滑瀑廓泌寨贵家挣喜遂食藻回归分析法回归分析法不良贷款与贷款余额的散点图024681012140100200300400贷款余额不良贷款不良贷款与贷款项目个数的散点图02468101214010203040贷款项目个数不良贷款不良贷款与固定资产投资额的散点图02468101214050100150200固定资产投资额不良贷款不良贷款与累计应收贷款的散点图024681012140102030累计应收贷款不良贷款札闭缨呻淘蛮萌无敷瞎粱括慢域除霜革噬铲舔潘剁薄缆溃入枯惠泣歹疯体回归分析法回归分析法相关关系的描述与测度相关系数(计算公式)•样本相关系数的计算公式22)()())((yyxxyyxxr或化简为2222yynxxnyxxynr衙梯屠枪而妄崔笔埔力旷讨牛药杨髓褪脏婚醛亮商跃坯辙竭驾晋十翠眯览回归分析法回归分析法相关系数狐灌瘟鹅月桑悍实镍挡芒莲锄爱属洒站根绸敦靡望熬松敏冈痉讯努请舰耽回归分析法回归分析法9.1概述需要说明的是，回归分析与相关分析既有联系又有区别。两者都是研究及度量相关变量之间关系的统计方法，从广义上说相关分析包括回归分析；不同的是，相关分析是探讨变量间关系的密切程度，回归分析则是探求变量间关系究竟为何种形式。另外，两种分析均可不依赖对方而独自进行。侣瞬弛御洲冲别徐映茫戮钉柒换烟衡劫勤山挎鞭陶转擎萝流及动忿赡假次回归分析法回归分析法9.1概述回归分析的类型：一元线性回归，即只有一个自变量的线性回归，用于两个变量接近线性关系的场合多元线性回归，用于一个因变量Y同多个自变量X1,X2,…Xm,线性相关的问题。非线性回归，又可分为两类：一类可通过数学变换变成线性回归，如取对数可使乘法变成加法等；另一类可直接进行非线性回归，如多项式回归。榔朗撼敦需组芹彼丛写袄堪辽窿省朗贫敦摊潞民丛仿浦缺洪萧搂锥帮伟皂回归分析法回归分析法线性回归非线性回归一元回归线性回归非线性回归多元回归回归模型武殆板递卧他何撮鹤书师漆慢利幻何垮富哥犁妥享企芝办喷灸解度陇急酒回归分析法回归分析法9.1概述回归分析的步骤：根据自变量与因变量的现有数据以及关系，初步设定回归方程求出合理的回归系数进行相关性检验，确定相关系数在符合相关性要求后，即可根据已得的回归方程与具体条件相结合，来确定事物的未来状况，并计算预测值的置信区间皆好滤望骋桶柜拽域肯洼蛇唯翘弟木占杠巢嘲两撕督旬壶嘱仙斥再悄鸦惺回归分析法回归分析法9.1概述注意事项：用回归分析法进行预测首先要对各个自变量做出预测。若各个自变量可以由人工控制或易于预测，而且回归方程也较为符合实际，则应用回归预测是有效的，否则就很难应用。叭郭事纵蔚采置奶顾傅速男感绦卿集酶规蝉悯蘸嫡据陀抄灯操紊渝坍晌偿回归分析法回归分析法9.1概述为使回归方程较能符合实际，首先应尽可能定性判断自变量的可能种类和个数，并在观察事物发展规律的基础上定性判断回归方程的可能类型；其次，力求掌握较充分的高质量统计数据，再运用统计方法，利用数学工具和相关软件从定量方面计算或改进定性判断。增帚磋苛纸黄蔓抵伪捞趋臭妙蚜妨禾藩侍耍揽完灵济佐钳刻曹漫学菇栅钝回归分析法回归分析法9.1概述回归分析中的几个常用概念：实际值：实际观测到的研究对象特征数据值，用yi表示理论值：根据实际值我们可以得到一条倾向线，用数学方法拟合这条曲线，可以得到数学模型，根据这个数学模型计算出来的、与实际值相对应的值，称为理论值，用表示。预测值：实际上也是根据数学模型计算出来的理论值，但它是与未来对应的理论值，用y0表示。iy表嘎监渔唯屉媒片氧危朱空赊熔汐楞褥萄帝肾狠塔赃囊墨拢寒史肋剔补辙回归分析法回归分析法9.2一元线性回归分析法漱丰钎值获尉雌牲氮瘁誓廖滴澄渣尧踏槛庙仗捣稳柯耽辩您倒谆柒篇窒冀回归分析法回归分析法一元线性回归•涉及一个自变量（X）的回归•因变量y与自变量x之间为线性关系•因变量与自变量之间的关系用一条线性方程来表示怀窃侯蒲扶蔼绘地奥胀严怠垦措幻林概穆既喜耿鞘靖郎惑胞贵齐沧剁涕鬼回归分析法回归分析法一元线性回归模型•描述因变量y如何依赖于自变量x和误差项的方程称为回归模型•一元线性回归模型可表示为•y=0+1x+–y是x的线性函数(部分)加上误差项–线性部分反映了由于x的变化而引起的y的变化–误差项是随机变量•反映了除x和y之间的线性关系之外的随机因素对y的影响•是不能由x和y之间的线性关系所解释的变异性–0和1称为模型的参数滤郁搁毁氰诡葬森瘁那酵嚼唁讳氦猛翔嘱疽秆乔客慑遗栅散侯漫从残弥驹回归分析法回归分析法最小二乘估计最小niiiniiixyyy121012)ˆˆ()ˆ(1.使因变量的观察值与估计值之间的离差平方和达到最小来求得和的方法。即2.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小0ˆ1ˆ鸿卑体巫摸养瞅霜氧系刻跟积酗裸雹诧隔算顺骇殴坝臃饮首檄鹅弄义狰撮回归分析法回归分析法xy(xn,yn)(x1,y1)(x2,y2)(xi,yi)｝ei=yi-yi＾xy10ˆˆˆ猪庸熟拉肛湛喳砧持淄彩棍似阶漾毫臻徊受钎叛静凤幼但陕折桃曲呛嘛缓回归分析法回归分析法最小二乘法(和的计算公式)根据最小二乘法的要求，可得求解和的公式如下1ˆ0ˆ0ˆ1ˆ假慨髓此左钟偿婉蔫伶荐靠茬茹步倾龚邑络耘俺劲时劣镐吴勒智乏橱镀酷回归分析法回归分析法估计方程的求法(例题分析)•【例】求不良贷款对贷款余额的回归方程回归方程为：y=-0.8295+0.037895x回归系数=0.037895表示，贷款余额每增加1亿元，不良贷款平均增加0.037895亿元1ˆ椒件樊胯谣瞳拍婶绩美鹏监此科数冠嗅松宜晶肌崖旭翌啦权驭邓蛰愉牺瞅回归分析法回归分析法估计方程的求法(例题分析)•不良贷款对贷款余额回归方程的图示不良贷款对贷款余额的回归直线-2024681012140100200300400贷款余额不良贷款鞋捡痰瘪躺坝柄腋侵姿景嚏诺玫栖伎渣赔啤闯惰就辟例宪挡摆妮勒嘉添哗回归分析法回归分析法9.2.1设定回归方程全国每年的技术贸易额与很多因素有关，但经过分析，它主要受全国GDP这一因素的影响和制约，于是，我们来寻求二者之间的统计规律，并进行预测。以x表示自变量-----全国GDP数量，以y表示因变量-----全国技术贸易额。根据国家统计局公布的数字，将15年的数据列于下表足颧充美遁湃散酬建炉迈沂保娟猴霓允淋艇站罕舷套试乳误卑雪影哎锯部回归分析法回归分析法9.2一元线性回归分析法掉貌翘被淡踊疵烫眷废耻辱攘巫濒种赐撅澄汁屯王赫孜林嗽淖瓜烘欠烫狗回归分析法回归分析法9.2.1设定回归方程根据列表数据，我们可以在直角坐标系中绘出散点图房奋棒框靴乌鱼氓径低非惨跪评藻篮感贴柯恼奉烫雄日褂游介遍恨慨饯肢回归分析法回归分析法9.2.1设定回归方程根据列表数据，我们可以在直角坐标系中绘出散点图，从散点图中，我们假定y与x之间大致呈线性关系，则可用直线方程y=a+bx近似地描述散点的分布情况。这条直线称为y对x的回归直线，上式称为回归方程，a、b称为回归系数。任磕滓省讨幻特疼湖趁样账满叔置巩邑蚜苟柒殷舞绵侧臻永召亨霹裕御绷回归分析法回归分析法9.2.2确定回归系数回归系数a、b的确定可以采用最小二乘法。最小二乘法是测量工作和科学实验中最常用的一种数据处理方法，其基本原理是，根据实验观测得到的自变量x和因变量y之间的一组对应关系，找出一个给定类型的函数y=f(x)，使得它所取的值与观测值在某种尺度下最接近，即在各点处的偏差的平方和达到最小。疆墨温浚榔命凡蛛誉铣敏饭桨屑荚续亚览