数学建模讲座-多元统计分析

数学建模讲座多元统计分析为振兴中华而读书！第一部分理论分析1.1相关分析1.2路径分析1.3结构方程模型1.4聚类分析1.5因子分析相关分析(一)相关关系(1)函数关系:(如:销售额与销售量;圆面积和圆半径.)是事物间的一种一一对应的确定性关系.即:当一个变量x取一定值时,另一变量y可以依确定的关系取一个确定的值(2)统计关系:(如:收入和消费;身高的遗传.)事物间的关系不是确定性的.即:当一个变量x取一定值时,另一变量y的取值可能有几个.一个变量的值不能由另一个变量唯一确定概述统计关系的常见类型：线性相关：正线性相关、负线性相关非线性相关统计关系不象函数关系那样直接,但却普遍存在,且有强有弱.如何测度?概述(二)相关分析的任务研究对象:统计关系相关分析旨在测度变量间线性关系的强弱程度相关分析(一)目的通过样本数据,研究两变量间线性相关程度的强弱.(二)基本方法绘制散点图、计算相关系数绘制散点图(一)散点图将数据以点的形式绘制在直角平面上.比较直观,可以用来发现变量间的关系和可能的趋势.基本工资11001000900800年龄60504030性别女职工男职工体现了正相关趋势绘制散点图(二)基本操作步骤(1)菜单选项:graphs-scatter(2)选择散点图类型:simple:简单散点图(显示一对变量的散点图)overlay:重叠散点图(显示多对变量的散点图)(3)选择x轴和y轴的变量(4)选择分组变量(setmarkersby):分别以不同颜色点的表示(5)选择标记变量(labelcaseby):散点图上可带有标记变量的值(如:职工号)计算相关系数(一)相关系数(1)作用:以精确的相关系数(r)体现两个变量间的线性关系程度.r:[-1,+1];r=1:完全正相关;r=-1:完全负相关;r=0:无线性相关;|r|0.8:强相关;|r|0.3:弱相关计算相关系数(一)相关系数(2)说明:相关系数只是较好地度量了两变量间的线性相关程度,不能描述非线性关系.如:x和y的取值为:(-1,-1)(-1,1)(1,-1)(1,1)r=0但xi2+yi2=2数据中存在极端值时不好如:(1,1)(2,2)(3,3),(4,4),(5,5),(6,1)r=0.33但总体上表现出:x=y应结合散点图分析计算相关系数(一)相关系数(3)种类:简单线性相关系数(Pearson):针对定距数据.(如:身高和体重)niniiiniiYYXXYYXXr112211)()())((计算相关系数(一)相关系数(3)种类:Spearman相关系数:用来度量定序或定类变量间的线性相关关系(如:不同年龄段与不同收入段,职称和受教育年份)利用秩(数据的排序次序).认为:如果x与y相关,则相应的秩Ui、Vi也具有同步性.首先得到两变量中各数据的秩(Ui、Vi),并计算Di2统计量.计算Spearman秩相关系数,与简单相关系数形式完全相同.若两变量存在强正相关性,则Di2应较小,秩序相关系数较大.若两变量存在强负相关性,则Di2应较大,秩序相关系数为负,绝对值较大niiiniiVUD1212)()1(6122nnDRi计算相关系数(一)相关系数(3)种类:Kendall相关系数:度量定序定类变量间的线性相关关系首先计算一致对数目(U)和非一致对数目(V)如:对x和y求秩后为:x:24351y:34152x的秩按自然顺序排序后:x:12345y:23145一致对:(2,3)(2,4)(2,5)(3,4)(3,5)(1,4)(1,5)(4,5)非一致对:(2,1)(3,1)然后计算Kendall相关系数.若两变量存在强相关性,则V较小,秩序相关系数较大;若两变量存在强负关性,则V较大,秩序相关系数为负,绝对值较大)1(2)(nnVUT计算相关系数(二)相关系数检验应对两变量来自的总体是否相关进行统计推断.原因:抽样的随机性、样本容量小等(1)H0:两总体零相关(2)构造统计量212rnrt1nRZ)52(2)1(3nnnTZ简单相关系数Spearman系数,大样本下,近似正态分布kendall系数,大样本下,近似正态分布计算相关系数(二)相关系数检验(3)计算统计量的值,并得到对应的相伴概率p(4)结论:如果p=a,则拒绝H0,两总体存在线性相关;如果pa,不能拒绝H0.计算相关系数(三)基本操作步骤(1)菜单选项:analyze-correlate-bivariate...(2)选择计算相关系数的变量到variables框.(3)选择相关系数(correlationcoefficients).(4)显著性检验(testofsignificance)tow-tailed:输出双尾概率P.one-tailed:输出单尾概率P计算相关系数(四)其他选项statistics选项:仅当计算简单相关系数时,选择输出哪些统计量.meansandstandarddeviations:均值、标准差;cross-productdeviationsandcovariances:分别输出两变量的离差平方和(sumofsquare分母)、两变量的差积和(cross-products分子)、协方差(covariance以上各个数据除以n-1)偏相关分析(一)偏相关系数(1)含义：在控制了其他变量的影响下计算两变量的相关系数。虚假相关.研究商品的需求量和价格、消费者收入之间的关系.因为:需求量和价格之间的相关关系包含了消费者收入对商品需求量的影响；收入对价格也产生影响，并通过价格变动传递到对商品需求量的影响中。又如：粮食产量与平均气温、月降水量、平均日照时间、温度之间的关系的研究。偏相关分析)1)(1(2122212212.1rrrrrryyyy(2)计算方法：偏相关分析(二)基本操作步骤(1).菜单选项:analyze-correlate-partial…(2).选择将参加计算的变量到variable框.(3).选择控制变量到controllingfor框。(4)option选项:zero-ordercorrelations:输出简单相关系数矩阵路径分析2020/1/2123第十章路径分析目录上页下页返回结束20世纪初，“Pearson原理”占着生物遗传学（在过去几乎就是我们现在所称作的统计学）的统治地位。Pearson原理的一个基本内容就是相关关系是现实生活中最基本的关系，而因果关系仅仅是完全相关的（理论）极限。这种理论认为没必要寻找变量之间的因果关系，只需计算相关系数。然而相关分析逐渐暴露出自身的很多局限：一是相关分析仅仅反应变量之间的线性关系；二是相关分析反应变量之间的关系是对称的，而很多变量之间的关系是非对称的；三是只有在正态假设下，相关思想才是有效的。2020/1/2124第十章路径分析目录上页下页返回结束在遗传学中，很多现象具有明显的因果关系，如父代与子代的基因关系，父代在前，子代在后，二者的关系只能是单向的，而非对称的。对这种变量结构进行思考，遗传学家SewallWright于1918-1921年提出路径分析（pathanalysis），用来分析变量间的因果关系。现代的路径分析由生物遗传学家、心理测验学家、计量经济学家以及社会学家的推进，引入隐变量（latentvariable,又称unmeasuredvariable,不可观测变量），并允许变量间具有测量误差，并且极大似然估计代替了最小二乘法，成为路径系数主流的估计方法。2020/1/2125第十章路径分析目录上页下页返回结束路径分析现在成为多元分析的一种重要方法，广泛应用于遗传学、社会学、心理学、经济问题和市场调研领域。然而习惯上把基于最小二乘的传统的路径分析称作路径分析，而把基于极大似然的路径分析称作结构方程式模型（StructuralEquationModeling，SEM）。本节主要介绍传统的路径分析，不进行特别说明，本节所提到的路径分析均指基于最小二乘的路径分析，结构方程式模型方在下节介绍。2020/1/2126目录上页下页返回结束一、路径图路径分析的主要工具是路径图，它采用一条带箭头的线（单箭头表示变量间的因果关系，双箭头表示变量间的相关关系）表示变量间预先设定的关系，箭头表明变量间的关系是线性的，很明显，箭头表示着一种因果关系发生的方向。在路径图中，观测变量一般写在矩形框内，不可观测变量一般写在椭圆框内，对于简单的路径模型，可以直接用字母表示变量，绘出路径图。2020/1/2127目录上页下页返回结束图10-1是一个简单的路径路，A是父亲智商，B是母亲智商，C1、C2是两个成年子女的智商，是与A,B不相关的另外原因变量。一般来说，父母亲的智商之间不存在关系；父母亲的智商对子女的智商存在因果关系，用单箭头表示,子女的之间，存在相关关关系,用双箭头表示。箭头上的字母表示路径系数，路径系数反应原因变量对结果变量的相对影响大小。在路径分析中一般采用经过标准化后的变量，没有特别说明，均指经过标准化后的变量。可以把图10-1写为方程式的形式：12,ee1211121121222212212122211121211212eeCpApBprACprBCpeCpApBprACprBCpe（10.1）2020/1/2128目录上页下页返回结束式(10.1)实际上是普通的多元回归方程，多元回归分析是因果关系模型的一种，但它是一种比较简单的因果关系模型，各个自变量对因变量的作用并列存在，它仅包含一个环节的因果结构。路径分析的优势在于它可以容纳多环节的因果结构，通过路径图把这些因果关系很清楚地表示出来，据此进行更深层次的分析，如比较各种因素之间的相对重要程度，计算变量与变量之间的直接与间接影响，这在后面会涉及到。图10-2是有关一种消费性电子产品（如手机）路径分析的例子（这里省略了路径系数），四个变量耐用性、操作的简单性、通话效果和价格两两相关，决定感知价值，同时通过感知价值决定忠诚度。相对于图10-1，它具有两层的因果关系。接下来主要以图10-2为例，说明路径图中的一些基本概念。2020/1/2129目录上页下页返回结束§10.1.1路径图2020/1/2130目录上页下页返回结束路径图上的变量分为两大类：一类是外生变量（exogenousvariable，又称独立变量，源变量），它不受模型中其他变量的影响，如图10-2中的耐用性、操作的简单性、通话效果和价格。与此相反，另一类是内生变量（endogenousvariable，又称因变量或下游变量），在路径图上至少有一个箭头指向它，它被模型中的其它一些变量所决定，如图10-2中的感知价值由耐用性、操作的简单性、通话效果和价格四个变量和随机误差e5决定，忠诚度取决于四个外生变量、感知价值和随机误差e6。此外，我们可以将路径图中不影响其它变量的内生变量称为最终结果变量（ultimateresponsevariable），最终结果变量不一定只有一个。图10-2中忠诚度是最终结果变量。2020/1/2131目录上页下页返回结束其他变量（A）对内生变量（B）的影响有两种情况：若A直接通过单向箭头对B具有因果影响，称A对B有直接作用（directeffect）；若A对B的作用是间接地通过其他变量（C）起作用，称A对B有间接作用（indirecteffect），称C为中间变量（mediatorvariable）。变量间的间接作用常常由多种路径最终总合而成。图10-2中，四个外生变量耐用性、操作的简单性、通话效果和价格既对忠诚度有直接作用，同时通过感知价值对忠诚度具有间接作用。2020/1/2132目录上页下页返回结束如果模型中包含中间变量，首先从理论角度考虑，这个中间作用是否有理论依据，其次实际工作者会提出这样的问题：“模型中中间变量的中间影响显著吗？”，这些问题涉及到对中间变量的间接作用进行检验。Barr