相关分析和回归分析SPSS

第SPSS章相关分析与回归分析本章内容•8.1相关分析和回归分析概述•8.2相关分析•8.3偏相关分析•8.4线性回归分析•8.5曲线估计•8.6二项Logistic回归分析8.1相关分析和回归分析概述客观事物之间的关系大致可归纳为两大类，即函数关系：指两事物之间的一种一一对应的关系，如商品的销售额和销售量之间的关系。相关关系（统计关系）：指两事物之间的一种非一一对应的关系，例如家庭收入和支出、子女身高和父母身高之间的关系等。相关关系又分为线性相关和非线性相关。相关分析和回归分析都是分析客观事物之间相关关系的数量分析方法。双变量关系强度测量的主要指标定类定序定距定类卡方类测量卡方类测量Eta系数定序Spearman相关系数同序-异序对测量Spearman相关系数定距Pearson相关系数8.2相关分析相关分析通过图形和数值两种方式，有效地揭示事物之间相关关系的强弱程度和形式。•8.2.1散点图它将数据以点的的形式画在直角坐标系上，通过观察散点图能够直观的发现变量间的相关关系及他们的强弱程度和方向。8.2.2相关系数利用相关系数进行变量间线性关系的分析通常需要完成以下两个步骤：第一，计算样本相关系数r；相关系数r的取值在-1～+1之间R0表示两变量存在正的线性相关关系；r0表示两变量存在负的线性相关关系R＝1表示两变量存在完全正相关；r＝-1表示两变量存在完全负相关；r＝0表示两变量不相关|r|0.8表示两变量有较强的线性关系；|r|0.3表示两变量之间的线性关系较弱第二，对样本来自的两总体是否存在显著的线性关系进行推断。对不同类型的变量应采用不同的相关系数来度量，常用的相关系数主要有Pearson简单相关系数、Spearman等级相关系数和Kendall相关系数等。8.2.2.1Pearson简单相关系数（适用于两个变量都是数值型的数据）Pearson简单相关系数的检验统计量为：22)()()()(yyxxyyxxiiiir221rntr8.2.2.2Spearman等级相关系数•Spearman等级相关系数用来度量定序变量间的线性相关关系，设计思想与Pearson简单相关系数相同，只是数据为非定距的，故计算时并不直接采用原始数据，而是利用数据的秩，用两变量的秩代替代入Pearson简单相关系数计算公式中，于是其中的和的取值范围被限制在1和n之间，且可被简化为：(,)iixy(,)iixy(,)iiUVixiy222i21161()(1)nniiiiiDrDUVnn，其中•如果两变量的正相关性较强，它们秩的变化具有同步性，于是的值较小，r趋向于1；•如果两变量的正相关性较弱，它们秩的变化不具有同步性，于是的值较大，r趋向于0；•在小样本下，在零假设成立时，Spearman等级相关系数服从Spearman分布；在大样本下，Spearman等级相关系数的检验统计量为Z统计量，定义为：Z统计量近似服从标准正态分布。22i11()nniiiiDUV1Zrn22i11()nniiiiDUV8.2.3计算相关系数的基本操作•相关分析用于描述两个变量间关系的密切程度，其特点是变量不分主次，被置于同等的地位。•在Analyze的下拉菜单Correlate命令项中有三个相关分析功能子命令Bivariate过程、Partial过程、Distances过程，分别对应着相关分析、偏相关分析和相似性测度（距离）的三个spss过程。Bivariate过程用于进行两个或多个变量间的相关分析，如为多个变量，给出两两相关的分析结果。Partial过程，当进行相关分析的两个变量的取值都受到其他变量的影响时，就可以利用偏相关分析对其他变量进行控制，输出控制其他变量影响后的偏相关系数。Distances过程用于对各样本点之间或各个变量之间进行相似性分析，一般不单独使用，而作为聚类分析和因子分析等的预分析。Bivariate相关分析步骤（1）选择菜单Analyze－Correlate－Bivariate，出现窗口：（2）把参加计算相关系数的变量选到Variables框。（3）在CorrelationCoefficents框中选择计算哪种相关系数。（4）在TestofSignificance框中选择输出相关系数检验的双边（Two-Tailed）概率p值或单边（One-Tailed）概率p值。（5）选中Flagsignificancecorrelation选项表示分析结果中除显示统计检验的概率p值外，还输出星号标记，以标明变量间的相关性是否显著；不选中则不输出星号标记。（6）在Option按钮中的Statistics选项中，选中Cross-productdeviationsandcovariances表示输出两变量的离差平方和协方差。8.2.4相关分析应用举例为研究高等院校人文社会科学研究中立项课题数会受哪些因素的影响，收集1999年31个省市自治区部分高校有关社科研究方面的数据，研究立项课题数（当年）与投入的具有高级职称的人年数（当年）、发表的论文数（上年）之间是否具有较强的线性关系。对该问题的研究可以采用相关分析的方法，首先可绘制矩阵散点图；其次可以计算Pearson简单相关系数。8.3偏相关分析•8.3.1偏相关分析和偏相关系数上节中的相关系数是研究两变量间线性相关性的，若还存在其他因素影响，就相关系数本身来讲，它未必是两变量间线性相关强弱的真实体现，往往有夸大的趋势。例如，在研究商品的需求量和价格、消费者收入之间的线性关系时，需求量和价格之间的相关关系实际还包含了消费者收入对价格和商品需求量的影响。在这种情况下，单纯利用相关系数来评价变量间的相关性显然是不准确的，而需要在剔除其他相关因素影响的条件下计算变量间的相关。偏相关的意义就在于此。•偏相关分析也称净相关分析，它在控制其他变量的线性影响的条件下分析两变量间的线性关系，所采用的工具是偏相关系数。•控制变量个数为1时，偏相关系数称一阶偏相关；当控制两个变量时，偏相关系数称为二阶偏相关；当控制变量的个数为0时，偏相关系数称为零阶偏相关，也就是简单相关系数。利用偏相关系数进行分析的步骤•第一，计算样本的偏相关系数假设有三个变量y、x1和x2，在分析x1和y之间的净相关时，当控制了x2的线性作用后，x1和y之间的一阶偏相关定义为：偏相关系数的取值范围及大小含义与相关系数相同。12121,2222121212212(1)(1)yyxxxyyyyyyrrrrrrrrr1其中，、、分别表示和x的相关系数、和的相关系数、和的相关系数。•第二，对样本来自的两总体是否存在显著的净相关进行推断•检验统计量为：其中，r为偏相关系数，n为样本数，q为阶数。T统计量服从n-q-2个自由度的t分布。221nqtrr8.3.2偏相关分析的基本操作1.选择菜单Analyze－Correlate－Partial2.把参与分析的变量选择到Variables框中。3.选择一个或多个控制变量到Controllingfor框中。4.在TestofSignificance框中选择输出偏相关检验的双尾概率p值或单尾概率p值。5.在Option按钮中的Statistics选项中，选中Zero-orderCorrelations表示输出零阶偏相关系数。至此，SPSS将自动进行偏相关分析和统计检验，并将结果显示到输出窗口。8.3.3偏相关分析的应用举例上节中研究高校立项课题总数影响因素的相关分析中发现，发现立项课题数与论文数之间有较强正线性相关关系，但应看到这种关系中可能掺入了投入高级职称的人年数的影响，因此，为研究立项课题总数和发表论文数之间的净相关系数，可以将投入高级职称的人年数加以控制，进行偏相关分析。8.4线性回归分析8.4.1线性回归分析概述•线性回归分析的内容能否找到一个线性组合来说明一组自变量和因变量的关系如果能的话，这种关系的强度有多大，也就是利用自变量的线性组合来预测因变量的能力有多强整体解释能力是否具有统计上的显著性意义在整体解释能力显著的情况下，哪些自变量有显著意义•回归分析的一般步骤确定回归方程中的解释变量（自变量）和被解释变量（因变量）确定回归方程对回归方程进行各种检验利用回归方程进行预测8.4.2线性回归模型一元线性回归模型的数学模型：其中x为自变量；y为因变量；为截距，即常量；为回归系数，表明自变量对因变量的影响程度。xy1001用最小二乘法求解方程中的两个参数，得到：21)())((xxyyxxiiixby0多元线性回归模型多元线性回归方程：y=β0+β1x1+β2x2+...+βkxkβ1、β2、βk为偏回归系数。β1表示在其他自变量保持不变的情况下，自变量x1变动一个单位所引起的因变量y的平均变动。8.4.3线性回归方程的统计检验8.4.3.1回归方程的拟合优度回归直线与各观测点的接近程度称为回归方程的拟合优度，也就是样本观测值聚集在回归线周围的紧密程度。1、离差平方和的分解：建立直线回归方程可知：y的观测值的总变动可由来反映，称为总变差。引起总变差的原因有两个：由于x的取值不同，使得与x有线性关系的y值不同；随机因素的影响。2)(yybxayˆxyy)(0yy)ˆ(0yy)ˆ(yy总离差平方和可分解为222yyyyyy即：总离差平方和（SST)=剩余离差平方和(SST)+回归离差平方和（SSR)其中；SSR是由x和y的直线回归关系引起的，可以由回归直线做出解释；SSE是除了x对y的线性影响之外的随机因素所引起的Y的变动，是回归直线所不能解释的。2、可决系数（判定系数、决定系数）回归平方和在总离差平方和中所占的比例可以作为一个统计指标，用来衡量X与Y的关系密切程度以及回归直线的代表性好坏，称为可决系数。对于一元线性回归方程：22222211yyyyyyyyRSSTSSESSTSSESSTSSTSSRR对于多元线性回归方程：在多元线性回归分析中，引起判定系数增加的原因有两个：一个是方程中的解释变量个数增多，另一个是方程中引入了对被解释变量有重要影响的解释变量。如果某个自变量引入方程后对因变量的线性解释有重要贡献，那么必然会使误差平方和显著减小，并使平均的误差平方和也显著减小，从而使调整的判定系数提高。所以在多元线性回归分析中，调整的判定系数比判定系数更能准确的反映回归方程的拟合优度。1/1/1122nSSTpnSSERSSTSSER•8.4.3.2回归方程的显著性检验（方差分析F检验）回归方程的显著性检验是要检验被解释变量与所有的解释变量之间的线性关系是否显著。对于一元线性回归方程，检验统计量为：对于多元线性回归方程，检验统计量为：），（21~)2/()ˆ(1/)ˆ()2/(1/22nFnyyyynSSESSRF），（1p~)1/()ˆ(/)ˆ()1/(/22pnFpnyypyypnSSEpSSRF•8.4.3.3回归系数的显著性检验（t检验）回归系数的显著性检验是要检验回归方程中被解释变量与每一个解释变量之间的线性关系是否显著。对于一元线性回归方程，检验统计量为：2)ˆ()2(~)(221nyySntxxtiiyi其中，对于多元线性回归方程，检验统计量为：1)ˆ()1(~)(22pnyySpntxxtiiyiijii其中，•8.4.3.4残差分析残差是指由回归方程计算得到的预测值与实际样本值之间的差距，定义为：对于线性回归分析来讲，如果方程能够较好的反映被解释变量的特征和规律性，那么残差序列中应不包含明显的规律性。残差分析包括以下内容：残差服从正态分布，其平均值等于0；残差取值与X的取值无关；残差不存在自相关；残差方差相等。)...(ˆ22