方差分析与试验设计(非常详细)

10-1统计学(第二版)第10章方差分析与试验设计作者：中国人民大学统计学院贾俊平10-2统计学(第二版)§10.1方差分析的引论§10.2单因素方差分析§10.3方差分析中的多重比较§10.4双因素方差分析§10.5试验设计初步第10章方差分析与试验设计10-3统计学(第二版)学习目标1.解释方差分析的概念2.解释方差分析的基本思想和原理3.掌握单因素方差分析的方法及应用4.理解多重比较的意义5.掌握双因素方差分析的方法及应用6.掌握试验设计的基本原理和方法10-4统计学(第二版)§10.1方差分析引论一.方差分析及其有关术语二.方差分析的基本思想和原理三.方差分析的基本假定四.问题的一般提法10-5统计学(第二版)方差分析及其有关术语10-6统计学(第二版)什么是方差分析(ANOVA)?(analysisofvariance)1.检验多个总体均值是否相等通过分析察数据的误差判断各总体均值是否相等2.研究分类型自变量对数值型因变量的影响一个或多个分类尺度的自变量2个或多个(k个)处理水平或分类一个间隔或比率尺度的因变量3.有单因素方差分析和双因素方差分析单因素方差分析：涉及一个分类的自变量双因素方差分析：涉及两个分类的自变量10-7统计学(第二版)什么是方差分析?(例题分析)消费者对四个行业的投诉次数行业观测值零售业旅游业航空公司家电制造业12345675766494034534468392945565131492134404451657758【例】为了对几个行业的服务质量进行评价，消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共23家企业投诉的次数如下表10-8统计学(第二版)什么是方差分析?(例题分析)1.分析四个行业之间的服务质量是否有显著差异，也就是要判断“行业”对“投诉次数”是否有显著影响2.作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等3.如果它们的均值相等，就意味着“行业”对投诉次数是没有影响的，即它们之间的服务质量没有显著差异；如果均值不全相等，则意味着“行业”对投诉次数是有影响的，它们之间的服务质量有显著差异10-9统计学(第二版)方差分析中的有关术语1.因素或因子(factor)所要检验的对象要分析行业对投诉次数是否有影响，行业是要检验的因素或因子2.水平或处理(treatment)因子的不同表现零售业、旅游业、航空公司、家电制造业就是因子的水平3.观察值在每个因素水平下得到的样本值每个行业被投诉的次数就是观察值10-10统计学(第二版)方差分析中的有关术语1.试验这里只涉及一个因素，因此称为单因素四水平的试验2.总体因素的每一个水平可以看作是一个总体比如零售业、旅游业、航空公司、家电制造业可以看作是四个总体3.样本数据被投诉次数可以看作是从这四个总体中抽取的样本数据10-11统计学(第二版)方差分析的基本思想和原理10-12统计学(第二版)方差分析的基本思想和原理(图形分析)不同行业被投诉次数的散点图020406080012345行业被投诉次数零售业旅游业航空公司家电制造10-13统计学(第二版)1.从散点图上可以看出不同行业被投诉的次数是有明显差异的即使是在同一个行业，不同企业被投诉的次数也明显不同家电制造也被投诉的次数较高，航空公司被投诉的次数较低2.行业与被投诉次数之间有一定的关系如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近方差分析的基本思想和原理(图形分析)10-14统计学(第二版)1.仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异这种差异也可能是由于抽样的随机性所造成的2.需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析所以叫方差分析，因为虽然我们感兴趣的是均值，但在判断均值之间是否有差异时则需要借助于方差这个名字也表示：它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此，进行方差分析时，需要考察数据误差的来源。方差分析的基本思想和原理10-15统计学(第二版)1.比较两类误差，以检验均值是否相等2.比较的基础是方差比3.如果系统(处理)误差显著地不同于随机误差，则均值就是不相等的；反之，均值就是相等的4.误差是由各部分的误差占总误差的比例来测度的方差分析的基本思想和原理10-16统计学(第二版)方差分析的基本思想和原理(两类误差)1.随机误差因素的同一水平(总体)下，样本各观察值之间的差异比如，同一行业下不同企业被投诉次数是不同的这种差异可以看成是随机因素的影响，称为随机误差2.系统误差因素的不同水平(不同总体)下，各观察值之间的差异比如，不同行业之间的被投诉次数之间的差异这种差异可能是由于抽样的随机性所造成的，也可能是由于行业本身所造成的，后者所形成的误差是由系统性因素造成的，称为系统误差10-17统计学(第二版)方差分析的基本思想和原理(两类方差)1.数据的误差用平方和(sumofsquares)表示，称为方差2.组内方差(withingroups)因素的同一水平(同一个总体)下样本数据的方差比如，零售业被投诉次数的方差组内方差只包含随机误差3.组间方差(betweengroups)因素的不同水平(不同总体)下各样本之间的方差比如，四个行业被投诉次数之间的方差组间方差既包括随机误差，也包括系统误差10-18统计学(第二版)方差分析的基本思想和原理(方差的比较)1.若不同不同行业对投诉次数没有影响，则组间误差中只包含随机误差，没有系统误差。这时，组间误差与组内误差经过平均后的数值就应该很接近，它们的比值就会接近12.若不同行业对投诉次数有影响，在组间误差中除了包含随机误差外，还会包含有系统误差，这时组间误差平均后的数值就会大于组内误差平均后的数值，它们之间的比值就会大于13.当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异，也就是自变量对因变量有影响判断行业对投诉次数是否有显著影响，实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响10-19统计学(第二版)方差分析的基本假定10-20统计学(第二版)方差分析的基本假定1.每个总体都应服从正态分布对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本比如，每个行业被投诉的次数必需服从正态分布2.各个总体的方差必须相同各组观察数据是从具有相同方差的总体中抽取的比如，四个行业被投诉次数的方差都相等3.观察值是独立的比如，每个行业被投诉的次数与其他行业被投诉的次数独立10-21统计学(第二版)方差分析中的基本假定1.在上述假定条件下，判断行业对投诉次数是否有显著影响，实际上也就是检验具有同方差的四个正态总体的均值是否相等2.如果四个总体的均值相等，可以期望四个样本的均值也会很接近四个样本的均值越接近，推断四个总体均值相等的证据也就越充分样本均值越不同，推断总体均值不同的证据就越充分10-22统计学(第二版)方差分析中基本假定如果原假设成立，即H0:m1=m2=m3=m4四个行业被投诉次数的均值都相等意味着每个样本都来自均值为m、差为2的同一正态总体Xf(X)m1m2m3m410-23统计学(第二版)方差分析中基本假定若备择假设成立，即H1:mi(i=1，2，3，4)不全相等至少有一个总体的均值是不同的四个样本分别来自均值不同的四个正态总体Xf(X)m3m1m2m410-24统计学(第二版)问题的一般提法10-25统计学(第二版)问题的一般提法1.设因素有k个水平，每个水平的均值分别用m1、m2、、mk表示2.要检验k个水平(总体)的均值是否相等，需要提出如下假设：H0:m1m2…mkH1:m1,m2,，mk不全相等3.设m1为零售业被投诉次数的均值，m2为旅游业被投诉次数的均值，m3为航空公司被投诉次数的均值，m4为家电制造业被投诉次数的均值，提出的假设为H0:m1m2m3m4H1:m1,m2,m3,m4不全相等10-26统计学(第二版)§10.2单因素方差分析一.数据结构二.分析步骤三.关系强度的测量四.用Excel进行方差分析10-27统计学(第二版)单因素方差分析的数据结构(one-wayanalysisofvariance)观察值(j)因素(A)i水平A1水平A2…水平Ak12::nx11x21…xk1x12x22…xk2::::::::x1nx2n…xkn10-28统计学(第二版)分析步骤•提出假设•构造检验统计量•统计决策10-29统计学(第二版)提出假设1.一般提法H0:m1=m2=…=mk•自变量对因变量没有显著影响H1:m1，m2，…，mk不全相等•自变量对因变量有显著影响2.注意：拒绝原假设，只表明至少有两个总体的均值不相等，并不意味着所有的均值都不相等10-30统计学(第二版)构造检验的统计量构造统计量需要计算水平的均值全部观察值的总均值误差平方和均方(MS)10-31统计学(第二版)构造检验的统计量(计算水平的均值)1.假定从第i个总体中抽取一个容量为ni的简单随机样本，第i个总体的样本均值为该样本的全部观察值总和除以观察值的个数2.计算公式为),,2,1(1kinxxinjijii式中：ni为第i个总体的样本观察值个数xij为第i个总体的第j个观察值10-32统计学(第二版)构造检验的统计量(计算全部观察值的总均值)1.全部观察值的总和除以观察值的总个数2.计算公式为kkiiikinjijnnnnnxnnxxi21111式中：10-33统计学(第二版)构造检验的统计量(例题分析)10-34统计学(第二版)构造检验的统计量(计算总误差平方和SST)1.全部观察值与总平均值的离差平方和2.反映全部观察值的离散状况3.其计算公式为ijxxkinjijixxSST112前例的计算结果：SST=(57-47.869565)2+…+(58-47.869565)2=115.929510-35统计学(第二版)构造检验的统计量(计算水平项平方和SSA)1.各组平均值与总平均值的离差平方和2.反映各总体的样本均值之间的差异程度，又称组间平方和3.该平方和既包括随机误差，也包括系统误差4.计算公式为kiiikinjixxnxxSSAi12112前例的计算结果：SSA=1456.608696),,2,1(kixix10-36统计学(第二版)构造检验的统计量(计算误差项平方和SSE)1.每个水平或组的各样本数据与其组平均值的离差平方和2.反映每个样本各观察值的离散状况，又称组内平方和3.该平方和反映的是随机误差的大小4.计算公式为kinjiijixxSSE112前例的计算结果：SSE=270810-37统计学(第二版)构造检验的统计量(三个平方和的关系)总离差平方和(SST)、误差项离差平方和(SSE)、水平项离差平方和(SSA)之间的关系kinjijkiiikinjijiixxxxnxx11212112SST=SSA+SSE前例的计算结果：4164.608696=1456.608696+270810-38统计学(第二版)构造检验的统计量(三个平方和的作用)1.SST反映全部数据总的误差程度；SSE反映随机误差的大小；SSA反映随机误差和系统误差的大小2.如果原假设成立，则表明没有系统误差，组间平方和SSA除以自由度后的均方与组内平方和SSE和除以自由度后的均方差异就不会太大；如果组间均方显著地大于组内均方，说明各水平(总体)之间的差异不仅有随机误差，还有系统误差3.判断因素的水平是否对其观察值有影响，实际上就是比较组间方差与组内方差之间差异的大小10-39统计学(第二