华东师范大学茆诗松《概率论与数理统计教程》第8章方差分析与回归分析

第八章方差分析与回归分析华东师范大学26May2020第2页§8.1方差分析8.1.1问题的提出实际工作中我们经常碰到多个正态总体均值的比较问题，处理这类问题通常采用所谓的方差分析方法。第八章方差分析与回归分析华东师范大学26May2020第3页例8.1.1在饲料养鸡增肥的研究中，某研究所提出三种饲料配方：A1是以鱼粉为主的饲料，A2是以槐树粉为主的饲料，A3是以苜蓿粉为主的饲料。为比较三种饲料的效果，特选24只相似的雏鸡随机均分为三组，每组各喂一种饲料，60天后观察它们的重量。试验结果如下表所示：第八章方差分析与回归分析华东师范大学26May2020第4页表8.1.1鸡饲料试验数据饲料A鸡重（克）A110731009106010011002101210091028A21107109299011091090107411221001A310931029108010211022103210291048第八章方差分析与回归分析华东师范大学26May2020第5页本例中，我们要比较的是三种饲料对鸡的增肥作用是否相同。为此，把饲料称为因子，记为A，三种不同的配方称为因子A的三个水平，记为A1,A2,A3，使用配方Ai下第j只鸡60天后的重量用yij表示，i=1,2,3,j=1,2,,10。我们的目的是比较三种饲料配方下鸡的平均重量是否相等，为此，需要做一些基本假定，把所研究的问题归结为一个统计问题，然后用方差分析的方法进行解决。第八章方差分析与回归分析华东师范大学26May2020第6页8.1.2单因子方差分析的统计模型在例8.1.1中我们只考察了一个因子，称其为单因子试验。通常，在单因子试验中，记因子为A,设其有r个水平，记为A1,A2,…,Ar，在每一水平下考察的指标可以看成一个总体，现有r个水平，故有r个总体，假定：第八章方差分析与回归分析华东师范大学26May2020第7页1)每一总体均为正态总体，记为N(i,i2)，i＝1,2,…,r；2)各总体的方差相同:12=22=…=r2=2；3)从每一总体中抽取的样本是相互独立的，即所有的试验结果yij都相互独立。第八章方差分析与回归分析华东师范大学26May2020第8页我们要比较各水平下的均值是否相同,即要对如下的一个假设进行检验:H0：1=2=…=r（8.1.1）备择假设为H1：1,2,…,r不全相等在不会引起误解的情况下，H1通常可省略不写。如果H0成立，因子A的r个水平均值相同，称因子A的r个水平间没有显著差异，简称因子A不显著；反之，当H0不成立时，因子A的r个水平均值不全相同，这时称因子A的不同水平间有显著差异，简称因子A显著。第八章方差分析与回归分析华东师范大学26May2020第9页为对假设（8.1.1）进行检验，需要从每一水平下的总体抽取样本，设从第i个水平下的总体获得m个试验结果，记yij表示第i个总体的第j次重复试验结果。共得如下n=rm个试验结果：yij，i＝1,2,…,r，j＝1,2,…,m,其中r为水平数，m为重复数，i为水平编号，j为重复编号。第八章方差分析与回归分析华东师范大学26May2020第10页在水平Ai下的试验结果yij与该水平下的指标均值i一般总是有差距的，记ij=yiji，ij称为随机误差。于是有yij=i+ij（8.1.2）（8.1.2）式称为试验结果yij的数据结构式。第八章方差分析与回归分析华东师范大学26May2020第11页单因子方差分析的统计模型：（8.1.3）总均值与效应:称诸i的平均为总均值.称第i水平下的均值i与总均值的差:ai=i-为Ai的效应。2,1,2,...,,1,2,...,(0,)ijiijijyirjmN诸相互独立，且都服从1111(...)rriirr第八章方差分析与回归分析华东师范大学26May2020第12页模型（8.1.3）可以改写为(8.1.8)假设（8.1.1）可改写为H0：a1=a2=…=ar=0（8.1.9）12,1,2,...,,1,2,...,0N(0,)ijiijriiijyairjma相互独立，且都服从第八章方差分析与回归分析华东师范大学26May2020第13页8.1.3平方和分解一、试验数据通常在单因子方差分析中可将试验数据列成如下页表格形式。表8.1.2中的最后二列的和与平均的含义如下：.111,2,,miiijijriiTTyyirmTTTTyrmnnrm总试验次数第八章方差分析与回归分析华东师范大学26May2020第14页表8.1.2单因子方差分析试验数据因子水平试验数据和平均A1y11y12…y1mT1A2y21y22…y2mT2┆┆┆┆Aryr1yr2…yrmTrT1y2yyry第八章方差分析与回归分析华东师范大学26May2020第15页数据间是有差异的。数据yij与总平均间的偏差可用yij表示，它可分解为二个偏差之和（8.1.10）记二、组内偏差与组间偏差..()()ijijiiyyyyyy..1111111,mrrmiijiijjiijmrnyy第八章方差分析与回归分析华东师范大学26May2020第16页由于（8.1.11）所以yij-仅反映组内数据与组内平均的随机误差，称为组内偏差；而（8.1.12）除了反映随机误差外，还反映了第i个水平的效应，称为组间偏差。.()()ijiiijiiijiyyijy...()()iiiiiyya.iyy第八章方差分析与回归分析华东师范大学26May2020第17页在统计学中，把k个数据y1,y2,…,yk分别对其均值=(y1+…+yk)/k的偏差平方和称为k个数据的偏差平方和，它常用来度量若干个数据分散的程度。三、偏差平方和及其自由度y22211()()()kkiiQyyyyyy第八章方差分析与回归分析华东师范大学26May2020第18页在构成偏差平方和Q的k个偏差y1,…,yk间有一个恒等式，这说明在Q中独立的偏差只有k1个。在统计学中把平方和中独立偏差个数称为该平方和的自由度，常记为f，如Q的自由度为fQ=k1。自由度是偏差平方和的一个重要参数。yy1()0kiiyy第八章方差分析与回归分析华东师范大学26May2020第19页各yij间总的差异大小可用总偏差平方和表示，其自由度为fT=n1；四、总平方和分解公式仅由随机误差引起的数据间的差异可以用组内偏差平方和表示，也称为误差偏差平方和，其自由度为fe=nr；211()rmTijijSyy2.11()rmeijiijSyy第八章方差分析与回归分析华东师范大学26May2020第20页由于组间差异除了随机误差外，还反映了效应间的差异，故由效应不同引起的数据差异可用组间偏差平方和表示，也称为因子A的偏差平方和，其自由度为fA=r1；2.1()rAiiSmyy第八章方差分析与回归分析华东师范大学26May2020第21页定理8.1.1在上述符号下，总平方和ST可以分解为因子平方和SA与误差平方和Se之和，其自由度也有相应分解公式，具体为：ST=SA+Se,fT=fA+fe（8.1.16）（8.1.16）式通常称为总平方和分解式。第八章方差分析与回归分析华东师范大学26May2020第22页偏差平方和Q的大小与自由度有关，为了便于在偏差平方和间进行比较，统计上引入了均方和的概念，它定义为MS=Q/fQ，其意为平均每个自由度上有多少平方和，它比较好地度量了一组数据的离散程度。如今要对因子平方和SA与误差平方和Se之间进行比较，用其均方和MSA=SA/fA，MSe=Se/fe进行比较更为合理，故可用作为检验H0的统计量。8.1.4检验方法//AAAeeeMSSfFMSSf第八章方差分析与回归分析华东师范大学26May2020第23页定理8.1.2在单因子方差分析模型(8.1.8)及前述符号下，有(1)Se/2~2(nr)，从而E(Se)＝(nr)2，进一步，若H0成立，则有SA/2~2(r1)(2)SA与Se独立。221()(1)rAiiESrma第八章方差分析与回归分析华东师范大学26May2020第24页由定理8.1.2，若H0成立，则检验统计量F服从自由度为fA和fe的F分布，因此拒绝域为W={FF1(fA,fe)}，通常将上述计算过程列成一张表格，称为方差分析表。表8.1.3单因子方差分析表来源平方和自由度均方和F比因子SAfA=r1MSA=SA/fAF＝MSA/MSe误差Sefe=nrMSe=Se/fe总和STfT=n1第八章方差分析与回归分析华东师范大学26May2020第25页对给定的，可作如下判断：若FF1(fA,fe)，则说明因子A不显著。该检验的p值也可利用统计软件求出，若以Y记服从F(fA,fe)的随机变量，则检验的p值为p=P(YF)。如果FF1(fA,fe)，则认为因子A显著；第八章方差分析与回归分析华东师范大学26May2020第26页常用的各偏差平方和的计算公式如下：（8.1.19）一般可将计算过程列表进行。22112211rmTijijrAiieTATSynTSTmnSSS第八章方差分析与回归分析华东师范大学26May2020第27页例8.1.2采用例8.1.1的数据，将原始数据减去1000，列表给出计算过程：表8.1.4例8.1.2的计算表水平数据（原始数据-1000）TiTi2A17396012129281943763610024A210792-101099074122158534222560355A393298021223229483541253162098411335051779136321mijjy第八章方差分析与回归分析华东师范大学26May2020第28页利用(8.1.19)，可算得各偏差平方和为：把上述诸平方和及其自由度填入方差分析表2211339136337876.0417,241232450517711339660.0833,31282437876.04179660.083328215.9584,3(81)21TTAAeTAeSfSfSSSf第八章方差分析与回归分析华东师范大学26May2020第29页表8.1.5例8.1.2的方差分析表来源平方和自由度均方和F比因子9660.083324830.04173.5948误差28215.9584211343.6171总和37876.041723若取=0.05，则F0.95(2,21)=3.47，由于F=3.59483.47，故认为因子A（饲料）是显著的，即三种饲料对鸡的增肥作用有明显的差别。第八章方差分析与回归分析华东师范大学26May2020第30页8.1.5参数估计在检验结果为显著时，我们可进一步求出总均值、各主效应ai和误差方差2的估计。第八章方差分析与回归分析华东师范大学26May2020第31页一、点估计由模型(8.1.8)知诸yij相互独立，且yij~N(+ai,2)，因此，可使用极大似然方法求出一般平均、各主效应ai和误差方差2的估计:由极大似然估计的不变性，各水平均值i的极大似然估计为，由于不是2的无偏估计，可修偏：.ˆiiy2ˆM2ˆeMS.2211,,1,,1()iirmeMijijyayyirSyynn第八章方差分析与回归分析华东师范大学26May2020第32页由于，可给出Ai的水平均值i的1-的置信区间为其中。.()~()/iieeemytfSf二、置信区间.1/2.1/2()/,()/ieieytfm