北大光华金融考研讲义资料笔记课件-方差分析与回归分析

新祥旭北京大学光华考研统计学考研辅导班讲义§8.1方差分析8.1.1问题的提出实际工作中我们经常碰到多个正态总体均值的比较问题，处理这类问题通常采用所谓的方差分析方法。例8.1.1在饲料养鸡增肥的研究中，某研究所提出三种饲料配方：A1是以鱼粉为主的饲料，A2是以槐树粉为主的饲料，A3是以苜蓿粉为主的饲料。为比较三种饲料的效果，特选24只相似的雏鸡随机均分为三组，每组各喂一种饲料，60天后观察它们的重量。试验结果如下表所示：表8.1.1鸡饲料试验数据饲料A鸡重（克）A110731009106010011002101210091028A21107109299011091090107411221001A310931029108010211022103210291048本例中，我们要比较的是三种饲料对鸡的增肥作用是否相同。为此，把饲料称为因子，记为A，三种不同的配方称为因子A的三个水平，记为A1,A2,A3，使用配方Ai下第j只鸡60天后的重量用yij表示，i=1,2,3,j=1,2,,10。我们的目的是比较三种饲料配方下鸡的平均重量是否相等，为此，需要做一些基本假定，把所研究的问题归结为一个统计问题，然后用方差分析的方法进行解决。8.1.2单因子方差分析的统计模型在例8.1.1中我们只考察了一个因子，称其为单因子试验。通常，在单因子试验中，记因子为A,设其有r个水平，记为A1,A2,…,Ar，在每一水平下考察的指标可以看成一个总体，现有r个水平，故有r个总体，假定：1)每一总体均为正态总体，记为N(i,i2)，i＝1,2,…,r；2)各总体的方差相同:12=22=…=r2=2；3)从每一总体中抽取的样本是相互独立的，即所有的试验结果yij都相互独立。我们要比较各水平下的均值是否相同,即要对如下的一个假设进行检验:H0：1=2=…=r（8.1.1）备择假设为H1：1,2,…,r不全相等在不会引起误解的情况下，H1通常可省略不写。如果H0成立，因子A的r个水平均值相同，称因子A的r个水平间没有显著差异，简称因子A不显著；反之，当H0不成立时，因子A的r个水平均值不全相同，这时称因子A的不同水平间有显著差异，简称因子A显著。为对假设（8.1.1）进行检验，需要从每一水平下的总体抽取样本，设从第i个水平下的总体获得m个试验结果，记yij表示第i个总体的第j次重复试验结果。共得如下n=rm个试验结果：yij，i＝1,2,…,r，j＝1,2,…,m,其中r为水平数，m为重复数，i为水平编号，j为重复编号。在水平Ai下的试验结果yij与该水平下的指标均值i一般总是有差距的，记ij=yiji，ij称为随机误差。于是有yij=i+ij（8.1.2）（8.1.2）式称为试验结果yij的数据结构式。单因子方差分析的统计模型：（8.1.3）总均值与效应:称诸i的平均为总均值.称第i水平下的均值i与总均值的差:ai=i-为Ai的效应。2,1,2,...,,1,2,...,(0,)ijiijijyirjmN诸相互独立，且都服从1111(...)rriirr模型（8.1.3）可以改写为(8.1.8)假设（8.1.1）可改写为H0：a1=a2=…=ar=0（8.1.9）12,1,2,...,,1,2,...,0N(0,)ijiijriiijyairjma相互独立，且都服从8.1.3平方和分解一、试验数据通常在单因子方差分析中可将试验数据列成如下页表格形式。表8.1.2中的最后二列的和与平均的含义如下：.111,2,,miiijijriiTTyyirmTTTTyrmnnrm总试验次数表8.1.2单因子方差分析试验数据因子水平试验数据和平均A1y11y12…y1mT1A2y21y22…y2mT2┆┆┆┆Aryr1yr2…yrmTrT1y2yyry数据间是有差异的。数据yij与总平均间的偏差可用yij表示，它可分解为二个偏差之和（8.1.10）记二、组内偏差与组间偏差..()()ijijiiyyyyyy..1111111,mrrmiijiijjiijmrnyy由于（8.1.11）所以yij-仅反映组内数据与组内平均的随机误差，称为组内偏差；而（8.1.12）除了反映随机误差外，还反映了第i个水平的效应，称为组间偏差。.()()ijiiijiiijiyyijy...()()iiiiiyya.iyy在统计学中，把k个数据y1,y2,…,yk分别对其均值=(y1+…+yk)/k的偏差平方和称为k个数据的偏差平方和，它常用来度量若干个数据分散的程度。三、偏差平方和及其自由度y22211()()()kkiiQyyyyyy在构成偏差平方和Q的k个偏差y1,…,yk间有一个恒等式，这说明在Q中独立的偏差只有k1个。在统计学中把平方和中独立偏差个数称为该平方和的自由度，常记为f，如Q的自由度为fQ=k1。自由度是偏差平方和的一个重要参数。yy1()0kiiyy各yij间总的差异大小可用总偏差平方和表示，其自由度为fT=n1；四、总平方和分解公式仅由随机误差引起的数据间的差异可以用组内偏差平方和表示，也称为误差偏差平方和，其自由度为fe=nr；211()rmTijijSyy2.11()rmeijiijSyy由于组间差异除了随机误差外，还反映了效应间的差异，故由效应不同引起的数据差异可用组间偏差平方和表示，也称为因子A的偏差平方和，其自由度为fA=r1；2.1()rAiiSmyy定理8.1.1在上述符号下，总平方和ST可以分解为因子平方和SA与误差平方和Se之和，其自由度也有相应分解公式，具体为：ST=SA+Se,fT=fA+fe（8.1.16）（8.1.16）式通常称为总平方和分解式。偏差平方和Q的大小与自由度有关，为了便于在偏差平方和间进行比较，统计上引入了均方和的概念，它定义为MS=Q/fQ，其意为平均每个自由度上有多少平方和，它比较好地度量了一组数据的离散程度。如今要对因子平方和SA与误差平方和Se之间进行比较，用其均方和MSA=SA/fA，MSe=Se/fe进行比较更为合理，故可用作为检验H0的统计量。8.1.4检验方法//AAAeeeMSSfFMSSf定理8.1.2在单因子方差分析模型(8.1.8)及前述符号下，有(1)Se/2~2(nr)，从而E(Se)＝(nr)2，进一步，若H0成立，则有SA/2~2(r1)(2)SA与Se独立。221()(1)rAiiESrma由定理8.1.2，若H0成立，则检验统计量F服从自由度为fA和fe的F分布，因此拒绝域为W={FF1(fA,fe)}，通常将上述计算过程列成一张表格，称为方差分析表。表8.1.3单因子方差分析表来源平方和自由度均方和F比因子SAfA=r1MSA=SA/fAF＝MSA/MSe误差Sefe=nrMSe=Se/fe总和STfT=n1对给定的，可作如下判断：若FF1(fA,fe)，则说明因子A不显著。该检验的p值也可利用统计软件求出，若以Y记服从F(fA,fe)的随机变量，则检验的p值为p=P(YF)。如果FF1(fA,fe)，则认为因子A显著；常用的各偏差平方和的计算公式如下：（8.1.19）一般可将计算过程列表进行。22112211rmTijijrAiieTATSynTSTmnSSS例8.1.2采用例8.1.1的数据，将原始数据减去1000，列表给出计算过程：表8.1.4例8.1.2的计算表水平数据（原始数据-1000）TiTi2A17396012129281943763610024A210792-101099074122158534222560355A393298021223229483541253162098411335051779136321mijjy利用(8.1.19)，可算得各偏差平方和为：把上述诸平方和及其自由度填入方差分析表2211339136337876.0417,241232450517711339660.0833,31282437876.04179660.083328215.9584,3(81)21TTAAeTAeSfSfSSSf表8.1.5例8.1.2的方差分析表来源平方和自由度均方和F比因子9660.083324830.04173.5948误差28215.9584211343.6171总和37876.041723若取=0.05，则F0.95(2,21)=3.47，由于F=3.59483.47，故认为因子A（饲料）是显著的，即三种饲料对鸡的增肥作用有明显的差别。8.1.5参数估计在检验结果为显著时，我们可进一步求出总均值、各主效应ai和误差方差2的估计。一、点估计由模型(8.1.8)知诸yij相互独立，且yij~N(+ai,2)，因此，可使用极大似然方法求出一般平均、各主效应ai和误差方差2的估计:由极大似然估计的不变性，各水平均值i的极大似然估计为，由于不是2的无偏估计，可修偏：.ˆiiy2ˆM2ˆeMS.2211,,1,,1()iirmeMijijyayyirSyynn由于，可给出Ai的水平均值i的1-的置信区间为其中。.()~()/iieeemytfSf二、置信区间.1/2.1/2()/,()/ieieytfmytfm2ˆeMS例8.1.3继续例8.1.2，此处我们给出诸水平均值的估计。因子A的三个水平均值的估计分别为从点估计来看，水平2（以槐树粉为主的饲料）是最优的。12319410001024.25,858510001073.125,835410001044.25,8误差方差的无偏估计为利用(8.1.23)可以给出诸水平均值的置信区间。此处，，若取＝0.05，则t1-/2(fe)=t0.95(21)=2.0796，，于是三个水平均值的0.95置信区间分别为2ˆ1343.6171eMSˆ1343.617136.65540.975ˆ(21)/826.9509t123:1024.2526.9509=[997.2891,1051.2109],:1073.12526.9509=[1046.1741,1100.0759],:1044.2526.9509=[1017.2891,1071.2109].在单因子试验的数据分析中可得到如下三个结果：因子是否显著；试验的误差方差2的估计；诸水平均值i的点估计与区间估计。在因子A显著时，通常只需对较优的水平均值作参数估计，在因子A不显著场合，参数估计无需进行。8.1.6重复数不等情形单因子方差分析并不要求每个水平下重复试验次数全相等，在重复数不等场合的方差分析与重复数相等情况下的方差分析极为相似，只在几处略有差别。数据：设从第i个水平下的总体获得mi个试验结果，记为yi1,yi2…,yim，i=1,2,…r，统计模型为：（8.1.24）2,1,2,...,,1,2,...,(0,)ijiijiijyirjmN各相互独立，且都服从总均值：诸i的加权平均（所有试验结果的均值的平均）（8.1.25）称为总均值或一般平均。效应约束条件：各平方和的计算：SA的计算公式略有不同222.11()rriAiiiiiTTSmyymn10riiima11111(...)rrriiimmmnn例8.1.4某食品公司对一种食品设计了四种新包装。为考察哪种