概率论与数理统计-第七章-参数估计

第七章参数估计一.点估计二.估计量的评选标准三.区间估计四.正态总体参数的区间估计§1点估计一、参数估计的概念定义:(p128)设X1，…，Xn是总体X的一个样本，总体分布函数为F(x;),。其中为未知参数,为参数空间,若用统计量g(X1，…，Xn)作为的一个估计,则称其为的一个估计量，记为).,,(gˆ,ˆ1nXX即注：F(x;)也可用分布律或密度函数代替.若x1，…，xn是样本的一个观测值,.),,(ˆ1的估计值称为nxxg点估计的经典方法有矩估计法与极大似然估计法。二、矩估计法（简称“矩法”）（p128)思想：用样本矩作为总体同阶矩的估计，即.1)(1nikikXnXE理论依据：大数定律。.)(11kPnikiXEXn约定：若是未知参数的矩估计，则g()的矩估计为g().如设总体为X，其期望、方差的估计。矩估计法求法：1、计算总体矩。一般来说，总体矩是未知参数的函数，总体矩个数与未知参数个数相同。2、求出未知参数表达式，未知参数为总体矩的函数。3、用样本矩代替同阶总体矩，得到未知参数的估计计算式。例1设X1,…,Xn为来自总体b(m,p)的样本，其中m已知，p未知，求p的矩估计。解：因E(X)=mp,mXEp)(故Xmp1所以即为参数p的矩估计。EX：设X1，…，Xn为取自参数为的指数分布总体的样本，求的矩估计。的矩估计量。为所以解得令解XXEXExxexfx1ˆ)(11)(000);(:解：例2设总体X的概率密度为，X1,…,Xn为其样本，求的矩估计。xexf21)(02)(||dxexXExdxexdxexXExx02||2212)(222)(2XEnXnii212例3：设X1，…，Xn为取自总体的样本，求参数的矩估计。),(2N2,解:222)]([)()()(XEXEXDXEniiXXnX122)(1,.,),,(~,,.4^^1MMiidnbababaUXX和试求设例解:2)(121)(2)(abXDbaXE)(3)()(3)(XDXEbXDXEa由:niiXXnXDXXE12)(1)()(niiniiXXnXbXXnXa1212)(3)(3三、极大似然估计法(P130)1、极大似然思想有两个射手，一人的命中率为0.9,另一人的命中率为0.1,现在他们中的一个向目标射击了一发，结果命中了，估计是谁射击的？一般说，事件A发生的概率与参数有关，取值不同，则P(A)也不同。因而应记事件A发生的概率为P(A|).若A发生了，则认为此时的值应是在中使P(A|)达到最大的那一个。这就是极大似然思想(1)设总体X为离散型随机变量，它的分布律为,...2,1)(}{kaPaXPkk现有样本观察值x1,x2,…xn,其中xk取值于{ak,k=1,2…}问：根据极大似然思想，如何用x1,x2,…xn估计?},...,{11nnxXxXA记)(},...,{)|(111ininnxPxXxXPAP则根据极大似然思想,值应是在中使P(A|)达到最大的那一个,也就是使样本联合分布律达到最大的那一个.)(1inixP(2)设总体X为连续型随机变量，概率密度f(x;)现有样本观察值x1,x2,…xn,问：根据极大似然思想，如何用x1,x2,…xn估计?,),...,(),...,(11的小球为包围点记nnxxxx),...,(),...,{(11nnxxXXAnnxxdxdxxxfAPn,...,);,...,(...)|(11),...,(1则nixxnidxdxxfn,...,);(...1),...,(11根据极大似然思想,值应是在中使P(A|)达到最大的那一个,也就是使样本联合密度达到最大的那一个.2、似然函数与极大似然估计(p131)n1iin1iidn1);x(f);x,,x(L)(L,),;x(f~X,,X则称设为该总体的似然函数。lnL()称为对数似然函数。,^定义：若有),()(max)(^LSupLL或使得则称为的最大似然估计.记为.^MLE3、求极大似然估计的步骤),,(,),;(~,,1^^1nMLEMLEiidnXXxFXX试求设(1)求似然函数niinxfxxLL11);();,,()((2)求对数似然函数niiniinxPxfxxLL111)(ln);(ln);,,(ln)(ln或或niinxPxxLL11)();,,()(0)]([lndLd(3)求导,令若方程有解，则0)]([dLd或.^MLE的为其解例5.设X1，…，Xn为取自参数为的泊松分布总体的样本，求的极大似然估计。解:niinxniixniixeexxXPLniii111!!)()(1niiniixnxL11)!ln(ln)(ln令01)]([ln1nxdLdniiniiXn11ˆ注1：若总体分布中含有多个未知参数，如.,,1,0ln,0^miMLELLiiii的为其解或),,(),,,;(~,,111mmiidnxFXX则可解方程组例6：设X1，…，Xn为取自总体的样本，求参数的极大似然估计。2,),(2NnixniiiexfL122122),;(),(22解:22122221),(inixnneL22221ln(,)ln(2)ln222niixnnL令221222241ln(,)1()0ln(,)022niiniiLxxLn2,为的极大似然估计.2121)(1,1niiniixxnxxn212)(1,niiXXnX注2：极大似然估计具有下述性质：(p134)若是未知参数的极大似然估计，g()是的严格单调函数，则g()的极大似然估计为g()。例7：设X1，…，Xn为取自参数为的指数分布总体的样本，a0为一给定实数，求p=P{Xa}的极大似然估计。解:axaedxeaXPp1}{0niiixnnixniieexfL111);()(关于单调.故若的极大似然估计为,则p的极大似然估计为.先求的极大似然估计。ae1niixnxneLnii1lnln)(ln1令0)]([ln1niixndLdniixn1X1Xaep1注3：由似然方程解不出的似然估计时，可由定义通过分析直接推求。事实上满足)(max)ˆ(LLMLEMLE例8：设X1，…，Xn为取自U(0,)总体的样本，0未知，求参数的极大似然估计。解:其它001);()(1inniixxfLln1ln)(lnnLn令0)]([lnndLd无解!其它001)(inxL注意到为使L()≠0,必须0x(1)、x(n),故的值域为(x(n),∞),再由关于单减,故越小,L()越大.于是L(x(n))=supL()nL1)()(nMLEX一、无偏性(p136).,),,(^^1^^的无偏估计量是则称若的估计量为设EXXn易见.1])(1[),(1)1()(21211nnXXnEXEEXnXnEXEniiniinii§2估计量的评选标准)01,U(~,X,Xiidn设例1考察的矩估计和极大似然估计的无偏性。解:的矩估计和极大似然估计分别为)(,2nMLEMXX22)(2)(2)ˆ(XEXEEM的矩估计是无偏的.记)(nMLEXZ其它,00,)(1znzzfnnZ01^1nndznzzEnnMLE故的极大似然估计不是无偏的.注:取MLEnn1*ˆ则*是的无偏估计.二、有效性(P137).,,2,1),,,(2^1^2^1^1^^有效比则称若无偏估计的两个分别是参数设DDiXXniiEX:设分别为取自总体X的容量为n1,n2的两个独立样本的样本均值，求证：对任意实数a0,b0,a+b=1统计量都是E(X)的无偏估计，并求a,b使所得统计量最有效.21,XX21XbXa)()()()(:2121XEXbEXaEXbXaE解故对任意实数a0,b0,a+b=1,统计量都是E（X）的无偏估计.21XbXa)()()()()(2212221221XDnbnaXDbXDaXbXaD12()22(1)()0dhaaadann令211nnna2122111nnnnnnb))1(()(:2212nanaah记三、一致性(P138)是θ的一致估计量。θθ，则称θ)是θ的估计量，若X,,(Xθθ设nPnn1nˆˆˆˆ§3区间估计一、概念（P140)定义：设总体X的分布函数F(x；)含有未知参数，对于给定值（01),若由样本X1,…,Xn确定的两个统计量使则称随机区间为的置信度(水平）为1的置信区间。ULˆ,ˆ*1}ˆˆ{ULP。的置信下限和置信上限分别称为置信度为和1ˆˆUL)ˆ,ˆ(UL二.正态总体均值与方差的区间估计.1,,),(121~置信区间的求出，，由观测值给定，，，设niidnxxNXX1、2已知)1,0(~XUNn故1}|{|2zUP2z20z1-1}{22znXuznXP即：故的置信度为1的置信区间为：),(22znXznX例1已知某大学三年级学生的身高服从正态分布,现从该大学三年级学生中抽查10人,测得身高分别为162,176,163,165,168,172,170,167,175,178.求总体均值的置信水平为0.95的置信区间.,49N解：10n0.0521.96z169.6,7x169.61.967/10,169.61.967/10165.3,173.9已知时,的置信度为1的置信区间为。),(2/2/znXznX这里故置信区间为))1(),1((2/2/ntnSXntnSX2、2未知(p141)的1置信区间为)1(~/ntnSXT由1)}1({2/，令ntTP)1(2nt)1(02nt1-1})1()1({2/2/nSntXnSntXP即得解：6n0.05未知时,的置信度为1的置信区间为这里故置信区间为例2设某种袋装食品的重量服从正态分布，从某一批此种食品中抽取6袋,测得重量(单位:g)如下:205,207,189,193,196,198.求此种袋装食品的重量的置信水平为0.95的置信区间.),(2N。)1(),1((2/2/ntnSXntnSX