《概率论与数理统计》第七章参数估计

§7.1§7.2§7.3§7.4§7.5第7章参数估计§7.2极大似然估计§7.1点估计§7.3估计量的优良性准则§7.4正态总体的区间估计（一）§7.5正太总体的区间估计（二）第七章参数估计总体分布的参数未知用样本去估计参数估计例如某市在职职工的年收入的对数),(~2NX但参数未知2,用样本去估计例如某市一个月内发生交通事故的人数~()YP但参数未知用样本去估计参数估计分为两大类：点估计和区间估计。第七章参数估计§7.1矩估计参数估计点估计矩估计区间估计极大似然估计第七章参数估计1.点估计：所谓的点估计就是构造一个适当的统计量12,,,nXXX用估计相应的参数.点估计法注:①估计量是样本12,,,nXXX的函数,即是一个统计量.对不同的样本值,的估计值一般是不同的.②待估参数可以是一个,也可以是k个(2k).3.估计值:样本观察值12,,,nxxx代入,即12,,,nxxx2.统计量就称为的估计量.第7章参数估计§7.1矩估计§7.1§7.2§7.3§7.4§7.5第七章参数估计§7.1点估计设总体~(,)XFx,总体分布中含有未知参数样本12,,,nXXX,样本观测值12,,,nxxx样本的k阶原点矩，依概率收敛到总体的k阶原点矩。11()nkpkiiXEXn建立了样本和总体的信息令：11()(1,2,)nkkiiXEXkn1．点估计的方法（1）矩估计第七章参数估计§7.1点估计①若总体中只含有一个参数令：11()niiXXEXn()XEX可解出未知参数②若总体中只含有二个参数令：221()1()niiXEXXEXn两个方程组联立可解出未知参数2．点估计的方法（1）矩估计注意问的问题：1.矩估计量（大写）2.矩估计值（小写）期望的计算方法:离散型1()iiiEXxp连续型()()dEXxfxx第七章参数估计§7.1点估计例设总体X的概率分布为X0123P22(1)2(12)其中1(0)2是未知参数，利用总体X的如下样本值3,1,3,0,3,1,2,3，求的矩估计值。离散型第七章参数估计§7.1点估计例设总体X的概率密度为(),()0,xexfxx而12,,,nXXX是取自总体X的样本,求未知参数的矩估计量.连续型样本均值样本二阶中心矩第七章参数估计§7.1点估计例设12,,,nXXX是来自总体X的样本，总体X的均值及方差2（20）都存在,但,2均未知.试求,2的矩估计量.解由题意得222221,1()[],niiXEXXEXVarXEXn解得222211,11().nniiiiXXXXXnn第七章参数估计§7.1点估计例7.3设总体X在,ab上服从均匀分布,,ab未知,12,,,nXXX是来自X的样本,试求,ab的矩估计量.解由题意得122222,2()()()[]=,124abEXbaabEXDXEX即12212,12(),abba第七章参数估计§7.1点估计解得221211213(),3()ab.分别以21211,niiAXAXn代替12,,得到,ab的矩估计量分别为22121122121133()(),33()().niiniiaAAAXXXnbAAAXXXn§7.2极大似然估计第7章参数估计§7.1§7.2§7.3§7.4§7.5第七章参数估计§7.2极大似然估计问题：如何估计？思想:对总体X依次抽样，就抽到12,,,nXXX这组样本，则可以认为取到这组样本的概率是最大的。方法：把取到这组样本的概率描述出来（概率中含有未知参数），考虑当取什么值得时候，这组概率最大，找到的这个就是参数的极大似然估计。极大似然估计方法思想设总体~(,)XFx,总体分布中含有未知参数样本12,,,nXXX,样本观测值12,,,nxxx第七章参数估计1.构造似然函数L11221122,,,;;;;nnnnPXxXxXxPXxPXxPXx121,,,;;nniiiLLxxxPXx为参数的似然函数.2.取对数(对数似然函数)121ln,,,;ln;nniiiLLxxxPXx①离散型（一个未知参数）§7.2极大似然估计第七章参数估计4.令导数等于零，求最值ln0dLd.对数似然方程.①.驻点唯一，驻点就是极大似然估计量（值）②.驻点不唯一，根据题目中给定的的取值范围，进行取舍，估计出③.无驻点：导数0;()L单调增，取范围的最大值导数0;()L单调减，取范围的最小值3.求导数lndLd§7.2极大似然估计第七章参数估计1.构造似然函数L若X是连续型总体,其概率密度为;,fx为未知参数,称121,,,;,nniiLfxxxfx为参数的似然函数.2.取对数lnL3.求导数lndLd4.令导数等于零，求最值ln0dLd.对数似然方程.②连续型（一个未知参数）为样本观测值§7.2极大似然估计第七章参数估计定义若对任意给定的样本值12,,,nxxx,存在12,,,nxxx,使maxLL,则称12,,,nxxx为的极大似然估计值,称相应的统计量12,,,nXXX为极大似然估计量,它们统称为极大似然估计.(最大似然估计)一.极大似然估计注:若未知参数个数两个，构造似然函数方法相同，只是求最值，是导数变成偏导数，解方程组。§7.2极大似然估计第七章参数估计例设总体X的概率分布为X0123P22(1)2(12)其中1(0)2是未知参数，利用总体X的如下样本值3,1,3,0，3,1,2,3，求的极大似然估计值。离散型§7.2极大似然估计第七章参数估计例设总体X的概率密度为2,()(0)0,xxexfxx而12,,,nXXX是取自总体X简单随机的样本,求未知参数的极大似然估计量.连续型§7.2极大似然估计第七章参数估计解：似然函数为其他0)(1),(bxaabbaLin例设X1,X2,…Xn是取自总体X的一个样本其它,0,1)(~bxaabxfX求的极大似然估计.ba,注意：当似然函数L不可微时,只能按最大似然估计法的基本思想求出最大值点.不连续§7.2极大似然估计第七章参数估计似然函数为其他0)(1),(bxaabbaLin要使最大,)(Lnnxxxbxxxa,,maxˆ,,,minˆ2121就要最小,即最小最大abba的极大似然估计ba,nnxxxbxxxa,,maxˆ,,,minˆ2121nnXXXbXXXa,,maxˆ,,,minˆ2121§7.2极大似然估计第七章参数估计解：似然函数为niixL11)(11)(niinx)10(ix对数似然函数为niixnL1ln)1(ln)(lnni1例设X1,X2,…Xn是取自总体X的一个样本其它,010,)(~1xxxfX求的极大似然估计.其中0,§7.2极大似然估计第七章参数估计niixndLd1ln)(ln求导并令其为0从中解得niixn1.lnˆ即为的MLE.对数似然函数为niixnL1ln)1(ln)(ln§7.2极大似然估计第七章参数估计例设总体X服从(,)bmp分布,1C(1)xxxmPXxpp,0,1,2,,,xmp未知且01p,12,,,nXXX是来自X的一个样本,试求参数p的最大似然估计量.解：似然函数nixmxxmiiippCpL1)1()(niiniinxmxxmxmxmppCCC1121)()1(niiniinxnmxxmxmxmppCCC1121)1(§7.2极大似然估计第七章参数估计似然函数niiniinxnmxxmxmxmppCCCpL1121)1()(对数似然函数niiniinxnmxxmxmxmppCCCpL1121)1ln(lnln)(ln)1ln()(lnln1121pxnmpxCCCniiniixmxmxmn11dln()0d1nniiiixnmxpppp令§7.2极大似然估计第七章参数估计则p的最大似然估计量为11niiXpXnmm.0)()1(niiniixnmpxpniixnmp11niixpxnmm11dln()0d1nniiiixnmxpppp令p解得的最大似然估计值,§7.2极大似然估计第七章参数估计L(p)=f(X1,X2,…Xn;p)例设X1,X2,…Xn是取自总体X~B(1,p)的一个样本，求参数p的极大似然估计.nixxiipp11)1(解：似然函数为:niiniixnxpp11)1(ppXi110~§7.2极大似然估计第七章参数估计)1ln()()ln()(ln11pxnpxpLniinii对数似然函数为：niiniixnxpppL11)1()(对p求导并令其为0，)(111)(ln11niiniixnpxpdppLd得xxnpnii11ˆ即为p的MLE.§7.2极大似然估计§7.3估计量的优良性准则第7章参数估计§7.1§7.2§7.3§7.4§7.5第七章参数估计§7.3估计量的优良性准则问题：同一个参数可以有不同的估计方法，哪种估计较好？评判标准是什么？1．无偏性一.估计量的评选标准用估计相应的参数，若()E，则称为的无偏估计。第七章参数估计例设12,,,nXXX为取自均值为的总体的样本，考虑的估计量1212112314,,2,23XXXXXX是不是无偏估计.§7.3估计量的优良性准则第七章参数估计定理设总体均值为，方差为2，12,,,nXXX为取自总体的样本，则22(),()EXES是总体均值和总体方差的无偏估计.§7.3估计量的优良性准则第七章参数估计方法：若12()()VarVar,则称无偏估计1较2有效.§7.3估计量的优良性准则2.有效性若参数估计时1()E和2()E，即都是未知参数的无偏估计量。问题：估计量1较2哪个更好？第七章参数估计例设12,,nXXX，是来自均值为、方差为2的总体X的样本.,(1,2,,)iXXin均为总体均值()EX的无偏估计量,问哪一个估计量更有效？解由于,(1,2,,)iXXin为的无偏估计量,所以()(1,2,,),()iEXinEX,§7.3估计量的优良性准则2()(1,2,,)iVarXin,221111()()nniiiiVarXVarXVarXnnn,故X较(1,2,,)iXin更有效.•作业：150页7.27.6第7章参数估计§7.4正态总体的区间估计（一）§7.1§7.2§7.3§7.4§7.5第七章参数估计§7.4正态总体的区间估计（一）一.置信区间的概念区间估计：用样