概率论与数理统计

概率论与数理统计经管院02级用2003.10.30.第三章习题№5解：⑴区域G={(x,y)|1yx0}的面积为0.5,∴其它0G)y,x(2)y,x(f1x0)x1(2dy2dy)y,x(f)x(f1xX⑵边缘密度函数：Oxy111y0y2dy2dx)y,x(f)y(fy0Y第三章习题№19解：∵边缘密度函数之积：)y,x(f)y(f)x(fYX∴X,Y不独立，事实上只要区域G不是矩形，就不可能独立。Oxy11第三章习题№18解：⑴X1,Y1的边缘密度函数：相互独立。11YXy4Yx3XY,X),y(f)x(f)y,x(f0y00ye4)y(f,0x00xe3)x(f1111⑵X2,Y2的边缘密度函数：不独立。22YXy7Yx4x3XY,X),y(g)x(g)y,x(g0y00ye7)y(g,0x00x)e1(e421)x(g2222第五章参数估计统计推断估计问题参数估计估计问题假设检验参数估计非参数估计点估计区间估计作业：P.163,1.2.4.统计推断利用样本资料所提供的信息，对总体作出尽可能精确和可靠的(伴有一定概率的推断)结论叫：统计推断。参数估计利用样本资料所提供的信息，估计总体分布中的某些未知参数叫：参数估计。分点估计与区间估计两类。常见的点估计有两种方法。点估计设总体X的分布函数F(x;θ)中θ是未知参数，它或它的一个函数g(θ)是我们要估计的对象，故且记为θ。构造一个统计量h作为对未知参数θ的估计叫：点估计。矩法估计——总体矩总体k阶原点矩：αk=EXk总体k阶中心矩：βk=E(X-EX)k。矩法估计——样本矩样本k阶原点矩：XA,Xn1A1n1ikik2n2n1ikikSB,)XX(n1B样本k阶中心矩：点估计方法一矩法估计：用样本矩作为相应总体矩的估计量：kkkkkkB)XX(Eˆˆ,AXEˆˆ如用样本均值来估计总体均值，用样本方差来估计总体方差。矩法估计矩法估计矩法估计也叫数字特征法。用未修正的样本方差来估计总体方差，即用样本二阶中心矩作为总体二阶中心矩的估计量。的矩法估计。是则是总体方差：设22n1ii2222)XX(n1ˆ)XX(EDX矩法估计对参数的估计当中：我们用未修正的样本方差可以估计总体方差，用修正的样本方差也可以估计总体方差。哪个好？这就提出了估计好坏的标准问题。一般讲评价一个估计量好坏有三条标准：无偏性、有效性与相合性(一致性)。其中无偏性是最重要的。估计的无偏性定义：设是参数θ的估计,若它的均值,则称是参数θ的一个无偏估计,否则称是参数θ的一个有偏估计。让我们来看哪些点估计是无偏的(例5.2)，修正的样本方差是总体方差的无偏估计。)X,,X,X(ˆˆn21ˆEˆˆ估计的无偏性例5.2的无偏估计。是Xˆ,n1EXn1Xn1EXEˆE,Xˆn1in1iin1iinn1Xn1DXD2n1i22n1ii22222222n)XE(XDXE)EX(DXEXn)1n(nn)(nXEEXn1)XnX(n1E))XX(n1(EES22222n1i22n1i22n1i2i2nii估计的无偏性例5.2:∴修正的样本方差是方差的无偏估计，未修正的样本方差是方差的有偏估计。但当n很大时二者相差不大，可以等同看待，n不大时一定要注意二者的区别。是无偏的估计。.1nn)1n(n1nnES1nnSEES,n)1n(ES222n2n222n点估计的无偏性对正态总体均值的估计是样本均值，它是无偏估计。对正态总体方差的估计是样本方差，它就不是无偏估计。由此可见：并非所有矩法估计（即使它还同时是极大似然估计）都是无偏估计。估计的有效性定义：设是参数θ的两个无偏估计,若它们的方差,则称是比有效的估计。注意：有效性是以无偏性为前提的。例如总体均值μ的三个无偏估计:21ˆ,ˆ21ˆDˆD1ˆ1332123211Xˆ,4XX2Xˆ,3XXXˆ2ˆ估计的相合性定义：设是参数θ的估计,若它依概率收敛于θ，即对于任意的ε0,有则称是参数θ的一个(弱)相合估计量。)X,,X,X(ˆˆn21ˆ0)|ˆ(|Plim,1)|ˆ(|Plimnn另一种估计法矩法估计好是好，但它没有考虑总体分布本身的特点，常常会显得效果不佳。下面要介绍的一种估计将充分利用总体分布的特点。极大似然估计大夫会问腹泻的病人吃过什么？中国男足与巴西比赛结果4:0；张三与李昌镐中盘决出胜负……。有几种可能发生时人们通常会往可能性最大的一种去想。极大似然估计步骤：写出与概率有关的“似然函数”通常是联合分布列或联合概率密度函数，求其对数，再求偏导数令它为0，求出能使似然函数获极大值的未知参数的值(MLE)。极大似然估计如泊松分布总体X~P(λ):n1iixnn2211e!x)xX,,xX,xX(Pi);x,,x,x(Le!xn21nn1iixn1iixxn1ˆ:,0nxLln)!xln(nlnxLlnn1iiMLEn1iin1iin1ii得令取对数极大似然估计如指数分布总体X~E(λ):)x,,x,x(f);x,,x,x(Ln21n21:,0Lln,xlnnLlnn1ii得令取对数n1iiixnn1ixeex1xnˆ,0xnn1iiMLEn1ii注意:指数分布EX=1/λx1XEˆ1ˆ极大似然估计如正态总体X~N(μ,σ2):记τ=σ2)x,,x,x(p),;x,,x,x(Ln212n21n1i2i)x(21)2ln(2nLln取对数n1i2i22i)x(212nn1i2)x(e)2(e21极大似然估计如正态总体X~N(μ,σ2):记τ=σ20)(:,0)(220ln11niiniixxL得令2n2n1iiMLEn1i2i2n1i2i2S)xx(n1ˆ:,2n)x(21:,0)x(212nLln即得令xxn1ˆ,0nx:n1iiMLEn1ii即点估计应该指出的是上面谈到的泊松、指数、正态分布的极大似然估计恰好与矩法估计所得的结果完全一致。对所有分布这一点是否都对呢？回答是：不！极大似然估计并不都是矩法估计。前面还指出过：并非所有矩法估计（即使它还同时是极大似然估计）都是无偏估计。极大似然估计分布待估参数极大似然估计二项p泊松λ指数λ正态μ正态σ2m1iiXmn1pˆn1iiXn1ˆn1iiXnˆn1iiXn1ˆn1i2i2)XX(n1ˆ作业P.163-164习题五1,2,36(1)