充分统计量与完备统计量

1.2充分统计量与完备统计量一、充分统计量定义1.4设1(,...,)TnXX是来自总体X具有分布函数);(θxF的一个样本,T=T(nXX,...,1)为一个(一维或多维的)统计量,当给定T=t时,若样本TnXX),...,(1的条件分布(离散总体为条件分布律,连续总体为条件密度)与参数θ无关,则称T是θ的充分统计量.(含意见P.5--6)例1.3设总体X服从两点分布B(1,p),即,1,0,)1(}{1=−==−xppxXPxx其中0p1,TnXX),...,(1是来自总体X的一个样本,试证∑==niiXnX11是参数p的充分统计量.证明由于),1(~pBXi,易知),,(~1pnBXXnnii∑==即有.,,1,0,)1(}{nkppCkXnPknkkn=−==−设1(,...,)TnXX为样本值，其中ix=0或1。当已知kxnii=∑=1，即nkX=时，样本TnXX),...,(1的条件概率}|,,,{2211nkXxXxXxXPnn====}{},,,,{2211nkXPnkXxXxXxXPnn=======⎪⎪⎪⎩⎪⎪⎪⎨⎧≠==−====∑∑∑==−=−−kxkxkXnPxkXxXxXxXPniiniiniinnn1111112211,0,}{},,,,{=,)1()1(11knkknxnxppCppniinii−−−∑−∑==kxnii=∑=1，0，kxnii≠∑=1。=⎪⎪⎩⎪⎪⎨⎧≠=∑∑==kxkxCniiniikn11,0,1与p无关，所以X是p的充分统计量.二、因子分解定理定理1.3(因子分解定理)（1）连续型情况:设总体X具有分布密度f(x;θ),TnXXX),,,(21是一个样本,T),,,(21nXXX是一个统计量,则T为θ的充分统计量的充要条件是:样本的联合分布密度可以分解为L(θ)=);(1θ∏=niixf=h),,,(21nxxxg(T),,,(21nxxx;θ),(1.3)其中h是nxxx,,,21的非负函数，且与θ无关,g仅通过T依赖于nxxx,,,21.（2）离散型情况:设总体X是分布律为};(}{θxpxXP==,),2,1(=iTnXX),...,(1是X一个样本,T),,,(21nXXX是一个统计量,则T是θ的充分统计量的充要条件是:样本的联合分布律可表示为},,,{2211nnxXxXxXP====∏==niixXP1}{()1212(,,,)(,,,;),nnhxxxgTxxxθ=(1.4)其中h是nxxx,,,21的非负函数且与θ无关,g仅通过T依赖于nxxx,,,21.例1.4根据因子分解定理证明例1.3.证明样本的联合分布律为1111122{,,,}(1)(1)(),1nnniiiiiinnxnxxnPXxXxXxppppp===−===∑∑∑=−=−−若取T),,,(21nxxx=,11∑=niixnh),,,(21nxxx=1,g,)1()1();,,,(()21nTnnppppxxxT−−=则有},,,{2211nnxXxXxXP====h),,,(21nxxxg(T),,,(21nxxx;p),由因子分解定理知,T),,,(21nXXX=11niiXXn==∑是p的充分统计量.例1.5设TnXX),...,(1是来自泊松分布P(λ)的一个样本,试证明样本均值X是λ的充分统计量.证明样本TnXX),...,(1的联合分布律为,!/},,,{122111∏=−∑=====niinxnnxexXxXxXPniiλλ若取T),,,(21nxxx=,11∑=niixnh),,,(21nxxx=∏=niix1!/1g(T),,,(21nxxx;λ)=λλnnTe−,则},,,{2211nnxXxXxXP====h),,,(21nxxxg(T),,,(21nxxx;λ).由因子分解定理知,T),,,(21nXXX=X是λ的充分统计量.例1.6设TnXX),...,(1是来自正态总体N(µ,1)的一个样本,试证明样本均值X是µ的充分统计量.证明样本),,,(21nXXXT的联合分布密度为})(21exp{)2(1)(21µπµ−−=∑=niinxL})(2)(21exp{)2(1221xnxxniin−−−−=∑=µπ})(2exp{})(21exp{)2(1221xnxxniin−−−−=∑=µπ若取T),,,(21nxxx=,11xxnnii=∑=h),,,(21nxxx=},)(21exp{21xxnii−−∑=g(T),,,(21nxxx;µ)=},)(2exp{)2(12Tnn−−µπ则)(µL=h),,,(21nxxxg(T),,,(21nxxx;µ).由因子分解定理知,T),,,(21nXXX=X是µ的充分统计量.例（补充）求出均匀分布(0,)Uθ中参数θ的充分统计量.Ans：1max{}iinTX≤≤=例1.7设TnXX),...,(1是来自正态总体N(2,σµ)的一个样本,试证明T),,,(21nXXX=(∑=niiXX12,)是关于),(2σµθ=的联合充分统计量.证明样本的联合分布密度为})(21exp{)2(1)(122∑=−−=niinxLµσσπθ}221exp{)2(1122222∑=−+−=niinnxnxσµσµσσπ=h),,,(21nxxx));,,,((21θnxxxTg.其中12(,,,)1nhxxx=,而g(T),,,(21nxxx;θ)显然是T=(∑=niiXX12,)和),(2σµθ=的函数.故由因子分解定理知T=(∑=niiXX12,)是),(2σµθ=的一个联合充分统计量.此时,显然不能说∑=niiX12是2σ的充分统计量.（因在估计2σ时，仅用∑=niiX12是不够的）定理1.4设T=T),,,(21nXXX是θ的一个充分统计量,f(t)是单值可逆函数,则f(T)也是θ的充分统计量.本定理说明，一个参数的充分统计量是不唯一的.三、完备统计量为了介绍完备统计量的概念，首先需要引入完备分布函数族的概念。定义1.5设总体X的分布函数族为｛F(x;θ),∈θΘ｝若对任意一个满足0)]([=XgEθ，对一切∈θΘ，(1.5)的随机变量g(X),总有1}0)({==XgPθ，对一切∈θΘ，(1.6)则称｛F(x;θ),∈θΘ｝为完备的分布函数族。定义1.6设TnXX),...,(1为来自总体F(x;θ)的一个样本，∈θΘ。若统计量),,,(21nXXXTT=的分布函数族｛FT(x;θ),∈θΘ｝是完备的分布函数族，则称),,,(21nXXXTT=为完备统计量。完备统计量的含义不如充分统计量那么明确，但由定义可见它有如下特征：{}12()()PgTgTθ=＝1，∀∈θΘ12()()EgTEgTθθ⇔=⎡⎤⎡⎤⎣⎦⎣⎦，｛F(x;θ),∈θΘ｝∀∈θΘ(1.7)对于一般的统计量),,,(21nXXXTT=，总有{}12()()PgTgTθ=＝1，∀∈θΘ12()()EgTEgTθθ⇒=⎡⎤⎡⎤⎣⎦⎣⎦，∀∈θΘ但反之不一定成立，若T是完备统计量，即T的分布函数族是完备分布函数族，则由定义1.5知，对于12()()EgTgTθ−⎡⎤⎣⎦＝0，∀∈θΘ总有{}12()()PgTgTθ=＝1，∀∈θΘ即式(1.7)成立。例1.8设),,,(21nXXX是来自两点分布Ｂ(1,p)的样本。由例1.3知11niiXxn==∑是p的充分统计量。下面验证X也是完备统计量。由于1niinXX==∑服从二项分布B(n,p)，故X的分布律为(1)kknknkPXCpPn−⎧⎫==−⎨⎬⎩⎭，k＝0，1，2，…n；0p1.设()gX使得0()(1)nkknkpnkkEgXgCppn−=⎛⎞⎡⎤=−⎜⎟⎣⎦⎝⎠∑＝0，对一切0p1,即0(1)1knnknkkppgCnp=⎛⎞⎛⎞−⎜⎟⎜⎟−⎝⎠⎝⎠∑＝0，对一切0p1或01knknkkpgCnp=⎛⎞⎛⎞⎜⎟⎜⎟−⎝⎠⎝⎠∑＝0，对一切0p1.上式是关于1pp⎛⎞⎜⎟−⎝⎠的多项式，对一切0p1要使多项式值为零，只能是它的每项系数为零，即kgn⎛⎞⎜⎟⎝⎠＝0，（k＝0，1，2，…n）。由定义知X是p完备统计量。如果一个统计量既是充分的，又是完备的，则称为充分完备统计量。在寻求总体分布中未知参数的的优良估计中，充分完备统计量扮演着重要的角色。四、指数型分布族定义1.7设总体X的分布密度为(;)fxθ，其中Tm),...,(1θθθ=，TnXX),...,(1为其样本，若样本的联合分布密度具有形式),,,()},,,()(exp{)(),(212111nnjmijmiixxxhxxxTbCxf∑∏===θθθ(1.8)且对于(,)fxθ的支撑{:(,}0}xfxθ不依赖于θ.其中C(θ),()jbθ只与参数θ有关而与样本无关，jT,h只与样本有关而与参数θ无关，则称(,)fxθ为指数型分布族，对于离散型总体，如果其样本的联合分布律可以表达成(1.8)的形式，也同样称它为指数型分布族。例1（补充）正态分布族，二项分布族是指数型分布族。例2（补充）均匀分布族，二参数指数分布族（当位置参数已知时）不是指数型分布族。定理1.5设总体X的分布密度(,)fxθ为指数型分布族，即样本的联合密度具有如下形式：1211()()exp()(,,...,nmijjnijfxCbTxxxθθθ==⎧⎫=⎨⎬⎩⎭∏∑),,,(21nXXXh(1.9)且对于(,)fxθ的支撑{:(,}0}xfxθ不依赖于θ.其中Tm),...,(1θθθ=，∈θΘ。如果Θ中包含有一个m维矩形，而且B=12((),(),...,())mbbbθθθT的值域包含一个m维开集，则11221212((,,...,),(,,...,),...,(,,...,))nnmnTTXXXTXXXTXXX=T是参数Tm),...,(1θθθ=的充分完备统计量。证明参阅参考文献［26］。例1.9设总体X服从泊松分布()Pλ，TnXX),...,(1为其样本，样本的联合分布律为{}111221,,...,,/!niinxnnniiPXxXxXxexλλ=−=∑====∏111exp()/!nnniiiiexnLnxnλλ−==⎧⎫=⎨⎬⎩⎭∑∏与式(1.9)比较有()nCeλλ−=,h(12,,...nxxx)11(!)niix−==∏,T(12,,...nxxx)11niixxn===∑,()lnbnλλ=.因此样本均值),,,(21nXXXT=X是参数λ的充分完备统计量。例1.10设总体X服从正态分布22(,),(,)Nµσθµσ=TnXX),...,(1为其样本，它的联合分布密度为221111(,)exp()2(2)nniiniifxxθµσπσ==⎧⎫=−−⎨⎬⎩⎭∏∑=},)1(2exp{}2exp{)2(1212222xnxnnnniinσµσσµσπ+−−=∑=与式（1.9）比较有}2exp{)2(1)(22σµσπθnCn−=，21211(,),niiTTTxxn=⎛⎞==⎜⎟⎝⎠∑，1222(,),2nnBbbµσσ⎛⎞==−⎜⎟⎝⎠，h(12,,...nxxx)=1。因此，211,niiXXn=⎛⎞⎜⎟⎝⎠∑是2(,)µσ的充分完备统计量。),(2nSX也是2(,)µσ的充分完备统计量。