11条件数学期望(北大)

14.5条件期望一.定义设二维随机变量(X,Y),把在X=x条件下Y的条件分布的期望记作mY|X(x)=E(Y|X=x).称mY|X(X)为Y关于X的条件期望,记作E(Y|X).即E(Y|X)=mY|X(X)注意:E(Y|X)是一个随机变量,它是X的函数.类似地,mX|Y(y)=E(X|Y=y)X关于Y的条件期望E(X|Y)=mX|Y(Y)它是Y的函数.2离散型设(X,Y)的分布律为P{X=ai,Y=bj}=pij,i,j=1,2,…在X=ai(pi•0)条件下Y的条件分布律P{Y=bj|X=ai}=pij/pi•,j=1,2,…在X=ai(pi•0)条件下Y的条件期望mY|X(ai)=Σjbjpij/pi•Y关于X的条件期望E(Y|X)的可能取值为mY|X(ai)=Σjbjpij/pi•,i=1,2,…类似地,X关于Y的条件期望E(X|Y)的可能取值为mX|Y(bj)=Σiaipij/p•j,j=1,2,…3012pi•00.10.20.20.510.30.10.10.5p•j0.40.30.31.0XYX的条件分布律01201/42/32/313/41/31/3XY例1X关于Y条件期望0123/41/31/30.40.30.3YE(X|Y)p3/41/30.40.6E(X|Y)p4Y的条件分布律01201/52/52/513/51/51/5XYY关于X条件期望016/53/50.50.5XE(Y|X)p6/53/50.50.5E(Y|X)p012pi•00.10.20.20.510.30.10.10.5p•j0.40.30.31.0XY5例2设射手的命中率为p,进行到击中2次为止.记X为击中第一次时的射击次数,Y为击中第二次时的射击次数.P{X=i,Y=j}=p2qj-2,i=1,2,…,j=i+1,i+2,…P{X=i}=pqi-1,i=1,2,…P{Y=j|X=i}=pqj-i-1,j=i+1,i+2,…,i=1,2,…∑∞+=−−==11)|(ijijjpqiXYE∑∑∑∞=−∞=−∞=−+=+=111111)(kkkkkkpqikpqpqik令k=j-ipi1+=得E(Y|X)=X+1/pP{E(Y|X)=i+1/p}=pqi-1,i=1,2,…6P{Y=j}=(j-1)p2qj-2,j=2,3,…P{X=i|Y=j}=1/(j-1),i=1,2,…,j-1,j=2,3,…L,3,2,21)|(11==−==∑−=jjjijYXEji得E(X|Y)=Y/2P{E(X|Y)=j/2}=(j-1)pqj-2,j=2,3,…7连续型设(X,Y)的密度为f(x,y)∫∫∞+∞−+∞∞−==dyxfyxfydyxyyfxmXXYXY)(),()|()(||Y关于X的条件期望E(Y|X)=mY|X(X)∫+∞∞−=dxyfyxfxymYYX)(),()(|X关于Y的条件期望E(X|Y)=mX|Y(Y)8例3设(X,Y)服从D={(x,y)|0x1,0yx2}上的均匀分布xy0y=x21⎩⎨⎧=其他,00,10,3),(2xyxyxf⎩⎨⎧=其他,010,3)(2xxxfX当0x1时⎪⎩⎪⎨⎧=其他,00,1)|(22|xyxxyfXYmY|X(x)=E(Y|X=x)=x2/2得221)|(XXYE=9⎪⎩⎪⎨⎧−=其他,010),1(3)(yyyfY当0y1时⎪⎩⎪⎨⎧−=其他,01,11)|(|xyyyxfYX)1(21)|()(|yyYXEymYX+===)1(21)|(YYXE+=得10二.性质根据随机变量函数的期望公式,有离散型E(g(Y)|X=ai}=Σjg(bj)pij/pi•E(g(X)|Y=bj}=Σig(ai)pij/p•j连续型∫+∞∞−==dyxfyxfygxXYgEX)(),()()|)((∫+∞∞−==dxyfyxfxgyYXgEY)(),()()|)((11性质:(1)E(c|X)=c(2)E(aY1+bY2|X)=aE(Y1|X)+bE(Y2|X)(3)若X与Y相互独立,则E(Y|X)=E(Y)(4)E[E(g(X,Y)|X)]=E[g(X,Y)]特别地,E[E(Y|X)]=E(Y)(5)E[g(X)Y|X)]=g(X)E(Y|X)(6)对任意的g(⋅),E{[Y-E(Y|X)]2}≤E{[Y-g(X)]2}含义:在最小二乘意义下,m(X)=E(Y|X)是Y的最佳预测.12(1)E(c|X)=c证∫∫∫∫∞+∞−∞+∞−+∞∞−+∞∞−+=+=2121212121|),(21)(),,()()|,()(21dydyxfyyxfbyaydydyxyyfbyayXXYY设X,Y1,Y2的联合密度为f(x,y1,y2)E(aY1+bY2|X=x)(2)E(aY1+bY2|X)=aE(Y1|X)+bE(Y2|X)证P{Y=c}=1P{Y=c|X=x}=1E(Y|X=x)=c13)|()|()|()|()(),()(),()(),,()(),,(2122|211|122),(211),(121212212112121xXYbExXYaEdyxyfybdyxyfyadyxfyxfybdyxfyxfyadydyxfyyxfybdydyxfyyxfyaXYXYXYXXYXXX=+==+=+=+=∫∫∫∫∫∫∫∫∞+∞−∞+∞−∞+∞−∞+∞−+∞∞−+∞∞−+∞∞−+∞∞−(3)若X与Y相互独立,则E(Y|X)=E(Y)证fY|X(y|x)=f(x,y)/fX(x)=fY(y))()()|()|(|YEdyyyfdyxyyfxXYEYXY====∫∫+∞∞−+∞∞−14(4)E[E(g(X,Y)|X)]=E[g(X,Y)]证m(x)=E[g(X,Y)|X=x]∫∫+∞∞−+∞∞−==dyxfyxfyxgdyxyfyxgXXY)(),(),()|(),(|E[E(g(X,Y)|X)]=E[m(X)])],([),(),()()(),(),(YXgEdxdyyxfyxgdxxfdyxfyxfyxgXX==⎥⎦⎤⎢⎣⎡=∫∫∫∫∞+∞−∞+∞−+∞∞−+∞∞−∫+∞∞−=dxxfxmX)()(15(5)E[g(X)Y|X]=g(X)E(Y|X)证E[g(X)Y|X=x]=∫+∞∞−dyxyyfxgXY)|()(|)|()(xXYExg==(6)E{[Y-E(Y|X)]2}≤E{[Y-g(X)]2}证记m(X)=E(Y|X)E{[Y-g(X)]2}=E{[Y-m(X)+m(X)-g(X)]2}=E{[Y-m(X)]2}+E{[(m(X)-g(X)]2}+2E{[(Y-m(X)][(m(X)-g(X)]}16E{(Y-m(X))(m(X)-g(X))}=E{E[(Y-m(X))(m(X)-g(X))|X]}性质(4)=E{(m(X)-g(X))E[(Y-m(X))|X]}性质(5)E[(Y-m(X))|X]=E(Y|X)-E(m(X)|X)性质(2)=m(X)-m(X)E(1|X)=0性质(5),(1)得E{[Y-g(X)]2}=E{[Y-m(X)]2}+E{[(m(X)-g(X)]2}≥E{[Y-m(X)]2}17作业1.设Xi~P(λi),i=1,2,…,N且相互独立,记Yk=X1+X2+…+Xk,Y=YN,求E(Yk|Y).2.设X~U(0,1),Y~U(X,1),求E(Y|X).3.证明:E[g(X)⋅Y]=E[g(X)⋅E(Y|X)].