自考概率论与数理统计大数定律及中心极限定理

第五章大数定律和中心极限定理概率统计是研究随机变量统计规律性的数学学科,而随机变量的规律只有在对大量随机现象的考察中才能显现出来.研究大量随机现象的统计规律,常常采用极限定理的形式去刻画,由此导致对极限定理进行研究.极限定理的内容非常广泛，本章主要介绍大数定律与中心极限定理.()Chebyshev切比雪夫不等式5.1()()(),0,ChebyshevXEXDX不等式设随机变量的期望及方差存在则对任意小正数有定理5-12(){|()|,}DXPXEX或2(){|()|}1.DXPXEX识记契比雪夫不等式证明.}{,,)(,)(222成立不等式则对于任意正数方差具有数学期望设随机变量定理εσεμXPεσXDμXEX取连续型随机变量的情况来证明.则有的概率密度为设),(xfX一、问题的提出：.}{22εσεμXPxxfμxεd)()(122.122σεxxfεμxεμxd)(2222}{εσεμXP.1}{22εσεμXP得}{εμXPεμxxxfd)(【例5-1】设X是抛掷一枚骰子所出现的点数,若给定ε=2,2.5，实际计算P{|X-E(X)|≥ε},并验证切比雪夫不等式成立.解X的分布律为所以当ε=2时，当ε=2.5时，可见，切比雪夫不等式成立例5.2设电站供电网有10000盏电灯，夜晚每一盏灯开灯的概率都是0.7，而假定开、关时间彼此独立，估计夜晚同时开着的灯数在6800与7200之间的概率.解设X表示在夜晚同时开着的灯的数目，719910000100006801P(6800X7200)=C0.70.3kkkk如果用契比雪夫不等式估计：)7.0,10000(~bX则70007.010000)(npXE21003.07.010000)(npqXD22100P(6800X7200)=P(|X7000|200)10.95200可见，虽然有10000盏灯，但是只要有供应7200盏灯的电力就能够以相当大的概率保证够用.事实上，契比雪夫不等式的估计只说明概率大于0.95，后面将具体求出这个概率约为0.99999.契比雪夫不等式在理论上具有重大意义，但估计的精确度不高.契比雪夫不等式作为一个理论工具，在大数定律证明中，可使证明非常简洁.定义1:定理5.1二、基本定理证：因X1，X2，…相互独立，所以nlnlnXDnXnDniinii21211)(11又因,)(1111niiniiXEnXnE由契比雪夫不等式知，对于任意ε0，有2111)(11nlXEnXnPniinii但是任何事件的概率都不超过1，即1)(111112niiniiXEnXnPnl因此1)(1111limniniiinXEnXnP契比雪夫大数定律说明：在定理的条件下，当n充分大时，n个独立随机变量的平均数这个随机变量的离散程度是很小的.这意味，经过算术平均以后得到的随机变量nXnii1将比较密的聚集在它的数学期望nXEnii1)(的附近，它与数学期望之差依概率收敛到0.定理5.2（契比雪夫定理的特殊情况）有数则对于任意正的算术平均个随机变量作前和方差：且具有相同的数学期望相互独立设随机变量,1),,2,1()(,)(,,,,,1221nkknkknXnYnkXDXEXXX.11lim}|{|lim1nkknnnXnPYP关于定理5.2的说明:,)()()(1,,,,21121knkknXEXEXEXnXXXn接近于数学期望均的算术平随机变量很大时当（这个接近是概率意义下的接近）即在定理条件下,n个随机变量的算术平均,当n无限增加时,几乎变成一个常数.5.2大数定律大量随机试验中大数定律的客观背景大量抛掷硬币正面出现频率字母使用频率生产过程中的废品率…….0lim1lim,0,,pnnPpnnPApAnnAnAnA或有则对于任意正数率在每次试验中发生的概是事件的次数发生次独立重复试验中事件是设证明引入随机变量.,2,1,,1,,0kAkAkXk发生次试验中若在第不发生次试验中若在第定理5.3（伯努利大数定理）,21nAXXXn显然是相互独立的，因为,,,,21nXXX,)10(分布为参数的服从以且pXk.,2,1),1()(,)(kppXDpXEkk所以根据定理5.2有,1)(1lim21pXXXnPnn.1limpnnPAn即关于伯努利定理的说明:.,表达了频率的稳定性它以严格的数学形式率收敛于事件的概率依概生的频率伯努利定理表明事件发pnnA故而当n很大时,事件发生的频率与概率有较大偏差的可能性很小.在实际应用中,当试验次数很大时,便可以用事件发生的频率来代替事件的概率.),,2,1()(,,,,,,21kXEXXXkn且具有数学期望服从同一分布相互独立设随机变量.11lim,1nkknXnP有则对于任意正数关于辛钦定理的说明:(1)与定理5.2相比,不要求方差存在;(2)伯努利定理是辛钦定理的特殊情况.定理5.4（辛钦大数定理）5.3中心极限定理在实际问题中许多随机变量是由相互独立随机因素的综合（或和)影响所形成的.例如：炮弹射击的落点与目标的偏差，就受着许多随机因素（如瞄准，空气阻力，炮弹或炮身结构等）综合影响的.每个随机因素的对弹着点（随机变量和）所起的作用都是很小的.那么弹着点服从怎样分布哪？在实际问题中许多随机变量是由相互独立随机因素的综合（或和)影响所形成的.例如：炮弹射击的落点与目标的偏差，就受着许多随机因素（如瞄准，空气阻力，炮弹或炮身结构等）综合影响的.每个随机因素的对弹着点（随机变量和）所起的作用都是很小的.那么弹着点服从怎样分布哪？一、问题的引入如果一个随机变量是由大量相互独立的随机因素的综合影响所造成，而每一个别因素对这种综合影响中所起的作用不大.则这种随机变量一般都服从或近似服从正态分布.自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见.现在我们就来研究独立随机变量之和所特有的规律性问题.高斯当n无限增大时，这个和的极限分布是什么呢？由于无穷个随机变量之和可能趋于∞，故我们不研究n个随机变量之和本身而考虑它的标准化的随机变量.nkknknkkknXDXEXY111)()(正态分布的极限分布是否为标准讨论nY在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做中心极限定理.nkkkXnkX1),1(的和即考虑随机变量二、基本定理定理5.5（独立同分布的中心极限定理）则随机变量之和的和方差：且具有数学期望同一分布服从相互独立设随机变量),,2,1(0)(,)(,,,,,,221kXDXEXXXkknnkknkknkknXDXEXY111标准化变量nnXnkk1xnnXPxFxxFnkknnnn1lim)(lim)(满足对于任意的分布函数定理5.5表明:.,数标准正态分布的分布函的分布函数收敛于随机变量序列当nYnxtxt).(deπ2122从定理5.5的结论可知，当n充分大时，近似地有12Yn=~N(0,1).nkkXnn或者说，当n充分大时，近似地有.,~21nnNXnkk如果用X1，X2，…，Xn表示相互独立的各随机因素.假定它们都服从相同的分布（不论服从什么布），且都有有限的期望与方差（每个因素的影响有一定限度）.则上式说明，作为总和这个随机变量，当n充分大时，便近似地服从正态分布.例5.3对敌人的防御地进行100次独立轰炸，每次轰炸命中目标的炸弹数目是一个随机变量，其期望值是2，方差是1.69.求在100次轰炸中有180颗到220颗炸弹命中目标的概率.解令第i次轰炸命中目标的炸弹数为Xi，100次轰炸中命中目标炸弹数1001X=iiX应用定理5.5，X渐近服从正态分布，100200iEXEX,100169,13,iDXDXDX所以20020{180X220}={|X-200|20}=1313XPPP≈2Φ(1.54)-1≈0.87644.例5-4某种电器元件的寿命服从均值为100（单位：小时）的指数分布.现随机抽出16只，设它们的寿命是相互独立的，求这16只元件的寿命的总和大于1920小时的概率.解设第i只电器元件的寿命为Xi=(i=1,2,…16),E(Xi)=100,D(Xi)=1002=10000,则是这16只元件的寿命的总和.E(Y)=100×16=1600,D(Y)=160000，则所求概率为：,0}|{|1,,,),,2,1(0)(,)(,,,,,122122221nkkknnkknkkkknXEBnBkXDXEXXX时使得当若存在正数记和方差：们具有数学期望它相互独立设随机变量定理5.6(李雅普诺夫定理)则随机变量之和的标准化变量nkknkknkknXDXEXZ111nnkknkkBX11满足对于任意的分布函数xxFn)(xBXPxFnnkknkknnn11lim)(limxtxt).(deπ2122定理5.6表明:.,,,,,,,121近似地服从正态分布很大时当那么它们的和只要满足定理的条件分布服从什么无论各个随机变量nXXXXnkkn下面介绍的定理是定理5.5的特殊情况.定理5.7:的二项分布，则服从参数为设随机变量)10(,ppnX部极限定理：）（拉普拉斯定理）局（1)(121}{2)(2npqnpknpqenpqkXPnnpqnpk时，当.21)(,,,2,1,0,122xexnkqp其中限定理：拉普拉斯定理）积分极）（棣莫弗（2xtndtexpnpnpXPX2221})1({lim，有对于任意定理5.7表明:正态分布是二项分布的极限分布,当n充分大时,可以利用该定理来计算二项分布的概率.下面的图形表明:正态分布是二项分布的逼近.例5.510台机器独立工作，每台停机的概率为0.2，求3台机器同时停机的概率。)2.0,10(~10bXX目，则台机器中同时停机的数表示设解.265.1,2npqnp且733108.02.0}3{1CXP）直接计算：（2013.0似计算：）若用局部极限定理近（2)(1}3{npqnpknpqXP)65.2123(65.2112308.0(2)计算结果与(1)相差较大，这是由于n不够大。22100P(6800X7200)=P(|X7000|200)10.95200例5.2)7.0,10000(~bX.3.845,7000npqnp}200|7000{|}72006800{XPXP}36.4|83.457200{|XP.99999.016.342）（例5.7产品为废品的概率为0.005，求10000件产品中废品数不大于70的概率。)005.0,10000(~bX则解.053.7,50npqnp且)053.75070(}70{XP)84.2(9977.0件产品中的废品数，表示设10000X正态分布和泊松分布虽然都是二项分布的极限分布，但后者以n→