浙大概率论与数理统计课件 第五章大数定律与中心极限定理

第五章、大数定律与中心极限定理第一节：大数定律第二节：中心极限定理第一节大数定律大数定律的背景及概念依概率收敛定义及性质三个大数定律小结一、大数定律的背景和概念大量随机试验中1、大数定律的客观背景有稳定性测量值的算术平均值具某一常数事件发生的频率稳定于例1、掷一颗均匀正六面体的骰子，出现1点的概率是1/6。但掷的次数少时，出现1点的频率可能与1/6相差较大，但掷次数很多时，出现1点的频率接近1/6几乎是必然的。例2、测量一个长度a，一次测量的结果不见得就等于a，量了若干次，其算术平均值仍不见得等于a,但当测量的次数很多时，算术平均值接近于a几乎是必然的。概率论中用来阐明大量随机现象平均结果的稳定性的一系列定理，称为大数定律（lawoflargenumber)2、大数定律的概念本章将介绍三个大数定律：（1）切比雪夫大数定律、（2）贝努里大数定律（3）辛钦大数定律。它们之间既有区别也有联系。二、依概率收敛定义及性质定义，有若对于任意正数一个常数是是一个随机变量序列，设.,,,21aYYYn1}|{|limaYPnn..,,,21aYaYYYPnn记为依概率收敛于则称序列性质).,(),(),(),(,bagYXgbayxgbYaXPnnPnPn连续，则点在又设函数，设请注意:.10可能性很小生的的发生，而只是说他发并不排除事件；的概率很大，接近于充分大时，事件当，，意味着对任意给定的依概率收敛于aXaXnaXnnn.定性弱些，它具有某种不确中的普通意义下的收敛依概率收敛比高等数学三、大数定律1、定理一（切比雪夫定理的特殊情况）切比雪夫则对任意的ε0，有学期望和方差：独立，且具有相同的数相互，，设随机变量,,21nXXX212(),()(,,).kkEXDXk1}|1{|lim1niinXnP}|{|limXPn11XnnkkX做前n个随机变量的算术平均证nkkXnE11由于nn1nkkXEn1)(1nkkXnD11nkkXDn12)(1nnn2221由切比雪夫不等式22111nXnPnkk上式中令n得1}|1{|lim1niinXnP　　说明.,2,1XE1X,211有的稳定性），这种接近说明其具（）（接近数学期望的算术平均随机变量定理以数学形式证明了、nkXnXXkniin.1}|1{|11于时，这个事件的概率趋当是指一个随机事件，、定理中nXnnii.常数收敛的意义下逼近某一算术平均值是依概率这种稳定性的含义说明.1),2,1()(,)(,,,1221PnkkkknXXnXkXDXEXXX，即依概率收敛于，则序列差：有相同的数学期望和方相互独立，且具，设随机变量3、定理的另一种叙述方式：，有则任给无关的常数是与其中都有的并且对于所有及方差数学期望序列，各有是相互独立的随机变量设0,,,2,1,,,,,,,212121illDXiDXDXEXEXXXXin1}|11{|lim11niiniinEXnXnP（切贝谢夫定理）切贝谢夫大数定律是1866年被俄国数学家切比雪夫所证明，它是关于大数定律的一个相当普遍的结论，很多大数定律的古典结果是它的特例。设nA是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对于任意正数ε0，有2、定理二（贝努里大数定律）1}|{|limpnnPAn或0}|{|limpnnPAn此定理说明了频率的稳定性。证：令nkAkAkXk,,2,110，发生次试验中，在第不发生次试验中，在第则nkkAXn1，且nXX,,1相互独立同服从于分布)10(故,,,2,1)1(nkppDXpEXkk，，1}|1{|lim1pXnPniin,由定理一有即1}|{|limpnnPAn。贝努里大数定律的重要意义：(1)从理论上证明了频率具有稳定性。（2)提供了通过试验来确定事件概率的方法:这种方法是参数估计的重要理论基础。（3）是“小概率原理”的理论基础。小概率原理：实际中概率很小的随机事件在个别试验中几乎是不可能发生的。)(APpnnA下面给出的独立同分布下的大数定律，不要求随机变量的方差存在.设随机变量序列X1,X2,…相互独立，服从同一分布，具有数学期E(Xi)=μ,i=1,2,…，则对于任意正数ε，有3、定理三（辛钦大数定律）1}|1{|lim1niinXnP1、辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径.注2、伯努利大数定律是辛钦定理的特殊情况.3、辛钦定理具有广泛的适用性.要估计某地区的平均亩产量，要收割某些有代表性块，例如n块地.计算其平均亩产量，则当n较大时，可用它作为整个地区平均亩产量的一个估计.niixnx11当n充分大时有三、小结大数定律大数定律以严格的数学形式表达了随机现象最根本的性质之一：平均结果的稳定性2)()(kkXDXE)(kXE),(~pnbnA大数定律伯努利1}|{|limpnnPAn大数定律切比雪夫1}|1{|lim1niinXnP大数定律辛钦1}|1{|lim1niinXnP第二节中心极限定理中心极限定理的背景中心极限定理的定义中心极限定理小结一、中心极限定理的客观背景在实际问题中许多随机变量是由相互独立随机因素的综合（或和)影响所形成的.例如：炮弹射击的落点与目标的偏差，就受着许多随机因素（如瞄准，空气阻力，炮弹或炮身结构等）综合影响的.每个随机因素的对弹着点（随机变量和）所起的作用都是很小的.那么弹着点服从怎样分布？如果一个随机变量是由大量相互独立的随机因素的综合影响所造成，而每一个别因素对这种综合影响中所起的作用不大.则这种随机变量一般都服从或近似服从正态分布.二、中心极限定理定义概率论中有关论证独立随机变量的和的极限分布是正态分布的一系列定理称为中心极限定理。由于无穷个随机变量之和可能趋于∞，故我们不研究n个随机变量之和本身而考虑它的标准化的随机变量，即：nkknknkkknXDXEXY111)()(正态分布的极限分布是否为标准讨论nY三、中心极限定理xnnXPxFniinnn1lim)(lim1、定理四（独立同分布下的中心极限定理），则随机变量之和方差布，且具有数学期望和相互独立，服从同一分设随机变量),2,1()(,)(:,,,221kXDXEXXXkknσnnμX)XD()XE(XYnkknkknknkkkn1111满足对于任意的分布函数xxFn)(的标准化变量nkkX1x-2t-dte212)(x注).1,0(~;),(~,11211NnnXnnNXnXnkknkknkk近似地近似地有和与其标准化变量分别充分大时，随机变量之当布的随机变量之和、定理表明，独立同分)1,0(~),(~22NnXnNX近似地近似地或为定理的另一种形式可写、独立同分布中心极限nkkXnX11其中3、虽然在一般情况下，我们很难求出的分布的确切形式，但当n很大时，可以求出近似分布.nkkX12、定理五（李雅普诺夫(Liapounov)定理)),2,1(,)(,)(,,,221kXDXEXXXkkkkn有数学期望和方差：相互独立，它们具设随机变量nkknB122记nkkknXEBn12201时，，使得当若存在正数的标准化变量：则随机变量之和nkkX1李雅普诺夫条件nnkknkknkknkknkknBXXDXEXZ11111)()(，满足对于任意的分布函数xxFn)(xBXPxFnnknkkknnn11lim)(limx-2t-dte212)(x请注意:分别近似服从很大时在及其标准化变量、定理中随机变量之和,11nZXnnkk)1,0(~;),(~211NZBNXnnnkknkk近似地近似地.21个基本原因中所占的重要地位的一率论是为什么正态分布在概似服从正态分布，这就很大时，就近，当和定理条件，随即变量之要满足无论服从什么分布，只、随机变量nXXnkkk3、定理六(棣莫佛－拉普拉斯（DeLaplace定理）})1({limxpnpnpPnn设随机变量(n=1,2,‥‥)服从参数n,p(0p1)的二项分布，则对任意x，有ndtext2221)(x证之和，分布的诸随机变量服从同一个相互独立、分解成为由第四章知识知可将nnXXXn,,)10(21nkknX1即有1,0,)1(),,2,1(1ippiXPnkXiikk的分布律为其中定理表明，当n很大，0p1是一个定值时（或者说，np(1-p)也不太小时），二项变量的分布近似正态分布N(np,np(1-p)).n，由于),,2,1)1()(,)(nkppXDpXEkk得由定理4})1({limxpnpnpPnndtext2221)(x})1({lim1xpnpnpXPnkkn))1(,(~pnpnpNn近似地即例题例1.105.)10,0(),,2,1(201的近似值，求记上服从均匀分布机变量，且都在区间设它们是相互独立的随个噪声电压一加法器同时收到VPVVnkVnkkk2012011210020DV520EV).20,2,1(12100)(,5)(kkkkkkDVEVkVDVE＝，易知于是20121005201052012100520105VpVP387.02012100520Vp解387.020121005201Vp348.0)387.0(1348.0105VP即有例2.(供电问题)某车间有200台车床,在生产期间由于需要检修、调换刀具、变换位置及调换工件等常需停车.设开工率为0.6,并设每台车床的工作是独立的，且在开工时需电力1千瓦.问应供应多少瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产?用X表示在某时刻工作着的车床数，解：对每台车床的观察作为一次试验，每次试验是观察该台车床在某时刻是否工作,工作的概率0.6,共进行200次独立重复试验.依题意，X~b(200,0.6),现在的问题是：P(X≤N)≥0.999的最小的N.求满足设需N台车床工作，（由于每台车床在开工时需电力1千瓦，N台工作所需电力即N千瓦.）由德莫佛-拉普拉斯极限定理)1(pnpnpX近似N(0,1),于是P(X≤N)=P(0≤X≤N)这里np=120,np(1-p)=48)48120()48120(N)48120N(999.0)48120(N由查正态分布函数表得999.0)1.3(从中解得N≥141.5,即所求N=142.也就是说,应供应142千瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产.48120N≥3.1,故例3.400.15.08.005.021独立，且服从同一分布会议的家长数相互名学生，设各学生参加共有若学校、、分别为家长来参加会议的概率名名家长、个学生无家长、是一个随机变量，设一参加家长会的家长人数对于一个学生而言，来.340