应用随机过程-1101(1)

应用随机过程主讲教师刘帅课件来源段禅伦2012年秋季学期计算机学院研究生专业基础课程《应用数学基础》(AppliedStochasticprocesses)课程内容研究生学位课程应用数学基础内容主要包括:•预备知识:概率空间,随机变量及其分布,随机变量的数字特征,特征函数、母函数和拉氏变换,n维正态分布,条件期望。•随机过程的概念与基本类型。•Poisson过程。•Markov链及连续时间的Markov链。•平稳过程。主要参考书目[1]刘次华.随机过程,华中科技大学出版社,2001;[2]陆大铨.随机过程及其应用,清华大学出版社,1986;[3]毛用才,胡奇英.随机过程,西安电子科技出版社,1998;[4]张波,张景肖.应用随机过程,清华大学出版社,2004;[5]ShedonM.Ross著,龚光鲁译.应用随机过程--概率模型导论(第九版),人民邮电出版社,2007.第1章预备知识1.1概率空间现实世界现象的任何实际模型,必须考虑到随机性的可能.也就是说所关心的量往往并不是事先可料的,这种量所展示的内在变化必须考虑在模型之中.可见通常使用的模型实质上是概率性的.课程将涉及自然现象中一些不同的概率性模型.为了既能掌握如何建立模型,又能掌握随后对于这些模型的分析,我们必须具有坚实的概率论的基本知识.•随机试验随机试验是概率论的基本概念,试验的结果事先不能准确地预言,但具有如下三个特性:(1)可以在相同的条件下重复进行;(2)每次试验的结果不止一个,但预先知道试验的所有可能的结果;(3)每次试验前不能确定哪个结果会出现.•样本空间Ω由(某)随机试验所有可能结果组成的集合.•样本点或基本事件随机试验的基本结果或Ω的元素.•必然事件与不可能事件:Ω称必然事件;空集φ称不可能事件.Ω的子集A由基本事件组成,通常称为事件.•两个事件E与F的并E∪F、交E∩F(EF)和差E-F.•称事件E与F互不相容,如果EF=φ.•事件E的对立事件:EC=Ω-E.显然ΩC=φ;E∪EC=Ω,E∩EC=φ.例1.1设随机试验由投掷两颗骰子所组成,那么(1,1),(1,2),(1,3),(1,4),(1,5),(1,6)(2,1),(2,2),(2,3),(2,4),(2,5),(2,6)(3,1),(3,2),(3,3),(3,4),(3,5),(3,6)(4,1),(4,2),(4,3),(4,4),(4,5),(4,6)(5,1),(5,2),(5,3),(5,4),(5,5),(5,6)(6,1),(6,2),(6,3),(6,4),(6,5),(6,6)此处结果(i,j)称为发生,如果第一颗骰子掷出i且第二颗骰子掷出j.若E={(1,6),(2,5),(3,4),(4,3),(5,2),(6,1)},则E是两颗骰子点数和为7的事件.若A={(3,1),(3,2)},B={(3,2),(3,3)},则A∪B={(3,1),(3,2),(3,3)},AB={(3,2)}.若C={(1,1)},则A,C;B,C分别互不相容.E的对立事件EC=Ω-E,含有30个基本事件.Ω=由于事件是集合,所以不仅具有并、交、差、取对立等运算；而且自然也适用于做上极限、下极限、极限等运算.在实际问题中,人们并不对样本空间Ω的全部子集即所有的事件都有兴趣,只是更多的注意Ω的某些子集、关心它们发生的可能性的大小即概率.将此述做数学抽象,便有以下概念:定义1.1设Ω是一个集合,F是Ω的某些子集组成的集合族,若(1)Ω∈F；(2)如果A∈F,那么=Ω-A∈F；(3)对n=1,2,…,An∈F时,必有An∈F,则称F为σ-代数(或Borel域).称(Ω,F)为可测空间.A1n称F中的元素为事件.由定义1.1,还可得到:(4)φ∈F；(5)若A,B∈F，则A-B∈F；(6)若Ai∈F,i=1,2,…,则∈F.定义1.2设(Ω,F)是可测空间,P(·)是定义在F上的实值函数,如果(1)任意A∈F,0≤P(A)≤1;(2)P(Ω)=1;(3)若A1,A2,…是两两互不相容(i≠j→AiAj=φ)事件,则P()P(Ai),111,,iiniiniiAAA11iiiA那么称P是可测空间(Ω,F)上的概率.称(Ω,F,P)为概率空间.称P(A)为事件A的概率.由定义1.2易知:(4)P(φ)=0;(5)若A,B∈F且AB,则P(B-A)=P(B)-P(A)(单调性);(6)设An,n=1,2,…,则定义1.3设(Ω,F,P)为概率空间,GF,如果对任意的A1,A2,…,An∈G,n=1,2,…,都有2121),(),()(limAAPAAPAPnnnnnn11AA若若,)()(11niiniiAPAP则称G为独立事件族。•注意:概率是定义在可测空间事件上的函数,它的一个直观性质是:若我们的试验不断地重复n次,则以概率1地,事件A在总发生次数中的比率是P(A).•P(AC)=1-P(A).因为A与AC互不相容,且A∪AC=Ω,由概率定义(2)和(3)有:1=P(Ω)=P(A∪AC)=P(A)+P(AC)或P(AC)=1-P(A).即一个事件不发生的概率是1与它发生概率的差.•P(A∪B)=P(A)+P(B)-P(AB).这是在A中或在B中的所有结果的概率,称之为加法公式.考虑P(A)+P(B).它是A中所有结果的概率加上B中所有结果的概率.由于所有既在A中也在B中的结果在P(A)+P(B)中都算了两次,而在P(A∪B)中只算一次,所以必须有:P(A)+P(B)=P(A∪B)+P(AB)或P(A∪B)=P(A)+P(B)-P(AB).•对概率单调性(定义1.2下的(5):若A,B∈F且AB,则P(B-A)=P(B)-P(A))的一般考虑:P(B-A)=P(B-AB)=P(B(AB))=P(B)+P(AB)-P(A∪AB)=P(B)+(1-P(AB))-P(Ω)=P(A)+(1-P(AB))-1=P(A)-P(AB);于是,若AB,则由P(B)-P(A)=P(B)-P(AB)=P(B-A)≥0,又可推得P(B)≤P(A).•古典概型(基本事件有限,每个基本事件的发生都是等可能的)下的概念与应用举例:例1.2设某人做反复投掷两枚硬币的试验,则该试验的样本空间Ω={(H,H),(H,T),(T,H),(T,T)}中的4个结果都是等可能的,因而都有概率1/4.设A={(H,H),(H,T)},B={(H,H),(T,H)},即A是第一枚硬币出现Head的事件,B是第二枚硬币出现Head的事件.由加法公式,得到第一枚硬币出现Head或第二枚硬币出现Head事件的概率:P(A∪B)=P(A)+P(B)-P(AB)=1/2+1/2-P({(H,H)})=1-1/4=3/4.直接计算,也有P(A∪B)=P({(H,H),(H,T),(T,H)})=3/4.•事件E或F或G中任意一个发生的概率:P(E∪F∪G)=P((E∪F)∪G)=P(E∪F)+P(G)-P((E∪F)G)=P(E)+P(F)-P(EF)+P(G)-P(EG∪FG)=P(E)+P(F)-P(EF)+P(G)-P(EG)-P(FG)+P(EGFG)=P(E)+P(F)+P(G)-P(EF)-P(EG)-P(FG)+P(EFG).•对n个事件E1,E2,E3,…,En,用运归纳法可以证明:P(E1∪E2∪E3∪…∪En)=即n个事件的并的概率,等于这些事件一次取一个的概率的和减去这些事件一次取两个的概率的和,再加上这些事件一次取三个的概率的和,如此等等.).()1()()()()(211nnlkjilkjikjikjijijiiiEEEPEEEEPEEEPEEPEP•条件概率假定我们投掷两颗骰子得到的36个结果是等可能的,其概率均为1/36.如果我们知到第一颗骰子是4,那么在已知这个信息时,两颗骰子的点数和为6的概率是什么?为计算此概率,我们做推理:已知第一颗骰子是4,我们的试验至多能出现6个结果:(4,1),(4,2),(4,3),(4,4),(4,5),(4,6).由于这些结果中的每一个本来就是以相同的概率发生的,它们应该仍旧有相等的概率.这就是说,已知第一颗骰子是4,则出现(4,1),(4,2),(4,3),(4,4),(4,5),(4,6)中的每一个结果的(条件)概率是1/6,而同时在样本空间中的其他30个点的(条件)概率是0.因此要求的概率是1/6.如果以B和A分别记骰子的点数和为6的事件及第一颗骰子是4的事件,那么上述概率即已知A发生的条件下B发生的条件概率:P(B|A).对于一切事件E和F,当已知事件F发生,那么为了E发生,实际出现的结果必须是一个既在E中又在F中的结果,也就是必须在EF中的结果.现在,因为我们已知F已经发生,进而F就成为我们新的样本空间,因此,事件EF发生的概率就等于EF的概率相对于F的概率,即:P(E|F)=P(EF)/P(F).(P(F)＞0)例1.3假定在帽子中混杂地放了写有1到10的10张卡片,然后抽取了其中的一张.如果我们被告知抽出的卡片上的数字至少是5,那么它是10的条件概率是多少?解:以E记抽出的卡片上的数字为10的事件,以F记抽出的卡片上的数字至少为5的事件,要求的概率是P(E|F).由于卡片上的数字既是10又要至少为5当且仅当它是10,所以EF=E.故P(E|F)=P(EF)/P(F)==1/6或P(E|F)=P(E)/P(F)=1/6.例1.4某家庭有两个孩子.已知两个孩子中至少有一个男孩,问两个都是男孩的条件概率是多少?假设给定的样本空间Ω={(b,b),(b,g),(g,b),(g,g)}且四种结果都是等可能的.解:以B记两个孩子都是男孩的事件,A记两个孩子中至少10/610/1有一个男孩的事件,则所求的条件概率P(B|A)=P(BA)/P(A)=P({(b,b)})/P({(b,b),(b,g),(g,b)})=(1/4)/(3/4)=1/3.例1.5薛云可以选修计算机基础课,也可以选修大学语文课.如果他选修计算机基础课,那么得到A的概率为1/2.如果他选修大学语文课,那么得到A的概率为1/3.薛云用投掷硬币来决定.此时,薛云在大学语文课上能得A的概率是多少?解:令E为薛云选修大学语文课的事件,F为不管他选修哪一课程都得A的事件,则所要求的概率是P(FE).由条件概率公式并计算得:P(FE)=P(E)P(F|E)=(1/2)·(1/3)=1/6.例1.6假定在一个坛子中放有7个黑球,5个白球.我们不放回地从中摸取两个球.假设从坛中摸到哪一个球都是等可能的,求摸取的两个球都是黑色球的概率.解:以F和E分别记摸取的第一个球是黑球的事件和摸取的第二个球是黑球的事件.当已知摸到的第一个球是黑球时,坛中还有6个黑球和5个白球,故P(E|F)=6/11.而P(F)=7/12.所以要求的概率是P(EF)=P(F)P(E|F)=(7/12)·(6/11)=7/22.例1.7假定参加聚会的三个人都将他们的帽子扔到了房间的中央.这些帽子先被弄混了,随后每个人在其中随机地选取一个.问三人中没有人选到自己帽子的概率是多少?解:为计算简单,我们首先计算问题的对立概率即至少有一人选到他自己帽子的概率.当以Ei(i=1,2,3)记第i个人选到自己帽子的事件时,即要求P(E1∪E2∪E3).注意到P(Ei)=1/3,i=1,2,3;P(EiEj)=P(Ei)P(Ej|Ei)=(1/3)·(1/2)=1/6,i≠j;P(E1E2E3)=P(E1E2)P(E3|E1E2)=(1/6)·1=1/6.即知P(E1∪E2∪E3)=3·(1/3)-3·(1/6)+1/6=2/3.从而知P()=1-P(E1∪E2∪E3)=1/3.CCCEEE321对独立事件概念的进一步理解独立事件E,F满足P(EF)=P(E)P(F).由条件概率公式P(E|F)=P(EF)/P(F)知,这蕴涵了P(E|F)