第一章-基础知识-随机过程

第一章(第一讲）基础知识一、概率（Probability)1．随机试验(randomexperiment)若试验满足下列条件①在相同条件下可以重复进行；②每次试验可能出现的结果不止一个，并且事先知③每次试验会出现哪个结果在试验前无法确定；则称试验为随机试验，简称为试验。道所有可能发生的结果；2．随机事件(event)定义在一次试验中可能出现也可能不出现的结果叫基本事件(样本点)：最简单不能再分的事件。用字母样本空间(samplespace)：全体基本事件组成的集注一次试验中有且只有一个基本事件发生；任一个随随机事件，简称为事件，用大写字母A，B，C，D，…表示。ω，或ω1，ω2，…表示。合，用S表示。机事件都是样本空间的子集。定义如果试验的结果是事件A中的基本事件，则称该必然事件：每次试验中必然会发生的事件，用S表示。不可能事件：每次试验中不可能发生的事件，用φ表示。3．概率(probability)定义一个事件是样本空间的一个子集，假设对样本空间S的每一个事件E定义了一个数P(E)，满足以下三条公理：公理(axiom)(1)非负性P(E)≥0公理(axiom)(2)规范性P(S)=1。事件A发生。公理(axiom)(3)可列可加性对于可列个两两互斥的随机事件E1，E2，…，En，…有：则称P(E)为事件E发生的概率。4．概率性质性质1P(φ)=0.11()()nnnnPEPE性质2有限可加性设A1，A2，…，An是两两互斥性质3对任意事件A，有性质4可减性若注对任意事件A，B，有P(B-A)=P(B)-P(AB)性质5单调性若性质6加法公式P(A∪B)=P(A)+P(B)-P(AB)11()()nniiiiPEPE()1().PAPA12122111111121()()(1)()(1)()(1)()kknniiijiijnikniiiniiinPAPAPAAPAAAPAAA,AB则P(B-A)=P(B)-P(A),AB则P(A)≤P(B)互斥的事件，则性质7布尔不等式(Boole’sinequality)证明：定义事件则11{){}iiiiPEPE,1nFn11FE11,2nnniiFEEn{,1}nFn是互不相交的事件序列，满足于是1111,,,1nniiiinniiiiFEFEFEn1111()()()()iiiiiiiiPEPFPFPE性质8连续性定义：若121nnEEEE，称事件序列{,1}nEn为递增的；而当121nnEEEE，称事件序列{,1}nEn为递减的。如果{,1}nEn是一递增（减）的事件序列，那么我们定义事件序列{,1}nEn的极限事件，记为limnnE：1111,,1lim,,1inninninniEEEnEEEEn性质8连续型如果{,1}nEn是递增的或递减的事件序列，则{lim}lim{}nnnnPEPE于是111111()()()lim()lim()lim()lim()niiiiniiiinniinnnniiPEPFPFPFPFPEPE这证明了{,1}nEn递增时的结论。证明首先假设{,1}nEn是递增序列，并定义事件序列{,1}nFn：11FE，11,2nnniiFEEn则{,1}nFn是互不相交的事件序列，满足1111,,1nniiiiniiiiFEFEEn如果{,1}nEn是递减序列，则{,1}cnEn是递增序列；因此1()lim()lim[1()]1lim()ccnnnnnnnnPEPEPEPE，但因111()[()]1()ccnnnnnnPEPEPE，所以1()lim()nnnnPEPE结果得证。例1.1(a)考虑一个群体，它由能产生同类后代的个体构成。初始的个体数用X0表示，称为第0代的总数。第0代的全体后代构成第1代，其总数以1X表示。一般地，以nX表示第n代的总数。二、随机变量(randomvariables)1．随机变量定义定义：随机试验的样本空间为S，给S中的每一个结果e指定一个实数()Xe，则试验结果对应的数X为随机取值的变量，称为随机变量。对任何实数集A，{}({|()})PXAPeXeA。由于0nX10nX，所以是(0)nPX递增的，故lim(0)nnPX存在。它表示什么呢?要回答这个问题，运用性质8如下：0lim(0)[lim(0)][(0)]nnnnnnPXPXPX＝P{群体迟早灭绝}即第n代没有个体的概率极限等于此群体最终灭绝的概率。2．随机变量分布函数(distributionfunction)随机变量的分布函数由下式定义：对任一实数x(){}{(,]}FxPXxPXx记()1{}{}FxPXxPXx3.离散型随机变量(discreterandomvarible)(1)定义一个随机变量称为离散的，如果它可能取值的集合是可数的。（2）分布律定义若离散型随机变量X的取值为xk的概率为{},1,2,kkPXxpk则称{pk,k=1,2,…}为离散型随机变量X的概率分布或分布律。分布律也可写成下列的表格形式：X1x2x…kx…P1p2p…kp…由概率的定义，{pk,k=1,2,…}必须满足下列两个条件：（1）0,1,2,;kpk（2）11.kkp4．连续型随机变量(continuousrandomvariable)(1)定义定义设随机变量X的分布函数为F(x){}PXx，若存在非负函数f(x)，使得对任意实数x有()()xFxftdt则称X为连续型随机变量，称f(x)为X的概率密度函数(probabilitydensityfunction)。注易知连续型随机变量的分布函数是连续函数。（2）密度函数的性质1）f(x)≥0（非负性）；2()1fxdx）（规一性）；反之，可以证明，定义在R上的任一函数，若满足上面两个条件，则它一定是某个连续型随机变量的概率密度。3{}()()()baPaXbFbFafxdx）；{}()LLRPXLfxdx一般地，若，则.4)若f(x)在点x连续，则有()Fx=f(x)。5）X为连续型随机变量，则P{X=a}=0.(3)常见连续型随机变量①(a,b)上均匀分布②指数分布③正态分布5．二维随机变量（1）定义定义1.设S是随机试验E的样本空间，X(ω)，Y(ω)是定义在S上的随机变量，称有序组（X，Y）为二维随机变量或二维随机向量，简记为R.V.(X,Y)。（2）分布函数定义2.设(X,Y)是二维随机变量，对于任意实数x,y，称二元函数(,),FxyPXxYyPXxYy为(X,Y)的分布函数，或称为X与Y的联合分布函数(jointdistributionfunction)。(3)边缘分布函数对于二维随机变量(X,Y)，X,Y均为一维随机变量，存在各自的分布函数，称为边缘分布函数，用FX(x),FY(y)表示。对趋于的递增数列,1nyn，由于{,}1,nXxYyn，是递增的，且1lim{,}{,}{}nnnnXxYyXxYyXx()XFx=lim,(,)nnPXxPXxYyFx；同理()(,)YFyPYyFy(4)X与Y独立(independent)设F(x,y)及FX(x),FY(y)分别为二维随机变量(X,Y)的分布函数及边缘分布函数，若对所有的x,y有F(x,y)=FX(x)FY(y)则称随机变量X和Y是相互独立的。(5)二维离散型随机变量(6)二维连续型随机变量①定义：设F(x,y)是二维随机变量（X,Y）的联合分布函数，如果存在非负可积函数f(x,y)，使得对于任意实数x,y有(,)(,)xyFxyfuvdudv则称（X,Y）是二维连续型随机变量，称f(x,y)为(X,Y)的概率密度函数(probabilitydensityfunction)，或称为X与Y的联合概率密度函数(jointprobabilitydensityfunction)。②概率密度f(x,y)的性质(1)(,)0fxy（非负性）(2)(,)1fxydxdy（规一性）2(3)(,)(,)AARPXYAfxydxdy设，则2(,)(4)(,)(,)(,)Fxyfxyxyfxyxy若在点连续，则6.n维随机变量对于n维随机变量(X1,X2,…,Xn)定义联合分布函数12122(,,,),,,nnnFxxxPXxXxXx()(,,,,,,),1,2,,iXiiiiFxPXxFxin边缘分布函数若对任意12,,,nxxx，有121212(,,,)()()()nnXXXnFxxxFxFxFx，则称12,,,nXXX相互独立.三、期望、方差、协方差、相关系数1．随机变量的期望或均值(theexpectationormean)（1）定义定义随机变量的期望或均值记作E(X)，定义为1{},1,2,()()()()iiiiixpXPXxpiEXxdFxxfxdxXfx为离散型，分布律为为连续型，密度为倘若上述积分存在。（2）随机变量函数的数学期望设y=g(x)是连续函数，X为一R.V.，Y=g(X)，则1(){},1,2,(())()()()()()iiiiigxpXPXxpiEgXgxdFxgxfxdxXfx为离散型，分布律为为连续型，密度为（3）随机变量数学期望性质性质1.E(C)=C性质2.E(CX)=CE(X)性质3.E(X+Y)=E(X)+E(Y)推论1.E(X1+X2+…+Xn)=E(X1)+E(X2)+…+E(Xn)性质4.若X,Y独立，则E(XY)=E(X)E(Y)推论2：若X1,X2,…,Xn相互独立，则1212()()()()nnEXXXEXEXEX2．方差（1）定义定义：R.V.X方差定义为Var(X)＝E[X-E(X)]2＝E(X2)-E2(X)，称σ(X)＝()DX为R.V.X的标准差或均方差。（2）性质性质1.若X=C，则D(X)=0性质2.D(X+C)=D(X)性质3.D(CX)=C2D(X)推论：D(aX+b)=a2D(X)性质4.若X,Y独立，则D(X±Y)=D(X)+D(Y)推论：若X1,X2,…,Xn相互独立，则1212()()()()nnDXXXDXDXDX(3)常见随机变量的方差3．协方差、相关系数、协方差矩阵（1）定义：X与Y的协方差定义为Cov(X,Y)=E{[X-E(X)][Y-E(Y)]}＝()()()EXYEXEYX与Y的相关系数定义为(,)()()XYCovXYDXDY，若Cov(X,Y)＝0，则称X与Y不相关。（2）性质11[]()2(,)nniiijiiijVarXVarXCovXX例1.3（a）匹配问题在一次聚会上，n个人把他们的帽子放到房间的中央混合在一起，而后每个人随机地选取一顶，我们感兴趣的是拿到自己帽子的人数X的均值与方差为了求解，我们利用表示式12nXXXX其中10iiX如果第个人拿到自己的帽子其它例1.3（a）匹配问题在一次聚会上，n个人把他们的帽子放到房间的中央混合在一起，而后每个人随机地选取一顶，我们感兴趣的是拿到自己帽子的人数X的均值与方差解：令10iiX第个人拿到自己的帽子其它，i=1,2,…,n则12nXXXX现在由于211()