1随机信号分析_概率论

第一章概率论§1.1概率空间随机试验—①在相同条件下可以重复进行；②每次试验的可能结果不止一个；③在试验前不能预测哪个会出现。随机试验每个可能出现的结果称为样本点，用Si或ωi表示随机事件—随机试验中可能出现的结果。简称事件。为S中若干样本点的集合，为S的子集基本事件—随机试验中的“不可能再分的”最小的随机事件。样本空间—随机试验中所有可能结果“样本点”的集合。ECAB、、1{,,,,}inS或一、事件的运算（事件的关系）事件A发生必然导致事件B发生的事件－－称事件B包含事件A。记：BAAΩBΩA和B中，只要有一个发生则发生的事件，称A与B的“和事件”。记：A∪BA与B同时发生才发生的事件，称A与B的“积事件”。记：A∩BSSBAABSSA与B不可能同时发生的事件，称A与B“互不相容”。记：A∩B＝（空集）A发生，而B不发生的事件，称A与B的“差事件”。记：A－BBABAÃSA不发生的事件－－称事件A的“逆”。记：Ã＝S－AA∪Ã＝SÃ∩A＝ÃA若某一个随机试验E(1)样本空间S由有限个基本事件构成(2)每个基本事件发生的可能性相同则，E中任意事件A发生的概率P(A)为：例：掷骰子，摸球二、概率的定义2、概率的分类1、概率：随机试验中，事件A发生的可能性。1）古典概率（样本有限，等可能）的个数样本空间中所有样本点包含的样本点的个数事件AAP)(2)几何概率(S为某一区域，等可能)某随机试验E：（1）样本空间由无穷个基本事件组成，S为一个区域（2）S中样本点具有均匀分布性将样本空间S，用m维空间中某一个有界区域S表示，而对这一区域S的大小的“度量”用L(S)表示，(它可以是一维空间S的长度，二维空间S的面积，三维空间S的体积)。AS若随机试验E等效为均匀地向区域S投掷一随机点。事件A∈S(S的子集）等效为S中任一可能出现的小区域，L(A)是A的度量。由于是均匀投掷的随机点，所有样本点的发生是等可能的。因此随机点落入区域A的概率则为“度量”之比：()()()LAPALS3）统计概率随机事件A在某组的n次试验中出现nA次，比值称作事件A在这组的n次试验中出现的频率。定义：在试验E的n次重复试验中，事件A发生的概率：()limAnnPAn()AnnfAn频率具有随机性，当n有限时，这组的n次试验中的频率fn(A)与下一组的n次试验中的频率fn(A)可能不同。但概率P(A)则是固定不变的。上述概率的三种定义和计算方法为针对不同问题，从不同角度给出，都具有各自的适用范围，存在一定的局限性，但在三种定义下概率的性质却是完全相同的。因此，人们从概率的性质出发，给概率赋予一个新的数学定义，即概率的公理化定义。这个定义只指明概率应具有的基本性质，不具体规定概率的计算方法。则称P为概率。样本空间S、事件域F和概率P构成的总体称为随机试验E的概率空间。若定义在事件域F上的一个集合函数P满足下列三个条件：⑴非负性：⑵规范性：⑶完全可加性：若且两两互不相容时，有4、概率的公理化定义事件域F是由样本空间S中的某些子集构成的非空集类。集类是指以集为元素的集合。(1,2,)iAFi()0PAAF，11()()iiiPAPA()1PS(,,)SFP[]0,ijPAAij称Ai与Aj互不相容，如P[3点]，P[5点]，P[奇数点]例：掷骰子试验，构建两个概率空间样本空间S=1）事件域F1=概率P：P1=P2=P3=P4=P5=P6=1/6构成概率空间（S，F1，P）2）事件域F2=概率P：P奇=P偶=1/2构成另一概率空间（S，F2，P）注：概率空间指S,P,F三位一体同一随机试验，可以构建不同的概率空间，取决于如何定义组成F的子集S1,S2,S3,S4,S5,S6{S1},{S2},{S3},{S4},{S5},{S6}{S1，S3，S5},{S2，S4，S6}5、概率的性质给定概率空间，从概率的公理化定义的三个条件，可以推出概率的性质：⑴不可能事件的概率为0，P()=0⑵必然事件的概率为1，P(S)=1⑶逆事件的概率为⑷有限可加性：若，且两两互不相容，则()1()PAPA⑸单调性：若，则()()()PABPAPB11()()nniiiiPAPA()()()()()PABPAPBPBPA且(1,2,)iAFi()()()()PABPAPBPABBA(,,)SFP⑹加法公式：次可加性：1.1.2条件概率P(A/B)---在B事件已发生的条件下，A事件发生的概率。可以看成是在缩小的“样本空间B”上,求A发生的概率。即：BABABS一、条件概率的定义同理可得：()()()()(|)()()()()LABLABPABLSPABLBLBPBLS()(|)()PABPBAPA若A与B互不相容，即P(AB)=0，则P(A|B)=0，P(B|A)=0。且有：110(|)1(|)1()()iiiiPABPSBPABPAB，，由条件概率公式可推出：P(AB)=P(A|B)P(B)＝P(B|A)P(A)以此类推可得：二、条件概率的基本公式1、乘法公式121111111121212331212122111212131211211()(|)()()(|)()()(|)()()(|)()()()(|)(|)(|)(|)nnnnnnnnnnnnnPAAAPAAAPAAPAAPAAAPAAPAAAPAAAPAAPAAPAAPAPAAAPAPAAPAAAPAAAPAAA2、全概率公式AB1B2BiBn11B()(|)()nijiiiniiiBBijBSPAPABPB若，，；称事件组为完备事件组，也称为样本空间的一个划分则有，1()()()1,2,()()kkkniiiPBPABPBAknPBPAB，3、贝叶斯（Bayes）公式设事件A已发生，而事件A发生是由事件B的发生所引起的概率为其中是完备的事件组(1,2,)iBi后验概率一、两个事件独立A发生的概率与B发生与否无关。即P(A|B)＝P(A)B发生的概率与A发生与否无关。即P(B|A)=P(B)由乘法公式P(AB)=P(A|B)P(B)＝P(B|A)P(A)＝P(A)P(B)L(S)=60，L(A)=12，L(B1)=20，L(B2)=10P(A)=L(A)/L(S)=1/5，P(A|B1)=L(AB1)/L(B1)=4/20=1/5P(A|B2)=L(AB2)/L(B2)=2/10=1/5可见无论B如何变化,P(A|B)=P(A)AAB2B1SS1.1.3事件的独立二、两个事件的相容性（属集合论范畴）两个事件互不相容－－表示两个事件不能同时发生。如果把“A与B互不相容”放在概率论范畴去讨论，则表示“A发生B就不能发生”。因A限制了B，则A与B相关。因又A∩B=,P(AB)=0。也即P(A|B)=P(AB)/P(B)=0由于P(A)≠0，则P(A/B)≠P(A)，所以A与B不独立。反之，若把“A与B相互独立”放在集合论范畴去讨论，由于P(AB)=P(A)P(B)≠0,{P(A)≠0,P(B)≠0}，即A∩B≠,由于A与B可以同时发生，则A与B必定相容。三、多个事件相互独立定义：设是n个事件，若对于任意有如A,B,C相互独立的条件：P(AB)=P(A)P(B),P(AC)=P(A)P(C)P(BC)=P(B)P(C),P(ABC)=P(A)P(B)P(C)11()()mmkkkkPAPA12,,,nAAA(1)mmn则称事件是相互独立的。易见，若相互独立，则它们之中任意m(mn)个事件也一定相互独立。特别当相互独立时，它们之中的任意两个事件也都相互独立（即两两独立）；反之则未必成立，即n个事件两两独立并不等于它们全体相互独立。12,,,nAAA12,,,nAAA12,,,nAAA12,,,nAAA§1.2随机变量及其分布随机变量的定义：已知一个概率空间（S，F，P），对于s∈S，X(s)是一个单值函数，且对于任意实数x1，{s：X(s)≤x1}是一随机事件，即{s：X(s)≤x1}∈F，则称X(s)为随机变量（RandomVariable），简称为R.V.X。通常用大写表示随机变量，用小写表示随机变量的取值。样本空间S实数域RXA={s:X(s)x1},满足X(s)x1条件的所有s所构成的集合——事件L={X(s)x1},实数域上的区域sX(s)ALX引入R.V.的意义：可以利用数学分析的手段来描述和分析随机现象根据随机变量取值特点（值域）：随机变量可以分为离散型随机变量和连续型随机变量§1.2随机变量及其分布一、离散型随机变量（X取离散值，有限个或可列无限）（1）分布律（分布列）——随机变量X取各个可能值的概率。1)()()()(kkkxkxkxkxkxxUppxXPxXPxFkkpppPxxxX2121，，，21)(kpxXPkk分布律也可用表格的形式表示:（2）分布函数——随机变量X取值落在上的概率。(,]x（3）性质212101F()()20()1()1()0(0)lim()()xxFxFxFxFFFxFxFx）(x)单调非降，当时，），，3）右连续，X012p1/31/61/2求：①F(x)=?②例1.10已知：(0.5),(11.5),(11.5)PXPXPX？()()0...................................................................0(0)1/3..................................................01(0)(1)1/31/61/2.............12(0)(FxPXxxPXxPXPXxPXP1)(2)1/31/61/21...............2XPXx31211210)(xF012012012012xxxx210x210xx210210x解：①解②：由分布函数的图可得(0.5)(0.5)13(11.5)(1.5)(1)12120(11.5)(1.5)(1)(1)16PXFPXFFPXFFPX二、连续型随机变量(X取连续值）11(1)()()()()()()()()()()()xkkkkkkFxPXxftdtFxFxfxFxfxFxpUxxpxx分布函数：(2)概率密度函数：若存在，则为连续型随机变量的概率密度函数＝若离散型随机变量引用概率密度也可以表示为212211(3)1()0,2()13{}()()()(,]{}()()0ooofxxfxdxxPxXxFxFxfxdxxXxxdxPxXxdxfxdxXXPXx概率密度函数的基本性质：在忽略了高阶无穷小量的情况下，随机变量落在小区间上的概率为:由于连续型随机变量取的连续值有无限多个，所以取任何值的概率均为0，即：dx()fx012xxx例1：随机变量X，其概率密度函数为试确定k，求P{x0.1}。3,0()0,0xkexfxx30()113xfxdxkedxk0.11()0.7408fxdx解：由P{x0.1}=1-P{x≤0.1}=例2：靶子为半径为2米的圆盘，设击中在靶上任一同心圆盘内的概率与该圆盘的面积成正比，且每靶必中。R.V.X表示弹着点与靶心的距离。求：1）F(x)，2）P{0.5＜x≤1.5},P{0.5≤x≤1.5}解:1)若x0,则{X≤x}是不可能事件,于是F(x)=P{X≤x}=0.2{0}4xPXx于是