《现代概率论》

《现代概率论》讲义稿第一章可测空间贵州大学胡尧第1页共30页现代概率论（ModernProbabilityTheory）教材汪嘉冈编著现代概率论基础（第二版）上海复旦大学出版社2006.6Bing-YiJING.AdvancedProbabilityTheory.July,2012参考书[1]RichardDurrettProbability:TheoryandExamples(SecondEdition)DuxburyPress1996/2012[2]KaiLaiChung.ACourseinProbabilityTheory,(ThirdEdition)ChinaMachinePress.2010.[3]夏道行等.实变函数论与泛函分析(上)2rd高教出版社2011[4]严加安著测度论讲义（第二版）北京科学出版社2008.8[5]严士健等著概率论基础（第二版）北京科学出版社2009.8[6]胡尧《测度论》笔记（2004年北大学习）授课老师李志阐教授[7]胡尧《高等概率论》笔记（2004年北大学习）授课老师刘勇教授主讲内容第一章MeasurableSpace本章可以说是没有概率的概率论，主要介绍可测空间中不依赖于概率的各种性质.主要内容包括一、集与集类二、MonotoneClassTheorem三、可测空间与乘积可测空间四、可测映射与R.V.第二章MeasuresandIntegration在可测空间引进测度后介绍概率论的各种基本概念.主要内容有一、测度与测度空间二、外测度与测度的扩张三、Lebesgue-Stieltjes测度四、IntegrationandExpectation五、随机变量及其收敛性六、乘积可测空间上的测度第三章IndependenceRandomVariablesSeries在用测度论术语规定概率空间的基础上，本章以独立性为前提展开各种问题《现代概率论》讲义稿第一章可测空间贵州大学胡尧第2页共30页的讨论.独立性是概率论中最早引入的概念之一.独立随机变量序列的性质是讨论最早、结果最多的一个方面.虽然以后的讨论并不局限于独立随机变量序列，但对一般随机变量序列的讨论，从方法到结果都可以从独立随机变量序列的讨论中得到不少启发和借鉴.本章主要包括一、Independenceand0-1Law二、独立项级数三、LawsofLargeNumbers四、StoppingTimeandWald'sEquation第四章ConditionalExpectationandMartingalesConditionalExpectationandMartingales成为随机过程与数理统计中不可缺少的概念，是随机过程和数理统计研究中的重要工具.其内容主要包括一、广义测度二、条件期望三、鞅的定义与基本不等式四、鞅的收敛定理及应用第五章CentralLimitTheorems研究一类R.V.的分布规律，它由许多独立R.V.的和组成，组成这个和的每一个R.V.都非常地“小”.更确切地说，研究由项数越来越多的独立R.V.的和组成的序列的极限分布律，即CLT问题.其主要讨论一、CharacteristicFunction二、问题的提出三、CLT-具有有界方差情形四、CLT一般结果简介本讲义的符号标识随机事件：ABC或iAiBiC或A或cA概率：()PA()iPA随机变量：X或iX指标集：I实数集：R广义实数集：R不可能事件：φ可测空间：(,)ΩF或(,)iiΩF概率测度空间：(,,)PΩF或(,,)iiiPΩF样本空间：Ω样本点：ω或iω事件域：σ−代数测度：μνpf集类或集合类：()ΩPABCDEFGHIJKLMNOPQRSTUVWXYZ《现代概率论》讲义稿第一章可测空间贵州大学胡尧第3页共30页附：上确界与下确界（SupremumandInfimum）不同情形的定义《数学分析》上确界supremum设E是非空数集，若Rβ∃∈，且1）xE∀∈，有xβ≤；2）0ε∀，0xE∃∈，有0xβε−≤；则称β是E的上确界.记为supEβ=注：①β是E的上界;②小于β的任意数βε−都不是E的上界,即上确界β是数集E最小的上界.下确界infimum设E是非空数集，若Rα∃∈，且1）xE∀∈，有xα≤；2）0ε∀，0xE∃∈，有0xαε+；则称α是E的下确界.记为infEα=注：①α是E的下界;②大于α的任意数αε+都不是E的下界,即下确界α是数集E最大的下界.Examples1sup|11nnNn⎧⎫∈=⎨⎬+⎩⎭1inf|12nnNn⎧⎫∈=⎨⎬+⎩⎭2{}sup1,2,3,44={}inf1,2,3,41=3sup(,)bb−∞=inf(,)aa+∞=确界定理:非空数集E上有上(下)界,则数集E上存在唯一的上(下)确界.《现代概率论》讲义稿第一章可测空间贵州大学胡尧第4页共30页《概率论》《测度论》与《现代概率论》单调R.V.序列{,1}nXn≥①If12nXXX∞thenlimsup{}nnnnXX→∞=②If12nXXX−∞thenliminf{}nnnnXX→∞=若为单调类{,1}nXn≥为集合①If12nXXX⊂⊂⊂⊂then1limsup{}nnnnnnXXX∞→∞===∪包含所有nX的最小集合②If12nXXX⊃⊃⊃⊃then1liminf{}nnnnnnXXX∞→∞===∩包含所有nX的最大集合一般随机变量序列（RandomVariableseries）或集合类序列（SetClassSequence）上极限1limnknjkjXX∞∞→∞===∩∪{}|,nXnωω=∈对无穷多个成立{}|nωω=属于无穷多个X{}|,,..kjNkjstXωω=∀∈∃≥∈limsupinfsupnmnnmnXX→∞≥⎛⎞==⎜⎟⎝⎠上极限是上确界的下确界{}..nAio=若nA随机事件：上极限发生当且仅当有无穷多个事件发生..io：infinitelyoften下极限1limnknjkjXX∞∞→∞===∪∩{}|,nXnωω=∉只对有限个成立{}|nωω=至多不属于有限多个X{}00|,..kjNkjstXωω=∃∈∀≥∈,()liminfsupinfnmnmnnXX→∞≥==下极限是下确界的上确界《现代概率论》讲义稿第一章可测空间贵州大学胡尧第5页共30页若nA为随机事件：下极限发生当且仅当从某个事件之后的所有事件发生注：limnnX→∞∞or∃⇔limnnX→∞∞or∃andlimnnX→∞∞or∃andlimlimnnnnXX→∞→∞=Borel集是所有开集、闭集的集合.区间(,)ab,[,]ab,(,]ab,[,)ab的所有运算构成一个Borel集（Borelset）第一章可测空间MeasurableSpace一、集与集类(系)setandsetclass空间：Ω元素：ω集合:A,B,C,具体，{}=i=12...iωΩ，，，，{}jnA=j=12,jω，，，,{}hnB=h=12,hω，，，1.关系1）containorimply()ABBA⊂⊃⇔ifAω∀∈thenBω∈——A中元素都B是的元素.注：A∅⊂⊂Ω.2）equalityAB=⇔AB⊂andBA⊂.A与B由相同的元素构成2.运算1）intersection（andcombination）ABAB=∩（交），ABφ=()AB与不交==⇒推广iiIAω∈∈∩⇔iI∀∈s.t.iω∈A2）union(orcombination)AB∪⇒iiIA∈∪AB=AB=A+Bφ∪不交并⇒ijAA=iiiIiIA====Aφ∈∈∑∪（测度空间具有可加性）iiIAω∈∈∪⇔00iiIω∃∈∈，s.t.A即iiIA∈∪由{}iAiI∈，中各iA的元素全体构成.3）differenceA\B(差)特别c\B=B=BΩ(余集complement)cAA=φ∩cA+A=ΩcA-B=ABSymmetricdifference()()AB=A\BB\AΔ∪约定：if指标集{}I=i=φ即空集,theniiIA=φ∈∩andiiIA=φ∈∪《现代概率论》讲义稿第一章可测空间贵州大学胡尧第6页共30页3.性质1)交换B=BAA∪∪AB=BA∩∩2)结合()()ABC=ABC∪∪∪∪3)分配()()()ABC=ACBC∪∩∩∪∩()()()ABC=ACBC∩∪∪∩∪()()()A\BC=AC\BC4)并化为不交并()()CAB=A+B\A=A+B\AB=A+AB∪CB=AB+AB()n121312n=1A=A+A\A+A\AA+∞∪∪CCC121321=A+AA+AAA+汪P3首次进入分解：给定{,1}iAin≤≤，则i-1njiji=1j=1j=1A=(A\A)n∑∪∪5)DeMorgan法则iCnnCiii=1i=1CnnCii=1i=1A=AA=A⎫⎛⎞⎪⎜⎟⎝⎠⎪⎬⎛⎞⎪⎜⎟⎪⎝⎠⎭∪∩∩∪⇒CCnnn=1n=1CCnnn=1n=1A=AA=A∞∞∞∞⎧⎛⎞⎪⎜⎟⎪⎝⎠⎨⎛⎞⎪⎜⎟⎪⎝⎠⎩∩∪∪∩4.集序列与极限集序列{}nAn1≥，上极限：{}nnnnnlimA=limsupA=Anωω→∞→∞∈|，对无穷多个成立(定性描述)()(){}n=mnmAωωωω∀∃∈|，，kn1knA∞∞===∩∪(定量描述)《现代概率论》讲义稿第一章可测空间贵州大学胡尧第7页共30页{}mmn1mnmninfsupA:nNinfsupA≥≥≥=∈=上确界的下确界证明令()jkkjBAj1,2∞===∪，,显然()jj+1BBj1,2⊃=，即jB↓.故kjkkj1j1kjlimBB=A∞∞∞→∞====∩∩∪,即证下限集：{}limliminf|,nnnnnAAAnωω→∞→∞==∉只对有限个成立除有限个外，其余的都在nA中1knknA∞∞===∪∩1sup:supinfinfnmnmmnmAAnN≥≥≥⎛⎞⎧⎫==∈⎨⎬⎜⎟⎝⎠⎩⎭下确界的上确界wherejkjBA(1,2...)kj∞===∩Then1jjBB+⊂,jB↑即上式中的kknA∞=↑∩集序列{},1nAn≥有极限:如果limlimnnAA⊂且limlimnnAA⊂成立.即A=limlimlimnnnAAA==单调序列：1)If12AA...nA⊂⊂⊂即nA↑then1limnnnnAAA∞→∞===∪2)If12AA...nA⊃⊃⊃即nA↓then1limnnnnAAA∞→∞===∩注:单调序列一定有极限.5.示性函数（Indicatorfunction）(){10AAIAωωω∈⊂Ω=∉⊂Ω⇒{10AAIA=发生不发生注:A为event⇒()AEIAP=运算关系：1)AiIIVα∈=∪(supiiAAiiIVII∈)iiiIAAiIII∈∈=∑∑2)AiiAiII=Λ∩(infiiAAiiIII∈Λ)3)1CAAII=−BAABIII−=−(mod2)ABABABIIIIIΔ=−=+《现代概率论》讲义稿第一章可测空间贵州大学胡尧第8页共30页6.集合类由Ω中一些集合组成（Ω的）集类（集合），用A,B,C等表示，()ΩP表示Ω的全体子集构成的集类（包括Ω与φ）.常用集类：1）π类：A称为π类：如果它对有限交运算封闭（即交封闭）.If,AB∈AthenAB∈∩A.2）半环：A成为半环（1）φ∈A；（2）π类；⇒If,AB∈A，thenAB∈∩A；（3）If,AB∈A，then1\nkkABC==∑，WherekC∈A（不交并）.3）环：B称为环（1）B为()ΩP中的非空子类；（2）IfA∈B，B∈B，then\AB∈B，AB∈∪B（并差封闭）.即环是关于差、并运算封闭的集类.4）半代数：A称为半代数（1）π类（2）IfA∈A，then1nckkAC==∑，WherekC∈A，k=1,2,3...n（3）φΩ∈,A（注：汪嘉冈）如下反例不成立半代数A⇔半环+Ω∈A例:（1）=RΩA，{}1122dii=A:A=(a,](a,](a,]-ab+i=1,ddbbb×××∞≤≤∞，，，Ad《现代概率论》讲义稿第