教育部资通讯科技人才培育先导型计画

教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊1通訊原理第五章機率、隨機訊號與雜訊教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊2大綱5-1機率變數離散隨機變數(DiscreteRandomVariables)連續隨機變數(ContinuousRandomVariables)5-2隨機程序隨機程序(RandomProcesses)基本概念自相關函數、互相關函數廣義穩定隨機程序(WideSenseStationaryRandomProcesses)功率頻譜密度函數(PowerSpectralDensity)5-3隨機訊號通過線性非時變系統(TransmissionofaRandomProcessesthroughLinearTime-InvariantFilter)5-4雜訊高斯隨機雜訊(GaussianRandomNoise)白色雜訊窄頻雜訊(NarrowbandNoise)正弦波加上窄頻雜訊(SinusoidalWavePlusNarrowbandNoise)教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊3大綱5-1機率變數離散隨機變數(DiscreteRandomVariables)連續隨機變數(ContinuousRandomVariables)5-2隨機程序隨機程序(RandomProcesses)基本概念自相關函數、互相關函數廣義穩定隨機程序(WideSenseStationaryRandomProcesses)功率頻譜密度函數(PowerSpectralDensity)5-3隨機訊號通過線性非時變系統(TransmissionofaRandomProcessesthroughLinearTime-InvariantFilter)5-4雜訊高斯隨機雜訊(GaussianRandomNoise)白色雜訊窄頻雜訊(NarrowbandNoise)正弦波加上窄頻雜訊(SinusoidalWavePlusNarrowbandNoise)教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊4機率變數在機率或隨機程序裡我們常利用機率空間或機率系統來描述所觀察到的情形。我們常定義一個機率空間(S,F,P)，其意義分別如下：1.取樣空間(samplespace)S：取樣空間S是觀察某個隨機實驗所有可能發生的實驗現象或所有可能結果(samplepointoroutcome)所形成的集合。2.事件空間F：取樣空間的子集合。若則。3.機率測度，用P表示。FFFBA,B,A教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊5機率變數機率測度會滿足的條件：P(S)=1，而且P(空集合)=0。對於任合在F內的A，。對於兩個互斥的事件A和B，。範例5-1-1以擲骰子為例子，分別討論機率空間(S,F,P)：S=F=P(空集合)=0,,,P(S)=11)(0Ap)()()(BPAPBAp空集合教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊6以下列出幾條機率特性、公設(Axioms)：公設3證明：機率變數)()(,.4)()()()(.30)(.2)(1)(.1BPAPBABAPBPAPBAPPAPAPc空集合)()()()()()/()()/()()/()/()(BAPBPAPBAPBAPABPBAPBAPBAPABPBAPBAP教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊7條件機率：若事件A、B為樣本空間S之部分集合，且P(B)0，則在事件A已發生的前提下，事件B發生的機率即為條件機率。條件機率的定義：。若A與B互斥，也就是，則。若A是B的子集合，則。若則稱A和B互為獨立(統計上的獨立)。條件機率)()()|(APBAPABP0)|(ABPBA1)|(,ABPABA)()()()()|(BPAPBAPBPABP教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊8貝氏定理全機率定理(TotalProbabilityTheorem)：就樣本空間S中任ㄧ組分割{E1,E2,……,En}，對任何事件A而言，恆有：貝氏定理(Bayes’Theorem)：若{E1,E2,……,En}為樣本空間S中的ㄧ組分割，則任ㄧ事件A，P(A)0，恆有：njjjiiiiEPEAPEPEAPAPAEPAEP1)()()()()()()()()|(...)()|()()|()(...)()()(221121nnnEPEAPEPEAPEPEAPEAPEAPEAPAP教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊9隨機變數隨機變數(RandomVariables)：隨機變數是一種函數對應的規則，是將取樣空間中每個實驗結果對應於一個唯一存在實數值，則稱為隨機變數，簡寫為X，其函數結構為X:SR，其中R為實數。)(XxS)(XS1342)(1X)(2X)(3X)(4XR圖5-1-1教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊10取樣空間取樣空間S是隨機變數的定義域，其對應域為R，而隨機變數的值域(range)SX乃是某個隨機變數所有對應出實數值的集合或範圍。若以不同的角度來觀察某個隨機實驗的結果，所形成的樣本空間就會改變。定義隨機變數最主要的目的是將某個隨機實驗所有可能發生的結果加以數值化，以方便之後進行統計上的處理與運算。SSXxR()xX圖5-1-2教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊11事件事件(event)會是樣本空間的子集合，換句話說當某個隨機實驗進行時發生某個事件的結果一定會包含在所對應子集合裡。事件A是樣本空間Ω的子集合，AΩ，若A集合是包含所有的實驗結果ω使得經過隨機變數X對應後至B，也就是當事件A發生時，事件B也會跟著發生，所以A跟B被視為等效事件，所以兩者發生的機率會一致，P[A]=P[B]。})(:{BXA圖5-1-3教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊12機率變數範例5-1-2假設我們投擲一公正的硬幣三次，並且定義隨機變數X表示正面出現的次數：1.樣本空間SX={0,1,2,3}。2.事件F={x=2}={正正反,正反正,反正正}。3.P(x=2)=P(正正反,正反正,反正正)=3/8。此對應關係即為隨機變數X教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊13離散隨機變數離散隨機變數(DiscreteRandomVariables)定義：若是隨機變數X之值域SX為可計數的，不論個數是有限或是無限，稱為離散型隨機變數。對於離散隨機變數，機率質量函數(Probabilitymessfunction,PMF)是用來表示離散隨機變數值域中每一個元素的機率值，其數學符號為。XSx]Pr[)(xXxPX教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊14對於離散隨機變數X，其機率質量函數為Px(x)以及值域SX：隨機變數值域中對於某個元素x,其機率值必為正值：Px(x)0對於隨機變數值域中所有元素的機率值相加必為1：對於任何一個事件BSX,則事件B出現的機率P[B]為離散隨機變數XSxXxPP1)(][BxXxPBP)(][教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊15累積分配函數累積分配函數(cumulativedistributionfunction,CDF)若隨機變數X之機率質量函數為PX(x)，則可以定義累積分配函數為：累積分配函數的重要特性：xSXXXsPxXPxF)()()()()()(.5)(1][.4)(lim)()(][.31)(.20)(.10aFbFbxaPxFxXPxFxFxPxXPFFXXXXXX教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊16累積分配函數範例5-1-3投擲三次公正的銅板，隨機變數X表示正面出現的次數，試定義其機率質量函數及累積分配函數：解答隨機變數X0123PX(x)1/83/83/81/8)(xPX8183圖5-1-4教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊17根據上表，可以定義累積分配函數為：xxxxxxFX3,132,8721,2110,810,0)(FX(x)x累積分配函數圖5-1-5教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊18離散型累積分配函數圖例：離散型隨機變數之累積分配函數圖形JohnG.Proakis,CommunicationSystemEngineeringChapter4,2thEdition,PrenticeHall,2002累積到最後機率值為1累積分配函數圖5-1-6教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊19期望值(平均值)：若離散型隨機變數X之機率質量函數為PX(x)，而g(x)為定義在X之值域上的函數，則g(X)之期望值為：若離散型隨機變數X1,X2,…,Xn,具有結合機率密度函數，而g為定義在X1,X2,…,Xn之值域上的函數，則：[()]()()XXxSEgXgxPx12),...,,(),...,,(...)],...,,([212121xxxnnnnxxxPxxxgXXXgE期望值教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊20期望值經由線性轉換後的隨機變數期望值若X是是個機率質量函數為PX(x)的隨機變數，則証明：bXaEbaXE][][bXaExPbxxPaxPbaXbaXEXXXSxXSxXSxX][)()()()(][教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊21變異數(variance)離散型隨機變數X的變異數的定義為：標準差(Standarddeviation)離散型隨機變數X的標準差的定義為：在統計上，比較常使用變異數的平方根，也就是標準差，因為標準差和隨機變數X的單位是一樣的。變異數XSxXXXxPxXEXVar)()()(][22][XVarXX教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊22離散隨機變數定理：證明：)115(][][][][2222XEXEXEXVarX2222222222][][2][)()(2][)()(2)()()(][XEXEXExPxxPXExPxPxxPxxPxXVarXXSxXXSxXXSxSxXXSxXXXSxXXXXXXXX教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊23離散隨機變數範例5-1-4有ㄧ個隨機變數R，機率質量函數如下，期望值為3/2，求隨機變數R的變異數？解答由公式(5-1-1)得知，Var[X]=E[X2]-(E[X])2otherwise0,24/3,04/1)(rrrPR43233][][][3)2(2)0(0][222222RERERVarPPRERR教育部資通訊科技人才培育先導型計畫通訊原理第五章機率、隨機訊號與雜訊24統計平均值：離散型隨機變數X的平均值的定義為：平均值的意義：某個