现代统计信号处理(第一章)

2.71828182845904523536028747135266249775724709369995957496696762772407663035354759457138217852516642742746639193200305992181741359662904357290033429526059563073813232862794349076323382988075319525101901Select[FromDitits/@Partition[First[RealDigits[E,10,1000]],10,1],PrimesQ,1]现代统计信号处理ModernStatisticalSignalProcessing电子与信息工程学院SchoolofElectronicsandInformationEngineering0ReferenceHarvardUniversityEngineeringSciences251r.AdvancedTopicsinInference,Information,andStatisticalSignalProcessingWaterloo,CanadaECE603:StatisticalSignalProcessing,forGraduatestudent,StevenM.Kay,FundamentalsofStatisticalSignalProcessing,PrenticeHall,1993邱田爽等著统计信号处理-非高斯信号处理及应用.电子工业出版社，2004J.G.Proakis(美)统计信号处理算法，清华大学出版社，2006SchoolofElectronicsandInformationEngineering3/30第一章引言1.1基本概念统计信号处理是从噪声背景中提取有用信息的最佳理论和方法。基本内容包括了信号检测、估计和最佳滤波理论及其应用。应用领域通信、雷达、声纳、导航、自动控制、语音信号、图像、生物医学、地震信号等SchoolofElectronicsandInformationEngineering4/30噪声信号观测信号+统计信号处理统计信号处理的基本问题举例1：通信系统处理要求：有效性问题、可靠性问题处理约束：外部干扰、内部噪声、信号畸变解决的问题：噪声中信息检测问题消除信号畸变的最佳滤波问题SchoolofElectronicsandInformationEngineering5/30信源变换编码调制解调解码反变换信宿信道统计信号处理的基本问题举例2：雷达系统处理要求：目标发现问题、目标定位问题处理约束：外部干扰、内外部噪声、杂波解决的问题：噪声中目标检测问题回波信号延迟测量的最佳滤波问题SchoolofElectronicsandInformationEngineering6/30统计信号处理的基本问题举例3：声纳系统处理要求：目标发现问题、目标定位问题处理约束：外部干扰、内外部噪声、杂波解决的问题：传感器阵列目标定位问题回波信号的波形估计问题SchoolofElectronicsandInformationEngineering7/30002dc01cos1.2统计信号处理的数学描述针对观测序列估计问题：估计某个参数，检测问题：滤波问题SchoolofElectronicsandInformationEngineering8/30)1(),1(),0(ˆNxxxg)()()(:)()(:10nwnsnxHnwnxH)1(),1(),0()(NxxxTnf1.3统计信号处理的发展历史基础理论：统计推断的假设检验理论1、贝叶斯定理：ThomasBayes（1702-1761）以最大后验概率估计参数先验知识的应用1758年，AnessaytowardssolvingaProblemintheDoctrineofChances”1763年，AlettertoJohnCanton”SchoolofElectronicsandInformationEngineering9/30niiiiiiAPABPAPABPBAP1)()|()()|()|(1.3统计信号处理的发展历史基础理论：统计推断的假设检验理论2、参数估计中的评价函数：Pierre-SimonLaplace(1749-1827)以真值和估计值间的单调函数作为评价标准CarlFriedrichGauss(1777-1855)1794，最小二乘法1801，用于计算小行星谷神星轨道SchoolofElectronicsandInformationEngineering10/30)ˆ(wg2ˆg1.3统计信号处理的发展历史基础理论：统计推断的假设检验理论3、稳定分布和广义中心极限定理：PaulPierreLévy（1886-1971）稳定分布Alpha稳定分布1925广义中心极限定理1937有限方差的随机变量和的分布趋向正态分布。具有无限方差的随机变量和的分布趋向稳定分布f(x;α,0,c,0)。SchoolofElectronicsandInformationEngineering11/30))2/tan()(1(exptsngictit1.3统计信号处理的发展历史基础理论：统计推断的假设检验理论4、显著性检验和最大似然法RonaldFisher（1890-1962）1920，显著性检验最大似然法Fisher信息似然函数SchoolofElectronicsandInformationEngineering12/30);(Xf2);(ln)(XfEI1.3统计信号处理的发展历史基础理论：假设检验统计推断的假设检验理论4、假设检验和矩的理论KarlPerson（1857-1936）线性递归和矩的理论JerzyNeyman（1894-1981）假设检验：Neyman-Person公式（1933）假设H1成立的似然比检验为SchoolofElectronicsandInformationEngineering13/301100::HH)|()|()(10xLxLx)|)((0HxP1.3统计信号处理的发展历史基础理论：假设检验统计推断的假设检验理论5、代价和风险原则、极大极小原理AbrahamWald（1902-1950）不同的判决有不同的代价代价最小的检验极大极小原理（1939）最小化最大可能损失统计假设的序贯检验SequentialTestsofStatisticalHypothesesSchoolofElectronicsandInformationEngineering14/301.3统计信号处理的发展历史应用技术：统计方法的信号处理1、维纳滤波NorbertWiener（1894-1964）1941，反飞机武器的自动瞄准系统信息的通信可以看作一个统计学问题最佳准则，使得系统性能可以被计算1949，维纳滤波器估计噪声中的信号最小方差准则，寻找最佳函数g(t)使得误差函数最小预测、滤波、平滑SchoolofElectronicsandInformationEngineering15/30)()()()(tntsgtx)()()(txdtste1.3统计信号处理的发展历史应用技术：统计方法的信号处理2、卡尔曼滤波RudolfE.Kalman（1930-）2008CharlesStarkDraperPrize德雷珀奖1960,”Anewapproachtolinearfilteringandpredictionproblems”,随机离散系统的状态估计问题1961,和R.S.Bucy一起”NewResultsinLinearFilteringandPredictionTheory”,连续时间系统的状态估计问题将维纳滤波问题扩展到非平稳的多入多出系统应用广泛SchoolofElectronicsandInformationEngineering16/301.3统计信号处理的发展历史应用技术：统计方法的信号处理3、匹配滤波器(MatchFilter)D.O.NorthAnanalysisofthefactorswhichdeterminesignal/noisediscriminationinpulsedcarriersystems”,1943最大输出信噪比准则:从噪声和信号的统计特性出发,最佳线性滤波器的传递函数为信号检测的基础理论相关接收机SchoolofElectronicsandInformationEngineering17/300)()(*tjecSH1.3统计信号处理的发展历史应用技术：经典的统计信号处理20世纪50-60年代使用统计的假设检验、参数估计、序列分析等信号检测、估计等特点：高斯过程自相关、互相关函数统计量为二阶中心极限定理解决平稳、线性过程问题一般为单入单出系统SchoolofElectronicsandInformationEngineering18/301.3统计信号处理的发展历史现代统计信号处理20世纪60年代至今统计理论高阶统计量和高阶谱低阶a稳定分布估计理论：自适应滤波粒子滤波数据融合信号检测理论CFAR检测非参量检测分布式检测量子检测现代统计信号处理处理方法时频分析神经网络盲信号处理PCA/ICA针对问题阵列信号处理非平稳非线性特点：非高斯过程统计量为高阶或低阶广义中心极限定理解决多入多出问题SchoolofElectronicsandInformationEngineering19/301.4统计信号处理数学基础1、随机过程1.1一些定义对任意时刻，x(t)是一个随机变量，均值定义为方差定义为自相关函数协方差函数SchoolofElectronicsandInformationEngineering20/30dxtxxptxEtmx),()()()()()()()(2222tmtxEtmtxEtxxx212121212121),,,()()(),(dxxdttxxpxxtxtxEttRx)()(),()()()()(),(2121221121tmtmttRtmtxtmtxEttCxxxxxx1.4统计信号处理数学基础1、随机过程1.2平稳性严格平稳（狭义平稳）广义平稳实际意义与实际信号的观测量或指标相关正态随机过程的一般性SchoolofElectronicsandInformationEngineering21/31),,(),,,()(),(),,,,,(),,,,,(2121211111xxpttxxpxptxpttxxpctctxxpNNNN)(),()(21xxxxRttRmtm1.4统计信号处理数学基础1、随机过程1.2功率谱随机过程x(t)的功率谱单位频带内信号的频谱分量消耗在单位电阻上的平均功率的统计均值从频域角度描述随机过程的统计特性,仅表示功率分布,不包含相位信息与相关函数的关系SchoolofElectronicsandInformationEngineering22/302)(21lim)(TTxXTEGTTtjTdtetxX)()(deRGjxx)()(deGRjxx)()(1.4统计信号处理数学基础1、随机过程1.