2011《信号检测与估计》复习纲要“信号检测与估计”理论是现代信息科学的一个重要组成部分,它是把所要处理的问题,归纳为一定的“数学模型”→运用“概率论”、“随机过程”、“数理统计”等数学工具→以普遍化的形式提出,以寻求普遍化的答案和结论,并且理论与工程实践相结合,以雷达系统、通信系统、声纳系统为主要研究对象,主要内容包括:随机信号与噪声理论(TheTheoryofRandomSignalsandNoise)——分析随机信号与噪声的数学工具统计判决(检测)理论(StatisticalDecisionTheory)——研究在噪声干扰背景中,所关心的信号是属于哪种状态的最佳判决问题(DetectionofSignalsinNoise)参量估计理论(EstimationTheoryofSignalParameters)——研究在噪声干扰背景中,通过对信号的观测,如何构造待估计参数的最佳估计量问题(EstimationofSignalParameters)滤波理论(FilteringTheory)——为了改善信号质量,研究在噪声干扰中所感兴趣信号波形的最佳恢复问题,或离散状态下表征信号在各离散时刻状态的最佳动态估计问题(EstimationofSignalWaveform)复习重点:信号检测与参量估计信号检测:根据有限观测,“最佳”区分一个物理系统不同状态的理论参量估计:根据有限观测,“最佳”找出一个物理系统不同参数的理论如何选择一个估计量&估计量选择的决策过程是一个多维问题信号处理问题先验知识先验知识新的数据模型或取更多的数据PDF已知前二阶矩已知计算后验PDF均值使后验PDF最大是是是是是是是否否否否否否是PDF已知满足CRLB完备充分统计量存在计算MLE计算矩法估计量使之无偏噪声中的信号线性信号前二阶噪声矩已知是是是是是是是是否否否否否否否否LMMSE估计量否MMSE估计量MAP估计量MVU估计量MVU估计量MLE矩估计量LSEBLUE否否经典方法贝叶斯方法如何选择一个检测器-二元信号检测先验已知P(H0),P(H1)选择NP准则代价已知CijC00=C11=0C01=C10=0P(H0)=P(H1)数据PDF已知数据PDF已知指定先验PDF数据PDF已知指定先验PDF指定先验PDF否是否否否否否否否否否是是是是是是是是是贝叶斯风险(3)MAP(2)ML(2)尝试NP准则或其它方法数据PDF已知线性信号模型指定先验PDF只有未知信号线性信号模型是是是是是否否否否否LRT(16)LRT(1)LRT(7)LRT(7)LRT(20)信号参数未知噪声参数未知信号和噪声参数未知高斯噪声线性信号模型噪声IID线性信号模型高斯噪声白高斯噪声线性信号模型线性信号模型是是是是是是是是是是否否否否否否GLRT(17)GLRT(8,11)Rao(10,13)LMP(14)Rao(21)GLRT(8,11)Rao(10,13)LMP(14)GLRT(6)GLRT(11)Rao(13)GLRT(18)GLRT(11)Rao(13)Rao(19)GLRT(11)Rao(13)二元假设检验的最佳贝叶斯方法二元假设检验的最佳Neyman-Pearson方法复合二元假设检验的准最佳方法如何选择一个检测器-多元信号检测*注:ARMA:自回归滑动平均BLUE:最佳线性无偏估计CFAR:恒虚警率CRLB:Cramer-Rao下限EM:数学期望最大化GLRT:广义似然比检验IID:独立同分布LLR:对数似然比LMMSE:线性最小均方误差LMP:局部最大势LRT:似然比检验LSE:最小二乘估计LSI:线性时不变MAP:最大后验概率MLE:最大似然估计MMSE:最小均方误差估计MVU:最小方差无偏NP:Neyman-Pearson准则PRN:伪随机噪声RBLS:Rao-Blackwell-Lehmann-Scheffe定理ROC:接收机工作特性UMP:一致最大势WGN:白色高斯噪声WSS:广义平稳先验已知P(Hi),i=0,1,„,M-1代价已知CijCij=dijP(Hi)=1/M数据PDF已知数据PDF已知指定先验PDF数据PDF已知指定先验PDF指定先验PDF否是否否否否否否否否否是是是是是是是是是贝叶斯风险(5)MAP(4)ML(4)尝试广义ML准则(15)多元假设检验的最佳贝叶斯方法2011《信号检测与估计》复习参考题参数估计部分:1.基本概念理解:最小方差无偏估计,最佳线性无偏估计,最大似然估计,最小二乘估计,矩方法估计,最小均方误差估计,最大似然估计,线性最小均方误差估计,一般(经典)线性模型和贝叶斯线性模型。2.观测数据为{[0],[1],,[1]}xxxN,其中[]xn是独立同分布的且服从2(0,)N,利用下式估计方差2,即12201ˆ[]NnxnN这是无偏估计吗?求2ˆ的方差,并考察当N时会发生什么情况?3.如果观测到数据[][],0,1,,1xnAwnnN,其中噪声数据[[0],[1],,[1]](,)Tw0C,求A的CRLB。有效估计量存在吗?如果存在请求出它的方差。4.解答:5.观测数据样本{[0],[1],,[1]}xxxN是IID的,服从如下分布:(1)拉普拉斯1([];)exp[|[]|]2pxnxn(2)高斯211([],)exp([])22pxnxn求两种情况下均值的BLUE。解释一下的MVU估计。解:a)从题目可以知道,~(,1)xLaplace。那么该拉普拉斯分布的方差为22var()2/12x。因此,2SICI(S为比例项,C为协方差)BLUE为11101[]TNTnSCXxnSCSN在拉普拉斯分布时,BLUE并不是最小方差估计量。b)从题目可以知道,~(,1)xN。那么该高斯分布的方差为var()1x。因此,SICIBLUE为11101[]TNTnSCXxnSCSN高斯分布时,BLUE和MVU等效。6.某种电子器件有效工作时间t的分布为0()00tetftt若采集了N次实验数据,同一类型电子器件在同样工作条件下所得有效工作时间分别为12,,,NTTT,求的最大似然估计。解:从题目可以知道,似然函数为11(;)exp()exp()NnnNNnnPTTT两边取对数1(,)ln(;)lnNnnLTPTNT求导数1(,)0NnnLTNT那么的MLE为1NnnNT7.从PDF2(,)NA观测到N个IID样本,其中2,A皆未知,求22/SNRA的MLE。解:从题目可以知道,估计参数为2[,]A似然函数可以表示为1221/22011(;)exp[](2)2NnPXxnA两边求对数,并分别对A和sigma求导数,可以得到估计参数的MLE,如下21112000111[,](),()()NNNnnnAxnxnxnNNN2102211001()ˆ/11()()NnNNnnxnNAxnxnNN8.对于信号模型01[]1AnMsnAMnN求A的LSE以及最小LS误差。假定观测为[][][],0,1,,1xnsnwnnN,如果[]wn是方差为2的WGN,求LSE的PDF。解:令[[0],[1],...,[1]]TSsssN,A,那么信号模型可以写成如下SH其中H为观测矩阵,且11MNMH,1M表示M维[1,1,1...,1]T。那么111()()THHMNMN则11101ˆˆ()()()MNTTnnMAHHHxxnxnN最小LS误差为21112min001()()()NMNnnnMJxnxnxnN下面讨论LSE的分布:2221ˆ()(())1ˆ()EAMANMAANVarAMNMNN由此可见2ˆ~(,)ANAN。9.如果N个IID观测{[0],[1],,[1]}xxxN服从2(,)N,求2[,]T的矩方法估计量。解:高斯分布的一阶矩和二阶矩为222[][]EXEX那么101ˆ()NnxnN211220011ˆ()()NNnnxnxnNN10.解:11.如果观测数据[](0,1,,1)xnnN具有PDF22211([]|)exp([])22pxnxn在给定的条件下,[]xn是相互独立的。均值具有先验PDF200(,)N,求的MMSE和MAP估计量。另外,当200和20时将发生什么情况。解:均值的后验概率为(|)()(|)(|)()pXppXpXpd对于分母来说,为定值,一般不作考虑。故而后验概率可以写成如下形式12202222000(|)(|)()1111exp([])exp()2222NNnpXpXpxnu两边取对数求导如下:102200ln(|)()22([])()022NnpXpxn所以得到的MAP估计2200222200ˆNxNN因为x和为联合高斯分布,所以MMSE估计和MAP估计等效[教材P290]。所以MMSE估计和MAP估计相等。当200时,先验概率决定了数据的后验概率。而当20时,先验概率相当于均匀分布,而此时后验概率等于似然概率。信号检测部分:12.基本概念理解:虚警概率,漏警概率,检测概率,匹配滤波器,广义匹配滤波器,似然比检验,广义似然比检验,接收机工作特性(性能评估),恒虚警检测,常用检测准则(贝叶斯准则及其派生准则:纽曼-皮尔逊准则,最小平均错误概率准则,最大后验概率准则,最大似然概率准则,极小化极大准则)。13.考虑一个WGN中的信号00[]cos2(01/2)snAfnf的检测问题,其中0,1,,1nN,求1nN时刻匹配滤波器的信号输出。如果信号被延迟了0n(00n)个采样时刻,以至于我们收到的信号为0[]snn。应用原信号的同一个匹配滤波器,求在1nN时刻的输出信号与0n的函数关系。解:在WGN信道,][][)2cos(][][][0nwnwnfAnwnsnx为WGN。N-1时刻的匹配滤波器输出为:10010)2cos(][][][]1[NkNkkfAkxkxksNy;若信号被延迟0n,则][][0nnxnxd。此时,由于匹配滤波器不变,所以输出100010)2cos(][][][]1[NkNkdkfAnkxkxksNy。14.二元数字通信系统中,假设1H时信源输出电压为1,再假设0H时信源输出为0。信号在传输信道上叠加了均值为零,方差为21n的高斯噪声。试构造一个虚警率为0.1的NP接收机,并求出相应的检测概率。(已知(1.29)0.1Q,211()exp22xQxtdt)。解:假设进行了N次独立观测,有如下假设:01[]0,1,.......1:[]1[]0,1,.......1HnnNHxnnnN:x[n]=似然比:120211200211exp{([]1)}2(;)(2)()11(;)exp{[]}2(2)NNnNNnxnpxHLxpxHxn时,判1H成立等价于101ln1[]2NnxnNN时,判1H成立令ln12N’,即:101()[]'NnT