第三章估计理论1.估计的分类矩估计:直接对观测样本的统计特征作出估计。参数估计:对观测样本中的信号的未知参数作出估计。待定参数可以是未知的确定量,也可以是随机量。点估计:对待定参量只给出单个估计值。区间估计:给出待定参数的可能取值范围及置信度。(置信度、置信区间)波形估计:根据观测样本对被噪声污染的信号波形进行估计。预测、滤波、平滑三种基本方式。已知分布的估计分布未知或不需要分布的估计。估计方法取决于采用的估计准则。2.估计器的性能评价无偏性:估计的统计均值等于真值。渐进无偏性:随着样本量的增大估计值收敛于真值。有效性:最小方差与实际估计方差的比值。有效估计:最小方差无偏估计。达到方差下限。渐进有效估计:样本量趋近于无穷大时方差趋近于最小方差的无偏估计。一致性:随着样本量的增大依概率收敛于真值。Cramer-Rao界:其中为Fisher信息量。3.最小均方误差准则模型:假定:是观测样本,它包含了有用信号及干扰信号,其中是待估计的信号随机参数。根据观测样本对待测参数作出估计。最小均方误差准则:估计的误差平方在统计平均的意义上是最小的。即使达到最小值。此时从而得到的最小均方误差估计为:即最小均方误差准则应是观测样本Y一定前提下的条件均值。需借助于条)()(1FV2212122);,(ln);,(ln)(mmyyypEyyypEF)(),()(tntsty)(tnTN),,,(21),(ts)ˆ()ˆ()ˆ,(2TEeE0)ˆ,(ˆ2MSEeEdddYfYMSE)|()(ˆ件概率密度求解,是无偏估计。4.线性最小均方误差准则线性最小均方误差准则:限定参数估计结果与观测样本间满足线性关系。即待估计参数是观测信号的线性函数。即若,则有对于任意的B,估计的均方误差为:对B求一阶偏导数,并使其等于0,可得到即其中是观测样本的自相关矩阵,是待测参量与观测样本的互相关矩阵。若可逆,从而得到线性最小均方误差解为,即需借助于两个相关函数求解。5.最小二乘估计最小均方误差准则下的估计是观测样本Y一定前提下的条件均值,需借助于条件概率密度求解。线性最小均方误差准则通过增加一个待估参数与观测样本之间满足线性关系的约束,可以放宽对后验概率密度的要求,但仍需借助于两个相关函数求解。最小二乘准则是一种在先验信息要求上较为宽松的估计准则。模型假设:观测样本满足线性观测方程。且在M次观测过程中待测参数值保持不变。观测方程为:其中Y是观测样本矩阵,H为观测矩阵,θ是待估计参数,N为观测噪声。性能评价指标及优化准则:瞬时误差平方值最小化。即令为最小。通过对求偏导数并使其等于0,得到若存在逆矩阵,则得到最小二乘估计为:可见,最小二乘估计,只需知道观测方程的观测矩阵H,对于待估计参数、观测样本、观测噪声的统计特性,不需要任何先验知识,这是其非常具有吸引力的一个重要原因。简单,实用。若噪声是零均值的,最小二乘估计是无偏估计。最小二乘估计是观测样本的线性估计。加权最小二乘估计:BYAˆ0YEEBYAˆ,0BYBYEEeETT)ˆ()ˆ()ˆ,(20TYBYETTYEYYEBTYYYERTYYERYRYRRYYLMSE1ˆNHY]ˆ[]ˆ[)(HYHYTˆ0]ˆ[LSTHYHHHTYHHHTTLS1][ˆ通过加权处理可以使最小二乘估计的估计误差降低。加权最小二乘估计的性能优化准则为:通过对求偏导数并使其等于0,得到若存在逆矩阵,则得到最小二乘估计为:加权最小二乘估计是观测样本的线性估计。当观测噪声均值为零时,加权最小二乘估计是无偏估计;当时,加权最小二乘估计的误差矩阵可达到其最小值。此时估计值为有效估计。6.最大似然估计观测样本Y一定,已知似然函数,θ为似然函数的参量,所谓θ的最大似然估计是指:由于对数函数为单调递增函数,最大似然估计也可以定义为:对指数型概率密度函数,这样定义计算上更方便。也可以由以下方程求出:若观测样本Y满足线性方程,N为均值为零矢量,自相关矩阵为R的高斯噪声,θ的最大似然估计为:估计误差矩阵为:对高斯噪声背景,当加权最小二乘估计取最优加权值时,二者相等。即当时,重要性质:对某个特定的估计问题,如果存在有效估计,最大似然估计必是其中之一。对于某个估计问题,有效估计不一定存在。如果有有效估计,则有效估计未必唯一(即,达到CLRB下限的最小方差有多个)高斯白噪声背景下正弦信号的最大似然估计:假定观测样本为:其中为未知确定量。噪声是零均值高斯白噪声;即为未知量。幅度估计:归一化的幅度谱相位估计:相位谱的相反数频率估计:幅度谱平方为最大时的频率其中和分别为观测样本的傅里叶变换及其相位谱函数。]ˆ[]ˆ[)(HYWHYTˆ0]ˆ[LSWTHYWHWHHTWYHWHHTTLS1][ˆ1NRW)|(Yf),(maxˆYfML),(lnmaxˆYfML0|)|(lnˆMLYfYHRHRHTML111][ˆNHYHRHETTMLML1)ˆ)(ˆ(1NRW1|ˆ)ˆ.(ˆNRWLSWLSWMLOpt1~~~,,1,0Ninsyiii,,0)cos(AAiAsi22,1~~~,,1,0),,0(NiNni|)(|2ˆYNA)(ˆY2|)(|maxˆY)(|)(|)(jeYY)(7.最大后验估计在观测样本Y一定的前提下,若已知待估计量θ的后验概率函数为,对于θ的最大后验估计为:最大后验估计可由以下方程求解:由于是单调递增函数,因此亦可由以下方程求出:根据贝叶斯定理可得如下关系式当θ服从均匀分布时,8.贝叶斯估计贝叶斯估计:平均估计代价最小的估计。首先要规定代价函数,用于表示当真值为θ,估计为时所付出的代价。估计的统计平均代价为:所谓的贝叶斯估计就是使上述平均估计代价为最小的估计。即常用的代价函数包括:平方误差:;等价于最小均方误差估计。单位误差:等价于最大后验估计;若后验概率均匀分布,均值后验概率的中位数。绝对值误差:9.加性高斯白噪声中的幅度估计假设脉冲信号其它参数均为已知,只有幅度需要估计。接收信号样本为:其中幅度a为随机变量或未知常量。通过似然函数求偏导得到:从而得到最大似然估计为:其中E为脉冲信号能量。上式表明幅度的最大似然估计可以看作是匹配滤波器或拷贝相关器的输出。)|(Yf)|(maxˆYfMAPMAPˆ0)|(ˆMAPYf)ln(MAPˆ0)|(lnˆMAPYf)()|()()|(fYfYfYf0)(ln)|(lnˆMAPfYfMLMAPˆˆ)ˆ,(Cˆ)()(),()ˆ,()ˆ(YdYdYfCC)()|()ˆ,()ˆ(dYfCC2)ˆ()ˆ,(AC2/|ˆ|2/|ˆ|0)ˆ,(AC|ˆ|)ˆ,(ACkinasyiii1,0)(1iikiisasykiiikiiikiiMLssysyEa1211/1ˆ估计是无偏的,误差方差是,数值上达到了CRLB,是有效估计。10.高斯白噪声中的非相干幅度估计假设脉冲信号为正弦波,载波相位未知,且服从均匀分布,观测信号可表示为:其中是已知的载波频率,是采样间隔。通过令似然函数最大化,可得最大似然估计:其中,利用正交接收机得到的包络。大信噪比时的估计为:高信噪比时是无偏的,小信噪比情况下是有偏的。11.高斯白噪声中的非相干相位估计假设脉冲信号为正弦波,载波相位未知,且服从均匀分布,观测信号可表示为:脉冲信号,幅度a、相位φ未知,其它参数已知。似然函数,即接收信号的条件概率密度为:其中K是与a、φ独立的常量。通过求对数似然函数的最大值,可以得到最大似然估计为:解方程,得到:由于相位在(-π,π)区间上服从均匀分布,最大后验估计与最大似然估计一致。同为正交接收机反正切。在高信噪比条件下为有效估计。12.高斯白噪声中主动系统的时延估计主动方式模型:对于接收信号的连续形式,在信号波形参数确知条件下,对应的最大似然接收机即为匹配滤波器,匹配滤波器的峰值位置对应于接收信号后沿位置的最大似然估计时延估计值。折算成前沿位置需减掉信号的脉宽。对于数字化后的离散形式,拷贝相关器将会受到采样带来的时延量化误差和相位失配造成的波形失配引起的输出信噪比降低的双重影响。采用正交接收机可以对量化误差及失配进行补偿。此时的时延估计精度主要由相位估计精度决定。E/2kinitfayisi1,)2sin(00fst)|(lnayf)ˆ()ˆ(ˆ2021EMLEMLEMLyaIyaIEyaaEyyyQIE22iyyiyykiiQkiiIcos,sin11EyaEML/ˆkinitfayisi1,)2sin(0)4sincosexp(),|(2222kaayayKayfQI0ˆcosˆsin),|(ln22QIayayayfMLIQMLyyˆ)/arctan(ˆMLˆ)()()(tntasty影响时延估计效果的主要因素:信号处理方法;(不同的方法估计效果不一样)信号波形参数:带宽;(峰值的尖锐程度,带宽越宽,峰越尖锐)系统带宽;信号的包络形状(影响前沿的陡峭程度,不是总用拷贝相关器(拷贝相关器用后沿检测))多普勒偏差。(多普勒导致脉宽变了)采样、量化;(时间轴上的量化会导致峰值采不到,波形对不齐导致峰值降低)信道:(1)多途效应。(发一个信号接收多个信号,并且多个接收信号的时延不同)(2)干涉:同相叠加,反向抵消。信噪比、信号幅度起伏的影响。背景噪声的分布(SNR越高,时延估计精度越好。背景噪声的随机性随时间起伏会影响估计精度)CRLB:高信噪比条件下的有效估计。常用的时延估计技术:匹配滤波器;相关处理器;粗测与精测。基于前沿检测的时延估计器。(单频窄脉冲)13.高斯白噪声中被动系统的时延估计主被动系统时延估计的差别:关于信号的先验波形、参数信息;单程传播、同步信息的获取;背景噪声与信道条件;通常只能测时延差,不能测绝对时延。处理方法:互相关:互谱:后果:被动系统测距能力差,测向能力通常较好;影响因素:信噪比:估计方差反比于信噪比。20222222min)/2(12/1)ˆ()ˆ(sssBNEBEBaVar带宽:估计方差反比于有效带宽的平方。决策:采用宽带信号测量对时延估计有利。通过滤波(广义滤波,时、频、空域滤波)提高信噪比。14.频率估计多普勒估计与未知频率线谱估计理论上的最佳脉冲信号多普勒频率估计器多路并联的匹配滤波器组,沿频率轴扫描;(物理上实现困难)物理上实用的频率估计技术:离散傅里叶变换、周期图:不是无偏估计、也不是最小方差估计;渐进无偏、渐进最小方差估计,一致估计局限性、主被动系统的差异;影响频率估计精度的因素;CRLB:反比于信噪比、反比于有效持续时间的平方。信号类型、参数的影响:窄带信号(单频填充CW脉冲),脉宽长。提高频率估计精度的有效措施:提高信噪比增大脉宽、码宽,补零基于相位测量(对时间求导)、瞬时频率测量等技术进行精测或补偿。15.时延和频率的联合估计宽带处理有利于时延估计;增大信噪比增加信号的持续时间、长时间积分有利于频率估计;对二者都有利。对信