线性最小均方误差估计的估计规则

信号检测与估值2016年春季西电通院郑贱平第三章：统计信号估计3.1问题描述3.2随机参量的Bayes估计3.3ML估计3.4估计量的性质3.5线性最小均方误差估计3.6最小二乘估计信号检测与估值2016年春季23.1问题描述（信道估计为例）数字通信数据帧结构信道估计：根据yP、xP以及hP的统计信息，估计hP，即：(yP,xP,stat_info(hP))hP（如yP=hPxP+w)可行性：一般信道都是slowlytimevarying的（相干时间时延要求），因此hd≈hp其他估计问题：载波频率、相位、时延等导频xP数据xD1PP+1ND=N-Php,p=1,…,Phd,d=1,…,D收发端已知接收端未知PhaseI：信道估计PhaseII：信号检测信号检测与估值2016年春季3建模估计规则参量空间θ观测空间Rθxpxθˆ需要接收端作出估计的参量集合参量空间：观测空间：接收端收到的观测信号的集合概率映射：信源发送信号到接收端过程中，会有噪声的影响，观测信号中包含被估计矢量的信息，所以观测信号是以被估计矢量为参数的随机矢量，用来描述。θxp信号检测与估值2016年春季4建模本章的核心问题之一就是研究上述函数的构造方法，评估所构造估计量的优劣。估计规则：利用被估计矢量的先验知识和观测信号的统计特性，根据指标要求，构造观测矢量的函数来定义估计量。Nxxxgg,,,ˆ21xxθ估计量性能的评估估计量的均值估计量的均方误差ˆEθxxθθxθˆ~22ˆ~xθθxθEE信号检测与估值2016年春季53.2随机参量的贝叶斯估计常用代价函数贝叶斯估计的概念最小均方误差估计最大后验概率估计条件中值估计最佳估计的不变性信号检测与估值2016年春季6代价函数和贝叶斯估计2ˆ~c误差平方代价函数误差绝对值代价函数ˆ~c均匀代价函数1,/2ˆ0,/2cc贝叶斯估计：使平均代价最小的一种估计准则。代价函数的基本特性：非负性和时的最小性。0~信号检测与估值2016年春季7平均代价设被估计的单随机变量的先验概率密度函数为p平均代价C为ddpcCxx,~的函数和观测矢量是随机参量x~c易知代价函数在给定，选定代价函数的条件下，使平均代价最小的估计称为贝叶斯估计。p信号检测与估值2016年春季8平均代价xxxppp,由ddpcCxx,~ddppcxxx~xxxddpcp~是非负值，dpcx~因此使平均代价最小，就等价于使dpcCxx~ˆ最小。条件平均代价信号检测与估值2016年春季9RelationwithcostinM-aryDetection1100lim|limlim|limlim|lim,|,|,,iMMijijjMjiijijjMMjiijjjRMMjijjRMjRRCcPHHPHcPHHPHcPxHdxPHcjxPxHdxPHcxPxdxpdcxPxdxd估计：参数连续取值；检测：参数取自有限个离散点集合。信号检测与估值2016年春季10检测与估计的联系检测：参量的状态是有限的（M-ary检测）估计：参量的状态是连续的（比如实数域，复数域）当M∞时，检测就变成了估计用检测做估计：复杂度太高，不合适用估计做检测：可以，实际上经常这样用比如，在衰落信道y=hx+w的信号检测中，经常对信号先进行估计得到x的估计值x1（复数域上的任意值），然后将其量化到信号星座上的某个点，即检测值x2。无线通信中，有时候并不严格区分检测与估计信号检测与估值2016年春季11最小均方误差估计2ˆ~c选定的代价函数为dpcCxx~ˆdpx2ˆ使条件平均代价最小的一个必要条件是对上式中ˆ求偏导令偏导为零来求得最佳的估计量ˆ求解方法信号检测与估值2016年春季12最小均方误差估计ˆˆxCdpx2ˆˆdpx22ˆˆ2ˆ0ˆ22ˆˆmsedpdpxx1dpxdpmsexˆ信号检测与估值2016年春季13最小均方误差估计dpmsexˆ注：1.最小均方误差估计的估计量实际是条件均值xxEdpmseˆ2.最小均方误差估计的条件平均代价实际是条件方差dpCmsemsexx2ˆˆdpExx23.最小均方误差估计量的另一种形式dpmsexˆdppxx,dpdpxx,,dppdppxx信号检测与估值2016年春季14最大后验估计1,/2ˆ0,/2ccdpcCxx~ˆ选定的代价函数为ˆ2ˆ2ˆ2ˆ21pdpdpdxxx使条件平均代价最小，应该使取到最大值2ˆ2ˆdpx当很小时，为保证上式最大，应当选择估计量，ˆ使它处于后验概率密度函数最大值的位置。xpˆ2ˆ2ˆpdpxx信号检测与估值2016年春季15最大后验估计0ˆmappx根据上述分析，得到最大后验概率估计量为两种等价形式0lnˆmappx0lnlnˆmapppxxxxpppp信号检测与估值2016年春季16条件中值估计ˆ~c选定的代价函数为dpcCxx~ˆdpxˆˆˆˆˆdpdpxx使条件平均代价最小的一个必要条件是对上式中ˆ求偏导令偏导为零来求得最佳的估计量ˆ求解方法信号检测与估值2016年春季17条件中值估计ˆˆdpdpxxˆˆˆˆˆdpdpxxˆˆˆˆˆˆˆdpdpdpdpxxxxxxxxxxˆˆˆˆˆˆˆˆˆˆpdppppdpˆˆdpdpxx信号检测与估值2016年春季18例1研究在加性噪声中单随机参量的估计问题。观测方程为Nknxkk,,2,1,其中nk是均值为零，方差为的独立同分布高斯随机噪声2n被估计量是均值为零，方差为高斯随机变量2求的贝叶斯估计量(最小均方误差、最大后验和条件中值)信号检测与估值2016年春季19解：0lnlnˆmapppx根据最大后验估计准则，估计量为满足以下方程的解，即最大后验估计2222exp21p2222exp21nknkxxpNknknNkkxxpp122212exp21x由题设，可知，给定条件下，观测信号xk是均值为，方差为的高斯随机变量2n信号检测与估值2016年春季202212222lnlnNknkxppx2122222Nknkx所以最大后验估计量为满足以下方程的解02222ˆ212mapNknkxNkknmapxNN12221ˆ01ˆ2212mapnNknkNx2222exp21pNknknNkkxxpp122212exp21x信号检测与估值2016年春季21估计量的均方误差为2122221ˆNkknmapxNNEE21222NkknnNE2122222222NkknnnnNNNNE2224222224nnnnNNN2222222nnnNN2222nnN信号检测与估值2016年春季22根据最小均方误差估计准则，估计量为最小均方误差估计2222exp21p2222exp21nknkxxpNknknNkkxxpp122212exp21x由题设，可知，给定条件下，观测信号xk是均值为，方差为的高斯随机变量2ndpmsex信号检测与估值2016年春季23xxxppppx1KNknkNnxp1222222222exp21211xNknkkxxK1222221221expxNknknnnNkkxNxK12222222121221exp2expxx2K信号检测与估值2016年春季24NknknnxNK12222222221expxNknknnnnxNNK122222222222221expx212222222321expNkknnnxNNKx2122222222231/2expNkknnnnxNNNKKxx信号检测与估值2016年春季25212222222321expNkknnnxNNKpxx上述分布是高斯型的，其均值为NkknxN1222估计量的均方误差为方差为2222Nnn所以最小均方误差估计量为NkknmsexN122222222ˆNEnnmse信号检测与估值2016年春季26条件中值估计