假设检验1信号检测与估计第第五五章章假假设设检检验验--HHyyppootthheessiissTTeessttiinngg本章研究的问题:统计假设检验(statisticalhypothesistesting)。给定观测样本和几种可能的概率分布,昀优地确定出当前数据服从那一种分布。统计假设检验在数学上属于决策论(decisiontheory)的范畴。在工程上,通常称为检测理论(detectiontheory)。假设检验2信号检测与估计问题如何提出:雷达需要从回波信号中判断有无目标存在,通信需要判断接收到的究竟是几个可能的发射信号中的哪一个○1。由于接收机热噪声、信道畸变或目标起伏,使得我们观测到的信号具有不确定性○2,因此有必要运用统计的方法来指导我们进行选择。统计假设检验就是根据观测样本对几种可能的假设做出选择。具体到信号检测问题,就是按照一定准则,设计昀佳接收机,然后判断传假设检验3信号检测与估计送的信息究竟是“0”还是“1”或是“有”还是“无”目标○3。昀佳接收机的设计是建立在对系统进行建模的基础之上,建立的模型决定了在各种可能条件下接收信号的概率分布。昀佳接收机的设计包含三个步骤:确定系统模型,并按照某种昀优准则设计接收机,昀后对接收机的性能进行评估。本章重点讨论昀后两点○4。假设检验4信号检测与估计55..11引引言言--iinnttrroodduuccttiioonn假设检验5信号检测与估计55..22简简单单检检测测问问题题--AASSiimmpplleeDDeetteeccttiioonnPPrroobblleemm假定消息取值为0m(比如0)或1m(比如1),由于事先并不知道传递的是什么消息,所以将其视作取值为0m或1m的随机变量m,各自出现的概率分别为0P和1P:()000)(PmmPHP===()111)(PmmPHP===这里,)(0HP和)(1HP称为先验概率。假设检验6信号检测与估计传输信道将零均值高斯随机噪声n附加到消息上,使得所呈现的数据成为随机变量nmy+=。通过对接收数据y的处理,根据一定的规则判断所发送的消息是0m还是1m,同时在平均的意义上评估此判决策略的优劣。设噪声方差为2nσ,则所关心的两种情况0m和1m,分别对应于接收数据y的两种不同概率密度。在这两种情况中,y都是方差为2nσ的高斯变量,但均值分别为0m或1m,即假设检验7信号检测与估计]2/)(exp[)2()(2202/120nnmyypσπσ−−=−或]2/)(exp[)2()(2212/121nnmyypσπσ−−=−(1)一个合理的策略是,根据接收到的y值,判断哪个假设昀有可能出现。即若)|()|(01yHPyHP(2)则选择1H假设,称为昀大后验概率准则(MAP)。假设检验8信号检测与估计(2)式中的昀大后验概率准则也可以表示为)|()|(01dyyYyHPdyyYyHP+≤≤+≤≤时选择1H。因为()()ypHPypdyypHdyPypdyyYyPHPHdyyYyPdyyYyHPyy)()()()()()()|()|(1111111==+≤≤+≤≤=+≤≤类似的,假设检验9信号检测与估计()ypHPypdyyYyHPy)()()|(000=+≤≤所以判决规则成为,若())()()()(1010HPHPypypy=λ(3)则选择1H,即1mm=。)(0yp和)(1yp都称为似然函数(likelihoodfunction),)(yλ称为似然比(likelihoodratio),不等式右边为门限(threshold)。上述判决规则称为似然比检验(likelihoodratiotest)。对数似然比定义为:假设检验10信号检测与估计()[])()(lnln10ypypy=λ(4)与似然比成单调关系。将(1)式中两种假定的高斯密度代入(4),并假定01mm,则得到下面的法则。若2/)()/ln()]/([0110012mmPPmmyynt++−=σ(5)则选择1H,反之选择0H。也就是说,可将接收信号的y值与某一门限比较。该例子中,数据y称为检验统计量(teststatistic),即接收机要计算的量。假设检验11信号检测与估计图5.1是针对1,1,010===nmmσ的特例。图5.1二元检验假设情况下的条件概率密度以及样本空间的对分。区域1与区域2表明了错误概率)|(01HDP与)|(10HDP。假设检验12信号检测与估计(5)式为通信系统指定了昀大后验概率接收机的形式。为了评价其性能,下面我们计算错误概率。错误的类型有两种:消息为0m时判为1m,第一类错误,或称虚警(falsealarm),虚警概率为)|(01HDP。消息为1m时判为0m,第二类错误,。或称漏检(misseddetection),漏检概率为)|(10HDP。【)|()|(11110HDPHDP=−称为检测概率】上述例子中,仍然假定01mm,则虚警概率为假设检验13信号检测与估计∫∫∞+−∞−−=−−==2/)/ln()/1(22/12202/120011012exp)2(2)(exp)2()|()|(ααπσπσPPynntduudymyHyyPHDP漏检概率为∫∫−∞−−∞−−−=−−=≤=2/)/ln()/1(22/12212/121101012exp)2(2)(exp)2()|()|(ααπσπσPPynntduudymyHyyPHDP(6)假设检验14信号检测与估计其中nmmσα/)(01−=如果01mm,(6)式保持不变,但nmmσα/)(10−=。所以定义nmmσα/||01−=(7)其中可将参数α或它的函数定义为“信噪比”(SNR)。图5.2给出了以(7)式中信噪比SNR为参量时,)|(01HDP和)|(1)|(1011HDPHDP−=的关系曲线。图5.2也是接收机工作特性(Receiveroperatingcharacteristic,ROC)的一种形式。假设检验15信号检测与估计图5.2(5.6)式与(5.7)式中的二元检测的接收机工作特性曲线,10PP=,SNR为a.假设检验16信号检测与估计在通信系统中,通常对于如(6)式和(7)式那样单独考虑两类错误概率不感兴趣,而是关注总的平均错误概率。由于事件0mm=与1mm=是互斥的,所以平均错误概率为)()|()()|(110001HPHDPHPHDPPe+=(8)图5.3中以()0HP为参数画出了信噪比(7)式和平均错误概率(8)式的关系曲线。当0=α时,噪声湮没了信号,接收机根据先验概率)(),(10HPHP来选择,此时如果)()(10HPHP,则总是选择1H为真,相应的错误概率为)(0HP。由(6)假设检验17信号检测与估计式可知,此时1)|(01=HDP,0)|(10=HDP反之,如果)()(10HPHP,则总是选择0H为真,相应的错误概率为)(1HP。对于特殊情况2/1)()(10==HPHP,由式(6)与(8)可得duuduuHDPHDPPe)2/exp()2()2/exp()2()|()|(2/22/12/22/11001∫∫−∞−−∞−−=−===ααππ这就是图5.3昀上方的曲线。假设检验18信号检测与估计图5.3二元高斯信道的错误概率(5.8)式,以(5.7)式中的信噪比为参量假设检验19信号检测与估计55..33贝贝叶叶斯斯准准则则--BBaayyeess’’CCrriitteerriioonn根据判决策略的各种后果的代价,可以建立评判策略优劣的实用和普遍的标准。一旦指定了代价,就可对所使用的特定判决方法的平均代价进行计算,并选择使平均代价昀小的方法。设作出的判决是iD,即数据产生时认定iH假设为真,而事实上此时jH假设才是正确决策。如果ji=,则作出的决策是正确的,而当ji≠时则作出了错误的判决。假设检验20信号检测与估计令ijC为当jH为真时选择iH的代价,错误决策的代价大于正确决策的代价:0,−≠jjjjiCC对所有ji,(1)本节先假定问题是二元的。决策的平均代价为()())]|()|([)]|()|([111110011011000000HDPCHDPCHPHDPCHDPCHPC+++=(2)由于∫=1)()|(001RdyypHDP假设检验21信号检测与估计∫=1)()|(111RdyypHDP(3)并且)|(1)|(0100HDPHDP−=,)|(1)|(1110HDPHDP−=,则得到如下形式的平均代价:()()()()dyypCCHPypCCHPCHPCHPCR)]()()()([1110110001000110001−−−++=∫(4)昀终目的是按照使平均代价(4)式昀小的原则来选择1R。因此,应使被积函数中为负的所有点都归入1R中,因为这样可以使平均代价昀小。即当假设检验22信号检测与估计()()0)()()()(111011000100−−−ypCCHPypCCHP时选择1H,或等价地,当()()tCCHPCCHPypypyλλ=−−=)(/)()(/)()(110110010001(5)时选择1H。使风险昀小的贝叶斯准则又一次用到了似然比检验。与前面的昀大后验概率准则以及后面的纽曼—皮尔逊准则相比,除了所用门限不同外,其余形式是一样的。事实上,如果选择代价使得11010010CCCC−=−,那么昀大后验概率准则就是贝叶斯准则的一个特例。假设检验23信号检测与估计55..44最最小小错错误误概概率率准准则则--MMiinniimmuummEErrrroorrPPrroobbaabbiilliittyyCCrriitteerriioonn在二元通信系统中,两类错误的代价是相同的。因此合理的代价是,01100==CC,cCC==1001,并使平均代价式昀小:()()ecPHDPHPHDPHPcC=+=)]|()|([101010(1)其中eP为错误概率。由于c是常数,所以使平均代价昀小化等价于使eP昀小化。因此对于接收数据假设检验24信号检测与估计y,应该在()()1001/)(/)()(HPHPypypy=λ(2)时选择1H,反之选择0H.这也就是前面使用昀大后验概率准则的检验。例5.4在二元通信系统中,假定()()2/110==HPHP。系统的模型为在消息0=m和1=m之间进行选择,信号在传输过程中受到期望为零,方差为12=nσ的高斯噪声的污染。接收数据nmy+=是期望为0或1的单位方差高斯假设检验25信号检测与估计随机变量,使用昀小错误概率准则,将)(0yp和)(1yp用相应的高斯密度代入(2)式,接收机变为以下规则:如果21=tyy,选择1=m(3)此接收机的虚警和检测概率分别为:309.0)2/exp()2()|(2/122/101=−===∫∞−duuHDPPfπ691.0309.01)2/exp()2()|(2/122/111=−=−==∫∞−−duuHDPPdπ两类错误的概率是相等的:309.01)|(309.0)|(1001=−===dfPHDPPHDP假设检验26信号检测与估计且它们都等于平均错误概率:309.0)|()|(10210121=+=HDPHDPPe(4)对于本例,“信噪比”1/=∆=nmσα,在图5.3中对应于()()2/110==HPHP的曲线,由1=α可以找出31.0=eP.假设检验27信号检测与估计55..55纽纽曼曼--皮皮尔尔逊逊准准则则--TThheeNNeeyymmaann--PPeeaarrssoonnCCrriitteerriioonn在雷达和声纳领域,Neyman-Pearson准则更为适用。该准则要求在给定虚警概率fP的条件下,使检测概率dP昀大,即要求∫=1)(max)|(max111RdyypHDP∫==1)()|(001RfPdyypHDP(1)此处y代表获得的任何数据(可能是多维的),1R是y空间中判决1D成立的区域,)(0yp,)(1yp为似然函数。假设检验28信号检测与估计N-P