第2章序贯检测与估计第2章序贯检测与估计信号检测与估计信号检测与估计本章内容2.1序贯检验判决规则2.2分批序贯检测2.3相关样本的序贯检测2.4复合假设序贯检验2.5序贯最小均方误差估计2.6序贯最小二乘估计•序贯检验:事先不规定样本数而留待实验过程中确定的假设检验方法。•基于修正纽曼-皮尔逊准则的二元序贯检验:在虚警概率和漏警概率的约束下,从所获得的第一个数据开始进行似然比检验,若能做出明确判决,检验结束;若不能做出判决,则采用新接收的数据与前面已有的数据按照同样的规则进行联合判决,直至能做出判决为止。2.1序贯检验判决规则faPα≤1DPβ−≤似然比判决规则为观测样本矢量,i为观测样本数,随着判决过程进行不断增加,直至做出判决为止。由给定的虚警概率和漏警概率决定。[]()12,,,,1,2,Tiixxxi==x()()()110001iiithHthHththλλλ≥⎧⎪≤⎨⎪⎩xxx判为判为增加一个样本,重新判决01,ththαβ判决域虚警概率()()()()()()()()()()()110011210011021310,,,PthHPthththHPthththththHαλλλλλλ=≥+≥+≥+xxxxxx()()()()()()()()()()()()101011201011021301,,,PthHPthththHPthththththHβλλλλλλ=≤+≤+≤+xxxxxx漏警概率可解得判决门限对数似然比判决规则为:110011lnlnlnln11thorththorthββααββαα−−⎛⎞≈≈⎜⎟⎝⎠⎛⎞≈≈⎜⎟−−⎝⎠()()()101lnlnlnln11lnlnln1iiiHHβλαβλαββλαα⎧−⎛⎞≥⎜⎟⎪⎝⎠⎪⎪⎛⎞≤⎨⎜⎟−⎝⎠⎪⎪−⎛⎞⎛⎞⎪⎜⎟⎜⎟−⎝⎠⎝⎠⎩xxx判为判为接收下一个数据平均样本数的计算若到第个样本时结束判决,即只存在或则iN=()0lnlnNthλ≤x()1lnlnNthλ≥x(){}()()(){}(){}11110011000lnlnln1lnlnlnNEHthPDHthPDHththENHExHλββλ≈+=−+≈x(){}()()(){}(){}01100001011lnlnlnln1lnlnNEHthPDHthPDHththENHExHλααλ≈+=+−≈x可以推出:{}()(){}{}()(){}101110001lnlnlnln1lnlnththENHExHththENHExHββλααλ−+≈+−≈则结束判决所需的平均取样数:{}()(){}()()(){}()10100101ln1ln1lnlnlnlnththththENPHPHExHExHααββλλ+−−+=+可以证明:当观测样本数趋于无穷时判决一定结束。例:二元假设检验其中的白噪声。先验概率,虚警概率和漏警概率约束为。采用序贯似然比检验,求结束判决所需的平均样本数。01::2iiiiHxnHxn==+1,2,i=()0,1inN∼()()10PHPH=0.05αβ==2.2分批序贯检测似然比判决规则()()()1100001,,,kkkNthHthHththλλλ⎧⎪≥⎪⎪≤⎨⎪⎪⎪⎩xxx判为判为舍弃该批样本,获得下一批样本并重新判决个其中为每次判决所用的样本数,由给定的虚警概率和漏警概率决定。0N()()0001112,,,TkkNkNkNxxx−+−+⎡⎤=⎣⎦xαβ01,thth定义则当为真时,虚警概率和判决所用的平均样本数分别为(){}(){}(){}(){}10001101,11kkkkpPthHqPthHrpqpPthHqPthHrpqλλλλ=≥,=≤=−−′′′′′=≥,=≤,=−−xxxx21pprprprα=+++=−0H{}()200001001(1)2(1)3(1)11kkENHNrNrrNrrNNkrrr+∞−==−+−+−+=−=−∑当为真时,漏警概率和判决所用的平均样本数分别为则结束判决所需的平均样本数为:1H21qqrqrqrβ′′′′′′=+++=′−{}011NENHr=′−{}{}{}00110001()()()()11ENENHPHENHPHNNPHPHrr=+=+′−−例:其中,,相互独立,且。根据似然比判决规则可得:00211102000(1)100ln2ln21kNkiikNAththHNAAxththHNAxNσσ=−+⎧′≥+=⎪⎪⎪⎪′=≤+=⎨⎪⎪⎪⎪⎩∑判为判为,,其他,重新获取样本,再次判决()20,inNσ∼01::iiiiHHxnxAn==+1,2,i=0Aαβ=此时由于012200~(0,),~(,)kkNNHHANNxxσσαβ=''01,22AAththδδ=−=+,pqqp′′==0202|122kApPHNAxδδσ⎛⎞+⎛⎞⎜⎟=≥+=−Φ⎜⎟⎜⎟⎝⎠⎝⎠0202|22kAqPHNAxδδσ⎛⎞−⎛⎞⎜⎟=≤−=Φ⎜⎟⎜⎟⎝⎠⎝⎠利用有可得()()2211021NpqAσ−−⎡⎤=Φ−+Φ⎣⎦()()()()1111121pqApqδ−−−−Φ−−Φ=Φ−+Φ{}()()0''012211,0002,,1,0()()11mi11nphqNthtppNNNENPHPHpAprrqδασαα−−⎡⎤−⎛⎞Φ−+=+=′−−+=Φ⎯⎯⎯⎯⎯→⎢⎥⎜⎟⎢⎥⎝⎠⎣⎦1pprpqα==−+二元假设检验模型:其中,是均值为零、自相关函数为的高斯噪声,。01::iiiiHxnHxAn==+0Ain01ρ2.3相关样本的序贯检测()2mnRmσρ=自回归噪声模型和预白化11iiiiiinvnvnnρρ−−=+=−111zρ−−{}iv11zρ−−{}in{}iv{}in1iiiyxxρ−=−定义()22~0,(1)ivNρσ−白噪声序列新的检验模型:01::(1)iiiiHyvHyAvρ==−+()()()110001iiithHthHththλλλ≥⎧⎪≤⎨⎪⎩yyy判为判为增加一个样本,重新判决似然比判决规则:[]12,,,Tiiyyy=y101,1ththββαα−≈≈−其中由于:{}()(){}()()(){}()()(){}()()()11010100101210121ln1ln1lnlnlnln1lnln2121ln1lnththththththENPHPHEyHEyHthththAEyHαβααββλλβββσρρλ−==+−−+=+−+−+⎯⎯⎯→=−()()()(){}(){}()()2210221ln21||1lnln21EAyAyAyyHEHρλρσρλλρσ−−⎡⎤⎣⎦−=++=−=结束判决所需的平均取样数:我们将对应随机参量信号的检测称为复合假设检验。设和分别是与假设和假设有关的随机参量矢量,它们的先验概率密度函数分别为和。当取到第个样本时,序贯似然比函数为2.4复合假设序贯检验1H12[,,,]Tmϕϕϕ=Φ12[,,,]Tnθθθ=Θ0H)(0Φf)(1Θfi1100(,)()d)(,)()diiifHffHfλ=∫∫ΘΦxΘΘΘxxΦΦΦ()()(序贯似然比判决规则110001),),),iiithHthHththλλλ≥⎧⎪≤⎨⎪⎩xxx(判为(判为(增加一个样本,重新判决其中101,1ththββαα−==−定义如下可见,复合序贯检验与一般的序贯检验相比,使用了归一化似然比和归一化虚警和漏警概率,其他类似。,αβΘΘΘ=ΦΦΦ=∫∫ΘΦd)()(d)()(10)()(ffββαα在许多信号处理的应用问题中,接收的数据是通过对连续时间信号波形进行采样而得到的。随着时间进展,可供使用的数据越来越多。我们可以等到所有可供使用的数据全部采样到时再处理,也可以按照时间顺序进行数据处理。特别地,如果我们已经求出了基于的线性最小均方误差估计值,直接根据当前数据更新,称之为序贯最小均方误差估计。]}1[,],1[],0[{−Nxxx…ˆθ][Nx2.5序贯最小均方误差估计ˆθ2.5.1最小均方误差估计(MMSE)2.5.2线性最小均方误差估计(LMMSE)2.5.3白噪声中的DC电平序贯模型2.5.4序贯矢量LMMSE估计量使估计的均方误差达到最小的一种估计。2.5.1最小均方误差估计(MMSE)估计的均方误差为22()()ˆˆˆ(){()}()(,)xEfxdxdθξθθθθθθθ=−=−∫∫推得∫=)(MS)(ˆθθθθθdxf2.5.2线性最小均方误差估计(LMMSE)最小均方误差估计的一种特例,它要求估计量与观测样本之间必须满足线性关系,即1ˆ()NTkkkgabxaθ===+=+∑xbx其中,和是待定系数,根据最小均方误差估计准则来确定。估计的均方误差为a12[,,,]TNbbb=b22ˆˆ(){()}{[()]}TBEEaθθθθ=−=−+bx求解和ab(){}(){}ˆ()20ˆ()20LLTaaLLTTaaLLBEaaBEaθθθθ====∂=−−−=∂∂=−−−=∂LLbbbbbxbxxb解得11{}{,}{,}{}{,}{,}LTLaECovCovECovCovθθθ−−=−=xxxxbxxx则1LMSˆ{}{,}{,}[{}]TLLaECovCovEθθθ−=+=+−bxxxxxx1mseˆ(){,}{,}{,}{}BCovCovCovCovθθθθθ−=−xxxx,LMSˆ{()}TEθθ−=x0正交原理:线性最小均方误差估计的估计误差与观测样本是正交的。矢量的LMMSE估计假设多参量与观测样本满足线性关系ˆ=+θaBx[]12,,,,TNxxx=x12ˆˆˆˆ,,,,TMθθθ⎡⎤=⎣⎦θ其中12[,,,],TMaaa=a111212122212NNMMMNbbbbbbbbb⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦B估计的均方误差为[][]{}ˆ()TBE=−−−−θθaBxθaBx求解和aB{}(){}ˆ()20ˆ()0LLLLTLLBEBE====∂=−−−=∂∂=−−−=∂LLaaBBaaBBθθaBxaθθaBxxB解得{}{}{}{}{}{}11,,,,LLECovCovECovCov−−=−=aθθxxxxBθxxx则{}{}{}{}1ˆ,,LMSECovCovE−=−⎡⎤⎣⎦θθθxxxxx+()(){}ˆmseˆˆˆ()TiiiiiBθEθ⎡⎤⎡⎤==−−⎣⎦⎢⎥⎣⎦Mθθθθ进一步,若观测样本具有贝叶斯线性模型形式,即=+xHθw其中是一个的数据矢量,是一个已知的矩阵,是一个的随机矢量,是一个的噪声矢量,且与无关。是对角矩阵。x1×NHNM×(,)NθθθuC∼1M×(0,)NwC∼w1×NCwθ1ˆ()()TTwθθθθ−=++−θuCHHCHCxHu可得()(){}(){}(){}ˆ1111ˆˆˆˆ()()TTTLTT-T-EEEθ−−=−−=−−−=−+=+θMθθθθθθθθθaCCHHCHCHCCHCHθθwθθw误差的协方差矩阵假设加性高斯噪声中的DC电平模型为[][]xnAwn=+其中,DC电平噪声样本且独立同分布,信号与噪声不相关。2~(0,),AANσ2~(0,)wNσ2.5.3白噪声中的DC电平序贯模型根据线性最小均方误差估计准则,A的估计为212021ˆ(1)[]NTALnAANxnNNσσσ−=−==+∑bx最小均方误差为2222mse])1[ˆ(σσσσ+=−AANNAB当可用时更新估计量][Nx22022122022222222222222221ˆ[][]111([][])(1)ˆ[1][](1)(1)ˆ[1][](1)(1)NAnANAnAAAAAAAAAAAANxnNNNxnxNNNNNANxNNNNANxNNNσσσσσσσσσσσσσσσσσσσσσσ=−==+++=++++=−++++++=−+++++∑∑2222222222ˆˆ[1](1)[1][](1)(1)ˆˆ[1]([][1])(1)AAAAAANANANxNNNANxNANNσσσσσσσσσσ+=−+−−+