参数估计理论

参数估计的基本理论复习上次课的内容随机信号和确定信号是两类性质完全不同的信号，对它们的描述、分析和处理方法也不相同。随机信号是一种不能用确定数学关系式来描述的，无法预测未来某时刻精确值的信号，随机信号在任何时间的取值都是不能先验确定的随机变量随机信号可用概率分布特性统计地描述。2平稳随机信号严格平稳：概率密度函数与时间无关的随机信号x(t)称为严格平稳随机信号广义平稳：(1)其均值为常数，即E{x(t)}=μx(常数)(2)其二阶矩有界，即E{x(t)x*(t)}=E{|x(t)|2}∞(3)其协方差函数与时间无关，仅与时间间隔有关即Cxx(τ)=E{[x(t)-μx][x(t-τ)-μx]*}3遍历性平稳随机过程的概率分布不随时间的平移而变化，全体随机变量集合的平均就可以用无穷时间的平均来代替，这就是各态遍历假设。4随机信号的数字特征若连续平稳随机信号x(t)是各态遍历的，则随机信号x(t)均值可表示为：均值描述了随机信号的静态（直流）分量，它不随时间而变化。随机信号x(t)的均方值表达式为：均方值表示了信号的强度或功率。5TTxdttxTtxE0)(1)(lim22201{()}lim()TxTExtxtdtT随机信号的数字特征随机信号x(t)的均方根值表示为：也是信号能量或强度的一种描述。随机信号x(t)的方差表达式为：方差是信号幅值相对于均值分散程度的一种表示，也是信号纯波动（交流）分量大小的反映。62201[()]lim()TxTExtxtdtT22201[()]lim[()]TxxxTExxtdtT离散随机信号的数字特征若x(n)是离散的各态历经的平稳随机信号序列。类似连续随机信号，其数字特征可由下面式子来表示：均值均方值方差711[()]()nxiExnxin2211[()]()niExnxin22211[(())](())nxxxiExnxin【例1】计算以长度N=100000的正态分布高斯随机信号的均值、均方值、均方根值、方差和均方差N=100000;%数据个数randn('state',0);%设置产生随机数的状态y=randn(1,N);%产生一个随机序列disp('平均值:');yMean=mean(y)%计算随机序列的均值disp('均方值:');y2p=y*y'/N%计算其均方值,这里利用了矩阵相乘的算法disp('均方根:');ysq=sqrt(y2p)%计算其均方根值disp('标准差:');ystd=std(y,1)%计算标准差disp('方差:');yd=ystd.*ystd8单个平稳随机信号的二阶统计量9*(){()()}xxRExtxt2*(){[()][()]}()xxxxxxxCExtxtR对于数字信号x(n)，怎样估计自相关函数？(1)按照自相关函数定义来估计缺点：运算量大，速度慢1{()()}1()()niExnxnmxiximnmnnˆ()xxRm功率谱密度定义：考虑在一有限时间段取值的随机过程x(t)，-TtT。计算其Fourier变换则功率谱密度定义为对于零均值的平稳随机信号而言，存在1022()()()()jfxxxxjfxxxxPfRedRPfed维纳-辛钦定理(Wiener-Khinchine)2|()|()lim2TxxTXfPfET2()[()]TjftTxTXfxtedt估计自相关函数的第二个方法：功率谱密度反变换(1)求数字信号x(n)的FFTX(ω)=FFT{x(n)}(2)估计功率谱密度(3)估计自相关函数Rxx(m)=FFT-1{Pxx(ω)}112|()|()limxxNXPENMATALB函数XCORRMATLAB信号处理工具箱提供了计算随机信号相关函数xcorr。函数xcorr用于计算随机序列自相关和互相关函数。调用格式为：[c,lags]=xcorr(x,y[,maxlags,’option’])式中，x,y为两个独立的随机信号序列，长度均为N；c为x,y的互相关估计;lags为相关估计c的序号向量，其范围为[-maxlags:maxlags]。该函数也可用于求一个随机信号序列x(n)的自相关函数，调用格式为：c=xcorr(x,maxlags)12【例2】求带有白噪声干扰的频率为10HZ的正弦信号和白噪声信号的自相关函数并进行比较。clf;N=1000;Fs=500;%数据长度和采样频率n=0:N-1;t=n/Fs;%时间序列Lag=100;%延迟样点数randn('state',0);%设置产生随机数的初始状态x=sin(2*pi*10*t)+0.6*randn(1,length(t));%原始信号[c,lags]=xcorr(x,Lag,'unbiased');%对原始信号进行无偏自相关估计subplot(2,2,1),plot(t,x);%绘原始信号xxlabel('时间/s');ylabel('x(t)');title('带噪声周期信号');gridon;subplot(2,2,2);plot(lags/Fs,c);%绘x信号自相关,lags/Fs为时间序列xlabel('时间/s');ylabel('Rx(t)');title('带噪声周期信号的自相关');gridon;13【例2】求带有白噪声干扰的频率为10HZ的正弦信号和白噪声信号的自相关函数并进行比较。%信号x1x1=randn(1,length(x));%产生一与x长度一致的随机信号[c,lags]=xcorr(x1,Lag,'unbiased');%求随机信号x1的无偏自相关subplot(2,2,3),plot(t,x1);%绘制随机信号x1xlabel('时间/s');ylabel('x1(t)');title('噪声信号');gridon;subplot(2,2,4);plot(lags/Fs,c);%绘制随机信号x1的无偏自相关xlabel('时间/s');ylabel('Rx1(t)');title('噪声信号的自相关');gridon3/7/20201415两个平稳随机信号的二阶统计量互相关函数互协方差函数互相关系数16*1212(,){()()}defxyRttExtyt*1212(,){[()][()]}defxyxyCttExtyt()()(0)(0)xyxyxxyyCCC两个平稳随机信号的统计关系统计独立统计不相关正交统计独立一定意味着统计不相关若{x(t)}和{y(t)}的均值均为零，则不相关与正交等价两个零均值的高斯随机信号，统计独立、不相关、正交三者等价17,(,)()()XYXYfxyfxfy*(){[()][()]}0,xyxyCExtyt()0,xy*(){[()(]}0xyRExtyt，QRS波形识别？典型的心电信号18QRS波及其幅度和间期特征参数思考题模板互相关法基本思路如果两个信号波形形状相互匹配，就称这些信号是相关的。互相关系数可确定两个或更多信号形状间匹配的程度。相关系数的值总是位于0和1之间。1值表明信号与模板准确匹配。这个系数值确定了研究中的两信号形状的匹配程度，而实际信号的幅值对相关函数来说是无关紧要的．这种形状匹配，或QRS复波的识别过程，与识别信号的自然途径是一致的．19模板互相关法两点注意(1)模板的构造在这种QRS检测方法中，构造模板有两种方法：a.分段函数法；b.典型信号法；并将信号模板以数据形式存储起来。20模板互相关法(2)对准的问题求一个信号与另一个信号相关，要求这两个信号互相对准。有两种方法：a.利用每个信号上的基准点将模板和输入信号对准，这些基准点是通过其他处理方法得到的；b.另一种方法是，考虑一段输入信号与模板间的连续相关．每当一个新的信号数据点移进时，一个最老的数据点同时就从这段中移出（一种先进先出结构）。然后，求出这一段信号与模板相关系数。21线性系统输出系统输出方程系统传递函数系统输出的自协方差函数系统输出的功率谱密度即线性系统输出信号的功率谱密度等于输入信号的功率谱密度与系统传递函数的模平方之乘积。22*()()()()()ytxththuxtudu2()()jftHfhtedt*121212()()()()yyxxCCuuhuhududu2()()|()|yyxxPfPfHf内容与要求了解：参数估计的意义和作用理解：估计子的性能无偏性、渐进无偏性和有效性掌握：Bayes估计、最大似然估计、线性均方估计、最小二乘估计的方法和性能23学习参数估计基本理论的意义信号处理的基本任务是利用观测数据作出关于信号与（或）系统的某种统计决策，如：根据观测值从多种假设中选择出最合适的一种(假设检验)从含噪声的观测值中判断某种信号是否存在(估计)参数估计:假设数据服从一已知结构的概率模型，但模型某些参数未知；从观测值中估计出信号的参数，如信号的幅度、频率和相位等24随机信号处理的大部分内容侧重于参数化的理论与方法：现代谱估计本质上是参数化谱估计、自适应滤波器介绍的是时域或空域滤波器参数的自适应更新；等等4025第一节估计子的性能Performanceofestimator261、估计的基本概念最简单的情况：根据观测值(随机信号N个样本值x(1)，x(2)，…，x(N))估计出信号的一些统计特征量，如信号的均值、方差、均方和相关函数等2711()NxixiN2211[()]()NiExnxiN2211[()]NxxixiN28一般的参数估计问题：从观测值x(t)中得到参数θ的估计若观测值x是信号s和噪声n的叠加，即：x=s(θ)+n其中θ是信号s的参数若能找到一个函数f(x)，利用f(x1,x2,…,xN)可以得到参数θ的估计值，那么我们可以称f(x1,x2,…,xN)为参数θ的一个估计子(estimator)参数θ的估计子可以不止一个，参数估计的任务就是得到一个估计子，使得估计值和参数θ间的关系按某种判据达到最优(optimization)估计的基本概念29为评价估计质量，先介绍估计子的几种性能指标：(1)、估计的偏差和无偏性估计的偏差：参数θ估计值的均值和θ的差参数θ的无偏估计：估计的偏差等于零参数θ的有偏估计：估计的偏差不等于零参数θ的渐近无偏估计：有偏估计中，随估计样本数N增大，偏差趋向于0ˆ)ˆ(ˆEb)ˆ(0ˆEb)ˆ(0ˆEb0limˆbN(1)样本均值是均值μ的无偏估计。(2)样本方差是真实方差的无偏估计。30例1令{x(n)}是平稳随机信号，其均值为μ=E{x(n)}。给定N个相互独立的观测样本x(1),∙∙∙,x(N)，试证明11()NnxxnN2211()1NnsxnxN22[()]Exn31解：根据无偏估计的定义，(1)求样本均值的数学期望，得(2)求样本方差的数学期望，得111111{}(){()}NNNnnnExExnExnNNN2221111{}[()][()]11NNnnEsExnxExnxNN21222111()(())1[()](())12[()][()]NiNiNiExnxiNExnExiNExnxiN