信号处理中的数学方法期末试题答案

1、叙述卡享南—洛厄维变换，为什么该变换被称为最佳变换，何为其实用时的困难所在，举例说明其应用。它经常用来处理随机变量信号，能使变换后的分量不相关，且使均方误差最小，所以常称作最佳变换。卡享南-洛厄维变换没有固定的变换矩阵，它依赖于给定的随机向量的协方差阵。正是这种变换的特点，也是它在实际使用时的困难所在，因为它需要依照不固定的矩阵xC求特征值和特征向量。卡享南-洛厄维变换应用在数据压缩技术中。特别是随着信息时代的发展到第三个阶段-大数据时代，海量的数据每时每刻扑面而来，按照最优化原则的数据压缩技术可以解决通讯和数据传输系统的信道容量不足问题。通过对信号作正交变换，根据失真最小的原则在变换域进行压缩。卡享南-洛厄维变换使这种变换消除了原始信号诸分量间的相关性，从而使数据压缩能遵循均方误差最小的准则实施。2、最小二乘法的三种表现形式是什么？以傅里叶级数展开为例说明其各自的优缺点。希尔伯特空间中线性逼近问题的求解方法称为最小二乘法。它有三种不同的表现形式：投影法、求导法和配方法。下面以傅里叶级数展开为例来说明。投影法：设X为希尔伯特空间，12,,ee为X中的一组归一化正交元素，x为X中的某一元素。在子空间12,,Mspanee中求一元素0m，使得0minmMxmxm(2-1)由于M中的元素可表示为12,,ee的线性组合，那么问题就转化为求系数12,,，使得1minkkkxe(2-2)投影定理指出了最优系数12,,应满足1,1,2,kkmkxeem(2-3)由此即得1,,mkkmmkxeee。也就是说，当且仅当k取为x关于归一化正交系12,,ee的傅立叶系数,kkxe时式(2-2)成立。求导法：记泛函2121,,kkkfxe(2-4)为了便于使用求导法求此泛函的最小值，将它表为12112211,,,2kkmmkmkkkkkfxexexc(2-5)其中,kkcxe。于是最优的12,,应满足0,1,2,mfm即220mmc，或,1,2,mmcm。配方法：221211,,2kkkkkfxc(2-6)222211112kkkkkkkkkxccc22211kkkkkxccminkkc，1,2,k以上三种方法都称为最小二乘法。比较起来，从数学理论上讲，投影法较高深，求导法次之，配方法则属初等；从方法难度上讲，求导法最容易，投影法和配方法各有千秋；从结果看，配方法最好，因为它不仅求出了最优系数k，而且由配方结果立即可知目标函数12,,f的极值。此外，配方法和投影法都给出了f达到极小的充分和必要条件，但求导法给出的仅仅是极值的必要条件，如果是极值，还不知道是极大还是极小，故是不完整的。但我们不能简单的说这三种方法谁更好。因为它们实际应用时都有自己的局限性。例如投影法必须把所讨论的最优化问题放到某个希尔伯特空间的框架中去；求导法必须有可行的求导法则，如果未知的变元是向量，矩阵或函数，求导法就不那么直捷了；而配方法则是一种技巧性很强的方法，如果目标函数比较复杂，那么用配方法很相当困难。3、二阶矩有限的随机变量希尔伯特空间中平稳序列的预测问题的法方程称为关于平稳序列预测问题的yule-walker方程，试用投影法和求导法推导该方程。该方程的求解算法称为最小二乘算法，请对这些算法的原理予以描述。下面先介绍什么是随机序列的预测问题：若二阶矩有限的随机变量希尔伯特空间中的序列12,,xx，记子空间,11,,,kNkNkNkMspanxxx(3-1)现在的问题是，用,kNM中的元素1NNkmkmmxx(3-2)来估计kx，并使得均放误差最小，也就是求系数1,,N使得22minNNkkkkxxExx(3-3)这个问题就是随机序列的预测问题。下面从投影法和求导法对其进行推导：投影法：根据投影定理，Nkx应是kx在子空间,kNM中的投影，即1,,N满足1,1,,NkmkmklmxxxlN(3-4)根据空间中的正交性定义，上式即为1,1,,NmkmklkklmExxExxlN(3-5)这就是最佳预测的法方程。因为随机序列12,,xx是平稳的，故式(3-5)可写作1,1,,NmlmlmrrlN(3-6)其中mmrExx是该平稳序列的自相关，它满足rr。方程(3-6)即为Yule-Walker方程，它的分量形式为0111110222120NNNNNNrrrrrrrrrrrr(3-7)求导法：我们先将式(3-3)改写为如下形式211,,minnnkkkfxy(3-8)进一步推导有1121112,2,,2nnkkkkkknnnkkkmkmkkmTTfxyxyxxyyyxY(3-9)利用求导公式，应满足220fY，即Y。最小二乘算法包括Durbin算法、Levision算法、Levision-Burg算法、托布利兹方程递推算法、Cholesky算法。下面对其算法予以介绍。Durbin算法：设yule-walker方程的解为：,1,(,...,)TNNNnaaa(3-10)yule-walker方程可以写为：1,,121,,,,,TNNnNNRaarrr(3-11)解3-11方程的Durbin递推算法为：从式（3-12）开始，依次按照式(3-14)和式(3-13)进行递推运算。1kkkkkxAxKy,112/Larr(3-12),,,1, 1,,1NmNLmNNNNmaaaamN(3-13)111,11,1,0111,11,1(,...,)(,...,)(,...,)(,...,)TNNNNNNNTNNNNrrraaarrraa(3-14)Levision算法：解方程（3-15）的递推算法是：从式(3-16)起始，依次按照(3-17)和(3-18)进行递推运算。01,1101,101...()...0.....................0NNNNNNNrrrNarrrarrr(3-15)1110/arr，2010(1)/rrr(3-16)1,21,1()...NNNNNNrarar(3-17)1,,,11,12()/(),1,....,()/()(1)()()/()NnNnNNnNNaaNNnNaNNNNNN(3-18)Levision-Burg算法：托布利兹方程递推算法：方程（3-19）的递推算法是：从式（3-20）起始，依次按照式（3-21）、（3-22）、（3-23）和（3-24）进行递推运算。(0)(0)00010000,/,/wrsrraur（3-19）(1)211(1())NNNNwws(3-20)()()()11,NNNNNNNNNauvuv(3-21)()()()111,NNNNNNNNNaUuuv(3-22)()(1)1,/NNNNNNNNsrrsw(3-23)()(1)(1)1,1,NNNNNNNNNNNssDss(3-24)4、简述卡尔曼滤波以及由其衍生出的EKF、UKF和粒子滤波的原理，指出卡尔曼滤波中Q阵和R阵的确定方法以及对滤波结果的影响，并指出以上这些滤波算法可能的应用。考虑如下形式的线性最佳估计：1kkkkkxAxKy(4-1)其中AK和KA为待求的矩阵。式(4-1)的含义是现时刻的最佳估计为前一时刻的最佳估计的基础上根据现时刻的观测值做线性修正。这个问题称为卡尔曼滤波。求解前，对噪声作如下假设：1、噪声wl和vl都是零均值的白噪声序列，且它们互不相关。2、噪声与过去的状态不相关。卡尔曼滤波算法如下：卡尔曼滤波器分为两个部分：时间更新方程和测量更新方程。时间更新方程负责及时向前推算当前状态变量和误差协方差估计的值，以便为下一个时间状态构造先验估计。测量更新方程负责反馈，它将先验估计和新的测量变量结合以构造改进的后验估计。时间更新方程也可视为预估方程，测量更新方程可视为校正方程。时间更新方程为(4-1)和（4-2）：1TkkPAPAQ(4-2)状态更新方程如下：1()TTkkkKPHHPHR(4-3)ˆˆ()kkkkkxxKyHx(4-4)()kkkPIKHP(4-5)测量更新方程首先计算卡尔曼增益kK，接着便测量输出以获得kz，然后产生状态的后验估计。最后按()kkkPIKHP产生估计状态的后验协方差。然后反复迭代整个过程。上一次计算得到的后验估计被作为下一次计算的先验估计。过程噪声的方差Q和测量噪声的方差R的选取的确是和你量测和系统噪声的相关统计特性有关，目前的理论做法是通过对实验数据（量测数据和系统建模）来进行估计，因为量测噪声的统计特性的建模的准确性，系统在不同的环境下表现不同等，都有影响。Q、R的选取是否和实际相符直接影响着滤波的精度,严重时还会导致滤波发散。EKF算法如下：EKF算法是一种近似方法，它将非线性模型在状态估计值附近作泰勒级数展开，并在一阶截断，用得到的一阶近似项作为原状态方程和测量方程近似表达形式，从而实现线性化同时假定线性化后的状态依然服从高斯分布，然后对线性化后的系统采用标准卡尔曼滤波获得状态估计。采用局部线性化技术，能得到问题局部最优解，但它能否收敛于全局最优解，取决于函数的非线性强度以及展开点的选择。假定定位跟踪问题的非线性状态方程和测量方程如下:1()kkkXfXW()kkkYhXV在最近一次状态估计的时刻，对以上两式进行线性化处理，首先构造如下2个矩阵:()(1|)|(|)kfXFKkXXkkX()()|(|1)kfXHKXXkkXUKF算法如下：传统的非线性滤波的方法主要是扩展卡尔曼滤波算法(EKF),但是该算法存在着精度不高、稳定性差、对目标机动反应迟缓等缺点.近年来,提出了一种非线性滤波算法-Unscented卡尔曼滤波(UnscentedKalmanFilter,即UKF).它是根据Unscented变化和卡尔曼滤波相结合得到的一种算法.这种算法主要运用卡尔曼滤波的思想,但是在求解目标后续时刻的预测值和量测值时,则需要应用采样点来计算.UKF通过设计加权点δ,来近似表示n维目标采样点,计算这些δ点经由非线性函数的传播,通过非线性状态方程获得更新后的滤波值,从而实现了对目标的跟踪.UKF有效地克服了扩展卡尔曼滤波的估计精度低、稳定性差的缺陷.无损卡尔曼滤波是一种新型的滤波估计算法。UKF以UT变换为基础，摒弃了对非线性函数进行线性化的传统做法，采用卡尔曼线性滤波框架，对于一步预测方程，使用无迹(UT)变换来处理均值和协方差的非线性传递，就成为UKF算法。UT变换如下：（1）构造sigma点根据随机向量x的统计量()()|(|1)kfXHKXXkkXx和xp，构造sigma点集：(()),1,...(()),1,...2,0xiixixnkpinxxnkpinnxiK为尺度参数，调整它可以提高精度。用这组采样点ix可以近似表示状态x的高斯分布。(2)对sigma点进行非线性变换对所构造出的点集进行非线性变换，得到变换后的s