小波变换和motion信号处理

小波变换和motion信号处理（一）这是《小波变换和motion信号处理》系列的第一篇，基础普及。第二篇我准备写深入小波的东西，第三篇讲解应用。记得我还在大四的时候，在申请出国和保研中犹豫了好一阵，骨子里的保守最后让我选择了先保研。当然后来也退学了，不过这是后话。当时保研就要找老板，实验室，自己运气还不错，进了一个在本校很牛逼的实验室干活路。我们实验室主要是搞图像的，实力在全国也是很强的，进去后和师兄师姐聊，大家都在搞什么小波变换，H264之类的。当时的我心思都不在这方面，尽搞什么操作系统移植，ARM+FPGA这些东西了。对小波变换的认识也就停留在神秘的“图像视频压缩算法之王”上面。后来我才发现，在别的很广泛的领域中，小波也逐渐开始流行。比如话说很早以前，我们接触的信号频域处理基本都是傅立叶和拉普拉斯的天下。但这些年，小波在信号分析中的逐渐兴盛和普及。这让人不得不感到好奇，是什么特性让它在图象压缩，信号处理这些关键应用中更得到信赖呢？说实话，我还在国内的时候，就开始好奇这个问题了，于是放狗搜，放毒搜，找遍了中文讲小波变换的科普文章，发现没几个讲得清楚的，当时好奇心没那么重，也不是搞这个研究的，懒得找英文大部头论文了，于是作罢。后来来了这边，有些项目要用信号处理，不得已接触到一些小波变换的东西，才开始硬着头皮看。看了一些材料，听了一些课，才发现，还是那个老生常谈的论调：国外的技术资料和国内真TNND不是一个档次的。同样的事情，别人说得很清楚，连我这种并不聪明的人也看得懂;国内的材料则绕来绕去讲得一塌糊涂，除了少数天才没几个人能在短时间掌握的。牢骚就不继续发挥了。在这个系列文章里，我希望能简单介绍一下小波变换，它和傅立叶变换的比较，以及它在移动平台做motiondetection的应用。如果不做特殊说明，均以离散小波为例子。考虑到我以前看中文资料的痛苦程度，我会尽量用简单，但是直观的方式去介绍。有些必要的公式是不能少的，但我尽量少用公式，多用图。另外，我不是一个好的翻译者，所以对于某些实在翻译不清楚的术语，我就会直接用英语。我并不claim我会把整个小波变换讲清楚，这是不可能的事，我只能尽力去围绕要点展开，比如小波变换相对傅立叶变换的好处，这些好处的原因是什么，小波变换的几个根本性质是什么，背后的推导是什么。我希望达到的目的就是一个小波变换的初学者在看完这个系列之后，就能用matlab或者别的工具对信号做小波变换的基本分析并且知道这个分析大概是怎么回事。最后说明，我不是研究信号处理的专业人士，所以文中必有疏漏或者错误，如发现还请不吝赐教。要讲小波变换，我们必须了解傅立叶变换。要了解傅立叶变换，我们先要弄清楚什么是”变换“。很多处理，不管是压缩也好，滤波也好，图形处理也好，本质都是变换。变换的是什么东西呢？是基，也就是basis。如果你暂时有些遗忘了basis的定义，那么简单说，在线性代数里，basis是指空间里一系列线性独立的向量，而这个空间里的任何其他向量，都可以由这些个向量的线性组合来表示。那basis在变换里面啥用呢？比如说吧，傅立叶展开的本质，就是把一个空间中的信号用该空间的某个basis的线性组合表示出来，要这样表示的原因，是因为傅立叶变换的本质，是。小波变换自然也不例外的和basis有关了。再比如你用Photoshop去处理图像，里面的图像拉伸，反转，等等一系列操作，都是和basis的改变有关。既然这些变换都是在搞基，那我们自然就容易想到，这个basis的选取非常重要，因为basis的特点决定了具体的计算过程。一个空间中可能有很多种形式的basis，什么样的basis比较好，很大程度上取决于这个basis服务于什么应用。比如如果我们希望选取有利于压缩的话，那么就希望这个basis能用其中很少的向量来最大程度地表示信号，这样即使把别的向量给砍了，信号也不会损失很多。而如果是图形处理中常见的线性变换，最省计算量的完美basis就是eigenvectorbasis了，因为此时变换矩阵T对它们的作用等同于对角矩阵(Tv_n=av_n，a是eigenvalue)。总的来说，抛开具体的应用不谈，所有的basis，我们都希望它们有一个共同的特点，那就是，容易计算，用最简单的方式呈现最多的信号特性。好，现在我们对变换有了基本的认识，知道他们其实就是在搞基。当然，搞基也是分形式的，不同的变换，搞基的妙处各有不同。接下来先看看，傅立叶变换是在干嘛。傅立叶级数最早是JosephFourier这个人提出的，他发现，这个basis不仅仅存在与vectorspace，还存在于functionspace。这个functionspace本质上还是一个linearvectorspace，可以是有限的，可以是无限的，只不过在这个空间里，vector就是function了，而对应的标量就是实数或者复数。在vectorspace里，你有vectorv可以写成vectorbasis的线性组合，那在functionspace里，functionf(x)也可以写成对应functionbasis的线性组合，也有norm。你的vectorbasis可以是正交的，我的functionbasis也可以是正交的（比如sin(t)和sin(2t)）。唯一不同的是，我的functionbasis是无穷尽的，因为我的functionspace的维度是无穷的。好，具体来说，那就是现在我们有一个函数，f(x)。我们希望将它写成一些cos函数和一些sin函数的形式，像这样again，这是一个无限循环的函数。其中的1，cosx,sinx,cos2x…..这些，就是傅立叶级数。傅立叶级数应用如此广泛的主要原因之一，就是它们这帮子functionbasis是正交的，这就是有趣的地方了。为什么functionbasis正交如此重要呢？我们说两个vector正交，那就是他俩的内积为0。那对于functionbasis呢？functionbasis怎么求内积呢？现在先复习一下vector正交的定义。我们说两个vectorv,w如果正交的话，应符合：那什么是function正交呢？假设我们有两个函数f(x)和g(x)，那是什么？我们遵循vector的思路去想，两个vector求内积，就是把他们相同位置上对应的点的乘积做一个累加。那移过来，就是对每一个x点，对应的f和g做乘积，再累加。不过问题是，f和g都是无限函数阿，x又是一个连续的值。怎么办呢？向量是离散的，所以累加，函数是连续的，那就是…….积分！我们知道函数内积是这样算的了，自然也就容易证明，按照这个形式去写的傅立叶展开，这些级数确实都是两两正交的。证明过程这里就不展开了。好，下一个问题就是，为什么它们是正交basis如此重要呢？这就牵涉到系数的求解了。我们研究了函数f，研究了级数，一堆三角函数和常数1，那系数呢？a0,a1,a2这些系数该怎么确定呢？好，比如我这里准备求a1了。我现在知道什么？信号f(x)是已知的，傅立叶级数是已知的，我们怎么求a1呢？很简单，把方程两端的所有部分都求和cosx的内积，即：然后我们发现，因为正交的性质，右边所有非a1项全部消失了，因为他们和cosx的内积都是0！所有就简化为这样，a1就求解出来了。到这里，你就看出正交的奇妙性了吧:)好，现在我们知道，傅立叶变换就是用一系列三角波来表示信号方程的展开，这个信号可以是连续的，可以是离散的。傅立叶所用的functionbasis是专门挑选的，是正交的，是利于计算coefficients（系数）的。但千万别误解为展开变换所用的basis都是正交的，这完全取决于具体的使用需求，比如泰勒展开的basis就只是简单的非正交多项式。有了傅立叶变换的基础，接下来，我们就看看什么是小波变换。首先来说说什么是小波。所谓波，就是在时间域或者空间域的震荡方程，比如正弦波，就是一种波。什么是波分析？针对波的分析拉（囧）。并不是说小波分析才属于波分析，傅立叶分析也是波分析，因为正弦波也是一种波嘛。那什么是小波呢？这个“小”，是针对傅立叶波而言的。傅立叶所用的波是什么？正弦波，这玩意以有着无穷的能量，同样的幅度在整个无穷大区间里面振荡，像下面这样：那小波是什么呢？是一种能量在时域非常集中的波。它的能量是有限的，而且集中在某一点附近。比如下面这样：这种小波有什么好处呢？它对于分析瞬时时变信号非常有用。它有效的从信号中提取信息，通过伸缩和平移等运算功能对函数或信号进行多尺度细化分析，解决了傅立叶变换不能解决的许多困难问题。恩，以上就是通常情况下你能在国内网站上搜到的小波变换文章告诉你的。但为什么呢？这是我希望在这个系列文章中讲清楚的。不过在这篇文章里，我先点到为止，把小波变换的重要特性以及优点cover了，在下一篇文章中再具体推导这些特性。小波变换的本质和傅立叶变换类似，也是用精心挑选的basis来表示信号方程。每个小波变换都会有一个motherwavelet，我们称为母小波，同时还有一个scalingfunction，中文是尺度函数，也被成为父小波。任何小波变换的basis函数，其实就是对这个母小波和父小波缩放和平移后的集合。下面这副图就是某种小波的示意图：从这里看出，这里的缩放倍数都是2的级数，平移的大小和当前其缩放的程度有关。这样的好处是，小波的basis函数既有高频又有低频，同时还覆盖了时域。对于这点，我们会在之后详细阐述。小波展开的形式通常都是这样（注意，这个只是近似表达，严谨的展开形式请参考第二篇）：其中的就是小波级数，这些级数的组合就形成了小波变换中的基basis。和傅立叶级数有一点不同的是，小波级数通常是orthonormalbasis（标准正交基），也就是说，它们不仅两两正交，还归一化了。小波级数通常有很多种，但是都符合下面这些特性：1.小波变换对不管是一维还是高维的大部分信号都能cover很好。这个和傅立叶级数有很大区别。后者最擅长的是把一维的，类三角波连续变量函数信号映射到一维系数序列上，但对于突变信号或任何高维的非三角波信号则几乎无能为力。2.围绕小波级数的展开能够在时域和频域上同时定位信号，也就是说，信号的大部分能量都能由非常少的展开系数，比如a_{j,k}，决定。这个特性是得益于小波变换是二维变换。我们从两者展开的表达式就可以看出来，傅立叶级数是ψl(t)，而小波级数是ψj,k(t)。3.从信号算出展开系数a需要很方便。普遍情况下，小波变换的复杂度是O(Nlog(N))，和FFT相当。有不少很快的变换甚至可以达到O(N)，也就是说，计算复杂度和信号长度是线性的关系。小波变换的等式定义，可以没有积分，没有微分，仅仅是乘法和加法即可以做到，和现代计算机的计算指令完全match。可能看到这里，你会有点晕了。这些特性是怎么来的？为什么需要有这些特性？具体到实践中，它们到底是怎么给小波变换带来比别人更强的好处的？计算简单这个可能好理解，因为前面我们已经讲过正交特性了。那么二维变换呢？频域和时域定位是如何进行的呢？恩，我完全理解你的感受，因为当初我看别的文章，也是有这些问题，就是看不到答案。要说想完全理解小波变换的这些本质，需要详细的讲解，所以我就把它放到下一篇了。接下来，上几张图，我们以一些基本的信号处理来呈现小波变换比傅立叶变换好的地方，我保证，你看了这个比较之后，大概能隐约感受到小波变换的强大，并对背后的原理充满期待:)假设我们现在有这么一个信号：看到了吧，这个信号就是一个直流信号。我们用傅立叶将其展开，会发现形式非常简单：只有一个级数系数不是0，其他所有级数系数都是0。好，我们再看接下来这个信号：简单说，就是在前一个直流信号上，增加了一个突变。其实这个突变，在时域中看来很简单，前面还是很平滑的直流，后面也是很平滑的直流，就是中间有一个阶跃嘛。但是，如果我们再次让其傅立叶展开呢？所有的傅立叶级数都为非0了！为什么？因为傅立叶必须用三角波来展开信号，对于这种变换突然而剧烈的信号来讲，即使只有一小段变换，傅立叶也不得不用大量的三角波去拟合，就像这样：看看上面这个