WaveletsandFilterBanks2016秋_1

WaveletsandFilterBanks小波与滤波器组（一）彭思龙[e-mail]中国科学院自动化研究所讲在课程的前面课程的由来；课程的特点；课程的要求；听课的方法；课程参考书；课程的内容。课程的由来小波（wavelet）是信号处理、图像处理乃至数学领域20多年来最重要的学科分支之一；课程为典型的交叉学科：同时产生于诸多工程领域和数学，又同时被工程和数学所推动；地球物理领域的子波分析；数学领域的调和分析；图像处理中的金字塔压缩；最终导致效果多尺度分析理论的出现，形成了独立的学科历来课程偏重于工程或者数学；缺乏交叉2001年来在研究生院讲授该课程。课程的特点理论和应用相结合：一半讲理论，一半讲应用；理论部分：一半讲工程角度，一半讲数学角度。有形和无形相结合：尽量描述思想，而不独侧重于具体理论推导。详细和简略相结合：理论部分详细；应用部分简略。古典和现代相结合：既有基本的小波理论，也有最新进展。课程的特点（续）静态和动态相结合：每年都会更新部分讲课内容，应用内容全部自选，理论节选。理科和文科相结合：我的学习和科研的思考，有理科的，也有文科的。“没有情趣的人，不会有真学问”—梁漱溟“不识庐山真面目，只缘身在此山中”—苏轼《题西林壁》课程的要求线性代数（高等代数）；多项式理论，矩阵理论；数字信号处理；数字图像处理；泛函分析初步；Matlab。注：缺少数字信号处理的同学一定要自己学习信号处理。缺少数学的更要认真听课。听课的方法工程和数学两种思维：对于工程背景的同学：认真理解其应用思想，努力掌握其数学理论；对于数学基础较好的同学：努力掌握其物理背景，认真理解其数学理论；不能掉队，认真听讲，前后有逻辑性；课后认真复习，动手编程序、推导公式。“我们相信，任何一个人的学问成就，都是出于自学。学校教育不过给学生开一个端，使他更容易自学而已。”—梁漱溟：我的自学小史课程参考书Waveletandfilterbanks,G.Strang,T.Nguyen,Wellesley-CambridgePress,1997（有MIT的ppt中文有翻译，瑞士联邦工学院M.Vetterlli的ppt）多抽样率信号处理，宗孔德，清华大学出版社，1996。Multiratesystemsandfilterbanks,Vaidyanathan,PP.,EnglewoodCliffs,NewJersey,PrenticeHallInc.1993.Awavelettourofsignalprocessing,S.Mallat,AcademicPress.NY,1998（信号处理的小波导引，中文有翻译）TenLecturesonWavelets,IngridDaubechies,1992（小波十讲，有中文翻译）小波与滤波器设计：理论及其应用，彭思龙等，清华大学出版社，2016年12月课程名称解释Filterbanks（滤波器组）=asetoffilters,filteriswidelyusedinmanyfieldsofengineeringandscienceforalongtime.Wavelet（小波）,anoldandnewtooltoproducefilterbanks,havebeenthoroughlystudiedinpast25years.Hereweusewaveletstoindicatemanykindsofwaveletswithdifferentproperties.Contents（课程目录）第一章引言对小波和滤波器设计的历史做简要回顾和相关概念第二章滤波器组抽取和插值。二通道滤波器组重建条件，调制矩阵和多相矩阵方法。第三章正交滤波器组滤波器组构造的栅格方法，正交滤波器的几种构造方法。第四章多尺度分析泛函分析基础，正交多尺度分析、正交小波和正交滤波器的关系。Contents(cont.)第五章双正交小波与滤波器双正交多尺度分析、双正交小波与双正交滤波器第六章小波滤波器的提升算法小波滤波器的提升算法介绍第七章小波应用基础数字图像处理的线性逆问题、小波域图像特征和统计特性第八章数字图像处理应用一：图像去噪小波域收缩算法、基于学习的小波域快速去噪算法Contents(cont.)第九章数字图像处理应用二：图像编码EZW、SPHIT和JPEG2000简介第十章数字图像处理应用三：复原、超分辨率图像复原和超分辨率算法第十一章小波滤波器自适应选取方法两种小波滤波器选取理论第十二章几何小波介绍一：CurveletCurvelet小波理论Contents(cont.)第十三章几何小波介绍二：Bandelet和CountourletBandelet和countourlet理论第十四章图像的非线性表示Matchingpursuit算法、稀疏表示和Basispursuit算法介绍第十五章后小波时代：EMD和NSPEMD和NSP等非线性信号分析方法第十六章前沿选讲有关非线性信号分析的前沿进展介绍Contents(cont.)Someideasinlifeandresearch（杂谈）博客：晴朗的天空-彭思龙=space&uid=39416科研随想（55%）空闲时光（5%）教学闲论（6%）读书偶得（30%）Abitofhistory:fromFouriertoHaartowavelets(fromthematerialofM.Vetterlli)傅立叶早在1807年就写成关于热传导的基本论文《热的传播》，向巴黎科学院呈交，但经拉格朗日、拉普拉斯和勒让德审阅后被科学院拒绝，1811年又提交了经修改的论文，该文获科学院大奖，却未正式发表。傅立叶在论文中推导出著名的热传导方程，并在求解该方程时发现解函数可以由三角函数构成的级数形式表示，从而提出任一函数都可以展成三角函数的无穷级数。傅立叶级数（即三角级数）、傅立叶分析等理论均由此创始。来自花花公子彩页瑞典人基本概念Signal（信号）:x(t)or{x(n)}注：信号处理虽然久远，但是仍然没有成熟，基本概念不明确。Filter（滤波器）:asequence,h={h(n)}Filtering（滤波）y=h*x,where*istheconvolutionoperator:FIR=FiniteImpulseResponse=finitelength（有限脉冲响应滤波器）IIR=InfiniteImpulseResponse=infinitelength（无限脉冲响应滤波器）kknxkhny)()()(020406080100120-1.5-1-0.500.511.5020406080100120-1.5-1-0.500.511.5Exampleoffiltering:x=sin(t)+0.1*randn(1,101);h=[1111]/4;y=x*hContinuousFourierTransform（连续傅里叶变换）Somebasicproperties:Linearity（线性性）ParsevalIdentity:（Parseval等式）22()(){|()|}FourierTransform:1ˆ()()or()2InverseFourierTransform:11ˆˆ()()or()22RititRRititRRftLRftdtfftedtftedtftfedfed1ˆˆ,,;1or2where,RfgcfgcfgfgZtransform（Z-变换）andDTFTGivenasignalorfilter(),Ztransformisdefinedas:()()DiscreteTimeFourierTransform(DTFT)()();-1()isalsocalledfrequencyresponseof().()|()|njnjsnSzsnzSsnejSsnSSe(),[,]|()|:,()*()()()()()()|()||()|*|()|()()()yxhSyxhYzXzHzYXHYXH幅频响应：相频响应,=0低频，=最高频PoissonSummationFormula（Poisson公式）WeuseDiracfunctionasasamplingfunction:Poissonsummationformula:Equivalentform:0()0other()()(),()1ttxttadtxatdt特别的ZkZnitnekt21)2(knnGkG)(ˆ21)2(注：凡是涉及到用Poisson公式证明的理论都需要借助于广义函数理论才能得到严格的证明。对于数学专业的同学大多困惑于此。是广义函数的典型代表Problem:Signalclass：x(t)HowtochooseClassicalsamplingtheory:Forband-limitedandenergylimitedLimited:timefinitesignalisnotband-limited.Waveletsamplingtheory:EnergylimitedNewtheory:Finiterateofinnovation注：永无止境Signalsampling信号采样012()(),(),(),xtxtxtxt()()()iixtxttand()iittSamplingtheoryhistoryBYH.NYQUIST,CertainTopicsinTelegraphTransmissionTheory,AmericanTelephoneandTelegraph,February13-17,1928.CLAUDEE.SHANNON,CommunicationinthePresenceofNoise,1949Theorem1:Ifafunctioncontainsnofrequencieshigherthanwcps,itiscompletelydeterminedbygivingitsordinatesataseriesofpointsspaced1/(2w)secondsapart.OthermaterialsJ.M.Whittaker,InterpolatoryFunctionTheory,CambridgeTractsinMathematicsandMathematicalPhysics,no.33.Cambridge,U.K.:CambridgeUniv.Press,ch.IV,1935.W.R.Bennett,“Timedivisionmultiplexsystems,”BellSyst.Tech.J.,vol.20,p.199,Apr.1941,D.Gabor,“Theoryofcommunication,”J.Inst.Elect.Eng.(London),vol.93,pt.3,no.26,p.429,1946.多查阅原始文献教科书往往割裂了结论与问题经典理论并不是一蹴而就的教科书往往是后人不断整理的结果看看原始文献能够看到大家思考问题的逻辑直接查阅原始文献，了解其发展的历史，再现理论的原貌，了解原创者的思想Shannonsamplingtheorem(香农采样定理)Ifsignalf(t)satisfies:supp()isincludedintheinterval[-T,T],andsamplingrateisr,thenIfr,wecan