第六讲 VQ_语音信号处理第4章

矢量量化的基本原理问题分解1.矢量量化基本原理量化分为两类：*标量量化：将取样后的信号值逐个地进行量化。*矢量量化：将若干取样信号分成一组，即构成一个矢量，然后对此矢量一次进行量化。矢量量化（VQ，VectorQuantization）是一种极其重要的信号压缩方法。VQ在语音信号处理中占十分重要的地位。广泛应用于语音编码、语音识别和语音合成等领域。凡是要用量化的地方都可以采用矢量量化。VQ的定义K维欧几里德空间中的任意矢量X到K维空间有限子集Y的映射KRKRJKYYYYXRQ,,,:21jiRRRRjiKJjj,1iiRY术语码本Codebook码字CodeWord码本大小CodebookSizeVoronoiCell胞腔矢量量化简约历史早在50和60年代就被用于语音压缩编码。70年代线性预测技术被引入语音编码后，矢量量化技术才活跃起来。70年代末，Linda,Buzo等人解决了码本生成问题80年代初，矢量量化技术的理论和应用研究得到迅速发展。采用矢量量化的压缩作用对信号波形或参数进行压缩处理，可以获得很好的效益，使存储要求、传输比特率需求或和计算量需求降低.量化压缩案例10KHz,16-bitPCM→160,000bps100spectralvectorsofdimensionp=10→100×10×32=32,000bps5→1VQ:1024codebook100×10=1000bps32→1采用矢量量化的效果优于标量量化的原因？矢量量化能有效的应用矢量中各分量之间的四种相互关联性质来消除数据中的冗余度。线性依赖(相关性)非线性依赖(统计不独立)概率密度函数的形状矢量量化的维数而标量量化仅能利用线性依赖和概率密度函数的形状来消除冗余度。矢量量化研究的目的？针对特定的信息源和矢量维数，设计出一种最优化的量化器，在R（量化速率）一定的情况下，给出的量化失真尽可能接近D(R)(最小量化失真)。矢量量化的形象说明以K＝2进行说明：当K＝2时，所得到的是二维矢量。所有可能的二维矢量就形成了一个平面。记为（a1,a2）,所有可能的（a1,a2）就是一个二维空间。如图7-1（a）所示图7-1矢量量化概念示意图图7-2矢量量化系统的组成工作过程：在编码端，输入矢量Xi与码书中的每一个码字进行比较，分别计算出它们的失真。搜索到失真最小的码字的序号（或该码字所在码书中的地址），这些序号就作为传输或存储的参数。在恢复时，根据此序号从恢复端的码书中找出相应的码字。由于两本码书完全相同，此时失真最小，所以就是输入矢量Xi的重构矢量。minjYjminjYminjY特点：传输存储的不是矢量本身而是其序号，所以据有高保密性能收发两端没有反馈回路，因此比较稳定矢量量化器的关键是编码器的设计，译码器只是简单的的查表过程。VQ的优、劣势自由构造量化区域的形状码本大小可随意选择量化失真码本存储........................................101101101011一、如何划分M个区域边界方法是：将大量欲处理的信号的矢量进行统计划分，进一步确定这些划分边界的中心矢量值来得到码书。二、类中心计算方法三、两矢量的相似度测度这个测度就是两矢量间的距离，或以其中某一矢量为基准时的失真度。它描述了当输入矢量用码书所对应的矢量来表征时所付出的代价。四、如何准备码本训练集完备性：根据具体应用而定2.VQ问题分解失真测度是矢量量化和模式识别中一个十分重要的问题，选择合适与否直接影响系统的性能。失真是将输入信号矢量用码书的重构矢量来表征时的误差或所付出的代价。这种代价的统计平均值（平均失真）描述了矢量量化器的工作性。3.失真测度失真度选择必须具备的特性必须在主观评价上有意义，即小的失真应该对应于好的主观语音质量；必须是易于处理的，即在数学上易于实现，这样可以用于实际的矢量量化器的设计；平均失真存在并且可以计算；易于硬件实现失真测度主要有均方误差失真测度（即欧氏距离）、加权的均方误差失真测度、板仓－斋藤（Itakura－Saito）距离，似然比失真测度等，还有人提出的所谓的“主观的”失真测度。一、欧氏距离－均方误差设输入信号的某个K维矢量X，与码书中某个K维矢量Y进行比较，xi,yi分别表示X和Y中的各元素，则定义均方误差为欧氏距离：KYXYXyxKYXdTKiii)()()(1),(122)1(Ki几种其他常用的欧氏距离：1.r方平均误差KiriiryxKYXd11),(2.r平均误差rKiriiryxKYXd11']1[),(3.绝对值平均误差KiiiyxKYXd111),(4.最大平均误差iiKirrrMyxYXdYXd11max)],([lim),(二、线性预测失真测度用全极模型表示的线性预测方法，广泛应用于语音信号处理中。它在分析时得到的是模型的预测系数.仅由预测系数的差值，不能完全表征这两个语音信息的差别。应该直接由这些系数所描述的信号模型的功率谱来进行比较。222)()()(jjeAeXf当预测器的阶数，信号与模型完全匹配时，信号功率谱为：p信号的功率谱预测误差能量预测逆滤波器的频率响应222)()()(jpjeAeXf1ln),(2aRaffdTISTa相应的，设码书中某重构矢量的功率谱为则定义Itakura-Saito距离为piaaTirirrrRaa1)()(2)0()0(这种失真测度是针对线性预测模型、用最大似然准则推导出来，所以特别适用于LPC参数，描述语音信号的情况，常用于LPC编码中。我们由此又推导出两种线性预测色失真测度，他们比上述具有更好的性能，即)ln(ln),(22RaaaRaffdTTpLLR①对比似然比失真测度②模型失真测度11),(22RaaaRaffdTTpm注：这两种失真测度都仅仅比较两矢量的功率谱，而没有考虑其他能量信息。三、识别失真测度失真测度的定义)(),(),(EEgffdEfdLLR加权因子输入信号矢量的归一化能量码书重构矢量的归一化能量)()()(0)(FFddxxxxxxxxxxg当两矢量的能量接近时（即），忽略能量差异引起的影响；当两矢量能量相差很大时，即进行线性加权；而当能量差超过门限时，则为固定值dxEEFx4.最佳矢量量化器和码本的设计最佳设计就是使失真最小1、最佳划分2、最佳码书一、矢量量化器最佳设计的两个条件最佳矢量量化器满足的两个必要条件1）Voronoi分割条件（最近邻准则）对信号空间的分割应满足});,(),(:{liYXdYXdRXSilKl根据该条件可以对信号空间进行最佳划分，得到的称为一个胞腔lS2）Centroid质心条件子空间分割固定后，Voronoi胞元的质心就是量化器的码字][llSXXEY对于一般的失真测度和信源分布，很难找到质心的计算方法，但对于一般的分布和常用的均方失真测度，可以证明lSXllXNY1是中包含的矢量个数lS二、LBG算法K-meansclusteringalgorithm1980年由Linde，Buzo和Gray提出，它是标量量化器中Lloyd算法的推广，在矢量量化中是一个基本算法。LBG算法由于其理论上的严密性、应用上的简便性以及较好的设计效果，得到了广泛的应用，并常被作为各种改进算法的基础LBG算法步骤第一步：初始化给出训练VQ码书所需的全部参考矢量X，X的集合用S表示；设定量化级数，失真控制门限，算法最大迭代次数L以及初始码书；设总失真；迭代次数的初始化为m＝1},,,{)0()0(2)0(1NYYY)0(D第二步：迭代2）计算失真：1）根据最近邻准则将S分成N个子集，，┅，，即当时，下式成立：)(1mS)(mNS)(2mS)(1mSXljiYXdYXdmiml,),,(,()1()1(NiSXmlmmlYXdD1)1()()(),(4）计算相对失真改进量：3）计算新码字)(1)(miSXimiXNY)()()1()()()(mmmmmmDDDDD)(m将与失真门限值进行比较。若则转入6）否则转入5）；)(m)(m:,,,)()(2)(1mNmmYYY5）若则转至6），否则m加1，转至1）Lm第三步：结束6）得到最终的训练码书，)()(2)(1,,,mNmmYYY并输出总失真)(mD为了避免迭代算法无限制循环下去，这里设置了两个阈值参数：最大迭代次数L和失真控制门限。的值设得远小于1，当时，表明再进行迭代运算失真得减小是有限的、可)(m以停止运算。L是限制迭代次数的参数，防止设置较低时迭代次数过多三、初始码书的选择①随机选取法②分裂法分裂法Findcentroid0)1()1('DyyyynnnnClassifyvectorsFindCnetroidComputeDistortionD'DDm=2*mDD'mMm=1YesStopNoYesNoNearest-NeighborsearchK-meanschestering0.01~0.05