数字通信14

第6章信息论基础信道容量随机选择的码基于截止速率的通信系统设计6.5信道模型和信道容量2W仅随k的增加而线性增加用M=2k个信号波形，每个波形传递k比特信息。，可借助正交的信号波形使差错概率任意小。1.6MdBb时，只要回顾带宽W=Mf随k增加而指数增加。信道带宽利用率太低!编码波形（由二进制或非二进制序列产生的信号波形）在功率受限系统(R/W1)和带宽受限系统(R/W1)中都具有优越性能。M元调制产生的信号波形信道容量和信道编码3信源和输入变换器信源编码器信道信源译码器数字调制器信道编码器解调器检测器信道译码器输出信号输出变换器输入：离散的数字序列输出：离散数字序列；码率：k/n进入通信信道的接口将每个二进制数字映射为两个可能的波形之一或采用M=2q个可能的波形，一次传送q比特数据块。将受信道损伤的波形简化成一个矢量可以把检测器判决过程看作是一种Q电平量化形式；Q=2：二进制量化，判决传送的比特是0还是1（硬判决）对于M进制信号：Q=M——硬判决；QM——软判决；Q=——不作量化回顾数字通信系统的模型信道模型和信道容量发送器41(|)(|)niiiPyxPyx编码设计时常用的信道模型描述信道模型的三个参数：信道模型和信道容量1212(,,|,,)nnPyyyxxx输入和输出序列之间关系的条件概率:信道的输入信号集X信道的输出信号集Y如果：对于所有n则称信道是无记忆的。（i时刻的输出仅取决于i时刻的输入）5最简单的信道模型，应用于M=2，检测器采用硬判决的情况。把调制、解调、检测看成信道的一个部分(0|1)(1|0)(1|1)(0|0)1PYXPYXPPYXPYXP四种信道模型1.二进制对称信道BSC——合成信道一组可能输入和可能输出之间关系的条件概率:信道模型和信道容量离散二进制输出离散二进制输入每个输出比特仅与对应的一个输入比特有关——无记忆6)|()|(jijixyPxXyYP2.离散无记忆信道DMC输入X、输出Y的联合概率：112211221(,|,)(|)nnnnnkkkkkPYvYvYvXuXuXuPYvXui=0,1,…Q-1j=0,1,…M-1无记忆条件条件概率P(yi|xj)可以表示成矩阵形式P=[pij]，称为信道的转移概率矩阵。信道模型和信道容量qMQ2离散输入M元符号离散输出Q元符号更广义的离散输入、离散输出信道；合成信道的输入输出特性（无记忆信道和调制时）用MQ个条件概率描述：Q进制输出M元调制73.离散输入、连续输出信道调制器输入信号为离散字符，检测器的输出未经量化。一组条件概率密度函数：P(y|X=xk)k=0,1,…q-1例：AWGN信道：YXN222/)(21)|(kxykiexXyP12121(,|,)(|)nnniiiPyyyxxxPyx信道为无记忆的条件为：信道模型和信道容量连续输出Y离散输入XN：零均值，方差为2的高斯随机变量对于任意给定的输入序列Xi，相应的输出序列Yi=Xi+Nii=1,2,…n8()()()ytxtnt4.波形信道把调制器和解调器从物理信道中分离出来单独研究。将x(t)、y(t)和n(t)展开成一个标准正交函数的完备集：()()iiiytyt0()()TiiyyttdtiiinxyNiiiNNxyPxxxyyyP12121)|(),,|,,(222/)(21)|(iixyiiiexyP波形信道被简化成一个等效的离散时间信道！处理：利用展开式中的系数描述信道特征：信道模型和信道容量输出也是波形输入是波形0[()()]()Tiiixtnttdtxn9带宽为W、时长为T的信号空间维数：N=2WT2()EXtP22PEXW由维度定理：考虑到信道输入通常受功率限制：信道模型和信道容量如果对x(t),y(t)以奈奎斯特速率2W样值/秒抽样，则上述结果就是抽样信号的统计值。即：结论：波形AWGN信道带宽W限制；功率P限制等效的离散时间信道每秒使用2W次；噪声方差：2=N0/2输入功率受限：22PEXW等效于/22221/211lim()limTWTjTTjTxtdtxTT221lim22TWTEXWEXPT10几种信道模型小结信道模型和信道容量选用何种信道模型完全取决于研究的目的；当设计和分析离散信道编、译码器的性能时——可以将调制、解调器归并为复合信道的一部分；当设计和分析数字调制、解调器的性能时——可采用波形信道模型。116.5信道模型和信道容量12011qXxxx，，011QYyy，y，(|)ijPyxlog(|)()ijiPyxPy10()()()(|)qiikikKPyPYyPxPyx信道容量考虑一个DMC信道：●输入字符集：●输出字符集：●转移概率集合：由事件Y=yi的发生而提供的关于X=xj的互信息：假如传输的信号是xj，接收到的信号是yi输出Y为输入X提供的平均互信息：1100(|)(,)()(|)log()qQijjijjiiPyxIXYPxPyxPy由信道特征决定对于一组输入符号概率p(xj)，I(X,Y)的最大值仅仅取决于由条件概率P(yi|xj)决定的DMC信道的特性！信道模型和信道容量(,)(,)(,)jijiijIXYPxyIxy13()11()00max(,)(|)max()(|)log()jjPxqQijjijPxjiiCIXYPyxPxPyxPy10()0()1qjjjPxPxI(X,Y)的最大值称为信道容量其中:如果以s秒输入一个符号，则信道容量为：C/sC的单位：●比特/符号；●奈特/符号单位：●bit/s；●奈特/秒信道模型和信道容量14(0|1)(1|0)PPplog2(1)log2(1)Cpppp例：BSC信道转移概率：BSC信道容量：H(p)：二进熵函数p是SNR的单调函数，所以C也是SNR的单调函数当输入概率1(0)(1)2PP时，平均互信息最大。011,,qXxxx,Y12()0(|)max(|)()log()iqiiiPxiPyxCPyxPxdyPy10()(|)()qkkkPyPyxPx例：离散时间的AWGN无记忆信道离散输入连续输出信道容量：()11()00max(,)(|)max()(|)log()jjPxqQijjijPxjiiCIXYPyxPxPyxPy信道模型和信道容量1()()()niiiHpPxIx1()Hp15当P(X=A)=P(X=-A)=1/2时，平均互信息I(X,Y)最大。信道容量：221(|)1(|)(|)log(|)log2()2()PyAPyACPyAdyPyAdyPyPy特例，二进制输入时，离散时间的AWGN无记忆信道：注意：当比值增大时，C从0到1比特/符号单调增大22/2A归纳：选择等概的输入符号能使平均互信息最大。因此，只要令输入符号等概，就可以得出信道容量；如何分配输入概率才能使平均互信息最大，目前还没有一个通用的解法；但只要信道转移概率矩阵对称，就可以使I(X,Y)最大化。信道模型和信道容量但等概条件下不一定能从信道容量公式得到解；16例：受加性高斯白噪声干扰的带限波形信道（求AWGN信道容量）Y=X+N用抽样值（或级数展开系数）{yi},{xi},{ni}来表征yi=xi+ni计算序列XN={x1,x2,…xN}，YN={y1,y2,…yN}的平均互信息:(|)(,)(|)()log()NNNNNNNNNNNXYNPYXIXYPYXPXdXdYPY1(|)(|)()log()NiiiiiiiiiPyxPyxPxdydxPy20()/01(|)iiyxNiiPyxeN其中:假设{xi}是统计独立,均值为零的高斯随机变量,其PDF为:22/21()2ixxixPxe信道模型和信道容量（N=2wT）17AWGN信道容量:2()1021max(,)log12iNxNNPxiIXYN2021log12xNN202log1xwTN假设对发送信号x(t)的平均功率加以限制2221011[()]()TNxaviiNPExtdtExTTT()0max(,)log1iavNNPxPIXYwTwN22avavxTPPNw0log1avPCwwN单位时间的信道容量：Shannon信道容量公式（AWGN信道在带限及平均功率受限的输入条件下）信道模型和信道容量（N=2wT）180log(1)avPCwwN讨论:如果带宽固定，波形信道的容量随传输信号功率的增加而增加。如果Pav固定，容量随带宽w的增加而增加。注意:200logln2avavPPCebitsNNw时，信道容量趋于一个渐近值:信道容量随SNR的增加而单调增加。对带宽归一化后的信道容量曲线信道模型和信道容量结论：信噪比和带宽可以互换！在AWGN信道，C与带宽W，发送功率Pav有关！1920log(1)bCCwwN讨论:将C/w表示成信噪比的函数:avbPC:b每比特能量C的单位：bit/sPav：平均功率/021/CwbNCw01,1(0)bCwdBN当时/02,expln2ln/CwbCCCwNC当时00,ln21.6bCwdBN当时由于:C/w→时，b/N0呈指数增加信道模型和信道容量20信道模型、信道容量小结1.离散输入、离散输出信道（特例：DSC）2.离散输入、连续输出、无记忆加性高斯白噪声信道3.波形信道及信道容量信道带宽受限信号受加性高斯噪声损伤发送机平均功率受限约束条件：信道容量：0log(1)avPCwwN噪声编码定理：只要传输速率RC，总存在一种信道编码，以所要求的任意小的差错概率实现可靠通信。反之，如果RC,不可能有任何一种编码能使差错概率趋近于零。信道模型和信道容量信道容量公式的意义:为在噪声信道中可靠通信确定传输速率的上限值。21当速率且时，正交波形集能达到信道容量的边界。只要，若使差错概率就可以任意小。只要，对于正交信号，通过增加波形数M可以使差错概率PM任意小。0ln2bN6.6用正交信号获取信道容量回顾：在无限带宽的AWGN信道上，M元正交信号PM的边界值:（推导从略）21()2()2222TCRMTCRP0(ln2)avRCPN14CRC104RC0(ln2)avCPN()TRM固定时RCM信道模型和信道容量C：无限带宽AWGN信道容量R：比特率2,kMkRT22()22TERMP21024()4CCRRERCCRRC()ER称为无限带宽AWGN信道的信道可靠性函数。其中：在M较大时，可靠性函数E(R)决定了数字信号在无限带宽AWGN信道传输时，差错概率呈指数变化。将前面的式子表示为：信道模型和信道容量23注意：该差距是寻找更有效的信号波形的源动力采用编码的波形能可观地减小这个差距！信道模型和信道容量RC时，增加正交信号数目M可以使PM任意小。但实际得到的性能与信道容量公式算出的性能之间存在较大差距例如：相干检测：M=16的正交信号，Pe=10-5时，需要SNR=7.5dB信道容量公式结果：C/w=0.5条件下，SNR为-0.8dB就能可靠传输。两者之间存在8.3dB/比特的差距！246.8信道截止