信息论与编码期末考试题----学生复习用

《信息论基础》参考答案一、填空题1、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。2、信源的剩余度主要来自两个方面，一是信源符号间的相关性，二是信源符号的统计不均匀性。3、三进制信源的最小熵为0，最大熵为32logbit/符号。4、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr=Hr(S)）。5、当R=C或（信道剩余度为0）时，信源与信道达到匹配。6、根据信道特性是否随时间变化，信道可以分为恒参信道和随参信道。7、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。8、若连续信源输出信号的平均功率为2，则输出信号幅度的概率密度是高斯分布或正态分布或22212xfxe时，信源具有最大熵，其值为值21log22e。9、在下面空格中选择填入数学符号“,,,”或“”（1）当X和Y相互独立时，H（XY）=H(X)+H(X/Y)=H(Y)+H(X)。（2）1222HXXHX12333HXXXHX（3）假设信道输入用X表示，信道输出用Y表示。在无噪有损信道中，H(X/Y)0,H(Y/X)=0,I(X;Y)H(X)。三、已知信源1234560.20.20.20.20.10.1SssssssP（1）用霍夫曼编码法编成二进制变长码；（6分）（2）计算平均码长L;（4分）（3）计算编码信息率R;（2分）（4）计算编码后信息传输率R;（2分）（5）计算编码效率。（2分）（1）01010100111.00.20.20.20.20.10.11S2S3S4S5S6S编码结果为：1234560001100101110111SSSSSS（2）610.420.632.6iiiLP码元符号（3）bitlogr=2.6RL符号（4）2.53bit0.9732.6HSRL码元其中，bit0.2,0.2,0.2,0.2,0.1,0.12.53HSH符号（5）0.973logHSHSLrL四、某信源输出A、B、C、D、E五种符号，每一个符号独立出现，出现概率分别为1/8、1/8、1/8、1/2、1/8。如果符号的码元宽度为0.5s。计算：（1）信息传输速率tR。（2）将这些数据通过一个带宽为B=2000kHz的加性白高斯噪声信道传输，噪声的单边功率谱密度为6010WnHz。试计算正确传输这些数据最少需要的发送功率P。解：（1）1tXRHXHYt61111log4log882211log8log22231log2log2222log22bit24100.5tHXbitRbpss（2）66662410210log1102101226PPPW五、一个一阶马尔可夫信源，转移概率为1121122221|,|,|1,|033PSSPSSPSSPSS。(1)画出状态转移图。(2)计算稳态概率。(3)计算马尔可夫信源的极限熵。(4)计算稳态下1H,2H及其对应的剩余度。解：(1)1S2S131(2)由公式21|iijjjPSPSSPS有21112122211122|31|31iiiiiiPSPSSPSPSPSPSPSSPSPSPSPS得123414PSPS(3)该马尔可夫信源的极限熵为：2211|log|322311loglog433433110.5781.599240.6810.4720.205ijijiijHPSPSSPSSbitnathart符号符号符号(4)在稳态下：213311logloglog0.8114444iiiPxPxbit符号20.2050.4720.681HHhartnatbit符号符号符号对应的剩余度为1100.811110.1891111loglog2222HH2200.681110.3191111loglog2222HH六、设有扰信道的传输情况分别如图所示。试求这种信道的信道容量。1212121212121212XY解：信道传输矩阵如下|110022110022110022110022YXP可以看出这是一个对称信道，L=4,那么信道容量为111log4,,0,022log|log|11log42log221LjijijCHLpyxpyxbit七、设X、Y是两个相互独立的二元随机变量，其取0或1的概率相等。定义另一个二元随机变量Z=XY(一般乘积)。试计算(1),;HXHZ(2),;HXYHXZ(3)|,|;HXYHZX(4);,;IXYIXZ;解：(1)Z01P(Z)3/41/411,122HXHbit31(2),0.811344HHbit(2)112HXYHXHYbit对1111|11,0,1.52222HXZHXHZXHHbit对(3)|1HXYHXbit1111|1,0,0.52222HZXHHbit(4),|0IXYHYHYXHYHY,|0.81130.50.3113IXZHZHZXbit八、设离散无记忆信源的概率空间为120.80.2XxxP，通过干扰信道，信道输出端的接收符号集为12,Yyy，信道传输概率如下图所示。561416341x2x1y2y(1)计算信源X中事件1x包含的自信息量；(2)计算信源X的信息熵；(3)计算信道疑义度|HXY；(4)计算噪声熵|HYX；(5)计算收到消息Y后获得的平均互信息量。解：(1)1log0.80.3220.09690.223Ixbithartnat(2)0.8,0.20.7220.50.217HXHbitnathart符号符号符号(3)转移概率：xyy1y2x15/61/6x23/41/4联合分布：xyy1y2x12/312/154/5x13/201/201/549/6011/601/52231,,,31520201.4040.9730.423HXYHbitnathart符号符号符号49/60,11/600.6870.4760.207HYHbitnathart符号符号符号|0.7170.4970.216HXYHXYHYbitnathart符号符号符号(4)|0.6820.4730.205HYXHXYHXbitnathart符号符号符号(5);|0.005040.003490.00152IXYHXHXYbitnathart符号符号符号()1、人们研究信息论的目的是为了高效、可靠、安全地交换和利用各种各样的信息。2、信息的可度量性是建立信息论的基础。3、统计度量是信息度量最常用的方法。4、熵是香农信息论最基本最重要的概念。。12、自信息量的单位一般有比特、奈特和哈特。13、必然事件的自信息是0。14、不可能事件的自信息量是∞。15、两个相互独立的随机变量的联合自信息量等于两个自信息量之和。16、数据处理定理：当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息之间的平均互信息量趋于变小。17、离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。18、离散平稳有记忆信源的极限熵，H)/(lim121NNNXXXXH。19、对于n元m阶马尔可夫信源，其状态空间共有nm个不同的状态。25、若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为3。26、m元长度为ki，i=1，2，···n的异前置码存在的充要条件是：nikim11。27、若把掷骰子的结果作为一离散信源，则其信源熵为log26。28、同时掷两个正常的骰子，各面呈现的概率都为1/6，则“3和5同时出现”这件事的自信息量是log218（1+2log23）。30、一副充分洗乱的扑克牌（52张），从中任意抽取1张，然后放回，若把这一过程看作离散无记忆信源，则其信源熵为52log2。31、根据输入输出信号的特点，可将信道分成离散信道、连续信道、半离散或半连续信道。32、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为无记忆信道。33、具有一一对应关系的无噪信道的信道容量C=log2n。34、强对称信道的信道容量C=log2n-Hni。35、对称信道的信道容量C=log2m-Hmi。36、对于离散无记忆信道和信源的N次扩展，其信道容量CN=NC。43、信道编码定理是一个理想编码的存在性定理，即：信道无失真传递信息的条件是信息率小于信道容量。44、信道矩阵10002/12/1代表的信道的信道容量C=1。45、信道矩阵100101代表的信道的信道容量C=1。53、单符号的失真度或失真函数d（xi，yj）表示信源发出一个符号xi，信宿再现yj所引起的误差或失真。54、汉明失真函数d（xi，yj）=jiji10。55、平方误差失真函数d（xi，yj）=（yj-xi）2。56、平均失真度定义为失真函数的数学期望，即d（xi，yj）在X和Y的联合概率空间P（XY）中的统计平均值。57、如果信源和失真度一定，则平均失真度是信道统计特性的函数。58、如果规定平均失真度D不能超过某一限定的值D，即：DD。我们把DD称为保真度准则。59、离散无记忆N次扩展信源通过离散无记忆N次扩展信道的平均失真度是单符号信源通过单符号信道的平均失真度的N倍。60、试验信道的集合用PD来表示，则PD=mjniDDxypij,,2,1,,,2,1;:)/(。61、信息率失真函数，简称为率失真函数，即：试验信道中的平均互信息量的最小值。62、平均失真度的下限取0的条件是失真矩阵的每一行至少有一个零元素。63、平均失真度的上限Dmax取{Dj：j=1，2，···，m}中的最小值。64、率失真函数对允许的平均失真度是单调递减和连续的。65、对于离散无记忆信源的率失真函数的最大值是log2n。66、当失真度大于平均失真度的上限时Dmax时，率失真函数R（D）=0。67、连续信源X的率失真函数R（D）=);()/(YXIPxypInfD。68、当2D时，高斯信源在均方差失真度下的信息率失真函数为)(DRD22log21。69、保真度准则下的信源编码定理的条件是信源的信息率R大于率失真函数R（D）。70、某二元信源2/12/110)(XPX其失真矩阵D=00aa，则该信源的Dmax=a/2。71、某二元信源2/12/110)(XPX其失真矩阵D=00aa，则该信源的Dmin=0。72、某二元信源2/12/110)(XPX其失真矩阵D=00aa，则该信源的R（D）=1-H（D/a）。73、按照不同的编码目的，编码可以分为三类：分别是信源编码、信道编码和安全编码。74、信源编码的目的是：提高通信的有效性。75、一般情况下，信源编码可以分为离散信源编码、连续信源编码和相关信源编码。76、连续信源或模拟信号的信源编