《信息论与编码》第三章部分习题参考答案

第三章习题参考答案3-1解：(1)判断唯一可译码的方法：①先用克劳夫特不等式判定是否满足该不等式；②若满足再利用码树，看码字是否都位于叶子结点上。如果在叶节点上则一定是唯一可译码，如果不在叶节点上则只能用唯一可译码的定义来判断是不是。其中C1,C2,C3,C6都是唯一可译码。对于码C2和C4都满足craft不等式。但是不满足码树的条件。就只能举例来判断。对C5：61319225218kii，不满足该不等式。所以C5不是唯一可译码。(2)判断即时码方法：定义：即时码接收端收到一个完整的码字后，就能立即译码。特点：码集任何一个码不能是其他码的前缀，即时码必定是唯一可译码,唯一可译码不一定是即时码。其中C1,C3,C6都是即时码。对C2：“0”是“01”的前缀，……，所以C2不是即时码。(1)由平均码长61()iiiKpxk得123631111712(3456)241681111712(3456)241681115233424162KbitKbitKbitKbit62111223366()()log()2/()266.7%3()294.1%178()294.1%178()280.0%52iiiHUpupuHUKHUKHUKHUK比特符号3-7解：(1)信源消息的概率分布呈等比级数，按香农编码方法，其码长集合为自然数数列1,2,3,···,i,···；对应的编码分别为：0,10,110,···,111…110(i–1个1),···。(2)先求熵和平均码长，二者的比值即信息传输速率2()()log()2/()...2/()1bit/iiIiiIHpxpxbitkpxkHRkXX符号码元符号码元时间(3)编码效率：=1=100%3-11解：(1)621()()log()2.355/iiiHXpxpx比特符号(2)香农编码如下表所示：符号xi符号p(xi)累加Pi-log2p(xi)码长ki码字x10.3201.63200x20.220.322.173010x30.180.542.463100x40.160.722.633101x50.080.883.6241110x60.040.964.6151111061()0.322(0.220.180.16)30.0840.0452.84/iiikpxk码元符号()2.3550.82982.9%2.84HXk（3）费诺编成二进变长制码，符号xi符号p(xi)第一次分组第二次分组第三次分组第四次分组码字码长kix10.3200002x20.221012x30.1810102x40.16101103x50.081011104x60.04111114%1.984.2355.2)(4.24*04.04*08.03*16.02*18.02*22.02*032)(61kxHkxpKiii（4）huffman编码符号xi符号p(xi)编码过程码字码长kix10.32002x20.22102x30.18112x40.160103x50.0801104x60.0401114%1.984.2355.2)(4.24*04.04*08.03*16.02*18.02*22.02*032)(61kxHkxpKiii（5）huffman三进制符号xi符号p(xi)编码过程码字码长kix10.3211x20.22012x30.18022x40.160003x50.080013x60.040023211100.12010.280.320.220.18100.320.40.28100.60.41010020.280.320.220.18100.320.6810%7.7511.3355.2)(11.33log*)3*04.03*08.03*16.02*18.02*22.01*032(3log*)(2261kxHkxpKiii（6）log26=2.58采用定长码则必须使得K=3才能完成编码效率%5.783355.2)(kxH（7）046.0%1.98355.2355.2)()(xHxHL≧23865810*046.0505.0*32223-12解：(1)821()()log()2.56/iiiHXpxpx比特符号R=H(X)=2.56bit/s505.0355.2)04.0(log*04.0)08.0(log*08.0)16.0(log*16.0)18.0(log*18.0)22.0(log*22.0)32.0(log*32.0)]([)]()[log()]()([2222222221222XHxpxpXHxIEniiii