信息论与编码-曹雪虹-第五章-课后习题答案

第五章--习题答案5-1将下表所列的某六进制信源进行二进制编码，试问：消息概率1C2C3C4C5C6Cu1u2u3u4u5u61/21/41/161/161/161/160000010100111001010010110111011110111110101101110111101111100101101110010011111100000101011011001001100101110111(1)这些码中哪些是唯一可译码？(2)哪些码是非延长码？(3)对所有唯一可译码求出其平均码长和编译效率。解：首先，根据克劳夫特不等式，找出非唯一可译码31123456231244135236:62163:22222216463:164:22421:2521:2521CCCCCC5C不是唯一可译码，而4C：又根据码树构造码字的方法1C，3C，6C的码字均处于终端节点他们是即时码5-2(1)因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms,所以每个字母用10ms当信源等概率分布时,信源熵为H(X)=log(4)=2平均信息传递速率为bit/ms=200bit/s(2)信源熵为H(X)==0.198bit/ms=198bit/s5-5(1)12141811613216411281128H(U)=12Log2()14Log4()18Log8()116Log16()132Log32()164Log64()1128Log128()1128Log128()1.984(2)每个信源使用3个二进制符号,出现0的次数为出现1的次数为P(0)=P(1)=(3)(4)相应的香农编码信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x11/20110x21/40.52210x31/80.7533110x41/160.875441110x51/320.9385511110x61/640.96966111110x71/1280.984771111110x81/1280.9927711111110相应的费诺码信源符号xi符号概率pi第一次分组第二次分组第三次分组第四次分组第五次分组第六次分组第七次分组二元码x11/200x21/41010x31/810110x41/16101110x51/321011110x61/6410111110x71/128101111110x81/128111111110（5）香农码和费诺码相同平均码长为编码效率为：5-11（1）信源熵（2）香农编码：信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x10.3201.644200x20.220.322.1843010x30.180.542.4743100x40.160.722.6443101x50.080.883.64441110x60.040.964.644511110平均码长：编码效率为（3）费诺编码为信源符号xi符号概率pi1234编码码长x10.3200002x20.221012x30.1810102x40.16101103x50.081011104x60.04111114平均码长为：编码效率：（4）哈夫曼编码信源符号xi符号概率pi编码过程编码码长x10.320.320.380.400.601012x20.220.220.320.380.40102x30.180.180.220.32112x40.160.160.180003x50.080.1200104x60.0400114平均码长为：编码效率：5.16已知二元信源{0，1}，其p0=1/4,p1=3/4,试用式（4.129）对序列11111100编算术码，并计算此序列的平均码长。解：根据算术编码的编码规则，可得：P(s=11111100)=P2(0)P6(1)=(3/4)6(1/4)27)(1logSPl根据（4.129）可得：F(S)=P(0)+P(10)+P(110)+P(1110)+P(11110)+P(111110)=1–syyP)(=1–P(11111111)–P(11111110)–P(11111101)–P(11111100)=1–P(111111)=1–(3/4)6=0.82202=0.110100100111又P(S)=A(S)=0.0000001011011001，所以F(S)+P(S)=0.1101010即得C=0.1101010得S的码字为1101010平均码长L为0.875。欢迎下载！