信息论基础期末试卷B

第1页共3页第1页共3页○？○？大学2008—2009学年第1学期2006级信息与计算科学专业本科卷B课程名称信息论基础课程号（？？？）考试形式（闭卷笔试）时间（120分钟）一、本题共1小题，满分15分.一阶马尔可夫信源的状态转移图如下所示，信源X的符号集为{0,1,2}.（1）求平稳后信源的概率分布；（2）求信源的熵H；（3）求当0p和1p时信源的熵，并说明其理由.二、本题共1小题，满分20分.计算下述信道的信道容量（以p为变量）：ppppppppP00000000题目一二三四五六总分统分人得分得分评卷人得分评卷人系别_________________专业_________________班级__________本专学号_________________姓名________________密封线学生须将答案写在此线以下第2页共3页第2页共3页三、本题共1小题，满分12分.设信源)(sps=pppsss621621，1iip；对此信源编码为r元唯一可译变长码（即码符号集rX,,2,1），其对应的码长为)3,2,3,2,1,1(),,,,,(654321llllll，求r值的最好下限.四、本题共1小题，满分15分.求概率分布为11122(,,,,)3551515信源的二元霍夫曼码；讨论此码对于概率分布为11111(,,,,)55555的信源也是最佳二元码.得分评卷人得分评卷人第3页共3页第3页共3页五、本题共1小题，满分20分.证明最小错误概率译码与最大似然译码在先验等概的条件下等价；设2M且两个消息等概，令)0000(1x，)1111(2x；通过信道转移概率21p的信道传输；若将译码区间分为：}1000,0100,0010,0001,0000{1Y}0111,1011,1101,1110,1111{2Y}0101,1010,1001,0110,1100,0011{3Y，试给出译码错误概率和有错而不能判决的概率.六、本题共1小题，满分18分.设信源符号集sPS9.0,1.0,21ss（1）求SH和信源剩余度；（2）设码符号为}1,0{X，编出S的紧致码，并求S的紧致码的平均码长L；（3）把信源的N次无记忆扩展信源NS编成紧致码，试求3,2N时的平均码长NLN.得分评卷人得分评卷人