第1页共3页1专升本《信息论与编码》一、(共48题,共150分)1.H(X)____________0,小概率事件对熵的贡献____________,确定事件的信息量____________0。(6分).标准答案:1.=;2.小;3.=;2.确定信道的H(Y/X)____0,H(X/Y)____0。(4分).标准答案:1.=;2.;3.霍夫曼编码可以编出不同的码,这些码的平均码长________,.编码效率________,码长方差________。(6分).标准答案:1.一样;2.一样;3.不一定一样;4.N个独立并联的信道,每个信道的信道容量为C,为了达到总的信道容量NC,所有信道的输入要________________,.所有信道的输入概率分布是各自信道的________________。(4分).标准答案:1.相互独立;2.最佳分布;5.通信系统中的编码器包括____________________,____________________,____________________。(6分).标准答案:1.信源编码器;2.纠错编码器;3.调制器;6.率失真函数R(D)的最大值为________________,最小值为________________。(4分).标准答案:1.H(X);2.0;7.某事件的概率为p(x),则自信息量为()。(2分)A.-p(x)B.1/p(x)C.-logp(x)D.logp(x).标准答案:C8.有事件x,y,I(x)=2bit,I(x/y)=1bit,则互信息量I(x;y)的值为()。(2分)A.1bitB.2bitC.3bitD.4bit.标准答案:A9.下列关于条件熵的结论,不成立的是()(2分)A.H(X/Y)C.H(X/Y).标准答案:B10.使I(X;Y)=0成立的条件是():(2分)A.X和Y相互独立B.H(X)=H(Y)C.X和Y的概率分布相同.标准答案:A11.以下关于离散无记忆信源(熵为H(X))的结论,不正确的是():(2分)A.是平稳信源B.其N次无记忆扩展信源的熵是NH(X)C.其极限熵大于H(X).标准答案:C12.以下关于信道容量C和信息传输率R间的关系,正确的是():(2分)A.CRB.C=RC.CR.标准答案:A13.某信源有8个符号,其信源熵为2.4bit,进行二元定长编码(不扩展),则其编码效率至少可达()(2分)A.80%B.85%C.90%D.95%.标准答案:A14.在准对称信道中,要达到信道容量,要求():(2分)A.信源和信宿的概率分布一致B.信源为等概分布C.信宿为等概分布.标准答案:B15.在信道编码中,简单重复编码可以():(2分)A.减小但降低了信息传输率B.提高了信息传输率,但增大了PEC.减小并提高了信息传输率.标准答案:A16.二元码C={(000),(011),(101),(110),该码的最小码距是():。(2分)A.1B.2C.3D.4.标准答案:B17.率失真函数R(D)的取值与()无关(2分)A.信源的概率分布B.保真度DC.失真函数D.信道转移矩阵.标准答案:D18.熵函数是信源概率分布的________函数,函数值________0。(4分).标准答案:1.上凸;2.;19.I(xi,yj)____I(yj,xi),I(xi,yj)____I(xi),I(xi,yj)____I(yj)。(6分).标准答案:1.=;2.;3.;第2页共3页220.信源编码的目的是提高系统的____________,纠错编码的目的是提高系统的____________。(4分).标准答案:1.有效性;2.可靠性;21.无噪信道的H(X/Y)____0,收到Y可完全确定____,其最佳输入分布为____。(6分).标准答案:1.=;2.X;3.等概分布;22.有m个输入符号的离散无损信道的信道容量为________________bit,其最佳输入分布为________________。(4分).标准答案:1.logm;2.等概分布;23.一个(n,k)线性分组码的最小汉明距离为5,则其校验矩阵中任意____个列向量线性无关,可检测____个错误,可纠正____个错误。(6分).标准答案:1.4;2.4;3.2;24.两个事件A和B,P(A)P(B),则两者包含的自信息量I(A)和I(B)的关系是()。(2分)A.I(A)I(B)B.I(A)=I(B)C.I(A).标准答案:C25.信源X包含n个不同的离散消息,其信源熵的最大值为()。(2分)A.nB.1C.lognD.n+1.标准答案:C26.离散无记忆信源X的熵为2,则其三次扩展信源的熵为():(2分)A.2B.4C.6D.8.标准答案:C27.对马尔科夫信源来说,下列结论不正确的是():(2分)A.是有记忆信源B.其记忆长度是无限的C.是平稳信源.标准答案:B28.对有n个输入符号、m个输出符号的确定信道来说,其信道容量为():(2分)A.lognB.logmC.H(X)D.H(Y).标准答案:B29.对一个两级串联信道,要使串联传输不增加信息损失,信道需满足():(2分)A.两个信道都是对称信道B.两个信道的信道矩阵相同C.两个信道的信道容量相等D.总的信道矩阵等于第一级信道矩阵.标准答案:D30.为了正确译码,信源编码必须是():(2分)A.奇异码B.非奇异码C.唯一可译码.标准答案:C31.信源X的熵为2,信源Y的熵为3,X、Y相互独立,则其联合熵H(XY)=()(2分)A.2B.3C.6D.5.标准答案:D32.费诺编码在()的情况下,编码效率最高(2分)A.信源为等概分布B.概率分布极不平均C.编码时每次分组的概率相等.标准答案:C33.香农信息论中,概率小的事件,信息量____,确定事件____信息量。(4分).标准答案:1.大;2.不含;34.H(X/Y)________H(X)0;H(XY)________H(X);H(XY)________H(X/Y)。(6分).标准答案:1.35.对串联信道,如果串联信道的总的信道矩阵等于第一级信道矩阵,则________增加信息的损失;信息在传输中损失后,后续系统________恢复。(4分).标准答案:1.不会;2.不能;36.率失真函数R(D)是D的________、________下凸函数,当D=Dmax时,R(D)=________。(6分).标准答案:1.递减;2.下凸;3.0;37.无记忆信源____平稳信源,马尔科夫信源____平稳信源,.平稳信源的极限熵____H(X)。(6分).标准答案:1.是;2.是;3.38.香农编码、费诺编码和霍夫曼编码的共同点是编出的码都是____________,大概率符号对应的码字码长____________。(4分).标准答案:1.即时码;2.短;39.一下关于条件自信息量的结论,不正确的是()。(2分)A.条件自信息量不大于联合自信息量B.条件自信息量不能为负数第3页共3页3C.条件自信息量不大于自信息量.标准答案:C40.互信息量为负值的条件是():(2分)A.见图B.见图C.见图D.见图.标准答案:D41.信源X有三个消息符号,当概率分布为(),H(X)的值最大:(2分)A.{1,0,0B.{1/3,1/3,/1/3C.{0,1/2,1/2.标准答案:B42.对信源X和Y来说,下列值中最小的是():(2分)A.I(X;Y)B.H(X)C.H(Y)D.H(X,Y).标准答案:A43.信道容量C是()对信源分布的最大值:(2分)A.I(X;Y)B.H(X)C.H(Y)D.H(X,Y).标准答案:A44.实现离散准对称无记忆信道信道容量的信源应满足():(2分)A.信源为等概分布B.信源符号和信宿符号个数相等C.信源和信宿概率分布相同D.信宿为等概分布.标准答案:A45.一个小型字库有220个汉字,要进行二元定长编码,为了保证唯一可译性,则码长至少是()。(2分)A.5B.6C.7D.8.标准答案:D46.选择译码规则总的原则是():(2分)A.使平均错误概率PE最小B.使噪声熵最小C.使信道损失最小.标准答案:A47.对连续信源和连续信道来说,下列结论不正确的是()(2分)A.条件熵可正可负B.无条件熵可正可负C.联合熵可正可负D.平均互信息可正可负.标准答案:D48.在线性分组码中,生成矩阵G和校验矩阵H的关系是:(2分)A.见图B.见图C.见图D.见图.标准答案:A