1.按发出符号之间的关系来分,信源可以分为(有记忆信源)和(无记忆信源)2.连续信源的熵是(无穷大),不再具有熵的物理含义。3.对于有记忆离散序列信源,需引入(条件熵)描述信源发出的符号序列内各个符号之间的统计关联特性3.连续信源X,平均功率被限定为P时,符合(正态)分布才具有最大熵,最大熵是(1/2ln(2𝜋ⅇ𝜎2))。4.数据处理过程中信息具有(不增性)。5.信源冗余度产生的原因包括(信源符号之间的相关性)和(信源符号分布的不均匀性)。6.单符号连续信道的信道容量取决于(信噪比)。7.香农信息极限的含义是(当带宽不受限制时,传送1bit信息,信噪比最低只需-1.6ch3)。8.对于无失真信源编码,平均码长越小,说明压缩效率(越高)。9.对于限失真信源编码,保证D的前提下,尽量减少(R(D))。10.立即码指的是(接收端收到一个完整的码字后可立即译码)。11.算术编码是(非)分组码。12.游程编码是(无)失真信源编码。13.线性分组码的(校验矩阵)就是该码空间的对偶空间的生成矩阵。14.若(n,k)线性分组码为MDC码,那么它的最小码距为(n-k+1)。15.完备码的特点是(围绕2k个码字、汉明矩d=[(dmin-1)/2]的球都是不相交的每一个接受吗字都落在这些球中之一,因此接收码离发码的距离至多为t,这时所有重量≤t的差错图案都能用最佳译码器得到纠正,而所有重量≤t+1的差错图案都不能纠正)。16.卷积码的自由距离决定了其(检错和纠错能力)。(对)1、信息是指各个事物运动的状态及状态变化的方式。(对)2、信息就是信息,既不是物质也不是能量。(错)3、马尔可夫信源是离散无记忆信源。(错)4、不可约的马尔可夫链一定是遍历的。(对)5、单符号连续信源的绝对熵为无穷大。(错)6、序列信源的极限熵是这样定义的:H(X)=H(XL|X1,X2,…,XL-1)。(对)7、平均互信息量I(X;Y)是接收端所获取的关于发送端信源X的信息量。(对)8、信源X,经过处理后,输出为Y,H(Y)小于H(X),说明信息不增。(对)9、如果一个消息包含的符号比表达这个消息所需要的符号多,那么该消息存在冗余度。(错)10、有噪无损离散信道的输入为X,输出为Y,那么其信道容量C=maxH(Y)。(错)11、非高斯噪声信道的信道容量比高斯噪声信道的信道容量小。(对)12、信息率失真函数具有单调递减性。(错)13、异前缀码不能及时可译。(对)14、用码树构造的一定是及时码。(对)15、香农编码压缩了符号相关造成的冗余。(对)16、有失真信源编码指的是保真度准则下的信源编码。(对)17、变长无失真信源编码比定长编码的编码效率高。(错)18、香农编码是最佳编码。(对)19、卷积、交织都可以达到差错随机化的目的。。(错)20、卷积码的序列距离决定了其检错和纠错能力。信息、消息、信号的定义是什么?三者的关系是什么?答:定义:信息是指各个事物运动的状态及状态变化的方式。消息是指包含信息的语言、文字和图像。信号是消息的物理体现。三者的关系:消息包含信息,是信息的载体,但不是物理性的。信号是信息的载体,是物理性的。什么样的马尔可夫链是遍历的?答:有限状态的,具有不可约束性,具有非周期性简述离散信源的最大熵定理。答:离散无记忆信源输出M个不同的信息符号,当且仅当各个符号出现概率相等时,熵最大。简述信息率失真函数的物理意义。答:对于给定信源,在平均失真不超过失真限度D的条件下,信息率容许压缩的最小值为R(D)。叙述变长信源编码定理。答:在变长编码中,码长K是变化的,可根据信源各个符号的统计特性,对概率大的符号用短码,而对概率小的符号可用较长的码,这样大量信源符号编成码后,平均每个信源符号所需的输出符号数就可以降低,从而提高编码效率。惟一可译码存在的充要条件是什么?答:什么是差错图样?有哪些差错图样类型?答:收、发码之“差”为差错图样,随机差错,突发差错。什么是本原多项式?答:二元域m次本原多项式是一个m次即约多项式,能被它整除的最简首一多项式xn+1的次数满足条件n≥2m-1对于信道编码,有哪两种译码算法?简述之。答:最优译码:在已知r的条件下找出可能性最大的发码作为译码估值。最大似然译码:在已知r的条件下使先验概率最大的译码算法。为什么说BSC信道的最小距离译码就是最大似然译码?答:当逐位比较发码的收码时,仅存在两种可能性:相同或不同。如果r中有d个码元,并与ci的码元不同,则r与ci的汉明距离是d。d越大,似然函数P(r|ci)越小。什么是完备码?举出两种完备码的例子。答:把满足方程的二元(n,k)线性分组码称为完备码汉明码、高莱码写出卷积码的解析表达式。说明为什么称之为卷积码?答:任何时刻i的输出码字可用数学式表示为上式可视为无限长矩阵序列mi与有限长矩阵Gi的卷积运算mi*Gi,这就是卷积码名称的来历。设在一只布袋中装有100个大小相同的乒乓球,(1)若红色球和白色球各50个,从中随机取出一个球,问猜测其颜色需要的信息量是多少?(2)若红色球99个,白色球1个,从中随机取出一个球,猜测其颜色需要的信息量又是多少?某信道为强对称信道(即均匀信道)输入符号和输出符号的个数均为m,正确的传输概率为1—ε,错误概率为ε被对称的均匀分给m—1个输出符号,试写出转移概率矩阵及其信道容量的表达式。一个平均功率受限的连续信道,其通频带为1MHZ,信道上存在白色高斯噪声。(1)已知信道上的信号和噪声的平均功率比值为10,求该信道的信道容量。(2)信道上的信号和噪声的平均功率比值降为5,要达到相同的信道容量,信道的通频带应为多大?(3)若信道通频带减少为0.5MHZ,信道上的信号和噪声的平均功率比值应为多大?(4)。。。。设有离散无记忆信源P(X)={0.37,0.25,0.18,0.10,0.07,0.03},(1)、求该信源的符号熵。(2)、用哈夫曼编码编成二元变长码,计算其编码效率。(3)、要求其译码错误小于10采用定长二元码要达到(2)中的哈夫曼编码效率,问需要多少个信源符号连在一起编?最小距离与检错和纠错能力之间满足如下关系:1)设码组能检错个数为e,则有2)设码组能纠错个数为t,则有3)若码组能检错个数为e,又能纠错t个,则有对任何纠错编码都适用。对于分组码(n,k),编码效率定义为信息位在码字中所占的比重,按下式计算:nrnk1