老师整理的习题(答案在百度文库上搜下,我有传)

chp02-03习题课：1、如果你在不知道今天是星期几的情况下问你的朋友“明天是星期几？”则答案中含有多少信息量？如果你在已知今天是星期四的情况下提出同样的问题，则答案中你能获得多少信息量（假设已知星期一至星期日的排序）？（提示：因假设已知星期一至星期日的排序，而且也知道一星期只有七天，故在不知道今天是星期几的情况下，问明天是星期几的答案，只可能是星期一至星期日七天之一。而在已知今天是星期四的情况下，问明天是星期几的答案必定是星期五。）2、居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？3、设离散无记忆信源814141833210)(4321aaaaxpX其发出的消息为（202120130213001203210110321010021032011223210），求（1）此消息的自信息是多少？（2）在此消息中平均每个符号携带的信息量是多少？4、一阶马尔可夫信源的状态图如图4.1所示，信源X的符号集为｛0，1，2｝并定义pq1。（1）求信源平稳后的概率分布P(0)，P(1)和P(2)。（2）求此信源的熵。（3）近似认为此信源无记忆时，符号的概率分布等于平稳分布。求近似信源的熵H(X)并与H∞进行比较。（4）对一阶马尔可夫信源p取何值时取最大值，又当0p和1p时结果如何。012qp/2qp/2p/2p/2p/2p/2q图4.1一阶马氏信源的状态转移图5、设给定两随机变量X1和X2，它们的联合概率密度为212/)(21,21)(2221xxexxpxx求随机变量Y=X1+X2的概率密度函数，并计算变量Y的熵h（Y）。（提示：独立正态分布的随机变量之和仍是正态随机变量，其均值等于原均值之和，方差等于原方差之和。）6、有一信源发出恒定宽度，但不同幅度的脉冲，幅度值x处在a1和a2之间。此信源连接至某信道，信道接收端接收脉冲的幅度y处在b1和b2之间。已知随机变量X和Y的联合概率密度函数))((1)(1212bbaaxyp试计算h(X),h(Y),h(XY)和I(X;Y)。6、设某连续信道，其特性如下：),(31)|(223/)21(yxeaxypxy而信道输入变量X的概率密度函数为：)4/(2221)|(xeaxyp试计算：（1）信源的熵h（x）。（2）平均互信息I（X;Y）。Chp031,0321、设有一个信源，它产生0，1序列的消息。它在任意时间而且不论以前发生过什么符号，均按P（0）=0.4，P（1）=0.6的概率发出符号。（1）试问这个信源是否是平稳的？（2）试计算H（X2），H（X3|X1X2）及limHN（X）（N-∞）。（3）试计算H（X4）并写出X4信源中可能有的所有符号。2、设有一信源，它在开始时以P（a）=0.6，P（b）=0.3，P（c）=0.1的概率发出X1。如果X1为a时，则X2为a，b，c的概率为1/3；如果X1为b时，则X2为a，b，c的概率为1/3；如果X1为c时，则X2为a，b的概率为1/2，为c的概率为0.而且，后面发出Xi的概率只与Xi-1有关，又P（Xi|Xi-1）=P（X2|X1）i=3.试利用马尔可夫信源的图示法画出状态转移图，并计算信源熵H∞。3、黑白气象传真图的消息只有黑色和白色两种，即信源X=｛黑，白｝，设黑色出现的概率为P（黑）=0.3，白色的出现概率P（白）=0.7.（1）假设图上黑白消息出现前后没有关联，求熵H（X）。（2）假设消息前后有关联，其依赖关系为P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一阶马尔可夫信源的熵H2.（3）分别求上述两种信源的剩余度，并比较H（X）和H2的大小，并说明其物理意义。H(X)=0.881比特/符号；H2=0.553比特/符号；信源剩余度γ1=0.119；γ2=0.447.H（X）H2结果说明：当信源的消息符号之间有依赖时，信源输出的消息的不确定性减弱。本题中，当有依赖时，前面已经是白色消息，后面绝大多数可能是出现白色的消息；前面是黑色消息，后面基本可猜测是黑色消息。这时信源的平均不确定性减弱。所以，信源消息之间有依赖时信源熵小雨信源消息之间无依赖时信源熵。这表明信源熵正是反映戏院的平均不确定性的大小。而信源剩余度正是反映戏院消息依赖关系的强弱，剩余度越大，信源消息符号之间依赖关系就越大。4、设有一连续随机变量，其概率密度函数为P（x）=Acosx︱x︱=π/20x取其他值又在定义域区间内符合完备集，试求这个随机变量的熵。答案：A=1/2,H（x）=-2AlnA-2Aln2+2A=1奈特/样值作业：P493.12中的（1）和（2）chp04习题课后习题（P81）4.14.24.64.154.16一个快餐店只提供汉堡和牛排，当顾客进店以后只需向厨房喊一声“B”或“Z”就表示他点的是汉堡或牛排，不过通常8%的概率厨师可能会听错。一般来说进店的顾客90%会点汉堡，10%会点牛排。问：（1）这个信道的信道容量。（2）每次顾客点菜时提供的信息；（3）在这个信道可不可以正确地传递顾客点菜的信息。4.17求图4-17中信道的信道容量及其最佳的输入概率分布，并求当ξ=0和1/2时的信道容量值。XY01201211-εεε1-ε图4-174.18在图片传输中，每帧约为2.25×106个像素，为了能很好地重现图像，需分16个亮度电平，并假设亮度电平等概率分布。试计算每秒钟传送30帧图片所需信道的带宽（信噪功率比为30db）。4.19设在平均功率受限高斯加性噪声连续信道中，信道带宽为3KHZ，又设（信号功率＋噪声功率）/噪声功率＝10db。(1)试计算该信道传送的最大信息率（单位时间）(2)若（信号功率＋噪声功率）/噪声功率降为5db，要达到相同的最大信息传输率，信道带宽应是多少？chp05习题Chp05习题课课后习题：5.65.75.8习题1.有两个信源X和Y如下：01.0,10.0,15.0,17.0,18.0,19.0,20.0,,,,,,)(7654321xxxxxxxxpX01.0,02.0,02.0,04.0,07.0,07.0,14.0,14.0,49.0,,,,,,,,)(987654321yyyyyyyyyypY（1）分别用霍夫曼码编成二元变长唯一可译码，并计算其编码效率。（2）分别用香农编码法编成二元变长唯一可译码，并计算编码效率。（3）分别用费诺编码法编成二元变长唯一可译码，并计算编码效率。（4）从X,Y两种不同信源来比较这三种编码方法的优缺点。习题2：信源空间为1,2,3,4,5,6,7,8()0.4,0.2,0.1,0.1,0.05,0.05,0.05,0.05ssssssssSPs码符号为X=｛0，1，2｝，试着构造一种三元霍夫曼码。习题3：设有一页传真文件其中某一扫描行上的像素点如下所示：|73白|7黑|11白|18黑|1619白|（1）该扫描行的MH码；（2）编码后该行总比特数；（3）本行编码压缩比（原码元总数：编码后码元总数）习题4：已知二元信源｛0，1｝，其概率分别为p0=1/8，p1=7/8,试着对下列序列11111110111110编算术码，并计算此序列的平均码长和编码效率。chp06习题课后习题：P1636.2问题改为：分别按最小错误概率准则和最大似然译码准则确定译码规则，并计算相应的平均错误概率。习题1：设某二元码为C=｛11100，01001，10010，00111｝（1）计算此码的最小距离dmin。（2）计算此码的码率R，假设码字等概率分布。（3）采用最小距离译码准则，试问接收序列10000，011000和00100应译成什么码字？（4）此码能纠正几位码元的错误。习题2：下面是某（n,k）线性二元码的全部码字：C1=000000C2=001111C3=010001C4=011110C5=100011C6=101100C7=110010C8=111101（1）求n,k为何值？（2）构造这码的生成矩阵G；（写成系统码形式）（3）构成这码的一致校验矩阵H。习题3：考虑一个（8，4）系统线性分组码，其一致校验方程如下：3124213411230234cmmmcmmmcmmmcmmm其中m1,m2,m3,m4是信息位，c3，c2，c1，c0是校验位。（1）求出这码的生成矩阵和一致校验矩阵；（2）写出此（8，4）线性分组码对应的所有码字。（3）若某接收序列R的伴随式S=[1011]，求其错误图样E及发送的码字C；