信息论在信息与通信工程领域的应用..

东南大学移动通信国家重点实验室“信息论与编码”课件武汉大学电子信息学院信息论的广泛应用东南大学移动通信国家重点实验室“信息论与编码”课件武汉大学电子信息学院信息论在保密通信中的应用多媒体通信中的编译码技术计算机网络通信中的编译码技术信息论在数字移动通信系统中的应用信息论在宽带无线接入系统中的应用信息论在其他领域的应用东南大学移动通信国家重点实验室“信息论与编码”课件Mˆ截取发端收端明文M密文C明文公共信道M=DK=EK–1(C)K安全信道K密钥密码破译加密算法EK解密算法DK图14.1加密信道模型信息论在保密通信中的应用东南大学移动通信国家重点实验室“信息论与编码”课件代码的实际码率或语言的实际熵定义为长度为N的消息中每字符包含的平均信息比特数，表示为(14.4)其中H(X)是消息熵，即最佳编码消息的比特数。当N很大时，据估计，中文的r值不大于5比特/汉字，英文的r值约在1.0到1.5比特/字符之间。绝对码率或语言的最大熵定义为假设所有可能字符序列等概情况下，每字符包含的最大信息比特数，用r’表示：r’=lbL(14.5)其中L是语言包含的字符数。中文的绝对码率或最大熵约为13.9比特/汉字，对英文字母，r’=lb26=4.7比特/字符。NHr)(X信息保密技术的基础知识基本度量东南大学移动通信国家重点实验室“信息论与编码”课件代码的冗余度用实际码率和绝对码率来定义：D=r’–r(14.6)英语的r’=4.7比特/字符，r=1.5比特/字符，D=3.2，比率D/r’=68%就是英语冗余度的度量。中文的冗余度的度量约为80%。疑义度定义为在给定Y条件下X的条件熵。条件熵定义为：(14.7)疑义度可以认为是在收到Y后消息X的不确定度。密码破译者希望随着截获密文Y的增加，H(X|Y)接近于零。信息保密技术的基础知识基本度量XYYX,YXYXYYXYXYX)|(1lb)|()()|(lb),()|(PPPPPH东南大学移动通信国家重点实验室“信息论与编码”课件多媒体通信中的编译码技术从应用的角度来看，多媒体就是文本、音频、视频、图形、图像、动画等多种不同形式的信息表达方式的有机综合。随着应用的增长，术语“多媒体”的内涵也不断扩大，它不仅指信息本身，更主要的是指处理和应用它的一系列技术，包括与多媒体计算机、通信和应用相关的技术。多媒体应用的根本目的是以自然习惯的方式，高效安全地接受计算机世界的信息，这些信息通过计算机生成的媒体来展现。东南大学移动通信国家重点实验室“信息论与编码”课件武汉大学电子信息学院多媒体通信中的编译码技术多媒体通信简介数据压缩是多媒体发展的关键技术。多媒体数据压缩技术的分类有多种方法，其中按照信号质量有无损失可分为有损编码和无损编码。无损编码又称为冗余压缩，主要用于文本数据压缩。算法的基本原理是去除或减小数据中的冗余，压缩过程中不能破坏数据中包括的信息，解码后的数据必须与原来的一样。典型的无损压缩算法有Huffman编码、费诺-香农编码、算术编码、流程编码、Lempel-Zev编码等。有损压缩又称为熵压缩，适用于图像和声音的压缩。在压缩过程中减小了数据中包含的数据量，即产生一定的失真，由此获得较高的压缩比。典型的有损编码算法包括模型编码、矢量量化、子带编码、变换编码、小波编码等。东南大学移动通信国家重点实验室“信息论与编码”课件多媒体数据压缩无损压缩有损压缩霍夫曼编码Lempel-Zev编码行程编码算术解析编码预测编码频率编码矢量量化混合编码JPEGMPEG…P64子带编码变换编码图15.1多媒体数据压缩技术分类东南大学移动通信国家重点实验室“信息论与编码”课件武汉大学电子信息学院多媒体通信中的编译码技术多媒体通信简介与多媒体通信有关的压缩编码的国际标准主要有音频编码标准G系列、静态图像压缩编码国际标准JPEG、视频图像压缩编码的国际标准H.261和H.263、运动图像压缩编码的国际标准MPEG系列。当前多媒体编码技术发展的一个重要方向就是综合现有的编码技术，制定全球统一标准，使信息管理系统具有互操作性并确保未来的兼容性。东南大学移动通信国家重点实验室“信息论与编码”课件多媒体会议系统是一种将声音、图像、文本等多种信息从一处传送到另一个处的通信系统，关键技术包括：多媒体数据处理技术；网络技术；分布处理技术；以及支持更多媒体处理的终端技术。典型的多媒体会议系统由终端设备、通信链路、多点控制单元(MCU)及相应的软件部分组成。终端设备完成数据处理、多媒体通信协议处理、音视频信号的接收、存储与播放，并记录和检索大量与会议相关的数据与文件；MCU通常设在网络节点处，用于处理多个地点同时进行通信部分；软件包括协议、会议服务、音频与视频信号处理等；通信链路有多种选择，包括公共电话交换网(PSTN)、局域网(LAN)、广域网(WAN)、ISDN、异步传输模式(ATM)等。多媒体通信中的编译码技术多媒体会议系统中的信道编码技术东南大学移动通信国家重点实验室“信息论与编码”课件媒体通信技术是多媒体会议系统的关键技术之一。图像信息经压缩后，信息的相关度大大降低，因此误码对图像质量的影响不可忽视。在视频会议系统中采用BCH（511,493）纠错编码，以保证图像信息的可靠传输。多媒体会议系统的图像纠错编码原理如图15.6所示。当进行纠错编码时，图像数据被划分为493比特的数据分组，然后送入BCH纠错编码单元，按照BCH（511,493）算法算出18比特的校验位。延时单元的作用是补偿BCH编码所用的时间，使经编码输出的校验比特和相应的数据分组刚好对齐，然后两者复合起来送入多路利用单元。在接收端，解码器对图像进行BCH译码，如果出现随机误码，利用此纠错系统的比特校验位就可以将其纠正。多媒体通信中的编译码技术多媒体会议系统中的信道编码技术东南大学移动通信国家重点实验室“信息论与编码”课件图像数据流BCH编码复合延时经纠错后图像送入多路复用多媒体通信中的编译码技术多媒体会议系统中的信道编码技术图15.6多媒体会议系统中的图像纠错编码东南大学移动通信国家重点实验室“信息论与编码”课件计算机网络通信中的编译码技术计算机通信及其网络体系结构概述ISO7498标准定义了网络体系结构的对象的类型、关系和约束，及7层开放系统互连参考模型，如图15.7所示。计算机A计算机B7654321321321APLSM本地系统环境7654321APLSM本地系统环境OSI环境中继开放系统通信子网ABAP：应用进程LSM：本地系统管理模块：实现模块图15.7OSI参考模型中的体系结构东南大学移动通信国家重点实验室“信息论与编码”课件主机A主机B报文字节流传输协议分组数据报数据报帧1帧2应用层传输层IP层IP层IP层传输层应用层网络接口层网络接口层网络1网络2路由器图15.8TCP/IP模型原理东南大学移动通信国家重点实验室“信息论与编码”课件数据链路通过数据链路控制规程，在不太可靠且有外来干扰的物理链路上实现可靠的、基本无差错的数据传输数据链路层的主要功能：（1）帧同步。指收方能从收到的比特流中准确地判断出一帧的开始和结束。（2）寻址。在多点链接情况下，用于保证每一帧都能送到正确的地址，收方也应当知道数据是从哪一个节点发出的。（3）流量控制。为了保证发方的发送数据速率不超过收方及时接收和处理的能力，当接收方来不及接收时，就必须采取措施来控制发方发送数据的速率。计算机网络通信中的编译码技术数据链路控制规程中的差错控制技术东南大学移动通信国家重点实验室“信息论与编码”课件（4）差错控制。主要有纠错编码和检错编码两种。纠错编码即前向纠错，由于开销较大，适用于卫星中继的计算机通信。检错编码即检错重发，这种方法在计算机通信中最为常用。（5）数据和控制信息的识别。用于区分同一帧中的数据信息和控制信息。（6）透明传输。即保证数据传输的各种比特组合都能够在物理链路上传送。（7）链路管理。即数据链路的建立、维持和释放过程。计算机网络通信中的编译码技术数据链路控制规程中的差错控制技术东南大学移动通信国家重点实验室“信息论与编码”课件数据链路层中的差错控制用于提高数据传输的可靠性及传输效率，主要的方式有以下3种：（1）自动请求重发；（2）前向纠错；（3）混合纠错。在计算机通信中，差错控制的基本任务是在确定的信道条件下，采取简单高效的方式保证系统的可靠性。采用的编码方法可分为分组码和卷积码。常用的分组码包括循环冗余校验码（CRC）、恒比码、垂直水平奇偶校验码等。其中循环冗余校验码在数据链路控制规程中应用最为普遍。卷积码则在前向纠错系统中应用较多。计算机网络通信中的编译码技术数据链路控制规程中的差错控制技术东南大学移动通信国家重点实验室“信息论与编码”课件网络电话也称IP电话，是以因特网为传输媒介的电话系统。具有占用频带小、成本低的特点，并且可以与图像、视频等结合起来，进行传真、广播、电视等通信。网络电话系统由网关、网闸和多点接入控制单元组成。网关是IP网和PSTN之间的接入设备，其接入服务模块提供IP网接口的PSTN接口。在PSTN一侧，输入端对用户语音进行编码和压缩，在通话过程中，接入服务模块将语音流转换为IP数据报的格式，即打包，然后通过因特网接口送入因特网。同样，在IP网一侧，接入服务模块将IP数据报进行解包，还原为语音流格式，然后进行解压缩和语音还原，进入PSTN一侧的通过输出端。网闸是服务控制模块，用于用户的注册和管理。多点接入控制则用于支持IP网上的多点通信，可实现网络电话会议、可视电话等多媒体功能。计算机网络通信中的编译码技术网络电话系统中的关键技术东南大学移动通信国家重点实验室“信息论与编码”课件系统控制和用户接口视频输入/输出设备H.245控制用户数据应用T.120音频输入/输出设备控制H.225.0RAS控制H.225.0视频编解码器H.261,H263音频编解码器G.711,G.722G.723,G.723.1G.728,G729接收路径延迟H.225.0层局域网栈图15.11H.323语音编码和视频编码标准体系东南大学移动通信国家重点实验室“信息论与编码”课件混合编码算法兼有波形编码的高质量和参数编码的低速率的优点，因此在音频编解码算法的国际标准中广泛采用。语音信号压缩编码的标准建议为G.7XX系列，见表15.2。由于语音通信对实时性的要求较高，因此在网络电话中采用资源预留协议（RSVP）对语音优先处理。在WAN中传输速率小于512kb/s时，IP网的路由器应设定语音包的优先级为最高。在全双工电话通信过程中，仅有40%左右的信号是有效的，因此，在网络电话通信系统中采用静音抑制技术，以减少占用的网络带宽。计算机网络通信中的编译码技术网络电话系统中的关键技术东南大学移动通信国家重点实验室“信息论与编码”课件武汉大学电子信息学院ITU建议制定时间码率(kb/s)编码算法说明G.711197264(56)PCM(/A)3kHz语音带宽，8kHz采样G.7211984/198632ADPCM3kHz语音带宽，8kHz采样G.722198664/56/48SBC-ADPCM7kHz语音带宽，16kHz采样G.723198640/32/24ADPCMG.723.16.3/5.27MP-MLQ/ACELPG.726199016ADPCMG.727199032/24/16ADPCMG.728199216LD-CELP低时延CELPG.72919968CS-ACELPG.729A19968可用于DSVDG.729B1996用于V.70终端，语音激活表15.2语音编码的主要国际标准东南大学移动通信国家重点实验室“信息论与编码”课件武汉大学电子信息学院计算机网络通信中的编译码技术网络电话系统中的关键技术IP网中迟到或持续出错的语音包将被丢弃处理，造成语音失真，因此在IP电话中需采用语音抖动处理技术，以克服IP数据报传输时间不同造成的抖动。方法是在收端设置缓冲区暂存语音包，用稳定平滑的