第一章绪论_纯中文

主讲人：束锋纠错编码技术主要内容绪论:应用，基本原理，发展简史，与信息论基础编码的数学基础：代数引论线性分组码卷积码先进的编码技术简介：TurboCode,LPDC,Polarcode,Furtaincode参考书差错控制编码（英文名为：ErrorControlCoding），第2版，ShuLinandD.J.Costello,机械工业出版社，2007.6；第一章绪论1.1引言1.2码类型1.3调制编码1.4最大似然译码(MLD,Maximumlikelihooddecoding)1.5错误类型1.6差错控制策略1.7性能衡量1.8编码调制1.9熵、互信息量、信道容量与编码引言主要用于：信息传输和信息存储，过程中信息出错，检测或纠正错误。信息传输：无线通信-移动通信，无线网络（无线局域网（WLAN））,有线网络（有线电视，…..）信息存储：光盘光驱，硬盘和硬盘驱动系统典型信息传输和数据存储框图发射机接收机框图功能模块介绍（一）发射机：信源：是人或计算机，输出是连续的声音，或离散的信息。信源编码器：将信源输出转化为二进制01信息序列，对应连续波形，就是A/D转换（模数转换），采样量化。理想信源编码两个原则：编码输出比特数最小化（Huffman编码）；可完全重构连续波形。属于信息论范畴框图功能模块介绍（二）信道编码：二进制信息序列u变换成离散的编码序列v，称之为码字。V可为二进制或非二进制，对抗信道噪声（Why？模拟信号无对抗噪声能力？数字或幅度离散信号可以？）。信道编码和信源编码区别：前者在信息中引入冗余性，纠正错误；后者压缩信源输出波形中冗余性。是否相同冗余性？调制器：将信道编码器每个输出的符号转变为适合信道传输的波形。举例：广播信道：信道：波形进入信道后会收到噪声干扰，比如电话线，干扰-开关脉冲噪声，热噪声和其他线串音，框图功能模块介绍（三）信道：光盘，灰尘，划痕和表面缺陷。接收机：解调器(demodulator):处理收到T秒波形，产生离散或连续的输出r；信道译码：将r转化为二进制输出序列u^hat,此为估计信息序列。寻找使译码的误码率最小的信道译码器；信源译码器：将估计的信息序列u^hat变换为信源输出估计，恢复发射机信源编码输出第一章绪论1.1引言1.2码类型1.3调制编码1.4最大似然译码(MLD,Maximumlikelihooddecoding)1.5错误类型1.6差错控制策略1.7性能衡量1.8编码调制1.9熵、互信息量、信道容量与编码两种不同类型信道编码分组码（Blockcodes）：将信息流或序列分成多块或组，假定每组由k个比特（符号）组成。可用u=[u_0,u_1,…,u_(k-1)],称为一个消息（message）,总共有2^k不同信息，如果是M进制呢？编码器会将每个消息转化为n维离散符号向量，v=[v_0,v_1,…,v_(k-1)],称之为码字(codeword),一共多少码字？此？个码字集合称之为（n,k)分组码，比值k/n=R为码率（coderate）000010001001001100001000100100110000000110100001110010100011信息流分组后信息编码后码字R≤1，k≤n,每个消息附加n-k比特有规律的冗余信息，可对抗信道噪声(7,4)分组码例子MessageCodewordMessageCodeword00000000000000110100011000110100010010111001010001101000101110010111001011100110100011010010111001000110100011101000110101011100101101101000110011100101111110010111011111111111第二种类型码卷积码：同分组码一样，同样分组，不像分组码，每个编码分组不仅取决于当前时刻对应的k比特消息，而且与前m个信息组有关。此时编码器有存储级数为m。可通过时序逻辑电路实现。移位寄存器异或门uv第二种类型码：卷积码：移位寄存器异或门uv求输入比特流为：1101000…时编码输出？请同学们0011001…,计算卷积码输出？什么是异或门？11,10,10,00,01,11,00,00,00，………第一章绪论1.1引言1.2码类型1.3调制编码1.4最大似然译码(MLD,Maximumlikelihooddecoding)1.5错误类型1.6差错控制策略1.7性能衡量1.8编码调制1.9熵、互信息量、信道容量与编码调制与编码对于二进制通信系统中信道编码器每输出一个符号，调制器必须选中一个适合信道传输,持续时间为T秒的波形，比如“1”对应于s1(t),“0”对应于s0(t),001002()cos(20),022()cos(2)cos(2),0sssEstfttTTEEstftfttTTTEs为功率还是能量？为什么？二进制相移健控调制（BPSK，Binaryphaseshiftkeying）,实际上存在成形滤波器？作用？系统模型各种通信系统中噪声一般近似为加性白高斯噪声(白噪声？)如果发射的信号为s(t),则接收信号为r(t)=a(t)s(t)+n(t)式中n(t)高斯随机过程，单边带功率谱密度为N0.a(t)是信道衰落因子，对于加性白高斯信道（AWGN：AdditivewhiteGaussiannoise），其是常数；对于市区信道，信号带宽较窄时，多条路径合成复高斯分布，其包络是瑞利分布或赖斯分布（慢变化随机过程），相位是均匀分布。解调器在每T秒间隔上，解调的器产生一个相应于接收的输出：0()cos2TscEyrtftdtT最优检测器，匹配滤波器，想干检测器，输出实数，需要什么是匹配滤波器？多进制调制器对于多(M)进制通信系统，先将二进制信道编码器输出的输出序列按l比特为组进行分段，M=2^l,存在M个波形,例如MPSK：02()cos(2),0,{1,2,,}siiEstfttTiMT适用于信道编码的离散信道模型给定当前T秒内检测器只与该间隔内传输的信号有关，与以前传输符号无关，称该信道为无记忆信道(memoryless).前面AWGN信道属于此信道，将M进制调制器，信道和Q进制的解调器输出合成一个大的信道，可建模为离散的无记忆信道(DMC:Discretememorylesschannel)适用于信道编码的离散信道模型几种典型的离散信道模型BSPK在AWGN等价于BSC非编码的二进制的误比特率为220/20/2(2/)1(),021(),02sxxpQENQxexQxex其中当采用二进制编码，调制器也是二进制，如果解调器的输出是二进制量化Q=2，此时译码器只有二进制输入，解调器采用硬判决(hard-decision),译码器为硬判决译码(hard-decisiondecoding);如果Q2,软判决(softdecision),软判决译码(softdecisiondecoding)离散信道模型和条件概率如图1-7所示，编码器输出（调制器输入）为离散的星座图符号，解调器输出是未经量化的随机向量y属于-∞到+∞，此处调制器，信道和解调器合成了一个离散输入连续输出离散信道。如果信道噪声是AWGN，0均值和方差为No/2,该信道可用M个调件概率密来刻画。对于M=2，200()1(0/1)expsyEpxxNN符号传输速率和信息传输速率如果每T秒传输一个符号，则符号传输速率为1/T符号/秒(Symbol/s)，波特率;对于于编码系统，如果信道编码码率为R，信息传输速率为log2MR/T,M=2,为R/T；为了减少符号间干扰W至少为0.5/THz,因此数据速率受带宽限制2W，编码系统信道速率=2log2MRW，非编码系统为2log2MW，考虑到成形滤波器，实际的信息速率为22log,0.21RWMaa频谱效率？Bandwidthefficiency第一章绪论1.1引言1.2码类型1.3调制编码1.4最大似然译码(MLD,Maximumlikelihooddecoding)1.5错误类型1.6差错控制策略1.7性能衡量1.8编码调制1.9熵、互信息量、信道容量与编码MLD上图在AWGN信道中采用输出有限量化的编码系统，对于分组码，u表示一个k比特消息，编码输出代表v代表n个符号码字，解调器输出r代表Q进制的n维向量，译码器的输出u^hat代表k比特消息估值，u和v有一一对应关系；译码器主要任务：根据接收序列r估计发射信息序列u!!!数字信源信道编码离散信道数字信宿信道译码uvru^hatMLD假定接收为r，则译码器条件错误概率为：ˆ(/)(/)PErPvvr译码器错误概率为：ˆ()(/)()rPEPvvrPrP(r)为接收序列为r的条件概率，其独立于译码规则。最优的译码规则应该对于每个r使P(E/r)最小，也就是最大化P(v_hat=v/r),why?(/)()(/)()PrvPvPvrPrMLD…P(v)=1/2^kmax{(/)}max{(/)}vvPvrPrv对于无记忆信道(/)(/)iiiPrvPrv由于logx是？log(/)(/)iiiPrvPrvMLD=最小距离（BSC信道）解调器输出二进制r，由于信道噪声影响，发生的码字v可能不等于r，n位置某些位不同，,(/);,(/)(1)iiiiiiiirvPrvprvPrvp(,)drv两者距离，等价于码字发生错误个数，Why？码字长度为n的分组码(,)(,)(/)(1)drvndrvPrvppMLD=最小距离（BSC信道）((/))(,)log((,))log(1)(,)log(/(1))log(1)logPrvdrvpndrvpdrvppnpp0.5,MLD等价于最小化d(r,v),Why?有噪声信道编码定理C.E.Shannon于1948年在他的著名论文“Amathematicaltheoryofcommunication”给出AWGN信道的可靠的信息传输能力，他证明：每个信道都存在一个信道容量C（最大信息速率），只要需要传输的信息速率R低于C，则存在速率为R的码，用MLD可到任意小的错误概率P(E)对于任意RC,存在分组码，存在分组长度n足够大的分组码使()()2bnERPE同时存在存储级数m足够大的卷积码(n,k保持不变)()()2cmnERPE第一章绪论1.1引言1.2码类型1.3调制编码1.4最大似然译码(MLD,Maximumlikelihooddecoding)1.5错误类型1.6差错控制策略1.7性能衡量1.8编码调制1.9熵、互信息量、信道容量与编码错误类型一：随机错误随机错误信道（random-errorchannels）:在无记忆信道上，例如AWGN，噪声对每个传输符号影响是独立的，以图1-6a的BSC为例，每个传输比特被错误接收的概率为p，被正确接收概率？与其他比特无关。典型的随机错误信道:深空通信信道，卫星通信信道，一些视距传输信道。纠随机错误码:为纠正随机错误的而设计的码。错误类型二：突发错误突发错误信道（random-errorchannels）:在有记忆信道，各次传输信道噪声不是独立，或信道增益a(t)是慢变化的（比如步行到高大建筑物后面，信道处于深度衰落）RayleighFading(瑞利衰落)Deepfading有记忆信道简化模型：两个状态：好状态（传输错误概率大）和坏状态（传输错误概率大）。第一章绪论1.1引言1.2码类型1.3调制编码1.4最大似然译码(MLD,Maximumlikelihooddecoding)1.5错误类型1.6差错控制策略1.7性能衡量