添加链接
link之家
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接

I(X,Y):信息传输率,表示信道实际传输的信息情况。
C:信道容量,表示信道的传信能力,即:最大的传输信息量。
信源与信道匹配:通过调整信源的输入分布,使得接受输出端获得的信息量达到或接近信道容量。
信源编码和信道编码都是为了使信源和信道达到匹配。信源编码一般会假设信道是无损信道(信道理想),目的使得H(X)尽可能大;而信道编码是在假设信源熵很大的情况下(信源理想)降低损失熵即:H(X|Y).I(X,Y)=H(X)-H(X\Y):从而信源编码和信道编码都可以增大:平均互信息。

一:噪声信道的编码

二:信道编码的分类

三: 信道译码及译码规则

四:香农第二定理

一:噪声信道的编码

上图是一个 数字通信系统模型 信源编码 的角色:一方面要使得输入端的消息适合信道的传输,用信道可识别的符号去表示;另一方面要压缩信源的冗余度,也就是用较少的符号数去传输消息。为了信息的安全传输会加入 加密和解密 的步骤,这个不在信息论的讨论中。然后是 信道编码 ,目的是提高传输信道的抗干扰性,然后放到信道上去传输。方法是通过编码使得消息之间具备一些关联性,也就是降低误码率。
为了突出信道编码:(理想化信源编码后的结果)

信息序列 :信源编码后输出的消息序列,每一个码元会携带较多的信息量。
码字 :经过信道编码处理后的结果。
接收序列: 码字在信道传输后的接受消息。
信息序列的估值 :信道译码还原出来的估值。
噪声源 :信道传输过程中出现的干扰以及噪声的影响。
错误图样 :由于噪声源而产生的错误的信息序列。

信源编码的概念
目的 :降低错误译码的概率 P_{E}
对象 :理想的信息序列(码元间离散无记忆而且呈等概分布)
方法 :在传输的信息码中按照一定的 规律 产生一些 附加码元( 不会增加信息量只是为了保证信息的有效性增加关联性 ) ,经信道传输,在传输中若码元出现错误,接收端利用编码规律发现码的 内在相关性 被破坏,从而按一定的 译码规则 自动纠正或发现错误,降低误码率。(检错或纠错)
实质 :通过增加多余度,来增强相关性
关键(好的信道编码)
保持一定传输信息速率 的条件下,适当增加 一定的码元多余度 ,使得接收端易于发现或纠正由于信道噪声产生的传输错误。
信道编码的物理过程:

上图第一个:指明信道编码器给信息序列按照一定的规律加入一些校验元,任务是检查收到的码字是否出错。关键: 关联性的加入,怎么去描述规律性。
下图是香农的理解:(从抽象的数学意义出发)
输入是k维序列,输出是n维序列,由于加入校验元, n>k ,若每一个码元有n种选择,则:输入空间为: r^{k} ,输出空间为: r^{n} .可以理解:从大的n重矢量的码字空间中选出 r^{k} 个n重矢量,把选出的矢量和输入的信息序列产生一一对应关系,也就是建立了一种 映射(反映了编码规则) 。(选码过程)
名词:许用码组(选取上码元要差异大), 禁用码组 (不产生错误是不会出现在接收端的。)

二:信道编码的分类

1):从接收端译码的工作方式的区分:

  1. 检错码:能发现错误的码
  2. 纠错码:不光能发现错误还能纠正错误的码
  3. 纠删码:能纠正删除错误的码(删除码:用额外的符号表示不确定的码元)

2)把 纠错码 进行细分:

卷积码和分组码的电路图示:

三: 信道译码及译码规则

回顾:信源译码比较简单,只要设计的 信源编码 唯一可译码 ,则接收端的译码工作只要定位同步头,然后对比,匹配发送端的消息,从而就得到了唯一的译码结果。
对于信道编码而言,编码就是找到既有相关性又有较大差异的n维矢量作为码字,而信源译码具有多样性,译码方法的选择体现出不同译码性能,译码算法的复杂性也是译码可行的重要因素。

信道传输模式

误码率 :取决于 编译码方法和信道
比如:出错概率比正确传输大时,接收0以为1则可减少误码率。
信道的噪声噪小时则:误码率低
译码的本质 :对码字进行分类的过程。
译码规则:

译码规则的常见准则
1)最大后验概率准则

MAP编码是一种最佳译码,对于每一个输出符号 b_{j} 均译成具有最大后验概率的那个输入符号 a^{*} ,此时就能使得误码率最小。但是实际上后验概率是无法求出的,只能利用已知的先验概率 P(a_{i}) 和信道转移概率 P(a_{i}|b_{j}) 通过贝叶斯公式间接去求。

2) 最大似然译码准则

平均错误概率(误码率)


译码规则表

四:香农第二定理

香农第二定理又叫: 有噪 信道编码定理

结论分析: 码长n要足够长,码字M不能太大。
码长n足够大,也就是空间扩大,允许加入更多校验元,使得关联性提高,纠错能力增强,导致误码率减小;另一方面,码长足够大后,允许的信息位增加了,M也增大,所以在纠错能力不下降的前提下,信息传输率(信息位÷校验位)也增强了。
M不可以太大,因为M过大使得码字之间的差异变小,失去了关联性大的编码目的。
其他表述:

这个好理解:信息传输率不能超过信道的最大传信能力。类比:一台机器的处理工作数量不能超过其工作能力。
这一定理表明:一定条件下,信道的 可靠性和有效性 这个矛盾可以得到好的平衡
最后:这一定理的 证明关键 ---随机编码(LDPC,按照信道输入的概率去选),码长趋于无穷,最大似然译码

I(X,Y):信息传输率,表示信道实际传输的信息情况。C:信道容量,表示信道的传信能力,即:最大的传输信息量。信源与信道匹配:通过调整信源的输入分布,使得接受输出端获得的信息量达到或接近信道容量。信源编码和信道编码都是为了使信源和信道达到匹配。信源编码一般会假设信道是无损信道(信道理想),目的使得H(X)尽可能大;而信道编码是在假设信源熵很大的情况下(信源理想)降低损失熵即:H(X|Y).I(X,Y)=H(X)-H(X\Y):从而信源编码和信道编码都可以增大:平均互信息。一:噪声信道的编码..
消除干扰,让无线信号更干净,这本是 信道 编码 技术的初衷。然而,最近网络上这场“Polar码投票”闹剧,无中生有地添加杂质,与所议论的技术之本质背道而驰,若Polar码也有血肉之躯,此君情何以堪?香农前辈若在世,也会笑话我们吧?                  2016年11月3GPP会议上,华为及其他55家公司(包括联想和摩托罗拉移动)基于广泛的性能评估和分析比较,联合提出Pol...
信道 编码 的目的: 为了提高信号传输的可靠性,改善通信系统的传输质量。 信道 可以理解为传输水的管道,主要是为了传输码元, 信道 的大小也会影响到传输的速率,就想管子的口径大,那么传输的水量同样大, 信道 的传输也是这个道理。 信道 编码 基本原理图: 差错率:差错率是衡量传输质量的重要指标之一。 比特差错率/比特误码率:指在传输的二进制位总数中发生差错的位数所占的比例。即是平均接收到一个二进制位所产生的错误大小。也称为平均错误概率。 编码 码率R( 编码 效率):每码元携带的平均信息量。 ...
信道 编码 是通信系统中非常重要的一环,它使我们构建的通信系统在一定条件下拥有检错和纠错的能力。而随着历史的演进, 信道 编码 技术在不断地丰富,诞生了许多值得了解学习的 编码 技术。 本篇文章将梳理 信道 编码 的整体框架,旨在让读者对 信道 编码 有一个系统性的认识。而每项技术的细节将在专栏的其他文章中展现。
首先我们先来复习一下线性分组码: (n,k)线性分组码表示有k位的信息组, 编码 后为n位。根据生成矩阵的不同分为系统码和非系统码:系统码是码字中信息位与监督位分离,非系统码在码字中无法直观的得到原信息,在接收时需要额外译码。接收时由检校矩阵生成接收码字的伴随式S,并根据S判断该码字是否出错,依据S的形式对出错码字进行纠错。更加具体的内容参照:琪亚娜世界第一可爱 知道这些我们是可以应用线性分组码的,仍...
文章目录1、差错控制方式2、 编码 类型2.1、分组码2.2、卷积码3、新型 编码 3.1、Turbo码3.2、LDPC码3.3、极化码(Polar code) 信道 编码 的目的是提高通信的可靠性,通过增加信源的冗余度实现,与信源 编码 正好相反。在计科中, 信道 编码 被广泛用作表示 编码 检错和纠错的术语。 香农第二定理指导 信道 编码 。 码重:码字中非0码元的数目 码距(汉明距离):两个等长码字对应位置上数字不同的位数 最小码距:一种 编码 中各个码字之间距离的最小值,记为d0d_{0}d0​,d0d_{0}d0​决定了 编码 的检错
Matlab 中有许多 信道 编码 工具箱可以使用,其中比较常用的是 Communications Toolbox 和 Error-Correction Coding Toolbox。 在 Communications Toolbox 中,常用的 信道 编码 技术包括卷积码、交织码、Turbo码和LDPC码等。你可以使用 comm.ConvolutionalEncoder 和 comm.ViterbiDecoder 对卷积码进行 编码 和解码,使用 comm.TurboEncoder 和 comm.TurboDecoder 对 Turbo码进行 编码 和解码,使用 comm.LDPCEncoder 和 comm.LDPCDecoder 对 LDPC码进行 编码 和解码。关于交织码的 编码 和解码,可以使用 comm.ConvolutionalInterleaver 和 comm.ConvolutionalDeinterleaver。 在 Error-Correction Coding Toolbox 中,提供了更加专业的 信道 编码 技术,例如 BCH码、RS码和Reed-Solomon码等。你可以使用 bchenco 和 bchdec 对 BCH码进行 编码 和解码,使用 rsenc 和 rsdec 对 RS码进行 编码 和解码,使用 rsenc 和 rsdec 对 Reed-Solomon码进行 编码 和解码。 除了以上提到的工具箱,Matlab 还提供了许多其他的 信道 编码 函数和工具,可以根据具体的需求进行选择和使用。