学海网

信息论基础与编码课件
第1章　概论
1.1　信息的基本概念
1.1.1　信息的定义
1.1.2　信息的性质
1.2　信息论研究的对象和内容
1.2.1　信息论研究的对象
1.2.2　信息论的基本定义
1.2.3　信息论研究的内容
1.3　信息论的发展
第2章　信源与信息熵
2.1　信源的数学模型及分类
2.2　离散信源熵和互信息
2.2.1　信息量
2.2.2　离散信源熵
2.2.3　互信息量
2.2.4　数据处理中信息的变化
2.3　信息熵的性质
2.3.1　非负性
2.3.2　确定性
2.3.3　对称性
2.3.4　可加性
2.3.5　极值性
2.3.6　最大熵定理
2.3.7　条件熵小于无条件熵
2.4　离散序列信源熵
2.4.1　离散无记忆信源的序列熵
2.4.2　离散有记忆信源的序列熵
2.4.3　马尔可夫信源及其极限熵
2.5　连续信源熵与互信息
2.5.1　连续信源的信源熵
2.5.2　最大熵定理
2.6　信源的冗余度
第3章　信道与信道容量
3.1　信道的基本概念
3.1.1　信道的数学模型与分类
3.1.2　信道参数
3.1.3　信道容量的定义
3.2　离散信道的容量及其计算
3.2.1　无干扰离散信道
3.2.2　对称离散无记忆信道容量
3.2.3　准对称离散无记忆信道容量
3.2.4　一般离散无记忆信道容量
3.3　离散序列信道及其容量
3.4　独立并联信道及其容量
3.5　串联信道容量及数据处理定理
3.6　连续信道及其容量
3.6.1　连续单符号加性信道
3.6.2　多维无记忆加性连续信道
3.6.3　加性高斯白噪声信道的信道容量
3.7　信源与信道的匹配
第4章　信息率失真函数
4.1　平均失真和信息率失真函数
4.1.1　失真函数
4.1.2　平均失真
4.1.3　信息率失真函数
4.2　信息率失真函数的性质
4.2.1　R(D)函数的定义域
4.2.2　R(D)函数的下凸性
4.2.3　R(D)函数的连续性
4.2.4　R(D)函数的单调递减性
4.3　离散信源的R(D)函数及其计算
4.4　连续信源的R(D)函数及其计算
4.4.1　幅度连续无记忆信源的R(D)函数
4.4.2　差值误差测量与香农界
4.4.3　带记忆的信源的R(D)函数
第5章　信源编码
5.1　编码的定义
5.2　无失真信源编码
5.2.1　定长编码定理
5.2.2　变长编码定理
5.2.3　最佳变长编码
5.3　限失真信源编码定理
5.4　其他无失真信源编码方法
5.4.1　算术编码
5.4.2　游程长度编码
5.5　矢量量化编码
5.5.1　最佳标量量化编码
5.5.2　矢量量化编码
5.6　预测编码
5.6.1　线性预测编码的基本原理
5.6.2　最佳线性预测编码
5.7　变换编码
5.7.1　正交变换与正交矩阵
5.7.2　K-L变换
5.7.3　离散傅里叶变换
5.7.4　离散余弦变换
5.7.5　离散沃尔什-哈达玛变换
5.7.6　离散Haar变换
第6章　信道编码定理
6.1　基础知识
6.1.1　译码准则
6.1.2　费诺不等式
6.1.3　? 典型序列及其性质
6.2　信道编码定理
6.3　信源信道联合编码定理
第7章　分组码
7.1　信道编码的基本概念
7.1.1　信道编码的作用与分类
7.1.2　纠错与检错原理
7.1.3　纠错与检错能力
7.2　线性分组码的基本数学理论
7.2.1　线性空间及其性质
7.2.2　生成矩阵
7.2.3　校验矩阵
7.2.4　对偶码和系统码
7.2.5　差错图样
7.3　线性分组码的译码
7.3.1　线性分组码的伴随式译码
7.3.2　标准阵列译码
7.4　汉明码及译码
7.4.1　汉明码编码
7.4.2　汉明码的伴随式译码
7.4.3　汉明码的主要性质
7.5　循环码(CRC)
7.5.1　循环码基础
7.5.2　循环码生成矩阵、生成多项式和监督矩阵
7.5.3　循环码的编、译码
7.6　BCH和RS编码以及译码
7.6.1　BCH码
7.6.2　RS码
7.7　线性分组码的应用
第8章　卷积码
8.1　卷积码的基本概念
8.2　卷积码的编码
8.2.1　解析法中的码多项式法描述
8.2.2　矩阵生成法描述
8.2.3　离散卷积法描述
8.2.4　卷积码的图形描述法
8.3　卷积码的译码
8.3.1　卷积码的代数译码
8.3.2　Viterbi译码算法
8.3.3　序列译码
8.3.4　卷积码的生成函数
8.4　卷积码的类型
8.4.1　卷积码中的好码
8.4.2　几种类型的卷积码
8.5　卷积码的应用
8.5.1　交织编码
8.5.2　卷积码在移动通信中的应用
8.6　级联编码
第9章　加密编码