信息论与编码基础教程

第1章绪论

1.1信息论与编码的基本概念

1.1.1信息的一般概念

1.1.2信息论与编码的发展历程

1.2通信系统的模型

1.3信息论与编码的研究内容与意义

1.3.1信息论研究的主要内容

1.3.2香农信息论对信道编码的指导意义

1.3.3香农信息论对信源编码的指导意义

习题

第2章信源及信源熵

2.1信源的数学模型及分类

2.1.1离散无记忆信源

2.1.2离散有记忆信源

2.1.3马尔可夫信源

2.1.4连续信源

2.2离散信源熵

2.2.1自信息量

2.2.2信源熵

2.2.3条件熵和联合熵

2.2.4熵的基本性质

2.3离散序列信源熵

2.3.1离散无记忆信源的序列熵

2.3.2离散有记忆信源的序列熵

2.3.3马尔可夫信源的序列熵

2.4连续信源熵

2.4.1幅度连续的单个符号信源熵

2.4.2波形信源熵

2.4.3最大熵定理

2.5冗余度

本章小结

习题

信息论与编码基础教程（第2版）

第3章信道与信道容量

3.1信道的基本概念

3.1.1信道的分类

3.1.2信道的数学模型及参数

3.2互信息

3.2.1互信息与平均互信息

3.2.2平均互信息的性质

3.2.3数据处理中信息的变化

3.3离散符号信道容量

3.3.1信息传输率与信道容量

3.3.2无干扰离散信道

3.3.3对称DMC信道

3.3.4准对称DMC信道

3.3.5一般DMC信道

3.4离散序列信道及容量

3.5串联信道和并联信道的信道容量

3.5.1串联信道

3.5.2并联信道

3.6连续信道及其容量

3.6.1连续单符号加性信道

3.6.2多维无记忆加性连续信道

3.6.3加性高斯白噪声波形信道

3.7信源与信道的匹配

本章小结

习题

第4章信息率失真函数

4.1失真函数

4.1.1失真函数（失真度）

4.1.2平均失真

4.2信息率失真函数及其性质

4.2.1信息率失真函数R（D）

4.2.2信息率失真函数的性质

4.2.3信息率失真函数与信道容量的比较

4.3无记忆信源信息率失真函数的计算

4.3.1离散无记忆信源的R（D）计算

4.3.2连续信源的R（D）计算

本章小结

习题

第5章信源编码

5.1编码的基本概念

5.1.1码的定义及分类

5.1.2码树

……

7.2数据加密标准

7.2.1换位和替代密码

7.2.2DES密码算法

7.2.3DES密码的改进

7.3公开密钥加密法

7.3.1公开密钥密码体制

7.3.2RSA密码体制

7.3.3报文摘要

7.3.4公开密码体制的优缺点

7.4信息安全和确认技术

7.4.1信息安全的基本概念

7.4.2数字签名

7.4.3防火墙

7.4.4常用的信息安全技术应用实例

本章小结

习题

参考文献

本书以香农信息论为基础，对信息论基础和编码理论进行介绍。系统介绍了信息论的3个基本概念(信源熵、信道容量和信息率失真函数)，以及无失真信源编码、限失真信源编码、信道编码和加密编码中的理论知识及其实现原理。