信息论与编码（第2版）

图书标准信息

• 作者 王勇
• 出版社 清华大学出版社
• 出版时间 2022-08
• 版次 2
• ISBN 9787302594376
• 定价 69.00元
• 装帧 其他
• 开本 16开
• 纸张 胶版纸
• 页数 364页
• 字数 524.000千字

【内容简介】

书对信息论的基本概念（熵、平均互信息量、信道容量、信息率失真函数）以及与此相对应的香农三大极限编码定理（无失真信源编码定理、限失真信源编码定理和信道编码定理）做了系统的介绍，并以信息论为基础，介绍了信源编码、信道编码和加密编码的基本原理和方法，对一些具体编码方法的现实应用和编程实现也做了简单介绍。最后，对相关领域的发展进行了概述和展望，在附录中还给出了一些科研与创新的相关经验。 本书注重启发式教学和创新能力的培养，对难以理解的信息论与编码的关键性问题给出了思考提示。在编写方式上进行了创新，采用不同字体区分不同内容，为读者留出了创新空间。 本书适用于高等院校信息工程、通信工程、雷达、信息安全、计算机、电子学、信息与计算科学等相关专业的本科生和研究生的教学，也适合作为教学、科研和工程的参考。

【目录】

第1章绪论/1

1.1信息技术的优势及其带来的根本变革2

1.2信息论与编码的基本概念4

1.2.1信息的一般概念4

1.2.2香农的信息定义7

1.2.3信息的其他定义9

1.2.4信息论与编码技术的发展历程12

1.2.5香农的生平和学术风格17

1.2.6若干基本问题及其锦囊20

1.3数字通信系统模型24

1.3.1信息源24

1.3.2编码器24

1.3.3信道26

1.3.4译码器26

1.3.5信宿26

1.4信息论与编码理论研究的主要内容和意义27

1.4.1信息论研究的主要内容27

1.4.2香农信息论对信道编码的指导意义28

1.4.3香农信息论对信源编码的指导意义29

1.4.4香农信息论对加密编码的指导意义30

1.5香农信息论的重要观点与方法31

1.5.1形式化假说31

1.5.2非决定论31

1.5.3不确定性32

1.6全程思考题33

思考题与习题34

第2章信源及信息度量/35

2.1信源的数学模型和分类35

2.1.1离散无记忆信源362.1.2离散有记忆信源38

2.1.3马尔可夫信源39

2.1.4连续信源44

2.2离散信源熵和互信息45

2.2.1自信息量46

2.2.2信源熵50

2.2.3条件熵53

2.2.4联合熵54

2.2.5熵的性质55

2.2.6互信息与平均互信息量56

2.2.7互信息与平均互信息量的性质59

2.2.8数据处理中信息的变化63

2.2.9相关公式的理解和记忆64

信息论与编码（第2版）目录2.3离散序列信源的熵65

2.3.1离散无记忆信源的序列熵65

2.3.2离散有记忆信源的序列熵68

2.3.3马尔可夫信源的序列熵70

2.4连续信源的熵和互信息72

2.4.1幅度连续的单个符号的信源熵73

2.4.2波形信源熵75

2.4.3最大熵定理77

2.5冗余度78

2.6最大熵原理81

2.7关于熵的概念理解与题意解读82

思考题与习题83

第3章信道及其容量/87

3.1信道的数学模型与分类87

3.1.1信道的分类87

3.1.2信道的数学模型与参数89

3.2信道疑义度与平均互信息量94

3.3信息传输率与信道容量94

3.4离散单个符号信道的信道容量95

3.4.1特殊离散信道96

3.4.2对称DMC信道97

3.4.3准对称DMC信道100

3.4.4具有可逆矩阵的信道101

3.4.5一般DMC信道102

3.5离散无记忆序列信道的信道容量102

3.6串联信道和并联信道的信道容量105

3.6.1串联信道及其信道容量105

3.6.2并联信道及其信道容量107

3.7连续信道及其容量109

3.7.1连续单符号加性信道109

3.7.2多维无记忆加性连续信道110

3.7.3限时限频限功率的加性高斯白噪声信道111

3.8信源与信道的匹配114

3.9信道编码定理简介115

思考题与习题116

第4章无失真信源编码/119

4.1编码器和相关概念121

4.1.1码的分类121

4.1.2码树123

4.1.3克拉夫特不等式124

4.2定长编码126

4.3变长编码129

4.3.1编码空间131

4.3.2香农码131

4.3.3费诺码134

4.3.4哈夫曼码136

4.4其他基于统计的信源编码实用方法140

4.4.1游程编码140

4.4.2算术编码142

4.5通用编码148

4.5.1LZ77与LZSS编码149

4.5.2LZ78与LZW编码150

4.5.3常用压缩文件格式150

思考题与习题152

第5章信息率失真函数与限失真编码/155

5.1失真测度155

5.1.1系统模型155

5.1.2失真度和平均失真度156

5.2信息率失真函数及其性质159

5.2.1信息率失真函数的定义159

5.2.2信息率失真函数的性质160

5.3离散无记忆信源的信息率失真函数165

5.3.1离散无记忆信源的信息率失真函数165

5.3.2连续无记忆信源的信息率失真函数168

5.4保真度准则下的信源编码定理170

5.4.1失真ε典型序列171

5.4.2保真度准则下信源编码定理的证明174

5.4.3保真度准则下信源编码逆定理证明177

5.5限失真信源编码定理的实用意义178

5.6限失真信源编码180

5.6.1矢量量化编码180

5.6.2预测编码181

5.6.3变换编码182

思考题与习题187

第6章信道编码/189

6.1信道编码的概念189

6.1.1差错控制的基本方式190

6.1.2信道编码的分类191

6.1.3与纠错编码有关的基本概念193

6.1.4纠错与检错原理195

6.1.5纠错方法196

6.2线性分组码198

6.2.1线性分组码的数学基础199

6.2.2线性分组码的基本概念201

6.2.3生成矩阵和一致校验矩阵202

6.2.4线性分组码的纠错能力与码最小距离的关系205

6.2.5伴随式及标准阵列译码207

6.2.6汉明码211

6.3循环码212

6.3.1循环码的多项式描述212

6.3.2循环码的生成矩阵214

6.3.3系统循环码215

6.3.4循环码的译码216

6.4卷积码217

6.4.1卷积码的基本概念和描述方法217

6.4.2卷积码的最大似然译码——维特比（Viterbi）算法222

6.5编码与调制的结合——TCM码226

6.6有应用前景的纠错码228

6.6.1乘积码与级联码228

6.6.2Turbo码231

6.6.3低密度奇偶校验码LDPC234

6.6.4极化编码236

6.6.5空时码与MIMO236

思考题与习题237

第7章加密编码/240

7.1密码学概述241

7.1.1基本专业术语241

7.1.2加密编码算法分类243

7.1.3密码分析及其分类246

7.1.4密码系统的安全性及其分类248

7.1.5加密编码的发展历程249

7.2加密编码中的信息论分析252

7.2.1加密编码中的熵概念252

7.2.2密码系统的自由度254

7.2.3唯一解距离与理想保密254

7.2.4完善保密与一次一密体制256

7.2.5具有误导功能的低密钥可信度加密算法257

7.2.6多重不确定的密码算法260

7.3古典密码及近代密码263

7.3.1常见古典密码263

7.3.2古典密码的分析264

7.3.3近代密码266

7.4现代密码学267

7.4.1对称加密算法268

7.4.2公钥加密算法279

7.4.3Hash函数282

7.4.4国密标准283

7.5密码学的其他分支简介284

7.5.1特殊数字签名284

7.5.2零知识证明286

7.5.3秘密共享286

7.5.4秘密分割286

7.5.5阈下信道286

7.5.6比特承诺287

7.5.7不经意传输288

7.6密码学理论及应用展望288

7.6.1量子密码学290

7.6.2同态加密292

7.6.3数字版权保护技术292

7.6.4可搜索加密295

7.6.5区块链295

7.6.6后量子密码296

7.6.7代理重加密297

思考题与习题297

第8章香农信息论的局限性与发展展望/299

8.1信息论现实应用的局限性299

8.2信息论中表征、参数和模型的制约301

8.2.1成也模型，败也模型301

8.2.2概率论的局限性302

8.2.3参数的有限性制约303

8.2.4信息量对条件的相对性303

8.2.5信息论中研究对象的确定性304

8.3广义信息理论概述305

8.4信息的相对性与可靠性306

8.4.1信息的可靠性306

8.4.2信息的相对性307

8.5信息论发展展望310

8.5.1信息论与人工智能的融合310

8.5.2量子信息论310

8.5.3信息的表达能力313

8.5.4信息的复杂关联性314

8.6创新启示314

思考题与习题317

第9章信息论与编码技术的实现与应用/319

9.1密码算法编程实现指引320

9.2压缩编程实现指引321

9.3字符编码322

9.3.1ASCII码322

9.3.2ANSI编码322

9.3.3MBCS323

9.3.4CodePage323

9.3.5Unicode编码323

9.3.6Base64编码324

9.4图形码326

9.4.1条形码326

9.4.2二维码327

9.5常用密码系统328

9.5.1PGP328

9.5.2加密文件系统EFS329

9.5.3Bitlocker332

9.5.4Truecrypt和VeraCrypt333

9.5.5其他应用软件附带的加密功能333

9.6常用压缩标准与软件333

9.6.1常用压缩软件和压缩文件特征333

9.6.2常用媒体文件的有损压缩标准334

9.6.3常用媒体文件格式与扩展名的对应关系339

9.7信息技术下的盈利模式342

思考题与习题343

附录寄语及学习研究的经验和方法分享/344

参考文献/345