【现货速发】信息论与编码简明教程
全新正版书籍，24小时发货，可开发票。
￥ 23.5 8.1折 ￥ 29 全新
库存8件
作者岳殿武 编著
出版社清华大学出版社
ISBN9787302388210
出版时间2015-04
装帧平装
开本16开
定价29元
货号23677477
上书时间2024-12-14
商品详情
- 品相描述：全新
- 商品描述
-
前言
1948年，香农（C.E.Shannon）发表了著名的论文“通信的数学理论”，从而为一门科学——信息论——奠定了理论基础。信息论是人们在长期通信工程的实践中将通信技术与统计数学相结合而逐渐形成的一门交叉科学。作为通信技术的数学基础，信息论特别强调通过编码处理来提高通信的有效性和可靠性。 随着信息技术的不断发展，信息论在通信领域发挥着越来越重要的作用，显示出它是解决信息与通信领域中有关问题的有力工具的本色。另一方面，在当今的信息时代，信息理论已渗透到其他相关的自然科学，甚至社会科学领域，与电子技术、自动控制、计算机网络以及管理学、经济学、生物学、 医学、心理学等学科密切结合，显示出它的勃勃生机和不可估量的发展前景。信息论是信息科学中极为重要的组成部分，是信息科学发展的起源与基石。在这种背景下，国内高校普遍在相关专业为本科生和研究生开设了“信息论基础”或“信息论与编码”课程。 近十年来，作者一直在大连海事大学为本科生讲授“信息论基础”课程。 本书就是在该课程的讲义基础之上编著而成的，书中也包含着作者多年研究信息理论与编码技术的经验和体会。本书主要讲述经典信息论内容。为了便于理解，首先讨论比较简单的离散信源和离散信道模型下的信息与编码理论，然后再讨论比较复杂的连续信源和连续信道情景。 不论是离散情况还是连续情况，都先侧重讲解便于理解的单维、无记忆的情况， 然后逐步过渡到比较抽象的多维、有记忆情况。 后为了引起进一步的学习兴趣，还简短地介绍了信息论在密码学中的应用以及网络信息论初步知识。本书重视基本概念和基本结论的理解以及思维方式的培养。在数学工具运用上，努力使数学符号规范和统一、证明方法简洁而统一。此外，面向初学者和本科生，还有意识地删除了一些过于冗长、难以把握的证明过程。后，值得一提的是，在本书的编写过程中，作者所指导的一些研究生为本书做了大量录入和绘图工作，在此致以真挚的谢意！由于时间和水平所限，书中难免存在不当之处，恳请读者批评和指正。
岳殿武2014年11月于大连
导语摘要
本书介绍信息论与编码的基本理论和方法。全书共分9章，内容包括信息的概念、数字通信系统模型、信息论的发展状况、信息的统计度量、 离散与连续信源、离散与连续信道、信道容量、信息率失真函数、无失真信源编码、限失真信源编码、有噪信道编码、纠错编码、信息论在密码学中的应用、网络信息论初步，每章后面附有习题，便于加深理解。 本书系统简明，深入浅出，举例经典，注重思路； 适合作为高等院校信息科学与信息技术相关专业的本科生教材或教学参考书，也适合作为从事通信、雷达、导航、计算机、控制、系统工程、生物工程、管理工程等有关的科研和工程技术人员的入门参考书。
作者简介岳殿武 大连海事大学信息科学学院教授、博士生导师，辽宁省“百千万人才工程”百人层次人选。博士毕业于北京邮电大学信号与信息处理专业。曾先后在加拿大滑铁卢大学、香港城市大学、澳大利亚新南威尔士大学、美国佐治亚理工学院进行过学术访问。研究兴趣主要集中在信息理论与无线通信技术两个方面。
曾以主持或骨干身份完成包括国家自然科学基金项目和国家863计划项目在内的*、省部级和地市级科研项目10余项。以作者或作者身份在IEEE Transactions on Information Theory、IEEE Transactions on Communications等国内外权威刊物发表论文近三十篇，并出版学术著作《分组编码学》。
目录
第1章 绪论
1.1 信息与信息论
1.2 通信系统模型
1.3 信息论的形成和发展
第2章 离散信源与信息熵
2.1 信源的分类和描述
2.2 离散信源的信息熵
2.2.1 自信息量
2.2.2 平均自信息量
2.2.3 熵的性质
2.3 离散无记忆信源
2.3.1 离散无记忆信源的数学描述
2.3.2 离散平稳无记忆信源的信息熵
2.4 离散平稳信源
2.4.1 离散平稳信源的定义
2.4.2 平均符号熵与二维平稳信源
2.4.3 离散平稳信源的极限熵
2.5 马尔可夫信源
2.5.1 马尔可夫信源的数学描述
2.5.2 马尔可夫链
2.5.3 极限熵与条件熵
2.6 信源的相关性与冗余度
习题
第3章 离散信道与平均互信息量
3.1 信道的模型和分类
3.1.1 信道的系统模型
3.1.2 信道的分类
3.1.3 离散信道的数学模型
3.2 互信息量与平均互信息量
3.2.1 互信息量
3.2.2 平均互信息量
3.3 信道容量
3.3.1 信道容量的定义
3.3.2 无噪信道的信道容量
3.3.3 对称信道的信道容量
3.3.4 一般信道的信道容量
3.3.5 信源与信道匹配
3.4 离散无记忆信道
3.4.1 离散无记忆信道的数学描述
3.4.2 离散无记忆信道的平均互信息量
3.5 串联信道的平均互信息量
习题
第4章 无失真信源编码
4.1 信源编码的基本概念和要求
4.2 即时码与可译码
4.3 定长编码定理
4.4 变长编码定理
4.5 变长编码方法
4.5.1 香农编码方法
4.5.2 费诺编码方法
4.5.3 霍夫曼编码方法
习题
第5章 限失真信源编码
5.1 失真函数
5.1.1 失真度
5.1.2 平均失真度
5.2 信息率失真函数
5.2.1 信息率失真函数的定义
5.2.2 信息率失真函数的性质
5.2.3 二进制信源的率失真函数
5.3 信息率失真函数的计算
5.3.1 率失真函数的参量表述方法
5.3.2 率失真函数的迭代计算方法
5.4 限失真信源编码定理
习题
第6章 有扰信道编码
6.1 信道编码的基本概念
6.2 差错控制系统
6.3 信道编码的分类
6.4 编码信道模型
6.5 后验概率译码与似然译码
6.6 汉明距离与距离分布
6.7 编码信道容量
6.8 信道编码定理
习题
第7章 线性纠错码
7.1 线性分组码与生成矩阵
7.2 线性分组码与校验矩阵
7.3 线性分组码的译码
7.3.1 伴随式与码的结构
7.3.2 不可检错概率与码的重量分布
7.3.3 标准阵列与陪集
7.4 Hamming码及其变形
7.4.1 Hamming码
7.4.2 Hamming码的变形
7.5 线性分组码的性能限
7.6 Turbo分组码
7.6.1 Turbo分组码的编码
7.6.2 Turbo迭代译码的基本思想
7.7 LDPC码
7.7.1 LDPC码的概念
7.7.2 LDPC码的构造
7.7.3 LDPC码迭代译码的基本思想
7.7.4 二进制删除信道中的迭代译码算法
7.8 纠错译码的性能估计
习题
第8章 连续信源与连续信道
8.1 连续信源与其相对熵
8.1.1 单维连续信源的相对熵
8.1.2 连续信源的熵
8.1.3 多维连续信源的相对熵
8.2 连续信道与平均互信息量
8.2.1 单维连续信道的平均互信息量
8.2.2 多维连续信道的平均互信息量
8.3 连续信道的信道容量
8.3.1 单维加性信道的信道容量
8.3.2 多维加性信道的信道容量
8.3.3 信道编码定理与香农限
8.4 连续信源的信息率失真函数
8.4.1 信息率失真函数的定义和性质
8.4.2 高斯信源的信息率失真函数
习题
第9章 信息论发展与应用
9.1 网络信息论初步
9.1.1 网络信道分类
9.1.2 网络信道容量
9.2 信息论在密码学中的应用
9.2.1 保密系统
9.2.2 安全保密性
习题
参考文献
内容摘要
本书介绍信息论与编码的基本理论和方法。全书共分9章，内容包括信息的概念、数字通信系统模型、信息论的发展状况、信息的统计度量、 离散与连续信源、离散与连续信道、信道容量、信息率失真函数、无失真信源编码、限失真信源编码、有噪信道编码、纠错编码、信息论在密码学中的应用、网络信息论初步，每章后面附有习题，便于加深理解。 本书系统简明，深入浅出，举例经典，注重思路； 适合作为高等院校信息科学与信息技术相关专业的本科生教材或教学参考书，也适合作为从事通信、雷达、导航、计算机、控制、系统工程、生物工程、管理工程等有关的科研和工程技术人员的入门参考书。
主编推荐岳殿武 大连海事大学信息科学学院教授、博士生导师，辽宁省“百千万人才工程”百人层次人选。博士毕业于北京邮电大学信号与信息处理专业。曾先后在加拿大滑铁卢大学、香港城市大学、澳大利亚新南威尔士大学、美国佐治亚理工学院进行过学术访问。研究兴趣主要集中在信息理论与无线通信技术两个方面。曾以主持或骨干身份完成包括国家自然科学基金项目和国家863计划项目在内的*、省部级和地市级科研项目10余项。以作者或作者身份在IEEE Transactions on Information Theory、IEEE Transactions on Communications等国内外权威刊物发表论文近三十篇，并出版学术著作《分组编码学》。
精彩内容
第3章CHAPTER 3
离散信道与平均互信息量
信道是信息传递的通道，承担信息的传输任务，是构成通信系统的重要组成部分。本章将讨论信道模块，并重点探讨离散信道及其所能传送的信息量——平均互信息量。3.1信道的模型和分类3.1.1信道的系统模型
一般来说，信道是指传输信息的物理媒质，如电缆、光缆、电波、光波等。为了集中精力讨论信息理论，本章不准备研究具体的物理传输媒质的特性，而是要研究由这些物理传输媒质及相应的调制解调器组成的编码信道的特性，或者更进一步，是要研究由编码信道与信道编译码器和信源编译码器组成的等效信道的特性。图3.1描绘了关注信道的一般通信系统模型，图中编码器包括信源编码器与信道编码器，而译码器包括信源译码器与信道译码器。根据不同的研究需要，图3.1可简化成图3.2和图3.3，通过图3.2，我们可研究各种编码信道的传信能力，包括它的信息传输速率和信道容量； 而通过图3.3，我们可关注消息从信源输出到信宿接收这一过程的等效信道特性。
图3.1关注信道的一般通信系统模型
图3.2关注编码信道的通信系统简化模型
图3.3关注等效信道的通信系统简化模型
3.1.2信道的分类信道可以从不同的角度加以分类，我们所关注的等效信道归纳起来主要可分为以下五类： 1. 根据信道输入和输出空间的连续与否进行分类(1) 离散信道输入和输出均为离散消息的集合，有时也称为数字信道。(2) 连续信道输入和输出均为连续消息的集合，又称为模拟信道。波形信道是典型的连续信道，将在第8章进行讨论。(3) 半连续信道在输入和输出中，有一个是离散消息集合，另一个是连续消息集合。2. 根据信道输入、输出消息集合的个数分类(1) 两端信道在信道的输入端和输出端中，每一端只有一个消息集合，即只有一对用户在信道两端进行单向通信，也称为单用户或单路信道。(2) 多端信道在信道的输入端和输出端中，至少有一端具有一个以上的消息集合，也称为多用户信道，典型的多用户信道有多元接入信道和广播信道，它们的信道模型将在第9章进行介绍。3. 根据信道的统计特性分类(1) 恒参信道信道统计特性不随时间变化，又称为平稳信道，如有线信道。(2) 随参信道信道统计特性随时间变化，如无线信道。4. 根据信道的记忆特性分类(1) 无记忆信道信道输出仅与当前输入有关，而与以前输入无关。离散无记忆信道的理论目前发展得比较成熟和完整，因此本章将会进行介绍。(2) 有记忆信道信道输出不仅与当前输入有关，而与以前输入有关。码间串扰信道和衰落信道都是有记忆信道。5. 根据信道上是否存在干扰进行分类(1) 无扰信道指信道上没有干扰，这是一种理想化的信道，如计算机与其外设之间的数据传输信道。(2) 有扰信道指信道上存在干扰，实际上大部分信道都是有扰信道，特别是无线信道。本章我们将侧重讨论恒参、无记忆、单路的离散信道。3.1.3离散信道的数学模型
图3.4信道数学模型
从统计数学角度看，离散信道可以看成一个随机变换，将输入的随机序列x变换成输出的随机序列y。由于干扰存在，输入*是以一定的条件概率Py|x变换成输出y,因此，离散信道的数学模型可以表示为{X，P(y|x)，Y}，如图3.4所示。其中条件概率Py|x反映了信道的统计特征，称为信道转移概率或传递概率，具体描述如下： 设离散信道输入符号集为A={a1,a2,…,an}，相应的概率分布为P(ai)=pi,i=1,2,…,n； 信道输出符号集为B={b1,b2,…,bm}，而其概率分布为P(bj)=qj,j=1,2,…,m。那么信道输入序列X=(X1,X2,…,XK)可取值为x=(x1,x2,…,xK)，其中xk∈A，1≤k≤K； 而信道输出序列Y=(Y1,Y2,…,YK)可取值为y=(y1,y2,…,yK)，其中yk∈B，1≤k≤K。这样信道转移概率可表示为
P(y|x)=P(y1…yK|x1…xK)(3.1)
对于理想的无扰信道，输入的取值序列x与输出的取值序列y之间有一种确定的一一对应的关系，即y=f(x)。这样式(3.1)变为
P(y|x)=1,y=f(x)
0,y≠f(x)
实际信道中常常是有干扰的，那么输入的取值序列x与输出的取值序列y之间不会有确定的一一对应的关系。在实际有干扰的信道中，无记忆信道是比较简单容易进行分析的信道。1. 离散无记忆信道对于离散无记忆信道，其任意时刻输入符号只与对应时刻的输入符号有关，而与以前时刻的输入符号、输出符号无关，另外也与以后的输入符号无关。命题3.1满足离散无记忆信道{X，P(y|x)，Y}的充分必要条件是
P(y|x)=∏Kk=1P(yk|xk)(3.2)
证明(必要性)假定离散信道{X，P(y|x)，Y}是无记忆的，则得
P(y1|x1…xK)=P(y1|x1)
P(y2|x1…xky1)=P(y2|x2)
P(yK|x1…xKy1…yK-1)=P(yK|xK)
进而有
P(y|x)=P(y1|x1…xK)P(y2|x1…xKy1)P(y3|x1…xKy1y2)
…P(yK-1|x1…xKy1…yK-2)·P(yK|x1…xKy1…yK-1)
=∏Kk=1P(yk|xk)
因此式(3.2)成立。(充分性)由于式(3.2)成立，可推得
P(yK|x1…xKy1…yK-1)=P(y1…yK|x1…xK)P(y1…yK-1|x1&he
相关推荐
— 没有更多了 —
以下为对购买帮助不大的评价