导语摘要
以人工智能为代表的新技术正在给人们的生产和生活方式带来革命性变化。人工智能技术试图了解智能的本质,并产生一种新的能以人类智能相似的方式做出反应的智能机器。让计算机理解现实世界中诸如图像,语音和语言等数据所蕴含的高层次抽象信息,并加以利用,是该领域*的挑战之一。诸多理论和实践成果表明,以深度神经网络为代表的“深度结构”是解决该问题的*重要工具之一。本书详细论述了采用深度结构的动机、原理和理论依据,讨论了训练深度神经网络的难点,继而详尽的介绍了自动编码器、受限玻尔兹曼机以及深度置信网络的概念和理论,并进行了理论分析。本书是深入理解深度学习的动机和原理的经典之作。
作者简介
尤舒亚·本吉奥(Yoshua Bengio),加拿大蒙特利尔大学计算机科学与运筹学系教授,领导蒙特利尔学习算法研究所。他是深度学习历目前的代表性人物之一,发表了200余篇论文和两部专著,是加拿大论文引用率高的计算机科学家之一。
俞凯,上海交通大学计算机系研究员,思必驰公司首席科学家,IEEE不错会员,国家青年干人,NSFC优青。研究兴趣为语音语言处理、机器学习、人机交互。发表论文100余篇,获4篇靠前期刊及会议很优论文奖。
吴科,上海交通大学计算机系助理研究员,ACM会员。曾任阿里巴巴搜索研发专家,雅虎中国新闻搜索技术负责人。研究兴趣为自然语言处理及机器学习。
目录
译者序
1 引言1
1.1 如何训练深度结构3
1.2 中间层表示:在不同的任务中共享特征和抽象4
1.3 学习人工智能的必经之路5
1.4 本书大纲6
2 深度结构的理论优势8
2.1 计算复杂性10
2.2 一些非正式的论证11
3 局部与非局部泛化性13
3.1 局部模板匹配的局限性13
3.2 学习分布式表示17
4 具有深度结构的神经网络19
4.1 多层神经网络19
4.2 训练深度神经网络的挑战20
4.3 深度结构的无监督学习25
4.4 深度生成结构26
4.5 卷积神经网络28
4.6 自动编码器29
5 能量模型和玻尔兹曼机31
5.1 能量模型和专家乘积系统31
5.2 玻尔兹曼机34
5.3 受限玻尔兹曼机36
5.4 对比散度39
目 录Ⅴ
6 深层结构的逐层贪心训练46
6.1 深度置信网络的逐层训练46
6.2 堆叠自动编码器训练48
6.3 半监督与部分监督训练49
7 受限玻尔兹曼机和自动编码器的变体51
7.1 自动编码器和受限玻尔兹曼机的稀疏化表示51
7.2 降噪自动编码器55
7.3 层内连接56
7.4 条件RBM和时序RBM 57
7.5 分解式RBM 59
7.6 受限玻尔兹曼机和对比散度的推广59
8 DBN各层联合优化中的随机变分边界62
8.1 将RBM展开为无限有向置信网络62
8.2 逐层贪心训练的变分证明64
8.3 所有层的联合无监督训练66
9 展望69
9.1 全局优化策略69
9.2 无监督学习的重要性72
9.3 开放的问题73
10 总结76
致谢78
参考文献79
内容摘要
以人工智能为代表的新技术正在给人们的生产和生活方式带来革命性变化。人工智能技术试图了解智能的本质,并产生一种新的能以人类智能相似的方式做出反应的智能机器。让计算机理解现实世界中诸如图像,语音和语言等数据所蕴含的高层次抽象信息,并加以利用,是该领域*的挑战之一。诸多理论和实践成果表明,以深度神经网络为代表的“深度结构”是解决该问题的*重要工具之一。本书详细论述了采用深度结构的动机、原理和理论依据,讨论了训练深度神经网络的难点,继而详尽的介绍了自动编码器、受限玻尔兹曼机以及深度置信网络的概念和理论,并进行了理论分析。本书是深入理解深度学习的动机和原理的经典之作。
媒体评论
Bengio教授的这部专著是深度学习的经典,是了解深度学习技术的书目。书中有许多亮点,比如,作者从统计效率的角度论述了深度神经网络的优点,揭示了深度学习强大学习能力的本质。俞凯教授将该书翻译成中文,一定能帮助国内读者更准确细致地了解其内容,推动深度学习知识的普及,实在是功不可没!
李航 华为诺亚方舟实验室主任,IEEE Fellow
深入理解深度学习的理论是高效运用具体算法的基础。Yoshua Bengio教授的这部力作是深入理解深度学习动机的经典之作。俞凯教授对此书的翻译行文清晰、概念严谨,将英文原著中的长段论述以符合中国人逻辑的方式进行意译,忠实而易懂地表达了原著。这对于促进国内学生或研究者深入理解深度学习本质,探索新的研究方向具有很大的价值。虽然这个英文单行版已有八年的历史且作者一年前出版了更新的关于深度学习的书, 俞教授翻译的这本中文版仍值得细读, 尤其对中国读者。
邓力 Citadel首席人工智能官,前微软人工智能首席科学家,IEEE Fellow
深度学习是人工智能的一个突破。这个突破的意义就是我们常说的“由量变到质变”的变化过程。Yoshua Bengio教授所著的“人工智能中的深度结构学习”这本书,通过俞凯教授的中文翻译,旨在阐述深度结构和学习效果之间的内在联系。此书分析透彻,解释清楚,给出了很多有用的实例。 不管是初涉深度学习的学生,还是在深入探索中的研究者,这本书都会提供非常好的帮助。 所以,我高度推荐这本书。
杨强 香港科技大学计算机系主任,IEEE Fellow、AAAI Fellow
以下为对购买帮助不大的评价