深度学习的计算方法：理论、实践与应用

本书作为深度学习方面的入门书籍，目的是使读者通过学习，理解和掌握深度学习背后的数学原理和计算方法，并将其用于指导理论分析和实践开发。全书共8章。第1、2章主要介绍了深度学习的相关概念、发展简史、主要进展，以及典型的深度学习平台（MATLAB和TensorFlow）、数据增广技术和相关数学基础；第3~5章详细阐述了深度学习的典型网络模型，包括卷积神经网络、循环神经网络、自编码器、生成对抗网络及深度Q-学习等模型，重点介绍了这些模型背后的数学原理；第6章重点介绍了胶囊网络与流形学习；第7章介绍了玻尔兹曼机及其变体，包括受限玻尔兹曼机、深度玻尔兹曼机及概率图模型；第8章介绍了迁移学习、孪生网络、集成学习及深度学习方面的重要工作。

Wei Qi Yan，博士，新西兰奥克兰理工大学（Auckland University of Technology，AUT）副教授。研究领域是智能监控、深度学习、计算机视觉和多媒体技术。AUT机器人与视觉中心主任，中国科学院兼职教授、博士生导师。
周浦城，博士，副教授，先后主持或参加国家863、自然科学基金、武器装备预研、军内科研等课题20余项，公开发表论文80余篇，其中SCI检索3篇、EI检索45篇。

第1章 概述 1 
1.1 引言 1 
1.2 深度学习简介 4 
1.3 深度学习发展简史 7 
1.4 深度学习典型应用 15 
1.5 深度学习获奖论文 17 
1.6 思考题 19 
参考文献 19 
第2章 深度学习平台 29 
2.1 引言 29 
2.2 基于MATLAB的深度学习 31 
2.3 基于TensorFlow的深度学习 35 
2.4 数据增广 41 
2.5 数学基础 42 
2.6 思考题 48 
参考文献 48 
第3章 卷积神经网络和循环神经网络 51 
3.1 卷积神经网络 51 
3.1.1 R-CNN 53 
3.1.2 Mask R-CNN 54 
3.1.3 YOLO 55 
3.1.4 SSD 57 
3.1.5 DenseNet和ResNet 57 
3.2 循环神经网络和时间序列分析 58 
3.2.1 循环神经网络 59 
3.2.2 时间序列分析 63 
3.3 隐马尔可夫模型 68 
3.4 函数空间 70 
3.5 向量空间 72 
3.5.1 赋范空间 74 
3.5.2 希尔伯特空间 75 
3.6 思考题 79 
参考文献 79 
第4章 自编码器和生成对抗网络 87 
4.1 自编码器 87 
4.2 正则自编码器 88 
4.3 生成对抗网络 91 
4.4 信息论 95 
4.5 思考题 100 
参考文献 101 
第5章 强化学习 103 
5.1 引言 103 
5.2 贝尔曼方程 104 
5.3 深度Q-学习 107 
5.4 优化 111 
5.5 数据拟合 112 
5.6 思考题 116 
参考文献 116 
第6章 胶囊网络与流形学习 119 
6.1 胶囊网络 119 
6.2 流形学习 123 
6.3 思考题 128 
参考文献 129 
第7章 玻尔兹曼机 131 
7.1 玻尔兹曼机概述 131 
7.2 受限玻尔兹曼机 132 
7.3 深度玻尔兹曼机 134 
7.4 概率图模型 136 
7.5 思考题 142 
参考文献 142 
第8章 迁移学习与集成学习 145 
8.1 迁移学习 145 
8.1.1 迁移学习的定义 145 
8.1.2 Taskonomy 147 
8.2 孪生网络 148 
8.3 集成学习 149 
8.4 深度学习的重要工作 162 
8.5 思考题 163 
参考文献 163 
附录A 术语 165

本书作为深度学习方面的入门书籍，目的是使读者通过学习，理解和掌握深度学习背后的数学原理和计算方法，并将其用于指导理论分析和实践开发。全书共8章。第1、2章主要介绍了深度学习的相关概念、发展简史、主要进展，以及典型的深度学习平台（MATLAB和TensorFlow）、数据增广技术和相关数学基础；第3~5章详细阐述了深度学习的典型网络模型，包括卷积神经网络、循环神经网络、自编码器、生成对抗网络及深度Q-学习等模型，重点介绍了这些模型背后的数学原理；第6章重点介绍了胶囊网络与流形学习；第7章介绍了玻尔兹曼机及其变体，包括受限玻尔兹曼机、深度玻尔兹曼机及概率图模型；第8章介绍了迁移学习、孪生网络、集成学习及深度学习方面的重要工作。

Wei Qi Yan，博士，新西兰奥克兰理工大学（Auckland University of Technology，AUT）副教授。研究领域是智能监控、深度学习、计算机视觉和多媒体技术。AUT机器人与视觉中心主任，中国科学院兼职教授、博士生导师。
周浦城，博士，副教授，先后主持或参加国家863、自然科学基金、武器装备预研、军内科研等课题20余项，公开发表论文80余篇，其中SCI检索3篇、EI检索45篇。