深度学习及加速技术：入门与实践

图书标准信息

• 作者 白创 编著
• 出版社 机械工业出版社
• 出版时间 2023-06
• 版次 1
• ISBN 9787111728719
• 定价 69.00元
• 装帧 其他
• 开本 16开
• 纸张 胶版纸
• 页数 208页
• 字数 281千字

【内容简介】

本书紧密围绕深度学习及加速技术的基础理论与应用案例展开叙述，实现了深度学习算法设计与硬件加速技术的有机统一，是一本基础理论与实践案例相结合的实用图书。其具体内容涉及人工智能基本概念，神经网络数学基础、神经网络基本结构与学习策略、反向传播算法数学原理与训练机制等神经网络基础理论，以及一些高级主题和实践。本书可作为从事人工智能领域算法研究、架构设计与应用实现等工作的科研人员、工程师以及高等院校师生的参考书籍。

【作者简介】

:
    白创，男，博士，1983年生于陕西延安。现为长沙理工大学物理与电子科学学院、柔性电子材料基因工程湖南省重点实验室讲师、硕士生导师。主要研究方向为超大规模集成电路开发、机器视觉与模式识别技术研究，具体包括芯片指纹、安全密钥生成、硬件防伪等安全领域芯片、射频无线通信芯片的研究与设计，以及深度神经网络学习算法、人脸识别技术等人工智能领域技术研究。主持国家、省部级项目6项，在国内外专业学术刊物和会议上发表研究论文20余篇，获得专利3项，编写教材1部。

【目录】

CONTENTS

目　　录

前言

理论篇

第1章　人工智能简介2

1.1　人工智能概念2

1.1.1　人工智能定义2

1.1.2　人工智能发展历程3

1.2　人工智能与深度学习4

1.2.1　人工智能与深度学习之间

的关系4

1.2.2　图灵机与丘奇-图灵论题5

1.3　人工智能发展阶段6

1.3.1　人工智能1.0——知识＋

算法＋算力6

1.3.2　人工智能2.0——数据＋

算法＋算力7

1.3.3　人工智能3.0——知识＋

数据＋算法＋算力7

1.3.4　人工智能4.0——存算

一体化8

1.4　人工智能应用9

1.4.1　工业零部件尺寸测量与

缺陷检测9

1.4.2　目标检测与跟踪9

1.4.3　人脸比对与识别10

1.4.4　三维影像重构10

第2章　神经网络数学基础12

2.1　线性向量空间12

2.2　内积14

2.3　线性变换与矩阵表示15

2.4　梯度17

第3章　神经网络与学习规则20

3.1　神经元模型与网络结构20

3.1.1　神经元模型20

3.1.2　神经网络结构22

3.2　感知机学习24

3.2.1　感知机定义及结构24

3.2.2　感知机学习规则25

3.3　Hebb学习28

3.3.1　无监督Hebb学习28

3.3.2　有监督Hebb学习29

3.4　性能学习30

3.4.1　性能指数30

3.4.2　梯度下降法31

3.4.3　随机梯度下降法32

第4章　反向传播33

4.1　LMS算法33

4.2　反向传播算法35

4.2.1　性能指数36

4.2.2　链式法则36

4.2.3　反向传播计算敏感性38

4.2.4　反向传播算法总结39

4.3　反向传播算法变形39

4.3.1　批数据训练法40

4.3.2　动量训练法40

4.3.3　标准数值优化技术42

4.4　反向传播算法实例分析42

第5章　卷积神经网络45

5.1　卷积神经网络基础45

5.1.1　全连接神经网络与卷积

神经网络45

5.1.2　卷积神经网络组成结构46

5.1.3　卷积神经网络进化史50

5.2　LeNet50

5.2.1　LeNet结构51

5.2.2　LeNet特点52

5.3　AlexNet52

5.3.1　AlexNet结构52

5.3.2　AlexNet特点54

5.4　VGGNet54

5.4.1　VGG16结构55

5.4.2　VGG16特点57

5.5　GoogLeNet57

5.5.1　Inception结构57

5.5.2　GoogLeNet结构——基于Inception V1模块59

5.5.3　GoogLeNet特点62

5.6　ResNet62

5.6.1　ResNet残差块结构63

5.6.2　ResNet结构63

5.6.3　ResNet特点66

第6章　目标检测与识别67

6.1　R-CNN67

6.1.1　基于SS方法的候选区域

选择68

6.1.2　候选区域预处理68

6.1.3　CNN特征提取69

6.1.4　SVM目标分类69

6.1.5　Bounding box回归70

6.2　Fast R-CNN70

6.2.1　基于SS方法的候选区域

生成71

6.2.2　CNN分类与回归71

6.2.3　Fast R-CNN目标检测

　算法特点72

6.3　Faster R-CNN73

6.3.1　CNN特征提取73

6.3.2　RPN候选框生成74

6.3.3　CNN分类与回归74

6.3.4　Faster R-CNN目标检测

算法特点75

6.4　YOLO75

6.4.1　YOLOv175

6.4.2　YOLOv277

6.4.3　YOLOv380

第7章　深度学习优化技术83

7.1　梯度消失83

7.2　过拟合85

7.2.1　增加训练数据集85

7.2.2　regularization86

7.2.3　dropout技术88

7.3　初始值与学习速度89

7.3.1　初始值选择规则89

7.3.2　可变的学习速度91

7.4　损失函数92

7.4.1　均方误差损失函数92

7.4.2　cross-entropy损失函数93

7.4.3　log-likelyhood损失函数 95

第8章　深度学习加速技术96

8.1　软件模型优化技术96

8.1.1　网络模型优化96

8.1.2　计算精度降低97

8.1.3　网络剪枝技术97

8.2　GPU加速技术98

8.3　TPU加速技术100

8.4　FPGA加速技术102

8.4.1　全连接神经网络加速102

8.4.2　卷积神经网络加速103

应用篇

第9章　基于OpenCL的FPGA异构

并行计算技术106

9.1　OpenCL技术基础与环境搭建106

9.1.1　OpenCL技术基础106

9.1.2　OpenCL环境搭建107

9.2　OpenCL异构并行计算架构115

9.2.1　平台模型116

9.2.2　执行模型116

9.2.3　内存模型117

9.3　OpenCL C语言基本语法与程序

设计118

9.3.1　基本语法与关键字118

9.3.2　数据类型119

9.3.3　维度与工作项122

9.3.4　其他注意事项123

9.4　基于OpenCL的FPGA异构并行

计算实现方法123

9.4.1　主程序设计123

9.4.2　内核程序设计139

第10章　基于OpenCL的FPGA异构

并行计算应用案例140

10.1　整体描述140

10.2　内核