• 当计算机体系结构遇到深度学习:面向计算机体系结构设计师的深度学习概论
21年品牌 40万+商家 超1.5亿件商品

当计算机体系结构遇到深度学习:面向计算机体系结构设计师的深度学习概论

正版二手书,欢迎选购

17.6 2.6折 69 九品

仅1件

北京朝阳
认证卖家担保交易快速发货售后保障

作者[美]布兰登·里根

出版社机械工业出版社

ISBN9787111622482

出版时间2019-04

装帧平装

开本16开

定价69元

货号1145262597101699083

上书时间2024-11-13

宏铭图书店

十三年老店
已实名 已认证 进店 收藏店铺

   商品详情   

品相描述:九品
商品描述
前言
本书旨在为具有计算体系结构、电路或者系统背景的研究者和设计师提供一份对神经网络的概述。引言部分(第1章)定义了关键词汇表,介绍了该项技术的历史和发展过程,并阐述了该领域需要额外硬件支持的原因。 

接着,本书回顾了神经网络的基本知识,从线性回归到感知器,以及当前最先进的深度神经网络(第2章)。本书涵盖的范围和使用的语言使得任何读者都可以理解,并且本书的目的是让整个社区在对深度学习的认识上达成一致。虽然人们对该领域的研究兴趣激增,但仍有证据显示许多术语被混淆在一起,并且对该领域的理解也存在着差距。我们希望本书呈现的内容能够澄清对该领域的错误理解,并为非专家的读者提供一个统一的基础。 

在回顾之后,将深入介绍工具、工作负载和表征。对于实践者,这可能是最有用的一章。该章首先综述当代神经网络和机器学习的软件包(例如,TensorFlow、Torch、Keras和Theano),并且解释这些软件包的设计选择和不同之处,从而指导读者针对自己的工作选择正确的工具。在第3章的后半部分,展示了一组常用的、开创性的工作负载,并且将其整合到了名为Fathom的评测集中[2]。然后,进一步将这些工作负载分为两类——数据集和模型,并且解释了为什么这些工作负载和数据集具有开创性以及该如何使用它们。这部分内容同样能够帮助神经网络论文的评审人员更好地评价论文的贡献。通过更好地理解每个工作负载,我们可以更加深入地解释其背后的想法和贡献。伴随着评测集,是对工作负载在CPU和GPU上的表征分析。 

第4章构建在第3章的基础上,可能是那些探索利用定制化硬件加速神经网络的体系结构设计人员更感兴趣的部分。在本章中,回顾了Minerva加速器设计和优化框架[114],并且详细介绍了如何将高级别的神经网络软件库与硬件CAD和模拟流糅合在一起来设计算法和硬件。本书特别关注Minerva方法论以及如何设计实验在神经网络准确度、功耗、性能和硬件面积间进行取舍。读完本章后,研究生应当可以掌握如何评价自行设计的加速器或者定制硬件优化的优劣。 

在第5章中,给出了神经网络论文中相关硬件的全面调查和综述,并且提出了一种分类方法,帮助读者理解和对比不同的项目。本章主要关注过去10年的研究工作,并将论文按其所针对的计算栈层次(算法、软件、体系结构或者电路)以及优化类型(稀疏性、量化、计算近似和容错)进行分组。本综述主要关注机器学习、体系结构和电路领域的顶级会议,并尝试在本书出版时涵盖与本领域的体系结构设计师最相关的工作。但实际情况是有太多已发表的论文无法同时包含进本书。本书希望:这里的综述可以作为一个起点;分类提供一个顺序,供感兴趣的读者了解去哪里可以学习到一个具体主题的更多内容;对神经网络硬件支持的非正式讨论可以提供一种比较相关工作的方法。 

最终,在本书的总结部分,通过列出仍待完成的工作,澄清了关于深度学习研究的硬件已经达到饱和点的谬论。尽管在这个主题上已经有大量的论文,但即便是在监督学习这个方面,也仍然距终点有很长的距离。本章阐明需要关注的领域,并简要概括了机器学习的其他领域。更进一步,虽然对于机器学习社区,硬件大部分情况下只是一个服务产业,但是体系结构设计师确实应该开始思考如何利用当代机器学习来改善硬件设计。这个过程并不容易,因为它需要真正地理解这些方法,而不是实现已有的设计。但是如果说机器学习在过去的10年中教会了我们什么,那就是这些模型效果很好。计算机体系结构属于计算机科学中最少理论化的领域(几乎是完全基于经验和观察)。机器学习可能会在重新考虑如何设计硬件方面提供很多帮助,包括贝叶斯优化,并展示这些技术在硬件设计上带来的好处。

作者简介
布兰登·里根 (Brandon Reagen), 是哈佛大学的博士生。他于2012年获得马萨诸塞大学阿默斯特分校计算机系统工程和应用数学专业的学士学位,并获得了哈佛大学计算机科学专业的硕士学位。他的研究涉及计算机体系结构、VLSI和机器学习领域,他特别关注设计极其高效的硬件,以便能在所有计算平台上普遍部署机器学习模型。罗伯特·阿道夫 (Robert Adolf) 是哈佛大学计算机体系结构的博士生。他于2005年从美国西北大学获得计算机科学专业学士学位,此后他就职于国防部,从事超级计算机基准测试和性能分析工作4年。2009年,他作为研究科学家加入太平洋西北国家实验室,领导一个团队在大规模多线程体系结构上构建大规模图形分析。他的研究兴趣是高性能软件的建模、分析和优化技术,目前主要关注深度学习算法。他的理念是,将统计方法、代码分析和领域知识结合在一起,为理解和快速构建系统提供更好的工具。
保罗·沃特莫 (Paul Whatmough), 领导马萨诸塞州波士顿ARM研究院的机器学习计算机体系结构研究。他还是哈佛大学工程与应用科学学院的副教授。Whatmough博士在英国兰卡斯特大学获得了一等荣誉学士学位,在英国布里斯托尔大学获得了杰出硕士学位,在英国伦敦大学学院获得了博士学位。他的研究兴趣包括算法、计算机体系结构和电路。他以前曾领导过多个项目,涉及硬件加速器、机器学习、SoC架构、数字信号处理(DSP)、制造过程差异容错和电源电压噪声。
古杨·魏 (Gu-Yeon Wei) ,是哈佛大学工程与应用科学学院(SEAS)的电子工程与计算机科学系Gordon McKay教授。他分别于1994年、1997年和2001年在斯坦福大学获得了电气工程学士、硕士和博士学位。他的研究兴趣涉及计算机系统的多个层次:混合信号集成电路、计算机体系结构和高效硬件的设计工具等。他的研究工作重点是确定这些层次的协同机会,以开发各种系统的节能解决方案,从微型扑翼机器人到物联网/边缘设备的机器学习硬件,再到大型服务器的专用加速器。
大卫·布鲁克斯 (David Brooks), 是哈佛大学工程与应用科学学院的计算机科学系Haley Family教授。在加入哈佛大学之前,他是IBM T.J.Watson研究中心的研究人员。Brooks教授在南加州大学获得电气工程学士学位,在普林斯顿大学获得电气工程硕士和博士学位。他的研究兴趣包括针对高性能和嵌入式系统的弹性和高能效的计算机硬件和软件设计。Brooks教授是美国电气和电子工程师协会(IEEE)的院士,并获得了多项荣誉和奖项,包括ACM Maurice Wilkes奖、ISCA最具影响力论文奖、NSF CAREER奖、IBM Faculty Partnership奖和美国国防高级研究计划局(DARPA)青年教授奖。

目录
译者序 

前言 

作者简介 

第1章 引言/ 1 

1.1 神经网络的兴起和衰落/ 2 

1.2 第三波人工智能热潮/ 4 

1.3 深度学习中硬件的角色/ 7 

第2章 深度学习基础/ 11 

2.1 神经网络/ 12 

2.1.1 生物神经网络/ 12 

2.1.2 人工神经网络/ 14 

2.1.3 深度神经网络/ 18 

2.2 神经网络学习/ 19 

2.2.1 神经网络学习的类型/ 21 

2.2.2 深度神经网络如何学习/ 22 

第3章 方法和模型/ 31 

3.1 高级神经网络方法概述/ 32 

3.1.1 模型体系结构/ 32 

3.1.2 特殊化的层/ 36 

3.2 现代深度学习的参考工作负载/ 37 

3.2.1 深度学习工作负载集的标准/ 37 

3.2.2 Fathom工作负载/ 40 

3.3 深度学习背后的计算原理/ 44 

3.3.1 深度学习框架的测量与分析/ 44 

3.3.2 操作类型评测/ 46 

3.3.3 性能相似度/ 48 

3.3.4 训练和推理/ 49 

3.3.5 并行和操作平衡/ 51 

第4章 神经网络加速器优化:案例研究/ 55 

4.1 神经网络和简单墙/ 57 

4.2 Minerva:一种跨越三层的方法/ 60 

4.3 建立基准:安全的优化/ 63 

4.3.1 训练空间探索/ 63 

4.3.2 加速器设计空间/ 66 

4.4 低功耗神经网络加速器:不安全的优化/ 70 

4.4.1 数据类型量化/ 70 

4.4.2 选择性操作修剪/ 72 

4.4.3 SRAM故障缓解/ 74 

4.5 讨论/ 79 

4.6 展望/ 81第5章 文献调查和综述/ 835.1 介绍/ 84 

5.2 分类法/ 84 

5.3 算法/ 86 

5.3.1 数据类型/ 87 

5.3.2 模型稀疏性/ 89 

5.4 体系结构/ 92 

5.4.1 模型稀疏性/ 95 

5.4.2 模型支持/ 98 

5.4.3 数据移动/ 105 

5.5 电路/ 108 

5.5.1 数据移动/ 109 

5.5.2 容错/ 112 

第6章 结论/ 115 

参考文献/ 117

内容摘要
本书是面向计算机体系结构研究人员和工程师的深度学习入门读本。旨在用深度学习的方法和工具来改进硬件设计和做好加速和优化,提高深度学习系统的性能和精度。

精彩内容
 

   相关推荐   

—  没有更多了  —

以下为对购买帮助不大的评价

此功能需要访问孔网APP才能使用
暂时不用
打开孔网APP