昇腾AI处理器CANN架构与编程/华为智能计算技术丛书9787302601043

2018年度的ACM（国际计算机协会）图灵奖授予深度学习领域三巨头（Yoshua Bengio、Yann LeCun、Geoffrey Hinton），是学术界与工业界对深度学习的认可。深度学习具有强大的学习能力，为人工智能技术插上了翅膀。各国相继把发展人工智能确立为国家战略。我国国务院于2017年7月8日重磅发布《新一代人 
工智能发展规划》，人工智能课程已经走入中小学课堂。人工智能将是未来全面支撑科技、经济、社会发展和信息安全的重要支柱！

深度学习已经在众多领域产生了深远影响，但它对算力的要求极高。华为公司应时而动，打造出基于达芬奇架构的昇腾AI系列处理器，并进一步为全场景应用提供统一、协同的硬件和软件架构。其中，有面向云端提供强大训练算力的硬件产品（如昇腾910处理器），也有面向边缘端和移动端提供推理加速算力的硬件产品（如昇腾310处理器）。与硬件同样重要的是昇腾AI处理器的软件生态建设。华为公司针对达芬奇架构开发了自研的AI异构计算架构CANN，友好、丰富的软件生态会真正释放昇腾AI处理器的能量，助力我国新一代人工智能发展。

本书首先介绍华为公司自研的面向计算密集型人工智能应用研发的计算新架构（达芬奇架构）和基于该架构的两款分别面向训练和推理场景的昇腾AI处理器（昇腾310处理器和昇腾910处理器），以及围绕昇腾AI处理器的Atlas系列硬件产品，接着介绍针对该自研硬件开发的软件栈——昇腾AI异构计算架构CANN及其上的开发接口，然后介绍如何利用CANN上的深度学习框架MindSpore、TensorFlow、PyTorch训练模型，后介绍如何利用CANN生成离线模型并进行模型部署，并以两个典型实例——个性化影视推荐系统全流程开发实例和基于文字感知的智能巡检机器人全流程开发实例。

本书编写团队包括苏统华、杜鹏、周斌，还包括周明耀、周翔和由鸿铭，华为公司周明耀参与了第1章的编写，周翔和由鸿铭分别对第2~4章和第5~7章做出了重要贡献，在此对他们表示感谢！ 
在本书的编写过程中得到清华大学出版社盛东亮主任及钟志芳编辑的专业指导，他们的编辑和审校工作明显提高了本书的质量，特别向他们致以敬意。本书的编写同时受到多个基金（重点研发计划课题2021YFF0900903新一代人工智能重大项目2020AAA0108004、国家自然科学基金项目61673140和81671771） 
的资助。

苏统华杜鹏周斌

2022年4月

本书专注?N腾 AI处理器和?N腾 AI异构计算架构CANN,全书共7章。第1章介绍?N腾 AI处理器硬 件架构。首先介绍?N腾 AI处理器的达芬奇架构,为后续章节提供了计算单元、存储系统、控制单元、指令 集等知识储备,然后介绍基于该架构分别面向训练和推理的?N腾 AI处理器,后介绍围绕?N腾 AI处理器 的 Atlas系列硬件产品。第2章介绍?N腾 AI异构计算架构CANN。涵盖CANN概述、?N腾计算图、训练和 推理两种场景运行架构、开发环境安装及全流程开发和全流程开发工具链 MindStudio等重要内容。第3 章介绍 CANN自定义算子开发,以示例的方式介绍TBEDSL、TBETIK和 AICPU三种算子开发方式。第 4章介绍?N腾计算语言。首先讲述 AscendCL的编程模型,包括线程模型和内存模型,接着介绍 AscendCL 提供的五大开放能力,包括资源管理、模型加载与执行、算子能力开发和高级功能等。第5章介绍基于 CANN的通用 AI模型训练方法。以模型训练的全流程作为起始,对比了主流深度学习框架的异同,然后 讲述基于 CANN的模型训练方法和训练辅助工具的使用方法。第6章介绍基于 CANN的模型部署方法。 讲述模型部署全流程以及数字视觉预处理模块、模型转换工具、模型压缩工具的使用方法。第7章介绍两 个典型行业应用实例。围绕个性化影视推荐系统和智能巡检机器人,提供全流程的完整开发实例。 本书是?N腾 AI处理器架构、?N腾 AI异构计算架构与编程的官方教材,可以作为高校人工智能、智 能科学与技术、计算机科学与技术、软件工程、电子信息工程、自动化等专业的教材,也可以作为从事人 工智能系统开发的科研和工程技术人员的参考用书。

华为公司官方出品！华为技术有限公司2012实验室总裁何庭波作序！