详解FPGA：人工智能时代的驱动引擎

2011年，我正式踏入学术界，从事和FPGA相关的学术研究，2015年进入工业界，继续做FPGA的工程研发工作。直到今天，已入行十年时间了。

在这十年间，我亲眼见证了FPGA这个特殊的半导体芯片是如何在人工智能时代取得飞速发展的。除了它的传统应用领域之外，FPGA在云数据中心、人工智能、高速网络处理、金融科技、数字医疗等多个行业里又开辟了很多崭新的应用，并逐步成为了这些领域中不可或缺的关键单元。在这场不为大多数人所知的技术变革里，我也有幸参与其中，并且完成了一些关键工程项目的研发工作。

我们既要低头拉车，又应抬头看路。一直以来，我都在寻找这样一类书籍——能对FPGA技术本身及其未来的发展进行探讨和总结。因为这能帮助大家明确一些很重要的“动机”，例如为什么要学习FPGA，从事这个行业的前景怎样。更重要的是，如何通过分析FPGA的发展历史和现状，来分析和解答前面的这些问题，并且得到一个比较完整的思维方式和体系。我相信，很多学习FPGA或者从事FPGA行业的朋友也在寻找这些问题的答案。

很可惜，当前市面上的绝大多数关于FPGA的书籍，讲的都是FPGA具体的开发方法、流程和经验，侧重点大部分是针对“怎么学”或者“怎么用”，而非“为什么学”或者“为什么用”。

事实上，就FPGA的广泛应用来说，它早已不单是一项技术或者产品，更代表着一种理念。特别是摩尔定律已近黄昏的当下，以FPGA为代表的异构计算技术不断兴起，更是成为了延续摩尔定律发展的重要力量。因此，信息化技术对各行各业的重大提升，与FPGA的强力助推直接相关。正是它们在新领域以新形式的结合，深刻改变了FPGA的地位和作用，FPGA所面临的前所未有的发展机遇，让业界对其体系、架构、功能等许多方面提出了变革与发展的新要求。这也需要我们以全新的视角去重新认识和看待FPGA。

由此，我便产生了撰写本书的想法，希望在书中以通俗易懂的语言，分析和梳理以下几点内容： ，FPGA在大数据和人工智能时代的新应用，以及它们的主要技术特点； 第二，FPGA开发的新方法和新手段； 第三，FPGA发展的历史、现状，以及FPGA技术发展的新趋势和未来的发展方向。就像前面提到的，我并不想借由此书教给读者FPGA具体的开发方法，而是希望在大家抬头看路时，还能有一些可以参考的路标和方向。

在本书的写作过程中，我也尽力平衡技术的广度和深度。本书的读者并不局限于专业的FPGA从业者或学习者，还可以是学界、企业界和社会中的非专业人员和技术爱好者。希望不同层次、不同经验、不同背景，但对FPGA技术有兴趣和追求的读者朋友都能从本书中获益，并且借由此书，为他们自己的相关工程实践与学术研究提供借鉴和启发。由于笔者的水平和能力有限，本书难免存在错误和疏漏，欢迎各位读者批评指正。

本书付梓之际，我想感谢清华大学出版社的杨迪娜编辑，她在我写作和出版过程中给出了很多重要的建议和帮助。感谢北京航空航天大学的退休教授夏宇闻老师和中科院计算所研究员，副所长包云岗老师，在百忙之中为本书作序，也感谢摩尔精英的CEO张竞扬先生、英特尔中国创新中心总经理张瑞先生、西南交通大学的邸志雄老师、电子科技大学的黄乐天老师为本书做推介。我还想感谢“老石谈芯”的所有读者和观众，他们的支持、鼓励和反馈，让我不断提升自己，并且终写出了书中的这些内容。后，我想感谢我的家人，包括我的父母、岳父母，特别是我的妻子和儿子，他们无私的爱与包容，让我成为更好的人。

本书献给我的外公，他教给了我“众里寻他千百度，蓦然回首，那人却在灯火阑珊处”的治学境界。愿他在天国一切安好。

FPGA(现场可编程门阵列) 是一款特殊的半导体器件, 它在制造出来后仍然能够被 任意修改电路结构, 以适应不同应用的需要。 相比于其他种类的芯片,FPGA 具有极强的 灵活性, 同时在性能、功耗和开发成本等方面达到了出色的平衡。 因此 FPGA 被广泛应 用在电信、工业控制、高性能计算等多个领域。 本书详细梳理和分析了FPGA 在大数据和人工智能时代的新技术、 开发的新方法, 以及FPGA 在异构计算时代的新趋势和新方向, 并重点讨论了FPGA 的主要技术特点。 本书致力于向业界决策人士提供 FPGA 的先进理念与有价值的实践模式, 促进大 数据、 人工智能等新兴技术与各行业的深度融合提升。 同时也为 FPGA 从业人员在处理 实际工程技术问题时, 提供系统的方案和有价值的参考。 此外, 本书对学界、 企业界和社 会中的非专业人员或技术爱好者了解FPGA 的先进理念和知识, 也有很大的参考价值。

石侃，博士毕业于伦敦帝国理工学院电子工程系，现就职于英特尔公司，担任FPGA研发工程师，兼任英特尔研究院的研究科学家。他深耕于FPGA的数据中心网络加速、网络功能虚拟化、高速有线网络通信等领域的研发和创新工作。
在学术界，他曾经针对FPGA、近似计算、计算机数学等技术和领域，在DAC、FCCM、FPT、ISCAS、TRETS、TVLSI等多个国际会议和期刊上发表过研究论文，并两次获得欧盟HiPEAC论文奖。
是微信公众号“老石谈芯”的主理人，已发表70余篇原创文章，以及数十条原创视频内容，深受读者好评，B站关注人数超过10万，全网关注人数超过25万，全网累计视频播放量达数百万。

第1章延续摩尔定律——FPGA的架构革新

1.1什么是FPGA

1.2从无到有，从小到大，从大到强——FPGA发展的三个阶段

1.2.1发明阶段： 历史的必然

1.2.2扩张阶段： 设计自动化的兴起

1.2.3累积阶段： 复杂片上系统的形成

1.3超越维度的限制——3D FPGA

1.3.1赛灵思堆叠硅片互联(SSI)技术

1.3.2SSI技术的主要缺点

1.3.3SSI技术小结

1.3.4英特尔EMIB技术

1.3.5基于EMIB技术的异构FPGA的潜在问题

1.3.6EMIB技术小结

1.4突破集成度的边界——从FPGA到ACAP

1.4.1ACAP概述

1.4.2芯片架构： 在传统中变革

1.4.3CLB微结构： 翻天覆地

1.4.4第四代SSI技术： 3D FPGA的
进一步优化

1.4.5片上网络： 高带宽数据传输的全新利器

1.5灵活与敏捷共存——英特尔Agilex FPGA

1.5.1英特尔10nm工艺能否后发制人

1.5.2全新的芯片布局与微架构优化

1.5.3CXL： CPU与FPGA互连的终极方案

1.5.4可变精度DSP： 全力支持AI应用

1.5.5增强版HyperFlex架构

1.5.6oneAPI： 英特尔的雄心

1.6本章小结

第2章拥抱大数据洪流——云中的FPGA

2.1个吃螃蟹的人——微软Catapult项目

2.1.1Catapult项目的产生背景

2.1.2在数据中心里部署硬件加速单元的
考虑因素

2.1.3几类硬件加速模块的对比

2.1.4Catapult项目的三个阶段

2.1.5微软Catapult项目小结

2.2FPGA即服务(FPGA as a Service)

2.2.1亚马逊AWSF1实例： FPGA云服务的
首次尝试

2.2.2AWS FPGA云服务的技术概述

2.2.3其他公有云提供商的FPGA加速服务

2.3下一代电信网络： SDN、NFV与FPGA

2.3.1网络功能虚拟化(NFV)与软件定义
网络(SDN)的意义

2.3.2使用FPGA加速虚拟网络功能的实现

2.4系统级解决方案： FPGA加速卡

2.4.1FPGA应用方案的转型

2.4.2英特尔的FPGA加速卡布局

2.4.3赛灵思的FPGA加速卡布局

2.4.4第三方FPGA加速卡

2.5虚拟与现实之间——FPGA虚拟化

2.5.1为什么要进行FPGA虚拟化

2.5.2FPGA虚拟化的主要目标

2.5.3FPGA虚拟化的层次划分

2.5.4常见的FPGA虚拟化实现方法

2.5.5FPGA虚拟化的未来研究方向

2.6本章小结

第3章FPGA在人工智能时代的独特优势

3.1实时AI处理： 微软脑波项目

3.1.1FPGA资源池化的主要优点

3.1.2脑波项目系统架构

3.1.3脑波项目的性能分析

3.2AI加速引擎： FPGA与深度神经网络的近似
算法

3.2.1使用低精度定点数代替浮点数

3.2.2网络剪枝

3.2.3深度压缩

3.3下一个Big Thing： FPGA公司在AI时代的布局

3.3.1赛灵思

3.3.2英特尔

3.3.3Achronix

3.4路在何方： FPGA在AI时代未来的发展方向

3.5本章小结

第4章更简单也更复杂——FPGA开发的新方法

4.1难上加难： 现代FPGA开发的痛点

4.2让软件工程师开发FPGA——高层次综合

4.2.1FPGA高层次综合的前世今生

4.2.2高层次综合的主要工作原理： 
以AutoPilot为例

4.2.3高层次综合工具常用的优化方法

4.2.4高层次综合的发展前景

4.3商业级开源开发工具： 赛灵思Vitis

4.4一个晶体管也不能少： 英特尔oneAPI

4.5本章小结

第5章站在巨人的肩上——FPGA发展的新趋势

5.1百花齐放、百家争鸣： FPGA学术研究概况

5.1.1多伦多大学

5.1.2加州大学洛杉矶分校(UCLA)

5.1.3帝国理工学院

5.1.4清华大学

5.1.5FPGA领域的主要学术会议

5.2FPGA 20年有影响力的25项研究成果

5.2.1FPGA系统架构篇

5.2.2FPGA微架构篇

5.2.3FPGA布局布线算法篇

5.2.4其他EDA/CAD算法篇

5.2.5FPGA应用篇

5.3这是好的时代——FPGA未来的发展方向

5.4本章小结

FPGA(现场可编程门阵列) 是一款特殊的半导体器件, 它在制造出来后仍然能够被 任意修改电路结构, 以适应不同应用的需要。 相比于其他种类的芯片,FPGA 具有极强的 灵活性, 同时在性能、功耗和开发成本等方面达到了出色的平衡。 因此 FPGA 被广泛应 用在电信、工业控制、高性能计算等多个领域。 本书详细梳理和分析了FPGA 在大数据和人工智能时代的新技术、 开发的新方法, 以及FPGA 在异构计算时代的新趋势和新方向, 并重点讨论了FPGA 的主要技术特点。 本书致力于向业界决策人士提供 FPGA 的先进理念与有价值的实践模式, 促进大 数据、 人工智能等新兴技术与各行业的深度融合提升。 同时也为 FPGA 从业人员在处理 实际工程技术问题时, 提供系统的方案和有价值的参考。 此外, 本书对学界、 企业界和社 会中的非专业人员或技术爱好者了解FPGA 的先进理念和知识, 也有很大的参考价值。

石侃，博士毕业于伦敦帝国理工学院电子工程系，现就职于英特尔公司，担任FPGA研发工程师，兼任英特尔研究院的研究科学家。他深耕于FPGA的数据中心网络加速、网络功能虚拟化、高速有线网络通信等领域的研发和创新工作。
在学术界，他曾经针对FPGA、近似计算、计算机数学等技术和领域，在DAC、FCCM、FPT、ISCAS、TRETS、TVLSI等多个国际会议和期刊上发表过研究论文，并两次获得欧盟HiPEAC论文奖。
是微信公众号“老石谈芯”的主理人，已发表70余篇原创文章，以及数十条原创视频内容，深受读者好评，B站关注人数超过10万，全网关注人数超过25万，全网累计视频播放量达数百万。