AI 3.0（畅销书《复杂》作者梅拉妮·米歇尔全新力作）

等那一口仙气儿

段永朝

财讯传媒集团首席战略官

苇草智酷创始合伙人

2019年，梅拉妮·米歇尔博士的这本新著《AI 3.0》甫一出版，就跻身亚马逊“计算机与技术”畅销书行列。10年前，她的《复杂》（Complexity）一书荣登亚马逊年度十佳科学图书榜单。人工智能（artificial intelligence, AI）类的图书可谓汗牛充栋，大致可分为两类：一类是给专业的工程师看的，另一类是给大众的普及读物。米歇尔的这部书介乎两者之间，它有专业的技术阐释，更有深刻的思想洞察。

“侯世达的恐惧”

米歇尔是侯世达（Douglas Hofstadter）的学生。侯世达是蜚声中外的畅销书《哥德尔、艾舍尔、巴赫：集异璧之大成》（G.del,Escher,Bach:an Eternal Golden Braid）的作者。这部1979年出版的不朽著作，往往被简称为“GEB”，40多年来长盛不衰，令无数学习计算机科学和数理科学的大学生心醉神迷。米歇尔1990年在侯世达的指导下获得博士学位，后在美国波特兰大学任计算机科学教授，同时也是著名的复杂科学研究圣地——美国圣塔菲研究所的客座研究员。

2016年，谷歌公司的AlphaGo横扫围棋界一应高手，让全世界见识了新一波人工智能掀起的巨浪。一时间，机器翻译、语音识别、虚拟现实、自动驾驶、人工智能机器人等轮番登场，“奇点爆炸”“超级智能”“数字永生”等概念如雨后春笋般涌现，人工智能成为几乎所有大型前沿科技论坛必设的主题，“通用人工智能”（artificial general intelligence，AGI）仿佛指日可待。

2018年4月18日，我有幸在腾讯研究院、集智俱乐部、湛庐和苇草智酷联合主办的一个沙龙上，见到了久仰大名的“大神”侯世达，并参加了圆桌对话。在侯世达眼里，人工智能没那么高深，他直言很讨厌“人工智能”这个词，并以其新著《表象与本质》中的例子，批驳人工智能毫无“智能”可言。

米歇尔的这部《AI 3.0》为侯世达对人工智能的万般忧虑做了一次深度的技术解析。

对人工智能的种种讨论，特别是涉及技术伦理、社会价值和发展前景的时候，人们一般只会停留在悲观或者乐观的选边站队层面，无法进一步深入下去。这不奇怪，技术专家们擅长的话语是数据、算法、模型，社会学者和新闻记者们只能从技术的外部性、代码的背后之手、人性之善恶的角度，捍卫或者批判某种价值主张。对绝大多数非专业人士而言，由于搞不懂隐藏在反向传播算法、卷积神经网络（convolutional neural networks，ConvNets）、马尔可夫过程、熵原理这些硬核知识背后的思想内涵，就只能以“好与坏”“善与恶”的视角对人工智能进行理解和评判。讲述技术视角的思想基础，弥合“理科生”与“文科生”之间看待人工智能的思想鸿沟，正是米歇尔这部书的价值所在。当然，从我这样一名30年前曾做过专家系统（expert system）、机器推理算法的半个业内人士的角度来看，米歇尔的这部书如果能再“柔和”一些，可能效果更佳，不过这的确很难，跨越学科分野的努力，既重要又充满挑战。

《AI 3.0》开篇即提出这样一个“侯世达的恐惧”：不是担心人工智能太聪明，而是担心人工智能太容易取代我们人类所珍视的东西。这说出了很多人的心声，人们对人工智能的忧虑，在于这一领域发展得实在是太快了，已经渗透到日常生活的各个角落。不知不觉，我们周围的一切似乎都变得智能了，都被“强壮”的机器代码、算法接管了，人工智能似乎就是为接管世界而生的。这一波人工智能浪潮，随着一座座“生活城池的沦陷”，日益亢奋起来，超级智能、通用人工智能似乎指日可待，人工智能彻底接管这个世界似乎越来越现实，越来越不容置疑了。要知道，自1956年“人工智能”这一术语在美国达特茅斯学院的一个小型座谈会上被提出之后，“通用问题求解器”（general problem solver，GPS）就是当年人工智能的重要目标。

本书共分为5个部分。这篇序言，并非是对原书精彩内容的“剧透”，而是试图做一点点背景解析，与各位关注、思考人工智能的朋友交流。

人工智能的历史遗留问题

本书部分回顾了人工智能超过半个世纪的发展历史，并提出该领域两类主要的人工智能，一类是符号人工智能（symbolic AI），另一类是以感知机为雏形的亚符号人工智能（subsymbolic AI）。前者的基本假设是智能问题可以归为“符号推理”过程，这一学派也被称为“心智的计算理论”（computational theory of mind，CTM）学派。这一理论可追溯至计算机鼻祖法国科学家帕斯卡以及德国数学家莱布尼茨，真正体现这一思想的所谓智能机器，源于英国的查尔斯·巴贝奇（Charles Babbage）以及艾伦·图灵（Alan Turing）的开创性工作。

亚符号人工智能的出现归功于行为主义认知理论的崛起，可追溯至英国哲学家大卫·休谟和美国心理学家威廉·詹姆斯，其思想基础是“刺激-反应理论”。20世纪40年代，美国神经生理学家麦克卡洛克（W. S. McCulloch）、匹茨（W. A. Pitts）提出神经元模型后，心理学家弗兰克·罗森布拉特（Frank Rosenblatt）提出了感知机模型，这奠定了神经网络的基础。

然而，20世纪五六十年代的人工智能，在符号演算和感知机两个方向上都陷入了停滞。80年代兴起的专家系统和神经网络，也因为受制于计算能力和对智能的理解，并未获得实质性的突破。与一般人工智能著作不同的是，在概述“人工智能的寒冬”这一背景之后，米歇尔将注意力集中在“何以如此”这个关键问题上。了解人工智能“技术内幕”的专业人士都知道，算法在外行人看来的确神秘莫测，但在工程师眼里其所仰仗的说到底还是计算能力和符号演算的逻辑基础——这才是理解人工智能的关键。

受惠于神经网络和机器学习（machine learning）的发展，特别是2016年谷歌公司的AlphaGo在各种围棋比赛中大获全胜，给全世界做了一次人工智能科普，人工智能的第三波浪潮开始了。自从IBM的智能程序沃森（Watson）在智力竞赛《危险边缘》（Jeopardy!）中取得十分亮眼的表现，无人驾驶汽车、图像识别和语音识别等技术越来越受到人们的关注，一大波斗志昂扬的“人工智能预言”伴随着这一波人工智能浪潮愈演愈烈。DeepMind创始人之一沙恩·莱格（Shane Legg）认为，超越人类水平的人工智能将在2025年左右出现。谷歌公司战略委员会成员雷·库兹韦尔（Ray Kurzweil）则提出了令人震惊的“奇点理论”，他认为

2029年完全通过图灵测试（Turing test）的智能机器将会出现，以强人工智能为基础的智能爆炸将会在2045年出现。

米歇尔的论述有一条清晰的线索，她细致地分析了人工智能在视觉、游戏、机器翻译等领域的进展后指出：迄今为止令人眼花缭乱的智能突破，其实尚未触及智能问题的核心——自然语言理解和意义问题。为什么会这样呢？恐怕这就是我们需要仔细研读本书的一个原因吧。

人工智能现在正深刻地影响着我们的生产与生活，甚至关系到人类未来的前途命运，但究竟什么是人工智能？人工智能背后的原理是什么？从问世到演化至今，人工智能经历了怎样的历史变迁？当下人工智能的能力边界在哪里？人工智能与人类智能的差异是什么？未来人工智能又将面对什么样的挑战和机遇？关于这些疑问，《AI 3.0》将为你一一揭晓答案。

《AI 3.0》是超级畅销书《复杂》作者、复杂系统前沿科学家梅拉妮•米歇尔历经10年思考，厘清人工智能与人类智能的全新力作。本书源自米歇尔多年来对人工智能领域发展真实状态的记录，她在书中通过5个部分揭示了“现在的人工智能可以做什么，以及在未来几十年我们能从它们身上期待什么”。在描述了人工智能的发展历史之后，作者通过对视觉识别、游戏与推理、自然语言处理、常识判断这4大人工智能领域的热门应用的发展现状和局限性的探究，厘清了人工智能与人类智能的关系，书中关于人脸识别、无人驾驶、机器翻译等方面的案例分析都充满了巨大的启示！而这些，都是当下人工智能发展所面临的困境、人工智能想要取得突破性进展所必须重新思考的。看懂这本书，你将对人工智能领域有一个全景式的认知。

“GEB”作者侯世达曾逐章审读本书，并为每一页都写满了意见！《AI 3.0》是智能觉醒的启蒙，将掀起第三波人工智能热潮！《AI 3.0》所要传达的观点是：我们人类倾向于高估人工智能的进步，而低估人类自身智能的复杂性。目前的人工智能与通用的、人类水平的智能还相距甚远。我们应该感到害怕的不是智能机器，而是“愚笨”的机器，即那些没有能力独立做决策的机器。相比于机器的“智能”，我们更应关注如何规避“愚笨”机器的潜在风险。

梅拉妮·米歇尔 

波特兰州立大学计算机科学教授，曾在美国圣塔菲研究所（Santa Fe Institute）和洛斯阿拉莫斯国家实验室（Los Alamos National Laboratory）工作，主要的研究领域为类比推理、复杂系统、遗传算法等。在圣塔菲研究所时，米歇尔主导了复杂系统领域的研究工作，并教授了相关的在线课程。她的在线课程《复杂性入门》已经被近30 000名学生选修，成为Coursera排名前50位的在线课程之一。

米歇尔拥有密歇根大学计算机科学博士学位，师从认知科学家和作家侯世达（Douglas Hofstadter），两人共同创建了Copycat程序，该程序可以在理想化的情境里进行创造性的类比。米歇尔还是知名畅销书作家，著有《复杂》（Complexity: A Guided Tour）《遗传算法导论》（Genetic Algorithms）等。

引言 创造具有人类智能的机器，是一场重大的智力冒险
部分 若想对未来下注，先要厘清人工智能为何仍然无法超越人类智能

01 从起源到遭遇寒冬，心智是人工智能一直无法攻克的堡垒

达特茅斯的两个月和十个人

定义，然后必须继续下去

任何方法都有可能让我们取得进展

符号人工智能，力图用数学逻辑解决通用问题

感知机，依托DNN的亚符号人工智能

感知学习算法，无法重现人脑的涌现机制

学习感知机的权重和阈值

感知机是一条死胡同

泡沫破碎，进入人工智能的寒冬

看似容易的事情其实很难

02 从神经网络到机器学习，谁都不是后的解药

多层神经网络，识别编码中的简单特征

无论有多少输入与输出，反向传播学习都行得通

联结主义：智能的关键在于构建一个合适的计算结构

亚符号系统的本质：不擅长逻辑，擅长接飞盘

机器学习，下一个智能大变革的舞台已经就绪

03 从图灵测试到奇点之争， 我们无法预测智能将带领我们去往何处 

“猫识别机”掀起的春日狂潮

人工智能：狭义和通用，弱和强

人工智能是在模拟思考，还是真的在思考

图灵测试：如果一台计算机足够像人

奇点 2045，非生物智能将比今天所有人类智能强大10亿倍

一个“指数级”寓言

摩尔定律：计算机领域的指数增长

神经工程，对大脑进行逆向工程

奇点的怀疑论者和拥趸者

对图灵测试下注

第二部分 视觉识别：始终是“看”起来容易“做”起来难

04 何人，何物，何时，何地，为何 

看与做

深度学习革命：不是复杂性，而是层深

模拟大脑，从神经认知机到ConvNets

ConvNets如何不将狗识别为猫

激活对象特征，通过分类模块进行预测

不断从训练样本中学习，而非预先内置正确答案

05 ConvNets和ImageNet，现代人工智能的基石

构建ImageNet，解决目标识别任务的时间困境

土耳其机器人，一个需要人类智慧的工作市场

赢得ImageNet竞赛，神经网络的极大成功

ConvNets淘金热，以一套技术解决一个又一个问题

在目标识别方面，ConvNets超越人类了吗

我们离真正的视觉智能还非常遥远

06 人类与机器学习的关键差距

人工智能仍然无法学会自主学习

深度学习仍然离不开“你”的大数据

长尾效应常常会让机器犯错

机器“观察”到的东西有时与我们截然不同

有偏见的人工智能

人工智能内心的黑暗秘密以及我们如何愚弄它

07 确保价值观一致，构建值得信赖、有道德的人工智能

有益的人工智能，不断改善人类的生活

人工智能大权衡：我们是该拥抱，还是谨慎

人脸识别的伦理困境

人工智能如何监管以及自我监管

创建有道德的机器

第三部分 游戏与推理：开发具有更接近人类水平的学习和推理能力的机器

08 强化学习，重要的是学会给机器人奖励

训练你的机器狗

现实世界中的两大绊脚石

09 学会玩游戏，智能究竟从何而来

深度Q学习，从更好的猜测中学习猜测

价值6.5亿美元的智能体

西洋跳棋和国际象棋

不智能的“智能赢家”深蓝

围棋，规则简单却能产生无穷的复杂性

AlphaGo对战李世石：精妙，精妙，精妙

从随机选择到倾向选择，AlphaGo这样工作

10  游戏只是手段，通用人工智能才是目标

理解为什么错误至关重要

无须人类的任何指导

对人工智能而言，人类的很多游戏都很具挑战性

它并不真正理解什么是一条隧道，什么是墙

除去思考“围棋”，AlphaGo没有“思考”

从游戏到真实世界，从规则到没有规则

第四部分 自然语言：让计算机理解它所“阅读”的内容

11 词语，以及与它一同出现的词

语言的微妙之处

语音识别和后的10%

分类情感

递归神经网络

“我欣赏其中的幽默”

“憎恶”总与“讨厌”相关，“笑”也从来伴随着“幽默”

word2vec神经网络：口渴之于喝水，就像疲倦之于喝醉

12 机器翻译，仍然不能从人类理解的角度来理解图像与文字

编码器遇见解码器

机器翻译，正在弥补人机翻译之间的差距

迷失在翻译之中

把图像翻译成句子

13 虚拟助理——随便问我任何事情

沃森的故事

如何判定一台计算机是否会做阅读理解

“它”是指什么？

自然语言处理系统中的对抗式攻击

第五部分 常识——人工智能打破意义障碍的关键

14 正在学会“理解”的人工智能

理解的基石

预测可能的未来

理解即模拟

我们赖以生存的隐喻

抽象与类比，构建和使用我们的心智模型

15 知识、抽象和类比，赋予人工智能核心常识

让计算机具备核心直觉知识

形成抽象，理想化的愿景

活跃的符号和做类比

字符串世界中的元认知

识别整个情境比识别单个物体要困难得多

“我们真的，真的相距甚远”

结语 思考6个关键问题，激发人工智能的终极潜力

问题1：自动驾驶汽车还要多久才能普及？

问题2：人工智能会导致人类大规模失业吗？

问题3：计算机能够具有创造性吗？

问题4：我们距离创建通用的人类水平AI还有多远？

问题5：我们应该对人工智能感到多恐惧？

问题6：人工智能中有哪些激动人心的问题还尚未解决？

致谢

注释

人工智能现在正深刻地影响着我们的生产与生活，甚至关系到人类未来的前途命运，但究竟什么是人工智能？人工智能背后的原理是什么？从问世到演化至今，人工智能经历了怎样的历史变迁？当下人工智能的能力边界在哪里？人工智能与人类智能的差异是什么？未来人工智能又将面对什么样的挑战和机遇？关于这些疑问，《AI 3.0》将为你一一揭晓答案。

《AI 3.0》是超级畅销书《复杂》作者、复杂系统前沿科学家梅拉妮•米歇尔历经10年思考，厘清人工智能与人类智能的全新力作。本书源自米歇尔多年来对人工智能领域发展真实状态的记录，她在书中通过5个部分揭示了“现在的人工智能可以做什么，以及在未来几十年我们能从它们身上期待什么”。在描述了人工智能的发展历史之后，作者通过对视觉识别、游戏与推理、自然语言处理、常识判断这4大人工智能领域的热门应用的发展现状和局限性的探究，厘清了人工智能与人类智能的关系，书中关于人脸识别、无人驾驶、机器翻译等方面的案例分析都充满了巨大的启示！而这些，都是当下人工智能发展所面临的困境、人工智能想要取得突破性进展所必须重新思考的。看懂这本书，你将对人工智能领域有一个全景式的认知。

“GEB”作者侯世达曾逐章审读本书，并为每一页都写满了意见！《AI 3.0》是智能觉醒的启蒙，将掀起第三波人工智能热潮！《AI 3.0》所要传达的观点是：我们人类倾向于高估人工智能的进步，而低估人类自身智能的复杂性。目前的人工智能与通用的、人类水平的智能还相距甚远。我们应该感到害怕