人工智能哲学十五讲

序言

读者将要读到的这本书的关键词乃是“人工智能哲学”。有的读者或许会问：人工智能难道不是理工科的话题吗？既然你是从事人文学科研究的，又有什么资格对科学问题插嘴呢？

关于哲学家是否有资格对科学问题插嘴，作为科学哲学与西方哲学的双料研究者，笔者觉得有几句话要说。我承认：并非面对所有理工科问题，哲学家都有话要说。譬如，关于“歼20战斗机为何用鸭式布局的形体”这个问题，哲学家就不会发言，至少不会以哲学家的身份发言（以资深军迷的身份发言则可能是被允许的，但这一身份与哲学家的身份并无本质联系）。然而，关于“进化论是否能够沿用到心理学领域”“量子力学的本质到底是什么”这些科学家自己都未必有定见的问题，心理学哲学、生物学哲学与物理学哲学当然有话要说。如果有人不知道这些具体的科学哲学分支的存在的话，那么，则是他本人的责任，而不是这些学科分支的责任。

按照同样的逻辑，关于人工智能的问题，哲学家当然也可以发言，正如物理学哲学家可以对基本物理学发现的意义进行追问一样。具体而言，在人工智能学界，关于何为智能的基本定义目前都没有定见，而由此导致的技术路线分歧更是不一而足。在这种情况下，就此多听听哲学家关于此类问题的见解，恐怕也没有啥坏处。

有人或许会反问：哲学家们连一行程序都不会写，为何要听哲学家的？

对这个疑问，两个回应足以将其驳倒。

，你怎么知道哲学家都不会写程序？比如，知识论研究领域的重磅学者波洛克（John L.Pollock），就曾开发了一个叫作“奥斯卡”的推理系统，相关研究成果在主流人工智能杂志上都发表过。再比如，在当今英美哲学界名声赫赫的心灵哲学家查尔莫斯（David Chalmers），是印第安纳大学布鲁明顿分校的人工智能大专家侯世达（Douglas Richard Hofstadter）的高足，以前也和老师一起发表过很多人工智能领域的专业论文，难道他竟然不会写程序？

第二，难道一定会写程序才是能够对人工智能发表意见的必要条件？作为一种底层操作，写具体的代码的工作，类似于军队中简单的射击动作。然而，大家请试想一下：汉高祖刘邦之所以能够打败西楚霸王项羽，究竟是因为他有知人善用的本事呢，还是因为他精通弩机的使用？答案无疑是前者。很显然，哲学之于人工智能的底层操作，就类似于刘邦的战略思维之于使用弩机之类的战术动作。

有的读者还会说：纵然我们承认“人工智能哲学”现在是一个在哲学内部被承认的学术分支，这又如何？譬如，主流的人工智能哲学专家之一德瑞福斯（Hubert Dreyfus）就是一个如假包换的海德格尔（Martin Heidegger）哲学的粉丝，而海德格尔哲学的描述云山雾罩，毫无算法说明支持，以这样的哲学为基础再建立一种人工智能哲学的理论，难道不是在卖狗皮膏药吗？

对于这一点批评，笔者的意见是：虽然作为英美分析哲学研究者，笔者本人有时候对海氏晦涩的表述方式也感到抓狂，但在我能够看懂他的论述的限度内，我并不怀疑海氏哲学肯定说出了一些非常重要、非常深刻的事情。换言之，在我看来，只要能够将海氏哲学思想“翻译”得清楚一点，他的洞见就更容易被经验科学领域内的工作者所吸收。从这个角度来看，德瑞福斯先生在重新表述海氏哲学方面所做出的努力，乃是吾辈相关“翻译”工作的重要思想伴侣。

那么，到底该怎么来做这种“翻译”呢？下面我就来举一个例子。概而言之，海氏现象学的一个基本观点是：西方哲学传统关心的是“存在者”，而不是“存在”本身。而他自己的新哲学要重新揭露这被遗忘的“存在”。我承认这是海氏的“哲学黑话”，不经解释的确不知所云。但它们并非在原则上不可被说清楚。所谓“存在者”，就是能够在语言表征中被清楚地对象化的东西。比如，命题、真值、主体、客体，都是这样的存在者。而“存在”本身，则难以在语言表征中被对象化，比如你在使用一个隐喻的时候所依赖的某种模糊的背景知识。你能够像列举你的十根手指一样，将开某个玩笑时的背景知识都说清楚吗？在背景知识与非背景知识之间，你能够找到清楚的界限吗？而传统人工智能的麻烦就在这里。人类真实的智能活动都会依赖这些说不清楚的背景知识，而程序员呢，他们不把事情说得清清楚楚，就编写不了程序。这就构成了人类的现象学体验与机器编写的机械论预设之间的巨大张力。

有人会说：机器何必要理睬人的现象学体验？人工智能又不是克隆人，完全可以不理睬人是怎么感知世界的啊？对这个非常肤浅的质疑，如下应答就足够了：我们干吗要做人工智能？不就是为了给人类增加帮手吗？假设你需要造一个搬运机器人，帮助你搬家，那么，你难道不希望他能够听懂你的命令吗？——譬如如下命令：“哎，机器人阿杰啊，你把那个东西搬到这里来，再去那边把另外一个东西也拿过来。”——很显然，这个命令里包含了大量的方位代词，其具体含义必须在特定语境中才能够得到确定。在这样的情况下，你怎么可能不指望机器人与你分享同样的语境意识呢？你怎么能够忍受你的机器人是处在另外一个时空尺度里的怪物呢？既然这样的机器人必须具有与人类似的语境意识，由海氏哲学所揭示的人类现象学体验的某些基本结构，一定意义上不也正适用于真正的人工智能体吗？

需要指出的是，海德格尔绝非是会在本书中出现的西方哲学大牛。别的大牛还包括胡塞尔（Edmund Husserl）、福多（Jerry Fodor）、塞尔（John Searle）、安斯康姆（Gertrude Elizabeth Margaret Anscombe），以及前面提到过的波洛克，还有国内学术界很少谈论的日本哲学家九鬼周造。但这些哲学家并不是本书的真正主角。本书的真正主角，毋宁说是这样三个问题：

，现实评估之问：当下的主流人工智能，算是通用人工智能吗？（笔者的答案是“非也”。）

第二，伦理维度之问：研究通用人工智能，在伦理上是利大于弊，还是弊大于利？（笔者的答案是“利大于弊”。）

第三，路线图勾画之问：我们该如何逼近通用人工智能？（笔者对该问题的答案包含三个关键词：“小数据主义”“绿色人工智能”与“心智建模”。）

从笔者预先给出的这些问题的答案来看，读者应当看出，我是不可能赞成如下三条在当前媒体界与商界被反复鼓吹的意见的（但这三条意见彼此之间在逻辑上未必自洽）：

（针对我的问）：当前主流的人工智能，经由深度学习技术所提供的强大运算力，会在某个不太遥远的时刻逼近通用人工智能的目标。

第二（针对我的第二问）：尽管通用人工智能技术可以通过当前的技术路线而达成，然而，该目标的实现会对人类社会构成莫大的威胁。

第三（针对我的第三问）：未来人工智能的主要技术路径，是大数据技术、5G环境中的物联网技术。

笔者认为以上三条意见都是错的，而且是那种哲学层面上的错误（注意，当一个哲学家说某人“犯下哲学层面上的错误”的时候，他真正想说的是：嘿，老兄，你错得离谱了！）但不幸的是，全球范围内关于人工智能的技术与资本布局，都多多少少受到了上述三种观点——尤其是后一种观点——的影响。对此，我感到非常忧虑。

不过，读者能够读到笔者的这些忧虑，至少说明这本书已经得到了出版。在此，我首先要感谢北京大学出版社的田炜女士在促成本书出版的过程中付出的努力。早在2018年我在北京主持“世界哲学大会人工智能分会场”的工作时，她其实就向我约了稿，但因为稿约繁忙，直到2020年6月底我才交稿，甚为惭愧。在此我还要感谢中国工程院院士李德毅教授在阅读本书一些章节的初稿时对笔者的鼓励与批评意见。需要指出的是，本书的很多思想，来自笔者长期与美国天普大学的计算机专家王培老师学术交流的结果，因此，没有他的思想刺激，这本书也不可能完成。同时需要指出的是，我已故的导师俞吾金先生在生前一直嘱咐我要做分析与欧陆哲学兼通的学者，而本书对于各种相关思想资源的调用，也正是为了实践我导师生前的治学理念。

本书十五讲的内容，很多来自笔者在复旦大学开设的“人工智能哲学”（本科生课程）与“智能科学”（研究生课程）的讲义。与本书内容相关的研究，得到了*哲学社会科学研究重大课题攻关项目“新一代人工智能发展的自然语言理解研究”（项目号：19JZD010）的资助。本书也是该项目的前期阶段性成果的一部分。

徐英瑾

2020年6月26日

近年来，人工智能发展非常迅速，在可以预见的未来，它必然会强烈冲击并深刻变革人类既有的生活模式。实际上，除技术问题外，人工智能的逻辑基础和伦理基础与哲学之间的关系也十分密切。有鉴于此，本书从与人工智能紧密相关的哲学问题入手，关注如下话题：强人工智能是否可能；近代唯理论和经验论争论对于人工智能的影响；苏联、日本及欧盟在人工智能发展历程中的哲学教训；航空器自动驾驶背后的哲学难题；军用机器人的伦理是非；儒家与人工智能等。作者从逻辑架构和历史经验出发，展望了未来通用人工智能发展的可能性、可行性以及相应的社会和伦理影响。

近年来，人工智能发展非常迅速，在可以预见的未来，它必然会强烈冲击并深刻变革人类既有的生活模式。实际上，除技术问题外，人工智能的逻辑基础和伦理基础与哲学之间的关系也十分密切。有鉴于此，本书从与人工智能紧密相关的哲学问题入手，关注如下话题：强人工智能是否可能；近代唯理论和经验论争论对于人工智能的影响；苏联、日本及欧盟在人工智能发展历程中的哲学教训；航空器自动驾驶背后的哲学难题；军用机器人的伦理是非；儒家与人工智能等。作者从逻辑架构和历史经验出发，展望了未来通用人工智能发展的可能性、可行性以及相应的社会和伦理影响。

徐英瑾， 1978年生于上海，哲学博士，现为复旦大学哲学学院教授。专长为分析哲学史、心灵哲学、人工智能哲学以及分析哲学与欧陆哲学比较研究。已出版专著：《心智、语言和机器——维特根斯坦哲学和人工智能科学的对话》（人民出版社，2013）、《用得上的哲学：破解日常难题的99种思考方法》（上海三联书店，2021）等，发表中英文学术论文百余篇。

人工智能哲学十五讲

目录
“名家通识讲座书系”总序
本书系编审委员会/1
序言/徐英瑾/1

上篇主流人工智能批判
讲人工智能为何需要哲学？/
一人工智能本就自带哲学气质/
二符号主义与联结主义的人工智能进路
在近代西方哲学中的根苗/
三人工智能哲学的发展现状/
第二讲人工智能可不能太指望逻辑学/
一从一起空难说起/
二形式逻辑的 “五宗罪”/
三为何波洛克的修正方案依然
问题重重？/
四回到词项逻辑去/
第三讲人工智能可不能太指望深度学习/
一深度学习与人类智慧之比较/
二深度学习机制对于人类既有人文资源的
“剥削”/
第四讲通用人工智能：依然在远方/
一主流人工智能并不真正“通用”/
二如何向自然智能学习？/
三再谈“强人工智能”与“超级人工智能”/
第五讲苏联人工智能发展历程中的
哲学迷思/
一苏联计算机发展政策及其主要问题/
二对于苏联人工智能规划之失误的
哲学检讨/
第六讲日本“第五代计算机”失败背后的
哲学教训/
一日本通产省的雄图大志/
二用日本哲学的资源来批判日本的
第五代计算机计划/
第七讲欧盟“蓝脑计划”背后的哲学迷思/
一“蓝脑计划”提出的政策背景与其
计划概要/
二“蓝脑计划”蕴藏的哲学矛盾/
三对于苏、日、欧三方人工智能
发展政策的总体性反思/
第八讲从大数据主义走向小数据主义/
一大数据技术与人工智能技术比较谈/
二作为“小数据主义”之前身的
“节俭性理性”/
三对于带有“小数据主义”色彩的“绿色
人工智能”的展望/
第九讲儒家其实也支持小数据主义/
一从经济数据管理的角度重构儒家思想/
二从儒家的角度重读欧尼尔对于
大数据技术的批评/
三如何打造“数据化儒家”的技术路线？/
下篇如何实现通用人工智能？
第十讲如何让通用人工智能具有意向性？/
一何为“意向性”？/
二“现象学悬搁”对于人工智能的拷问/
三从关于心理模式的“盒喻”到对于“Noema”
的推论主义解释/
四主流人工智能研究能够满足胡塞尔哲学
所提出的要求吗？/
第十一讲通用人工智能当如何具有意图？ /
一从“人工智能是否会奴役人类”谈起/
二“意图”离不开“信念”/
三通用人工智能语境中的“意图”刻画/
四再论“人工智能体对人类产生恶意”
这一“潜在威胁”/
第十二讲通用人工智能当如何具有情绪？ /
一人工智能、人工情绪与现象学/
二人工智能的研究为何需要人工情绪？
——从认知心理学的角度看/
三胡塞尔的“生活世界”理论对于
人工情绪研究的启发/
四海德格尔的“向死而生”理论对于
人工情绪研究的启发/
五人工情绪研究中的“易问题”
“难问题” 与“极难问题”/
第十三讲通用人工智能当如何具有合适的
伦理规范？/
一从伦理学的“具身性”说起/
二认知语言学的“具身性”对于
人工智能伦理学的启示/
三再谈主流人工智能伦理学研究
对于“具身性”的忽视/
第十四讲通用人工智能当如何具有德性？/
一我们为何需要谈论“德性”？/
二四种当代德性论及其与
儒家学说的关系/
三从神经计算模型看德性熏养/
四通过基于“儒家德性样板库”的
隐喻性投射来获取德性/
第十五讲我们真的需要担心会自动开火的军用
人工智能系统吗？/
一伦理属性与武器相互结合的
12种可能形式/
二开发具有自动伦理决策机制的
智能化武器平台的必要性/
三与自动开火程序相关的
自主化伦理推理/

近年来，人工智能发展非常迅速，在可以预见的未来，它必然会强烈冲击并深刻变革人类既有的生活模式。实际上，除技术问题外，人工智能的逻辑基础和伦理基础与哲学之间的关系也十分密切。有鉴于此，本书从与人工智能紧密相关的哲学问题入手，关注如下话题：强人工智能是否可能；近代唯理论和经验论争论对于人工智能的影响；苏联、日本及欧盟在人工智能发展历程中的哲学教训；航空器自动驾驶背后的哲学难题；军用机器人的伦理是非；儒家与人工智能等。作者从逻辑架构和历史经验出发，展望了未来通用人工智能发展的可能性、可行性以及相应的社会和伦理影响。

徐英瑾， 1978年生于上海，哲学博士，现为复旦大学哲学学院教授。专长为分析哲学史、心灵哲学、人工智能哲学以及分析哲学与欧陆哲学比较研究。已出版专著：《心智、语言和机器——维特根斯坦哲学和人工智能科学的对话》（人民出版社，2013）、《用得上的哲学：破解日常难题的99种思考方法》（上海三联书店，2021）等，发表中英文学术论文百余篇。