预测心智

丛书序

当前，在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下，新一代人工智能正在全球蓬勃发展，推动着经济社会各领域从数字化、网络化向智能化加速跃升。作为新一轮产业变革的核心驱动力，人工智能正深刻改变着人类的生产生活和消费方式以及思维模式，为经济发展和社会建设提供了新动能新机遇。  

人工智能是影响面广的颠覆性技术，具有技术属性和社会属性高度融合的特征。它为经济社会发展带来了新机遇，也带来了新挑战，存在改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。从国内外发展来看，人工智能的前期研发主要是由其技术属性推动，当其大规模嵌入到社会与经济领域时，其社会属性有可能决定人工智能技术应用的成败。“技术” “规则”成为了各国人工智能发展的核心竞争力。各国在开展技术竞争的同时，也在人工智能治理方面抢占制度上的话语权和制高点。因此，在大力发展人工智能技术的同时，我们必须高度重视其社会属性，积极预防和有效应对其可能带来的各类风险挑战，确保人工智能健康发展。

人工智能是我国重大的国家战略科技力量之一，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。我国在加大人工智能研发和应用力度的同时，高度重视对人工智能可能带来挑战的预判，限度地防范风险。习近平总书记多次强调，“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控”。2017年国务院发布的《新一代人工智能发展规划》也提出，要“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”，并力争“到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系”。近年来，我国先后出台了《网络安全法》《数据安全法》《个人信息保护法》等一系列相关的法律法规，逐渐完善立法供给和适用；发布了《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》，为从事人工智能相关活动的主体提供伦理指引。标准体系、行业规范以及各应用场景下细分领域的规制措施也在不断建立与完善。

人工智能产业正在成为各个地方经济转型的突破口。就上海而言，人工智能是上海重点布局的三大核心产业之一。为了推动人工智能“上海高地”建设，上海市先后出台了《关于本市推动新一代人工智能发展的实施意见》《关于加快推进人工智能高质量发展的实施办法》《关于建设人工智能上海高地 构建一流创新生态的行动方案（2019-2021年）》《上海市人工智能产业发展“十四五”规划》等政策文件。这些文件明确提出要“逐步建立人工智能风险评估和法治监管体系。开展人工智能领域信息安全、隐私保护、道德伦理、法规制度等研究”；“打造更加安全的敏捷治理，秉承以人为本的理念，统筹发展和安全，健全法规体系、标准体系、监管体系，更好地以规范促发展，为全球人工智能治理贡献上海智慧，推动人工智能向更加有利于人类社会的方向发展。”此外，上海还制定和发布了《上海市数据条例》和《人工智能安全发展上海倡议》，并且正在推进人工智能产业发展和智能网联汽车等应用场景的立法工作，加强协同创新和可信人工智能研究，为上海构建人工智能治理体系和实现城市数字化转型提供了强大的制度和智力支撑。

重视人工智能伦理、法律与治理已成为世界各国的广泛共识。2021年联合国教科文组织通过了首份人工智能伦理问题全球性协议《人工智能伦理问题建议书》，倡导人工智能为人类、社会、环境以及生态系统服务，并预防其潜在风险。美国、欧盟、英国、日本也在积极制定人工智能的发展战略、治理原则、法律法规以及监管政策，同时相关的研究也取得了很多成果。但总体而言，对人工智能相关伦理、法律与治理问题的研究仍处于早期探索阶段，亟待政产学研协同创新，共同推进。

首先，人工智能技术本身正处于快速发展阶段。在新的信息环境下，新一代人工智能呈现出大数据智能、群体智能、跨媒体智能、混合增强智能和智能无人系统等技术方向和趋势。与此同时，与人工智能相关的元宇宙、Web3.0、区块链、量子信息等新兴科技迅速发展并开始与经济社会相融合。技术的不断发展将推动各领域的应用创新，进而将持续广泛甚至加速影响人类生产生活方式和思维模式，会不断产生新的伦理、法律、治理和社会问题需要理论与实务的回应。

其次，作为一种新兴颠覆性技术，人工智能是继互联网之后新一代“通用目的技术”，具有高度的延展性，可以嵌入到经济社会的方方面面。新一代人工智能的基本方法是数据驱动的算法，随着互联网、传感器等应用的普及，海量数据不断涌现，数据和知识在信息空间、物理空间和人类社会三元空间中的相互融合与互动将形成各种新计算，这些信息和数据环境的变化形成了新一代人工智能发展的外部驱动力。与此同时，人工智能技术在制造、农业、物流、金融、交通、娱乐、教育、医疗、养老、城市运行、社会治理等等经济社会领域具有广泛的应用性，将深刻地改变人们的生产生活方式和思维模式。我们可以看到，人工智能从研究、设计、开发到应用的全生命周期都与经济社会深深地融合在一起，而且彼此互动和影响将日趋复杂，这要求我们的研究也需要不断扩大和深入。

再次，我们不能仅仅将人工智能看成是一项技术，而更应该看到以人工智能为核心的智能时代的大背景。人类社会经历了从农业社会、工业社会再到信息社会的发展，当前我们正在快步迈向智能社会。在社会转型的时代背景下，以传统社会形态为基础的社会科学各学科知识体系需要不断更新迭代，以有效地研究、解释与解决由人工智能等新兴技术所引发的新的社会问题。在这一意义上，人工智能伦理、法律与治理的研究不仅可以服务于人工智能技术的发展，而且也给哲学、经济学、管理学、法学、社会学、政治学等社会科学带来了自我审视、自我更新、自我重构的机遇。在智能时代下如何发现新的研究对象和研究方法，从而更新学科知识，重构学科体系，这是社会科学研究的主体性和自主性的体现。这不仅关涉个别二级学科的研究，更是涉及一级学科层面上的整体更新，甚至需要多个学科交叉融合的研究。从更广阔和长远的视角来看，以人工智能为核心驱动力的智能社会转型为社会科学学科知识的更新迭代提供了良好契机。

纵观世界各国，人工智能技术的发展已经产生了广泛的社会影响，遍及认知、决策、就业和劳动、社交、交通、卫生保健、教育、媒体、信息获取、数字鸿沟、个人数据和消费者保护、环境、民主、法治、安全和治安、社会公正、基本权利（如表达自由、隐私、非歧视与偏见）、军事等众多领域。但是，目前对于人工智能技术应用带来的真实社会影响的测量和评价仍然是“盲区”，缺乏深度的实证研究，对于人工智能的治理框架以及对其社会影响的有效应对也需要进一步细化落地。相较于人工智能技术和产业的发展，关于人工智能伦理、安全、法律和治理的研究较为滞后，这不仅会制约我国人工智能的进一步发展，而且会影响智能时代下经济社会的健康稳定发展。整合多学科力量，加快人工智能伦理、法律和治理的研究，提升“风险预防”和“趋势预测”能力，是保障人工智能高质量发展的重要路径。我们需要通过政产学研结合的协同创新研究，以社会实验的方法对人工智能的社会影响进行综合分析评价，建立起技术、政策、民众三者之间的平衡关系，并通过法律法规、制度体系、伦理道德等措施反馈于技术发展的优化，推动“人工智能向善”。

在此背景下，2021年新一轮上海市协同创新中心建设中，依托同济大学建设的上海市人工智能社会治理协同创新中心正式获批成立。中心依托学校学科交叉融合的优势以及在人工智能及其治理领域的研究基础，汇聚法学、经管、人文、信息、自主智能无人系统科学中心等多学科和单位力量，联合相关协同单位共同开展人工智能相关法律、伦理和社会问题研究与人才培养，为人工智能治理贡献上海智慧，助力上海城市数字化转型和具有全球影响力的科技创新中心建设。

近年来，同济大学在人工智能研究和人才培养方面始终走在全国前列。目前学校聚集了一系列与人工智能相关的国家和省部级研究平台，包括：依托同济大学建设的教育 部自主智能无人系统前沿科学中心，作为技术和研究主体的国家智能社会治理实验综合基地（上海杨浦），依托学校建设的上海自主智能无人系统科学中心、中国（上海）数字城市研究院、上海市人工智能社会治理协同创新中心，等等；2022年同济大学获批建设“自主智能无人系统”全国重点实验室。这些平台中既有涉及人工智能理论、技术与应用领域，也有涉及人工智能伦理、法律与治理领域，兼顾人工智能的技术属性和社会属性，面向智能社会发展开展学科建设和人才培养。同时，学校以人工智能赋能传统学科，推动传统学科更新迭代，实现多学科交叉融合，取得了一系列创新成果。在人才培养方面，学校在全国首批获得“人工智能”本科专业建设资格，2021年获批了“智能科学与技术”交叉学科博士点，建立了人工智能交叉人才培养新体系。

由上海市人工智能社会治理协同创新中心组织策划和资助出版的这套“人工智能伦理、法律与治理”系列丛书，聚焦人工智能相关法律、伦理、安全、治理和社会问题研究，内容涉及哲学、法学、经济学、管理学、社会学以及智能科学与技术等多个学科领域。我们将持续跟踪人工智能的发展及对人类社会产生的影响，充分利用学校的研究基础和学科优势，深入开展研究，与大家共同努力推动人工智能持续健康发展，推动“以人为本”的智能社会建设。

编委会

2022年8月8日

本书是一本心理学、认知科学方面的书。一种新的理论正在神经科学中站稳脚跟。该理论认为，大脑本质上是一种假设测试机制，它试图把从外界接收到的感官输入的预测误差小化。这是一个有吸引力的理论，因为强有力的理论论据支持它，但它的本质是惊人的简单。本书从认知科学和哲学的角度解释和探索了这一理论。本书的关键论点是，该机制解释了我们的意识知觉的丰富、深刻和多面性。它还对注意力如何塑造感知，以及感知如何依赖于行动给出了统一的解释。心灵被揭示为与世界有一种脆弱和间接的关系。虽然我们与这个世界有着很深的共鸣，但奇怪的是，我们却与它保持着距离。本书内容：部分阐述了该理论如何实现丰富的、分层的感知。该理论的概率和统计基础解释使用实例从实证研究和类比到不同的推理形式。第二部分使用简单的机制来解释有问题的案例，即我们如何设法在健康和精神疾病中描绘，有时是歪曲世界。第三部分考察了心灵，并展示了该理论如何解释注意力、意识统一、内省、自我和我们心理世界的隐私。

本书是一本心理学、认知科学方面的书。一种新的理论正在神经科学中站稳脚跟。该理论认为，大脑本质上是一种假设测试机制，它试图把从外界接收到的感官输入的预测误差最小化。这是一个有吸引力的理论，因为强有力的理论论据支持它，但它的本质是惊人的简单。本书从认知科学和哲学的角度解释和探索了这一理论。本书的关键论点是，该机制解释了我们的意识知觉的丰富、深刻和多面性。它还对注意力如何塑造感知，以及感知如何依赖于行动给出了统一的解释。心灵被揭示为与世界有一种脆弱和间接的关系。虽然我们与这个世界有着很深的共鸣，但奇怪的是，我们却与它保持着距离。本书内容：第一部分阐述了该理论如何实现丰富的、分层的感知。该理论的概率和统计基础解释使用实例从实证研究和类比到不同的推理形式。第二部分使用简单的机制来解释有问题的案例，即我们如何设法在健康和精神疾病中描绘，有时是歪曲世界。第三部分考察了心灵，并展示了该理论如何解释注意力、意识统一、内省、自我和我们心理世界的隐私。

雅克布•霍维（Jakob Hohwy），现任澳大利亚莫纳什大学（Monash University）哲学教授。他的研究领域主要是认知科学、心灵哲学、神经科学哲学，并与心理学家、神经科学家长期合作进行跨学科研究。

译者简介：

王静，同济大学哲学系教授，博士生导师，同济大学技术与未来研究院常务副院长。研究领域为科技哲学、分析哲学和现代知识论。曾在美国佛罗里达大学和加州大学、英国牛津大学以及比利时安特卫普大学做访问研究。

部分 机制

1 作为因果推理的知觉

知觉推理的限制条件

知觉与贝叶斯规则

知觉推理与双目竞争

神经元何以知晓贝叶斯？

从推理到现象学

因果规律的层级

知觉的多变性与不变性

层级水平间的信息传递

层级推理的附加限制

贝叶斯规则

概要：层级化神经元推理机制

注释

2 预测误差小化

一个统计学说明

与世界关系的重新构想

世界作为监督者

一个更加深刻的视角

认知与模型的颠倒

概要：预测中的知觉

注释

3 预测误差、情境与精确性

情境效应与不确定性

堵住漏水的大坝

预期的精确性

精确性与预测误差的捕获

基础机制：错误不断出现

概述：被动的接受者？

注释

4 行动和预期经验

知觉中的积极推理

主体与行动的模型化

限制惊异

积极推理：错误不断出现

预测错误小化：挑战

概述：理解心智的工具

注释

（二、三部分的小标题详细翻译略）

第二部分：世界

5 捆绑就是推理

6 预测是观看吗？

7 不稳定的/摇摇欲坠的预测

8 惊异与错误表征

第三部分 心智

9 准确性、注意与意识

10 行动中的知觉统一

11 自然的脆弱之镜

12 走入预测心智

结语：预测中的心智

致谢

参考文献

本书是一本心理学、认知科学方面的书。一种新的理论正在神经科学中站稳脚跟。该理论认为，大脑本质上是一种假设测试机制，它试图把从外界接收到的感官输入的预测误差小化。这是一个有吸引力的理论，因为强有力的理论论据支持它，但它的本质是惊人的简单。本书从认知科学和哲学的角度解释和探索了这一理论。本书的关键论点是，该机制解释了我们的意识知觉的丰富、深刻和多面性。它还对注意力如何塑造感知，以及感知如何依赖于行动给出了统一的解释。心灵被揭示为与世界有一种脆弱和间接的关系。虽然我们与这个世界有着很深的共鸣，但奇怪的是，我们却与它保持着距离。本书内容：部分阐述了该理论如何实现丰富的、分层的感知。该理论的概率和统计基础解释使用实例从实证研究和类比到不同的推理形式。第二部分使用简单的机制来解释有问题的案例，即我们如何设法在健康和精神疾病中描绘，有时是歪曲世界。第三部分考察了心灵，并展示了该理论如何解释注意力、意识统一、内省、自我和我们心理世界的隐私。

雅克布•霍维（Jakob Hohwy），现任澳大利亚莫纳什大学（Monash University）哲学教授。他的研究领域主要是认知科学、心灵哲学、神经科学哲学，并与心理学家、神经科学家长期合作进行跨学科研究。

译者简介：

王静，同济大学哲学系教授，博士生导师，同济大学技术与未来研究院常务副院长。研究领域为科技哲学、分析哲学和现代知识论。曾在美国佛罗里达大学和加州大学、英国牛津大学以及比利时安特卫普大学做访问研究。