【现货速发】审判机器人

技术世界瞬息万变。在从事简单活动方面，机器人和计算机正更加频繁地取代人类。只要人类仅仅将计算机当作工具，计算机和螺丝刀、汽车或电话之间就没有任何显著区别。但是，随着计算机变得越来越复杂，我们开始认为，它们为我们“思考”。当计算机从“思考机器”(thinking machine)(被编程来执行计算等特定思考过程的设备)进化成不加引号的思考机器(换言之，人工智能)之时，问题开始出现。人工智能就是机器模仿智能行为的能力。

人工智能是在计算机上模拟人类行为和认知的过程。因此，它是对整个智能思维领域本质的研究。人工智能研究开始于20世纪40年代和50年代初。从那时起，人工智能实体已经成为现代人类生活不可或缺的一部分，它的运行方式比其他普通工具复杂得多。这些实体会变成危险吗？事实上，正如上述事件所证明的那样，它们已经成为危险。

人工智能和机器人正在进入日常现代生活。目前，法院或监管部门正面临上述某些问题。但是，很少有文献全面地分析并评估具有不同程度自主权的机器人、机器或软件的责任。

涉及人工智能系统犯罪的责任概念尚未得到广泛研究。先进的技术使社会面临全新的挑战，不仅包括技术挑战，也包括法律挑战。特定情况下，人工智能系统的刑事责任理念正是这些挑战之一，应当予以深入探讨。其中的主要问题是，谁应该对涉及人工智能系统的犯罪承担刑事责任。答案可能包括程序员、制造商、用户，或许还有人工智能系统本身。

2009年，我在美国和澳大利亚发表了几篇具体探讨该问题的文章。这些文章探讨的具体内容似乎对开启该问题的学术讨论发挥了重要作用。这些文章的主要思想是，刑法不应该改变技术，而是应该主动适应现代技术的发展。我的文章还呼吁思考并反思对机器和软件赋予刑事责任的理念。也许，并不应该对机器赋予刑事责任，但是，如果刑法的基本定义没有改变，那么这一怪异的结果却是不可避免的。

我的每篇文章都获得了许多评论，对此，我需要对这一理念进行限制性概括。该理念的个概括是，它仅限于有形机器人，这些机器人配有人工智能软件，实施杀人罪的具体犯罪，而且并非衍生性刑事责任(derivative criminal liability)。　2013年，拙著《当机器人杀人之时》(When Robots Kill)由新英格兰大学出版社(UPNE)和东北大学出版社在美国合作出版。尽管该书是一本学术性书籍，但它的目标受众却旨在涵盖法律学者之外的广大读者。

这本书被认为是具有创新性的。《华盛顿邮报》(Washington Post)、《波士顿环球报》(Boston Globe)、《纪事评论》(the Chronicle Review)译者注：《纪事评论》(the Chronicle Review)是《高等教育纪事报》(the Chronicle of Higher Education)的下属杂志，涵盖文化、学术趋势、出版、高等教育政策和学术生活等领域。和《喧嚣》(the Hustle)译者注：《喧嚣》(the Hustle)是美国同名公司为政治、高等教育和非营利组织等领域提供的一款点对点文本消息平台。等媒体均发表过相关书评。相关评论更是不胜枚举。其中，一些评论呼吁对这一问题进行终的、全面的学术概括，不局限于有形机器人，亦不局限于杀人罪，应涉及衍生刑事责任问题。

但是，随着机器人的使用与日俱增，更多的问题不断涌现。虽然《当机器人杀人之时》已经给出明确答案，但法律界之外的同事和科学家邀请我撰写一部新的专著。这次是关于人工智能系统。于是，拙著《涉人工智能系统犯罪的责任》(Liability for Crimes Involving Artificial Intelligence Systems)于2015年由斯普林格(Springer)出版社在欧洲出版。

10人工智能技术界对法律问题的认识也相应有所提高。很多学术论坛(文章和学术讲座)以及学术论坛之外的其他场合(包括高科技产业和志同道合之士)，都邀请我解释如何实施这些理念。现在的情况似乎是，学术界之外的公众所要求的答案，确实是官方法律系统无法提供的。

2016年和2017年，匈牙利布达佩斯“脑吧”(Brain Bar)译者注：“脑吧”节创立于2015年，融合技术会议和音乐节的年度盛大节日，专注于自由交换思想而非单向沟通，鼓励观众直接与演讲者沟通，旨在创造一个具有挑战性、智力性和包容性的环境。2018年，该活动吸引来自世界各地的10000多名参会者以及超过38000人的直播观众。公开节两次邀请我就相关问题发表演讲(2016年：涉及杀人罪的机器人；2017年：与机器人的爱与性)。2018年，鉴于超级智能和后生物学(post biology)的发展，罗马尼亚布加勒斯特的特德克斯(TEDx)邀请我就“思考的未来”发表演讲。当然，我还接受了很多其他邀请。每次，我都能感觉到人们对答案的渴望。这种渴望如此真实，它与我在美国和欧洲关于这个问题的学术讲座中所感受到的学术界对答案的渴望毫无差别。

2019年，上海人民出版社邀请我向中国读者介绍这些理念。不过，在此期间，人工智能已经出现了全新的发展，它们应当纳入新的专著之中。于是，本书应运而生。

我们所需要的是一本专业的学术教科书来解决这个问题，尽管它可能不太适合广大公众阅读。这本书是对这一问题终的、全面的学术概括。这本书表达的整体理念涉及所有类型的先进人工智能系统(自主运行的系统和遵循计划的系统)的所有类型的犯罪的所有刑事责任模式(直接责任和衍生责任)。涉及这些犯罪的人工智能系统可能是主犯、共犯，也可能仅仅是犯罪工具。本书的主要观点之一是，或许至少目前尚不应当赋予技术系统刑事责任。但是，如果刑法的基本定义没有改变，那么这种怪异的结果则是不可避免的。

本书的目的是发展出关于人工智能和机器人刑事责任的综合的、一般的和复杂的法学理论。除了人工智能实体本身之外，该理论还涵盖制造商、程序员、用户和所有其他相关实体。通过对现有刑法原则的确认和类比，11该理论提出在各种合理状况下由各种自主技术承担刑事责任的具体思维方式。

章包括一些基本概念的探索，本书展开的后续章节均以这些概念为基础予以构建。本书讨论两个主要问题：(1)什么可以被认为是人工智能实体？(2)追究刑事责任的必要条件是什么？

因为刑法并不依赖于道德(moral accountability)，所以关于机器道德责任的争论与这些问题无关。虽然，有时刑事责任、某些类型的道德责任和某些类型的伦理责任之间存在重叠，但对于追究刑事责任而言，这只是巧合，而非必要。

刑法适用于机器的问题还涉及两个相互关联的次要问题：(1)刑事责任是否适用于机器？(2)刑事处罚是否适用于机器？

个问题是刑法的核心问题，是否追究刑事责任取决于是否满足刑事责任的要求。只有满足刑事责任的要求，惩罚——即人类社会如何惩罚机器——的问题才会出现。本书中提出的答案对这两个问题都是肯定的。第二章至第五章研究个问题，第六章研究第二个问题。如果接受本书中的肯定答案，那么事实上，我们已创造了一个全新的社会实体，即机械犯罪人(machina sapiens criminalis)。译者注：machina sapiens criminalis是作者原创词汇，源自machina sapiens(可译作机器智人、机械智人)。因一般在生物史学中多严格使用智人(sapiens)，通常语境亦可译作——人(sapiens)，另与robot(机器人)相区别，并借鉴电影《机械姬》(Ex Machina)的内容和译法，machina sapiens在本书中译作“机械人”。machina sapiens criminalis是machina sapiens中的特殊主体，对应于“犯罪人”与“人”，故machina sapiens criminalis在本书中译作“机械犯罪人”。章研究机械犯罪人的出现。后，本书的研究回答以下问题，即人工智能实体是否可以被认为应对犯罪行为承担法律责任(如果不是道德责任的话)，并应受到刑事处罚。

本书聚焦于人工智能实体的法律责任，故而并未正式涉足伦理(包括机器人伦理)和道德的相关领域。然而，本书中关于刑事责任的讨论为深入考虑相关伦理问题奠定了基础。鉴于日常生活中人工智能实体数量不断增加，这些探讨将是必要的。对此，本书构建了一个应有的框架，有助于对这些问题进行具体性和功能性的探讨。

我非常感谢上海人民出版社邀请我向中国读者介绍这些理念。另外，我非常感谢陈萍博士将书稿翻译成中文。后，我非常感谢我的女儿们——哈蕾尔和阿里尔，感谢她们一直以来与我展开硕果累累的探讨。

以色列奥诺学院(Ono Academic College)法学院教授加布里埃尔·哈列维 推荐序 非常高兴看到《审判机器人》的中文翻译能够成功出版。人工智能的刑事责任问题是我早关注并将其作为重点研究主题的。近年来，本人的相关论作在国内外学术界业已形成一定规模、特色和影响。本书作者哈列维教授的很多论证和观点与我不谋而合，阅读本书时，颇有惺惺相惜、相见恨晚之感。

，关于人工智能社会风险的刑法应对。我的主要观点是，面对人工智能技术现在已经带来和将来可能产生的风险，刑法应发挥为社会稳定健康发展保驾护航的作用。对于智能机器人的研发者和使用者的行为，以及智能机器人产生独立意识和意志之后自主决定并实施的严重危害社会的行为，刑法的干预和刑罚的设置应保持适当的限度，既不能让滥用人工智能技术的行为破坏社会的稳定发展，又不能让刑法的过度干预阻滞人工智能技术的创新。哈列维教授也持相似观点，他在书中表达的整体理念涉及所有类型的先进人工智能系统(自主运行的系统和遵循计划的系统)的所有类型犯罪的所有刑事责任模式(直接责任和衍生责任)。书中的核心观点是也许目前尚不应当赋予人工智能实体独立的刑事责任，但随着人工智能技术的突飞猛进，将来让人工智能实体独立承担刑事责任这一结果是不可避免的。

第二，关于智能机器人的刑事责任主体地位。我的主要观点是，在弱人工智能时代，智能机器人在设计和编制的程序范围内实施严重危害社会的行为，实际上是研发者或使用者行为的延伸，应当由研发者或使用者承担刑事责任。与传统犯罪相比，研发者或使用者之间的刑事责任分配会随着智能机器人“智能”的增长而有所不同。智能机器人“智能”的增长还会影响对行为人量刑的轻重，甚至可能影响对行为人行为的性质判断。智能机器人在自主意识和意志的支配下超出设计和编制的程序范围实施严重危害社会的行为时，应将其作为刑事责任主体进行刑罚处罚。对此，哈列维教授从犯罪事实要素和心理要素要求的角度，分别论证(1)强人工智能实体(即自主运行的人工智能系统)不但能够符合犯罪事实要素(行为、情节、后果)的要求，同时也能够符合心理要素(故意、过失、严格责任)的要求，应当独立承担刑事责任。在此基础上，哈列维教授还进一步探讨了一般抗辩对人工智能系统的适用性问题。(2)弱人工智能实体(即不能自主运行的人工智能系统)由于不具有犯罪所要求的形成心理要素的能力，不能独立承担刑事责任。对此，人工智能实体和自然人“共同”犯罪时的责任分配，哈列维教授认为可以适用间接正犯、可能的后果责任等理论。

第三，关于智能机器人刑罚处罚的机制配置。我的主要观点是，我国现有刑罚体系是由生命刑、自由刑、财产刑和权利刑构成，刑罚处罚对象及刑罚处罚方式均无法也不能涵括智能机器人。重构我国刑罚体系并将智能机器人纳入刑罚处罚的范围符合刑罚的目的，同时也符合人工智能时代发展的需要且并未违背基本法理。建议增设能够适用于智能机器人的删除数据、修改程序、永久销毁等刑罚处罚方式，并在条件成熟时增设适用于智能机器人的财产刑或者权利刑等刑罚处罚方式。哈列维教授则是从现有的死刑、监禁、缓刑、公共服务和罚金等刑罚制度出发，论证这些刑罚适用于人工智能实体的可行性。

本书中，哈列维教授对每章的论述都契入了人工智能现实应用场景中可能发生的犯罪案例，并提供了各个案例的理论解答。这种论证方式使得原本稍显晦涩的教科书类学术书籍，更加活泼生动，更加便于理解，也更加适合非专业的广大读者。

总体而言，本书的整体论证全面而系统，理论构建深入而细致，引用案例丰富而经典。我相信，这本译著的出版十分有助于推动国内学者对哈列维教授理论的认知，十分有助于拓宽国内学者对人工智能与刑法关系问题的研究视野，十分有助于促进国内外有识之士学术互动的进一步深入。人类社会正处于承旧时代在前、启新时代于后的弱人工智能时代，回顾、梳理、展望人工智能与刑事责任的昨天、今天与明天，不仅可能，且意义重大。

本书译者陈萍博士在南京大学法学院连续接受法学本科、硕士和博士教育，具有牢固的法学理论基础，同时，两次赴法深造，精通英语和法语，能够潜心钻研学术。我是陈萍博士的博士后合作导师，经过这两年的师生交流，我对她的学术能力和学术态度非常肯定。她的翻译行文流畅、逻辑分明，显示出良好的遣词造句功力，我深以为可。期待她能以本次翻译为契机，继续深度拓展人工智能与刑法关系问题的研究。

是为序。

刘宪权华东政法大学刑事法学研究院院长，教授，博士生导师2019年5月20日于上海

译者简介：

陈萍，上海立信会计金融学院法学院常任轨教师，华东政法大学博士后流动站研究人员，上海社会科学院法学研究所欧洲刑事法研究中心特约研究员，南京大学与巴黎一大联合培养法学博士，精通法语、英语，已在《政治与法律》等核心期刊发表论文数十篇，在法语法学权*杂志《Archives de politique criminelle》发表专业论文1篇，曾承担或参与多项省部级课题。

中文版序/1

推荐序/1

章机械犯罪人的起源

节对机械人的无尽探索/1

一、　人工智能的历史和史前史/1

二、　定义人工智能以及对机械人的无尽探索/5

三、　化劣为优：人工智能的工业化和私人化/12

第二节进化与退化：机械犯罪人/14

一、　服务与保护：人类对人机共处的恐惧/15

二、　进化与退化：作为副产品的机械犯罪人/18

三、　动物法律模式不适用于人工智能技术/23

四、　事故可能引发的技术进化/26

五、　思考的未来：超级智能与后生物学/27

第三节现代犯罪人/29

一、　特定犯罪的基本要求/30

二、　特定犯罪的要求：现代刑事责任的极简主义矩阵图/33

三、　非人类的公司法人案例(回合)/38

第二章故意犯罪中人工智能的刑事责任

节事实要素要求/52

一、　行为/52

二、　情节/55

三、　结果和因果关系/56

第二节心理要素要求/57

一、　故意要求的结构/58

二、　满足认识方面要求/62

三、　满足意志方面要求/69

第三节人工智能故意犯罪的刑事责任实体/77

一、　人工智能实体的责任/77

二、　自然人责任：间接正犯/82

三、　自然人和人工智能实体的共同责任：可能的后果责任/87

总结开篇事例：故意杀人机器人/94

第三章过失犯罪中人工智能的刑事责任

节事实要素要求/106

第二节心理要素要求/106

一、　过失要求的结构/106

二、　满足过失要求：客观性是主观的吗？/110

第三节人工智能过失犯罪的刑事责任实体/116

一、　人工智能实体责任/116

二、　自然人责任：间接正犯和部分无罪的代理人/118

三、　自然人和人工智能实体的共同责任：可能的后果责任/120

总结开篇事例：过失杀人的机器人/122

第四章严格责任犯罪中人工智能的刑事责任

节事实要素要求/128

第二节心理要素要求/129

一、　严格责任要求的结构/129

二、　满足严格责任：使事实成为心理/132

第三节人工智能严格责任犯罪的刑事责任实体/135

一、　人工智能实体责任/135

二、　自然人责任：间接正犯/137

三、　自然人和人工智能实体的共同责任：可能的后果责任/139

总结开篇事例：杀人机器人的严格责任/140

第五章一般抗辩对人工智能刑事责任的适用性

节刑法中一般抗辩的功能/147

第二节免责化抗辩/150

一、　未达法定年龄/150

二、　失去自控(自动症)/152

三、　精神疾病/155

四、　麻醉状态/157

五、　事实错误/160

六、　法律错误/163

七、　实质豁免/165

第三节正当化抗辩/166

一、　正当防卫/167

二、　紧急避险/171

三、　胁迫/173

四、　上级命令/176

五、　轻微不计/179

总结开篇事例：机器人正当防卫杀人/180

第六章人工智能实体的量刑

节对人工智能实体施以刑事处罚的概念适用性/195

一、　人工智能量刑的目的：修复和能力剥夺相结合/195

二、　转化的法律技术：公司法人案例(第二回合)/200

第二节对人工智能实体施以刑事处罚的可适用性/203

一、　死刑/203

二、　监禁和暂缓监禁/205

三、　缓刑/207

四、　公共服务/209

五、　罚金/211

总结开篇事例：杀人机器人的量刑/213

结语/221

参考文献/223

案例/239

索引/253

译后记/261

表1事实要素要件的目标问题/34

表2心理要素要求形式的比较/36

表3满足心理要素要求形式的比较/37

表4故意的一般结构/61

表5过失的一般结构/109

表6严格责任的一般结构/132

表7间接正犯中“他人”的犯罪心理状态所反映的法律状态/138审判机器人章机械犯罪人的起源章14机械犯罪人的起源

译者简介：

陈萍，上海立信会计金融学院法学院常任轨教师，华东政法大学博士后流动站研究人员，上海社会科学院法学研究所欧洲刑事法研究中心特约研究员，南京大学与巴黎一大联合培养法学博士，精通法语、英语，已在《政治与法律》等核心期刊发表论文数十篇，在法语法学权*杂志《Archives de politique criminelle》发表专业论文1篇，曾承担或参与多项省部级课题。

AlphaGo击败围棋世界冠军、自动驾驶汽车撞伤行人以及比特币价格暴涨等一系列事件表明，人工智能作为新业态已经“闯入”人们的生活。未来已来，但关于未来技术的规制，现有法律并未给出解决方案。针对机器人有意识的不当言论、机器人有意识的伤害人类以及区块链如何服务社会等许多人们关注的问题，这三本书都有解答，为我们认识人工智能开启了新的视野。

吴汉东 中南财经政法大学文澜资深教授

人类/机器人关系所引发的各种法律、政治和伦理问题已出现在我们面前，如何调整“促进发展”与“规制风险”的法律价值目标，如何设计人工智能时代的规范调控体系，这些问题不仅涉及对传统制度的深刻反思，更是以“未来法学”问题为主旨的有益探索。这三本书既呈现了人工智能的科学智慧，更表达了法学研究的制度理性，虽为他山之石，实可用作攻玉，值得我们一读。

崔埈璿 韩国成均馆大学法学专门大学院名誉教授、法务部公司法修订委员会委员长

人工智能曾经是科幻小说情节，现在却已经进入并影响我们的日常生活。人工智能给予我们一个承诺，它会改善我们的生活，提升社会福祉，这一点已经部分得以实现。但是，人工智能缺点也是明显的，它要依赖大数据，这里涉及公平问题，同时对隐私权产生消极影响。人工智能也容易放大我们目前社会中存在的偏见和歧视。人工智能被利用进行犯罪活动也开始出现于报端。这三本书针对上述问题均有所讲述和分析，值得阅读。

苏旺 *集团副总裁、法务与知识产权部负责人

作为引领新一代科技革命和产业变革的战略性技术，人工智能正深刻影响社会生活，在引发“颠覆性”变革的同时，也带来了诸多风险。《新一代人工智能治理原则》强调开发、推行负责任的人工智能，尤其要关注人工智能法律、伦理、社会方面存在的问题。这三本书的出版恰逢其时，为发展负责任的人工智能献策献力，有助于加深我们对人工智能相关问题的深度理解。