军事机器人：道德规范的构建

目录
丛书前言一
丛书前言二
译者序
前言
致谢
1 绪论 1
1.1 术语和定义 3
1.2 不成熟的观点 6
1.3 后续章节安排 8
2 无人系统的兴起 12
2.1 起源：*初的想象及神话 13
2.2 现代发展：从遥控到自主监控 16
2.3 21世纪：任务自主的时代 19
2.3.1 陆地无人系统 19
2.3.2 海洋无人系统 20
2.3.3 空中无人系统 21
2.4 自主性的未来 22
2.5 小结 24
3 使用无人系统的正当理由 30
3.1 无人系统行动案例 30
3.1.1 降低人力成本 31
3.1.2 减少财政支出 32
3.1.3 降低环境成本 34
3.1.4 增强作战能力 34
3.2 无人系统的伦理案例 35
3.3 人民、国家和军队之间的本质关系 38
3.4 军队与国家的契约：有责任使用无人系统的基础 40
3.5 小结 45
4 正义的无人战争：新战争旧规则？ 51
4.1 正义战争理论：背景和基础 51
4.2 传统正义战争的两部曲：开战正义 55
4.3 传统正义战争的两部曲：交战正义 60
4.4 正义战争理论：当代意义和挑战 62
4.5 小结 66
5 无人战争：技术维度和操作维度 73
5.1 走出伤害之路 73
5.2 无人机的自满、依赖性和奴役性 76
5.3 新武器、新试验、新目标 79
5.4 城市战争和技术限制 83
5.5 无人战争和风险经济 86
5.6 小结 90
6 无人战争：心态改变的道德代价 97
6.1 正当权威和门槛问题 97
6.2 降低战争中的杀人壁垒：辨识性和相称性 103
6.3 远程战士的个人幸福 109
6.4 人类问题的技术解决方案 113
6.5 小结 118
7 对非对称的反对 125
7.1 澄清非对称战争的概念 125
7.2 技术的完全不对称 128
7.3 没有共同风险时的公平 130
7.4 唤起的潜能 134
7.5 小结 139
8 无人系统和战争的终结：展望持久和平 142
8.1 正义战争理论三部曲的历史定义 142
8.2 战后正义原则 145
8.3 战后正义和使用无人机的效果 148
8.4 为无人机正名 152
8.5 小结 154
9 责任缺失 159
9.1 责任和正义战争 159
9.2 技术战争中责任归因所面临的挑战 162
9.3 自动化战争中所谓的责任缺失 164
9.4 对责任概念的修订 167
9.5 小结 172
10 结论 176
参考文献 178
索引 197

在军事国防领域，从政策制定者到武器装备制造商、职业军人等，均对伦理学研究有着日益增长的迫切需求。同时，媒体和大众也从伦理学维度持续强烈关注军事国防领域的决策及行动等话题。《军事机器人：道德规范的构建》从伦理学角度探讨无人化战争的规则、技术等，研究如何看待无人化战争，并对其未来发展的社会伦理问题进行展望。

军用机器人,技术伦理学

1 绪论
　　2000年来，许许多多新武器技术诞生时，都被描述为可以减少战争的破坏力、恐怖感以及残酷性。那些声称通过在盟友和敌人之间构筑“缓冲区”以实现“更干净利落的”死亡和快速结束战争的说辞特别容易引发人们类似的兴趣和关注。需要考虑的事实是，我们的祖先曾经仅仅依靠简单的石块和木棒，就能贴身战斗击败敌人。随着武器设计知识的应用，人们发明了长矛、弓箭、投石机以及其他机械武器。随之而来的是火药、火炮、火器以及其他现代武器，这些武器大幅增加了交战双方的接战距离。想象中，这些新武器可以使现代战争相比古代贴身格斗降低恐怖感。然而，在克雷西（Crécy）战役中我们看到了漫天箭雨和抛石，抑或我们可以看诸如第二次世界大战（简称二战）或越南战争这样年代更近的血腥冲突，新武器可以在某种程度上减少战争屠杀的荒唐观点是极其令人厌恶的1。也就是说，虽然有人大肆正面宣传，但我们应思考的真正问题是，新的军事技术是否能够真正降低或缓和战争的残忍性。
　　这些问题现在变得至关重要。历史上，火炮的发明曾经带来乐观主义情绪（如1621年的相关观点①），人们错误地预测其将使得战争“以***快速度结束”，可避免“昂贵的血的代价”，可减少“伤亡数目”2。今天，某种程度上，被称作无人系统（完整定义见1.1节）的军事机器人的出现似乎要重蹈这个覆辙。换句话说，无人武器技术的发展，提升了人们关于21世纪及以后的不可避免的冲突会以更人道的方式展开的期望3。大众媒体经常在报道中反复宣传这样的观点：无人系统有望拯救士兵和平民的生命。无人系统的应用效果将在以后得到检验，但是，这种“新”希望和乐观主义情绪可追溯到20世纪90年代初的**次海湾战争，那是一个美国军队新军事技术的试验场。在先进技术的帮助下，美军实现了对萨达姆 侯赛因（Saddam Hussein）庞大军队的决定性速胜，只有几百美军死亡并且其他损失也降到了**4。常年备战高技术战争，美军似乎收益颇丰，且因此长期追求更多的新技术，因为他们相信，这种成功模式几乎可以复制到任何潜在冲突中，并取得快速、高效、决定性的胜利5。第二次海湾战争证明复制这种模式在实践中不可能轻易奏效，但是可以理解，这种模式仍具有巨大吸引力。当前摆在我们面前的任务是，慎重考虑围绕无人系统所产生的乐观主义潮流是否明智。
　　在展开进一步的阐述之前，需要说明的是，无人系统不是当今有望使战争变得更加人性化的**选项，如网络战争，以国家行为攻击别国计算机网络导致其崩溃或者被破坏，相比传统的战争提供了一个潜在的不流血选项，并且近年来获得了越来越多的关注6。例如，俄罗斯攻击爱沙尼亚和格鲁吉亚，以及来自朝鲜、伊朗等国的针对美国军队、经济系统网络的潜在攻击①7。非致命武器或弱致命武器倡导者认为，当今的对抗不需要致命武器。激光可以眩目，微波系统可以灼烧皮肤，化学物质可以使人瘫痪，动能弹药可以提供钝力，涡流发生器可以产生冲击波8。这些新技术使得一些理论家相信，在当前被称作信息革命的军事革命大潮中，无人系统可以归入其中。人们更加准确、快速地获得战场空间信息以减少流血的愿望，推动了这场军事革命。这种愿望导致许多国家军队在武装力量结构、战略和战术（这些被认为是一场真正革命的信号）方面产生许多变化9。其出发点是，随着新技术带来的信息技术以及战斗力的提升，军队可以更加高效，**限度地减少战争给参与者带来的伤害。然而，其中有一个明显的争议，即不管是在过去、现在还是将来，军事领域是否会发生革命10。或者说，我们正处在一个混合式革命的风口浪尖上，其中涵盖了无人系统、信息通信技术、生物技术、纳米技术等。我们很难对这种革命的属性给出准确界定，但是这种转变过程中的典型案例不容忽视，当技术开始汇聚，他们对社会与军队之间的互动具有强大的影响力。
　　目前，对无人系统属性的界定，还不十分清晰，是属于信息革命的一部分，还是一种新型革命，抑或两者都有？从下文讨论中词汇的出现频率可以清楚看出，军队为了寻求自身的现代化，非常乐于拥抱这种技术。历史已经证明，技术往往是一把双刃剑11，它给社会带来利益的同时，也带来了潜在的不稳定因素12。著名的技术哲学家，如尼尔 波斯曼（Neil Postman）、卡洛尔 米切姆（Carol Mitcham）②和雅克 埃吕尔（Jacques Ellul）等，都写过技术对人类的潜在负面影响方面的著作，并且警告我们不要盲目接受任何技术。在《技术的报复—墨菲法则和事与愿违》（“Why things bite back: technology and the revenge of unintended consequences”）13中，爱德华 特纳（Edward Tenner）用大段篇幅提醒我们，即使是成熟技术，也往往会逐渐显现出缓慢的、长期的问题，而不是立即暴露致命问题。特纳将诸如重新排列、反复循环、重新改组、改革新生、再次充满等称为报复效应14。这种效应不会凭空产生，当技术受到社会、文化、法律、组织等因素15冲击时，这种效应更显著。这也是为什么我们需要将无人系统纳入更广阔的空间进行思考。但要清楚，尽管有不可预期的风险，但这并不意味着我们应该完全停止武器研发。很多技术已经产生了不良后果，但是我们并没有停止使用它们。事实上，关于武器的发展会增加还是减少战争破坏性，是一个长期存在争议的话题。因此，如果没有经过深入的研究和分析，就会得出错误的结论，无助于问题的解决。
　　一个需要回答的问题是，我们是否有能力管控现有武器技术使用过程中带来的社会、伦理的挑战，并提供有益的解决方案。这个问题必须拓展到无人系统领域，毕竟与其他技术相比，无人系统并不是特立独行清白无辜的。尽管，这种观点从*初称其为机器人时就已经根深蒂固。**次世界大战（简称一战）后，由于战争和大流感的冲击，整整一代产业工人丧失了劳动能力，因此用机器代替人进行劳动的热情卷土重来。卡雷尔 恰佩克（Karel Capek）在20世纪20年代的科幻剧本《罗素姆**机器人》16中，**次使用了机器人（robot）这个词（源自捷克语 robota，意思是苦力）。恰佩克设想的服务机器人如今已经在社会中无处不在。毫不意外，剧本中的机器人仆人*终对自己的角色地位不满意，背叛了他们的人类主人。这一场景演变成了一个对这种乌托邦式远景持悲观态度的科幻流派17。诸如《地球停转日》《鹰眼》《星球大战》《终结者》《变形金刚》等流行电影，这里仅举几例，同样讲述了机器人应用在国防领域的故事。更常见的是，这些作品中表达出对失控、意外行为、程序崩溃等的忧虑18。然而，对很多人来说，这些通俗的警告已经影响了将机器人发展成具有独立行动能力或给予平等地位的努力。本书尝试扭转这种趋势，并以更为学术的基调、模式和规范来强化这种警告。本书研究了使用无人系统的原因，探讨了正确应用无人系统的规范，并对无人系统的社会属性、战略意义以及道德影响等进行阐述。本书的首要目标是提醒大家关注人在无人战争中的角色，并阐述在应用无人系统时，其部署使用应置于严格的监督与国际规范之下。
　　1.1 术语和定义
　　对无人系统开展准确的、有价值的研究，首先需要对各种技术下一个清晰的定义。社会公众对机器人的讨论，导致了对不同特征和级别的机器人的混淆，《施普林格机器人手册》19承认，关于军事机器人的很多术语，经常有误导性并且定义也不够准确。撇开公众文化中的期许，还有很多略显不合时宜的事情必须去做，如厘清在人文科学和所谓的“硬科学”20之间的“分歧”和“裂痕”。相比一般由
　　“软科学”的人文科学给出的广义分析与定义，近来有一种趋势（或需求）是进行精准的、狭义的定义。事实上，世界上主要国家的军队都会发布本国各种技术的报告，涵盖了术语、定义、分类以及其他军事用语，然后以他们的方式展开学术讨论。这导致任何关于军事机器人技术的讨论很难寻找到定位精确的文献，同时，同样的事情对应不同的术语及定义也带来了混乱。对于新兴技术，其定义和伦理问题越发受到关注。我们无法做到对所有的术语和问题进行标准化，此处的目的是指出可行性，并概要介绍本书采用的一些定义。
　　首先，我们必须问一个似乎相当基础的问题：什么是机器人？如前所述，长期以来，我们阅读和观看了很多关于社会和军事机器人的警示故事。因此，提出这样的问题可能会被认为是多余的，答案似乎是显而易见的。然而，事实恰恰相反。直到今天，仍然没有一个关于机器人的统一定义，甚至大多数机器人专家之间都不统一（更何况机器人专家与哲学家之间）。一些人认为，机器人仅仅是装有传感器和执行器的能与外界进行互动的机器21。然而，任何带有打印机或 DVD光驱的计算机均符合此定义，这很难定义大多数人心中想到的机器人22。从工程的观点来看，机器人是一种具有控制、运动、感知、通信、认知等装置的人造物体（artificial body），有的也许有人类的外貌，有的可能没有23。更多的哲学家倾向定义具有感知、思考（或决策）和行动能力的机器为机器人24。当然，一种机器是否严格具备感知、思考、决策或行动能力是一个重要的争论点。除此之外，一个广泛认同的标准是，机器人必须具备一定的自主能力，简单点说，即无人监管下的自主操作能力。这意味着机器人具备从外界环境中接收并处理数据的能力，而且具备与所处环境互动的能力。
　　今天的许多无人系统完全满足这些评判标准，但其中一些无人系统仅装备了传感器，通过远程遥控进行作业。结果就是，除非定义扩展到包括这些人工操作决策能力，否则在这种严格术语体系下，不能把所有的无人系统称作机器人。这种情况部分可归因于基础信息的模糊，关于什么是无人系统也需要严格定义。本书为了便于讨论，认为无人系统（unmanned systems）25与无人机（drones）是同一概念，并且采用了相对宽松的没有争议的定义，具体如下。
　　定义：一种机械电子系统，具备以下共同特征。①不需要人工在线操作；②设计上具有可回收重复使用的能力（虽然某种程度上可能使用模式并非如此）；③在军用领域，具备投送致命或非致命武器载荷的能力，或者具备扮演战场支援角色的能力26。具体包括，地面机器人（unmanned ground vehicles，如无人车）、海洋机器人（unmanned maritime vessels，水面和水下，如无人艇和无人潜航器）、空中机器人（unmanned aerial vehicles，如无人机）和太空机器人（unmanned space vehicles，如无人飞船），*后一种也可认为是其他三种的子集27。
　　必须承认的是，在这种意义上，“无人”这一术语并不准确，尽管没有机载操作人员，这种类型的战争仍然需要大量人员，主要扮演支持保障角色28。同样需要注意，“系统”一词并不仅仅指代不同的无人机或无人艇，它也包括了各种不同的控制系统平台，如卫星及其地面站。有人可能会认为像导弹、火箭、无人炸弹（如**）等也是无人系统29。然而，鉴于作者撰写本书的目的，此类武器将不会被当作无人系统来考虑。这类武器的某些型号可能是无人系统武器大家族的有机组成部分（如无人机携带的导弹或火箭），因此，将它们自身归为无人系统没有太大的意义。此外，它们不具备可回收能力，并会在爆炸或冲击中毁坏。*后，许多此类武器（如一些导弹或**）并不是在作业的各个阶段都是主动驱动的。上述所有这些特征对军队来说都非常重要，毕竟遵守（也可能是规避）武器控制公约需要首先对武器进行清晰的分类。
　　除了这些大量的技术特征，还有很多应用方面的概念特征定义。如前所述，发展和应用无人系统的幕后动机在于让作战人员远离冲突区域。在这些系统发展的早期，通常是用无人装备代替有人系统，如用无人机代替战斗机。另外，火箭、导弹、无人炸弹等并没有明确的无人装备替代物。尽管它们可以执行人必须通过其他手段才能完成的任务，但是其与现代无人系统的联系并不紧密。诚然，并非所有的无人系统都是被设计用来执行与有人装备类似的任务的，但是这是*初构想它们的一种方式，并且，这种思维方式在当今大多数案例中仍然有效。此外，像**