【假一罚四】人脸识别：看得见的隐私

在人工智能法学研究领域，“学术泡沫”的相关诟病早已有之，但伴随着商业实践和理论研究的不断深入，人工智能技术规制的法学议题开始逐渐聚焦于具体的应用模式及其底层支撑的数据集合安全。研究范式和研究视角的精准化使得学者们不再痴迷于假想式技术风险的治理模式论证，脱离具体的应用场景，抽象地探讨人工智能技术规制方式无异于空中楼阁，既无法提供有益于解决实践难题的制度方案，也无法澄清技术与法律不同话语体系之间的逻辑差异。技术本身从来都不是法律的规制对象，社会对于技术安全风险的种种担忧归根结底还是集中于具体的应用场景。无论是前期的软件开发、算法代码编写，还是后期的功能测试、上线应用，人工智能技术所表现出的风险类型并不完全相同。

在数字经济时代，数据的资源开发和经济价值实现已经从大数据时代的数据挖掘转变为算法时代的实时数据仿真模拟。数据在规模化聚集之后能够反映更为全面且细致的信息内容，通过关联、比对数据之间的关系，预测未来趋势、分析内在因果关系等功能早已不是难事。可以说，技术创新应用和隐私保护的天平早已开始朝向技术一端倾斜。纵览国内人工智能相关理论成果，研究内容大多以默认技术会侵害隐私权益的形式“一笔带过”，至于技术如何阐释隐私概念、隐私权益的内容发生何种异变等实质性问题并未能得到明确的解释。这一现状值得学界予以关注，技术创新的目标是为了更好地保护权利和提升生活水平，而不是以牺牲既有权利为代价，促成“技术规训人类”这种主客体颠倒的局面形成。

因此，本辑丛书改变了以往聚焦人工智能技术应用的思路，结合数据生产要素市场化配置的国家战略，将“人工智能与隐私”“人工智能与数据”作为本次国外法学精品专著的筛选主题，希望本辑丛书能够为国内人工智能法学研究提供与众不同的观察视角，推动人工智能法学研究范式的体系化。

本辑丛书本着“读书之乐何处寻，数点梅花天地心”的立场，编辑和译者们为了给读者们带来具有“异域风味”的学术盛宴，精心选择了三部著作，以期能够让读者们眼前一亮，重新思考和审视技术与法律之间应然的对话方式。这三部著作分别是伊恩·伯尔勒（Ian Berle）博士的《人脸识别：看得见的隐私》、尼尔·理查兹(Neil Richards)的《隐私为什么很重要》、克雷格·埃利夫(Craig Elliffe)教授的《课税数字经济》。

《人脸识别：看得见的隐私》一书重新审视了人脸识别技术应用究竟给我们的权利和社会结构带来了何种变化。在我们将公共场所的人脸识别应用视为社会安全保障有效手段的同时，作者对这种“理所应当”产生质疑：人脸识别技术真的能够有效预防安全风险吗？又或者说人脸识别技术仅是在事后阶段提供事实还原和权利救济的依据？更为重要的是，在我们默认人脸识别技术有利于社会治理时，个人再想拒绝人脸识别却变得极为困难，尤其是在人员进出场景模式下，个人拒绝或抵制人脸识别甚至会被视为“异类”。作者对这种现象表示担忧，在援引哲学家福柯提出的“规训权力的行使需要以主体的公开可见”为基础，认为被遮掩的人脸识别应用正在促成法律主体的“强制可见性”，一旦超出必要的限度，人脸识别应用将成为强制可见个人私密生活的“帮凶”。

《隐私为什么很重要》则为我们展示了我们之前鲜有思考的一个基础问题：究竟什么是法律意义上的隐私。在司法实践中，国内外的法官和当事人常常陷入主观性的“隐私”概念辩论之中，这背后的真相则在本书中有所提及，作者直截了当地澄清了有关隐私的四类偏见：一是隐私不是“见不得人”；二是隐私不只用于防范诡异和变态；三是隐私不仅仅限于自身相关信息的控制；四是隐私还没有“死亡”，在数字时代仍有存在的社会价值。在作者看来，隐私更像是一个“程度”问题，即隐私能够让我们在何种范畴自由选择身份，成为想成为的人；隐私能够实现何种程度的自由和安全；隐私能够以何种方式保护消费者、雇员的合法权益。简言之，隐私是关乎身份、自由和保护的工具。在平台经济时代，平台的隐私政策大多以验证用户身份的“真实性”为由，“合理合法”地蚕食隐私概念，但“真实性”的根本目的是保护用户安全，以隐私承载的“安全”为代价，实现另一种安全，这种异乎寻常的理由恰恰证明了平台正在掩盖我们所不知的问题。

《课税数字经济》则是以前沿领域的数字税征收问题为研究对象，评估和论证是否以及如何向商业模式高度数字化的跨国公司征收数字税。在数字贸易中，人工智能等信息技术的创新使得数字企业发展速度远超传统产业，这些企业无需深入消费者市场即可远程提供同等质量的产品和服务，但这些企业实际承担的税率仅是传统企业税率的一半，这种失衡的税收状态成为国际税收制度亟需解决的现实问题。尽管国际层面的经会组织/G20税基侵蚀和利润转移(BEPS)项目确实发挥国际税收制度包容性功能，但与政策制定者期望的公平且有效的税收状态仍然存在一定差距。

这三本国外学术专著的选择主要是以“技术、隐私与数据”为主题，将读者的视野拓展到人工智能所关涉的具体产品或服务。《人脸识别：看得见的隐私》思考的是人脸识别技术所产生的个人强制可见性效应；《隐私为什么很重要》反思的是传统隐私概念在数字时代究竟是否仍有存在的价值；《课税数字经济》则是将研究目标回溯至技术应用者，分析人工智能等信息技术和数据资源在产生直接经济效应的同时，应当如何以税收制度维系数字经济的公平有效竞争。法律的生命在于实践，法学研究同样需要以实践问题为研究对象。在人工智能法学研究趋于精细化的当下，再去探讨抽象层面的“技术—法律”二元互动方式已然过时，真正应当关注的是信息技术革命为个体权利和法律关系所带来的机遇与挑战。

三部风格迥异的学术著作以不同的研究视角和实践问题为我们呈现了人工智能技术领域的“研究百态”：或是忧虑人脸识别技术牺牲隐私实现安全的治理逻辑成为“常识”；又或是竭尽所能想要吹散“隐私已死”的迷雾，在个性化推荐服务普及的社会中找回真正的隐私；抑或是从技术和数据所推动的数字商业模式切入，以更贴近实务需求的视角分析数字税征收的法理依据和实施方案。这些多样化的研究成果表明人工智能技术的理论研究正在扩张至各个具体领域，研究的具体问题往往又与隐私保护、个人自主权、税收公平等传统法律问题相互牵扯，这也是未来人工智能技术理论研究的必然趋势。

《人脸识别：看得见的隐私》将人们习以为常的人脸识别技术普及应用以另一种方式予以描述：如果我们不是从政府和企业的视角，而是从技术消费者的公民视角出发，我们可能会对“强制可见性”的含义产生印象。我们已然知晓脸书是一个流行的全球社交网络，它被称为“脸书”是有原因的：它通过消费者的选择，提供家人、朋友和民间社会团体的个体面容。现在想象这么一个社会，许多或绝大多数人的身体、衣服或头饰上都绑着相机，并且可以在日常生活中随意记录周围的人。我们必须要追问的是，随着无处不在的微型相机和人脸识别技术(FRT)的融合发展，公民是否会被置于国家机关和私人公司“强制可见性”的位置。人脸识别技术会对受到其审查的人施加强制可见性，使个人随时暴露于其注视之下，无论它们是出于调查、安全目的，还是在社交网络上。强制可见性在之前可能已经被纳入对个人和社会有益的系统之中；这类系统在架构上可能具有自主性，因此在某些级别的功能性上不需要人工干预或操作，例如自动实时账单支付和访问控制。虽然这些应用看似有益，但当系统不允许选择或者有选择性地提供部分选项时，它们可能会降低自主性并因而具备强制性。

《隐私为什么很重要》则是重新解读了隐私作为规则的四项要件。第一，隐私从根本上说是关于权力的。隐私很重要，因为信息就是权力。人类的信息技术正被用来预测、影响和日益控制人类行为，被用来为信息时代的技术提供动力。就像石油为工业时代的卡车、火车、工厂和航运提供动力一样，这个时代的卡车、火车、工厂和航运则是被称为“机器学习”“人工智能”或直接称为“AI”的技术。第二，隐私的斗争实际上是关于规则的斗争——管理收集和使用人类信息的规则。平台往往通过隐私政策让我们内疚，因为“我同意了那个应用程序，所以如果我的数据现在‘在那里’，而且超出了我的控制，那就是我的错”。糟糕的设计导致人类选择默认的选项时——我们责备自己，我们成为了隐私规则斗争的失利者。第三，隐私规则是不可避免的。人类信息一旦被分享便不再是“隐私”的概念是个危险的谬误，因为我们需要规范信息的使用和收集。第四，隐私规则是工具性的。隐私本身并不重要，重要的是隐私可以让我们追求其他我们一致认为重要的(甚至是基本的)价值。

《课税数字经济》一书表达了对数字服务税征收困境的担忧。该类税种仅针对一项特定的业务类别，无法解决现行国际税收框架所面临的难题。可以认为，仅其中两项挑战通过数字服务税得到了解决：其一，逐渐消没的对企业利润进行课税的能力，但仅限于对自动化数字服务企业，而不包括面向消费者企业；其二，对数据的使用和用户的贡献。事实上，这仅是有关数字服务税法律问题的“冰山一角”，“如何将该项税收作为消费税进行征收”这一问题的解决更是相当棘手。因为如果高度数字化企业在特定的管辖区中能够赚取巨额的剩余利润或者仅存在极低的或不存在任何的经营边际成本，那么一个以企业总收入为依据且采用较低税率的税制则又会导致征税过低。此外，该项税收不能够抵扣其他直接所得税，这将导致对企业的双重征税。

人工智能技术商业化应用并非幻想，从自动驾驶汽车致人死亡到人脸识别技术滥用，这些切实可触的社会热点事件将法学研究重心再次拉回至产品或服务层面的安全风险。法律对技术的回应不应当是以揣测性的风险预估为基础，因为“可能导致……风险”“未来可能会导致……”等论述已然超出了法学研究范式所要求的客观理性，在理论和实践层面均无法为技术治理活动提供方法论指引或制度方案参考。人工智能技术滥用会导致法律主体权益减损或丧失，异化技术辅助治理的实现方式，这些潜在的问题早已是不争的事实。人工智能技术治理的诸多制度方案却有可圈可点之处，但须知法律问题的定性和解决决然不是停留于纸面的假想，而是需要回归至技术应用对社会的实际影响。编辑和译者们之所以慎之又慎地选择这三本国外专著，也是期望这些论述观点能够在平静的水面激起有关“人工智能技术发展社会化”的层层水波。至少在我们刷脸进出小区时，我们不再默认人脸识别技术是公共安全之必要，而是质疑和讯问我们的面部图像数据究竟何去何从。

读书的乐趣远不是寥寥几笔所能勾勒，好书给人的感觉犹如夏日清风拂面的舒爽、秋叶幽夜赏月的惬意一般，期待本辑丛书能够让各位读者捧卷而读时有所收获。

彭诚信上海交通大学特聘教授上海交通大学人工智能治理与法律研究中心副主任凯原法学院数据法律研究中心主任2022年7月27日

作者伊恩·伯尔勒认为，在一个日益依赖数据并同时规避风险的社会中，有证据表明，如果人脸识别技术的使用不加控制，会导致隐私被侵犯，急需有关部门在个人隐私与社会安全中做出权衡。本书提出了运用法律与伦理的解决方法以更好地保护隐私与规制数据商品化，从而为人脸识别与公民身份安全构建良性发展的法律路径。

彭诚信，上海交通大学凯源法学院副院长，教授。民商法领域学科带头人。

伊恩•伯尔勒，斯塔福德郡大学“法律与道德”课程模块的专家评估员。

赵精武，北京航空航天大学法学院副教授，法学博士，硕士生导师。学术研究方向为民法学、网络法。兼任工信部工业和信息化法治战略与管理重点实验室研究员、网络空间国际治理研究基地研究员、中国科协—北京航空航天大学科技组织与公共政策研究院研究员、北京科技创新中心研究基地研究员。译有《所有权的终结：数字时代的财产保护》《数字正义：当纠纷解决遇见互联网科技》；参与编著、专著十余本；在《法律科学》《华东政法大学学报》《社会科学》等核心期刊发表文章十余篇，并有部分文章被《新华文摘》《人大复印报刊资料》全文转载；在《经济日报》《法治日报》《中国社会科学报》《经济参考报》等媒体发文多篇。

唐林垚，中国社会科学院法学研究所助理研究员，法学博士、博士后。兼任《商法界论集》副主编。学术研究方向为民商法、网络法。在《法学评论》《现代法学》《东方法学》《政法论丛》《Forest Chemical Review》等中英文核心期刊发表文章十余篇，多篇文章被《新华文摘》《中国社会科学文摘》《高等学校文科学术文摘》《社会科学文摘》全文转载。

主编序/

序言/

第1章导论/

1.1数字化成像和人脸识别技术/

1.2人脸识别技术/

1.3人脸识别技术和隐私/

1.4人脸识别技术和监控/

1.5人脸识别技术及其伦理、法律层面的影响/

1.6人脸识别技术和个人自主权/

1.7人脸识别技术和大数据/

第2章什么是人脸识别技术？/

2.1引言：人脸识别技术/

2.2人脸识别如何运作？/

2.3人脸识别算法/

2.4其他方法/

2.5人脸识别技术的弱点和问题/

2.6人脸识别的漏洞/

2.7人脸伪造对抗技术/

2.8当前人脸识别技术的用途/

第3章人脸识别技术的一些伦理和

法律议题/

3.1对人脸识别技术的恐惧与误解/

3.2一些更深层面的议题：人脸识别技术、

数据保护和公民自由/

3.3人脸识别：公民自由与公众披露/

第4章隐私和监控调查/

4.1引言：隐私和监控/

4.2数据主体和监控数字/

4.3生物特征数据和公民自由/

4.4数据主体和隐私/

4.5数据主体与自主性/

4.6隐私、信息化和摄像/

4.7数据主体和生物识别数据/

4.8社会政治场景/

第5章自主权、自由和隐私/

5.1自主权的概念/

5.2自由与隐私/

5.3德沃金的一阶自主权和二阶自主权/

5.4自主权与自由/

5.5消极自由和积极自由/

5.6卡夫卡和消极自由/

5.7福柯的警察和边沁的囚徒/

5.8隐私和自主权/

第6章强制可见性？/

6.1引言/

6.2随身相机/

6.3强制可见性和强迫/

6.4强制可见性和人脸识别/

6.5大数据/

6.6大数据与人脸识别/

6.7强制可见性和自主权/

第7章法律与数据保护/

7.1引言/

7.2数据保护与隐私/

7.3信息隐私/

7.4数据保护和隐私：以美国部门性方法

为例/

7.5协调美国和欧盟的规定/

7.6数据保护与人脸识别/

7.7生物特征数据与《通用数据保护条例》

的发展/

7.8人权：公民自由、隐私和法律/

第8章法律与监视/

8.1监视、监管权力与权利/

8.2人权、大规模监视和英国判例法/

8.3人脸识别：责任与信任/

8.4人脸识别：隐私和图像所有权/

第9章国家家长主义和自主权/

9.1国家家长主义作风：主动和被动/

9.2伦理准则与国家权力/

9.3家长主义和人脸识别技术/

9.4控制支配、家长主义与自主权/

9.5公民与国家/

9.6人脸识别与二阶偏好/

9.7预防伤害与对二阶偏好的影响/

9.8对隐私的威胁/

第10章国家家长主义与数据/

10.1保护隐私：数据保护和政治层面/

10.2保护隐私：英国数据保护和人脸识别

模式/

10.3数据处理与二阶偏好/

10.4数据主体与人脸识别系统(国家数据挖掘

权力)/

第11章未来人脸识别技术和伦理—法律问题/

11.1人脸识别：未来及其影响/

11.2识别威胁与身份安全/

11.3身份管理/

11.4人脸识别与人机界面/

11.5预测社会关注和反应/

11.6宪法保障措施与权利/

11.7法律和监管保障措施/

11.8规范数据商品化/

第12章结论/

12.1人脸识别技术和个人形象所有权/

12.2数据所有权：一个新的法律和道德权利

框架/

12.3科技发展民主化/

12.4个人识别图像和街头摄影/

12.5建议/

参考文献/

索引/

缩略词/

案例索引/

法规索引/

译后记/