人工智能安全

随着人工智能技术的高速发展和广泛应用，人工智能安全问题引发了人们的高度关注。本书介绍了人工智能安全的概念和范畴，并从理论技术、技术标准、产业生态、伦理、法律等不同的角度分析了人工智能所涉及的安全问题及其治理策略和解决方法。除概述外，本书介绍了采用可信计算技术解决人工智能安全问题的方法，以及无人系统安全、基于类脑计算的强人工智能及其安全、智能制造和智能城市中的人工智能应用安全、网络安全、人工智能安全可控的产业生态建设、人工智能安全标准与风险评估预警、人工智能法律伦理。总体来说，本书既概要地分析了人工智能安全问题的一般属性，又从不同角度和不同的典型应用领域分析了人工智能系统中特别的安全问题及其风险评估、预测、治理途径和解决方法。

陈左宁，中国工程院院士，计算机工程技术专家，高级工程师。毕业于浙江大学计算机应用技术专业，国家并行计算机工程技术研究中心总工程师。现任中国工程院党组成员、副院长。第十届全国人大代表，第十七届、十八届中央候补委员。???自1979年以来，先后参加或领导多项国产高性能计算机系统研制工作，主持研制了多套国产大型系统软件项目，其中80年代领导研制了我国第一个与UNIX系统完全兼容的并行操作系统，在并行处理技术方面达到国际先进水平。两次获得国家科技进步特等奖、两次获得国家科技进步一等奖。获得中国青年科技奖、国家有突出贡献的优秀中青年专家、求是奖、中国青年科学家奖等。

第1章 概述 1 
1.1 人工智能的发展、应用及其安全性 1 
1.1.1 人工智能的发展 1 
1.1.2 人工智能的应用 4 
1.1.3 人工智能带来的安全问题 6 
1.2 人工智能安全的范畴 9 
1.2.1 人工智能安全的范畴与特征 9 
1.2.2 人工智能安全的分类 12 
1.3 人工智能安全治理 18 
1.3.1 人工智能安全与技术标准 22 
1.3.2 人工智能安全与法律 23 
1.3.3 人工智能安全伦理道德 24 
1.3.4 人工智能安全评估评测 24 
1.4 本章小结 24 
参考文献 25 
本章执笔人 29 
第2章 可信计算保障人工智能安全 30 
2.1 可信计算技术 30 
2.1.1 可信计算简介 30 
2.1.2 可信计算相关技术 31 
2.1.3 可信计算标准体系 35 
2.2 基于可信计算构建安全可信的人工智能计算环境 36 
2.2.1 人工智能系统启动环境度量保护 37 
2.2.2 人工智能系统运行环境度量保护 40 
2.2.3 人工智能计算环境可信报告 44 
2.2.4 人工智能数据可信存储 45 
2.2.5 人工智能系统可信审计 48 
2.3 基于可信计算实现人工智能数据可信交互 50 
2.3.1 人工智能数据可信交互连接架构 50 
2.3.2 人工智能数据可信交互过程 53 
2.4 本章小结 54 
参考文献 54 
本章执笔人 55 
第3章 无人系统安全 56 
3.1 无人驾驶安全 56 
3.1.1 无人驾驶安全研究概述 56 
3.1.2 现状与发展趋势 58 
3.1.3 研究内容 60 
3.1.4 我国无人驾驶的人工智能安全方案和风险应对策略 73 
3.2 多无人系统协同 76 
3.2.1 发展方向与进展 76 
3.2.2 安全要素分析 78 
3.2.3 技术保障措施 88 
3.3 本章小结 91 
参考文献 91 
本章执笔人 94 
第4章 基于类脑计算的强人工智能及其安全 95 
4.1 概念界定及其技术实现途径 95 
4.1.1 相关基本概念 95 
4.1.2 关于强人工智能发展与实现的观点 98 
4.1.3 基于类脑计算的强人工智能 99 
4.2 时间预测及潜在安全问题分析 104 
4.2.1 发展阶段预测 104 
4.2.2 时间点预测 109 
4.2.3 理论及技术研究阶段的潜在安全问题 113 
4.2.4 应用阶段的潜在安全问题 116 
4.3 安全风险对策与风险预防策略研究 118 
4.3.1 安全风险评估及风险对策研究 118 
4.3.2 理论及技术研究阶段的风险预防策略 121 
4.3.3 应用阶段的风险预防策略研究 126 
4.4 本章小结 128 
参考文献 129 
本章执笔人 133 
第5章 智能制造和智能城市中的人工智能应用安全 134 
5.1 智能制造中的人工智能应用安全 134 
5.1.1 发展现状 135 
5.1.2 应用场景 143 
5.1.3 安全风险分析 145 
5.1.4 安全技术体系 150 
5.1.5 重点产业与应用发展方向 150 
5.2 智能城市中的人工智能应用安全 152 
5.2.1 发展现状 152 
5.2.2 应用场景 157 
5.2.3 安全风险分析 160 
5.2.4 安全技术体系 163 
5.2.5 重点产业与应用发展方向 163 
5.3 本章小结 165 
参考文献 165 
本章执笔人 167 
第6章 网络安全 168 
6.1 概述 168 
6.2 应用现状与趋势 169 
6.2.1 在网络攻击中的应用 169 
6.2.2 在网络防御中的应用 176 
6.3 应用引发的安全问题与应对 187 
6.3.1 应用引发的安全问题与应对措施综述 187 
6.3.2 对抗样本问题 190 
6.3.3 对抗样本问题的应对措施 191 
6.4 值得深入研究的内容 193 
6.4.1 基于人工智能技术的网络攻击 194 
6.4.2 基于人工智能技术的网络防御 195 
6.4.3 针对人工智能技术的网络攻击 195 
6.4.4 针对人工智能技术的网络防御 197 
6.5 本章小结 198 
参考文献 199 
本章执笔人 204 
第7章 人工智能安全可控的产业生态建设 205 
7.1 安全可控的产业生态建设的概念与内涵 205 
7.2 我国人工智能安全可控水平分析 206 
7.2.1 国内外人工智能应用技术发展研究 206 
7.2.2 我国人工智能安全可控需要解决的主要问题 221 
7.3 我国人工智能产业生态建设现状分析 228 
7.3.1 人工智能产业生态现状分析 229 
7.3.2 我国人工智能产业生态建设存在的主要问题 232 
7.4 我国人工智能安全可控与产业生态建设 233 
7.4.1 人工智能产业生态建设与安全可控水平的关系 233 
7.4.2 我国安全可控的人工智能软硬件发展目标 234 
7.4.3 我国安全可控的人工智能产业生态发展目标 234 
7.4.4 我国IT产业发展对安全可控的人工智能产业生态建设的 
启示 235 
7.5 建设安全可控的人工智能产业生态的措施 236 
7.5.1 加强对人工智能安全可控发展的顶层设计 236 
7.5.2 加强人工智能应用技术的安全可控能力 237 
7.5.3 强化安全可控的人工智能产业生态建设 238 
7.5.4 人工智能应用产业链要素安全可控 239 
7.6 本章小结 241 
参考文献 241 
本章执笔人 242 
第8章 人工智能安全标准与风险评估预警 243 
8.1 人工智能安全标准 243 
8.1.1 人工智能安全标准的理论和实践意义 243 
8.1.2 人工智能安全标准研制概况 244 
8.1.3 ISO/IEC JTC1人工智能技术安全相关标准 248 
8.1.4 ITU-T人工智能应用安全相关标准 249 
8.1.5 IEEE人工智能伦理道德安全相关标准 249 
8.1.6 NIST组织研制人工智能安全相关标准 251 
8.1.7 我国的人工智能安全标准 251 
8.1.8 基于模块划分的人工智能安全标准体系分类 254 
8.2 人工智能安全风险评估 264 
8.2.1 风险评估的概念 264 
8.2.2 人工智能安全风险评估原则、流程与方法 265 
8.2.3 人工智能安全风险评估指标体系构建 267 
8.3 人工智能安全风险预警 278 
8.3.1 人工智能安全风险预警方法 278 
8.3.2 安全风险预警等级划分及阈值确定 280 
8.4 本章小结 281 
参考文献 281 
本章执笔人 282 
第9章 人工智能法律伦理 283 
9.1 人工智能伦理 283 
9.2 强人工智能伦理 290 
9.2.1 人工智能的伦理风险与治理现状 291 
9.2.2 强人工智能的伦理风险 294 
9.2.3 强人工智能体的伦理身份与新型伦理关系 302 
9.2.4 向善的强人工智能——优化共生设计 307 
9.2.5 强人工智能伦理治理的初步思考 309 
9.3 人工智能法律治理 310 
9.3.1 人工智能应用引发的法律问题 310 
9.3.2 人工智能法律治理原则、机制与规律 312 
9.4 本章小结 317 
参考文献 318 
本章执笔人 319

随着人工智能技术的高速发展和广泛应用，人工智能安全问题引发了人们的高度关注。本书介绍了人工智能安全的概念和范畴，并从理论技术、技术标准、产业生态、伦理、法律等不同的角度分析了人工智能所涉及的安全问题及其治理策略和解决方法。除概述外，本书介绍了采用可信计算技术解决人工智能安全问题的方法，以及无人系统安全、基于类脑计算的强人工智能及其安全、智能制造和智能城市中的人工智能应用安全、网络安全、人工智能安全可控的产业生态建设、人工智能安全标准与风险评估预警、人工智能法律伦理。总体来说，本书既概要地分析了人工智能安全问题的一般属性，又从不同角度和不同的典型应用领域分析了人工智能系统中特别的安全问题及其风险评估、预测、治理途径和解决方法。

陈左宁，中国工程院院士，计算机工程技术专家，高级工程师。毕业于浙江大学计算机应用技术专业，国家并行计算机工程技术研究中心总工程师。现任中国工程院党组成员、副院长。第十届全国人大代表，第十七届、十八届中央候补委员。???自1979年以来，先后参加或领导多项国产高性能计算机系统研制工作，主持研制了多套国产大型系统软件项目，其中80年代领导研制了我国第一个与UNIX系统完全兼容的并行操作系统，在并行处理技术方面达到国际先进水平。两次获得国家科技进步特等奖、两次获得国家科技进步一等奖。获得中国青年科技奖、国家有突出贡献的优秀中青年专家、求是奖、中国青年科学家奖等。