人工智能算法 卷1 基础算法

算法是人工智能技术的核心。本书介绍了人工智能的基础算法，全 书共10 章，涉及维度法、距离度量算法、K 均值聚类算法、误差计算、 爬山算法、模拟退火算法、Nelder-Mead 算法和线性回归算法等。书中 所有算法均配以具体的数值计算来进行讲解，读者可以自行尝试。每章 都配有程序示例，GitHub 上有多种语言版本的示例代码可供下载。 本书适合作为人工智能入门读者以及对人工智能算法感兴趣的读者 阅读参考。

杰弗瑞·希顿（Jeffery Heaton）既是一位活跃的技术博主、开源贡献者，也是十多本图书的作者。他的专业领域包括数据科学、预测建模、数据挖掘、大数据、商务智能和人工智能等。他拥有华盛顿大学信息管理学硕士学位，是IEEE的高级会员、Sun认证Java程序员、开源机器学习框架Encog的首席开发人员。

第 1 章 AI 入门 1

1.1 与人类大脑的联系 2

1.1.1 大脑和真实世界 3

1.1.2 缸中之脑 5

1.2 对问题建模 6

1.2.1 大脑和真实世界 7

1.2.2 回归分析 9

1.2.3 聚类问题 10

1.2.4 时序问题 10

1.3 对输入/ 输出建模 11

1.3.1 一个简单的例子 15

1.3.2 燃油效率 16

1.3.3 向算法传入图像 18

1.3.4 金融算法 20

1.4 理解训练过程 21

1.4.1 评估成果 22

1.4.2 批量学习和在线学习 22

1.4.3 监督学习和非监督学习 23

1.4.4 随机学习和确定学习 23

1.5 本章小结 23

第 2 章 数据归一化 25

2.1 计量尺度 25

2.2 观测值归一化 29

2.2.1 名义量归一化 30

2.2.2 顺序量归一化 32

2.2.3 顺序量解归一化 34

2.2.4 数字量归一化 35

2.2.5 数字量解归一化 37

2.3 其他归一化方法 38

2.3.1 倒数归一化 38

2.3.2 倒数解归一化 38

2.3.3 理解等边编码法 39

2.3.4 等边编码法的实现 41

2.4 本章小结 45

第3 章 距离度量 47

3.1 理解向量 47

3.2 计算向量距离 49

3.2.1 欧氏距离 49

3.2.2 曼哈顿距离 51

3.2.3 切比雪夫距离 53

3.3 光学字符识别 54

3.4 本章小结 57

第4 章 随机数生成 59

4.1 伪随机数生成算法的概念 60

4.2 随机数分布类型 61

4.3 轮盘模拟法 64

4.4 伪随机数生成算法 65

4.4.1 线性同余生成法 66

4.4.2 进位乘数法 67

4.4.3 梅森旋转算法 68

4.4.4 Box-Muller 转换法 70

4.5 用蒙特卡洛方法估算PI 值 72

4.6 本章小结 74

第5 章 K 均值聚类算法 75

5.1 理解训练集 77

5.1.1 非监督学习 77

5.1.2 监督学习 80

5.2 理解K 均值算法 80

5.2.1 分配 81

5.2.2 更新 83

5.3 K 均值算法的初始化 84

5.3.1 随机K 均值初始化 84

5.3.2 K 均值算法的Forgy 初始化 87

5.4 本章小结 90

第6 章 误差计算 91

6.1 方差和误差 92

6.2 均方根误差 93

6.3 均方误差 93

6.4 误差计算方法的比较 94

6.5 本章小结 96

第7 章 迈向机器学习 97

7.1 多项式系数 99

7.2 训练入门 101

7.3 径向基函数网络 103

7.3.1 径向基函数 104

7.3.2 径向基函数网络 107

7.3.3 实现径向基函数网络 109

7.3.4 应用径向基函数网络 113

7.4 本章小结 115

第8 章 优化训练 117

8.1 爬山算法 117

8.2 模拟退火算法 121

8.2.1 模拟退火算法的应用 122

8.2.2 模拟退火算法 123

8.2.3 冷却进度 126

8.2.4 退火概率 127

8.3 Nelder-Mead 算法 128

8.3.1 反射 130

8.3.2 扩张操作 131

8.3.3 收缩操作 132

8.4 Nelder-Mead 算法的终止条件 133

8.5 本章小结 134

第9 章 离散优化 135

9.1 旅行商问题 135

9.1.1 旅行商问题简要说明 136

9.1.2 旅行商问题求解的实现 137

9.2 环形旅行商问题 138

9.3 背包问题 139

9.3.1 背包问题简要说明 140

9.3.2 背包问题求解的实现 141

9.4 本章小结 143

第 10 章 线性回归 144

10.1 线性回归 144

10.1.1 小二乘法拟合 146

10.1.2 小二乘法拟合示例 148

10.1.3 安斯库姆四重奏 149

10.1.4 鲍鱼数据集 151

10.2 广义线性模型 152

10.3 本章小结 155

附录A 示例代码使用说明 157

A.1 “读懂人工智能”系列书简介 157

A.2 保持更新 157

A.3 获取示例代码 158

A.4 示例代码的内容 159

A.5 如何为项目做贡献 163

参考资料 164

算法是人工智能技术的核心。本书介绍了人工智能的基础算法，全 书共10 章，涉及维度法、距离度量算法、K 均值聚类算法、误差计算、 爬山算法、模拟退火算法、Nelder-Mead 算法和线性回归算法等。书中 所有算法均配以具体的数值计算来进行讲解，读者可以自行尝试。每章 都配有程序示例，GitHub 上有多种语言版本的示例代码可供下载。 本书适合作为人工智能入门读者以及对人工智能算法感兴趣的读者 阅读参考。

杰弗瑞·希顿（Jeffery Heaton）既是一位活跃的技术博主、开源贡献者，也是十多本图书的作者。他的专业领域包括数据科学、预测建模、数据挖掘、大数据、商务智能和人工智能等。他拥有华盛顿大学信息管理学硕士学位，是IEEE的高级会员、Sun认证Java程序员、开源机器学习框架Encog的首席开发人员。