机器学习导论

图书标准信息

• 作者 王东
• 出版社 清华大学出版社
• 出版时间 2021-02
• 版次 1
• ISBN 9787302546054
• 定价 128.00元
• 装帧 其他
• 开本 16开
• 纸张 胶版纸

【内容简介】

本书分类《机器学习导论》面向机器学习领域的主要模型和算法，重点阐述不同方法背后的基本假设以及它们之间的相关性，帮助读者建立机器学习的基础理论功底，为从事该领域的相关工作打下基础。具体内容包括机器学习研究的总体思路、发展历史与关键问题，线性模型，神经网络及深度学习，核方法，图模型，无监督学习，非参数模型，演化学习，强化学习，数值优化方法等。 本书可作为高等学校相关课程的教材，也可作为研究生及对机器学习感兴趣的科技、工程技术人员的参考用书。本书封面贴有清华大学出版社防伪标签，无标签者不得销售。

【作者简介】

王东， 1995-2002年清华本科、硕士，2010年英国爱丁堡大学博士，历任Oracle 中国软件工程师，IBM中国高级软件工程师，英国爱丁堡大学Marie Curie 研究员，法国EURECOM博士后研究员，美国Nuance公司高级研究科学家。现任清华大学语音语言中心副研究员，中心常务副主任，FreeNeb公司首席科学家。王东博士是全国人机语音通讯会议常设机构秘书长，是亚太信号信息处理联盟(APASIPA)语音专委会副主席、杰出讲师，是国际标准与语音数据资源委员会(COCOSDA)大陆区代表。王东博士自1997年开始从事语音识别、自然语言处理方面的研究，在相关领域发表学术论文120余篇，公开专利20余项，其专利技术在日本软银、新松、智能管家等多家国内外著名公司应用，创造了良了的社会效益和经济效益。

【目录】

第1章机器学习概述1

1.1什么是机器学习1

1.2机器学习的基本框架2

1.3机器学习发展简史5

1.4机器学习的流派7

1.4.1符号学派8

1.4.2贝叶斯学派8

1.4.3连接学派10

1.4.4进化仿生学派11

1.4.5哪个学派更占主流12

1.5让人惊讶的学习13

1.5.1从猴子摘香蕉到星际大战13

1.5.2集体学习的机器人14

1.5.3图片理解16

1.5.4金融市场量化分析18

1.5.5AlphaGo20

1.6机器学习技术的前沿21

1.7机器智能会超过人类智能吗22

1.8机器学习基础23

1.81训练、验证与测试23

1.8.2参数过拟合、交叉验证与正则化24

1.8.3结构过拟合与模型选择24 

1.8.4机器学习方法分类27

1.9开始你的机器学习之旅29

1.9.1如何开始一个机器学习任务29

1.9.2如何学习机器学习30

1.10相关资源30

第2章线性模型33

2.1线性预测模型33

2.1.1从多项式拟合说起34

2.1.2线性回归36

2.1.3Fisher准则与线性分类39

2.1.4Logistic回归42

2.1.5小结44

2.2线性概率模型45

2.2.1主成分分析46

2.2.2概率主成分分析47

2.2.3概率线性判别分析50

2.3贝叶斯方法52

2.4本章小结54

2.5相关资源55

第3章神经模型56

3.1神经网络概述57

3.1.1什么是人工神经网络58

3.1.2神经模型与其他方法58

3.2基于映射的神经模型59

3.2.1从线性模型开始59

3.2.2多层感知器62

3.2.3径向基函数网络67

3.2.4神经网络模型与先验知识69

3.3基于记忆的神经模型72

3.3.1Kohonen网络73

3.3.2Hopfield网络75

3.3.3玻尔兹曼机78

3.3.4受限玻尔兹曼机81

3.3.5自编码器84

3.4基于过程的模型87

3.4.1ElmanRNN88

3.4.2门网络89

3.4.3序列对序列网络93

3.4.4基于Attention模型的诗词生成95

3.5神经图灵机97

3.6本章小结99

3.7相关资源100

第4章深度学习101

4.1从浅层学习到深度学习101

4.1.1网络表达能力102

4.1.2层次表示与特征学习103

4.1.3显著特征的非监督学习104

4.1.4复杂结构与数据驱动109

4.2深度神经网络训练110

4.2.1基础训练算法110

4.2.2DNN训练的困难116

4.2.3DNN训练技巧125

4.3神经网络的正则化134

4.3.1结构化网络与参数共享135

4.3.2范式约束与稀疏网络137

4.3.3加噪训练与数据增强140

4.3.4联合训练140

4.3.5知识迁移143

4.4生成模型下的深度学习145

4.4.1神经网络的简单概率表达145

4.4.2后验拟合与VariationalAE147

4.4.3VariationalRNN151

4.5计算图与复杂神经网络153

4.5.1由ChainRule到计算图154

4.5.2基于计算图的参数优化156

4.5.3计算图的模块化157

4.5.4计算图与深度神经网络157

4.6计算平台与方法160

4.6.1GPU与TPU160

4.6.2并行计算161

4.6.3模型压缩167

4.7深度学习的应用169

4.7.1语音信号处理169

4.7.2自然语言处理173

4.7.3计算机视觉176

4.8本章小结179

4.9相关资源180

第5章核方法181

5.1从线性回归到核方法183

5.2核函数的性质184

5.2.1再生核希尔伯特空间与Mercer定理184

5.2.2核函数的基本性质186

5.3常用核函数186

5.3.1简单核函数187

5.3.2概率核188

5.3.3复杂对象上的核函数189

5.4KernelPCA195

5.5高斯过程197

5.6支持向量机199

5.6.1线性可分的SVM200

5.6.2线性不可分的SVM202

5.6.3v-SVM204

5.6.4SVM的若干讨论205

5.7相关向量机206

5.8本章小结208

5.9相关资源209

第6章图模型210

6.1概率图模型简介211

6.2有向图模型212

6.2.1典型模型212

6.2.2有向图变量相关性判断214

6.3无向图模型217

6.3.1无向图变量相关性判断218

6.3.2有向图向无向图转化219

6.3.3有向图和无向图对比221

6.4常用概率图模型221

6.4.1高斯混合模型221

6.4.2隐马尔可夫模型225

6.4.3线性条件随机场229

6.5EM算法232

6.6精确推理算法235

6.6.1加和—乘积算法235

6.6.2树状图的加和—乘积算法237

6.6.3联合树算法238

6.7近似推理算法240

6.7.1采样法241

6.7.2变分法246

6.7.3采样法和变分法比较250

6.8本章小结250

6.9相关资源251

第7章无监督学习252

7.1无监督学习任务253

7.1.1聚类概述253

7.1.2流形学习概述254

7.1.3因子学习255

7.2聚类方法256

7.2.1基于划分的聚类方法256

7.2.2基于连接的聚类方法258

7.2.3基于密度的聚类方法262

7.2.4基于模型的聚类方法263

7.3流形学习264

7.3.1主成分分析266

7.3.2多维标度268

7.3.3ISOMAP269

7.3.4自组织映射271

7.3.5局部线性嵌入273

7.3.6谱嵌入276

7.3.7t-SNE276

7.3.8流形学习方法比较279

7.4图模型与无监督学习279

7.4.1图模型下的聚类任务279

7.4.2图模型下的流形学习280

7.4.3图模型下的因子学习281

7.5神经模型与无监督学习282

7.5.1特征学习任务中的因子学习282

7.52生成任务中的因子学习283

7.5.3分类/回归任务中的因子学习283

7.6本章小结285

7.7相关资源286

第8章非参数模型287

8.1简单非参数模型288

8.2回顾高斯过程290

8.2.1高斯过程定义290

8.2.2高斯过程回归292

8.2.3高斯过程用于分类任务296

8.3狄利克雷过程296

8.3.1回顾高斯混合模型297

8.3.2中国餐馆问题298

8.3.3狄利克雷分布及性质300

8.3.4狄利克雷过程的定义302

8.3.5狄利克雷过程的表示303

8.3.6狄利克雷过程的构造307

8.3.7推理方法309

8.3.8HierarchicalDP(HDP)311

8.4本章小结312

8.5相关资源313

第9章演化学习315

9.1基于采样的优化方法316

9.1.1演化学习316

9.1.2群体学习与随机优化317

9.2遗传算法318

9.2.1算法框架319

9.2.2算法细节320

9.2.3进化理论324

9.3遗传编程328

9.3.1算法基础328

9.3.2GP高级话题333

9.3.3其他演化学习方法335

9.4群体学习方法336

9.4.1蚁群优化算法337

9.4.2人工蜂群算法338

9.4.3粒子群算法340

9.4.4捕猎者搜索341

9.4.5萤火虫算法342

9.5随机优化方法342

9.5.1模拟退火算法342

9.5.2杜鹃搜索343

9.5.3和声搜索344

9.5.4禁忌搜索344

9.6本章小节345

9.7相关资源347

第10章强化学习348

10.1强化学习概述349

10.1.1什么是强化学习349

10.1.2与其他学习方法的区别350

10.1.3强化学习的应用352

10.2强化学习的基本要素353

10.2.1强化学习三元素353

10.2.2长期收益353

10.2.3值函数与策略优化354

10.2.4通用策略迭代355

10.2.5强化学习算法分类356

10.3值函数学习:基于模型的规划算法358

10.3.1马尔可夫决策过程358

10.3.2MDP中的值函数360

10.3.3策略估值:动态规划算法361

10.3.4策略优化:策略迭代和值迭代362

10.4值函数学习:基于采样的蒙特卡罗方法365

10.4.1学习任务与采样方法365

10.4.2蒙特卡罗策略估值365

10.4.3蒙特卡罗策略优化367

10.5值函数学习:基于采样的时序差分方法370

10.5.1基于TD的策略估值370

10.5.2基于TD的策略优化372

10.5.3N-stepTD与TD(λ)374

10.5.4三种值函数学习方法总结375

10.6模型学习377

10.6.1值函数学习与模型学习377

10.6.2模型学习方法378

10.6.3Dyna:混合学习方法379

10.7函数近似与策略学习380

10.7.1值函数近似381

10.7.2基于梯度的参数优化383

10.7.3基于函数近似的策略学习383

10.7.4Actor-Critic方法385

10.8深度强化学习方法386

10.8.1Atari游戏387

10.8.2AlphaGo388

10.9本章小结391

10.10相关资源391

第11章优化方法393

11.1函数优化394

11.1.1优化问题定义394

11.1.2优化问题分类395

11.1.3基础定理395

11.2无约束优化问题396

11.2.1线性搜索396

11.2.2置信域优化401

11.3带约束优化问题404

11.3.1拉格朗日乘子法405

11.3.2对偶问题407

11.3.3线性规划409

11.3.4二阶规划415

11.3.5一般非线性优化420

11.4本章小结425

11.5相关资源426

参考文献427