统计学习法（第2版）

 第二版序言

《统计学习方法》版于2012年出版，讲述了统计机器学习方法，主要是一些常用的监督学习方法．
第二版增加了一些常用的无监督学习方法，由此本书涵盖了传统统计机器学习方法的主要内容．
在撰写《统计学习方法》伊始，对全书内容做了初步规划．版出版之后，即着手无监督学习方法
的写作．由于写作是在业余时间进行，常常被主要工作打断，历经六年时间才使这部分工作得以完成．
犹未能加入深度学习和强化学习等重要内容，希望今后能够增补，完成整本书的写作计划．
《统计学习方法》的出版正值大数据和人工智能的热潮，生逢其时，截至2018年4月本书共印刷21次，
133,000册，得到了广大读者的欢迎和支持．有许多读者指出本书对学习和掌握机器学习技术有极大的
帮助．也有许多读者通过电子邮件、微博等方式指出书中的错误，提出改进的建议和意见．一些高校
将本书作为机器学习课程的教材或参考书．有的同学在网上发表了读书笔记．有的同学将本书介绍的
方法在计算机上实现．清华大学深圳研究生院袁春老师精心制作了版十二章的课件，在网上公布，
为大家提供教学之便．众多老师、同学、读者的支持和鼓励，让作者深受感动和鼓舞．在这里向所有
的老师、同学、读者致以诚挚的谢意！ 
能为中国的计算机科学、人工智能领域做出一点微薄的贡献，感到由衷的欣慰，同时也感受到作为知
识转播者的重大责任，让作者决意把本书写好．也希望大家今后不吝指教，多提宝贵意见，以帮助继
续提高本书的质量．在写作中作者也深切体会到教学相长的道理，经常发现自己对基础知识的掌握不
够扎实，整个过程帮助自己对相关知识进行了深入的学习，受益匪浅．
本书是一部机器学习的基本读物，要求读者拥有高等数学、线性代数和概率统计的基础知识．书中主
要讲述统计机器学习的方法，力求系统全面又简明扼要地阐述这些方法的理论、算法和应用，使读者
能对这些机器学习的基本技术有很好的掌握．针对每个方法，详细介绍其基本原理，基础理论，实际
算法，通常给出细致数学推导和具体实例，帮助读者理解，也便于日后复习．
第二版增加的无监督学习方法的初稿，王泉、陈嘉怡、柴琛林、赵程绮等帮助做了认真细致的校阅，
提出了许多宝贵意见，在此谨对他们表示衷心的感谢．清华大学出版社的薛慧编辑一直给予非常专业
的指导和帮助，在此也对她表示衷心的感谢．
由于作者水平有限，本书一定存在不少错误，恳请各位专家、老师、同学、读者批评指正． 

 李 航
 2018年4月23日

统计学习方法即机器学习方法，是计算机及其应用领域的一门重要学科。
本书分为监督学 习和无监督学习两篇，全面系统地介绍了统计学习的主要方法。
包括感知机、k 近邻法、朴素贝 叶斯法、决策树、逻辑斯谛回归与*熵模型、
支持向量机、提升方法、EM 算法、隐马尔可夫 模型和条件随机场，以及聚类方法、
奇异值分解、主成分分析、潜在语义分析、概率潜在语义分 析、马尔可夫链蒙特卡罗法、
潜在狄利克雷分配和 PageRank 算法等。除有关统计学习、监督学 习和无监督学习的概
论和总结的四章外，每章介绍一种方法。叙述力求从具体问题或实例入手， 由浅入深，
阐明思路，给出必要的数学推导，便于读者掌握统计学习方法的实质，学会运用。 
为满足读者进一步学习的需要，书中还介绍了一些相关研究，给出了少量习题，
列出了主要参 考文献。 本书是统计机器学习及相关课程的教学参考书，
适用于高等院校文本数据挖掘、信
息检索及自然语言处理等专业的大学生、
研究生，也可供从事计算机应用相关专业的研发人员 参考。

李航，男，毕业于日本京都大学电气电子工程系，日本东京大学获得计算机科学博士学位。北京大学、南京大学兼职教授。曾任日本NEC公司中央研究所研究员，微软亚洲研究院高级研究员与主任研究员、华为技术有限公司诺亚方舟实验室主任。现任今日头条人工智能实验室主任。