Python机器学习基础

Python是当前流行的编程语言，简单易学、应用广泛。本书以Python为基础开发语言，全面系统地讲解了机器学习的相关知识。本书共9章，主要包括机器学习的基本概念，Python及其库的入门，机器学习中常用算法的理论介绍、项目实现和优缺点分析，数据预处理，特征工程，模型评估及改进，综合实战等。
本书可作为本科院校和职业院校计算机相关专业的教材，还可作为社会培训机构的教材，也适合计算机爱好者自学使用。

Python是当前流行的编程语言，简单易学、应用广泛。本书以Python为基础开发语言，全面系统地讲解了机器学习的相关知识。本书共9章，主要包括机器学习的基本概念，Python及其库的入门，机器学习中常用算法的理论介绍、项目实现和优缺点分析，数据预处理，特征工程，模型评估及改进，综合实战等。
本书可作为本科院校和职业院校计算机相关专业的教材，还可作为社会培训机构的教材，也适合计算机爱好者自学使用。

王鲁昆，工学博士，博士后，硕士生导师，副教授，IEEE会员，高级项目管理师。目前就职于山东科技大学，兼任山东科技大学泰安校区计算机视觉与模式识别团队负责人，山东科技大学智能装备学院院长助理，山东科技大学三创中心主任。2008年硕士毕业后，在大连古野软件有限公司，浪潮集团工作过5年时间，获得信息系统项目管理师高级认证，系统集成项目管理师高级认证，软件设计师中级认证， ITIL V3 Foundation高级认证。2016年博士毕业后，入职山东科技大学泰安校区。主要科研成果如下：发表论文16篇，其中SCI索引11篇，EI索引3篇，中文核心2篇。SCI论文中一区TOP期刊1篇，二区5篇，总影响因子37.627。主持山东省自然基金项目1项，山东省高等学校科技计划项目1项，协同育人项目3项，山东省重点实验室项目1项，人才引进项目1项，泰安市科技计划项目1项。申请并授权专利7项，申请并授权软件著作权5项。

第 1章 概述 1
1.1　什么是机器学习　1
1.2机器学习的算法　2
1.3　监督学习　2
1.4　无监督学习　3
1.5　数据集　4
1.6　机器学习项目的流程　6
1.7　小结　7
习题1　7
第　2章 Python入门　9
2.1　Python语言介绍　9
2.2　Python平台搭建　9
2.3　Python的基本概念　11
2.3.1　数据类型　11
2.3.2　基本运算　14
2.3.3　控制语句　15
2.3.4　复杂数据类型　16
2.3.5　函数　18
2.4　Python库的使用　18
2.5　小结　24
习题2　24
第3章　分类算法　25
3.1　K近邻算法　25
3.1.1　算法介绍　25
3.1.2　算法应用　27
3.1.3　算法的优缺点　37
3.2　朴素贝叶斯算法　38
3.2.1　算法介绍　38
3.2.2　算法实现　39
3.2.3　算法的优缺点　43
3.3　逻辑回归　44
3.3.1　算法介绍　44
3.3.2　算法实现　46
3.3.3　算法的优缺点　48
3.4　支持向量机　48
3.4.1算法介绍　48
3.4.2　算法实现　53
3.4.3　算法的优缺点　55
3.5决策树　55
3.5.1算法介绍　55
3.5.2算法实现　58
3.5.3算法的优缺点　61
3.6随机森林　62
3.6.1算法介绍　62
3.6.2算法实现　63
3.6.3　算法的优缺点　65
3.7　人工神经网络　65
3.7.1　算法介绍　65
3.7.2　项目实现　68
3.7.3　算法的优缺点　71
3.8　分类器的不确定性　71
3.8.1　决策函数　72
3.8.2　预测函数　72
3.8.3　多分类的不确定性　73
3.9　小结　74
习题3　75
第4章　回归算法　76
4.1　线性回归　76
4.1.1　线性模型　76
4.1.2　线性回归　78
4.1.3　多项式回归　81
4.1.4　算法的优缺点　82
4.2　岭回归　83
4.2.1　算法介绍　83
4.2.2　算法实现　83
4.2.3　算法的优缺点　87
4.3　LASSO回归　87
4.3.1　算法介绍　87
4.3.2　算法实现　88
4.3.3　算法的优缺点　91
4.4　支持向量回归机　91
4.4.1算法介绍　91
4.4.2算法实现　93
4.4.3算法的优缺点　94
4.5　回归树　95
4.5.1　算法介绍　95
4.5.2　算法实现　96
4.5.3　算法优缺点　97
4.6　小结　98
习题4　98
第5章　聚类算法　99
5.1　K均值凝聚聚类　99
5.1.1　算法介绍　99
5.1.2　算法实现　100
5.1.3　算法的优缺点　103
5.2　层次聚类　103
5.2.1　算法介绍　103
5.2.2　算法实现　104
5.2.3　算法的优缺点　107
5.3　DBSCAN算法　108
5.3.1　算法介绍　108
5.3.2　算法实现　108
5.3.3　算法的优缺点　111
5.4　Mean Shift　111
5.4.1　算法介绍　111
5.4.2　算法实现　112
5.4.3　算法的优缺点　114
5.5　Label Propagation　114
5.5.1　算法介绍　115
5.5.2　算法实现　115
5.5.3　算法优缺点　116
5.6　小结　116
习题5　117
第6章　数据预处理　118
6.1　数据清洗　118
6.1.1　缺失值处理　118
6.1.2　异常值处理　126
6.2　数据变换　130
6.2.1　无量纲化　130
6.2.2　离散化　131
6.2.3　对类别特征编码　133
6.2.4　多项式特征　137
6.3　数据规约　142
6.4小结　143
习题6　143
第7章　特征工程　144
7.1　特征提取　144
7.1.1　字典特征提取　144
7.1.2　文本特征提取　145
7.1.3　图像特征提取　151
7.2特征选择　154
7.2.1　Filter　154
7.2.2　Wrapper　157
7.2.3　Embedded　158
7.3　降维　159
7.4　小结　164
习题7　164
第8章　模型评估及改进　165
8.1　交叉验证　165
8.1.1　K折交叉验证　165
8.1.2　分层K折交叉检验　166
8.1.3　留一交叉验证和打乱划分交叉验证　168
8.2　网格搜索　169
8.3　评估指标　177
8.3.1　分类评估指标　178
8.3.2　回归评估指标　189
8.4　小结　191
习题8　191
第9章　综合实战　192
9.1　管道模型　192
9.2　文本数据处理　197
9.2.1　扩展与深化——不同种方式的文本数据处理　197
9.2.2　文本数据的优化处理　203
9.3　泰坦尼克号数据分析　208
9.4　小结　217
习题9　217
参考文献　219

Python是当前流行的编程语言，简单易学、应用广泛。本书以Python为基础开发语言，全面系统地讲解了机器学习的相关知识。本书共9章，主要包括机器学习的基本概念，Python及其库的入门，机器学习中常用算法的理论介绍、项目实现和优缺点分析，数据预处理，特征工程，模型评估及改进，综合实战等。
本书可作为本科院校和职业院校计算机相关专业的教材，还可作为社会培训机构的教材，也适合计算机爱好者自学使用。

王鲁昆，工学博士，博士后，硕士生导师，副教授，IEEE会员，高级项目管理师。目前就职于山东科技大学，兼任山东科技大学泰安校区计算机视觉与模式识别团队负责人，山东科技大学智能装备学院院长助理，山东科技大学三创中心主任。2008年硕士毕业后，在大连古野软件有限公司，浪潮集团工作过5年时间，获得信息系统项目管理师高级认证，系统集成项目管理师高级认证，软件设计师中级认证， ITIL V3 Foundation高级认证。2016年博士毕业后，入职山东科技大学泰安校区。主要科研成果如下：发表论文16篇，其中SCI索引11篇，EI索引3篇，中文核心2篇。SCI论文中一区TOP期刊1篇，二区5篇，总影响因子37.627。主持山东省自然基金项目1项，山东省高等学校科技计划项目1项，协同育人项目3项，山东省重点实验室项目1项，人才引进项目1项，泰安市科技计划项目1项。申请并授权专利7项，申请并授权软件著作权5项。