机器学习导论与实践

第1章 绪论

1.1 机器学习的定义

1.2 基本术语

1.3 模型评估与选择

1.3.1 经验误差与过拟合

1.3.2 评估方法

1.4 机器学习解决问题的基本思路

1.5 Python语言

1.5.1 Python简介

1.5.2 Python基础语法

1.5.3 NumPy快速入门

1.5.4 Matplotlib快速入门

1.6 习题

第2章 线性模型

2.1 基本形式

2.2 线性回归

2.3 逻辑回归

2.3.1 Logistic分布

2.3.2 逻辑回归与Sigmoid函数

2.3.3 基于最优化方法确定最佳回归系数

2.4 应用实例

2.4.1 线性回归——波士顿房价预测

2.4.2 逻辑回归——从疝气病症预测病马的死亡率

2.5 习题

第3章 朴素贝叶斯

3.1 朴素贝叶斯相关统计学知识

3.2 朴素贝叶斯法的学习与分类

3.2.1 基本方法

3.2.2 后验概率最大化的含义

3.2.3 朴素贝叶斯分类基本流程

3.3 极大似然估计

3.4 应用实例——PC评论分类

3.5 习题

第4章 k-近邻算法

4.1 k-近邻算法概述

4.2 kNN算法主要步骤

4.2.1 距离度量

4.2.2 k值的选择

4.2.3 分类决策

4.3 应用实例——鸢尾花分类

4.3.1 项目背景

4.3.2 读取数据与数据可视化

4.3.3 划分数据集

4.3.4 kNN算法

4.3.5 如何测试分类器

4.4 习题

第5章 决策树

5.1 决策树的基本概念

5.1.1 定义

5.1.2 决策树的构造

5.2 决策树学习基础算法

5.3 最优属性的选择

5.3.1 ID3——信息增益（Gain）

5.3.2 C4.5 ——信息增益率（Gain_ratio）

5.3.3 CART——基尼指数（Gini_index）

5.4 决策树的剪枝

5.5 应用实例——性别决策

5.6 Python实现过程

5.6.1 计算给定数据集的信息熵

5.6.2 数据集的划分

5.6.3 递归构建决策树

5.7 使用Matplotlib绘制决策树

5.7.1 Matplotlib注解

5.7.2 绘制决策树

5.8 习题

第6章 支持向量机

6.1 基于最大间隔分隔数据

6.2 寻找最大间隔

6.2.1 拉格朗日对偶性

6.2.2 SMO算法

6.3 软间隔最大化

6.4 核函数

6.5 径向基函数

6.6 应用实例

6.7 习题

第7章 神经网络

7.1 神经元模型

7.2 感知机与多层前馈神经网络

7.2.1 感知机

7.2.2 多层前馈神经网络

7.3 BP神经网络

7.4 其他常见神经网络

7.4.1 RBF网络

7.4.2 ART网络

7.4.3 SOM网络

7.4.4 级联相关网络

7.4.5 Elman网络

7.5 应用实例——从疝气病症预测病马的死亡率

7.5.1 处理数据中的缺失值

7.5.2 用BP神经网络进行预测

7.6 习题

第8章 深度学习

8.1 卷积神经网络

8.2 典型的卷积神经网络

8.2.1 LeNet

8.2.2 AlexNet

8.2.3 VGGNet

8.2.4 ResNet

8.3 循环神经网络

8.4 深度学习框架

8.4.1 深度学习框架的作用

8.4.2 常见的深度学习框架

8.4.3 飞桨概述——深度学习开源平台PaddlePaddle

8.5 线性回归小实例在飞桨深度学习平台的应用

8.6 深度学习应用实例——口罩识别

8.7 习题

第9章 集成学习方法

9.1 集成学习的分类

9.2 Bagging和随机森林

9.2.1 Bagging并行集成学习

9.2.2 随机森林

9.3 Boosting集成学习方法

9.4 基于AdaBoost的分类

9.5 基于XGBoost的分类

9.5.1 GBDT

9.5.2 XGBoost

9.6 应用实例

9.6.1 基于AdaBoost算法

9.6.2 基于XGBoost算法

9.7 习题

第10章 K-均值聚类

10.1 K-均值聚类算法

10.1.1 模型

10.1.2 算法

10.1.3 算法特性

10.2 二分K-均值算法

10.2.1 使用后处理来提高聚类性能

10.2.2 二分K-均值聚类算法

10.3 应用实例

10.4 习题

第11章 Apriori算法及关联分析

11.1 关联分析

11.1.1 频繁项集的评估标准

11.1.2 关联分析算法过程

11.2 Apriori算法基本原理

11.3 使用Apriori算法来发现频繁项集

11.4 从频繁项集中挖掘关联规则

11.5 应用实例

11.6 习题

第12章 FP-growth算法及频繁项集的挖掘

12.1 FP树介绍

12.2 构造FP树

12.2.1 头指针表的建立

12.2.2 FP树的建立

12.3 从FP树中挖掘频繁项集

12.3.1 抽取条件模式基

12.3.2 FP算法归纳