深入浅出Python机器学习 段小手

目 录

第1章 概 述

1.1 什么是机器学习——从一个小故事开始 / 002

1.2 机器学习的一些应用场景——蝙蝠公司的业务单元 / 003

1.3 机器学习应该如何入门——世上无难事 / 005

1.4 有监督学习与无监督学习 / 007

1.5 机器学习中的分类与回归 / 008

目 录

第1章 概 述

1.1 什么是机器学习——从一个小故事开始 / 002

1.2 机器学习的一些应用场景——蝙蝠公司的业务单元 / 003

1.3 机器学习应该如何入门——世上无难事 / 005

1.4 有监督学习与无监督学习 / 007

1.5 机器学习中的分类与回归 / 008

1.6 模型的泛化、过拟合与欠拟合 / 008

1.7 小结 / 009

第2章 基于Python语言的环境配置

2.1 Python的下载和安装 / 012

2.2 Jupyter Notebook的安装与使用方法 / 013

2.2.1 使用pip进行Jupyter Notebook的下载和安装 / 013

2.2.2 运行Jupyter Notebook / 014

2.2.3 Jupyter Notebook的使用方法 / 015

2.3 一些必需库的安装及功能简介 / 017

2.3.1 Numpy——基础科学计算库 / 017

2.3.2 Scipy——强大的科学计算工具集 / 018

2.3.3 pandas——数据分析的利器 / 019

2.3.4 matplotlib——画出优美的图形 / 020

深入浅出Python 机器学习

VIII

2.4 scikit-learn——非常流行的Python机器学习库 / 021

2.5 小结 / 022

第3章 K近邻算法——近朱者赤，近墨者黑

3.1 K近邻算法的原理 / 024

3.2 K近邻算法的用法 / 025

3.2.1 K近邻算法在分类任务中的应用 / 025

3.2.2 K近邻算法处理多元分类任务 / 029

3.2.3 K近邻算法用于回归分析 / 031

3.3 K近邻算法项目实战——酒的分类 / 034

3.3.1 对数据集进行分析 / 034

3.3.2 生成训练数据集和测试数据集 / 036

3.3.3 使用K近邻算法进行建模 / 038

3.3.4 使用模型对新样本的分类进行预测 / 039

3.4 小结 / 041

第4章 广义线性模型——“耿直“的算法模型

4.1 线性模型的基本概念 / 044

4.1.1 线性模型的一般公式 / 044

4.1.2 线性模型的图形表示 / 045

4.1.3 线性模型的特点 / 049

4.2 基本的线性模型——线性回归 / 050

4.2.1 线性回归的基本原理 / 050

4.2.2 线性回归的性能表现 / 051

4.3 使用L2正则化的线性模型——岭回归 / 053

4.3.1 岭回归的原理 / 053

4.3.2 岭回归的参数调节 / 054

4.4 使用L1正则化的线性模型——套索回归 / 058

4.4.1 套索回归的原理 / 058

4.4.2 套索回归的参数调节 / 059

4.4.3 套索回归与岭回归的对比 / 060

目

录

IX

4.5 小结 / 062

第5章 朴素贝叶斯——打雷啦，收衣服啊

5.1 朴素贝叶斯基本概念 / 064

5.1.1 贝叶斯定理 / 064

5.1.2 朴素贝叶斯的简单应用 / 064

5.2 朴素贝叶斯算法的不同方法 / 068

5.2.1 贝努利朴素贝叶斯 / 068

5.2.2 高斯朴素贝叶斯 / 071

5.2.3 多项式朴素贝叶斯 / 072

5.3 朴素贝叶斯实战——判断肿瘤是良性还是恶性 / 075

5.3.1 对数据集进行分析 / 076

5.3.2 使用高斯朴素贝叶斯进行建模 / 077

5.3.3 高斯朴素贝叶斯的学习曲线 / 078

5.4 小结 / 080

第6章 决策树与随机森林——会玩读心术的算法

6.1 决策树 / 082

6.1.1 决策树基本原理 / 082

6.1.2 决策树的构建 / 082

6.1.3 决策树的优势和不足 / 088

6.2 随机森林 / 088

6.2.1 随机森林的基本概念 / 089

6.2.2 随机森林的构建 / 089

6.2.3 随机森林的优势和不足 / 092

6.3 随机森林实例——要不要和相亲对象进一步发展 / 093

6.3.1 数据集的准备 / 093

6.3.2 用get_dummies处理数据 / 094

6.3.3 用决策树建模并做出预测 / 096

6.4 小结 / 098

第7章 支持向量机SVM——专治线性不可分

7.1 支持向量机SVM基本概念 / 100

7.1.1 支持向量机SVM的原理 / 100

7.1.2 支持向量机SVM的核函数 / 102

7.2 SVM的核函数与参数选择 / 104

7.2.1 不同核函数的SVM对比 / 104

7.2.2 支持向量机的gamma参数调节 / 106

7.2.3 SVM算法的优势与不足 / 108

7.3 SVM实例——波士顿房价回归分析 / 108

7.3.1 初步了解数据集 / 109

7.3.2 使用SVR进行建模 / 110

7.4 小结 / 114

第8章 神经网络——曾入“冷宫“，如今得宠

8.1 神经网络的前世今生 / 116

8.1.1 神经网络的起源 / 116

8.1.2 个感知器学习法则 / 116

8.1.3 神经网络之父——杰弗瑞·欣顿 / 117

8.2 神经网络的原理及使用 / 118

8.2.1 神经网络的原理 / 118

8.2.2 神经网络中的非线性矫正 / 119

8.2.3 神经网络的参数设置 / 121

8.3 神经网络实例——手写识别 / 127

8.3.1 使用MNIST数据集 / 128

8.3.2 训练MLP神经网络 / 129

8.3.3 使用模型进行数字识别 / 130

8.4 小结 / 131

第9章 数据预处理、降维、特征提取及聚类——快

刀斩乱麻

9.1 数据预处理 / 134

9.1.1 使用StandardScaler进行数据预处理 / 134

9.1.2 使用MinMaxScaler进行数据预处理 / 135

9.1.3 使用RobustScaler进行数据预处理 / 136

9.1.4 使用Normalizer进行数据预处理 / 137

9.1.5 通过数据预处理提高模型准确率 / 138

9.2 数据降维 / 140

9.2.1 PCA主成分分析原理 / 140

9.2.2 对数据降维以便于进行可视化 / 142

9.2.3 原始特征与PCA主成分之间的关系 / 143

9.3 特征提取 / 144

9.3.1 PCA主成分分析法用于特征提取 / 145

9.3.2 非负矩阵分解用于特征提取 / 148

9.4 聚类算法 / 149

9.4.1 K均值聚类算法 / 150

9.4.2 凝聚聚类算法 / 153

9.4.3 DBSCAN算法 / 154

9.5 小结 / 157

第10章 数据表达与特征工程——锦上再添花

10.1 数据表达 / 160

10.1.1 使用哑变量转化类型特征 / 160

10.1.2 对数据进行装箱处理 / 162

10.2 数据“升维“ / 166

10.2.1 向数据集添加交互式特征 / 166

10.2.2 向数据集添加多项式特征 / 170

10.3 自动特征选择 / 173

10.3.1 使用单一变量法进行特征选择 / 173

10.3.2 基于模型的特征选择 / 178

10.3.3 迭代式特征选择 / 180

10.4 小结 / 182

第11章 模型评估与优化——只有更好，没有好

11.1 使用交叉验证进行模型评估 / 184

11.1.1 scikit-learn中的交叉验证法 / 184

11.1.2 随机拆分和“挨个儿试试“ / 186

11.1.3 为什么要使用交叉验证法 / 188

11.2 使用网格搜索优化模型参数 / 188