Python机器学习中的数学修炼（清华开发者书库.Python）

图书标准信息

• 作者 左飞 著
• 出版社 清华大学出版社
• 出版时间 2021-04
• 版次 1
• ISBN 9787302570929
• 定价 99.00元
• 装帧 平装
• 开本 16开
• 纸张 胶版纸
• 页数 464页

【内容简介】

数学是机器学习和数据科学的基础，任何期望涉足相关领域并切实领悟具体技术与方法的人都无法绕过数学这一关。本书系统地整理并介绍了机器学习中所涉及的必备数学基础，这些都是笔者从浩如烟海的数学知识中精心萃取的，在学习和研究机器学习技术时所必须的内容。具体包括微积分（主要是与z优化内容相关的部分）、概率论与数理统计、数值计算、信息论、凸优化、泛函分析基础与变分法，以及蒙特卡洛采样等话题。为了帮助读者加深理解并强化所学，本书还从上述数学基础出发进一步介绍了回归、分类、聚类、流形学习、集成学习，以及概率图模型等机器学习领域中的重要话题。其间，本书将引领读者循序渐进地拆解各路算法的核心设计思想及彼此间的关联关系，并结合具体例子演示基于Python进行实际问题求解的步骤与方法。真正做到理论与实践并重，让读者知其然更知其所以然。本书可作为机器学习及相关课程的教学参考书，适用于高等院校人工智能、机器学习或数据挖掘等相关专业的师生研习之用，也可供从事计算机应用（特别是数据科学相关专业）的研发人员参考。

【作者简介】

左飞  博士，技术作家、译者。著作涉及人工智能、图像处理和编程语言等多个领域，其中两部作品的繁体版在中国台湾地区发行。同时，他还翻译出版了包括《编码》在内的多部经典著作。曾荣获“最受读者喜爱的IT图书作译者奖”。他撰写的技术博客（https://baimafujinji.blog.csdn.net/）非常受欢迎，累计拥有近500万的访问量。

【目录】

 

目录

 

 

 

 

 

第1章最优化基础

 

 

1.1泰勒公式

 

 

1.2黑塞矩阵

 

 

1.3正定与半正定矩阵

 

 

1.4凸函数与詹森不等式

 

 

1.4.1凸函数的概念

 

 

1.4.2詹森不等式及其证明

 

 

1.4.3詹森不等式的应用

 

 

1.5泛函与抽象空间

 

 

1.5.1线性空间

 

 

1.5.2距离空间

 

 

1.5.3赋范空间

 

 

1.5.4巴拿赫空间

 

 

1.5.5内积空间

 

 

1.5.6希尔伯特空间

 

 

1.6从泛函到变分法

 

 

1.6.1理解泛函的概念

 

 

1.6.2关于变分概念

 

 

1.6.3变分法的基本方程

 

 

1.6.4哈密顿原理

 

 

1.6.5等式约束下的变分

 

 

第2章概率论基础

 

 

2.1概率论的基本概念

 

 

2.2随机变量数字特征

 

 

2.2.1期望

 

 

2.2.2方差

 

 

2.2.3矩与矩母函数

 

 

2.2.4协方差与协方差矩阵

 

 

2.3基本概率分布模型

 

 

2.3.1离散概率分布

 

 

2.3.2连续概率分布

 

 

2.4概率论中的重要定理

 

 

2.4.1大数定理

 

 

2.4.2中心极限定理

 

 

2.5经验分布函数

 

 

 

 

 

 

 

 

 

 

 

 

 

 

第3章统计推断

 

 

3.1随机采样

 

 

3.2参数估计

 

 

3.2.1参数估计的基本原理

 

 

3.2.2单总体参数区间估计

 

 

3.2.3双总体均值差的估计

 

 

3.2.4双总体比例差的估计

 

 

3.3假设检验

 

 

3.3.1基本概念

 

 

3.3.2两类错误

 

 

3.3.3均值检验

 

 

3.4最大似然估计

 

 

3.4.1最大似然法的基本原理

 

 

3.4.2求最大似然估计的方法

 

 

第4章采样方法

 

 

4.1蒙特卡洛法求定积分

 

 

4.1.1无意识统计学家法则

 

 

4.1.2投点法

 

 

4.1.3期望法

 

 

4.2蒙特卡洛采样

 

 

4.2.1逆采样

 

 

4.2.2博克斯材吕毡浠

 

 

4.2.3拒绝采样与自适应拒绝采样

 

 

4.3矩阵的极限与马尔可夫链

 

 

4.4查普曼部露莫哥洛夫等式

 

 

4.5马尔可夫链蒙特卡洛方法

 

 

4.5.1重要性采样

 

 

4.5.2马尔可夫链蒙特卡洛方法的基本概念

 

 

4.5.3米特罗波利斯埠谒雇⑺顾惴

 

 

4.5.4吉布斯采样

 

 

第5章信息论基础

 

 

5.1信息论中的熵

 

 

5.2微分熵与KullbackLeibler散度

 

 

5.2.1微分熵

 

 

5.2.2微分熵与香农熵的关系

 

 

5.2.3相对熵

 

 

5.3率失真函数

 

 

5.4香农下边界

 

 

第6章一元线性回归

 

 

6.1回归分析的性质

 

 

6.2回归的基本概念

 

 

6.2.1总体的回归函数

 

 

6.2.2随机干扰的意义

 

 

6.2.3样本的回归函数

 

 

6.3回归模型的估计

 

 

6.3.1普通最小二乘法原理

 

 

6.3.2一元线性回归的应用

 

 

6.3.3经典模型的基本假定

 

 

6.3.4总体方差的无偏估计

 

 

6.3.5估计参数的概率分布

 

 

6.4正态条件下的模型检验

 

 

6.4.1拟合优度的检验

 

 

6.4.2整体性假定检验

 

 

6.4.3单个参数的检验

 

 

6.5一元线性回归模型预测

 

 

6.5.1点预测

 

 

6.5.2区间预测

 

 

第7章多元线性回归

 

 

7.1多元线性回归模型

 

 

7.2多元回归模型估计

 

 

7.2.1最小二乘估计量

 

 

7.2.2多元回归实例

 

 

7.2.3总体参数估计量

 

 

7.3从线性代数角度理解最小二乘

 

 

7.3.1最小二乘问题的通解

 

 

7.3.2最小二乘问题的计算

 

 

7.4多元回归模型检验

 

 

7.4.1线性回归的显著性

 

 

7.4.2回归系数的显著性

 

 

7.5多元线性回归模型预测

 

 

7.6格兰杰因果关系检验

 

 

第8章线性回归进阶

 

 

8.1更多回归模型函数形式

 

 

8.1.1双对数模型以及生产函数

 

 

8.1.2倒数模型与菲利普斯曲线

 

 

8.1.3多项式回归模型及其分析

 

 

8.2回归模型的评估与选择

 

 

8.2.1嵌套模型选择

 

 

8.2.2赤池信息准则

 

 

8.3现代回归方法的新进展

 

 

8.3.1多重共线性

 

 

8.3.2从岭回归到LASSO

 

 

8.3.3正则化与没有免费午餐原理

 

 

8.3.4弹性网络

 

 

8.3.5RANSAC

 

 

第9章逻辑回归与最大熵模型

 

 

9.1逻辑回归

 

 

9.2牛顿法解Logistic回归

 

 

9.3应用实例： 二分类问题

 

 

9.3.1数据初探

 

 

9.3.2建模

 

 

9.4多元逻辑回归

 

 

9.5最大熵模型

 

 

9.5.1最大熵原理

 

 

9.5.2约束条件

 

 

9.5.3模型推导

 

 

9.5.4极大似然估计

 

 

9.6应用实例： 多分类问题

 

 

9.6.1数据初探

 

 

9.6.2建模

 

 

第10章感知机与神经网络

 

 

10.1从感知机开始

 

 

10.1.1感知机模型

 

 

10.1.2感知机学习

 

 

10.1.3多层感知机

 

 

10.1.4感知机应用示例

 

 

10.2基本神经网络

 

 

10.2.1神经网络结构

 

 

10.2.2符号标记说明

 

 

10.2.3后向传播算法

 

 

10.3神经网络实践

 

 

10.3.1建模

 

 

10.3.2Softmax与神经网络

 

 

第11章支持向量机与核方法

 

 

11.1线性可分的支持向量机

 

 

11.1.1函数距离与几何距离

 

 

11.1.2最大间隔分类器

 

 

11.1.3拉格朗日乘数法

 

 

11.1.4对偶问题的求解

 

 

11.2松弛因子与软间隔模型

 

 

11.3非线性支持向量机方法

 

 

11.3.1从更高维度上分类

 

 

11.3.2非线性核函数方法

 

 

11.3.3机器学习中的核方法

 

 

11.3.4默瑟定理

 

 

11.4对数据进行分类的实践

 

 

11.4.1数据分析

 

 

11.4.2线性可分的例子

 

 

11.4.3线性不可分的例子

 

 

第12章决策树

 

 

12.1决策树基础

 

 

12.1.1Hunt算法

 

 

12.1.2基尼测度与划分

 

 

12.1.3信息熵与信息增益

 

 

12.1.4分类误差

 

 

12.2决策树进阶

 

 

12.2.1ID3算法

 

 

12.2.2C4.5算法

 

 

12.3分类回归树

 

 

12.4决策树剪枝

 

 

12.5决策树应用实例

 

 

第13章集成学习

 

 

13.1集成学习的理论基础

 

 

13.2Bootstrap方法

 

 

13.3Bagging与随机森林

 

 

13.3.1算法原理

 

 

13.3.2应用实例

 

 

13.4Boosting与AdaBoost

 

 

13.4.1算法原理

 

 

13.4.2应用实例

 

 

13.5梯度提升

 

 

13.5.1梯度提升树与回归

 

 

13.5.2梯度提升树与分类

 

 

13.5.3梯度提升树的原理推导

 

 

第14章聚类分析

 

 

14.1聚类的概念

 

 

14.2k均值算法

 

 

14.2.1距离度量

 

 

14.2.2算法描述

 

 

14.2.3应用实例――图像的色彩量化

 

 

14.3最大期望算法

 

 

14.3.1算法原理

 

 

14.3.2收敛探讨

 

 

14.4高斯混合模型

 

 

14.4.1模型推导

 

 

14.4.2应用实例

 

 

14.5密度聚类

 

 

14.5.1DBSCAN算法

 

 

14.5.2应用实例

 

 

14.6层次聚类

 

 

14.6.1AGNES算法

 

 

14.6.2应用实例

 

 

14.7谱聚类

 

 

14.7.1基本符号

 

 

14.7.2拉普拉斯矩阵

 

 

14.7.3相似图

 

 

14.7.4谱聚类切图

 

 

14.7.5算法描述

 

 

14.7.6应用实例

 

 

第15章矩阵分解、降维与流形学习

 

 

15.1主成分分析

 

 

15.2奇异值分解

 

 

15.2.1一个基本的认识

 

 

15.2.2为什么可以做SVD

 

 

15.2.3SVD与PCA的关系

 

 

15.2.4应用示例与矩阵伪逆

 

 

15.3多维标度法

 

 

第16章贝叶斯定理及其应用

 

 

16.1贝叶斯推断中的基本概念

 

 

16.1.1贝叶斯公式与边缘分布

 

 

16.1.2先验概率与后验概率

 

 

16.1.3共轭分布

 

 

16.2朴素贝叶斯分类器原理

 

 

16.3贝叶斯网络

 

 

16.3.1基本结构单元

 

 

16.3.2模型推理

 

 

16.4贝叶斯网络的应用示例

 

 

16.5隐马尔可夫模型

 

 

16.5.1随机过程

 

 

16.5.2从时间角度考虑不确定性

 

 

16.5.3前向算法

 

 

16.5.4维特比算法

 

 

附录A数学传奇

 

 

参考文献