数据科学概率基础

不确定性给人们带来的迷惑需要在坚实的概率论的基础上去解除。这恰好体现了概率的重要性和未来发展的方向。本书先介绍经典的概率模型、随机变量和数字特征工具，之后引入概率论的精华——大数定律和中心极限定理，正是它们揭示了随机现象背后隐藏的确定性规律。在此基础上，结合概率、统计、信息论、数据科学的前沿理论发展方向，引入最新的非特征函数方法(随机耦合的想法和斯泰因方法)研究大数定律和中心极限定理，给出逼近的误差界。本书注重用计算机程序模拟一些概率事件、基于概率的算法的实现。我们坚信数据科学、概率论也是要靠积极动手去做题、编程才能学好，才能将概率论的思想方法内化于心、外化于行。 

第 1 章 随机事件与概率空间 1
1．1 概率是什么 1
1．2 随机事件及其运算律 3
1．3 古典概型 7
1．4 几何概型 12
1．5 概率空间 16
1．6 本章小结 23
1．7 练习一 23
第 2 章 事件的条件概率与独立性 26
2．1 条件概率 27
2．2 事件的独立性 ．34
2．3 与条件概率有关的陷阱与悖论 43
2．4 本章小结46
2．5 练习二 46
2．6 数据科学扩展——概率问题的数值模拟 48
第 3 章 随机变量、随机向量及其概率分布54
3．1 随机变量及其分布规律54
3．2 离散型随机变量 57
3．3 连续型随机变量 67
3．4 其他分类下的典型随机变量 75
3．5 随机变量的函数 76 
3．6 随机向量及其概率分布80
3．7 随机变量的独立性 86
3．8 随机向量的函数 87
3．9 本章小结 93
3．10 练习三 93
3．11 数据科学扩展——概率分布的数值模拟 95
第 4 章 期望、信息熵、矩母函数、特征
函数与数字特征 110
4．1 数学期望 110
4．2 方差、矩与数字特征 121
4．3 条件期望 133
4．4 信息熵 136
4．5 矩母函数与概率母函数 146
4．6 特征函数 151
4．7 本章小结 165
4．8 练习四 166
4．9 数据科学扩展——随机变量数字特征的数值模拟 168
第 5 章 大数定律与中心极限定理 177
5．1 随机变量列的收敛 178
5．2 大数定律 185
5．3 强大数定律 191 
5．4 中心极限定理 201
5．5 本章小结 210
5．6 练习五 210
5．7 数据科学扩展——大数定律与中心极限定理的数值模拟 212
第 6 章 前沿方法选讲与概率不等式 214
6．1 随机耦合 214 
6．2 泊松近似 217
6．3 斯泰因方法在正态分布中的应用 221
6．4 概率不等式 226
6．5 本章小结 232
6．6 练习六 232
参考文献 234

不确定性给人们带来的迷惑需要在坚实的概率论的基础上去解除。这恰好体现了概率的重要性和未来发展的方向。本书先介绍经典的概率模型、随机变量和数字特征工具，之后引入概率论的精华——大数定律和中心极限定理，正是它们揭示了随机现象背后隐藏的确定性规律。在此基础上，结合概率、统计、信息论、数据科学的前沿理论发展方向，引入最新的非特征函数方法(随机耦合的想法和斯泰因方法)研究大数定律和中心极限定理，给出逼近的误差界。本书注重用计算机程序模拟一些概率事件、基于概率的算法的实现。我们坚信数据科学、概率论也是要靠积极动手去做题、编程才能学好，才能将概率论的思想方法内化于心、外化于行。