统计学习理论

图书标准信息

• 作者 [美]瓦普尼克 著；许建华、张学工 译
• 出版社 电子工业出版社
• 出版时间 2009-03
• 版次 1
• ISBN 9787121083723
• 定价 69.00元
• 装帧 平装
• 开本 16开
• 纸张 胶版纸
• 页数 559页
• 字数 934千字
• 正文语种 简体中文

【内容简介】

　　本书的创立者是VladimirN.Vapnik。统计学习理论是研究利用经验数据进行机器学习的一种一般理论，属于计算机科学、模式识别和应用统计学相交叉与结合的范畴。统计学习理论的基本内容诞生于20世纪60~70年代，到90年代中期发展到比较成熟并受到世界机器学习界的广泛重视，其核心内容反映在Vapnik的两部重要著作中，本书即是其中一部，另一部是“TheNatureofStatisticalLearningTheory”（《统计学习理论的本质》）。由于较系统地考虑了有限样本的情况，统计学习理论与传统统计学理论相比有更好的实用性，在这一理论下发展出的支持向量机（SVM）方法以其有限样本下良好的推广能力而备受重视。
　　本书是对统计学习理论和支持向量机方法的全面、系统、详尽的阐述，是各领域中研究和应用机器学习理论与方法的科研工作者和研究生的重要参考资料。

【作者简介】

　　VIadimirN．Vaonik，Vapnik于1990年加入美国AT&T贝尔实验室，现仍担任顾问，1995年起任英国RoyalHolloway大学计算机和统计学教授。Vapnik教授从事计算机科学、理论与应用统计学研究已有30多年，发表了7部学术著作和上百篇研究论文。他的主要学术成就是研究发展了一套基于经验数据估计依赖关系的一般理论，即统计学习理论，以及在此理论基础上的一种新的学习机器——支持向量机，它具有很高的推广能力。这些理论与方法可以用在很多模式识别和回归估计问题中，并已经在很多实际问题中取得了很好的应用成果。

【目录】

引论：归纳和统计推理问题
0.1统计学中的学习理论体系
O.2统计推理的两种方法：特殊方法（参数推理）和通用方法（非参数推理）
0.3参数方法的体系
O.4参数体系的缺点
0.5经典体系后的发展
0.6复兴阶段
0.7Glivenko-Cantelli-Kolmogomv理论的推广
O.8结构风险最小化原则
0.9小样本集推理的主要原则
0.10本书的要点

第一部分学习和推广性理论
第1章处理学习问题的两种方法
1.1基于实例学习的一般模型
1.2最小化经验数据风险泛函的问题
1.3模式识别问题
1.4回归估计问题
1.5解释间接测量结果的问题
1.6密度估计问题（Fisher-Wald表达）
1.7基于经验数据最小化风险泛函的归纳原则
1.8解函数估计问题的经典方法
1.9随机对象的识别：密度和条件密度估计
1.10解近似确定性积分方程的问题
1.11Glivenko-Cantelli定理
1.12不适定问题
1.13学习理论的结构
第1附录解不适定问题的方法
A1.1解算子方程问题
A1.2Tikhonov意义下的适定问题
A1.3正则化方法

第2章概率测度估计与学习问题
2.1随机实验的概率模型
2.2统计学的基本问题
2.3估计一致收敛于未知概率测度的条件
2.4部分一致收敛性和Glivenko.Cantelli定理的推广
2.5在概率测度估计一致收敛的条件下最小化风险泛函
2.6在概率测度估计部分一致收敛的条件下最小化风险泛函
2.7关于概率测度估计收敛方式和学习问题表达的评述

第3章经验风险最小化原则一致性的条件
3.1一致性的经典定义
3.2严格（非平凡）一致性的定义
3.3经验过程
3.4学习理论的关键定理（关于等价性的定理）
3.5关键定理的证明
3.6最大似然方法的严格一致性
3.7频率一致收敛于概率的充分必要条件
3.8有界实函数集均值一致收敛于期望的充分必要条件
3.9无界函数集均值一致收敛于期望的充分必要条件
3.10Kant的划分问题和Popper的不可证伪学说
3.11不可证伪性定理
3.12一致单边收敛性经验风险最小化原则和一致性的条件
3.13学习理论的三个里程碑

第4章指示损失函数风险的界
4.1最简单模型的界：悲观情况
4.2最简单模型的界：乐观情况
4.3最简单模型的界：一般情况
4.4基本不等式：悲观情况
4.5定理4.1的证明
4.6基本不等式：一般情况
4.7定理4.2的证明
4.8主要的非构造性的界
4.9VC维
4.10定理4.3的证明
4.11不同函数集的VC维的例子
4.12关于学习机器推广能力的界的评述
4.13两个等分样本子集上频率差的界

第4章附录关于ERM原则风险的下界
A4.1统计推理中的两种策略
A4.2学习问题的最小最大损失策略
A4.3经验风险最小化原则的最大损失的上界
A4.4乐观情形下最小最大损失策略的下界
A4.5悲观情形下最小最大损失策略的下界

第5章实损失函数风险的界
5.1最简单模型的界：悲观情形
5.2实函数集的容量
5.3一般模型的界：悲观情形
5.4基本不等式
5.5一般模型的界：普遍情形
5.6一致相对收敛的界
5.7无界损失函数集中风险最小化问题的先验信息
5.8无界非负函数集的风险的界
5.9样本选择与野值问题
5.10界理论的主要结果

第6章结构风险最小化原则
6.1结构风险最小化归纳原则的构架
6.2最小描述长度和结构风险最小化归纳原则
6.3结构风险最小化原则的一致性与关于收敛速率的渐近界
6.4回归估计问题的界
6.5函数逼近问题
6.6局部风险最小化问题

第6章附录基于间接测量的函数估计
A6.1估计间接测量结果的问题
A6.2关于利用间接测量估计函数的定理
A6.3定理的证明

第7章随机不适定问题
7.1随机不适定问题
7.2解随机不适定问题的正则化方法
7.3定理的证明
7.4密度估计方法一致性的条件
7.5非参数密度估计子：基于经验分布函数逼近分布函数的估计子
7.6非经典估计子
7.7光滑密度函数的渐近收敛速率
7.8定理7.4的证明
7.9密度估计问题中光滑（正则化）参数值的选取
7.10两个密度比值的估计
7.11直线上两个密度比值的估计
7.12直线上条件概率的估计

第8章估计给定点上的函数值
8.1最小化总体风险的方法
8.2总体风险的结构最小化方法
8.3关于两个样本子集上频率的一致相对偏差的界
8.4关于两个样本子集上均值的一致相对偏差的界
8.5在线性决策规则集中估计指示函数的值
8.6指示函数值估计的样本选取
8.7在与参数成线性关系的函数集中估计实函数值
8.8实函数值估计的样本选取
8.9估计指示函数值的局部算法
8.10估计实函数值的局部算法
8.11在给定样本集中寻找最好点的问题

第二部分函数的支持向量估计
第9章感知器及其推广
9.1Rosenblatt感知器
9.2定理的证明
9.3随机逼近方法和指示函数的Sigmpid逼近方法
9.4势函数法与径向基函数法
9.5最优化理论中的三个定理
9.6神经网络

第10章估计指示函数的支持向量方法
10.1最优超平面
10.2不可分样本集的最优超平面
10.3最优超平面的统计特性
10.4定理的证明
10.5支持向量机的思想
10.6支持向量方法的另一种构造方式
10.7利用界选择支持向量机
10.8模式识别问题的支持向量机的例子
10.9转导推理的支持向量方法
10.10多类分类
10.11关于支持向量方法推广性的评述

第11章估计实函数的支持向量方法
11.1ε不敏感损失函数
11.2鲁棒估计子的损失函数
11.3最小化包含ε不敏感损失函数的风险
11.4函数估计的支持向量机
11.5构造实函数估计的核
11.6生成样条的核
11.7生成Fourier展开的核
11.8函数逼近和回归估计的支持向量ANOVA分解
11.9解线性算子方程的支持向量方法
11.10密度估计的支持向量方法
11.11条件概率函数和条件密度函数的估计
11.12支持向量方法与稀疏函数逼近之间的关系

第12章模式识别的支持向量机
12.1二次优化问题
12.2数字识别问题：美国邮政服务数据库
12.3切距
12.4数字识别问题：NIST数据库
12.5将来的竞争

第13章函数逼近、回归估计和信号处理的支持向量机
13.1模型选择问题
13.2正则化线性函数集上的结构
13.3利用支持向量方法的函数逼近
13.4回归估计的支持向量机
13.5求解正电子放射层析成像（PET）问题的支持向量方法
13.6关于支持向量方法的评述

第三部分学习理论的统计学基础
第14章频率一致收敛于概率的充分必要条件
14.1频率一致收敛于概率
14.2基本引理
14.3事件集的熵
14.4熵的渐近性质
14.5一致收敛性的充分必要条件：充分性的证明
14.6一致收敛性的充分必要条件：必要性的证明
14.7充分必要条件：必要性的证明（续）

第15章均值一致收敛于期望的充分必要条件
15.1ε熵
15.2伪立方体
15.3集合的ε扩张
15.4辅助引理
15.5一致收敛性的充分必要条件：必要性的证明
15.6一致收敛性的充分必要条件：充分性的证明
15.7定理15.1的推论

第16章均值一致单边收敛于期望的充分必要条件
16.1引言
16.2最大体积部分
16.3平均对数定理
16.4走廊存在性定理
16.5邻近走廊边界的函数的存在性定理（潜在不可证伪的定理）
16.6必要条件
16.7充分必要条件
注释与参考文献评述
参考文献
中英文术语对照表