噪声标注条件下机器学习分类方法

第1章绪论

1.1研究背景

1.2研究现状

1.2.1基于滤波的算法

1.2.2基于模型调整的算法

1.2.3主要问题

第2章噪声标注情景下的传统学习方法

2.1 理论分析

2.1.1 DT算法

2.1.2 AdaBoost算法

2.1.3Bagging算法

2.1.4线性模型

2.1.5 KNN算法

2.1.6 NB算法

2.2实验分析

2.2.1实验的设置与相关算法

2.2.2二分类情景下的实验分析

2.2.3多分类情景下的实验分析

2.3本章小结

……

第3章噪声标注情景下的通用建模方法

第4章噪声率矩阵估计方法

第5章算法设计案例及应用分析

第6章展望

参考文献

附录

1.2研究现状

大数据背景下，样本的噪声在现实生活、工业生产和工程应用中都普遍存在。这些噪声来源广泛，包括传感器系统测定的偏误和数据加工过程的偏误。算法的性能与数据的质量有着密不可分的关系32]，对于数据质量的管理和研究具有重要意义。例如，在回归问题中经常用到的一个假设就是样本的输出服从高斯白噪声，在这种情况下，最小二乘给出的参数估计是理论上具有最小方差且无偏的[4]。但在分类问题中，标注的噪声往往更加复杂。鉴于标注噪声的存在直接损害了分类器的可靠性与性能[32]，设计相应的算法保持在噪声标注下学习的鲁棒性是极具挑战性和有现实价值的课题。

从统计的角度来说，标注的噪声类型受到各种因素的影响，为了更好地归纳弱标注环境下的学习问题，可以利用概率图的方式给出三种常见的标注噪声及其对应的条件依赖关系。

图1.2中的实线代表随机变量之间的概率依赖关系，虚线代表任务中的预测关系，这三种情况是对现实中标注噪声的概率式约简。其中，图1.2(a)代表了噪声独立于输人特征与输人标注的情况;图1.2(b)代表了标注噪声只通过真实标注进行污染的情况，图1.2(c)代表了标注的噪声同时受到输人特征与真实标注的影响。可以看出，图1.2(c)对应的噪声情形更加复杂，而图1.2(a)和图1.2(b)对应的噪声情形则较为普遍和简洁。

……

21世纪是数据的时代，一方面数据容量在快速增长，另一方面统计机器学习理论对数据标注的精准性有着严格要求，然而精准标注需要很多领域内的专家，消耗大量金钱和时间等资源。为了实现大规模数据的快速标注，以众包(crowdsourcing)和弱监督算法为代表的噪声标注即将成为大数据时代标注技术发展的趋势。在这种情景下，噪声标注数据对学习算法的鲁棒性和自适应性带来了前所未有的挑战。本书针对近些年弱监督机器学习中的噪声标注学习问题进行了综述，系统地介绍了标注噪声的建模和估计方法及噪声标注情景下的学习算法设计方法。