深度核机器学习技术及应用

第1章绪论

1．1机器学习中学习的含义

I-2机器学习问题的一般描述

l_3机器学习的实现

1．4学习的基本形式

1．5学习在数据降维上的应用

第2章机器学习基础理论

2．1线性回归分析  

2．2贝叶斯分类器  

2-3聚类分析  

2．4决策树  

2．5神经网络

2．6深度学习

2．7隐马尔可夫模型

2．8强化学习

2 9集成式学习

2．10关联学习  

第3章支持向量机与多核学习理论

3．1  支持向量机

3．2核学习的数学基础

3．3  多核学习-  

.......

    1．1机器学习中学习的含义

    在机器学习方法中，其所体现的“学习”’与多个科学研究领域都有比较密切的相关性，因此人们无法对其提出一个准确无误的定义方法，所以在不同领域的研究人员对学习的定义方法也不同。下而是不同学者从不同的角度出发给出的定义。从系统的角度，西蒙(H．A．simon)认为：  “学习能够体现出信号系统的一种适应能力。假设在一个已知系统执行过程中，能够有针对性的改善系统的功能性能指标，那么这就可以看作系统具有一种学习能力。这种改进与学习能力对系统是有意义的，能够帮助系统更加高效地完成工作。”从神经网络的角度，赫金(s．Haykin)认为：  “学习是一个参数不断变化的过程，这种参数的变化与外界的条件激励有关，学习的方法由激励的方式决定，当外界激励进行刺激时，参数机会自适应的变化，进而最终获得确定。”从模式识别的角度，杜达(Duda)等人认为：  “最广义地讲，在面向分类任务的科学技术与技巧方面，如果运用了训练案例的手段，就町以看作是一种机器学习的方式。”此外，最新的定义是瓦普尼克(V．vapnik)提出的，在他的观点下，学习可以这样来描述：  “为了找到变量之间的相互关系，可以使用一定数量的感知信息进行映射。”学习包括多种多样的特殊的问题，但是对于机器学习领域而言，其可以总结为三个主要问题：第一个问题是用于计算的概率密度估计问题；第二个问题是用于目标发现的模式识别的问题；第三个问题是用于预测函数回归估计的问题。

    1．2机器学习问题的一般描述

    人们可以利用系统模型对学习进行描述，进而更为清楚地理解学习的定义。根据学习的定义，学习问题可以被看作是人们为了找到变量之间的相互关系，可以使用一定数量的感知信息进行映射的问题，一种常见的学习表示系统模型示意图如图1-2．1所示。

    其中，G可以看作是感知数据的发生装置，这种数据发生装置的作用是产生随机变量样本值向量x∈R，这种样本值是独立提取的，是一种不变位置的分布情况。S可以看作是一个训练装置，输入样本值向量x进入训练装置后，装置产生一个输}}；值样本值Y，输出样本值符合一种概率分布，这种概率分布

......

本书以深度核机器学习技术为对象, 介绍了支持向量机技术、多核学习技术和深度学习技术的相关内容, 包括基本原理、主流算法形式、参数设计策略及相应的实验分析等, 并结合图像特征提取和遥感图像目标识别等场景阐述了先进机器学习的典型应用案例。