【现货速发】模式识别 使用MATLAB分析与实现

模式识别是研究如何使机器(计算机)具有类似于人类对各种事物进行分析、判断、识别能力的理论和技术，是人工智能技术的重要组成部分，其应用领域越来越广泛，对国民经济、社会生活和科学技术等方面都产生了巨大的影响。
由于模式识别技术对现代社会的深远影响，“模式识别”已经成为高等院校人工智能、计算机、信息、自动化、遥感、控制等多个学科领域的一门重要专业课程。
在“模式识别”课程的学习中，常有学生认为课程较难，导致这种情况的主要原因有两个： 一是“模式识别”课程涉及大量的数学理论，如微积分、线性代数、概率论、数理分析、优化理论等，本科生对这些理论的应用经验有所不足，短时间内较难达到对多方面数学知识综合应用的融会贯通； 二是模式识别学习需要对算法进行仿真实现，受限于数学基础和编程经验，轻松、流畅地实现算法成为学习中的一个难点。
针对这些问题，在编写教材时，以便于学习为出发点，笔者做了多方面的尝试。教材对于算法的推导尽量详细，受限于篇幅不能展开的数学知识，也给出关键词，便于学生理解及扩展学习； 编写了大量小例题，在简单数据上进行计算实现算法，有助于对算法的理解。为辅助编程仿真，清晰列出算法实现的步骤； 设计仿真例题； 简要介绍MATLAB中封装好的函数，并设计基于函数的仿真程序； 在每章后安排编程实例，以供参考学习； 安排改写或编写程序习题，加强练习。
全书共分为11章，每章阐述模式识别中的一个知识点，内容包括贝叶斯决策、概率密度函数的估计、线性判别分析、非线性判别分析、组合分类器、无监督模式识别、特征选择、特征提取、半监督学习以及人工神经网络。除了经典算法以外，书中增加了部分较新的理论和算法，读者可以选择性地学习。本书还配以电子课件、MATLAB仿真程序和实验指导书，便于教和学。
本书是“中国矿业大学特色专业教材”，本书的编写受到中国矿业大学教学研究项目——“特色专业教材建设”项目的资助，中国矿业大学李世银老师、王雪松老师在本书的编写过程中给予了无私的帮助和支持，本书的编写参考了大量的文献，在此表示真诚的感谢。
由于编者学识水平所限，书中不足之处敬请读者不吝指正。
编者2022年5月

本书依据作者多年从事模式识别教学和研究的体会,并参考相关文献编写而成,概括地介绍了模式识 别理论和技术的基本概念、原理、方法和实现。 全书共分为11章,每章阐述模式识别中的一个知识点,内容包括贝叶斯决策、概率密度函数的估计、 线性判别分析、非线性判别分析、组合分类器、无监督模式识别、特征选择、特征提取、半监督学习以及人工 神经网络。除了经典算法以外,本书增加了部分较新的理论和算法,读者可以选择性地学习。本书还配以 电子课件、MATLAB仿真程序和实验指导书,便于教和学。 本书可以作为高等学校人工智能、计算机、信息、自动化、遥感、控制等专业本科生或研究生的教材或 参考书,也可以作为从事相关研究与应用人员的参考书。

蔡利梅：中国矿业大学信息与控制工程学院副教授，长期从事图像处理与模式识别领域的教学和研究工作。先后开设“图像处理”“模式识别”“计算机图形学”“数字视频技术”“图像分析及识别” 等多门本科生及研究生课程。获*高等学校科学技术进步奖二等奖、河南省科技进步奖二等奖、江苏省科学技术奖三等奖、中国煤炭工业协会科学技术奖一等奖等省部级以上科技奖励8项；获国家发明专利授权2项；出版普通高校教材2部、科技专业图书1部；获校级优秀教学成果一等奖1项，全国煤炭行业教育教学成果奖三等奖1项，获校级“教书育人先进个人”“百佳教师”等荣誉。

第1章绪论
1.1模式识别的基本概念
1.2模式识别方法
1.3模式识别系统
1.4模式识别的应用
习题
第2章贝叶斯决策
2.1贝叶斯决策的基本概念
2.2小错误率贝叶斯决策
2.2.1决策规则
2.2.2错误率
2.2.3仿真实现
2.3小风险贝叶斯决策
2.3.1决策规则
2.3.2两种贝叶斯决策的关系
2.4朴素贝叶斯分类器
2.5NeymanPearson决策规则
2.6判别函数和决策面
2.7正态分布模式的贝叶斯决策
2.7.1正态概率密度函数
2.7.2正态概率模型下的小错误率贝叶斯分类器
2.7.3仿真实现
2.8贝叶斯决策的实例
习题
第3章概率密度函数的估计
3.1基本概念
3.2参数估计
3.2.1似然估计
3.2.2后验估计
3.2.3贝叶斯估计
3.3非参数估计
3.3.1直方图方法
3.3.2Parzen窗法
3.3.3kN近邻密度估计法
3.4小错误率贝叶斯决策的实例
习题
第4章线性判别分析
4.1基本概念
4.1.1线性判别函数
4.1.2广义线性判别函数
4.1.3线性判别函数的设计
4.2Fisher线性判别分析
4.2.1基本原理
4.2.2准则函数及求解
4.2.3分类决策
4.2.4仿真实现

4.3感知器算法
4.3.1基本概念
4.3.2感知器准则函数及求解
4.3.3仿真实现
4.4小二乘法
4.4.1平方误差和准则函数
4.4.2均方误差准则函数
4.4.3仿真实现
4.5支持向量机
4.5.1分类超平面与线性支持向量机
4.5.2非线性可分与线性支持向量机
4.5.3核函数与支持向量机
4.5.4仿真实现
4.6多类问题
4.6.1化多类分类为两类分类
4.6.2多类线性判别函数
4.6.3纠错输出编码方法
4.7线性判别分析的实例
习题
第5章非线性判别分析
5.1近邻法
5.1.1小距离分类器
5.1.2分段线性距离分类器
5.1.3近邻法及仿真实现
5.2二次判别函数
5.3决策树
5.3.1基本概念
5.3.2决策树的构建
5.3.3过学习与决策树的剪枝
5.3.4仿真实现
5.4Logistic回归
5.4.1基本原理
5.4.2多分类任务
5.4.3仿真实现
5.5非线性判别分析的实例
习题
第6章组合分类器
6.1组合分类器的设计
6.1.1个体分类器的差异设计
6.1.2分类器性能度量
6.1.3组合策略
6.2Bagging算法
6.3随机森林
6.4Boosting算法
6.4.1AdaBoost算法
6.4.2LogitBoost算法
6.4.3Gentle AdaBoost算法
6.4.4仿真实现
6.5组合分类的实例
习题
第7章无监督模式识别
7.1聚类的基本概念
7.2相似性测度
7.2.1样本相似性测度
7.2.2点和集合之间的相似性测度
7.2.3集合和集合之间的相似性测度
7.3动态聚类
7.3.1C均值算法
7.3.2ISODATA算法
7.4层次聚类
7.4.1分裂层次聚类
7.4.2合并层次聚类
7.4.3仿真实现
7.5高斯混合聚类
7.5.1高斯混合分布
7.5.2高斯混合聚类
7.5.3EM算法
7.5.4仿真实现
7.6模糊聚类
7.6.1模糊集的基本知识
7.6.2模糊C均值算法
7.7密度聚类
7.8聚类性能度量
7.8.1外部准则
7.8.2内部准则
7.8.3仿真实现
7.9聚类分析的实例
习题
第8章特征选择
8.1概述
8.2特征的评价准则
8.2.1基于类内类间距离的可分性判据
8.2.2基于概率分布的可分性判据
8.2.3基于熵函数的可分性判据
8.2.4基于统计检验的可分性判据
8.2.5特征的相关性评价
8.3特征选择的优化算法
8.3.1特征选择的算法
8.3.2特征选择的次优算法
8.3.3特征选择的启发算法
8.4过滤式特征选择方法
8.4.1小冗余相关算法
8.4.2Relief和ReliefF算法
8.4.3基于拉普拉斯分数的特征选择算法
8.5包裹式特征选择方法
8.6嵌入式特征选择方法
习题
第9章特征提取
9.1概述
9.2基于类别可分性判据的特征提取
9.3KL变换
9.3.1KL变换的定义
9.3.2KL变换的性质
9.3.3信息量分析
9.3.4奇异值分解
9.3.5仿真实现
9.4独立成分分析
9.4.1问题描述
9.4.2ICA算法
9.4.3RICA算法
9.5非负矩阵分解
9.6稀疏滤波
9.7多维尺度法
9.7.1经典尺度法
9.7.2度量型MDS
9.7.3非度量型MDS
9.7.4等度量映射
9.8tSNE算法
9.9其他非线性降维方法
9.9.1拉普拉斯特征映射
9.9.2局部线性嵌入
习题
第10章半监督学习
10.1基本概念
10.2半监督分类
10.2.1生成式模型
10.2.2半监督支持向量机
10.2.3基于图的半监督学习
10.3半监督聚类
10.3.1约束C均值算法
10.3.2约束种子C均值算法
10.4半监督降维
10.4.1半监督局部Fisher判别分析
10.4.2基于约束的半监督降维
习题
第11章人工神经网络
11.1神经元模型
11.2多层感知器神经网络
11.2.1单层感知器
11.2.2多层感知器
11.2.3反向传播算法
11.2.4网络结构的设计
11.2.5用于模式识别
11.3其他常见神经网络
11.3.1径向基函数神经网络
11.3.2自组织映射网络
11.3.3概率神经网络
11.3.4学习向量量化神经网络
11.4基于前馈型神经网络的分类实例
11.5深度神经网络简介
11.5.1受限玻尔兹曼机与深度置信网络
11.5.2卷积神经网络
11.5.3循环神经网络
11.5.4生成对抗网络
习题
参考文献

本书依据作者多年从事模式识别教学和研究的体会,并参考相关文献编写而成,概括地介绍了模式识 别理论和技术的基本概念、原理、方法和实现。 全书共分为11章,每章阐述模式识别中的一个知识点,内容包括贝叶斯决策、概率密度函数的估计、 线性判别分析、非线性判别分析、组合分类器、无监督模式识别、特征选择、特征提取、半监督学习以及人工 神经网络。除了经典算法以外,本书增加了部分较新的理论和算法,读者可以选择性地学习。本书还配以 电子课件、MATLAB仿真程序和实验指导书,便于教和学。 本书可以作为高等学校人工智能、计算机、信息、自动化、遥感、控制等专业本科生或研究生的教材或 参考书,也可以作为从事相关研究与应用人员的参考书。

蔡利梅：中国矿业大学信息与控制工程学院副教授，长期从事图像处理与模式识别领域的教学和研究工作。先后开设“图像处理”“模式识别”“计算机图形学”“数字视频技术”“图像分析及识别” 等多门本科生及研究生课程。获*高等学校科学技术进步奖二等奖、河南省科技进步奖二等奖、江苏省科学技术奖三等奖、中国煤炭工业协会科学技术奖一等奖等省部级以上科技奖励8项；获国家发明专利授权2项；出版普通高校教材2部、科技专业图书1部；获校级优秀教学成果一等奖1项，全国煤炭行业教育教学成果奖三等奖1项，获校级“教书育人先进个人”“百佳教师”等荣誉。