模式识别第七章 非监督分类解析
- 格式:ppt
- 大小:2.51 MB
- 文档页数:63


解释机器学习中的非监督学习方法机器学习中的非监督学习方法是一类重要的学习算法,它的特点是在训练数据中没有对应的标签或者目标变量。
相比之下,监督学习方法则利用已知标签的数据来进行训练和预测。
非监督学习方法广泛应用于聚类、降维和异常检测等任务中,能够从数据中发现隐藏的结构和关联。
本文将对非监督学习方法进行解释和分类,并介绍其中一些常见的算法。
非监督学习方法可分为聚类、降维和关联规则挖掘三个主要类别。
聚类是一种将相似对象归为同一组的方法。
常见的聚类算法有K均值聚类、层次聚类和密度聚类等。
K均值聚类是最著名的聚类算法之一,它根据样本之间的距离将其划分为K个簇。
层次聚类则通过逐步合并或分裂簇来构建层次结构,直到满足某个终止条件。
而密度聚类则通过计算样本点周围的密度来判断聚类结构。
这些聚类算法能够对大量的数据进行自动分类,帮助我们发现数据的内在结构和聚集。
降维是一种通过减少数据的特征维度来简化数据表示的方法。
它在保留数据关键特征的同时,能够减少数据存储和计算的开销。
常见的降维算法包括主成分分析(PCA)、因子分析和独立成分分析(ICA)。
主成分分析是最常用的降维算法之一,它通过线性变换将原始特征投影到新的坐标系中,使得新的特征能够最大程度上解释原始数据的方差。
因子分析则是一种通过隐变量模型来解释观测数据之间的相关性。
而独立成分分析则将多个观测信号分解为相互独立的子信号,实现信号的盲源分离。
这些降维算法有助于我们从高维数据中提取有用的信息,并可视化数据的结构。
关联规则挖掘是一种寻找数据集中的频繁项集和关联规则的方法。
频繁项集指的是在数据集中频繁出现的一组项,而关联规则则是用于描述项之间的关联关系。
常见的关联规则挖掘算法有Apriori算法和FP-Growth算法。
Apriori算法通过逐步生成候选项集并计算其支持度来发现频繁项集。
FP-Growth算法则利用数据的FP树结构来高效地挖掘频繁项集。
这些关联规则挖掘算法可应用于市场篮子分析、推荐系统和网络安全等领域,帮助我们发现数据中的关联模式和规律。
机器学习中的非监督学习算法详解机器学习是一门涉及数据处理与模式识别的学科,旨在使计算机系统能够从数据中学习并自动改进。
其中,监督学习和非监督学习是两种主要的学习方式。
监督学习是指根据已知输入和输出的数据来训练模型,使其能够对新的输入数据做出正确的预测。
而非监督学习则是在没有标记数据的情况下,让机器自行学习数据的内在结构和模式。
本文将重点介绍机器学习中的非监督学习算法,包括聚类、降维和关联规则三个方面。
聚类是非监督学习中最常用的技术之一,其目标是将数据划分为不同的组或类别,使得同一组内的数据相似度较高,不同组之间的数据相似度较低。
K均值聚类是最常见的一种聚类算法,其基本思想是将数据划分为K个不同的类别,然后通过迭代优化来更新聚类中心,直至收敛。
K均值聚类的缺点是对于初始聚类中心的选择较为敏感,容易陷入局部最优解。
另一种常见的聚类算法是层次聚类,它通过计算数据点之间的相似度来构建层次结构,从而实现将数据划分为不同的类别。
层次聚类的优点是可以自动选择类别的数量,并且不需要事先指定K值。
另一个非监督学习的重要领域是降维,其目的是通过保持数据的关键特征,减少数据的维度。
降维技术的应用可以帮助我们更好地理解数据,并且可以提高机器学习模型的性能。
主成分分析(PCA)是一种常用的降维算法,它通过线性变换将原始数据投影到一个低维空间中,使得投影后的数据能够保持尽可能多的原始数据的信息。
此外,t分布邻域嵌入(t-SNE)是一种非线性降维算法,它能够更好地保持数据之间的局部结构,因此在可视化数据时具有很高的效果。
最后,关联规则也是非监督学习中的重要技术之一,其目标是发现数据中的频繁模式及其之间的关联规则。
关联规则通常应用于市场篮分析,以发现不同商品之间的关联关系。
Apriori算法是一种经典的关联规则挖掘算法,它通过逐步产生候选项集并剪枝来发现频繁项集,然后通过频繁项集产生关联规则。
Apriori算法的缺点是在大规模数据集上运行速度较慢,因此一些改进的算法如FP-growth算法被提出来以提高效率。
非监督分类通常分为两个阶段:首先根据样本之间的相似性通过某种算法自动地将一景遥感影像的像元分成若干类;然后解译每个类别对应的实际地物或地物的性状。
在第一阶段通常采用聚类分析法。
所谓聚类就是按照像元之间的相似性,将一景遥感影像的像元集合分解为若干类。
注意这里的像元已经不是一幅影像中一个像元的灰度值,而是同一个地面单元在各个波段上的影像像元灰度值,将这些灰度值有序排列在一起,构成为灰度向量。
所谓灰度空间是人们假想的概念空间,是一种多维空间。
以3个波段构成的一景遥感影像为例,以其中的第1波段CH1灰度为X坐标轴、第2波段CH2灰度为Y坐标轴、第3波段CH3灰度为Z坐标轴,每一坐标轴上的刻度是以灰度为单位。
如果每波段的像元灰度值取值范围都是0—255,则由此建立起了3维的遥感影像灰度空间,该空间为一个正立方体,每个边的边长是256。
该空间中的任意一点都分别有3个波段相应的灰度值。
由于每波段像元灰度值都在0—255的范围内,因此任何像元在灰度空间的点都不可能在该灰度空间以边长为255、一个顶点位于坐标原点的正立方体之外。
如果一景遥感影像有N个波段影像组成,则对应有N维灰度空间。
注意灰度空间中的一个点并不对应着影像的一个像元,而可能是一批像元,这些像元在第1波段同为1个灰度值,在第2波段同为另一个灰度值,以此类推。
灰度空间中的一个点与坐标原点的连线,方向为从坐标原点指向该点,形成一个向量,这一向量就是影像像元的灰度向量。
建立影像灰度空间的目的在于分析影像像元之间的相似性,进而进行聚类。
聚类是将用空间中点集合为代表的事物群分类的统计学方法。
对于空间中一组点集合,将其分为若干子群,可以采用不同的分类准则来确定点群的空间聚类。
一般地,把点与点之间的空间距离作为主要的统计量,只有距离最近的点才可以归为同一子群,距离较远的点应划为不同的子群,因此,空间聚类最常用的准则就是距离准则。
从另一角度而言,空间聚类的结果应保证归于同一子群的点尽可能集中,不同的点群尽可能分离,根据统计学的思想,就是子群内方差尽可能小,子群间方差尽可能大,这就是离差准则。