一种面向图像分类的流形学习降维算法

数学物理中的降维算法研究随着科技的迅速发展，各个领域都在不断涌现出大量的数据，这些数据不仅数量庞大，而且维度高，导致很多场景下的数据处理和分析变得非常困难。

降维算法便应运而生，成为了解决高维数据处理难题的一种重要方式。

数学物理中的降维算法，作为降维算法中的重要一部分，正在被广泛研究和应用。

一、降维算法的基本知识1. 降维算法的思想降维算法是一种将高维数据映射到低维空间的算法，具体而言就是将高维数据集转化为低维数据集，以此来简化处理和分析的难度。

其思想基于数据的预处理和特征提取，旨在减少数据冗余，最大程度地保留数据的特征，从而使数据在低维空间中表现出良好的性质和结构。

2. 降维算法的分类根据降维算法的处理对象不同，可以将其分为两类，即线性降维和非线性降维。

其中线性降维包括PCA（主成分分析）和LDA （线性判别分析）等方法，它们可以通过一系列的线性转换将高维数据映射到低维空间。

而非线性降维则使用一些非线性映射方法，如Isomap、LLE（局部线性嵌入）等，它们可以更好地处理高度非线性的数据集。

二、数学物理中的降维算法1. 张量分解张量分解是一种将高维数据张量分解成若干低维张量的方法。

在物理学中，张量分解被用于分析矩阵物理、量子力学中的张量等领域。

张量分解可以处理多个变量之间的关系，而且可以在提取特征的同时保留数据的原始形态，因此在实际应用中有着广泛的应用。

2. 流形学习流形学习是一种非线性降维算法，它基于流形学说，旨在发现数据在低维空间中的潜在流形结构。

流形结构指的是数据在高维空间中的低维规律和分布，通过流形学习可以在保留数据结构和信息的前提下，对高维数据集进行降维。

流形学习可以分为局部流形学习和全局流形学习两种，局部流形学习包括LLE、LE（局部线性嵌入）、LTSA（局部切空间对准）等方法，全局流形学习包括Isomap、Laplace特征映射等。

3. 独立成分分析独立成分分析是一种多元统计学的方法，用于对多元信号的源信号进行分离。

一种基于非线性特征提取的数据降维算法侯远韶【摘要】In order to obtain good image classification results,we need to collect as many image data fea-tures as possible,which makes the dimension of the original feature space higher and higher,resulting in curse of dimensionality.Feature extraction is to map the high-dimensional feature space to low-dimensional space through linear or nonlinear mapping,thus reducing the data dimension.Existing feature extraction algorithms of-ten ignore the complex structure and nonlinear factors inherent in the data,resulting in ambiguity in the direction of the mapping and lack of classification accuracy.In this paper,the two-dimensional characteristic of the im-age data itself is fully considered.The improved nonlinear feature extraction method and the manifold learning method are used to extract the image features.Experimental results show that the algorithm can greatly reduce the data dimension and reduce the computational complexity without affecting the image classification performance.%为了获得良好的图像分类效果，需要采集尽可能多的图像数据特征，进而使得图像原始特征空间的维数越来越高，造成维数灾难。

流形学习算法综述
王自强;钱旭;孔敏
【期刊名称】《计算机工程与应用》
【年(卷),期】2008(44)35
【摘要】流形学习算法作为一种新的维数降维方法工具,其目标是发现嵌入在高维数据空间中的低维流形结构,并给出一个有效的低维表示.目前,流形学习已成为模式识别、机器学习和数据挖掘领域的研究热点问题.介绍了流形学习的基本思想、一些最新研究成果及其算法分析,并提出和分析了有待进一步研究的问题.
【总页数】5页(P9-12,24)
【作者】王自强;钱旭;孔敏
【作者单位】中国矿业大学(北京)机电与信息工程学院,北京,100083;中国矿业大学(北京)机电与信息工程学院,北京,100083;山东省曲阜市职业中等专业学校,山东,曲阜,273100
【正文语种】中文
【中图分类】TP181
【相关文献】
1.增量与演化流形学习综述 [J], 谈超;关佶红;周水庚
2.流形学习算法介绍与相关问题综述 [J], 陈超
3.流形学习算法介绍与相关问题综述 [J], 陈超
4.人工智能技术的热带气旋预报综述(之二)——流形学习、智能计算及深度学习的
热带气旋预报方法 [J], 金龙;黄颖;姚才;黄小燕;赵华生
5.流形学习降维算法中一种新动态邻域选择方法 [J], 徐胜超
因版权原因，仅展示原文概要，查看原文内容请购买。

流形降维算法
流形降维算法是一种数据降维的技术，主要用于高维数据的可视化和特征提取，常用于图像处理、文本分析和生物信息学等领域。

它的核心思想是通过保留数据的局部结构信息，将高维数据映射到低维空间中，并尽可能地保留原始数据的特征。

常见的流形降维算法包括PCA、LLE、Isomap、t-SNE等，每种算法都有不同的优劣和应用场景。

其中，t-SNE是近年来比较热门的算法，它通过优化KL散度来最小化低维空间中的点与高维空间中的点之间的距离，从而更加准确地反映数据之间的相似度关系。

流形降维算法的应用有助于数据的可视化和理解，也有助于加速机器学习和数据挖掘的过程。

- 1 -。

流形学习算法及其应用研究共3篇流形学习算法及其应用研究1流形学习算法是一种机器学习算法，其目的是从高维数据中抽取出低维度的特征表示，以便进行分类、聚类等任务。

流形学习算法的基本思想是通过将高维数据变换为低维流形空间，从而保留数据的本质结构和信息。

近年来，流形学习算法得到了越来越多的关注和应用。

以下我们将介绍一些常用的流形学习算法及其应用。

一、常用的流形学习算法（一）局部线性嵌入（Locally Linear Embedding，简称LLE）LLE算法是一种无监督的流形学习算法，它把高维数据集映射到低维空间，保留了数据间的局部线性关系，即原始数据点集中的线性组合权重。

LLE算法的核心思想是假设所有数据样本都是从某个流形空间中采样得到的，并通过寻找最小化误差的方式来还原流形结构。

LLE算法有着较好的可解释性和良好的鲁棒性，同时可以有效地应用于图像处理、模式识别等领域。

（二）等距映射（Isomap）Isomap算法是一种经典的流形学习算法，它可以从高维数据中提取出低维流形空间，并且保留了数据间的地位关系。

它的基本思想是将高维数据转化为流形空间，从而保留了数据的全局性质。

等距映射算法可以应用于数据降维、探索数据关系等领域，并已经在生物学、计算机视觉等领域得到广泛应用。

（三）核主成分分析（Kernel Principal Component Analysis，简称KPCA）KPCA算法是一种非线性的流形学习算法，可以有效地处理非线性问题。

KPCA通过使用核函数来将数据映射到高维空间，然后应用PCA算法进行降维。

KPCA算法在图像识别、人脸识别、语音识别等领域应用广泛。

（四）流形正则化（Manifold Regularization）流形正则化算法是一种半监督学习算法，它可以有效地利用已经标记的数据和未标记的数据来进行分类或回归。

其基本思想是通过在标记数据和未标记数据之间构建连接关系，利用非线性流形学习算法对数据进行处理。

降维算法⼀览在机器学习中经常会碰到⼀些⾼维的数据集，⽽在⾼维数据情形下会出现数据样本稀疏，距离计算等困难，这类问题是所有机器学习⽅法共同⾯临的严重问题，称之为“ 维度灾难 ”。

另外在⾼维特征中容易出现特征之间的线性相关，这也就意味着有的特征是冗余存在的。

基于这些问题，降维思想就出现了。

降维就是指采⽤某种映射⽅法，将原⾼维空间中的数据点映射到低维度的空间中。

通过降维，可以⽅便数据可视化+数据分析+数据压缩+数据提取等。

降维⽅法架构降维⽅法主要包括线性⽅法和⾮线性⽅法。

特征降维经常会和特征选择混淆。

实际上，特征选择和传统的特征降维有⼀定的区别。

特征降维本质上是从⼀个维度空间映射到另⼀个维度空间，特征的多少并没有减少，当然在映射的过程中特征值也会相应的变化。

特征选择就是单纯地从提取到的所有特征中选择部分特征作为训练集特征，特征在选择前和选择后不改变值，但是选择后的特征维数肯定⽐选择前⼩，毕竟我们只选择了其中的⼀部分特征。

这⾥我们主要讲述映射⽅法，对于特征选择，我们会在后⾯进⾏详细的阐述。

PCAPCA(Principal Component Analysis)，即主成分分析⽅法，是⼀种使⽤最⼴泛的数据降维算法。

PCA通过线性变换将原始数据变换为⼀组各维度线性⽆关的表⽰，提取数据的主要特征分量，常⽤于⾼维数据的降维。

PCA有两种通俗易懂的解释：(1)最⼤⽅差理论；(2)最⼩平⽅误差。

下⾯主要从最⼤⽅差理论出发，推导出表达式最⼤⽅差理论PCA的⽬标可认为是最⼤化投影⽅差，也就是让数据在主轴上投影的⽅差最⼤。

对于给定的⼀组数据点{v1,v2,…,v n},其中所有向量均为列向量，对其进⾏中⼼化，表⽰为{x1,x2,…,x n}。

可得向量x i在w（单位⽅向向量）上的投影坐标可以表⽰为(x i,w)=x T i w，因此我们的⽬标是找到⼀个投影⽅向w，使得{x1,x2,…,x n}在w上的投影⽅差尽可能⼤。

因为投影之后的均值为0，因此⽅差可以表⽰为：D(x)=1nn∑i=1(x T i w)T x T i w=1nn∑i=1w T x i x i T w=w T(1nn∑i=1x i x T i)w其中，1n∑ni=1x i x T i为样本协⽅差矩阵，令为∑，另外由于w是单位⽅向向量，即w T w=1，因此⽬标可写作：{max引⼊拉格朗⽇乘⼦，对w求导令其为0，可以推出∑w=λw，此时D(x)=w^T∑w=λw^T w=λ即，x投影后⽅差即协⽅差矩阵的特征值，最佳投影⽅向就是最⼤特征值对应的特征向量。

降维方法之流形学习流形（manifold）的概念最早是在1854年由 Riemann 提出的(德文Mannigfaltigkeit)，现代使用的流形定义则是由 Hermann Weyl 在1913年给出的。

江泽涵先生对这个名词的翻译出自文天祥《正气歌》“天地有正气，杂然赋流形”，日本人则将之译为“多样体”，二者孰雅孰鄙，高下立判。

流形（Manifold），一般可以认为是局部具有欧氏空间性质的空间。

而实际上欧氏空间就是流形最简单的实例。

像地球表面这样的球面是一个稍为复杂的例子。

一般的流形可以通过把许多平直的片折弯并粘连而成。

流形在数学中用于描述几何形体，它们提供了研究可微性的最自然的舞台。

物理上，经典力学的相空间和构造广义相对论的时空模型的四维伪黎曼流形都是流形的实例。

他们也用于组态空间(configuration space)。

环(torus)就是双摆的组态空间。

如果把几何形体的拓扑结构看作是完全柔软的，因为所有变形(同胚)会保持拓扑结构不变，而把解析簇看作是硬的，因为整体的结构都是固定的(譬如一个1维多项式，如果你知道(0,1)区间的取值，则整个实属范围的值都是固定的,局部的扰动会导致全局的变化)，那么我们可以把光滑流形看作是介于两者之间的形体，其无穷小的结构是硬的，而整体结构是软的。

这也许是中文译名流形的原因(整体的形态可以流动),该译名由著名数学家和数学教育学家江泽涵引入。

这样，流形的硬度使它能够容纳微分结构，而它的软度使得它可以作为很多需要独立的局部扰动的数学和物理上的模型。

最容易定义的流形是拓扑流形，它局部看起来象一些"普通"的欧氏空间Rn。

形式化的讲，一个拓扑流形是一个局部同胚于一个欧氏空间的拓扑空间。

这表示每个点有一个领域，它有一个同胚(连续双射其逆也连续)将它映射到Rn。

这些同胚是流形的坐标图。

通常附加的技术性假设被加在该拓扑空间上，以排除病态的情形。

可以根据需要要求空间是豪斯朵夫的并且第二可数。

基于流形学习算法的植物叶片图像识别方法研究的开题报告一、研究背景近年来，随着社会的不断发展和科学技术的进步，计算机视觉技术在农业、医疗、安全等领域得到了广泛应用。

其中，植物叶片图像识别技术在农业领域具有重要意义。

通过识别植物叶片图像，可以提高农业生产效率、降低作物病害发生率、提高农民收益等。

传统的植物叶片图像识别方法主要是基于特征提取和分类器构建，但这些方法存在一定缺陷，比如特征提取受限于人工设计和选择，分类器构建难度大，对分类效果依赖较大等。

因此，基于流形学习算法的植物叶片图像识别方法成为当前的研究热点。

流形学习算法是一种非线性降维方法，能够在保持原始数据局部结构的同时实现对高维数据的降维和可视化，具有处理高维数据的能力。

二、研究内容本文将研究基于流形学习算法的植物叶片图像识别方法。

具体研究内容包括：1.提取叶片图像局部特征：选取适合流形学习算法的叶片图像局部特征，通过特征提取实现对叶片图像的降维。

2.构建流形学习模型：选取合适的流形学习算法，构建植物叶片图像的流形学习模型。

3.实现植物叶片图像识别：通过流形学习模型实现植物叶片图像识别，包括分类结果的评估和优化。

三、研究意义本文的研究可以实现基于流形学习算法的植物叶片图像识别，具体意义包括：1.提高植物叶片图像识别的准确率和鲁棒性。

2.克服传统方法中特征提取和分类器构建的局限性。

3.为农业领域的自动化生产提供技术支持，促进农业产业升级。

四、研究方法本文的研究采用以下方法：1.文献综述：对基于流形学习算法的植物叶片图像识别方法进行综述，了解现有方法的发展、优缺点以及应用领域。

2.实验验证：从植物叶片数据集中选取数据样本进行实验验证，比较不同流形学习算法在植物叶片图像识别中的表现。

3.评估优化：对实验结果进行评估，并提出优化措施，进一步提高识别准确率和鲁棒性。

五、预期结果本文预期实现基于流形学习算法的植物叶片图像识别方法，并取得如下结果：1.提取适合流形学习算法的叶片图像局部特征，实现对叶片图像的降维。

一种用于物体姿态估计的快速Isomap降维算法汪剑鸣;张笑;王胜蓓【摘要】为了降低基于流形学习的物体姿态估计算法中数据降维算法的复杂度,提高算法的执行速度,提出了一种快速的Isomap 算法. 通过分析Isomap 算法的执行过程发现,计算任意两点间的测地线距离是导致其计算复杂度高的原因之一.基于这一分析,首先假定在空间旋转角度相邻的两幅图像,降维后其对应的数据点在低维流形上也相邻,然后对Isomap 算法中的测地线距离矩阵构造进行优化,优化后不再需要遍历所有数据点,可以大大降低算法的计算复杂度. 实验结果表明:在保证算法效果的前提下与原算法相比,本算法提高了执行速度,且图像序列越长,速度提升越明显,当图像数量达到350 幅时,降维所需时间为原来的13%.%In order to reduce the complexity of the dimensionality reduction in the object pose estimation algorithm based on manifold learning,and to improve the execution speed of the algorithm,a fast Isomap algorithm is proposed.By analyzing the calculation process of Isomap,it is found that calculating the geodesic distance between any two points is one of the reasons for its high computational complexity.Based on this analysis,it is assumed that the two images are adjacent,after dimensionality reduction,the corresponding data points are adjacent on the low-dimensional manifold, and then the Isomap can be improved by optimizing the calculation of the geodesic distance matrix.In this method,it is no longer necessary to traverse all the data points,which can greatly reduce the computational complexity of the algorithm.The experimental results show that by ensuring the performances, the efficiency of the proposed algorithm is improved, andthe efficiency of the algorithm is highly improved, especially for long image sequences. When the number of images reached 350, the time cost of the proposed algorithm is 13% of the original method.【期刊名称】《天津工业大学学报》【年(卷),期】2017(036)005【总页数】5页(P74-78)【关键词】流形学习;Isomap;姿态估计;非线性降维算法【作者】汪剑鸣;张笑;王胜蓓【作者单位】天津工业大学计算机科学与软件学院,天津300387;天津工业大学电子与信息工程学院,天津300387;天津工业大学计算机科学与软件学院,天津300387【正文语种】中文【中图分类】TP301.6对于刚性物体而言，姿态估计是指恢复物体的6个空间自由度，即3个旋转角度和3个平移分量.目前基于视觉图像的物体姿态估计算法中，按照实现原理分类包括基于模型的姿态估计方法[1]、基于特征的姿态估计方法[2-3]、基于光流场的姿态估计方法[4-5]、基于流形学习的姿态估计方法.流形学习是一种非线性的数据降维方法，同时也经常用来恢复高维数据隐藏在低维空间中的流形结构.目前研究人员已经形成共识，如果相机和物体的空间相对位置不变，当图像旋转时相机获取的图像序列对应一个嵌入在低维空间的流形.基于这一发现，国内外学者先后提出了基于流形学习的物体姿态估计方法.目前，基于流形学习的物体姿态估计已经提出了多种实现方法，其中多数方法都是用来实现头部姿态的估计[6].2004年，文献[7]通过建立高维图像数据到低维流形结构的映射，以获取人脸图像不同姿态的图像.2007年，文献[8]提出了一种偏差流形嵌入（biased manifold embedding）框架来实现对头部的姿态估计.2010年，为了消除面部差异对估计结果的影响，文献[9]基于多流形模型提出了一种与被测对象无关的头部姿态估计方法.2016年，文献[10]研究了利用流形的全局结构来提高头部姿态估计鲁棒性的问题.除了头部姿态估计问题，基于流形学习的姿态估计方法还被应用于卫星、飞行器等其他刚性物体的姿态估计.2013年，文献[11]提出太空中卫星姿态的估计方法.在基于流形学习的物体姿态估计方法中，对高维数据进行降维是必不可少的一个环节.而当图像分比率较高、图像数量较多时，流形学习降维的计算复杂度将大大增加，从而影响了算法的快速性.因此，本文针对基于流形学习的物体姿态估计的特点，提出一种适用于姿态估计流形学习算法，该算法可以利用拍摄图像序列的已知位置关系来提高算法的快速性.在基于流形的姿态估计方法中，首先假定物体在旋转时，沿旋转角度等间隔拍摄物体的图像，则拍摄的图像在低维空间对应一个流形；因此，在物体处于任意姿态时拍摄物体的图像，根据图像在流形上的对应位置，就可以估计出该图像对应的物体姿态角度.也就是说，三维物体旋转角度状态图像对应低维流形坐标，且流形坐标保持高维图像之间的邻近关系.图像空间中两幅图像的角度距离小（或大），则两幅图像对应的低维流形距离也近（或远）.基于流形学习的姿态估计算法的框图如图1所示.流形学习算法主要有等距映射（ISOMAP）[12]、局部线性嵌入（LLE）[13]、拉普拉斯特征映射算法（LE）[14]等，由于算法实现的原理不同，不同的流形学习算法得到的流形结构特性也各不相同.表1中列出了各种方法的优缺点以及特点.由于在姿态估计时，要求获得低维流形具有不同姿态图像的距离保持特性，因此本文对常见流形学习算法的优缺点以及距离保持特性进行比较分析，以说明选取Isomap 算法的合理性.Isomap算法的主要实现过程为：根据局部线性原理，利用流形上样本点之间的欧式距离建立距离矩阵；然后利用任意2点间的欧式距离和的最小值来表示这两点之间的测地线距离；最后利用MDS[15]算法获取高维数据的低维表示，使得降维后数据点之间保持高维数据点之间的测地线距离关系.Isomap算法具体过程概括如下：（1）构造邻接矩阵.首先，选取样本点的邻域点.选取邻域点的方法常用的有2种：ε邻域法即当样本点间的距离小于设定值ε时，即‖xi-xj‖＜ε时，xj是xi的邻域点.和k邻域法：即xj是到xi距离最小的k个点之一时，xj是xi的邻域点.建立加权邻接矩阵：W=（wij）n×m：（2）计算最短路径.在Isomap算法中，若xi与xj2点之间有边连接，则测地线距离dG（i，j）可以用它们之间的欧式距离d（i，j）来代替，否则，算法中设起始的测地线距离dG（i，j）=∞，再依据图论中的最短路径思想，构造最短路径为：通过上述2种方法分别获取到邻域范围内的测地线距离和邻域范围外的测地线距离.就得到代表样本点之间测地线距离的最短路径矩阵DG=[dG（i，j）]n×m.（3）计算低维流形嵌入.如果数据样本采样均匀且采样充足，已经证明最短路径距离收敛于测地线距离DG，而后将DG作为MDS算法中的D矩阵应用到MDS中，计算低维嵌入.通过分析Isomap算法发现，对于一般的应用场景，由于无法确定数据点间的相邻关系，在求取任意两点间的测地线距离时需要遍历所有数据点.因此，I－somap 算法的计算复杂度相当一部分是由于构建测地线距离矩阵所导致的.基于上述分析，本文提出的快速Isomap的基本思想如下：首先假定在空间旋转角度相邻的两幅图像，降维后其对应的数据点在低维流形上也相邻.故计算测地线距离时，只需要依次累加任意2点间相邻点间的欧式距离，即可得到该2点间的测地线距离，而无需遍历所有数据点，因此可大大降低计算量.本文提出的Isomap算法的主要原理如下：假定训练图像数据集按照拍摄测序依次排列，其示意图如图2所示.在处理无序高维数据之间最短测地线距离时经常用到Dijkstra算法.该算法计算量大，是Isomap算法中最耗时部分.本文对测地线距离的计算过程进行修改，采用式（4）进行计算计算：其中dG（xi，xj）由下式确定：式中：距离d为欧式距离，利用测地线距离计算核心矩阵（Kernel matrix）K：式中：中心矩阵H（centering matrix）由下式计算：其中eN=[1…1]T∈RN.对K矩阵特征分解，得到最大d个特征值λ1，λ2，…，λd，以及对应的特征向量u1，u2，…，ud构成的矩阵 U={u1，u2，…，ud}，利用矩阵 U 可以将训练图像映射到d维的流形空间，得到相应的低维数据YX：为了评价本文算法的降维效果，首先定义一个流形间的差异性系数.若2组姿态图像不同，如受到噪声、光照等因素的干扰，那么它们的低维流形就会出现差异性，于是，将差异性系数定义如下：假设流形空间为n 维的，x∈[x1，x2，…，xn]，流形 A表示为：fA（x）=0，流形B表示为：fB（x）=0，两者均为封闭的，且xa，xb为相同姿态图像降维后所对应的点.如果以流形A为基准，那么将流形B相对于流形A的差异性系数（coefficient of difference，简称为CoD）定义为：式中：d2表示欧式距离.当流形之间的CoD值越大，说明两流形之间的差异性越大.当流形之间的CoD值为0时，表示流形无差异.如果图像受到噪声干扰，那么图像的流形规律性发生变化.如图3列出了原始图像的流形以及图像受到不同大小的高斯噪声干扰的流形. 表2中列出了图像受到不同大小的高斯噪声干扰时，与原始姿态图像的流形之间的差异性系数.由表中数据可看出，当流形无差异时，CoD值为0.随着噪声增大，流形的差异性系数增大，也就是流形差异性也增大.下面对本文改进算法的有效性进行实验验证.实验中通过计算本文算法和原方法降维的流形差异性系数验证改进算法是否影响降维效果.第1组实验是从三维模型数据库SHREC2012_Generic中选取了一个飞机模型，使其沿着一个坐标轴旋转360°，等角度间隔均匀地分别采集50、100、150、200、250、300、350幅姿态图像，图4中列出了部分图像.采集的图像大小为800*600，实验中图像标准化为100*100.实验的硬件环境为：CPU：AMD A8-7200P 2.4 GHz；内存：4 GB；操作系统为 Windows8.1；软件平台：MATLAB R2012.分别利用原始算法和改进后算法对不同数目的图像进行降维，在降维参数相同的情况下，2种方法的降维时间及两者流形差异性系数如表3所示.根据实验结果可看出，本文改进的方法更加省时，且CoD均为0，说明本文算法不会影响降维结果，与原方法一致.第2组实验是选用了一个玩具坦克实物，将实物放在步进电机转心上的托盘上，控制电机，旋转，相机相对于步进电机和旋转轴的位置保持不变.当待测实物旋转一周，同样分别采集 50、100、150、200、250、300、350幅姿态图像，图5中列出了部分图像.采集到的图像大小为720*1280，实验中图像标准化为200*200.采用2种方法对其降维，选取同样的降维参数，所需时间及两者流形差异性系数如表4所示.根据实验结果同样可得，本文的算法耗时更少，图像越多，速度提升越明显，且降维效果与原方法一致.实验结果验证了本文提出的快速Isomap算法比原始算法所耗时要少，当降维图像数量增大时，节省时间也在增大，提速效果更加明显.随着图像数量的增多，本文算法与原方法所需时间的百分比减少，当图像数量为350幅时，快速Isomap算法降维所需时间仅为原始算法的13%，如图6所示.由2组实验数据对比可以看出，由于实验中采用的飞机模型图像小于玩具坦克的图像，当图像大小不同时，计算欧氏距离矩阵时计算量会有差异，图像越小，计算量越小，因此飞机图像的降维时间小于玩具坦克的.实验表明，改进后的算法对降维的结果没有影响，在算法参数和实验数据相同的情况下，2种方法降维可以取得同样的效果，如图7所示，图中列出了50幅飞机模型姿态图像在同样条件下分别采用原Isomap算法和本文改进Isomap算法降到三维的结果.由图7可见，在保证算法效果的前提下，改进的算法提高了执行速度，图像序列越长，效果越明显.因此，改进的Isomap算法能够在保证降维结果不变的情况下提高数据降维速度.根据基于流形的物体姿态估计方法的特点，再结合各种流形学习算法的特性，Isomap可作为其中图像降维的算法.由于在这种姿态估计方法中，姿态图像是对物体顺序采集获得，本文在现有Isomap算法的基础上，设计了一种快速的Isomap算法.现有算法中，计算最短测地线距离矩阵部分复杂且耗时较长，对该部分进行了优化后，可以缩短降维时间.最后，实验验证了改进的Isomap算法能够在保证降维性能的基础上减少计算量，提高算法效率.图像数量越多，速度提升越明显，当图像达到300幅时，运用本文算法降维所需时间不到原方法的20%.【相关文献】[1]胡刚．基于图结构模型的人体姿态估计研究[D]．武汉：武汉理工大学，2014．HU G.Research of human pose estimation based on pictorial structure models[D].Wuhan：WuhanUniversity of Technology，2014（in Chinese）.[2]CHUN J，KIM W.3D face pose estimation by a robust real time tracking of facial features[J].Multimedia Tools and Applications，2016，75（23）：1-16.[3]徐岳峰，周书仁，王刚，等．基于深度图像梯度特征的人体姿态估计[J]．计算机工程，2015，41（12）：200-205．XU Y F，ZHOU S R，WANG G，et al.Human body attitude estimation based on gradient feature of depth images[J].Computer Engineering，2015，41（12）：200-205（in Chinese）.[4]ROMERO J，LOPER M，BLACK M J.FlowCap：2D human pose from opticalflow[C]//German Conference on Pattern Recognition.[s.l.]：Springer International Publishing，2015：412-423.[5]VATER S，MANN G，LEON F P.A novel regularization method for optical flow-based head pose estimation[C]//SPIE Optical Metrology.Singapore：International Society for Optics and Photonics，2015：95300N-95300N-9.[6]MURPHY-CHUTORIAN E，TRIVEDI M M.Head pose estimation in computer vision：A survey[J].IEEE Transactions on Pattern Analysis and Machine Intelligence，2009，31（4）：607-626.[7]ZHANG C，WANG J，ZHAO N.Reconstruction and analysis of multi-pose face images based on nonlinear dimensionality reduction[J].Pattern Recognition，2004，37（2）：325-336.[8]BALASUBRAMANIAN V N，YE J，PANCHANATHAN S.Biased manifold embedding：A framework for person-independent head pose estimation[C]//Computer Vision and Pattern Recognition，2007.[s.l.]：IEEEConferenceon.IEEE，2007：1-7.[9]LIU X，LU H，LI W.Multi-manifold modeling for head pose estimation[C]//Image Processing（ICIP），2010 17th IEEE International Conference on.Hong Kong：IEEE，2010：3277-3280.[10]ZHAO H，DING Z，FU Y.Pose-dependent low-rank embedding for head pose estimation[C]//Proceedings of the Thirtieth AAAI Conference on Artificial Intelligence.[s.l.]：AAAI Press，2016：1422-1428.[11]ZHANG H，JIANG Z，ELGAMMAL A.Vision-based pose estimation for cooperative space objects[J].Acta Astronautica，2013，91：115-122.[12]TENENBAUM J B，DESILVA V，LANGFORD J C.A global geometric framework for nonlinear dimension reduction[J].Science，2000，290（5500）：2319-2323.[13]ROWEIS S T，SAUL L K.Nonlinear dimensionality reduction by locally linear embedding[J].Science，2000，290（5500）：2323-2326.[14]BELKIN M，NIYOGI placian eigenmaps for dimensionality reduction and data representation[J].Neural Computation，2003，15（6）：1373-1396.[15]KRUSKAL J B.Nonmetric multidimensional scaling：A numerical method[J].Psychometrika，1964，29（2）：115-129.。

流形学习的理论和方法流形学习（Manifold learning）是指一种通过学习数据的流形结构来进行数据分析和降维的方法。

在机器学习领域，数据往往以高维空间中的向量形式存在，而且通常存在着隐藏的低维结构。

流形学习的目标就是通过学习这一低维流形结构，来实现数据的降维和分类。

传统的降维方法常常是基于线性代数的技术，例如主成分分析（PCA）和线性判别分析（LDA）。

然而，在一些情况下，数据的低维结构并不是线性的，这时候就需要使用流形学习的方法来进行分析。

线性流形学习的方法通常基于PCA。

这些方法的基本思想是通过线性变换将高维数据映射到一个低维子空间上。

PCA是最简单的线性流形学习方法，它通过找到数据的主成分来实现降维。

另外，局部线性嵌入（LLE）是另一个经典的线性流形学习方法，它通过局部线性逼近来学习数据的低维结构。

非线性流形学习的方法可以进一步分为基于流形假设的方法和基于图的方法。

基于流形假设的方法试图直接学习出数据的低维流形结构。

等度量映射（Isomap）是一个典型的基于流形假设的流形学习方法，它通过在流形上定义一个等度量图来恢复数据的低维结构。

局部保持投影（LPP）是另一个基于流形假设的方法，它通过最小化样本之间的重建误差来学习数据的低维结构。

基于图的流形学习方法则基于图的理论和技术。

这些方法通常通过构建一个样本之间的邻接图来学习数据的低维结构。

流形正则化（Manifold Regularization）是一个典型的基于图的流形学习方法，它通过正则化技术在图上学习数据的低维表示。

谱嵌入（Spectral Embedding）是另一个经典的基于图的流形学习方法，它通过在图上计算特征值和特征向量来实现降维。

除了上述方法之外，还有一些其他的流形学习方法，如局部判别嵌入（LDE）、核判别分析（KDA）等。

这些方法各有特点，可以根据具体问题的要求选择使用。

总之，流形学习是一种有着坚实理论基础和丰富方法的机器学习领域。

基于一种流形学习新算法的转子故障数据集降维研究
王冠超;赵荣珍;张维强
【期刊名称】《机械设计与制造》
【年(卷),期】2015(000)009
【摘要】针对旋转机械的转子故障诊断中原始特征多、难以有效提取振动信号非线性特性的问题,提出一种结合已知故障类别信息进行流形学习降维的新算法—监督邻域保持多项式嵌入(Supervised Neighborhood Preserving Polynomial Embedding,S-NPPE).利用样本点的故障类别信息,改进转子故障特征数据集中样本点间的欧式距离,重新构造样本点邻接图,再对数据集进行非线性降维处理.先介绍流形学习降维理论,然后给出重构邻接图以及S-NPPE算法的基本步骤,结合转子试验台的不同状态下的振动信号,探讨其在转子故障数据集降维中的应用.
【总页数】4页(P201-203,207)
【作者】王冠超;赵荣珍;张维强
【作者单位】兰州理工大学机电工程学院,甘肃兰州730050;兰州理工大学机电工程学院,甘肃兰州730050;兰州理工大学机电工程学院,甘肃兰州730050
【正文语种】中文
【中图分类】TH16;TH165;TN911
【相关文献】
1.等距映射和局部线性嵌入算法集成的转子故障数据集降维方法 [J], 陈鹏飞;赵荣珍;彭斌;李坤杰
2.增量LTSA算法在转子故障数据集降维中的应用 [J], 胡常安;袁德强;王彭;杜文波
3.KPCA与LTSA融合的转子故障数据集降维算法 [J], 赵荣珍;陈昱吉
4.基于转子故障数据集的KSELF降维方法 [J], 户文刚;赵荣珍
5.转子故障数据集降维的CKLPMDP算法研究 [J], 安煌;赵荣珍
因版权原因，仅展示原文概要，查看原文内容请购买。