基于主动学习和空间约束的高光谱影像分类

第４１卷第８期２０１８年８月测绘与空间地理信息ＧＥＯＭＡＴＩＣＳ＆ＳＰＡＴＩＡＬＩＮＦＯＲＭＡＴＩＯＮＴＥＣＨＮＯＬＯＧＹＶｏｌ.４１ꎬＮｏ.８Ａｕｇ.ꎬ２０１８

收稿日期:２０１８－０４－１６作者简介:敖平平(１９８５－)ꎬ男ꎬ江西新余人ꎬ工程师ꎬ学士ꎬ主要从事城市规划、勘测、遥感解译方面的应用研究工作ꎮ基于主动学习和空间约束的高光谱影像分类

敖平平ꎬ孟凡纪(东莞市地理信息与规划编制研究中心ꎬ广东东莞５２３１２９)摘要:高光谱影像具有数据量大、波段数多和信息冗余等问题ꎬ其分类一直是目前的一项研究热点ꎮ针对高光谱影像分类存在的问题ꎬ本文提出了一种利用主动学习和空间约束的高光谱影像分类方法ꎮ首先利用样本的先验分布状态建立样本的置信度模型ꎬ迭代选择最有“价值”的样本扩充训练样本库ꎬ以此训练最优的支持向量机分类器对高光谱影像进行分类ꎬ然后利用马尔科夫随机场(ＭａｒｋｏｖＲａｎｄｏｍＦｉｅｌｄｓꎬＭＲＦ)引入空间信息ꎬ优化分类结果ꎮ文中在ＩｎｄｉａｎＰｉｎｅｓ数据集上验证提出方法的有效性ꎮ实验结果表明ꎬ本文提出的方法通过样本的先验信息训练最优的ＳＶＭ模型ꎬ能够有效地分类不同地物ꎬ总体分类正确率达到８８％以上ꎮ关键词:支持向量机ꎻ马尔科夫随机场ꎻ高光谱影像ꎻ遥感分类ꎻ主动学习中图分类号:Ｐ２３７ 文献标识码:Ａ 文章编号:１６７２－５８６７(２０１８)０８－０１７８－０５ＨｙｐｅｒｓｐｅｃｔｒａｌＩｍａｇｅＣｌａｓｓｉｆｉｃａｔｉｏｎＢａｓｅｄｏｎＡｃｔｉｖｅＬｅａｒｎｉｎｇａｎｄＣｏｎｔｅｘｔｕａｌＣｏｎｓｔｒａｉｎｔｓ

ＡＯＰｉｎｇｐｉｎｇꎬＭＥＮＧＦａｎｊｉ(ＤｏｎｇｇｕａｎＧｅｏｇｒａｐｈｉｃＩｎｆｏｒｍａｔｉｏｎ＆ＵｒｂａｎＰｌａｎｎｉｎｇＲｅｓｅａｒｃｈＣｅｎｔｅｒꎬＤｏｎｇｇｕａｎ５２３１２９ꎬＣｈｉｎａ)

Ａｂｓｔｒａｃｔ:Ｄｕｅｔｏｔｈｅｌａｒｇｅａｍｏｕｎｔｏｆｄａｔａꎬｔｈｅｎｕｍｂｅｒｏｆｂａｎｄｓａｎｄｔｈｅｒｅｄｕｎｄａｎｃｙｏｆｉｎｆｏｒｍａｔｉｏｎꎬｈｙｐｅｒｓｐｅｃｔｒａｌｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎｈａｓａｌｗａｙｓｂｅｅｎａｈｏｔｔｏｐｉｃ.Ａｉｍｉｎｇａｔｔｈｅｐｒｏｂｌｅｍｓｏｆｈｙｐｅｒｓｐｅｃｔｒａｌｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎꎬｔｈｉｓｐａｐｅｒｐｒｅｓｅｎｔｓａｈｙｐｅｒｓｐｅｃｔｒａｌｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎａｃｔｉｖｅｌｅａｒｎｉｎｇａｎｄｃｏｎｔｅｘｔｕａｌｃｏｎｓｔｒａｉｎｔ.Ｆｉｒｓｔｌｙꎬｕｓｉｎｇｔｈｅｐｒｉｏｒｄｉｓｔｒｉｂｕｔｉｏｎｏｆｔｈｅｓａｍｐｌｅｔｏｅｓｔａｂｌｉｓｈｔｈｅｃｏｎｆｉｄｅｎｃｅｍｏｄｅｌｏｆｔｈｅｓａｍｐｌｅꎬｉｔｅｒａｔｉｖｅｌｙｓｅｌｅｃｔｓｔｈｅｏｐｔｉｍａｌ“ｖａｌｕｅ”ｓａｍｐｌｅｅｘｐａｎｓｉｏｎｔｒａｉｎｉｎｇｓａｍｐｌｅｄａｔａｂａｓｅｔｏｔｒａｉｎｔｈｅｏｐｔｉ￣ｍａｌＳＶＭｃｌａｓｓｉｆｉｅｒｔｏｃｌａｓｓｉｆｙｔｈｅｈｙｐｅｒｓｐｅｃｔｒａｌｉｍａｇｅｓ.ＴｈｅｎꎬｔｈｅｓｐａｔｉａｌｉｎｆｏｒｍａｔｉｏｎｉｓｉｎｔｒｏｄｕｃｅｄｕｓｉｎｇＭａｒｋｏｖＲａｎｄｏｍＦｉｅｌｄｓ(ＭＲＦ)ｔｏｏｐｔｉｍｉｚｅｔｈｅｉｎｉｔｉａｌｃｌａｓｓｉｆｉｃａｔｉｏｎｒｅｓｕｌｔｓ.ＷｅｖａｌｉｄａｔｅｔｈｅｅｆｆｅｃｔｉｖｅｎｅｓｓａｎｄｒｏｂｕｓｔｎｅｓｓｏｆｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｕｓｉｎｇＩｎｄｉａｎＰｉｎｅｓｄａｔａｓｅｔｓ.ＴｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｉｎｄｉｃａｔｅｔｈａｔｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｔｒａｉｎｓｔｈｅｏｐｔｉｍａｌＳＶＭｃｌａｓｓｉｆｉｅｒｂｙｔｈｅｐｒｉｏｒｋｎｏｗｌｅｄｇｅｏｆｓａｍｐｌｅｓꎬｗｈｉｃｈｃａｎｅｆｆｅｃｔｉｖｅｌｙｃｌａｓｓｉｆｙｄｉｆｆｅｒｅｎｔｏｂｊｅｃｔｓｗｉｔｈｔｈｅｏｖｅｒａｌｌａｃｃｕｒａｃｙｏｆｏｖｅｒ８８％.Ｋｅｙｗｏｒｄｓ:ｓｕｐｐｏｒｔｖｅｃｔｏｒｍａｃｈｉｎｅꎻＭａｒｋｏｖｒａｎｄｏｍｆｉｅｌｄｓꎻｈｙｐｅｒｓｐｅｃｔｒａｌｉｍａｇｅꎻｒｅｍｏｔｅｓｅｎｓｉｎｇｃｌａｓｓｉｆｉｃａｔｉｏｎꎻａｃｔｉｖｅｌｅａｒｎｉｎｇ

０　引　言与全色、多光谱数据相比ꎬ高光谱数据具有更加丰富的光谱信息ꎬ因此在地物提取和识别方面优势显著ꎬ并且被广泛应用于环境检测、目标提取和精准农业等领域[１]ꎮ在高光谱影像中ꎬ每个像素涵盖从可见光到红外的光谱范围ꎬ记录了地物详细的光谱信息ꎮ通常情况下ꎬ不同的材质在特定的波段下会反映不同的电磁能量ꎬ从而可以通过分析光谱的不同来区分不同的物质ꎮ但是由于高光谱影像数据量大、波段多、信息冗余等问题[２]ꎬ使得目前的分类方法正确率不高ꎬ因此ꎬ高光谱影像分类的研究具有一定的实用价值ꎮ在高光谱影像分类的研究中ꎬ常用的监督分类方法ꎬ如最大似然法[３－４]、神经网络、决策树、支持向量机[７－８]等ꎬ是利用某一个像素的光谱信息将其划分为某一个类别ꎮ魏祥坡[７]提出一种输入向量机分类高光谱影像ꎮ黄鸿[８]和田彦平[９]则提出利用主动学习和半监督分类的方法提高分类模型的泛化能力ꎬ但是这种方法的稳定性较差ꎮ王诗洋[１０]利用高光谱影像波谱相似性的模糊聚类方法ꎮ周平平[１１]通过建立高光谱影像线性分类回归方程修复古画污渍ꎮ然而ꎬ这些传统的分类器解译高光谱影像时ꎬ仅仅利用了地物的光谱信息ꎬ忽略了目标的空间邻域信息ꎬ不能获得良好的分类结果ꎬ而且ꎬ训练样本的质量和数量制约了传统分类器的性能ꎮ高光谱影像的多波段和冗余信息给训练样本库的构建带来严重挑战ꎬ因此本文提出了一种利用主动学习和空间约束的高光谱影像的分类ꎬ图１为该方法的流程图ꎬ在该方法中采用ＳＶＭ分类器作为基分类器ꎮ因为ＳＶＭ分类器是常用的解决高维度问题的方法ꎬ而且在只有少数训练集时ꎬ其性能仍然较好[１２]ꎮ为了解决训练样本质量对于模型性能的影响ꎬ文中通过构建置信度模型ꎬ选择最有“价值”的样本优化ＳＶＭ分类器的训练过程ꎮ同时ꎬ考虑到ＳＶＭ分类器本身没有引入空间信息ꎬ文中利用马尔科夫随机场模型建模影像中包含的上下文信息辅助分类ꎮ本文方法充分利用了高光谱影像数据中丰富的光谱和空间邻域信息辅助其分类ꎬ并在ＩｎｄｉａｎＰｉｎｅｓ数据集上验证有效性ꎮ

图１　本文方法的流程图Ｆｉｇ.１　Ｗｏｒｋｆｌｏｗｏｆｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄ

１　方　法１.１　基于ＳＶＭ的预分类ＳＶＭ模型是一个二分类器ꎬ其基本思想是利用满足Ｍｅｒｃｅｒ条件的核函数(如径向基核函数)将在低维空间上线性不可分的特征映射到高维空间使其线性可分ꎬ然后以结构风险最小化为准则构建最优分类超平面ꎬ使两类数据具有最优的分类结果(如图２所示)ꎮ假设数据集Ｄ＝{(ｘ１ꎬｙ１)ꎬ(ｘ２ꎬｙ２)ꎬ􀆺ꎬ(ｘｎꎬｙｎ)}ꎬ其中ｘｉ(１≤ｉ≤ｎ)表示样本的特征向量ꎬｙｉ(１≤ｉ≤ｎ)表示样本的标签ꎬ分类超平面函数为ｆ(ｘ)＝ωＴｘ＋ｂꎮ对于分类超平面的求解通常被转换为式(１)优化问题ｍａｘ１‖ω‖ꎬｓ.ｔ.　ｙｉ(ωＴｘｉ＋ｂ)≥１ꎬｉ＝１ꎬ２ꎬ􀆺ꎬｎ(１)式(１)等价于ｍｉｎ１２‖ω‖２ꎬｓ.ｔ.　ｙｉ(ωＴｘｉ＋ｂ)≥１ꎬｉ＝１ꎬ２ꎬ􀆺ꎬｎ(２)通过给每一个约束条件加上一个拉格朗日乘子αꎬ将约束条件融合到目标函数中ꎬ如式(３)所示λ(ωꎬｂꎬα)＝１２‖ω‖２－∑ｎｉ＝１αｉ(ｙｉ(ωＴｘｉ＋ｂ)－１)(３)令θ(ω)＝ｍａｘαｉ≥０λ(ωꎬｂꎬα)(４)

在所有约束条件都满足的情况下ꎬ最小化１２‖ω‖２等价于最小化θ(ω)ꎮ

图２　ＳＶＭ原理示意图Ｆｉｇ.２　ＳｃｈｅｍａｔｉｃｄｉａｇｒａｍｏｆＳＶＭ

图２中ꎬ中间的实线是寻找到的最大间隔分类超平面ꎬ其到两条虚线边界的距离相等ꎬ虚线边界上的点即为支持向量ꎮ事实上ꎬ所有的非支持向量即ωＴｘ＋ｂ≠±１所对应的拉格朗日乘子α都是等于０的ꎬ也就是说ꎬ在实际的计算中ꎬ只有支持向量即落在ωＴｘ＋ｂ＝±１上的样本点决定着最优超平面的计算ꎮＳＶＭ分类器对最不确定的样本进行分类时ꎬ容易出错ꎬ分类结果的置信度不高ꎮ因此ꎬ本文利用直推信度机[１３]建立一种检测函数进行样本不确定性估计ꎮ如图３所示ꎬ基于不确定的最优样本训练ＳＶＭ分类器ꎮ利用样本的ＫＮＮ分布状态建立样本不确定性模型ꎬ采用距离计算的方法根据已标注样本集对未标注样本集中的样本进行选择标注ꎬ依据此模型估计样本的不确定性ꎮ然后选择具有较大不确定性的样本更新训练样本库ꎬ迭代训练ＳＶＭ分类器ꎬ直到ＳＶＭ分类器的性能稳定ꎮ

图３　基于不确定性样本的ＳＶＭ分类器训练Ｆｉｇ.３　ＳＶＭｔｒａｉｎｅｄｂａｓｅｄｏｎｕｎｃｅｒｔａｉｎｔｙ－ｂａｓｅｄｓａｍｐｌｅ９７１第８期敖平平等:基于主动学习和空间约束的高光谱影像分类在ＳＶＭ分类问题中ꎬ可采用一对一法和一对余进行多类分类ꎮＳＶＭ模型获取分类信息在训练得到最优分类超平面之后ꎬ计算待分类样本与ＳＶＭ的“拟合”程度并将结果转为为后验概率输出ꎮ文中利用ｓｉｇｍｏｉｄ－ｆｉｔｔｉｎｇ方法ꎬ将标准ＳＶＭ的输出结果进行后处理ꎬ转换成后验概率ꎮＰ(ｙｉ｜ｆ(ｘｉ))＝１１＋ｅｘｐ(ａｆ(ｘｉ)＋ｂ)(５)式中ꎬａꎬｂ为待拟合的参数ꎬｆ(ｘｉ)为样本ｘｉ在标准ＳＶＭ下的输出结果ꎮｓｉｇｍｏｉｄ－ｆｉｔｔｉｎｇ方法的优点在于保持ＳＶＭ稀疏性的同时ꎬ可以良好地估计后验概率ꎮ１.２　基于ＭＲＦ优化分类根据马尔科夫特性可知ꎬ图像中像素的连续分布表现在像素对其邻域的依赖性ꎮ因此ꎬ本文利用ＭＲＦ模型优化ＳＶＭ分类器得到的分类结果以产生局部连续、全局最优的结果ꎮ根据像素的视觉特征向量和分块平滑的特性ꎬＭＲＦ模型给每个像素位置ｐ分配一个类别标签ｃｉ(１≤ｉ≤ｍ)ꎮ在计算机视觉领域中ꎬ寻找最优的标签Ｌ∗可以被表达为能量最小化问题ꎬ按照如下构建一个多标记能量函数Ｅ(Ｌ)＝Ｅｄａｔａ(Ｌ)＋λ􀅰Ｅｓｍｏｏｔｈ(Ｌ)(６)式中ꎬ数据项Ｅｄａｔａ(Ｌ)描述了标签Ｌ与被观测数据的不一致性ꎬ平滑项Ｅｓｍｏｏｔｈ(Ｌ)表征了标签Ｌ的分块不平滑程度ꎬλ表示平衡数据项和平滑项的比例系数ꎮ数据项Ｅｄａｔａ(Ｌ)一般被表示为Ｅｄａｔａ(Ｌ)＝∑ｕ∈ＶＤｕ(ｌｕ)(７)式中ꎬＤｕ(ｌｕ)度量在给定特征向量ｘ的条件下ꎬ标签ｌｕ与观测数据的一致性ꎮ为了尽可能准确地反映每个像素的光谱信息ꎬ文中采用ＳＶＭ分类器拟合观测数据特征向量的概率分布ꎬ以ＳＶＭ分类器的后验概率定量地描述标签ｌｕ与观测数据的一致性ꎮ类后验概率越大ꎬ其对应的数据项能量越小ꎮ平滑项Ｅｓｍｏｏｔｈ(Ｌ)主要是为了抑制分类后产生的“椒盐”现象ꎬ使分类结果更加平滑ꎬ一般被表示为Ｅｓｍｏｏｔｈ(Ｌ)＝∑{ｕꎬｖ}∈ＮＶｕꎬｖ(ｌｕꎬｌｖ)(８)式中ꎬＮ表示四邻域系统ꎮＶｕꎬｖ(ｌｕꎬｌｖ)＝ｇ(ｕꎬｖ)􀅰δ(ｌｕꎬｌｖ)ꎬδ(ｌｕꎬｌｖ)＝１　ｉｆｌｕ≠ｌｖ０　ｏｔｈｅｒｗｉｓｅ{ꎬｇ(ｕꎬｖ)＝ｅｘｐ(ｘｕ－ｘｖ)ꎬ􀅰表示欧氏距离ꎮ当像素及其邻域像素标签一致时ꎬ两者之间的平滑项能量为０ꎬ而当相邻像素标签不同时ꎬ光谱信息相差越小ꎬ其平滑项能量越大ꎮ在基于ＭＲＦ模型的分类问题中ꎬ最小化式(６)是一个ＮＰ难题ꎮ在本文中ꎬ式(６)采用多标记图割技术有效地最小化ꎮ多标记图割技术是一种对任意有限大小的标签集λ(λ∈Ｌ)近似能量最小化的算法ꎬ不仅有效地改善了计算效率ꎬ而且可以获得全局最优解ꎬ其中ꎬα－βｓｗａｐ算法是多标记图割技术中的典型代表ꎮα－βｓｗａｐ算法的总体思路是每一次ｓｗａｐ操作调整两个标签使得能量函数下降ꎬ遍历所有标签组合直至能量函数不能下降ꎬ得到最优解ꎮ２　实验与分析