区间型数据的可能性聚类算法
- 格式:pdf
- 大小:303.47 KB
- 文档页数:4
第30卷第10期
2013年10月 计算机应用与软件
Computer Applications and Software Vo1.3O No.10
0ct.2013
区间型数据的可能性聚类算法
李庆贺一民 罗建禄徐磊
(武警警官学院电子技术系 四川成都610213)
摘要 针对区间型数据的模糊e均值聚类(IFCM)算法在实际应用中的不足,将可能性理论引入区间型数据的聚类问题,通过
放松样本隶属度的约束条件和修正IFCM算法的目标函数,提出一种区间型数据的可能性聚类算法。通过仿真模拟实验和平均cR
指标分析,结果表明:在包含噪声和孤立点等代表性比较差的样本数据的聚类问题中,该算法明显优于IFCM算法,能有效地降低噪
声对聚类效果的影响。
关键词 区间型数据 模糊e均值聚类 可能性聚类 平均CR指标
中图分类号TP181 文献标识码A DOI:10.3969/j.issn.1000—386x.2013.10.069
A P0SSIBILISITIC CLUSTERING ALGoIUTHM FoR INTERVAL DATA
Li Qing He Yimin Luo Jianlu Xu Lei
(Department ofElectronic Technology,Offwen College ofCAPF,Chengdu 610213,Sichuan,
Abstract Fuzzy c means clustering algorithm of interval data has deficiency in practical application.In view of this,we introduce the
possibility theory into the clustering problem of interval data,by relaxing the constraints of the sample membership and modifying the objective
function of IFCM algorithm,we propose a possibilisitic clustering algorithm for interval data.Through simulation experiments and average CR
index analysis,the results show that in the cluster problem containing poorly representative sample data such as noise and outliers,the
proposed algorithm is much better than the IFCM algorithm,which can effectively reduce the influence of noise on the clustering result.
Keywords Interval data Fuzzy e means clustering Possibilisitic clustering Average CR index
0 引 言
随着计算机技术的不断发展和实际问题的需要,基于目标
函数的聚类算法逐渐成为模糊聚类的主流,其中模糊e均值聚
类算法(FCM算法)就是应用最广泛的一种…。然而,在实际应
用中,由于客观事物的复杂性和随机性、模糊性等不确定性影
响,往往很难用一个精确的数值对聚类对象的属性进行评价和
描述。为此,常用区间数的形式描述属性信息。因此,针对区间
型数据的聚类分析引起广泛关注和研究 。J。其中,Francisco
等 基于区间数的欧氏距离讨论了区间型数据的两种模糊c均
值聚类算法;范九伦等 借助经典的FCM算法提出了两种区间
值数据的FCM算法。进一步,高新波等 提出了一种改进的算
法,该算法通过引入一个加权因子,产生一种自适应性距离,以
控制区间大小对聚类结果的影响;张伟斌等 通过提取区间值
的中点和半宽度两个特征值,并引入控制区间宽度的影响因子
定义区间数一种新的距离度量,在此基础上给出一种区间型数
的FCM聚类算法。岳明道 运用区间分割策略改进了区间距
离的计算公式,进而提出了区间值数据模糊聚类的数学模型,并
拓广模糊c.均值算法对区间值数据进行聚类。蒋宁等¨ 将客
户的多维属性和基因算法结合提高类初始化质量,提出自适应
欧氏距离作为度量的动态聚类方法,应用于客户市场细分。这
些算法基本上都是将标准的FCM算法推广到区间型数据情形 而提出的。在实际应用中,必然面临与标准的FCM算法类似的
一些缺陷和不足,比如:迭代过程容易陷入局部极小值点;聚类
效果受孤立点或噪音数据的影响等。
因此,本文在区间型数据的模糊c均值聚类算法基础上,通
过放松样本隶属度的归一化约束条件和修改算法的目标函数,
提出一种区间型数据的可能性聚类算法。通过人工合成数据进
行仿真模拟实验,表明本文提出的算法能有效地降低孤立点或
噪音数据对聚类效果的影响,具有一定的优越性。
1 区间型数据的模糊C均值聚类算法及算例
分析
令[,]={[a一,a ]l a一,a e ,a一≤a },则I=[a一,
a ] [I]为一个区间数 J。下面,简要介绍区间型数据的模糊
c均值聚类算法(IFCM),并通过算例分析该算法存在的一些
不足。
1.1Ⅱ1CM算法
假设给定X={x ,x:,…,%}c. 为模式空间 中包含n
个样本的有限区间型数据集,其中: =( …, ),%=[ ,
]E[,],k=1,2,…,n,,=1,2,…,P,将其分为c类(1≤c≤
收稿日期:2012—06—20。李庆,副教授,主研领域:决策分析,计算
机技术。贺一民,教授。罗建禄,副教授。徐磊,助教。
252 计算机应用与软件 2013血
n)。记:
rU=(/x“)I/x ∈[0,1],Vi, 1 U ={ } (1) 【∑ =1,Vk 0<∑ <n,V J
为此,Francisco等 给出了一种区间型数据的FCM算法
(记作IFCM),其目标函数定义为:
c c P JlrcM( , )=∑∑( ) ∑[( i一 ) +( 一 ) ](2)
其中,m≥1为加权指数;U U 为 的一个模糊划分矩阵,
表示第 个样本属于第i类的隶属度;V={ , ,…, }c
为聚类原型, ( …, )表示第i类的聚类原型,且 =
[ , ]∈[,]。
通过求解最优化问题:min FcM, FcM-(U, ),可得到模糊
划分矩阵和聚类原型的迭代公式为:
(3) 最优聚类原型
噪音数据
0 5 1O 15 20 25 30 35 40 45 X1
图1 数据集 、初始化聚类原型和最优聚类原型视图
结果分析通过10次迭代,IFCM算法收敛。可得最优模
糊划分矩阵见表1,最优聚类原型为:
,r[3.260,8.734] [7.094,13,177]1 【『34.351,39.827][7.6168,11.754]J
数据集、初始化聚类原型和最优聚类原型视图见图1。从
表1和图1可知,第1至第8个样本数据得到正确的分类,而第
9个样本数据([18,25],[8,11])为噪音数据,隶属于第1、第2
类的隶属度均为0.500,无法反映实际情况,从而影响聚类效
果。因此,算例1说明IFCM算法与标准的模糊c均值聚类
(FCM)算法类似,对孤立点或噪音数据较为敏感。
(4) 2 区间型数据的可能性聚类算法
(5)
据此,实现IFCM算法的步骤如下:
步骤1初始化:给定聚类数目c,(1≤c≤n);设置加权指
数m≥1;设置迭代终止误差s>0;初始化聚类原型 ;
步骤2根据式(3),计算U=arg (,); E,ImFciMnJ U VU U 步骤3根据式(4)和式(5),计算V=arg minJ(U,V);
步骤4若U或 收敛,算法停止;否则,返回步骤2。
1.2 IFCM算例分析。
算例1 已知数据集蜀,见表1,其中包含一个孤立点样本
数据([18,25],[8,11])。假设给定聚类数目c=2,加权指数m
=2,迭代终止误差s=0.0001,初始化聚类原型(随机产生):
:『_[ , 5。 [ ,4。 1。利用IFCM算法进行聚类。 一【[30
,35][15,18]J。 畀伍坦¨承大。
表1数据集 及最优模糊划分矩阵
序号 l X2 最优模糊划分矩阵U∈UIFcM 分类
1 [1,8] [8,15] 0.995 0.005 1
2 [2,6] [9,17] 0.988 0.012 1
3 [3,8] [4,8] 0.982 0.O18 1
4 [36,43] [10,17] 0.020 O.98O 2
5 [35,43] [6,8] 0.012 0.988 2
6 [32,38] [9,13] 0.007 0.993 2
7 [39,41] [7,14] 0.O12 0.988 2
8 [34,38] [6,7] 0.015 0.985 2
9 [18,25] [8,11] 0.500 0.500 ● 针对IFCM算法在应用中对噪声数据极其敏感等不足,本
文从放松样本隶属度的约束和修改目标函数两个方面对IFCM
算法进行改进,提出一种区间型数据的可能性聚类(IPCM)算
法,以降低孤立点或噪声数据对聚类效果的影响。
一方面,由于IFCM算法对每一个样本点都有归一化约束
条件,使得样本的隶属度不但与该类的聚类原型有关,而且还受
其他类原型的影响,并且必须满足隶属度和为1。通常,当数据
集包含孤立点或噪音数据时,理论上该噪音数据隶属于每一类
的隶属度都应该很小,但是由于受归一化条件的限制,使得该噪
音数据的隶属度都很高(例如,算例1中的第9个样本数据),
致使聚类结果不能反应实际情况。因此,IPFCM算法首先放松
样本隶属度的约束条件,不再要求隶属度和为1,只要求maxlx
>0。也即是将式(1)修改为:
r U=(tx )}tx“∈[0,1],Vi, 1
UIPcM:{ } (6) 【0<∑ “<n,V m “>0,V J
通过放松样本隶属度的约束,就能够得到代表样本特性的隶
属度。特别是含有噪声和孤立点等代表I生比较差的样本数据时,应
用基于典型性的隶属度可以自动降低其对聚类效果的影响。
另一方面,在区间型数据的聚类问题中引入可能性理论和
惩罚因子,将目标函数进行修改。即将式(2)重新修改为:
c D JlrcM(u,V,6)=∑∑( ) ∑[( i一 )。+ 1^ 1 ,=I
( 一 ) ]+∑占 ∑(1一 ) (7)
其中,6 >0是一个惩罚因子,用于决定聚类时属于某一类的范
围的大小;其余符号同式(2)。
类似IFCM算法,通过求解最优化问题:rainU J PcM
(U,V,占),可得到模糊划分矩阵和聚类原型的迭代公式。具体
推导过程如下:
首先,假设U,占分别取固定值U,6,则J。 (U,V,6)取得极 慷 _一
0 曲 ,,, ..........一/ ∑ —...........。.......L =