信息系统的属性约简

  • 格式:pdf
  • 大小:173.18 KB
  • 文档页数:5

2001年

12月系统工程理论与实践第

12期 

文章编号

:10002

6788(

2001)

122

00762

05

信息系统的属性约简梁吉业1,2

,曲开社2

,徐宗本1

(

1.西安交通大学理学院信息与系统科学研究所

,陕西西安

710049;2.山西大学计算机科学系

,山西太原

030006)

摘要

: 

粗糙集理论是一种新的处理模糊和不确定知识的数学工具

.属性约简是粗糙集理论研究中

的重要内容之一

,现已证明寻找信息系统的最小约简是

NP2

hard问题

.本文提出一个基于信息量的属

性约简的启发式算法

,该算法的时间复杂性为

O(󰃜

A󰃜3󰃜

U󰃜

2)

.通过例子分析

,表明该算法是有效的

.

关键词

: 

粗糙集理论

;信息系统

;属性约简

;算法复杂性

中图分类号

: 

TP18 文献标识码

: 

A α

ReductionofAttributeinInformationSystems

LIANGJi2

ye1,2

,

QUKai2

she2

,

XUZong2

ben1

(

1.

InstituteforInformationandSystemScience,

FacultyofScience,

Xi’anJiaotongUniversity,

Xi’an

710049,

China;2.

DepartmentofComputerScience,

ShanxiUniversity,

Taiyuan030006,

China)

Abstract: 

Roughsettheoryisanewmathematicaltooltodealwithvaguenessand

uncertainty.

Reductionofattributeisoneoftheimportanttopicsintheresearchon

roughsettheory.

Ithasbeenprovedthatfindingtheminimalreductionofan

informationsystemisaNP2

hardproblem.Inthispaper,aninformationquantity2

based

heuristicalgorithmforreductionofattributeisproposed,

thetimecomplexityofthis

algorithmisO(󰃜

A󰃜3󰃜

U󰃜

2

)

.

Thoughrunninganexample,

weshowthatthisalgorithm

iseffective.

Keywords: 

roughsettheory;

informationsystems;

reductionofattribute;

complexity

ofalgorithm

1 引言

粗糙集理论[1,2]

是一种新的处理模糊和不确定知识的数学工具

.其主要思想是

,在保持信息系统的分

类能力不变的前提下

,通过知识约简

,导出问题的决策或分类规则

.经过十几年的研究与发展

,粗糙集理论

已经在理论和实际应用上取得了长足的发展

,特别是由于九十年代在知识发现等领域得到了成功的应用

而受到国际学术界广泛关注

.目前

,它正在被广泛应用于机器学习、决策分析、过程控制、模式识别和数据

挖掘等领域[3,4]

.属性约简是粗糙集理论中的重要内容之一[1]

。所谓属性约简

,就是在保持信息系统的分类

能力不变的前提下

,删除其中的冗余属性

.特别是

,当信息系统中的数据是随机采集时

,其冗余性更为普

.

一般地讲

,一个信息系统的属性约简不是唯一的

,人们期望找到具有最少属性的约简

,即最小约简

.然

,要找到一个信息系统的最小约简是一个

NP2

hard问题[5]

.解决这类问题的一般方法是采用启发式搜索

方法求出最优或次最优约简[6]

.

本文首先建立了信息系统中知识与信息量之间的关系

,并通过知识的信息量对属性的重要性进行了

定义

,以此作为启发式信息

.在此基础上

,提出了基于信息量的属性约简算法

,该算法的时间复杂性为

α收稿日期

:20002

052

22

资助项目

:国家青年科学基金(

69805004)

;山西省软科学基金(

9820522

1)

© 1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.O(󰃜

A󰃜3󰃜

U󰃜

2

)

.通过例子分析

,表明该算法是有效的

.

2 信息系统

定义

1 四元组

S=(

U,

A,

V,

f)是一个信息系统

,其中

U表示对象的非空有限集合

,称为论域

;

A表

示属性的非空有限集合

;

V=∪

a∈

AV

a,

V

a是属性

a的值域

;

f表示

A→

V是一个信息函数

,它为每个对象

的每个属性赋予一个信息值

,即Π

a∈

A,

x∈

U,

f(

x,

a)∈

V

a.

每一个属性子集

A决定了一个二元不可区分关系

IND(

P)

:

IND(

P)

={(

x,

y)∈

U󰃜Π

a∈

A,

f(

x,

a)

=

f(

y,

a)

}

性质

1 

IND(

P)是论域

U上的等价关系

;且

IND(

P)

=∩

a∈

PIND(

{

a})

性质

2 令

P,

A.若

Q,则

IND(

Q)Α

IND(

P)

.

关系

IND(

P)

,

A,构成了

U的一个划分

,用

U󰃗

IND(

P)表示

,简记为

U󰃗

P・

U󰃗

IND(

P)中的任何

元素

[

x]

p称为等价类

.

信息系统

S=(

U,

A,

V,

f)也称为知识表达系统

U󰃗

IND(

A)或知识

A.

P,

A.

U󰃗

IND(

P)

=

U󰃗

IND(

Q)表示对于Π

x∈

U有

[

x]

p=[

x]

Q.

U󰃗

IND(

P)Α

U󰃗

IND(

Q)表示对于Π

x∈

U

[

x]

[

x]

Q.

U󰃗

IND(

P)<

U󰃗

IND(

Q)表示对于Π

x∈

U有

[

x]

[

x]

Q且存在

x∈

U有

[

x]

p<

[

x]

Q.

下面引入信息系统中的几个概念[1]

.

定义

2 设

S=(

U,

A,

V,

f)是一个信息系统

,

a∈

A,如果

IND(

A-{

a})

=

IND(

A)

,则称属性

a在

A

中是不必要的(多余的)

,否则

,称

a在

A中是必要的

.

不必要的属性在信息系统中是多余的

,如果将它从信息系统中去掉

,不会改变该信息系统的分类能

,相反

,若从信息系统中去掉一个必要的属性

,则一定改变该信息系统的分类能力

.

定义

3 设

S=(

U,

A,

V,

f)是一个信息系统

,如果每个属性

a∈

A在

A中都是必要的

,则称属性集

A

是独立的

,否则

,称

A是相依的

.

对于相依的属性集来说

,其中包含有多余属性

,可以对其约简

.

定义

4 设

S=(

U,

A,

V,

f)是一个信息系统

,

A中所有必要的属性组成的集合称为属性集

A的核

,记

Core(

A)

.

定义

5 设

S=(

U,

A,

V,

f)是一个信息系统

,

A,如果

1)

IND(

P)

=

IND(

A)

;

2)

P是独立的

,

则称

P是

A的一个约简

.

可以证明核是所有约简的交集[1]

.

3 知识的信息量

首先将信息论中信息量的概念[7]

引入到信息系统中

.

定义

6 设

S=(

U,

A,

V,

f)是一个信息系统

,

A,

U󰃗

IND(

P)

={

X

1,

X

2,…

,

X

n}。知识

P的信息量

定义为

:

I(

P)

=6n

i=1

󰃜

X

i󰃜

󰃜

U󰃜1-󰃜

X

i󰃜

󰃜

U󰃜=1-1

󰃜

U󰃜

26n

i=1󰃜

X

i󰃜2

其中󰃜

X󰃜表示集合

X的基数

,󰃜

X

i󰃜󰃗󰃜

U󰃜表示等价类

X

i在

U中的概率

.

定理

1 设

S=(

U,

A,

V,

f)是一个信息系统

,

A。若

U󰃗

IND(

A)<

U󰃗

IND(

P)

,则

I(

P)

<

I(

A)

.

证明 令

U󰃗

IND(

P)

=

{X

1,

X

2,…

,

X

n}77

12期信息系统的属性约简

© 1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.