本科毕业设计论文
课题名称 基于JAVA的WEKA数据挖掘
平台分析及二次开发
学生姓名 林莉莉 学号 20032311 专业名称 计算机科学与技术
指导教师姓名 陈 慧 萍
申请学位级别 工学学士
学位授予单位 河海大学
论文提交日期 2007年6月
计算机及信息工程学院（常州）
河海大学
本科毕业设计（论文）任务书
(理工科类)
Ⅰ、毕业设计（论文）题目：
基于JA V A的WEKA数据挖掘平台分析及二次开发
Ⅱ、毕业设计（论文）工作内容(从综合运用知识、研究方案的设计、研究方法和手段的运用、应用文献资料、数据分析处理、图纸质量、技术或观点创新等方面详细说明)：
数据挖掘是目前计算机科学中活跃的研究领域之一，所谓数据挖掘就是采用机器学习算法从大量数据中提取和挖掘知识，因此广泛用于智能数据分析和处理中。WEKA是基于java的数据挖掘平台，其中集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，聚类，关联规则，属性选择以及在新的交互式界面上的可视化。由于其源码的开放性，WEKA不仅可以用于完成常规的数据挖掘任务，也可以用于数据挖掘的二次开发中。
本课题属研究性课题，要求学生阅读大量资料，自学数据挖掘方面的知识，分析WEKA 数据挖掘的平台，写出全面的文献综述。并综合利用数据结构、算法设计与分析、JA V A 语言等知识，进行基于WEKA平台的二次开发。具体任务如下：
①阅读国内外文献，了解数据挖掘技术的基本方法与应用；对数据挖掘的方法之一如分类或聚类算法作更深入的了解。
②WEKA数据挖掘平台的分析：阅读WEKA数据挖掘平台的大量文档，分析其实现机理，了解WEKA进行数据挖掘的基本过程。结合①和②写出WEKA数据挖掘工具的文献综述。
③WEKA平台的数据挖掘实验：分析WEKA的数据挖掘过程，分析WEKA所要求的数据集的格式和WEKA Explorer的功能模块，并准备典型的数据集，在WEKA平台上做大量数据挖掘测试实验，并分析其实现机理及存在问题。
④研究WEKA开放源码，利用其提供的类，进行二次开发，实现数据挖掘的一个典型算法。
Ⅲ、进度安排：
第1—2周：确定设计任务。
第3—4周：阅读相关文献，外文翻译。
第5—7周：写出WEKA数据挖掘工具的文献综述；
第8—12周：WEKA数据挖掘平台的挖掘实验；
第13—15周：WEKA数据挖掘平台上的二次开发（使用JA V A）；
第16周：写毕业论文
第17周：资料整理、程序打包、准备答辩。
Ⅳ、主要参考资料：
①(美)Jiawei Han, Micheline Kamber. 数据挖掘: 概念与技术[M], 北京:机械工业出版社, 2001.
② Ian H.Witten.Data Mining:Practical Machine Learning Tools and Techniques (Second Edition) [M] , 北京:机械工业出版社, 2005 .
③(美)米哈尔斯基. 机器学习与数据挖掘[M], 北京:电子工业出版社, 2004
④WEKA Tutorial. Machine Learning Algorithms in Java
指导教师：陈慧萍， 2007 年 3 月 1 日
学生姓名：林莉莉，专业年级：计算机03
系负责人审核意见（从选题是否符合专业培养目标、是否结合科研或工程实际、综合训练程度、内容难度及工作量等方面加以审核）：
系负责人：，年月日
摘 要
数据挖掘是在“信息爆炸，知识缺乏”的背景下提出的新技术。所谓数据挖掘就是从大量的、不完整的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。该技术在银行业、市场业、零售业、保险业及电信业等诸多领域的数据分析中有着广阔的应用前景。
本文首先针对数据挖掘技术作了比较全面的综述，并深入分析聚类方法。其次，针对学术界典型的开放数据挖掘工具WEKA，进行数据挖掘测试，主要包括预处理、分类、聚类、属性选择、关联规则及可视化等，并对挖掘结果进行统计分析，指出WEKA系统存在的缺陷及发展前景。为了弥补WEKA系统存在的一些缺陷，本文还在WEKA平台下进行二次开发，根据描述的k-中心点轮换法的算法流程，利用eclipse在WEKA平台下嵌入该算法，并对其进行优化以提高其聚类效果。
虽然本文研究的WEKA数据挖掘工具目前还处于研究阶段，但它却汇集了多样化的机器学习算法，是数据挖掘研究的理想选择。同时，本文所研究的k-中心点轮换算法改进了传统的k-中心点算法，避免陷入局部最优，并进行了属性正常化、处理残缺值等优化，聚类效果明显提高了。
关键词：数据挖掘 WEKA 聚类分析 k-中心点轮换算法
Abstract
Data Mining is a new technology which is put forward with the background of data rich but knowledge poor. Generally, Data Mining is the process of extracting the connotative, unknown but potentially useful data and knowledge from the data that is plentiful, incomplete, noisy, fuzzy and stochastic. The technology has a widest application foreground in the data analysis on dozens of fields such as banking, marketing, retailing, insurance, telecom and so on.
First, the paper makes a comprehensive summarization for the data mining technology and analyzes the clustering methods in depth. Second, the paper does some tests about data mining on WEKA which is a typical and open data mining tool in the academe. The tests mainly include preprocessing、classifying、clustering、associating、selecting attributes and visualization. Moreover, the paper statistically analyzes the test results and indicates the faults of the WEKA system and its development foreground. Last, in order to supply a gap for the WEKA system, the paper also makes secondary development on the WEKA platform according to the k-medoids substitution method’s flow chart by using eclipse IDE, and then optimizes this algorithm to improve the clustering effect.
Although the data mining tool named WEKA that being investigated currently is on its research phase, but it integrates various machine learning methods and so it’s really a perfect choice for data mining research. At the same time, the k-medoids substitution method improves on the traditional k-medoids method, preventing it from getting into partial optimum solution. And the paper also makes some optimizations such as attributes normalizing, default value processing and so on, with what the clustering effect has been improved a lot.
Key Words: Data Mining WEKA Cluster Analysis K-medoids Substitution Method
目 录
1前言 (7)
1.1课题背景 (7)
1.2本文所做的主要工作 (7)
1.3本文结构 (8)
2数据挖掘技术综述 (9)
2.1数据挖掘的定义 (9)
2.2数据挖掘的基本功能 (9)
2.3数据挖掘的流程 (10)
2.4数据挖掘的常用方法和技术 (11)
2.5数据挖掘的应用领域 (12)
2.6国内外数据挖掘工具现状 (13)
2.7聚类分析概述 (14)
2.7.1聚类概念 (14)
2.7.2主要聚类方法的分类 (14)
3基于WEKA平台的数据挖掘测试 (16)
3.1WEKA系统简介 (16)
3.2WEKA系统的特点 (16)
3.2.1WEKA系统的文件格式 (16)
3.2.2WEKA系统的界面 (17)
3.2.3WEKA实现的功能及算法 (19)
3.2.4WEKA系统的包结构 (22)
3.3WEKA系统的挖掘测试及结果分析 (24)
3.3.1WEKA系统的数据挖掘过程 (24)
3.3.2WEKA系统的挖掘实验 (25)
3.3.3WEKA系统中存在的问题 (34)
3.4WEKA系统的发展前景 (34)
4WEKA平台下的二次开发 (35)
4.1二次开发背景及一般过程 (35)
4.1.1二次开发背景 (35)
4.1.2二次开发一般过程 (35)
4.1.3系统的开发与运行环境 (35)
4.2K-中心点轮换算法 (35)
4.3K-中心点轮换算法的实现 (37)
4.3.1K-中心点轮换算法的类模块关系 (37)
4.3.2K-中心点轮换算法的流程图 (38)
4.3.3K-中心点轮换算法的类说明 (39)
4.4K-中心点轮换算法的测试 (45)
5总结 (49)
致谢 (50)
参考文献 (50)
附录 (51)
1前言
1.1课题背景
近年来，随着大规模的工业生产过程的自动化、商务贸易电子化及企业和政府事务电子化的迅速普及科学计算的日益增长，产生了大规模的数据源。计算机网络技术的长足进步也为数据的传输和远程交互提供了技术手段。日益成熟的数据库系统和数据库管理系统都为这些海量数据的存储和管理提供了技术保证，为步入信息时代奠定了基础，这些庞大的数据库及其中的海量数据是极其丰富的信息源。
在这些信息源中隐藏了许多有潜在价值的知识，如何发现这些有用的知识是人工智能、数据库等领域的研究焦点。但是仅仅依靠传统的数据检索机制和统计分析方法已经远远不能满足需要了。因此，近年来出现了一门新兴的知识获取提取技术——数据挖掘技术。数据挖掘（Data Mining，DM）就是指从大量不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程，其中，主要包括数据清洗、数据集成、数据选择、数据转换、数据挖掘、模式评估及知识表示等几个阶段。在“数据丰富，但信息贫乏”的今天，它的出现为自动和智能地把海量的数据转化成有用的信息和知识提供了有效的手段。
数据挖掘技术是一门综合性的技术，涉及到诸如机器学习、人工智能、统计学、模式识别、神经网络、数据库技术及数据可视化等众多学科，是数据库理论和机器学习的交叉学科。1995年，在加拿大召开的第一届关于知识发现(KDD)和数据挖掘（DM）的国际学术会议上，由于数据库中的“数据”被形象地喻为矿床，因此“数据挖掘”一词很快流传开来。随后，它迅速扩大成为一个独立的领域，逐渐盛行于统计界、产业界、多媒体、管理信息系统界和数据库研究界等重要领域。现在，愈来愈多的企业想要导入DM技术，美国的一项研究报告将它视为二十一世纪十大明星产业，而国际知名调查机构Gartner Group在高级技术调查报告中，将数据挖掘和人工智能列为“未来三到五年内将对工业产生深远影响的五大关键技术”之首，还将并行处理体系和数据挖掘列为未来五年内投资焦点的十大新兴技术前两位，预计到2010年数据挖掘的市场将由目前小于5％增加到大于80％。从这个侧面就可以说明数据挖掘这项技术有着光明的前景，在不久的将来，数据挖掘势必会成为一种潮流。
1.2本文所做的主要工作
本文所做的主要工作如下：
(1)阅读国内外的文献，了解数据挖掘技术的背景、定义、功能、过程、方法及应用领域等知识，并再
重点针对数据挖掘中的聚类方法作更深入的研究；
(2)在熟悉WEKA数据挖掘平台的功能及挖掘过程的基础上，再准备一些来自不同领域的典型代表数据集，
并将该数据集置于不同的学习方案中，如预处理，分类，聚类等学习方案，然后进行相应的挖掘测试，并将挖掘的结果进行统计并分析。同时，根据挖掘的结果分析WEKA平台目前存在的一些问题及不足的地方；
(3)由于WEKA系统代码的开放性，本文还对其进行二次开发。在二次开发之前，本文在第2章对数据挖掘
的聚类方法作了深入的分析，分别指出每一类聚类方法的优缺点，而本次主要针对其中基于划分方法的k-中心点算法进行优化，给出了k-中心点轮换算法的过程描述及性能分析，并利用eclipse集成开发环境在WEKA平台上嵌入该算法，然后再针对该算法的一些缺点作进一步优化，如将属性进行正
常化、对残缺属性值进行特殊处理等，以提高其聚类效果。
1.3本文结构
(1)第二章，介绍数据挖掘技术的定义、功能、流程、方法、应用领域及挖掘工具等，还重点介绍了聚
类方法中的一些常用算法的优缺点；
(2)第三章，介绍WEKA系统的特点、文件格式、功能及包结构等，并熟悉它的挖掘流程，再进行基于
WEKA平台的数据挖掘测试并分析挖掘结果及其存在的问题；
(3)第四章，利用eclipse集成开发环境在WEKA中嵌入k-中心点轮换算法，再对其进行一定的优化，
并分析其存在的问题，明确该算法改进的方向；
(4)第五章，针对本文进行总结，指出本文研究的成果及本课题存在的缺陷。
2数据挖掘技术综述
2.1数据挖掘的定义
数据挖掘是20世纪80年代，投资人工智能(Artificial Intelligence , AI)研究项目失败后，AI 转入实际应用时提出的。它是一个新兴的，面向商业应用的AI研究。现在，数据挖掘得到了越来越多的商业机构的关注。然而，究竟什么是数据挖掘(Data Mining)呢？数据挖掘是指从大量不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。然而，在数据挖掘广为流传期间，不同版本的数据挖掘定义也在学术界被引用着，主要定义如表2.1所示，虽然这些定义存在着一定的差别，但它的目的都是要将数据变为知识，以增加数据的内在价值。
表2.1 数据挖掘的不同定义
Gartner Group 数据挖掘是通过仔细分析大量数据来揭示有意义的新的关系、模式和趋势的过程
Aaron Zornes 数据挖掘是一个从大型数据库中提取以前不知道的可操作性信息的知识挖掘过程
SAS研究所在大量相关数据基础之上进行数据探索和建立相关模型的先进方法
Bhavani 使用模式识别技术、统计和数学技术，在大量的数据中发现有意义的新关系、模式和趋势的过程Fayyad 一个确定数据中有效的，新的，可能有用的并且最终能被理解的模式的重要过程
Zekulin 一个从大型数据库提取以前未知的，可理解的，可执行的信息并用它来进行关键的商业决策的过程Ferruzza 数据挖掘是用在知识发现过程，来辩识存在于数据中的未知关系和模式的一些方法
Jonn 数据挖掘是发现数据中有益模式的过程
Parsay 数据挖掘是我们为那些未知的信息模式而研究大型数据集的一个决策支持过程
2.2数据挖掘的基本功能
数据挖掘的目标是从数据库中发现隐含的、有意义的知识。它的功能一般可以分为两类：①描述性的数据挖掘：在可用数据集的基础上生成新的、非同寻常的信息；②预测性的数据挖掘：生成已知数据集所描述的系统模型。这两种类型通常包括如下几种功能：
(1)概念描述
概念描述就是对某类对象的内涵进行描述，并概括这类对象的有关特征。概念描述可以通过以下方法实现：数据特征化、数据区分。前者描述某类对象的共同特征，如从银行优质客户的特征，发现潜在的优质客户。后者则是描述异类对象之间的区别，如信用卡诈骗者和非诈骗者，这两类信用卡持有者进行的比较。
(2)关联分析
关联分析就是从大量的数据中发现项集之间有趣的联系、相关关系或因果结构，以及项集的频繁模式。若两个或多个数据项的取值之间重复出现且概率很高时，它就存在某种关联，则可以建立起这些数据项的关联规则。关联分析的目的在于找出数据库中隐藏的关联规则。比如，买电脑的顾客同时会买某种软件，这就是一条关联规则。
在关联规则挖掘中通常会涉及到两个重要的指标：支持度和置信度。只有支持度与置信度均较大的
规则才是比较有价值的规则。
(3)分类和预测
分类就是找出一组能够描述数据集典型特征的模型(或函数),以便能够分类识别未知数据的归属或类别。比如：将信用卡申请人分为低、中、高风险群，或是将顾客分到事先定义好的族群中去。其中，分类模型(或函数)可以通过分类挖掘算法从一组训练样本数据(其类别归属已知)中学习获得它有多种形式表示，如分类规则、判定树、数学公式或神经网络等。
预测则是利用历史数据找出规律，建立模型，并用此模型预测未来数据的种类、特征等。比如预测哪些顾客在未来半年内会取消该公司服务，或预测哪些电话用户会申请增值服务。
(4)聚类分析
聚类又称为无指导的学习，聚类的目的是根据一定规则将数据分为一系列有意义的子集，同一聚类中，个体之间的差距较小，不同聚类中，个体之间的距离偏大。比如根据股票价格的波动情况，可以将股票分成不同的类，总共可以分成几类，各类包含哪些股票，每一类的特征是什么，这对投资者、尤其对投资基金来说，可能就是很重要的信息。当然，聚类除了将样本分类外，它还可以完成孤立点挖掘，如将其应用于欺诈探测中。
聚类与分类不同，聚类分析是在没有给定划分类的情况下，根据信息相似度进行信息聚类的一种方法。而分类则需要先定义类别和训练样本，是有指导的学习。
(5)孤立点分析
孤立点(outlier)是指数据库中包含的一些与数据的一般行为或模型不一致的数据。大部分数据挖掘方法将孤立点视为噪声或异常而丢弃，然而在一些应用中，从数据库中找出异常数据，如金融欺诈，洗黑钱或恐怖行为等，进行孤立点分析是很有必要的，因此发现和分析“诈骗行为”是一项很有意义的数据挖掘任务。当然，除了“发现诈骗”，孤立点分析还可以发现收入特别低或特别高的顾客的购买行为等。
(6)演变分析
演化分析就是对随时间变化的数据对象的变化规律和演化趋势进行建模分析。它主要包括时间序列数据分析、序列或周期模式匹配和基于类似性的数据分析。比如，购买了激光打印机的人中，半年后80%的人会买新硒鼓。
2.3数据挖掘的流程
数据挖掘(Data Mining)是采用数学的、统计的、人工智能和神经网络等领域的科学方法，如记忆推理、聚类分析、关联分析、决策树、神经网络、基因算法等技术，从大量数据中挖掘出隐含的、先前未知的、对决策有潜在价值的关系、模式和趋势,并用这些知识和规则建立用于决策支持的模型，提供预测性决策支持的方法、工具和过程。数据挖掘是数据库中的知识发现（KDD）的一个步骤，也是核心步骤。传统的KDD流程如图2.1所示，具体步骤如下所示：
(1)数据清洗(Data Cleaning)：消除噪声或不一致的或与挖掘任务无关的数据。
(2)数据集成(Data Integration)：将多种不同的数据源组合在一起。
(3)数据选择(Data Selection): 从数据库中检索与分析任务相关的数据。
(4)数据转换(Data Transformation)：将数据转换或统一成适合挖掘的形式。
(5)数据挖掘(Data Mining)：它是KDD的一个基本步骤，意在使用智能方法提取数据模式。
(6)模式评估(Pattern Evaluation)：根据一定评估标准识别表示知识的真正有趣的模式。
(7)知识表示(Knowledge Presentation)：使用可视化和知识表示技术向用户提供挖掘知识。
图2.1 KDD流程示意图
2.4数据挖掘的常用方法和技术
数据挖掘方法是由人工智能、机器学习的方法发展而来，结合传统的统计分析方法、模糊数学方法以及科学计算可视化技术，以数据库为研究对象，形成了数据挖掘方法和技术。一般按照功能来划分，常用的数据挖掘方法有如下几种：
(1)决策树(Decision Trees)：利用信息论中的互信息(信息增益)寻找数据库中具有最大信息量的属性
字段，建立决策树的一个结点，再根据该属性字段的不同取值建立树的分支，每个分支子集重复建立树的下层结点和分支的过程。常用的决策树方法还有CHAID、CART和Quest，ID3和C5.0等。
(2)聚类检测(Clustering)：聚类检测方法是最早的数据挖掘技术之一。具体如2.2(4)的聚类分析所示。
(3)神经网络(Neural Nets)：神经网络方法模仿生物神经网络，是一种通过训练来学习的非线性预测
模型，它可以完成分类、聚类、特征挖掘、预测等多种数据挖掘任务。
(4)关联规则(Association Rules)：关联分析分为关联规则和时序分析。前者是指在当前记录的各个
特征间找内在的联系，主要的实现技术是统计学中的置信度和支持度分析。
(5)可视化(Visualization)：可视化技术是一种图形显示技术，它采用直观的图形方式将信息模式、
数据关联或趋势呈现给决策者，使数据挖掘过程可视化以提高数据挖掘效率。
(6)遗传算法(Genetic Algorithm)：遗传算法是一种基于生物自然选择与遗传机理的随机搜索算法，
包括繁殖、交叉(、变异等三个基本算子。目前已被广泛应用于数据挖掘领域。
(7)粗糙集(Rough Set)：粗糙集方法是一种研究不精确、不确定性知识的数学方法。它由于算法简单，
无需提供先验概率等优点而受到广泛应用，是一种高效的数据挖掘方法。
如表2.2所示，为数据挖掘网站 https://www.doczj.com/doc/bc7883068.html, 对2006年数据挖掘常用方法统计情况，从表可以看出决策树、聚类分析、关联规则、可视化等经典方法仍被广泛应用。由于不同的方法带有不同的特点和应用领域，因此，用户在使用相应数据挖掘方法时应综合考虑。
表2.2 2006年数据挖掘常用技术和方法统计情况
Data mining/ analytic methods you used frequently in the last year: [176 voters]
Decision Trees/Rules (90) 51.1%
Clustering (70) 39.8%
Regression (67) 38.1%
Statistics (64) 36.4%
Association rules (54) 30.7%
Visualization (38) 21.6%
SVM (31) 17.6%
Neural Nets (31) 17.6%
Sequence/Time series analysis (24) 13.6%
Bayesian (24) 13.6%
Nearest Neighbor (20) 11.4%
Boosting (17) 9.7%
Hybrid methods (14) 8.0%
Bagging (13) 7.4%
Genetic algorithms (12) 6.8%
Other (4) 2.3%
2.5数据挖掘的应用领域
数据挖掘卓越的分析能力鼓舞着人们将其应用到自己的领域中，从数据挖掘开始到现在，已经出现了不少成功的案例。根据著名的数据挖掘网站https://www.doczj.com/doc/bc7883068.html, 于2005年7月对过去三年数据挖掘应用所做的一个投票调查结果，可以大致地了解到目前数据挖掘应用领域的分布情况。如表2.3所示，目前的数据挖掘应用已经涉及到各行各业，相比较而言，在银行业、CRM(客户关系管理)、市场业、信用评分、零售业、欺诈检测、保险业以及电信业等行业的应用更加普遍。
表2.3 2005年7月对过去三年数据挖掘应用领域的调查情况表
Industries/fields where you successfully applied data mining in the past 3 years Banking (51) 12%
Biotech/Genomics (11)3%
Credit Scoring (35)8%
CRM (52)12%
Direct Marketing/Fundraising (34) 8%
e-Commerce (11) 3%
Entertainment/Music (4) 1%
Fraud Detection (31) 7%
Gambling (2) 0%
Government applications (12) 3%
Insurance (24) 6%
Investment/Stocks (5) 1%
Junk email/Anti-spam (5) 1%
Health care/ HR (15) 4%
Manufacturing (19) 5%
Medical/ Pharma (12) 3%
Retail (25) 6%
Science (17) 4%
Security/Anti-terrorism (5) 1%
Telecom (23) 5%
Travel/Hospitality (8) 2%
Web (9) 2%
Other (11) 3%
2.6国内外数据挖掘工具现状
进行数据挖掘，当然需要工具，但是，如果用户自己组织人力物力建立数据挖掘系统，则耗时费力，其性能也不一定能达到理想的要求，所以引进商业化的数据挖掘工具已成为企业的追求，因此，越来越多的软件商已经进入这一领域，提供各自的数据挖掘工具及解决方案，其中既包括像SAS、SPSS这样传统的数据分析软件供应商，也包括微软、IBM等通用软件巨头，更包括很多以数据挖掘软件起家的新兴公司。
经过了10多年的发展，数据挖掘工具已从研究逐步地走向应用。通过对数据挖掘权威网站
https://www.doczj.com/doc/bc7883068.html, 上的数据挖掘工具列表统计，到2004年底，仅该网站上列出的各种数据挖掘工具就已达600余种。目前，比较著名的数据挖掘工具有IBM Intelligent Miner、SAS Enterprise Miner、SPSS Clementine等，它们都能够提供常规的挖掘过程和挖掘模式，其它常用的数据挖掘工具还有LEVEL5 Quest 、MineSet(SGI)、Partek、SE-Learn、SPSS 的数据挖掘软件Snob、 Ashraf Azmy 的SuperQuery、WINROSA、XmdvTool 等。
应该指出的是，目前数据挖掘工具品种繁多，实现的功能各不相同，差异很大，因此企业在选择数据挖掘工具的时候，应该考虑多方面的因素，除了考虑数据挖掘工具的可伸缩性、操作的简易性、可视化和开放性等通用参考指标，还要从企业的实际(如背景、财务、挖掘水平等)出发具体分析。
当然，对于需要数据挖掘工具来从事教学或研究的高校，那么WEKA则是首选，因为WEKA是一套代码完全开放的软件，且无条件免费使用，堪称数据挖掘学术界的典型代表，它对于一些经费紧张的高校、研究机构甚至是企业来说，都是一款值得考虑的挖掘工具。
2.7聚类分析概述
2.7.1聚类概念
所谓聚类就是将物理或抽象对象的集合分组成为由类似的对象组成的多个类的过程，划分的原则是在同一个簇中的对象之间具有较高的相似度，而不同簇中的对象差别较大。聚类分析来源于许多研究领域，包括数据挖掘、统计学、模式识别等。它是数据挖掘的一个功能，但有能作为一个独立的工具来获得数据分布的情况，概括出每个簇的特点，或者集中注意力对特定的某些簇做进一步地分析。此外，聚类分析也可以作为其它分析算法(如关联规则、分类等)的预处理步骤，这些算法在生成的簇上进一步进行处理。同时，聚类分析还可以完成孤立点的挖掘。
伴随着社会的需求，聚类分析已成为了数据挖掘领域中一个非常活跃的研究课题，但巨大的、复杂的数据集也给聚类分析提出了特殊的挑战，其中典型要求主要有以下几个方面：
(1)可伸缩性：指聚类算法不论是对于小数据集还是大数据集都应是有效的。许多聚类算法对于小数据
集有良好的聚类效果，但是对于大数据集，算法性能却下降了，而实际的数据集往往是很庞大的。
(2)处理不同类型属性的能力：要求算法既可处理数值型数据，又可处理非数值型数据，既可处理离散
数据，又可以处理连续域内的数据，如布尔型，序数型，枚举型或这些数据的混合型。
(3)能够发现任意形状的聚类：许多聚类算法经常使用欧几里得距离作为相似性度量方法，但基于这样
的距离度量的算法趋于发现具有相近尺寸和密度的球状簇。但对于一个簇可能是任意形状的情况，提出能发现任意形状簇的算法是很重要的。
(4)用于决定输入参数的领域知识最小化和输入记录顺序敏感性：有些聚类算法要求用户输入一定的参
数(如希望得到簇的数目)，有些算法则对于输入的数据顺序很敏感。而实际应用中，很难事先确定参数或数据集的顺序，这增加了用户的负担，也使得聚类质量难以控制，产生差别很大的聚类结果。
(5)处理噪声数据的能力：在现实世界中绝大多数的数据库都包含了孤立点、空缺、未知数据或者错误
的数据。如果聚类算法对于这样的数据敏感，将会导致低质量的聚类结果。
(6)处理高维数据的能力：要求算法既可处理属性较少的数据，又能处理属性较多的数据。而实际很多
聚类算法擅长于处理低维的数据，对于高维数据的聚类结果的判断就不那么乐观了。
(7)基于约束的聚类：现实世界的应用可能需要在各种约束条件下进行聚类。要找到既满足约束特定条
件，又具有良好聚类特性的数据分组是一项具有挑战性的任务。
(8)可解释性和可用性：聚类结果总是需要表现为一定的知识，这就要求聚类结果可解释，易理解。但
在实际应用中有时往往不能令人满意。
2.7.2主要聚类方法的分类
聚类分析是一个非常活跃的领域，已经有大量的、经典的和流行的算法涌现，一般按照聚类分析算法的主要思路，聚类方法可被分为划分方法、层次的方法,基于密度的方法,基于网格的方法及基于模型的方法。具体如下：
(1)划分方法(Partitioning Methods)
给定一个n个对象或者元组的数据库，划分方法构建数据的k个划分，每个划分表示一个簇，并且k≤n，也就是说，它将数据划分为k个簇，同时必须满足如下的要求：①每个簇至少包含一个对象；②每个对象必须属于且只属于一个簇。对于给定的k，算法首先给出一个初始的划分方法，以后通过反复迭代的方法改变划分，使得每一次改进后的划分方案都较前一次的更好。所谓好的标准就是：同一簇中
的对象越近越好，而不同簇中的对象越远越好。目标是最小化所有对象与其参照点之间的相异度之和。
划分聚类方法是最基本的聚类方法，主要包括k-均值、k-中心点、CLARA及CLARANS等算法，其中，k-均值和k-中心点比较经典的启发式算法。
(2)层次方法(Hierarchical Methods)
层次方法对给定数据对象集合进行层次的分解，直到某种条件满足为止。具体又可分为凝聚的、分裂的两种方案。前者是一种自底向上的策略，首先将每个对象作为一个簇，然后合并这些原子簇越来越大的簇，直到所有的对象都在一个簇中，或者某个终结条件被满足，绝大多数层次聚类方法属于这一类，它们只是在簇间相似度的定义上有所不同。而后者则与前者相反。层次聚类方法主要有AGNES、DIANA、BIRCH、CURE、Chameleon(变色龙)等。
(3)基于密度的方法(Density-based Methods)
为了发现任意形状的聚类结果，提出了基于密度的聚类方法。基于密度聚类方法的指导思想是，只要一个区域中的点的密度大于某个域值，就把它加到与之相近的聚类中去。它不但能发现任意形状的簇，还能处理噪声，且只需一次扫描即可。基于密度方法的算法主要有DBSCAN、OPTICS等算法。
(4)基于网格的方法(Grid-based Methods)
基于网格的聚类方法采用了一个所分辨率的网格数据结构。它将空间量化为有限数目的单元，这些单元形成了网格结构，所有的聚类操作都在网格上进行。这种方法的优点主要是处理速度快，其处理时间独立于数据对象的数目，仅依赖于量化空间中每一维上的单元数目。其代表的算法主要有STING、WaveCluster、CLIQUE等。
(5)基于模型的方法(Model-based Methods)
基于模型的聚类方法试图优化给定的数据和某些数学模型之间的适应性，主要有统计学和神经网络两类方法。其中统计学方法的代表算法主要有COBWEB、Autoclass等算法，基于神经网络的代表算法主要有SOM算法。
针对以上各聚类方法，我们可以得到主要聚类算法的比较结果，如表2.4所示。当然，由于每个算法都有其不同的特点和应用领域，所以在实际数据挖掘中，用户应该根据实际需要选择恰当的聚类算法。
表2.4 主要聚类算法比较结果
算法算法效率 适合的数据类型 发现的聚类类型 对脏或异常数
据的敏感性
对数据输入顺
序的敏感性
k-means高 数值 凸形或球形 敏感 不敏感 k-medoids低 数值 凸形或球形 不太敏感 不敏感 K-pototypes 一般 混合型 凸形或球形 敏感 不太敏感 CLARA较低 数值 凸形或球形 敏感 不太敏感 CLARANS较低 数值 凸形或球形 不敏感 非常敏感 BIRCH高 数值 凸形或球形 不敏感 敏感 CURE较高 数值 任意形状 不敏感 不太敏感 DBSCAN 一般 数值 任意形状 敏感 敏感 STING高 数值 水平或竖直边界 敏感 不敏感 WaveCluster高 数值 任意形状 不敏感 不敏感
3基于WEKA平台的数据挖掘测试
3.1 WEKA系统简介
WEKA的全名是怀卡托智能分析环境（Waikato Environment for Knowledge Analysis）, 它是由怀卡托大学研究而成的，是一个完全开放的数据挖掘工作平台，集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，聚类、关联规则、属性选择以及在新的交互式界面上实现可视化等。
WEKA系统的实现源自Eibe Frank等学者在机器学习方面的研究积累，1998年之前的WEKA版本是用
C++来实现的，从1998年起，Eibe Frank开始用Java语言重新编写该系统，这一举动还得到了项目组里其它成员以及若干自由软件人的帮助。2005年8月，在第11届ACM SIGKDD国际会议上，怀卡托大学的WEKA 小组荣获了数据挖掘和知识探索领域的最高服务奖，WEKA系统得到了社会的广泛认可，被誉为数据挖掘和机器学习历史上的里程碑，是现今最完备的数据挖掘工具之一。
3.2WEKA系统的特点
WEKA是一套免费的提供学术许可、未与其它系统集成的、未汉化的通用软件，作为数据挖掘学术界的典型代表，它有如下特点：
(1)跨平台，支持Windows与Unix等很多操作系统；
(2)支持结构化文本文件、支持数据挖掘格式文件(C4.5)、提供数据库接口(JDBC)；
(3)可处理连续型、离散型(字符型、日期型)数据；
(4)提供空缺值处理、消除噪声、标准化、数据离散化、属性构造、转换变量、拆分数据、数据平衡、
样本排序、样本洗牌、数据聚集、维归约、值归约、抽样操作；
(5)能完成预处理、分类、聚类、关联、可视化等任务；
(6)支持机器学习方法和神经网络方法；
(7)提供算法组合、用户算法嵌入、算法参数设置(基本、高级)；
(8)能生成基本报告、测试报告、输出格式，实现模型解释、模型比较、数据评分功能；
(9)实现数据可视化、挖掘过程可视化及挖掘结果可视化(理解、评估)。
WEKA的诸多特点可以反映出，WEKA的功能还是比较完善的。WEKA数据挖掘平台完整、实用、高水准地实现了许多流行的学习方案，这些方案能够直接运用于一些实际的数据挖掘或研究领域。除此，它还提供了一个Java类库形式的框架，这个框架支持嵌入式机器学习的应用，乃至新的学习方案的实现。
3.2.1WEKA系统的文件格式
WEKA系统支持三种数据文件的打开方式，分别可以从本地数据文件、站点或数据库中导入待测试的数据。但是，不管使用哪种方式打开，WEKA对导入的数据文件格式都是有一定限制的。
WEKA使用的是一种称为ARFF(Attribute-Relation File Format)的数据格式，这是一种ASCII文本。ARFF文件是由一组实例组成，图3.1的天气数据对应的ARFF文件如下所示。表格里的一个横行称作一个实例(Instance),相当于统计学中的一个样本，或是数据库中的一条记录，而竖行则称作一个属性(Attribute),相当于统计学中的一个变量，或是数据库中的一个字段。
图3.1 天气数据的ARFF文件及其对应的表
从图3.1可以看出ARFF的数据格式文件还是比较简单的，具体说明如下：
整个ARFF文件可以分为两个部分。第一部分给出了头信息（Head information），包括了对关系的声明和对属性的声明。第二部分给出了数据信息（Data information），即数据集中给出的数据。 (1)头信息部分：@relation定义了数据集的名称，相当于数据表的表名。@attribute则定义了数据集
的属性，它包含属性名和属性的可能取值(或属性的类型)。要指出的是ARFF文件格式常用的两种基本数据类型为：nominal(分类型)和数值型(实型real或整型integer)，分类属性由
(2)数据信息部分：@data则定义了数据集记录的开始, 紧跟下面的是所有的数据记录集，该记录集是
无序的，每一行记录之间的数据项以逗号“,”来隔开 。而且对于缺失的数据项，在缺失处用“?”
来表示，该示例中没有缺失项。
当然，我们在导入数据文件时，还会发现也可以导入扩展文件名为.csv的表格文件(可由Excel和Matlab导出)，扩展文件名为.names和.data的C4.5原始文件以及扩展文件名为.bsi的已经被串行化的实例。那是因为WEKA系统内部自带了三种文件格式转换器，分别为：CSVLoader,C45Loader和SerilizedInstanceLoader,当WEKA无法载入ARFF文件时，系统会自动调用文件格式转换器将另外的这几种文件自动转换为ARFF格式的文件，以供测试。
3.2.2WEKA系统的界面
WEKA采用了一系列标准机器学习技术的统一图形用户界面(GUI)，可结合许多预处理及后处理方法，将许多不同的学习算法应用于数据集，并评估相应的结果。当用户打开并运行WEKA时，随即出现
Weka GUI Chooser界面，如图3.2所示,其中包括Simple CLI、Explorer、Experimenter、Knowledge Flow 四个选项按钮。
图3.2 WEKA GUI Chooser的界面
一般刚开始，我们点击Explorer按钮，进入探索者(Explorer)的图形用户界面，如图3.3所示。
图3.3 WEKA Explorer 界面
图3.3的WEKA Explorer界面顶部的六个标签，分别对应着WEKA支持的不同的数据挖掘方式，其中包括：Preprocess (预处理)、Classify(分类)、Cluster(聚类)、Associate(关联规则)、Select attributes(属性选择)、Visualize(可视化)六种挖掘方式。通过这个用户界面，所有WEKA的功能都可以由菜单选择及表单填写的方式完成。它通过将选项转化为菜单，将不适用的选项设定为不可选，以及将用户选项设计成表格填写的形式引导用户一步一步按照合适的顺序完成对算法的探索，同时，它还对所含工具以弹出窗口的方式给出了用法提示，这对用户使用工具有很大帮助，而且合理的默认值也使得用户以最小的工作量取得预期的结果。Explorer的具体使用方法详见Explorer使用手册。
除此，WEKA还包含其它三个图形用户界面，如下所示：
(1)实验者(Experimenter)界面：专门用来帮助用户解答实际应用中所遇到的一个基本问题，即在将分
类及回归技术运用于实践时，对于一个已知问题，哪些方法及参数能够取得最佳效果，虽然探索者也能互动式地比较不同的学习技术，但是实验者可以令其处理过程更加自动化和简便。同时，高级用户还可以利用JAVA远程方法调用(RMI)方式在实验者界面上将计算负荷分布到多个机器上。 (2)知识流(Knowledge Flow)界面：使用户能够自己设置如何处理流动中的数据，它允许用户在屏幕上
任意拖动代表学习算法和数据源的方框，并将它们结合在一起进行设置。这样可以使用户能够通过将代表数据源、预处理工具、学习方法、评估手段及可视化模块的各个部件组合在一起，形成一个数据流，可实现大型数据集的递增分批读取及处理，解决了探索者只能处理中小规模数据集的问题。
(3)简单命令行(Simple CLI)：用户可以通过运行简单命令行界面来实现探索者、知识流及实验者所完
成的WEKA基本功能。当用户在界面底部的编辑框中键入一个不带任何命令行选项的方案时，则在编辑框上方的面板中，会显示出所有可用的选项：首先是通用性选项，然后是与该方案有关联的选项，其中WEKA的通用性选项如表3.1所示。通过输入相应的操作命令后，便可以实现相应的功能，如输入java weka.classifiers.trees.J48 -t data/weather.arff 就可以用J48决策树学习器对文件weather.arff文件进行训练，并输出结果。
表3.1 WEKA中用于学习方案的通用选项
选项功能
-t<训练文件> 指定训练文件
-T<测试文件> 指定测试文件。如果该选项为空，就在训练数据上进行交叉验证
-c<类索引> 指定类属性的索引
-s<随机数种子> 指定用于交叉验证的随机数种子
-x<折的数量> 指定用于交叉验证的折的数量
-m<成本矩阵文件> 指定含有成本矩阵的文件
-d<输出文件> 指定模型的输出文件
-l<输入文件> 指定模型的输入文件
-o 只输出统计数据，不输出分类器
-i 对含又两个类的问题输出信息检索统计数据
-k 输出信息理论统计数据
-p<属性区间> 输出测试实例的预测
-v 不对训练数据输出统计数据
-r 输出累积边差分布
-z<类名字> 输出分类器的源表述
-g 输出分类器的图形表述
3.2.3WEKA实现的功能及算法
近年来，随着数据挖掘的应用领域日益广泛，数据挖掘算法也不断地经过优化和延伸并被应用到实际问题中，于是各种算法的性能也就成为了衡量数据挖掘工具的一大标准。而作为一个开放的数据挖掘和机器学习系统，WEKA采用了多种不同的算法，它不但包括了多样化的学习算法，还提供了适应范围很
广的预处理工具，通过前三四年的数据挖掘工具算法种类的比较情况表3.2，我们可以看出，WEKA实现
的算法数量比较多，它们可以直接应用于数据集，用于解决现实世界的数据挖掘问题。
表3.2 数据挖掘工具的算法种类比较情况
算法产品名SC SAT CART MARS Weka IM Sees5 MP 合计
决策树 3 4 2 10 2 1 2 24 归纳规则10 1 11 基于范例学习 1 1
遗传算法0
贝叶斯算法9 1 10 回归分析 3 1 6 3 2 15 关联分析 3 2 3 8 聚类分析 2 9 2 1 14 序列分析 1 1
孤立点分析0
探索性分析 2 1 1 1 5 模糊集0
粗糙集0
支持向量机 3 3
前向神经网络 1 1
自组织神经网络0
感知机 2 2 4 多层神经元 1 1
径向基函数 1 1 2 文本分析 6 6
合计16 4 2 1 54 11 1 17
当然，在现实世界中，有待于解决的问题普遍趋于复杂，而各种挖掘算法普遍呈现单一性，算法的
这种局限性使得数据挖掘工具的研制者开始考虑将各种不同的算法组合起来，互为补充，以使数据挖掘
达到最佳效果，通过测试，我们知道WEKA很好地实现了各种算法的协同工作，同时，WEKA还允许用户将
自己编写的算法嵌入到该系统中，填补了通用数据挖掘工具和专业领域挖掘需求之间的鸿沟，这也使得WEKA实现的算法越来越多样化，经过几年的发展，如今仅仅WEKA中的分类器算法就达到了将近50种，真
可谓发展之神速。
在这里，本文仅对WEKA的Explorer模块实现的一些功能和算法进行简单介绍。从WEKA的界面，我们
可以看出，WEKA实现的功能大致分为:预处理、分类、聚类、关联规则、属性选择及可视化，功能模块
图如图3.4所示。
WEKA 3-5-5 Explorer 用户指南 原文版本 3.5.5 翻译王娜 校对 C6H5NO2 Pentaho 中文讨论组 QQ 群：12635055 论坛：https://www.doczj.com/doc/bc7883068.html,/bipub/index.asp https://www.doczj.com/doc/bc7883068.html,/ 目录 1 启动WEKA (3) Explorer (5) 2 WEKA 2.1 标签页 (5) 2.2 状态栏 (5) 按钮 (5) 2.3 Log 状态图标 (5) 2.4 WEKA 3 预处理 (6) 3.1 载入数据 (6) 3.2 当前关系 (6) 3.3 处理属性 (7) 3.4 使用筛选器 (7) 4 分类 (10) 4.1 选择分类器 (10) 4.2 测试选项 (10) 4.3 Class属性 (11) 4.4 训练分类器 (11) 4.5 分类器输出文本 (11) 4.6 结果列表 (12) 5 聚类 (13) 5.1 选择聚类器（Clusterer） (13) 5.2 聚类模式 (13) 5.3 忽略属性 (13) 5.4 学习聚类 (14) 6 关联规则 (15) 6.1 设定 (15) 6.2 学习关联规则 (15) 7 属性选择 (16) 7.1 搜索与评估 (16) 7.2 选项 (16) 7.3 执行选择 (16) 8 可视化 (18)
8.1 散点图矩阵 (18) 8.2 选择单独的二维散点图 (18) 8.3 选择实例 (19) 参考文献 (20)
启动WEKA WEKA中新的菜单驱动的 GUI 继承了老的 GUI 选择器（类 weka.gui.GUIChooser）的功能。它的MDI（“多文档界面”）外观，让所有打开的窗口更加明了。 这个菜单包括六个部分。 1.Program z LogWindow打开一个日志窗口，记录输出到 stdout或stderr的内容。在 MS Windows 那样的 环境中，WEKA 不是从一个终端启动，这个就比较有 用。 z Exit关闭WEKA。 2.Applications 列出 WEKA 中主要的应用程序。 z Explorer 使用 WEKA 探索数据的环境。（本 文档的其它部分将详细介绍这个环境） z Experimenter 运行算法试验、管理算法方案 之间的统计检验的环境。 z KnowledgeFlow 这个环境本质上和 Explorer 所支持的功能是一样的，但是它有一个可以拖放 的界面。它有一个优势，就是支持增量学习 （incremental learning）。 z SimpleCLI 提供了一个简单的命令行界面，从而可以在没有自带命令行的操作系统中直接执行 WEKA 命令。 3.Tools 其他有用的应用程序。 z ArffViewer一个 MDI 应用程序，使用电子 表格的形式来查看 ARFF 文件。 z SqlViewer一个 SQL 工作表，用来通过 JDBC 查询数据库。 z EnsembleLibrary 生成集成式选择 （Ensemble Selection）[5] 所需设置的界面。 4.Visualization WEKA 中数据可视化的方法。 z Plot作出数据集的二维散点图。 z ROC显示预先保存的 ROC 曲线。
Weka 数据挖掘软件使用指南 1.Weka简介 该软件是WEKA的全名是怀卡托智能分析环境（Waikato Environment for Knowledge Analysis），它的源代码可通过https://www.doczj.com/doc/bc7883068.html,/ml/weka得到。Weka作为一个公开的数据挖掘工作平台，集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，回归、聚类、关联规则以及在新的交互式界面上的可视化。如果想自己实现数据挖掘算法的话，可以看一看Weka的接口文档。在Weka中集成自己的算法甚至借鉴它的方法自己实现可视化工具并不是件很困难的事情。 2.Weka启动 打开Weka主界面后会出现一个对话框，如图： 主要使用右方的四个模块，说明如下： ?Explorer：使用Weka探索数据的环境,包括获取关联项，分类预测，聚簇等； ?Experimenter：运行算法试验、管理算法方案之间的统计检验的环境； ?KnowledgeFlow：这个环境本质上和Explorer所支持的功能是一样的，但是它有一个可以拖放的界面。它有一个优势，就是支持增量学习； ?SimpleCLI：提供了一个简单的命令行界面，从而可以在没有自带命令行的操作系统中直接执行Weka命令（某些情况下使用命令行功能更好一些）。 3．主要操作说明 点击进入Explorer模块开始数据探索环境。 3.1主界面 进入Explorer模式后的主界面如下：
3.1.1标签栏 主界面最左上角（标题栏下方）的是标签栏，分为五个部分，功能依次是： ?Preprocess(数据预处理)：选择和修改要处理的数据； ?Classify(分类)：训练和测试关于分类或回归的学习方案； ?Cluster(聚类)：从数据中学习聚类； ?Associate(关联)：从数据中学习关联规则； ?Select attributes(属性选择)：选择数据中最相关的属性； ?Visualize(可视化)：查看数据的交互式二维图像。 3.1.2载入、编辑数据 标签栏下方是载入数据栏，功能如下： ?Open file：打开一个对话框，允许你浏览本地文件系统上的数据文件（.dat）； ?Open URL：请求一个存有数据的URL 地址； ?Open DB：从数据库中读取数据； ?Generate：从一些数据生成器中生成人造数据。 3.1.3其他界面说明 接下来的主界面中依次是Filter（筛选器），Currtent relation（当前关系）、Attributes（属性信息）、Selected attribute（选中的属性信息）以及Class（类信息），分别介绍如下： ?Filter 在预处理阶段，可以定义筛选器来以各种方式对数据进行变换。Filter 一栏用于对各种筛选器进行必要设置。Filter一栏的左边是一个Choose 按钮。点击这个按钮就可选择Weka中的某个筛选器。用鼠标左键点击这个choose左边的显示框，将出现GenericObjectEditor对话框。用鼠标右键点击将出现一个菜单，你可从中选择，要么在GenericObjectEditor对话框中显示相关属性，要么将当前的设置字符复制到剪贴板。 ?Currtent relation 显示当前打开的数据文件的基本信息：Relation（关系名），Instances（实例数）以及Attributes （属性个数）。
WEKA汉化教程
图1
这里我们要介绍一下WEKA中的术语。表格里的一个横行称作一个实例（Instance），相当于统计学中的一个样本，或者数据库中的一条记录。竖行称作一个属性（Attrbute），相当于统计学中的一个变量，或者数据库中的一个字段。这样一个表格，或者叫数据集，在WEKA看来，呈现了属性之间的一种关系(Relation)。图1中一共有14个实例，5个属性，关系名称为“weather”。 WEKA存储数据的格式是ARFF（Attribute-Relation File Format）文件，这是一种ASCII文本文件。图1所示的二维表格存储在如下的ARFF文件中。这也就是WEKA自带的“weather.arff”文件，在WEKA安装目录的“data”子目录下可以找到。 代码: % ARFF file for the weather data with some numric features % @relation weather @attribute outlook {sunny, overcast, rainy} @attribute temperature real @attribute humidity real @attribute windy {TRUE, FALSE} @attribute play {yes, no} @data % % 14 instances % sunny,85,85,FALSE,no sunny,80,90,TRUE,no overcast,83,86,FALSE,yes rainy,70,96,FALSE,yes rainy,68,80,FALSE,yes rainy,65,70,TRUE,no overcast,64,65,TRUE,yes sunny,72,95,FALSE,no sunny,69,70,FALSE,yes rainy,75,80,FALSE,yes sunny,75,70,TRUE,yes overcast,72,90,TRUE,yes overcast,81,75,FALSE,yes rainy,71,91,TRUE,no
WEKA入门教程 2007-04-26 16:40 1. 简介 WEKA的全名是怀卡托智能分析环境（Waikato Environment for Knowledge Analysis），它的源代码可通过https://www.doczj.com/doc/bc7883068.html,/ml/weka得到。同时weka也是新西兰的一种鸟名，而WEKA的主要开发者来自新西兰。 WEKA作为一个公开的数据挖掘工作平台，集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，回归、聚类、关联规则以及在新的交互式界面上的可视化。 如果想自己实现数据挖掘算法的话，可以看一看weka的接口文档。在weka中集成自己的算法甚至借鉴它的方法自己实现可视化工具并不是件很困难的事情。 2005年8月，在第11届ACM SIGKDD国际会议上，怀卡托大学的Weka小组荣获了数据挖掘和知识探索领域的最高服务奖，Weka系统得到了广泛的认可，被誉为数据挖掘和机器学习历史上的里程碑，是现今最完备的数据挖掘工具之一（已有11年的发展历史）。Weka的每月下载次数已超过万次。 --整理自https://www.doczj.com/doc/bc7883068.html,/computers/common/info.asp?id=29304 2. 数据格式 巧妇难为无米之炊。首先我们来看看WEKA所用的数据应是什么样的格式。 跟很多电子表格或数据分析软件一样，WEKA所处理的数据集是图1那样的一个二维的表格。 图1 新窗口打开
这里我们要介绍一下WEKA中的术语。表格里的一个横行称作一个实例（Instance），相当于统计学中的一个样本，或者数据库中的一条记录。竖行称作一个属性（Attrbute），相当于统计学中的一个变量，或者数据库中的一个字段。这样一个表格，或者叫数据集，在WEKA看来，呈现了属性之间的一种关系(Relation)。图1中一共有14个实例，5个属性，关系名称为“weather”。 WEKA存储数据的格式是ARFF（Attribute-Relation File Format）文件，这是一种ASCII文本文件。图1所示的二维表格存储在如下的ARFF文件中。这也就是WEKA自带的“weather.arff”文件，在WEKA安装目录的“data”子目录下可以找到。 代码: % ARFF file for the weather data with some numric features % @relation weather @attribute outlook {sunny, overcast, rainy} @attribute temperature real @attribute humidity real @attribute windy {TRUE, FALSE} @attribute play {yes, no} @data % % 14 instances % sunny,85,85,FALSE,no sunny,80,90,TRUE,no overcast,83,86,FALSE,yes rainy,70,96,FALSE,yes rainy,68,80,FALSE,yes rainy,65,70,TRUE,no overcast,64,65,TRUE,yes sunny,72,95,FALSE,no sunny,69,70,FALSE,yes rainy,75,80,FALSE,yes sunny,75,70,TRUE,yes overcast,72,90,TRUE,yes overcast,81,75,FALSE,yes
MIDAS-CIVIL-最完整教程
————————————————————————————————作者：————————————————————————————————日期：
第一章“文件”中的常见问题 (4) 1.1 如何方便地实现对施工阶段模型的数据文件的检查？ (4) 1.2 如何导入CAD图形文件？ (4) 1.3 如何将几个模型文件合并成一个模型文件？ (5) 1.4 如何将模型窗口显示的内容保存为图形文件？ (7)
第一章“文件”中的常见问题 1.1如何方便地实现对施工阶段模型的数据文件的检查？ 具体问题 本模型进行施工阶段分析，在分析第一施工阶段时出现“W ARNING : NODE NO. 7 DX DOF MAY BE SINGULAR”，如下图所示。但程序仍显示计算成功结束，并没有给出警告提示，如何仅导出第一施工阶段的模型进行数据检查？ 图1.1.1 施工阶段分析信息窗口警告信息 相关命令 文件〉另存当前施工阶段为... 问题解答 模型在第一施工阶段，除第三跨外，其他各跨结构都属于机动体系（缺少顺桥向约束），因此在进行第一施工阶段分析时，程序提示结构出现奇异；而在第二施工阶段，结构完成体系转换，形成连续梁体系，可以进行正常分析。 在施工阶段信息中选择第一施工阶段并显示，然后在文件中选择“另存当前施工阶段为...”功能将第一施工阶段模型导出，然后对导出的模型进行数据检查即可。 相关知识 施工阶段分析时，对每个阶段的分析信息都会显示在分析信息窗口中，同时保存在同名的*.out文件中，通过用记事本查看*.out文件确认在哪个施工阶段分析发生奇异或错误，然后使用“另存当前施工阶段为...”功能来检查模型。 分析完成后的警告信息只针对成桥阶段，各施工阶段的详细分析信息需要查看信息窗口的显示内容。 1.2如何导入CAD图形文件？ 具体问题 弯桥的桥梁中心线已在AutoCAD中做好，如何将其导入到MIDAS中？
大数据挖掘入门教程 大数据时代的来临，给人们生活带来了巨大变化。对于中国而言，大数据产业起步晚，发展速度快。物联网、移动互联网的迅速发展，使数据产生速度加快、规模加大，迫切需要运用大数据手段进行分析处理，提炼其中的有效信息。千锋教育，经过多年的洗礼，在大数据培训中取得了不错的成绩。 下面是千锋教育对于大数据入门教程的步骤： 1)数据挖掘概述与数据： 讲解了数据挖掘技术的起源、应用场景以及基本的处理方法，并对于数据集、数据等基本的概念做了阐释。 2)可视化与多维数据分析： 讲解了数据可视化的基本方法，并分别演示了Excel数据透视表与SQLServerAnalysisService对于多维数据的可视化处理。 3)分类器与决策树： 讲解了分类器的基本概念与应用方法，并具体分析了分类器经典算法之一决策树的实现方法。 4)其他分类器：
讲解了另外两种经典的分类器算法：基于规则的分类器与基于距离的分类器和其他一些常见的分类器算法，如基于距离的分类器的改良算法、贝叶斯分类器、人工神经网络、支持向量机与组合方法等。 5)决策树的应用： 演示了利用WekaExplorer、KNIME、Tanagra等开源工具进行的数据挖掘处理。演示中对比了几类数据挖掘算法，如Cart决策树、C4.5决策树、KNIME决策树、简单贝叶斯分类、组合方法、人工神经网络、基于规则的分类等。 6)关联分析： 讲解了关联分析的常见算法，即Apriori算法与FP增长算法。 7)购物车数据分析： 主要演示了利用微软的解决方案来进行购物车数据的关联分析，包括SQLServiceAnalysisService的关联分析与Excel结合SSAS外接程序等方法。最后还利用WekaKnowledgeFlow工具来进行关联分析，以便对比第六章的实践。 8) 聚类算法： 讲解了聚类算法的基本原理与常见算法，包含K均值算法、层次聚类、基于密度的聚类算法。 大数据是未来的趋势，选择千锋教育，助力人生！
1.关联算法 1.1.Aprior算法 1.1.1.Apriori算法weka参数界面 概要 实现Apriori关联规则挖掘算法，挖掘出给定参数条件下的关联规则。此迭代的减少最小支持度直到发现设定最小置信度下的规则数目。
1.1. 2.Apriori算法参数配置说明 英文名称中文翻译默认值取值范围参数说明 car分类关联分析False False返回常规的关联分析规则 True返回指定分类属性的关联规则 classIndex分类属性索引-1{-1,[1,N]}int-1代表最后一列，设置的数字代表相应的列作为分类属性；Car为True时生效。delta delta0.05(0,1)每次迭代upperBoundMinSupport减少的数值，直到最小支持度或设定规则数目。lowerBoundMinSupport最小支持度下限0.1(0,upperBoundMinSupport)迭代过程中最小支持度的下限。 metricType度量类型confidence Confidence(置信度)规则项集数目占规则前件数目比例；car为True，metricType只能用confidence。 Lift(提升度)>1P(A,B)/P(A)P(B)；规则前件和规则后件同时发生的概率除以分布单独发生的概率之积；Lift=1时表示A和B独立，数值越大前后件关联性越强。 Leverage(杠杆率)P(A,B)-P(A)P(B)；Leverage=0时A和B独立，数值越大A和B的关联性越强。 Conviction(确信度)P(A)P(!B)/P(A,!B)（!B表示B没有发生）Conviction也是用来衡量A和B的独立性。从它和lift的关系（对B取反，代入Lift公式后求倒数）可以看出，这个值越大,A、B越关联。 minMetric最小度量值0.9根据metricType取值不同Confidence(0,1);lift>1;leverage>0;conviction(0,1) numRules规则数目10[1,+∞]int关联算法产生规则的数目 outputItemSets输出项集False False不输出频繁项集 True输出频繁项集 removeAllMissingCols移除空列False False不移除所有值都缺失的列 True移除所有值都缺失的列 significanceLevel显著性水平-1？(0,1)χ2检验的显著性水平，-1则不进行检验。（仅适用于置信度度量）treatZeroAsMissing按照缺失值处理零False False不按照缺失值的相同方式处理零（标称型的第一个值） True按照缺失值的相同方式处理零（标称型的第一个值）upperBoundMinSupport最小支持度上限1(lowerBoundMinSupport,1]迭代过程中最小支持度的上限；迭代过程中从该值开始降低。
WEKA 3-5-3 Experimenter 指南 原文版本3.5.3 原文链接 翻译王娜 校对 C6H5NO2 Pentaho 中文讨论组 QQ 群：12635055 论坛：https://www.doczj.com/doc/bc7883068.html,/bipub/index.asp David Scuse Peter Reutemann June 8, 2006 1 简介 (1) 2 标准试验 (2) 2.1 简单模式 (2) 2.1.1 新试验 (2) 2.1.2 结果的目的文件 (2) 2.1.3 试验类型 (4) 2.1.4 数据集 (5) 2.1.5 迭代控制 (6) 2.1.6 算法 (6) 2.1.7 保存设置 (8) 2.1.8 运行试验 (8) 2.2 高级模式 (9) 2.2.1 定义试验 (9) 2.2.2 运行试验 (12) 2.2.3 改变试验参数 (13) 2.2.4 其他结果的产生 (19) 3 远程试验 (23) 3.1 准备 (23) 3.2 数据库服务器设置 (23) 3.3 远程引擎安装 (23) 3.4 配置 Experimenter (24) 3.5 疑难问题解答 (24) 4 分析结果 (25) 4.1 设置 (25) 4.2 保存结果 (28) 4.3 改变基准算法 (28) 4.4 统计显著性 (29) 4.5 描述性检验 (29) 4.6 排序检验 (29) 5 参考文献 (30) 1简介 Weka 试验（Experiment）环境可以让用户创建，运行，修改和分析算法试验，这也许比单独的分 析各个算法更加方便。例如，用户可创建一次试验，在一系列数据集上运行多个算法（schemes），然
生产再生钢的过程如下：组合后的废钢通过炉门送入炉子，电流通过悬浮在炉内的电极输送到熔化的废钢中。提供给这些电极的高电流通过电弧传输到内部的金属废料，对其加热并产生超过3000°C的温度。 通过添加各种活性气体和惰性气体以及固体物质来维持和优化炉内条件。然后，钢水从熔炉中流出，进入移动坩埚，并浇铸到钢坯中。 你将得到一个数据集，代表从各种金属废料lypes生产回收钢坯的过程。Hie数据集包含大 ?这是一个基于团队的项目。你需要组成一个小组，由三名（或两名）组员来完成这项练习。?您可以使用Weka或任何其他可用的数据挖掘资源和软件包来帮助您制定问题、计算、评
估等。 ?您的团队绩效将完全根据团队的结果和您的报告进行评估。 ?作为一个团队，您需要决定给定问题的性质；什么类型的数据挖掘问题公式适合解决此类问题；您的团队可以遵循什么样的基本数据挖掘过程；您的团队希望尝试什么类型的算法；以何种方式，您可以进一步利用或最大化您的性能，等等。 ?您的团队应致力于涵盖讲座、教程中包含的领域，考虑预处理、特征选择、各种算法、验证、测试和性能评估方法。 ?对于性能基准，建议您使用准确度和/或错误率作为评估指标。 ?表现最好的球队将被宣布为本次迷你KDD杯冠军，并将获得10%的加分，最高100%满分。 数据挖掘流程： 一、数据建模 1. 数据获取 2. 数据分析 3. 数据预处理 二、算法建模 1. 模型构建 2. 模型检验 三、评估 一、数据建模 1.数据获取及分析 数据集：EAF_process_dataqqq.csv 根据《assignment 2》中，数据集的说明，可知：
一、WEKA的安装 在WEKA的安装文件中有weka-3-6-9.exe和weka-3-6-9jre.exe，这两个软件我们安装一个即可，这里主要介绍weka-3-6-9.exe的安装步骤 1.安装Java运行环境 下载jdk-7u21-windows-i586.exe（最新版）安装包，双击安装包进行安装，根 据安装向导提示，点击下一步即可，安装完成以后可以通过命令提示符输入java –version 进行验证，若出现如下图所示，表示安装成功。 2.配置环境变量 右击我的电脑，点击属性，出现如下界面：、
选择高级——>环境变量，如图所示： 出现环境变量配置界面：
双击Path，然后出现编辑系统变量窗口： 在变量值编辑框中，将光标移动至最后，添加一个分号“;”，然后将java的jdk安装路径追加到编辑框最后，我的系统中安装路径为：C:\Program Files\Java\jdk1.7.0_21\bin，所以在编辑框最后写入：“; C:\Program Files\Java\jdk1.7.0_21\bin”，即可完成环境变量的配置。
3.weka-3-6-9.exe 双击此文件开始进行安装，在出现的窗口中点击Next，然后点击I Agree，再点击Next，此时出现如下窗口，Browse左边的区域是WEKA的默认安装路径，我们可以点击Browse选择我们想要安装WEKA的位置，然后点击窗口下方的NEXT，也可以不点击Browse直接将WEKA安装到默认的目录下，即直接点击窗口下方的NEXT，在新出现的窗口中点击Install开始安装，等待几秒种后点击Next， 在新窗口中会有一个Start Weka单选框（默认情况下是选中的），如果我们想安装完成后就启动WEKA，那么我们就直接点击新窗口下方的FINISH 完成安装,如果我们不想立即启动WEKA可以单击Start Weka前面的单选框，然后点击FINISH即可完成安装，此时WEKA已经安装到我们的电脑中。 二、WEKA的启动 在开始程序中找到WEKA3.7.0(注意版本不同名称也不同，但都是叫WEKA……)，选择WEKA3.7(with console)，出现下图即安装成功：
https://www.doczj.com/doc/bc7883068.html,/ml/weka/ https://www.doczj.com/doc/bc7883068.html,/~ml/weka/index.html https://www.doczj.com/doc/bc7883068.html,/~ml/weka/ https://www.doczj.com/doc/bc7883068.html,/ucp.php?mode=login 原创]WEKA入门教程 由C6H5NO2? 2006年 11月 19日 16:03 目录 1. 简介顶楼 2. 数据格式顶楼 3.数据准备 1楼 4. 关联规则（购物篮分析） 1楼 5. 分类与回归 2楼 6. 聚类分析 2楼 Weka入门教程，来自 https://www.doczj.com/doc/bc7883068.html,/viewtopic.php?f=2&t=9。转载请注明出处。 1. 简介
WEKA的全名是怀卡托智能分析环境（Waikato Environment for Knowledge Analysis），它的源代码可通过 https://www.doczj.com/doc/bc7883068.html,/ml/weka得到。同时weka也是新西兰的一种鸟名，而WEKA的主要开发者来自新西兰。 WEKA作为一个公开的数据挖掘工作平台，集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，回归、聚类、关联规则以及在新的交互式界面上的可视化。 如果想自己实现数据挖掘算法的话，可以看一看weka的接口文档。在weka中集成自己的算法甚至借鉴它的方法自己实现可视化工具并不是件很困难的事情。 2005年8月，在第11届ACM SIGKDD国际会议上，怀卡托大学的Weka 小组荣获了数据挖掘和知识探索领域的最高服务奖，Weka系统得到了广泛的认可，被誉为数据挖掘和机器学习历史上的里程碑，是现今最完备的数据挖掘工具之一（已有11年的发展历史）。Weka的每月下载次数已超过万次。 --整理自 https://www.doczj.com/doc/bc7883068.html,/computers/common/info.asp?id=2930 4
《数据挖掘实训》课程论文（报告、案例分析） 院系信息学院 专业统计 班级 10级统计 3 班 学生姓名李健 学号 2010210453 任课教师刘洪伟 2013年 01月17日
课程论文评分表
《数据挖掘实训》课程论文 选题要求： 根据公开发表统计数据，请结合数据挖掘理论与方法，撰写一篇与数据挖掘领域相关的论文。 写作要求： （1）数据准确、有时效性，必须是最新的数据。 （2）文章必须有相应的统计方法，这些统计方法包括以前专业课中学到的任何统计方法，如参数估计、假设检验、相关与回归、多元统计等等。 （3）论文的内容必须是原创，有可靠的分析依据和明确的结论。 （4）论文按照规定的格式化撰写； （5）字数不少于2000字。
数据挖掘（WEKA软件）实验报告 统计学专业学生李健学号2010210453关键词：数据挖掘；游玩；因素；WEKA 本次实验指在熟练的运用软件weka进行数据处理，其中包括数据准备，关联规则等同时了解weka的基本用法。 一、软件介绍 1简介 数据挖掘、机器学习这些字眼，在一些人看来，是门槛很高的东西。诚然，如果做算法实现甚至算法优化，确实需要很多背景知识。但事实是，绝大多数数据挖掘工程师，不需要去做算法层面的东西。他们的精力，集中在特征提取，算法选择和参数调优上。那么，一个可以方便地提供这些功能的工具，便是十分必要的了。而weka，便是数据挖掘工具中的佼佼者。 WEKA的全名是怀卡托智能分析环境(Waikato Environment forKnowledge Analysis)，是由新西兰怀卡托(Waikato)大学开发的机器学习软件，纯Java技术实现的开源软件，遵循于GNU General Public License，跨平台运行，集合了大量能承担数据挖掘任务的机器学习算法，分类器实现了常用ZeroR算法、Id3算法、J4．8算法等40多个算法，聚类器实现了EM算法、SimpleKMeans算法和Cobweb算法3种算法，能对数据进行预处理、分类、回归、聚类、关联规则以及在新的交互式界面上的可视化。2oo5年8月，在第11届ACM SIGKDD国际会议上，怀卡托大学的WEKA小组荣获了数据挖掘和知识探索领域的最高服务奖，WEKA系统得到了广泛的认可，被誉为数据挖掘和机器学习历史上的里程碑，是现今最完备的数据挖掘工具之一。WEKA使用的是一种叫做arff(Attribute—Relation File Format)的数据文件结构。这种arff文件是普通的ASCII文本文件，内部结构很简单，主要是测试算法使用的轻量级的数据文件结构。arff文件可以自己建立，也可通过JDBC从Oracle和Mysql等流行数据库中获得。整个arf文件可以分为两个部分。第一部分给出了头信息(Head information)，包括关系声明(Relation Declaration)和属性声明(AttributeDeclarations)。第二部分给出了数据信息(Datainformation)，即数据集中给出的数据。关系声明的定义格式为：@relation
巧妇难为无米之炊。首先我们来看看WEKA所用的数据应是什么样的格式。跟很多电子表格或数据分析软件一样，WEKA所处理的数据集是图1那样的一个二维的表格。 图1 新窗口打开 这里我们要介绍一下WEKA中的术语。表格里的一个横行称作一个实例（Instance），相当于统计学中的一个样本，或者数据库中的一条记录。竖行称作一个属性（Attrbute），相当于统计学中的一个变量，或者数据库中的一个字段。这样一个表格，或者叫数据集，在WEKA看来，呈现了属性之间的一种关系(Relation)。图1中一共有14个实例，5个属性，关系名称为“weather”。 WEKA存储数据的格式是ARFF（Attribute-Relation File Format）文件，这是一种ASCII文本文件。图1所示的二维表格存储在如下的ARFF文件中。这也就是WEKA自带的“weather.arff”文件，在WEKA安装目录的“data”子目录下可以找到。 代码: % ARFF file for the weather data with some numric features % @relation weather @attribute outlook {sunny, overcast, rainy}
@attribute temperature real @attribute humidity real @attribute windy {TRUE, FALSE} @attribute play {yes, no} @data % % 14 instances % sunny,85,85,FALSE,no sunny,80,90,TRUE,no overcast,83,86,FALSE,yes rainy,70,96,FALSE,yes rainy,68,80,FALSE,yes rainy,65,70,TRUE,no overcast,64,65,TRUE,yes sunny,72,95,FALSE,no sunny,69,70,FALSE,yes rainy,75,80,FALSE,yes sunny,75,70,TRUE,yes overcast,72,90,TRUE,yes overcast,81,75,FALSE,yes rainy,71,91,TRUE,no 需要注意的是，在Windows记事本打开这个文件时，可能会因为回车符定义不一致而导致分行不正常。推荐使用UltraEdit这样的字符编辑软件察看ARFF文件的内容。 下面我们来对这个文件的内容进行说明。 识别ARFF文件的重要依据是分行，因此不能在这种文件里随意的断行。空行（或全是空格的行）将被忽略。 以“%”开始的行是注释，WEKA将忽略这些行。如果你看到的“weather.arff”文件多了或少了些“%”开始的行，是没有影响的。 除去注释后，整个ARFF文件可以分为两个部分。第一部分给出了头信息（Head information），包括了对关系的声明和对属性的声明。第二部分给出了数据信息（Data information），即数据集中给出的数据。从“@data”标记开始，后面的就是数据信息了。 关系声明 关系名称在ARFF文件的第一个有效行来定义，格式为 @relation
WEKA入门教程 https://www.doczj.com/doc/bc7883068.html,/ 1.简介 WEKA的全名是怀卡托智能分析环境（Waikato Environment for Knowledge Analysis），它的源代码可通过https://www.doczj.com/doc/bc7883068.html,/ml/weka得到。同时weka 也是新西兰的一种鸟名，而WEKA的主要开发者来自新西兰。 WEKA作为一个公开的数据挖掘工作平台，集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，回归、聚类、关联规则以及在新的交互式界面上的可视化。如果想自己实现数据挖掘算法的话，可以看一看weka的接口文档。在weka中集成自己的算法甚至借鉴它的方法自己实现可视化工具并不是件很困难的事情。 2005年8月，在第11届ACM SIGKDD国际会议上，怀卡托大学的Weka小组荣获了数据挖掘和知识探索领域的最高服务奖，Weka系统得到了广泛的认可，被誉为数据挖掘和机器学习历史上的里程碑，是现今最完备的数据挖掘工具之一（已有11年的发展历史）。Weka的每月下载次数已超过万次。 2.数据格式 巧妇难为无米之炊。首先我们来看看WEKA所用的数据应是什么样的格式。跟很多电子表格或数据分析软件一样，WEKA所处理的数据集是图1那样的一个二维的表格。 这里我们要介绍一下WEKA中的术语。表格里的一个横行称作一个实例（Instance），
相当于统计学中的一个样本，或者数据库中的一条记录。竖行称作一个属性（Attrbute），相当于统计学中的一个变量，或者数据库中的一个字段。这样一个表格，或者叫数据集，在WEKA看来，呈现了属性之间的一种关系(Relation)。图1中一共有14个实例，5个属性，关系名称为“weather”。WEKA存储数据的格式是ARFF（Attribute-Relation File Format）文件，这是一种ASCII文本文件。图1所示的二维表格存储在如下的ARFF文件中。这也就是WEKA自带的“weather.arff”文件，在WEKA安装目录的“data”子目录下可以找到。代码: 全选 % ARFF file for the weather data with some numric features % @relation weather @attribute outlook {sunny, overcast, rainy} @attribute temperature real @attribute humidity real @attribute windy {TRUE, FALSE} @attribute play {yes, no} @data % % 14 instances % sunny,85,85,FALSE,no sunny,80,90,TRUE,no overcast,83,86,FALSE,yes rainy,70,96,FALSE,yes rainy,68,80,FALSE,yes rainy,65,70,TRUE,no overcast,64,65,TRUE,yes sunny,72,95,FALSE,no sunny,69,70,FALSE,yes rainy,75,80,FALSE,yes sunny,75,70,TRUE,yes
属性评估方法： CfsSubsetEval：根据属性子集中每一个特征的预测能力以及它们之间的关联性进行评估。ChiSquaredAttributeEval：根据与分类有关的每一个属性的卡方值进行评估。ClassifierSubsetEval：根据训练集或测试集之外的数据评估属性子集。ConsistencySubsetEval：根据利用属性子集进行分类时得到的分类值的一致性进行评价。CostSensitiveAttributeEval：根据使其基础子集评估开销敏感性，变化选择子集评估方法。CostSentitiveSubsetEval：方法同上。 FilteresAttributeEval：运行在任意过滤器之后的数据上的任意属性评估。FilteredSubsetEval：方法同上。 GainRatioAttributeEval：根据与分类有关的每一个属性的增益比进行评估。InfoGainAttributeEval：根据与分类有关的每一个属性的信息增益进行评估。LatenSemanticAnalysis：根据数据的潜在的语义分析和转换进行评估，与随机搜索结合。OneRAttributeEval：根据OneR分类器评估属性。 PrincipalComponents：根据数据的主要成分分析和转换进行评估。ReliefFAttributeEval：通过反复测试一个实例和其同类或不同类中最近的实例上的属性值进行评估。 SignificanceAttributeEval：计算双向功能的概率意义评估属性值。SymmetricalUncertAtrributeEval：根据与分类有关的每一个属性的对称不稳定性进行评估。SymmetricalUncertAtrributeSetEval：根据与其他属性集有关的每一个属性的对称不稳定性进行评估。 WrapperSubsetEval：使用一种学习模式对属性集进行评估。 注：Filter类型的评估方法关注每一个属性的预测能力（最优特征子集由预测能力最强的那些单个属性组成），其一般借鉴统计、信息论的思想，根据数据集内在特性来进行评估；Wrapper类型的评估方法是用后续的学习算法嵌入到特性选择方程中，通过测试特征子集在此算法上的预测性能来决定其优劣。 搜索算法： BestFirst：可回溯的贪婪搜索扩张，最好优先原则。 ExhaustiveSearch：穷举搜索，从空集出发。 FCBFSearch：基于相关性分析的特征选择方法。相关性匹配搜索。 GeneticSearch：Goldberg（1989）提出的简单遗传算法。 GreedyStepwise：向前或向后的单步搜索。 LinearForwardSelection：线性向前搜索。 RaceSearch：比较特征子集的交叉验证错误情况。 RandomSearch：随机搜索。 Ranker：对属性值排序。 RankSearch：选择一个评估器对属性进行排序。 ScatterSearchV1：离散搜索。 SubsetSizeForwardSelection：按照特征子集大小向前线性搜索，这是线性搜索的扩展。TabuSearch：禁忌搜索。
实验1：数据挖掘工具研究 班级：计算机082 姓名：张睿卿 指导老师：董一鸿老师
目录 1Weka 1.1Weka简介 1.2Weka应用方法 1.3Weka操作数据集 1.3.1预处理 1.3.1.1打开Explore 1.3.1.2载入数据 1.3.1.3处理属性 1.3.1.4使用筛选器 1.3.1.5数据离散化 1.3.2分类与回归 1.3. 2.1准备工作 1.3. 2.2训练分类器 1.3. 2.3模型应用 1.3.3聚类 1.3.4关联 1.3.5属性选择 1.3.6可视化 2SPSS 2.1SPSS简介 2.2SPSS应用方法 2.3SPSS操作数据集 2.3.1打开数据集 2.3.2预处理 2.3.2.1数据属性 2.3.2.2绘制直方图 2.3.2.3按要求统计分析 2.3.3聚类 2.3.4回归 3Weka vs. SPSS Weka简述 WEKA的全名是怀卡托智能分析环境（Waikato Environment for Knowledge Analysis），它的源代码可通过https://www.doczj.com/doc/bc7883068.html,/ml/weka得到。同时weka也是新西兰的一种鸟名，而WEKA的主要开发者来自新西兰。 WEKA作为一个公开的数据挖掘工作平台，集合了大量能承担数据挖掘任务的机器学习算法，包括对数据进行预处理，分类，回归、聚类、关联规则以及在新的交互式界面上的可视化。如果想自己实现数据挖掘算法的话，可以看一看weka的接口文档。在weka中集成自己的算法甚至借鉴它的方法自己实现可视化工具并不是件很困难的事情。
Weka是基于java，用于数据挖掘和知识分析一个平台。来自世界各地的java爱好者们都可以把自己的算法放在这个平台上，然后从海量数据中发掘其背后隐藏的种种关系。 Weka的应用方法 Applications: Explorer 使用WEKA 探索数据的环境。 Experimenter 运行算法试验、管理算法方案之间的统计检验的环境。 KnowledgeFlow 这个环境本质上和Explorer所支持的功能是一样的，但是它有一个可以拖放的界面。它有一个优势，就是支持增量学习（incremental learning）。 SimpleCLI 提供了一个简单的命令行界面，从而可以在没有自带命令行的操作系统中直接执行WEKA 命令。 Weka操作数据集 1、预处理 1.1 点击Explorer，出现对话框