数据挖掘报告五

  • 格式:docx
  • 大小:172.85 KB
  • 文档页数:4

实验五:深入理解分类问题
实验步骤
1. 学习了解贝叶斯网络及其分类。要求:熟练掌握概念及流程;在
数据集 contact-lenses.arff 上进行分类,并分析结果。
一个贝叶斯网络定义包括一个有向无环图(DAG)和一个条件概率
表集合。
DAG中每一个节点表示一个随机变量,可以是可直接观测变量或
隐藏变量,而有向边表示随机变量间的条件依赖;
条件概率表中的每一个元素对应DAG中唯一的节点,存储此节点
对于其所有直接前驱节点的联合条件概率。
构造与训练贝叶斯网络分为以下两步:
1、确定随机变量间的拓扑关系,形成DAG。这一步通常需要领域
专家完成,而想要建立一个好的拓扑结构,通常需要不断迭代和改进
才可以。
2、训练贝叶斯网络。这一步也就是要完成条件概率表的构造,如果
每个随机变量的值都是可以直接观察的,像我们上面的例子,那么这
一步的训练是直观的,方法类似于朴素贝叶斯分类。但是通常贝叶斯
网络的中存在隐藏变量节点,那么训练方法就是比较复杂,例如使用
梯度下降法。
1、对所有可观察随机变量节点用观察值实例化;对不可观察节点实
例化为随机值。
2、对DAG进行遍历,对每一个不可观察节点y,计算,其中wi表示
除y以外的其它所有节点,a为正规化因子,sj表示y的第j个子节
点。
3、使用第三步计算出的各个y作为未知节点的新值进行实例化,重
复第二步,直到结果充分收敛。
4、将收敛结果作为推断值。
2. 学习了解神经网络及其分类。要求:熟练掌握概念及流程;在数
据集 contact-lenses.arff 上进行分类,并与贝叶斯分类结果比较。
以BP神经网络为例:

具体过程:
1) 从样本集合中取一个样本(Ai,Bi);
2) 计算网络的实际输出O;
3) 求D=Bi-O;
4) 根据D调整权矩阵W;
5) 对每个样本重复上述过程,直到对整个样本集来说,误差不超过
规定范围。
BP神经网络在weka中是分属这个部分的
weka.classifiers.functions.MultilayerPerceptron
其是一个使用了反向传播(backpropagation)的分类器。
实验结果如下: