som算法聚类

聚类算法的应用

聚类主要应用于模式识别中的语音识别、字符识别等,机器学习中的聚类算法应用于图像分割和机器视觉,图像处理中聚类用于数据压缩和信息检索.聚类的另一个主要应用是数据挖掘(多关系数据挖掘)、时空数据库应用(GIS等)、序列和异类数据分析等，聚类分析对生物学、心理学、考古学、地质学、地理学以及市场营销等研究也都有重要作用。

典型的聚类过程主要包括数据(或称之为样本或模式)准备、特征选择和特征提取、接近度计算、聚类(或分组)、对聚类结果进行有效性评估等步骤。

聚类过程:

1) 数据准备:包括特征标准化和降维.

2) 特征选择:从最初的特征中选择最有效的特征,并将其存储于向量中.

3) 特征提取:通过对所选择的特征进行转换形成新的突出特征.

4) 聚类(或分组):首先选择合适特征类型的某种距离函数(或构造新的距离函数)进行接近程度的度量; 而后执行聚类或分组。

5) 聚类结果评估:是指对聚类结果进行评估.评估主要有 3 种:外部有效性评估、内部有效性评估和相关性测试评估。

SOM算法研究与应用

SOM算法，也称为自组织映射算法（Self-Organizing Maps），是一种无监督学习算法，用于将高维数据映射到低维空间中。SOM算法由芬兰科学家Teuvo Kohonen于1982年所提出，并且在计算机科学和机器学习领域中具有广泛的应用。

SOM算法的核心思想是通过将输入数据映射到一个拓扑结构上的低维空间中，实现数据的可视化和分类。SOM网络由一个二维或三维的网格组成，每个网格单元称为节点。在训练过程中，每个节点与输入数据之间存在权重向量，而权重向量则决定了节点在低维空间中的位置。SOM算法通过迭代的方式，不断调整权重向量以逼近输入数据的分布特征，从而实现数据的映射和聚类。

1.初始化网络：定义网络的拓扑结构和每个节点的权重向量，通常权重向量随机初始化。

2.选择输入数据：从训练数据集中随机选择一个数据作为当前迭代的输入。

3.计算获胜节点：通过比较输入数据与每个节点的权重向量，选择距离最接近输入数据的节点作为获胜节点。

4.更新获胜节点和邻近节点的权重向量：根据获胜节点和邻近节点的拓扑关系，调整它们的权重向量，使其更接近输入数据。

5.更新学习率和邻域半径：随着迭代的进行，逐渐减小学习率和邻域半径，以缓慢调整节点的权重向量。

6.重复步骤2至5，直到达到指定的迭代次数或网络达到收敛。 1.数据聚类：SOM算法可以将相似的数据映射到相邻的节点上，从而实现聚类。聚类结果可以帮助我们理解数据的分布特征和相似性，从而进行更深入的分析和决策。

2.数据可视化：SOM算法将高维数据映射到低维空间中，可以将数据可视化为二维或三维的网格结构。这种可视化方法可以帮助我们直观地理解数据之间的关系和规律。

3.特征提取：SOM算法可以通过调整权重向量的方式，将数据映射到低维空间中，从而实现特征提取。通过SOM算法提取的特征可以用于后续的分类、聚类或识别任务。

4.异常检测：SOM算法可以识别输入数据与大多数数据不同的节点，从而实现异常检测。这种能力可以帮助我们发现不符合规律的数据点，发现潜在的问题和异常情况。

聚类算法：凝聚层次聚类

凝聚层次聚类：

所谓凝聚的，指的是该算法初始时，将每个点作为⼀个簇，每⼀步合并两个最接*的簇。另外即使到最后，对于噪⾳点或是离群点也往往还

是各占⼀簇的，除⾮过度合并。对于这⾥的“最接*”，有下⾯三种定义。我在实现是使⽤了MIN，该⽅法在合并时，只要依次取当前最*的点

对，如果这个点对当前不在⼀个簇中，将所在的两个簇合并就⾏：

(1)单链(MIN):定义簇的邻*度为不同两个簇的两个最*的点之间的距离。

(2)全链(MAX):定义簇的邻*度为不同两个簇的两个最远的点之间的距离。

(3)组*均：定义簇的邻*度为取⾃两个不同簇的所有点对邻*度的*均值。

根据该算法，实现如下代码。开始时计算每个点对的距离，并按距离降序依次合并。另外为了防⽌过度合并，定义的退出条件是90%的簇被

合并，即当前簇数是初始簇数的10%：

实现代码如下：

[python]

1. # scoding=utf-8

2. # Agglomerative Hierarchical Clustering(AHC)

3. import pylab as pl

4. from operator import itemgetter

5. from collections import OrderedDict,Counter

6.

7. points = [[int(eachpoint.split('#')[0]), int(eachpoint.split('#')[1])] for eachpoint in open("points","r")]

8.

9. # 初始时每个点指派为单独⼀簇

10. groups = [idx for idx in range(len(points))]

11.

12. # 计算每个点对之间的距离

13. disP2P = {}

14. for idx1,point1 in enumerate(points):

计算机工程与设计ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇ　ａｎｄＤｅｓｉｇｎ　２０１１，Ｖｏ１．３２，Ｎｏ．７　２４６３　

基于基因表达谱特征分布的Ｓ　ＯＭ聚类算法研究　

程慧杰　。，　张国印　，　何　颖　

（１．哈尔滨工程大学计算机科学与技术学院，黑龙江哈尔滨ｌ５０００１；　

２．哈尔滨医科大学计算机教研室，黑龙江哈尔滨ｌ５００８１）　

摘要：针对ＳＯＭ算法中欧氏距离无法根据特征的重要性来衡量相似度、易引入无关特征干扰的缺点，提出了一种基于基　

因表达谱特征分布的ＳＯＭ聚类算法。算法通过衡量特征对同类基因的凝聚能力和对异类基因的区分能力，对不同的特征赋　

予不同的权值，将此权值引入到基因数据与神经元的相似度计算中，并利用改进的粒子群优化算法调整获胜神经元及邻接　

神经元的权值。实验结果表明，该算法有效增强了聚类结果的类内凝聚度和类间区分度，提高了聚类准确率。　

关键词：基因表达谱；自组织映射；粒子群优化；特征权值；基因聚类　中图法分类号：ＴＰ３９１　文献标识码：Ａ　文章编号：１０００—７０２４（２０１１）０７—２４６３—０４　

Ｓｔｕｄｙ　ｏｆ　ＳＯＭ　ｃｌｕｓｔｅｒｉｎｇ　ａｌｇｏｒｉｔｈｍ　ｂａｓｅｄ　ｏｎ　ｆｅａｔｕｒｅ’Ｓ　ｄｉｓｔｒｉｂｕｔｉｏｎ　ｏｆ　ｇｅｎｅ　ｅｘｐｒｅｓｓｉｏｎ　ｐｒｏｆｉｌｅ　

ＣＨＥＮＧ　Ｈｕｉ￣ｉｅ　。。，ＺＨＡＮＧ　Ｇｕｏ—ｙｉｎ　，ＨＥ　Ｙｉｎｇ　

（１．Ｃｏｌｌｅｇｅ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｈａｒｂｉｎ　Ｅｎｇｉｎｅｅｒｉｎｇ　Ｕｎｉｖｅｒｓｉｔｙ，Ｈａｒｂｉｎ　１　５０００　１，Ｃｈｉｎａ；　

２．Ｄｅｐａｒｔｍｅｎｔ　ｏｆＣｏｍｐｕｔｅｒ，Ｈａｒｂｉｎ　Ｍｅｄｉｃａｌ　Ｕｎｉｖｅｒｓｉｔｙ，Ｈａｒｂｉｎ　１５００８１，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ｔｈｅ　Ｅｕｃｌｉｄｅａｎ　ｄｉｓｔａｎｃｅ　ｏｆ　ＳＯＭ　ｉＳ　ｉｍｐｏｓｓｉｂｌｅ　ｔｏ　ｃａｌｃｕｌａｔｅ　ｓｉｍｉｌａｒｉｔｙ　ｂｙ　ｉｍｐｏｒｔａｎｃｅ　ｏｆ　ｆｅａｔｕｒｅｓ　ａｎｄ　ｉＳ　ｌｉａｂｌｅ　ｔｏ　ｂｅ　ｉｎｔｅｒｆｅｒｅｄ　ｂｙ