引入惩罚项的模型聚类方法研究 - sescnorgcn

因此衍生出一系列度量 K 相似性的算法
Q
J
大配对和小配对 Major and minor suits
聚类分析原理介绍
相似性Similar的度量（统计学角度） 距离Q型聚类（主要讨论）
主要用于对样本分类 常用的距离有（只适用于具有间隔尺度变量的聚类）：
明考夫斯基距离（包括：绝对距离、欧式距离、切比雪夫距离） 兰氏距离 马氏距离 斜交空间距离 此不详述，有兴趣可参考《应用多元分析》（第二版）王学民
首先要明确聚类的目的，就是要使各个类之间的距离 尽可能远，类中的距离尽可能近，聚类算法可以根据 研究目的确定类的数目，但分类的结果要有令人信服 的解释。
在实际操作中，更多的是凭经验来确定类的数目，测 试不同类数的聚类效果，直到选择较理想的分类。
不稳定的聚类方法
算法的选择没有绝对
当聚类结果被用作描述或探查工具时，可以 对同样的数据尝试多种算法，以发现数据可 能揭示的结果。
该法利用了所有样本的信息，被认为是较好的 系统聚类法
广泛采用的类间距离：
重心法（centroid hierarchical method）
类的重心之间的距离 对异常值不敏感，结果更稳定
广泛采用的类间距离
离差平方和法（ward method）
D2=WM－WK－WL
即
研究目的：挖掘不同人群拨打电话的特征 下面用SAS/Enterprise Miner演示
Q&A
推荐参考书目
《应用多元分析》（第二版）王学民 上海财经大学出版社
《应用多元统计分析》即《Appied Mulhnson, Dean W. Wichern中国统计出版社

面板数据模型的惩罚似然变量选择方法研究
李扬;曾宪斌
【期刊名称】《统计研究》
【年(卷),期】2014(031)003
【摘要】本文针对面板数据模型的惩罚似然变量选择问题,比较研究了Lasso、Adaptive Lasso、Bridge和SCAD四种罚函数的浙近性质.模拟结果验证了在面板数据情况下,Adaptive Lasso、Bridge和SCAD的Oracle性质同样成立,且它们在变量选择准确性、参数估计精度和模型预测精度三方面的效果都优于Lasso.为了合理选取调整参数,本文考虑AIC、BIC 、GCV、Cp四种准则,通过模拟显示BIC 和GCV的表现通常要优于AIC和Cp.作为实证研究,本文在面板数据框架下应用惩罚似然方法对上市公司市盈率影响因素进行选择,以期对股市投资者做出理性投资决策有一定指导价值.
【总页数】7页(P83-89)
【作者】李扬;曾宪斌
【作者单位】中国人民大学统计学院;中国人民大学统计学院
【正文语种】中文
【中图分类】F222.3
【相关文献】
1.时变系数空间自回归面板数据模型的极大似然估计 [J], 邓明
2.组合惩罚似然估计下发散参数变量选择 [J], 董莹;宋立新;华志强
3.带固定效应空间误差面板数据模型的经验似然推断 [J], 周婷;秦永松
4.基于非凸惩罚似然法的混合回归模型离群值检测与变量选择 [J], 余纯;翁诗雨
5.一类空间面板数据模型的经验似然推断 [J], 曾庆樊;秦永松;黎玉芳
因版权原因，仅展示原文概要，查看原文内容请购买。

抑制式模糊C均值聚类惩罚因子的改进肖满生;肖哲【摘要】针对传统模糊C均值(FCM)算法在聚类过程中存在收敛速度慢、对大数据处理实时性不强等问题,提出了一种基于惩罚因子的样本隶属度改进算法.首先分析抑制式模糊C均值(SFCM)聚类特点,研究惩罚因子对样本隶属度修正的触发条件,进而设计出基于惩罚因子的SFCM聚类隶属度动态修正算法.通过算法实现样本向“两极移动”,达到快速收敛之目的.理论分析与实验结果表明,在相同的初始化条件下,改进算法的执行时间效率比传统FCM算法提高约40％,比基于优化选择的SFCM(OS-SFCM)算法提高10％,其聚类准确度与其他两种算法相比也有一定的提高.【期刊名称】《计算机应用》【年(卷),期】2016(036)009【总页数】5页(P2427-2431)【关键词】抑制式模糊C均值;惩罚因子;模糊隶属度;快速收敛【作者】肖满生;肖哲【作者单位】湖南工业大学,科技学院,湖南株洲412008;湖南工业大学,计算机与通信学院,湖南株洲412008;湖南工业大学,科技学院,湖南株洲412008【正文语种】中文【中图分类】TP391.4基于目标函数的模糊C均值 (Fuzzy C-Means, FCM) 聚类在20世纪七八十年代由Dunn[1]提出、并由Bezdek等[2-3]完善和发展，它是一个带约束的非线性规划过程，通过迭代优化获得样本集的模糊划分或聚类。

与传统的硬C均值(HardC-Means, HCM)聚类算法相比，FCM聚类把HCM聚类的隶属度从{0,1}二值集合扩展到了[0,1]区间，从而把非此即彼的硬聚类推广到亦此亦彼的模糊聚类，建立了样本分属于各个类的不确定性程度，因此能更客观地反映现实世界。

然而，FCM聚类的一个不可忽视的缺点是算法的收敛速度慢，特别是在处理大型复杂的数据集时，其实时性不强而失去应用价值。

针对这个问题，Fan等[4]提出了一种既能体现HCM聚类的快速性、又能反映FCM聚类准确性的抑制式模糊C均值(Suppressed Fuzzy C-Means, SFCM)聚类算法，该算法基于竞争学习思想[5]，在模糊聚类迭代优化求解过程中引入惩罚因子α，通过对样本的最大隶属度进行奖励的同时对其他隶属度进行抑制，使样本快速向最大隶属度对应的聚类原型靠近，从而达到快速收敛之目的。

属于非系统聚类法的一种
也叫快速聚类\动态聚类、逐步聚类、迭代 聚类）（quick cluster method、kmeans model ）
适用于样本量很大的情形，用系统聚类法 计算的工作量极大，作出的树状图也十分复 杂, 不便于分析
1、原理
➢选择初始凝聚点 ➢根据欧氏距离将每个样品归类 ➢各类的重心代替初始凝聚点 ➢根据欧氏距离将每个样品归类，…… ➢直至达到指定的迭代次数或达到终止迭代的 判据要求
8.Mcquitty的相似分析法(Mcquitty's similarity analysis)
9.最大似然估计法(EML)
10.密度估计(density linkage)
11.两阶段密度估计法(two-stage density linkage)等。
4、系统聚类法的性质
➢ 单调性
中间距离法、重心法不具有单调性 ➢ 空间的浓缩与扩张
4、菜单：
Analyze-classify-K means Cluster
5、分析实例(P416 data13-02)
三、Hierarchical Cluster 过程 1、系统聚类的基本思想
➢ 相近的聚为一类(以距离表示，样品聚类) ➢ 相似的聚为一类(以相似系数表示，变量聚类)
2、方法原理
9、共线性问题
对纪录聚类结果有较大的影响 最好先进行预处理
10、变量的标准化
变量变异程度相差非常大时需要进行 标准化后会削弱有用变量的作用
11、异常值
影响较大 还没有比较好的解决办法 应尽力避免
12、分类数
从实用角度讲，2～8类比较合适
13、专业意义
一定要结合专业知识进行分析
二、K-means Cluster 过程