下载文档原格式
数据挖掘领域⼗⼤经典算法以及适⽤领域1.AdaboostAdaboost算法是⼀种提升⽅法，将多个弱分类器，组合成强分类器。
AdaBoost，是英⽂”Adaptive Boosting“（⾃适应增强）的缩写，由Yoav Freund和Robert Schapire在1995年提出。
它的⾃适应在于：前⼀个弱分类器分错的样本的权值（样本对应的权值）会得到加强，权值更新后的样本再次被⽤来训练下⼀个新的弱分类器。
在每轮训练中，⽤总体（样本总体）训练新的弱分类器，产⽣新的样本权值、该弱分类器的话语权，⼀直迭代直到达到预定的错误率或达到指定的最⼤迭代次数。
总体——样本——个体三者间的关系需要搞清除总体N。
样本：｛ni｝i从1到M。
个体：如n1=（1,2），样本n1中有两个个体。
算法原理（1）初始化训练数据（每个样本）的权值分布：如果有N个样本，则每⼀个训练的样本点最开始时都被赋予相同的权重：1/N。
（2）训练弱分类器。
具体训练过程中，如果某个样本已经被准确地分类，那么在构造下⼀个训练集中，它的权重就被降低；相反，如果某个样本点没有被准确地分类，那么它的权重就得到提⾼。
同时，得到弱分类器对应的话语权。
然后，更新权值后的样本集被⽤于训练下⼀个分类器，整个训练过程如此迭代地进⾏下去。
（3）将各个训练得到的弱分类器组合成强分类器。
各个弱分类器的训练过程结束后，分类误差率⼩的弱分类器的话语权较⼤，其在最终的分类函数中起着较⼤的决定作⽤，⽽分类误差率⼤的弱分类器的话语权较⼩，其在最终的分类函数中起着较⼩的决定作⽤。
换⾔之，误差率低的弱分类器在最终分类器中占的⽐例较⼤，反之较⼩。
优点（1）精度很⾼的分类器（2）提供的是框架，可以使⽤各种⽅法构建弱分类器（3）简单，不需要做特征筛选（4）不⽤担⼼过度拟合实际应⽤（1）⽤于⼆分类或多分类（2）特征选择（3）分类⼈物的baseline2.C4.5C4.5是决策树算法的⼀种。
决策树算法作为⼀种分类算法，⽬标就是将具有p维特征的n个样本分到c个类别中去。
数据挖掘十大经典算法数据挖掘是一种通过计算机科学的方法，从大量数据中挖掘出有用的信息和知识的过程。
在这个过程中，数据挖掘算法扮演着非常重要的角色，它们能够帮助我们从数据中抽取出精华，更好地理解和利用数据。
下面是十大经典数据挖掘算法。
1. K-Means算法：K-Means算法是一种聚类算法，可以将数据集分成K个不同的类别。
这种算法的基本思想是将数据分成若干个类别，使得同一类别内的数据点的距离比其他类别内的数据点的距离更短。
2. Apriori算法：Apriori算法是一种关联规则挖掘算法，可以用来发现最常见的数据项之间的关联性。
这种算法基于频繁项集的概念，通过计算数据中频繁项集的支持度和置信度来挖掘关联规则。
3. 决策树算法：决策树算法是一种基于树结构的分类算法，可以将数据集分成若干个不同的类别。
这种算法的基本思想是通过递归地将数据集划分成不同的子集，直到子集中所有数据都属于同一类别为止。
4. SVM算法：SVM算法是一种基于统计学习理论的分类算法，可以用于解决非线性问题。
这种算法的基本思想是将数据集映射到高维空间中，然后在高维空间中建立超平面，将不同类别的数据分开。
5. 神经网络算法：神经网络算法是一种模拟人脑神经系统的分类算法，可以用来处理非线性问题。
这种算法的基本思想是通过构建一个多层的神经网络，将输入数据映射到输出数据。
6. 贝叶斯分类算法：贝叶斯分类算法是一种基于贝叶斯定理的分类算法，可以用来预测数据的类别。
这种算法的基本思想是根据已知数据的先验概率和新数据的特征，计算这个数据属于不同类别的概率，然后选择概率最大的类别作为预测结果。
7. 随机森林算法：随机森林算法是一种基于决策树的集成算法，可以用来处理大量的数据和高维数据。
这种算法的基本思想是通过随机选取特征和样本，构建多个决策树，然后将多个决策树的结果汇总，得到最终的分类结果。
8. Adaboost算法：Adaboost算法是一种基于加权的集成算法，可以用来提高分类算法的准确率。
数据挖掘十大算法
数据挖掘十大算法是一种关于数据挖掘的技术，其主要任务是从大量的原始数据中挖掘出有价值的信息。
其中包括关联规则挖掘、分类、聚类、关联分析、统计模型预测和时间序列分析等。
其中，最常用的是关联规则挖掘、分类和聚类。
关联规则挖掘是从大量的事务数据中发现隐藏的关联规则，以发现有价值的知识。
该算法利用数据库中的模式，发现频繁的项集或规则，以发现有价值的关联规则。
分类是一种利用数据挖掘技术，根据特定的特征对对象进行归类的方法。
它可以用来识别具有不同特征的对象，从而帮助企业更有效地管理其信息系统。
聚类是一种基于数据挖掘技术的分类技术，用于将相似的对象归类到同一个组中。
它可以帮助企业识别各种不同类别的对象，从而更好地管理信息系统。
除了上述三种算法之外，关联分析、统计模型预测和时间序列分析也是常用的数据挖掘算法。
关联分析是利用数据挖掘技术，从原始数据中挖掘出有价值的知识，从而帮助企业更好地管理其信息系统。
统计模型预测是一种基于统计模型的数据挖掘技术，用于预测未来的发展趋势和趋势，以便更好地满足企业的需求。
最后，时间序列
分析是一种基于时间序列的数据挖掘技术，用于分析时间序列数据，以发现有价值的信息。
总之，数据挖掘十大算法是一种重要的数据挖掘技术，包括关联规则挖掘、分类、聚类、关联分析、统计模型预测和时间序列分析等。
这些算法可以帮助企业发现有价值的信息，更好地管理其信息系统。
数据挖掘常⽤的⼗⼤算法 数据挖掘（英语：Data mining），⼜译为资料探勘、数据采矿。
它是数据库知识发现（英语：Knowledge-Discovery in Databases，简称：KDD）中的⼀个步骤。
数据挖掘⼀般是指从⼤量的数据中通过算法搜索隐藏于其中信息的过程。
数据挖掘通常与计算机科学有关，并通过统计、在线分析处理、情报检索、机器学习、专家系统（依靠过去的经验法则）和模式识别等诸多⽅法来实现上述⽬标。
数据挖掘经典算法1. C4.5：是机器学习算法中的⼀种分类决策树算法，其核⼼算法是ID3算法。
解析:C4.5算法是机器学习算法中的⼀种分类决策树算法，其核⼼算法是ID3 算法。
C4.5算法继承了ID3算法的长处。
并在下⾯⼏⽅⾯对ID3算法进⾏了改进：1）⽤信息增益率来选择属性，克服了⽤信息增益选择属性时偏向选择取值多的属性的不⾜。
2）在树构造过程中进⾏剪枝；3）可以完毕对连续属性的离散化处理；4）可以对不完整数据进⾏处理。
C4.5算法有例如以下长处：产⽣的分类规则易于理解，准确率较⾼。
其缺点是：在构造树的过程中，须要对数据集进⾏多次的顺序扫描和排序，因⽽导致算法的低效。
1、机器学习中。
决策树是⼀个预測模型。
他代表的是对象属性与对象值之间的⼀种映射关系。
树中每⼀个节点表⽰某个对象，⽽每⼀个分叉路径则代表的某个可能的属性值，⽽每⼀个叶结点则相应从根节点到该叶节点所经历的路径所表⽰的对象的值。
决策树仅有单⼀输出。
若欲有复数输出，能够建⽴独⽴的决策树以处理不同输出。
2、从数据产⽣决策树的机器学习技术叫做决策树学习，通俗说就是决策树。
3、决策树学习也是数据挖掘中⼀个普通的⽅法。
在这⾥，每⼀个决策树都表述了⼀种树型结构，他由他的分⽀来对该类型的对象依靠属性进⾏分类。
每⼀个决策树能够依靠对源数据库的切割进⾏数据測试。
这个过程能够递归式的对树进⾏修剪。
当不能再进⾏切割或⼀个单独的类能够被应⽤于某⼀分⽀时。
数据挖掘经典算法数据挖掘是一种从大量数据中提取有用信息的过程。
数据挖掘算法是数据挖掘的核心，它们可以帮助我们从数据中发现隐藏的模式和关系。
在本文中，我们将介绍一些经典的数据挖掘算法。
1. 决策树算法决策树算法是一种基于树形结构的分类算法。
它通过对数据集进行分割，将数据分成不同的类别。
决策树算法的优点是易于理解和解释，但它也容易过拟合。
2. K-均值聚类算法K-均值聚类算法是一种基于距离的聚类算法。
它将数据集分成K个簇，每个簇包含距离最近的数据点。
K-均值聚类算法的优点是简单易用，但它也容易受到初始值的影响。
3. 支持向量机算法支持向量机算法是一种基于最大间隔分类的算法。
它通过找到一个超平面，将数据分成两个类别。
支持向量机算法的优点是可以处理高维数据，但它也需要大量的计算资源。
4. 朴素贝叶斯算法朴素贝叶斯算法是一种基于概率的分类算法。
它通过计算每个特征在每个类别中的概率，来预测新数据的类别。
朴素贝叶斯算法的优点是简单易用，但它也容易受到特征之间的相关性影响。
5. Apriori算法Apriori算法是一种基于频繁项集的关联规则挖掘算法。
它通过找到频繁项集，来发现数据中的关联规则。
Apriori算法的优点是可以处理大规模数据，但它也需要大量的计算资源。
6. 随机森林算法随机森林算法是一种基于决策树的集成学习算法。
它通过构建多个决策树，来提高分类的准确率。
随机森林算法的优点是可以处理高维数据，但它也需要大量的计算资源。
7. AdaBoost算法AdaBoost算法是一种基于加权的分类算法。
它通过对错误分类的数据进行加权，来提高分类的准确率。
AdaBoost算法的优点是可以处理复杂的分类问题，但它也容易受到噪声数据的影响。
8. 神经网络算法神经网络算法是一种基于人工神经网络的分类算法。
它通过模拟人脑的神经元，来学习数据中的模式和关系。
神经网络算法的优点是可以处理非线性数据，但它也需要大量的计算资源。
9. DBSCAN算法DBSCAN算法是一种基于密度的聚类算法。
数据挖掘领域的十大经典算法原理及应用数据挖掘是指从大量的数据中发现关联规则、分类模型、聚类模型等有用的信息的过程。
以下是数据挖掘领域的十大经典算法原理及应用：1. 决策树算法（Decision Tree）决策树是一种基于树形结构的分类模型，它通过构建树来将输入数据集划分为不同的类别。
决策树算法在金融风险评估、医疗诊断等领域有广泛应用。
2. 支持向量机算法（Support Vector Machine，SVM）支持向量机是一种二分类模型，其目标是在高维空间中找到一个最优的超平面，将不同类别的样本分离开来。
SVM在图像识别、文本分类等领域有广泛应用。
3. 神经网络算法（Neural Network）神经网络模拟人脑的工作原理，通过连接众多的神经元来完成学习和预测任务。
神经网络在图像处理、自然语言处理等领域有广泛应用。
4. 朴素贝叶斯算法（Naive Bayes）朴素贝叶斯算法是一种基于贝叶斯定理的统计分类方法，它假设所有特征之间相互独立，并通过计算后验概率来进行分类。
朴素贝叶斯在垃圾邮件过滤、文本分类等领域有广泛应用。
5. K均值聚类算法（K-means Clustering）K均值聚类是一种无监督学习算法，它通过将样本分成K个簇来实现数据的聚类。
K均值聚类在市场细分、客户群体分析等领域有广泛应用。
6. Apriori算法Apriori算法是一种频繁项集挖掘算法，它可以找出数据集中项之间的关联关系。
Apriori算法在购物篮分析、推荐系统等领域有广泛应用。
7. PageRank算法PageRank算法是一种用于网页排序的算法，它通过计算网页之间的链接关系来确定网页的重要性。
PageRank算法在引擎领域有广泛应用。
8. 随机森林算法（Random Forest）随机森林是一种集成学习算法，它通过构建多个决策树，并通过投票方式来进行分类或回归。
随机森林在金融风险评估、信用评分等领域有广泛应用。
9. AdaBoost算法AdaBoost是一种迭代的强学习算法，它通过调整样本权重来训练多个弱分类器，并通过加权投票方式来进行分类。
数据挖掘十大经典算法数据挖掘是通过分析大量数据来发现隐藏的模式和关联，提供商业决策支持的过程。
在数据挖掘中，算法起着至关重要的作用，因为它们能够帮助我们从数据中提取有用的信息。
以下是十大经典的数据挖掘算法：1.决策树算法：决策树是一种基于分层选择的预测模型，它使用树状图的结构来表示决策规则。
决策树算法适用于分类和回归问题，并且可以解释性强。
常用的决策树算法有ID3、C4.5和CART。
2.朴素贝叶斯算法：朴素贝叶斯是一种基于概率的分类算法，它假设特征之间是相互独立的。
朴素贝叶斯算法简单有效，适用于大规模数据集和高维数据。
3.支持向量机（SVM）算法：SVM是一种针对分类和回归问题的监督学习算法，它通过构建一个最优的超平面来实现分类。
SVM在处理非线性问题时使用核函数进行转换，具有较强的泛化能力。
4.K近邻算法：K近邻是一种基于实例的分类算法，它通过找到与目标实例最接近的K个邻居来确定目标实例的类别。
K近邻算法简单易懂，但对于大规模数据集的计算成本较高。
5.聚类算法：聚类是一种无监督学习算法，它将相似的实例聚集在一起形成簇。
常用的聚类算法有K均值聚类、层次聚类和DBSCAN等。
6.主成分分析（PCA）算法：PCA是一种常用的降维算法，它通过线性变换将原始数据转换为具有更少维度的新数据。
PCA能够保留原始数据的大部分信息，并且可以降低计算的复杂性。
7. 关联规则算法：关联规则用于发现项集之间的关联关系，常用于市场篮子分析和推荐系统。
Apriori算法是一个经典的关联规则算法。
8.神经网络算法：神经网络是一种模仿人脑神经元通信方式的机器学习算法，它能够学习和适应数据。
神经网络适用于各种问题的处理，但对于参数选择和计算量较大。
9.随机森林算法：随机森林是一种基于决策树的集成学习算法，它通过建立多个决策树来提高预测的准确性。
随机森林具有较强的鲁棒性和泛化能力。
10.改进的遗传算法：遗传算法是一种模拟生物进化过程的优化算法，在数据挖掘中常用于最优解。
数据挖掘十大经典算法一、 C4.5C4.5算法是机器学习算法中的一种分类决策树算法,其核心算法是ID3 算法. C4.5算法继承了ID3算法的优点，并在以下几方面对ID3算法进行了改进：1) 用信息增益率来选择属性，克服了用信息增益选择属性时偏向选择取值多的属性的不足；2) 在树构造过程中进行剪枝；3) 能够完成对连续属性的离散化处理；4) 能够对不完整数据进行处理。
C4.5算法有如下优点：产生的分类规则易于理解，准确率较高。
其缺点是：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。
1、机器学习中，决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。
树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。
决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输出。
2、从数据产生决策树的机器学习技术叫做决策树学习, 通俗说就是决策树。
3、决策树学习也是数据挖掘中一个普通的方法。
在这里，每个决策树都表述了一种树型结构，他由他的分支来对该类型的对象依靠属性进行分类。
每个决策树可以依靠对源数据库的分割进行数据测试。
这个过程可以递归式的对树进行修剪。
当不能再进行分割或一个单独的类可以被应用于某一分支时，递归过程就完成了。
另外，随机森林分类器将许多决策树结合起来以提升分类的正确率。
决策树是如何工作的？1、决策树一般都是自上而下的来生成的。
2、选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。
3、从根到叶子节点都有一条路径，这条路径就是一条―规则4、决策树可以是二叉的，也可以是多叉的。
对每个节点的衡量：1) 通过该节点的记录数2) 如果是叶子节点的话，分类的路径3) 对叶子节点正确分类的比例。
有些规则的效果可以比其他的一些规则要好。
由于ID3算法在实际应用中存在一些问题，于是Quilan提出了C4.5算法，严格上说C4.5只能是ID3的一个改进算法。
1.数据科学的三大支柱与五大要素是什么？答：数据科学的三大主要支柱为：Datalogy (数据学)：对应数据管理 (Data management)Analytics (分析学)：对应统计方法 (Statistical method)Algorithmics (算法学)：对应算法方法 (Algorithmic method)数据科学的五大要素：A-SATA模型分析思维 (Analytical Thinking)统计模型 (Statistical Model)算法计算 (Algorithmic Computing)数据技术 (Data Technology)综合应用 (Application)2.如何辨证看待“大数据”中的“大”和“数据”的关系？字面理解Large、vast和big都可以用于形容大小Big更强调的是相对大小的大，是抽象意义上的大大数据是抽象的大，是思维方式上的转变量变带来质变，思维方式，方法论都应该和以往不同计算机并不能很好解决人工智能中的诸多问题，利用大数据突破性解决了，其核心问题变成了数据问题。
3.怎么理解科学的范式？今天如何利用这些科学范式？科学的范式指的是常规科学所赖以运作的理论基础和实践规范，是从事某一科学的科学家群体所共同遵从的世界观和行为方式。
第一范式：经验科学第二范式：理论科学第三范式：计算科学第四范式：数据密集型科学今天，是数据科学，统一于理论、实验和模拟4.从人类整个文明的尺度上看，IT和DT对人类的发展有些什么样的影响和冲击？以控制为出发点的IT时代正在走向激活生产力为目的的DT（Data Technology）数据时代。
大数据驱动的DT时代由数据驱动的世界观大数据重新定义商业新模式大数据重新定义研发新路径大数据重新定义企业新思维5.大数据时代的思维方式有哪些？“大数据时代”和“智能时代”告诉我们：数据思维：讲故事→数据说话总体思维：样本数据→全局数据容错思维：精确性→混杂性、不确定性相关思维：因果关系→相关关系智能思维：人→人机协同（人 + 人工智能）6.请列举出六大典型思维方式；直线思维、逆向思维、跳跃思维、归纳思维、并行思维、科学思维7.大数据时代的思维方式有哪些？同58.二进制系统是如何实现的？计算机用0和1来表示和存储所有的数据，它的基数为2，进位规则是“逢二进一”，用1表示开，0表示关9.解释比特、字节和十六进制表示。
数据挖掘的10大算法数据挖掘的10大算法1-决策树算法●简介：决策树是一种基于树结构的预测模型，通过分析数据集中的特征和目标变量之间的关系，来进行分类或回归分析。
●实现步骤：根据数据集中的特征和目标变量，构建一个树结构，在每个节点上根据某个特征的取值将数据集划分为子集，然后根据某个准则选择最佳的特征进行划分，继续构建子树，直到满足停止条件。
●应用场景：决策树算法常用于金融风险评估、医疗诊断、客户行为分析等领域。
2-K均值算法●简介：K均值算法是一种聚类分析的方法，通过将数据集中的样本划分为K个簇，使得簇内的样本相似度最大化，簇间的相似度最小化。
●实现步骤：随机选择K个样本作为簇的中心点，然后对每个样本计算与各簇中心的距离，将样本划分到距离最近的簇中，更新簇的中心点，重复以上过程直到簇的中心点不再改变。
●应用场景：K均值算法常用于客户分群、文本聚类、图像分割等领域。
3-支持向量机算法●简介：支持向量机是一种二分类模型，通过构造一个超平面来将不同类别的样本分开，同时最大化样本与超平面之间的间隔。
●实现步骤：选择合适的核函数，转化样本特征空间，构造目标函数并进行优化，最终得到一个能够将样本正确分类的超平面。
●应用场景：支持向量机算法常用于图像识别、文本分类、异常检测等领域。
4-朴素贝叶斯算法●简介：朴素贝叶斯算法是一种基于贝叶斯理论的分类算法，通过计算样本的后验概率来进行分类。
●实现步骤：基于训练数据集计算类别的先验概率和条件概率，然后根据贝叶斯公式计算样本属于各个类别的后验概率，选择后验概率最大的类别作为预测结果。
●应用场景：朴素贝叶斯算法常用于垃圾邮件过滤、情感分析、文本分类等领域。
5-神经网络算法●简介：神经网络是一种模拟人脑神经元网络结构的算法，通过构造多层神经元网络，通过学习调整网络中的权重和偏置，从而实现对数据的分类或回归分析。
●实现步骤：选择合适的网络结构和激活函数，通过前向传播计算网络的输出，通过反向传播更新网络中的参数，不断迭代直到网络收敛。
数据挖掘之经典算法1 决策树算法机器学习中，决策树是一个预测模型；它代表的是对象属性值与对象值之间的一种映射关系。
树中每个节点表示某个对象，每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应具有上述属性值的子对象。
决策树仅有单一输出；若需要多个输出，可以建立独立的决策树以处理不同输出。
从数据产生决策树的机器学习技术叫做决策树学习, 通俗说就是决策树。
决策树学习也是数据挖掘中一个普通的方法。
在这里，每个决策树都表述了一种树型结构，它由它的分支来对该类型的对象依靠属性进行分类。
每个决策树可以依靠对源数据库的分割进行数据测试。
这个过程可以递归式的对树进行修剪。
当不能再进行分割或一个单独的类可以被应用于某一分支时，递归过程就完成了。
另外，随机森林分类器将许多决策树结合起来以提升分类的正确率。
决策树同时也可以依靠计算条件概率来构造。
决策树如果依靠数学的计算方法可以取得更加理想的效果。
1.1 决策树的工作原理决策树一般都是自上而下的来生成的。
选择分割的方法有多种，但是目的都是一致的，即对目标类尝试进行最佳的分割。
从根节点到叶子节点都有一条路径，这条路径就是一条“规则”。
决策树可以是二叉的，也可以是多叉的。
对每个节点的衡量：1) 通过该节点的记录数；2) 如果是叶子节点的话，分类的路径；3) 对叶子节点正确分类的比例。
有些规则的效果可以比其他的一些规则要好。
1.2 ID3算法1.2.1 概念提取算法CLS1) 初始化参数C={E}，E包括所有的例子，为根；2) 如果C中的任一元素e同属于同一个决策类则创建一个叶子节点YES终止；否则依启发式标准，选择特征F i={V1, V2, V3,……, V n}并创建判定节点，划分C为互不相交的N个集合C1，C2，C3，……，C n；3) 对任一个C i递归。
1.2.2 ID3算法1) 随机选择C的一个子集W (窗口)；2) 调用CLS生成W的分类树DT(强调的启发式标准在后)；3) 顺序扫描C搜集DT的意外(即由DT无法确定的例子)；4) 组合W与已发现的意外，形成新的W；5) 重复2)到4)，直到无例外为止。
启发式标准：只跟本身与其子树有关，采取信息理论用熵来量度。
熵是选择事件时选择自由度的量度，其计算方法为：P=freq(C j,S)/|S|；INFO(S)=-SUM(P*LOG(P))；SUM()函数是求j从1到n的和。
Gain(X)=Info(X)-Infox(X)；Infox(X)=SUM( (|T i|/|T|)*Info(X)；为保证生成的决策树最小，ID3算法在生成子树时，选取使生成的子树的熵(即Gain(S))最小的特征来生成子树。
ID3算法对数据的要求：1) 所有属性必须为离散量；2) 所有的训练例的所有属性必须有一个明确的值；3) 相同的因素必须得到相同的结论且训练例必须唯一。
1.3 C4.5算法由于ID3算法在实际应用中存在一些问题，于是Quilan提出了C4.5算法，严格上说C4.5只能是ID3的一个改进算法。
C4.5算法继承了ID3算法的优点，并在以下几方面对ID3算法进行了改进：1) 用信息增益率来选择属性，克服了用信息增益选择属性时偏向选择取值多的属性的不足；2) 在树构造过程中进行剪枝；3) 能够完成对连续属性的离散化处理；4) 能够对不完整数据进行处理。
C4.5算法有如下优点：产生的分类规则易于理解，准确率较高。
C4.5算法有如下缺点：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。
此外，C4.5只适合于能够驻留于内存的数据集，当训练集大得无法在内存容纳时程序无法运行。
分类决策树算法：C4.5算法是机器学习算法中的一种分类决策树算法，其核心算法是ID3算法。
分类决策树算法是从大量事例中进行提取分类规则的自上而下的决策树。
决策树的各部分是：根：学习的事例集；枝：分类的判定条件；叶：分好的各个类。
1.3.1 C4.5对ID3算法的改进1) 熵的改进，加上了子树的信息。
Split_Infox(X)= -SUM( (|T|/|T i|)*LOG(|T i|/|T|))；Gain ratio(X)= Gain(X)/Split_Infox(X);2) 在输入数据上的改进①因素属性的值可以是连续量，C4.5对其排序并分成不同的集合后按照ID3算法当作离散量进行处理，但结论属性的值必须是离散值。
②训练例的因素属性值可以是不确定的，以?表示，但结论必须是确定的。
3) 对已生成的决策树进行裁剪，减小生成树的规模。
2 The k-means algorithm（k平均算法）k-means algorithm是一个聚类算法，把n个对象根据它们的属性分为k个分割，k < n。
它与处理混合正态分布的最大期望算法很相似，因为他们都试图找到数据中自然聚类的中心。
它假设对象属性来自于空间向量，并且目标是使各个群组内部的均方误差总和最小。
假设有k个群组S i, i=1,2,...,k。
μi是群组S i内所有元素x j的重心，或叫中心点。
k平均聚类发明于1956年，该算法最常见的形式是采用被称为劳埃德算法(Lloyd algorithm)的迭代式改进探索法。
劳埃德算法首先把输入点分成k个初始化分组，可以是随机的或者使用一些启发式数据。
然后计算每组的中心点，根据中心点的位置把对象分到离它最近的中心，重新确定分组。
继续重复不断地计算中心并重新分组，直到收敛，即对象不再改变分组（中心点位置不再改变）。
劳埃德算法和k平均通常是紧密联系的，但是在实际应用中，劳埃德算法是解决k平均问题的启发式法则，对于某些起始点和重心的组合，劳埃德算法可能实际上收敛于错误的结果。
（上面函数中存在的不同的最优解）虽然存在变异，但是劳埃德算法仍旧保持流行，因为它在实际中收敛非常快。
实际上，观察发现迭代次数远远少于点的数量。
然而最近，David Arthur和Sergei Vassilvitskii提出存在特定的点集使得k平均算法花费超多项式时间达到收敛。
近似的k平均算法已经被设计用于原始数据子集的计算。
从算法的表现上来说，它并不保证一定得到全局最优解，最终解的质量很大程度上取决于初始化的分组。
由于该算法的速度很快，因此常用的一种方法是多次运行k平均算法，选择最优解。
k平均算法的一个缺点是，分组的数目k是一个输入参数，不合适的k可能返回较差的结果。
另外，算法还假设均方误差是计算群组分散度的最佳参数。
3 SVM（支持向量机）支持向量机，英文为Support Vector Machine，简称SV机（论文中一般简称SVM）。
它是一种监督式学习的方法，它广泛的应用于统计分类以及回归分析中。
支持向量机属于一般化线性分类器。
它们也可以被认为是提克洛夫规范化（Tikhonov Regularization）方法的一个特例。
这种分类器的特点是他们能够同时最小化经验误差与最大化几何边缘区。
因此支持向量机也被称为最大边缘区分类器。
在统计计算中，最大期望（EM）算法是在概率（probabilistic）模型中寻找参数最大似然估计的算法，其中概率模型依赖于无法观测的隐藏变量（Latent Variable）。
最大期望经常用在机器学习和计算机视觉的数据集聚（Data Clustering）领域。
最大期望算法经过两个步骤交替进行计算，第一步是计算期望（E），也就是将隐藏变量像能够观测到的一样包含在内从而计算最大似然的期望值；另外一步是最大化（M），也就是最大化在 E 步上找到的最大似然的期望值从而计算参数的最大似然估计。
M 步上找到的参数然后用于另外一个E 步计算，这个过程不断交替进行。
Vapnik等人在多年研究统计学习理论基础上对线性分类器提出了另一种设计最佳准则。
其原理也从线性可分说起，然后扩展到线性不可分的情况。
甚至扩展到使用非线性函数中去，这种分类器被称为支持向量机(Support Vector Machine，简称SVM)。
支持向量机的提出有很深的理论背景。
支持向量机方法是在近年来提出的一种新方法，但是进展很快，已经被广泛应用在各个领域之中。
SVM的主要思想可以概括为两点：(1) 它是针对线性可分情况进行分析，对于线性不可分的情况，通过使用非线性映射算法将低维输入空间线性不可分的样本转化为高维特征空间使其线性可分，从而使得高维特征空间采用线性算法对样本的非线性特征进行线性分析成为可能；(2) 它基于结构风险最小化理论之上在特征空间中建构最优分割超平面，使得学习器得到全局最优化，并且在整个样本空间的期望风险以某个概率满足一定上界。
在学习这种方法时，首先要弄清楚这种方法考虑问题的特点，这就要从线性可分的最简单情况讨论起，在没有弄懂其原理之前，不要急于学习线性不可分等较复杂的情况，支持向量机在设计时，需要用到条件极值问题的求解，因此需用拉格朗日乘子理论，但对多数人来说，以前学到的或常用的是约束条件为等式表示的方式，但在此要用到以不等式作为必须满足的条件，此时只要了解拉格朗日理论的有关结论就行。
支持向量机将向量映射到一个更高维的空间里，在这个空间里建立有一个最大间隔超平面。
在分开数据的超平面的两边建有两个互相平行的超平面。
分隔超平面使两个平行超平面的距离最大化。
假定平行超平面间的距离或差距越大，分类器的总误差越小。
一个极好的指南是C.J.C Burges的《模式识别支持向量机指南》。
van der Walt 和Barnard 将支持向量机和其他分类器进行了比较。
有很多个分类器(超平面）可以把数据分开，但是只有一个能够达到最大分割。
我们通常希望分类的过程是一个机器学习的过程。
这些数据点并不需要是中的点，而可以是任意(统计学符号)中或者(计算机科学符号) 的点。
我们希望能够把这些点通过一个n-1维的超平面分开，通常这个被称为线性分类器。
有很多分类器都符合这个要求，但是我们还希望找到分类最佳的平面，即使得属于两个不同类的数据点间隔最大的那个面，该面亦称为最大间隔超平面。
如果我们能够找到这个面，那么这个分类器就称为最大间隔分类器。
设样本属于两个类，用该样本训练SVM得到的最大间隔超平面。
在超平面上的样本点也称为支持向量。
SVM的优势：由于支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性(即对特定训练样本的学习精度，Accuracy)和学习能力(即无错误地识别任意样本的能力)之间寻求最佳折衷，以期获得最好的推广能力(Generalizatin Ability)。
支持向量机方法的几个主要优点是：●可以解决小样本情况下的机器学习问题；●可以提高泛化性能；●可以解决高维问题；●可以解决非线性问题；●可以避免神经网络结构选择和局部极小点问题。
