目标跟踪算法的分类
主要基于两种思路： a)不依赖于先验知识，直接从图像序列中检测到运动目标，并进行目标识别，最终跟踪感兴趣的运动目标； b)依赖于目标的先验知识，首先为运动目标建模，然后在图像序列中实时找到相匹配的运动目标。 一．运动目标检测 对于不依赖先验知识的目标跟踪来讲，运动检测是实现跟踪的第一步。运动检测即为从序列图像中将变化区域从背景图像中提取出来。运动目标检测的算法依照目标与摄像机之间的关系可以分为静态背景下运动检测和动态背景下运动检测 （一）静态背景 1.背景差 2.帧差 3.GMM 4.光流 背景减算法可以对背景的光照变化、噪声干扰以及周期性运动等进行建模，在各种不同情况下它都可以准确地检测出运动目标。因此对于固定
个关键技术： a)匹配法则，如最大相关、最小误差等 b)搜索方法，如三步搜索法、交叉搜索法等。 c) 块大小的确定，如分级、自适应等。 光流法 光流估计的方法都是基于以下假设：图像灰度分布的变化完全是目标或者场景的运动引起的，也就是说，目标与场景的灰度不随时间变化。这使得光流方法抗噪声能力较差，其应用范围一般局限于目标与场景的灰度保持不变这个假设条件下。另外，大多数的光流计算方法相当复杂，如果没有特别的硬件装置，其处理速度相当慢，达不到实时处理的要求。 二．目标跟踪 运动目标的跟踪，即通过目标的有效表达，在图像序列中寻找与目标模板最相似候选目标区位置的过程。简单说，就是在序列图像中为目标定位。运动目标的有效表达除了对运动目标建模外，目标跟踪中常用到的目标特性表达主要包括视觉特征 (图像边缘、轮廓、形状、纹理、区域)、统计特征 (直方图、各种矩特征)、变换系数特
iSIGHT中优化方法种类 iSIGHT里面的优化方法大致可分为三类： 1 数值优化方法 数值优化方法通常假设设计空间是单峰值的，凸性的，连续的。iSIGHT中有以下几种： （1）外点罚函数法（EP）： 外点罚函数法被广泛应用于约束优化问题。此方法非常很可靠，通常能够在有最小值的情况下，相对容易地找到真正的目标值。外点罚函数法可以通过使罚函数的值达到无穷值，把设计变量从不可行域拉回到可行域里，从而达到目标值。 （2）广义简约梯度法（LSGRG2）： 通常用广义简约梯度算法来解决非线性约束问题。此算法同其他有效约束优化一样，可以在某方向微小位移下保持约束的有效性。 （3）广义虎克定律直接搜索法： 此方法适用于在初始设计点周围的设计空间进行局部寻优。它不要求目标函数的连续性。因为算法不必求导，函数不需要是可微的。另外，还提供收敛系数（rho），用来预计目标函数方程的数目，从而确保收敛性。 （4）可行方向法（CONMIN）： 可行方向法是一个直接数值优化方法，它可以直接在非线性的设计空间进行搜索。它可以在搜索空间的某个方向上不断寻求最优解。用数学方程描述如下： Design i = Design i-1 + A * Search Direction i方程中，i表示循环变量，A表示在某个空间搜索时决定的常数。它的优点就是在保持解的可行性下降低了目标函数值。这种方法可以快速地达到目标值并可以处理不等式约束。缺点是目前还不能解决包含等式约束的优化问题。 （5）混合整型优化法（MOST）： 混合整型优化法首先假定优化问题的设计变量是连续的，并用序列二次规划法得到一个初始的优化解。如果所有的设计变量是实型的，则优化过程停止。否则，如果一些设计变量为整型或是离散型，那么这个初始优化解不能满足这些限制条件，需要对每一个非实型参数寻找一个设计点，该点满足非实型参数的限制条件。这些限制条件被作为新的约束条件加入优化过程，重新优化产生一个新的优化解，迭代依次进行。在优化过程中，非实型变量为重点考虑的对象，直到所有的限制条件都得到满足，优化过程结束，得到最优解。 （6）序列线性规划法（SLP）：序列线性规划法利用一系列的子优化方法来解决约束优化问题。此方法非常好实现，适用于许多工程实例问题。 （7）序列二次规划法（DONLP）： 此方法对拉各朗日法的海森矩阵进行了微小的改动，进行变量的缩放，并且改善了armijo型步长算法。这种算法在设计空间中通过梯度投影法进行搜索。 （8）序列二次规划法（NLPQL）： 这种算法假设目标函数是连续可微的。基本思想是将目标函数以二阶拉氏方程展开，并把约束条件线性化，使得转化为一个二次规划问题。二阶方程通过quasi－Newton公式得到了改进，而且加入了直线搜索提高了算法的稳定性。 （9）逐次逼近法（SAM）： 逐次逼近法把非线性问题当做线性问题来处理。使用了稀疏矩阵法和单纯形法求解线性问题。如果某个变量被声明成整型，单纯形法通过重复大量的矩阵运算来达到预期的最优值。逐次逼近法是在M. Berkalaar和J.J. Dirks提出的二次线性算法。 2 探索优化方法 探索优化法避免了在局部出现最优解的情况。这种方法通常在整个设计空间中搜索全局最优值。iSIGHT中有以下两种： （1）多岛遗传算法（MIGA）： 在多岛遗传算法中，和其他的遗传算法一样每个设计点都有一个适应度值,这个值是建立在目标函
分类算法小结
分类算法小结 学号：12013120116 李余芳 分类是数据挖掘中比较重要的一类，它的算法也有很多。在此，我将一些常用的算法做一个简单的小结。 一、决策树 决策树技术是用于分类和预测的主要技术，决策树学习是以实例为基础的归纳学习算法。它着眼于从一组无次序、无规则的事例中推理除决策树表示形式的分类规则。它采用自顶向下的递归方式，在决策树的内部节点进行属性值的比较并根据不同属性判断从该节点向下的分支，然后进行剪枝，最后在决策树的叶节点得到结论。所以从根到叶节点就对应着一条合取规则，整棵树就对应着一组析取表达式规则。树的每一个结点上使用信息增益度量选择测试属性。可以从生成的决策树中提取规则。。 优点： 1、易于理解和解释.人们在通过解释后有能力去理解决策树所表达的意义。 2、能够同时处理数据型和常规型属性。其他技术往往要求数据属性的单一。 3、易于通过静态测试来对模型进行评测。表示有可能测量该模型的可信度。 4、在相对短的时间内能够对大型数据源做出可行且效果良好的结果。 5、可以对有许多属性的数据集构造决策树。 6、决策树可很好地扩展到大型数据库中，它的大小独立于数据库的大小。 缺点： 1、对于各类别样本数量不一致的数据，在决策树中,信息增益的结果偏向于那些具有更多数值的特征。 2、决策树处理缺失数据时的困难。 3、过度拟合问题的出现。 4、忽略数据集中属性之间的相关性。 应用 1、决策树是用二叉树形图来表示处理逻辑的一种工具。可以直观、清晰地表
达加工的逻辑要求。特别适合于判断因素比较少、逻辑组合关系不复杂的情况。 2、决策树提供了一种展示类似在什么条件下会得到什么值这类规则的方法。比如，在贷款申请中，要对申请的风险大小做出判断。 3、决策树很擅长处理非数值型数据，这与神经网络只能处理数值型数据比起来，就免去了很多数据预处理工作等等。 二、K最近邻法(KNN） KNN法即K最近邻法，最初由Cover和Hart于1968年提出的，是一个理论上比较成熟的方法。该方法的思路非常简单直观：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。该方法在定类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。KNN方法虽然从原理上也依赖于极限定理，但在类别决策时，只与极少量的相邻样本有关。因此，采用这种方法可以较好地避免样本的不平衡问题。另外，由于KNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，KNN方法较其他方法更为适合。 优点： 1、简单、有效。 2、K最近邻算法是一种非参数的分类技术，在基于统计的模式识别中非常有效，并对未知和非正态分布可取得较高的分类准确率。 3、在类别决策时，只与极少量的相邻样本有关，可以较好地避免样本的不平衡问题。 4、该算法比较适用于样本容量比较大的类域的自动分类，而那些样本容量较小的类域采用这种算法比较容易产生误分。 缺点： 1、KNN算法是建立在VSM模型上的，其样本距离测度使用欧式距离。若各维权值相同，即认定各维对于分类的贡献度相同，显然这不符合实际情况。 2、KNN是懒散的分类算法，对于分类所需的计算均推迟至分类进行，故在其分
运动目标跟踪就是在一段序列图像中的每幅图像中实时地找到所感兴趣的运动目标 (包括位置、速度及加速度等运动参数)。在运动目标跟踪问题的研究上，总体来说有两种思路： a)不依赖于先验知识，直接从图像序列中检测到运动目标，并进行目标识别，最终跟踪感兴趣的运动目标； b)依赖于目标的先验知识，首先为运动目标建模，然后在图像序列中实时找到相匹配的运动目标。 一、运动目标检测 对于不依赖先验知识的目标跟踪来讲，运动检测是实现跟踪的第一步。运动检测即为从序列图像中将变化区域从背景图像中提取出来。运动目标检测的算法依照目标与摄像机之间的关系可以分为静态背景下运动检测和动态背景下运动检测。 静态背景下运动检测就是摄像机在整个监视过程中不发生移动，只有被监视目标在摄像机视场内运动，这个过程只有目标相对于摄像机的运动；动态背景下运动检测就是摄像机在整个监视过程中发生了移动 (如平动、旋转或多自由度运动)，被监视目标在摄像机视场内也发生了运动，这个过程就产生了目标与摄像机之间复杂的相对运动。 1、静态背景 背景差分法 背景差分法是利用当前图像与背景图像的差分来检测运动区域的一种技术。它一般能够提供最完全的特征数据，但对于动态场景的变化，如天气、光照、背景扰动及背景物移入移出等特别敏感，运动目标的阴影也会影响检测结果的准确性及跟踪的精确性。其基本思想就是首先获得一个背景模型，然后将当前帧与背景模型相减，如果像素差值大于某一阈值，则判断此像素属于运动目标，否则属于背景图像。背景模型的建立与更新、阴影的去除等对跟踪结果的好坏至关重要。 帧间差分法 相邻帧间差分法是通过相邻两帧图像的差值计算，获得运动物体位置和形状等信息的运动目标检测方法。其对环境的适应性较强，特别是对于光照的变化适应性强，但由于运动目标上像素的纹理、灰度等信息比较相近，不能检测出完整
分类算法综述 1 分类算法分类是数据挖掘中的一个重要课题。分类的目的是学会一个分类函数或分类模型（也常常称作分类器），该模型能把数据库中的数据项映射到给定类别中的某一个。分类可用于提取描述重要数据类的模型或预测未来的数据趋势。分类可描述如下：输入数据，或称训练集（Training Set），是一条条的数据库记录（Record）组成的。每一条记录包含若干个属性（Attribute），组成一个特征向量。训练集的每条记录还有一个特定的类标签（Class Label）与之对应。该类标签是系统的输入，通常是以往的一些经验数据。一个具体样本的形式可为样本向量：（v1,v2,…, vn ;c）。在这里vi表示字段值，c表示类别。分类的目的是：分析输入数据，通过在训练集中的数据表现出来的特性,为每一个类找到一种准确的描述或者模型。这种描述常常用谓词表示。由此生成的类描述用来对未来的测试数据进行分类。尽管这些未来的测试数据的类标签是未知的，我们仍可以由此预测这些新
数据所属的类。注意是预测，而不能肯定，因为分类的准确率不能达到百分之百。我们也可以由此对数据中的每一个类有更好的理解。也就是说：我们获得了对这个类的知识。 2 典型分类算法介绍解决分类问题的方法很多，下面介绍一些经典的分类方法，分析 各自的优缺点。 2.1 决策树分类算法决策树（Decision Tree）是一种有向无环图（Directed Acyclic Graphics,DAG）。决策树方法是利用信息论中 的信息增益寻找数据库中具有最大信息量的属性字段，建立决策树的一个结点，在根据该属性字段的 不同取值建立树的分支，在每个子分支子集中重复 建立树的下层结点和分支的一个过程。构造决策树 的具体过程为：首先寻找初始分裂，整个训练集作 为产生决策树的集合，训练集每个记录必须是已经 分好类的，以决定哪个属性域（Field）作为目前最 好的分类指标。一般的做法是穷尽所有的属性域， 对每个属性域分裂的好坏做出量化，计算出最好的 一个分裂。量化的标准是计算每个分裂的多样性（Diversity）指标。其次，重复第一步，直至每个叶 节点内的记录都属于同一类且增长到一棵完整的树。
近似算法和概率算法的特点与计算方法、分类及概率算法的计算过程 与应用 1．近似算法 1近似算法的计算方法 设D是一个最优化问题，A是一个算法，若把A用于D的任何一个实例I，都能在|I|的多项式时间内得到I的可行解，则称算法A为问题D的一个近似算法，其中|I|表示实例I的规模或输入长度，进而，设实例I的最优值为OP（I），而算法A所得到实例I的可行解之值为A（I），则称算法A解实例I的性能比为R A（I）的性能比为R A（D），同时称D有R A—近似解．其中 A ( I) OP(I) ，若D为最小化问题. R A ( I) = OP(I) ，若D为最大化问题. A ( I) R A(D)=inf{r≥|R A(I)≤r，I∈D} 2近似算法的特点 （1）解同一个问题的近似算法可能有多个 （2）算法的时间复杂性：近似算法的时间复杂性必须是多项式阶的，这是设计近似算法的基本目标。 （3）解的近似程度：近似最优解的近似程度也是设计近似算法的重要目标。近似程度可能与近似算法本身、问题规模，乃至不同的输入实例都有关。 3近似算法的分类 （1）基于线性规划的近似算法 （2）基于动态规划的近似算法 （3）绝对近似类 （4）相对近似类 （5）PTAS类和FPTAS类 （6）随机近似算法 2．概率算法 1概率算法的计算方法 概率算法允许算法在执行的过程中随机选择下一个计算步骤。许多情况下，当算法在执行过程中面临一个选择时，随机性选择常比最优选择省时。 2概率算法的特点
（1）不可再现性。概率算法的一个特点是对所求解问题的同一实例用同一概率算法求解两次可能得到完全不同的效果。 （2）分析困难。要求有概率论、统计学和数论的知识。 3概率算法的分类 （1）数值概率算法。数值概率算法常用于数值问题的求解。这类算法所得到的往往是近似解。而且近似解的精度随计算时间的增加不断提高。在许多情况下，要计算出问题的精确解是不可能或没有必要的，因此用数值概率算法可得到相当满意的解。 （2）蒙特卡罗（Monte Carlo）算法。蒙特卡罗算法用于求问题的准确解。对于许多问题来说，近似解毫无意义。例如，一个判定问题其解 为“是”或“否”，二者必居其一，不存在任何近似解答。又如，我们要求一个整数的因子时所给出的解答必须是准确的，一个整数的近似因子没有任何意义。用蒙特卡罗算法能求得问题的一个解，但这个解未必是正确的。求得正确解的概率依赖于算法所用的时间。算法所用的时间越多，得到正确解的概率就越高。蒙特卡罗算法的主要缺点就在于此。一般情况下，无法有效判断得到的解是否肯定正确。 Monte Carlo 算法偶然会犯错，但它无论对何实例均能以高概率找到正确解。当算法出错时，没有警告信息。偏真偏假的概念只在Monte Carlo 算法里出现。 Def1：设 p 是一个实数，且 1/2 网络社区划分算法 目录 ?1简介 ?2构建一个点击流网络 ?3网络社区划分的两种主要思路：拓扑分析和流分析 ?4拓扑分析 o 4.1计算网络的模块化程度Q-Modularity o 4.2计算网络的连边紧密度Edge betweenness o 4.3计算网络拉普拉斯矩阵的特征向量Leading eigenvector o 4.4通过fast greedy方法搜索网络模块化程度Q-Modularity的最大值 o 4.5通过multi level方法搜索网络模块化程度Q-Modularity的最大值 ?5流分析 o 5.1随机游走算法Walk Trap o 5.2标签扩散算法label propagation o 5.3流编码算法 the Map Equation o 5.4流层级算法 Role-based Similarity ?6总结 []简介 使用许多互联网数据，我们都可以构建出这样的网络，其节点为某一种信息资源，如图片，视频，帖子，新闻等，连边为用户在资源之间的流动。对于这样的网络，使用社区划分算法可以揭示信息资源之间的相关性，这种相关性的发现利用了用户对信息资源的处理信息，因此比起单纯使用资源本身携带的信息来聚类（例如，使用新闻包含的关键词对新闻资源进行聚类），是一种更深刻的知识发现。 假设我们手头有一批用户在一段期间内访问某类资源的数据。为了减少数据数理规模，我们一般只考虑最经常被访问的一批资源。因此在数据处理中，我们考虑UV（user visit）排名前V的资源，得到节点集合|V|，然后对于一个用户i在一段时间内（例如一天）内访问的资源，选择属于|V|的子集vi。如果我们有用户访问资源的时间，就可以按照时间上的先后顺序，从vi中产生vi-1条有向边。如果我们没有时间的数据，可以vi两两间建立联系，形成vi(vi-1)/2条无向边。因为后者对数据的要求比较低，下文中，暂时先考虑后者的情况。对于一天内的n个用户做这个操作，最后将得到的总数为的连边里相同的边合并，得到|M|个不同的边，每条边上都带有权重信息。 这样，我们就得到了V个节点，M条边的一个加权无向网络，反应的是在一天之内用户在主要的信息资源间的流动情况。在这个网络上，我们可以通过社区划分的算法对信息资源进行分类。 分类算法 目录 1.分类算法 (3) 2.典型分类算法 (3) 2.1 决策树分类算法 (3) 2.1.1 算法概述 (3) 2.1.2 算法优缺点 (3) 2.1.3 算法分类介绍 (4) 2.1.3.1 ID3（C4.5）算法 (4) 2.1.3.2 SLIQ分类算法 (4) 2.1.3.3 SPRINT分类算法 (5) 2.2 三种典型贝叶斯分类器 (5) 2.2.1 算法概述 (5) 2.2.2 算法分类介绍 (5) 2.2.2.1 朴素贝叶斯算法 (5) 2.2.2.2 TAN算法 (6) 2.2.2.3 贝叶斯网络分类器 (7) 2.2.3 三类方法比较 (7) 2.3 k-近邻 (8) 2.4 基于数据库技术的分类算法 (9) 2.4.1 MIND算法 (9) 2.4.2 GAC-RDB算法 (9) 2.5 基于关联规则的分类算法 (10) 2.5.1 Apriori算法 (10) 2.6 支持向量机分类 (11) 2.7 基于软计算的分类方法 (11) 2.7.1 粗糙集 (12) 2.7.2 遗传算法 (12) 2.7.3 模糊逻辑 (13) 2.7.4 人工神经网络算法 (14) 2.7.4.1 算法概述 (14) 2.7.4.2 算法优缺点 (14) 2.7.4.3 算法分类 (15) 2.7.4.3.1 BP神经网络分类算法 (15) 2.7.4.3.2 RBF神经网络 (16) 2.7.4.3.3 SOFM神经网络 (17) 2.7.4.3.4 学习矢量化（LVQ）神经网络 (17) 3 其他分类算法 (18) 3.1 LB算法 (18) 3.2 CAEP算法 (18) 路径规划的分类： 一、按路径维数 根据医学影像设备的不同，穿刺手术可以分二维和三维影像导航手术。所以根据应用场合的不同，路径规划也可分为二维路径规划和三维路径规划。 二维路径规划主要应用在超声、CT、X 射线等设备的导航手术中，三维路径规划则主要应用在三维超声、MRI 等设备的导航手术中。 二、按路径形式 根据穿刺路径特点，路径规划又可按照路径形式的不同分为: R 型、S 型、H 型和混合型，即整个路径包含两种以上不同路径形式组合。 三、按规划方向 由路径形式可以看出路径是可逆的，即理论上针可以从目标靶点沿原路返回穿刺至入针点。所以根据路径规划方向可分为正向规划和逆向规划。正向规划即从入针点到目标靶点的穿刺规划，逆向规划是利用针路的可逆性，从目标靶点出发穿刺可以选择的入针区域，来优化入针位姿和整个路径。 四、按规划算法 路径规划按算法大体可分为数值法、搜索法和反解法三大类。 五、算法概述 (一)数值法是通过数值计算的方法来优化路径，通常是利用目标函数的最大或最小值来得到最优路径的方 法。 1)概率法是考虑路径误差的随机性，利用数学概率原理计算穿刺成功率最大的路径。 2)目标函数法是考虑一些优化的指标(如路径最短，绕开障碍物等)，建立目标函数，通过计算目 标函数得到最优解。 (二)搜索法是根据路径形式特点，利用计算机的人工智能搜索算法来搜索可行性路径。 1)路线图法主要思想是将自由空间转换成为一维线段所组成的网络,所要找的路径被局限在这个 网络之中,即将路径规划问题转化成图的搜索问题。 i.可视图法是由麻省理工学院的Tomás Lozano-Pérez和IBM研究院的MichaelA.Wesley 于1979年提出的。其最大特点是将障碍物用多边形包围盒来表达。图1表示某一环境 空间，s、g分别称为起始点和目标点。O1和O2表示两个障碍物。图2是构造出的对 应图1的可视图。利用搜索算法规划出从起始点至目标点的最优路径。 2019年5月计算机工程与设计May2019第40卷第5期COMPUTER ENGINEERING AND DESIGN Vol.40No.5基于全路径相似度的大规模层次分类算法 朱建林s陈忠阳s张永俊2,孙存3 （1.中国人民大学财政金融学院，北京100872； 2.中国人民大学信息学院，北京100872； 3.北京大学光华管理学院，北京100871） 摘要：为快速准确地实现大规模层次分类问题，提出词类区分度概念，并以此作为计算类向量的基础&基于类向量，以改进的Rocchio算法计算待分类文本与目标类的相似度，候选出N个最可能的目标类别；根据目标类别的层次拓扑结构，计算待分类文本与N个目标类别的全路径相似度，确定分类类别。实验结果表明，该方法分类效果优于传统算法，其基于文本类全路径相似度的策略明显改善了单纯基于词类区分度的分类算法。 关键词：词类区分度；全路径相似度；大规模层次分类；文本分类；化繁为简策略 中图法分类号：TP311文献标识号：A文章编号：1000-7024（2019）05-130005 doi：10.16208/j.issnl000-7024.2019.05.019 Large scale hierarchical classification algorithm based on full-path similarity ZHU Jian-lin1,CHEN Zhong-yang1,ZHANG Yong-jun2,SUN Cun-yi3 (1.School of Finance,Renmin University of China,Beijing100872,China；2.School of Information,Renmin University of China,Beijing100872,China；3.Guanghua School of Management,Peking University,Beijing100871,China) Abstract:A large-scale hierarchical classification algorithm based on full-path similarity was proposed.The concept of word-class discrimination was proposed and used as the basis of class vector.An improved Rocchio algorithm was proposed to calculate tex-class similarity and N most likely classes were selected as candidates.The full-path similarities between text and candidate clas-ses were calculated according to hierarchical structure of classes,by which the classification results were determined.The time complexiyofLhealgorihm was linearly correlaLed wi hLhe number of classes.ExperimenLal resul s showLhaLLhe e f ecLs ofLhe algorihmarebe L er. Key words:word-class discrimination；full-path similarity；EimplifyEtrategy 0引言 现实生活中，分类场景的目标类经常具有一定的拓扑 结构，有时类的个数也很多。例如，当雅虎把因特网中的 网站分类到数百万个类别时，这些类别标签构成了层次结 构的有向无环图；再如，把论文分类到研究领域时，研究 领域的类型包括所有学科的众多研究分支,这些研究分支 形成了有层次的树型结构。还有,把图片分类到具有层次 结构的类中也是当前的研究热点之一这种分类场景可 以抽象为大规模层次分类问题。 大规模层次分类的目标类别很多,结构更为复杂,所large-Ecale hierarchical claEEification；text claEEification； 以分类的准确率很难达到理想效果。目前,大规模层次分类问题有3种解决方案：全局策略、自顶向下策略和化繁为简策略。 为了准确快速地实现大规模层次分类,本文拟用了化繁为简策略,先从目标类中筛选出候选类别，再融入类间关系,构建更为准确的分类算法,从候选类别中选取最终的分类结果。 1相关工作 大层个大别层 指定未知类别对象在类别层次中所属的类别+,。例如,新 收稿日期：20180102；修订日期：201803-28 基金项目：国家自然科学基金项目（71271209）；北京市自然科学基金项目（4132067） 作者简介：朱建林（1979-）,男,河北廊坊人'博士'博士后,研究方向为金融风险量化分析；陈忠阳（1968-）,男,湖南常德人'博士’教授,博士生导师,研究方向为金融风险管理；张永俊（1986-）,男’江苏南京人’博士研究生,研究方向为异构信息网络挖掘;孙存一（1979-）,男，山东青岛人，博士，博士后，研究方向为财政与金融信息化。E-mail:linjie_zhu@https://www.doczj.com/doc/715400105.html, 各种分类算法比较 最近在学习分类算法，顺便整理了各种分类算法的优缺点。 1决策树（Decision Trees）的优缺点 决策树的优点： 一、决策树易于理解和解释.人们在通过解释后都有能力去理解决策树所表达的意义。 二、对于决策树，数据的准备往往是简单或者是不必要的.其他的技术往往要求先把数据一般化，比如去掉多余的或者空白的属性。 三、能够同时处理数据型和常规型属性。其他的技术往往要求数据属性的单一。 四、决策树是一个白盒模型。如果给定一个观察的模型，那么根据所产生的决策树很容易推出相应的逻辑表达式。 五、易于通过静态测试来对模型进行评测。表示有可能测量该模型的可信度。 六、在相对短的时间内能够对大型数据源做出可行且效果良好的结果。 七、可以对有许多属性的数据集构造决策树。 八、决策树可很好地扩展到大型数据库中，同时它的大小独立于数据库的大小。 决策树的缺点： 一、对于那些各类别样本数量不一致的数据，在决策树当中,信息增益的结果偏向于那些具有更多数值的特征。 二、决策树处理缺失数据时的困难。 三、过度拟合问题的出现。 四、忽略数据集中属性之间的相关性。 2 人工神经网络的优缺点 人工神经网络的优点：分类的准确度高,并行分布处理能力强,分布存储及学习能力强，对噪声神经有较强的鲁棒性和容错能力，能充分逼近复杂的非线性关系，具备联想记忆的功能等。 人工神经网络的缺点：神经网络需要大量的参数，如网络拓扑结构、权值和阈值的初始值；不能观察之间的学习过程，输出结果难以解释，会影响到结果的可信度和可接受程度；学习时间过长,甚至可能达不到学习的目的。 3 遗传算法的优缺点 遗传算法的优点： 一、与问题领域无关切快速随机的搜索能力。 二、搜索从群体出发，具有潜在的并行性，可以进行多个个体的同时比较，鲁棒性好。 三、搜索使用评价函数启发，过程简单。 四、使用概率机制进行迭代，具有随机性。 五、具有可扩展性，容易与其他算法结合。 遗传算法的缺点： 一、遗传算法的编程实现比较复杂,首先需要对问题进行编码,找到最优解之后还需要对问题进行解码, 二、另外三个算子的实现也有许多参数,如交叉率和变异率,并且这些参数的选择严重影响解的品质,而目前这些参数的选择大部分是依靠经验.没有能够及时利 用网络的反馈信息,故算法的搜索速度比较慢，要得要较精确的解需要较多的训练时间。 三、算法对初始种群的选择有一定的依赖性，能够结合一些启发算法进行改进。 4 KNN算法(K-Nearest Neighbour) 的优缺点 KNN算法的优点： 一、简单、有效。 二、重新训练的代价较低（类别体系的变化和训练集的变化，在Web环境和电子商务应用中是很常见的）。 三、计算时间和空间线性于训练集的规模（在一些场合不算太大）。网络社区划分算法
分类算法
轨迹规划分类及算法
基于全路径相似度的大规模层次分类算法
各种分类算法比较
相关主题
文本预览