clc clear close all %--------------------------------------------------- % 产生训练样本与测试样本，每一列为一个样本 k=125; m=10; n1=ones(5,125); n2=ones(5,10); n3=[120,150,218,247.7,56,181,0,57,4.32,23.51,24.16,93.5,96,93,910,20,24,26.7,220,33.9,46.9,70 .2,72,128,139,144,159.8,230,679,15.21,20.37,22.1,16,35,73,86,336,82,87,94,121,170,172.9,180, 26.6,70.4,164,25.1,274,3,14,45,60,72,304,22.3,35.1,56,63,68,68,207,236,37,80,82,293,42,220,76 6,10,36.2,105,117,240,851,4072,4.6875,0.962,2,20.443,18.614,4.0787,17.187,17.314,11.299,11. 31,3.7648,2587.2,1565,87.266,85.865,84.333,61.394,57.983,59,57,673.6,32.2,255,707,50.11,56, 121,130.4,300.44,685,174,111,410,574,127,200,1678,162,334,48.155,49.77,45.703,39.216,56.98 2,32.597,26.859,43.737,20.385; 120,60,120.7,148.7,78,262,434,77,193,61.33,261.05,36.7,41,58,1592,41.9,27.8,90.6,230,36.5,16 1.6,70.2,442,419,714,754,438.7,572.4,4992,61.25,59.79,64.1,237,30,520,110,419,81,87,195,69,3 20,334,97,22.7,69.5,244,411.91,376,198,221,168,139,160.3,443.5,7.8,50.6,99.9,149.6,99.2,99.2, 416,410.2,130,243,161,134,98,340,990,4,12.6,169.4,257,676,2802,15850,10.826,15.787,16.667, 17.036,17.972,20.83,21.432,21.731,21.834,21.835,26.818,7.882,98,6.5004,7.0013,8.0593,10.822 ,18.866,28,13,423.5,5.5,48,115,15.97,13,14,2.39,42.14,102,24,58,120,256,107,48,652.9,35,39.9, 1.4272,8.4485,9.1405,9.4118,10.479,15.47,16.887,17.018,17.175; 33,40,126.6,78.7,18,41,226,19,118,45.21,196.13,11.2,12.8,43,801,20.2,24.4,49.2,57,31.5,94.1,17 1.5,221,269.4,351,250,312.4,343,1823,45.94,45.24,44.3,92,10,140,18,105,33,26,14,32,53,172,34 ,22.5,28.9,103,320.9,55,191,199,82,21,63.1,110.9,12.4,16.1,51.4,57.5,35.9,35.9,347,159,91,274. 2,79,52,156,42,115,3,4.4,59.1,92,200,772,9057,17.522,12.299,3.8667,5.6786,6.6865,6.992,5.370 8,5.8304,11.299,11.244,7.2202,4.704,35,5.1647,4.4914,7.2211,4.1623,4.6218,9,0.1,77.6,1.4,8.3, 11,4.66,2.4,3,7.22,3.25,9,9.3,0,18,22,11,14,80.7,5.6,47.8,4.0354,2.1505,2.4557,2.7451,1.2837,4. 9724,3.0902,2.1034,1.7657; 84,70,142.1,192.7,21,28,387,21,125,98.03,201.4,69.5,82.5,37,932,44.2,30,95,110,39.3,193.3,371 .6,461,614.1,634,502,644.6,768.9,3671,81.83,80.49,81.4,470,93,1200,92,1074,224,218,153,268, 520,812.5,271,109,241.2,497,1832.8,1002,701,804,330,430,303.7,946,95.7,93,24.8,276,202.9,20 2.9,1345,817.3,430,1347.7,406,239,610,480,660,33,15.5,347.6,468,818,3521,22621,66.964,70.2 46,76.533,52.811,55.363,67.589,54.936,52.297,53.089,53.146,61.888,1.4,48,1.0686,2.642,0.386 85,10.406,8.6555,70,11,988.9,12.6,33,55,45.37,22,29,1.8,43.18,170,29.3,105,71,503,154,117,10 05.9,30,5.35,22.539,19.355,19.509,22.941,13.571,38.674,39.431,26.219,24.719; 0.55,1,0.9,0.9,0,0,0,0,0,1.01,0.87,1.1,0.6,0,0,0.38,0,0.5,7,0,0.56,0,0.7,0.35,0,1,0.38,0.51,0,0,0,0,0 ,7.1,6,7.4,21,5.4,7.5,15,8,3.2,37.7,8,0,10.4,8.3,18.4,17,0,0,3.1,4.6,0.1,56.1,1.4,1.1,2.3,0,0,0,20,3. 5,2.9,8.4,8.9,2.9,0,14,0,6,0,1.8,4,4,10,535,0,0.7052,0.93333,4.0318,1.3644,0.50983,1.0742,2.826 9,2.4692,2.4646,0.30944,0,0,0,0,0,13.215,9.8739,15,12,344.5,13.2,29.8,81,12.3,22.13,74,4.38,64 .71,367,64.4,201,250,382,224,131,419.1,44,247.6,23.843,20.276,23.192,25.686,17.684,8.2873,1 3.733,10.924,35.955]; for t=1:k
支持向量机（SVM ）原理及应用 一、SVM 的产生与发展 自1995年Vapnik (瓦普尼克)在统计学习理论的基础上提出SVM 作为模式识别的新方法之后，SVM 一直倍受关注。同年，Vapnik 和Cortes 提出软间隔(soft margin)SVM ，通过引进松弛变量i ξ度量数据i x 的误分类(分类出现错误时i ξ大于0)，同时在目标函数中增加一个分量用来惩罚非零松弛变量(即代价函数)，SVM 的寻优过程即是大的分隔间距和小的误差补偿之间的平衡过程；1996年，Vapnik 等人又提出支持向量回归 (Support Vector Regression ，SVR)的方法用于解决拟合问题。SVR 同SVM 的出发点都是寻找最优超平面(注：一维空间为点；二维空间为线；三维空间为面；高维空间为超平面。)，但SVR 的目的不是找到两种数据的分割平面，而是找到能准确预测数据分布的平面，两者最终都转换为最优化问题的求解；1998年，Weston 等人根据SVM 原理提出了用于解决多类分类的SVM 方法(Multi-Class Support Vector Machines ，Multi-SVM)，通过将多类分类转化成二类分类，将SVM 应用于多分类问题的判断：此外，在SVM 算法的基本框架下，研究者针对不同的方面提出了很多相关的改进算法。例如，Suykens 提出的最小二乘支持向量机 (Least Square Support Vector Machine ，LS —SVM)算法，Joachims 等人提出的SVM-1ight ，张学工提出的中心支持向量机 (Central Support Vector Machine ，CSVM)，Scholkoph 和Smola 基于二次规划提出的v-SVM 等。此后，台湾大学林智仁(Lin Chih-Jen)教授等对SVM 的典型应用进行总结，并设计开发出较为完善的SVM 工具包，也就是LIBSVM(A Library for Support Vector Machines)。LIBSVM 是一个通用的SVM 软件包，可以解决分类、回归以及分布估计等问题。 二、支持向量机原理 SVM 方法是20世纪90年代初Vapnik 等人根据统计学习理论提出的一种新的机器学习方法，它以结构风险最小化原则为理论基础，通过适当地选择函数子集及该子集中的判别函数，使学习机器的实际风险达到最小，保证了通过有限训练样本得到的小误差分类器，对独立测试集的测试误差仍然较小。 支持向量机的基本思想：首先，在线性可分情况下，在原空间寻找两类样本的最优分类超平面。在线性不可分的情况下，加入了松弛变量进行分析，通过使用非线性映射将低维输
支持向量机算法 [摘要] 本文介绍统计学习理论中最年轻的分支——支持向量机的算法，主要有：以SVM－light为代表的块算法、分解算法和在线训练法，比较了各自的优缺点，并介绍了其它几种算法及多类分类算法。 [关键词] 块算法分解算法在线训练法 Colin Campbell对SVM的训练算法作了一个综述，主要介绍了以SVM为代表的分解算法、Platt的SMO和Kerrthi的近邻算法，但没有详细介绍各算法的特点，并且没有包括算法的最新进展。以下对各种算法的特点进行详细介绍，并介绍几种新的SVM算法，如张学工的CSVM，Scholkopf的v-SVM分类器，J. A. K. Suykens 提出的最小二乘法支持向量机LSSVM，Mint-H suan Yang提出的训练支持向量机的几何方法，SOR以及多类时的SVM算法。 块算法最早是由Boser等人提出来的，它的出发点是：删除矩阵中对应于Lagrange乘数为零的行和列不会对最终结果产生影响。对于给定的训练样本集，如果其中的支持向量是已知的，寻优算法就可以排除非支持向量，只需对支持向量计算权值（即Lagrange乘数）即可。但是，在训练过程结束以前支持向量是未知的，因此，块算法的目标就是通过某种迭代逐步排除非支持向时。具体的做法是，在算法的每一步中块算法解决一个包含下列样本的二次规划子问题：即上一步中剩下的具有非零Lagrange乘数的样本，以及M个不满足Kohn-Tucker条件的最差的样本；如果在某一步中，不满足Kohn-Tucker条件的样本数不足M 个，则这些样本全部加入到新的二次规划问题中。每个二次规划子问题都采用上一个二次规划子问题的结果作为初始值。在最后一步时，所有非零Lagrange乘数都被找到，因此，最后一步解决了初始的大型二次规划问题。块算法将矩阵的规模从训练样本数的平方减少到具有非零Lagrange乘数的样本数的平方，大减少了训练过程对存储的要求，对于一般的问题这种算法可以满足对训练速度的要求。对于训练样本数很大或支持向量数很大的问题，块算法仍然无法将矩阵放入内存中。 Osuna针对SVM训练速度慢及时间空间复杂度大的问题，提出了分解算法，并将之应用于人脸检测中，主要思想是将训练样本分为工作集B的非工作集N，B中的样本数为q个，q远小于总样本个数，每次只针对工作集B中的q个样本训练，而固定N中的训练样本，算法的要点有三：1）应用有约束条件下二次规划极值点存大的最优条件KTT条件，推出本问题的约束条件，这也是终止条件。2）工作集中训练样本的选择算法，应能保证分解算法能快速收敛，且计算费用最少。3）分解算法收敛的理论证明，Osuna等证明了一个定理：如果存在不满足Kohn-Tucker条件的样本，那么在把它加入到上一个子问题的集合中后，重新优化这个子问题，则可行点（Feasible Point）依然满足约束条件，且性能严格地改进。因此，如果每一步至少加入一个不满足Kohn-Tucker条件的样本，一系列铁二次子问题可保证最后单调收敛。Chang，C.-C.证明Osuna的证明不严密，并详尽地分析了分解算法的收敛过程及速度，该算法的关键在于选择一种最优的工
题目：支持向量机的算法学习 姓名： 学号： 专业： 指导教师：、 日期：2012年6 月20日
支持向量机的算法学习 1. 理论背景 基于数据的机器学习是现代智能技术中的重要方面，研究从观测数据 (样本) 出发寻找规律，利用这些规律对未来数据或无法观测的数据进行预测。迄今为止，关于机器学习还没有一种被共同接受的理论框架，关于其实现方法大致可以分为三种： 第一种是经典的(参数)统计估计方法。包括模式识别、神经网络等在内，现有机器学习方法共同的重要理论基础之一是统计学。参数方法正是基于传统统计学的，在这种方法中，参数的相关形式是已知的，训练样本用来估计参数的值。这种方法有很大的局限性，首先，它需要已知样本分布形式，这需要花费很大代价，还有，传统统计学研究的是样本数目趋于无穷大时的渐近理论，现有学习方法也多是基于此假设。但在实际问题中，样本数往往是有限的，因此一些理论上很优秀的学习方法实际中表现却可能不尽人意。 第二种方法是经验非线性方法，如人工神经网络(ANN。这种方法利用已知样本建立非线性模型，克服了传统参数估计方法的困难。但是，这种方法缺乏一种统一的数学理论。 与传统统计学相比，统计学习理论( Statistical Learning Theory 或SLT) 是一种专门研究小样本情况下机器学习规律的理论。该理论针对小样本统计问题建立了一套新的理论体系，在这种体系下的统计推理规则不仅考虑了对渐近性能的要求，而且追求在现有有限信息的条件下得到最优结果。V. Vapnik 等人从六、七十年代开始致力于此方面研究[1] ，到九十年代中期，随着其理论的不断发展和成熟，也由于神经网络等学习方法在理论上缺乏实质性进展，统计学习理论开始受到越来越广泛的重视。 统计学习理论的一个核心概念就是VC维(VC Dimension)概念，它是描述函数集或学习机器的复杂性或者说是学习能力(Capacity of the machine) 的一个重要指标，在此概念基础上发展出了一系列关于统计学习的一致性(Consistency) 、收敛速度、推广性能(GeneralizationPerformance) 等的重要结论。 支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性(即对特定训练样本的学习精度，Accuracy) 和学习能力(即无错误地识别任意样本的能力)之间寻求最佳折衷，以
最小二乘支持向量机的自编代码 clear all; clc; N=35; %样本个数 NN1=4; %预测样本数 %********************随机选择初始训练样本及确定预测样本 ******************************* x=[]; y=[]; index=randperm(N); %随机排序N个序列 index=sort(index); gama=23.411; %正则化参数 deita=0.0698; %核参数值 %thita=; %核参数值 %*********构造感知机核函数************************************* %for i=1:N % x1=x(:,index(i)); % for j=1:N % x2=x(:,index(j)); % K(i,j)=tanh(deita*(x1'*x2)+thita); % end %end %*********构造径向基核函数************************************** for i=1:N x1=x(:,index(i)); for j=1:N x2=x(:,index(j)); x12=x1-x2; K(i,j)=exp(-(x12'*x12)/2/(deita*deita)); end end %*********构造多项式核函数**************************************** %for i=1:N % x1=x(:,index(i)); % for j=1:N % x2=x(:,index(j)); % K(i,j)=(1+x1'*x2)^(deita); % end %end %*********构造核矩阵************************************ for i=1:N-NN1 for j=1:N-NN1 omeiga1(i,j)=K(i,j); end
第二讲大数据分析处理概述 1、Hadoop是一个（C） A.进行大数据分析处理的操作系统 B.专门存储大数据的数据库 C.大数据计算框架 D.收费的商业数据分析服务提供商 2、Hadoop集群可以运行的3个模式是（ABC）多选 A.本地模式 B.伪分布模式 C.全分布模式 D.离线模式 3、在Hadoop中，计算任务被称为Job，JobTracker是一个后台服务进程，启动之后，会一直监听并接收来自各个TaskTracker发送的心跳信息，包括资源使用情况和任务运行情况等信息，它使用的端口号是（B） A.70 B.30 C.80 D.60 4、在Hadoop中，一个作业（Job）包含多个任务（Task），从JobTracker接收并执行各种命令：运行任务、提交任务、杀死任务等；另一方面，将本地节点上各个任务的状态通过心跳周期性汇报给JobTracker，它使用的端口号是（D） A.70 B.30 C.80 D.60 5、Hadoop是由（B）语言编写的 A.C B.Java C.Python D.Scala 6、Hadoop中，集群的结构是（A） A.Master/Slave 结构 B.P2P结构 C.串行结构 D.以上都是 7、Hadoop平台中使用哪种技术可以运行Python语言编写的MapReduce代码（A）
A.Hadoop Streaming B.Hadoop C++编程接口 C.Hive D.Hbase 8、在Hadoop中，下列哪项主要提供基础程序包以及和操作系统进行交互（A） A.Hadoop Common package B.Hadoop Distributed File System C.Hadoop YARN D.MapReduce Engine 9、Hadoop的局限和不足(ABCD) A.抽象层次低，需要手工编写代码来完成，使用上难以上手 B.对于迭代式数据处理性能比较差 C.中间结果也放在HDFS文件系统中 D.时延高，只适用Batch数据处理，对于交互式数据处理，实时数据处理的支持不够 10、以下哪项不是Hadoop Streaming框架的优点（C） A.可以使用其他语言（包括脚本语言）编写的程序移植到Hadoop平台上 B.可以使用性能更好的语言（C/C++）来编写程序 C.可以不用设置Map与Reduce过程 D.Streaming框架汇总通过limit等方式可以灵活的先知应用程序使用的内存等资源 11、下列哪些选项是Hadoop Streaming框架的缺点（A） A.Hadoop Streaming默认只能处理文本数据，无法直接对二进制数据进行处理 B.Hadoop Streaming 不方便程序向Hadoop平台移植 C.Streaming中的mapper和reducer默认只能向标准输出写数据，不能方便地处理多路输出 D.只要程序能从标准输入读取数据、向标准输出写数据，就能使用Hadoop Streaming 12、在Hadoop中，下列哪项主要功能是计算资源的调度（C） A.Hadoop common package B.Hadoop Distributed File System C.Hadoop YARN D.MapReduce Engine 13、在Hadoop中，下列哪项负责文件的分布式存储与访问（B） A.Hadoop common package B.Hadoop Distributed File System C.Hadoop YARN D.MapReduce Engine 14、在Hadoop中，下列哪项负责计算任务的并行化（D） A.Hadoop common package B.Hadoop Distributed File System
3.3 支持向量回归机 SVM 本身是针对经典的二分类问题提出的，支持向量回归机（Support Vector Regression ，SVR ）是支持向量在函数回归领域的应用。SVR 与SVM 分类有以下不同：SVM 回归的样本点只有一类，所寻求的最优超平面不是使两类样本点分得“最开”，而是使所有样本点离超平面的“总偏差”最小。这时样本点都在两条边界线之间，求最优回归超平面同样等价于求最大间隔。 3.3.1 SVR 基本模型 对于线性情况，支持向量机函数拟合首先考虑用线性回归函数 b x x f +?=ω)(拟合n i y x i i ,...,2,1),,(=，n i R x ∈为输入量，R y i ∈为输出量，即 需要确定ω和b 。 图3-3a SVR 结构图 图3-3b ε不灵敏度函数 惩罚函数是学习模型在学习过程中对误差的一种度量，一般在模型学习前己经选定，不同的学习问题对应的损失函数一般也不同，同一学习问题选取不同的损失函数得到的模型也不一样。常用的惩罚函数形式及密度函数如表3-1。 表3-1 常用的损失函数和相应的密度函数 损失函数名称 损失函数表达式()i c ξ% 噪声密度 ()i p ξ ε -不敏感 i εξ 1 exp()2(1) i εξε-+ 拉普拉斯 i ξ 1 exp()2 i ξ- 高斯 212 i ξ 21 exp()22i ξπ -
标准支持向量机采用ε-不灵敏度函数，即假设所有训练数据在精度ε下用线性函数拟合如图（3-3a ）所示， ** ()()1,2,...,,0 i i i i i i i i y f x f x y i n εξεξξξ-≤+??-≤+=??≥? （3.11） 式中，*,i i ξξ是松弛因子，当划分有误差时，ξ，*i ξ都大于0，误差不存在取0。这时，该问题转化为求优化目标函数最小化问题： ∑=++?=n i i i C R 1 ** )(21 ),,(ξξωωξξω （3.12） 式（3.12）中第一项使拟合函数更为平坦，从而提高泛化能力；第二项为减小误差；常数0>C 表示对超出误差ε的样本的惩罚程度。求解式（3.11）和式（3.12）可看出，这是一个凸二次优化问题，所以引入Lagrange 函数： * 11 ****1 1 1()[()] 2[()]() n n i i i i i i i i n n i i i i i i i i i i L C y f x y f x ωωξξαξεαξεξγξγ=====?++-+-+-+-+-+∑∑∑∑ （3.13） 式中，α，0*≥i α，i γ，0*≥i γ，为Lagrange 乘数，n i ,...,2,1=。求函数L 对ω， b ，i ξ，*i ξ的最小化，对i α，*i α，i γ，*i γ的最大化，代入Lagrange 函数得到对偶形式，最大化函数：
．．．． 拓扑分析、空间叠加、缓冲分析、网络分析P3 数字地面模型(DTM)： 数字高程模型(DEM)： 不规则三角网(TIN)： 地质统计学：是利用空间变量的自相关特征研究空间随机场性质的一种统计理论。它分为(1)结构分析理论；(2)克立格插值理论（插值理论）；(3)条件模拟理论。 协方差、空间采样理论P9 估计误差：是指实测值与真实值之间的误差。 估计方差：是指估计误差的离散程度。 z，它的空间分布由x , y水平坐标系统来描述。 DEM派生信息：以数字地面模型为基础，通过数字地形分析（DTA）手段可提取出用于描述地表不同方面特征的参数，这些参数统称为DEM派生信息。 坡度、坡向、曲率P16 地面曲率：地面曲率是对地形表面一点扭曲变化程度的定量化度量因子，地面曲率在垂直和水平两个方向上分量分别称为平面曲率和剖面曲率。 剖面曲率、平面曲率、坡形P18 汇流量（汇流面积）：一个栅格单元的汇流量是其上游单元向其输送的水流量的总和。 地形湿度指数：单位等高线上的汇流面积与坡度之比。 通视分析：就是利用DEM判断地形上任意点之间是否可以相互可见的技术方法，分为视线分析和视域分析。 ,具体指在点. 线. 面实体周围自动建立的一定宽度的多边形。 叠置分析：是将同一地区的两组或两组以上的要素进行叠置，产生新的特征的分析方法。 合成叠置、统计叠置P30 交、并、剪P31 差、识别P32 距离分析：用于分析图像上每个点与目标的距离，如有多目标，则以最近的距离作为栅格值。 距离制图、直线距离分析P32 密度分析：针对一些点要素（或线要素）的特征值（如人口数）并不是集中在点上（或线上）的特点，对要素的特征值进行空间分配，从而更加真实地反映要素分布。 密度制图：根据输入的要素数据集计算整个区域的数据聚集状况，从而产生一个连续的密度表面。 泰森多边形：设平面有n个互不重叠的离散数据点，则其中任意一个离散数据点Pi都有一个临近范围Bi，在Bi中的任一点同Pi点间的距离都小于它们同其它离散数据点间的距离，其中Bi是一个不规则多边形，称为泰森多边形。 重分类Reclassify：即基于原有数值，对原有数值重新进行分类整理从而得到一组新值并输出，是对单个波段，改变值的分布。 重采样Resample：是改变影像分辨率（每个像素点代表矢量大小），可以用于多波段。 像元统计、邻域统计、区域统计P38 Aggregate、Majority Filter、Expand和Shrink P38 协方差函数、互协方差函数P44 平稳假设：指区域化变量Z(x)的任意n维分布函数不因空间点x发生位移而改变。 二阶平稳假设：数学期望与协方差函数均存在且平稳。 两点之差的方差之半定义为Z(x)的变差函数。 角度容差、距离容差P50 块金常数、变程、基台值P51 套和结构：实际的区域化变量的变化性是十分复杂的，反映在变差函数上就是它的结构不是单纯的一种结构，而是多层次结构叠加在一起称为套和结构。 ,克里格法是建立在变异函数理论及结构分析基础上,在有限区域内对区域化变量取值进行线性无偏最优估计的方法。
支持向量机算法推导及其分类的算法实现 摘要：本文从线性分类问题开始逐步的叙述支持向量机思想的形成，并提供相应的推导过程。简述核函数的概念，以及kernel在SVM算法中的核心地位。介绍松弛变量引入的SVM算法原因，提出软间隔线性分类法。概括SVM分别在一对一和一对多分类问题中应用。基于SVM在一对多问题中的不足，提出SVM 的改进版本DAG SVM。 Abstract：This article begins with a linear classification problem, Gradually discuss formation of SVM, and their derivation. Description the concept of kernel function, and the core position in SVM algorithm. Describes the reasons for the introduction of slack variables, and propose soft-margin linear classification. Summary the application of SVM in one-to-one and one-to-many linear classification. Based on SVM shortage in one-to-many problems, an improved version which called DAG SVM was put forward. 关键字：SVM、线性分类、核函数、松弛变量、DAG SVM 1. SVM的简介 支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accuracy）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折衷，以期获得最好的推广能力。 对于SVM的基本特点，小样本，并不是样本的绝对数量少，而是与问题的复杂度比起来，SVM算法要求的样本数是相对比较少的。非线性，是指SVM擅长处理样本数据线性不可分的情况，主要通过松弛变量和核函数实现，是SVM 的精髓。高维模式识别是指样本维数很高，通过SVM建立的分类器却很简洁，只包含落在边界上的支持向量。
最小二乘支持向量机 产生训练样本与测试样本，每一列为一个样本 k=125;m=10;n1=ones(5,125);n2=ones(5,10);n3=[120,150,218,2 47、7,56,181,0,57,4、32, 23、51, 24、16, 93、5,96,93,910,20,24, 26、7,220, 33、9, 46、9, 70、2,72,128,139,144,1 59、8,230,679, 15、21, 20、37, 22、1,16,35,73,86,336,82,87,94,121,170,1 72、9,180, 26、6, 70、4,164, 25、1,274,3,14,45,60,72,304, 22、3, 35、1,56,63,68,68,207,236,37,80,82,293,42,220,766,10,
36、2,105,117,240,851,4072,4、6875,0、962,2, 20、443, 18、614,4、0787, 17、187, 17、314, 11、299, 11、31,3、7648,25 87、2,1565, 87、266, 85、865, 84、333, 61、394, 57、983,59,57,6 73、6, 32、2,255,707, 50、11,56,121,1 30、4,300、 44,685,174,111,410,574,127,200,1678,162,334, 48、155, 49、77, 45、703, 39、216,
56、982, 32、597, 26、859, 43、737, 20、385;120,60,1 20、7,1 48、7,78,262,434,77,193, 61、33,2 61、05, 36、7,41,58,1592, 41、9, 27、8, 90、6,230, 36、5,1 61、6, 70、2,442,419,714,754,4 38、7,5 72、4,4992, 61、25, 59、79, 64、1,237,30,520,110,419,81,87,195,69,320,334,97, 22、7,
第一讲 1、试从遥感数据评价的角度比较IKONOS/Quickbird，Landsat TM/ETM+，和Terra/Aqua MODIS数据各自的优劣。 遥感数据是各种传感器所获信息的产物，评价遥感数据的质量应分别从空间分辨率、光谱分辨率、辐射分辨率以及时间分辨率四个方面进行。 IKONOS卫星可采集1m分辨率全色和4m分辨率多光谱影像的商业卫星，同时全色和多光谱影像可融合成1m分辨率的彩色影像。从681km高度的轨道上，IKONOS的重访周期为3天，并且可从卫星直接向全球12地面站地传输数据。而QuickBird卫星提供亚米级分辨率的商业卫星，卫星影像分辨率为0.61m。该卫星具有引领行业的地理定位精度，海量星上存储，单景影像比其他的商业高分辨率卫星高出2-10倍。 Landsat卫星的轨道为太阳同步的近极地圆形轨道，保证北半球中纬度地区获得中等太阳高度角的上午成像，且卫星以同一地方时、同一方向通过同一地点，保证遥感观测条件的基本一致，利于图像的对比。每16-18天覆盖地球一次。Landsat上携带的传感器空间分辨率也由80m提高到30m，Landsat-7的ETM又提高到15m。 Terra卫星是EOS计划中第一颗装载有MODIS传感器的卫星。它装载的五种传感器能同时采集地球大气、陆地、海洋和太阳能量平衡的信息。Terra沿地球近极地轨道航行，高度是705km，它在早上当地同一时间经过赤道，此时陆地上云层覆盖为最少，它对地表的视角的范围最大。Terra的轨道基本上是和地球的自转方向相垂直，它的图像可以拼接成一幅完整的地球总图像，每日或每两日可获得一次全球观测数据。科学家通过这些图像逐渐理解了全球气候变化的起因和效果，他们的目标是了解地球气候和环境是如何作为一个整体作用的。 比较IKONOS与TM数据，可以发现IKONOS的多光谱波段就是TM的前四个波段，IKONOS去掉了TM的后三个波段，光谱性质不如TM好了，但是IKONOS空间分辨率要比TM高得多，IKONOS影像可以与航空相片相媲美。Quickbird传感器与IKONOS相同，分辨率也很高，只是图像覆盖尺度和传感器倾斜角度有些差别。光谱范围广、数据接收简单、更新频率高则是MODIS数据最主要的特点。 2、Google Earth/Map遥感数据具有何种地图投影特征？举例说明Google Earth/Map高分辨率影像与Landsat TM/ETM+OLI数据的几何配准方法。 Google earth的卫星影像，并非单一数据来源，而是卫星影像与航拍的数据整合。其卫星影像部分来自于QuickBird商业卫星与陆地卫星（Landsat-7卫
收稿日期:2003-06-13 作者简介:姬水旺(1977)),男,陕西府谷人,硕士,研究方向为机器学习、模式识别、数据挖掘。 支持向量机训练算法综述 姬水旺,姬旺田 (陕西移动通信有限责任公司,陕西西安710082) 摘 要:训练SVM 的本质是解决二次规划问题,在实际应用中,如果用于训练的样本数很大,标准的二次型优化技术就很难应用。针对这个问题,研究人员提出了各种解决方案,这些方案的核心思想是先将整个优化问题分解为多个同样性质的子问题,通过循环解决子问题来求得初始问题的解。由于这些方法都需要不断地循环迭代来解决每个子问题,所以需要的训练时间很长,这也是阻碍SVM 广泛应用的一个重要原因。文章系统回顾了SVM 训练的三种主流算法:块算法、分解算法和顺序最小优化算法,并且指出了未来发展方向。关键词:统计学习理论;支持向量机;训练算法 中图分类号:T P30116 文献标识码:A 文章编号:1005-3751(2004)01-0018-03 A Tutorial Survey of Support Vector Machine Training Algorithms JI Shu-i wang,JI Wang -tian (Shaanx i M obile Communicatio n Co.,Ltd,Xi .an 710082,China) Abstract:Trai n i ng SVM can be formulated into a quadratic programm i ng problem.For large learning tasks w ith many training exam ples,off-the-shelf opti m i zation techniques quickly become i ntractable i n their m emory and time requirem ents.T hus,many efficient tech -niques have been developed.These techniques divide the origi nal problem into several s maller sub-problems.By solving these s ub-prob -lems iteratively,the ori ginal larger problem is solved.All proposed methods suffer from the bottlen eck of long training ti me.This severely limited the w idespread application of SVM.T his paper systematically surveyed three mains tream SVM training algorithms:chunking,de -composition ,and sequenti al minimal optimization algorithms.It concludes with an illustrati on of future directions.Key words:statistical learning theory;support vector machine;trai ning algorithms 0 引 言 支持向量机(Support Vector M achine)是贝尔实验室研究人员V.Vapnik [1~3]等人在对统计学习理论三十多年的研究基础之上发展起来的一种全新的机器学习算法,也使统计学习理论第一次对实际应用产生重大影响。SVM 是基于统计学习理论的结构风险最小化原则的,它将最大分界面分类器思想和基于核的方法结合在一起,表现出了很好的泛化能力。由于SVM 方法有统计学习理论作为其坚实的数学基础,并且可以很好地克服维数灾难和过拟合等传统算法所不可规避的问题,所以受到了越来越多的研究人员的关注。近年来,关于SVM 方法的研究,包括算法本身的改进和算法的实际应用,都陆续提了出来。尽管SVM 算法的性能在许多实际问题的应用中得到了验证,但是该算法在计算上存在着一些问题,包括训练算法速度慢、算法复杂而难以实现以及检测阶段运算量大等等。 训练SVM 的本质是解决一个二次规划问题[4]: 在约束条件 0F A i F C,i =1,, ,l (1)E l i =1 A i y i =0 (2) 下,求 W(A )= E l i =1A i -1 2 E i,J A i A j y i y j {7(x i )#7(x j )} = E l i =1A i -1 2E i,J A i A j y i y j K (x i ,x j )(3)的最大值,其中K (x i ,x j )=7(x i )#7(x j )是满足Merce r 定理[4]条件的核函数。 如果令+=(A 1,A 2,,,A l )T ,D ij =y i y j K (x i ,x j )以上问题就可以写为:在约束条件 +T y =0(4)0F +F C (5) 下,求 W(+)=+T l -12 +T D +(6) 的最大值。 由于矩阵D 是非负定的,这个二次规划问题是一个凸函数的优化问题,因此Kohn -Tucker 条件[5]是最优点 第14卷 第1期2004年1月 微 机 发 展M icr ocomputer Dev elopment V ol.14 N o.1Jan.2004
支持向量机训练算法的实验比较 姬水旺,姬旺田 (陕西移动通信有限责任公司,陕西西安710082) 摘 要:S VM是基于统计学习理论的结构风险最小化原则的,它将最大分界面分类器思想和基于核的方法结合在一起,表现出了很好的泛化能力。并对目前的三种主流算法S VM light,Bsvm与SvmFu在人脸检测、M NIST和USPS手写数字识别等应用中进行了系统比较。 关键词:统计学习理论;支持向量机;训练算法 中图法分类号:TP30116 文献标识码:A 文章编号:100123695(2004)1120018203 Experimental C omparison of Support Vector Machine Training Alg orithms J I Shui2wang,J I Wang2tian (Shanxi Mobile Communication Co.,LTD,Xi’an Shanxi710082,China) Abstract:Support vector learning alg orithm is based on structural risk minimization principle.It combines tw o remarkable ideas:maxi2 mum margin classifiers and im plicit feature spaces defined by kernel function.Presents a com prehensive com paris on of three mainstream learning alg orithms:S VM light,Bsvm,and SvmFu using face detection,M NIST,and USPS hand2written digit recognition applications. K ey w ords:S tatistical Learning T heory;Support Vector Machine;T raining Alg orithms 1 引言 支持向量机(Support Vector Machine)是贝尔实验室研究人员V.Vapnik等人[30]在对统计学习理论三十多年的研究基础之上发展起来的一种全新的机器学习算法,也是统计学习理论第一次对实际应用产生重大影响。S VM是基于统计学习理论的结构风险最小化原则的,它将最大分界面分类器思想和基于核的方法结合在一起,表现出了很好的泛化能力。由于S VM 方法有统计学习理论作为其坚实的数学基础,并且可以很好地克服维数灾难和过拟合等传统算法所不可规避的问题,所以受到了越来越多的研究人员的关注。近年来,关于S VM方法的研究,包括算法本身的改进和算法的实际应用,都陆续提了出来。但是,到目前为止,还没有看到有关支持向量算法总体评价和系统比较的工作,大多数研究人员只是用特定的训练和测试数据对自己的算法进行评价。由于支持向量机的参数与特定的问题以及特定的训练数据有很大的关系,要对它们进行统一的理论分析还非常困难,本文试从实验的角度对目前具有代表性的算法和训练数据进行比较,希望这些比较所得出的经验结论能对今后的研究和应用工作有指导意义。本文所用的比较算法主要有S VM light[14],Bsvm[12]和SvmFu[25],它们分别由美国C ornell University的Thorsten Joachims教授,National T aiwan U2 niversity的Chih2Jen Lin教授和美国麻省理工学院Ryan Rifkin博士编写的,在实验的过程中,笔者对算法进行了修改。由于这些算法有很大的相似之处,而且训练支持向量机是一个凸函数的优化过程,存在全局唯一的最优解,训练得到的模型不依赖于具体的算法实现,因此,本文在实验过程中不对具体的算法做不必要的区别。实验所采用的训练和测试数据也是目前非常有代表性的,它们大部分由国内外研究人员提供。 2 比较所用数据简介 本文所用的人脸检测数据是从美国麻省理工学院生物和计算学习中心[31](Center for Biological and C omputational Lear2 ning)得到的,这些数据是C BC L研究人员在波士顿和剑桥等地收集的,每个训练样本是一个由19×19=361个像素组成的图像,我们用一个361维的向量来代表每一个图像,每一个分量代表对应的像素值。用于训练的样本共有6977个,其中有2429个是人脸,其余4548个是非人脸;在测试样本集中共有24045个样本,包含472个人脸和23573个非人脸。这是一个两类分类问题。图1是训练样本中部分人脸的图像。 图1 人脸检测数据中部分人脸的图像 M NIST手写数字识别数据是由美国AT&T的Y ann LeCun 博士收集的[32],每个样本是0～9中的一个数字,用28×28= 784维的向量表示。在训练集中有60000个样本,测试集中有10000个样本。图2是训练样本中前100个样本的图像。 USPS手写识别数据是由美国麻省理工学院和贝尔实验室的研究人员共同从U.S.P ostal Service收集的[33],每个样本是0～9中的一个数字,用16×16=256维的向量中的各个分量表示所对应像素的灰度值。训练集中共有7291个样本,测试集中有2007个样本。图3是训练集中部分样本的图像。 ? 8 1 ?计算机应用研究2004年 收稿日期:2003206220;修返日期:2003211212