设{}D=(,)|1,2,k k x y k N =???,其中n k x R ∈为输入数
据，k y R ∈为输出类比。在权w 空间中最小二乘支持
向量机分类问题可以描述如下：
21,,11(,,)22m in N
T k k w b e a b e w w e γφ==
+∑（1） 约束条件：[()]1 1,,T k k k y w x b e k
N ?+=-=??? （2）
定义拉格朗日函数：{}
1(,,,)(,,)[()]1T k k k k k k L w b e w b e y w x b e αφαα?==-
+-+∑ （3）
其中，拉格朗日乘子k R α∈。对上式进行优化。
即对w ，b ，e k ，αk 的偏导数等于0。
110()0000[()]10N k k k k N k k k k k k
T
k k k k L
w y x w L y b L e e L
y w x b e e δα?δδαδδαγδδ?δ==?=→=???=→=??=→=?
??=→+-+=??∑∑（4） 上式可化为求解下面的矩阵方程：
00000000000
T T w I
Z b Y e I I I Z Y I γα??-??????????-=??????-???????????? （5） 即 100T
T Y b I Y ZZ I αγ-??-????=??????+?????? （6）
其中，1122(),(),(),T T T T N N Z x y x y x y ?????=?????
[]12,,,,[1,1,,1],T N Y y y y I =???=???
[][]1212,,,,,,,T N N e e e e αααα=???=???。
同时将Mercer 条件代入到T ZZ Ω=,可得：
()()(,)T kl k l k l k l k l y y x x y y x x Ωφφψ== （7）
因此，式（1）的分解可以通过解式（6）和式（7） 获得。
最小二乘支持向量机分类决策函数为
1()sgn (,)N
k k k k y x y x x b αψ=??=+????∑（8）
其中：(,)ψ??是核函数，目的是从原始空间抽取特征，将原始空间中的样本映射为高维特征空间中的一个向量，以解决原始空间中线性不可分的问题。
clc clear close all %--------------------------------------------------- % 产生训练样本与测试样本，每一列为一个样本 k=125; m=10; n1=ones(5,125); n2=ones(5,10); n3=[120,150,218,247.7,56,181,0,57,4.32,23.51,24.16,93.5,96,93,910,20,24,26.7,220,33.9,46.9,70 .2,72,128,139,144,159.8,230,679,15.21,20.37,22.1,16,35,73,86,336,82,87,94,121,170,172.9,180, 26.6,70.4,164,25.1,274,3,14,45,60,72,304,22.3,35.1,56,63,68,68,207,236,37,80,82,293,42,220,76 6,10,36.2,105,117,240,851,4072,4.6875,0.962,2,20.443,18.614,4.0787,17.187,17.314,11.299,11. 31,3.7648,2587.2,1565,87.266,85.865,84.333,61.394,57.983,59,57,673.6,32.2,255,707,50.11,56, 121,130.4,300.44,685,174,111,410,574,127,200,1678,162,334,48.155,49.77,45.703,39.216,56.98 2,32.597,26.859,43.737,20.385; 120,60,120.7,148.7,78,262,434,77,193,61.33,261.05,36.7,41,58,1592,41.9,27.8,90.6,230,36.5,16 1.6,70.2,442,419,714,754,438.7,572.4,4992,61.25,59.79,64.1,237,30,520,110,419,81,87,195,69,3 20,334,97,22.7,69.5,244,411.91,376,198,221,168,139,160.3,443.5,7.8,50.6,99.9,149.6,99.2,99.2, 416,410.2,130,243,161,134,98,340,990,4,12.6,169.4,257,676,2802,15850,10.826,15.787,16.667, 17.036,17.972,20.83,21.432,21.731,21.834,21.835,26.818,7.882,98,6.5004,7.0013,8.0593,10.822 ,18.866,28,13,423.5,5.5,48,115,15.97,13,14,2.39,42.14,102,24,58,120,256,107,48,652.9,35,39.9, 1.4272,8.4485,9.1405,9.4118,10.479,15.47,16.887,17.018,17.175; 33,40,126.6,78.7,18,41,226,19,118,45.21,196.13,11.2,12.8,43,801,20.2,24.4,49.2,57,31.5,94.1,17 1.5,221,269.4,351,250,312.4,343,1823,45.94,45.24,44.3,92,10,140,18,105,33,26,14,32,53,172,34 ,22.5,28.9,103,320.9,55,191,199,82,21,63.1,110.9,12.4,16.1,51.4,57.5,35.9,35.9,347,159,91,274. 2,79,52,156,42,115,3,4.4,59.1,92,200,772,9057,17.522,12.299,3.8667,5.6786,6.6865,6.992,5.370 8,5.8304,11.299,11.244,7.2202,4.704,35,5.1647,4.4914,7.2211,4.1623,4.6218,9,0.1,77.6,1.4,8.3, 11,4.66,2.4,3,7.22,3.25,9,9.3,0,18,22,11,14,80.7,5.6,47.8,4.0354,2.1505,2.4557,2.7451,1.2837,4. 9724,3.0902,2.1034,1.7657; 84,70,142.1,192.7,21,28,387,21,125,98.03,201.4,69.5,82.5,37,932,44.2,30,95,110,39.3,193.3,371 .6,461,614.1,634,502,644.6,768.9,3671,81.83,80.49,81.4,470,93,1200,92,1074,224,218,153,268, 520,812.5,271,109,241.2,497,1832.8,1002,701,804,330,430,303.7,946,95.7,93,24.8,276,202.9,20 2.9,1345,817.3,430,1347.7,406,239,610,480,660,33,15.5,347.6,468,818,3521,22621,66.964,70.2 46,76.533,52.811,55.363,67.589,54.936,52.297,53.089,53.146,61.888,1.4,48,1.0686,2.642,0.386 85,10.406,8.6555,70,11,988.9,12.6,33,55,45.37,22,29,1.8,43.18,170,29.3,105,71,503,154,117,10 05.9,30,5.35,22.539,19.355,19.509,22.941,13.571,38.674,39.431,26.219,24.719; 0.55,1,0.9,0.9,0,0,0,0,0,1.01,0.87,1.1,0.6,0,0,0.38,0,0.5,7,0,0.56,0,0.7,0.35,0,1,0.38,0.51,0,0,0,0,0 ,7.1,6,7.4,21,5.4,7.5,15,8,3.2,37.7,8,0,10.4,8.3,18.4,17,0,0,3.1,4.6,0.1,56.1,1.4,1.1,2.3,0,0,0,20,3. 5,2.9,8.4,8.9,2.9,0,14,0,6,0,1.8,4,4,10,535,0,0.7052,0.93333,4.0318,1.3644,0.50983,1.0742,2.826 9,2.4692,2.4646,0.30944,0,0,0,0,0,13.215,9.8739,15,12,344.5,13.2,29.8,81,12.3,22.13,74,4.38,64 .71,367,64.4,201,250,382,224,131,419.1,44,247.6,23.843,20.276,23.192,25.686,17.684,8.2873,1 3.733,10.924,35.955]; for t=1:k
支持向量回归简介 人类通过学习，从已知的事实中分析、总结出规律，并且根据规律对未来 的现象或无法观测的现象做出正确的预测和判断，即获得认知的推广能力。在对智能机器的研究当中，人们也希望能够利用机器（计算机）来模拟人的良好学习能力，这就是机器学习问题。基于数据的机器学习是现代智能技术中的重要方面，机器学习的目的是通过对已知数据的学习，找到数据内在的相互依赖关系，从而获得对未知数据的预测和判断能力，在过去的十几年里，人工神经网络以其强大的并行处理机制、任意函数的逼近能力，学习能力以及自组织和自适应能力等在模式识别、预测和决策等领域得到了广泛的应用。但是神经网络受到网络结构复杂性和样本复杂性的影响较大，容易出现“过学习”或低泛化能力。特别是神经网络学习算法缺乏定量的分析与完备的理论基础支持，没有在本质上推进学习过程本质的认识。 现有机器学习方法共同的重要理论基础之一是统计学。传统统计学研究的是样本数目趋于无穷大时的渐近理论，现有学习方法也多是基于此假设。但在实际问题中，样本数往往是有限的，因此一些理论上很优秀的学习方法实际中表现却可能不尽人意。 与传统统计学相比, 统计学习理论(Statistical Learning Theory 或SLT ) 是一种专门研究小样本情况下机器学习规律的理论Vladimir N. Vapnik 等人从六、七十年代开始致力于此方面研究，到九十年代中期，随着其理论的不断发展和成熟[17] ，也由于神经网络等学习方法在理论上缺乏实 质性进展, 统计学习理论开始受到越来越广泛的重视。 统计学习理论是建立在一套较坚实的理论基础之上的，为解决有限样本学习问题提供了一个统一的框架。它能将很多现有方法纳入其中，有望帮助解决许多原来难以解决的问题（比如神经网络结构选择问题、局部极小点问题）等；同时, 在这一理论基础上发展了一种新的通用学习方法—支持向量机(Support Vector Machine 或SVM ) ，它已初步表现出很多优于已有方法的性能。一些学者认为，SVM 正在成为继神经网络研究之后新的研究热点，并将有力地推动机 器学习理论和技术的发展。 支持向量机（SVM ）是一种比较好的实现了结构风险最小化思想的方法。它的机器学习策略是结构风险最小化原则为了最小化期望风险，应同时最小化经验风险和置信范围） 支持向量机方法的基本思想： （1 ）它是专门针对有限样本情况的学习机器，实现的是结构风险最小化：在对给定的数据逼近的精度与逼近函数的复杂性之间寻求折衷，以期获得最好的推广能力； （2 ）它最终解决的是一个凸二次规划问题，从理论上说，得到的将是全局最优解，解决了在神经网络方法中无法避免的局部极值问题； （3 ）它将实际问题通过非线性变换转换到高维的特征空间，在高维空间中构造线性决策函数来实现原空间中的非线性决策函数，巧妙地解决了维数问题，并保证了有较好的推广能力，而且算法复杂度与样本维数无关。 目前，SVM 算法在模式识别、回归估计、概率密度函数估计等方面都有应用，且算法在效率与精度上已经超过传统的学习算法或与之不相上下。
最小二乘支持向量机的自编代码 clear all; clc; N=35; %样本个数 NN1=4; %预测样本数 %********************随机选择初始训练样本及确定预测样本 ******************************* x=[]; y=[]; index=randperm(N); %随机排序N个序列 index=sort(index); gama=23.411; %正则化参数 deita=0.0698; %核参数值 %thita=; %核参数值 %*********构造感知机核函数************************************* %for i=1:N % x1=x(:,index(i)); % for j=1:N % x2=x(:,index(j)); % K(i,j)=tanh(deita*(x1'*x2)+thita); % end %end %*********构造径向基核函数************************************** for i=1:N x1=x(:,index(i)); for j=1:N x2=x(:,index(j)); x12=x1-x2; K(i,j)=exp(-(x12'*x12)/2/(deita*deita)); end end %*********构造多项式核函数**************************************** %for i=1:N % x1=x(:,index(i)); % for j=1:N % x2=x(:,index(j)); % K(i,j)=(1+x1'*x2)^(deita); % end %end %*********构造核矩阵************************************ for i=1:N-NN1 for j=1:N-NN1 omeiga1(i,j)=K(i,j); end
第二讲大数据分析处理概述 1、Hadoop是一个（C） A.进行大数据分析处理的操作系统 B.专门存储大数据的数据库 C.大数据计算框架 D.收费的商业数据分析服务提供商 2、Hadoop集群可以运行的3个模式是（ABC）多选 A.本地模式 B.伪分布模式 C.全分布模式 D.离线模式 3、在Hadoop中，计算任务被称为Job，JobTracker是一个后台服务进程，启动之后，会一直监听并接收来自各个TaskTracker发送的心跳信息，包括资源使用情况和任务运行情况等信息，它使用的端口号是（B） A.70 B.30 C.80 D.60 4、在Hadoop中，一个作业（Job）包含多个任务（Task），从JobTracker接收并执行各种命令：运行任务、提交任务、杀死任务等；另一方面，将本地节点上各个任务的状态通过心跳周期性汇报给JobTracker，它使用的端口号是（D） A.70 B.30 C.80 D.60 5、Hadoop是由（B）语言编写的 A.C B.Java C.Python D.Scala 6、Hadoop中，集群的结构是（A） A.Master/Slave 结构 B.P2P结构 C.串行结构 D.以上都是 7、Hadoop平台中使用哪种技术可以运行Python语言编写的MapReduce代码（A）
A.Hadoop Streaming B.Hadoop C++编程接口 C.Hive D.Hbase 8、在Hadoop中，下列哪项主要提供基础程序包以及和操作系统进行交互（A） A.Hadoop Common package B.Hadoop Distributed File System C.Hadoop YARN D.MapReduce Engine 9、Hadoop的局限和不足(ABCD) A.抽象层次低，需要手工编写代码来完成，使用上难以上手 B.对于迭代式数据处理性能比较差 C.中间结果也放在HDFS文件系统中 D.时延高，只适用Batch数据处理，对于交互式数据处理，实时数据处理的支持不够 10、以下哪项不是Hadoop Streaming框架的优点（C） A.可以使用其他语言（包括脚本语言）编写的程序移植到Hadoop平台上 B.可以使用性能更好的语言（C/C++）来编写程序 C.可以不用设置Map与Reduce过程 D.Streaming框架汇总通过limit等方式可以灵活的先知应用程序使用的内存等资源 11、下列哪些选项是Hadoop Streaming框架的缺点（A） A.Hadoop Streaming默认只能处理文本数据，无法直接对二进制数据进行处理 B.Hadoop Streaming 不方便程序向Hadoop平台移植 C.Streaming中的mapper和reducer默认只能向标准输出写数据，不能方便地处理多路输出 D.只要程序能从标准输入读取数据、向标准输出写数据，就能使用Hadoop Streaming 12、在Hadoop中，下列哪项主要功能是计算资源的调度（C） A.Hadoop common package B.Hadoop Distributed File System C.Hadoop YARN D.MapReduce Engine 13、在Hadoop中，下列哪项负责文件的分布式存储与访问（B） A.Hadoop common package B.Hadoop Distributed File System C.Hadoop YARN D.MapReduce Engine 14、在Hadoop中，下列哪项负责计算任务的并行化（D） A.Hadoop common package B.Hadoop Distributed File System
第26卷第7期V ol.26No.7 控制与决策 Control and Decision 2011年7月 Jul.2011一种改进的支持向量数据描述故障诊断方法 文章编号:1001-0920(2011)07-0967-06 唐明珠1,王岳斌2,阳春华1 (1.中南大学信息科学与工程学院，长沙410083；2.湖南理工学院计算机学院，湖南岳阳414006) 摘要:针对故障诊断中故障类样本难于获取以及不均衡类问题,提出了基于粒子群和滑动窗口的支持向量数据描述(M-SVDD)故障诊断方法.该方法利用粒子群优化支持向量数据描述的核参数,同时引入滑动窗口技术,通过大窗口大小来控制故障诊断模型的训练样本数,根据小窗口的预测误差变化动态调整大窗口的大小.采用该方法对铜转炉吹炼过程进行故障诊断的实验结果表明,该方法能有效抑制过拟合现象,具有故障敏感性高、泛化能力强等特点.关键词:支持向量数据描述；粒子群；故障诊断；不均衡类；滑动窗口 中图分类号:TP18文献标识码:A Modi?ed support vector data description for fault diagnosis TANG Ming-zhu1,WANG Yue-bin2,YANG Chun-hua1 (1.School of Information Science and Engineering，Central South University，Changsha410083，China；2.School of Computer，Hu’nan Institute of Science and Technology，Yueyang414006，China．Correspondent：YANG Chun-hua, E-mail：ychh@https://www.doczj.com/doc/d66023895.html,) Abstract：Aiming at the dif?culty of obtaining fault samples and class imbalanced problem,a modi?ed support vector data description for fault diagnosis based on both particle swarm optimization and sliding windows(M-SVDD)is proposed in this paper.The kernel parameters of support vector data description are optimized by the particle swarm optimization. At the same time,the sliding window technique is introduced.The number of training samples for fault diagnosis model is controlled by a dynamic adjusted large window.The size of the large window is adjusted dynamically according to the changes of predicting error of the small window.M-SVDD is applied to the fault diagnosis of copper-converting smelting process.The experimental results show that M-SVDD can prevent effectively the phenomenon of over-?tting and has good fault sensitivity and generalization. Key words：support vector data description；particle swarm optimization；fault diagnosis；class imbalanced；sliding window 1引言 判断复杂工业过程是否发生故障是安全生产的重要步骤之一,及时发现故障对于提高产品的产量和质量具有重要的意义.对该过程采样时,往往很难获取所有故障类别,甚至有些故障样本无法获得.因此,在不考虑或较少考虑故障类样本的前提下,研究如何利用比较容易获取的复杂工业过程正常类样本构造一个能准确判断复杂工业过程是否处于正常状态的诊断模型更具实用价值. 近年来,基于数据驱动的故障诊断方法得到了广泛应用,包括代价敏感支持向量机[1]、代价敏感概率神经网络[2]和K-最邻近(KNN)[3]等方法.代价敏感概率神经网络和代价敏感支持向量机在进行故障诊断时均假设样本集中至少有两类样本,而在实际应用中往往类别不均衡,甚至只能获取某一类样本,如正常类样本.因此,这两种方法利用有限的有色冶金过程故障类样本和正常类样本建立的故障诊断模型应用于实际有色冶金过程时受到限制.文献[3]提出的KNN算法用一类样本便可以进行故障诊断,但在预测时存在过拟合现象. Tax等人在SVM的基础上提出了支持向量数据描述(SVDD)[4],在机械故障诊断、图像检测等方面得 收稿日期:2010-03-25；修回日期:2010-06-11. 基金项目:国家杰出青年科学基金项目(61025015)；国家自然科学基金项目(60874069)；国家863计划项目(2009AA04Z137)；中南大学优秀博士学位论文扶植项目. 作者简介:唐明珠(1983?),男,博士生,从事数据挖掘、机器学习等研究；阳春华(1965?),女,教授,博士生导师,从事复杂工业过程建模与优化控制等研究.
龙源期刊网 https://www.doczj.com/doc/d66023895.html, 基于支持向量回归的行程时间预测算法 作者：邱淳风王珊王超群 来源：《计算机时代》2014年第04期 摘要：作为交通规划、运营和通行能力评估的重要指标，行程时间的预测对出行者的路线和时间点的选择，以及交通规划部门的信号控制策略有着重要的实际意义。对于高级交通诱导系统而言，行程时间预测是一项关键的研究内容。现有行程时间预测方法较少，且预测误差较大。为此，运用浮动车和微波雷达测速数据，提出了基于支持向量机解决行程时间预测的方法，并且与历史平均法进行了比较。在杭州市高架路线上的实验结果表明，所提方法的预测精度大幅度超过了历史平均法。 关键词：支持向量机；行程时间；智能交通；历史平均 中图分类号：TP391 文献标志码：A 文章编号：1006-8228（2014）04-40-03 Abstract： As an important indicator of transportation planning， operations and capacity assessment， the forecasted travel time has important practical meaning for the choice of route and timing， as well as for traffic signal control strategy of transportation planning department. For advanced transportation guidance systems， it is a key issue to predict travel times between pairs of points of interest. There are few travel time prediction methods with high probability of prediction error. In this paper， the speed data returned from probe vehicles and microwave radars is used to predict travel times based on support vector regression（SVR）， and the new algorithm is compared to the historical mean algorithm. The experimental results over elevatedroads in Hangzhou show that the SVR based algorithm significantly outperforms the historical mean algorithm. Key words： support vector machine； travel time； intelligent transportation； historical average 0 引言 行程时间是交通规划、运营和通行能力评估的重要指标。基于预测的行程时间，出行者可以直观地进行路线选择或者出行时间点的选择，交通规划部门能够做出合理的信号控制策略。因此，准确预测行程时间具有重要的应用价值。 支持向量机（SVM）[1]是Vapnik在1995年提出的，已经被广泛地应用到监督分类领 域。因为该方法采用了结构风险最小化的设计，比起经验风险最小化方法，其泛化能力更强，因此往往表现出较强的测试精度。特别地，工程实践往往难以获得大量标注样本，而SVM在小样本学习问题上表现出较佳的性能。另外，SVM采用严格的数值计算方法，不会收敛到局部最小解。在智能交通领域，运用SVM解决交通状态评估的工作较多，并且能得到高精度的路况估计结果。
3.3 支持向量回归机 SVM 本身是针对经典的二分类问题提出的，支持向量回归机（Support Vector Regression ，SVR ）是支持向量在函数回归领域的应用。SVR 与SVM 分类有以下不同：SVM 回归的样本点只有一类，所寻求的最优超平面不是使两类样本点分得“最开”，而是使所有样本点离超平面的“总偏差”最小。这时样本点都在两条边界线之间，求最优回归超平面同样等价于求最大间隔。 3.3.1 SVR 基本模型 对于线性情况，支持向量机函数拟合首先考虑用线性回归函数 b x x f +?=ω)(拟合n i y x i i ,...,2,1),,(=，n i R x ∈为输入量，R y i ∈为输出量，即 需要确定ω和b 。 图3-3a SVR 结构图 图3-3b ε不灵敏度函数 惩罚函数是学习模型在学习过程中对误差的一种度量，一般在模型学习前己经选定，不同的学习问题对应的损失函数一般也不同，同一学习问题选取不同的损失函数得到的模型也不一样。常用的惩罚函数形式及密度函数如表3-1。 表3-1 常用的损失函数和相应的密度函数 损失函数名称 损失函数表达式()i c ξ% 噪声密度 ()i p ξ ε -不敏感 i εξ 1 exp()2(1) i εξε-+ 拉普拉斯 i ξ 1 exp()2 i ξ- 高斯 212 i ξ 21 exp()22i ξπ -
标准支持向量机采用ε-不灵敏度函数，即假设所有训练数据在精度ε下用线性函数拟合如图（3-3a ）所示， ** ()()1,2,...,,0 i i i i i i i i y f x f x y i n εξεξξξ-≤+??-≤+=??≥? （3.11） 式中，*,i i ξξ是松弛因子，当划分有误差时，ξ，*i ξ都大于0，误差不存在取0。这时，该问题转化为求优化目标函数最小化问题： ∑=++?=n i i i C R 1 ** )(21 ),,(ξξωωξξω （3.12） 式（3.12）中第一项使拟合函数更为平坦，从而提高泛化能力；第二项为减小误差；常数0>C 表示对超出误差ε的样本的惩罚程度。求解式（3.11）和式（3.12）可看出，这是一个凸二次优化问题，所以引入Lagrange 函数： * 11 ****1 1 1()[()] 2[()]() n n i i i i i i i i n n i i i i i i i i i i L C y f x y f x ωωξξαξεαξεξγξγ=====?++-+-+-+-+-+∑∑∑∑ （3.13） 式中，α，0*≥i α，i γ，0*≥i γ，为Lagrange 乘数，n i ,...,2,1=。求函数L 对ω， b ，i ξ，*i ξ的最小化，对i α，*i α，i γ，*i γ的最大化，代入Lagrange 函数得到对偶形式，最大化函数：
２００７，４３（５）ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ计算机工程与应用 １问题的提出 航空公司在客舱服务部逐步实行“费用包干”政策，即：综合各方面的因素，总公司每年给客舱服务部一定额度的经费，由客舱服务部提供客舱服务，而客舱服务产生的所有费用，由客舱服务部在“费用包干额度”中自行支配。新的政策既给客舱服务部的管理带来了机遇，同时也带来了很大的挑战。通过“费用包干”政策的实施，公司希望能够充分调用客舱服务部的积极性和主动性，进一步改进管理手段，促进新的现代化管理机制的形成。 为了进行合理的分配，必须首先搞清楚部门的各项成本、成本构成、成本之间的相互关系。本文首先对成本组成进行分析，然后用回归模型和支持向量机预测模型对未来的成本进行预测［１－３］，并对预测结果的评价和选取情况进行了分析。 ２问题的分析 由于客舱服务部的特殊性，“费用包干”政策的一项重要内容就集中在小时费的重新分配问题上，因为作为客舱乘务员的主要组成部分—— —“老合同”员工的基本工资、年龄工资以及一些补贴都有相应的政策对应，属于相对固定的部分，至少目前还不是调整的最好时机。乘务员的小时费收入则是根据各自的飞行小时来确定的变动收入，是当前可以灵活调整的部分。实际上，对于绝大多数员工来说，小时费是其主要的收入部分，因此，用于反映乘务人员劳动强度的小时费就必然地成为改革的重要部分。 现在知道飞行小时和客万公里可能和未来的成本支出有关系，在当前的数据库中有以往的飞行小时（月）数据以及客万公里数据，并且同时知道各月的支出成本，现在希望预测在知道未来计划飞行小时和市场部门希望达到的客万公里的情况下的成本支出。 根据我们对问题的了解，可以先建立这个部门的成本层次模型，搞清楚部门的各项成本、成本构成、成本之间的相互关系。这样，可以对部门成本支出建立一个层次模型：人力资源成本、单独预算成本、管理成本，这三个部分又可以分别继续分层 次细分，如图１所示。 基于支持向量机回归模型的海量数据预测 郭水霞１，王一夫１，陈安２ ＧＵＯＳｈｕｉ－ｘｉａ１，ＷＡＮＧＹｉ－ｆｕ１，ＣＨＥＮＡｎ２ １．湖南师范大学数学与计算机科学学院，长沙４１００８１ ２．中国科学院科技政策与管理科学研究所，北京１０００８０ １．ＣｏｌｌｅｇｅｏｆＭａｔｈ．ａｎｄＣｏｍｐｕｔｅｒ，ＨｕｎａｎＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ，Ｃｈａｎｇｓｈａ４１００８１，Ｃｈｉｎａ ２．ＩｎｓｔｉｔｕｔｅｏｆＰｏｌｉｃｙａｎｄＭａｎａｇｅｍｅｎｔ，ＣｈｉｎｅｓｅＡｃａｄｅｍｙｏｆＳｃｉｅｎｃｅｓ，Ｂｅｉｊｉｎｇ１０００８０，Ｃｈｉｎａ Ｅ－ｍａｉｌ：ｇｕｏｓｈｕｉｘｉａ＠ｓｉｎａ．ｃｏｍ ＧＵＯＳｈｕｉ－ｘｉａ，ＷＡＮＧＹｉ－ｆｕ，ＣＨＥＮＡｎ．Ｐｒｅｄｉｃｔｉｏｎｏｎｈｕｇｅｄａｔａｂａｓｅｏｎｔｈｅｒｅｇｒｅｓｓｉｏｎｍｏｄｅｌｏｆｓｕｐｐｏｒｔｖｅｃｔｏｒｍａｃｈｉｎｅ．ＣｏｍｐｕｔｅｒＥｎｇｉｎｅｅｒｉｎｇａｎｄＡｐｐｌｉｃａｔｉｏｎｓ，２００７，４３（５）：１２－１４． Ａｂｓｔｒａｃｔ：Ａｓａｎｉｍｐｏｒｔａｎｔｍｅｔｈｏｄａｎｄｔｅｃｈｎｉｑｕｅ，ｐｒｅｄｉｃｔｉｏｎｈａｓｂｅｅｎｗｉｄｅｌｙａｐｐｌｉｅｄｉｎｍａｎｙａｒｅａｓ．Ｗｉｔｈｔｈｅｉｎｃｒｅａｓｉｎｇａｍｏｕｎｔｏｆｄａｔａ，ｐｒｅｄｉｃｔｉｏｎｆｒｏｍｈｕｇｅｄａｔａｂａｓｅｂｅｃｏｍｅｓｍｏｒｅａｎｄｍｏｒｅｉｍｐｏｒｔａｎｔ．Ｂａｓｅｄｏｎｔｈｅｂａｓｉｃｐｒｉｎｃｉｐｌｅｏｆｖｅｃｔｏｒｍａｃｈｉｎｅａｎｄｉｍ－ｐｌｅｍｅｎｔａｒｉｔｈｍｅｔｉｃ，ａｐｒｅｄｉｃｔｉｏｎｓｙｓｔｅｍｉｎｆｒａｓｔｒｕｃｔｕｒｅｏｎａｎａｉｒｃｏｍｐａｎｙｉｓｐｒｏｐｏｓｅｄｉｎｔｈｉｓｐａｐｅｒ．Ｌａｓｔｌｙ，ｔｈｅｒｕｌｅｓｏｆｅｖａｌｕａｔｉｏｎａｎｄｓｅｌｅｃｔｉｏｎｏｆｔｈｅｐｒｅｄｉｃｔｉｏｎｍｏｄｅｌｓａｒｅｄｉｓｃｕｓｓｅｄ． Ｋｅｙｗｏｒｄｓ：ｐｒｅｄｉｃｔｉｏｎ；ｄａｔａｍｉｎｉｎｇ；ｓｕｐｐｏｒｔｖｅｃｔｏｒｍａｃｈｉｎｅ；ｒｅｇｒｅｓｓｉｏｎｍｏｄｅｌ 摘要：预测是很多行业都需要的一项方法和技术，随着数据积累的越来越多，基于海量数据的预测越来越重要，在介绍支持向量机基本原理和实现算法的基础上，给出了航空服务成本预测模型，最后对预测结果的评价和选取情况进行了分析。 关键词：预测；数据挖掘；支持向量机；回归模型 文章编号：１００２－８３３１（２００７）０５－００１２－０３文献标识码：Ａ中图分类号：ＴＰ１８ 基金项目：国家自然科学基金（ｔｈｅＮａｔｉｏｎａｌＮａｔｕｒａｌＳｃｉｅｎｃｅＦｏｕｎｄａｔｉｏｎｏｆＣｈｉｎａｕｎｄｅｒＧｒａｎｔＮｏ．１０５７１０５１）；湖南省教育厅资助科研课题（ｔｈｅＲｅｓｅａｒｃｈＰｒｏｊｅｃｔｏｆＤｅｐａｒｔｍｅｎｔｏｆＥｄｕｃａｔｉｏｎｏｆＨｕｎａｎＰｒｏｖｉｎｃｅ，ＣｈｉｎａｕｎｄｅｒＧｒａｎｔＮｏ．０６Ｃ５２３）。 作者简介：郭水霞（１９７５－），女，博士生，讲师，主要研究领域为统计分析；王一夫（１９７１－），男，博士生，副教授，主要研究领域为计算机应用技术，软件工程技术；陈安（１９７０－），男，副研究员，主要研究领域为数据挖掘与决策分析。 １２
．．．． 拓扑分析、空间叠加、缓冲分析、网络分析P3 数字地面模型(DTM)： 数字高程模型(DEM)： 不规则三角网(TIN)： 地质统计学：是利用空间变量的自相关特征研究空间随机场性质的一种统计理论。它分为(1)结构分析理论；(2)克立格插值理论（插值理论）；(3)条件模拟理论。 协方差、空间采样理论P9 估计误差：是指实测值与真实值之间的误差。 估计方差：是指估计误差的离散程度。 z，它的空间分布由x , y水平坐标系统来描述。 DEM派生信息：以数字地面模型为基础，通过数字地形分析（DTA）手段可提取出用于描述地表不同方面特征的参数，这些参数统称为DEM派生信息。 坡度、坡向、曲率P16 地面曲率：地面曲率是对地形表面一点扭曲变化程度的定量化度量因子，地面曲率在垂直和水平两个方向上分量分别称为平面曲率和剖面曲率。 剖面曲率、平面曲率、坡形P18 汇流量（汇流面积）：一个栅格单元的汇流量是其上游单元向其输送的水流量的总和。 地形湿度指数：单位等高线上的汇流面积与坡度之比。 通视分析：就是利用DEM判断地形上任意点之间是否可以相互可见的技术方法，分为视线分析和视域分析。 ,具体指在点. 线. 面实体周围自动建立的一定宽度的多边形。 叠置分析：是将同一地区的两组或两组以上的要素进行叠置，产生新的特征的分析方法。 合成叠置、统计叠置P30 交、并、剪P31 差、识别P32 距离分析：用于分析图像上每个点与目标的距离，如有多目标，则以最近的距离作为栅格值。 距离制图、直线距离分析P32 密度分析：针对一些点要素（或线要素）的特征值（如人口数）并不是集中在点上（或线上）的特点，对要素的特征值进行空间分配，从而更加真实地反映要素分布。 密度制图：根据输入的要素数据集计算整个区域的数据聚集状况，从而产生一个连续的密度表面。 泰森多边形：设平面有n个互不重叠的离散数据点，则其中任意一个离散数据点Pi都有一个临近范围Bi，在Bi中的任一点同Pi点间的距离都小于它们同其它离散数据点间的距离，其中Bi是一个不规则多边形，称为泰森多边形。 重分类Reclassify：即基于原有数值，对原有数值重新进行分类整理从而得到一组新值并输出，是对单个波段，改变值的分布。 重采样Resample：是改变影像分辨率（每个像素点代表矢量大小），可以用于多波段。 像元统计、邻域统计、区域统计P38 Aggregate、Majority Filter、Expand和Shrink P38 协方差函数、互协方差函数P44 平稳假设：指区域化变量Z(x)的任意n维分布函数不因空间点x发生位移而改变。 二阶平稳假设：数学期望与协方差函数均存在且平稳。 两点之差的方差之半定义为Z(x)的变差函数。 角度容差、距离容差P50 块金常数、变程、基台值P51 套和结构：实际的区域化变量的变化性是十分复杂的，反映在变差函数上就是它的结构不是单纯的一种结构，而是多层次结构叠加在一起称为套和结构。 ,克里格法是建立在变异函数理论及结构分析基础上,在有限区域内对区域化变量取值进行线性无偏最优估计的方法。
最小二乘支持向量机 产生训练样本与测试样本，每一列为一个样本 k=125;m=10;n1=ones(5,125);n2=ones(5,10);n3=[120,150,218,2 47、7,56,181,0,57,4、32, 23、51, 24、16, 93、5,96,93,910,20,24, 26、7,220, 33、9, 46、9, 70、2,72,128,139,144,1 59、8,230,679, 15、21, 20、37, 22、1,16,35,73,86,336,82,87,94,121,170,1 72、9,180, 26、6, 70、4,164, 25、1,274,3,14,45,60,72,304, 22、3, 35、1,56,63,68,68,207,236,37,80,82,293,42,220,766,10,
36、2,105,117,240,851,4072,4、6875,0、962,2, 20、443, 18、614,4、0787, 17、187, 17、314, 11、299, 11、31,3、7648,25 87、2,1565, 87、266, 85、865, 84、333, 61、394, 57、983,59,57,6 73、6, 32、2,255,707, 50、11,56,121,1 30、4,300、 44,685,174,111,410,574,127,200,1678,162,334, 48、155, 49、77, 45、703, 39、216,
56、982, 32、597, 26、859, 43、737, 20、385;120,60,1 20、7,1 48、7,78,262,434,77,193, 61、33,2 61、05, 36、7,41,58,1592, 41、9, 27、8, 90、6,230, 36、5,1 61、6, 70、2,442,419,714,754,4 38、7,5 72、4,4992, 61、25, 59、79, 64、1,237,30,520,110,419,81,87,195,69,320,334,97, 22、7,
２００６年４月系统工程理论与实践第４期 文章编号：１０００．６７８８（２００６）０４．００９７—０７ 区域经济中长期预测的支持向量回归方法 肖健华１’２，林健３，刘晋３ （１．五邑大学智能技术与系统研究所，广东江门５２９０２０；２．北京航空航天大学经济管理学院，北京１０００８３； ３．五邑大学管理学院，广东江ｆ－ｉ５２９０２０） 摘要：分析了区域经济发展特性以及中长期经济预测的特点，对当前经济预测方法存在的不足进行了 阐述，指出：由于区域经济系统中存在高度的非线性、耦合性和时变性，使得现有的经济预测方法难以胜 任．介绍了支持向量回归算法，并在此基础上，提出了基于支持向量回归的方法对区域经济进行中长期 预测的思路，并建立了相应的数学模型．以广东省江门市作为应用对象，说明了该模型的有效性． 关键词：支持向量回归；统计学习理论；区域经济；中长期预测 中图分类号：ＴＰｌ８１文献标识码：Ａ ＡＳＶＲ－－ｂａｓｅｄＭｏｄｅｌｆｏｒＲｅｇｉｏｎａｌＥｃｏｎｏｍｙＭｅｄｉｕｍ－－ｔｅｒｍａｎｄ Ｌｏｎｇ?ｔｅｒｍＦｏｒｅｃａｓｔ ＸＩＡＯＪｉａｎ—ｈｕａｌ”，ＬＩＮＪｉａｎ３，ＬＩＵＪｉｎ３ （１．ＩｎｓｔｉｔｕｔｅｏｆＩｎｔｅｌｌｉｇｅｎｔＴｅｃｈｎｏｌｏｇｙａｎｄＳｙｓｔｅｍｓ，ＷｕｙｉＵｎｉｖｅｒｓｉｔｙ，Ｊｉａｎｇｍｅｎ５２９０２０，Ｃｈｉｎａ；２．ＳｃｈｏｏｌｏｆＥｃｏｎｏｍｉｃｓａｎｄＭａｎａｇｅｍｅｎｔ，ＢｅｉｈａｎｇＵｎｉｖｅｒｓｉｔｙ，Ｂｅｉｊｉｎｇ１０００８３，Ｃｈｉｎａ；３．ＳｃｈｏｏｌｏｆＭａｎａｇｅｍｅｎｔ，ｗｕｙｉＵｎｉｖｅｒｓｉｔｙ，Ｊｉａｎｇｍｅｎ５２９０２０，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｂａｓｅｄｏｎｔｈｅａｎａｌｙｓｉｓｏｆｃｈａｒａｃｔｅｒｉｓｔｉｃｓｏｆｒｅｇｉｏｎａｌｅｃｏｎｏｍｙａｎｄｆｏｒｅｃａｓｔｉｎｇｍｅｔｈｏｄｓｆｏｒｍｅｄｉｕｍ－ｔｅｒｍａｎｄ ｌｏｎｇ－ｔｅｒｍｅｃｏｎｏｍｉｃｄｅｖｅｌｏｐｍｅｎｔ，ｄｒａｗｂａｃｋｓｏｆｃｕｒｒｅｎｔｆｏｒｅｃａｓｔｉｎｇｍｅｔｈｏｄｓｗｅｒｅｅｘｐｌａｉｎｅｄａｓｔｈａｔｔｈｏｓｅｍｅｔｈｏｄｓａｒｅ ｎｏｔｓｕｉｔａｂｌｅｆｏｒｆｏｒｅｃａｓｔｉｎｇｍｅｄｉｕｍ－ｔｅｒｍａｎｄｌｏｎｇ—ｔｅｒｍｅｃｏｎｏｍｉｃｄｅｖｅｌｏｐｍｅｎｔｄｕｅｔｏｉｔｓｎｏｎｌｉｎｅａｒｉｔｙ，ｃｏｕｐｌｉｎｇａｎｄ ｍｅｄｉｕｍ—ｔｅｒｍｄｙｎａｍｉｃｉｔｙ．Ａｓｕｐｐｏｒｔｖｅｃｔｏｒｒｅｇｒｅｓｓｉｏｎａｌｇｏｒｉｔｈｍｗａｓｂｅｅｎｉｎｔｒｏｄｕｃｅｄ，ａｎｄｔｈｅｎａｎｉｄｅａｏｆｆｏｒｅｃａｓｔｉｎｇ ａｎｄ ａｎｄａｍａｔｈｅｍａｔｉｃｍｏｄｅｌｂａｓｅｄｏｎｔｈｅｉｄｅａｗａｓｌｏｎｇ－ｔｅｒｍｒｅｇｉｏｎａｌｅｃｏｎｏｍｙｂａｓｅｄｏｎｔｈｅａｌｇｏｒｉｔｈｍｗａｓｅｘｐｌａｉｎｅｄ ｐｒｏｐｏｓｅｄ．Ａｔｌａｓｔ，ａｎｅｘｐｅｒｉｍｅｎｔｗａｓｃｏｎｄｕｃｔｅｄｔｏｖｅｒｉｆｙｔｈｅｐｒｏｐｏｓｅｄｍｏｄｅｌｏｎｔｈｅｅｃｏｎｏｍｉｃｄａｔａｓｅｔｏｆＪｉａｎｇｍｅｎ， Ｇｕａｎｇｄｏｎｇ． Ｋｅｙｗｏｒｄｓ：ｓｕｐｐｏｒｔｖｅｃｔｏｒｒｅｇｒｅｓｓｉｏｎ（ＳＶＲ）；ｓｔａｔｉｓｔｉｃｌｅａｒｎｉｎｇｔｈｅｏｒｙ（ＳＬＴ）；ｒｅｇｉｏｎａｌｅｃｏｎｏｍｙ；ｍｅｄｉｕｍ－ｔｅｒｍ； ｌｏｎｇ—ｔｅｒｍｆｏｍｅａｓｔ １引言 经济发展的中长期预测，一般是指五年以上经济发展趋势的预测，旨在为一个国家或一个区域的中远景规划提供科学的依据． 就经济发展预测而言，与国家宏观经济发展规律相比，区域经济的发展存在自身的特点．首先是波动性大，而且所研究的区域越小波动性越大，有时甚至一个企业的兴衰、降雨量的多少等都可能对一个区域的经济发展产生很大的影响；其次是系统的相对独立性和开放流动性，单个区域的独立性相对较小，各个区域各有侧重，某个区域经济必然与其它的区域经济形成互补． 当然，区域经济的发展预测也具备一般经济系统预测的共同特性…：非线性，区域经济系统是众多确定性因素和非确定性因素交互作用下的非线性系统；强耦合性，反映经济发展的各种指标、构成经济系统的各行业、各部门等无不密切关联，每一个指标或行业的变化都会导致其它指标或行业的变化；时变性，经 收稿１３期：２００４—１０．１０ 资助项目：国家自然科学基金（７０４７１０７４）；中国博士后科学基金（２００５０３８０４２） 作者简介：肖健华（１９７０一），男，汉族，江西永新人，博士后，副教授，主要研究方向：智能信息处理，复杂经济系统建模，Ｅ．ｍａｉｌ：ｊｉａｎｈｕａｘｉａｏ＠ｔｏｍ．ｃｏｍ；林健（１９５８一），男，汉族，福建福州人，博士生导师，五邑大学校长，主要研究方向为复杂系统建模与仿真；刘晋（１９５６一），女，湖北孝感人，博士，教授，主要研究方向为管理决策支持系统．