粒子群优化支持向量机的交通量预测方法

  • 格式:pdf
  • 大小:324.70 KB
  • 文档页数:5

第31卷第2期 2015年4月 山西大同大学学报(自然科学版) Journal of Shanxi Datong University(Natural Science) V0l_31.No.2 Apr 2015 

文章编号:1674一O874(2015)O2—0025-04 

粒子群优化支持向量机的交通量预测方法 

王惟 ,李志鹏 

(1.晋中学院数学院,山西晋中030619; 

2.南京理工大学能源与动力工程学院,江苏南京210094) 

摘要:为了准确预测交通流量,为实施交通疏导提供参考依据,提出了一种基于小生境粒子群优化高斯小波 

核函数支持向量机的交通流量预测方法。首先将小波思想引入核函数,使用高斯小波核函数取代了经典支持向量 

机的高斯核函数。同时在支持向量机的学习算法上引入了小生境粒子群优化算法,基于小生境粒子群的多样性的 

优势,使得支持向量机的参数得到最优解。最后进行了预测仿真,结果表明本文方法的预测精度高于传统方法。 

为交通流量的预测方法提供了一种参考。 

关键词:小生境粒子群优化;支持向量机;小波核函数;交通流量预测 

中图分类号:TP391 文献标识码:A 

交通拥堵目前已经成为了城市生活的一类公 

共问题,特别是在大都市,已经影响到了人们的正 

常出行和日常生活,同时也引起了严重的资源能源 

浪费和空气污染。准确的预测交通流量,在形成拥 

堵之前,实行积极疏导是有望解决这一问题的有效 

途径之一。而交通流量的预测便是最为关键的 

一步。 

文献[1】采用了基于支持向量机(support vector 

machine,SVM)的交通流量预测方法。支持向量机 

是一种典型的人工智能机器学习模型,具有良好的 

自学习和非线性预i贝4能力,相对于人工神经网络, 

具有更好的映射性能,并且能在小训练样本的情况 

下获得较好的预测精度 。影响交通流量变化的因 

素多种多样,而且彼此之间具有非线性特点,同时 

有些因素的影响还有随机性 】。为此诸多学者又 

在支持向量机的基础上进行了算法或者结构上的 

改进 I,包括改进核函数的方法和改进训练算法的 

方法。为了更为精准的预测短期的交通流量,本文 

同时考虑了优化核函数和训练算法,提出了一种小 

生境粒子群优化高斯小波核函数SVM的方法,SVM 

中的经典高斯核函数,同时对训练方法做了改进, 

即引入了小生境粒子群优化算法,使得映射性能优 

于经典支持向量机方法。 

1基于支持向量机的交通流量预测 支持向量机就其实质而言,是一种从统计学习 

理论引申出来的一种机器学习方法 J,在学习过程 

中,支持向量机不同于一般机器学习算法中的经验 

风险最小化准则,而是一种建立在结构风险最小化 

准则的基础上的一种新型的机器学习算法,这就使 

得SVM具有训练样本少和泛化能力强的优点 , 

SVM算法实质上是一个凸二次规划问题口~1,能够得 

到的极值就是所需的全局最优解,而这个最优解就 

可以认为是在高维空间内对样本点集的最佳拟合 

结果。 

若已知存在这样的样本集合: = …Y),i= 

1,,---,m,其中, .为样本集中第 个n维输入值, 

y 则为第i个输出值,那么基于SVM的学习过程, 

可以理解为解得输人量和输出量之间的映射关系 

式/0,能够使得对于任意的 = , ),i=1,2,...,m, 

均有f(x )=), 成立。一般地, 0可以表示为: 

( = ∽+b。 (1) 

在式(1)中,加是权值,b称为阈值, : 一Q, 

它的作用是先把维输人向量投射到高维特征空 

间。为了提高交通流量的预测精度,求得合适的参 

数,使得结构风险最小,就可以构造如式(2)所示的 

经验风险函数 ]: 

1 尺 = ∑, (2) ’ 1 其中 称为损失函数,其表达式为: 

收稿日期:2015—02—20 

作者简介:王惟(1987一),女,河南周口人,助教,研究方向:人工智能算法。

 山西大同大学学报(自然科学版) 

Ioy,-S(x,)l-占if ㈥‘ , (3) 

其中 是大于0的小数。学习样本较少时,使 

用经验值来代替实际风险值是不合适的,所以支持 

向量机算法里考虑了泛化风险,也可以称之为SRM 

准则。那么,可以根据SRM准则选取非线性回归函 

数为: 

( =sg.(Zw ( +6)。 (4) 

根据支持向量机算法的“最大间隔”原理,非线 

性回归问题可以转化为求解以下函数规划问题: 

min( ̄11wll +c∑( + , (5) 

并且满足式(6)的约束: 

f Y —f(x )≤ + 

.t.!/ )一Y ≤ + , (6) 

≥0, ≥0 

上式中孝,孝 上式中的参数为两个松弛变量,c 

一般称之为容量因子。工程上一般将上式转化为 

拉氏对偶问题进行求解,可解得: 

( =∑ :一oti)K(x ,功+6, (7) 

其中 为拉格朗日乘子,K(.)称为核函数,并 

满足: 

K(x , ,)=( )。 ))o (8) 

一般是将SVM的核函数取为高斯核函数,即: 

exp( )。 (9) 

实际应用中我们发现,以高斯核函数为基础的 

SVM对复杂问题的预测精度并不是十分精确,为了 

获得更好的预测精度,我们在高斯和函数的基础上 

引入了小波变换思想,取核函数为高斯小波和函 

数,即: 

,_H(-1)"/ZC.[exp( )I (10) 

在上式中,P为阶数。 

在使用时,我们即将SVM的输人量取为对交通 

流量有影响的因素,输出量为预测的交通流量值。 

根据经验,认为影响下一时刻交通情况的影响因素 

有前J7v段时刻的交通流量,当用Y 表示当前交通 

流量时,预测原理可以表示为:Y川 ,YH, 

…,Y )。同时,我们引入上游路段M个不同路口 

处的交通流量这一影响因素也作为SVM的输入 

量。并将这一影响因素表示为 , ,…, )。 在建立输入数据与输出数据之间的智能映射 

关系后,即可根据新的输入值经这一映射关系得到 

相应的预测输出量。在式(4~9)中,C or,b,W均为 

未知参数,传统的SVM参数求解方法主要有bag. 

ging法和boosting法,但这两种算法均不能保证求 

得最优解。同时参数的取值会直接影响到SVM的 

预测精度、鲁棒性和泛化能力。为了更精确的预测 

交通流线的变化效果,本文在SVM学习方法上使用 

粒子群优化算法。 

2学习方法改进 

支持向量机作为一种典型的有导师学习的机 

器学习算法,需要根据特定的样本智能的“总结”输 

入量与输出量之间的映射规律,也就是调整各个参 

数至最优值。而影响其学习结果的因素主要有两 

个,即学习样本和训练方法。样本的优化选取和合 

理的学习,是机器学习的重要部分,直接决定了 

SVM的精度和泛化能力。 

在样本的选取时,我们基于聚类分析的方法首 

先优选样本。所谓聚类分析方法就是指根据研究 

对象的基本特征,把某种性质较为相似的个体归为 

一类。聚类分析方法是在工程实践中应用的较为 

广泛的一种分类方法,聚类结果就是把原样本空间 

划分成若干个不同的子区域,每个子区域相当于一 

个小的样本子集。 

传统的聚类划分是一种硬划分方法,但在现实 

中大多数聚类对象之间并没有严格的隶属关系,反 

而具有亦此亦彼的特性,这就需要相对模糊的定 

义,因此更适合使用软划分方法 。为此本文使用 

了一种更为有效的软划分方法,即模糊聚类方法, 

首先对训练样本进行优选,再进行基于优选样本的 

学习。具体的操作过程,便是基于FCM算法进行聚 

类处理,所谓FCM算法可以表示为这样的数学规划 

问题 1: 

MinJ(X,U, =∑∑ 洲 (11) =1 1 在这里,X=( , :,.. )为总训练样本集,并用 

参数s来表示样本的维数, = ,, ,.. .., )表示 

聚类中心,“ 表示样本 与聚类中心 的隶属度, 

u是模糊划分矩阵,m表示模糊因子。并且满足: 

∑u =1。实际应用时可以应用拉格朗日乘数法求 百 

解【,, ,即:

 2015年 王惟:粒子群优化支持向量机的交通量预测方法 ・27・ 

f—————————————————— ———————————一 

:}事 I 一 flI/l ,一 JI)州m_1) 

lLo -YrlI>0 

卅I -VrII=0 

 ̄llxj一圳=0,r≠ 

(12) 

Z(u ) 

= }一(1≤i≤c) (13) 艺@ ) 

这里C表示聚类的类别数。那么聚类过程可 

以表述为: 

stepl:选择合适的模糊聚类数的取值范围 

[cmin,c一]; 

step2:对于C∈ ,c 】: 

a.初始化聚类中心V; 

b.使用基本FCM算法更新参数 V; 

C.判断算法的收敛性,如果不收敛,则转step2, 

如果收敛,转step4; 

d.计算有效性指标函数值 (c) 

Step3:比较各有效性指标函数值,获得的最大 

(或最小)的指标函数值V(c )里的C 即为所求的最 

佳聚类数; 

Step4:确定样本归类,若 = m ax (、u ),则 归 

人第i 类。 

在训练样本优选的过程中,对聚类后聚集的较 

严重的样本进行适当剔除,使得选取的样本的特性 

足够均匀,以提高样本的“代表性”。 

选定样本后便可进行学习训练。在本文中,训 

练方法采用了基于小生境方法改进后的粒子群优 

化算法(PSO)。粒子群优化算法(PSO)通过群体 

中各个粒子间的协作和竞争运算来搜索全局最优 

解[9-1o],每一个粒子代表一个可能的解向量。对于 

支持向量机的训练而言,不妨令粒子的当前位置为 

待定参数向量的当前值: 

=(c,s,or,b, ,)。 (14) 

那么通过优化过程得到的最优位置即为对向 

量中的元素的最优解,也就是对应的SVM里面的最 

佳参数。为了获得更精准的参数值,本文使用小生 

境粒子群优化算法。与经典PSO算法相比,小生境 

PSO协同能力更强,进化效果更好。 

经典粒子群优化的基本原理可表示为: 

k+l k+0 )-}-C2/"2 一 , (15) 1 = + ’ 在式(15)中, “为当前粒子前进的速度, “ 

表示粒子的当前位置,r为随机常数,c为学习因 

子,W为惯性权重,其求法为: 

= 一—Wm ax--一Wmin , (16) 

上式中 一认为是初始权重,W 认为是最终 

权重,k表示当前迭代次数,k 表示最大迭代次 

数。为了利用粒子群算法的优点,且避开其典型缺 

陷,本文使用一种小生境粒子群算法。其对式(15) 

做了如下改进: 

叫 k穗k:篇 ,l +1十一 : “+伽 + (1—2r:) ’ 、‘ 

其中pbest表示自身极值,gbest表示全局极值, 

卵表示最大搜索范围n ”。为了度量种群的进化程 

度,定义如下式子: 

= 喜[ ∽一于 ∽) 08) 

式中 表示第k次优化时的适应度函数,用来 

表示SVM的训练输出和理论输出值的差值的大小, 

同时定义一个大于O的数 ,则当h> 时表示此种 

群正在进化,否则表示此种群已经成熟,并取出最 

优个体。 

3 预测仿真 

为了验证本文方法的有效性,选取某交通路段 

周一至周五每天七点至十二点的道路情况作为训 

练样本,每隔五分钟选取一次,编制训练样本,之 

后进行基于聚类方法的样本优化。完成基于PSO 

的训练后,对第二周周一的交通状况进行预测仿 

真。统计不同方法的预测误差,如图1和图2所示。 

/^、 

薜 

嚣 

图1

 样本优化前后预测效果对比