基于支持向量机的绿地径流系数预测模型的建立
- 格式:pdf
- 大小:316.14 KB
- 文档页数:4
支持向量机法在灌区节水改造工程评价中的应用随着社会经济的发展,灌区节水改造工程逐渐成为国家水资源管理的重要工作之一。
灌区节水改造工程的目标是通过科学技术手段,提高水资源利用效率,降低灌溉用水量,保障农业生产的需水需用,减少农田径流的外排,改善土壤和水质,维护水资源的可持续利用。
在灌区节水改造工程中,工程评价是十分重要的一环,它决定了工程的可行性、效果和长期影响。
而支持向量机法则成为一种有效的工程评价手段。
支持向量机(SVM)是由Vapnik于1995年提出的一种新型的算法模型,它可以应用于分类、回归和异常值检测等领域。
支持向量机法在灌区节水改造工程评价中的应用,主要体现在以下几个方面:一、数据预处理在灌区节水改造工程评价中,数据的准确性和完整性对评价结果的准确性有着重要的影响。
而支持向量机法可以通过数据预处理的方式,对原始数据进行清洗和补充,提高数据的可靠性。
对于农田土壤的水分含量和作物的需水量等数据,支持向量机可以通过回归分析的方法,对异常值和缺失值进行预测和填补,从而保证评价结果的准确性。
二、特征提取在灌区节水改造工程评价中,数据通常是多维度的,而支持向量机可以通过特征提取的方式,将原始数据转化为高维度的特征空间,从而便于进行模型的建立和评价。
对于农田土壤的水分含量、土壤类型、地形地貌等多维数据,支持向量机可以通过特征提取的方法,将这些数据转化为特征向量,从而方便进行模型的训练和预测。
三、模型建立在灌区节水改造工程评价中,支持向量机可以通过样本数据的分析和拟合,建立评价模型。
对于农田土壤水分含量和作物的需水量等数据,支持向量机可以通过回归分析建立土壤水分含量与作物需水量的关系模型,从而为节水改造工程的设计和实施提供科学依据。
四、评价预测在灌区节水改造工程评价中,支持向量机可以通过已建立的评价模型,进行工程效果的预测和评价。
对于节水灌溉技术的应用和节水灌区的建设等,支持向量机可以通过回归分析的方法,对工程效果进行预测和评价,为工程的调整和改进提供科学依据。
《基于机器学习的中长期径流预报方法研究》篇一一、引言径流预报作为水资源管理、水利工程建设以及防洪抗旱等领域的核心任务,对提高水资源利用效率、减轻自然灾害的损失具有十分重要的意义。
传统的径流预报方法,如水文模型方法,主要依赖于历史数据和经验模型进行预测,然而这种方法在面对复杂多变的气候和地质条件时,其准确性和适应性常受到限制。
近年来,随着机器学习技术的飞速发展,其在中长期径流预报方面的应用逐渐成为研究的热点。
本文旨在研究基于机器学习的中长期径流预报方法,以提高径流预报的准确性和可靠性。
二、机器学习在径流预报中的应用机器学习通过分析大量数据,自动发现数据间的潜在规律和模式,为复杂问题的解决提供了新的思路。
在径流预报中,机器学习可以充分利用历史径流数据、气象数据、地形数据等多种数据源,通过建立复杂的非线性模型,提高预报的准确性和精度。
此外,机器学习还能够自动适应不同的气候和地质条件,对不同区域、不同时间尺度的径流预报具有较强的适用性。
三、基于机器学习的中长期径流预报方法(一)数据预处理在建立机器学习模型之前,需要对数据进行预处理。
首先,收集历史径流数据、气象数据、地形数据等,并进行清洗和整理。
其次,对数据进行归一化或标准化处理,以便于模型的训练。
最后,根据研究区域的特点和需求,选择合适的特征进行提取和选择。
(二)模型构建根据预处理后的数据,构建机器学习模型。
常用的机器学习算法包括神经网络、支持向量机、随机森林等。
在构建模型时,需要根据研究区域的特点和需求,选择合适的算法和模型结构。
同时,还需要对模型的参数进行优化,以提高模型的预测性能。
(三)模型训练与验证使用历史数据进行模型训练,通过不断调整模型参数和结构,使模型能够较好地拟合历史数据。
然后,使用独立测试集对模型进行验证,评估模型的预测性能。
如果模型预测性能良好,则可以使用该模型进行中长期径流预报。
(四)结果输出与解释将模型应用于中长期径流预报中,输出预测结果。
基于在线增量学习支持向量机的径流预测
卢家海
【期刊名称】《水利科技与经济》
【年(卷),期】2017(023)007
【摘要】针对传统SVM模型及非增量SVM模型在训练过程中会产生冗余向量且效果差的问题,提出在线增量学习SVM预测模型,并利用祁县来远镇盘陀村昌源河上盘陀水文站的月径流历史资料进行的仿真测试.结果显示,在线增量学习SVM模型较传统的SVM模型有较高的预测精度.
【总页数】4页(P16-19)
【作者】卢家海
【作者单位】太原理工大学水利科学与工程学院,太原 030024
【正文语种】中文
【中图分类】TV212
【相关文献】
1.基于最小样本平面距离的支持向量机增量学习算法 [J], 朱发;业宁;潘冬寅;丁文
2.基于三支决策的支持向量机增量学习方法 [J], 徐久成;刘洋洋;杜丽娜;孙林
3.基于云模型的最接近支持向量机增量学习方法 [J], 金珠;马小平
4.基于壳向量的支持向量机渐进式增量学习算法 [J], 覃俊;许斐
5.支持向量机在线增量学习算法的MATLAB实现 [J], 杨志红;隆涛
因版权原因,仅展示原文概要,查看原文内容请购买。
基于最小二乘支持向量机的开都河径流预测王暄;屈卫军【摘要】简述支持向量的回归分析,支持向量机自回归预测模型结构及预测方法,利用开都河大山口水文站52 a的径流资料,采用最小二乘支持向量机方法对径流进行模拟预测,并与BP神经网络方法进行对比分析,其计算结果相对略好.【期刊名称】《地下水》【年(卷),期】2012(034)005【总页数】2页(P102-103)【关键词】支持向量机;径流预测;BP神经网络;开都河【作者】王暄;屈卫军【作者单位】新疆巴州水利水电勘测设计院,新疆库尔勒841000;新疆巴州水利水电勘测设计院,新疆库尔勒841000【正文语种】中文【中图分类】P338+.9河川径流的中长期预报是水资源合理利用和优化调度决策支持系统工作中的重要环节,在防汛、抗旱、发挥水利设施的经济效益及流域水利规划等方面都具有十分重要的作用。
中长期径流预报方法可分为传统方法和新方法两大类,前者主要有成因分析和水文统计方法,后者主要包括模糊分析、人工神经网络、灰色系统分析等方法。
受天文因子、气候因子、植被因子、地质地貌因素和人类活动的综合作用,水文系统表现出高维性、非线性、随机性、模糊性、混沌性等复杂特征,所以定量的机理分析是有限而困难的[1]。
目前一种新的机器学习方法即支持向量机(Support Vector Machine,简称SVM)越来越多的运用在回归问题研究上,支持向量机通过某种函数可以实现到高维空间的非线性映射,适合解决非线性的回归问题。
径流预测问题具有显著的非线性特性,因此SVM方法很适合应用于解决该问题。
SVM是在统计学习理论基础上发展起来的一种新的机器学习方法。
机器学习研究从观测数据出发寻找规律,利用这些规律对未来数据或无法观测数据进行预测,其重要理论基础之一是统计学。
支持向量机又称支持向量网络,具有理论完备、适应性强、全局优化、训练时间短、泛化性能好等优点。
最小二乘支持向量机(LS-SVM)是支持向量机的一种,它是将标准支持向量机算法中不等式约束转化为等式约束而得到的[2-4]。
基于多因子量化指标的支持向量机径流预测张楠;夏自强;江红【期刊名称】《水利学报》【年(卷),期】2010(041)011【摘要】利用最小二乘支持向量方法,构建了基于多因子量化指标的径流预测模型.对长江上游寸滩水文站1981-2000年逐月蒸发量、水库容积指标量化后,以不同降雨量和气温作为输入量,建立了15种验证方案,通过穷举搜索二维最小化Gridsearch算法优化出惩罚因子和核宽度,并对2001-2006年逐月径流量进行预测.经验证,方案3、14和12精度均令人满意,其中,方案3精度最高(均方根相对误差为0.11,相关系数为0.89,确定性系数为0.88,输入影响因子为平均降雨量、平均气温、水库库容和蒸发量量化指标4项).通过15种方案的比较发现,Qmax、Qmin、Tmin和Tmax对预测精度有弱化的作用,库容量化指标对预测精度的影响比蒸发量化指标Ezf大.基于多因子量化指标评价体系的支持向量机径流量预测模型体现了不同影响因子对径流量影响的相对程度,实现了精度和实用性的统一,为缺资料地区研究预报提供了新的方法.【总页数】7页(P1318-1324)【作者】张楠;夏自强;江红【作者单位】河海大学水文水资源与水利工程科学国家重点实验室,江苏南京,210098;河海大学水文水资源学院,江苏南京,210098;河海大学水文水资源与水利工程科学国家重点实验室,江苏南京,210098;河海大学水文水资源学院,江苏南京,210098;黄河流域水资源保护局,河南郑州,450004【正文语种】中文【中图分类】P338【相关文献】1.基于小波分解的优化支持向量机模型在水库年径流预测中的应用 [J], 周婷;夏萍;胡宏祥;金菊良2.基于果蝇优化算法的支持向量机径流预测 [J], 吴琼;陈志军3.基于在线增量学习支持向量机的径流预测 [J], 卢家海4.基于阴阳对算法优化的随机森林与支持向量机组合模型及径流预测实例 [J], 何国栋;崔东文5.基于小波分解的优化支持向量机模型在水库年径流预测中的应用 [J], 周婷;夏萍;胡宏祥;金菊良;;;;因版权原因,仅展示原文概要,查看原文内容请购买。
基于果蝇优化算法的支持向量机径流预测
吴琼;陈志军
【期刊名称】《人民黄河》
【年(卷),期】2015(000)009
【摘要】为了提高径流预测的精度和可靠性,将支持向量机应用到单因子月径流预测建模中。
针对支持向量机模型参数的选择费时费力且效果差的问题,利用全局寻优的果蝇算法优化选择支持向量机的惩罚参数和核参数,提出了基于果蝇算法优化支持向量机参数的 FOA - SVM预测模型,并利用新疆某站的月径流历史数据进行了仿真测试。
结果表明:与GA - SVM模型和 PSO - SVM模型相比,FOA - SVM模型能够提高径流预测的效率与精度。
【总页数】4页(P28-31)
【作者】吴琼;陈志军
【作者单位】新疆大学电气工程学院,新疆乌鲁木齐 830049;新疆大学电气工程学院,新疆乌鲁木齐 830049
【正文语种】中文
【中图分类】TV121
【相关文献】
1.果蝇优化算法与支持向量机在年径流预测中的应用 [J], 崔东文;金波
2.基于果蝇优化算法的支持向量机故障诊断 [J], 张翔;陈林
3.多组群教学优化算法-神经网络-支持向量机\r组合模型在径流预测中的应用 [J],
崔东文
4.基于改进果蝇优化算法优化支持向量机的故障诊断 [J], 黄晓璐;周湘贞
5.基于果蝇优化算法的支持向量机参数优化在船舶操纵预报中的应用 [J], 王雪刚;邹早建
因版权原因,仅展示原文概要,查看原文内容请购买。
基于支持向量机的中长期入库径流预报
赵红标;吴义斌
【期刊名称】《黑龙江大学工程学报》
【年(卷),期】2009(036)003
【摘要】采用基于支持向量机的预测模型对水库中长期入库径流进行预报,建立径流预报的SVM模型.预报因子的优劣决定着预测精度的高低.为了提高预报精度,尝试采用模糊优选法对预报因子进行优选.将所建模型应用于新疆雅马渡站的径流预测中,并与没有进行预报因子优选的SVM模型进行比较.结果表明,进行预报因子优化后的SVM模型明显提高了径流的预报精度,具有更高的应用价值.
【总页数】4页(P1-4)
【作者】赵红标;吴义斌
【作者单位】龙滩水电开发有限公司,南宁530000;龙滩水电开发有限公司,南宁530000
【正文语种】中文
【中图分类】P338.2
【相关文献】
1.基于遗传算法的支持向量机在径流中长期预报中的应用 [J], 徐莹;王嘉阳;苏华英
2.基于支持向量机的中长期入库径流预报 [J], 赵红标;吴义斌
3.基于相空间重构的支持向量机方法在径流中长期预报中应用 [J], 刘冀;王本德;袁晶瑄;周惠成
4.基于随机森林和RBF人工神经网络模型的新丰江水库枯季入库径流中长期预报
[J], 郑炎辉; 张力澜; 田兆伟; 陈晓宏
5.基于海洋表面温度的龙羊峡入库径流中长期预报 [J], 魏显贵;潘红忠;王现勋;姚华明
因版权原因,仅展示原文概要,查看原文内容请购买。
基于粒子群最小二乘支持向量机的径流预测
李佳;马光文;杨忠伟;贺玉彬;陶春华
【期刊名称】《人民长江》
【年(卷),期】2012()S2
【摘要】为了处理好径流模拟预测中的确定性和随机性影响因素,提出了粒子群算法PSO(Particle Swarm Opti-mization)优化最小二乘支持向量机LS-SVM(Least Square SVM)参数的径流预测模型。
PSO算法能够基于群体智能进行随机优化,计算简单易于实现且具有更强的全局优化能力。
利用参数优化前后的LS-SVM模型,对新疆伊犁河雅子渡站23 a实测径流进行模拟,并对径流进行预测,结果表明,该模型收敛速度和预测精度令人满意。
【总页数】3页(P60-62)
【关键词】径流预测;径流模型;粒子群;最小二乘支持向量机
【作者】李佳;马光文;杨忠伟;贺玉彬;陶春华
【作者单位】国电大渡河流域水电开发有限公司;四川大学水电学院
【正文语种】中文
【中图分类】TV882.2
【相关文献】
1.基于最小二乘支持向量机的马营河中长期径流预测研究 [J], 周轶成;焦国军
2.动态自适应粒子群优化算法与最小二乘支持向量机在年径流预测中的应用 [J], 崔东文;金波
3.基于最小二乘支持向量机的开都河径流预测 [J], 王暄;屈卫军
4.基于最小二乘支持向量机的龙羊峡径流预测 [J], 陶凤玲;武晟;余生才;肖博
5.基于变分模态分解和改进粒子群算法优化最小二乘支持向量机的短期电价预测[J], 杨昭;张钢;赵俊杰;张灏;蔺奕存
因版权原因,仅展示原文概要,查看原文内容请购买。
基于机器学习算法的径流预测模型研究目录一、内容概览 (2)1. 研究背景 (2)2. 研究意义 (3)3. 研究目的与内容 (4)二、相关理论与技术 (5)1. 径流预测理论基础 (6)2. 机器学习算法概述 (8)3. 深度学习与神经网络 (9)4. 支持向量机与决策树 (10)5. 集成学习方法 (12)三、径流预测模型构建方法 (13)1. 数据预处理 (14)1.1 数据采集与整理 (15)1.2 特征提取与选择 (16)1.3 数据标准化与归一化 (17)2. 模型构建 (18)2.1 基于线性回归的径流预测模型 (19)2.2 基于多元线性回归的径流预测模型 (20)2.3 基于支持向量机的径流预测模型 (21)2.4 基于神经网络的径流预测模型 (22)2.5 基于集成学习的径流预测模型 (24)3. 模型训练与评估 (26)3.1 训练参数设置 (26)3.2 交叉验证策略 (28)3.3 模型性能评价指标 (29)四、实证分析与讨论 (30)1. 实证数据来源与处理 (31)2. 不同模型的预测效果对比 (32)3. 模型优缺点分析 (34)4. 改进方向探讨 (35)五、结论与展望 (37)1. 研究成果总结 (38)2. 存在问题与不足 (39)3. 后续研究方向展望 (40)一、内容概览本文围绕基于机器学习算法的径流预测模型展开研究,首先介绍了径流预测的重要性以及传统预测方法的局限性。
文章详细阐述了基于机器学习算法的径流预测模型的构建过程,包括数据预处理、特征选择、模型建立和模型评估等关键步骤。
在此基础上,文章通过实证分析验证了所提出模型的有效性和可行性,并对比分析了不同机器学习算法在径流预测中的性能优劣。
文章总结了研究成果,并对未来的研究方向进行了展望。
通过本文的研究,有望为径流预测提供一种新的思路和方法,为水资源管理提供科学依据。
1. 研究背景随着全球气候变化的影响日益加剧,径流预测作为水资源管理领域的重要课题,对于提高防洪减灾能力、保障人民生命财产安全具有重要意义。
沈阳农业大学学报,2007-02,38(1):102-105JournalofShenyangAgriculturalUniversity,2007-02,38(1):102-105基于支持向量机的绿地径流系数预测模型的建立武晟1,解建仓1*,汪志荣2,王少波1(1.西安理工大学水资源研究所,西安710048;2.天津理工大学环境科学与安全工程学院,天津300191)摘要:以绿地为下垫面,分析了覆盖度等因素对径流系数的影响。
结果表明:覆盖度低于80%时,草地的下渗能力较小,高于80%时显著增强,径流系数与覆盖度成非线性关系。
为了准确预测绿地的产流量,根据多种影响因素与径流系数构成的多维非线性关系,提出采用ε-支持向量回归机建立绿地径流系数的预测模型,与LM-BP神经网络预测模型进行了比较。
结果证明:ε-支持向量回归机建立的径流系数预测模型具有泛化能力强和预测精度高的特点,为城区绿地产流量的预测提供了新的计算方法。
关键词:ε-支持向量回归机;城市绿地;径流系数;人工神经网络中图分类号:TP18;P34.1文献标识码:A文章编号:1000-1700(2007)01-0102-04RunoffCoefficientForecastingofGreenbeltBasedonε-supportVectorRegressionWUSheng1,XIEJian-cang1*,WANGZhi-rong2,WANGShao-bo1(1.InstituteofWaterResources,Xi’anUniversityofTechnology,Xi’an710048,China;2.SchoolofEnvironmentalScienceandSafetyEngineering,TianjinInstituteofTechnology,Tianjin300191,China)Abstract:Takingthegreenbeltasunderlyingsurface,theinfluencesofcoverdegreeonrunoffcoefficientwereanalyzed.There-sultsshowedthattheinfiltrationcapacitywaslessasthecoverdegreeunder80%anditwasincreasingevidentlyasthecoverdegreeover80%.Therelationshipofrunoffcoefficientandcoverdegreewasnonlinear.Topredicttherunoffamountaccurately,theε-supportvectorregressionmodelbasedonthemultidimensionalnonlinearrelationshipofvariousinfluencefactorsandrunoffcoefficientwaspresentedandcompareditwithANNmodel.Theresultsindicatedthattheε-supportvectorregressionmodelhasthepropertiesofstronggeneralizationcapabilityandhighforecastprecision.Itprovidedanewmethodforforecastingtherunoff-producingamountofcity.Keywords:ε-supportvectorregression;citygreenbelt;runoffcoefficient;artificialneuralnetwork具有可再生性的雨水资源在我国大部分地区还未进行充分利用,然而城市化的不断加快使得硬地面的面积飞速增长,造成降雨径流总量增大,洪峰流量激增,峰现时间提前。
一方面对承担排洪任务的下游河道造成了巨大的压力,另一方面又加剧了城市雨洪的威胁,造成道路淹没、交通堵塞、桥梁冲毁等,直接威胁到了人民生命财产的安全,同时面源污染造成了径流中携带的污染物种类繁多,使城市收纳水体的水质严重下降并成为城市河口污染的重要来源[1]。
近年来对于城市雨水的利用已经成为一个研究热点问题[2,3],采取必要的雨水收集、处理和再利用措施刻不容缓,尤其对北方一些水资源相对缺乏的地区,更应当化害为利,充分利用雨水资源。
增加城市绿化带是拦截降雨径流和增加下渗量的有效方法。
本研究对覆盖度、雨强、降雨历时等影响绿化带拦蓄雨洪能力的因素进行了实验研究,根据径流系数的变化规律,采用支持向量机建立了绿化带降雨径流系数的预测模型。
1实验装置与方法1.1实验设备与下垫面在西安理工大学的露天实验场,架设了一套人工模拟降雨系统,占地60m2,实验装置由供水系统、喷洒系统、测控系统及下垫面4部分组成(图1)。
实验下垫面为1m×10m的城区模拟绿化带,沿10m边长方向的坡度为0.5%。
根据《CJJ/T82-99城市绿化工程施工及验收规范》,在1:1的沙土上,按7:3的比例种植了高羊茅与黑麦草。
收稿日期:2006-06-18基金项目:国家自然科学基金项目(40271022);国家自然科学基金项目(50279041);国家“863”计划研究资助项目(2005AA113150)作者简介:武晟(1978-),男,西安理工大学博士研究生,从事雨水利用及洪涝灾害方面的研究。
通讯作者Correspondingauthor:解建仓(1963-),男,西安理工大学教授,从事水资源系统工程和水利信息化等领域的研究。
第1期1.2实验方法为准确分析各种因素对径流系数变化的影响,实验中严格控制了降雨条件,每组实验只对一种影响因素进行有规律的调整,以便于找出对径流系数变化的影响规律。
各种影响因素的控制方法如下:(1)采用西安理工大学研制的喷淋式喷头(静止式)和美国雨鸟公司生产的SP30-340微型喷头(旋转式)共3种型号,根据每种喷头的喷洒特性,编程实现了绿地实验区在不同降雨强度要求下的喷头组合方式。
(2)将绿化带分为10cm×10cm共计1000个单元,依次对覆盖度100%、90%、80%、70%、60%、50%的绿地和裸地进行实测。
覆盖度用草皮单元占总面积的比例来计算,并尽可能保持剩余草皮的均匀分布。
(3)用烘干法测定土壤初始含水率。
(4)利用翻斗流量计和数据采集仪记录下垫面产流过程。
采用上述步骤,获得了降雨强度、降雨历时、土壤初始含水率、覆盖度等影响因素与径流系数的变化关系的数据。
2建模与结果分析2.1覆盖度对径流系数变化的影响将降雨强度、降雨历时、土壤初始含水率等影响因素控制在小范围内,覆盖度对径流系数变化的影响结果表明(图2):小于60%的覆盖度对应的经流系数变化不大,基本在0.9以上,表明草皮覆盖度小于60%,对提高草地下渗能力的作用不明显,覆盖度达到80%时,径流系数减少的幅度显著增大,从变化趋势可以看出,覆盖度与径流系数成明显的非线性关系。
2.2径流系数预测模型的构建2.2.1ε-SVR模型原理简介支持向量机(supportvectormachine,SVM)在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势,并且已经在模式识别、函数逼近和概率密度估计等方面取得了良好的效果[5-8]。
影响因素与径流系数间关系的模拟属于函数回归问题,因此本研究采用ε-SVR模型进行预测。
该模型中给定的训练集:T={(x1,y1),…(xn,yn)}∈(X×Y)nxi∈X=Rdyi∈Y=Ri=1,…,n式中:xi是影响因素;yi是径流系数。
通过非线性变换x→"(x),将输入空间映射到高维空间(Hilbert空间),构造出最优线性函数。
f(x)=w・"(x)+b(1)据此就可以在特征空间进行线性逼近,常用的判断逼近程度的损失函数包括二次函数、Huber函数、Laplace函数等,本研究采用Vapnik提出的ε-不敏感损失函数:L(x,y,f(x))=|y-f(x)|ε=max{0,|y-f(x)|-ε}(2)式中:ε是一个预先选定的允许误差值,为正数。
在[-ε,+ε]区间内,认为预测函数f(x)与实际值y没有误差,失去了“灵敏性”,所以称为ε-不敏感损失函数,ε可称之为不敏感系数。
根据结构化风险准则,f(x)应当使下式最小:Minw∈Rn,b∈R12||w||2+Cni=1#L(x,y,f(x))(3)式(3)中||W||2/2反映的是回归函数f(x)的泛化能力,C为惩罚因子,这种结构风险最小化方法能够尽量照顾到回归函数的经验风险和泛化能力。
为度量ε-不敏感带之外的训练样本偏离程度,引入非负的松弛变量#i和武晟等:基于支持向量机的绿地径流系数预测模型的建立103・・第38卷沈阳农业大学学报!*i,则用于函数逼近的支持向量机为:Minw∈Rn!i,!*i∈R2n;b∈R12||w||2+Cni=1"L(!i,!*i)(4)S.t.yi-f(x)≤ε+!if(x)-yi≤ε+!*i!i,!*i≥0i=1,2,…,%’’’’&’’’’(n式(4)最小化是一个下凸二次优化问题。
引入Lagrange函数,根据Wolfe对偶含义可以得到相应的对偶问题:min!,!*∈R2n12ni,j=1"(!*i-!i)(!*j-!j)(xi・yj)+εni=1"(!*i+!i)-ni=1"yi(!*i-!i)(5)S.t.ni=1"(!*i-!i)=00≤!i,!*i≤Cn,i=1,2,…,%’’’’’&’’’’’(n解得式(5)的唯一最优解!)=(!)i,!)*i,…,!)n,!)*n)T,则原始问题(4)关于w的唯一解为:w)=ni=1"(!)*i-!)i)xi(6)在支持向量机中引入核函数K(x,x')(Kernelfunction)代替样本向量的内积运算,可以得到决策回归方程:f(x)=ni=1"(!)*i-!)i)K(xi,x')+b(7)由于只有一部分!)*i-!)i≠0,与之对应的样本成为支持向量,故式(7)即为ε-支持向量回归机,此式中不能显式表示出来,使函数逼近的求解直接在输入空间上进行,避开了高维空间,从而避免了计算非线性映射#(x)。
核函数是对称正实数函数,常用的核函数有:多项式核函数:K(x,x')=[$(x・x')+r]d,Gauss基核函数:K(x,x')=exp(-||x-x'||2・$),Sigmoid核函数:K(x,x')=tanh[$(x・x')+r]核函数是SVM理论中最重要的概念之一,通过引入核函数,可以把训练数据集从输入空间非线性的映射到一个高维特征空间(Hilbert空间),在该空间中求解凸优化问题(典型的二次规划问题),并得到唯一解。