- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
i 1
a i [ y i ( w x i b ) 1]
n
（1-19）
可得上述问题的对偶问题为：
m ax
2
i 1
n
n
n
yi y j ( xi x j ) ai a j
a
j 1
j
（1-20）
j 1
s .t .
i 1
yiai 0
ai 0
式(1-19)分别对w, b, a求偏微分：
2n h
2
1)
n 8
2
)] （1-3）
假设有： 4 e x p [ h ((ln
2n h
1)
4 ]
n 8
)]
（1-4） （1-5）
则有：
8 n
[ h (ln
2n h
1) ln
其中函数f属于候选集F，h是F得VC维，R(f)是F的某个函数的期 望风险，e m p ( f ) 是它的经验风险。 R
( 1 x ) b1 k 1
图 1-5 最优分类面示意图
调整b和k的值得：
( x ) b -1 ( x ) b 1
则求最优分类面可以表示为： 2 m ax
（1-16）
（1-17）
s .t .
yi 1
yi 1
( x ) b 1
（1-1） （1-2）
R em p ( h ) E
1 m
i 1
m
L ( h ( x I ), y )
1
(2). 结构风险风险最小化
根 据 V a p n ik 的 统 计 学 理 论
[2 4 ]
P [s u p ( R ( f ) R e m p ( f ) } 4 e x p [ h ((ln
* * * *
i 1
m
* i
fi (d )
*
i 1
n
* i
hi ( d ) 0
*
则其对偶问题的解就是原始问题的解
[24] 袁亚湘，孙文瑜．最优化理论与方法[M]．北京：科学出版社，1997．
1.2 神经网络理论
图1-3 神经元模型示意图
u i xi i 1 y ( t ) f [ u ( t )] i i
３.神经网络与支持向量机在蜂胶 液相数据识别上的建模
3.1 BP神经网络对蜂胶液相数据样本进行分类
图3.1 BP网络实际输出与预测输出 表3-1 不同训练次数的BP网络对蜂胶分类结果 隐含输出层 tansig tansig logsig logsig 输出层函数 purelin tansig purelin tansig 准确率 67.21% 42.62% 55.74% 42.62% 均方误差 0.2164 0.5743 0.2331 0.5738 训练时间(s) 49 43 45 51
[28] V.N.Vapnik，统计学习理论的本质[M]．北京：清华大学出版社， 2000.
当
0 1
8 n [ h (ln 2n h 1) ln 4
R ( f ) R em p ( f )
]
（1-6）
图2.1 结构风险示意图
[28] V.N.Vapnik，统计学习理论的本质[M]．北京：清华大学出版社， 2000.
i 1
（1-11） （1-12） （1-13） （1-14）
当 0时
L ( x , , ) f 0 ( x )
i 1
即有： in f L ( x , , ) in f f 0 ( x ) d 转化为： ax m
s .t .
in f L ( x , , )
0
2.支持向量机在药材识别上的应用
1. 支持向量机
陈艳江： 基于支持向量机的中药太赫兹光谱鉴别
2. 支持向量机的算法改进
2.1 基于PSO算法求参数的支持向量机
张庆：基于PSO和分组训练的SVM快速优化方法
2.2 最小二乘支持向量机
徐志明：基于最小二乘支持向量回归机燃煤锅炉结 渣特性预测
三、技术路线
i 1
i
hi ( x )
满足：f
( d ) 0, i 1, 2, m i
*
h i ( d ) 0, i 1, 2, n
*
i 0, i 1, 2, m
*
i f i ( d ) 0, i 1, 2, m
* *
x L ( d , , ) f 0 ( d )
式(1-14)为式(1-8)的对偶问题
[24] 袁亚湘，孙文瑜．最优化理论与方法[M]．北京：科学出版社，1997．
KKT条件：如果有约束条件(1-9)和(1-10)成立，使得 L a g ra n g e 函数： m n
L ( x , , ) f 0 ( x )
i 1
i
fi ( x)
(R G B)
R、G、B的能量定义式为： 均值定义式为： 方差定义式为：
E
i 1 j 1
m
n
H ij
2
i 1 j 1
m
m
H ij
2
（1-34） （1-35）
n
H
i 1 j 1
m
n
H ij / m n
2
i 1 j 1
m
m
H ij / m
m
2
2
q
（1-25）
2
K ( x , xi ) ex p ( x xi
/ 2 )
2
（1-26） （1-27）
K ( x , x i ) tan h ( ( x x i ) )
1.4 支持向量机的几种改进算法
1.4.1 PSO算法
图1-7 粒子群算法(PSO)求解流程图 [41] 张庆，刘丙杰．基于PSO和分组训练的SVM参数快速优化算法[J]．科学技术与工程．2008， 8(16)：4613-4616．
1.1.2 凸二次规划理论
凸集的概念：假设集合 S
R
n
x ， 1 , x 2 S， [0 ,1 ]
x1 + (1 - ) x 2 S
S1 x1 S2 图1-1 凸集示意图 图1-2 非凸集示意图 x2
（1-7）
凸函数的概念
[24] 袁亚湘，孙文瑜．最优化理论与方法[M]．北京：科学出版社，1997．
图3.2 BP网络实际输出与预测输出 表3-2 不同训练次数的BP网络对蜂胶分类结果
训练次数
5000
准确率
72.13%
均方误差
0.2787
运行时间(s)
83
10000 20000
40000 50000
75.41% 77.05%
80.33% 83.16%
0.2131 0.2295
0.1967 0.0984
m
(H
i 1 j 1
m
n
ij
H ) / mn
(H
i 1 j 1
ij
H)/m
（1-36）
2
对比度定义式为： I
i 1 j 1
n
H (i j )
2
2
（1-37）
２．SVMtoolbox工具箱介绍
工具箱介绍
Matlab2010 SVMtoolbox-林志仁 LS-SVMtoolbox.16
凸规划问题就是指最优化问题：
m in
f (x)
（1-8） （1-9） （1-10）
s .t .
f i ( x ) 0 , i 1, m
h i ( x ) 0 , i 1, n
当 2 一个凸二次规划问题。
f ( x)=
1
x H x r x，H是半正定矩阵，则上述问题为
基于支持向量机的云南 蜂胶识别
研究生： 专 业：信号与信息处理 导 师： 教授
本文总体框架
画图
一、选题背景及意义
1.云南中药材发展状况--蜂胶 2.课题来源：国家民委科研项目基金 (09YN06)- 民族药数据库建设
二、研究现状
1.神经网络在药材识别上的应用
庞涛涛，姚建斌，杜黎明．人工神经网 络分类鉴别苦丁茶红外光谱
图像输入 图像变换 图像复原
特征提取
图1-9 图像处理与图像识别的关系
图像识别
图像分割
图1-10 阈值分割法分割蜂胶图片
特征提取 RGB 模式转换到HIS模式：
H cos {
1
(R G ) (R B) 2[( R G ) ( R B )( G B )]
2
1
a y i ( ( x i ) ( x j )) b
（1-29）
[45] 李方方，赵英凯.基于Matlab的最小二乘支持向量机的工具箱及其应用[D].计算 机应用，2006年12月第26卷.
1.4.3 稀疏化的最小二乘支持向量机算法
图1-8 拉格朗日乘子alpha的值分布图
1.5 图像识别技术．
n
（1-15）
BP神经网络
输入层
隐含层
输出层
图1-4 BP神经网络拓扑图
tansig函数： y= 2 /[1 -e x p (-2 x )]-1 purelin函数：
