下载文档原格式
利⽤Matlab_libsvm构造⽀持向量机回归算法ticclear;clc;Fnum = 4; %输⼊个数/输出个数只能为1个TnumX = 0.8; %训练数据⽐例Terror = 0.2; %误差⼩于Terror的预测⽐例eps = 10^(-7); %误差阈值v=6; %交互检验% 寻找最佳c参数/g参数 CVcmax = 10;cmin = -10;gmax = 10;gmin = -10;cstep = 1;gstep = 1;msestep = 0.05;local = 'C:\Users\37989\Desktop\2688.xlsx';%数据⽂件地址data = xlsread(local);[Ynum,Xnum] = size(data);Train = data(randperm(Ynum),:);Tnum = round(TnumX * Ynum);TSnum = Ynum - Tnum; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%主要修改以上数据%以下代码不要修改% 训练集p_train = Train(1:Tnum,1:Fnum);%2:4 是回弹后的零件 5列是分组标记t_train = Train(1:Tnum,Fnum+1);% 测试集p_test = Train(Tnum + 1:Ynum,1:Fnum); %这个改了 R8000⽣成的只有3列t_test = Train(Tnum + 1:Ynum,Fnum+1);%⽆所谓%% 数据归⼀化% 训练集[pn_train,inputps] = mapminmax(p_train'); %归⼀化⽅法?pn_train = pn_train';[tn_train,outputps] = mapminmax(t_train');tn_train = tn_train';% 测试集pn_test = mapminmax('apply',p_test',inputps);pn_test = pn_test';tn_test = mapminmax('apply',t_test',outputps);tn_test = tn_test';%% SVM模型创建/训练% 寻找最佳c参数/g参数 CV[c,g] = meshgrid(cmin:cstep:cmax,gmin:gstep:gmax);[m,n] = size(c);cg = zeros(m,n);bestc = 0;bestg = 0;error1= Inf;count=1;%循环前h=waitbar(0,'正在计算....');for i = 1:ma=i;for j = 1:n%寻优的cmd参数应该与下⽂训练的cmd相符cmd = ['-v ',num2str(v),' -t 2',' -c ',num2str(2^c(a,j)),' -g ',num2str(2^g(a,j) ),' -s 3 -p 0.1 -q'];%0.01 cg(a,j) = svmtrain(tn_train,pn_train,cmd)*10000;if cg(a,j) < error1error1 = cg(a,j); %回归均⽅根误差bestc = 2^c(a,j);bestg = 2^g(a,j);endif abs(cg(a,j) - error1) <= eps && bestc > 2^c(a,j) %两次的mse相差很⼩取c较⼩的error1 = cg(a,j);bestc = 2^c(a,j);bestg = 2^g(a,j);endwaitbar(count/(m*n),h);count=count+1;endend[cg,ps] = mapminmax(cg,0,1);figure;set(gcf,'position',[0,100,1366,500]);%1 3 是宽度 2 4 是⾼度subplot(1,2,1)[C,h] = contour(c,g,cg,0.0023:msestep:0.5);clabel(C,h,'FontSize',14,'Color','r');xlabel('log_2C','FontName','Times','FontSize',14);ylabel('log_2g','FontName','Times','FontSize',14);firstline = 'SVR参数选择结果图(等⾼线图)[GridSearchMethod]';secondline = ['Best C=',num2str(bestc),' g=',num2str(bestg), ...' CVmse=',num2str(error1)];title({firstline;secondline},'Fontsize',14);grid on;set(gca,'xtick',[cmin:cstep:cmax]);set(gca,'ytick',[gmin:gstep:gmax]);subplot(1,2,2)meshc(c,g,cg);% mesh(X,Y,cg);% surf(X,Y,cg);axis([cmin,cmax,gmin,gmax,0,1]);xlabel('log_2C','FontName','Times','FontSize',14);ylabel('log_2g','FontName','Times','FontSize',14);zlabel('MSE','FontName','Times','FontSize',14);firstline = 'SVR参数选择结果图(3D视图)[GridSearchMethod]';secondline = ['Best C=',num2str(bestc),' g=',num2str(bestg), ...' CVmse=',num2str(error1)];title({firstline;secondline},'Fontsize',14);%% 创建/训练SVM%参考libsvm使⽤说明对cmd参数修改cmd=[' -t 2',' -c ',num2str(bestc),' -g ',num2str(bestg),' -s 3 -p 0.001 '];model = svmtrain(tn_train,pn_train,cmd);%% SVM仿真预测[Predict_2,error_2,decision_values] = svmpredict(tn_test,pn_test,model);% 反归⼀化F= mapminmax('reverse',Predict_2,outputps);toc%% 输出结果E =F - t_test;E =F - t_test;percent=sum(E<Terror)/TSnum*100;MSE=sum(E.^2)/TSnum;mse_norm =error_2(2);R2=error_2(3);SD=std(E);Result=[t_test,F,abs(t_test-F)];fprintf('%4.3f\t%4.3f\t%4.3f\n',Result');fprintf(['\nc=%4.4f g=%4.4f\nSTD=%4.4f MSE=%4.4f R^2 =%4.5f Max=%4.4f',... ' Min =%4.4f Range=%4.4f 误差在%s内=%4.2f%%\n'],bestc,bestg,SD,MSE,... R2,max(E),min(E),max(E)-min(E),num2str(Terror),percent)。
libsvm参数说明简介libsvm是一个支持向量机（Support Vector Machine，SVM）的软件包，由台湾大学林智仁教授等人开发。
它提供了用于二分类和多分类的高效实现，并支持回归和异常检测。
libsvm的主要优势在于其高效的内存使用和计算速度，尤其适用于处理小到中等规模的数据集。
它支持多种核函数，包括线性核、多项式核、高斯核等，可以灵活地适应不同的数据特征。
在使用libsvm进行机器学习任务时，我们需要了解它的参数设置，以便根据具体情况进行调整，以获得更好的性能。
参数说明-s type这个参数用于设置SVM的类型，即用于解决什么类型的问题。
常用的取值有：•0：C-SVC（用于多分类问题）•1：nu-SVC（用于多分类问题）•2：one-class SVM（用于异常检测问题）•3：epsilon-SVR（用于回归问题）•4：nu-SVR（用于回归问题）-t kernel_type这个参数用于设置核函数的类型。
常用的取值有：•0：线性核函数•1：多项式核函数•2：高斯核函数•3：径向基核函数•4：sigmoid核函数-c cost这个参数用于设置惩罚因子（C）的值。
C越大，对误分类的惩罚越重，容错率越低；C越小，对误分类的惩罚越轻，容错率越高。
-g gamma这个参数用于设置高斯核函数和径向基核函数的gamma值。
gamma越大，决策边界越复杂，容易过拟合；gamma越小，决策边界越简单，容易欠拟合。
-p epsilon这个参数用于设置epsilon-SVR中的epsilon值，表示对于回归问题的容错范围。
epsilon越小，容错范围越小，模型越精确；epsilon越大，容错范围越大，模型越宽松。
-n nu这个参数用于设置nu-SVC、one-class SVM和nu-SVR中的nu值，表示支持向量的比例。
nu越大，支持向量的比例越高，模型越复杂；nu越小，支持向量的比例越低，模型越简单。
Matlab下libsvm的配置使⽤【转】LIBSVM是⼀个由台湾⼤学林智仁(Lin Chih-Jen)教授等开发的SVM模式识别与回归的软件包，使⽤简单，功能强⼤，能够在matlab中使⽤。
⼀、安装1.下载在LIBSVM的主页上下载最新版本的软件包（libsvm-3.20），并解压到合适⽬录中。
2.编译如果你使⽤的是64位的操作的系统和Matlab，那么不需要进⾏编译步骤，因为⾃带软件包中已经包含有64位编译好的版本：libsvmread.mexw64、libsvmwrite.mexw64、svmtrain.mexw64、svmpredict.mexw64。
否则，需要⾃⼰编译⼆进制⽂件。
⾸先在matlab中进⼊LIBSVM根⽬录下的matlab⽬录（如C:\libsvm-3.20\matlab），在命令窗⼝输⼊>>mex -setup然后Matlab会提⽰你选择编译mex⽂件的C/C++编译器，就选择⼀个已安装的编译器。
之后Matlab会提⽰确认选择的编译器，输⼊y进⾏确认。
然后可以输⼊以下命令进⾏编译。
>>make注意，Matlab或VC版本过低可能会导致编译失败，建议使⽤最新的版本。
编译成功后，当前⽬录下会出现若⼲个后缀为mexw64（64位系统）或mexw32（32位系统）的⽂件。
3.重命名（可选，但建议执⾏）编译完成后，在当前⽬录下回出现svmtrain.mexw64、svmpredict.mexw64（64位系统）或者svmtrain.mexw32、svmpredict.mexw32（32位系统）这两个⽂件，把⽂件名svmtrain和svmpredict相应改成libsvmtrain和libsvmpredict。
这是因为Matlab中⾃带有SVM的⼯具箱，⽽且其函数名字就是svmtrain和svmpredict，和LIBSVM默认的名字⼀样，在实际使⽤的时候有时会产⽣⼀定的问题，⽐如想调⽤LIBSVM的变成了调⽤Matlab SVM。
libsvm简介和函数调⽤参数说明1. libSVM简介libSVM是台湾林智仁(Chih-Jen Lin) 教授2001年开发的⼀套⽀持向量机库，这套库运算速度挺快，可以很⽅便的对数据做分类或回归。
由于libSVM程序⼩，运⽤灵活，输⼊参数少，并且是开源的，易于扩展，因此成为⽬前国内应⽤最多的SVM的库。
本实验使⽤libSVM3.18版本。
2. libSVM3.18包含的内容（1）Java⽂件夹，主要应⽤于java平台；（2）Python⽂件夹，是⽤来参数优选的⼯具，稍后介绍；（3）tools⽂件夹，主要包含四个python⽂件，⽤来数据集抽样(subset)，参数优选（grid），集成测试(easy), 数据查(checkdata)；（4）windows⽂件夹 —— 包含libSVM四个exe程序包，我们所⽤的库就是他们，⾥⾯还有个heart_scale，是⼀个样本⽂件，可以⽤记事本打开，⽤来测试⽤的。
（5）svm-toy⽂件，⼀个可视化的⼯具，⽤来展⽰训练数据和分类界⾯，⾥⾯是源码，其编译后的程序在windows⽂件夹下；（6）heart_scale⽂件，是测试⽤的训练⽂件（7）其他.h和.cpp⽂件都是程序的源码，可以编译出相应的.exe⽂件。
其中，最重要的是svm.h和svm.cpp⽂件，svm-predict.c、svm-scale.c和svm-train.c（还有⼀个svm-toy.c在svm-toy⽂件夹中）都是调⽤的这个⽂件中的接⼝函数，编译后就是windows下相应的四个exe程序。
另外，⾥⾯的 README 跟 FAQ 是很好的帮助⽂件。
3. 最简单的SVM实验（1）⾸先解压⼯具包，切记⼯具包解压到英⽂的⽬录，因为很多DOS⽆法输⼊中⽂；（2）由于SVM的执⾏必须有参数，所以必须在DOS下输⼊执⾏⽂件，并输⼊参数才能运⾏，所以先打开MS-DOS，Win+R；（3）定位到SVM中的windows⽬录下，DOS命令见附录1，我的⽬录是：D:\MyTests\SVM\libSVM-3.18\windows；（4）进⾏训练，输⼊命令：svm-train heart_scale train.model，其中heart_scale是训练⽂本（如图1）、train.Model是训练后的输出⽂本，输出权系数及各⽀持向量。
在用林智仁老师的LIBSVM-2.82做SVM回归的过程中，深深得益于网上共享的学习笔记以及一些热心网友的帮助（哪怕只是一句提醒），前面想着一定要写个学习笔记。
自己会用了之后，突然发现原来值得讲出来的实在很少，甚至不想再写什么。
想到自己花大概两个月才把一个程序跑明白，觉得还是因为其中有些让自己头疼的问题的，想必其他学习者未尝不需要多花功夫琢磨这些，未免浪费时间（技术问题嘛），还是写一个简单的学习笔记，把自己觉得最要弄明白的难点记下来吧。
装microsoft Visualstudio 6.0（是装python需要的，可能是需要c语言的环境吧）装gnuplot :gp400win32装python试运行程序中遇到的问题读PYTHON写的GRID.PY程序问题1：程序的路径指定问题在程序的相关语句中指出调用的程序的路径注意类似：D:\programm files\gnuplot.exe 这样的路径会报错，因为程序在读语句时在programm后面断句，而不是把programm files整体当作一个路径问题2：命令行运行PYTHON 以及输入参数E:\libsvm-2.82\tools>python gridregcopy.py,首先进入到PYTHON程序的上一级路径然后用python接程序名称以及参数当时的问题是怎么也弄不明白PYTHON程序自带的几个操作窗口都不能进行程序的运行。
呵呵，好像都只是脚本编辑器（反正我能用命令行运行就可以了——何况加一个"！"就可以在MA TLAB中执行）。
另外关于参数，读原程序怎么也不懂，看了魏忠的学习笔记才明白的：OS.ARGV可以在命令行输入，作为OS.ARGV列表的值。
但是注意OS.ARGV[0]默认的就是所执行的程序本身,也就是除了输入的N个参数，OS.ARGV列表实际上有N+1个值，其中输入的第一个参数就是OS.ARGV[1]，也就是它的第二个参数。
libsvm默认参数摘要：1.引言2.libsvm 的概述3.libsvm 的默认参数4.如何设置libsvm 的默认参数5.结论正文：1.引言支持向量机（Support Vector Machine，SVM）是一种非常强大和灵活的监督学习算法，可以应用于各种问题，包括分类和回归。
在SVM 中，libsvm 是一个非常受欢迎的开源软件库，提供了丰富的功能和良好的性能。
然而，对于初学者来说，libsvm 的默认参数可能会让人感到困惑。
在本文中，我们将介绍libsvm 的默认参数，以及如何设置它们。
2.libsvm 的概述libsvm 是一个开源的机器学习库，它提供了支持向量机（SVM）的实现。
libsvm 包含了许多功能，如分类、回归、多任务学习等。
它还有一个易于使用的命令行界面，用户可以通过命令行界面来训练模型、进行预测等。
3.libsvm 的默认参数libsvm 中的默认参数是在其内部算法中使用的参数。
这些参数对于初学者来说可能不太容易理解，但它们对于获得良好的性能非常重要。
libsvm 中的默认参数包括以下内容：- C：C 是一个超参数，用于控制模型的复杂度。
较小的C 值会导致更简单的模型，而较大的C 值会导致更复杂的模型。
- kernel：核函数是用于将输入数据投影到高维空间的函数。
libsvm 中的默认核函数是线性核。
- degree：度数是用于指定多项式核函数的阶数。
- gamma：gamma 是一个超参数，用于控制核函数的形状。
- coef0：coef0 是一个超参数，用于控制多项式核函数中的独立项。
4.如何设置libsvm 的默认参数用户可以通过修改libsvm 的配置文件或者在命令行中设置参数来修改默认参数。
以下是一些常见的参数设置方法：- 使用配置文件：用户可以在libsvm 的安装目录下找到config.txt 文件，该文件包含了所有可用的参数及其默认值。
用户可以编辑该文件，以设置所需的参数。
libsvm参数
LibSVM 是一个支持向量机的实现工具，其参数包括：
1. -s svm_type：SVM 模型的类型，可选参数有：0 C-SVC，1 nu-SVC，2 one-class SVM，3 epsilon-SVR，4 nu-SVR。
2. -t kernel_type：SVM 对应的核函数的类型，可选参数有：0 线性核，1 多项式核，2 RBF 核，3 sigmoid 核，4 precomputed kernel。
3. -c cost：C-SVC，nu-SVC 和epsilon-SVR 模型中的代价因子，值越大，模型对误分类的惩罚就越大。
4. -p epsilon：epsilon-SVR 模型中的精度控制，表示对预测值的容忍程度。
5. -n nu：nu-SVC，one-class SVM 和nu-SVR 模型中的参数，表示支持向量的占比。
6. -d degree：多项式核函数中的数值，表示多项式的次数。
7. -g gamma：RBF 核函数和多项式核函数中的数值，表示核函数的衰减速度。
8. -r coef0：多项式核函数和sigmoid 核函数中的数值。
9. -e epsilon：训练过程中的停止精度，如果误差小于该值，则停止优化。
以上是一些常用的LibSVM 参数，根据不同的任务和数据特征，需要结合具体情况选择适合的参数。
libsvm参数说明（实用版）目录1.引言2.LIBSVM 简介3.LIBSVM 参数说明4.使用 LIBSVM 需要注意的问题5.结束语正文1.引言支持向量机（Support Vector Machine, SVM）是一种非常强大和灵活的监督学习算法，它可以用于分类和回归任务。
在 SVM 的研究和应用中，LIBSVM 是一个非常重要的工具，它为 SVM 的实现和应用提供了强大的支持。
本文将对 LIBSVM 的参数进行详细的说明，以帮助读者更好地理解和使用这个工具。
2.LIBSVM 简介LIBSVM 是一个开源的 SVM 实现库，它提供了丰富的功能和接口，可以支持多种操作系统，包括 Windows、Linux 和 Mac OS 等。
LIBSVM 主要包括三个部分：svm-train、svm-predict 和 svm-plot。
svm-train 用于训练 SVM 模型，svm-predict 用于预测新数据，svm-plot 用于绘制各种图表，以便于观察和分析模型性能。
3.LIBSVM 参数说明LIBSVM 的参数设置对于模型的性能至关重要。
以下是一些常用的参数及其说明：- -train：用于指定训练数据的文件名。
- -test：用于指定测试数据的文件名。
- -model：用于指定模型文件的名称。
- -参数：用于设置 SVM 模型的参数，例如 C、核函数等。
- -cache-size：用于设置缓存大小，以加速训练过程。
- -tolerance：用于设置收敛阈值，控制训练过程的终止条件。
- -shrinking：用于设置是否使用启发式方法进行训练。
- -probability：用于设置是否计算预测概率。
4.使用 LIBSVM 需要注意的问题在使用 LIBSVM 时，需要注意以下问题：- 设置合适的参数：LIBSVM 的参数设置对模型性能有很大影响，需要根据具体问题和数据集进行调整。
- 特征选择：在实际应用中，特征选择对于模型性能至关重要。
libsvm参数说明摘要：一、libsvm 简介- 什么是libsvm- libsvm 的作用二、libsvm 参数说明- 参数分类- 参数详细说明- 核函数参数- 松弛参数- 惩罚参数- 迭代次数参数- 其他参数三、libsvm 参数调整- 参数调整的重要性- 参数调整的方法正文：【libsvm 简介】libsvm 是一款广泛应用于机器学习领域的开源软件，全称是“LIBSVM”，它提供了支持向量机（SVM）的完整实现，可以用于分类和回归等多种任务。
libsvm 不仅支持常见的数据集格式，还提供了丰富的API 接口，方便用户进行二次开发和应用。
libsvm 的主要作用是帮助用户解决高维数据分类和回归问题。
在面对高维数据时，传统的分类算法可能会遇到“维数灾难”，导致分类效果不佳。
而libsvm 通过使用核函数技术，将高维数据映射到低维空间，从而有效地解决了这个问题。
【libsvm 参数说明】libsvm 提供了丰富的参数供用户调整，以达到最佳分类效果。
这些参数主要分为以下几类：1.核函数参数：包括核函数类型（如线性核、多项式核、径向基函数核等）和核函数参数（如径向基函数核的核径宽）。
2.松弛参数：用于控制分类间隔的大小，对最终分类结果有一定影响。
3.惩罚参数：控制模型对误分类的惩罚力度，对分类效果有重要影响。
4.迭代次数参数：控制支持向量机算法的迭代次数，影响模型的收敛速度。
5.其他参数：如学习率、最小化目标函数的迭代次数等。
【libsvm 参数调整】参数调整是libsvm 使用过程中非常重要的一环，合适的参数设置可以使模型达到更好的分类效果。
参数调整的方法主要有以下几种：1.网格搜索法：通过遍历参数空间的各个点，找到最佳参数组合。
这种方法适用于参数空间较小的情况。
2.随机搜索法：在参数空间中随机选取一定数量的点进行遍历，找到最佳参数组合。
这种方法适用于参数空间较大，且网格搜索法效果不佳的情况。
3.贝叶斯优化法：利用贝叶斯理论，对参数进行加权调整，以提高搜索效率。
libsvm参数说明【原创版】目录1.概述2.安装与配置3.参数说明4.应用实例5.总结正文1.概述LIBSVM 是一个开源的支持向量机（SVM）算法库，它可以在多种平台上运行，包括 Windows、Linux 和 Mac OS。
LIBSVM 提供了一系列用于解决分类和回归问题的工具和算法，它的核心是基于序列最小化算法的支持向量机。
2.安装与配置在使用 LIBSVM 之前，需要先安装它。
在 Windows 平台上，可以直接下载LIBSVM 的二进制文件，然后设置环境变量。
对于 Linux 和 Mac OS 平台，需要先安装相应的依赖库，然后编译并安装 LIBSVM。
在安装完成后，需要配置 LIBSVM 的参数，包括选择核函数、设置惩罚参数等。
这些参数对于支持向量机的性能至关重要，需要根据实际问题进行调整。
3.参数说明LIBSVM 的参数主要包括以下几个方面：- 核函数：LIBSVM 支持多种核函数，包括线性核、多项式核、径向基函数（RBF）核和 Sigmoid 核。
核函数的选择取决于问题的性质，需要根据实际问题进行选择。
- 惩罚参数：惩罚参数用于控制模型的复杂度，避免过拟合。
惩罚参数的取值范围是 0 到 1，取值越小，模型的复杂度越高，过拟合的风险也越高。
- 迭代次数：迭代次数用于控制算法的收敛速度，取值越大，收敛速度越快，但可能会影响模型的精度。
- 随机种子：随机种子用于生成随机数，影响模型的初始化和迭代过程。
在实际应用中，建议设置随机种子，以保证模型的可重复性。
4.应用实例LIBSVM 在实际应用中可以用于多种问题，包括分类、回归和排序等。
例如，在人脸检测、车牌识别和文本分类等问题中，可以使用 LIBSVM 来实现支持向量机算法。
5.总结LIBSVM 是一个功能强大的支持向量机库，它提供了多种核函数和参数设置，可以用于解决多种实际问题。
第1页共1页。
