Libsvm-FarutoGUI版本介绍与使用(《Learn SVM Step by Step》by faruto2011系列视频-应用篇)

Libsvm是一个简单，易于使用和高效的SVM软件分类和回归。

它解决了C-SVM分类，nu-SVM分类，一类SVM，ε-SVM回归和nu-SVM回归。

它还提供了一个自动模型选择工具C-SVM分类。

本文档介绍了libsvm的使用。

Libsvm可在.tw/~cjlin/libsvm在使用libsvm之前，请先阅读COPYRIGHT文件。

目录=================- 快速开始- 安装和数据格式- `svm-train'用法- `svm-predict'用法- `svm-scale'用法- 实用技巧- 例子- 预先计算的内核- 图书馆使用- Java版本- 构建Windows二进制文件- 附加工具：子采样，参数选择，格式检查等- MATLAB / OCTAVE接口- Python接口- 附加信息快速开始===========如果您是SVM的新手，如果数据不大，请转到`tools'目录，并在安装后使用easy.py。

它是一切都是自动的- 从数据缩放到参数选择。

用法：easy.py training_file [testing_file]有关参数选择的更多信息，请参见`工具/自述文件'。

安装和数据格式============================在Unix系统上，键入`make'来构建`svm-train'和`svm-predict'程式。

运行他们没有参数，以显示他们的用法。

在其他系统上，请参阅“Makefile”来构建它们（例如，在此文件中构建Windows二进制文件）或使用预构建的二进制文件（Windows二进制文件位于目录“windows”中）。

培训和测试数据文件的格式是：<label> <index1>：<value1> <index2>：<value2> ...。

libsvm参数说明（实用版）目录1.引言2.LIBSVM 简介3.LIBSVM 参数说明4.使用 LIBSVM 需要注意的问题5.结束语正文1.引言支持向量机（Support Vector Machine, SVM）是一种非常强大和灵活的监督学习算法，它可以用于分类和回归任务。

在 SVM 的研究和应用中，LIBSVM 是一个非常重要的工具，它为 SVM 的实现和应用提供了强大的支持。

本文将对 LIBSVM 的参数进行详细的说明，以帮助读者更好地理解和使用这个工具。

2.LIBSVM 简介LIBSVM 是一个开源的 SVM 实现库，它提供了丰富的功能和接口，可以支持多种操作系统，包括 Windows、Linux 和 Mac OS 等。

LIBSVM 主要包括三个部分：svm-train、svm-predict 和 svm-plot。

svm-train 用于训练 SVM 模型，svm-predict 用于预测新数据，svm-plot 用于绘制各种图表，以便于观察和分析模型性能。

3.LIBSVM 参数说明LIBSVM 的参数设置对于模型的性能至关重要。

以下是一些常用的参数及其说明：- -train：用于指定训练数据的文件名。

- -test：用于指定测试数据的文件名。

- -model：用于指定模型文件的名称。

- -参数：用于设置 SVM 模型的参数，例如 C、核函数等。

- -cache-size：用于设置缓存大小，以加速训练过程。

- -tolerance：用于设置收敛阈值，控制训练过程的终止条件。

- -shrinking：用于设置是否使用启发式方法进行训练。

- -probability：用于设置是否计算预测概率。

4.使用 LIBSVM 需要注意的问题在使用 LIBSVM 时，需要注意以下问题：- 设置合适的参数：LIBSVM 的参数设置对模型性能有很大影响，需要根据具体问题和数据集进行调整。

- 特征选择：在实际应用中，特征选择对于模型性能至关重要。

LIBSVM1 LIBSVM简介LIBSVM是台湾大学林智仁(Lin Chih-Jen)副教授等开发设计的一个简单、易于使用和快速有效的SVM模式识别与回归的软件包，他不但提供了编译好的可在Windows 系列系统的执行文件，还提供了源代码，方便改进、修改以及在其它操作系统上应用；该软件还有一个特点，就是对SVM所涉及的参数调节相对比较少，提供了很多的默认参数，利用这些默认参数就可以解决很多问题；并且提供了交互检验(Cross -SVM回归等问题，包括基于一对一算法的多类模式识别问题。

SVM用于模式识别或回归时，SVM方法及其参数、核函数及其参数的选择，目前国际上还没有形成一个统一的模式，也就是说最优SVM算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件包提供的交互检验功能进行寻优。

ν-SVM回归和ε-SVM分类、νValidation)的功能。

该软件包可以在.tw/~cjlin/免费获得。

该软件可以解决C-SVM分类、-SVM回归等问题，包括基于一对一算法的多类模式识别问题。

SVM用于模式识别或回归时，SVM方法及其参数、核函数及其参数的选择，目前国际上还没有形成一个统一的模式，也就是说最优SVM算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件包提供的交互检验功能进行寻优。

2 LIBSVM使用方法LibSVM是以源代码和可执行文件两种方式给出的。

如果是Windows系列操作系统，可以直接使用软件包提供的程序，也可以进行修改编译；如果是Unix类系统，必须自己编译，软件包中提供了编译格式文件，我们在SGI工作站(操作系统IRIX6.5)上，使用免费编译器GNU C++3.3编译通过。

2.1 LIBSVM 使用的一般步骤：1) 按照LIBSVM软件包所要求的格式准备数据集；2) 对数据进行简单的缩放操作；3) 考虑选用RBF 核函数；4) 采用交叉验证选择最佳参数C与g；5) 采用最佳参数C与g 对整个训练集进行训练获取支持向量机模型；6) 利用获取的模型进行测试与预测。

libsvm参数说明摘要：一、libsvm 简介- 什么是libsvm- libsvm 的作用二、libsvm 参数说明- 参数分类- 参数详细说明- 核函数参数- 松弛参数- 惩罚参数- 迭代次数参数- 其他参数三、libsvm 参数调整- 参数调整的重要性- 参数调整的方法正文：【libsvm 简介】libsvm 是一款广泛应用于机器学习领域的开源软件，全称是“LIBSVM”，它提供了支持向量机（SVM）的完整实现，可以用于分类和回归等多种任务。

libsvm 不仅支持常见的数据集格式，还提供了丰富的API 接口，方便用户进行二次开发和应用。

libsvm 的主要作用是帮助用户解决高维数据分类和回归问题。

在面对高维数据时，传统的分类算法可能会遇到“维数灾难”，导致分类效果不佳。

而libsvm 通过使用核函数技术，将高维数据映射到低维空间，从而有效地解决了这个问题。

【libsvm 参数说明】libsvm 提供了丰富的参数供用户调整，以达到最佳分类效果。

这些参数主要分为以下几类：1.核函数参数：包括核函数类型（如线性核、多项式核、径向基函数核等）和核函数参数（如径向基函数核的核径宽）。

2.松弛参数：用于控制分类间隔的大小，对最终分类结果有一定影响。

3.惩罚参数：控制模型对误分类的惩罚力度，对分类效果有重要影响。

4.迭代次数参数：控制支持向量机算法的迭代次数，影响模型的收敛速度。

5.其他参数：如学习率、最小化目标函数的迭代次数等。

【libsvm 参数调整】参数调整是libsvm 使用过程中非常重要的一环，合适的参数设置可以使模型达到更好的分类效果。

参数调整的方法主要有以下几种：1.网格搜索法：通过遍历参数空间的各个点，找到最佳参数组合。

这种方法适用于参数空间较小的情况。

2.随机搜索法：在参数空间中随机选取一定数量的点进行遍历，找到最佳参数组合。

这种方法适用于参数空间较大，且网格搜索法效果不佳的情况。

3.贝叶斯优化法：利用贝叶斯理论，对参数进行加权调整，以提高搜索效率。

SVM模式识别与回归软件包(LibSVM)详解SVM模式识别与回归软件包――LibSVMSVM用于模式识别或回归时，SVM方法及其参数、核函数及其参数的选择，目前国际上还没有形成一个统一的模式，也就是说最优SVM算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件包提供的交互检验功能进行寻优。

目前，LIBSVM拥有Java、Matlab、C#、Ruby、Python、R、Perl、Common LISP、LabView等数十种语言版本。

最常使用的是Matlab、Java和命令行的版本。

2：处理数据，把数据制作成LIBSVM的格式，其每行格式为： label index1:value1 index2:value2 ...其中我用了复旦的分类语料库，当然我先做了分词，去停用词，归一化等处理了 3：使用svm-train.exe训练，得到****.model文件。

里面有支持向量，gamma值等信息 4：使用svm-predict.exe做测试这里有几个问题现在必须说明：1：有关数据格式， index1:value1 index2:value2 ...这里面的index1，index2必须是有序的。

我测试了好多次才发现了这个问题，因为我原来做实验的数据室不必有序的。

2：有关python语言，python有些版本不同导致一些语法也是有差异的，建议使用低版本的，如2.6，比如2.6和3.*版本的有关print的规定是有差别的。

这几个.exe文件里面很多参数可以调的，我暂时是想学习下所以都只用了默认值了。

现在做好标记，以后要真做实验用他可以随时用上！2.准备好数据，首先要把数据转换成Libsvm软件包要求的数据格式为： labelindex1:value1 index2:value2 ...其中对于分类来说label为类标识，指定数据的种类；对于回归来说label为目标值。

（我主要要用到回归）Index是从1开始的自然数，value是每一维的特征值。

libsvm使用说明_光环大数据培训机构libsvm简介LIBSVM 是台湾大学林智仁(Lin Chih-Jen)副教授等开发设计的一个简单、易于使用和快速有效的 SVM 模式识别与回归的软件包，他不但提供了编译好的可在 Windows 系列系统的执行文件，还提供了源代码，方便改进、修改以及在其它操作系统上应用；该软件还有一个特点，就是对 SVM 所涉及的参数调节相对比较少，提供了很多的默认参数，利用这些默认参数就可以解决很多问题；并且提供了交互检验(Cross-SVM回归等问题，包括基于一对一算法的多类模式识别问题。

SVM 用于模式识别或回归时， SVM方法及其参数、核函数及其参数的选择，目前国际上还没有形成一个统一的模式，也就是说最优 SVM 算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件包提供的交互检验功能进行寻优的功能。

该软件包可以在.tw/~cjlin/免费获得。

——简介摘录自《LIBSVM使用方法.pdf》libsvm编译安装以Java版为例，下载libsvm-3.20.zip后，从java目录中得到全部源码，其他不以.java结尾的都是无关的文件。

新建Maven项目，或者直接clone我的Maven repository，项目结构如图：数据集获取数据集libsvm-3.20.zip中附带了一个heart_scale数据集，其主页上也提供了很多数据集，我整理了三个作为例子：数据集格式libsvm每行使用的格式如下：<label> <index1>:<value1> <index2>:<value2> …label为类别标号，index为特征序号，value为特征的值value为0时该项可以省略（大规模数据时节省存储空间）比如dataset/iris.scale.txt：1 1:-0.555556 2:0.5 3:-0.694915 4:-0.753 1:-0.166667 2:-0.333333 3:0.38983 4:0.9166672 1:-0.333333 2:-0.75 3:0.0169491 4:-4.03573e-081 1:-0.833333 3:-0.864407 4:-0.9166671 1:-0.611111 2:0.0833333 3:-0.864407 4:-0.9166673 1:0.611111 2:0.333333 3:0.728813 4:13 1:0.222222 3:0.38983 4:0.5833332 1:0.222222 2:-0.333333 3:0.220339 4:0.1666672 1:-0.222222 2:-0.333333 3:0.186441 4:-4.03573e-08…这是（UCI / Iris Plant, 4 features, 3 classes）提供的数据集，一共4个特征，3种类：1. sepal length in cm2. sepal width in cm3. petal length in cm4. petal width in cm5. class:— Iris Setosa— Iris Versicolour— Iris Virginica分别描述了3种鸢尾花。

libsvm参数说明【原创版】目录1.概述2.安装与配置3.参数说明4.应用实例5.总结正文1.概述LIBSVM 是一个开源的支持向量机（SVM）算法库，它可以在多种平台上运行，包括 Windows、Linux 和 Mac OS。

LIBSVM 提供了一系列用于解决分类和回归问题的工具和算法，它的核心是基于序列最小化算法的支持向量机。

2.安装与配置在使用 LIBSVM 之前，需要先安装它。

在 Windows 平台上，可以直接下载LIBSVM 的二进制文件，然后设置环境变量。

对于 Linux 和 Mac OS 平台，需要先安装相应的依赖库，然后编译并安装 LIBSVM。

在安装完成后，需要配置 LIBSVM 的参数，包括选择核函数、设置惩罚参数等。

这些参数对于支持向量机的性能至关重要，需要根据实际问题进行调整。

3.参数说明LIBSVM 的参数主要包括以下几个方面：- 核函数：LIBSVM 支持多种核函数，包括线性核、多项式核、径向基函数（RBF）核和 Sigmoid 核。

核函数的选择取决于问题的性质，需要根据实际问题进行选择。

- 惩罚参数：惩罚参数用于控制模型的复杂度，避免过拟合。

惩罚参数的取值范围是 0 到 1，取值越小，模型的复杂度越高，过拟合的风险也越高。

- 迭代次数：迭代次数用于控制算法的收敛速度，取值越大，收敛速度越快，但可能会影响模型的精度。

- 随机种子：随机种子用于生成随机数，影响模型的初始化和迭代过程。

在实际应用中，建议设置随机种子，以保证模型的可重复性。

4.应用实例LIBSVM 在实际应用中可以用于多种问题，包括分类、回归和排序等。

例如，在人脸检测、车牌识别和文本分类等问题中，可以使用 LIBSVM 来实现支持向量机算法。

5.总结LIBSVM 是一个功能强大的支持向量机库，它提供了多种核函数和参数设置，可以用于解决多种实际问题。

第1页共1页。

libSVM的使用文档11. 程序介绍和环境设置windows下的libsvm是在命令行运行的Console Program。

所以其运行都是在windows的命令行提示符窗口运行（运行，输入cmd）。

运行主要用到的程序，由如下内容组成：libsvm-2.9/windows/文件夹中的：svm-train.exesvm-predict.exesvm-scale.exelibsvm-2.9/windows/文件夹中的：checkdata.pysubset.pyeasy.pygrid.py另外有：svm-toy.exe，我暂时知道的是用于演示svm分类。

其中的load按钮的功能，是否能直接载入数据并进行分类还不清楚，尝试没有成功；python文件夹及其中的svmc.pyd，暂时不清楚功能。

因为程序运行要用到python脚本用来寻找参数，使用gnuplot来绘制图形。

所以，需要安装python和Gnuplot。

（Python v3.1 Final可从此下载：/detail/33/320958.shtml）（gnuplot可从其官网下载：）为了方便，将gnuplot的bin、libsvm-2.9/windows/加入到系统的path中，如下：gnuplot.JPGlibsvm.JPG这样，可以方便的从命令行的任何位置调用gnuplot和libsvm的可执行程序，如下调用svm-train.exe:pathtest.JPG出现svm-train程序中的帮助提示，说明path配置成功。

至此，libsvm运行的环境配置完成。

下面将通过实例讲解如何使用libsvm进行分类。

2. 使用libsvm进行分类预测我们所使用的数据为UCI的iris数据集，将其类别标识换为1、2、3。

然后，取3/5作为训练样本，2/5作为测试样本。

使用论坛中“将UCI数据转变为LIBSVM使用数据格式的程序”一文将其转换为libsvm所用格式，如下：训练文件tra_iris.txt1 1:5.4 2:3.4 3:1.7 4:0.21 1:5.1 2:3.7 3:1.5 4:0.41 1:4.6 2:3.6 3:1 4:0.21 1:5.1 2:3.3 3:1.7 4:0.51 1:4.8 2:3.4 3:1.9 4:0.2……2 1:5.9 2:3.2 3:4.8 4:1.82 1:6.1 2:2.8 3:4 4:1.32 1:6.3 2:2.5 3:4.9 4:1.52 1:6.1 2:2.8 3:4.7 4:1.22 1:6.4 2:2.9 3:4.3 4:1.3……3 1:6.9 2:3.2 3:5.7 4:2.33 1:5.6 2:2.8 3:4.9 4:23 1:7.7 2:2.8 3:6.7 4:23 1:6.3 2:2.7 3:4.9 4:1.83 1:6.7 2:3.3 3:5.7 4:2.13 1:7.2 2:3.2 3:6 4:1.8……测试文件tes_iris.txt1 1:5.1 2:3.5 3:1.4 4:0.21 1:4.9 2:3 3:1.4 4:0.21 1:4.7 2:3.2 3:1.3 4:0.21 1:4.6 2:3.1 3:1.5 4:0.21 1:5 2:3.6 3:1.4 4:0.21 1:5.4 2:3.9 3:1.7 4:0.4……2 1:7 2:3.2 3:4.7 4:1.42 1:6.4 2:3.2 3:4.5 4:1.52 1:6.9 2:3.1 3:4.9 4:1.52 1:5.5 2:2.3 3:4 4:1.32 1:6.5 2:2.8 3:4.6 4:1.5……3 1:6.3 2:3.3 3:6 4:2.53 1:5.8 2:2.7 3:5.1 4:1.93 1:7.1 2:3 3:5.9 4:2.13 1:6.3 2:2.9 3:5.6 4:1.83 1:6.5 2:3 3:5.8 4:2.2……libsvm的参数选择一直是令人头痛的问题。