`
- 浏览:
680513 次
- 性别:
- 来自:
北京
-
0、心得
本文是从LIBSVM的guide中抽出来的要点:http://www.csie.ntu.edu.tw/~cjlin/libsvm/
1、简介
略
2、数据预处理
- ①特征较少时用one-hot code表示,也即有加入分RGB三种颜色,不要R用1,G用2,B用3表示,而是应该用三维向量 (1,0,0), (0,1,0), (0,0,1)表示这三种颜色。
- ②特征的scaling问题:建议将特征缩放到区间[-1,1]或[0, 1] (线性地缩放)
3、核函数的选择
- 一般径向基函数(RBF)比较好;
- 特征维度很高时最好采用Linear kernal
4、参数选择--交叉验证和grid搜索
目标:在测试数据上取得高的正确率(而非在训练数据上!)
k-fold 交叉验证(cross validation):将训练集分为k份,1份做验证,其他k-1份做训练。如此,可以训练k、验证k次,求取平均正确率作为衡量标准。 这样可以有效防止过拟合。
对于参数C和径向基函数的参数γ,可以采用由粗到精的搜索策略。
如先在C=2^-3, 2^-2,..., 2^10; γ=2^-7, ... 2^-3的网格上搜索最优值,
再在其附近的网格内细分网格进行搜索。 (可以并行~~~)
对于大数据集,一个策略是先随机选一部分在粗网格上选取最优参数,再在细化最优参数时对整个训练集进行参数的网格搜索。
选取到最优参数后,再用这组参数重新利用整个训练集进行训练。
5、适于使用linear核函数而非径向基函数的情况
- 样本数<<特征维数,
- 样本数和特征维数都很大,适于使用LIBLINEAR工具箱(比LIBSVM快很多)。
- 样本数>>特征维数,适于使用LIBLINEAR工具箱。
LIBLinear工具箱:http://www.csie.ntu.edu.tw/~cjlin/index.html
分享到:
Global site tag (gtag.js) - Google Analytics
相关推荐
SVM-RFE algorithm:SVM-RFE算法.pdf
包含hik-svm linear-svm lib-svm bsvm
最新版 native-image-installable-svm-java17-windows-amd64-22.3.0.jar最新版 native-image-installable-svm-java17-windows-amd64-22.3.0.jar最新版 native-image-installable-svm-java17-windows-amd64-22.3.0....
基因选择算法 SVMRFE 基因选择算法 SVMRFE 基因选择算法 SVMRFE
svm-km 例子,关于svm-km工具箱的使用方法及例子
基于SVM-RFE支持向量机递归特征消除的回归数据特征选择算法,输出为选择的特征序号(Matlab完整程序和数据) Chinese: Options:可用的选项即表示的涵义如下 -s svm类型:SVM设置类型(默认0) 0 -- C-SVC 1 --v...
一种简单的可视化SVM软件-winsvm.rar一种简单的可视化SVM软件-winsvm.rar一种简单的可视化SVM软件-winsvm.rar一种简单的可视化SVM软件-winsvm.rar
最新版 native-image-installable-svm-java19-linux-amd64-22.3.0.jar最新版 native-image-installable-svm-java19-linux-amd64-22.3.0.jar最新版 native-image-installable-svm-java19-linux-amd64-22.3.0.jar最新...
svm fre 可以运行,非常好用,建议下载
SVM示例-svm_demo.rar 演示SVM如何工作
主要是用来做回归算法与分类算法的训练与测试数据的代码
粒子群优化支持向量机 遗传算法优化支持向量机 网格搜索 遍历法 PSO-SVM GA-SVM 。 用liv-SVM工具箱,选择较好的C和G。 简单容易上手,替换数据即可,有代码解释。
GraalVM Native Image 安装包,安装命令:gu -L install ./native-image-installable-svm-svmee-java11-linux-amd64-20.1.0.jar
svm-light是关于svm的一个源码,方便大家熟悉svm,以及它的使用。
svm-struct-matlab-1.2 已mex版本,不需要再重新mex,方便使用!
GA-SVM预测数据,输入训练样本,运用测试样本测试
偏最小二乘法-人工神经网络-支持向量机-极限学习机
使用matlab实现蜂群SVM,粒子群SVM,遗传算法SVM,数据包含有公共数据集,公共图像数据集,图像特征提取用了词袋,保证可用(公共图像数据集太大,删除了)
SVM法即支持向量机(Support Vector Machine)法,由Vapnik等人于1995年提出,具有相对优良的性能指标。该方法是建立在统计学习理论基础上的机器学习方法。通过学习算法,SVM可以自动寻找出那些对分类有较好区分能力的...
一个简单的SVM应用实例,本人亲测有效,可以查看