liblinear的准确率为50%

时间:2013-12-17 12:48:45

标签: matlab machine-learning svm libsvm liblinear

我是Liblinear / Libsvm的新手,我在这里遇到了一个很好的问题。

我有非常大的训练数据(2.883.584样本高度不平衡,每个样本都是21维),还有大数据用于测试(262.144样本也有21个维度)。我正在使用LIBSVM(或LibLinear)的线性内核实现,因为我的数据具有大数据特性。文献警告我使用RBF内核和这些数据的问题。

我的问题是:无论我做什么,分类器只预测一个类(具有更多样本的类,或我实验中的负类)。

我到目前为止尝试过:

1-训练平衡和不平衡的数据,不要缩放数据,也不要选择参数。

2-训练平衡和不平衡的数据,使用不同的范围([-1,1]和[0,1])缩放数据,但不选择参数。

3-训练平衡和不平衡的数据,通过参数选择缩放不同范围([-1,1]和[0,1])的数据。

所有这些实验都有81%的准确率,但这些正确的预测都来自负面的。所有正类都被线性svm错误分类。

.model文件非常奇怪,如下所示:

solver_type L2R_L2LOSS_SVC_DUAL
nr_class 2
label 1 -1
nr_feature 21
bias -1
w
0 
0 
nan 
nan 
0 
0 
0 
0 
0 
nan 
nan 
0 
0 
0 
0 
0 
nan 
nan 
0 
0 
0 

当我通过网格搜索进行参数选择时,最好的C总是给我5倍交叉验证,最佳准确度为50%。这就是我在Matlab中进行网格搜索的方法:

for log2c = 1:100,
    cmd = ['-v 5 -c ', num2str(2^log2c)];
    cv = train(label, inst, cmd);
    if (cv >= bestcv),
        bestcv = cv; bestc = 2^log2c; 
    end
    fprintf('%g %g (best c=%g, rate=%g)\n', log2c, cv, bestc, bestcv);
end

编辑:以下是我的培训数据的一个正面和负面示例:

 1  1:4.896000e+01 2:3.374349e+01 3:2.519652e-01 4:1.289031e+00 5:48 6:4.021792e-01 7:136 8:4.069388e+01 9:2.669129e+01 10:-3.017949e-02 11:3.096163e+00 12:36 13:3.322866e-01 14:136 15:4.003704e+01 16:2.168262e+01 17:1.101631e+00 18:3.496498e+00 19:36 20:2.285381e-01 21:136 
-1  1:5.040000e+01 2:3.251025e+01 3:2.260981e-01 4:2.523418e+00 5:48 6:4.021792e-01 7:136 8:4.122449e+01 9:2.680350e+01 10:5.681589e-01 11:3.273471e+00 12:36 13:3.322866e-01 14:136 15:4.027160e+01 16:2.245051e+01 17:6.281671e-01 18:2.977574e+00 19:36 20:2.285381e-01 21:136 

以下是我的测试数据的一个正面和负面样本:

 1  1:71 2:2.562365e+01 3:3.154359e-01 4:1.728250e+00 5:76 6:0 7:121 8:7.067857e+01 9:3.185273e+01 10:-8.272995e-01 11:2.193058e+00 12:74 13:0 14:121 15:6.675556e+01 16:3.624485e+01 17:-1.863971e-01 18:1.382679e+00 19:76 20:3.533593e-01 21:128 
-1  1:5.606667e+01 2:2.480630e+01 3:1.291811e-01 4:1.477127e+00 5:65 6:0 7:76 8:5.610714e+01 9:3.602092e+01 10:-9.018124e-01 11:2.236301e+00 12:67 13:4.912373e-01 14:128 15:5.886667e+01 16:3.891050e+01 17:-5.167622e-01 18:1.527146e+00 19:69 20:3.533593e-01 21:128 

我的数据有问题吗?我应该在网格搜索中增加C范围吗?或者我应该使用其他分类器?

1 个答案:

答案 0 :(得分:1)

对于不平衡的情况,假阳性和假阴性错误的成本是不一样的,因此正负类的惩罚应该是不同的。您可能需要为每个班级选择C +和C-的重量。如果你有比正面模式更多的负面模式,那么你可能想让C +大于C -

model = svmtrain(trainLabels, trainFeatures, '-h 0 -b 1 -s 0 -t 0 -c 10 -w1 C+ -w-1 C-');

通常为C+ * N+ = C- * N-,其中N +和N-分别为正类和负类的样本编号。

另外,请务必选择正确的options。对于您的情况,训练样本数远远大于特征数,线性内核是您在帖子中所说的最佳选择。