即使使用训练数据,LIBSVM也无法准确预测

时间:2014-04-26 17:13:22

标签: python machine-learning svm libsvm

我有以下代码获取一组图像,每个训练集约50个,然后创建一个线性模型并尝试对数据进行分类。我也有一套测试装置,但它甚至无法以任何精度对训练数据进行分类。我正在加载图像的方式是否有错误?我很乐意提供更多的代码或我的输出,如果它会有所帮助。

def create_image_list(file_path):
    image_list = []
    for filename in glob.glob(file_path):
        img = Image.open(filename)
        img_resized = img.resize((32, 32), Image.ANTIALIAS)
        pix = img.load()
        pixlist = []
        for x in range(0, 32):
            for y in range(0,32):
                pixlist.append(pix[x,y][0])
                pixlist.append(pix[x,y][1])
                pixlist.append(pix[x,y][2])
        image_list.append(pixlist)
    return image_list

dalmation_training = create_image_list('/images/dalmatian/training/*')
dollabill_training = create_image_list('/images/dollar_bill/training/*')
pizza_training = create_image_list('/images/pizza/training/*')
soccer_ball_training = create_image_list('/images/soccer_ball/training/*')
sunflower_training = create_image_list('/images/sunflower/training/*')

c = '1e2'
testing_set = dalmation_training + dollabill_training + pizza_training + soccer_ball_training + sunflower_training

dalmation_y = [1]*len(dalmation_training ) + [-1]*len(dollabill_training) + [-1]*len(pizza_training) + [-1]*len(soccer_ball_training) + [-1]*len(sunflower_training)
dalmation_model_linear = svm_train(dalmation_y, testing_set, '-t 0 -c %s -b 1 -q' % c)

dollabill_y = [-1]*len(dalmation_training ) + [1]*len(dollabill_training) + [-1]*len(pizza_training) + [-1]*len(soccer_ball_training) + [-1]*len(sunflower_training)
dollabill_model_linear = svm_train(dollabill_y, testing_set, "-t 0 -c %s -b 1 -q" % c)

pizza_y = [-1]*len(dalmation_training ) + [-1]*len(dollabill_training) + [1]*len(pizza_training) + [-1]*len(soccer_ball_training) + [-1]*len(sunflower_training)
pizza_model_linear = svm_train(pizza_y, testing_set, "-t 0 -c %s -b 1 -q" % c)

soccer_ball_y = [-1]*len(dalmation_training ) + [-1]*len(dollabill_training) + [-1]*len(pizza_training) + [1]*len(soccer_ball_training) + [-1]*len(sunflower_training)
soccer_ball_model_linear = svm_train(soccer_ball_y, testing_set, "-t 0 -c %s -b 1 -q" % c)

sunflower_y = [-1]*len(dalmation_training) + [-1]*len(dollabill_training) + [-1]*len(pizza_training) + [-1]*len(soccer_ball_training) + [1]*len(sunflower_training)
sunflower_model_linear = svm_train(sunflower_y, testing_set, "-t 0 -c %s -b 1 -q" % c)

print 'dalmation linear'
result1, something, p1 = svm_predict([1]*len(testing_set), testing_set, dalmation_model_linear, "-b 1")
print 'dollabill linear'
result2, something, p2 = svm_predict([1]*len(testing_set), testing_set, dollabill_model_linear, "-b 1")
print 'pizza linear'
result3, something, p3 = svm_predict([1]*len(testing_set), testing_set, pizza_model_linear, "-b 1")
print 'soccer linear'
result4, something, p4 = svm_predict([1]*len(testing_set), testing_set, soccer_ball_model_linear, "-b 1")
print 'sunflower linear'
result5, something, p5 = svm_predict([1]*len(testing_set), testing_set, sunflower_model_linear, "-b 1")

当我运行这个并运行一些准确度测量时,每次使用最后一个数据集时,它的大约是20%,向日葵的准确度接近100%,其他接近5%。我相信我把它放在libsvm的正确格式中,我找不到任何线索。我尝试了从1e-8到1e8的不同c值,并且每个值的准确度略有不超过5%。

任何意见都会非常感激,我很乐意提供更多信息!

1 个答案:

答案 0 :(得分:2)

  1. 您在设计中有一个很大的假设,那就是"多个类的每个样本中所有像素的RGB像素值创建了可线性区分的独特模式"。根据我的经验,这是不正确的。大多数使用SVM处理图像分类问题的人寻找比纯RGB或图像中的强度值(例如边缘,角落等)更高级别的特征,并且已经有几种已知技术在提取有用特征方面相对较好地工作(例如HOG用于行人检测)。 这是您的代码的最大问题,即使您可能认为接下来的三个部分会更好地回答您关于准确性问题的问题。
  2. 你的负面训练集大约是正面训练集的4倍。 Libsvm默认情况下不能很好地处理这种偏差,导致严重偏斜的超平面。无论如何,所有当前SVM模型很可能为所有测试样本返回-1。每当准备训练集时,通过随机选择一些负样本来调整负数的数量,使其几乎与正数相匹配。
  3. 您的测试设计不正确。您将整个testing_set列表传递给svm_predict,对于真实标签,您传递[1]*len(testing_set)这是不正确的。对于dalmation模型,真正的类值应该是先前计算的dalmation_y
  4. 请记住,你在这里做的是"测试训练样本的准确性"这不是一种完全可以接受的测量精度的方法。相反,您需要将整个样本集拆分为培训和测试 - 甚至更好地分为三个部分的培训,验证和测试 - 培训大约是测试集的3-4倍,然后使用培训培训模型在测试集上设置和测试。