SVMlight - 找到权重向量的目的是什么?

时间:2013-12-29 22:26:12

标签: machine-learning svm svmlight

SVMlight site(在常见问题解答中)提供了一个计算超高层重量矢量的脚本。它说它“计算支持向量的加权和”。

这是什么意思?也就是说,脚本做了什么以及这个权重向量的含义和用途是什么?

提前致谢!

2 个答案:

答案 0 :(得分:2)

在线性情况下,超平面总是可以用d+1个数字定义,其中d是输入空间的维数,而实际支持向量的数量可能要大得多。通过计算这个超平面(让我们称之为w)你可以获得更紧凑的模型,然后可以用它来执行分类:

cl(x) = sgn(w'x + b)

其中w'是w

的转换

在内核版本中,事情变得更加棘手,因为w是特征空间投影的形式,可能是未知的(或计算成本昂贵),因此无法得到这样一个对象的等式(因为它是不再是输入空间中的超平面,而是 - 非常丰富的特征空间中的超平面。)

答案 1 :(得分:1)

“支持向量是训练集的元素,如果删除,它将改变分割超平面的位置。”权重通过提供与超平面正交的向量的坐标来表示该超平面。 “计算支持向量的加权和”在数学上意味着sign(w'*x +b),当x是支持向量而w'是权重向量的转置时,w'x+b的值是0表示决策边界。当新的x到达时,sign(w'x+b)将确定它属于哪个类。

对于训练样本中权重为0的x,表示样本对超平面没有贡献,并且包括x作为支持向量会增加分类错误,或减少保证金。

这是一个参考教程,其中包含更多details的数据。