SVMlight - 找到权重向量的目的是什么？

Question

SVMlight site（在常见问题解答中）提供了一个计算超高层重量矢量的脚本。它说它“计算支持向量的加权和”。

这是什么意思？也就是说，脚本做了什么以及这个权重向量的含义和用途是什么？

提前致谢！

Answer 1

在线性情况下，超平面总是可以用d+1个数字定义，其中d是输入空间的维数，而实际支持向量的数量可能要大得多。通过计算这个超平面（让我们称之为w）你可以获得更紧凑的模型，然后可以用它来执行分类：

cl(x) = sgn(w'x + b)

其中w'是w

的转换

在内核版本中，事情变得更加棘手，因为w是特征空间投影的形式，可能是未知的（或计算成本昂贵），因此无法得到这样一个对象的等式（因为它是不再是输入空间中的超平面，而是 - 非常丰富的特征空间中的超平面。）

Answer 2

“支持向量是训练集的元素，如果删除，它将改变分割超平面的位置。”权重通过提供与超平面正交的向量的坐标来表示该超平面。 “计算支持向量的加权和”在数学上意味着sign(w'*x +b)，当x是支持向量而w'是权重向量的转置时，w'x+b的值是0表示决策边界。当新的x到达时，sign(w'x+b)将确定它属于哪个类。

对于训练样本中权重为0的x，表示样本对超平面没有贡献，并且包括x作为支持向量会增加分类错误，或减少保证金。

这是一个参考教程，其中包含更多details的数据。