SVMlight site(在常见问题解答中)提供了一个计算超高层重量矢量的脚本。它说它“计算支持向量的加权和”。
这是什么意思?也就是说,脚本做了什么以及这个权重向量的含义和用途是什么?
提前致谢!
答案 0 :(得分:2)
在线性情况下,超平面总是可以用d+1
个数字定义,其中d是输入空间的维数,而实际支持向量的数量可能要大得多。通过计算这个超平面(让我们称之为w)你可以获得更紧凑的模型,然后可以用它来执行分类:
cl(x) = sgn(w'x + b)
其中w'是w
的转换在内核版本中,事情变得更加棘手,因为w是特征空间投影的形式,可能是未知的(或计算成本昂贵),因此无法得到这样一个对象的等式(因为它是不再是输入空间中的超平面,而是 - 非常丰富的特征空间中的超平面。)
答案 1 :(得分:1)
“支持向量是训练集的元素,如果删除,它将改变分割超平面的位置。”权重通过提供与超平面正交的向量的坐标来表示该超平面。 “计算支持向量的加权和”在数学上意味着sign(w'*x +b)
,当x
是支持向量而w'
是权重向量的转置时,w'x+b
的值是0表示决策边界。当新的x
到达时,sign(w'x+b)
将确定它属于哪个类。
对于训练样本中权重为0的x
,表示样本对超平面没有贡献,并且包括x
作为支持向量会增加分类错误,或减少保证金。
这是一个参考教程,其中包含更多details的数据。