机器学习 - SVM - 计算向量W时如何计算偏差？

Question

我正在编写SVM Primal的代码，它使用SGD（随机子梯度下降）来优化向量W.

分类方法是符号（w * x +偏差） 我的问题是如何找到它的最佳偏见？ 我想它在W优化期间必须做，但是怎么做？我不知道。

Answer 1

您的假设是sign(<w, x> + b)，想一下x' = [x 1]，然后您可以将您的假设表达为sign(<w', x'>)，其中w' = [w b]。我希望它清楚地表明b与w没有任何区别（唯一的区别是你的正则化术语||w||^2不涉及b）。因此，您只需要d L/ d b，其中L是您的损失函数。