感知器学习算法：算法的收敛证明，为什么|| w * ||是等于1还是这个条件是必要的？

Question

我正在研究感知学习，并通过以下链接（https://www.cse.iitb.ac.in/~shivaram/teaching/cs344+386-s2017/resources/classnote-1.pdf）学习算法的收敛证明：如图所示的假设1（线性可分性）。我不知道为什么|| w * || = 1或为什么这个条件是必要的，你能帮我理解吗？谢谢！

Answer 1

规范假设只是为了分析的简单性，很容易证明假设不是必要的，因为它实际上意味着丢弃它。

假设存在w（|| w || = Z> 0），gamma> 0，

yi(<w, xi>) > gamma

然后是相同的伽玛：

yi(<Zw/||w||, xi>) > gamma

从而

|Z| yi(<w/||w||, xi>) > gamma

所以对于w * = w / || w || （所以|| w * || = 1），gamma * = gamma / | Z | ＆GT; 0

yi(<w*, xi>) > gamma*

总结证明如果存在任何w（具有任意范数Z）和伽马，则还存在具有范数1的w *（并且简单地我们必须将原始伽马除以Z）和伽马* =伽马/ Z.

这样做的唯一原因是使证明中的常量更简单，但假设本身是多余的。