使用神经元将数据分类在一起

Question

我开始学习ML，并尝试自行实现单个神经元。我用了 公式作为激​​活函数。

如果数据距离较远，该算法效果很好，但是当数据距离太近时，通常会移入该组之一，从而对数据进行错误分类。您可以在以下图像中看到它。

我理解为什么这是作为S型函数发生的原因，所以对于靠近直线的点有较高的误差。如果神经元认为一组更密集，即使第二组中的某些点将被错误分类，它也会设法远离它们。

我的问题是，如何检测到这种情况（尤其是在高维情况下）以及如何防止这种情况发生？

您可以找到整个脚本为gist on GitHub。我检查了多次，应该没有错误，但是您可以自己查看。