具有Sigmoid激活的神经网络是否使用阈值？

Question

我在这里有点困惑。我刚刚开始研究神经网络的主题，我构建的第一个神经网络使用了每个神经元上具有阈值的步骤激活。现在我不想实现sigmoid激活，但似乎这种类型的激活不使用阈值，只有神经元之间的权重。但是在我发现的信息中，有一些阈值，只有我找不到激活函数的位置。

神经网络中的sigmoid激活函数是否使用了阈值？

Answer 1

在步骤激活中没有离散跳跃。阈值可以被认为是sigmoid函数为0.5的点。一些sigmoid函数将此值设置为0，而某些函数将其设置为不同的“阈值”。

步进函数可以被认为是具有陡度设置为无穷大的S形函数的版本。在这种情况下有一个明显的阈值，对于不太陡峭的S形函数，阈值可以被认为是函数值为0.5或最大陡度点。

Answer 2

Sigmoid函数的值在[0;1]范围内，0.5被视为阈值，如果h(theta) < 0.5我们假设它的值为0，如果h(theta) >= 0.5然后它是1。

阈值仅用于网络的输出层，仅在分类时使用。因此，如果您尝试在4个类之间进行分类，那么输出图层有4个节点y = [y1,y2,y3,y4]，您将使用此阈值来指定y[i] 1或0

Answer 3

它不需要。 Sigmoid曲线本身可以作为一个阈值。