NN激活功能

Question

我需要可靠的替代乙状结肠激活功能。 sigmoid函数的问题是格式化输出介于0和1之间。我需要激活函数，输出介于0和255之间。我正在使用反向传播算法训练NN。如果我将使用其他功能，我是否需要调整学习算法？

Answer 1

解决您问题的最简单方法是扩展数据。在训练期间将训练集的输出除以255，当您使用训练模型时，必须将神经网络的输出乘以255.这样您就不必更改梯度计算。

Answer 2

您可以通过将输出乘以255来轻松实现这一点。这会将数据从0到1的范围移动到0到25​​5的范围。

如果更改激活功能，您肯定也需要更改计算。反向传播算法使用梯度下降法，因此您需要相应地合并激活函数的导数。