交叉熵误差函数如何在普通的反向传播算法中起作用?

时间:2010-05-28 15:32:07

标签: neural-network backpropagation

我正在使用C ++开发一个前馈反向传播网络,但似乎无法使其正常工作。我所依据的网络是使用交叉熵误差函数。但是,我对它并不是很熟悉,即使我想查一查,我仍然不确定。有时似乎很容易,有时很难。网络将解决多项分类问题,据我所知,交叉熵误差函数适用于这些情况。 谁知道它是如何工作的?

1 个答案:

答案 0 :(得分:4)

啊,是的,好的'反向传播。它的乐趣在于,只要它可以区分,它实际上并不重要(实现明智)你使用什么错误函数。一旦你知道如何计算每个输出单元的交叉熵(参见wiki article),你只需要取该函数的偏导数来找到隐藏层的权重,再次找到输入层的权重。 / p>

但是,如果您的问题不是关于实施,而是关于培训困难,那么您的工作就是为您完成的。不同的错误函数在不同的东西上是很好的(最好根据错误函数的定义来推断它),并且这个问题因学习速率等其他参数而复杂化。

希望有所帮助,如果您需要任何其他信息,请告诉我们;你的问题很模糊......