交叉熵和日志丢失错误有什么区别？

Question

交叉熵和日志丢失错误有什么区别？两者的公式似乎非常相似。

Answer 1

它们基本相同;通常，对于二元分类问题，我们使用术语 log loss ，对于多类分类的一般情况，我们使用更一般的交叉熵（丢失），但即便如此区别不一致，您经常会发现这些术语可以互换使用。

来自Wikipedia entry for cross-entropy：

  

物流损失有时被称为交叉熵损失。它也被称为log loss

来自fast.ai wiki entry on log loss：

  

根据上下文，对数丢失和交叉熵略有不同，但在机器学习中，当计算0到1之间的错误率时，它们会解决相同的问题。

来自ML Cheatsheet：

  

交叉熵损失或对数损失测量分类模型的性能，该分类模型的输出是介于0和1之间的概率值。