tf.nn.softmax_cross_entropy_with_logits是否考虑了批量大小？

Question

问题： {{1}} 会说明批量吗？

在我的LSTM网络中，我提供了不同大小的批量，并且想知道在优化之前是否应该对批量大小的误差进行标准化。

Answer 1

在documentation中，它表示softmax_cross_entropy_with_logits返回长度等于批量大小的向量。要获得标量成本，您可以在该向量上执行tf.reduce_mean。那么您的损失不会受到批量大小的影响。