caffe做什么记账？

Question

Caffe tutorial声明：

  

网络是一组连接在计算图中的层 - 准确的有向无环图（DAG）。 Caffe为任何DAG图层执行所有簿记，以确保前进和后退传递的正确性。

“所有簿记”的含义是什么？我不明白。
怎么做所有的簿记？

Answer 1

与许多其他深度学习框架一样，Caffe使用随机梯度体面（SGD）训练其模型，实现为梯度反向传播。也就是说，对于一小批训练样例，caffe通过网络（“前向传递”）来提供批次，以计算网络参数的损失。然后，它传回损失梯度（“向后传递”）以根据估计的梯度更新所有参数。

通过“簿记”教程意味着，您无需担心估计渐变和更新参数。一旦您使用现有图层（例如"Convolution"，"ReLU"，"Sigmoid"等），您只需要定义图形结构（网络架构）并提供训练数据和caffe将负责剩余的培训过程：它将向前/向后移动每个小批量，计算损失，估计梯度并更新参数 - 所有这一切。 太棒了，你不觉得吗？ ;）