一次或单独计算所有重量？

Question

标题说明了一切。在训练网络时，我是一次计算所有权重还是单独计算它们？

Answer 1

你的意思是什么？ 在训练网络时，您应该使用所有数据，并使用渐变体面算法来更新权重。 您可以使用多线程技术并行计算数据中的某些结果，然后权重就是这些结果的平均值。

Answer 2

你可以这样做。但是，请注意，单独更新权重几乎等同于一次更新所有权重，假设您在给定模型的相同输入示例的情况下更新权重。此外，单独更新权重需要您编写多个for循环，并且需要花费很长时间来更新它们。您可以使用矢量化技术快速完成并立即更新它们。