Pytorch 0.4：在培训期间，是否应将网络输入的require_grad标志设置为True？

Question

在我上一次训练期间，输入的requires_grad标志是默认的False。我想知道是否应该将其设置为True。

Answer 1

一般来说：

• 对于要训练的所有张量/权重，requires_grad标志必须为 True 。
  您的参数就是这种情况。 权重和偏向。因此，您希望标记为 True 。但这已经是nn.Linear，nn.Embedding等预定义模块的默认值。 nn.Conv2d等。因此您不必更改它。

• 对于输入之类的东西，requires_grad标志必须为 False ，因为您不想训练输入数据。

如果您想知道更具体的内容，我希望这能回答您的问题！