如何使用TF 2.0 tf.recompute_grad?

时间:2019-09-07 11:28:10

标签: tensorflow keras

我想使用内存节省梯度(openai / gradient-checkpointing)来减少神经网络的GPU内存成本,但是我发现在TF 2.0中是不可能的,但我也发现可以使用tf.recompute_grad这个目的。我没有在Google上找到任何示例或教程,所以我在这里问。另外,可以在tf.keras中使用它吗?

0 个答案:

没有答案