TF2 模型：如何在 GPU 上运行训练，并在 CPU 上进行评估

Question

我在 GPU (Nvidia 3070) 上运行 TF2 模型的训练阶段（基于来自 TF2-Models Zoo 的对象检测预训练模型）。 有没有办法在 CPU 上定义评估阶段（针对训练创建的检查点）？

• 因为训练阶段几乎分配了 GPU 的所有内存，我无法在 GPU 上同时运行它们（训练和评估）。

• 操作系统 - Ubuntu 20.04

• GPU - Nvidia 3070（驱动程序 460）

• TF - 2.4.1

• Python - 3.8.5

谢谢。

Answer 1

就我而言，解决方案是评估函数定义：

os.environ['CUDA_VISIBLE_DEVICES'] = '-1'