我们旨在通过迁移到GPU来减少推理过程中的CPU使用率。但是，当我们在GPU上运行时，CPU使用率仍然很高。使用RunMetadata和RunOptions类的时间线输出，我们得到以下分析： CPU and GPU Activity during inference 第六行是CPU使用率，第八行是GPU。 op为“未知”的块与GPU块具有相同的名称。正如我们从前四行可以看到的那样，它不是主机和设备问题之间的来回复制。 我们看到的是CPU在GPU工作时会执行某些操作。我想了解为什么会这样。有人知道吗？
我们在Jetson TX2，jetpack 4.2.3，CUDA 10.2，功能6.2上使用Tensorflow-GPU 1.14（C ++接口）。
致谢
