标签: python tensorflow keras
我加载了三个Keras Mobilenets模型,以便在Nvidia 1080 GPU上进行推理,内存比例设置为0.35。 (Tensorflow后端) 我注意到GPU负载和GPU内存按预期增加。 但是,在加载模型和推理时,我注意到CPU使用率和RAM分配增加,直到分别达到22%和2GB。 所有模型的推断都在while循环内。
这正常吗?