我已经在GPU上训练了Keras模型,将其转换为TF估计量,然后导出了export_savedmodel
用于TF的估计量。
我可以在GPU机器上成功提供此模型,但是我想做的就是在CPU上提供它。当我尝试在仅CPU的实例上提供服务时,出现错误:
tensorflow_model_server: error while loading shared libraries: libcuda.so.1: cannot open shared object file: No such file or directory
我不确定Tensorflow服务为什么要在CPU实例上寻找CUDA。是TF服务在寻找CUDA,还是我的导出模型在寻找GPU设备,因为那是经过培训的?