标签: amazon-web-services tensorflow amazon-ec2 gpu tensorflow-serving
我正在通过深度学习AMI在AWS EC2 GPU实例上使用预安装的tensorflow_model_server(请参阅here)来运行模型,但仅在运行客户端时才使用CPU。
有什么方法可以使预装的tensorflow_model_server使用GPU进行预测吗?