我想部署一个具有tensorflow服务的模型。在模型中,有一些ops不能放入gpu。在部署我的模型时,我应该配置tensorflow服务配置文件platform_config_file
。最重要的是allow_soft_placement
。怎么写呢?
platform_configs: {
key: "tensorflow",
value: {
source_adapter_config: {
type_url: "type.googleapis.com/tensorflow.serving.SavedModelBundleSourceAdapterConfig"
value:
而且,它使用any.proto
,值必须是bytes.How来写这个。
非常感谢。