tf_serving grpc客户端连接被对等方重置

时间:2019-08-12 14:30:49

标签: tensorflow grpc serving

我构建了一个客户端,以使用grpc和c ++将一些数据馈送到docker-container内部的模型服务器。

当尝试连接时,我收到消息: 错误14 对等方重置连接。

客户代码:

std::cout << "calling prediction service on " << "localhost:8500" 
<< std::endl;
    ServingClient sclient(grpc::CreateChannel(
        "localhost:8500", grpc::InsecureChannelCredentials()));
    std::vector<float> reply = sclient.callPredict(model_name, 
model_signature_name, data);

tensorflow服务命令:

tensorflow_model_server --port = 8500 --rest_api_port = 8501-    model_name =最佳模型--model_base_path = / models /最佳模型/

docker容器输出:

2019-08-12 13:59:29.851181:I tensorflow_serving / core / loader_harness.cc:86]已成功加载可服务版本{name:best_model version:1} 2019-08-12 13:59:29.854813:我tensorflow_serving / model_servers / server.cc:324]在0.0.0.0:8500上运行gRPC ModelServer ... [警告] getaddrinfo:不支持节点名称的地址族 [evhttp_server.cc:239] RAW:进入事件循环... 2019-08-12 13:59:29.858052:I tensorflow_serving / model_servers / server.cc:344]在以下位置导出HTTP / REST API:localhost:8501 ...

客户端输出: 在本地主机上调用预测服务:8500 生成原始张量OK gRPC调用返回代码:14:对等重置连接 gRPC失败

1 个答案:

答案 0 :(得分:0)

我无法勉强发布答案,但是在重新安装ubuntu后我的问题就解决了。

但是我不能说这与我的问题有什么关系。