改善Sagemaker的延迟

时间:2019-07-02 15:21:41

标签: amazon-sagemaker

当我调用端点大约需要7秒钟时,我已经使用笔记本和java aws sdk创建了一个模型。我如何进一步减少这种情况,有没有办法进行并行调用。

InvokeEndpointRequest request = new InvokeEndpointRequest();
InvokeEndpointResult p = amazonSageMakerRuntime.invokeEndpoint(request.withEndpointName("<endpoint>").withAccept("application/json").withContentType("application/json").withBody(ByteBuffer.wrap(data.getBytes())));

0 个答案:

没有答案