Tensorflow为Golang服务SharedBatchScheduler

时间:2019-09-10 10:38:36

标签: tensorflow go tensorflow-serving

我想在Golang中优化服务张量流模型并研究张量流服务。

servers-with-multiple-models-model-versions-or-subtasks

  

SharedBatchScheduler提供队列的抽象,接受请求以调度特定类型的任务。每个批次仅包含一种类型的任务,即来自一个队列的任务。调度程序通过交错不同类型的批次来确保公平。

在SharedBatchScheduler上有任何Golang回购吗?还是我必须将提供BatchingSession的C ++源代码的tensorflow重写为Golang版本?

0 个答案:

没有答案