我想在Golang中优化服务张量流模型并研究张量流服务。
servers-with-multiple-models-model-versions-or-subtasks
SharedBatchScheduler提供队列的抽象,接受请求以调度特定类型的任务。每个批次仅包含一种类型的任务,即来自一个队列的任务。调度程序通过交错不同类型的批次来确保公平。
在SharedBatchScheduler上有任何Golang回购吗?还是我必须将提供BatchingSession的C ++源代码的tensorflow重写为Golang版本?