使用Tensorflow实时视频对象检测首选哪种实现方式

Question

我想实现实时视频对象检测，将视频帧流馈送到检测服务系统。我正在考虑实现该系统的两种方法：（1）使用tensorflow服务系统TF serving，（2）使用tensorflow session.run（）。我想知道哪种实施方案更适合以下情况？

• 视频流在随机时间到达检测系统。每个视频流持续一段时间。

• 系统必须实时支持并发视频对象检测过程。但是GPU节点有限，这意味着一个GPU上可能同时运行多个检测过程。

• 可以使用多个DNN模型进行检测。当新视频流刚到时，将选择一种DNN模型进行推理。希望检测系统能够即时更改模型选择决策。
• 系统能够为每个服务模型设置资源分配（最大GPU使用率）。

谢谢！