为什么在Darknet中输出视频太慢？

Question

我在Darknet中为yolov2训练了自己的数据集。我正在使用ubuntu 18.04，并且没有GPU。播放视频（已在智能手机中拍摄）进行测试时，它太慢了。是因为我没有GPU吗？还是因为其他原因？

有人可以回复我吗？

Answer 1

如果没有GPU，yolov2的运行速度将非常慢，如果您使用的是现代智能手机，则视频可能是高分辨率且帧率很高的视频。我不确定您的实现方式，但您可能正在处理视频中的每个帧，而不是跳过其他所有帧或仅处理第10帧。

如果没有可用的gpu（并且不打算使用），那么获得gpu类型性能的另一种方法是使用Intel的Openvino（如果您使用的是最新的I系列处理器）。您将能够将yolov2模型转换为打开的vino，并以非常快的推理时间（可能每帧<100ms）在cpu上运行它。我会说我是从Openvino离开yolov3的，与其他物体检测器相比，尤其是与移动网络相比，它确实很慢。

我还设置了一些演示程序来测试CPU上的yolov3和CPU上的打开vino，您可以在SugarKubes上查看这些内容

Answer 2

一个重要的原因当然是因为您没有GPU。另一个原因是您使用的模型。您使用的YoloV2比YoloV3快，但比TinyYolo或TinyYoloV3慢。

因此，这是精度和速度之间的权衡，模型越快，精度就越低。如果您追求速度，那么我可以想到3种解决方案：

• 使用GPU（我知道它很昂贵，但值得，nvidia gtx 1060 ++很棒）
• 将模型更改为TinyYolo或TinyYoloV3。我建议使用TinyYolov3以获得更高的fps
  • TinyYoloV3：220 fps
  • TinyYolo：207 fps
  • YoloV2：67 fps
• 使用Andrew Vinno所说的OpenVino

从此处下载模型：https://pjreddie.com/darknet/yolo/
Yolov2的链接：https://pjreddie.com/darknet/yolov2/