谁能建议一个具有推理时间的分类模型可能少于一秒钟？
我已经训练过移动网和挤压网，但是一次图像推断都需要2秒钟。
任何建议都会非常有帮助。谢谢。
答案 0 :(得分：2)
速度取决于硬件规格。为了更快地运行该模型，可以尝试安装“ OpenVino”（仅适用于英特尔硬件），这有助于使模型运行速度提高3倍。请参考英特尔的以下比较。
Performance improvement using Openvino software
您拥有CPU的免费版本“ Openvino”。该软件甚至适用于GPU内置设备。
在以下链接中查看更多详细信息： https://software.intel.com/en-us/openvino-toolkit
