mobilenet-ssd的量化

Question

我想量化（将所有浮点数更改为INT8）ssd-mobilenet模型，然后将其部署到我的raspberry-pi上。到目前为止，我还没有找到任何可以帮助我的东西。任何帮助将受到高度赞赏。 我看过tensorflow-lite但它似乎只支持android和iOS。 任何图书馆/ framweork都可以接受。

提前致谢。

Answer 1

Tensorflow Lite现在通过Makefile支持Raspberry Pi。 Here's the shell script。关于Mobilenet-SSD，您可以在this blog post（和here）中获得有关如何与TensorFlow Lite一起使用的详细信息

Answer 2

您可以尝试使用TensorRT library。

库的功能之一是量化。 通常，移动网络很难量化（请参见https://arxiv.org/pdf/2004.09602.pdf），但该库应该做得很好