TensorFlow-lite适用于嵌入式Linux系统,而Android NNAPI适用于Android系统的hw加速。 我喜欢用Tensorflow-Lite hw加速找到嵌入式Linux的解决方案而不是android。
答案 0 :(得分:0)
NNAPI是Tensorflow-Lite目前唯一可用的硬件加速。话虽这么说,Tensorflow-Lite框架设计为可通过利用硬件加速的自定义Ops轻松扩展。此外,tensorflow lite内置操作已利用特定的CPU指令(ARM NEON,Intel SSE)来加快推理速度。
您是否针对特定的嵌入式Linux系统?