有没有办法为android的tensorflowlite启用gpu

Question

有没有办法为android的tensorflowlite启用gpu？我在android中使用了带有tensorflow lite的inceptionv3预训练模型，但推理需要大约1-1.5秒。我检查了android神经​​网络api，但它只支持android 8.1以上。

Answer 1

据我所知，市场上大多数Android手机都装有带有Adreno GPU的高通芯片组。 高通公司还不支持Adreno GPU的界面，这意味着即使将模型转换为tflite，您获得的大部分提速也来自Neon优化而非GPU。 已经计划为下一代电话支持DSP，但到目前为止，市场上还没有支持tflite和Qualcomm DSP（HVX）的电话。 希望这会有所帮助。