模型推理性能以不连贯的方式变化

时间:2019-09-03 18:29:34

标签: android performance opencv tensorflow-lite

我正在构建一个Android应用,该应用在从相机获取的帧上运行实时推断(.tflite模型,使用TensorFlow API)。在我的移动设备中,预期的平均推断时间约为75毫秒,变化不大。那是我以前的基准,但是现在平均时间变化很大,上升到120毫秒,突然下降到80毫秒,但总是比平时高。

推断时间通常与应用程序有关内存使用情况的性能有关。这就是为什么奇怪的事实,即一旦内存泄漏得到改善并且内存使用率降低,我的推论就会变得更糟。因此,我认为排除内存问题是安全的。而且,很奇怪的是,我注意到垃圾收集器清除清除的频率增加了。

所有可能导致此问题的代码更改和UI更改都得到了彻底审查,但问题仍然存在。

任何人都可以在可用于分析和解决问题的工具上为我提供建议吗?到目前为止,我已经使用了Android Studio Profiler。

0 个答案:

没有答案