似乎,没有办法将盒子Mobilenet(以及TF OD API中的其他模型)转换为uff格式,然后转换为TensorRT格式because of much unsupported layers。 有没有办法删除\替换那些图层?比如用graph_transform工具可能吗?我理解不是所有这些层的目的。 如果有人想尝试的话,这是default model。
答案 0 :(得分:2)
UFF转换工具似乎在一些无法识别的层上窒息,或许这将在GA版本中得到改进。目前,您需要删除这些层(并且仅保留推理所需的最小子集),然后使用nvinfer插件API实现这些层。
答案 1 :(得分:0)
从2017年开始,仍然没有重大进展。 已经开发了许多新的网络,但是UFF和TensorRT转换器即使从2017年起仍然无法与许多型号一起使用,我能说些什么关于2019年。
从某种意义上说,英特网中的UFF和TRT转换在互联网上也有一些间接信息,只有几个人在很小的范围内工作。看来这是死路一条。
更好的方法以及它们依靠的方法是框架本身内部的转换工具。像Tensorflow do with their TRT bindings。
使用这种方法,框架的开发人员而不是Nvidia会添加新的层,因为那里的人跟不上市场。因此,最终有更多机会获得工作工具。