将Tensorflow模型从Object Detection API转换为uff

时间:2017-11-07 08:35:51

标签: tensorflow tensorrt

似乎,没有办法将盒子Mobilenet(以及TF OD API中的其他模型)转换为uff格式,然后转换为TensorRT格式because of much unsupported layers。 有没有办法删除\替换那些图层?比如用graph_transform工具可能吗?我理解不是所有这些层的目的。 如果有人想尝试的话,这是default model

2 个答案:

答案 0 :(得分:2)

UFF转换工具似乎在一些无法识别的层上窒息,或许这将在GA版本中得到改进。目前,您需要删除这些层(并且仅保留推理所需的最小子集),然后使用nvinfer插件API实现这些层。

答案 1 :(得分:0)

从2017年开始,仍然没有重大进展。 已经开发了许多新的网络,但是UFF和TensorRT转换器即使从2017年起仍然无法与许多型号一起使用,我能说些什么关于2019年。

从某种意义上说,英特网中的UFF和TRT转换在互联网上也有一些间接信息,只有几个人在很小的范围内工作。看来这是死路一条。

更好的方法以及它们依靠的方法是框架本身内部的转换工具。像Tensorflow do with their TRT bindings

使用这种方法,框架的开发人员而不是Nvidia会添加新的层,因为那里的人跟不上市场。因此,最终有更多机会获得工作工具。