python中的Tensorrt插件和Caffe解析器

时间:2018-08-07 18:00:18

标签: python plugins caffe yolo tensorrt

我是Tensorrt的新手,对C语言也不太熟悉。请问是否有导入caffe modell(caffeparser)并同时使用python插件的示例。插件库示例:“ https://docs.nvidia.com/deeplearning/sdk/tensorrt-api/c_api/_nv_infer_plugin_8h_source.html”。

我看到了一个示例,该示例执行以下操作。是否需要修改pluginfactory类?还是已经使用python插件api完成了?

import tensorrt
import tensorrtplugins
from tensorrt.plugins import _nv_infer_plugin_bindings as nvinferplugin
from tensorrt.parsers import caffeparser

plugin_factory = tensorrtplugins.FullyConnectedPluginFactory()
parser = caffeparser.create_caffe_parser()
parser.set_plugin_factory(plugin_factory)

engine = trt.utils.caffe_to_trt_engine(G_LOGGER,
MODEL_PROTOTXT,
CAFFE_MODEL,
1,
1 << 20,
OUTPUT_LAYERS,
trt.infer.DataType.FLOAT,
plugin_factory
)

P.s:我正在尝试将YOLO2转换为Tensorrt格式。因此,某些图层(例如kYOLOREORG和kPRELU)只能由插件支持。

另一种方法是在构建网络时通过network.add_plugin_ext()方法添加插件,但是我不确定如何指定将在以后导入的上一层。

非常感谢您的回答。非常感谢您的帮助!

0 个答案:

没有答案