我是Tensorrt的新手,对C语言也不太熟悉。请问是否有导入caffe modell(caffeparser)并同时使用python插件的示例。插件库示例:“ https://docs.nvidia.com/deeplearning/sdk/tensorrt-api/c_api/_nv_infer_plugin_8h_source.html”。
我看到了一个示例,该示例执行以下操作。是否需要修改pluginfactory类?还是已经使用python插件api完成了?
import tensorrt
import tensorrtplugins
from tensorrt.plugins import _nv_infer_plugin_bindings as nvinferplugin
from tensorrt.parsers import caffeparser
plugin_factory = tensorrtplugins.FullyConnectedPluginFactory()
parser = caffeparser.create_caffe_parser()
parser.set_plugin_factory(plugin_factory)
engine = trt.utils.caffe_to_trt_engine(G_LOGGER,
MODEL_PROTOTXT,
CAFFE_MODEL,
1,
1 << 20,
OUTPUT_LAYERS,
trt.infer.DataType.FLOAT,
plugin_factory
)
P.s:我正在尝试将YOLO2转换为Tensorrt格式。因此,某些图层(例如kYOLOREORG和kPRELU)只能由插件支持。
另一种方法是在构建网络时通过network.add_plugin_ext()方法添加插件,但是我不确定如何指定将在以后导入的上一层。
非常感谢您的回答。非常感谢您的帮助!