TensorRT的PluginFormat必须是kNCHW吗？

Question

遵循我的Tensorflow模型（模型的一部分）。

Tensorflow模型必须为NHWC格式才能输入图像及其处理。 在将Tensorflow模型转换为TensorRT引擎时，upsample需要实现插件。

但是TensorRT插件需要的格式必须为PluginFormat::kNCHW。 如果设置为PluginFormat :: kNHWC，则无法编译插件。

那么如何为这种Tensorflow模型创建插件？

Answer 1

是的TensorRT插件需要为NCHW格式。要使用NHWC格式的Tensorflow模型，处理部分（例如在CUDA代码上运行的部分）需要进行设计才能在NCHW格式的输入数组上工作。然后，如果Tensorflow模型是NHWC格式，则在插件输出处重新格式化为NHWC。