Onnx 到 trt - [8] 断言失败：创建者 && “未找到插件答案

【问题标题】：Onnx to trt - [8] Assertion failed: creator && "Plugin not foundOnnx 到 trt - [8] 断言失败：创建者 && “未找到插件
【发布时间】：2021-06-18 05:28:56
【问题描述】：

我正在使用 TensorRT 将模型从 onnx 转换为 trt 格式。该模型最初是来自 Tensorflow Model Zoo (SSD ResNet50) 的 tensorflow 模型。当我尝试转换它时，我得到了错误：

[E] [TRT] /home/jenkins/agent/workspace/OSS/OSS_L0_MergeRequest/oss/parsers/onnx/ModelImporter.cpp:708: ERROR: /home/jenkins/agent/workspace/OSS/OSS_L0_MergeRequest/oss/parsers/onnx/builtin_op_importers.cpp:4298 In function importFallbackPluginImporter: [8] Assertion failed: creator && "Plugin not found, are the plugin name, version, and namespace correct?"
[E] Engine set up failed &&&& FAILED TensorRT.trtexec # trtexec --onnx=../model.onnx --fp16=enable --workspace=5500 --batch=1 --saveEngine=model_op11.trt --verbose

据我所知，它正在为NonMaxSuppresion 操作寻找插件。有谁知道如何将模型从 Tensorflow Model Zoo 转换为 TensorRT？

【问题讨论】：

getPluginCreator 找不到插件是通过 ONNX-TensorRT 导入器的后备路径。这意味着默认库不支持 NonMaxSuppression 操作。因此，在他们更新 TensorRT 以处理 NonMaxSuppresion 层之前，您无能为力。]
@AtharvaGundawar 支持自定义插件，所以可以自己写。但问题是我在 Python 中看不到任何方法。
如果您还没有查看：docs.nvidia.com/deeplearning/tensorrt/developer-guide/…
使用 tf.experimental.tensorrt.Converter ，用于 TF 2.0 SavedModels 的 Tensorflow-TensorRT 转换的离线转换器。有关更多详细信息，请查看 Tensorflow 文档here。谢谢！

标签： tensorflow tensorflow onnx nvidia-jetson tensorrt

【解决方案1】：

使用 TensorRT 8 解决了这个问题。

【讨论】：