1. 将tensorrt从6.0.1.5升级到7.1.0.0后遇到的问题:

报错:Assertion failed: !_importer_ctx.network()->hasImplicitBatchDimension() && "This version of th ONNX parser only supports TensorRT INetworkDefinitions with an explicit batch dimension. Please ensure the network was created using the EXPLICT_BATCH NetworkDefinitionCreationFlag"

情况描述:

我的电脑使用的是tensorrt6.0.1.5,按照其中sample代码sampleOnnxMNIST.cpp,整理了一个读取onnx模型进行分类的程序,然后将代码移植到硬件中,硬件中的tensorrt版本是7.1,结果报错如上。我调试代码,把错误定位到

auto parsed = parser->parseFromFile()语句

参考网址:

https://blog.csdn.net/tiatiatiatia/article/details/106880488

这篇博客比较长,开始没注意到,后来经过YJY的提醒才发现,有用的位置在:

使用tensorrt遇到的一些坑

这个参考网址遇到的错误与我遇到的相似,按照这个网址更改我没有成功,但是提供了很重要的思路。我使用BeyondCompare比较了tensorrt7.1和tensorrt6.0版本的sampleOnnxMNIST.cpp

结果:

使用tensorrt遇到的一些坑

不同的地方还是挺多的,我将我的代码按照差异全部更改后仍然报错,指示samplesCommon::BufferManager buffers()函数调用错误。我又将tensorrt中common中的头文件更换,成功了。

真是挺坑的,搜索的时候哦没有啥结果,查了很长时间。这个BUG能解决要感谢学生YJY,提供了解决思路和网址

相关文章: