1. 将tensorrt从6.0.1.5升级到7.1.0.0后遇到的问题:
报错:Assertion failed: !_importer_ctx.network()->hasImplicitBatchDimension() && "This version of th ONNX parser only supports TensorRT INetworkDefinitions with an explicit batch dimension. Please ensure the network was created using the EXPLICT_BATCH NetworkDefinitionCreationFlag"
情况描述:
我的电脑使用的是tensorrt6.0.1.5,按照其中sample代码sampleOnnxMNIST.cpp,整理了一个读取onnx模型进行分类的程序,然后将代码移植到硬件中,硬件中的tensorrt版本是7.1,结果报错如上。我调试代码,把错误定位到
auto parsed = parser->parseFromFile()语句
参考网址:
https://blog.csdn.net/tiatiatiatia/article/details/106880488
这篇博客比较长,开始没注意到,后来经过YJY的提醒才发现,有用的位置在:
这个参考网址遇到的错误与我遇到的相似,按照这个网址更改我没有成功,但是提供了很重要的思路。我使用BeyondCompare比较了tensorrt7.1和tensorrt6.0版本的sampleOnnxMNIST.cpp
结果:
不同的地方还是挺多的,我将我的代码按照差异全部更改后仍然报错,指示samplesCommon::BufferManager buffers()函数调用错误。我又将tensorrt中common中的头文件更换,成功了。
真是挺坑的,搜索的时候哦没有啥结果,查了很长时间。这个BUG能解决要感谢学生YJY,提供了解决思路和网址