使用tensorrt trtexec转模型然后使用python的tensorrt加载推理提升下面的错误:

[TRT] [E] IRuntime::deserializeCudaEngine: Error Code 1: Serialization (Serialization assertion stdVersionRead == kSERIALIZATION_VERSION failed.Version tag does not match. Note: Current Version: 237, Serialized Engine Version: 239

可能有多种原因

一个是trtexec和python的tensorrt版本不匹配,另一种是pip还安装了

tensorrt-cu12-bindings
tensorrt-cu12-libs

类似这样的安装包,tensorrt加载推理产生了影响,卸载这些安装包即可。

Logo

汇聚全球AI编程工具,助力开发者即刻编程。

更多推荐