用户
 找回密码
 立即注册
发表于 2021-4-16 11:33:52
29110
问:导师们,我想问一个问题,就是我把我的PyTorch模型用ONNX导出了,其中有一个不支持的算子,我用symbolic标记出来后,通过ONNX_FALLTHROUGH模式强制导出了。
然后我要把它导入进TRT,我直接用trtexec导出不能直接成功,因为那个不支持的OP的存在。
那我现在已经为这个OP写好了Plugin,能通过trtexec在onnx转trt过程给予支持吗?
答复:这个不行 要按照plug-in 开发流程 。参考:https://docs.nvidia.com/deeplear ... ndex.html#extending  
Extending TensorRT With Custom Layers
https://zhuanlan.zhihu.com/p/297002406

使用道具 举报 回复
发新帖
您需要登录后才可以回帖 登录 | 立即注册