用户
 找回密码
 立即注册
发表于 2021-4-14 12:39:46
19790
问:我现在遇到问题是传过来的数据确实是fp16的,但是configPlugin函数拿到的数据类型确是fp32,这样就导致我不知道选什么kernel了.
答:请参考https://github.com/NVIDIA/trt-sa ... tree/master/plugins 里面有AppPlugin的例子,支持fp16和int8。请尝试supportformat只返回fp16就好

使用道具 举报 回复
发新帖
您需要登录后才可以回帖 登录 | 立即注册