论坛
BBS
会员中心
Space
用户
登录
用户名
Email
自动登录
找回密码
密码
登录
立即注册
搜索
搜索
本版
帖子
用户
本版
帖子
用户
CUDA
技术
工具
资源
入门
社区
论坛
开启辅助访问
切换到宽版
好友
帖子
收藏
道具
勋章
任务
设置
我的收藏
退出
腾讯QQ
微信登录
论坛
›
社区信息
›
GPU Hackathon
›
TRT Hackathon
›
查看内容
发表新帖
查看:
5926
|
回复:
0
问:我现在遇到问题是传过来的数据确实是fp16的,但是conf...
GPUS-Cat
GPUS-Cat
当前离线
GPUS-Cat
管理员
|
显示全部楼层
|
阅读模式
1
#
电梯直达
发表于 2021-4-14 12:39:46
5926
0
问:我现在遇到问题是传过来的数据确实是fp16的,但是configPlugin函数拿到的数据类型确是fp32,这样就导致我不知道选什么kernel了.
答:请参考
https://github.com/NVIDIA/trt-sa ... tree/master/plugins
里面有AppPlugin的例子,支持fp16和int8。请尝试supportformat只返回fp16就好
使用道具
举报
回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
发表回复