用户
 找回密码
 立即注册
发表于 2021-4-14 17:19:52
22090
问:请问转int8那个校正数据集需要怎么获取?是需要导入整个训练数据集还是只需要一部分即可?是只需要按训练时的预处理方式处理一次然后将训练数据写入校正数据集,还是需要标签一起?
答:你是在做calibration吗?calibration就是帮助你生成每个layer in/out的数据范围,所以用的数据涵盖范围越广越好,你说的标签指的是训练时用的标签吗?tensorrt只负责inference的部分,只需要inference相关的数据,也就是就像推理时一样,把数据做预处理,然后做校准集就行了,不需要其它的东西

使用道具 举报 回复
发新帖
您需要登录后才可以回帖 登录 | 立即注册