用户
 找回密码
 立即注册
发表于 2021-4-14 14:14:56
20220
相关资料参考:https://docs.nvidia.com/deeplear ... edfdfab1aef7d43b1e2
这个 supportFormatCombination 的逻辑是深度优先地检查各绑定张量的格式和数据类型。
首次被调用的时候 pos 是 0,tensorRT 会针对第一个绑定的张量给出一种格式和数据类型组合进行尝试,我们来判断这种组合行不行。

如果返回 true,则下一次调用时 pos 为 1,去尝试绑定的第二个张量,如果还返回 1,则继续尝试下一个

如果中间某次返回 false,则下一次调用时 pos 不变,并且会换一种格式和数据类型组合来继续尝试,直到把所有组合都尝试完。

使用道具 举报 回复
发新帖
您需要登录后才可以回帖 登录 | 立即注册