用户
 找回密码
 立即注册
论坛 社区信息 GPU Hackathon TRT Hackathon

版块信息

今日发帖 : 0
板块介绍填写区域,请于后台编辑
最新  | 热帖  | 精华  | 新窗
筛选: 全部主题 全部时间 排序: 最后发表
新窗 更多 
作者 回复/查看 最后发表
隐藏置顶帖 【新通知】首期NVIDIADOCA中国开发者社区有奖征文比赛9月 digest 全局置顶
Gaye@ 2022-9-9 Gaye @ 2022-9-9 13:22 预览
隐藏置顶帖 我与代码的那些事儿—— NVIDIA DOCA 中国开发者社区有奖征文 attach_img digest 全局置顶
Gaye@ 2022-7-22 Gaye @ 2022-7-22 09:44 预览
隐藏置顶帖 TensorRT Hackathon 报告模板 attachment 本版置顶
emily@ 2021-4-20 emily @ 2021-4-20 19:50 预览
  版块主题
问:所以说会进入int8量化环节,但是不保证所有层都用int8...
GPUS-Cat@ 2021-4-26 GPUS-Cat @ 2021-4-26 11:35 预览
问:请教大家个问题,在做INT8量化的时候,假如某些层不...
GPUS-Cat@ 2021-4-26 GPUS-Cat @ 2021-4-26 11:34 预览
问:我想问一下,因为我们现在直接用的docker镜像嘛,那...
GPUS-Cat@ 2021-4-23 GPUS-Cat @ 2021-4-23 09:23 预览
问:我想问一下我们自己写plugin有没有什么方便的测试的...
GPUS-Cat@ 2021-4-23 GPUS-Cat @ 2021-4-23 09:22 预览
关于GatherND和ScatterND
GPUS-Cat@ 2021-4-22 GPUS-Cat @ 2021-4-22 15:30 预览
问:在tenserrt里面测试还是有问题,onnx2trt_utils.cpp:417 In func...
GPUS-Cat@ 2021-4-22 GPUS-Cat @ 2021-4-22 12:43 预览
问:校验数据一般给多少比较合适呀?四百个可以不?
GPUS-Cat@ 2021-4-21 GPUS-Cat @ 2021-4-21 16:35 预览
问:请问一下,我vscode上的remote ssh插件,上传大文件(18g)...
GPUS-Cat@ 2021-4-21 GPUS-Cat @ 2021-4-21 15:59 预览
关于ScatterND plugin
GPUS-Cat@ 2021-4-21 GPUS-Cat @ 2021-4-21 11:48 预览
问:请教下fp16也可以直接照着浮点方式计算吗?我看好像...
GPUS-Cat@ 2021-4-21 GPUS-Cat @ 2021-4-21 09:45 预览
问:比如这个提示node35,知道错误了,具体改哪呢?
GPUS-Cat@ 2021-4-21 GPUS-Cat @ 2021-4-21 09:45 预览
问:用tensorrt做int8量化的时候不是需要提供一个用来校验...
GPUS-Cat@ 2021-4-20 GPUS-Cat @ 2021-4-20 15:46 预览
问:这种summary要怎么打印呢
GPUS-Cat@ 2021-4-20 GPUS-Cat @ 2021-4-20 14:22 预览
问:这个是因为导出的onnx模型太大的原因吗?
GPUS-Cat@ 2021-4-20 GPUS-Cat @ 2021-4-20 10:05 预览
问:我导入onnx的时候报了这个错误 。WARNING: onnx2trt_utils.c...
GPUS-Cat@ 2021-4-20 GPUS-Cat @ 2021-4-20 10:04 预览
问:请问trt.lite.Engine这个API的说明文档在哪里找呀
GPUS-Cat@ 2021-4-20 GPUS-Cat @ 2021-4-20 10:04 预览
问:Docker无法启动新的容器了,有人能帮忙看下问题吗?...
GPUS-Cat@ 2021-4-19 GPUS-Cat @ 2021-4-19 16:00 预览
问:请问下之前课程讲的nsys-ui怎么安装?我发现demo让pull...
GPUS-Cat@ 2021-4-19 GPUS-Cat @ 2021-4-19 10:03 预览
问:使用calibrator用之前的训练数据做int8量化write_calibration_...
GPUS-Cat@ 2021-4-19 GPUS-Cat @ 2021-4-19 10:02 预览
问:accumulate怎么计算size的?
GPUS-Cat@ 2021-4-19 GPUS-Cat @ 2021-4-19 10:02 预览
问:Binding是什么东西?
GPUS-Cat@ 2021-4-19 GPUS-Cat @ 2021-4-19 10:01 预览
问:我们这个测试的数据集是固定的,可以说针对测试来...
GPUS-Cat@ 2021-4-19 GPUS-Cat @ 2021-4-19 10:00 预览
问:关于informer,现在的informer在输入前有一个embedding层,...
GPUS-Cat@ 2021-4-19 GPUS-Cat @ 2021-4-19 09:59 预览
问:我不太明白plugin在什么时候需要写,在哪里写
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 15:59 预览
问:想跟您请教下torch.randperm这个算子转onnx不支持应该怎...
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 14:39 预览
问:一个程序是否调用tensorrt的接口,不看代码如何判断?...
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 11:42 预览
问:T4平台支持fp16得推理吗?
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 11:40 预览
问:请教一下老师们tensorflow .meta的graph怎么才可以拿到outpu...
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 11:40 预览
问:请问对有plugin的engin文件解析,有什么参考吗?IRuntime:...
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 11:36 预览
问:请问我量化时候设置了这一卷积层的精度为FLOAT,而且...
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 11:34 预览
问:tensorCore是固定驻留在某些SM中的还是说所有SM都能以...
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 11:34 预览
问:导师们,我想问一个问题,就是我把我的PyTorch模型用O...
GPUS-Cat@ 2021-4-16 GPUS-Cat @ 2021-4-16 11:33 预览
关于tensorCore使用的问题 新人帖
孙启昌@ 2021-4-15 孙启昌 @ 2021-4-15 20:29 预览
问:对tensorflow的模型进行的量化,有pytorch的吗?
GPUS-Cat@ 2021-4-15 GPUS-Cat @ 2021-4-15 13:59 预览
问:我们在onnx转换成trt之后,再进行一下int8量化,有相关...
GPUS-Cat@ 2021-4-15 GPUS-Cat @ 2021-4-15 13:55 预览
问:如何能减少reformat的操作呢?profile里面有很多输入输...
GPUS-Cat@ 2021-4-15 GPUS-Cat @ 2021-4-15 10:13 预览
问:请问转int8那个校正数据集需要怎么获取?是需要导入整...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 17:19 预览
关于supportFormatCombination()
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 14:37 预览
问:Tesla P4和RTX 3070在推断上,哪个能力更强,速度更快呢...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 14:25 预览
问:Tesla的算力数值上比RTX要低,请问这个算力要如何理解...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 14:21 预览
问:我的课题是做混合精度量化,现在的P4架构我看只有int...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 14:20 预览
问:我们在xavier上的arm系统上,用libtorch和tensorrt联合编译...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 13:11 预览
问:可以将包含可变维度的input的pytorch 模型,导出成onnx吗...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 12:40 预览
问:是数据格式组合调优时导致的没有对应kernel,比如 in: ...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 12:40 预览
问:我现在遇到问题是传过来的数据确实是fp16的,但是conf...
GPUS-Cat@ 2021-4-14 GPUS-Cat @ 2021-4-14 12:39 预览
融合策略
emily@ 2021-4-13 emily @ 2021-4-13 18:11 预览
CUDA 安装
emily@ 2021-4-13 emily @ 2021-4-13 18:10 预览
NVIDIA - 阿里云 TRT hackathon 五场讲座PPT与代码
emily@ 2021-4-13 emily @ 2021-4-13 16:45 预览
NVIDIA-阿里云 TensorRT Hackathon 五场讲座回放
emily@ 2021-4-12 emily @ 2021-4-12 09:04 预览