TPATTensorRT 插件自动生成工具

0粉丝
TPAT 是由腾讯联合英伟达开发的 TensorRT 插件自动生成工具。TensorRT 是当前应用最广的 GPU 推理框架,但由于支持的算子数量有限,用户面临手写插件以支持算子的痛点。而TPAT 能够支持开放神经网络交换 (ONNX) 格式所有的算子,端到端生成 TensorRT 插件,在解放人力
简介
TPAT 是由腾讯联合英伟达开发的 TensorRT 插件自动生成工具。TensorRT 是当前应用最广的 GPU 推理框架,但由于支持的算子数量有限,用户面临手写插件以支持算子的痛点。而TPAT 能够支持开放神经网络交换 (ONNX) 格式所有的算子,端到端生成 TensorRT 插件,在解放人力... 更多
其它信息
授权协议
Apache 2.0
开发语言
Python
操作系统
跨平台
软件类型
开源软件
所属分类
神经网络/人工智能、 机器学习/深度学习
开源组织
腾讯
地区
不详
适用人群
未知

时光轴

里程碑1
LOG0
2023
09-26
轻识收录
评价
0.0(满分 10 分)0 个评分
什么是点评分
图片
表情
全部评价( 0)
推荐率 100%
推荐