简介
TensorRT 是一个高性能深度学习推理平台,它包括深度学习推理优化器和运行时,可为深度学习推理应用提供低延迟和高吞吐量。在推理期间,基于 TensorRT 的应用比仅 CPU 平台的执行速度快 40 倍。TensorRT 基于 CUDA,NVIDIA 的并行编程模型,能够利用 CUDA-X AI... 更多
其它信息
地区
不详
开发语言
C/C++
开源组织
无
所属分类
神经网络/人工智能、 机器学习/深度学习
授权协议
Apache-2.0
操作系统
跨平台
收录时间
2023-09-26
软件类型
开源软件
适用人群
未知
时光轴
里程碑1
LOG0
2023
2023-09
轻识收录
评价
0.0(满分 10 分)0 个评分
什么是点评分
全部评价(
0)
推荐率
100%
推荐
OpenPPL高性能深度学习推理平台
OpenPPL是基于自研高性能算子库的推理引擎,拥有极致调优的性能;提供云原生环境下的AI模型多后端部署能力,支持OpenMMLab等深度学习模型的高效部署。架构如下:高性能设计微架构友好的任务/数据
OpenPPL高性能深度学习推理平台
0
PlaidML跨平台高性能深度学习框架
PlaidML 致力于跨平台开发部署的开源高性能深度学习框架。一方面可以让硬件开发者快速集成到框架里,一方面也可以让框架的使用者有接入各种硬件的能力。使开发者者能够在任何设备上部署高性能神经网络允许硬
PlaidML跨平台高性能深度学习框架
0
XLearning深度学习调度平台
XLearning 是奇虎360开源的一款支持多种机器学习、深度学习框架调度系统。基于HadoopYarn完成了对TensorFlow、MXNet、Caffe、Theano、PyTorch、Keras
XLearning深度学习调度平台
0
Forward DL深度学习推理加速框架
Forward是一款腾讯研发并开源的GPU高性能推理加速框架。它提出了一种解析方案,可直接加载主流框架模型(Tensorflow/PyTorch/Keras/ONNX)转换成TensorRT推理加速引
Forward DL深度学习推理加速框架
0
Paddle Lite『飞桨』多平台高性能深度学习预测引擎
PaddleLite为Paddle-Mobile的升级版,定位支持包括手机移动端在内更多场景的轻量化高效预测,支持更广泛的硬件和平台,是一个高性能、轻量级的深度学习预测引擎。在保持和PaddlePad
Paddle Lite『飞桨』多平台高性能深度学习预测引擎
0