TensorRT英伟达高性能深度学习推理平台认领

0粉丝

TensorRT 是一个高性能深度学习推理平台，它包括深度学习推理优化器和运行时，可为深度学习推理应用提供低延迟和高吞吐量。在推理期间，基于 Tens

简介

TensorRT 是一个高性能深度学习推理平台，它包括深度学习推理优化器和运行时，可为深度学习推理应用提供低延迟和高吞吐量。在推理期间，基于 TensorRT 的应用比仅 CPU 平台的执行速度快 40 倍。TensorRT 基于 CUDA，NVIDIA 的并行编程模型，能够利用 CUDA-X AI... 更多

其它信息

地区

不详

开发语言

C/C++

开源组织

无

所属分类

神经网络/人工智能、机器学习/深度学习

授权协议

Apache-2.0

操作系统

跨平台

收录时间

2023-09-26

软件类型

开源软件

适用人群

未知

时光轴

里程碑1

LOG0

2023

2023-09

轻识收录

打卡

评价

0.0（满分 10 分）0 个评分

什么是点评分

图片

表情

全部评价( 0)

推荐率 100%

推荐

OpenPPL高性能深度学习推理平台

OpenPPL是基于自研高性能算子库的推理引擎，拥有极致调优的性能；提供云原生环境下的AI模型多后端部署能力，支持OpenMMLab等深度学习模型的高效部署。架构如下：高性能设计微架构友好的任务/数据

OpenPPL高性能深度学习推理平台

OpenPPL 是基于自研高性能算子库的推理引擎，拥有极致调优的性能；提供云原生环境下的 AI 模

PlaidML跨平台高性能深度学习框架

PlaidML 致力于跨平台开发部署的开源高性能深度学习框架。一方面可以让硬件开发者快速集成到框架里，一方面也可以让框架的使用者有接入各种硬件的能力。使开发者者能够在任何设备上部署高性能神经网络允许硬

PlaidML跨平台高性能深度学习框架

PlaidML 致力于跨平台开发部署的开源高性能深度学习框架。一方面可以让硬件开发者快速集成到框架里

XLearning深度学习调度平台

XLearning 是奇虎 360 开源的一款支持多种机器学习、深度学习框架调度系统。基于 Hado

XLearning深度学习调度平台

XLearning 是奇虎360开源的一款支持多种机器学习、深度学习框架调度系统。基于HadoopYarn完成了对TensorFlow、MXNet、Caffe、Theano、PyTorch、Keras

Forward DL深度学习推理加速框架

Forward是一款腾讯研发并开源的GPU高性能推理加速框架。它提出了一种解析方案，可直接加载主流框架模型（Tensorflow/PyTorch/Keras/ONNX）转换成TensorRT推理加速引

Paddle Lite『飞桨』多平台高性能深度学习预测引擎

PaddleLite为Paddle-Mobile的升级版，定位支持包括手机移动端在内更多场景的轻量化高效预测，支持更广泛的硬件和平台，是一个高性能、轻量级的深度学习预测引擎。在保持和PaddlePad

Adlik加速深度学习推理的工具包

Adlik 是深度学习模型的端到端优化框架。Adlik的目标是在云和嵌入式环境中加速深度学习推理过程。使用Adlik框架，不同的深度学习模型可以以非常灵活和简单的方式以高性能部署到不同的平台。在云环境

Forward DL深度学习推理加速框架

Forward 是一款腾讯研发并开源的 GPU 高性能推理加速框架。它提出了一种解析方案，可直接加载