Paddle Serving飞桨服务器端部署库
Paddle Serving 是 PaddlePaddle 的在线预估服务框架,能够帮助开发者轻松实现从移动端、服务器端调用深度学习模型的远程预测服务。当前 Paddle Serving 以支持 PaddlePaddle 训练的模型为主,可以与 Paddle 训练框架联合使用,快速部署预估服务。
## CPU版本安装命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/cpu paddlepaddle
## GPU版本安装命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/gpu paddlepaddle-gpu
Paddle Serving 围绕常见的工业级深度学习模型部署场景进行设计,一些常见的功能包括多模型管理、模型热加载、基于 brpc 的高并发低延迟响应能力、在线模型 A/B 实验等。与 Paddle 训练框架互相配合的 API 可以使用户在训练与远程部署之间无缝过度,提升深度学习模型的落地效率。
评论
PLSC飞桨大规模分类库
飞桨大规模分类(PLSC: PaddlePaddle Large Scale Classification)库是基于飞桨平台构建的超大规模分类库,为用户提供从训练到部署的大规模分类问题全流程解决方案。
PLSC飞桨大规模分类库
0
Paddle Lite『飞桨』多平台高性能深度学习预测引擎
PaddleLite为Paddle-Mobile的升级版,定位支持包括手机移动端在内更多场景的轻量化高效预测,支持更广泛的硬件和平台,是一个高性能、轻量级的深度学习预测引擎。在保持和PaddlePad
Paddle Lite『飞桨』多平台高性能深度学习预测引擎
0
ZewoAPP服务器端开发类库
Zewo是一组用于APP服务器端开发类库,用Zewo你可以快速开发webapp,Zewo为你提供开放的API、命令行工具以及数据库驱动等工具。Zewo的目标是打造一个快速开发webapp的生态系统,为
ZewoAPP服务器端开发类库
0
FBGEMM服务器端推理优化库
Facebook开源了FBGEMM,一个针对服务器推理优化的高性能核心库。与其他库不同,FBGEMM最大程度优化了CPU性能,通过降低精度计算来加速深度学习模型。目前Facebook已经在自己的服务中
FBGEMM服务器端推理优化库
0