FBGEMM服务器端推理优化库
Facebook 开源了 FBGEMM,一个针对服务器推理优化的高性能核心库。 与其他库不同,FBGEMM 最大程度优化了 CPU 性能,通过降低精度计算来加速深度学习模型。 目前 Facebook 已经在自己的服务中使用该库,与目前的生产基准相比,它带来了两倍的性能提升。
FBGEMM 的最大特点是优化低精度数据。 与科学计算中使用的传统线性代数库不同,FBGEMM 不使用 FP32 或 FP64 精度,可以为小批量提供有效的低精度通用矩阵乘法(GEMM)运算,并支持精确损失最小化技术,例如行式(Row-wise)量化和异常值感知量化。
FBGEMM 已在 Facebook 上大规模部署,加速了许多端到端人工智能服务,包括将英语翻译成西班牙语的速度提高 1.3 倍,减少了 40% 的推荐系统信息源动态内存带宽的使用 ,并将机器学习系统 Rosetta 的字符检测速度提升2.4倍(Rosetta 是 Facebook 用来理解文本,图像和视频内容的系统。)
评论
ZewoAPP服务器端开发类库
Zewo是一组用于APP服务器端开发类库,用Zewo你可以快速开发webapp,Zewo为你提供开放的API、命令行工具以及数据库驱动等工具。Zewo的目标是打造一个快速开发webapp的生态系统,为
ZewoAPP服务器端开发类库
0
SubEtha SMTPJava的SMTP服务器端类库
SubEthaSMTP是一个用Java编写的SMTP邮件服务器端的处理类库。可通过它来简单的接收客户端的邮件发送请求。示例代码:MyMessageHandlerFactorymyFactory=new
SubEtha SMTPJava的SMTP服务器端类库
0
SubEtha SMTPJava的SMTP服务器端类库
SubEtha SMTP 是一个用 Java 编写的 SMTP 邮件服务器端的处理类库。可通过它来简
SubEtha SMTPJava的SMTP服务器端类库
0
Paddle Serving飞桨服务器端部署库
PaddleServing是PaddlePaddle的在线预估服务框架,能够帮助开发者轻松实现从移动端、服务器端调用深度学习模型的远程预测服务。当前PaddleServing以支持PaddlePadd
Paddle Serving飞桨服务器端部署库
0