FBGEMM服务器端推理优化库认领

0粉丝

Facebook 开源了 FBGEMM，一个针对服务器推理优化的高性能核心库。与其他库不同，FBGEMM 最大程度优化了 CPU 性能，通过降低精度

简介

Facebook 开源了 FBGEMM，一个针对服务器推理优化的高性能核心库。与其他库不同，FBGEMM 最大程度优化了 CPU 性能，通过降低精度计算来加速深度学习模型。目前 Facebook 已经在自己的服务中使用该库，与目前的生产基准相比，它带来了两倍的性能提升。FBGEMM 的最大特点是... 更多

其它信息

地区

不详

开发语言

C/C++

开源组织

Facebook

所属分类

神经网络/人工智能、机器学习/深度学习

授权协议

BSD

操作系统

Linux

收录时间

2023-09-26

软件类型

开源软件

适用人群

未知

时光轴

里程碑1

LOG0

2023

2023-09

轻识收录

打卡

评价

0.0（满分 10 分）0 个评分

什么是点评分

图片

表情

全部评价( 0)

推荐率 100%

推荐

ZewoAPP服务器端开发类库

Zewo 是一组用于APP服务器端开发类库，用 Zewo 你可以快速开发web app，Zewo 为

ZewoAPP服务器端开发类库

Zewo是一组用于APP服务器端开发类库，用Zewo你可以快速开发webapp，Zewo为你提供开放的API、命令行工具以及数据库驱动等工具。Zewo的目标是打造一个快速开发webapp的生态系统，为

SubEtha SMTPJava的SMTP服务器端类库

SubEthaSMTP是一个用Java编写的SMTP邮件服务器端的处理类库。可通过它来简单的接收客户端的邮件发送请求。示例代码：MyMessageHandlerFactorymyFactory=new

SubEtha SMTPJava的SMTP服务器端类库

SubEtha SMTP 是一个用 Java 编写的 SMTP 邮件服务器端的处理类库。可通过它来简

Paddle Serving飞桨服务器端部署库

PaddleServing是PaddlePaddle的在线预估服务框架，能够帮助开发者轻松实现从移动端、服务器端调用深度学习模型的远程预测服务。当前PaddleServing以支持PaddlePadd

Paddle Serving飞桨服务器端部署库

Paddle Serving 是 PaddlePaddle 的在线预估服务框架，能够帮助开发者轻松实

jTinderJavaScript 速度优化库

jTinder是一个使对人物，商品，图片投票变得快速和简单的JavaScript库。它为移动触摸设备进行了优化，不过也有桌面版。在HEAD标签之前添加CSS文件：<link rel="style

jTinderJavaScript 速度优化库

jTinderJavaScript 速度优化库

fastllm高性能大模型推理库

fastllm 是纯 C++ 实现的全平台 llm 加速库。支持 Python 调用，chatglm

fastllm高性能大模型推理库

fastllm是纯C++实现的全平台llm加速库。支持Python调用，chatglm-6B级模型单卡可达10000+token/s，支持glm、llama、moss基座，手机端流畅运行。功能概述纯C