AI00 RWKV Server基于 RWKV 模型的推理 API 服务器认领

0粉丝

AI00 RWKV Server是一个基于RWKV模型的推理API服务器。支持VULKAN推理加速，可以在所有支持VULKAN的GPU上运行。不用N卡！！！A卡甚至集成显卡都可加速！！！无需臃肿的pytorch、CUDA等运行环境，小巧身材，开箱即用！兼容OpenAI的ChatGPT API接口。1

简介

AI00 RWKV Server是一个基于RWKV模型的推理API服务器。支持VULKAN推理加速，可以在所有支持VULKAN的GPU上运行。不用N卡！！！A卡甚至集成显卡都可加速！！！无需臃肿的pytorch、CUDA等运行环境，小巧身材，开箱即用！兼容OpenAI的ChatGPT API接口。1... 更多

其它信息

授权协议

MIT

开发语言

Rust

操作系统

跨平台

软件类型

开源软件

所属分类

神经网络/人工智能、 LLM（大语言模型）

开源组织

无

地区

国产

适用人群

未知

时光轴

里程碑1

LOG0

2023

09-25

轻识收录

打卡

评价

0.0（满分 10 分）0 个评分

什么是点评分

图片

表情

全部评价( 0)

推荐率 100%

推荐

Nextcloud Server基于 PHP 的数据存储服务器

Nextcloud 是一套用于创建网络硬盘的客户端－服务器软件。其功能与Dropbox相近，但Nextcloud是自由及开放源代码软件，每个人都可以在私人服务器上安装并运行它。与Dropbox等专有服

Nextcloud Server基于 PHP 的数据存储服务器

Nextcloud 是一套用于创建网络硬盘的客户端－服务器软件。其功能与 Dropbox 相近，但

PaddleCraft基于经典人工智能模型的 API

PaddleCraft是一套基于模型的API，使用PaddleCraft，可以直接声明并加载各种CV、Speech、NLP等经典人工智能领域的模型（及其预训练参数），并可以通过各种预置功能，对不同模型

PaddleCraft基于经典人工智能模型的 API

PaddleCraft 是一套基于模型的 API，使用 PaddleCraft，可以直接声明并加载各

myserverepoll模型异步通信JSON服务器server

myserver是一个基于epoll模型的异步通信、返回结果为JSON的高性能服务器。它使用C++编

myserverepoll模型异步通信JSON服务器server

myserver是一个基于epoll模型的异步通信、返回结果为JSON的高性能服务器。它使用C++编写，需要通过mylog以及myconf这二者做编译依赖。和外界交互为JSON格式(使用开源库rapi

graphql-typeorm-koa-workshopDemo GraphQL API server

GraphQL-TypeORM-KoaworkshopThisisademoappformymediumpostoncreatingGraphQLAPIs.yarninstall&&y

EhCache Server缓存服务器

Ehcache现在已经有了一个CacheServer，它以两种形式出现：适合大多数Web容器的WAR以及独立的服务器。CacheServer有两种类型的API：面向资源的RESTful以及SOAP。这

graphql-typeorm-koa-workshopDemo GraphQL API server

GraphQL - TypeORM - Koa workshopThis is a demo app

Xmail Server邮件服务器

XMail是一个适用于局域网和互联的邮件服务器，支持ESMTP、POP3和Finger，支持TLS加密的SMTP和POP3，支持多域名，虚拟用户账号，SMTP中继检查，DNS检测，反垃圾邮件，别名等功