搜索

GPTCache为 LLM 查询创建语义缓存的库

0粉丝
GPTCache 是一个用于创建语义缓存以存储来自 LLM 查询的响应的库。将你的 LLM API 成本削减 10 倍，将速度提高 100 倍。ChatGPT 和各种大型语言模型（LLM）拥有令人难以置信的多功能性，能够开发广泛的应用程序。然而，随着你的应用程序越来越受欢迎，遇到更高的流量水平，与
知识
简介
GPTCache 是一个用于创建语义缓存以存储来自 LLM 查询的响应的库。将你的 LLM API 成本削减 10 倍，将速度提高 100 倍。ChatGPT 和各种大型语言模型（LLM）拥有令人难以置信的多功能性，能够开发广泛的应用程序。然而，随着你的应用程序越来越受欢迎，遇到更高的流量水平，与... 更多
其它信息
授权协议
MIT
开发语言
Python
操作系统
跨平台
软件类型
开源软件
所属分类
神经网络/人工智能、 LLM（大语言模型）
开源组织
无
地区
不详
适用人群
未知

时光轴

里程碑1
LOG0
2023
09-25
轻识收录
打卡
我要打卡
我要打卡
评价
0.0（满分 10 分）0 个评分
什么是点评分
图片
表情
全部评价( 0)
推荐率 100%
推荐
requests-cacheRequests 的缓存库
requests-cache 是为 Python 的 Requests 库提供了持久化缓存支持的 P
requests-cacheRequests 的缓存库
requests-cache是为Python的Requests库提供了持久化缓存支持的Python模块。示例代码：import requestsimport requests_cacherequest
WeavingDBC# 实现的缓存库
WeavingDBWeavingDB为满足C#项目的特殊使用与简单部署，而开发此WeavingDB。1.支持K-V方式。支持通配符方式匹配KEYS2.支持JSON数据的条件查询的内存缓存库。（目前JS
FreeCacheGo 语言的缓存库
FreeCache是一个Go语言的缓存库，无额外的GC负荷。数百万对象的垃圾收集延迟仅在数百毫秒。特性：可存储数以百万计条目零垃圾收集负荷高并发而且线程安全的访问纯Go语言实现支持对象失效近乎LRU的
WeavingDBC# 实现的缓存库
WeavingDBC# 实现的缓存库
0
supycachePython 缓存库
supycache是Python对缓存的简单封装库，支持包括内存缓存、memcached和redis。示例代码：import timeimport supycache@supycache.supyca
cache2goGo 缓存库
cache2go 是一个 Go 的并发安全缓存库，具有到期和访问计数器的功能。示例代码：packag
phpFastCachePHP 缓存库
phpFastCache 是一个开源的 PHP 缓存库，只提供一个简单的 PHP 文件，可方便集成到
LRUCacheGo 缓存库
用Go编写的一个简单的LRUCache库，示例代码：// define a type that can be used with the cachetype myCacheableValue stru
RasqalRDF查询库
Rasqal是一个用来查询RDF图形的C语言开发包，支持SPARQL,RDQL,以及LAQRS语言，提供API用来创建查询和解析查询语法。可生成多种格式输出包括：XML,CSV,TSV,andJSON