简介
GPTCache 是一个用于创建语义缓存以存储来自 LLM 查询的响应的库。将你的 LLM API 成本削减 10 倍，将速度提高 100 倍。ChatGPT 和各种大型语言模型（LLM）拥有令人难以置信的多功能性，能够开发广泛的应用程序。然而，随着你的应用程序越来越受欢迎，遇到更高的流量水平，与... 更多
其它信息
地区
不详
开发语言
Python
开源组织
无
所属分类
神经网络/人工智能、 LLM（大语言模型）
授权协议
MIT
操作系统
跨平台
收录时间
2023-09-25
软件类型
开源软件
适用人群
未知
时光轴
里程碑1
LOG0
2023
2023-09
轻识收录
评价
0.0（满分 10 分）0 个评分
什么是点评分
全部评价(
0)
推荐率
100%
推荐
requests-cacheRequests 的缓存库
requests-cache 是为 Python 的 Requests 库提供了持久化缓存支持的 P
requests-cacheRequests 的缓存库
0
requests-cacheRequests 的缓存库
requests-cache是为Python的Requests库提供了持久化缓存支持的Python模块。示例代码：import requestsimport requests_cacherequest
requests-cacheRequests 的缓存库
0
WeavingDBC# 实现的缓存库
WeavingDBWeavingDB为满足C#项目的特殊使用与简单部署，而开发此WeavingDB。1.支持K-V方式。支持通配符方式匹配KEYS2.支持JSON数据的条件查询的内存缓存库。（目前JS
WeavingDBC# 实现的缓存库
0
FreeCacheGo 语言的缓存库
FreeCache是一个Go语言的缓存库，无额外的GC负荷。数百万对象的垃圾收集延迟仅在数百毫秒。特性：可存储数以百万计条目零垃圾收集负荷高并发而且线程安全的访问纯Go语言实现支持对象失效近乎LRU的
FreeCacheGo 语言的缓存库
0
supycachePython 缓存库
supycache是Python对缓存的简单封装库，支持包括内存缓存、memcached和redis。示例代码：import timeimport supycache@supycache.supyca
supycachePython 缓存库
0