搜索

LangKit让大语言模型安全可靠

联合创作 · 2023-09-25 23:49

LangKit 是一个用于监控语言模型的开源文本度量工具包。它提供了一系列用于从输入和/或输出文本中提取相关信号的方法，这些方法与开源数据记录库 whylogs 兼容。

当前支持的 metrics 包括：

  • 文本质量
    • 可读性分数
    • 复杂性和成绩分数
  • 文本相关性
    • 提示/响应之间的相似性分数
    • 与用户定义主题的相似度分数
  • 安全和隐私
    • patterns - 匹配用户定义的正则表达式模式组的字符串计数
    • 越狱 - 与已知越狱尝试的相似度分数
    • 提示注入 - 与已知提示注入攻击的相似度分数
    • 拒绝 - 与已知的 LLM 拒绝服务响应相关的相似度分数
  • 情绪和毒性
    • 情感分析
    • 毒性分析
浏览 8
点赞
评论
收藏
分享

手机扫一扫分享

编辑
举报
评论
图片
表情
推荐
Table-GPT:让大语言模型理解表格数据
数据派THU
0
LLaMA大语言模型
LLaMA 语言模型全称为 "Large Language Model Meta AI"，是 Met
LLaMA大语言模型
0
LLaMA大语言模型
LLaMA语言模型全称为"LargeLanguageModelMetaAI"，是Meta的全新大型语言模型（LLM），这是一个模型系列，根据参数规模进行了划分（分为70亿、130亿、330亿和650亿
LLaMA大语言模型
0
RedPajama大语言模型
RedPajama项目旨在创建一套领先的全开源大语言模型。目前，该项目已完成了第一步，成功复制了LLaMA训练数据集超过1.2万亿个数据token。该项目由Together、Ontocord.ai、E
RedPajama大语言模型
0
OPT-175B大语言模型
OPT-175B是Meta开源的大语言模型，拥有超过1750亿个参数——和GPT-3相当。相比GPT-3，OPT-175B的优势在于它完全免费。Meta还公布了代码库、开发过程日志、数据、研究论文和其
OPT-175B大语言模型
0
OPT-175B大语言模型
OPT-175B 是 Meta 开源的大语言模型，拥有超过 1750 亿个参数——和 GPT-3 相
OPT-175B大语言模型
0
SALMONN听觉大语言模型
SALMONN 是清华大学电子工程系与字节跳动火山语音团队联手开源的全新听觉大语言模型。SALMON
SALMONN听觉大语言模型
0
MOSS对话大语言模型
MOSS是一个支持中英双语和多种插件的开源对话语言模型，moss-moon系列模型具有160亿参数，
MOSS对话大语言模型
0
ChatYuan对话语言大模型
ChatYuan对话语言大模型
0
DB-GPT数据库大语言模型
DB-GPT是一个开源的以数据库为基础的GPT实验项目，使用本地化的GPT大模型与数据和环境进行交互，无数据泄露风险，100%私密，100%安全。DB-GPT为所有以数据库为基础的场景，构建了一套完整
DB-GPT数据库大语言模型
0
点赞
评论
收藏
分享

手机扫一扫分享

编辑
举报