OpenBuddy多语言聊天机器人
OpenBuddy 是一款强大的开源多语言聊天机器人模型,面向全球用户,重点强调对话 AI 和无缝多语言支持,包括英语、中文和其他语言。
基于 Tii 的 Falcon 模型和 Facebook 的 LLaMA 模型构建,OpenBuddy 经过微调,包括扩展词汇表、增加常见字符和增强 token 嵌入。通过利用这些改进和多轮对话数据集,OpenBuddy 提供了一个强大的模型,能够回答各种语言的问题并执行翻译任务。
OpenBuddy 使命是提供一个免费、开源、能够离线运行的 AI 模型,这个模型在用户的设备上运行,不论他们的语言或文化背景如何。致力于让全球各地的人们能够接触并从 AI 技术中受益。
主要特性
- 多语言会话 AI,支持中文、英语、日语、韩语、法语、德语等多种语言!
- 扩展的词汇表和对常见的 CJK 字符的支持
- 通过多轮对话数据集进行微调以提高性能
- 提供两个模型版本:7B 和 13B
- 通过 llama.cpp 提供对 CPU 部署的 5 位量化(输出质量稍有降低)
- 积极的开发计划,预期未来的特性和改进
模型版本
OpenBuddy 目前提供两个模型系列:Falcon 和 LLaMA。
关于下载模型的更多信息可以在 模型 页面找到。
未来计划
- 增强多语言性能
- 优化模型量化后的质量
- 开发一个评估内容质量、安全性和推理能力的机制
- 探索使用人类反馈的强化学习 (RLHF)
- 探索添加多模态能力,用于有图像上下文的对话
评论