YuLan-Chat基于中英文混合指令微调的大语言对话模型

联合创作 · 2023-09-25 23:44

YuLan-Chat 是基于高质量中英文混合指令微调的大语言对话模型。

YuLan-Chat 采用 LLaMA 作为底座，采用精心优化的高质量中英文混合指令进行微调。其中 YuLan-Chat-65B 模型目前能够在中英文相关评测数据集上显著超越已有开源模型效果。团队称后续会继续优化指令微调方法与底座模型，持续更新 YuLan-Chat 模型。

样例展示

英文对话能力

杯子加水当乐器

三巨头的图灵奖

中文对话能力

山东淄博与美国德州

没说就是零卡

浏览 33

点赞

收藏

分享

举报

评论

图片

表情

WizardLM基于 LLaMA 的微调大语言模型

WizardLM是一个经过微调的7BLLaMA模型。它通过大量具有不同难度的指令跟随对话进行微调。这个模型的新颖之处在于使用了LLM来自动生成训练数据。WizardLM模型使用一种名为Evol-Ins

WizardLM基于 LLaMA 的微调大语言模型

WizardLM 是一个经过微调的 7B LLaMA 模型。它通过大量具有不同难度的指令跟随对话进行

MOSS对话大语言模型

MOSS是一个支持中英双语和多种插件的开源对话语言模型，moss-moon系列模型具有160亿参数，

ChatYuan对话语言大模型

ChatYuan对话语言大模型

ChatYuan对话语言大模型

ChatYuan是一个支持中英双语的功能型对话语言大模型。ChatYuan-large-v2使用了和v1版本相同的技术方案，在微调数据、人类反馈强化学习、思维链等方面进行了优化。ChatYuan-la

大模型指令微调-技巧篇（NEFT）

MOSS对话大语言模型

MOSS是一个支持中英双语和多种插件的开源对话语言模型，moss-moon系列模型具有160亿参数，在FP16精度下可在单张A100/A800或两张3090显卡运行，在INT4/8精度下可在单张309

CPM-Bee中英文双语大语言模型

CPM-Bee是一个完全开源、允许商用的百亿参数中英文基座模型。它采用Transformer自回归架构（auto-regressive），使用万亿级高质量语料进行预训练，拥有强大的基础能力。CPM-B

CPM-Bee中英文双语大语言模型

CPM-Bee 是一个完全开源、允许商用的百亿参数中英文基座模型。它采用 Transformer

流萤中文对话式大语言模型

Firefly(流萤) 是一个开源的中文大语言模型项目(全量微调+QLoRA)，支持微调Llma2、Llama、Baichuan、InternLM、Ziya、Bloom等大模型.流萤（萤火虫的别称）是

点赞

收藏

分享

举报