FlagAI大模型工具包

联合创作 · 2023-09-25 23:46

FlagAI 飞智是一个快速、易于使用和可扩展的大模型工具包。目标是支持在多模态的各种下游任务上训练、微调和部署大规模模型。

优点:

  1. 可通过 API 快速下载模型

    提供 API 方便你快速下载模型,并在给定(中/英文)文本上使用这些预训练模型,在从SuperGLUECLUE benchmarks收集的广泛使用的数据集上对它们进行微调。

    FlagAI 现已支持 30+ 主流模型,包括语言模型Aquila, 多模态模型 AltCLIP 、文生图模型 AltDiffusion、最高百亿参数的 悟道GLMEVA-CLIPGalacticaOPTBERTRoBERTaGPT2T5ALMHuggingface Transformers 等。

  2. 仅用十行代码即可进行并行训练

    飞智由四个最流行的数据/模型并行库(PyTorch/Deepspeed/Megatron-LM/BMTrain)提供支持,它们之间实现了无缝集成。 你可以用不到十行代码来并行你的训练/测试过程。

  3. 提供提示学习工具包

    FlagAI 提供了提示学习(prompt-learning)的工具包,用于少样本学习(few-shot learning)任务。

  4. 尤其擅长中文任务

    FlagAI 目前支持的模型可以应用于文本分类、信息提取、问答、摘要、文本生成等任务,尤其擅长中文任务。

浏览 9
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报