FlagAI大模型工具包
FlagAI 飞智是一个快速、易于使用和可扩展的大模型工具包。目标是支持在多模态的各种下游任务上训练、微调和部署大规模模型。
优点:
-
可通过 API 快速下载模型
提供 API 方便你快速下载模型,并在给定(中/英文)文本上使用这些预训练模型,在从SuperGLUE和CLUE benchmarks收集的广泛使用的数据集上对它们进行微调。
FlagAI 现已支持 30+ 主流模型,包括语言模型Aquila, 多模态模型 AltCLIP 、文生图模型 AltDiffusion、最高百亿参数的 悟道GLM,EVA-CLIP、Galactica、OPT、BERT、RoBERTa、GPT2、T5、ALM、Huggingface Transformers 等。
-
仅用十行代码即可进行并行训练
飞智由四个最流行的数据/模型并行库(PyTorch/Deepspeed/Megatron-LM/BMTrain)提供支持,它们之间实现了无缝集成。 你可以用不到十行代码来并行你的训练/测试过程。
-
提供提示学习工具包
FlagAI 提供了提示学习(prompt-learning)的工具包,用于少样本学习(few-shot learning)任务。
-
尤其擅长中文任务
FlagAI 目前支持的模型可以应用于文本分类、信息提取、问答、摘要、文本生成等任务,尤其擅长中文任务。
评论
AutoGPTQ大语言模型量化工具包
AutoGPTQ是一个基于GPTQ算法,简单易用且拥有用户友好型接口的大语言模型量化工具包。性能对比推理速度以下结果通过这个脚本生成,文本输入的batchsize为1,解码策略为beamsearch并
AutoGPTQ大语言模型量化工具包
0
Gensim主题模型 Python 工具包
Gensim是一个相当专业的主题模型Python工具包。在文本处理中,比如商品评论挖掘,有时需要了解每个评论分别和商品的描述之间的相似度,以此衡量评论的客观性。评论和商品描述的相似度越高,说明评论的用
Gensim主题模型 Python 工具包
0
pomegranate图模型和概率模型工具包
pomegranate是基于Python的图模型和概率模型工具包,它使用Cython实现以加快反应速度。它源于YAHMM,可实现快速、高效和极度灵活的概率模型,如概率分布、贝叶斯网络、混合隐马尔可夫模
pomegranate图模型和概率模型工具包
0
Core ML ToolsCore ML 模型工具包
CoreML工具包含用于CoreML模型转换、编辑和验证的支持工具。使用coremltools可将机器学习模型从第三方库转换为CoreML格式,包含用于从培训库转换模型的支持工具,例如:TensorF
Core ML ToolsCore ML 模型工具包
0
Core ML ToolsCore ML 模型工具包
Core ML 工具包含用于 Core ML 模型转换、编辑和验证的支持工具。使用 coremlto
Core ML ToolsCore ML 模型工具包
0