MPT-30B大型语言模型认领

0粉丝

MPT-30B 是 Mosaic Pretrained Transformer (MPT) 模型系列的一部分，它使用了一个为高效训练和推理而优化的 t

简介

MPT-30B 是 Mosaic Pretrained Transformer (MPT) 模型系列的一部分，它使用了一个为高效训练和推理而优化的 transformer 架构，并在 1T tokens 的英文文本和代码上从头训练。这个模型使用 MosaicML LLM 代码库，是由 MosaicM... 更多

其它信息

地区

不详

开发语言

Python

开源组织

无

所属分类

神经网络/人工智能、 LLM（大语言模型）

授权协议

Apache-2.0

操作系统

跨平台

收录时间

2023-09-25

软件类型

开源软件

适用人群

未知

时光轴

里程碑1

LOG0

2023

2023-09

轻识收录

打卡

评价

0.0（满分 10 分）0 个评分

什么是点评分

图片

表情

全部评价( 0)

推荐率 100%

推荐

书生·浦语多语言大型语言模型

InternLM（书生·浦语）是在过万亿token数据上训练的多语千亿参数基座模型。通过多阶段的渐进式训练，InternLM基座模型具有较高的知识水平，在中英文阅读理解、推理任务等需要较强思维能力的场

GPT-2基于 transformer 的大型语言模型

GPT-2是一种基于transformer 的大型语言模型，具有15亿个参数，在800万网页数据集上进行训练。它是论文《语言模型是无人监督的多任务学习者》（LanguageModelsareUnsup

PaLM 2谷歌下一代大型语言模型

PaLM2 是谷歌推出的下一代大型语言模型。擅长高级推理任务，包括代码和数学、分类和问答、翻译和多语言能力以及自然语言生成。谷歌声称PaLM2是一种最先进的语言模型，要优于其之前所有的LLM，包括Pa

GPT-2基于 transformer 的大型语言模型

GPT-2 是一种基于 transformer 的大型语言模型，具有 15 亿个参数，在 800 万

书生·浦语多语言大型语言模型

InternLM（书生·浦语）是在过万亿 token 数据上训练的多语千亿参数基座模型。通过多阶段的

PaLM 2谷歌下一代大型语言模型

PaLM 2 是谷歌推出的下一代大型语言模型。擅长高级推理任务，包括代码和数学、分类和问答、翻译和多

LoRA大型语言模型的低秩适应

LoRA是 Low-RankAdaptationofLargeLanguageModels的简写，即大型语言模型的低秩适应。它冻结了预训练模型的权重，并将可训练的秩分解矩阵注入到Transformer

FinGPT金融领域大型预训练语言模型

FinGPT是金融领域大型预训练语言模型。它能理解和生成财经新闻，分析社交媒体上的公众情绪，解读金融报告如年度报告、季度收益报告等，进行市场预测，以及通过学习用户的个人偏好，提供个性化的投资建议。Fi

Lit-Parrot大型语言模型的可破解实现

Lit-Parrot 是基于 nanoGPT 的 StableLM/Pythia/INCITE 语言

Lit-Parrot大型语言模型的可破解实现

Lit-Parrot是基于nanoGPT的StableLM/Pythia/INCITE语言模型的实现。支持flashattention、LLaMA-Adapter微调、预训练。最先进的开源大型语言模型