Prompt2Model根据指令生成可部署模型
Prompt2Model 是一个采用自然语言任务描述(如 ChatGPT 等 LLM 使用的提示)来训练有利于部署的小型专用模型的系统。这是通过检索现有数据集和预训练模型、使用 LLM 生成数据集以及对这些检索和生成的数据集进行监督微调的多步骤过程来完成的。
测试表明,在给定相同的几次提示作为输入的情况下,Prompt2Model 训练的模型的性能比强大的 LLM gpt-3.5-turbo 的结果平均高 20%,而体积却小了 700 倍。这些数据还可用于获得模型性能的可靠性能估计,使模型开发人员能够在部署之前评估模型的可靠性。
评论