AudioGPT基于 LLM 的音频助手

AudioGPT 是一个借助大语言模型 (LLM) 处理音频的工具。

AudioGPT 在收到用户请求时使用 ChatGPT 进行任务分析，根据语音基础模型中可用的功能描述选择模型，用选定的语音基础模型执行用户指令，并根据执行结果汇总响应。借助 ChatGPT 强大的语言能力和众多的语音基础模型，AudioGPT 能够完成几乎所有语音领域的任务。

具体来说，AudioGPT 运行过程可以分成 4 个阶段：模态转化、任务分析、模型分配和回复生成。

AudioGPT 核心功能

• 生成音乐


• 背景音效


• 音频生成字幕


• 文字生成音频


• 文字生成音频并模拟声音


• 根据图片生成音频


• 对音频进行inpaint（局部屏蔽）


• 根据音频和人脸照片合成视频


• 检测音频中的事件，以及开始和结束时间


• 单声道变双声道


• 通过文本描述检测特定声音发生的时间


• 抽取某种声音


• 去除背景噪音


• 多人混合声分离出单人声音


• 语音翻译