AgentOoba 是 Oobabooga 的 web ui 的自主 AI 代理扩展。

AgentOoba 是一个非常新的项目，用于在 Oobabooga 的 Web UI 中实现自治代理。它通过对底层大型语言模型发出详细请求来实现。

该代理采用“分而治之”的方法来完成任务：如果它找不到合适的方法来立即完成目标，它将尝试将任务分解为子任务，并以广度优先递归的方式评估每个子任务方式。

AgentOoba 在设计时考虑了小上下文模型。它的提示系统旨在尝试将一般提示分解为更小的子提示，只为模型提供每个提示绝对需要的上下文。这允许以更长的执行时间为代价的更小的上下文大小。

• 注意：该项目仍处于起步阶段。现在代理能够使用工具并使用模型的内置功能来完成任务，但它并不擅长。它需要更多的上下文。
• 最新更新包括对任务流处理方式的更改。以前，代理会在遇到工具后立即尝试使用工具来完成任务；现在，它等待子任务完成。

先决条件

安装 https://github.com/oobabooga/text-generation-webui

启动

1 . 使用选项 --extensions AgentOoba 启动 Oobabooga，可以通过编辑启动脚本来做到这一点； python server.py (additional arguments) 行应更改为 python server.py --extensions AgentOoba (additional arguments) 。

也可以正常启动它，并转到扩展选项卡以启用 AgentOoba，但必须在每次启动时执行此操作。

2 . 加载模型 - 代理设计为可灵活适应模型类型，但必须根据在 UI 的提示部分中的模型类型设置人工和助手前缀。眼下这些都是针对Wizard系列的机型设置的。

3. 转到主文本生成页面并向下滚动以查看 UI。