Floneum用于 AI 工作流程的图形编辑器

Floneum 是一款用于 AI 工作流程的图形编辑器，专注于社区制作的插件、本地 AI 和安全性。

特性：

• 可视化界面：你无需任何编程知识即可使用Floneum。可视化图形编辑器可以轻松地将社区制作的插件与本地人工智能模型相结合
• 即时运行本地大型语言模型：Floneum 不需要任何外部依赖项，甚至不需要 GPU 即可运行。它使用llm在本地运行大型语言模型。因此，你可以使用你的数据运行 Floneum，而无需担心隐私问题
• 插件：通过将大型语言模型与插件相结合，你可以提高其性能并使模型更好地适合您的特定用例。所有插件都在隔离的环境中运行，因此你无需信任你加载的任何插件。插件只能以安全的方式与其环境交互
• 多语言插件：插件可以使用任何支持Web汇编的语言。除了可以用任何语言访问的 API 之外，Floneum 还具有一个带有人体工学宏的 Rust 包装器，可以轻松创建插件
• 受控文本生成：插件可以通过类似于 jsonformer 或guidance 的过程来控制大型语言模型的输出。这允许插件强制模型输出有效的 json 或它们定义的任何其他结构。这在语言模型和类型化 API 之间进行通信时非常有用