Mastra TypeScript AI 代理框架
Mastra 是一个自定的 Typescript 框架,可帮助您快速构建 AI 应用程序和功能。它为您提供了所需的一组原语:工作流、代理、RAG、集成和评估。您可以在本地机器上运行 Mastra,也可以部署到无服务器云。
Mastra 的主要特点是:
特征 | 描述 |
---|---|
LLM 模型 | Mastra 使用Vercel AI SDK进行模型路由,提供统一的接口来与任何 LLM 提供商(包括 OpenAI、Anthropic 和 Google Gemini)进行交互。您可以选择特定的模型和提供商,并决定是否流式传输响应。 |
代理 | 代理是语言模型选择一系列操作的系统。在 Mastra 中,代理为 LLM 模型提供工具、工作流和同步数据。代理可以调用您自己的函数或第三方集成的 API,并访问您构建的知识库。 |
工具 | 工具是可由代理或工作流执行的类型化函数,具有内置集成访问和参数验证功能。每个工具都有一个定义其输入的架构、一个实现其逻辑的执行器函数以及对已配置集成的访问权限。 |
工作流程 | 工作流是持久的基于图形的状态机。它们具有循环、分支、等待人工输入、嵌入其他工作流、执行错误处理、重试、解析等功能。它们可以用代码或可视化编辑器构建。工作流中的每个步骤都有内置的 OpenTelemetry 跟踪。 |
RAG
| 检索增强生成 (RAG) 可让您为代理构建知识库。RAG 是一种具有特定查询技术的 ETL 管道,包括分块、嵌入和向量搜索。 |
集成 | 在 Mastra 中,集成是自动生成的、类型安全的第三方服务 API 客户端,可用作代理或工作流中步骤的工具。 |
评估 | 评估是使用模型分级、基于规则和统计方法评估 LLM 输出的自动化测试。每次评估都会返回 0-1 之间的标准化分数,可以记录和比较。评估可以根据您自己的提示和评分功能进行定制。 |
评论