OPEA 企业 AI 开放平台

OPEA（Open Platform for Enterprise AI）是一个框架，可用于创建和评估开放、多提供商、强大且可组合的生成式 AI (GenAI) 解决方案。它充分利用整个生态系统中的最佳创新，同时将企业级需求放在首位。

OPEA 简化了企业级复合 GenAI 解决方案的实施，首先重点关注检索增强生成式 AI (RAG)。该平台旨在促进将安全、高性能且经济高效的 GenAI 工作流高效集成到业务系统中并管理其部署，从而更快地采用 GenAI 并实现业务价值。

OPEA 平台包括：

• 适用于最先进的 GenAI 系统（包括 LLM、数据存储和提示引擎）的可组合微服务构建块的详细框架
• 检索增强 GenAI 组件堆栈结构和端到端工作流程的架构蓝图
• 多个微型和巨型服务可让您的 GenAI 投入生产和部署
• 围绕性能、功能、可信度和企业级就绪性对 GenAI 系统进行评级的四步评估

OPEA 项目架构

OPEA 使用微服务为企业创建高质量的 GenAI 应用程序，简化了生产的扩展和部署流程。这些微服务利用服务编写器将它们组装成一个超级服务，从而创建现实世界的企业 AI 应用程序。

微服务：灵活且可扩展的架构

GenAI微服务文档描述了一套微服务。每个微服务都旨在执行应用程序架构中的特定功能或任务。通过将系统分解为这些较小的、独立的服务，微服务可以提高模块化、灵活性和可扩展性。这种模块化方法允许开发人员独立开发、部署和扩展应用程序的各个组件，从而使其更易于维护和随时间推移而发展。所有微服务都是容器化的，允许云原生部署。

大型服务：全面的解决方案

大型服务是由一个或多个微服务组成的高级架构构造。与专注于特定任务或功能的单个微服务不同，大型服务会协调多个微服务以提供全面的解决方案。大型服务封装了复杂的业务逻辑和工作流编排，协调各种微服务之间的交互以满足特定的应用程序需求。这种方法可以创建模块化但集成的应用程序。可以在GenAI 示例 文档中找到基于用例的应用程序集合

网关：定制访问大型服务和微服务

网关是用户访问大型服务的接口，可根据用户需求提供定制的访问方式。它充当传入请求的入口点，将其路由到大型服务架构中的相应微服务。

网关支持 API 定义、API 版本控制、速率限制和请求转换，允许对用户与底层微服务的交互方式进行细粒度控制。通过抽象底层基础架构的复杂性，网关为与 Megaservice 交互提供了无缝且用户友好的体验。