Seldon CoreKubernetes 的机器学习部署平台

Seldon Core 是一个用于在 Kubernetes 上部署机器学习模型的开源平台。

机器学习部署面临许多挑战。 Seldon Core打算帮助应对这些挑战。它的高级目标是：

• 允许数据科学家使用任何机器学习工具包或编程语言创建模型。我们计划最初涵盖以下工具/语言：






• Tensorflow模型




• Sklearn模特




• 基于Python的模型包括




• Spark模型




• H2O模型




• R模型






• 在部署时通过REST和gRPC自动公开机器学习模型，以便轻松集成到需要预测的业务应用程序中。




• 允许将复杂的运行时推理图部署为微服务。这些图可以包括：






• 模型 - 可执行机器学习模型的运行时推理




• 路由器 - 将API请求路由到子图。示例：AB测试，多武装强盗。




• 组合器 - 结合子图的响应。示例：模型集合




• 变形器 - 转换请求或响应。示例：转换要素请求。






• 处理已部署模型的完整生命周期管理：






• 更新运行时图表，无需停机




• 缩放




• 监控




• 安全