Apache DolphinScheduler分布式工作流任务调度系统

Apache DolphinScheduler简介

Apache DolphinScheduler(Incubator,原Easy Scheduler)是一个可视化的分布式大数据工作流任务调度系统，DolphinScheduler 致力于“可视化操作工作流(任务)之间的依赖关系，并可视化监控整个数据处理过程”。DolphinScheduler以有向无环图(DAG)的方式将任务组装起来，可实时监控任务的运行状态，同时支持重试、从指定节点恢复失败、暂停及Kill任务等操作。

DolphinScheduler的起源 - 需求决定

大数据任务调度需要解决以下痛点，市面上难以找到满足需求的开源大数据调度，这是DolphinScheduler诞生的原因

DolphinScheduler设计特点

 一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。 其主要目标如下：

• 以DAG图的方式将Task按照任务的依赖关系关联起来，可实时可视化监控任务的运行状态
• 支持丰富的任务类型：Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等
• 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复，同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作
• 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败
• 支持工作流全局参数及节点自定义参数设置
• 支持资源文件的在线上传/下载，管理等，支持在线文件创建、编辑
• 支持任务日志在线查看及滚动、在线下载日志等
• 实现集群HA，通过Zookeeper实现Master集群和Worker集群去中心化
• 支持对Master/Worker cpu load，memory，cpu在线查看
• 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计
• 支持补数
• 支持多租户
• 支持国际化

系统部分截图

他们正在使用 DolphinScheduler

目前已经有 1000 多家公司在使用 DolphinScheduler 作为大数据任务调度，部分案例如下(排名不分先后):

奖项

如何加入贡献

欢迎添加微信贡献者：easyworkflow，并告知想贡献即可

获得帮助

1. 提交 issue
2. 加入 Slack
3. 官网 https://dolphinscheduler.apache.org