DBus实时数据总线
DBus 专注于数据的收集及实时数据流计算,通过简单灵活的配置,以无侵入的方式对源端数据进行采集,采用高可用的流式计算框架,对在业务流程中产生的数据进行汇聚,经过转换处理后成为统一 JSON 的数据格式(UMS),提供给不同数据使用方订阅和消费,充当数仓平台、大数据分析平台、实时报表和实时营销等业务的数据源。
DBus 将 UAV 采集的全维监控数据以无侵入方式进行实时收集,为下游大数据处理平台 Wormhole 运行统计模型和机器学习提供数据源。
此外,DBus 还提供以下特性:
-
多种数据源支持,海量数据实时传输
-
感知源端 schema 变更,数据实时脱敏
-
初始加载和独立加载
-
统一标准化消息传输协议,可靠多路消息订阅分发
-
支持分表数据汇集
DBus 技术架构
DBus 支持 Oracle,MySQL,Log, RocketMQ 等数据源,这次开源版本支持 MySQL 数据源(支持版本 v5.6, v5.7),DBus的主要潜在客户包括:
-
数仓平台和数据分析平台
-
实时营销决策
-
实时报表展示
-
异构数据实时同步
-
其他实时性要求高的系统
评论