中国数据中台行业白皮书(2021)
数据中台不是简单的一套软件系统或者标准化产品,更多的是一种强调资源整合、集中配置、能力沉淀、分步执行的运作机制,是一系列数据组件或模块的集合,为企业数据治理效率的提升、业务流程与组织架构的升级、运营与决策的精细化赋能。
本文参考艾瑞咨询“中国数据中台行业白皮书(2021)”,白皮书全文PDF 下载链接:中国数据中台行业白皮书(2021)
数据中台发展的驱动因素
数据中台概述
数据中台的行业发展现状
数据中台应用的挑战
数据中台的未来发展趋势
我国信息化建设紧密围绕着打造网络强国、建设数字中国、“互联网+”行动计划等国家战略,充分发挥信息化驱动引领作用,积极推进以物联网、云计算、大数据、人工智能、区块链等为代表的新一代信息技术与行业深度融合。各领域信息化建设紧紧围绕行业任务部署及关键战略统筹,以新技术、新模式为支撑,强调网络安全保障能力的同时,积极规划产业进程,稳步促进信息化转型。
早期业务发展过程中,企业为了解决一些当下的业务问题,按照垂直的、个性化的业务逻辑部署 IT系统,各种信息系统大多是独立采购与建设的,与流程、底层系统耦合较深,横向和上下游系统之间的交叉关联也较多,导致企业内部形成多个数据孤岛,很难做到信息的完全互联互通。
同时在新平台、新业务、新市场的拓展过程中,系统没法直接复用和快速迭代,产生的数据也无法与传统模式下积累的数据互通,进一步加剧了数据孤岛的问题。分散的数据无法很好地应对前端业务变化,难以支撑企业的经营决策,因此亟需一套机制将新老模式融合,整合分散在各个孤岛的数据,形成数据服务能力。
近年,多数企业的认知已经从“跟风转型”过渡到“数据驱动转型”,认识到数据是企业的新型资产。而数据收集、存储和处理成本的大幅下降和计算能力的大幅提高,为数据资产化应用提供了经济环境基础。
职能型组织架构,项目性组织架构和矩阵型组织架构是现代企业通用的组织架构,他们在支撑企业运营的同时也造成了一些系统性的问题。例如职能型的组织架构虽然使企业的部门专业化程度高,部门内部直线沟通、交流顺畅,但是也造成了:
①没有一个直接对接项目的负责人或团体,项目责任不明确。
②不以客户为导向。各部门由于只重视本部门的业务,而不重视项目整体和客户的利益,最终造成1+1<2的情况。
③组织之间联系薄弱,对于跨部门的复杂项目协调困难,浪费大量时间和精力。
不管企业使用哪一种组织架构,数据的冗杂、前台与后台之间的接洽困难、业务与数据的孤立等问题,都在现阶段的信息化市场环境中逐渐成为阻碍企业发展的障碍。在此基础上,企业需要打破传统的组织壁垒,根据新的运营模式构建敏捷、创新的组织体系,实现跨部门的创新协作形式。
数据中台居于前台和后台之间,是企业级的数据共享、能力复用平台,是数字化转型的基础和中枢系统。将企业全域海量、多源、异构的数据整合资产化,为业务前台提供数据资源和能力的支撑,以实现数据驱动的精细化运营。数据中台不是简单的一套软件系统或者一个标准化产品,更多的是一种强调资源整合、集中配置、能力沉淀、分步执行的运作机制,是一系列数据组件或模块的集合,指向企业的业务场景。
企业基于自身的信息化建设基础和业务特点对数据中台的能力进行定义,基于能力定义选择和利用数据组件搭建中台。各类数据技术是构建数据中台的基础,能够高效对数据进行统一收集、处理、储存、计算、分析和可视化呈现,使数据最终与业务链条结合,真正转化为企业核心资产。而从广义上,数据中台更是一种企业组织管理模式和理念,集公司战略决心、组织架构、技术架构于一体,企业从战略上构建统一的协同基座即中台化组织,以协调和支持各业务部门,用技术拓展商业边界,为新业务、新部门提供成长空间。
数据中台呈现统一基础层、公共中间层、多元应用层的分层架构模式。数据中台首先采集与引入全业务、多终端、多形态的数据,经过数据计算与处理,通过数据指标结构化、规范化的方式实现指标口径的统一,存储到各类数据库、数据仓库或数据湖中,以实现数据资产化管理。
向上提供各类数据服务,面向业务构建统一的数据服务接口与数据查询逻辑,提供数据的分析与展示,形成以业务核心对象为中心的连接和标签体系,深度萃取数据价值。
数据中台和业务中台各司其职,相辅相成。相比数据中台抽象数据能力的共性形成通用数据服务能力,业务中台则是抽象企业各业务流程的共性形成通用业务服务能力,更多偏向于业务流程的管控。将企业的业务规则、流程、逻辑与业务进行隔离,整合封装成微服务、组件等前台友好的可复用共享的能力;将一切业务数据化,实现后台资源到前台敏捷复用能力的转化,提升面向终端用户的前台的速度和效率,提高整体业务的灵活性和响应速度。
企业一般根据自身的实际情况需要进行数据中台和业务中台的规划和部署,当企业同时拥有数据中台和业务中台时,两套中台起到相辅相成、相互支撑的作用。业务中台中沉淀的业务数据进入到数据中台进行体系化的加工,再以服务化的方式支撑业务中台上的应用,形成循环不息的数据闭环。但业务中台只是数据中台的数据源之一,而数据中台的数据服务也并非必须经过业务中台才能作用于业务。
数据中台的建设不是一蹴而就的,其建设路径及难度跟企业数字化变革驱动力、行业背景直接相关,与企业原有机制的融合是一个长期的过程,其建设成本在百万元以上,建设周期更是以年为单位计算。
整个数据中台的建设没有一个通用的企业级模型套用,一般需要从顶层设计出发,自上而下贯彻。根据企业自身的业务目标逐级建设,优先从小场景领域内开始试点,逐步纳入更多的业务模块,以达到企业数字能力的逐级进化和价值的持续叠加。此外,在数据中台的建设过程中,企业需要培养自身的数据管理团队,甚至重构整个IT团队,以提高数据服务和企业数字化运营的能力。
数据中台的搭建涉及技术诸多,在整个技术构架上需要考虑可拓展性、敏捷性、轻量化,并注重与前台的交互,灵活地通过服务编排实现应用功能,以满足前台需求。当前数据中台遵循“高内聚、松耦合”的设计原则,融合分布式、微服务、容器云、DevOps、大数据处理及高可用高性能高并发架构,已形成了一套较为成熟的方法论。
因此现阶段,数据中台的建设难点更多的聚焦在如何将成熟的技术方案与行业及企业的实际情况和特征结合,基于真实应用场景,规划设计数据中台建设的可行性方案。企业自身的资源配置能力、管理经验、组织架构、业务梳理能力,以及数据中台服务商在企业中台搭建过程中为企业数据治理提供的咨询规划服务,逐渐成为数据中台建设过程中的关键性要素。
行业集中度较低,市场竞争格局尚未成型。数据中台行业的主要参与者指帮助下游企业搭建数据中台并提供服务的供应厂商。整体而言,数据中台行业尚处于发展成型的早期阶段,参与者众多但行业集中度较低,尚未形成鲜明的市场竞争格局。数据中台供应商主要由五类厂商构成:头部互联网企业、数字化解决方案提供商、大数据公司、独立中台开发商及人工智能厂商。
市场不断有新玩家进入,各类型的厂商都具有不同的竞争优势,处在占领市场份额、凭借优势领域构建进入壁垒的扩张阶段,与此同时也带来了一些产品区分度低、边界不明、业务混杂等行业乱象。
有数据基础、多元化经营的各行业头部企业为主要客户。事实上,并非所有企业都需要或适合部署数据中台。是否进行数据中台的建设,与企业所处行业、发展阶段以及自身的数据成熟度和数字化程度等因素相关。对于初创公司以及一些业务较为单一的企业,现阶段实际不存在数据互联互通的问题,则并不适合也并非必须搭建中台,因为数据中台的建设模式较重,建设周期较长,需要投入较高的资金和人力成本,短期内反而不利于这一类企业的快速发展。我们认为,满足以下至少三种情况的公司适合进行数据中台的部署:
①业务场景具备不确定性,迭代速度快,所处市场环境变化快,需要具备快速试错和敏捷反应的能力;
②生态和流程系统复杂,有多条产品线或横跨多种业态,各业务单元间存在功能模块低水平重复建设的问题;
③由于事业部等的组织架构,导致数据和信息系统存在互联互通问题,需要打通壁垒进行统一管理;
④营收具有一定规模,信息化建设达到一定水平,但信息技术仍对企业发展存在制约,需要进行整体的技术升级、业务重构;
⑤对外需要多业态扩张,多消费渠道触达,希望协调整个产业链上下游合作伙伴之间资源。
随着进入数字化营销时代,线上营销场景已经实现云化,线下营销场景也可以通过IoT、AI等技术实现对用户行为数据的获取和完全跟踪,目前营销获客领域的数据基础设施已达到较高的成熟度。然而企业获取的销售、营销数据也愈发零散、且往往都是孤立存在;日益碎片化的触达时段及场景、层出不穷的媒介载体和复杂的社交数据,也使全景化的消费者画像和用户标签体系难以整合建立;与此同时,爆发式的海量数据使企业原有的CRM系统算力和能力难以满足业务的计算分析需求。
营销数据中台在集数据采集、融通聚合、管理服务等功能于一体的基础上,基于场景的特点开发专门的数据模型、标签体系等多种数据智能应用,构建用户360°全景画像,深入洞察目标客群特征,分析交易销售数据及营销效果,助力企业实现基于智能营销和消费者智能运营及管理的数据管理、洞察分析和决策支持。
基于阿里云的云资源基础设施,在智能数据构建及管理Dataphin平台、智能商业分析套件QuickBI、 QuickAudience产品、智能用户增长、品牌数据银行的支撑下,实现基于消费者标签和模型的人群分析和洞察,实现消费者资产向品牌数据银行的推送和数据资产融合,从而允许品牌在数据银行内进行基于全域消费者洞察的营销活动策划和实现,同时帮助商家实现用户数据与店铺销售数据的融合和分析洞察。
元年科技是基于人工智能、大数据、云计算、互联网、物联网等新一代信息技术,同时又具有丰富的财务管理、业务运营和行业经验的企业数字化转型软件商和服务商。经过21年的发展,元年已经服务了上千家大型企业集团,成为国内管理会计、财务管理、业务运营、数据分析等专业领域的领导者,对金融、地产、零售快消、装备制造、能源化工、交通物流等二十余个行业有深刻的洞察和丰富的经验。
目前,元年已经形成了较为全面的中台整体解决方案,在数据中台常规基础功能模块的基础上还引入了偏向业务建模的适配插件,真正实现业财税一体化的行业解决方案。
数据中台的核心在于共享和沉淀能力,随着数据中台在行业头部及领先企业逐渐落地,供应商经历了各类业务场景能力沉淀的过程。在深度上,数据中台厂商承载细分行业的各类定制化业务,不断沉淀业务能力。
在广度上,随着不同业务场景的持续输入,数据中台厂商产品的能力越来越丰富,覆盖的领域也越来越广泛。完善数据中台的深度和广度,提炼和整合数据中台的服务,尤其是对于对数据中台能力要求相对简单的中小企业,为客户提供标准化的整体解决方案将成为数据中台服务商的产品方向。
从内部来看,数据中台不断沉淀跨行业、跨企业复用的组件、模块,存在朝SaaS和本地部署混合模式发展的趋势。从外部来看,随着云计算的普及,部分系统SaaS化趋势较强。因此,作为前台和后台的连接,数据中台与SaaS应用融合对接的实践越来越多,市场将逐渐形成一套成熟的中台+SaaS系统融合闭环方案。
敏捷开发、快速迭代以适应业务需求是数据中台的基本能力。随着数据中台市场渗透率的提高,应对小量应用调整的场景,低代码需求在近期兴起。允许通过零代码或少量代码就可以快速创建应用,对企业运维团队的要求降低,将充分提升数据中台的应用性。
数据中台的定义一直随着发展而改变,现阶段数据中台更多的是描述基于云计算、大数据、人工智能等新一代技术打造的持续演进的企业级数据共享服务平台,是技术和方法论的结合。
首先,人工智能使得数据采、存、通、治的加工链条大幅缩短。在应用侧,数据智能将更多地辅助业务决策、提高生产效率,赋能更多应用领域。其次,大数据以丰富的数据计算和存储技术为数据中台提供了强大的数据处理能力。
最后,云端是如今企业数字化、智能化的基础,企业上云是大势所趋。云计算的按需付费、弹性扩展等特性,使其使用和迁移成本更低,为更多企业运用数据中台等新技术提供了条件。数据是上述各技术发挥效用的土壤,随着数据源越来越丰富,数据使用场景越来越多元,数据中台将会融合更多新兴技术,释放出更多能量。
文章来源:全栈云技术架构
转载申明:转载本号文章请注明作者和来源,本号发布文章若存在版权等问题,请留言联系处理,谢谢。
推荐阅读
更多架构相关技术知识总结请参考“架构师全店铺技术资料打包”相关电子书(35本技术资料打包汇总详情可通过“阅读原文”获取)。
全店内容持续更新,现下单“全店铺技术资料打包(全)”,后续可享全店内容更新“免费”赠阅,价格仅收198元(原总价305元)。
温馨提示:
扫描二维码关注公众号,点击阅读原文链接获取“架构师技术全店资料打包汇总(全)”电子书资料详情。