从0到1搭建数仓DWD层案例实践

数据分析挖掘与算法

共 7755字，需浏览 16分钟

· 2022-01-14

关注公众号：大数据技术派，回复资料，领取1024G资料。

然后点击右上角 “设为星标”

比别人更快接收好文章

前

导读：数仓架构（ods-dwd-dws-ads）每一层之前我们已经分享过很多干货了，但dwd却还没有。今天这篇文章主要讲解数仓dwd层业务事实数据的搭建、解析、加载与案例实践。

言

往期干货：

一、DWD层结构

DWD层是对用户的日志行为事实进行解析，以及对交易业务数据采用维度模型的方式重新建模（即维度退化）。

1、回顾DWD层概念

我们在来回顾一下对DWD层（Data Warehouse Detail）的定义：“明细粒度事实层：是以业务过程来作为建模驱动，基于每个具体的业务过程特点，构建最细粒度的明细层事实表（注意是最细粒度）。需要结合企业的数据使用特点，将明细事实表的某些重要维度属性字段做适当冗余，即宽表化处理。明细粒度事实层的表通常也被称为逻辑事实表。”

2、DWD层建模4步骤

DWD层是事实建模层，这层建模主要做的4个步骤：

我们目前已经完成了：

2.1、选择业务过程

选择了事实表，比如：订单事实表、支付事实表等；

2.2、声明粒度

即确认每一行数据是什么，要保证事实表的最小粒度。

2.3、确认维度

在前面两节中我们确定了6个维度；比如时间、用户、地点、商品、优惠券、活动这6个维度。思路是其他ODS层表的维度需要向这6个维度进行退化到DIM层，这样做的母的是减少后期的大量表之间的join操作。

6个维度表的退化操作其实我们在前面的第十二章节已经做了即DIM层。除了第3张表即商品维度表是5个表退化到1张表上，其他都是1-2张表退化到1张表上，相对比较简单。

2.4、确认事实

就是确认事实表的每张事实表的度量值。

下面我们根据事实表的加载方式来选择几个实战操作一下。

二、DWD层-事务型事实表

关于事实表分类，我们在数仓关系建模和维度建模，里面说过，分为6类事实表。

1、事务型事实表的概念

适用于不会发生变化的业务。业务表的同步策略是增量同步。以每个事务或事件为单位，例如一个销售订单记录，一笔支付记录等，作为事实表里的一行数据。一旦事务被提交，事实表数据被插入，数据就不再进行更改，其更新方式为增量更新。

8张表里面包含：支付事实表、评价事实表、退款事实表、订单明细(详情)事实表

2、解析思路

根据事实表（行），选择不同的维度（列）来建表。

3、支付事实表（事务型事实表）

需要时间、用户、地区三个维度，查看ODS层表ods_payment_info，发现没有地区维度字段。所以通过ods_order_info表关联做join获取该字段。

3.1、建表语句

drop table if exists dwd_fact_payment_info;create external table dwd_fact_payment_info (    `id` string COMMENT 'id',    `out_trade_no` string COMMENT '对外业务编号',    `order_id` string COMMENT '订单编号',    `user_id` string COMMENT '用户编号',    `alipay_trade_no` string COMMENT '支付宝交易流水编号',    `payment_amount`    decimal(16,2) COMMENT '支付金额',    `subject`         string COMMENT '交易内容',    `payment_type` string COMMENT '支付类型',    `payment_time` string COMMENT '支付时间',    `province_id` string COMMENT '省份ID') COMMENT '支付事实表表'PARTITIONED BY (`dt` string)stored as parquetlocation '/warehouse/gmall/dwd/dwd_fact_payment_info/'tblproperties ("parquet.compression"="lzo");

3.2、装载语句

province_id省份ID这个字段通过 ods_order_info表做join获取

SET hive.input.format=org.apache.hadoop.hive.ql.io.HiveInputFormat;insert overwrite table dwd_fact_payment_info partition(dt='2021-05-03')select    pi.id,    pi.out_trade_no,    pi.order_id,    pi.user_id,    pi.alipay_trade_no,    pi.total_amount,    pi.subject,    pi.payment_type,    pi.payment_time,    oi.province_idfrom(    select * from ods_payment_info where dt='2021-05-03')pijoin(    select id, province_id from ods_order_info where dt='2021-05-03')oion pi.order_id = oi.id;

4、退款事实表（事务型事实表）

需要时间、用户、商品三个维度，查看ODS层表ods_order_refund_info，所有字段都有，那么直接取数装载。

4.1、创建表

drop table if exists dwd_fact_order_refund_info;create external table dwd_fact_order_refund_info(    `id` string COMMENT '编号',    `user_id` string COMMENT '用户ID',    `order_id` string COMMENT '订单ID',    `sku_id` string COMMENT '商品ID',    `refund_type` string COMMENT '退款类型',    `refund_num` bigint COMMENT '退款件数',    `refund_amount` decimal(16,2) COMMENT '退款金额',    `refund_reason_type` string COMMENT '退款原因类型',    `create_time` string COMMENT '退款时间') COMMENT '退款事实表'PARTITIONED BY (`dt` string)stored as parquetlocation '/warehouse/gmall/dwd/dwd_fact_order_refund_info/'tblproperties ("parquet.compression"="lzo");

4.2、装载时间

直接从ODS层查到数据后装载。

insert overwrite table dwd_fact_order_refund_info partition(dt='2021-05-03')select    id,    user_id,    order_id,    sku_id,    refund_type,    refund_num,    refund_amount,    refund_reason_type,    create_timefrom ods_order_refund_infowhere dt='2021-05-03';

5、评价事实表、订单明细事实表（事务型事实表）

都和上面“退款事实表”处理方法一样，并且所有字段均从ODS层ods_comment_info直接获取。你是否可以自己创建呢？

三、DW层-周期型快照事实表

1、周期型快照事实表的概念

周期型快照事实表，表中不会保留所有数据，只保留固定时间间隔的数据，例如每天或者每月的销售额或每月的账户余额等。例如购物车，有加减商品，随时都有可能变化，但是我们更关心每天结束时这里面有多少商品，方便我们后期统计分析。相当于每天一个全量快照，业务表的同步策略是全量同步。

2、解析思路

每天做一次快照，导入的数据是全量，区别于事务型事实表是每天导入新增。

存储的数据比较讲究时效性，时间太久了的意义不大，可以删除以前的数据。

3、加购事实表（周期型快照事实表）

3.1、创建表结构

所有字段ODS层，fact_cart_info表都有。

drop table if exists dwd_fact_cart_info;create external table dwd_fact_cart_info(    `id` string COMMENT '编号',    `user_id` string  COMMENT '用户id',    `sku_id` string  COMMENT 'skuid',    `cart_price` string  COMMENT '放入购物车时价格',    `sku_num` string  COMMENT '数量',    `sku_name` string  COMMENT 'sku名称 (冗余)',    `create_time` string  COMMENT '创建时间',    `operate_time` string COMMENT '修改时间',    `is_ordered` string COMMENT '是否已经下单。1为已下单;0为未下单',    `order_time` string  COMMENT '下单时间',    `source_type` string COMMENT '来源类型',    `srouce_id` string COMMENT '来源编号') COMMENT '加购事实表'PARTITIONED BY (`dt` string)stored as parquetlocation '/warehouse/gmall/dwd/dwd_fact_cart_info/'tblproperties ("parquet.compression"="lzo");

3.2、装载数据

insert overwrite table dwd_fact_cart_info partition(dt='2021-05-03')select    id,    user_id,    sku_id,    cart_price,    sku_num,    sku_name,    create_time,    operate_time,    is_ordered,    order_time,    source_type,    source_idfrom ods_cart_infowhere dt='2020-06-14';

4、收藏事实表

收藏事实表的操作和加购事实表一样，从时间、商品、用户三个维度来创建表。

四、DWD层-累积型快照事实表

1、累积型快照事实表的概念

累积型快照事实表，用于周期性发生变化的业务，即需要周期性的跟踪业务事实的变化。例如：数据仓库中可能需要累积或者存储订单从下订单开始，到订单商品被打包、运输、和签收的各个业务阶段的时间点数据来跟踪订单声明周期的进展情况。当这个业务过程进行时，事实表的记录也要不断更新。

业务表的同步策略是新增以及变化同步。

2、解析思路

我们以优惠券领用事实表为例。首先要了解优惠卷的生命周期：领取优惠卷——>用优惠卷下单——>优惠卷参与支付

累积型快照事实表使用：统计优惠卷领取次数、优惠卷下单次数、优惠卷参与支付次数。

3、优惠券领用事实表（累积型快照事实表）

3.1、创建表结构

drop table if exists dwd_fact_coupon_use;create external table dwd_fact_coupon_use(    `id` string COMMENT '编号',    `coupon_id` string  COMMENT '优惠券ID',    `user_id` string  COMMENT 'userid',    `order_id` string  COMMENT '订单id',    `coupon_status` string  COMMENT '优惠券状态',    `get_time` string  COMMENT '领取时间',    `using_time` string  COMMENT '使用时间(下单)',    `used_time` string  COMMENT '使用时间(支付)') COMMENT '优惠券领用事实表'PARTITIONED BY (`dt` string)stored as parquetlocation '/warehouse/gmall/dwd/dwd_fact_coupon_use/'tblproperties ("parquet.compression"="lzo");

注意：这里dt是按照优惠卷领用时间get_time做为分区

`get_time` string  COMMENT '领取时间',`using_time` string  COMMENT '使用时间(下单)',`used_time` string  COMMENT '使用时间(支付)'

3.2装载数据

首日装载分析

首日装载SQL代码,注意是动态分区。

insert overwrite table dwd_coupon_use partition(dt)select    id,    coupon_id,    user_id,    order_id,    coupon_status,    get_time,    using_time,    used_time,    expire_time,    coalesce(date_format(used_time,'yyyy-MM-dd'),date_format(expire_time,'yyyy-MM-dd'),'9999-99-99')from ods_coupon_usewhere dt='2021-05-03';

每日装载思路分析

SQL代码

set hive.exec.dynamic.partition.mode=nonstrict;set hive.input.format=org.apache.hadoop.hive.ql.io.HiveInputFormat;insert overwrite table dwd_fact_coupon_use partition(dt)select    if(new.id is null,old.id,new.id),    if(new.coupon_id is null,old.coupon_id,new.coupon_id),    if(new.user_id is null,old.user_id,new.user_id),    if(new.order_id is null,old.order_id,new.order_id),    if(new.coupon_status is null,old.coupon_status,new.coupon_status),    if(new.get_time is null,old.get_time,new.get_time),    if(new.using_time is null,old.using_time,new.using_time),    if(new.used_time is null,old.used_time,new.used_time),    date_format(if(new.get_time is null,old.get_time,new.get_time),'yyyy-MM-dd')from(    select        id,        coupon_id,        user_id,        order_id,        coupon_status,        get_time,        using_time,        used_time    from dwd_fact_coupon_use    where dt in    (        select            date_format(get_time,'yyyy-MM-dd')        from ods_coupon_use        where dt='2021-05-04'    ))oldfull outer join(    select        id,        coupon_id,        user_id,        order_id,        coupon_status,        get_time,        using_time,        used_time    from ods_coupon_use    where dt='2021-05-04')newon old.id=new.id;