什么是拉链表
这篇文章主要介绍“什么是拉链表”,在日常操作中,相信很多人在什么是拉链表问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”什么是拉链表”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
一、拉链表介绍
拉链表:维护历史状态,以及最新状态数据的一种表,拉链表根据拉链粒度的不同,实际上相当于快照,只不过做了优化,去除了一部分不变的记录,通过拉链表可以很方便的还原出拉链时点的客户记录
二、拉链表场景
数据仓库的数据模型设计过程中,经常会遇到这样的需求:
表中的部分字段会被update,例如:用户的地址,产品的描述信息,品牌信息等等;
需要查看某一个时间点或者时间段的历史快照信息,例如:查看某一个产品在历史某一时间点的状态 查看某一个用户在过去某一段时间内,更新过几次等等
变化的比例和频率不是很大,例如:总共有1000万的会员,每天新增和发生变化的有10万左右
三、商品数据案例
需求:商品表:
2019年12月20日的数据如下所示:
商品的状态,会随着时间推移而变化,我们需要将商品的所有变化的历史信息都保存下来。如何实现呢?
方案一: 快照每一天的数据到数仓(图解)
该方案为:
每一天都保存一份全量,将所有数据同步到数仓中(我这里就使用MySQL操作的)
很多记录都是重复保存,没有任何变化
12月20日(4条数据)
12月21日(10条数据)
12月22日(18条数据)
方案一: MySQL到,MySQL数仓代码实现
MySQL初始化
1.在MySQL中zw库和商品表用于到原始数据层
--创建数据库createdatabaseifnotexistszw;--创建商品表createtableifnotexists`zw`.`t_product`(goods_idvarchar(50),--商品编号goods_statusvarchar(50),--商品状态createtimevarchar(50),--商品创建时间modifytimevarchar(50)--商品修改时间);
2.在MySQL中创建ods和dw层 模拟数仓
--ods创建商品表createtableifnotexists`zw`.`ods_t_product`(goods_idvarchar(50),--商品编号goods_statusvarchar(50),--商品状态createtimevarchar(50),--商品创建时间modifytimevarchar(50),--商品修改时间cdatvarchar(10)--模拟hive分区)defaultcharacterset='utf8';;--dw创建商品表createtableifnotexists`zw`.`dw_t_product`(goods_idvarchar(50),--商品编号goods_statusvarchar(50),--商品状态createtimevarchar(50),--商品创建时间modifytimevarchar(50),--商品修改时间cdatvarchar(10)--模拟hive分区)defaultcharacterset='utf8';;
增量导入12月20号数据
1.原始数据导入12月20号数据(4条)
insertinto`zw`.`t_product`(goods_id,goods_status,createtime,modifytime)values('001','待审核','2019-12-18','2019-12-20'),('002','待售','2019-12-19','2019-12-20'),('003','在售','2019-12-20','2019-12-20'),('004','已删除','2019-12-15','2019-12-20');
注意:由于我这里使用的MySQL来模拟的数仓在这里偷个懒直接使用insert into的方式导入数据,在企业中可能会使用hive来做数仓使用kettle 或者sqoop或datax等来同步数据
#从原始数据层导入到ods层insertintozw.ods_t_productselect*,'20191220'fromzw.t_product;#从ods同步到dw层insertintozw.dw_t_productselect*fromzw.ods_t_productwherecdat='20191220';
增量导入12月21数据
1.原始数据层导入12月21日数据(6条数据)
UPDATE`zw`.`t_product`SETgoods_status='待售',modifytime='2019-12-21'WHEREgoods_id='001';INSERTINTO`zw`.`t_product`(goods_id,goods_status,createtime,modifytime)VALUES('005','待审核','2019-12-21','2019-12-21'),('006','待审核','2019-12-21','2019-12-21');
2.将数据导入到ods层与dw层
#从原始数据层导入到ods层insertintozw.ods_t_productselect*,'20191221'fromzw.t_product;#从ods同步到dw层insertintozw.dw_t_productselect*fromzw.ods_t_productwherecdat='20191221';
3.查看dw层的运行结果
select*fromzw.dw_t_productwherecdat='20191221';
增量导入12月22日数据
1.原始数据层导入12月22日数据(6条数据)
UPDATE`zw`.`t_product`SETgoods_status='已删除',modifytime='2019-12-22'WHEREgoods_id='003';UPDATE`zw`.`t_product`SETgoods_status='已删除',modifytime='2019-12-22'WHEREgoods_id='006';INSERTINTO`zw`.`t_product`(goods_id,goods_status,createtime,modifytime)VALUES('007','待审核','2019-12-22','2019-12-22'),('008','待审核','2019-12-22','2019-12-22');
2.将数据导入到ods层与dw层
#从原始数据层导入到ods层insertintozw.ods_t_productselect*,'20191222'fromzw.t_product;#从ods同步到dw层insertintozw.dw_t_productpeizhiwenjianselect*fromzw.ods_t_productwherecdat='20191222';
3.查看dw层的运行结果
select*fromzw.dw_t_productwherecdat='20191222';
从上述案例,可以看到:
表每天保留一份全量,每次全量中会保存很多不变的信息,如果数据量很大的话,对存储是极大的浪费
可以讲表设计为拉链表,既能满足反应数据的历史状态,又可以最大限度地节省存储空间。
方案二: 使用拉链表保存历史快照(思路/图解)
拉链表不存储冗余的数据,只有某行的数据发生变化,才需要保存下来,相比每次全量同步会节省存储空间
能够查询到历史快照
额外的增加了两列(dw_start_date、dw_end_date),为数据行的生命周期
12月20日商品拉链表的数据:
12月20日的数据是全新的数据导入到dw表
dw_start_date表示某一条数据的生命周期起始时间,即数据从该时间开始有效(即生效日期)
dw_end_date表示某一条数据的生命周期结束时间,即数据到这一天(不包含)(即失效日期)
dw_end_date为9999-12-31,表示当前这条数据是最新的数据,数据到9999-12-31才过期
12月21日商品拉链表的数据
12月21日商品拉链表的数据
拉链表中没有存储冗余的数据,(只要数据没有变化,无需同步)
001编号的商品数据的状态发生了变化(从待审核 → 待售),需要将原有的dw_end_date从9999-12-31变为2019-12-21,表示待审核状态,在2019/12/20(包含) - 2019/12/21(不包含)有效
001编号新的状态重新保存了一条记录,dw_start_date为2019/12/21,dw_end_date为9999/12/31
新数据005、006、dw_start_date为2019/12/21,dw_end_date为9999/12/31
12月22日商品拉链表的数据
12月22日商品拉链表的数据
003编号的商品数据的状态发生了变化(从在售→已删除),需要将原有的 dw_end_date从9999-12-31变为2019-12-22,表示在售状态,在2019/12/20(包含) - 2019/12/22(不包含) 有效
003编号新的状态重新保存了一条记录,dw_start_date为2019/12/22,dw_end_date为9999/12/31
新数据007、008、dw_start_date为2019/12/22,dw_end_date为9999/12/31
方案二: 拉链表快照代码实现
操作流程:
鸿蒙官方战略合作共建——HarmonyOS技术社区
在原有dw层表上,添加额外的两列
只同步当天修改的数据到ods层
拉链表算法实现
拉链表的数据为:当天最新的数据 UNION ALL 历史数据
代码实现:
1.在MySQL中zw库和商品表用于到原始数据层
--创建数据库createdatabaseifnotexistszw;--创建商品表createtableifnotexists`zw`.`t_product_2`(goods_idvarchar(50),--商品编号goods_statusvarchar(50),--商品状态createtimevarchar(50),--商品创建时间modifytimevarchar(50)--商品修改时间)defaultcharacterset='utf8';
2.在MySQL中创建ods和dw层 模拟数仓
--ods创建商品表createtableifnotexists`zw`.`ods_t_product2`(goods_idvarchar(50),--商品编号goods_statusvarchar(50),--商品状态createtimevarchar(50),--商品创建时间modifytimevarchar(50),--商品修改时间cdatvarchar(10)--模拟hive分区)defaultcharacterset='utf8';--dw创建商品表createtableifnotexists`zw`.`dw_t_product2`(goods_idvarchar(50),--商品编号goods_statusvarchar(50),--商品状态createtimevarchar(50),--商品创建时间modifytimevarchar(50),--商品修改时间dw_start_datevarchar(12),--生效日期dw_end_datevarchar(12),--失效时间cdatvarchar(10)--模拟hive分区)defaultcharacterset='utf8';
全量导入2019年12月20日数据
1.原始数据层导入12月20日数据(4条数据)
insertinto`zw`.`t_product_2`(goods_id,goods_status,createtime,modifytime)values('001','待审核','2019-12-18','2019-12-20'),('002','待售','2019-12-19','2019-12-20'),('003','在售','2019-12-20','2019-12-20'),('004','已删除','2019-12-15','2019-12-20');
2.将数据导入到数仓中的ods层
insertintozw.ods_t_product2select*,'20191220'fromzw.t_product_2wheremodifytime>='2019-12-20'
3.将数据从ods层导入到dw层
insertintozw.dw_t_product2selectgoods_id,goods_status,createtime,modifytime,modifytime,'9999-12-31',cdatfromzw.ods_t_product2wherecdat='20191220'
增量导入2019年12月21日数据
1.原始数据层导入12月21日数据(6条数据)
UPDATE`zw`.`t_product_2`SETgoods_status='待售',modifytime='2019-12-21'WHEREgoods_id='001';INSERTINTO`zw`.`t_product_2`(goods_id,goods_status,createtime,modifytime)VALUES('005','待审核','2019-12-21','2019-12-21'),('006','待审核','2019-12-21','2019-12-21');
2.原始数据层同步到ods层
insertintozw.ods_t_product2select*,'20191221'fromzw.t_product_2wheremodifytime>='2019-12-21';
3.编写ods层到dw层重新计算 dw_end_date
注意:我这里直接将结果的SQL语句放在这里语句 因为需要将覆盖写入到数据库中我这里就没有写了,但是不影响我们结果。12月22 号的操作流程跟21 一样我就里就不写了
selectt1.goods_id,t1.goods_status,t1.createtime,t1.modifytime,t1.dw_start_date,casewhen(t2.goods_idisnotnullandt1.dw_end_date>'2019-12-21')then'2019-12-21'elset1.dw__dateendasend,t1.cdatfromzw.dw_t_product2t1leftjoin(select*fromzw.ods_t_product2wherecdat='20191221')t2ont1.goods_id=t2.goods_idunionselectgoods_id,goods_status,createtime,modifytime,modifytime,'9999-12-31',cdatfromzw.ods_t_product2wherecdat='20191221'
查询结果
到此,关于“什么是拉链表”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。