如何做好数据仓库治理?

文 | 商业智能BI相关文章 阅读次数:63,129 次浏览
2023-08-23 16:37:25

老大难的数仓治理

“年年数据要治理,数据年年治不好”。

数仓治理的老大难,通常是跟着业务需求快跑,要不是数据零散在各个团队,或者是大家的研发规范有不同,作为一项通过维度模型来约束规范的工种来讲,“模型”的治理难度,大于“架构”。

目前整个行业通常的模型治理方法,是规定一种建模规范,大家在编码的过程中各自遵守。当业务开始变得模糊不清的时候,再专门抽调时间,来做人工治理。就像黄河一样,流沙清理了一次又一次,但上游还是会冲下新的流沙。

数据仓库数据治理,数据仓库建模,数据仓库维度建模,数据仓库建模理论

数仓的假设既然都是采用的维度建模,那么其设计思想必然是自下而上的进行建设,与架构进行类比,也就是先做好子模块,最后做顶层设计

但如果设计者不熟悉对应的领域模型,一旦业务上发生了变动,一张核心表动辄几百张的引用,会让重构的工作变得困难无比。

强如阿里,会做一些更进一步的工作,比如模型的健康分,看看你的存储成本有多少、计算成本有多少、生命周期是不是合理、代码规范有没有避免全表扫描,等等。但这些工作只能发现一些常规的问题,也依然需要进行人工治理,不仅效率上没有得到提高,每天推送的邮件也会让你产生心烦。

投入多少人,投入多少时间,终归是解决了一时的问题,而非长远。

数据仓库数据治理,数据仓库建模,数据仓库维度建模,数据仓库建模理论

因此,换个思路考虑问题,当业务高速发展时,数仓势必要跟着跑,不然业务都跪了,数仓又有何用。但业务通常不会一直处于高速发展的阶段,就像长跑一样,总有跑跑停停的时候,因此如果我们遵循一定的做事方法,流程上多一点步骤,那么就会极大的延缓数仓治理的问题。

即不追求长久的问题解决,而以一段时间内的稳定为目标,比如一年。当业务已经发展到比较稳定的阶段,再回过头来做治理,既能够避免因为业务变动而影响模型重构,也可以节省大家的精力和压力,就不失为一种解决思路了。

完美的解决方案通常不存在,退而求其次是大多数人的选择。当技术无法解决问题时,不妨用另类思路去解决。

事前:理论

数仓的指导思想是什么?如果一定有定义,那么就是:以维度建模为基础,根据业务域和数据域设计主题模型,构建一致性的维度和事实。

以下简略叙述理论,维度模型已经有很多的讲解文章,这里只是起到思路讲解的作用。

从宏观上讲,首先要了解数据的统计周期,是增量同步还是全量同步,并根据预估的数据量设计ODS。

其次,要大致了解业务域的划分情况,将一类不可拆分的行为作为一类,比如支付、比如搜索。当有了宏观的划分之后,就可以根据这些业务过程,构建最明细粒度的事实表,也就是DWD。

再次,基于DWD便可以根据主题对象进行数据建模,构建公共粒度的汇总指标事实表。很多时候,由于需要加工一定的业务逻辑,可能带来DWD依赖DWS的情况,比如基于时间序列的业务过程,这里就需要避免统计类型或者业务类型的逻辑,加工到DWD中,这部分应该放到ADS层去做。

数据仓库数据治理,数据仓库建模,数据仓库维度建模,数据仓库建模理论

最后,定义好一致性的维度,即DIM。通常是静态的信息,如果存在动态可变的属性,还是放到DWD比较合适。

从这里开始,每位研发同学,都可以掌握维度建模的核心思想,通常公共层建设好之后,应该是变动极其小的,为了避免设计不好导致的后续维护问题,模型一定要有评审,即便是忙,也至少要找一个人帮忙进行CodeReview

根据这些建模方法,我们就可以愉快的进行ADS层的业务开发了。

事中:方法

掌握了建模方法,不代表可以发挥创造力,就像谷歌编码规范一样,有很多的Tips要贯彻强调:

不仅表名设计要有规范,字段命名也要有规范,指标如果不能根据命名猜出大概的涵义,那么设计上就是失败的;

善于利用分区、临时表等方法,降低表的依赖层级;

扩展字段按照key-value的形式进行存储,虽然get_json_object慢,但它很简洁;

小数精度要用Decimal,而不是会出问题的Double;

每个任务都要进行摸底,解决会产生数据倾斜的地方,常见于Join的空值问题。

数据仓库数据治理,数据仓库建模,数据仓库维度建模,数据仓库建模理论

事后:检测

数据问题的检测是一门大学问。

通常而言,检测有三种方式:基于统计;基于自动规则;基于价值衡量。

基于统计:因为前文提到了,我们能够根据规范进行编码,因此我们便可以清晰的统计,ODS/DWD/DWS/ADS层各有多少张表,每个业务域有多少张表,每张表的引用次数是多少,产品出口的ADS表到最底下的ODS表依赖层级有多深,基于这些统计,我们便可以对整个数仓的建设情况有一个大体的了解

如果某个数据域表数量过多,或者某个DWD表下游太多,或者ADS到ODS的层级过深,大家便可以根据具体的情况进行治理。这种方法有一个好处:简单,做几张BI报表便可以完成,但问题便是,即便知道了具体问题,治理起来也是一件棘手的问题。

基于自动规则:既然提到了,基于统计,我们能够掌握大体的情况,那么有没有方法进行更细化的分析,提供解决的指导思路呢?这便是基于自动规则的检测方法。

数据仓库数据治理,数据仓库建模,数据仓库维度建模,数据仓库建模理论

例如,我们可以检测重复开发的表有哪些,通过表名相似性/字段相似性/数据量相似性等,估算两两之间的相似情况,如果相似程度90%以上,通常它们是可以合并的。

再者,我们可以使用更高阶的算法,比如计算两张表的主键与上下游引用,如果主键相似,且上下游表高度重合,那么这样的两张表也是可以合并的。准确来讲,自动规则,体现了我们对于数仓模型的理解程度。

基于价值衡量:治理也要有优先级,优先治理高价值的场景,或者寻找低价值的重构点,都是投入侧重点的最重要因素。比如,A表只有一个下游,占用了1TB的空间,而B表有1000个下游,占用了1GB的空间,是不是意味着B表价值远大于A表?

不见得,只要下游的收益,大于存储这些数据的成本,就是有用的。因此只根据收益和成本,来衡量数据表的价值,容易产生极端。这里如果有算法的同学能够接入,做一些类似于C-V模型的公式,找出异常点,就能够相对准确的衡量价值。但这一点目前比较难以实现。

最后提一下工具的重要性。数据治理有一个很棘手的问题,我们发现了有问题的表,如何进行纠正?比如字段不同了要废弃,比如命名不规范要重新改,那么如果下游依赖过多,又涉及权限问题,基本上就算是无药可救的状态了。

这时候有一个工具,能够同步Hive解决命名问题,同步下游修改字段命名,以及将表的权限复制到新表中,就很有用。

很显然在目前的信息时代,借助类似于FineDataLink的这些工具,可以让企业加速融入企业数据集成的趋势。备受市场认可的软件其实有很多,选择时必须要结合实际的情况。一般的情况下,都建议选择市面上较主流的产品,比较容易达到好的效果,目前企业数据分析市场占有率前列的,就是帆软ETL软件——FineDataLink。

fdl

FineDataLink更多介绍: https://www.finedatalink.com/

相关内容

申请体验 申请体验

在线客服

电话咨询

技术问题

投诉入口

返回顶部