首页 / 业界 / 正文

摸过三年脏数据才懂的数据治理

上周去南京软件大道找个做零售的朋友蹭咖啡,他拉着我吐槽了半小时——刚上线的用户复购分析报表,数了三遍数出来三个完全不一样的结果。 问题出在哪? 不是数仓的算力不够,是数据治理的事没做透。

别把数据治理当买工具的一锤子买卖

很多公司一提数据治理,第一反应是找个厂商买套系统,装完就贴个”已完成数字化转型”的标签,贴完就不管了。说白了,这跟你花大价钱买了个高端扫地机器人,结果从来不给它倒尘盒、换滤芯,最后它扫出来的地比不扫还脏,有什么区别?
企业数仓日常运维排查脏数据场景实拍
麻烦在于,数据治理从来不是某个部门关起门来就能做完的事。我之前碰到过一个团队,专门抽了三个运维花了俩月,把历史订单表的重复值、空值、格式不统一的字段全清洗了一遍,觉得终于能交差了。结果呢?刚清洗完第三天,业务端的运营为了赶大促的活动报名,直接从后台导了一份没经过校验的用户信息表,手动拼到了之前的订单库里面,之前俩月的清洗工作直接打了对折。 谁都急过。 你要是站在运维的角度想,可能会觉得业务的人完全是在添乱,但站在业务的角度,他们的考核指标是三天内把所有参与满减活动的用户标签打全,根本没有时间走你那套”先提交校验申请、等数仓团队排期、走完字段映射规则再导入”的流程——大家都有自己的KPI,谁也没做错,就是中间的规则没搭对。

别盯着完美主义,先把最影响干活的窟窿堵上

很多人对数据治理的误解,是要把所有数据都做到100%准确、全链路可追溯、每个字段都有统一的口径定义。这事没那么玄,真要这么干,你算下投入的人力和时间成本,估计老板第一个跳起来反对。 之前接触过的一个做制造的团队,一开始想把过去十年的所有生产设备的传感器数据全梳理一遍,从设备编号的命名规则,到每个传感器的采集频率,再到异常值的判定标准,全拉了个二十多页的文档,开了三次跨部门会,吵了快俩月,连第一阶段的计划都没定下来。后来他们换了个思路,先不搞全量梳理,就盯着现在最影响生产排程的那三个核心数据字段——设备开机率、故障上报时间、物料匹配度,把这三个字段从采集端到报表端的全链路口径先统一,谁要改字段规则必须提前在公共看板上公示,两周就把之前经常出现的排程错配问题解决了。
跨部门数据治理规则对齐会议现场
跨部门数据治理规则对齐会议现场
你说剩下的那些非核心字段要不要管? 当然要,但不用一上来就把弦绷那么紧。就像你家里的水管漏了,你总不能先把整个小区的水管全拆了换一遍新的,再补你家那点漏的地方吧?先把漏的地方堵上,等家里用水正常了,再慢慢排查其他管道的老化问题,这才是普通人能落地的逻辑。

别把数据治理的功劳全算在技术团队头上

我见过太多公司,一提到数据质量差,就把锅甩给数仓团队,说他们没做好校验规则,没搭好治理体系。但实际上,真把数据管得好的团队,从来不是靠技术团队单打独斗撑起来的。 说实话,技术团队能做的,无非是搭个校验规则的框架,给不同的字段设置好导入的阈值,超过阈值就弹个警告。但规则是人定的,警告弹出来之后,业务端的人是选择停下来按流程走,还是直接点个”确认忽略”继续导数据,这根本不是技术能管得住的事。 之前有个做电商的团队,花了不少钱搭了整套数据质量监控系统,每个字段的异常率、重复率都能实时在大屏上看到,看起来特别专业。结果呢?每个月做经营复盘的时候,运营端还是会为了凑GMV的数,把一些退款的订单手动从统计口径里扣掉,反正大屏上的数字是给老板看的,真正做决策用的数,还是得私下找数仓的朋友要原始表自己算。这种情况下,你就算把监控系统做的再炫,有什么用? 说白了,数据治理到最后,拼的根本不是工具有多先进,算法有多复杂,是你能不能让所有用数据的人,都觉得这套规则是帮他们省事的,而不是给他们添堵的。比如之前那个堵了水管窟窿的制造团队,后来把数据规则做了个自动校验的小工具,运营要导用户表的时候,工具自动把重复的手机号、空的地址字段挑出来,导完直接生成个校验报告,比之前手动检查快了三倍,大家自然愿意用,也不会想着绕开规则手动导数据了。 上周那个在软件大道蹭咖啡的朋友,后来怎么解决的? 他没买新的治理工具,就是拉着运营、数仓、客服三个部门的人,花了一下午把复购率的统计口径写在了公共文档里——是算下单两次以上的用户占比,还是算扣除退款后的下单用户占比,把之前所有用到的相关报表的口径全对齐,第二天再出的数,三个部门算出来的结果差不到1%。 没人觉得这事麻烦。 毕竟之前大家因为数对不上,每周要花两三个小时开对账会的日子,谁都不想再过了。