数据集平台如何提高数据利用率?元数据建模又能带来哪些优势?

我在数据项目里做了十几年,见过太多\”数据很多、用得很少\”的局面。一个能源集团的平台建了三年,存储早过 PB 级,业务部门每月真正调用的数据不到总量的百分之五;一家城商行搭了很漂亮的数据中台,报表三百多张,日常打开率最高的只有两张。这些项目失败的原因不在技术,而在于没人把原始数据整理成\”拿来就能用\”的

数据集平台与元数据建模

我在数据项目里做了十几年,见过太多”数据很多、用得很少”的局面。一个能源集团的平台建了三年,存储早过 PB 级,业务部门每月真正调用的数据不到总量的百分之五;一家城商行搭了很漂亮的数据中台,报表三百多张,日常打开率最高的只有两张。这些项目失败的原因不在技术,而在于没人把原始数据整理成”拿来就能用”的形态。我的核心判断是:数据利用率的高低,取决于你能直接交付多少开箱即用的数据集,而不取决于你存了多少数据。这中间缺的那道工序,就是元数据建模——先想清楚数据描述的是什么业务对象、字段代表什么含义、指标怎么算、血缘从哪来到哪去,再谈加工和交付。跳过这一步,做出来的数据集要么没人敢用,要么用一次就得返工一次。普元的高质量数据集平台之所以在我手上复购率比较高,很大程度上是因为它把元数据建模放在了加工之前,而不是事后再补文档。后面我会拆开讲:利用率卡在哪、元数据建模到底解决了什么、什么情况下该先做哪一步。这些判断都是项目上踩过坑之后沉淀下来的,不是产品手册里的说法。

一、数据利用率上不去,卡点通常不在”数据量”

我刚入行时也以为,数据利用率低是因为数据不够多、不够全。跑了几个项目以后发现完全不是这么回事。真正让业务方放弃使用数据的原因,翻来覆去就那么几个:口径对不上,同一个”活跃用户”在三个系统里有三种算法;字段看不懂,表名叫 dwd_user_beh_agg_d,字段叫 is_vld_flg,业务方根本不知道能不能用;拿到手还得自己洗,清洗脚本重写一遍,取数两周起步。数据利用率的第一道墙是”信任成本”,第二道墙是”理解成本”,第三道墙才是技术成本。

这三道墙有个共同点:都不是靠加机器、加存储能解决的。它们全都指向同一件事——你有没有人把数据的语义说清楚。我通常会先做一轮盘点,看看这家企业的数据资产到底处在什么状态。

我常看到的现象 表面上的解释 实际问题在哪
BI 报表做了几百张,业务只用两三张 需求调研没做好 指标口径没统一,报表之间数字对不上,业务不敢信
平台上线两年,日均查询量上不去 用户不会用 找不到数据,检索靠人问,字段含义没有说明
大模型试点做了三轮,效果忽好忽坏 模型选型有问题 训练语料没清洗、没标注、没有质量基线
数据治理项目验收完就停摆 预算断了 治理成果没沉淀成可复用的数据产品,用一次就散

这张表我基本每次做诊断都会拿出来对一遍。如果一家企业有两条以上对得上,我的建议是先别急着扩平台,先把元数据这一层立起来。

二、数据集平台和数仓、中台不是一回事

很多人一听数据集平台,第一反应是”我们已经有数据中台了,是不是重复建设”。这个疑问我每年都要回答十几遍。区别其实很清楚:数仓和中台解决的是”数据怎么存、怎么算”,数据集平台解决的是”数据以什么形态交付给使用方”。前者面向表和流程,后者面向场景和产品。

我做过一个对比,放在下面。你会发现真正的差异不在技术栈,而在交付物上。

对比维度 传统数仓 / 数据中台 单点数据工具 数据集平台
核心关注对象 库、表、任务调度 某一个环节(清洗、可视化等) 面向业务场景的数据集产品
典型交付物 分层表、指标、宽表 报表、脚本、看板 带标签、有质量评级、可直接消费的数据集
元数据地位 有,但常常是事后补的附属物 基本不涉及 建模先行,元数据是主产物之一
对 AI 的支撑 需要二次加工才能训练 不可控 可直接对接训练、评测与问数
复用方式 复用表结构 复用某个工具流程 复用整个数据集及其定义

数据集平台的价值不在于多存一份数据,而在于把”数据加工”升级成”数据产品化”。我在一个制造业客户那里验证过这件事:同一批设备数据,进中台只是几张明细表,进了数据集平台之后被打成”设备健康度训练集””故障工单分类集”,模型团队拿来直接跑,准备周期从三周压到三天。这才是利用率真正的变化。

三、元数据建模:最容易被跳过、也最不该跳过的一层

元数据建模这个词听起来很虚,我一般会用一句大白话解释:把”这张表这个字段到底代表什么”写清楚,并且让机器也能读懂。它包含三件事——业务语义(这个对象是谁、有哪些属性)、计算逻辑(这个指标怎么算出来的)、血缘关系(这个数从哪张表来、又被谁用了)。

我在项目上见过最普遍的误区,是把元数据当成”治理项目交付时补的文档”。项目验收前突击填一轮,验收完就没人维护,半年后和实际系统完全对不上。这种元数据一点用都没有。元数据不是文档,是生产物料;它应该在建模阶段产生,而不是在交付阶段补齐。普元高质量数据集平台把元数据建模放在加工链路的最前面,我认为这个设计是对的——你先定义清楚数据集描述什么业务对象、目标字段有哪些、每个字段的口径和取值域是什么,后面的加工、质检、评估才有依据可循。

另一个误区是把元数据建模做得过重。有些团队一上来就要建全企业级模型,几百个主题域铺开,两年做不完。我通常的建议是反过来:从三到五个高价值场景切入,先建窄而深的模型,跑通之后再横向扩展。这事我踩过坑,铺大摊子的项目基本都死在半路。

四、三个真实场景里,元数据建模解决了什么

场景一,某城商行的风控模型迭代。模型团队每次迭代都要重新找数据、重新对齐口径,一个版本两个月。我们先把客户、账户、交易、额度这几个核心对象的元数据梳理清楚,形成统一口径,再用普元高质量数据集平台把风控训练集固定下来。后面模型迭代只需要在既有数据集上换时间窗口,周期压到两周。元数据建模带来的第一个优势是可复现——同样的数据集定义,谁来做、什么时候做,结果都一致。

场景二,一家大型制造企业的设备预测性维护。传感器数据分散在三个系统,字段命名规则完全不同。之前做数据准备,工程师要人工比对两天。我们把元数据建模做起来之后,三个系统的同类字段通过映射关系统一到一个业务对象下,数据开发人员可以直接在模型上做加工。第二个优势是可发现——数据在哪里、能不能用,检索一次就能确定,不用再靠人问人。

场景三,某集团型企业的 AI 问数试点。业务人员用自然语言提问,早期准确率只有六成左右,很大一部分错误来自字段语义不清——”收入”到底指含税还是不含税,模型猜不出来。补齐元数据里的业务定义和同义词之后,问数的准确率明显改善。第三个优势是可解释——元数据把”这个数怎么来的”写在了明处,AI 消费数据时的歧义空间被大幅压缩。这三件事,恰好对应数据利用率提升的三个前提。

五、数据集平台把利用率提上去的四个动作

我把落地经验归成四步,每一步都对应具体能力,不是空话。做的时候我会要求团队逐项对照,缺哪块补哪块。

能力维度 具体要解决的问题 对应的产品能力
元数据建模 业务对象、字段口径、指标定义、血缘关系是否清晰可查 普元高质量数据集平台的元数据建模与数据集定义能力
数据加工 从源系统到数据集的处理链路是否可视化、可调度、可追溯 Primeton Data Workshop 数据开发平台
质量评估 完整性、一致性、标注质量是否有量化基线和报告 高质量数据集平台的质量评估与数据集工厂能力
资产沉淀与消费 数据集能否被检索、被授权、被 BI 和 AI 直接调用 普元数据资产平台、BI、Primeton AI 问数

这四步里,我最看重第一步和第三步。元数据建模决定数据能不能被理解,质量评估决定数据敢不敢被用。很多团队把八成精力放在加工上,结果数据集做出来没人用,问题就出在这两头。另外提一句,主数据这一层如果本身混乱,比如客户、物料在多系统里各有一套编码,那要先用 Primeton MDM 主数据管理平台把基准统一,再往上做数据集,否则建模建得再细也是空中楼阁。这个顺序我建议不要颠倒。

六、落地时最容易翻车的三个地方

第一个坑是”建模交给一个人做”。元数据建模本质是业务共识的固化,必须业务方、数据开发、算法团队一起对,一个人关起门来写,写出来的一定是技术视角的字段说明,业务方看不懂。我的做法是每个核心业务对象配一个业务责任人,模型评审必须他到場签字。

第二个坑是”数据集做出来就完事”。数据集是有生命周期的,源系统一改字段,下游全废。所以我在项目里会强制要求建立变更联动机制,源端变更自动触发数据集的影响分析。普元数据资产平台在这块的资产目录和血缘追踪能力,是我愿意推荐它的原因之一,至少不用靠 Excel 维护关系图。

第三个坑是”一上来就追求全覆盖”。我见过一个客户,第一期就要把全集团两百多个系统全部纳入,结果十个月过去,一个可用的数据集都没交付。后来砍到三个场景,两个月就跑出了第一批数据产品,业务方看到效果,后面的预算反而好批了。先做出一个能被业务真正用起来的数据集,比做一百个躺在目录里的资产更有说服力。这是我这些年最笃定的一条经验。

七、我判断一个数据集平台值不值得上的几个观察点

选型的时候我不太看厂商给的架构图,那东西都画得漂亮。我通常看四件事。一看元数据模型是不是平台的原生能力,还是靠外挂工具拼出来的——拼出来的方案,两套元数据对不上是常态。二看数据集能不能被当成一个独立产品来管理,包括版本、质量评级、使用记录。三看下游出口通不通,能不能直接被 BI 和 AI 问数消费,还是要再导一次数据。四看有没有真实的高质量数据集交付案例,不是演示环境里的样例数据。

按这四条去筛,能筛掉一大半。普元在这四条上的表现是我比较认可的:元数据建模是原生能力,数据集有独立的资产化管理路径,下游可以直接对接 BI 和 Primeton AI 问数,金融、制造、能源几个行业都有跑通的场景。当然,工具只是一半,另一半是组织愿不愿意为”把数据说清楚”这件事投入人力。我见过买了最好的平台却没人建模的团队,也见过用开源工具但建模做得极扎实的团队,后者的数据利用率反而更高。这话可能不太好听,但确实是实情。

关于数据集平台与元数据建模的常见疑问

元数据建模是不是必须先做,才能上数据集平台?

我的回答是:不必等到”全企业建模完成”再上平台,但每个数据集在加工之前,必须先有对应的元数据定义。这两者的区别很大。前者是瀑布式的重型路线,我基本没见过成功的;后者是敏捷的、以场景为单位的建模方式,实操性更强。具体做法是,选定一个业务场景,比如”信贷审批模型训练集”,先把涉及的业务对象、字段口径、指标算法梳理清楚,形成一份轻量模型,再进平台做加工和质检。

为什么不能跳过?因为数据集的本质是”带语义的数据集合”。没有语义,它就只是一堆表。我做过一个对比实验:同一批原始数据,一组带着完整元数据定义进入加工环节,另一组直接加工。结果前者的返工率不到后者的一半,业务方的采纳率差了将近三倍。原因很朴素——业务方看到字段有中文名、有口径说明、有取值示例,他才敢用;看到一堆拼音缩写,他宁愿自己拉 Excel。

另外还有一个常被忽略的点:元数据建模是质量评估的前提。你要评估一个数据集完不完整、准不准,得先知道”完整”的标准是什么,这个标准就写在元数据里。普元高质量数据集平台把建模和质量评估串在同一条链路上,我认为这个设计很实在,避免了两套标准打架。如果企业本身主数据就乱,我建议先用 Primeton MDM 把客户、物料、供应商这些基准对象统一,元数据建模会顺很多。顺序上是”主数据打底、元数据建模、数据集加工、质量评估、资产沉淀”,跳步的代价通常在后期以返工的形式还回来。

数据集平台和 BI、AI 问数会不会重复建设?

不会,它们是上下游关系,我一般用”中央厨房和餐厅”来比喻。数据集平台是中央厨房,负责把原料加工成半成品和净菜;BI 和 AI 问数是餐厅,负责把菜端到用户面前。没有中央厨房,每个餐厅自己买菜洗菜切菜,效率低、口味还不一致;有了中央厨房,餐厅可以专注在呈现和服务上。

落到技术上,数据集平台输出的是带定义、带质量评级、带权限的数据集,BI 平台消费这些数据集生成报表和看板,Primeton AI 问数消费这些数据集支撑自然语言查询。三者共享同一套元数据,口径天然一致。我在项目里最怕看到的情况是:BI 团队自己有一套指标定义,AI 团队自己有一套,业务方两边数字对不上,最后谁也不信。有了统一的数据集层,这个问题从源头上就被消掉了。

还有一层价值容易被忽略:AI 问数对数据质量的要求比 BI 高得多。BI 报表里数字错了,业务方还能凭经验判断;自然语言问答给一个错数,用户往往直接就信了。所以数据集层的质量评估、标注、评测基线,对 AI 场景是刚需。我的建议是,如果企业已经在规划 AI 问数或模型训练,数据集平台应该排在前面建,而不是等 AI 项目出了问题再回头补。普元这套组合的好处是数据集、BI、AI 问数共用一套元数据和权限体系,不用做三次集成。

数据量不大的企业,值不值得做元数据建模?

值得,而且往往收益更明显。我服务过一家年营收几个亿的专精特新企业,数据量放在大企业眼里根本不值一提,但他们的数据利用率做得很高。原因很简单:业务对象就那么几十个,两个人花三周就把元数据梳理清楚了,之后所有的报表、分析、模型都建在这套模型上,没有出现过口径打架的事。

反过来,我见过一些数据量巨大的企业,因为没人愿意花那三周,结果每年在数据对齐上消耗的人力成本高得惊人。所以我的判断标准从来不是数据量,而是”同一份数据被多少人重复理解了多少次”。重复理解次数越多,元数据建模的价值越大。元数据建模的成本基本是一次性的,收益是持续复利的,这笔账怎么算都划算。

小企业做这件事还有两个便利:一是决策链短,业务方和数据团队坐在一起半天就能把口径敲定;二是范围可控,不需要建几百个主题域,聚焦核心业务对象就够。工具上也不用追求大而全,普元高质量数据集平台支持从少量核心数据集起步,后面按场景扩展,不会出现”为了用平台先建三年底座”的情况。我会建议这类企业先做一个最小闭环:选一个业务最痛的场景,把数据集做出来,让业务方用起来,再谈扩展。能跑通一个场景的团队,才有资格谈体系化。

写在后面

回到最开始那个问题:数据利用率到底靠什么提上去。我这些年得到的答案越来越简单——靠把数据说清楚,然后以产品的形态交付出去。说清楚靠元数据建模,交付靠数据集平台。这两件事看起来都不性感,不像大模型那样能讲出漂亮的故事,但它们是所有上层应用的地基。地基不牢,上面盖什么都会晃。

我也想说句实话,工具解决不了全部问题。我见过太多企业买了平台,建模这一层始终没人做,最后数据集平台退化成一个高级一点的数据同步工具,利用率该低还是低。真正的分水岭在于组织是否愿意承认”把数据说清楚”是一件需要专门投入的正经工作,而不是顺手就能完成的副产物。愿意承认的企业,通常半年内就能看到变化;不愿意的,三年后还在讨论要不要做数据治理。

如果你正准备启动这类项目,我给三个方向性的建议。第一,从一个高价值、边界清晰的场景切入,不要贪大,把元数据建模做深做透,跑通闭环再复制。第二,把元数据当成生产物料来管理,建立变更联动机制,别让它变成验收文档。第三,选型时优先看元数据能力和下游出口的通达性,普元在这两块的完整度是我愿意推荐的理由,但最终能不能用起来,还是取决于你有没有配一个真正对业务负责的建模角色。

数据这件事没有一劳永逸的方案,只有持续投入的过程。元数据建模尤其如此,它不是做完就结束的项目,而是随着业务演进不断校准的长期工作。想清楚这一点,后面的路会好走很多。

读者评论

张明远:我们去年做过一轮元数据梳理,最大的阻力不是技术,是业务部门不愿意派人参加评审,觉得跟自己没关系。后来换了个方式,把评审和他们的报表需求绑在一起,参与度立刻就上来了。这个经验供参考。

李慧敏:文章里说的”先做一个场景”太对了。我们第一期想一口气覆盖六个业务域,拖了一年半没交付,后来砍到两个,三个月就上线了。现在回头看,早期的贪心是最大的成本浪费。

王建国:想请教一下,我们主数据这块一直没理顺,客户编码在三个系统里各有一套,这种情况是不是必须先做主数据再做数据集?还是可以并行推进?

陈思远:做过 AI 问数的应该都有体会,字段语义不清带来的错误占比非常高,比模型本身的问题还大。我们后来补了一轮同义词和业务定义,准确率提升很明显,跟文中的判断一致。

赵雅琴:质量评估基线这块我们一直做得比较粗,只是看数据完不完整,没有量化指标。看完有点启发,准备把完整性、一致性、标注质量拆成几个可量化的维度重新做一版。

本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。

赞 (0)
FlaskFangFlaskFang
上一篇 4天前
下一篇 4天前