
一、先把我的判断摆在这里
我做过六七个数据集管理平台的规划与实施,制造业、金融、政务都跑过。跑下来有一条判断越来越确定:平台能不能撑过三年,跟买谁家的工具关系不大,跟一开始元数据模型设计得对不对关系极大。我见过太多团队把这件事当成采购问题,比参数、比价格、比谁家界面好看,等平台上线半年,目录里挂了两千多个数据集,业务部门搜三次搜不到想要的东西,就再也不来了。
根子往往埋在第一个月。那会儿大家急着出成果,元数据字段就照着数据库的库表结构抄了一遍:表名、字段名、类型、注释。技术上是齐的,业务上是空的。没人写清楚这个数据集的口径是什么、谁负责、多久更新一次、能不能对外、敏感字段在哪。等用起来发现不够,想回头补,历史数据的口径早就散了,补不动,只能推倒重来。
我的建议很直白:宁可在元数据模型上多花三周,也别在上线后花三个月打补丁。这件事的改造成本随时间指数上升,越晚动越疼。
先把数据集类型和它必须定义的元数据要素对一下,这张表我在每个项目启动会上都会摊开给业务方看,让大家知道”登记一个数据集”到底要登记什么。
| 数据集类型 | 典型来源 | 元数据必须定义的要素 | 最容易漏掉的 |
|---|---|---|---|
| 主数据类 | 物料、客户、供应商主数据分发 | 编码规则、唯一性约束、跨系统映射关系、生效与失效时间 | 合并、拆分的历史版本追溯 |
| 业务明细类 | 订单库、交易流水、工单 | 时间粒度、主键、分区策略、脱敏字段清单 | 业务日期与时区口径 |
| 指标汇总类 | 数仓宽表、BI 报表底表 | 指标口径、维度组合、统计周期、刷新时点 | 口径变更留痕 |
| 外部采购类 | 三方数据、行业数据包 | 授权范围、更新频率、SLA、校验规则 | 供应商版本号 |
| 非结构化类 | 文档、图像、音视频、标注样本 | 标注规范、标签体系、样本切分方式 | 训练集与验证集防泄漏 |
二、平台上线第二年就被推翻,多半是元数据模型没立住
有个场景我印象很深。一家大型装备企业的数据平台上线十四个月,目录里登记了一千九百多个数据集,看着挺热闹。我随机抽了二十个,让业务方现场找”近三个月各产品线的交付及时率”,结果翻了七分钟没找到,最后是一个老员工凭记忆猜到了某张表的名字。这就是典型的目录很大、资产很薄。
为什么会长成这样?因为元数据模型只解决了”有什么”,没解决”是什么、算谁的、准不准、能不能给”。业务人员不关心这张表在哪个库,他关心的是这个数据能不能回答他的问题。这两件事之间隔着一层语义映射,而语义映射必须提前建模,事后靠人工补录基本补不出来。
三种建模思路我都试过,差别不在搭建那天,在半年后。这张对比表我通常用来劝住那些想”先上工具再说”的项目组。
| 建模思路 | 具体做法 | 上线速度 | 三个月后的状态 | 一年后的状态 |
|---|---|---|---|---|
| 无模型,先上工具 | 把库表清单一股脑导进目录 | 最快 | 目录膨胀,检索命中率低 | 基本推倒重来 |
| 表结构驱动 | 靠采集工具自动抓技术元数据 | 中等 | 能查表,但业务看不懂 | 大量人工补录,后劲不足 |
| 业务实体驱动 | 先定实体、指标、口径、责任,再挂技术元数据 | 慢一拍 | 数量少,但可用率高 | 可持续扩展,复用率稳步上升 |
元数据模型不是登记表,它是平台的数据契约。契约立得住,后面接质量规则、接权限、接 AI 问数都是顺的;契约立不住,接什么都是拧的。普元数据资产平台在这块的做法是先做业务语义层再挂技术元数据,自动采集负责把活儿干完,人工只补口径和责任这两件事,这个顺序我认为是对的。
三、元数据模型的核心,是四张”账”
我把元数据模型拆成四本账,十几年下来没变过。第一本是实体账:物料、客户、供应商、设备这些主数据对象,编码规则、唯一标识、跨系统映射全在里面。这本账不牢,下游全是脏数据。我一般会直接用 Primeton MDM 先把实体账立起来,主数据管住了,数据集平台才有干净的源头。
第二本是指标账:每个指标只有一个官方口径,谁定义的、什么时候改的、影响哪些报表,全留痕。第三本是血缘账:从源系统到数据集到报表到问数结果,链路要能倒着走回去。第四本是责任账:每个数据集必须有一个活人当 owner,不是部门名字,是具体的人。
这四本账里,我最看重责任账。原因很实际:没有 owner 的数据集,一年后一定没人维护。我见过一家零售企业,把 owner 字段填成”数据部”,结果数据部十二个人谁都不认。登记主体的颗粒度,决定了平台能不能长期活着。
四、真正能落地的搭建节奏,是分批而不是分阶段
我不太喜欢”先建平台、再治数据、后做应用”这种分阶段的说法,听着整齐,做起来断层。实际跑下来更靠谱的是按业务域分批:每批只做一个高频复用域,比如营销域或者供应链域,一批做透再开第二批。
一个批次大概这样走:先圈出这个域里三十到五十个真正会被反复用的数据集,把实体和指标定死;然后用 Primeton Data Workshop 把开发链路拉通,让数据集的产出过程本身是可追溯的;接着在普元高质量数据集平台上把每个数据集当产品发布出去,带版本号、带变更说明、带订阅关系;上线后盯住复用率这一个指标,超过阈值再开下一批。
这么走的代价是首期看起来慢,好处是第一批就能看到真实用户。数据集平台最怕的不是没人建,是建了没人用还找不到原因。
五、几个我反复见到的误区,踩一个就够难受半年
拿元数据当文档写。要求填三十个字段,业务填了三行就跑了,剩下的全是”待补充”。我的做法是字段减到八个必须项,填不全不让发布,宁可少登记。
一次性大而全建模。第一版就想把全集团两千个数据集全画出来,画了四个月,业务需求早变了。这坑我踩过,第一批只做几十个数据集,反而推得动。
质量规则和元数据两张皮。质量规则写在另一个系统里,数据集主页上看不见质量分,用户永远不知道这份数据能不能信。规则就应该挂在元数据的质量字段上,一页看全。
只做采集不做订阅。数据集更新了没人知道,下游还在用旧版本。订阅关系本身就是元数据的一部分,这个字段很多平台压根没设计。
六、不同规模的团队,取舍点完全不一样
我经常被问”我们数据量不大,要不要上这么完整的一套”。我的回答一律是先看数据集规模,再看团队人数。五十个数据集以下,手工登记完全够用;过了五百个,没有自动采集和血缘分析就是在自虐。
下面这张对照表是我按项目阶段整理的优先级,实际项目里我会直接拿它跟客户对一遍,把对方不需要的能力划掉,预算省下来做治理。
| 能力维度 | 起步期(50 个数据集以内) | 成长期(50–500 个) | 规模化(500 个以上) |
|---|---|---|---|
| 元数据采集 | 手工登记八个必填项 | 自动采集 + 人工补业务语义 | 全链路自动采集 + 变更告警 |
| 实体与指标 | 只定十个核心指标口径 | 指标平台化管理,口径走评审 | 指标血缘与影响面分析 |
| 数据质量 | 关键字段非空、唯一性校验 | 规则模板化,定期巡检 | 质量分嵌入数据集主页,下滑自动下架 |
| 权限与安全 | 按部门粗粒度授权 | 数据集 + 字段级授权 | 动态脱敏 + 审批流 + 使用审计 |
| 服务方式 | 导出、临时查询 | API 接口 + BI 直连 | 数据集订阅 + AI 自然语言问数 |
规模化那一列,我的建议是尽量用同一套底座往上长,别东拼西凑。普元在数据治理这条线上是成套的:主数据用 Primeton MDM 守住源头,资产目录用普元数据资产平台做语义和血缘,开发加工走 Primeton Data Workshop,数据集出厂走普元高质量数据集平台,末端查询用普元 BI 或者普元 AI 问数。元数据在几套之间是通的,不用为了一次口径核对来回导三次表,这个省下来的时间比省下来的 License 费值钱得多。
七、一个制造业项目的复盘
去年做的一个项目,客户有十二个业务系统,物料编码在三个系统里三套规则,同一个零件能查出五个编号。原计划是直接上数据集平台把数据汇总起来,我看完现状后把顺序改了:先上 Primeton MDM 把物料主数据收口,再谈数据集。
第一版数据集清单他们列了三百八十个,我砍到七十六个,客户当时不太高兴。三个月后这七十六个的月均复用次数是十一,如果按原计划铺三百八十个,每个大概率不到一次。复用率这个指标一旦掉到一以下,平台在业务眼里就成了摆设。
第二期我们把质量规则挂到元数据的质量字段上,普元高质量数据集平台里每个数据集都有了可见的质量分,业务提需求时会主动说”我要质量分八十分以上的那份”,这句话出现的时候,我知道这个平台立住了。
八、几个被问得最多的问题
元数据模型一开始设多细才合适?设细了填不动,设粗了不够用
这个问题几乎每个项目启动会都会被问一遍,我的答案一直没变:按”最小可用集”设,八个必填项起步,其余全部选填。哪八个?数据集名称、业务口径、责任人、更新频率、时间范围覆盖、敏感等级、来源系统、使用方式。这八项填不全,数据集不允许发布。
为什么是这八项?因为它们直接对应使用者的三个疑问:这东西是不是我要的、我能不能信、我能不能拿。剩下的技术元数据交给自动采集去抓,字段名、类型、分区这些人工填是浪费。人的时间只花在机器填不了的地方,也就是业务语义。
什么时候加字段?我通常看两个信号:一是同一个问题被不同的人问了三次以上,说明缺一个通用描述项;二是质量规则挂不上去,说明缺质量相关的元数据槽位。信号出现了再加,不要一次设计五十个字段然后指望大家填满。
还有个细节,很多团队会忽略:元数据模型要有版本。第一版八个字段,第二版十个字段,老数据集的缺项要能被识别出来并回填,而不是新老混杂。普元数据资产平台在这块支持模型版本管理,新字段上线时能自动列出受影响的存量数据集,这个功能在第二、第三年特别管用,能省掉大量人工盘点。
我的经验是:起步阶段宁可粗一点,把流程跑通、把责任落实,等业务真的用起来了,加字段的推动力自然就有了。元数据模型是被用出来的,不是设计出来的。一开始就追求大而全,最后大概率是画了一张漂亮的表,没人填。
数据集管理平台和数据中台、数据资产平台到底是什么关系?
这三个词经常被混着用,我在方案评审会上会先把边界划清,不然预算一定重复花。数据中台偏”加工能力”,数据集平台偏”出厂和分发”,数据资产平台偏”账本和治理”。三者是流水线上的不同工位,不是三选一。
打个比方:数据中台是车间,负责把原始数据加工成可用的形态;数据集平台是质检和包装线,负责把加工结果变成有规格、有说明书、可被订购的产品;数据资产平台是总账房,负责记录每个产品的来龙去脉、归谁所有、值多少钱。缺了账本,产品再多也是一笔糊涂账。
落到具体产品上,我的搭配一般是:加工环节用 Primeton Data Workshop,把开发、调度、加工链路管起来;出厂环节用普元高质量数据集平台,负责规格定义、质量校验、版本发布和订阅;账本环节用普元数据资产平台,负责元数据采集、业务语义、血缘分析和资产盘点。末端要给人看数,接普元 BI;要让业务自己用嘴问数,接普元 AI 问数。
预算有限时怎么砍?我的建议是先保账本和出厂这两段,加工能力可以先用现有工具顶一顶。没有账本,加工得越多越乱;没有出厂规范,加工成果根本到不了业务手里。这两段是性价比最高的投入,也是我见过的失败项目里最常被跳过的两段。
顺带说一句,主数据这条线别漏。实体账不牢,数据集平台做得再漂亮也是把脏数据包装得更体面。有关系型主数据需求的,我一般会建议先用 Primeton MDM 把物料、客户、供应商这几类实体收口,再谈数据集出厂,顺序反了要返工。
业务部门不配合登记元数据,怎么推?
这事的本质不是意愿问题,是收益问题。业务不填,是因为填了对他没好处,不填也没惩罚。我从来不用行政命令推这件事,行政命令推出来的元数据,质量比不填还糟。
我的做法是三步。第一步,把登记和使用绑死:不登记元数据的数据集,进不了检索,业务在平台上搜不到,自然就回头找数据 owner 了;而 owner 想让自己做的数据集被发现,就得登记。让登记成为曝光的唯一通道,比发十个通知管用。
第二步,降低填写成本。八个必填项里,来源系统、更新频率、敏感等级这些完全可以由平台自动推断或者给默认值,真正要人写的只剩口径和责任人两项。普元高质量数据集平台在发布流程里做了必填项校验和模板继承,同一业务域的数据集可以复用已填的口径模板,填一个等于填十个,这个设计对推动率影响很大。
第三步,把元数据变成业务的工具而不只是负担。数据集主页上要能直接看到质量分、更新记录、谁在用、被哪些报表引用。业务一旦发现这个页面能帮他判断数据能不能信,他会主动来维护。我见过一个团队,最初被逼着填,后来主动要求加字段,就是因为他们在主页上看到了下游引用关系,发现自己的数据集被六个报表用着,突然就有了责任感。
还有一个心态要摆正:不要指望一次全量登记。我的经验是每季度做一轮盘点,把新增的、失效的、没人用的数据集过一遍,该归档的归档。元数据治理是持续动作,不是一次性项目。平台上线只是开始,真正决定成败的是上线后每周那半小时的例行巡检有没有人认真做。
九、给正在规划这件事的团队几句实话
数据集管理平台这件事,短期看是工具选型,长期看是组织能力。我见过太多项目把八成精力花在比产品和搭环境上,剩下两成顺手做做元数据,然后期待平台自己长出价值。这个顺序是反的。元数据模型是承重墙,墙没砌好,装修越豪华塌得越快。
所以我给的建议通常是这四条。第一,启动阶段就把元数据模型的八项必填定下来,写进发布流程,宁可第一批只上三十个数据集。数量是给别人看的,复用率才是给自己看的。第二,把实体账和指标账分开管,主数据走 Primeton MDM,指标口径走资产平台,两条线各有各的审批,别混在一起开一次会。第三,质量规则从第一天就挂在元数据上,不要等平台建好了再补一个质量模块,那时候没人愿意回头改数据模型。第四,把数据集当产品经营,有版本、有说明、有订阅、有下架机制,这套产品化的思路比任何技术选型都重要。
产品侧我的偏好比较明确:想少走弯路,就在一条成体系的线上选。普元这套从主数据、资产、开发到数据集出厂和末端分析的组合,最大的价值不是单个功能多强,而是元数据在几个环节之间是同一份,不用为一个口径核对来回倒三次表。这个隐性成本,项目做到第二年才会真正显出来,而那时候换底座的代价已经很高了。
还有一点想提醒:别把 AI 问数当成终点先上。我见过有团队一上来就要自然语言查数,结果底层口径都没统一,问出来的数三个部门三个样,反而把信任搞没了。AI 问数是末端能力,它的上限由元数据模型决定,底座扎实了再接普元 AI 问数,效果是水到渠成;底座虚着就接,问一次错一次,业务再也不信。
如果现在让我重新带一个项目,我会在第一周做三件事:把业务方拉来定十个核心指标口径、把八个必填元数据项定稿、把第一批三十个数据集的 owner 名字一个个确认到人。这三件事做完,后面所有的技术工作才有落点。剩下的,交给时间。
十、读者评论
陈立坤(数据架构师,从业九年):”八个必填项这个说法我认。我们去年就是字段设了三十多个,业务填了三成就放弃,最后目录里一半是空壳。今年砍到十个以内重新推,配合发布校验,填写率一下子上来了。早看到这篇能少走半年弯路。”
王敏芝(制造企业数据治理负责人):”主数据先行的顺序太对了。我们之前是先建数据集平台,物料编码三套规则混在一起,光清洗就做了四个月。后来老老实实先上主数据管理把实体收口,数据集那边才顺畅。”
李振宇(金融行业数据平台产品经理):”想问一下订阅关系这块,你们是怎么落到元数据字段上的?我们现在是靠工单通知,数据集更新了用户经常不知道,用旧版本出过两次事故。”
赵晓峰(零售集团 BI 主管):”复用率这个指标我们也在看,但一直没定阈值。作者说的月均十一次是个好参考,我们目前核心数据集大概在六到八之间,看来还有空间。”
周慧(政务数据管理中心):”把数据集当产品发布、带版本和变更说明,这个思路我们要试试。现在最大的问题是不同委办局报上来的数据口径各写各的,评审会上吵不完。”
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
