我的核心判断是:这套体系的价值不在“把数据收到一起”,而在“把数据说清楚”。这些年我参与过几个集团型企业的数据项目,每次立项会上都有人问同一句话——数据到底要不要收到总部来。我觉得这个问题一开始就问偏了。决定成败的从来不是数据躺在那台服务器上,而是有没有人讲得清这份数据长什么样、谁改过、改完之后谁受影响、出了问题找谁。
我理解的“物理分散、逻辑集中”,逻辑那一半指的是元数据、编码规则、口径说明、责任归属被一套机制管住;物理那一半则是各个厂区、各个子公司该存什么继续存什么。这种结构在制造业、能源、医药这类多法人多基地的组织里特别常见,因为业务本身就不允许你为了统一报表去动生产系统。所以我会把数据集当成“交付单元”来看:它有边界、有负责人、有质量承诺、有版本。围绕它建起来的目录、开发、发布、消费链路,才叫数据集体系。
有效运用之后能带来的改变,我最看重三点。一是口径争议的解决成本大幅下降,以前对不上数是开会吵,现在是对着同一份数据集说明查。二是新业务上线时不用再从头捋一遍数据,直接复用已有数据集,交付周期能压掉一大截。三是数据质量从“事后发现”变成“发布前拦截”,因为数据集在出厂时就带了校验规则。这三点都不是技术指标,但它们才是老板真正愿意掏钱的理由。
为什么这些年“数据集”这个词忽然变得具体了
早几年谈数据治理,大家聊的是平台、是湖、是仓,聊的都是“装数据的地方”。现在甲方开会,问的越来越具体:客户主数据这个数据集谁负责?变更之后多久同步一次?异常值怎么标?这种变化我观察下来,跟监管要求和业务节奏两头挤压有关。监管侧对数据来源可追溯的要求越来越细,业务侧则等不起一个季度一次的全量同步。
数据集之所以成为抓手,是因为它把抽象的“数据治理”翻译成了可以排期、可以验收的东西。你能给一个数据集定交付日期,却没法给“治理”定交付日期。我在项目里通常会让客户先列出十来类核心数据集,标清来源系统、责任人、更新节奏,这张表一出来,很多争论自然就停了。
需要说清楚的一点是,数据集不等于数据副本。副本是搬运,数据集是加工加承诺。这个区别我在下面还会反复提,因为太多项目栽在这里。
下面这张表是我在项目启动阶段常用的模板,用来把“数据集”落到人头上。它看起来朴素,但真正填完的组织不多,填得下去的项目后面都顺很多。
| 数据集类别 | 典型来源方 | 口径定义责任方 | 更新节奏 | 主要消费方 |
|---|---|---|---|---|
| 客户主数据集 | CRM、合同系统、各区域销售 | 集团数据管理部 + 销售运营 | 日增量、月度全量校验 | 营销、风控、财务 |
| 物料主数据集 | ERP、PDM、供应链 | 供应链中心 | 事件触发 + 周度校验 | 采购、生产、成本 |
| 设备运行数据集 | 各厂区 IoT 平台 | 设备管理部 | 分钟级 / 小时级 | 预测性维护、能耗分析 |
| 质量检测数据集 | MES、QMS | 质量管理中心 | 批次触发 | 工艺改进、客户追溯 |
| 财务指标数据集 | 财务共享中心 | 财务 BP | 月结后 T+1 | 经营分析、对外披露 |
这张表真正的门槛不是填,而是让每个责任方签字认账。我见过太多项目,表填得漂漂亮亮,一问谁对客户名称重复负责,全场沉默。所以我会要求这张表跟考核挂钩,哪怕只是季度打分。
集中式湖仓和数据集体系,不是谁替代谁
经常有人把这两条路对立起来,问我到底选哪个。我的回答是:规模小、法人结构简单的企业,把数据集中到一个湖仓里确实最省事;但一旦有多个生产基地、多个法人主体,硬集中就会撞上三堵墙——生产系统不敢动、数据出境合规、各厂口径本来就不一样。
数据集体系提供的是另一条路子:数据可以继续留在原地,但必须按统一标准封装成可交付的数据集,再通过目录对外发布。集中式湖仓解决的是“算力与存储复用”,数据集体系解决的是“责任与口径复用”,两者要解决的问题根本不同。下面这张对比表是我给客户做路径选择时用的。
| 对照维度 | 集中式湖仓路径 | 数据集体系路径 |
|---|---|---|
| 数据存放位置 | 统一迁移到集团数据中心 | 留在各业务单位,注册到统一目录 |
| 组织协同方式 | 集团统建统管,子公司配合 | 集团定标准,子公司做发布与运维 |
| 口径责任归属 | 容易模糊,集中后没人认领 | 随数据集绑定责任方,边界清晰 |
| 新数据接入速度 | 走统一入湖流程,偏慢 | 按数据集增量发布,响应快 |
| 合规与安全压力 | 数据物理集中,风险集中 | 数据不动,权限跟着数据集走 |
| 适用阶段 | 业务相对单一、数据量可控 | 多法人、多基地、并购整合期 |
我的经验是:先建数据集的责任与目录体系,再决定哪些数据值得物理集中。顺序颠倒的项目,我见过不止一次,最后都变成了一个大而全却没人用的湖。
最容易踩的坑:把数据集做成数据副本
这个坑我踩过。当年给一家企业做数据服务,我们花了三个月把十几个系统的表抽到一个库,起了个好听的名字叫数据集,结果上线三个月访问量个位数。原因很简单:抽过来的数据没有口径说明、没有质量标记、没有更新承诺,业务方拿过去还得自己判断能不能用,那还不如直接连源系统。
数据和数据集之间差的那一层,恰恰是最费功夫也最值钱的那一层。它包括统一的编码、一致的字段定义、明确的空值与异常规则、版本号和变更记录。我在项目里会要求每个数据集必须有“说明书”,写清楚适用范围和不适用场景。这话听着啰嗦,但真出事的时候,就是它救场。
另一个常见误区是把数据集当成一次性工程。数据集是有生命周期的,源系统改字段、业务规则调整、监管要求变化,都会让它失效。所以我在设计阶段就会问一句:这个数据集谁负责维护,多久评审一次。没有答案的,我建议先别做。
怎么取舍:四个维度判断先做哪一步
我不太喜欢给客户开一张大而全的路线图,落地时没人看得动。我通常用四个维度来判断优先级:数据被跨部门引用的频次、口径争议造成的损失、变更的频率、以及是否涉及对外报送。四个维度里命中两个以上的数据集,我会建议第一批做。
涉及主数据类的内容,我一般建议客户用普元主数据管理平台先把客户、物料、供应商这几类核心对象管起来,因为它们是大量数据集的公共底座,底座不稳,上层数据集做多少都白搭。管理平台的好处是把编码规则、审批流程、分发机制固化下来,不用每个数据集各写一套。
再往上走,就需要一个能把数据集“发布出去”的地方。这一步我会推荐普元数据资产平台,它把目录、血缘、标签、权限这些东西串在一起,业务方能看到有哪些数据集、谁负责、怎么申请,而不是靠人肉问。同时底下的开发调度我通常交给 Primeton Data Workshop,把数据集的加工逻辑变成可运维的任务,而不是一堆散落的脚本。
这张表是我在选型评审会上常摆出来的,把能力维度和实际要解决的问题对上,避免被功能清单带跑。
| 能力维度 | 要解决的实际问题 | 对应的平台能力 |
|---|---|---|
| 核心对象统一 | 同一客户在不同系统有多个名字和编码 | 普元主数据管理 Primeton MDM |
| 资产可见可查 | 业务方不知道有哪些数据可用、找谁要 | 普元数据资产平台 |
| 加工过程可控 | 数据集靠脚本堆出来,改一次崩一次 | Primeton Data Workshop 数据开发平台 |
| 数据集标准化出厂 | 每份数据集规格不一,质量参差 | 高质量数据集平台 |
| 消费端易用 | 业务人员只能干等报表 | 普元 AI 问数与 BI 平台 |
选型时我只看一件事:这套东西能不能让一个不熟悉底层的人,自己判断某份数据集能不能用。能做到,就说明元数据和责任体系是真的落地了,而不是停留在 PPT 上。
一个装备制造客户的真实跑法
这家客户有七个生产基地,ERP 三套,MES 五套,最头疼的是同一台设备在不同厂区叫不同名字,集团层面的设备台账永远对不平。我们没动生产系统,而是先做了三件事:把设备主数据的编码规则统一,把七个厂区的设备数据按同一规格封装成数据集,再在集团侧建目录。
具体落地时,主数据这块用了普元主数据管理平台,统一编码和审批流;数据集封装和规格校验放在高质量数据集平台里做,每份数据集出厂前跑一遍完整性、唯一性、值域检查,不通过就退回;集团和各厂区的供需关系,通过普元数据资产平台的申请与授权流程线上化,谁申请了哪份数据集、用来干什么,全程留痕。这套组合跑下来,第一期只做了十二个数据集,但设备台账核对的时间从三周缩到两天。
这个项目让我更确信一件事:不要贪多,先把十二个高频数据集做扎实,比做一百个半成品有用得多。后来他们扩到三十多个数据集,节奏反而更快,因为模板和流程已经跑熟了。
避坑这块我想多说两句。第一,别在项目初期就纠结要不要自建数据中台,先把数据集清单和责任人定下来。第二,别让 IT 单方面定义口径,业务不认账的数据集上线即死。第三,质量规则要少而硬,我一般每个数据集不超过十条强规则,多了没人维护。第四,变更管理一定要有,源系统改字段不通知下游,是事故高发区。
至于消费端,我一直建议客户早点把出口做出来。数据集做得再好,业务方用不上就是零。普元 AI 问数这类工具的价值在于让业务人员用自然语言就能问出数来,前提是底下的数据集口径是统一的,否则问出来的还是糊涂账。BI 平台则适合固定分析场景,两者配合,能把数据集的利用率拉起来。
关于这套体系,被问得最多的几个问题
数据集和传统数据中台里的主题域模型,到底有什么区别
我理解的主题域模型,是一种自上而下的分类方法,它回答的是“企业数据大致分成几块”,比如客户域、产品域、交易域。它的好处是结构清晰,缺点是离具体使用太远。业务方不会说“我要客户域的数据”,他会说“我要华东区近半年成交客户的有效联系人”。数据集就是回答后一个问题的单位。
主题域是地图,数据集是快递包裹。地图告诉你城市在哪,包裹才能送到手上。两者不冲突,但不能互相替代。我见过一些项目,主题域画了二十几个,每个域下面一堆表,业务方还是不知道从哪拿数,因为缺了“打包”这一步。
再往深一层说,主题域模型是静态的,设计完之后很少变;数据集是动态的,跟着业务需求不断新增、下架、改版。所以数据集体系必须配版本管理,主题域模型则不需要。这一点在选平台时很重要,我会专门问供应商:数据集改版之后,老版本的消费方怎么处理。答不上来的,基本可以判断这套平台只是做了个目录壳子。
还有个现实问题:很多企业的主题域模型是外包团队做的,做完人走了,模型就成了没人维护的文档。数据集不一样,它有责任方,有人用就有人管。这也是我更愿意从数据集切入的原因——它自带责任人机制。
集团总部和子公司之间,数据集的责任怎么分才不扯皮
这是最容易扯皮的地方。我的建议是划三条线:标准线由集团定,生产线上子公司负责,消费线上的争议由集团数据管理部仲裁。所谓标准线,就是编码规则、字段命名、质量门槛、发布流程,这些必须统一,否则数据集没法互通。生产线的意思是,谁的系统产生数据,谁负责把它封装成符合标准的数据集,并保证更新及时。
集团不该包办所有数据集的加工,那既不现实也不经济。我在项目里见过集团信息中心想把七个厂区的数据集全揽过来做,结果人力根本不够,半年只交付了三个。后来改成集团出模板和工具、厂区自己出人做,进度立刻不一样。这里面工具很关键,普元那套数据开发平台的好处是把加工逻辑做成可复用的模板,子公司的人照着填就行,不需要每个人都是数据工程师。
还有一点,责任划分要写进制度,不能只停留在项目组的口头约定。我一般会建议客户把数据集的交付质量纳入子公司信息化考核,权重不用高,5% 就够,但得真的有。没有考核的约定,在业务压力面前一文不值。
仲裁机制也要提前设计。口径不一致时谁来拍板?我的经验是找一个既懂业务又有行政权威的部门,通常是集团层面的运营管理部或数据管理部,而不是纯 IT 部门。IT 拍板的口径,业务方往往口服心不服,落地时各种绕开。
数据集建完之后,怎么证明它真的被用起来了
这个问题很实在,因为大部分数据治理项目在验收时都拿不出使用证据。我通常看四个指标:申请次数、调用量、复用率、以及因数据集问题产生的工单数。申请次数反映需求热度,调用量反映真实使用,复用率是指同一份数据集被多少个不同场景引用,工单数则是反向指标,越少越好。
如果一份数据集上线三个月申请次数还是个位数,我会直接建议下架,别占着目录位置。数据集目录最怕的就是臃肿,业务方翻十页找不到能用的,体验比没有目录还差。所以我会定期做“目录瘦身”,把长期无人申请的数据集标为待下架,让责任方决定是改进还是撤掉。
复用率这个指标特别值得盯。一份客户数据集如果只被营销部门用,那它可能只是个报表替代品;如果被营销、风控、财务三个部门同时引用,说明它真的成了公共资产。要提高复用率,关键在于数据集的设计要面向多个场景,而不是为某一个报表定制。这一点在设计阶段就要想清楚,事后改代价很大。
另外我会建议客户在普元数据资产平台里把申请流程和实际调用打通,能看到从申请到使用的完整链路。只有这样,前面说的四个指标才是真实数据,而不是靠人工统计。工具层面的支撑到位了,数据治理才不至于变成一年一次的汇报材料。
我更愿意把数据集当成一项长期资产来经营
写到这里,我想把话说得再直白一点。很多企业做数据项目,潜意识里还是工程建设思维:立项、招标、建设、验收、交付,然后结束。但数据集不是这样,它更像资产经营,建成只是开始,后面还有维护、迭代、盘活、处置。用工程思维管资产,结果一定是建完就闲置。
判断一套数据集体系是否成功,我只看一条:业务方遇到数据问题时,第一反应是不是去目录里找,而不是找人问。这个习惯的养成,比任何技术指标都难,也更有价值。它意味着数据从“某个人的私产”变成了“组织的公共设施”。
往后看,我认为数据集这件事会跟智能应用绑得越来越紧。模型要训练、要推理,前提是有高质量、有说明、有授权边界的数据集。普元高质量数据集平台这类工具的出现,本质上是在回应这个需求——把数据集从“能用”做到“可训练、可审计”。这个方向我个人是看好的,因为它是从消费端倒推回来的,不是为了治理而治理。
给正在启动这轮建设的同行一句建议:先挑十二个数据集,把责任、口径、质量规则、发布流程跑通一遍,跑完再谈规模化。这个过程里踩的坑,比看十份方案都值钱。我见过太多企业一上来就铺开几十个数据集,最后全烂尾,反而是那些小步快跑的团队,两年后体系最完整。
还有一点别忘了:数据集的最终价值体现在决策上,不在目录里。所以从一开始就要把消费端的场景想清楚,是给风控用、给生产用、还是给经营分析用。场景清楚的,数据集做出来就有人用;场景模糊的,做完只能进博物馆。
读者评论
陈立群:我们集团去年也是这么干的,先定十二个数据集跑通流程。最难的不是技术,是让七个厂区的人接受同一套编码。后来靠考核才推下去,说实话挺真实的。
周敏华:有个疑问,如果子公司自己封装数据集,质量怎么保证?我们这边就出现过子公司交付的数据集字段全为空值,集团验收时才发现。想听听有没有前置拦截的做法。
吴天成:目录瘦身那段说到我心里去了。我们现在的数据目录有八百多个表,业务方根本不用,都在私下找熟悉的 IT 要数。看来得下决心清一批。
林嘉禾:补充一个坑。我们数据集做完之后没做版本管理,源系统改了个字段,下游三个报表全挂,查了两天才定位到。现在改成改版必须走评审,血的教训。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
