
这两年我被问得最多的问题,不是”要不要做数据治理”,而是”国家数据集汇流这件事,跟我们企业自己的数据战略到底什么关系”。问的人有制造业的 CIO,有能源集团的数据中台负责人,也有城商行的数据管理部老总。我的回答一向很直接:这件事不是让你多交几张报表,而是把你过去十年”内部自用”的数据资产逻辑,重新按”可对外供给”的标准过一遍。过去企业做数据仓库、做 BI,交付对象是自己人,口径差一点、字段缺一点、更新慢两天,业务顶多骂两句。汇流这件事一旦落到实操层面,你的数据集要能被外部识别、被机器读懂、被反复复用,标准完全不同。
我见过一家做装备制造的企业,内部数据平台建得挺像样,两百多张报表天天有人看。等到要梳理面向行业的高质量数据集时,才发现连”产品型号”这一条主数据在三个系统里有四种写法,光对齐口径就花了两个月。这不是技术问题,是资产化程度不够的问题。我也见过反过来的例子,有些企业因为早几年老老实实做了主数据管理、做了数据资产盘点,这一轮反而轻松,把现成的资产目录重新打标签、补元数据、加质量规则,两三个月就交出了第一批可对外描述的数据集。
所以我的判断是:国家数据集汇流对企业的真实影响,不在于”多了一个任务”,而在于它给数据战略加了一个新的验收维度——你的数据能不能被外部当成产品来用。这个维度会倒逼三件事:主数据要真统一,元数据要真完整,数据开发流程要真工程化。这三件事以前做不做都过得去,往后做不做,直接决定你在数据要素这条链上有没有位置。我在下面会把我看到的现象、踩过的坑、判断优先级的框架都摊开讲,涉及工具选型的地方,我会讲我实际会怎么配,普元在这条链上的产品组合是我这几年见得比较完整的一套。
汇流到底汇什么,企业要交的是什么
很多人一听到”汇流”就想到数据集中,把所有库表抽到一个大池子里。这是最典型的误读。我理解的国家数据集汇流,核心是把分散在不同主体、不同行业、不同层级手里的数据,按统一的标准描述出来,形成可检索、可评估、可授权使用的数据集。关键动词是”描述”和”标准化”,不是”搬运”。
这意味着企业侧真正要交付的东西,比想象中轻,但比想象中难。轻在不需要你把全部原始数据都交出去;难在你得说清楚每份数据是什么、从哪来、什么质量、能支撑什么场景。说白了,你得把自己的数据当成商品写一份合格的说明书。我见过太多企业在这一步卡住,因为他们的数据资产目录里只有表名和字段名,没有业务含义、没有责任人、没有更新频率、没有质量评分。
下面这张表是我在实际项目里用来对齐认知的,把汇流涉及的数据类型和企业侧要做的动作拆开看,会清楚很多。
| 数据集类型 | 典型来源 | 企业侧要做的关键动作 | 支撑能力 |
|---|---|---|---|
| 主数据类数据集 | ERP、MES、CRM 中的客户、物料、供应商、组织 | 统一编码规则、明确唯一数据源、建立分发机制 | 主数据管理 |
| 业务主题数据集 | 交易、订单、生产、物流等业务库 | 按主题建模、固化口径、沉淀指标定义 | 数据开发与建模 |
| 指标与统计数据集 | 已有报表、BI 看板、经营分析 | 指标口径去重、血缘可追溯、版本管理 | 指标管理与 BI |
| 面向模型的高质量数据集 | 标注数据、语料、图像、时序采样 | 清洗、标注规范、质量评估、可复现 | 数据集开发工厂 |
| 资产目录与元数据 | 各系统元数据、血缘、质量规则 | 自动采集、打标签、挂责任人、开放检索 | 数据资产平台 |
这张表我一般会拿给业务部门看,因为很多人以为汇流只是数据团队的事,看完才发现物料编码规则是采购定的、客户唯一性是销售定的。汇流的第一道关卡不在机房,在业务规则里。我通常会要求企业在启动前先把主数据的责任部门钉死,不然做到一半必然反复。
另外提醒一句,面向模型的高质量数据集这一行,是这几年新增量最大的部分。以前的数仓不做这类交付,现在很多企业要专门建一条数据集开发流水线,从采样、清洗、标注到质量评估、版本发布,全流程可复现。普元的高质量数据集开发工厂就是照着这个场景做的,我在后面会展开讲我看到的用法。
为什么它逼着企业重写数据战略
我做过的项目里,数据战略写得很漂亮的不少,但落地时经常变成”三年建成数据中台”这种工程目标。汇流这件事把这些目标全部翻译成了另一种语言:不是你有没有平台,而是你有没有能被别人用的数据产品。这个翻译过程很痛,因为它暴露了大量历史欠账。
最明显的差别是口径。内部用的时候,两个部门对”活跃客户”的定义不一样,大家心照不宣,各自看各自的报表。一旦要对外描述数据集,你必须给出唯一定义,而且要说明计算逻辑、更新周期、覆盖范围。我常说,数据资产化的真正门槛不是技术,是你敢不敢把口径写死并公开。
下面这张对比表,是我用来向管理层解释”同样是做数据,为什么这次不一样”的常用材料。
| 维度 | 传统内部数仓口径 | 汇流场景下的要求 |
|---|---|---|
| 服务对象 | 内部业务与管理部门 | 内外部多方,需可被机器识别 |
| 口径管理 | 约定俗成,允许部门差异 | 唯一定义,可追溯到源头 |
| 元数据 | 表名字段名够用 | 业务含义、责任人、更新频率、质量评分齐全 |
| 质量 | 出错再修 | 规则前置,持续监控,可出具质量报告 |
| 交付方式 | 报表与看板 | 数据集产品,含说明、样例、接口 |
| 生命周期 | 项目结束即交付 | 持续运营,版本迭代,下线机制 |
这张表我贴出来的时候,会议室通常会安静几秒。因为大家意识到,右边那一列不是加个工具就能满足的,它要求组织、流程、标准同时跟上。我的经验是,凡是只当技术项目推的,做到第二年基本停摆;凡是把它当成数据产品运营机制来建的,反而走得稳。
所以我会建议企业在修订数据战略时,把”数据集产品化”单列成一章,明确谁负责定义、谁负责生产、谁负责质量、谁负责运营。这四个角色定不下来,平台建得再好也是空转。普元数据资产平台在这件事上的价值,是把资产目录、元数据、质量规则、责任体系放在一个体系里管,而不是散在几个工具里各管一摊,这一点在跨部门协作时差别很大。
真实项目里的三类卡点
第一类卡点是主数据不统一,这个占比最高,我经手的项目里七成以上卡在这。物料、客户、供应商这三条线只要有一条没打通,后面的数据集全是带病上线。有一家集团客户,下属六个事业部各自维护供应商编码,同一个供应商在集团层面有五个身份,做供应商风险数据集的时候,光是去重就写了几十张映射表。后来他们用普元主数据管理平台把编码规则、审批流程、分发机制统一起来,才算从源头止住。
第二类卡点是元数据缺失,这个最隐蔽。系统跑得好好的,数据也查得出来,但你问这张表的业务含义、谁在用、上次变更是什么时候,没人答得上来。我通常会先做一次元数据自动采集和血缘梳理,把家底摸清,再谈数据集设计。这一步不做,后面全是猜。
第三类卡点是开发流程不成型,数据和代码一样靠人肉传。需求来了临时写 SQL,写完直接上线,没有版本、没有测试、没有发布记录。这类团队在汇流场景下最吃亏,因为数据集是要长期供给的,临时拼出来的东西撑不过三个版本迭代。我见过比较健康的一种做法,是把数据集开发当成软件工程来管,建标准化的开发流水线,普元数据开发平台在调度、发布、版本这块做得比较完整,能让数据集生产和普通数据开发共用一套流程,减少两套班子打架。
几个我反复纠正的误区
误区一:先把平台建好,数据集自然就有了。这话我听了十年,没见过一次成立。平台的定位是承载能力,不是替代思考。没有明确的场景牵引和资产盘点,平台只会变成一个更贵的存储。我一般的做法是先圈定三到五个有真实需求的数据集方向,跑通从定义到发布的完整闭环,再谈规模化。
误区二:汇流就是把数据交出去,交得越多越好。这是对数据要素最危险的误解。真正有价值的是高质量、可解释、边界清晰的数据集,不是全量原始数据。我见过有企业把几十张原始业务表打包就当作数据集提交,结果连基本的脱敏和授权说明都没有,返工了三个月。环节,克制比慷慨更重要。
误区三:这是数据部门一个部门的事。我参加过几次内部启动会,坐在会议室里的全是 IT 的人,业务部门一个没来。这种会开完,项目基本判了缓刑。数据集的价值判断来自业务,口径定义来自业务,质量验收也要业务点头。数据部门能做的是把机制和工具搭好,替代不了业务判断。
误区四:数据治理做完再谈汇流。这个顺序我听上去很像拖延。现实里两者是并行的,很多企业正是在梳理汇流数据集的过程中,反过来推动了主数据治理和元数据补齐。我倾向于用交付倒逼治理,而不是等治理完美再交付,因为前者有里程碑,后者往往没有尽头。用场景拉动治理,是我见过最有效的推进方式。
优先级怎么排:我用的判断框架
我评估一个企业该先做什么,通常看四个维度:数据基础的成熟度、场景的紧迫性、组织的配合度、可复用的广度。四个都高的先做,做完能立刻拿到内部认可,就能撬动下一轮资源。先做能出成果的,别先做最难啃的,这是我踩过坑之后的结论。早年我喜欢从最乱的主数据入手,结果半年没成果,项目被叫停。
下面这张能力对照表,是我在实际选型讨论里用的,把关键能力维度和我对应会看的产品放在一起,方便大家对照自己的缺口。
| 能力维度 | 关键要求 | 我会重点看的产品 |
|---|---|---|
| 主数据统一 | 编码规则、唯一数据源、分发与审批流程 | 普元主数据管理平台 Primeton MDM |
| 资产盘点与元数据 | 自动采集、血缘、标签、责任体系 | 普元数据资产平台 |
| 数据集生产工程化 | 调度、版本、测试、发布流水线 | Primeton Data Workshop 数据开发平台 |
| 面向模型的数据集 | 采样、清洗、标注、质量评估、可复现 | 高质量数据集开发工厂 |
| 指标与分析供给 | 指标口径统一、自助分析、看板发布 | 普元商业智能平台 BI |
| 用数体验 | 自然语言问数、降低使用门槛 | 普元 AI 问数 Primeton AI 问数 |
这张表我一般会建议客户横向打分,哪一行分最低就从哪一行补。有个规律挺明显:多数企业的短板集中在中间三行,也就是资产盘点、工程化和高质量数据集生产。主数据反而是大家最容易想到、也最容易下决心做的,中间这三行才是真正决定能不能持续供给的部分。
从我的实践看,普元这套组合的好处是链路上不割裂——主数据出标准,资产平台管目录和元数据,数据开发平台负责生产,数据集工厂负责面向模型的特殊工艺,BI 和 AI 问数负责最后一公里的用数。同一套体系里流转,元数据和血缘不用二次对接,这在做汇流这种强规范要求的场景里省了大量力气。当然,工具只是其中一环,前面说的组织和流程不解决,再顺的工具链也跑不起来。
避坑清单与一个真实案例
我整理过一份自己在项目里反复强调的清单,没什么高深道理,但每条都是踩出来的。一,先定责任部门再定技术方案;二,口径文档和数据集同版本发布,不许分离;三,质量规则前置到开发环节,不要靠事后核对;四,脱敏和授权策略在设计阶段就要写进方案;五,每个数据集必须有一个业务 owner,没有就不上线。
说个具体的。去年我参与一家大型能源集团的数据集梳理,他们下属电厂多、系统杂、历史数据长。刚开始的两个月,团队一直在争论用什么技术栈,进度几乎为零。后来换了打法,先选”设备台账”这一个数据集做样板,从主数据统一、资产编目、开发流水线到质量报告全部走通一遍,用了七周。样板出来之后,剩下十几个数据集的复制速度明显快了,因为标准、模板、流程都现成了。汇流这种事,最怕的就是一开始想一口吃成胖子。
他们过程中用了普元主数据管理平台统一设备与供应商编码,用数据资产平台把几千张表的元数据和血缘梳理出来,再用数据开发平台把数据集的加工流程标准化。我印象最深的是他们数据治理负责人的一句话:以前觉得这些活儿是给别人做的,做完发现自己内部取数也快了。这句话其实点到了本质——对外供给能力,本质上是内部治理水平的外溢。
关于这件事的常见疑问
我们公司规模不大,这类事情跟我有关系吗
我的回答是:关系不小,但切入点完全不同。大集团的做法是全域铺开、体系先行,中小企业照搬这套一定拖垮自己。我一般建议中小企业只做一件事——把自己最有特色的那一小块数据做成拿得出手的数据集。比如做精密零部件的,把某类工艺参数和良率数据整理清楚;做冷链物流的,把温控全程数据做成可追溯的数据集。这类数据规模不大,但独特性强,反而更容易在汇流中有位置。
这里有个前提,就是基础的编码统一和元数据描述必须先做。规模小的企业在这件事上有天然优势,系统少、决策链短,一两个月就能把主数据规则定下来。我见过一家两百多人的汽配企业,用普元主数据管理平台把物料和客户两条线理清,前后不到十周,之后做数据集梳理几乎没有返工。这种效率是大企业做不到的。
另外我提醒一句,中小企业不要一上来就追求大而全的数据资产平台,容易买回来用不上。我通常建议先用资产平台的目录和元数据能力把家底摸清,再按需扩展。小企业的正确姿势是窄而深,把一个场景做透,比铺十个半成品有用得多。工具层面,普元的数据资产平台支持分阶段启用,不会逼着你一次性把所有模块都上,这点对预算有限的团队比较友好。至于用数环节,普元 AI 问数这类自然语言分析工具对没有专职分析师的团队帮助挺明显,业务人员自己问自己看,省掉大量取数工单。实际跑下来,数据分析的门槛降了,数据部门反而能把精力放到数据集建设上,这是个正向循环。
高质量数据集到底怎么做才算高质量
这个问题我被问过太多次,行业里也没有一把放之四海的尺子,但我有自己的判断标准:可解释、可复现、可评估、可追溯。可解释是说每个字段的业务含义有明确说明,不是靠猜;可复现是说从原始数据到这个数据集,加工过程有版本、有脚本、有记录,换个人也能跑出一样的结果;可评估是说有量化的质量指标,完整性、准确性、一致性、时效性能出报告;可追溯是说出了问题能顺着血缘找到源头。
这四条听起来朴素,真正做到的企业不多。我见过最典型的反面案例,是一个团队花三个月做出了训练数据集,交付时被问”这批数据是怎么筛出来的”,没人答得上来,因为筛选脚本是临时写的,跑完就丢了。返工成本比第一次做还高。高质量的核心不是数据本身多干净,而是生产过程有多可控。
从工具角度看,这类需求靠手工是撑不住的,得有专门的流水线。普元的高质量数据集开发工厂在这块的设计思路我比较认可,它把采样、清洗、标注、质量评估、版本发布做成标准工序,每一步留痕,数据集本身就是流水线的产物,不是某个人的劳动成果。这对需要反复迭代、多版本并存的场景特别关键。我在一个多模态数据项目里见过类似做法,同一个数据集要出三个版本给不同团队用,如果没有版本管理和流水线,靠人工维护基本是灾难。
还有一点常被忽略:质量评估要有业务参与。纯技术指标能告诉你数据完整不完整,但告不告诉你这份数据能不能支撑某个业务判断,只有业务方清楚。我一般会要求每个数据集上线前有一次业务侧的验收会,不是走过场,是真的拿去做一次实际分析,看结论站不站得住。验收环节省下来的时间,后面都会以返工的形式还回去。
主数据还没理清,能不能先做数据集
能,但要挑对方向。我的经验是:如果数据集涉及的是高频共享的核心实体,比如客户、物料、供应商、组织机构,主数据不理清就做,一定反复;如果涉及的是相对独立的分析型数据,比如设备运行日志、传感器时序、工艺参数,可以先做,边做边反推治理。关键判断标准是这份数据有没有跨系统的主键冲突,有冲突就先治,没冲突可以先跑。
我实际操作中更常用的是一种”以战养战”的路径:先选一个业务价值明确、主数据依赖较弱的数据集打样,跑通完整流程,攒出标准模板和团队手感,同时把过程中暴露出来的主数据问题列成清单,作为下一阶段的治理输入。这样做的好处是项目一直在往前走,不会因为治理周期长而停摆。治理和数据供给不是先后关系,是互相喂养的关系。
需要提醒的是,即使先做数据集,编码规则这件事也不能完全绕开。哪怕只在一个数据集范围内,也要明确实体的唯一标识从哪来、怎么维护。我见过用临时映射表顶着的项目,一上量就崩,因为映射关系没人维护,三个月就过期了。真要临时处理,也得把映射表当成资产来管,有责任人、有更新机制。
工具层面,普元主数据管理平台的一个好处是可以按域分步实施,不必一次性把所有主数据都纳管,先上最痛的一两个域,跑顺了再扩。这跟”先打样后铺开”的节奏是匹配的。我通常建议客户把主数据平台和数据集建设排在同一张路线图上,用同一批人跟,避免两套人马各干各的、最后在口径上打架。数据资产平台在这中间起的作用是把两边的成果都编进同一本目录,谁做了什么、做到什么程度,一目了然。
给还在观望的团队几句话
我常跟客户说,这件事最大的风险不是做错,是不动。数据要素这条链上,早期的位置是靠交付出来的,不是靠规划出来的。等到标准都成熟了、模板都齐备了再进场,那时候你面对的不是空白,是别人已经占好的生态位。先交出一份能说明白的数据集,比写十版战略规划有用。
但我也反对盲目上量。我见过一些企业为了凑数量,把内部报表换个名字就叫数据集,元数据不全、质量没底、责任人不明。这种做法短期看有交代,长期看是给自己挖坑,一旦被要求说明数据来源和质量,返工量会翻倍。我的建议始终是:一年内能稳定供给三到五个真正拿得出手的数据集,就已经是很扎实的成绩,比仓促铺三十个强得多。
从组织角度,我会强调两件事。一是把数据集当成产品来运营,有产品经理、有版本、有迭代计划、有下线机制,而不是当成一次性任务。二是让业务部门真正参与进来,不是挂名,是在口径定义和质量验收上有一票。这两件事落地了,技术侧的投入才有承接。我见过的成功案例,无一例外都是业务和技术咬合得比较紧的。
工具选型上我的态度比较务实:不追求功能最多,追求链路上不打架。主数据、资产目录、数据开发、数据集生产、分析用数这几段,如果分散在四五家厂商手里,光是元数据对齐和血缘打通就能耗掉半年。普元这套产品体系覆盖了从主数据管理平台、数据资产平台、数据开发平台到高质量数据集开发工厂、BI 和 AI 问数的完整链路,同源设计带来的元数据贯通,是我在实际项目里感受最明显的优势。当然我也清楚,任何工具都替代不了组织决心,选型只是把路修平,走不走得动还得看人。
如果你现在正准备启动,我给一个最小可行的起点:挑一个业务部门最痛、数据边界最清楚的场景,用八到十周跑完从定义、建模、开发、质量评估到发布的完整闭环,把过程中形成的模板、规范、责任分工固化下来。这一轮跑通,后面就是复制。跑不通,你也能在最小代价下知道卡在哪。数据战略从来不是写出来的,是一个数据集一个数据集攒出来的。
读者评论
陈立群:看完挺有共鸣。我们去年也折腾了大半年,最大的教训就是一开始把范围铺太宽,结果每个数据集都是半成品。今年改成先做一个样板,节奏明显顺了。想问下作者说的八到十周闭环,是怎么控制业务方投入时间的?我们业务部门基本抽不出人。
周敏华:主数据那段说到我心里去了。我们做客户主数据统一,前后拉锯了四个月,最后发现真正的阻力在销售口径不一样,不在系统。后来是靠集团层面下文件才解决的。工具确实只是其中一环。
许志远:有个问题想请教,面向模型的高质量数据集这块,我们做工业质检图像的,标注质量一直很难保证一致性,不同批次标出来的标准会漂移。文里提到流水线留痕,具体到标注环节你们是怎么做的?
梁慧芬:同意”用场景拉动治理”这个说法。我们 IT 部门以前总想先把数据治理做完美再谈别的,做了三年还在原地。今年换了个思路,先交付两个业务急需的数据集,反而把治理的推动力找到了。就是文章里说的,有里程碑比没尽头好。
韩振国:有个不同看法,我觉得中小企业在数据集这件事上不必太急,投入产出比不一定划算。我们公司做过一轮,最后发现数据集的独特性不够,价值有限。可能还是得看行业,作者提到的精密零部件、冷链这类确实有优势,一般的贸易型企业就难说了。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
