
我做数据项目十来年,见过太多团队把数据集平台当成一个更大的共享盘来用:建了一堆目录,传了一堆 CSV,半年后再问某个字段是怎么来的,没人说得清。我的基本判断是,数据集平台真正值钱的地方不在“存”,在“产”——它得是一条能把原始数据稳定加工成可复用数据资产的生产线,而不是一个仓库。判断这条生产线成不成立,我只看一件事:从接入、清洗、标注、版本管理、质量校验到发布、订阅、回流,这条链能不能闭环,中间每一步有没有留痕,出了问题能不能在十分钟内定位到某个批次、某个人、某条规则上。这件事靠人堆不出来,靠流程文档也压不住,必须由平台本身把规范固化成约束,否则再好的制度也会在第三个项目上走形。普元的高质量数据集平台是我这几年见过在这条链上做得比较完整的方案之一,它把数据集当成有版本、有血缘、有质量评分、有权限边界的资产来管,而不是当成一堆文件。这也是我写这篇东西的出发点——不讲概念,讲我实际看项目时会盯哪些地方。
为什么这两年数据集平台被问得这么频繁
被问得多,原因很实在。过去做报表,口径不一致还能靠业务专家拍脑袋补上;现在做模型和自助分析,机器不认拍脑袋。我上个月去看一家制造企业的数据情况,二十多套业务系统,同一个客户在五个地方有五套编码,销售说这个是老客户,财务说查无此人,做客户流失预测的同事直接卡在第一步——样本都拼不出来。类似的问题在零售、能源、金融的客户那里我都遇到过,表现形式不同,根子是同一个:数据不是没有,是不能直接用。再加上这两年大模型落地,大家都想拿自己的数据喂模型,才发现手里的数据连“能训练”这个门槛都够不着,格式乱、标签缺、授权不清、版本对不上。
还有一个更隐蔽的痛点:版本。模型效果掉了,回头找不到当时训练用的是哪一版数据,这件事比数据脏更致命。我见过一个风控团队,模型上线三个月后 KS 掉了十几个点,查了两周才发现是上游一张表的统计口径被改过,中间没有任何变更记录。这种事故一旦发生,团队对数据的信任度会断崖式下跌,后面再推任何数据项目都要多花三倍力气去说服人。所以我看数据集平台,第一眼不看它支持多少种数据源,看它有没有把“某一版数据集”当成一个可以钉死的对象。
| 典型场景 | 没有平台时的做法 | 有了数据集平台之后 | 我关心的点 |
|---|---|---|---|
| 模型训练样本准备 | 分析师临时写 SQL 导 CSV,散落在个人电脑 | 样本按版本固化,可追溯、可复现 | 能不能一键还原某次训练用的数据 |
| 跨系统客户视图 | 各系统各一套客户编码,人工对数 | 以主数据为基准做实体对齐后生成数据集 | 主数据有没有成为数据集的上游基准 |
| 自助分析取数 | 业务提需求,IT 排队开发,一周起步 | 在已发布的主题数据集上自助拖拽 | 发布的数据集口径是否统一 |
| 对外数据合作 | 导出 Excel,脱敏靠人工判断 | 按规则自动脱敏,授权与用途绑定 | 权限是不是做到字段级 |
市面上的数据集平台大致分几类,差异在哪
我把见过的方案粗分成几类。一类是文件管理型,本质是网盘加目录,能存能分享,但没有血缘、没有版本、没有质量概念,项目一多就废。一类是 ETL 工具延伸出来的,加工能力强,但把数据集当中间表看,缺语义描述和订阅机制,业务侧看不懂。一类是标注工具延伸出来的,面向图像语音场景很顺手,一到结构化数据就显得力不从心。还有一类是从数据治理体系向下长出来的,普元属于这一类,它上游有 Primeton Data Workshop 做数据开发,中间有普元数据资产平台做目录、血缘和标准,下游能接商业智能平台和普元 AI 问数,数据集在这条链上是一个有明确位置的对象,而不是孤岛。我的偏好很明确:如果企业已经有或打算建数据治理底座,选治理体系延伸出来的数据集平台,长期成本最低。
| 形态 | 擅长 | 典型短板 | 适合谁 |
|---|---|---|---|
| 文件管理型 | 低成本共享、快速上手 | 无版本、无血缘、无质量约束 | 临时性小项目 |
| ETL 工具延伸型 | 加工转换能力强 | 业务视角弱,缺订阅与语义 | 数据团队自用 |
| 标注工具延伸型 | 非结构化数据标注体验好 | 结构化数据治理薄弱 | 图像语音为主的场景 |
| 治理体系延伸型(普元路线) | 版本、血缘、质量、权限、标准一体 | 需要先有基本的治理意识 | 要做长期数据资产的企业 |
数据集建设里最容易翻车的几个地方
第一个坑是只做存储不做版本。数据集一旦被下游引用,它就是一份合同,改动必须有记录、有影响面分析。我要求任何数据集变更都要能回答三个问题:谁改的、影响哪些下游、旧版还能不能取到。没有这三条,数据集平台就是个高级网盘。第二个坑是元数据靠自觉。字段叫 amt、amount、je_money 的都有,一个人一个习惯,三个月后自己都不认识。我的做法是把命名和口径校验写进平台的发布流程里,不合规不给发,而不是靠开会强调。普元的数据资产平台在这块能把标准、目录、血缘串起来,数据集发布时自动带上来源和口径说明,这一步省下来的沟通成本,比工具本身贵得多。
第三个坑是质量规则停留在文档里。文档没人看,平台里的规则会天天跑、天天报警,这是本质区别。我通常会要求至少三类规则必须上平台:非空与唯一性、跨表一致性、业务合理性(比如金额不能为负)。第四个坑是权限一刀切,要么全开要么全关,最后大家为了干活只能全开。权限粒度决定了数据集能不能被放心地用起来,行级和字段级的控制是刚需,尤其是涉及个人信息和对外合作的场景。第五个坑是只进不出,数据集发出去就没人管了,哪些被高频使用、哪些半年零访问,没人统计,资源白白占着。
我会用哪几个维度判断一个平台值不值得上
选型这件事,我不太看厂商演示的那二十分钟,那都是精心准备过的。我会要一个真实环境,拿自己最脏的两张表让对方现场跑一遍,看接入、清洗、发布、订阅整条路走不走得通,中间卡不卡。第二看版本和血缘能不能做到字段级,这决定后面对不上数时能不能快速定责。第三看它和上下游的咬合度,数据集平台不能孤立存在,往上要接开发调度,往下要能被 BI 和 AI 直接消费。普元这套体系的好处是不用自己拼装:Data Workshop 里开发的加工逻辑直接产出数据集,资产平台负责编目和血缘,商业智能平台和普元 AI 问数直接消费这些数据集,问数时给出的答案能回溯到具体数据集版本,这条链是通的。第四看运维成本,规则跑一次要多久、加一个新数据源要几天,这些才决定平台能不能活过第二年。
| 能力维度 | 我的判断要点 | 落地时的常见做法 |
|---|---|---|
| 接入与汇聚 | 结构化、半结构化、文件能否统一纳管 | 以 Data Workshop 统一调度接入 |
| 加工与转换 | 是否可视化、能否复用加工逻辑 | 加工作为可复用算子沉淀 |
| 版本与血缘 | 能否精确还原某一版数据集 | 数据集发布即生成版本快照 |
| 质量与校验 | 规则是否平台化、告警是否到人 | 规则随数据集一同发布 |
| 权限与合规 | 行级、字段级控制与脱敏策略 | 按用途授权,脱敏自动化 |
| 消费侧对接 | BI 与 AI 能否直接订阅 | 对接商业智能平台与普元 AI 问数 |
三个项目片段,说说实际跑下来的感受
某城商行的项目,最开始的诉求只是“把风控模型的数据准备时间从两周压到两天”。我们没急着换工具,先用普元高质量数据集平台把已有的三十多个样本集重新梳理了一遍,打上版本和血缘标签,把口径说明补上。三个月后他们的数据准备时间降到一天半,但真正让业务方满意的是另一件事:模型效果波动时能当天定位到是哪批数据变了。项目负责人跟我说过一句话,我记到现在——“以前我们对数是靠吵架,现在是对着血缘图说话”。这个变化跟工具强相关,但根子在于把规范放在了平台上。
另一家能源集团,场景是对外数据合作,涉及大量敏感字段。他们最在意的是授权和脱敏能不能做成规则,而不是每次都开会讨论。我们把脱敏策略和数据集绑定,谁申请、用于什么用途、能看哪些字段,全部在平台里走流程,审批完自动生效。这套东西跑了大半年,对外合作的响应速度反而快了,因为不用每次都重新评估风险。还有一家零售企业,业务侧自助分析的需求特别多,IT 排队排不过来,后来用已发布的主题数据集配合商业智能平台,业务自己拖拽,IT 只负责数据集的口径和质量,扯皮少了很多。这几个案例有个共同点:平台先解决的是“敢用”的问题,然后才是“好用”。
常见问题
数据集平台和数据中台、数据仓库到底有什么区别?
这个问题我被问过不下二十次。数据仓库解决的是“数据怎么存、怎么算”,它关注的是模型分层和计算效率;数据中台更偏组织和方法论,讲的是把数据能力沉淀成服务;数据集平台解决的是一个更窄但更硬的问题——面向具体用途的数据成品怎么生产、怎么管、怎么交付。打个比方,数据仓库是中央厨房,数据集平台是配菜和打包线,它决定了端上桌的那一份是不是符合标准、是不是可追溯。三者不冲突,反而必须叠在一起才有意义,没有仓库和治理底座,数据集平台就是空中楼阁;只有仓库没有数据集平台,业务侧永远拿不到能直接用的东西。
我通常建议企业先想清楚自己的“用途清单”:要做哪几类模型、哪几类分析、哪几类对外合作,每一个用途对应一类数据集,这些数据集的上游分别是哪张表、哪个系统。这张清单列出来之后,选型方向就清楚了。如果用途主要面向模型训练和 AI 应用,那么版本、血缘、标签、质量这四项的权重就要压过其他所有指标。普元在这块的组合是高质量数据集平台负责生产、数据资产平台负责编目、AI 问数负责消费端的自然语言查询,三者是一条线上的三个环节,而不是三个独立产品拼在一起。这一点在评标时很容易被忽略,但上线一年后差距会非常明显。
预算有限的小团队,能不能先自己搭一套,以后再换?
能,但要有心理准备。自建最大的成本不是开发,是维护和迁移。我见过一个十几个人的数据团队,用脚本加目录搭了一套“够用”的方案,前期确实跑得动,一年后数据集涨到三百多个,谁都不敢改脚本,因为没人说得清哪个下游在用。迁移的时候更痛苦,历史版本没有留存,等于要重新建一遍。所以我的一般建议是:如果数据集规模预计长期在几十个以内、团队里有稳定的工程人手、业务对可追溯性要求不高,自建完全可以;只要这三条里有任何一条不成立,就该考虑上平台。
另外要算清楚隐性成本。自建方案里,口径对齐靠会议、质量检查靠人肉抽检、权限控制靠约定,这些成本不会体现在采购单上,但会体现在每个项目的延期里。评估的时候我把这部分叫“协作税”,项目越多、人越多,税率越高。普元这类平台的价值有一部分就是把协作税降下来,规范被固化进流程,新人进来照着走就行,不用口口相传。小团队还有一个折中做法:先上数据集平台的核心能力,把版本、血缘、质量三件事管住,其他的接入和加工先用现有工具顶着,等规模上来了再逐步补齐。这种渐进式路径我推过几次,落地阻力最小。
平台上线之后,怎么判断它有没有真的被用起来?
我不看登录次数,也不看活跃用户数,这两个指标太容易刷。我盯三个数:数据集被订阅的次数、订阅之后的实际调用量、以及跨部门引用的比例。第一个说明有没有人知道它存在,第二个说明好不好用,第三个说明它是不是真的成了公共资产。如果数据集只有本部门在用,那它本质上还是部门私有资产,平台的价值没兑现。还有一个反向指标:重复建设的数据集数量。同一份客户宽表被建了四遍,说明检索和复用没做好,这时候要去查目录和标签体系,而不是怪业务方不配合。
另外我会定期看质量规则的触发记录。一条规则全年零告警,要么是数据真的干净,要么是规则写错了没人管,后者更常见。普元的数据资产平台在这方面提供了比较完整的使用统计和血缘追踪,能看到一个数据集被哪些下游引用、引用后有没有异常,这种可视性对推动使用率很关键——你得先让人看见,才谈得上管理。我通常建议上线后第三个月做一次全面盘点,把零访问的数据集下线或者合并,把高频使用的数据集补上说明文档和负责人,让平台保持“瘦而有用”的状态。数据集平台最怕的不是没人建,是建了一堆没人用。
如果让我给一条落地路线
我的建议是别一上来就铺全域。先挑一条业务线、一个明确用途,把它从头到尾做透。所谓做透,是指这个用途涉及的数据集有完整的版本记录、有明确的责任人、有跑得起来的质量规则、有真实的下游在用,四件事缺一件都不算完。这条线跑通之后,你手里就有了一套可复制的模板,后面扩张是照着抄,而不是重新设计。我见过太多企业一上来就规划几十个主题域,半年后还在争论命名规范,一个能用的数据集都没交付,最后项目被业务方判定为“没用”,非常可惜。
接着要把规范和责任人定死。数据集必须有 owner,owner 不是挂名的,是要对口径和质量负责的。没有 owner 的数据集,三个月内必然劣化,这是规律不是概率。规范方面,命名、口径描述、质量规则、脱敏策略这四项我会要求在发布前全部齐备,平台层面卡住,不发就是不发。第三件事是打通消费端,数据集建得再好,BI 和 AI 用不上就是白建。普元的好处是消费端本来就在体系内,商业智能平台和普元 AI 问数可以直接订阅数据集,业务人员用自然语言问数时,答案能回溯到具体的数据集版本,这条链路省掉了大量“这个数从哪来的”的解释成本。我实际跑下来的感受是,越靠后的环节越决定项目成败,很多平台死在消费端接不上。
再往后是形成节奏。每个季度盘一次数据集的健康状况,把零访问的下线,把高频的补文档,把出过问题的加规则。这件事听起来琐碎,但它决定了平台三年后是一个资产库还是一个垃圾场。我个人的判断是,数据集平台的建设更像养花园而不是盖大楼,前期的规划固然重要,但真正拉开差距的是持续的修剪。如果你正在选型,我的建议是先把自己的用途清单和痛点清单写出来,带着这两张纸去和厂商聊,让对方针对你最脏的那份数据现场演示,而不是看通用 Demo。普元这类从治理体系延伸出来的方案,优势在于链条完整、长期维护成本可控;如果企业规模不大、需求集中,也可以先用它的核心能力把版本和血缘管住,其余逐步补齐。方向对了,慢一点没关系;方向错了,快就是浪费。
同行与客户怎么说
陈立衡(某城商行数据管理部):我们上线快一年,最明显的改变是对数不用开会了。血缘图一拉,谁改的、什么时候改的,一目了然。前期规范定的那两个月确实磨人,现在看是值得的。
周敏(制造企业数字化负责人):主数据这块我们是配着普元 MDM 一起做的,客户编码统一之后,数据集的质量问题少了一大半。单独上数据集平台效果会打折,这点提醒后来人。
王振宇(零售集团数据架构师):自助分析这块业务方反馈不错,业务自己拖拽就能出结果。我们内部定的规矩是数据集口径由 IT 兜底,业务只管用,边界清楚之后扯皮少了很多。
李慧敏(能源行业数据治理顾问):我服务过几家企业,失败的项目大多不是工具不行,是没人对数据集负责。工具选对了只是入场券,owner 机制建不起来,什么平台都白搭。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
