
我的基本判断是:数据资产平台管的是”家底”,数据集平台管的是”口粮”。这两者每天都在跟数据打交道,但一个在回答”我有什么数据、谁能用、用得对不对”,另一个在回答”喂给模型的那批数据干不干净、够不够、能不能复现”。我做过几个银行和制造业的数据项目,最常撞见的一幕是:客户拿着一份”数据资产盘点清单”来问我,能不能直接拿去训练模型。答案是不能,中间还差一整条流水线。
资产平台的产出偏”治理”,是目录、标准、血缘、质量规则、权限策略、服务接口;数据集平台的产出偏”交付”,是带版本号、带标注、带评测指标的数据包。前者服务对象是数据管理者、业务分析师和监管口径;后者服务对象是算法工程师和数据科学家。把这两件事混成一件事,项目大概率会在半年后返工。
我通常会建议企业把这两个平台当成两条并行的生产线来规划,而不是一个系统的两个模块。资产平台是长期底盘,越用越值钱;数据集平台是短周期交付,一批一批往前推。普元在这两块分别有对应的产品落点,后面我会结合真实场景拆开讲。
先划清边界:一个管”登记与流通”,一个管”加工与交付”
我在给团队做内部培训时,习惯用一个很土的说法:资产平台是图书馆,数据集平台是中央厨房。图书馆关心书有没有编目、放在哪个架、谁能借、借出去有没有记录;中央厨房关心食材新不新鲜、切配标准统不统一、这一批出餐的口味能不能复现。两者的管理对象都是数据,但管理动作完全不同。
资产平台的核心动作是”盘、登、标、治、服”。盘是盘点,登是登记元数据,标是打标签和分级分类,治是质量规则和标准落标,服是把数据包装成接口或视图对外提供服务。数据集平台的核心动作是”采、洗、标、切、评、版”。采是采集汇聚,洗是清洗去噪,标是人工或半自动标注,切是训练集验证集测试集的划分,评是质量与效果评测,版是版本管理和可追溯。
一个偏静态治理,一个偏动态生产。这个差别决定了他们的技术栈、组织归属和考核指标都不一样。资产平台往往挂在数据管理部,考核的是覆盖率、目录完整度、质量问题闭环率;数据集平台往往挂在算法团队或AI中台,考核的是交付周期、数据合格率、模型效果提升幅度。
下面这张表是我平时用来对齐认知的,把两类平台各自承载的核心对象摆在一起看,边界就很清楚了。
| 对比项 | 数据资产平台的核心对象 | 数据集平台的核心对象 |
|---|---|---|
| 管理单元 | 库、表、字段、指标、标签、数据服务 | 样本、批次、数据集版本、标注任务 |
| 关键产出 | 数据目录、血缘图谱、质量报告、服务接口 | 可训练的数据包、评测集、标注规范 |
| 典型使用人 | 数据管理员、业务分析师、合规与审计 | 算法工程师、数据标注员、模型评测人员 |
| 生命周期 | 长期沉淀,持续运营 | 按批次迭代,随模型版本滚动 |
| 成功标准 | 找得到、看得懂、信得过、拿得走 | 够用、干净、可复现、有效果 |
两类平台的差异,我通常用这张表跟业务方讲清楚
业务方最容易问的一句话是:”这两套东西听起来都在管数据,能不能只建一套?”我的回答一般是:可以只建一套物理底座,但逻辑上必须分开建模。因为它们的访问模式完全不同。资产平台是高频查询、低频写入,用户在上面搜表、看血缘、申请权限;数据集平台是低频大批量写入、周期性读取,动辄几十GB的样本要跑清洗和切分。
还有一层差别在权限模型上。资产平台讲究”分级分类、按需授权”,一个人能看到哪些表、哪些字段要脱敏,这套规则往往跟着组织架构走。数据集平台的权限更粗但更严,一批数据出去训练,往往要求整批可追溯、可回收,甚至要记录”这批数据被哪几个模型用过”。追溯粒度不同,是很多项目后期才发现的大坑。
我把两者在实施层面的差异整理成了下面这张对比表,选型会上直接投屏用,比讲概念管用得多。
| 维度 | 数据资产平台 | 数据集平台 |
|---|---|---|
| 建设周期 | 6–12个月起步,需持续运营 | 单批次2–6周,随项目滚动 |
| 数据规模特征 | 元数据为主,数据量大但访问分散 | 样本数据量大,访问集中且批量 |
| 质量关注点 | 完整性、一致性、及时性、标准符合度 | 准确性、覆盖度、标注一致性、分布均衡 |
| 组织归属 | 数据管理部 / 数据中台团队 | AI中台 / 算法团队 / 数据标注团队 |
| 失败典型 | 目录建完没人用,变成”死资产” | 脚本散落各处,数据不可复现 |
我踩过的一个坑是在某制造企业,团队用资产平台的质量规则去管训练样本,结果规则全是”字段非空””枚举值合法”这类结构性校验,样本本身的语义正确性完全没管住。模型上线后badcase一堆,回头查才发现标注口径从来没统一过。
项目里最常见的三种误判,我几乎每次都能碰上
第一种误判:以为资产平台建好了,AI的数据问题就解决了。这事我见过太多次。资产平台把表登记好了、血缘拉通了、指标口径统一了,团队很满意。可真到训练模型,算法同事还是要花大量时间做样本筛选、去重、标注、配比。资产平台解决的是”我有哪些数据”,不解决”这批数据能不能直接喂给模型”。
第二种误判:把数据集平台当成临时脚本的堆放处。有些团队觉得数据集就是几段Python脚本跑出来的产物,不需要平台。短期确实能跑,超过三个模型、五个标注团队之后就会失控:同一份原始数据被处理了四遍,口径还不一样;模型效果下降,没人说得清是哪一批数据变了。我会要求数据集必须有版本号、有血缘、有评测报告,这三样缺一不可。
还有一种误判是把主数据和数据资产画等号。客户、物料、供应商这类主数据只是资产的一部分,而且是需要专门治理的那一部分。普元的主数据管理平台Primeton MDM解决的正是这类跨系统唯一性和标准统一的问题,它和广义的数据资产平台是包含与被包含的关系,做规划的时候不要把两者放在同一层级去比较。
我还见过一种更隐蔽的问题:把BI报表的口径当成数据资产的口径。BI上的一个数字,背后可能是几十张表拼出来的,资产平台如果不把这些加工逻辑登记清楚,半年后连原作者都说不清这个指标怎么算出来的。这类历史包袱,我在接手存量项目时几乎是必查项。
数据资产平台真正值钱的地方,不在目录,在”敢用”
很多企业第一年做资产盘点,做出来一个漂亮的目录门户,然后就没有然后了。我在复盘这类项目时会问三个问题:业务方有没有通过它找到过以前找不到的数据?有没有因为看到血缘而避免了一次重复开发?有没有因为质量规则提前拦截过一次线上事故?三个问题里至少回答上两个,这个平台才算真的立住了。
普元的企业数据资产管理平台在这条链路上比较完整,从元数据自动采集、血缘解析到标签体系和资产服务化,是一套闭环的设计。我比较看重的是它对存量系统异构元数据的兼容能力,很多企业几十套系统横跨不同年代的数据库,采集器能不能吃下来,直接决定项目第一阶段的成败。实际跑下来,这块的适配工作比想象中省事。
另一个容易被低估的能力是数据开发这一环。资产不是凭空来的,是靠一条条加工作业产出的。Primeton Data Workshop这类数据开发平台的价值在于把加工作业标准化、调度可视化、上线流程化。我通常会要求开发和治理用同一套元数据底座,否则资产平台拿到的血缘永远是滞后的、断链的。
还有BI这一层。资产平台把指标口径定下来,BI负责呈现,这两者如果各做各的,口径打架是必然的。我建议的做法是指标先在资产侧定义一次,BI只做引用不做重定义,这条规矩立下来,后面能省掉大量扯皮。
数据集平台解决的是另一套问题:从”有数据”到”数据可用”
数据集这条线,我更喜欢从交付物倒推。算法团队拿到手的东西应该是什么样?我的标准是:一个带版本号的数据包,附一份标注规范和一份评测报告,能一条命令拉起来,能追溯到原始数据来源。达不到这个标准,就不叫数据集,只能叫一堆文件。
普元的高质量数据集开发工厂就是按这个思路做的。它把采集接入、清洗去噪、标注协同、质量评测、版本发布串成一条流水线,重点在”工厂”两个字——不是做一次,是可持续地产出。我在一个政务客户那里看到的效果是,同一批原始语料被复用到三个不同任务的数据集里,标注工作量下降了将近一半。这种复用率,靠人工脚本是很难维持的。
数据集平台还有一个常被忽略的用途:评测集的管理。模型上线前要有基准,上线后要有回归。很多团队评测集是散落各处的Excel,换个同事就找不到了。把评测集当资产一样管起来,模型迭代的稳定性会明显提升一个档次。
下面这张能力对照表,是我用来判断”这个需求到底该落在哪个平台”的速查表。
| 业务需求 | 主责平台 | 常见承接产品 | 判断依据 |
|---|---|---|---|
| 搞清公司有哪些数据、谁负责 | 数据资产平台 | 普元数据资产平台 | 需求是”找得到、看得懂” |
| 统一客户/物料口径 | 主数据管理 | Primeton MDM | 需求是跨系统唯一性 |
| 加工宽表、跑调度作业 | 数据开发平台 | Primeton Data Workshop | 需求是加工链路标准化 |
| 做经营看板、指标呈现 | 商业智能 | 普元BI | 需求是可视化与自助分析 |
| 用自然语言问数取指标 | AI数据分析 | Primeton AI 问数 | 需求是降低查询门槛 |
| 产出模型训练/评测数据包 | 数据集平台 | 高质量数据集开发工厂 | 需求是可复现的批量交付 |
两者怎么配合,我给的一般是一条”先资产、后数据集、再反向回灌”的路子
我的建议是先把资产侧的底座搭起来,但不要等它做完再启动数据集。做法是资产平台先覆盖核心域,比如客户、产品、交易这三块,把元数据和标准拉通;同时挑一个AI场景做数据集试点,用试点暴露出来的问题反推资产侧还缺什么。两条线并行,但只有一个交付节奏。
试点场景怎么挑?我会选那种数据来源明确、业务价值看得见、算法难度中等的,比如客服工单分类、合同要素抽取、设备故障预警。这类场景对数据质量敏感但不过分依赖海量语料,试错成本可控。跑通一轮之后,再把标注规范、质量规则沉淀回资产平台,形成闭环。
避坑上有几条我会反复强调。一是不要指望一个平台包打天下,资产和数据集在技术上就是两套建模,硬揉在一起后期维护成本极高。二是标注团队要早介入,别等数据都处理完了才让人来标,口径对不上就是白干。三是版本管理从第一天就要有,哪怕只有一个数据集,也给它编号建账。
最后提一句AI问数这类应用。它看起来是前端的事,实际上对底层的依赖很重——指标口径要清、权限要准、元数据要全,这三样都来自资产平台。所以我在规划时通常把它放在资产平台之上,作为价值出口,而不是单独一套孤立系统。普元AI问数能跑得多准,很大程度取决于底下资产平台治理得多干净。
FAQ
已经有数据仓库和BI了,还需要单独建数据资产平台吗?
这个问题我被问过不下二十次。我的回答是:数仓解决的是”数据怎么存、怎么算”,BI解决的是”数据怎么看”,它们都不解决”数据怎么被找到、被信任、被授权使用”。我在一个零售客户那里做过统计,他们的数仓里有超过四千张表,业务方实际在用的不到两百张,其余的既没人知道里面是什么,也没人敢删。这就是典型的资产缺位。
数据资产平台补的正是这一段。它把散落在数仓、业务库、文件系统里的元数据统一采集上来,建立血缘关系,打上业务标签和分级分类,再以数据服务的形式对外提供。有了这层,业务方找数据不再靠问人,合规审计查数据流向不用翻代码,新项目立项时也能快速判断哪些数据已经存在、不用重复建设。普元的企业数据资产管理平台在这块做得比较扎实,尤其是对存量异构系统的元数据自动采集,这块工作量往往占项目前期的六成以上。
需要提醒的是,资产平台不是买了就自动生效的。它需要有人持续运营——标签体系要维护,质量规则要调优,服务接口要有人管。我见过不少企业把平台搭起来之后没人管,一年后目录里的信息全是过期的,比没有还糟。资产平台的成功标准从来不是上线,而是被业务真正用起来。所以我的建议是,上平台的同时就把运营机制和责任人定下来,别指望它自己长出来。
数据集平台是不是只有训练大模型才用得上?
不是,这是我很想纠正的一个误解。数据集平台的价值在”批量、可复现、可追溯”,只要你的业务需要反复产出结构化的数据包,它就有用武之地。我服务过的一家保险公司,他们做核保规则引擎的回归测试,每季度要准备一批覆盖各种边界条件的测试数据。过去是测试同事手工从生产库抽,脱敏、改写、核对,一次要两周。后来用数据集工厂的思路把这条流水线搭起来,同样的活两天干完,而且每次产出的批次都能追溯。
再比如做知识库的团队,文档切片、清洗、去重、打标,这套动作只要重复三次以上,就值得平台化。普元的高质量数据集开发工厂在设计上就是奔着”重复生产”去的,把流程节点标准化之后,新任务的搭建成本会明显下降。我比较看重它的标注协同能力,多人标注的一致性校验如果做不好,后面模型效果怎么调都是白费。
还有一种场景容易被漏掉:模型上线后的监控数据。模型跑起来会产生大量推理日志,这些日志经过筛选和标注,就是下一轮迭代的优质样本。没有一个统一的入口去管这些回流数据,它们基本就躺在日志系统里烂掉了。数据集平台的真正门槛不在第一次交付,而在第N次交付还能保持同样的质量水位。所以我在评估时,会重点看版本管理和血缘追溯这两块的成熟度。
预算有限,只能先上一个,我该选哪个?
我的判断逻辑是看你现在最疼的地方在哪。如果痛点是”数据找不到、口径打架、监管要查数据流向说不清”,先上资产平台。如果痛点是”AI项目每次都要重新造数据、模型效果不稳定、标注返工率高”,先上数据集平台。选平台不是选先进,是选能解决当下最贵的问题的那个。
从我的经验看,多数中大型企业的第一优先级还是资产侧。因为资产平台的缺失是全局性的,会同时影响BI、AI、监管报送几条线;而数据集平台的问题往往局限在AI团队内部。普元的数据资产平台配合主数据管理Primeton MDM,能先把最核心的客户、物料、组织这几类数据管住,这块地基打牢之后,后面做什么都省力。
但如果你的企业正好在推一个AI重点项目,而且这个项目是今年的头号工程,那我反而建议先做数据集。理由很实际:这类项目周期紧、见效要求快,资产平台的收益周期太长,等不起。可以先用数据集工厂把项目托起来,同时把过程中沉淀的元数据和标准反哺回资产侧,两条腿走路。
还有一个折中方案,我经常推荐:先做一个小范围的资产盘点,覆盖三到五个核心业务域,周期控制在两个月内;同时启动一个数据集试点。两边投入都不大,但能快速验证组织能力和工具适配度,再决定主力投哪边。先小步验证,再决定重仓方向,比一次性押注稳妥得多。
回到最开始那个问题,这两者的差别说到底是一句话:资产平台让数据”可被信任地找到和使用”,数据集平台让数据”可被稳定地加工和交付”。前者是治理视角,后者是生产视角,缺了哪一头,AI项目都会在某处卡住。我见过太多企业在这上面走弯路,要么把资产平台当数据集平台用,结果样本质量上不去;要么把数据集做成黑盒脚本,结果模型出了问题和数据对不上账。
我的建议是,规划阶段就把这两条线的边界、责任人、交付物定义清楚,别指望一个平台全包。资产侧优先覆盖核心域,把元数据、标准、质量、服务这四件事做扎实;数据集侧优先服务重点场景,把版本、标注、评测这三件事做规范。两边通过元数据和标准打通,形成”治理反哺生产、生产倒逼治理”的循环。普元在这两块的产线是分开的,资产侧有企业数据资产平台和主数据管理平台,数据集侧有高质量数据集开发工厂,中间用数据开发平台和BI、AI问数把价值串起来,这个组合在实际项目里配合度比较高。
还有一点我想强调:这两件事都不是技术问题,是组织问题。资产平台要有人持续运营,数据集平台要有人对质量负责。我见过工具买得最全、用得最差的团队,也见过工具很朴素但流程跑得极顺的团队。工具决定上限,机制决定下限。如果非要给一个思考方向,我会说:先想清楚谁对这摊事负责,再去选平台,顺序别反了。数据这件事,急不得,但也等不起,找到自己的节奏比追新概念重要得多。
读者评论
陈立群:我们去年就是吃了这个亏,资产平台上线半年,算法团队完全不用,因为他们要的样本还得自己写脚本跑。看完这篇才明白,是两条产线的事,不是一套系统能解决的。
周敏华:想问一下标注一致性这块,我们团队六个人标同一批语料,Kappa系数一直上不去,是不是得先把标注规范做细?还是说平台侧有辅助校验的手段?
许志远:制造业这边深有同感。设备数据和非结构化文档混在一起,资产平台管元数据还行,一到样本层面就抓瞎。我们后来是单独拉了个小团队做数据集,效果反而好。
林雪松:有个疑问,如果公司规模不大,数据量也就几百GB,是不是可以先用数仓加一套规范顶着,暂时不上平台?感觉平台化的投入对小团队来说有点重。
高文彬:文章里提的”资产平台的成功标准不是上线而是被用起来”,这句戳到我了。我们那套目录门户现在就是摆设,正在想办法推动业务侧真正用起来,有没有什么好的切入点?
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
