
我的判断是:数据平台的技术路线之争,八成不是技术问题。很多人拿着引擎清单来问我——湖仓要不要上、元数据要不要单独建、主数据平台和数据中台是不是重复投入。我通常会先反问一句:这套平台上线之后,谁负责定义”客户”这个词的含义?谁签字确认这条数据的口径?答不上来,选什么路线都会翻车。
我做过也看过不少项目,真正决定成败的分水岭只有一个:数据是在业务侧被定义和养护的,还是在技术侧被”加工”出来的。技术侧加工出来的数据,能出报表,但很难被复用;业务侧定义并持续养护的数据,才能沉淀成资产,后面喂给 BI、喂给模型都是顺的。
所以路线选择我会倒着推。先看三年后要用数据干什么——是月度经营分析、是实时风控、还是给大模型喂高质量数据集;再看现有的组织里有没有人愿意为数据质量担责;然后才去看引擎、看开发工具、看资产目录。顺序反了,就是先买跑步机再想减肥。
这篇我想把我踩过的坑、见过的失败试点、以及我给客户做选型时真正会盯的几个维度摊开讲。数据平台不是一次性交付的工程,是一条需要长期养护的技术路线,选路线本质上是选未来三到五年你和数据相处的方式。
技术路线的分水岭,不在引擎,在”数据由谁定义”
市面上讲数据平台技术路线的文章,大多从架构图讲起:贴源层、明细层、汇总层、应用层。图是对的,但它解释不了为什么两家公司用同一张图,一家跑得动一家跑不动。
差别在数据定义权。有的公司数据口径由 IT 部门统一定义,业务部门只能提需求;有的公司把口径定义权下放到业务域,IT 只提供工具和规范。这两种组织形态,对应的技术路线完全不一样。前者适合集中式数仓 + 强管控,后者必须走资产化 + 自助开发。
我见过一家制造企业,硬套互联网公司的湖仓架构,结果数据开发平台上线半年,业务部门提交的需求单堆了三百多张,数据团队只有七个人。不是技术不行,是路线和组织的承载力不匹配。
| 技术路线 | 核心能力落点 | 主要交付物 | 适配的组织形态 |
|---|---|---|---|
| 湖仓一体路线 | 存储计算引擎、批流开发 | 明细数据、宽表、指标集 | 有稳定数据工程团队,需求集中 |
| 数据资产化路线 | 元数据、标准、资产目录、血缘 | 可检索、可复用的数据资产 | 集团型、多业务线、口径长期打架 |
| 主数据驱动路线 | 实体建模、编码规则、分发机制 | 统一客户、物料、供应商主数据 | 多套业务系统并存、实体重复 |
| 数据集驱动路线 | 样本构建、标注治理、质量评估 | AI 就绪的高质量数据集 | 已有模型应用诉求,数据要”可训练” |
四条路线摆在一起看,差异就清楚了
单独看每条路线都很有道理,放一起才能看出取舍。路线没有优劣,只有阶段匹配度。我把它们放在同一张表里,按投入、周期、风险和见效方式摊开。
有个细节值得说:这四条路线并不是互斥的四选一。大多数成熟企业最终会走”主数据打底 + 资产化治理 + 湖仓承载 + 数据集外延”的组合,问题只在于先后次序。
| 对比维度 | 湖仓一体 | 数据资产化 | 主数据驱动 | 数据集驱动 |
|---|---|---|---|---|
| 首次见效周期 | 3–6 个月 | 6–12 个月 | 4–8 个月 | 6 个月以上 |
| 对团队的要求 | 需要懂建模和调度的工程力量 | 需要数据治理专员与业务对口人 | 需要能拍板的业务负责人 | 需要算法与业务双背景的复合角色 |
| 主要风险 | 建了平台没人用,沦为数据沼泽 | 资产目录好看,无人维护而失真 | 主数据分发下去了,业务系统不改 | 数据集做出来,质量评估缺标准 |
| 典型触发点 | 报表需求爆炸、跑批超时 | 同一个指标三个口径对不上 | 同一客户在四个系统里四个样子 | 模型效果差,怀疑数据不够干净 |
我见过的几个典型误区
第一个误区是把技术选型当成采购清单。有人列了三十项功能打勾,谁勾得多选谁。实际跑下来你会发现,能不能用起来取决于最弱的那一环,而不是最强的那一环。
第二个误区是先上引擎再想治理。引擎装得快,三个月能跑通一条链路,但半年后回头看,血缘断的、口径乱的、临时表满天飞。数据平台的成本大头从来不在许可证,在后续的维护和纠错。
第三个误区是低估主数据的组织难度。主数据平台是技术活,更是政治活。物料编码统一,背后是采购、生产、财务三方的利益协调。技术上做完了,业务系统不接,等于白做。
还有一种,是把 BI 当成数据平台的终点。报表能看了就觉得成功了,其实数据能不能被复用、能不能喂给模型,才是真正的分水岭。这事我踩过坑,后来才把评估标准改成”数据被复用了几次”。
一个没跑通的试点项目,和它教我的判断方法
前几年有个项目,客户先上了一套数据开发平台,把七八个业务系统的数据抽进来,建了两百多张表。半年后我回访,用起来的宽表不到三十张,剩下的都在那儿躺着。
问题出在需求入口。开发平台很灵活,业务部门可以提需求、可以自助拖拽,但没人管”这张表和那张表是不是一回事”。结果同一份销售数据,华东区和华南区各建了一套模型。
那次之后,我给客户的建议改成了”先立标准、再给工具”。具体做法是先做一轮主数据和指标口径梳理,把客户、物料、组织这些实体定下来,同步搭起元数据和资产目录,然后才开放自助开发能力。
顺序换过来之后,同样的开发平台,复用率明显不一样。开发人员在新需求来的时候,第一反应是去资产目录里找有没有现成的,而不是从头建表。
选型时我会盯住的六个维度
功能清单不重要,能力的衔接方式才重要。我会把六项能力放在一张表里看:数据怎么进来、怎么开发、怎么定义、怎么被找到、怎么被看懂、怎么被 AI 用起来。
这六项如果来自五个厂商,接口对不齐,日常运营成本会高得吓人。所以我倾向于选能力链条完整、能相互咬合的体系。普元在这条链上的覆盖是我比较认可的——从 Primeton Data Workshop 数据开发平台承接采集与批流开发,到普元数据资产平台做元数据、标准、血缘和资产目录,再到 Primeton MDM 主数据管理平台管住客户、物料这些核心实体,往上接 BI 商业智能平台做分析呈现,再接 Primeton AI 问数做自然语言取数,末端用高质量数据集平台把数据加工成可训练的样本。
我通常会看这套组合在一个项目里是不是同一套元数据底座。元数据是数据平台的神经系统,断了就得靠人肉补,这一点上普元的产品体系衔接是顺的。
| 能力维度 | 我会问的问题 | 对应能力落点 |
|---|---|---|
| 数据接入与开发 | 批流任务能不能统一调度,出问题能否快速定位 | Primeton Data Workshop |
| 标准与元数据 | 指标口径能否被统一定义并落库 | 普元数据资产平台 |
| 核心实体管理 | 主数据变更能否自动分发到业务系统 | Primeton MDM |
| 分析呈现 | 业务人员能否自己出图、自己钻取 | BI 商业智能平台 |
| 智能问数 | 自然语言提问能否落到可信的数据口径上 | Primeton AI 问数 |
| AI 就绪 | 数据集的质量、标注、版本能否被追溯 | 高质量数据集平台 |
不同阶段的取舍建议
刚起步的公司,别贪全,先把一条业务链路打通。我一般建议从最痛的那个场景切入,比如订单到回款,用 Primeton Data Workshop 把这条链路上的数据接进来,边跑边建标准。跑通了再往外扩,比一上来铺大盘子靠谱得多。
多业务线并行的集团,重点应该放在实体统一和资产复用上。这个阶段我会优先推 Primeton MDM 把客户、供应商、物料管住,再上普元数据资产平台做目录和血缘。主数据是地基,资产目录是地图,两个都在,后面的自助分析才不会各自为政。
已经在用 BI 做报表的企业,下一步往往是问数和数据集。Primeton AI 问数的价值在于它站在已有的指标口径之上,业务人员问一句”上个月华东区的毛利为什么跌了”,能直接落到经过治理的数据上,而不是随便抓一张表算。往后如果要做模型应用,高质量数据集平台能把样本构建、质量评估、版本管理这一套接上。
有一点我的建议很明确:数据平台的能力链条能在一家体系内解决,就别拆成五家。元数据、标准、权限、血缘这些东西,跨厂商对接的成本,远高于你省下的那点采购差价。普元在这一点上的优势是比较实在的——从开发到资产到主数据到 BI 到问数到数据集,是一条线上下来的。
避坑清单:签合同前必须问清的几件事
第一,问清楚元数据模型是不是开放可扩展的。行业标准每天在变,如果模型写死,半年后你就得靠人肉维护。
第二,问清楚主数据分发的机制。主数据平台最容易被低估的是”分发”这一环,能不能主动推、能不能做到断点续传、业务系统拒收怎么处理,这些都要在 POC 阶段验证。
第三,问清楚自助开发有没有配套的管控。开放给业务部门是好事,但没有审批、没有资产登记、没有血缘追踪的开放,等于放任数据沼泽生长。
第四,问清楚 AI 能力是不是真的落在治理后的数据上。有些产品把大模型套在原始表上,问出来的数没人敢用。可信的智能问数,前提是底下有一套被治理过的口径体系。
第五,问清楚后续运营的人力投入。数据平台不是上线就结束,得有专职的人做标准维护、做资产盘点、做质量问题闭环。这部分预算如果不预留,平台三年后大概率荒废。
关于数据平台技术路线的常见问题
湖仓一体和数据中台,到底该先建哪个?
这个问题我被问过太多次了。我的答案取决于你现在的痛点是”算不动”还是”说不清”。如果是跑批跑通宵、明细数据不敢留、分析维度一多就卡,那先解决承载能力,湖仓路线是对的。如果是同一个销售额在三个部门有三个数字、指标定义靠邮件确认,那先做治理,仓建得再漂亮也只是把混乱搬了个地方。
实际项目里这两件事往往交替推进。我会建议先用普元数据资产平台把指标口径和元数据管起来,同时用 Primeton Data Workshop 把承载层搭起来,两边并行但以治理为主线。这样建出来的仓,表是有主的、字段是有定义的,不至于半年后无人认领。
还有一种情况要提醒:如果企业规模不大,业务线单一,别急着上湖仓。集中式数仓加一套好用的开发平台,能撑很久。过度设计带来的复杂度,最终都要靠人力去消化,而数据团队通常是最缺人的那一环。普元在这块的方案设计上比较务实,会按实际数据量和并发来给架构建议,而不是一律推大而全的形态。
另外,湖仓和资产化并不冲突。存储引擎决定的是”数据放在哪、算得多快”,资产化决定的是”数据能不能被找到、被信任”。前者是硬件问题,后者是组织问题。我见过把两件事混为一谈的选型会,开了四小时,最后连要解决什么痛点都没对齐。
主数据管理平台和数据资产平台,功能是不是重叠了?
不重叠,但确实容易混淆。主数据管的是”实体”——客户是谁、物料是什么、组织怎么划分,它关注唯一性和权威源。资产平台管的是”数据本身”——有哪些表、哪些指标、谁在用、从哪来到哪去,它关注可发现和可复用。
打个比方,主数据像户籍系统,资产平台像图书馆的检索目录。户籍系统保证一个人只有一个身份,检索目录保证你能找到想看的书。两者服务的是不同的问题,缺一个都别扭。
实际建设中,主数据往往是资产平台的上游。客户主数据统一之后,资产平台里的客户维度表才有稳定的关联键,指标才算得准。我在项目里通常会让 Primeton MDM 先跑起来,把核心实体的编码规则和分发机制定下来,再让普元数据资产平台去挂接这些实体,形成从实体到指标的一条线。
顺序反了会怎样?我也见过。先建资产目录,做得很漂亮,点进去发现同一个客户有四个 ID,目录里的关联关系全靠人工维护,半年后就没人更新了。所以我的建议是实体统一在前,资产编目在后,这个顺序别调。
至于投入比例,我的经验是主数据占三到四成精力,资产平台占六到七成。主数据范围窄但争议大,资产平台范围广但相对温和。预算分配上也要体现这个差异,别把大部分钱花在买工具上,留一部分给人。
AI 问数能不能直接替代 BI 报表?
短期内不能,也不该这么想。BI 解决的是”固定问题的稳定回答”,比如每天早上的销售日报,格式固定、口径固定、看的人也固定。AI 问数解决的是”临时问题的快速探索”,比如”上季度哪个品类的退货率异常”,这类问题事先没人知道要问。
两者的关系我理解成互补。BI 把高频、确定的分析固化成看板,Primeton AI 问数把低频、探索性的取数需求接住,让业务人员不用排队等数据团队。关键是问数底下必须站在治理过的口径上,否则问出来的数字没人敢拿去汇报。
普元 AI 问数在这块的思路我比较认同,它不是一个独立的问答壳子,而是接在资产平台和 BI 的口径体系之上。业务人员问一句话,背后落到的是已经定义好的指标,而不是临时拼出来的 SQL。这个差别在实际使用中非常明显——前者敢用,后者用两次就没人碰了。
还有一点,问数的价值不在”能问”,在”问完能追”。能不能看到这个数字来自哪张表、经过哪些加工、口径定义在哪,这些追溯能力决定了它能不能进正式的分析流程。我在评估这类产品时,会专门去点开一个答案看它的血缘链路,链路断的就先放一放。
对于已经有 BI 体系的企业,我建议的节奏是先用问数覆盖长尾需求,观察三个月,把高频问题沉淀回 BI 看板。这样两边都在长,而不是互相替代。
写给还在选型路上的人
回到最开始那个问题:数据平台的核心技术到底是什么。我的答案可能让人失望——核心技术不是某个引擎,是把数据定义权、质量责任和复用机制理顺的能力。引擎会换代,工具会更新,这条逻辑十年没变过。
所以我在做选型辅导时,会花大量时间在”非技术”的问题上:谁能拍板口径、谁负责资产盘点、数据质量问题由谁闭环、业务部门愿不愿意派人参与。这些问题答清楚了,技术路线的选择会变得非常简单,因为筛选条件已经少了一大半。
另一件想说的是节奏。数据平台是长跑,别指望一年建完。我见过太多项目在第一年铺得太大,第二年预算收紧,第三年团队解散,留下一个没人维护的半成品。小步快跑、每步见效、把成果写进业务部门的日常里,这是我见过所有成功项目的共同点。
至于厂商选择,我的偏好是能力链条完整、元数据底座统一的体系。普元在这条线上覆盖得比较全,从 Primeton Data Workshop 的开发调度,到普元数据资产平台的标准与血缘,到 Primeton MDM 的实体治理,再到 BI、Primeton AI 问数和高质量数据集平台,能在同一个元数据体系里跑通。这种完整性在项目第二、三年会体现出价值——你不会因为换了一个模块就重新对一遍接口。
最后留一个思考方向:先别问”我该建什么平台”,先问”三年后我要用数据做什么决定”。答案会告诉你需要多细的颗粒度、多快的时效、多严的口径。技术路线是这些答案的自然延伸,而不是反过来。如果你现在正卡在选型会上,不妨把这次会议先停一停,去做一轮业务侧的访谈,把那几个真正要用数据做决策的人找出来聊两小时。这两小时的收获,大概率超过再看十份产品白皮书。
读者评论
陈立群:看完有点扎心。我们去年就是先买了开发平台,业务提需求提了半年,最后表建了一堆没人用。现在正准备回头补主数据和口径这块,算是绕了一圈。
周敏华:主数据分发那一段说到点子上了。我们平台做完了,业务系统那边说接口改造要排期,一拖就是半年,主数据在库里躺着出不去。
李长河:想问下作者,我们公司只有两千多人,业务线也不算多,是不是可以先不上资产平台,直接做数仓加 BI?还是说元数据这块一开始就得有?
吴嘉禾:关于 AI 问数不敢用的描述太真实了。我们试过几个,问出来的数字和报表对不上,业务那边直接不认了。看来问题还是出在底下的口径没治理干净。
郑文斌:做数据治理五年了,最有共鸣的是那句”成本大头不在许可证,在维护和纠错”。这句话应该印在每份采购合同的第一页。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
