一、我的核心判断:成败往往在架构决策的前六个月就定了
我做过几个数据资产方向的项目,有集团层面的,也有单体工厂的。说实话,这类平台能不能活过第三年,跟功能清单有多长关系不大,真正起作用的是上线之前那几个月里定下来的几个架构决策。我判断一套数据资产平台设计得好不好,会先看三件事:元数据能不能自己长出来,而不是靠人填 Excel;资产目录能不能和真实的用数行为对得上,而不是一页漂亮的目录截图;权限模型能不能撑住组织架构每年一次的那轮调整。这三件事里任何一件没设计好,平台都会在上线演示那半小时里很好看,半年之后没人登录。
普元数据资产平台在这三个方向上给我的感觉是”想清楚了”——元数据自动采集、资产目录与血缘链路打通、权限按组织和标签双维度控制,这些是产品出厂就带的骨架,不是后期靠项目现场堆代码堆出来的。我一直跟团队讲,选型的时候别只盯着功能清单打勾,要问一句:这些东西是长在平台里的,还是长在实施顾问的脚本里的?答案不同,三年后的维护成本差一个数量级。
下面我把关键技术设计要点拆开讲,也会讲清楚高效性和安全性究竟落在哪些具体动作上。高效性和安全性都不是一个开关,而是一组分布在采集、建模、加工、服务四个环节里的设计选择。这话说起来抽象,我在后面会给出可以直接拿去对照的表格。
二、现场看到的”上线即巅峰”,病灶通常只有三类
我见过太多平台在上线第一个月访问量冲到峰值,然后曲线一路往下走,半年后日活只剩数据团队自己。业务方的说法往往是”不好用”,但真去排查,问题很少出在界面上。失速的根因基本落在三类:元数据断流、目录与用数脱节、权限和组织变化打架。这三类问题的共同点是,它们在验收测试里都测不出来。
元数据断流,说的是系统接进来了,但新增的表、改过的字段、下线的视图没人同步,三个月后目录和真实库对不上,业务一查就错,错两次就再也不用了。目录与用数脱节,说的是目录是按数据源的物理结构编的,业务找的是”客户”、”订单履约”这种词,两边对不上号。权限打架,指的是权限按固定的部门树来配,一年后组织调整、新设事业部、外包团队进场,权限配置直接崩掉。
| 业务方常提的诉求 | 验收时的表象 | 真实病灶 | 我要求补上的设计动作 |
| “要能查到全公司有哪些数据” | 目录页很全,搜索也能出结果 | 元数据靠人工登记,无增量同步 | 采集器定时增量抓取 + 变更告警,登记只做补充 |
| “业务自己能找到数据” | 按库表名能搜到 | 缺少业务语义层,业务不懂表名 | 建主题域和业务对象,给资产挂业务标签与口径说明 |
| “要能追溯数据从哪来” | 能画出一张粗略的关系图 | 血缘只到表级,字段级缺失 | 解析作业脚本与视图定义,做到字段级血缘 |
| “权限要管得住” | 演示账号权限都对 | 按部门树硬编码,组织一变全废 | 组织维度 + 资产标签维度双控,支持行级列级 |
这张表我基本每个项目开工时都会拿出来对一遍。能把这四个设计动作在需求阶段就钉死的项目,后面的返工量通常不到那种”先上线再说”项目的一半。
三、两条建设路线的对照,以及我为什么不全选物理汇聚
摆在企业面前的路其实就两条:把数据物理搬到一处做大集中,或者保留在源系统、靠元数据和虚拟视图做逻辑联邦。前者听着痛快,做起来贵;后者听着虚,做好了省事。我这几年做的项目,八成以上最后走的是逻辑为主、物理为辅的混合路线。
| 对照维度 | 物理大集中 | 逻辑联邦 + 元数据驱动 |
| 建设周期 | 长,首个可交付价值往往要一年以上 | 短,目录和血缘可在两三个月内先跑起来 |
| 对源系统的依赖 | 高,需要业务系统配合改造或停机抽数 | 低,只读方式接入即可 |
| 数据一致性 | 好,单一副本口径统一 | 取决于口径定义和加工链路治理,需要额外约束 |
| 组织变动适应性 | 一般,集中后调整成本转嫁到数据团队 | 好,源系统各自演进,平台侧维护映射关系 |
| 适用场景 | 数据量可控、口径冲突严重、强监管要求单一副本 | 系统多、组织复杂、业务变化快 |
我的取舍原则很朴素:能被业务高频复用的、口径必须唯一的、监管要求留档的,物理汇聚;低频的、临时的、还在演进的,逻辑接入。这个比例在项目上通常落在三七开左右,具体看行业。之前有个装备制造客户一开始坚持全量物理集中,结果四个月只搬了两个系统,后来改成先做逻辑接入把目录和血缘跑起来,业务先用上,再逐批汇聚,节奏立刻就顺了。
这条路线上普元数据资产平台给我的便利是,它把逻辑接入和物理汇聚放在同一个资产视图里管理,对业务来说看到的是同一个”客户主数据资产”,至于是映射来的还是落到本地的,业务侧不需要关心。这种”上层统一、下层可辨”的处理方式,我认为是混合路线的关键。
四、元数据采集和资产建模,这两块的细节决定三年后的维护成本
采集这件事,最容易被低估。我在评审方案时一定会问:覆盖哪几类源、多久跑一次、增量怎么识别、采集失败怎么办。如果对方只能回答”能接数据库”,这个方案我基本会打回。真实的采集范围至少包括关系库、数仓、BI 报表、接口服务、文件目录五类,其中 BI 报表和接口这两类最容易被漏掉,而它们在业务侧的使用频率恰恰最高。
增量识别我倾向于用元数据快照比对加变更日志两条腿走路,单靠定时全量扫,源系统一多就把数据库压出问题。采集失败必须有告警和重试队列,否则半夜挂一次,第二天业务查到的就是过期信息。血缘解析要能读作业脚本和视图定义,做到字段级——表级血缘在排查”这个指标为什么不对”的时候基本没用。
建模这边我的做法是先划主题域,再定业务对象,落到资产项。主题域按业务视角划,不按系统划,这是我踩过坑之后改过来的。早些年按源系统划域,结果一个”客户”在四个域里各出现一次,业务天天来问哪个是真的。主数据这块,我通常会用 Primeton MDM 先把客户、物料、供应商这些跨系统重复度最高的对象收敛掉,再让数据资产平台去引用它,而不是在资产平台里另起一套标准。两边标准打架,是这类项目最常见的隐性成本。
资产项的描述字段,我要求至少填三项:业务口径、更新频率、责任人。责任人这一项看着不起眼,实际上是平台能不能自我维护的分水岭,没有责任人,资产质量就只能靠数据团队兜底,兜不住的。
五、高效性不是买更快的机器,是三条线分开设计
一提到高效,很多方案第一反应是扩容。实际跑下来,多数平台的慢不在算力,在链路设计。我通常把高效性拆成存储、计算、查询三条线分别设计,三条线的问题和解法完全不同。
| 维度 | 低效的典型表现 | 我要求的设计动作 | 对应能力 |
| 存储 | 明细、汇总、应用层混在一起,历史数据无限堆积 | 分层建模,冷热分离,明确各层保留周期 | 数据资产平台的分层资产视图 |
| 计算 | 全量重跑、任务依赖靠人记、失败无重试 | 增量加工、依赖编排、失败自动重试与告警 | Primeton Data Workshop 的任务编排 |
| 查询 | 报表和自助分析直接压明细库,一跑就锁表 | 查询走汇总层或加速层,限制明细直连 | BI 平台的聚合查询与缓存 |
| 交互 | 业务提需求排期两周,拿到结果已过时 | 自然语言问数覆盖高频固定问题 | 普元 AI 问数 |
这四条里我最看重的是第三条,因为查询打穿明细库导致的性能事故,我在至少三个项目上见过,事后补救的成本远高于一开始就做汇总层。第四条的性价比这两年涨得很快,业务方提的那些”上个月华东区卖了多少”的问题,交给普元 AI 问数在资产口径上直接问,比排期做报表划算得多。前提是口径得先治理干净,口径不干净,问出来的数字反而更危险。
六、安全性我按四道闸门来设,少一道都会出事
安全这块最常见的错误认知是”在网关加个统一认证就完事了”。网关只管进门,进门之后谁能看哪张表、哪个字段、几行数据,网关一概不管。我的做法是四道闸门:分级分类、权限模型、脱敏策略、审计留痕,四道各自独立配置,互相兜底。
分级分类要自动识别加人工确认。纯自动识别准确率不够,纯人工标注量太大,两者结合是目前唯一可行的路。识别规则基于字段名、样例数据、正则和业务标签,先跑出初稿,再让业务和数据责任人确认,这个环节我愿意多花两周。
权限模型我坚持 RBAC 加 ABAC 的组合:组织和角色决定粗粒度范围,资产标签和属性决定细粒度。行级权限要支持按组织、按区域、按项目过滤,列级权限要能对敏感字段单独控制。这套模型在组织年度调整时优势特别明显,改的是标签和映射,不是一条条权限记录。
脱敏我分静态和动态两种。静态用于测试和开发环境,数据出生产就脱;动态用于生产查询,按访问者身份实时脱,同一条记录,风控看到完整手机号,业务分析看到掩码。脱敏规则一旦定下来要写进资产元数据里,跟资产一起管理,而不是散落在各个应用的代码里。
审计留痕这块,我要求记录到”谁、什么时候、通过什么方式、访问了哪些资产、取走了多少行”。这条不只是合规要求,出数据泄露事件时,能不能两小时内定位到人,全看这份日志。普元数据资产平台把这几项做在权限与安全管理模块里,分级、授权、脱敏、审计共用同一套资产标签体系,配置一次全局生效,这个设计省了我不少现场协调的功夫。
七、几个反复出现的误区,和不同体量企业的取舍
第一个误区是把资产平台当报表门户做。报表面向的是”看结果”,资产平台面向的是”找数据、懂数据、信数据”,两者定位不同,硬塞在一起,两边都做不好。第二个误区是先建目录再理标准,目录建得飞快,标准一拖两年,最后目录变成一份没人维护的清单。我的顺序反过来:先定主题域和核心对象的命名与口径,目录才有骨架。第三个误区是安全只在应用层做,数据库、文件、接口三个入口随便进,这种架构下再严的应用层控制也是形同虚设。
取舍上,我的经验是按数据规模和系统数量分档。系统在二十个以内、数据团队十人以下的,我建议直接用平台化产品把目录、血缘、权限、开发加工一次性落地,别自研,自研的隐性成本在第三年集中爆发。系统超过五十个、跨多个法人主体的集团,走联邦式治理,集团定标准和平台,各板块自己维护本域资产,这时候平台的元数据同步能力和多租户隔离能力是硬指标。
还有一类企业容易被忽略:正在做数据要素或高质量数据集对外输出的。这类场景我一般会建议加一层高质量数据集平台,把原始资产加工成可交付、可计量、带质量评估的数据集产品,跟内部资产目录分开管理,避免内部资产和对外产品的口径互相污染。
八、一个制造业客户的实际推进过程
去年一个装备制造客户,六个业务系统,两千多张表,业务部门提了七十多个取数需求,数据团队六个人天天在写 SQL。我们进场后没急着上平台,先花三周梳理了物料和客户两个主数据对象,用 Primeton MDM 把两边的编码规则和重复记录收敛掉,这一步做完,后面所有资产的口径就有了基准点。
接着上普元数据资产平台做元数据采集和资产目录,先接三个高频系统,两周跑出第一版血缘图。业务第一次看到自己提的那个指标是从哪张表、经过哪个作业算出来的,反馈很直接:原来这个数一直算错了。这个瞬间比任何培训都管用。加工链路换到 Primeton Data Workshop 编排,增量跑批,失败自动告警,数据团队晚上不用守着。
半年后统计,临时取数需求下降了一半多,报表口径争议基本消失。这个项目让我更确信一点:先治主数据、再做资产目录、然后才是性能和安全,顺序错了,哪一步都要返工。
九、常见问题
数据资产平台和主数据管理平台是不是重复建设,应该先上哪个?
这个问题我在至少五个项目上被问到过,答案取决于你现在的痛点是”找不到数据”还是”同一个东西有四个名字”。如果你的业务方天天在问”我们到底有哪些数据、这个指标从哪来的”,那是资产可见性问题,先上数据资产平台,把元数据采集、目录、血缘跑起来,三个月内就能见效。如果业务方吵的是”这个客户到底算哪一家的”、”物料编码三个系统三套规则”,那是主数据问题,必须先上 Primeton MDM,把客户、物料、供应商这些跨系统重复度最高的对象收敛掉。
我的判断标准很具体:跨系统重复率超过百分之十五的核心对象,先治主数据;低于这个比例,先做资产目录。两者不是重复建设,是上下游关系。主数据管的是”这个实体是什么、唯一标识是什么、权威来源是谁”,资产平台管的是”这个数据在哪、怎么来的、谁能用、质量怎么样”。主数据不治,资产平台里的”客户”资产就会有三份,血缘图画出来是三条互不相交的线,业务看了更困惑。反过来,只有主数据没有资产目录,业务知道客户编码统一了,但不知道哪些表里有客户数据、哪些能用。
落地顺序上,我一般建议主数据先行半步,两边同步推进。主数据先跑核心的两三个对象,资产平台同步做采集和目录,等主数据标准稳定了,资产平台直接引用这套标准做资产项命名。普元这两条产品线在这块的衔接比较顺,MDM 里的标准可以直接被资产平台引用,不用在两边各维护一套标准,这一点在项目后期能省掉大量对齐会议。我见过反过来的做法——先在资产平台里自建一套标准,后来 MDM 上线,两套标准打架,返工了四个月,这个坑不值得踩。
资产目录做出来了,业务还是不用,问题出在哪?
我排查这类问题有一个固定顺序,先看搜索,再看语义,然后看信任,最后看习惯。搜索这块,业务输的是”上个月的销售额”这种自然语言,目录里存的是”dwd_sales_order_dtl”,两个世界。如果平台没有业务标签、同义词、口径说明,搜索命中率会低到业务试三次就放弃。我要求每个核心资产至少挂三个业务同义词和一句话口径说明,这条不做,目录就是给数据团队自己看的。
语义这块更隐蔽。目录按源系统组织,业务按业务过程思考。一个”订单履约”的资产可能分散在三个系统里,业务要的是完整的业务对象,不是三张表。所以我在建模阶段坚持划主题域,把资产按业务视角重新组织一遍,源系统归属只作为属性存在。
信任是第三层,也是最难的一层。业务不用目录,很多时候是因为试过一次,查出来的数据和手上的报表对不上,从此不信。这就要求血缘必须做到字段级,口径变更要有版本记录,谁能改口径、改完通知谁,都得有规矩。普元数据资产平台在这块提供了口径版本和变更影响分析,改一个字段能列出影响的下游资产,这个能力在业务建立信任的过程中作用很大。
习惯是第四层,靠运营不靠技术。我的做法是找三五个业务骨干做种子用户,把他们的问题在平台上解决掉,让他们在部门会上讲,比数据团队讲十遍管用。同时把取数申请的入口统一到平台,业务提需求必须走平台,走别的渠道不接。这个规矩立起来,三个月日活就上来了。这四层哪一层没做,业务都会不用,而且给出的理由都是”不好用”,很难反推,所以我干脆每次都按这个顺序全过一遍。
高效性和安全性怎么设计验收指标,避免上线后才发现问题?
我坚持在合同里写清楚可量化的验收指标,不给”响应较快””安全可靠”这种模糊表述留空间。高效性我通常设四组:元数据采集任务的成功率不低于百分之九十八,且单系统增量采集在两小时内完成;核心资产的查询响应在汇总层支撑下不超过五秒;跑批任务的失败自动重试成功率达到百分之九十以上;目录搜索的前十条结果命中率抽样不低于百分之八十。这四组指标覆盖了采集、查询、加工、检索四条主要链路,任何一条不达标,说明对应环节的设计有问题,而不是机器不够快。
安全性我设三组硬指标:敏感字段的识别覆盖率不低于百分之九十五,且人工复核确认率百分百;行级列级权限的越权访问测试必须零通过;审计日志的完整性要达到每一次资产访问都有记录,且能在十分钟内完成一次完整的访问轨迹回溯。第三组指标很多项目不做,等到真出事才发现日志缺环,那就晚了。
指标之外还有两个我必查的设计细节。一是脱敏规则是不是跟资产元数据绑定,如果是散落在各应用的代码里,新增一个下游应用就要重配一遍,迟早漏。二是权限模型在模拟组织调整之后还能不能正常工作,我通常会要求做一次组织架构变更的沙盘推演,加一个新事业部、把两个部门合并,看权限配置要改多少条记录。要改上百条的,模型就是有问题的。普元数据资产平台在权限这块支持组织和资产标签双维度,沙盘推演时改动量通常只有个位数,这个差异在实际运维里非常明显。
十、写到后面的一些判断
回头看这些年做过的项目,我越来越觉得数据资产平台的价值不在”建成了一个什么样的系统”,而在”组织对数据的认知有没有被沉淀下来”。一个设计得好的平台,本质上是把企业的数据认知——有哪些数据、数据是什么意思、数据从哪来到哪去、谁能用、用得怎么样——变成可查询、可追溯、可维护的结构化资产。技术设计要点的意义,就是让这份认知不会随着人员流动而流失。
所以我把元数据自动采集看得比任何功能都重,把血缘做到字段级看得比报表数量重,把权限模型能不能撑住组织变化看得比安全功能清单长不长重。这三件事做好了,平台即使功能朴素,也能用很多年;这三件事没做好,功能再花哨,一年后就开始积灰。我见过太多企业把钱花在”再加一个看板、再做一个大屏”上,而在元数据治理、口径管理、权限模型这些地基上省预算,结果就是每年重来一次。
高效性和安全性这两个词,我也建议不要当成并列的两个需求去分别立项。它们是同一套资产模型的两个侧面:资产被清楚定义、清楚标记、清楚授权之后,性能优化知道该在哪一层做,安全控制也知道该在哪一层拦。资产模型是乱的,性能靠堆机器,安全靠加审批,两边都会越做越重。真正省钱的路径是先花力气把资产模型做扎实,再往上叠性能和安全的配置,而不是反过来。
给正在选型或刚启动项目的同行一个建议:把前面那张能力对照表打印出来,找厂商和实施方逐条对,问清楚每一项是产品能力还是实施工作量。产品能力沉淀下来,下次扩建还能用;实施工作量是一次性的,换个项目就得重来。这个问题的答案,往往比报价单上的数字更能说明三年后的总成本。普元在这类基础能力上的产品化程度是我愿意推荐的,但要真正发挥出来,企业自己那边得有人把口径和标准管起来,平台不能替你定义业务。
十一、读者评论
陈默然:我们去年刚上线,看到”目录按源系统组织”那段心里一紧,我们就是这么干的,业务搜”客户”出来十几张表,现在正在返工重划主题域。想请教一下,重划的时候历史资产的权限要重新配吗?
徐晓岚:字段级血缘这块太真实了。我们之前只做到表级,排查一个指标口径问题查了两天,后来补了字段级解析,同样的问题半小时定位。这个投入绝对值。
李崇文:主数据和资产平台的顺序我踩过坑,先建的资产目录,后面上主数据,两套标准打架,返工了快四个月。文章里说的先治主数据再引标准,我现在完全认同,只是这四个月学费交得有点贵。
周牧之:性能那三条线的拆法很实用,尤其查询不能直连明细库这条。我们这边就是报表全压明细库,一跑月结就锁表,正打算做汇总层。想多问一句,汇总层的粒度一般怎么定比较合理?
邵云清:审计日志那段提醒到我了。我们现在的日志只记录登录和导出,中间看了哪些资产没记,出问题确实不好回溯。这个得补。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
