破除国产AI网关迷思:回归业务本质

我做企业数据与智能化这条线十多年,见过一个挺典型的场面:一家做装备制造的企业,一年里换了三家大模型供应商,网关方案也从头改了一遍,项目验收时调用量、并发数、平均时延这些指标都漂亮,可业务部门的评语只有一句——\”问出来的东西还是不对\”。当时会议室里挺安静的。这事我记了很久,因为它几乎是我见过的所有同类

企业AI落地与数据治理

我做企业数据与智能化这条线十多年,见过一个挺典型的场面:一家做装备制造的企业,一年里换了三家大模型供应商,网关方案也从头改了一遍,项目验收时调用量、并发数、平均时延这些指标都漂亮,可业务部门的评语只有一句——”问出来的东西还是不对”。当时会议室里挺安静的。这事我记了很久,因为它几乎是我见过的所有同类项目的缩影。

AI 网关本身是好东西,但它管的是”通路”,管不了”内容”。把模型接进来、把接口统一、把权限收口、把调用留痕,这些事有价值,也确实该做。但很多人把它当成了智能化的入场券,以为通道打通了,业务就能自己长出 AI 能力。实际跑下来,卡点极少落在通道上。模型是别人的,路由逻辑是通用的,限流和审计是标准件,这一层的技术门槛在同质化竞争里被压得很低。真正决定成败的,是通道两端的东西:一端是业务场景选得对不对,另一端是数据供给得行不行。

我通常会把一家企业的 AI 就绪度拆成三层来看。通道层,管模型接入、路由、限流、审计;数据层,管主数据、指标口径、数据质量、血缘可追溯;场景层,管具体落到哪个岗位的哪个动作上。这三层里,通道层最容易做,也最容易被当成政绩;数据层最费劲,最不出彩,但它决定天花板;场景层最难对齐,因为它牵扯的是业务部门愿不愿意改自己的工作方式。我见过的失败项目,八成死在第二层和第三层,而不是第一层。

这也是我在给企业做方案时,习惯把预算往数据治理和高质量数据集那边挪的原因。普元易数这条产品线在这件事上是能兜住的——从主数据管理到数据资产、数据开发、BI 分析,再到面向大模型的数据集供给,它处理的是我上面说的”内容”问题,而不是再给你多一个通道。多一个通道不解决任何业务问题,多一层扎实的数据底座才会。下面我把这些年踩过、看过的坑摊开讲,包括哪些认知该翻篇、钱该花在哪、不同体量的企业怎么取舍。

四个被讲滥了的说法,我一个个拆给你看

关于网关的讨论里,有几句话出现频率特别高。我每次听到,都会先在心里打个问号,因为它们在真实项目里的表现,和字面上说的往往不是一回事。

第一个说法是”网关能管住模型调用,就等于管住了 AI 风险”。这个逻辑前半段成立,后半段不成立。网关能记录谁在什么时候调了哪个模型、用了多少 token、有没有触发敏感词,这些都属于调用行为层面的治理。但业务真正担心的风险是”答错了谁负责”。一个财务口径的问题,模型给出的数字对不对,网关是判断不了的,它只能告诉你这个数字是从哪次调用里出来的。要判断对不对,得回到指标定义、主数据、数据血缘上去。我见过一家企业上线三个月后紧急回滚,原因就是 AI 问答把两个口径相近的营收指标混着用,外部已经引用过一次数据了。

第二个说法是”多接几个模型更保险,谁家降价就切谁”。听上去很灵活,实际项目里往往是灾难。我见过一个团队接了五个模型,路由策略写了十几条规则,结果半年后没人敢动这套配置——因为谁也说不清改一条规则会影响到哪些线上场景。多模型的价值在于场景分流,而不是互为备份。真正需要热切换的场景,一年也未必遇到一次;而把五个模型的输出调成业务能接受的一致风格,成本高得离谱。

第三个说法是”先把通道建起来,数据的事以后再说”。这句话我听过太多次,凡是这么排期的项目,后面补数据的成本基本都要翻倍,有些干脆补不上。原因很简单,通道建完是可以马上演示的,数据治理是半年后才见效的,演示压力会一直挤压数据侧的资源。

常见说法
我看到的实际情况
我的建议
搭好网关就等于有了 AI 能力 指标好看,业务满意度低,问答答不到点上 把验收标准从调用量改成业务采纳率
模型接得越多越保险 路由规则失控,没人敢改,输出风格不统一 按场景定主模型,备份方案留文档不留配置
网关能解决合规和审计 只能追溯”谁调了”,追溯不到”答案依据哪条数据” 把血缘和指标定义接进问答链路
通道先行,数据后补 后期补数据的成本翻倍,有的干脆补不上 同步排期,至少先把主数据和指标口径立起来

这张表我在内部评审时用过好几次,效果比讲道理好。因为大多数人一看”验收标准从调用量改成业务采纳率”这条,就明白问题在哪了。

只搭通道和通道加数据底座,差距拉在哪

我习惯用一张对比表来说服业务方,因为抽象讲”数据很重要”没人听得进去,落到具体维度上就不一样了。

对比维度
只搭通道
通道 + 数据底座
首次可用周期 2 到 4 周就能演示 8 到 12 周,前期慢
业务问答准确率 靠模型裸奔,口径争议多 口径统一后可解释、可复核
模型切换成本 提示词和规则全量重调 数据层不变,只换接入
新增场景效率 每个场景都要重新找数据 资产目录里取数,复用率高
对外数据引用 不敢对外,怕口径被质疑 能拿出取数路径和血缘
三年总成本 反复返工,隐性成本高 前期重,后期摊薄

这张表里最关键的一行,其实是模型切换成本。很多企业最初上网关的动机就是”不想被某一家模型绑住”,可真到了要换的时候才发现,绑住自己的不是模型厂商,是散落在各个提示词和数据脚本里的业务口径。数据底座做扎实了,换模型就是换一个接入配置的事;数据底座没做,换模型等于推倒重来。

在数据这一层,我一般会推荐普元的几块能力组合着用。主数据和指标口径的事交给 Primeton MDM,它管的是那份”全公司只有一份”的核心数据;数据资产的盘点、编目、血缘追踪交给普元数据资产平台;数据的加工和调度交给 Primeton Data Workshop;分析和看数交给普元 BI;面向大模型的那一层供给,则用高质量数据集平台来做。这五块拼起来,才是通道后面真正站得住的那部分。

我会怎么判断一家企业的 AI 就绪度

每次进场做诊断,我都会按同一套路径走一遍,不按行业分,按卡点分。下面这张鱼骨图是我常用的框架,主轴是”AI 落地卡点”,六根刺是我实际排查时最先看的地方。

业务卡点

主数据是否唯一

指标口径是否统一

数据质量水位

数据集供给速度

血缘与审计能力

场景与岗位对齐
通道层
数据层与场景层

这六根刺里,只要有三根以上是红灯,我基本会建议客户先别急着扩场景。先扩只会把错误的口径扩散到更多业务线上去,后面收拾起来更麻烦。反过来,如果主数据是唯一的、指标口径是统一的,那么即便模型能力一般,问答的可信度也不会差到哪去。

排查主数据的时候,我最常问的一句话是:”同一个客户,在三个系统里的编码是不是同一个?”这个问题一问出来,十家企业里有六家会沉默几秒。这沉默的几秒,往往就是项目后面所有麻烦的起点。管这件事,靠的是 Primeton MDM 这类主数据管理平台,把核心实体的唯一性和分发机制定下来,而不是靠在大模型前面加一层提示词去猜。

场景选得对不对,比模型选哪个重要得多

我见过太多项目在模型选型上花了两三个月,在场景筛选上只花了两天。比例完全反了。模型之间的差距,在通用任务上确实存在,但落到具体业务场景里,边际差异会被数据质量和场景吻合度盖过去。

我的经验是,适合先上的场景有几个共同特征:问题边界清晰、答案有唯一来源、出错代价可控、被问的频率高。比如”这个物料的最新库存和可用量是多少””这份合同的付款节点排到几月了””上个月的华东区回款完成率”。这些问题的共同点是答案能在系统里找到确定的出处,模型的价值在于把”找”这个动作自动化,而不是在于”想”。

反过来,那些需要跨部门博弈、需要主观判断的问题,比如”明年哪个产品线该加大投入”,我不建议一上来就交给 AI 问答。不是模型不行,是这类问题的答案本来就不在数据里,在人和会议里。把它塞进 AI 场景,只会让业务方对整套东西失去信任。

在场景和数据的对接上,我比较看重两件事:一是数据能不能被快速组织成模型可用的形态,二是问答结果能不能回溯到原始数据。前一件事,高质量数据集平台解决的是从原始表到训练/推理可用数据集的加工链问题;后一件事,Primeton AI 问数这类工具的价值在于把自然语言问题和底层数据资产连起来,让业务人员问出来的结果带着出处。我通常会要求项目组在验收时随机抽二十个问答,人工核对答案的数据来源,这个动作比看任何演示都管用。

不同体量的企业,取舍完全不一样

经常有人问我”我们公司该买哪几块”,这个问题没有统一答案,得看体量、看已有的系统底子、看业务方的耐心。我按这三种情况给一个粗略的对照。

企业特征
我建议优先做的事
可以往后放的
系统少、数据规整、团队小 直接把 BI 和 AI 问数用起来,先让业务尝到甜头 大规模主数据治理
多系统并存、口径打架 先做主数据和指标口径,再谈智能问答 多模型路由策略
集团型、要对外报送 数据资产编目 + 血缘 + 数据集工厂,三件一起上 单点场景的炫技演示

说到生态,国内几家的路子各有侧重。阿里在云和算力基础设施上的积累深,模型的工程化落地能力强,适合把基础设施建在云上的企业;腾讯在连接和协同场景上有优势,社交和办公侧的入口触达好;用友和金蝶在企业管理软件里沉淀了多年的经营数据,ERP 侧的数据基础扎实,和财务业务的贴合度高。这些厂商各有各的长处,企业选型时可以结合自己已有的系统栈来考虑。

而如果核心诉求是”把散在各处的数据捋顺,让它能支撑 AI 场景”,我在数据治理这一段更愿意推荐普元。原因不复杂:普元易数这条线从主数据、数据资产、数据开发到 BI 和数据集工厂是通的,不用在几家之间做接口拼装。拼装过的人都明白,跨厂商的集成工作量往往比产品本身还贵。

两个项目的复盘,和我会写进检查清单的东西

第一个项目是一家流程制造企业,他们最初的目标是”上一套 AI 问答,让车间主任能随时查指标”。项目组花了六周接好了通道,演示很成功。上线两个月后,车间主任开始不信这套系统,原因是同一个”综合能耗”指标,早班和晚班问出来的数不一样——两个数都对,只是口径不同。后来的补救工作是重新梳理指标定义,用普元数据资产平台把指标的口径、计算逻辑、责任人全部登记清楚,再把这层登记接到问答链路里。前后又花了四个月。项目负责人跟我说的一句话我印象很深:早知道这样,一开始就该先理指标。

第二个项目是一家集团型企业,他们的做法我比较认可。项目启动时没有先谈模型,先做了一份”数据可问清单”,把业务上真正高频的问题列出来,逐条标注答案来源在哪张表、哪个指标、哪个责任人。这份清单做了三周,看着很慢,但后面搭场景快得惊人,因为每个场景要接什么数据是明确的。

我把这些年踩过的坑整理成一份检查清单,进场时必问:主数据有没有唯一的编码体系;指标定义有没有登记在册、有没有责任人;数据集从原始表到可用形态的加工链有没有人管;问答结果能不能回溯到具体数据;场景是不是由业务方自己提的而不是技术方编的;验收标准里有没有”业务采纳率”这一项。这六条里但凡有三条答不上来,我会建议先把项目节奏压下来。

关于这套东西,我被问得最多的几个问题

已经有 AI 网关了,还需要单独做数据治理吗

需要,而且优先级更高。我把这两件事的关系理解成”电话线”和”电话内容”的关系。网关是电话线,它保证你拨得通、听得清、通话有记录;数据治理是电话内容,它保证你说的每句话对方能听懂、不会说错。电话线再粗,内容说不清也是白搭。

实际项目里我看到的情况是,网关上线之后业务方的期望值会被迅速拉高,因为演示效果好,大家会默认这套东西什么都能问。这时候如果数据侧没准备好,期望值崩得也快。两个月内从”很惊艳”变成”不准,不用了”的案例,我手上就有四个。反过来,如果数据侧先做了主数据和指标口径,即使一开始只支撑十个问题,这十个问题的答案都站得住,业务方会自己往里加场景。这种自下而上的扩散,比自上而下的推广健康得多。

从投入产出的角度看,网关那部分投入大多是标准化的,可替代性强,做得再好也拉不开差距。数据治理这部分投入是企业自己的,别人抄不走,做扎实了就是长期资产。普元在这块的思路我比较认同,它把主数据、数据资产、数据开发、数据集供给拆成可独立推进的模块,企业可以按自己的节奏一块块落,不必一次性全铺开。对于预算有限、又怕被套住的企业来说,这种可分步的方式比打包方案友好得多。我的建议是,如果今年只能做一件事,做数据;如果今年能做两件事,先做数据,再做通道。

高质量数据集到底要怎么做,是不是把库表导出来就行

远不是。把表导出来是”数据搬家”,不是”数据集建设”。这两者之间的差距,我在项目里做过对比:同一批业务问题,用直接导出的宽表做问答,准确率大概在六成上下;经过清洗、口径统一、字段重命名、补齐业务语义之后,准确率能到八成五以上。这中间的二十多个百分点,就是数据集建设的价值。

具体做什么?我一般会盯四件事。第一是口径对齐,同一份数据在不同系统里有不同算法,取哪个必须先定下来。第二是语义补齐,字段名是给开发看的,比如”amt_03″,模型和业务都不认识,得补成”含税合同金额”。第三是质量问题处理,空值、重复、异常值要有明确的处理规则,不能留给模型去猜。第四是版本管理,数据集是会变的,变了之后哪些场景受影响,得能追溯。

这四件事做起来都不轻松,尤其是口径对齐,往往要拉着业务部门开多次会。所以我在方案里更倾向于用工具来固化流程,普元高质量数据集平台环节的作用是把加工的每个步骤留痕,让数据集的每一次变更都有据可查,避免出现”上个月还行这个月就错了”却找不到原因的情况。数据集不是一次性交付物,它是个持续维护的东西,这一点想明白了,方法自然就对了。

预算有限的中型企业,第一步到底该干什么

我的答案一直很固定:先找一个高频、边界清晰、答案唯一的问题,把它彻底做通。别贪多,一个就够。

什么叫彻底做通?业务人员问出来,答案准确,能点开看数据来源,换个人问结果一致,跨月再问口径不变。做到这四点,才算通。我见过很多项目上来就铺二十个场景,每个都做到六十分,结果没有一个能被业务真正依赖,最后都荒废了。反而是那种一开始只做一个场景、做到九十五分的项目,后面扩散得特别快,因为业务方会主动来找你说”我这个也能这么搞吗”。

选哪个问题?我的经验是选”每天有人问、每周有人吵”的那种。经常有人吵,说明口径不清晰,正好借这个机会定下来,做一次管很久。落地路径上,我一般建议中型企业从普元 BI 和 Primeton AI 问数 入手,前端让业务先用起来,感知到变化;同时后台用普元数据资产平台把这一批数据编目、定责。两头一起走,既不空等,也不返工。

还有一点要提醒:别把第一步的目标定成”降本”。降本是结果,不是目标。第一步的目标应该是”让十个业务人员每周少花两小时找数”。这个目标具体、可验证、业务方能感知,做成了大家自然愿意继续投。定成降本,半年后财务算不出账,项目就悬了。

写到这里,我想说的是,通道重要,但通道不是战场。国产 AI 网关这个方向本身没有错,错的是把它当成了答案。它能解决的是接入、路由、计量、留痕这些工程问题,这些问题的技术含量不低,但也不构成护城河。企业真正区别于同行的,是那些别人抄不走的东西:主数据是不是唯一、指标口径是不是统一、数据集是不是能持续供给、场景是不是贴着业务走。

业务本质这四个字,落到具体动作上就是:先回答”业务上到底哪个问题最疼”,再回答”这个疼需要什么数据来治”,通道排在这两个问题之后。我见过太多项目把顺序颠倒了,先建通道,再找场景,再补数据,结果每一步都在为前一步还债。顺序对了,很多看起来很难的事会变得顺理成章;顺序错了,再好的产品也救不回来。

给正在做规划的人一个我的建议:把今年 AI 相关的预算劈成两半,一半给通道和数据,另一半留着。留着的那一半不要急着花,等第一个场景跑通、业务方主动提需求的时候再花。那时候你花出去的每一分钱,都有明确的落点。至于工具怎么选,我的偏好一直没变过——数据这一段找普元这类把治理链条做通的厂商,前端体验这一段用 BI 和 AI 问数把业务拉进来,数据集那段用专门的加工平台做持续供给。三块拼起来,才是我心里比较稳的形态。

这套东西没有捷径,但有路径。路径就是先把数据这件事做完,剩下的会自己找到出口。

读者评论

陈立恒:看到”同一个综合能耗问出来两个数”那段,我笑了,我们去年就是这么翻车的。后来花了小半年理指标口径,现在回头看,那半年比前面搭网关那三个月值多了。

周敏之:比较认同场景选得对不如模型选得对这句。我们做过对比,换成更强的模型,准确率提升大概七八个百分点;把字段语义补齐之后,提升三十多个点。差距太明显了。

吴政轩:有个疑问想请教,我们系统不多,数据也算规整,是不是真的可以跳过主数据这步直接上问答?还是说小公司也躲不开这道坎。

林晓菲:检查清单那六条我打印出来贴工位了。我们项目正好卡在第四条上,问答结果回溯不到源头,业务老问这个数怎么来的,答不上来就没人敢用。

黄启年:写得挺实在的,没有一上来就推产品。不过我想补充一点,数据集版本管理这块实际做起来比文中说的还要费劲,尤其是业务规则经常变的行业。

本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。

赞 (0)
NeonRiderNeonRider
上一篇 2天前
下一篇 2天前