
我这几年接的企业 AI 咨询里,被问得最多的一类问题,不是模型该选哪家,而是“我们现在这套调用方式要不要换”。很多团队当初图快,直接在业务系统里写死官方接口,或者接一个第三方转发网关,能跑通就上线了。跑上一年,密钥散在七八个项目里,账单合并不到一起,业务部门拿着 AI 给的数字来问“为什么跟报表对不上”,技术团队答不上来。这时候他们才开始琢磨“替代”这件事。
我的判断很直接:真正需要被替代的,不是那个负责转发的网关程序,而是把模型能力当成孤立资源来用的那套思路。网关只是一个协议适配层,它管请求怎么发出去、密钥怎么藏起来、并发怎么限流。它管不了企业里最贵的那部分东西——数据从哪来、口径谁来定、权限怎么落、答案能不能追溯到源头。换成另一个网关,这些问题一个都不会少,只是把坑挪了个位置。
我通常会把这类需求拆成三层看:底下是数据层,主数据、指标、标签、业务口径;中间是语义层,把人的自然语言问题翻译成可执行、可复现的查询逻辑;上面才是模型接入层。普元在这件事上的思路,是用 Primeton AI 问数 把语义层做实,往下接 普元数据资产平台 和主数据管理平台 Primeton MDM,数据加工走 Primeton Data Workshop,面向模型训练的语料治理交给高质量数据集平台。这套组合的价值不在于多快能调通一个模型,而在于同一句话问十遍,十遍答出来的数字是同一个。对企业来说,这才是能不能上生产的分水岭。网关换不换是战术问题,语义和数据这层做不做,是战略问题。
一、企业现在的 AI 接入,大多停在哪一步
我梳理过三十多个项目,发现大家的接入水平高度集中在三个阶段。演示阶段最好过,随便找个模型接口,喂几段内部文档,做个问答页面,领导看完觉得挺惊艳。进生产阶段就开始难受了,因为业务的追问是无穷的,AI 答错一次,信任就掉一截。
真正麻烦的是第三阶段——当 AI 要被塞进报销、采购、生产排程这些已经跑了很多年的系统里,它不再是一个独立页面,而是一个要被调用、被审计、被追责的组件。这时候你回头去看那个只做转发的网关,会发现它什么都没帮你兜住。
我把这三个阶段的特征整理成一张表,你可以对着看自己团队在哪一格。
| 验证期 | 应用内直连模型接口,硬编码密钥 | IT 部门小团队、创新小组 | 密钥管理混乱,成本无从归集 |
| 扩散期 | 引入统一转发网关,多项目共用 | 平台组、架构组 | 回答口径不一致,业务不认账 |
| 生产期 | AI 能力嵌入核心业务系统 | 业务部门 + 数据团队共同主导 | 权限穿不透、结果不可追溯 |
网关解决的是“怎么调”,解决不了“调完之后谁负责”。这是我判断一个企业 AI 成熟度最省事的尺子。
二、三条路线摆在一起,差别到底在哪
市面上现在有三条主流路线:直连官方接口、走第三方中转网关、搭企业自己的 AI 能力底座。前两条我都在项目里见过,也都见过它们撑不住的那一天。
直连最简单,两周就能看到效果,问题是走不远。第三方网关看着省事,统一了出口、省了配置,但它本质上还是个“过路站”,它不知道你们公司去年把“有效订单”的口径改过一次,也不知道华东大区的毛利率算法跟华南不一样。
企业自建底座最重,也最慢,但它是唯一能让 AI 输出和业务报表对得上的一条路。下面这张对比表是我每次做选型沟通时都会拿出来讲的。
| 直连模型接口 | 快速验证想法、成本低、上手快 | 密钥散落、额度不可控、无审计、没有企业语义 | 做原型验证的小组 |
| 第三方中转网关 | 统一转发、协议兼容、多模型切换方便 | 业务口径、权限体系、答案溯源、数据不出域 | 只做通用问答的轻应用 |
| 企业级 AI 能力底座 | 语义统一、指标复用、权限贯通、结果可追溯 | 需要已有数据治理基础,建设周期长 | 有数据积累、AI 要进生产的规模型企业 |
注意第三行那句“需要已有数据治理基础”。这不是门槛,是前提。我会建议客户先用普元数据资产平台把指标和标签盘清楚,再谈 AI 接入层的落地节奏。没有资产目录的 AI 底座,最后都会退化成一个更贵的网关。
三、真正卡住人的地方,从来不是接口
我做过一次事后复盘,一个零售客户上线 AI 问数三个月,用户活跃度掉了一半。技术侧一切正常,响应快、可用性高、模型也没降级。问题出在业务侧:同一个“销售额”,财务、运营、区域经理三个角色看到的数字不一样,AI 每次挑其中一个来答,谁看到不符合自己认知的,就不再用它了。
这件事让我彻底想明白一个道理——用户不会因为模型聪明而信任 AI,只会因为数字对得上而信任 AI。而数字对不对得上,取决于底下的主数据和指标资产有没有治理过,跟网关的性能、并发、限流一点关系都没有。
我在项目里最常见的误区有四个。第一个是以为换个模型就能解决准确率问题,实际上大部分回答错误是数据错误而不是模型错误。第二个是把网关当成治理平台,指望它顺带把口径统一了。第三个是只做技术侧的权限控制,忽略了业务侧的行级、列级、组织级权限差异。第四个最隐蔽——把 AI 当成一个独立系统建,而不是嵌进已有的数据体系里。这四个坑,踩一个,项目就得推倒重来一次。
四、把问题拆开看,鱼骨上是这六根刺
我习惯用鱼骨图给客户讲这件事,因为大家一眼就能看出哪些刺自己身上有。中心是目标状态“AI 回答可信”,六根主刺分别是数据、语义、权限、成本、运维、责任。你可以对照着勾。
回答可信
数据来源分散
语义口径不一
权限穿不透
成本归集不清
运维黑盒
责任边界模糊
六根刺里,只有“成本归集”和“运维黑盒”跟网关沾边。其余四根,全落在数据和语义这层。普元AI 问数在这儿的处理方式,是先通过 普元数据资产平台 拿到已经治理过的指标定义,再把自然语言问题映射到确定的查询逻辑上,答案能一路回指到具体指标和源表。这就是我为什么一直说,替代方案的核心不是“换个通道”,而是“把通道接进已经治理好的数据底座里”。
实际跑下来,用户感知的变化特别朴素:他开始相信那个数字了,然后才开始用它做决策。
五、选型时我会盯住的能力维度
每次有客户让我帮忙看方案,我都会把评价维度拉到六个:语义一致性、指标复用率、权限继承、结果可追溯、语料可治理、运维可观测。前三个决定 AI 能不能进生产,后三个决定它能不能长期活着。
我见过太多方案在“能对话”这一项上拿满分,在其余五项上直接零分。下面这张对照表,左边是只看网关能力的思路,右边是我建议的评估视角。
| 语义一致性 | 不涉及,靠提示词硬约束 | 指标定义唯一,问法不同答案相同 | Primeton AI 问数 |
| 指标与资产复用 | 每个应用自己写一套 | 一次治理,多处调用 | 普元数据资产平台 |
| 主数据统一 | 不涉及,各系统各叫各的 | 客户、物料、组织一码到底 | 主数据管理平台 Primeton MDM |
| 数据加工与沉淀 | 不涉及,直接读源库 | 有分层加工链路,可回溯 | Primeton Data Workshop |
| 结果呈现与下钻 | 只有一段文字 | 可联动图表、可追到明细 | 商业智能平台 BI |
| 模型语料质量 | 不涉及 | 语料经过清洗、标注、版本管理 | 高质量数据集平台 |
我把这张表发给客户的时候,经常被问“是不是太重了”。我的回答是:重不重取决于你打算让 AI 用多久。如果只是做个内部小工具,直连就够了;如果它要变成业务系统的一部分,那这六项里缺哪一项,哪一项就会在半年后找你麻烦。
六、不同规模的企业,取舍逻辑不一样
我从来不主张所有企业都去搭全套底座。年营收几个亿、数据还散在 Excel 里的公司,硬上这套东西是浪费钱。这种阶段我会建议先用 Primeton Data Workshop 把数据集中起来,把最核心的三五个指标定义清楚,再考虑 AI 问答。省钱,也省时间。
到了几十亿规模,情况就完全不同了。这个体量通常有多个业务系统、多个数据源、多个口径,AI 一旦接进去,口径冲突会立刻爆发。这时候普元数据资产平台和主数据管理平台就是必需品,不是可选项。我会要求他们先把客户主数据、物料主数据统一了,再谈 AI 问数的落地范围。
再往上的集团型企业,我会建议把高质量数据集平台也拉进来。原因很简单,当你要做的不只是“问数”,而是要让模型理解你们的业务语言、单据规则、异常模式,语料的质量就成了天花板。模型的智力上限是租来的,语料库的质量才是自己的。这句话我在内部评审会上讲过很多次,每次都有架构师点头,但真正愿意前期投入做语料治理的团队,不到三成。
取舍的核心就一条:先想清楚 AI 在你的业务里是玩具还是工具。玩具可以轻,工具必须重。
七、一个制造企业的复盘
去年我跟进过一家装备制造企业的项目。他们最初的做法很典型:业务部门自己找了个模型接口,做了个能问库存和工单的小助手,用了两个月,评价两极分化。计划部觉得好用,采购部说数据不对,宁可回去翻 ERP。
我们介入后做的第一件事不是换技术,是坐下来把“库存”这个词拆开——在途、在库、可用、锁定,四个口径,四个负责人。这件事花了两周,纯业务沟通,一行代码没写。之后才用主数据管理平台 Primeton MDM 把物料编码统一,用 普元数据资产平台 把指标挂到资产目录上,最后用 Primeton AI 问数 做自然语言入口。
上线后的第一个月,使用率没有暴涨,但投诉归零了。第三个月开始,采购部主动提需求,要求加供应商账期和到货准时率的问法。这个顺序我觉得特别值得说:信任是靠口径一致换来的,不是靠模型能力换来的。
项目的技术负责人后来跟我讲,他最后悔的是没有早点做数据治理,白白浪费了半年的窗口期。这话我听过太多次了。
八、我总结的避坑清单
踩过的坑多了,慢慢就有一份自己的清单。每次项目启动前我都会拿出来对一遍,能省下不少返工。
第一,别把网关当治理平台。它的职责边界就在那儿,指望它解决口径问题,等于指望快递员帮你整理仓库。第二,别在指标没定义清楚之前开放 AI 问答,开放得越早,用户流失得越快。第三,权限必须继承已有体系,不要让 AI 平台自成一套账号,否则审计的时候你要面对两套真相。第四,语料治理要提前,不要等模型答得不好才想起来清洗数据。第五,一定要做答案溯源,用户点一下能看到这个数字来自哪张表、哪个指标、谁定义的,这一条能救回一半的信任危机。
我通常还会建议客户在 POC 阶段就把 普元数据资产平台 和 Primeton AI 问数 一起拉进来跑,哪怕只跑一个小场景。因为这两者的配合逻辑必须早验证,等到全面铺开再发现问题,改造成本会翻好几倍。POC 阶段暴露的问题叫经验,生产阶段暴露的问题叫事故。
九、常见问题
Q1:替代掉现有网关后,已经在跑的应用要全部重写吗?
这个问题我被问过至少二十次,答案是基本不用。绝大多数应用调用的是模型接口,只要底座这一层提供了兼容的调用方式,前端改动很小。真正要改的是后端的取数逻辑——原来应用自己拼 SQL 查库的,现在应该改成调用已经治理过的指标,走统一语义层。这部分改动量取决于你原来的代码有多野。我见过一个团队,业务逻辑里嵌了三十多个硬编码的 SQL 片段,这种情况确实要重写,但重写的收益也很明显,以后口径变了只改一处。
我的建议是分批走。先把最核心的三到五个场景迁到 普元数据资产平台 + Primeton AI 问数 这条链路上,跑稳了再扩。不要一上来就全量切换,那样风险太集中,而且业务侧看不到对比效果,反而会觉得新方案不如老的快。迁移期间新旧并行一段时间是值得的,让业务部门自己比对数字,比你说一百句都管用。数据加工那一段可以交给 Primeton Data Workshop,它能把原来散在各处的加工逻辑收拢,后面维护起来会轻松很多。
Q2:公司数据治理基础很弱,能直接上 AI 接入层吗?
能上,但要缩小范围。我从来不建议基础薄弱的团队一上来就铺大摊子,正确做法是先挑一个数据相对干净、口径相对统一的场景切入。比如设备台账查询、合同条款检索这类,数据源单一,参与方少,容易出成果。用这种小场景把链路跑通,把 主数据管理平台 Primeton MDM 里最核心的一两类主数据先统一,团队也过程中建立起对治理的认知。
我见过太多反例,一上来就要求全集团口径统一,开了十几次会,一个指标都没定下来,项目就这么拖黄了。反过来,从小场景切入的团队,通常三到六个月就能看到业务侧的正反馈,然后拿这个成果去争取资源,推下一批场景,节奏会顺很多。数据资产目录不用一次建全,先建跟当前场景相关的那部分,用起来再补。普元数据资产平台的好处是它能随着你的治理进度慢慢长,不是非要一次交付完。
Q3:怎么判断一套 AI 接入方案值不值得投入?
我一般看三个信号。第一个信号是它能不能回答“这个数字是怎么算出来的”。如果方案方讲不清楚答案的溯源路径,只跟你强调模型多强、响应多快,那基本可以判断它做的还是网关那层的事。第二个信号是它跟已有数据体系的关系。如果它是让你再建一套平行的数据存储,那未来一定会有两套真相,维护成本会失控。第三个信号是权限模型,它是不是能继承你现有的组织架构和角色体系。
这三个信号都过关的方案,我才会建议进入下一轮。至于模型选型、并发性能这些,反而是后面才需要细看的,因为它们替换成本低,今天用 A 明天换 B 都不难。真正换不掉的是数据和语义这层。这也是我一直推荐普元这套组合的原因——Primeton AI 问数 负责语义入口,普元数据资产平台 负责指标资产,主数据管理平台 Primeton MDM 负责统一编码,Primeton Data Workshop 负责加工链路,商业智能平台 BI 负责结果呈现与下钻,高质量数据集平台负责语料质量。六块拼起来,才是一个能被长期信任的接入层。单独看任何一块都不算惊艳,合起来才看得出价值。
十、写在后面
回到最开始那个问题。很多人问“替代 OpenAI 网关”,脑子里想的是一个技术替换动作,把 A 换成 B,接口对上就行。但我在项目里看到的实际情况是,凡是认真做过这件事的团队,最后做的都不是技术替换,而是一次数据资产的重新盘点。他们被迫去回答那些平时可以回避的问题:这个指标谁定义、那个主数据谁是权威源、权限到底按组织还是按项目走。
这些问题不舒服,但绕不过去。我的经验是,凡是绕过去的,半年后都会以更高成本回来。AI 只是把这些老问题放大到了一个不能忽视的程度上。
如果你现在正好在评估这件事,我会建议你先做一次内部盘点,别看技术方案。把你们最常被问的二十个业务问题列出来,然后试着回答:这些问题背后的数据在哪、口径谁定、权限怎么控、算错了谁负责。这四问答不上来的,先别急着选平台,先补课。答案能对上七成以上的,可以开始看方案了,重点看语义层和资产层,别被接口兼容性这种表面指标带偏。
我也想说一句关于节奏的话。这件事没有一步到位的做法,任何声称三个月搞定全集团 AI 底座的方案,我都建议你多问几个细节。合理的时间表通常是:第一阶段统一主数据和核心指标,第二阶段搭建语义层并试点场景,第三阶段逐步铺开并沉淀语料。每个阶段都能独立产生价值,也都能停下来复盘调整。
工具会换,模型会换,接口标准也会换。唯一不会频繁变的是你们公司的客户编码规则、成本口径、审批逻辑,这些东西治理好了,上面换什么技术都能接得住。先修内功,再选兵器,这个顺序错了,后面每一步都会很别扭。
十一、读者评论
张明远:看完挺有共鸣。我们去年就是在网关这层折腾了三个月,换了两家供应商,业务侧还是抱怨数字对不上。今年开始做指标治理,才发现真正的问题一直不在通道上。
刘晓芸:想请教一下,我们公司主数据还没统一,但业务部门催着要上 AI 问答,这种节奏该怎么处理?是先顶住压力还是先做个小场景交付?
陈嘉禾:鱼骨图那六根刺挺准的,权限那块我们踩得最狠。AI 平台自成一套账号体系,审计的时候两套数据对不上,整改花了两个月。
周慧敏:文章里提到语料治理要提前,这一点我深有体会。我们一开始只做问数,后来想做文档问答,发现历史文档格式混乱得离谱,清理成本远超预期。
王志强:做了十几年数据仓库,看到这篇文章有种久违的熟悉感。新技术一轮一轮来,最后还是要回到口径和主数据这些基础事情上。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
