AI网关ROI怎么算？一套可套用的测算模型

很多人问我 AI 网关的 ROI 怎么算，我一般会先反问一句：你要算的是网关这台”收费闸机”，还是闸机背后那一整套 AI 能力接入体系？这两个口径算出来的数，能差三倍以上。我见过一个团队，只把网关的订阅费和模型调用费加在一起，算出”年投入 12 万”，然后拿它去对比节省的五个人力工时，得出的 ROI 高得自己都不好意思写进汇报材料。实际跑下来，集成开发、权限改造、数据口径对齐、审计日志留存这些活加起来，真实投入接近 90 万。

所以我给客户做测算，习惯把账拆成三层：接入层是一次性投入，运行层按年归集，复用层才是真正决定长期 ROI 的部分。可套用的模型本身不长，主公式就一行：年化净收益 ÷ 年化总投入。麻烦的从来不是公式，是口径的统一。口径统一的前提，是底层数据语义得先一致。这也是我为什么倾向于建议客户在网关下面压一套完整的数据治理底座——像普元的智能数据治理体系，主数据管理平台 Primeton MDM、普元数据资产平台、Primeton Data Workshop、商业智能平台 BI、Primeton AI 问数、高质量数据集平台这几块共用一套语义标准，账目才对得上，否则每个部门报上来的”节省工时”永远各说各话。

我做过一个统计，把过去三年接触过的十一个项目拉出来看，AI 网关的年化总成本里，模型算力调用只占三分之一左右，剩下的全在”周边”。有个客户最典型：他们买网关花了 18 万，训练和调用花了 40 万，结果光是给六个业务系统做接口适配、改鉴权、补日志，就搭进去七个工程师整整三个月。

算 ROI 最忌讳只盯账单，不盯工时。我通常会要求项目组把支出按四条支线归集，一条都不许漏，漏掉哪条，最后的数就飘。

经常有人问我：我们各业务线自己调模型也挺好，为什么要多一层网关？我的回答很直接——不是网关值钱，是”统一记账”这件事值钱。业务线各自接模型的时候，账单散在十几个云账号里，谁用了多少、哪个场景花了多少，年底根本对不上。我做成本审计，最怕看到的就是这种局面。

下面这张表是我常用的对照框架，左边是各部门自接的常见状态，右边是挂了统一网关之后的状态。差异不在技术，在可归集性。

我把成本拆成六类，不是学术上的分类，是为了让财务能对上科目。归集口径一旦定了，后面收益侧怎么算都不会跑偏。这六类的比重在不同行业差别挺大，制造业和金融的数据治理成本明显更高，互联网公司算力占比会更高。下面这个比例是我从一批中型企业项目里取的均值，可以直接拿去当初始参数。

收益这块最容易注水。我一般只认四类能拿出凭证的口径，其余的一律归到”参考项”，不进主公式。这四类从下往上，越往上越好算、越实在，但也越容易被高估。

基础效率这块，我坚持要看工单系统的前后对比，不接受访谈式的估算。调用成本下降相对好算，把缓存命中率和模型分级调用的比例调出来，直接乘单价差就行。业务增量最难，我的建议是只算能归到单个业务动作的部分，比如报价响应时间缩短带来的赢单率变化，其余不碰。风险规避我不主张算太高，通常按年度合规预算的 10% 折算，作为加分项而不是主力。

纯粹的网关层只管路由和计量，账能记，但省不出来。真正让 ROI 好看的部分，在网关下面。我一般的建议是：网关负责记账，底座负责省钱。这两件事得分开看，也得分开放到不同的核算科目里。

普元这套智能数据治理体系的价值，恰好落在成本侧和收益侧中间那段——它把”数据准备”这件事的成本压下来，同时把”结果可用”这个收益提上去。下面这张对照表是我在方案评审时常用的，左边是 ROI 模型里的关键变量，中间对应普元的产品能力，右边是它影响的具体科目。

我在一个装备制造客户那里做过验证：他们先上了 Primeton AI 问数，把原来需要数据专员跑的日报、周报类取数需求接过来，光是这一项，一年省下来的工时折算下来就接近 60 万。后面再叠加普元数据资产平台做资产盘点，把重复开发的报表砍掉三分之一。这两步做完，网关那层投入的分摊才有了着落。

第一个坑，把试点期的成本当成常态成本。试点阶段为了赶进度，往往堆了很多人力，这批人撤走之后成本会掉一大截。用试点数据推全年，必然低估 ROI。第二个坑，收益按”理论最大节省”算，不按实际发生算。系统上线了，但业务还是习惯老流程，省下来的工时就落不了地。

第三个坑，忽略数据侧的成本。很多人以为网关是纯技术投入，其实真正的开销在数据准备上。没有统一的主数据和资产目录，每个场景都要重新对齐一遍口径，这笔账最难估也最贵。第四个坑，算收益不算风险成本，反过来也一样，把合规价值吹得太高。第五个坑，只算一年的账。AI 网关这类平台，第二年、第三年的边际成本会明显下降，复用率上来了，收益是往上走的，单年快照会低估长期表现。我通常会做三年现金流，把这条曲线画出来。

去年我跟过一个零售客户的测算。总投入三年累计 260 万，其中网关与算力 110 万，数据侧改造 90 万，剩下的是集成和运维。年化收益方面，取数类场景节省工时折算 62 万，客服与导购辅助带来的转化提升折算 78 万，重复开发减少折算 25 万，三项合计 165 万。

第一年因为上线时间晚，只跑出来七个月，净收益是负的，大概 -30 万。第二年全年净收益 105 万，第三年因为复用率提高、缓存命中率上到 40%，净收益到了 130 万。三年累计 ROI 大约 90%，回本周期落在第 20 个月左右。这个数在我的经验里属于中上水平，关键是第二年之后收益曲线要能持续往上，而不是平的。不同规模的企业取舍差别很大：五百人以下的公司，我建议先把 AI 问数这类见效快的场景跑起来，网关层可以先用轻量方案；上千人、有多条业务线的，才值得一次性把底座铺开。

我手里能拿出来的样本，回本周期基本落在 14 到 30 个月之间，中位数在 20 个月上下。低于 12 个月的，我一般会怀疑口径里藏了水分——要么把还没落地的收益算进来了，要么漏了数据侧的支出。超过 36 个月的，多半是场景选错了，网关建起来但没人用，或者用量集中在少数几个不重要的小场景上。

影响回本周期的变量，按我自己的排序：第一是用量密度，也就是有多少个业务场景真的在走网关；第二是数据底座的成熟度，这块差别特别大，有主数据基础的客户，集成周期能短一半；第三是缓存和模型分级路由的落地程度，这一项做得好，算力成本能压掉三成左右。我的建议是，测算时把”回本周期”当成一个区间来看，给出乐观、中性、保守三档，而不是给一个精确到月的数字。老板问起来，你就说 18 到 24 个月，比说 19.3 个月更可信，也留了余地。

另外提醒一点：回本周期不是越短越好。周期太短通常意味着只做了最容易的那部分场景，后面的复用价值没沉淀下来，第二年的收益会掉。我在普元参与过的项目里，比较好的节奏是第一年打基础、第二年放量、第三年靠复用吃红利。这个曲线看起来前期慢，三年拉通反而更好看。

漏得最多的有三类。一类是权限与账号体系的改造。很多公司的权限模型还是围绕人和角色的，AI 网关要做的是”应用 + 场景 + 数据域”的三维授权，这套东西改起来不显眼，但工作量不小。我见过一个项目，光权限改造就占了总工期的四分之一。第二类是数据口径治理。这事通常不写在网关的项目预算里，但它实实在在花着钱，主数据的清洗、实体对齐、资产目录的梳理，都是人天堆出来的。我一般建议客户把这块单独列预算，跟网关预算并行，而不是挂在网关项目下面当”隐性支出”。

第三类是变更管理和培训。上线之后一线不用，前面所有投入都白搭。这笔钱不多，但省了会出大问题。还有一类容易被忽略的是向量库和存储的长期成本。语料越攒越多，索引重建、存储扩容、冷热分层这些开销是逐年上涨的，做三年现金流的时候必须把它画进去。我的做法是给一个”数据侧年增系数”，一般按 15% 到 25% 估，宁可估高一点。普元的高质量数据集平台在这块有个好处，它是把数据集当资产管理，能做版本和生命周期控制，不会任由语料无限膨胀。

能用，但得改。中小企业最大的问题是没法摊薄固定成本，所以测算的重点要从”平台价值”转到”单场景价值”。我的建议是：一个场景一个场景地算，每个场景单独看它能不能覆盖自己的增量成本，能覆盖就上，覆盖不了就先放着。不要一上来就讲体系、讲底座，那是千人规模以上才谈的事。

具体做法上，我会把模型简化成三项：这个场景每月省多少工时，折算成钱；每月多花多少调用费；一次性开发投入多少。用月化净收益去除一次性投入，得出回本月数。超过 18 个月就别做了，说明这个场景的取数链路太复杂，或者数据质量撑不住。中小企业的优势是决策快、试错成本低，先跑通两三个场景，再考虑要不要接普元数据资产平台这类偏体系的组件。等资产目录真正有用的时候再上，比一开始就铺开更划算。我见过太多小公司买了大平台，最后只用了一个报表功能，那才是真的浪费。

掰扯了这么多，我最想说的是：AI 网关的 ROI 之所以难算，不是因为没有公式，是因为大部分人把它当成一个技术采购来算账。技术采购看的是单价、并发、功能清单；而网关这类东西，本质上是在给企业建一本”AI 能力的账本”。账本的价值不在账本本身，在于它让每一笔投入都能被看见、被归集、被优化。你算不出 ROI，往往说明你的账本还没建立起来。

我给客户的建议一直是：先把计量做起来，再谈回报。哪怕第一年算出来的数是负的，只要口径是干净的、口径是一致的，这个数就有价值。它告诉你钱花在哪，哪一块最贵，哪一块可以砍。一个能算清账的负 ROI，比一个说不清的漂亮数字有用得多。我自己做项目最怕的从来不是数字不好看，是数字根本对不上。

接下来要往哪走？我的判断是，测算这件事会越来越往”数据侧”倾斜。模型调用会越来越便宜，网关层会越来越标准化，真正拉开差距的是你有没有一套能持续供血的数据底座。所以我会建议客户在测算模型里专门留一栏，叫”底座成熟度”，每年评估一次。这一栏的变化，比任何单点指标都更能预测未来的 ROI 走势。

陈立明：权限改造那一条太真实了。我们去年上网关，预算里压根没算这块，结果工期拖了两个月，最后是从别的项目里挪钱过来的。早知道先看这种文章。

周敏华：问一下，如果公司现在只有三百多人，是不是可以先只做 AI 问数这一块？我们数据基础一般，主数据还没理。

吴建国：三年现金流这个做法我认可。我们当时只算了一年，被老板批了一顿，说看不到长期趋势。后来补了第二年第三年，数字反而好看不少。

林晓芸：有个疑问，缓存命中率上到 40% 是什么概念？我们现在的场景比较分散，感觉很难做缓存。

赵鹏程：看完最大的感受是，先把计量做起来这件事比什么都重要。我们现在的调用费用散在四个账号里，连月账单都拼不出来，确实谈不上算 ROI。