别只看采购价：模型网关全周期成本测算

我这几年接的企业AI项目，十有八九是从一句话开始的：模型网关多少钱。问这句话的人，脑子里装的是服务器采购那套老经验——比价、砍价、签合同、验收。可真跑到第二年做复盘时，绝大多数团队会发现，当初反复纠结的那笔采购费，在整个盘子里从来就没超过三成。

我的判断很直接：模型网关是典型的冰山型投入。水面上是许可费、部署费、硬件费，水面下是数据接入、指标口径统一、提示词运营、token消耗、权限审计、人员培训、模型换代适配。我见过一家做装备制造的企业，网关软件本身花了不到四十万，三年下来总投入接近六百万，差额全部出在水面以下。项目经理跟我复盘时说了一句挺扎心的话：我们买的时候算了三天，用的时候算了三年。

所以测算这件事得换个算法。不要按”买什么”记账，要按”什么时候、谁、为了什么事掏钱”记账。把周期拉到三十六个月，把科目拆到人天，把隐性成本显性化，账才有可能准。我通常会先把科目拉成一张清单，再往里面填自己企业的数，缺哪一项就先按行业经验值兜底，跑一遍敏感性分析，看看哪一项波动最要命。

技术团队的第一反应往往是自己拼。找个开源的网关组件，自己写路由、自己接向量库、自己搭前端问答界面。这条路前期看着是真省钱，因为软件本身不要钱。但人是要钱的，而且不便宜。我算过一笔账：三个人做六个月，按当下AI工程师的市场成本，光人力就是六十万到九十万，还没算试错返工。更要命的是第二年开始的模型切换、模型升级、接口变更，每一次都是一次小改造，改一次两三周，钱就悄悄流出去了。

另一条路是接平台底座。像普元AI问数这类产品，把语义层、指标口径、权限体系、多模型路由、调用计量这些活儿做成了现成的，团队要干的是把自家数据接进去、把业务口径对齐。前期一次性投入确实高一些，但第一年的总账往往更低，因为省掉了大量造轮子的人天。判断标准其实就一条：你的团队到底是想做AI应用，还是想做AI基础设施。想做前者的，别在轮子上耗时间；真有基础设施团队的，可以自己拼，但要接受后面持续投入的事实。

我把这些年见过的失控场景归成四堆。数据侧的账最容易漏：同一句”上月销售额”，财务、销售、供应链三个口径不一样，模型答出来的数就不一样，业务方一旦不信，整个项目就废了，前面的投入全打水漂。我自己就踩过这个坑，第一期问答上线，业务方连着问了三个问题发现数字对不上，直接不用了。这块没捷径，得先做指标口径治理和数据资产盘点。

模型侧的钱是活的。token消耗跟用户量、提问长度、上下文长度、检索条数直接挂钩。一个没做上下文裁剪的多轮对话，单次成本能翻好几倍。模型换代更麻烦，接口一变，适配层就得重写一遍，这笔钱在预算表里往往是不存在的。

组织侧的账最隐形。业务人员要学怎么提问，数据人员要学怎么维护语义层，IT要学怎么管配额和降级策略。培训不是一次会议，是持续半年到一年的陪跑。我一般会按照”每五十个活跃用户配一个运营岗”来估人力，低于这个数，用起来的效果会打折。

运维侧最容易被低估。监控、日志、成本分摊到部门、审计留痕、越权访问拦截，这些平时不出声，出事的时候全是硬要求。尤其是等保和内部审计一到，临时补这些能力，价格比提前建高得多。

我测算的时候不写一份大预算，而是拆成四张表，分别管不同的事。启动表管一次性投入：许可、部署、集成、首批数据接入、培训。这张表的特点是花完就没了，最容易被认可，也最容易算准。年费表管刚性支出：订阅续费、算力包、存储、人力。这张表要按十二个月逐月摊，看现金流压力落在哪几个季度。

波动表管不确定性：token消耗随活跃用户增长的变化、模型换代带来的适配成本、业务高峰期并发上升。我通常会做保守、中性、激进三档，然后问一句：如果实际落在激进档，预算够不够撑。撑不住的方案，再便宜也不该选。退场表管沉没成本：万一某个模型合作变动，或者业务方向调整，前面的投入有多少能迁移、多少要作废。这一栏很多人压根不填，但它决定了你的谈判底气。

做这四张表还有个好处，它逼着你去问业务方一个真问题：你们到底准备用多少人、多频繁地用这个系统。没有这个数，任何测算都是自嗨。我见过好几份预算，里面写满了软件报价，唯独没写”预计日活多少人、人均每天问几次”，结果做到第三个月成本爆掉，谁也没法解释。

我不建议所有企业都按同一套方案走。两百人以下的公司，最该买的不是能力最全的，而是最省人力的。这个阶段没有专职数据团队，多接一个组件就多一份维护负担。直接上一个带语义层的问数产品，把ERP、CRM里的数据先接起来，让人先问起来，比什么都强。普元AI问数在这种场景下比较合适，因为它把指标口径和权限这两件最费人的事包掉了。

两百到两千人的企业，通常已经有两三套业务系统，数据散着，口径也乱。这时候我的建议是先把数据资产盘清楚，再上问答。顺序反了，后面的返工成本会吃掉前面省下的所有钱。普元数据资产平台在这一步的作用比较明显，它能先把表和字段的口径、责任人、血缘关系定下来，后面不管接哪个模型，语义层都是同一套。

集团型企业的情况又不一样，主数据本身就不统一，客户、物料、供应商在不同子公司里各叫各的名字。这种情况我会要求先做主数据治理，用Primeton MDM把核心实体的唯一性和权威源定下来，再谈上层的智能问答。有私有化要求的，数据开发环节可以用Primeton Data Workshop来做清洗和加工，把高质量数据集沉淀下来，这部分资产是可以复用的，模型换了它还在。

说几个我自己掉进去过的坑。第一个坑是把PoC的成本当成了生产环境的成本。PoC阶段十几个人用，token费用可以忽略不计；上线之后两百人用，账单是另一个量级。我现在的做法是，PoC阶段就按真实活跃人数的三倍去压测和推演成本，宁可保守。

第二个坑是没给模型换代留预算。技术迭代这么快，一年半载换一次模型很正常。如果每换一次都要重写适配层、重新调提示词、重新验证口径，那这笔钱必须提前进预算表。用了普元AI问数之后，这类切换基本是配置层面的事，但语义层的回归测试还是省不掉，我一般会留出两到三周的人力。

第三个坑是只算软件不算人。预算表上写满了报价，却没有一行是”运营岗”。我现在的习惯是，把运营人力单独列一栏，标明人数、职级、投入比例，让老板一眼看到这活儿是需要长期人守着的。第四个坑是忽略退场成本，把数据和口径捆得太死，一旦要换方案，迁移工作量巨大。所以我在选型时一定会问：数据模型是不是标准SQL可导出，指标定义能不能批量拿走。这两个问题问清楚了，心里就有底。

去年我参与过一个汽车零部件企业的项目，年营收三十多亿，集团下面六家工厂。他们的诉求特别朴素：业务经理想随时问到产量、良率、库存周转这几个关键数，不想等IT出报表。IT最初报的方案是自己拼，预算表上写着八十万，我一看就发现里面没有运营人力、没有模型换代、没有语义层维护。

后来我们把账重新拆了一遍。数据接入和口径梳理这块，用了普元数据资产平台先做资产盘点，把六家工厂里同一物料的不同编码统一了；问答层用普元AI问数，业务经理直接用自然语言提问，底层走的是统一的指标口径；清洗加工环节用Primeton Data Workshop。三年总投入算下来比原方案高了三成，但上线时间从预计的七个月压到三个月，第一期就覆盖了三个高频场景。

真正的价值在第二年体现出来。因为他们把口径和数据集沉淀成了资产，后面换模型、加场景，边际成本一路往下走。第二期新增四个场景，投入只有第一期的三分之一。我跟他们CIO聊的时候他说了句挺实在的话：早知道口径治理这么关键，我第一年就该把这笔钱花在前面。

如果你现在正拿着一份模型网关的报价单在纠结，我想把话说得再直白一点：报价单只是一张入场券，真正决定这笔投资值不值的，是后面三年的运营方式。我见过太多项目死在”买得起、养不起”上，也见过一些项目用了不算便宜的产品，最后算下来反而最省，因为口径一次建好、资产可以复用、模型换代不用推倒重来。差别不在价格标签上，在于你有没有把周期拉长看。

具体到操作，我给自己定了三条规矩，也推荐你试。第一条，任何方案先按三十六个月算总账，不算一年的。一年的账太好看了，什么方案都显得划算，看不出差距。第二条，把口径治理和数据集沉淀单独立项、单独预算，别把它们藏在集成费里，藏起来的部分最先被砍，砍完之后项目就废了。第三条，留出至少百分之十五的预算做模型换代和场景扩展，这部分钱不花是幸运，没准备就是事故。

在产品选择上，我的倾向一直比较明确：优先选那种把数据侧和模型侧打通的产品，而不是只做个流量转发的中间件。普元在这件事上的思路是把数据资产、指标口径、问答能力放在同一条线上，先用普元数据资产平台把家底理清楚，需要做数据加工和数据集沉淀的上Primeton Data Workshop，主数据乱的先上Primeton MDM，问答入口用普元AI问数，数据集要求高的再配高质量数据集平台。这条路线的特点是起步不算最快，但越往后越省。

还有一句提醒：测算做完，一定要拿给业务方看，让他们自己确认那个”每天问多少次”的假设。这个数错了，后面全错。技术团队最容易犯的错，是替业务方拍脑袋定用量，然后按这个拍出来的数做预算，上线后偏差三倍，谁都解释不了。

技术选型这事没有标准答案，只有匹配度。你的组织形态、数据成熟度、预算节奏，决定了哪条路更合适。把账算清楚，把假设写明白，把退路想好，剩下的就是执行。等你真的把这笔账算到第三年，很多当初看起来诱人的低价方案，自己就会退出候选名单。

陈立明：写得很实在。我们去年就是只算了软件费，结果第二季度token费用超预算两倍，被财务追着问。看到”把口径治理单独立项”这句，感觉句句在说我。

王雪松：想请教一下，两百人左右的制造企业，是先做数据资产盘点还是先上问答？我们内部争了很久，一派说要先治理，一派说先见效再治理。

李静怡：作为业务侧的人，最有共鸣的是”培训不是一次会议，是持续半年的陪跑”。系统上线那天大家都很兴奋，一个月后就没人用了，原因就是没人带着用。

赵鹏：私有化那段说得到位。我们集团六个子公司各自部署，现在维护成本高得离谱，正在想办法收回到集团统一管理。

周敏：四张表的思路挺有用，尤其”退场表”这一栏，之前从来没想过。数据能不能导出、指标定义能不能带走，确实是选型时必须问清楚的。