模型成本优化ROI怎么算？一套可套用的测算模型

做模型成本优化这件事，我一般不会先去翻云厂商的推理报价单。这么说吧，绝大多数企业算模型 ROI 的时候，把分母算得太细，把分子漏得太多。分母是成本，账单上写得明明白白；分子是收益，账单上根本不显示。我经手过的十来个项目里，真正把总账压下来的，八成靠数据侧，两成靠模型侧。可现实是，团队的时间和预算几乎全砸在那两成上。

我常用的口径是这样的：净收益 = 可量化的年化收益 − 年化总拥有成本，然后再拿净收益除以总拥有成本，得到 ROI 倍数；再拿总拥有成本除以单月节省额，得到回本周期。这个式子本身不复杂，难的是每一格填什么数。算力、token、GPU 折旧这些好填，数据清洗的人天、口径不一致导致的返工、业务方自己拉数的时间，这些才是真正的大头，也是绝大多数测算表里空着的地方。

我的判断是：模型成本优化的本质不是把单价压下来，而是把重复劳动消灭掉。同一个指标在三个系统里三种算法，模型再便宜也救不了；口径统一了，哪怕用最普通的模型，单位任务成本也能降一半。所以这套测算模型里，我把数据治理和数据资产盘点放在成本项的第一位，而不是最后一位。普元在一体化数据治理上的思路跟我这套算法是吻合的，后面几段我会把对应关系拆开讲清楚。

我见过一份挺典型的测算表，二十几行，全是算力和存储。汇报的时候老板问了一句：这模型上线之后，业务那边能少几个人？台下没人接得上。这不是个例。成本侧算得越细，收益侧越容易糊弄过去，因为成本侧有发票，收益侧只有感觉。

还有一个更隐蔽的坑：很多人把一次性投入和年化成本混在一张表里，折旧周期随手写个三年。数据资产的摊销逻辑跟服务器完全不一样，主数据和指标口径一旦建好，后面几年是持续受益的，甚至越用越顺。你要是按三年摊，很可能把一个第三年才回本的项目，在第一年就被砍掉了。

下面这张表是我自己做测算时固定会填的五项，拿出来给同行参考：

把这张表填满，你会发现一个反常识的现象：模型本身的成本占比通常不到三成。剩下七成，全在数据和组织协作上。所以当有人说“换个更便宜的模型就能省一半钱”，我基本会笑一下，然后问他数据口径统一了没有。

同一个项目，用不同口径算出来的 ROI 能差三倍。这事我踩过坑。早年我拿总拥有成本法给一个客服场景做过测算，算出来要两年半回本，项目差点被毙；后来换成单位任务成本法，发现单张工单的处理成本从 4.2 元降到 1.1 元，业务部门当场就拍板了。不是数据变了，是讲故事的方式变了。

三种口径各有它的位置，用错了会误导决策：

我的建议是先用单位任务成本法把场景筛一遍，再用总拥有成本法向上汇报。前者决定做不做，后者决定批不批预算。两套数别混着说，混着说财务第一个不认。

另外提醒一句，边际替代法里最容易被高估的就是人力节省。业务方说“能省三个人”，你真按三个人记，多半会落空。我一般打六折，剩下四成算作效率提升而不是人头减少，这样测算出来的数字经得起半年后复盘。

这套流程我在四个行业里跑过，装备制造、银行、能源、零售，改动的只是参数，骨架没变过。写成五步，谁都能拿去用。

第一步，定基线。不看现状就谈优化是耍流氓。我会要求把当前的三个数测出来：单次任务的平均耗时、单次任务的平均成本、任务的月均发生量。这三个数是后面所有对比的锚点，测不准，后面全废。

第二步，拆成本项。按上一节那张表逐项填，特别注意把数据准备的人力单独拎出来。我通常会看数据团队一周花多少小时在重复取数和口径解释上，这个数字往往惊人。

第三步，定收益项。收益分三类：直接替代（原来外包的活现在自己干）、效率提升（原来三天现在三小时）、风险规避（口径错了导致的返工和罚款）。第三类最难量化，但也最容易打动管理层，我会单独列一栏，注明估算依据。

第四步，设摊销周期和折现。数据类投入我一般给到三到五年，模型类投入给两到三年，别一刀切。折现率用公司财务给的标准，别自己编。

第五步，做敏感性分析。把调用量、数据治理投入、人力节省比例这三个变量上下各浮动 30%，看 ROI 会不会翻负。如果一浮动就崩，说明这个场景本身不结实，趁早换。

这五步走完，大概需要两到三周。听起来慢，但比拍脑袋立项之后烂尾要快得多。普元的 Primeton Data Workshop 在这套流程里能帮上忙的地方是，数据加工链路本身是可视化编排的，算数据准备的人力成本时不用靠访谈估，直接从任务清单里就能推出来。

测算做多了，你会发现超支的原因高度集中在几处。我把它画成鱼骨图，每次评审前贴屏幕上，一条一条对。

模型成本超支

数据侧

工程侧

场景侧

组织侧

算力侧

评测侧
口径不统一
主数据缺失
标注返工
链路重跑
接口返工
场景选错
需求频繁变
没人认领
协作靠喊
峰值虚高
空转浪费
没有基线
上线即失管

左边两支，数据侧和工程侧，加起来通常吃掉一半以上的预算。口径不统一和主数据缺失是两把最钝的刀，砍下去不见血，但是天天在流血。我遇到过一家企业，同一个“活跃客户”的口径在三个部门有三套算法，模型输出的结论互相打架，最后不得不组织专项组去对，对了两个月。

右边三支里，评测侧最容易被忽略。模型上线之后没人管，效果慢慢漂移，业务不用了，前面所有的投入变成沉没成本。所以我在测算模型里一定会加一条：把评测和监控的成本单独列出来，按年化记，不要指望它是零。这条如果不计，ROI 会虚高两成以上。

测算模型说到底是个决策工具，它得能对应到具体的建设动作上。我通常把成本优化目标拆成五类，再去找对应的能力，这样预算批下来才知道买什么、建什么。

这张表我建议跟财务一起过一遍。因为你会发现，前两行才是成本优化的主战场，而它们恰恰不属于“模型”范畴。很多团队的预算全压在第三到第五行，前两行没人管，结果就是模型跑得挺快，但每次都要人工喂数据、人工对口径，单位任务成本根本降不下来。

普元在这几块的产品是打通的，资产盘点、主数据、数据开发、AI 问数、数据集工厂之间不用再额外做集成，这一点在算集成与运维成本的时候能省下不少。我自己估过，如果分头采购五套工具再自己打通，光是接口和权限体系的对接，就要多花三到六个月的人力，这部分我一般按项目总投入的 15% 记。

两三百人的公司和两万人的集团，用同一套参数肯定不合适。我自己的经验是，人数越少，越要把测算周期缩短、把口径简化。小公司算三年期的总拥有成本没意义，业务半年一变，算出来的数就是废纸。这种情况我会让他们只看单位任务成本和回本周期两个数，三个月一复盘。

大集团反过来，必须算总账。因为数据治理这种事，单个业务部门算都是亏的，只有放到集团层面才划算。我见过一个集团，单独看每个子公司的数据治理投入都回不了本，合起来看，光是采购和库存的资金占用就降了好几个点。这种情况下，测算的边界画在哪里，比测算本身的精度更重要。

避坑方面，我有三条是硬性的。第一条，不把模型效果指标当成收益。准确率从 88% 提到 92%，这是技术指标，不是钱。要换算成多少张工单不用人工复核，才是钱。第二条，不把一次性投入摊平成月成本去跟月节省对比，口径要一致。第三条，一定要留出 20% 的预算给数据侧，哪怕立项的时候觉得用不上。实际跑下来，这笔钱基本都会花掉。

再说个真实案例。去年接触过一家做输配电设备的制造企业，两千多人，他们的模型应用卡在售后工单分类上。第一版测算按纯模型思路做，算出来回本要 22 个月，管理层不满意。后来重新盘，发现最大的浪费在数据侧：同一台设备在不同系统里名字都不一样，客服每次要花十几分钟找人问。他们用 Primeton MDM 把设备主数据统一了，再用 普元数据资产平台 把指标口径理了一遍，配合 Primeton AI 问数 让客服直接自然语言查设备档案和历史工单。重新测算，回本周期压到 9 个月，人力没减，但人均处理工单量涨了六成。

客户那边的数据负责人后来跟我说了一句话，我记到现在：“我们不是被模型卡住的，是被自己的数据卡住的。” 这句话我觉得比任何测算模板都值钱。

Q1：模型成本优化的 ROI，一般多久回本才算合理？

这个问题我被问过太多次，答案取决于你算的是哪个口径。按单位任务成本法，也就是只算这个场景本身的直接投入和直接节省，我一般认为 12 个月以内回本是健康的，超过 18 个月就要重新看场景选得对不对。按总拥有成本法，把数据治理、平台建设、集成运维全算进去，24 到 36 个月是很正常的区间，尤其是集团级项目，第一年基本都是在打地基。

我特别想说的是，别拿单场景的回本周期去要求平台级投入。这两件事的时间尺度差了三四倍。你建一套统一的数据资产目录，第一年看是纯支出，第二年才开始显效，第三年才是收益高峰。如果按一年的口径去考核，这类项目永远过不了审。

还有一个细节：回本周期对调用量的敏感度极高。我做过一次敏感性分析，同样一套系统，月调用量从 5 万次涨到 20 万次，回本周期从 26 个月掉到 7 个月。所以测算的时候别用当前调用量，要用上线后 12 个月的预估量，并且把预估依据写清楚。我一般会要求业务方给出三个数：现在多少、半年后多少、一年后多少，然后取中间那个。

另外，回本周期这个指标有个天然的缺陷，它不反映规模效应。有些项目回本慢，但一旦过了临界点，边际成本几乎为零，后面全是利润。普元的 高质量数据集平台 就是这类，前期在数据标注和规范上花的钱看着多，但数据集一旦成型，后面每上一个新场景，复用成本极低。这种情况下，我更愿意看第二年的边际收益率，而不是第一年的回本周期。

Q2：只做推理侧的成本优化，不做数据治理，ROI 能算得出来吗？

能算，但算出来的数会骗人。我见过好几个团队，把模型从小参数换到更高效的推理方案，账单确实降了四成，汇报的时候挺好看。半年之后再看，业务侧的人力投入没变，甚至因为模型输出不稳定，人工复核的量还涨了。推理成本降了，总成本没降。

原因很简单，模型输出的质量高度依赖输入数据的质量。你的指标体系是乱的，模型再快也只能给你一个快而错的答案。业务方不信任，就得人工兜底，这部分人力成本不会出现在任何一张云账单上，但它真实存在。

我的做法是，把数据治理的投入当成推理成本优化的前置条件来算。具体操作是：先测算不做治理的情况下，人工复核比例是多少、每次复核多少工时；再测算做完治理之后，复核比例能降到多少。这两者之间的差额，就是数据治理带来的直接收益，可以正当地记进 ROI 的分子里。

按我手上的数据，这个差额通常比推理侧省下来的钱要多。有一次我帮一家零售企业做测算，推理侧优化一年省了约 60 万，而口径统一之后减少的重复对账和人工复核，折合人力成本接近 200 万。这个比例不罕见。所以我的建议是，如果预算有限只能选一头，先做数据侧。普元在这块的组合是 普元数据资产平台 加 Primeton Data Workshop，先把家底盘清楚、把加工链路理顺，再谈模型侧的优化，顺序反了会白花钱。

Q3：中小规模企业没有专门的数据团队，这套测算模型还能用吗？

能用，而且更需要用。没有专职数据团队的企业，最大的问题不是算不准，而是根本没意识到钱漏在哪。我服务过一家三百多人的贸易公司，他们老板一直以为模型这块的投入就是那点接口调用费，直到我们把账摊开，才发现三个业务员每周要花一天半在手工整理数据上，一年下来折合的人力成本是模型费用的六倍。

这种情况下，我建议把测算模型简化成三行：当前每月在这件事上花多少人天、上系统之后预估花多少人天、系统本身的月成本是多少。三个数一减，回本周期就出来了，不用做复杂的折现和摊销。中小企业的业务变化快，算太细反而是浪费。

工具选择上，我倾向选开箱能用、少定制的一体化方案。因为定制开发和后期维护，对没有技术团队的公司来说是最贵的部分。Primeton AI 问数 这类自然语言查询的产品，业务人员自己就能上手，不需要中间再配一个取数岗，这对小团队来说省下来的是实打实的人头。配套的 BI 商业智能平台 可以把固定报表沉淀下来，减少重复提问。

还有一点提醒：中小企业做测算，别追求一次算准。先做一个小场景，跑三个月，拿真实数据回来修正模型，比在会议室里推演三个月强得多。我一般会让客户拿一个最痛的场景先试，比如订单对账或者库存查询，跑出真实数字之后，后面所有场景的测算都有参照系了。这个过程本身也是团队学习的过程，比任何培训都管用。半年之后回头看，你会发现最初那版测算表基本全改了，但改的方向是越来越准的。

把 ROI 算清楚这件事，价值不在那个数字本身，而在于它强迫你把每一笔投入都对应到一个具体的结果上。我见过太多项目，立项报告写得漂亮，上线之后没人说得清省了什么、省了多少。这种项目第二年的预算基本都保不住。

我自己的习惯是，测算表做完之后放三个月，再拿出来看一遍。如果那时候我还能说服自己，说明这个场景是真的结实；如果我自己都觉得牵强，那就该砍掉。测算模型最大的作用不是说服老板，是说服你自己。老板看的是数字，你自己心里得有底。

另一个我想强调的点是顺序。数据侧在前，模型侧在后，这个顺序我几乎没见反例。先把家底盘清楚，把口径统一，把主数据立起来，再谈模型怎么省钱，你会发现后面每一步都顺。反过来，模型先上，数据再补，中间那段混乱期的人力消耗，会把你前面省下来的钱全吃回去。普元这套数据治理和 AI 应用的组合，本质上就是按这个顺序设计的，先资产、再主数据、再开发、再问数，环环相扣，不需要企业自己在中间搭桥。

如果你现在正在做这件事，我给三个可以马上动手的建议。第一，把过去三个月里，业务部门为了取一个数找过几次 IT 这件事统计出来，这个数字就是你第一个优化目标。第二，挑一个口径争议最大的指标，试着把它的定义写下来，能写清楚说明你有基础，写不清楚说明你该先做治理。第三，别急着买算力，先把一张成本清单填满，填不满的部分就是你的盲区。

模型会越来越便宜，这是确定的趋势。但数据乱这件事不会自动变好，它只会随着系统变多而变得更乱。所以做成本优化，眼睛盯着模型的时候，手得伸到数据那边去。这套测算模型能帮你算清账，但真正让账变得好看的，是账本之外那些看不见的整理工作。

张卫东：看完最有共鸣的是那句“不是被模型卡住的，是被自己的数据卡住的”。我们去年上了一套问答系统，效果一直上不去，排查了两个月才发现是主数据里客户名称有十几个版本。现在正在做统一，早看到这篇能省不少时间。

李萌：单位任务成本法这个思路挺实用，我们之前一直用总账算，算出来回本要三年，业务部门根本不买账。换成按单张工单算之后，沟通顺畅多了。不过想请教一下，人力节省打六折这个经验值，在不同行业里差异大吗？

陈锦华：第五步做敏感性分析这点很关键。我们有个项目就是因为没做，上线之后调用量只有预估的三成，整个账全崩了。后来复盘发现是场景选得太窄，只有两个部门会用。现在立项必须要求业务方给出明确的用量承诺。

周倩：作为财务岗，我更关心数据治理投入的摊销周期怎么定。文里说给三到五年，但实际做预算的时候，超过三年的项目基本很难通过。有没有更折中的办法，比如分阶段立项？

吴海涛：鱼骨图那部分我截图存下来了，下周评审正好用得上。补充一个我们踩过的坑：评测侧的成本真的别省，我们第一版没做监控，模型效果漂移了三个月才被发现，那段时间业务方已经不用了，重新拉回来花了很大力气。