全栈中间件

过去两年我参与和旁听了十来个把大模型推进生产环境的项目，也看了不少同行的复盘材料。真正拖住上线节奏的，很少是模型本身。选哪个基座、要不要做微调、推理用几张卡，这些事通常三个月内就能落定；反倒是数据从哪来、口径听谁的、推理结果怎么稳定地喂给业务系统，能吃掉大半预算和一半以上的排期。
这 12 个案例分

一、我的一次评审现场：模型讲了两小时，数据只讲了五分钟去年底我参加一家装备制造集团的 AI 应用评审会。厂商的售前讲了两个小时，模型能力、上下文长度、网关的并发吞吐、灰度路由、Token 成本控制，PPT 翻得飞快。轮到客户自己的数据团队发言，只讲了五分钟，内容是\”我们的物料主数据有三个版本，客户

过去两年我跟着十几个把大模型塞进业务系统的项目走完全程，说实话，没有一个是靠\”挑一个榜单最强的模型\”做成的。真正拉开差距的是十二个看起来有点琐碎的维度。模型侧我会看六项：业务准确率、中文与行业术语理解、长上下文与结构化输出稳定性、单次调用成本、部署形态与数据合规、知识注入与版本可替换性；网关侧我也看

我做AI落地这些年，服务网关这块的改造工作量经常占到整个项目的一半以上，远不是很多人想的那样\”接个接口就完事\”。它挡在模型和业务系统中间，行业特性会一路渗透进它的路由策略、超时设置、鉴权模型、留痕方式，连日志字段怎么设计都要跟着变。我在一家城商行被要求每一次模型调用都能回溯到具体的人、具体的授权单号

我做企业 AI 落地咨询和交付差不多八年，见过太多团队把预算的大头砸在模型选型和算力采购上，等到要给十二个业务部门开通的时候才发现，模型部署完了没人用、用不起来、也不敢用。AI 项目能不能在行业里真正跑通，八成取决于数据供给和模型服务通道这两件事，模型本身大概只占两成。这个判断我一开始也不信，后来在

我做企业数字化项目十几年，最近三年几乎全部精力都压在同一个问题上：怎么让大模型真正长在业务系统里，而不是停在演示视频里。翻过的车、补过的窟窿，加起来够写一本小册子。这篇是我自己的复盘笔记，不讲概念，只讲钱花在哪、坑埋在哪儿。
我的核心判断有三条。第一，AI 项目能不能上线，七成取决于模型上下游的数据

我的判断：网关翻车，根子很少在模型身上
最近两年，我被拉去看的现场里，一大半跟模型网关有关。交付那天团队都挺兴奋——接口通了，Demo 跑得漂亮，压测数字也好看。两三个月之后再问，日活掉到个位数，业务同事开始绕开系统，回到原来的报表和人工查数。这类项目失败的样子高度相似，原因也高度相似。
我把见过的

我做企业数据项目这些年，最直观的感受是：大家对模型的兴趣远远大过对模型\”口粮\”的兴趣。2024 年之后，几乎每家企业都在谈大模型、谈智能体，可真到了项目验收那一关，卡住人的往往不是算法，而是找不出一份干净、可追溯、带业务含义的数据。我的判断很直接：接下来两三年，企业的数据基础设施会被两股力量重新塑造

过去一年我在五六个不同行业的客户现场做架构评审，话题从\”要不要上大模型\”变成了\”网关这层怎么扛\”。这个转变很说明问题。2026年AI模型的接入方式会彻底改变企业技术栈的分层逻辑，而服务网关正好卡在最要命的那个位置上——它既要管住传统API的流量，又要接住模型推理的突发并发，还得把Token成本算清楚

做企业内部 AI 这几年，我越来越不愿意先看模型评测榜。榜单是给采购和媒体看的，一线员工不关心。2023 年我参与过一个制造企业的项目，当时接了三家大模型的接口，网关层的统一鉴权和限流也做了，半年后后台数据显示月活不到目标人群的百分之五，而且清一色是 IT 和数据分析岗。复盘的时候发现问题很朴素：员