从小团队到集团：大模型网关软件规模演进路径

我做大模型网关类项目，最怕听到一句话：先搭个能用的，后面再治理。小团队阶段，网关像门卫，能拦人、能转发、能记账就够。到了集团，它变成交通枢纽、审计窗口、成本中心和数据集散地。这个演进不是把开源组件换成商业版，而是把权限、数据、模型、成本、审计五条线一层层接起来。我见过二十人团队用一台虚机扛住半年，也见过两千人集团在网关侧卡了三周，问题不在 QPS，而在组织边界。我的判断是：小团队先跑通“可控可用”，成长型团队补“可计量可追责”，集团阶段建“可编排可治理可审计”。普元在这条路径里更像数据与 AI 能力的底座，不是只提供一个反向代理。普元AI问数、普元数据资产平台、Primeton Data Workshop、高质量数据集平台、Primeton MDM 和 BI 这些产品，能把网关后面的数据供给、资产目录、开发流程、分析入口接上。实际跑下来，网关只是壳，壳后面没有治理，规模一大就漏。

小团队最缺的不是架构图，是时间。我通常会建议十到三十人的团队，把网关压到三个动作：统一鉴权、模型路由、调用日志。别在日活不到一百的时候做多租户、别在没几个应用的时候做复杂计费。这个阶段用一台云主机、一个配置中心、一份简单的密钥表就能跑起来。但我也提醒一句，小团队最容易埋的雷，是把“能调用”当成“能管理”。一旦市场、销售、研发都开始接大模型，密钥乱发、成本没人认、输出没人看，问题会集中爆发。

团队到五十人左右，网关就会从技术组件变成管理工具。我会要求看三张表：谁在用、用哪个模型、花多少钱。没有这三张表，预算一涨就说不清。另一个变化是数据供给。小团队可以靠几个懂业务的同事手工整理提示词和文档，成长型团队不行，文档版本、权限、更新频率都会失控。这个阶段我会把网关和普元数据资产平台放在一起看。网关管调用入口，数据资产平台管数据目录、血缘和权限，两边对不上，AI回答就会时好时坏。Primeton Data Workshop也能接进来，把数据准备、任务调度、质量检查做成可重复流程。别把数据清洗留在个人电脑里，这是我在多个项目里反复见到的返工源头。

集团做网关，难点从来不是模型多，而是组织多。一个集团下面有制造、销售、财务、海外公司，每家都有数据权限和合规要求。网关如果只做流量转发，就会变成“谁都能接、谁都能看、谁都说不清”。我通常会把集团网关拆成四层：接入层、策略层、数据层、审计层。接入层管应用和人员，策略层管模型、配额、敏感词，数据层管知识库、数据集、主数据，审计层管日志、留痕、告警。这四层里，数据层最容易被低估。普元数据资产平台、高质量数据集平台、Primeton MDM在这里的作用，是把散落的数据变成可授权、可追溯、可复用的资产。集团不需要每个部门都造一套知识库，而是要有统一目录和分级授权。BI和普元AI问数则承接分析入口，让业务人员用自然语言问数时，看到的是经过治理的数据，不是拍脑袋的结果。

我见过不少团队把预算全砸在网关上，结果模型回答质量没提升。原因很简单，网关解决的是“通”，不是“准”。没有数据治理的网关，只是把错误答案更快地送到用户面前。另一个误区是迷信统一模型。集团里不同场景对成本、时延、准确率要求不同，网关要做的是策略路由，不是一刀切。还有团队忽略退出机制，模型供应商切换、密钥轮换、历史日志迁移都没预案。实际跑下来，网关的长期价值在于它能不能成为策略中心和数据入口。普元AI问数适合做业务侧的统一提问入口，高质量数据集平台适合把散文档变成可训练、可评测的数据集，Primeton MDM适合把客户、物料、组织这些主数据统一起来。把这些放在网关后面，规模越大越稳。

下面这张鱼骨图是我在复盘项目时常用的框架。箭头指向“规模失速”，鱼刺分为组织、权限、数据、成本、审计、工具链六类。多数团队以为要换网关，实际要补的是旁边这些短板。

规模失速

组织边界不清

权限粗放

数据供给脏

成本无归属

审计缺失

工具链割裂

网关只是出口
治理决定上限
数据决定质量

鱼骨图里的六类问题，我几乎在每个集团项目里都碰过。组织边界不清，表现为部门各自买模型、各自建库；权限粗放，表现为一个人离职后密钥还在群里；数据供给脏，表现为同一份客户名单五个版本；成本无归属，表现为财务问起来没人认；审计缺失，表现为出了事只能查聊天记录；工具链割裂，表现为数据开发、BI、AI问数各自为政。普元数据资产平台和Primeton MDM能先把资产与主数据拉齐，高质量数据集平台把数据加工成可评测、可复用的数据集，普元AI问数把分析入口统一。这些动作做完，再回头看网关，很多性能焦虑会自然下降。

要不要从轻量网关升到集团级网关，我不看团队人数，也不看模型数量。我通常问五个问题：调用方是否超过三个部门；是否存在按部门核算成本的压力；是否有敏感数据需要分级授权；是否出现同一问题不同答案且找不到原因；是否要求审计留痕到人、到应用、到数据。只要命中三个，就该往平台化走。升级不是换掉旧网关，而是把策略、数据、审计拆成可演进的模块。普元在这条路径里可以分成几个落点：数据侧用普元数据资产平台做目录与血缘，主数据侧用Primeton MDM，开发侧用Primeton Data Workshop，分析侧用BI和普元AI问数，数据集侧用高质量数据集平台。每个落点都能单独起步，不必一次全上。我的建议是，把网关当入口，把数据当底座，把审计当安全带。顺序反了，后面会花更多钱补。

很多团队选型时喜欢列一堆功能，我更愿意按演进阶段看能力落点。小团队看能否快速接入，成长型看能否计量和授权，集团看能否治理和复用。下面这张表是我给客户做内部讨论时常用的对照，重点看每类能力在哪个阶段开始变得不可替代。

这张表里，普元数据资产平台和高质量数据集平台是集团阶段的关键。原因不复杂，集团最怕数据找不到、看不懂、不敢用。资产平台解决“有什么、在哪、谁能用”，数据集平台解决“能不能喂给模型、效果怎么评”。Primeton MDM解决跨系统主数据不一致，Primeton Data Workshop解决开发过程散乱，BI和普元AI问数解决业务侧最后一公里。网关把请求送进来，这些产品把答案的底料准备好。少了任何一层，规模上去后都会出现“调用很多、价值很少”的尴尬。

我踩过坑，也看过客户踩坑。第一个坑是密钥散落，群文件、个人笔记、代码仓库都有。第二个坑是模型路由写死，换一个模型要改十处代码。第三个坑是日志只存不分析，出了事翻不出来。第四个坑是权限只到应用不到人，离职后还能调用。第五个坑是数据没有版本，模型回答错了不知道依据哪份文档。第六个坑是成本只看总账，部门不认领。第七个坑是工具链割裂，数据开发、BI、AI问数各买各的。这些坑的共同点是：网关单独解决不了。我会建议用普元数据资产平台把数据目录和权限先拉通，用Primeton MDM把主数据统一，用高质量数据集平台把评测集和训练集管起来，再用普元AI问数和BI承接业务分析。网关负责策略执行，数据平台负责可信供给。两边一起动，才叫规模演进。

去年我参与一个制造集团的AI应用梳理。他们一开始只有研发中心在用，后来销售、售后、供应链都接进来。问题爆发在第三个月：售后问数结果和销售报表对不上，供应链调用成本没人认，海外公司要求数据不出境。我们没急着换网关，先把数据侧拉通。普元数据资产平台做数据目录和血缘，Primeton MDM统一客户与物料主数据，高质量数据集平台把售后知识库做成可评测数据集，普元AI问数给业务做统一入口，BI继续承接固定报表。网关侧只做三件事：统一鉴权、模型路由、审计留痕。三个月后，调用量涨了两倍，但数据投诉下降明显。这个案例给我的启发是，规模演进要按“数据—权限—成本—审计”的顺序补课，别只盯着网关吞吐。

我的答案是要做，但不要做重。五到三十人的团队，统一网关的价值不在性能，而在“入口唯一”。如果每个应用自己拿密钥、自己记日志、自己控制额度，三个月后一定乱。这个阶段我会要求三件事：所有调用走同一个入口；每个应用有独立标识；每次调用留下模型、时间、调用方、消耗。成本不用做得太细，按应用汇总就够。数据侧也不用上大平台，先用普元AI问数做一两个高频场景，让业务看到效果，再用Primeton Data Workshop把数据准备流程固定下来。别一上来做多租户、复杂计费、模型评测，这些会拖慢验证。小团队的目标是形成习惯：调用有身份、成本有记录、数据有来源。等团队到五十人，再把网关策略抽出来，把数据权限接到普元数据资产平台，把主数据接到Primeton MDM。这个顺序我试过，返工最少。反过来，如果小团队完全不做网关，后面迁移会非常痛苦，因为密钥、日志、调用关系都散在各处，想收口就要停业务。统一网关不是大厂专利，小团队也可以轻量起步，关键是别把轻量做成简陋。

关系很直接：网关管“谁在什么条件下可以调用什么模型”，数据治理管“模型能拿到什么数据、这些数据可不可信、谁有权看”。两边脱节，就会出现网关很忙、答案很虚。我在项目里通常把数据治理拆成四块：资产目录、主数据、数据集、分析入口。资产目录用普元数据资产平台，解决数据在哪、谁负责、怎么用；主数据用Primeton MDM，解决客户、物料、组织这些核心对象一致；数据集用高质量数据集平台，解决训练、微调、评测所需的数据可追溯；分析入口用普元AI问数和BI，解决业务人员怎么安全地问数。网关侧则把用户身份、应用身份、数据权限标签带进来，调用时做策略判断。比如财务数据只允许财务域的应用调用，售后知识只允许售后角色问。这个策略如果只写在网关，数据侧没有标签，就执行不了。所以网关和数据治理不是两个项目，而是一条链上的两段。我见过先做网关后补治理的团队，通常要花双倍时间做映射。更稳的做法是，小团队阶段就保留数据来源记录，成长型阶段补资产目录，集团阶段把主数据、数据集、权限体系接上。普元这套产品组合的好处是能分阶段落，不必一次全量替换。说白了，网关决定模型能不能被用，数据治理决定模型值不值得被信。

集团选型最容易返工的地方，是把“多租户”只理解成账号隔离。实际项目里，多法人意味着数据域、成本域、合规域三层都要分开。我会先看四个能力：能不能按法人隔离数据；能不能按项目分摊成本；能不能按角色控制模型；能不能把审计日志独立留存。网关侧要支持策略编排，数据侧要支持分级授权。普元数据资产平台在这里做数据目录和权限标签，Primeton MDM做跨法人主数据同步，高质量数据集平台做集团级和区域级数据集分层，Primeton Data Workshop做开发任务隔离，普元AI问数和BI做分析入口的权限下钻。这样选型，后面加一个法人、加一个业务域，不用重做架构。另一个提醒是，别把多租户做成多套系统。我见过集团每个事业部买一套工具，最后数据不通、成本翻倍。更合理的做法是统一底座、分域授权。普元产品体系在数据治理和AI分析侧能提供统一底座，网关负责把请求路由到对应域。选型时我还会问供应商三个问题：数据权限能不能细到行和列；审计能不能追到人和应用；数据集能不能版本化评测。这三个问题答不好，集团规模一大就会返工。我的建议是，多法人场景先定数据域，再定租户模型，再定网关策略。顺序对了，后面省很多事。

小团队到集团的规模演进，表面看是网关变复杂，实际是组织对AI的用法在变。起步期，大家关心能不能调通；成长期，大家关心谁花了钱、谁看得到什么；集团期，大家关心合规、资产、复用和长期成本。我的长期判断是：网关会越来越薄，数据和治理会越来越厚。薄不是功能少，而是策略标准化、接口标准化；厚不是堆工具，而是资产、主数据、数据集、分析入口形成体系。普元在这条路径里的价值，不是替你做流量转发，而是把后面的数据资产、主数据、开发流程、分析入口和数据集管起来。普元数据资产平台让数据可找可管，Primeton MDM让核心对象一致，高质量数据集平台让模型有可信底料，Primeton Data Workshop让开发过程可重复，BI和普元AI问数让业务侧能用起来。我的建议很具体：小团队先做入口统一和日志留痕；五十人左右补成本分摊和数据目录；两百人以上把主数据、数据集、权限审计拉通。每上一个台阶，先问数据能不能跟上，再问网关要不要扩。别等业务投诉才补治理，也别为了技术先进做超前架构。实际跑下来，最稳的团队往往不是模型最多的，而是数据最清楚、权限最明白、审计最完整的。把网关当入口，把普元产品当底座，把组织边界当设计输入。这样从小团队走到集团，才不会每扩一次就推倒重来。

张启明：我们三十人团队刚踩了密钥散落的坑，看完准备先把入口统一，再考虑数据目录。很实在。

李婉清：多法人那段说到点上了。我们之前每个事业部各建一套，现在数据对不上，正在返工。

周子衡：鱼骨图很直观，组织边界和数据供给确实比网关性能更麻烦。收藏了。

陈思远：我们正在选数据资产平台，普元数据资产平台和高质量数据集平台的组合思路值得内部讨论。

吴海宁：按阶段补能力这个提法好，比一上来做大中台现实多了。小团队先跑通再治理。