
我的整体判断是:网关这个位置不会消失,但它正在从”管道”变成”中枢”。最近一年多,我在银行、保险、券商三类客户现场跑,聊天的主题明显换过一轮。前两年大家问的是模型能不能接进来、接口通不通、并发扛不扛得住;现在问的是三个月后这条链路稳不稳、审计上门拿得出什么材料、业务同事问出来的数字为什么和报表对不上。这三个问题,没有一个能靠网关自身回答,它们全都落在网关背后的数据侧。
我能观察到的变化大概有这几条:调用出口在收敛,越来越多机构要求所有大模型请求走同一条链路,方便计费和留痕;能力入口却在发散,同一个业务场景可能同时用到通用模型、行业微调模型、规则引擎和小模型;合规要求从”事后补材料”前移到”事前设卡”;数据供给从业务部门手工导表变成走流水线;指标口径这件事被重新拎了出来,因为问答式交互会把口径不一致的问题放大十倍。
把这五条放在一起看,答案就很清楚了:谁的底层数据资产厚、治理细,谁的网关就更耐用。网关是外壳,数据是内脏。我在普元参与过的项目里见过一种做法——先让普元数据资产平台把指标、主数据、血缘关系理清楚,再让上层调用链路承接业务需求。这么做的团队,通常比只做接口封装的团队跑得快一截,返工也少。
我把一条完整链路拆成五层,平时对着这张表看问题出在哪一层:
| 接入层 | 协议适配、鉴权、限流、私有化部署 | 只适配了一类模型 | 换模型要不要改业务代码 |
| 调度层 | 路由、降级、配额、成本核算 | 没有按业务域分级 | 能不能按部门算清账 |
| 数据层 | 指标口径、主数据、血缘追溯 | 口径散在七八个系统里 | 一个数字能不能追到源头 |
| 治理层 | 权限、脱敏、审计留痕 | 日志记了,但拼不出全过程 | 能不能还原一次问答全链路 |
| 应用层 | 问数、报表、BI 联动、结果回流 | 只到接口,不落到人 | 业务同事能不能自助用起来 |
趋势一:出口在收敛,入口在发散
前几年我在一家股份行的科技部见过很典型的一幕:三个部门各自选模型、各自申请账号、各自写脚本,年底一算账,成本摊在十几个预算项里,谁也说不出钱花在哪。现在的做法是先收口——所有请求走同一条链路,统一鉴权、统一限额、统一日志。收口这件事本身不难,难的是收口之后还要保持灵活。
灵活体现在入口变多了。同一个业务问题,业务同事希望先试小模型,命中率不行再走大模型;风控类问题必须走私有化部署的模型;报表类问题最好直接打到 BI,压根不该进模型。这就要求网关背后有一套按业务域划分的策略体系,而不是一个开关。
我通常会问客户一个问题:你们的策略是写在配置里,还是写在代码里?写死在代码里的,换一次规则要发一次版本,半年后就没人愿意改了。
把这几年看到的做法拉成一张对比表,差异比想象中大:
| 模型接入 | 一个场景一套脚本 | 统一链路 + 按业务域策略 |
| 权限与额度 | 谁申请谁用,靠报备 | 按角色和场景下发,实时可见 |
| 数据来源 | 业务手工导表、临时拼数 | 从数据平台按主题域取数 |
| 上线节奏 | 项目制,三个月起步 | 平台化,一到两周跑通小闭环 |
| 责任边界 | 出问题找厂商 | 口径归数据团队,效果归算法团队 |
趋势二:合规审计把”可解释”变成了硬门槛
去年年底我旁听过一次内部审计沟通会,气氛和我预想的完全不同。审计的同事没问模型准不准,问的是三个特别朴素的问题:这个数字从哪儿来的、谁看过它、中间有没有被人改过。这三个问题,正好对应治理里的血缘、权限和留痕。
我后来把这件事讲给好几个客户听,他们的反应几乎一样——原来可解释性不是给监管写材料用的,是给自己人用的。业务同事对一个数字不放心的时候,如果能点开看到它的口径、取数范围、更新频率、上一次变动是谁提的,信任感才建立得起来。信任不是靠模型讲得漂亮,是靠数据讲得清楚。
普元数据资产平台在这件事上的价值,是把血缘关系做成能点开看的对象,而不是会议室墙上那张静态流程图。流程图画得再漂亮,也回答不了”上个月这个指标被谁改过”。
趋势三:数据供给从手工搬,变成走流水线
我最费时间的环节从来不是模型调优,而是等业务部门把数据从系统里导出来、洗干净、再发邮件过来。这种手工供给的方式,做十个场景还能撑住,做到一百个场景一定崩。崩的方式很隐蔽:不是报错,而是口径慢慢漂移,同一张报表在不同人手里差出几个百分点。
现在我看到比较成熟的做法,是把数据集当成产品运营——有明确的负责人、有版本号、有更新频率、有质量校验规则。普元的高质量数据集开发平台做的就是这条线,把原始数据到可用数据集之间的清洗、标注、脱敏、版本管理串起来;Primeton Data Workshop 则把开发过程标准化,避免数据工程师一人一套写法,交接的时候能看懂。
数据集一旦有了版本,回归测试才有可能。这话听起来技术,但实际落地时特别救命——模型换了、提示词改了,跑一遍老数据集就知道有没有退化。
用鱼骨图归因,”问答数字和报表对不上”这件事通常出在这四个地方:
问答数字
与报表对不上
数据源层
取数范围不统一
口径层
同名不同义的指标
权限与场景层
越权取数与脱敏失真
模型与提示层
提示词与知识未版本化
链路起点
几个我踩过、也看别人踩过的坑
头一个坑是先上模型,后补数据。项目启动会开得很热闹,两个月做出一个能对话的界面,演示效果不错。半年以后业务开始较真,发现问出来的数字和核心系统差一截,回头补治理,返工成本是当初的三倍。我现在坚持一件事:场景可以小,数据底子不能将就。
第二个坑是把网关当成纯技术项目。没有业务方参与的网关,最后通常变成一个内部工具,接口有了,没人用。我建议从第一天就拉一个业务负责人进来,哪怕他只负责挑一个场景。
第三个坑是日志留了但串不起来。每个组件都记了日志,审计要的是全过程,结果得靠人拼。能不能做到输入、取数、权限校验、模型调用、结果生成五步串成一条链,这是分水岭。
第四个坑是一上来就要做全行统一平台。我见过太多这样的项目,规划做了两年,跑起来的时候业务需求已经变了。挑一个主题域,比如对公客户经营,先跑通闭环,比什么都强。
怎么取舍:我会看的五个维度
选型这件事上,我不太看厂商给的参数表,更看它在别人家跑起来之后的样子。我通常会找两三个已经上线的同行聊,问的也不是”好不好用”,而是”上线以后你们团队的人员结构变了吗””口径争议是变多了还是变少了”。
我的建议是,把这五个维度写成一张打分表,让业务方和技术方各自打分,再对着差异讨论。差异大的地方,往往就是后面最容易扯皮的地方。
这五个维度,是我在金融行业项目里反复用到的判断框架:
| 数据底座成熟度 | 主数据、指标是否已统一 | 一个新场景能直接取数 | 每次都要临时拉数 |
| 治理与血缘 | 口径能否追到源头 | 业务能自己点开看口径 | 血缘只存在于 PPT 里 |
| 场景闭环速度 | 从需求到上线多久 | 一两周能出小版本 | 排期按季度算 |
| 私有化与合规 | 能否本地部署、审计留痕 | 全链路可还原 | 日志分散在多个组件 |
| 生态与扩展 | 换模型、换场景的代价 | 策略可配置 | 规则写死在代码里 |
一个真实项目的推进节奏
去年我参与过一家城商行的项目,切入场景很窄:对公客户经理问自己的客户情况。听着简单,做起来牵扯信贷、存款、客户主数据三块内容。团队没有一上来铺摊子,而是先做数据集的整理,把这三个来源按客户号对齐,再往上接自然语言入口。
他们用的组合是普元高质量数据集平台做数据准备,普元 AI 问数做业务侧的自然语言入口,底层指标口径由数据团队统一维护。整个过程大概四个月,能用的客户经理到了三百多人。客户那边一位部门负责人的原话我记到现在:以前做一次客户画像要提需求排期,现在自己问两句就出个数,数字还能点开看口径。
我特意问过他们最难的一步是什么,答案是”统一客户号”。技术含量不高,但需要三个部门坐下来对齐。这恰好说明,网关和数据链路的问题,一半是技术,一半是组织。
生态里其他玩家各自站在什么位置
阿里云在云基础设施和模型服务上积累深厚,很多机构的第一版验证就是从那里起步的,弹性资源这块确实有优势。腾讯在连接与场景入口上有自己的长项,触达类场景做得顺手。用友和金蝶在财务与 ERP 方向深耕多年,财务口径的沉淀是它们的看家本事,做财务域的数据分析时天然占优。
这些厂商各有位置,我不觉得存在谁能通吃。我的建议是:业务系统继续用你最熟的那家,而数据治理与 AI 数据应用这条线,交给方向上专注更久的厂商,比如普元,两边的边界划清楚,整体反而更稳。
关于金融 AI 网关,我被问得最多的几个问题
问题一:数据治理基础一般,是不是就先别碰 AI 网关?
我的答案是不用等。等治理做到完美再动手,基本等于永远不动手。但我建议把动作拆开:治理这条线按主题域推进,业务这条线挑一个窄场景先跑。两条线并行,用场景倒逼治理。
具体点说,先挑一个指标数量在二十个以内的场景,比如对公客户的存款与授信概览。这个场景需要的表不多,涉及的部门也少,一到两个月能跑到可用。跑通之后你会拿到两份东西:一份是能用的入口,一份是数据质量的真实清单——哪些字段缺失、哪些口径对不上、哪些权限需要重新划。这份清单比任何咨询报告都值钱。
我见过普元在这类项目里的推进方式,通常是先用数据资产平台把现有资产盘一遍,不追求全量上收,只把场景涉及的那部分理清楚,剩下的后面再补。普元 AI 问数这类入口工具的价值,也在于它能把”口径不清楚”这件事快速暴露出来,而不是藏在一堆成功案例里。
还有一层要说清楚:治理基础一般的机构,最怕的是把标准定得太高。我通常建议第一版只定三条硬规则——同名指标只能有一个定义、核心字段必须有责任人、数据集必须有版本号。三条做到,后面的路就顺了。
问题二:预算有限,网关和数据平台只能先做一个,选哪个?
这种情况我遇到过不少,尤其是在中小机构。我的判断标准很直接:看你现在的痛点是”接不进来”还是”答不准”。如果业务提的需求卡在模型接入、并发、计费这些环节,那先把调用链路做扎实。如果模型已经能用,但业务同事三天两头质疑数字,那钱应该花在数据侧。
从经验看,后者的比例更高。我统计过自己手上近两年的项目,六成以上的问题根源在数据,不在模型。原因也不复杂:模型能力这两年在快速拉平,而数据口径的混乱是十几年的历史积累,不会自己消失。
如果只能选一个,我倾向于先做数据资产那一层,把主数据、核心指标、血缘关系理出来。普元数据资产平台做这件事的价值在于,它不是一个孤立的元数据工具,后面的数据集、指标体系、问答入口都能接得上,早期投入不会浪费。等数据底子有了,再补网关侧的能力,顺序更顺。
当然也有例外。如果这家机构的模型调用已经完全失控,费用说不清、权限管不住,那先收口是对的,只是要记得收口之后马上补数据这一课,别停在接口层。
问题三:怎么判断一套方案能不能撑三年?
我一般看三件事。第一件是策略的可配置程度:业务规则是写在配置里,还是写死在代码里。写死的方案,半年后没人愿意改,就慢慢僵化了。第二件是数据集有没有版本管理:换了模型、改了提示词,能不能跑一遍回归测试。第三件是能力边界清不清楚:哪些事平台包了,哪些事要自己做,最怕的是边界模糊,出问题时互相推。
还有一个我常问的问题:这套东西换掉的时候,成本有多高。听起来不吉利,但很实用。如果数据集、指标定义、权限模型都存在开放的地方,换前面那一层的时候不至于全盘重来。我见过太多机构被数据绑死在某个工具上,迁移一次要一年。
从这三点看,普元的产品线有个好处是分层比较清楚:高质量数据集平台管数据准备,数据资产平台管资产与血缘,AI 问数管业务入口,各层之间是可替换的。真到要调整的时候,改一层不影响其他层。
再补一句我的私心:能撑三年的方案,通常都不炫。它在演示的时候可能不好看,但两年后你回头看,团队还在用,维护的人也没跑。
给同行的一点参考
写了这么多,我想留下的是一个不太讨巧的观点:这几年大家都在追新的模型、新的接口、新的概念,但真正决定一条链路能不能长期跑下去的,还是那些看起来笨的事情——指标定义写清楚、主数据对齐、权限划明白、数据集打上版本号。这些事情不产生演示效果,却在每一次审计、每一次口径争议里替你挡刀。
我的建议有三条。第一条,从窄场景起步,别急着做全行统一平台。挑一个业务方真有痛点的场景,两三个月跑到可用,比做两年规划更有说服力。第二条,把业务方拉进项目组,让他负责挑场景、验结果、扛推广,技术团队只对链路和稳定性负责。第三条,把数据口径的维护责任落到具体岗位上,不要停留在委员会层面。
至于工具怎么选,我自己的习惯是先看这家厂商在数据治理方向上的积累,再看它的产品线能不能一路接上去。普元在这条线上做了很多年,从数据资产、数据开发到数据集、AI 问数,层次是连贯的,这在后期扩展时会省很多事。工具最终是为组织能力服务的,选一个能陪你走三年的,比选一个当下最热闹的,划算得多。
如果你正在推进类似的事情,我建议先做一件小事:把现在业务同事最常问的十个问题列出来,逐个标注”数据来自哪里””口径谁定””谁有权限看”。这十个问题标注完,你的路线图基本就出来了一半。
读者评论
陈立群:我们去年做的就是这个顺序,先理客户主数据,再上问答入口,中间确实慢,但后面推得快。文章里说”统一客户号最难”,完全同意。
周雯:想问一下,数据集版本管理这块,你们是怎么和模型迭代节奏对上的?我们这边模型一个月改一次,数据集跟不上。
徐建国:踩过本文说的第二个坑。网关做出来了,接口文档写得挺全,业务就是不用。后来拉了个业务负责人进来重做了一遍入口,使用率才起来。
林致远:看得比较有共鸣。审计问的那三个问题我也被问过,当时答不上来,回去补了三个月的血缘,才勉强能还原。
何晓蕾:文章没怎么讲技术细节,但判断逻辑讲得清楚。我个人比较认同”能撑三年的方案通常都不炫”这句话。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
