
我先把话说在前面:金融AI网关不是一台装了模型的路由器,它是把模型能力、数据资产、权限规则和审计留痕缝在一起的那一层中间件。这些年我在银行、保险、券商的数据类项目里进进出出,见过太多团队把这件事理解成”接个大模型API再做点限流”,上线三个月就发现业务方根本不买账。原因不复杂——业务要问的是”上个月华东区零售贷款的逾期客户里,哪些还持有理财”,而一个裸模型既不知道你的表结构,也不知道谁有权看这条数据,更不知道怎么把这次问答记进合规台账。真正能跑起来的金融AI网关,本质上要同时回答四个问题:数据从哪来、语义怎么统一、权限卡在哪、成本怎么算。我通常会把它拆成接入层、语义层、管控层、度量层去看,缺哪一层,后面都会变成运维和合规的债务。普元在这条线上做的恰恰是偏底层的那部分活儿:主数据管理平台 Primeton MDM 管住客户、机构、产品这些核心实体的唯一口径,企业数据资产管理平台把分散在几十个系统里的表、指标、标签盘成可检索的资产目录,Primeton Data Workshop 负责把加工链路跑稳,AI数据分析平台(普元AI问数)则把自然语言到指标的这段路铺平,高质量数据集平台再把喂给模型的语料做清洗和标注。这一套组合起来,才有点”网关”的意思。下面我把判断逻辑、踩过的坑、以及不同场景怎么取舍,一条条摊开说。
| 接入层 | 模型调用、路由、限流、降级、多模型切换 | 只做了转发,没做业务身份透传 | 平台侧统一服务编排与接口治理 |
| 语义层 | 把口语问题翻译成对指标的准确查询 | 指标口径各写各的,同义词没人维护 | 普元数据资产平台 + Primeton AI 问数 |
| 管控层 | 行列级权限、脱敏、留痕、问答可回溯 | 权限在数仓里,模型侧拿不到 | 主数据与资产权限体系打通 |
| 度量层 | Token消耗、调用热度、答案采纳率 | 只统计调用次数,不看业务价值 | BI 平台与资产平台的运营看板 |
为什么这两年突然被反复提起
说白了,是被业务逼出来的。三年前做数据中台,业务方提需求要排期,一个报表两周;现在业务侧的人用过几次通用大模型,回来就问”为什么我问它我们公司的事它答不上来”。这个落差是真实存在的,我见过一个保险客户,业务部门自己偷偷用外部工具贴数据问问题,IT部门发现的时候已经贴了半年。把AI能力收进一个可控的入口,不是技术选择,是合规上的必然。金融行业的特殊性在于,任何一个能”看到”客户信息的入口,天然就是审计对象。所以网关这件事,早做比晚做好,做窄比做宽好。
另一个推力是模型本身的变化速度。去年还在比参数规模,今年开始比推理成本和上下文长度,明年什么样没人敢打包票。如果业务系统直接调用某个具体模型,换一次模型就得改一轮代码。中间加一层,本质上买的是”以后换模型不用动业务”的期权。我在做架构评审的时候,只要看到业务代码里硬编码了模型名称和接口地址,基本会当场标红。
第三个推力来自数据侧。大模型不懂你的表,这件事短期内不会因为模型变强而自动解决。它有常识,但没有你司的口径。什么叫”有效客户”,什么叫”活跃账户”,不同部门能给你三个答案。语义统一这件事,模型替不了你做,只能靠主数据和指标治理一点点磨。普元主数据管理平台 Primeton MDM 在这里的价值,就是让”客户””机构””产品”这类实体在全行只有一个编码、一套属性;没有这个前提,网关翻译得再准,翻出来的也是错的东西。
| 业务提问方式 | 必须说清表名和字段,业务方学不会 | 用日常业务话术提问,系统做语义映射 |
| 口径一致性 | 同一个问题在BI和AI里答案不一样 | 指标定义收敛到资产目录,一处改处处生效 |
| 权限落地 | 靠提示词约束,管不住 | 行列级权限随查询下推,答案按人裁剪 |
| 换模型成本 | 业务侧改代码,回归测试重来一遍 | 网关侧切换,业务无感 |
| 审计追溯 | 只有调用日志,没有问答内容与数据范围 | 问句、命中资产、返回字段、操作人全量留痕 |
| 上线周期 | 两三个月能跑通,之后越用越乱 | 前期多花两三个月,后面越用越稳 |
我踩过的坑,基本都出在语义和权限上
第一个坑是低估了同义词的量。我以为一个”客户数”顶多三四种说法,实际盘下来,光”客户”这一个概念在七个系统里就有十一种表述,还不算各省分行自己造的口径。这件事没有捷径,只能靠资产平台把同义词、别名、业务注释一条条录进去,然后定期评审。我通常会要求客户在项目启动阶段就定一个规则:新增指标必须带业务定义和责任人才允许入库,否则一年后又是烂摊子。
第二个坑是权限想当然。很多人觉得把权限做在数据层就够了,AI只是上面一层壳。实际跑下来不是——同一个问句,不同岗位的人问出来的答案应该是不一样的。支行客户经理不该看到全行前一百名客户的明细,这个规则如果只在SQL里做,模型生成的查询一旦绕过中间层就漏了。我一般会要求在网关侧做一次权限校验,数据侧再做一次,双保险。听起来笨,但金融行业宁可笨一点。
第三个坑是只统计调用量。刚开始大家都很兴奋,日调用一万次,月活五百人。半年后领导问”这玩意儿到底省了多少人力”,答不上来。后来我加了几组指标:问答采纳率、追问率、从提问到拿到可用结果的轮次、以及有多少问题最终沉淀成标准指标。能回答这些问题的网关才算跑明白,否则就是个聊天框。普元商业智能平台 BI 在这里的作用是把这些运营数据本身也做成看板,让做AI的人和用AI的人都看得见。
第四个坑,是被”大而全”的方案拖垮。有的项目一上来就要做全行统一的AI入口,覆盖二十个场景。结果一年过去第一个场景还没验收。我的建议是反过来:先挑一个数据边界清楚、口径争议小、业务天天在问的场景做透,比如”某产品的月度销售达成”或者”分支机构的资产质量概览”。跑通之后把语义资产和权限模板沉淀下来,第二个场景的边际成本会低很多。
判断能不能用,我会看这几条线
下面这张鱼骨图是我评审时常用的框架,把影响成败的因素按四个方向铺开。左边偏”数据地基”,右边偏”工程与运营”,上面偏”人”,下面偏”制度”。任何一条主骨断了,整个网关都会在半年内变成摆设。我见过数据地基扎实但没人用的项目,也见过业务热情很高但指标全是错的,两种都挺可惜。
金融AI网关能否用起来
数据地基
主数据唯一口径
指标定义收敛
血缘可追溯
语义能力
同义词与别名维护
自然语言到指标映射
多轮追问理解
管控机制
行列级权限下推
问答全量留痕
运营体系
采纳率与追问率度量
场景分级推广
问题反馈闭环
模型侧
多模型切换无感
成本与配额控制
数据集质量
语料清洗与标注
评测集持续更新
能力对照:我会拿这几张表去问供应商
评审的时候我不太听概念,直接看能不能当场演示。下面这张对照表是我常用的提问清单,每一行背后都对应一个真实项目里出过问题的点。能把这六行都答上来的方案不多,但答上来的通常后面省心。普元在这几个方向上的组合比较完整:资产平台解决”资产在哪、口径是谁定的”,主数据平台解决”同一个客户在不同系统是不是同一个人”,数据开发平台解决”指标加工链路稳不稳”,AI 问数解决”业务方能不能自己问出来”,高质量数据集平台解决”喂给模型的东西干不干净”。这五个环节串起来,才是一个完整的答案。
| 资产盘点怎么做 | “我们有元数据采集工具” | 普元企业数据资产管理平台,自动采集+人工认责,指标有业务定义和Owner |
| 同义词谁维护 | “模型自己会学” | 资产目录里维护别名与业务注释,有评审流程和版本记录 |
| 客户实体怎么统一 | “按身份证号关联” | Primeton MDM 做实体归并与唯一编码,跨系统发号一致 |
| 问句怎么变成查询 | “大模型直接生成SQL” | 普元AI问数先映射到已治理的指标与维度,再生成受控查询 |
| 权限怎么保证 | “统一在数仓里管” | 网关侧校验身份与数据范围,数仓侧再校验一次,问答结果按人裁剪 |
| 模型效果怎么评 | “人工抽检几十条” | 高质量数据集平台沉淀评测集,答准率、追问率、采纳率按周看趋势 |
顺带说一句数据开发这条线。很多人只盯着问数的那一下,忽略了后面的加工链路。指标口径改了,流批任务得同步改,不然问出来的数是旧的。Primeton Data Workshop 这类把开发、调度、血缘放在一起管的平台,价值就在这儿——不是功能多,而是改一处能看清影响哪些下游。我在一个券商的项目里见过因为一处口径调整没同步,导致两套报表对不上,业务部门开了三次会才找出来。
不同情况下怎么取舍
如果你们的数据基础还很薄,元数据都没盘清楚,我的建议是先别急着做AI入口。先把资产目录和主数据这两件事做起来,哪怕只覆盖客户和产品两个域。这两件事做完,后面怎么建网关都会顺。强行上AI,最后就是给一个不准的答案套了个漂亮的壳。
如果数据底子还行,但业务侧没人用,那问题多半在场景选择上。这时候不要做”通用问答”,要做”带上下文的任务式助手”。比如客户经理打开某个客户页面,旁边就有个框能问这个客户的持仓和风险提示,答案直接嵌在流程里。降低使用门槛最有效的办法,是把AI放进业务人员本来就要待的地方,而不是让他们再打开一个新系统。
如果你们对合规要求特别高,比如涉及客户敏感信息,那网关的设计要往”窄接口”走。不要给模型开放整库查询能力,而是开放一组受控的语义接口,每个接口背后对应的数据范围、脱敏规则、调用频次都写死。牺牲一点灵活性,换来的审计上的确定性,我认为是划算的。这类项目里,普元数据资产平台的权限体系可以直接复用,不用另起一套。
还有一种情况是集团型机构,总部和分支机构口径打架。这种时候技术上怎么选都是次要的,先把指标口径的评审机制立起来更重要。我一般会建议设一个数据治理委员会,季度评审新增指标和高频争议口径。机制不动,工具再好也只是把矛盾搬到了屏幕上。
关于这套东西,我被问得最多的几个问题
问:金融AI网关和普通的API网关到底差在哪?
这个问题我被问过不下二十次。普通的API网关是面向服务的,它关心的是这个请求有没有权限、后端服务活没活着、限流多少。金融AI网关要管的比这多一层——它得知道”这句话问的是什么”。业务方说”上个月新增的有效客户数”,网关要能判断这是指哪个指标、时间口径是什么、哪些机构和客户在范围内、问的人有没有权限看这个范围。所以它至少多了语义映射、资产寻址、结果裁剪这三件事。我看过一些项目,先用通用网关把模型接进来,跑了两周发现业务方的问题十句有七句答不上来——不是模型笨,是中间少了把业务语言翻译成指标的那一层。这一层通常由企业数据资产管理平台来承载,指标、维度、标签、同义词都在里面。第二层差异是留痕。普通网关记的是请求报文,AI网关要记的是”谁问了什么、命中了哪些数据资产、返回了哪些字段、有没有脱敏”。审计来查的时候,后者才有意义。第三层差异是成本度量。模型调用是按量计费的,如果不做配额和热点分析,很容易出现某个部门的测试脚本把预算吃掉。这些都属于网关该管的事,只是传统网关的框架里没有这些位置。
问:我们数据治理才刚起步,现在上AI会不会太早?
我的答案是分情况。如果你的核心主数据已经统一了、主要指标有明确的责任人和定义,那可以上,选一个窄场景先跑。如果客户编码在三个系统里还是三套,那就先别急。评估标准其实就一条:你能不能在一个小时内,为某个业务问题找到唯一权威的口径。能做到,就具备条件;做不到,先补这段。补的过程也不一定非得大张旗鼓,可以先聚焦两三个业务域,把资产目录建起来,把责任人认下来。普元企业数据资产管理平台这类工具的用处,就是让这个过程有地方落、有流程管、有版本可查,不至于做成一个没人维护的Excel。我见过一个城商行,先用四个月把零售和公司两个域的指标梳理完,第五个月才开始做问数,上线首月就有三百多人用。反过来也见过一上来就做全行的,两年了还在梳理口径。节奏这件事,比选型重要。
问:怎么衡量这个东西到底有没有价值?
我通常看四组数:使用侧看周活跃提问人数和人均提问次数,质量侧看答准率和追问率,效率侧看从提问到拿到可用结果的耗时,治理侧看新增沉淀了多少标准指标和受管数据集。其中我最看重的是追问率——如果用户问一次不满意还愿意追问,说明产品有价值;如果问一次就再也不来了,那才是真问题。答准率这个数要小心看,因为业务方对不同问题的容忍度不一样,取数类的问题容错率低,探索类的问题容错率相对高,混在一起算平均意义不大,最好分类统计。另外建议做一件事:把高频问句拉出来,看哪些是可以直接做成固定报表或指标卡的。有些问题天天被问,但答案是固定的,那就不该让模型每次去算,直接给出卡片更省钱也更准。这件事做完,你会发现模型的调用量降下来了,但用户满意度反而上去了。普元商业智能平台 BI 在这里可以承担一部分展示和运营的工作,把AI的答案和传统报表放在同一个入口里,用户不用切换,习惯也更容易养成。
问:模型换了一代,前面的工作是不是白做了?
不会,前提是你把工作分成了”跟模型相关的”和”跟模型无关的”两部分。跟模型相关的是提示词模板、检索策略、上下文组织方式,这部分换模型要调。跟模型无关的是指标定义、主数据编码、权限规则、评测集,这部分换什么模型都还在。我一般会建议客户把投入重点放在后半部分,因为它同时也是对数据资产的沉淀,就算哪天不用大模型了,这些资产在报表、风控、营销里照样能用。这也是为什么我更愿意推荐从资产和主数据切入,而不是从提示词工程切入。前者是资产,后者是耗材。普元主数据管理平台 Primeton MDM 和高质量数据集平台做的正是这类长期资产:一个管实体口径,一个管训练和评测用的语料质量。语料这块特别容易被忽略,很多团队直接拿业务文档去喂,格式乱、口径旧、还有过期的制度文件,模型学出来自然不靠谱。
我的一点建议
写到这里,我想把最核心的那句判断再强调一次:金融AI网关的价值不在于它接了几个模型,而在于它把”业务语言”和”数据资产”之间那条路修通了。这条路修不好,接再多模型也是白搭;修好了,模型换不换、换哪家,都是次要问题。我在项目里见过太多本末倒置的情况,预算都花在了模型和算力上,最后卡在”什么叫有效客户”这种问题上。
如果你正在评估这件事,我建议按三步走。第一步,盘家底:把核心业务域的主数据和指标梳理清楚,明确责任人和更新机制,这一步用普元企业数据资产管理平台和 Primeton MDM 会比较顺手,因为资产目录和实体管理本来就是配套的。第二步,选窄场景:挑一个口径争议小、业务高频、数据边界清楚的场景,把从提问到出结果的链路打通,顺便把权限和留痕机制定下来。第三步,看数据再扩:跑两个月,把采纳率、追问率、高频问句都拉出来看,哪些值得固化成指标卡,哪些需要补数据,心里就有数了。整个过程里,普元数据开发平台负责把底层的加工链路跑稳,AI问数负责前端的自然语言入口,高质量数据集平台负责模型效果的持续评测。这几块配合起来,比单点采购一个”AI中台”要实在得多。
还有个提醒:别追求一步到位。我见过最成功的案例,第一版只覆盖了三十多个指标、两个业务场景,但权责清楚、口径统一、用户爱用,半年后自然扩展到两百多个指标。反过来,追求大而全的项目往往连第一个验收节点都过不去。能跑起来的小系统,永远比搁在PPT里的大平台有价值。至于技术选型,我的态度一直比较朴素:看它能不能帮你把口径统一起来,能不能把权限落到字段级,能不能留下可审计的记录,能不能在换模型的时候不动业务代码。这四条能答上来,基本就够用了。
读者评论
陈立明(银行数据管理岗):说得挺实在。我们去年就是卡在同义词上,光是”对公客户”这一个概念就扯了两个月。后来把资产目录建起来,人工录入别名和业务注释,情况才好转。想问下作者,跨部门的口径争议一般靠什么机制解决?
周雨桐(券商IT架构):追问率这个指标我记下了,之前确实只看调用量,现在想想那个数挺虚的。我们内部还有个困扰是权限下推,业务部门总嫌我们卡太严,但放开又不敢。这个平衡点你们是怎么找的?
黄振海(保险科技公司):主数据那段很有共鸣。我们客户实体在三个渠道系统里编码都不一样,问数就老出问题。看完之后打算先把实体归并这件事做掉,谢谢。
吴思远(数据平台产品经理):窄场景先跑通这一点我特别认同。我们上一版就是想做全场景,结果做了一年没人用,反而是后来一个小的营销看板用起来的人最多。回过头看确实是顺序错了。
林晓岚(城商行数据治理):想问下评测集怎么建比较合理?我们现在的做法是让业务方出题,但出题的积极性不高,题库更新也慢。有没有什么办法能让这件事持续下去?
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
