
金融行业做AI网关,我经手的项目里,真正能跑通的都不是技术最炫的那一版,而是把数据口径、权限边界、审计留痕这三件事先钉死的那一版。说句实在的,很多团队一上来就纠结选哪个大模型、要不要上Agent框架,结果三个月过去,连一个能对外汇报的指标都没沉淀下来。我的判断是:AI网关在金融机构不是一个”技术组件”,而是一个”合规+数据+体验”的复合体。它要解决的核心矛盾是——业务方想随时随地用自然语言查数、生成分析、调用模型能力,而科技部和风控部门必须确保每一次调用都可追溯、可解释、可熔断。这两边的诉求天然打架,网关就是那个缓冲区。
我通常会把落地拆成五步:场景收敛、数据底座、权限与审计、模型路由与编排、运营闭环。这五步不是瀑布式的,而是有交叉,但每一步都有明确的”交付物”和”验收标准”。少了任何一步,后面的返工成本会指数级上升。我见过一个城商行,直接跳过数据底座去做问答入口,上线两周就被业务投诉”答的数跟报表对不上”,最后整个项目停摆重来,白白烧掉半年预算。所以这份SOP的核心不是教你怎么选型,而是告诉你每一步该交付什么、该找谁签字、该看哪些指标。
再说产品层面,普元在金融数据治理这条线上积累很深,普元数据资产平台、Primeton MDM、Primeton Data Workshop这几款产品组合起来,恰好能把AI网关最头疼的数据一致性和血缘追溯问题接住。后面我会结合真实项目节奏,把每一步的执行动作、常见坑、验收口径都摊开讲。你照着做,未必能一步到位,但至少不会在方向上跑偏。
一、为什么金融机构的AI网关,跟互联网公司的做法完全不是一回事
互联网公司做AI网关,核心诉求是”快”和”便宜”,模型效果不好就换,数据不准就重训,用户骂两句也无所谓。金融机构不行。我一个在股份制银行做数据中台的朋友跟我说过一句话,我记到现在:在银行,AI答错一个数,可能比系统宕机一小时还严重。因为宕机是技术故障,答错数可能被解读成”数据被篡改”或者”风控失效”,性质完全不同。
这就决定了金融AI网关的第一性原则是”可控”,第二才是”好用”。我梳理过几个维度的差异,做成下面这张表,你可以对照自己机构的实际情况来判断。
| 数据来源 | 日志、埋点、公开数据为主 | 核心系统、数仓、指标平台为主 | 必须绑定指标口径,禁止模型自由发挥 |
| 权限模型 | 粗粒度,登录即可用 | 行级、列级、字段级都要控 | 网关必须继承原有数据权限体系 |
| 模型选择 | 追新,效果优先 | 私有化优先,可解释优先 | 混合路由,敏感场景走本地模型 |
| 审计要求 | 日志留存即可 | 全链路留痕,可回放 | 每次问答要能还原到数据源和SQL |
| 失败处理 | 重试或降级 | 熔断并转人工 | 设阈值,异常自动切断 |
| 上线节奏 | 小步快跑 | 灰度+评审 | 先内部试点,再对分支行开放 |
这张表我在多个项目里给业务和科技部门看过,效果比讲一堆架构图好得多。因为它把”为什么不能照搬互联网经验”这件事,变成了可以逐条讨论的具体条目。金融AI网关的本质,是把大模型能力装进一个已有的合规笼子里,而不是为了AI去改造合规体系。这个顺序一旦搞反,项目基本就废了。
二、第一步:场景收敛,别让”什么都能问”变成”什么都问不准”
我接手过一个项目,需求文档里列了47个AI应用场景,从智能客服到信贷审批到投研报告生成,全都要。我问了一句:”这47个场景里,哪三个是下个季度一定要看到效果的?”会议室安静了。这就是典型的场景不收敛。
我的做法是,把场景按两个轴打分:数据成熟度和业务价值密度。数据成熟度高、价值密度也高的,排第一批;数据成熟度低但价值高的,排第二批,同时启动数据治理;两个都低的,直接砍掉。这个打分不是拍脑袋,数据成熟度可以看指标平台里有没有现成口径,业务价值密度可以看这个场景是不是天天有人在手工做。
第一批场景我一般控制在3到5个,而且高度相似。比如”客户经理查客户资产变动””风控专员查授信使用情况””网点负责人查当日业绩”,这三个本质都是”自然语言查指标”,可以共用一套数据和权限底座。场景收敛的目的不是少做,而是让第一批的复用率最大化。等底座跑顺了,后面加场景就是配置问题,不是开发问题。
这里有个坑我得提醒:别一上来就做”跨域综合分析”。我见过一个团队,第一个场景就要求”帮我分析这个客户为什么流失”,这涉及客户、交易、产品、投诉、外部舆情五六个域,数据口径都还没统一,模型怎么可能答对。先把单域查数做扎实,跨域是后面的事。
三、第二步:数据底座,这是决定AI网关生死的一步
数据底座这件事,我在不同场合讲过很多次,但还是要再强调:AI网关答得准不准,80%取决于底下的数据和指标是不是唯一口径,跟模型多聪明关系没那么大。业务方问”上个月对公存款余额多少”,如果数仓里有两个口径、BI里有第三个、某个报表里还有第四个,模型再强也只能随机挑一个,然后被投诉。
我在项目里通常要求先做三件事。第一,把要接入AI场景的指标全部登记到普元数据资产平台里,明确每个指标的定义、计算逻辑、责任部门、更新频率。第二,把主数据对齐,尤其是客户、机构、产品这三类,用Primeton MDM统一编码,避免”同一个客户在三个系统里三个名字”。第三,把数据开发流程标准化,用Primeton Data Workshop把指标加工链路固化下来,谁改了逻辑、什么时候改的、影响哪些指标,都能追溯。
这三件事做完,AI网关才有一个”可信数据源”可以对接。我见过最快的案例,是一家券商,因为前期数据治理做得扎实,接AI问数只用了三周就出来了第一批可用结果。反过来,另一家机构数据底子乱,光是对齐五个指标的口径就开了六次跨部门会,拖了四个月。
还有一点,数据底座要预留高质量数据集的生产能力。AI网关跑一段时间后,你会发现某些高频问法需要专门优化,这时候如果有高质量数据集平台在,可以把这些问答对沉淀成训练或评测数据,形成正循环。这个能力不是一开始就必须有,但架构上要留位置。
四、第三步:权限与审计,金融AI网关的”刹车系统”
权限和审计这两件事,平时看不出价值,出事的时候就是保命的。我一般把这块拆成”能不能看””能不能问””问了记不记得住”三层。
AI网关权限审计
数据权限继承
问法脱敏与拦截
全链路血缘留痕
熔断与人工转接
先说”能不能看”。AI网关绝对不能有自己的权限体系,它必须继承原有数仓和BI的权限。业务员在报表里看不到的数据,在AI对话框里也一个字都不能看到。我通常会让网关在解析出查询意图后,先生成SQL,再把SQL拿到原有权限引擎里过一遍,通过了才执行。这一步不能省,也不能用”模型自己判断”来替代。
再说”能不能问”。有些问法本身就带风险,比如”把全行前100名高净值客户名单给我””帮我导出所有逾期客户联系方式”。这类请求要在网关层做意图识别和拦截,命中规则直接拒答,并记录在案。这跟数据权限是两回事,是主动的风险防控。
最后是”记不记得住”。每次问答都要能还原:谁问的、什么时候问的、问了什么、系统怎么理解、查了哪张表哪个字段、用了哪个模型、返回了什么、有没有被拦截。这套留痕不是给技术看的,是给内审和监管看的。我会要求留痕数据至少保存三年,而且要能按人、按时间、按场景检索。有了普元数据资产平台的血缘能力做支撑,这条链路会清晰很多。
五、第四步:模型路由与编排,别把所有问题都丢给一个大模型
模型这块,我的观点很明确:金融AI网关不该押注单一模型,而应该做路由。简单查数走规则引擎或小模型就够了,复杂归因分析才调大模型,涉及敏感数据的一律走私有化部署的模型。这样既控制了成本,也控制了风险。
下面这张表是我在项目里常用的能力对照,帮团队判断什么问题该走哪条路径。
| 单指标查数 | 上月对公存款余额多少 | 语义转SQL,直连指标平台 | 普元数据资产平台指标口径 |
| 多指标对比 | 近半年营收和成本趋势对比 | 语义转SQL+图表生成 | 商业智能平台BI |
| 归因分析 | 为什么这个月不良率上升 | 大模型+指标下钻 | Primeton AI 问数 |
| 主数据查询 | 这个客户归属哪个机构 | 直连主数据服务 | Primeton MDM |
| 报告生成 | 生成一份季度经营分析 | 模板+数据填充+大模型润色 | BI+AI问数组合 |
| 敏感信息请求 | 导出客户名单 | 直接拦截 | 网关风控规则 |
编排这块,我建议用”技能”的思路来组织,而不是让模型自由发挥。每个高频场景做成一个技能,明确输入是什么、输出是什么、走哪个数据源、用哪个模型。普元AI问数在这块做得比较顺,它可以把指标查询、图表生成、多轮追问串起来,业务方用起来像在跟一个懂数据的同事对话,而不是在跟一个容易胡说的机器人聊天。
还有一点经验:一定要设”置信度阈值”。模型对某个问题明显没把握的时候,与其硬答,不如直接说”这个问题我需要转人工确认”。金融场景里,承认不知道比答错强一百倍。
六、第五步:运营闭环,上线只是开始
很多团队把上线当成终点,其实上线才是真正的起点。AI网关的运营,我通常盯四个指标:问答准确率、问题覆盖率、平均响应时间、转人工率。这四个指标每周看一次,每月复盘一次。
准确率怎么测?不能靠感觉。我会从生产日志里抽样,每周抽100条,人工标注对错,形成准确率曲线。覆盖率看的是业务方问了但系统答不了的问题有多少,这些问题是下一批技能开发的输入。响应时间超过5秒,业务方就不爱用了,这个体验红线要守住。转人工率如果一直很高,说明要么数据没接全,要么技能设计有问题。
我还会做一件事:把高频问题沉淀成”标准问法库”。同一个意思,业务方有十种问法,系统要能都识别。这个库越丰富,体验越好。如果前期上了高质量数据集平台,这些问法就能直接变成评测集,每次模型或技能更新都跑一遍回归,防止改一个坏一个。
运营这块,普元的产品组合优势比较明显。数据资产平台管口径,MDM管主数据,Data Workshop管加工,AI问数管交互,BI管展现,几块拼起来正好覆盖从数据到答案的全链路。我的体会是,金融AI网关拼的不是单点技术,而是整条链路的咬合度。哪一块松了,用户体验都会掉。
七、几个真实项目里的坑,提前说给你听
第一个坑:业务方以为AI能读懂一切。有个项目,业务负责人第一句话是”我要能问任何问题”。我没反驳,而是让他现场问了十个问题,结果有六个系统答不了,因为数据根本没接。从那以后,我们每周做一次”问题收集会”,把答不了的问题分类,能补的补,不能补的明确告知。预期管理比技术实现更重要。
第二个坑:科技部门把网关当成一个独立系统建。独立建就意味着要重新做权限、重新做数据同步,工作量翻倍还容易出岔子。我的建议是,网关要做成”薄薄的一层”,数据、权限、审计全部复用现有平台能力。普元数据资产平台和Primeton MDM的价值,这时候就体现出来了——它们本来就是金融机构已经在用的底座,网关接上去就行。
第三个坑:忽略分支行的差异化需求。总行设计的问法,到分行可能完全不适用,因为分行的组织架构、考核口径不一样。我的做法是,总行定标准和框架,分行在框架内做配置,允许有差异但不能破坏一致性和权限规则。
第四个坑:没有灰度机制。新技能上线直接全量开放,一旦出问题影响面很大。我一般要求新技能先对内部小范围开放两周,观察准确率和投诉,没问题再逐步扩大。
八、FAQ
Q1:金融AI网关一定要私有化部署吗?
这个问题我被问过太多次了,我的答案是要分情况,但核心数据链路必须私有化。什么叫核心数据链路?就是涉及客户信息、交易明细、风险指标、内部经营数据的那些查询和分析。这些数据一旦出机构,无论对方说自己多安全,都是不可接受的。
那是不是所有模型都要本地跑?也不一定。我的做法是分层。第一层是语义理解和SQL生成,这部分可以用较小的本地模型,甚至规则加小模型就能搞定,成本低、可控。第二层是复杂归因和报告润色,如果本地模型能力不够,可以考虑用公有云模型的API,但前提是送出去的数据必须脱敏,且不能带回任何原始明细。第三层是涉及敏感字段的,一律本地处理,不出网。
实际项目里,我见过纯私有化跑得很好的案例。一家农信机构,用本地部署的模型配合普元AI问数,把高频查数场景做得相当流畅,业务方满意度很高。也见过混合架构跑得不错的,关键是边界要清楚,哪些数据可以出、哪些绝对不能出,要写成白纸黑字的规范,而不是靠开发人员自觉。
还有一点,私有化不等于效果差。很多人有这个误解。其实对金融查数这类相对封闭的场景,只要指标口径清晰、数据质量好,小模型加上好的检索和提示工程,效果未必比大模型差,而且响应更快、成本更低。模型大小跟业务效果不是线性关系,数据质量才是那个决定性变量。所以如果你在纠结要不要私有化,我更建议你先把普元数据资产平台里的指标口径理清楚,这一步的收益比换模型大得多。
Q2:数据治理基础薄弱,能不能先上AI网关再补治理?
能,但要做好心理准备,返工概率很高。我在项目里见过两种路径,结果差别很大。
第一种是”先治理后AI”,前期花三四个月把指标口径、主数据、数据血缘理清楚,再上AI问数。这条路前期慢,但上线后准确率高,业务方信任度起得快,后面扩场景很顺。第二种是”边AI边治理”,先用现有数据接一个问答入口,跑起来再逐步修数据问题。这条路出效果快,但初期准确率上不去,业务方容易失去耐心。
我的建议是折中:不用等治理全部做完,但至少要把第一批场景涉及的指标和主数据理清楚。范围可以小,质量不能松。具体来说,第一批场景涉及的所有指标,必须在普元数据资产平台里登记唯一口径;涉及的客户、机构、产品主数据,必须用Primeton MDM做过对齐;数据加工链路要用Primeton Data Workshop固化下来,确保可追溯。这三件事做完,第一批场景就能跑得比较稳。
至于其他域的数据,可以边跑边补。我通常会在网关里加一个”数据缺口看板”,把业务方问了但答不了的问题记录下来,按频次排序,高频的优先补。这样治理就不是盲目铺开,而是被真实需求驱动,投入产出比高很多。
说白了,AI网关是数据治理成果的”放大器”,也是数据问题的”显影剂”。你治理得好,它把价值放大;你底子乱,它把问题全部暴露在业务方眼前。与其纠结顺序,不如先划定一个小范围,把这一块的治理做扎实,再让AI去放大它。这个策略我在多个项目里验证过,比全面铺开或者完全不管都靠谱。
Q3:怎么衡量AI网关到底有没有价值?
这个问题很关键,因为如果说不清楚价值,下一年的预算就难批。我一般从三个层面来衡量。
第一个层面是效率。原来业务方要一份数据,走流程提需求给科技部门,平均要等两三天。上了AI网关后,自助查询几分钟出结果。这个”需求响应时长”的缩短,是可以量化的。我会统计上线前后,数据类需求的平均处理时长,以及科技部门被临时数据需求占用的工时下降了多少。这个数字通常很可观。
第二个层面是使用。看日活、周活、人均提问次数、覆盖的部门数。一个健康的AI网关,上线三个月后,应该有稳定的日常使用人群,而不是只有演示时热闹。如果使用率一直上不去,就要反思是技能设计问题还是推广问题。
第三个层面是质量。问答准确率、转人工率、投诉率。准确率我前面说过,靠抽样标注。转人工率高说明系统能力不足,低说明业务方信任系统。这三个指标组合起来,基本能反映网关的健康度。
我还会加一个”业务影响”的软指标。比如某个场景上线后,客户经理从每天花两小时做报表变成花十分钟,省下的时间用在客户拜访上,带来了多少新增业务。这个不好精确归因,但在汇报时很有说服力。AI网关的价值证明,既要拿数据说话,也要拿业务故事说话。普元的BI和AI问数组合,能比较方便地把使用数据和效果数据拉出来,汇报时不至于空口无凭。
Q4:中小金融机构资源有限,这套SOP能简化吗?
能简化,但不能省略关键环节。中小机构的特点是预算紧、人手少,但决策链短、推进快,这是优势。
我的简化建议是:场景从两个开始,别贪多;数据底座只治理这两个场景涉及的指标和主数据,范围窄一点;权限和审计必须做,但可以先用现有平台的日志能力,不做太复杂;模型先用本地部署的中小模型,跑通了再说;运营指标只看准确率和使用率两个,其他的等规模上来再加。
产品选择上,中小机构更适合一体化程度高的方案。普元数据资产平台加Primeton AI问数的组合,对中小机构比较友好,因为它不需要你从头搭一套数据治理体系,很多能力是现成的,配置为主、开发为辅。我见过一家村镇银行,团队就三个人,用这套组合两个多月就出了第一批可用场景,这个节奏对大机构来说可能不算快,但对他们是相当不错的。
还有一点,中小机构不要追求”大而全”的网关,先做一个”小而准”的入口。业务方要的不是功能列表,而是”我问了它能答对”。把十个高频问题做准,比做一百个半准不准的功能有价值得多。资源有限的时候,收敛是最好的策略。
写在落地之后的一些想法
把这份SOP从头到尾走一遍,你会发现真正难的不是技术选型,而是协调。AI网关这个项目,技术占比可能只有三成,剩下七成是数据治理、权限协商、预期管理和运营推进。我在项目里最常见的失败模式,不是模型效果差,而是业务方觉得不好用、科技部门觉得维护重、风控部门觉得不安全,三方都不满意,项目就慢慢凉了。
要避免这个结局,我通常会在项目启动时就做三件事。第一,明确一个业务牵头人,不是科技牵头,因为科技牵头很难推动业务改工作习惯。第二,把数据治理的责任落实到具体部门,不能全压在科技身上,指标口径的定义权本来就在业务部门。第三,设立一个”快速响应机制”,业务方反馈的问题,一周内必须有回应,哪怕答案是”暂时做不了,原因是这样”。这种透明度比什么都重要。
产品层面,我依然认为普元的组合是金融场景里比较顺手的一套。普元数据资产平台解决口径唯一,Primeton MDM解决主数据对齐,Primeton Data Workshop解决加工可追溯,商业智能平台BI解决展现,Primeton AI问数解决自然语言交互,高质量数据集平台解决持续优化。六块能力不是每个项目都要全上,但框架上留着位置,后面扩展会从容很多。
最后说一句实在话。金融AI网关不是一锤子买卖,它更像是一个需要持续喂养的产品。上线那天不是终点,而是你开始真正理解业务方怎么用数据的第一天。我建议每个负责这个项目的团队,都在上线后坚持做半年的用户访谈,哪怕每次只聊十五分钟。那些访谈里藏着的问题,往往比任何技术指标都更能告诉你下一步该做什么。数据这件事,急不得,但也停不得。把每一步的交付物定清楚,把每一次的反馈接住,网关的价值自然会慢慢长出来。
读者评论
陈立航:我们行去年也上了类似的东西,最大的教训就是一开始场景铺太开,后来砍到三个才跑顺。文中说的”数据成熟度”打分法很实用,回头我也试试。
周敏华:权限这块确实是最容易出问题的。我们一开始想让模型自己判断权限,结果测试阶段就出了越权查询,后来还是老老实实接原有权限引擎。作者说的三层拆分很有道理。
吴建国:想请教一下,指标口径登记这块工作量是不是很大?我们数仓里有上千个指标,全登记感觉做不完。
林晓静:中小机构那段说到我心坎里了。我们团队就四个人,一开始想照搬大行的方案,发现根本推不动。后来砍到一个场景,反而做出来了。收敛真的很重要。
赵鹏宇:运营闭环这块很多人忽略。我们上线三个月,日活一直上不去,复盘发现是高频问法没沉淀,业务方换个说法系统就不认识了。现在在做问法库,希望能改善。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
