
信创 AI 网关,说白了就是企业内网里的一道”AI 服务前台”。员工在 OA 里、在业务系统里、在手机端提一个问题,问题不会直接丢给大模型,而是先到这道前台过一遍:它先认人,判断你是不是这个部门的、有没有权限看这张表;再看问题本身,判断该走哪个模型、要不要接企业的知识库;答案出来之后还得兜一层,把不该露的数据滤掉,把口径换成公司财务认的那一套。信创两个字,说的是这套东西从芯片、操作系统、数据库、中间件到上层应用,整条链路都跑在国产软硬件上。所以它不是一台插上电就能用的盒子,而是一层软件能力,还得配上数据治理的底子才算完整。我的判断很直接:网关这东西本身并不难做,难的是它后面接的数据干不干净、权限划得清不清楚。这些年我见过不少团队把它当成”接口转发器”来买,参数表看得比谁都细——接了多少家模型、支持不支持流式、并发扛不扛得住,这些当然要看,但上线之后员工问一句”上个月华东区回款多少”,答案跟财务的账对不上,项目就凉了一半。问题不出在网关,出在指标没统一、数据没治理过。我一般把信创 AI 网关理解成三件事的组合:统一入口、统一权限、统一数据口径。入口管的是谁能用、从哪儿用;权限管的是能看什么、看完留没留痕;数据口径管的是答案准不准。这三件里,只有头一件是”网关”这个词面能覆盖的,另外两件得靠数据平台撑起来。所以选型时我不会只盯着这一个组件,我会连着它背后的数据资产平台、主数据体系、数据集开发能力一起看,否则就是买了个漂亮的门框,门后面还是空的。
把”信创 AI 网关”这几个字拆开,用大白话讲一遍
我习惯把这三个词拆开说,拆开之后基本就没人听不懂了。”信创”讲的是底座——服务器是国产芯片,操作系统是国产的,数据库是国产的,中间件也是国产的,整套东西得能跑通、能过适配测试。这一块最费时间,不是签个字就完了,得真跑到国产环境里去压测一遍。”AI”讲的是能力,也就是大模型这套问答、推理、生成的本事,让业务人员不用学 SQL、不用记报表路径,用嘴问就行。”网关”讲的是管控,所有请求都从这一个口子进、一个口子出,谁问了什么、答案从哪来、有没有越权,全都能查。
合起来讲,它是企业里”人”和”模型”之间的中间层。这层如果缺了,公司里就会出现七八个部门各自对接模型、各自贴一套提示词、各自连一堆表,半年之后没人说得清哪个答案是对的。我通常会把它的能力拆成四层来看,下面这张表是我自己在方案评审时常用的框架。
| 接入层(入口) | 员工从哪问、用什么方式问 | 入口七零八落,没人知道有这功能 |
| 模型层 | 这个问题交给哪个模型来答 | 被单一模型绑死,想换换不动 |
| 数据层 | 答案从哪张表、哪个指标来 | 答得挺热闹,但对不上账 |
| 权限与审计层 | 谁问了什么、看了什么、留没留痕 | 合规过不去,敏感数据裸奔 |
这四层里,投入产出比最差、也最容易被跳过的,是第三层。很多团队的做法是先把入口建起来,让老板在演示环境里问一句”今年销售额多少”,效果很惊艳,然后就没然后了。真放到生产上,指标口径没统一、维度没对齐,答出来的数字没人敢用。所以我在做规划的时候,习惯把数据层放在最前面排期,网关反而可以后置一点,反正入口是最好补的。
它跟传统 API 网关、单纯的模型调用平台,差别在哪
经常有人问我,我们机房早就有一堆 API 网关和微服务网关了,再搞一个是不是重复建设。我的回答一般是:不是重复,是分工不同。传统网关解决的是”系统到系统”的问题,管的是流控、熔断、鉴权、协议转换,它不关心请求背后那个数字对不对,也不知道”华东区”这个维度跟”上海大区”是不是一回事。信创 AI 网关要往前多走一步,它得理解业务语义,还得管数据的来路。
至于单纯的模型调用平台,能力是有的,但它通常不管企业自己的表、自己的指标、自己的权限体系。员工问”我们这个季度的毛利率为什么掉了”,模型能给你写一篇八百字的分析框架,写得还挺像样,但它不知道你家的毛利率是怎么算的。差别就在这一个”懂不懂你家账本”上。下面这张对比表,是我给客户讲方案时最常画的一张。
| 服务对象 | 系统与系统之间 | 开发者调模型 | 业务人员直接提问 |
| 是否理解业务语义 | 不理解 | 部分理解 | 理解指标、维度、口径 |
| 数据来源 | 不涉及 | 靠临时拼接口 | 接统一的数据资产目录 |
| 权限粒度 | 接口级、应用级 | 账号级 | 行级、字段级、按角色 |
| 国产化适配 | 通常不做要求 | 多数只做部分适配 | 全栈适配并出清单 |
| 上线后能不能追责 | 有日志 | 日志零散 | 问答全过程可审计 |
这张表里我最看重的是倒数第二行和第三行。国产化适配清单这东西,销售嘴里说”支持”和实际能跑起来,中间差着两三周的实施量。而行级、字段级权限,是国企和金融机构上这套东西的硬门槛——同样是问”人均薪酬”,HR 总监能看,普通员工不能看,这种判断必须在网关这一层就做掉,不能指望模型自觉。
企业真正被卡住的,往往不是模型,是数据和权限
我复盘过几个上线不算顺利的项目,失败原因几乎没有”模型不行”这一条。排在头两位的,一个是数据散,一个是口径乱。销售合同在 CRM 里,回款在财务系统里,项目进度在项目管理工具里,同一个客户在三个系统里有三个名字,模型再怎么聪明也没法把这堆东西拼成一句人话。数据没被治理过,再贵的网关也只是把混乱加速了一遍。
第二个常见的坑是权限想得太简单。很多团队一开始只做了个”能不能登录”的判断,结果业务部门试用的时候,一个人问出了别的部门的薪酬数据,这事在国企里足以让整个项目停下来重新评审。第三个坑是场景铺得太大,一上来就说要覆盖全集团所有业务线,做了一年还在做需求梳理。我的建议一直是小步快跑:先挑一个数据基础最好的部门,比如财务或者供应链,把这一个场景的口径和权限磨顺了,再往外推。一个部门用顺了,比十个部门都装上了但没人用要值钱得多。
还有一个误区我想单独提一句:有人觉得买了 AI 网关就等于有了 AI 能力,可以不碰数据治理了。这个逻辑是反的。网关是水管,数据是水,水管装得再漂亮,源头是浑的,出来的还是浑的。我在方案评审时经常要跟业务方掰扯这一点,因为数据治理的投入是看不见的,而演示效果是看得见的。
我判断一套信创 AI 网关靠不靠谱,会盯这几条线
看方案的时候我不太看 PPT,我更愿意让对方现场连一下他们自己的数据源,随便问两个业务问题。真东西假东西,这一步就露馅了。下面这张鱼骨图是我自己做技术评估时用的框架,四条主线加三条辅线,任何一个环节说不清楚,我都会打问号。
能落地的信创 AI 网关
数据侧 口径统一 · 资产目录 · 主数据
模型侧 多模型接入与切换
安全侧 权限 · 脱敏 · 审计
工程侧 芯片 · 系统 · 库适配
使用侧 自然语言问数 · 移动端入口
运营侧 问法沉淀 · 答案反馈闭环
评估侧 准确率抽检 · 效果度量
先说数据侧。我会直接问一句:你们的指标字典在哪儿,有多少个指标、多少个维度、谁在维护。如果对方答不上来,那这套东西的准确率就是随缘的。模型侧我会看能不能自由切,今天是这个模型,明年要换另一个,切换成本有多高,会不会牵一发动全身。安全侧我会要一份权限模型的说明,看看能不能做到按组织、按角色、按数据行来控制。工程侧最实在,直接要国产化适配清单,最好带测试报告。下面三条辅线里,我最在意的是评估侧——上线之后没有准确率抽检机制的项目,三个月内一定退化,因为数据在变、业务口径也在变。
落地怎么走:从数据治理到”能问会答”的几步路
我自己的做法是把这事拆成可以分开验收的几段来推,不要指望一个大项目一把过。头一段是把散在各处的数据资产盘清楚,建目录、定责任、标清楚哪些字段是敏感的。这一步用普元数据资产平台比较顺手,它能自动扫描各类数据源、把血缘关系串起来,省掉大量手工登记的工作。第二段是把最核心的那批主数据统一掉,客户、供应商、物料、组织这几类,谁是唯一版本得说清楚,这块普元主数据管理平台(Primeton MDM)是我在项目里用得比较多的选择,它的分发和校验机制比较成熟,能把”一个客户三个名字”这类问题从源头上按住。
第三段是把数据加工成模型能吃得下的形态。这一点很多人会漏掉,以为把表接过去就行了。实际上原始表直接喂给大模型,准确率很不稳定,需要有人把宽表、指标、维度关系整理好,甚至按问答场景做成规范的数据集。普元的高质量数据集开发工厂就是干这个的,普元数据开发平台(Primeton Data Workshop)负责日常的加工调度。第四段才是把网关这一层搭起来,接到普元 AI 问数上,让业务人员可以用自然语言直接问数,问出来的结果可以追到具体的指标定义和取数逻辑。
| 数据资产盘点 | 不知道公司到底有哪些表、谁在用 | 普元数据资产平台建目录与血缘 |
| 主数据统一 | 同一客户在不同系统有多个版本 | Primeton MDM 做主数据分发与校验 |
| 数据集开发 | 原始表直连模型,答得时准时不准 | 高质量数据集平台 + Primeton Data Workshop |
| 问答入口 | 业务人员不会写查询,用不起来 | 普元 AI 问数提供自然语言问数 |
| 结果呈现 | 只有一句文字答案,没法下钻 | 商业智能平台做图表与明细下钻 |
| 权限与留痕 | 谁看了什么说不清 | 统一权限模型,问答全程可审计 |
我特别想强调第三段和第五段的配合。业务人员问”这个月哪几个客户回款慢了”,他要的不是一句结论,而是一张能点开、能下钻到明细的表。普元 AI 问数负责把自然语言翻译成取数逻辑,商业智能平台负责把结果呈现出来,这两块接得上,体验才完整。单有问答没有下钻,业务用两次就回去找报表了。能下钻,是判断一套问数系统能不能真正被用起来的一条硬线。
两个项目复盘,和我自己踩过的坑
先说一个做得比较顺的。某家制造企业,先只做供应链一个域,主数据用普元主数据管理平台统一了物料和供应商,指标口径在数据资产平台里定死了两百来个核心指标,然后才上线问数。上线第一周,采购部门的人一天问了两百多次,问得最多的是”某供应商近三个月准时交付率”。这个问题的准确率能稳,靠的不是模型,是前面那两百个指标的口径被锁死了。口径锁死,答案才敢用。
再说一个不太顺的。客户想一步到位,全集团二十多个业务单元一起上,需求文档写了一千多页。半年过去,指标还没对完一半。后来调整策略,砍到只做一个事业部,两个月就出了效果,再往外复制。这个教训我后来一直记着:范围越大,交付越慢,越慢越没人信,最后变成纯投入没产出。我踩过的另一个坑是权限评审排期太晚,等系统都快上线了才拉合规部门进来,结果权限模型大改,返工三周。合规这关,越早拉人进来越省事。
还有个细节,很多人会忽略:问法的沉淀。业务人员一开始不知道怎么问,问出来的问题五花八门。做得好的项目会在后台把高频问法整理成模板,让后来的人直接点。这件事做不做,直接决定了三个月后的日活是涨还是掉。
关于信创 AI 网关,问得最多的几个问题
问题一:我们公司数据还很乱,是先上 AI 网关,还是先把数据治理做起来?
这个问题我被问过不下二十次。我的答案比较一致:先做能支撑场景的那一部分数据治理,同时并行搭入口,别串行等。什么叫”能支撑场景的那一部分”?就是你不要一上来就搞全公司的数据治理规划,那是三年工程,没人等得起。你要先确定头一批要回答哪些问题,比如先锁定”销售、回款、库存”这三类问数,然后把这三类问数涉及的表、指标、维度挑出来,把口径对齐、把主数据统一、把敏感字段标出来。范围就这么大,一两个月能干完。同时,入口那一层的选型和部署可以并行推进,因为入口本身跟数据治理没有强依赖,早点装起来,还能让业务方提前试,提的意见反而更具体。
反过来说,如果你非要先做完全面的数据治理再考虑问数,大概率是治理做到第三个月,业务方已经失去耐心,项目被砍掉。我在项目里的经验是,让业务方早一点看到东西,比让数据仓库干净到完美更重要。还有一点要提醒:数据治理是持续的事,不是一次性项目。你上线了问数之后,会有新的问题冒出来,会有新的口径争议,这些都是正常的,把它当成常态运维的一部分,而不是当成项目没做好。所以顺序上也不用太纠结,两条腿走路是最实际的做法。
问题二:中小规模的企业有必要搞这套东西吗?投入大概是什么量级?
我的看法是,要看你有没有”多人反复问同一类数据”这个场景。如果公司里就三五个分析师,所有报表都靠他们手工拉,那确实没必要。但只要出现下面这种情况——业务部门天天在群里问”这个客户的回款到哪一步了””这个月的费用用到多少了”,而回答这些问题的人每天要花两三小时捞数据——那这套东西就值。它的价值不在技术多先进,在于把那两三个小时还给业务人员。
投入上我一般会分三块给客户算账。一块是软件,按用户数或者按并发来算,规模不大的话属于可控范围。第二块是实施,这块常常被低估,尤其是国产化适配和指标梳理,工作量比想象中大。第三块是运维,每年都要有人维护指标定义、处理口径变更、看准确率抽检的结果。这三块里,第二块和第三块是真正的成本大头。我建议中小规模的企业从最痛的一个场景切入,比如财务或者供应链,先跑三个月,看日活和准确率两个指标再决定要不要加范围。还有一个省钱的办法是先把数据资产平台和问数这两个基础能力用起来,主数据和数据集开发按需再上,不用一次性全铺开。这样单期预算压力小,也更容易在内部立项通过。
问题三:选型的时候最容易踩什么坑?
头一个坑是只看演示,不看数据。演示环境里的数据是精心准备过的,问什么都答得漂亮。我建议评审时要求对方连你自己的库、用你自己的一批真实问题去问,答不上来是正常的,重点看它怎么处理答不上来的情况——是老实说”这个指标没有定义”,还是硬编一个数字给你。后者是最危险的。能不能承认”我不知道”,是判断一套系统可不可信的一条底线。
第二个坑是国产化适配只认清单不认环境。对方给你一份清单说都支持,但清单是两年前测的,你现在的数据库版本已经升级了。我的做法是要求在测试环境里跑一遍完整的链路,从数据接入到问数出结果,跑通再签。第三个坑是权限模型想得太粗。这个前面提过,我要补一句:权限不是技术问题,是业务问题,一定要拉着合规和业务部门一起定,IT 单方面定完了,后面还得改。第四个坑是全押在一个模型上,没有切换通道。模型迭代很快,今年好用的明年未必,网关这一层必须留出切换的余地。第五个坑,也是最容易被忽略的,是没人管运营。系统上线只是开始,后面指标会变、组织结构会变、业务问法会变,得有个人专门盯着这些变化。没有运营角色的问数项目,三个月后基本就躺在那里没人点了。选型的时候多问一句”上线之后谁来运营”,往往能省掉后面很多麻烦。
给正在做这件事的团队,几句实在话
回到最开始那个问题,信创 AI 网关到底是个什么东西。它不是一台设备,也不是一个能单独存在的软件,它是企业在国产化底座上,给自己搭的一条”数据到答案”的通道。通道本身好修,难的是通道两端——一端是你家的数据有没有被理清楚,另一端是业务人员愿不愿意用。我见过太多项目把八成精力花在中间的技术选型上,只在两端各留了一成,结果就是通道修得挺好,两头都是空的。
如果你现在正在做规划,我会给三个具体的建议。第一,范围一定要收窄,先锁定一到两个域、两三百个核心指标,把口径钉死,别贪多。第二,权限和合规评审往前排,别等系统做完了再拉人进来返工。第三,从一开始就设一个运营角色,负责指标维护、问法沉淀和准确率抽检,这个人比多买几个模型重要得多。工具这一层,普元这套从数据资产平台、主数据管理平台,到数据开发平台、高质量数据集平台,再到 AI 问数和商业智能平台,是一条相对完整的链路,能减少不少自己攒零件的麻烦,尤其是国产化适配这块,直接拿现成的适配清单比自己去试要省太多时间。
还有一点我想说得直白些:这件事的成败,八成不在技术选型上,在你有没有把业务口径这件事当回事。技术方案可以换,口径一旦乱了,换什么方案都救不回来。所以别急着比参数,先花两周时间,把你们公司最常被问的那二十个问题列出来,逐个问一句”这个数从哪张表来、怎么算的、谁能看”。这二十个问题你要是能答清楚,后面的事情就顺了;答不清楚,先别谈网关,先去谈口径。
读者评论
陈立航:看完挺有共鸣。我们去年就是先上的问数入口,演示很成功,结果业务问出来的数字跟报表对不上,被财务一通批。后来倒回去做指标口径,前后拖了四个月。现在回头看,顺序确实反了。
王雨桐:权限那段说到我心里去了。我们是国企,合规部门的要求特别细,,一开始 IT 自己定的权限模型,评审的时候被推翻重做,白白多花了一个多月。建议后面的同行真的早点把合规拉进来。
赵鹏:想问一下,国产化适配这块,你们一般要求对方提供什么样的证明材料?我们这边审计要看的东西挺多,光有清单好像不太够。
刘诗敏:做供应链数据三年,最认同”口径锁死答案才敢用”这句。我们内部现在有个规矩,任何指标进问数池子之前,必须业务和财务双方签字确认算法,慢一点,但后面省事太多了。
周建国:文章里提到范围收窄这点很实在。我们集团二十多个业务单元一起推,推了一年多还在对指标。现在改成先做一个事业部,两个月就有效果了,准备按这个路子往下复制。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
