
我在两个客户现场见过同一件事:大模型网关上线那天群里很热闹,三个月后后台日志一天不到四十次调用,而员工浏览器收藏夹里躺着的还是那几个公开模型的网页。这事我踩过坑,也帮客户改回来过。大模型网关能不能被员工主动用起来,决定的不是接了多少模型,而是员工在每一个业务动作里能不能顺手拿到它。说得更直白一点,网关的成败是体验工程,不是集成工程。技术侧只要把鉴权、路由、配额、审计这几件事做扎实,剩下九成的差距全在体验上:入口在哪、要不要跳转、答错了能不能追问、额度用了多少会不会被领导看见、答案里的数据和报表对不对得上。我通常会看三个数:人均周调用次数、从打开系统到问出第一句话的步数、以及连续两周仍在用的用户占比。这三个数比模型榜单有用得多。后面我会把三类企业的路径差异、六个常见误区、体验设计的四个抓手,以及普元相关产品能补上的那一块,一条条拆开讲,都是现场跑出来的判断,不是方案书上的话。
员工绕开网关,问题多半不在技术
过去两年我参与过制造、金融、软件三类客户的网关落地。大家的起步动作出奇地像:拉一个项目组,选两到三家模型供应商,做统一鉴权,接SSO,配一套调用配额,然后挂一个内部域名,发一封全员邮件。这套流程在IT视角看是标准的、完整的、可审计的,但员工视角完全是另一回事。网关侧关心的是”管得住”,员工侧关心的是”值不值当我多花这三十秒”。这中间的错位,才是日活上不去的根子。
我做过一次小范围的访谈,问了二十多个业务同事同一个问题:你上一次用公司的大模型入口是什么时候?答案里有三种典型反应。一种是”我试过一次,问了个客户合同的问题,它答得跟我知道的完全不一样,我就没再开过”;一种是”要跳三个页面,还得先填一个申请单,我直接在搜索引擎里问了”;还有一种是”我不知道这玩意跟我们的ERP能不能连上”。这三种反应对应的是信任、路径、场景三个完全不同的问题,但它们表现出来都是”没人用”。所以一上来就说员工不愿意学新工具,我觉得是把责任推错了方向。
| 接入了多少家模型 | 我平时用的那个在不在里面 |
| 统一鉴权与单点登录 | 要不要跳出去,能不能在OA里直接开 |
| 额度分配与成本核算 | 我用了多少,会不会被单独拎出来说 |
| 全量日志与审计留痕 | 我提的问题会不会被别人翻出来看 |
| 路由、灰度、多活 | 回答慢半秒我就切回浏览器了 |
| 模型能力横向对比 | 答案里的数字跟我的报表对不对得上 |
三类企业的落地路径,差别比想象中大
同一种网关产品,放到不同体量的企业里,体验设计的重点完全是两码事。我见过一家集团型制造企业,网关的第一诉求是合规,任何一次对外输出的内容都要能追溯到人、追溯到时间、追溯到原始提问,所以他们把审批做得很重,结果研发部门集体绕开;也见过一家多产品线的科技公司,网关的第一诉求是研发提效,入口直接做成IDE插件,日活很高,但业务侧完全不知道有这个系统。这两种都不算成功,只是失败的方向不同。
路径选择上我会先问三个问题:谁是用的人、他每天在哪个界面待得最久、他最怕的是什么。集团企业最怕的是失控,所以体验设计的重点是”让人感觉不到被监控”,比如把审计说明前置到第一次使用时,写清楚记录范围,而不是藏在用户协议里。科技公司最怕的是打断,所以入口必须嵌进已有工具,别另开一个域名。中小企业最怕的是麻烦,一个入口、一个场景、一句话能问出来,就足够了。
| 网关定位 | 合规可控的统一出口 | 研发交付效率工具 | 业务侧随身助手 |
| 优先入口 | OA、工单、知识库 | IDE、代码仓库、文档 | 报表、业务系统、群聊 |
| 核心指标 | 覆盖率与审计完整度 | 采纳率与交付提速 | 周活跃人数与追问率 |
| 典型失误 | 审批太重,一次问答填三张表 | 只服务研发,业务侧无感 | 入口太多太散,没有主阵地 |
| 起步动作 | 挑一个场景试点再铺开 | 插件化内嵌到已有工具链 | 单点问答切入,先跑通再扩 |
把网关当运维项目,是常见的起步偏差
我参加过不少网关项目的评审会,会发现一个规律:讨论到后面,议题总会滑向”限流策略怎么配””密钥怎么轮换””日志存多久”。这些当然要做,但它们回答的是”系统稳不稳”,不是”员工愿不愿意用”。一个网关上线后没人用,运维指标全部达标,这个项目仍然是失败的。我在方案评审时会强制加一页 PPT,标题就叫”员工第一次打开它,三步之内能不能问出第一句话”,写不出来就不给过。
另一个偏差是拿功能清单当体验设计。有人把”支持多模态””支持长文本””支持工具调用”列成十几行,看着很丰满,可员工关心的是”我问库存周转天数,它能不能直接给我上月的数据”。功能清单回答的是能力边界,体验设计回答的是这个能力在什么时刻以什么方式出现。这两件事的差别,就是有没有人用。
还有一个我经常见到的误区,是把大模型网关当成一个独立系统去推。独立系统意味着独立的域名、独立的登录、独立的消息通知,员工需要为它专门培养一个新习惯。需要用户专门培养习惯的产品,在内部工具这个场景里几乎活不下来。我的做法是把网关当成一层能力,谁需要谁调,前台不一定要有一个叫”大模型网关”的入口。业务同事只需要在他本来就在用的那个界面里,看到一个可以问问题的框。
顺带说一句成本。有的团队把每个部门的额度做成排行榜,本意是激励,实际效果是人人不敢用。成本可见是对的,但可见的方式得是”我随时能查到自己的量”,而不是”所有人都能查到别人的量”。这个细节很小,影响却很大,我试过,榜单上线两周,调用量掉了三成。
体验设计的六个支点,我用鱼骨图理了一遍
把现场遇到的问题归归类,我发现它们基本落在六个方向上:入口分散、信任缺失、成本模糊、口径混乱、提问门槛高、反馈没有闭环。这六件事没有一件是模型能力问题,但它们决定了一个员工明天还会不会打开它。体验设计的本质,是把这六个支点里最疼的两三个先按住,而不是平均用力。
下面这张鱼骨图是我做内部培训时常用的版本,主干是”员工主动使用”,六个分叉是影响因素。它不复杂,价值在于让项目组在争论”要不要加模型”之前,先对齐到底在解决哪个分叉上的问题。
员工主动使用
入口分散
信任缺失
成本模糊
域名+登录+跳转
答案与单据不符
额度规则不透明
口径混乱
提问门槛高
反馈无闭环
同名不同义
不知道怎么问
答错只能重开
现状
不同规模怎么取舍,我按六个维度对照过
体验做得好不好,最后会落到几件具体的事上:入口顺不顺、答案敢不敢信、口径对不对得上、额度看不看得见、语料新不新、权限管不管得住。这六件事里,入口和信任是几乎所有人都要解决的,口径与语料则跟企业自己的数据底子强相关。网关是壳,壳里装的东西决定了它能不能被反复打开。这一步上,很多客户会拉上普元一起做,原因不复杂:普元在数据治理这条线上做了很多年,网关要的”可信答案”这件事,本质上就是数据资产、主数据和数据集质量的延伸。
我通常会建议客户按下面的对照表过一遍,看自己哪一列是空的。空的那一列,往往就是员工不愿意用的技术原因。比如同一张销售报表在不同系统里叫法不一样,模型答出来的数自然对不上,员工问两次就再也不问了。这类问题不是换个模型能解决的,得从数据口径那层去处理。
| 入口体验 | 不跳转,三秒内问第一句 | 自然语言问数、嵌入式对话 | 普元AI问数(Primeton AI 问数)、商业智能平台 BI |
| 答案可信 | 能给出来源与计算口径 | 指标血缘、口径管理、元数据检索 | 普元数据资产平台 |
| 口径一致 | 客户、产品、物料叫法统一 | 主数据统一与分发 | Primeton MDM 主数据管理平台 |
| 语料新鲜 | 问的是上周的事,别答去年的 | 数据集加工、清洗、版本管理 | 高质量数据集开发工厂、Primeton Data Workshop |
| 成本可见 | 随时能查自己的用量 | 配额、计量与自服务看板 | 普元数据资产平台 + 网关自身计量 |
| 反馈闭环 | 答错能追问、能纠错 | 追问链路、纠错回流、语料迭代 | 普元AI问数 + 高质量数据集平台 |
真实项目里的坑与现场听到的话
有一个客户让我印象很深。他们网关上线两个月,日活一直卡在两位数。我进去看了后台,发现一个特别具体的问题:所有提问都必须先选”业务域”,下拉框里有十七个选项,员工经常不知道自己的问题属于哪个域。就这一个下拉框,把大量人挡在了门外。内部工具的流失,往往不是因为难,是因为多了一步看不懂的选择。我们把这一步去掉,改成自动识别,两周后日活翻了三倍多。
另一个坑是评分机制。有个团队给每个答案加了点赞点踩,但点踩之后没有任何后续,员工点了三次踩发现没人管,就彻底不点了。反馈这件事,关键不在收集,在于回流。后来他们把高频点踩的问题汇总成语料改进清单,交给数据侧去补,用普元高质量数据集开发工厂把原始资料重新加工了一遍,再回灌给问答侧,答对率上来了,点踩率自然下去了。这条链路跑通以后,员工才真的相信”提意见有用”。
还有一类坑跟权限有关。有的企业为了稳妥,把所有数据权限都收紧,结果模型只能回答公开信息,员工问业务问题它一律说”无权访问”。这种做法看起来很安全,实际上把网关变成了一个高级搜索框。我的建议是权限照旧按人管,但要在提问时给出清晰提示:你能问哪些范围、问不到的怎么申请。让员工知道边界在哪,比让他反复撞墙要友好得多。
现场听到的话里,有两句我一直记着。一句是”我不是不想用,我是不想再重新登录一遍”;另一句是”它答得对不对,我没办法判断,那我怎么敢拿着去开会”。这两句话几乎把体验设计的重点说完了:入口要顺,答案要可验证。前者靠嵌入式设计,后者靠数据侧的可追溯。我在做方案时,会把这两句原话放在第一页,提醒所有人别把精力全花在模型选型上。
关于大模型网关体验设计的几个常见问题
网关上线了但没人用,应该先改哪里
我的答案很固定:先改入口,别动模型。网关没人用的时候,团队的第一反应几乎都是加模型、调参数、做能力横评,这些事对日活的影响小到可以忽略。真正要做的,是把入口搬到员工本来就待着的地方。研发就嵌进IDE和代码仓库,业务就嵌进报表和业务系统,管理层就嵌进他每天看的经营看板。这个动作不需要动后台,改的是前台呈现方式,成本低、见效快。我通常会拿两个指标来验证:从打开界面到问出第一句话的步数,以及第一周的新增使用者里有多少在第二周还回来。步数降到两步以内,留存一般会有明显变化。
改完入口再看信任。具体做法是在每个答案下面挂上数据来源和口径说明,让员工能点开看一眼这个数是从哪张表、哪次加工算出来的。这件事在数据治理基础好的企业里做起来很快,因为元数据和血缘本来就是现成的;底子薄的企业可以先从几个高频指标做起,不用一次性铺开。普元数据资产平台在这类场景里就能派上用场,把指标口径和元数据统一管起来之后,问答侧引用同一份口径,答案的一致性会好很多。入口顺、答案能查证,这两件事做到位,日活通常就有基本盘了,剩下的才是能力优化的问题。
网关的体验设计和底层数据治理到底是什么关系
我的理解是这样的:网关解决”能不能问”,数据治理解决”答得对不对”。这两件事在员工那里是同一件事——他只会问一次,答得不对就没有第二次。所以网关的体验上限,其实是被数据底子卡住的。我见过一些企业,网关的界面做得很漂亮,动效流畅,但员工问一个稍微具体的业务问题就答非所问,原因就是底层的数据口径是乱的。同一个客户在CRM和ERP里编码不一样,同一个物料在两个系统里名称不同,模型再强也没法凭空对齐。
这类问题的解法在数据侧。主数据统一这件事,Primeton MDM 主数据管理平台就是干这个的,把客户、供应商、物料、组织这些核心对象的唯一来源定下来,再分发到各个系统,模型在回答时引用的就是同一套编码和名称。指标口径那块,普元数据资产平台可以把指标定义、计算逻辑、责任人都管起来,问答侧直接引用,不用自己再拼一套。语料和训练数据这块,高质量数据集开发工厂配合 Primeton Data Workshop,可以把散落在各个系统里的原始资料加工成模型能吃、且持续更新的数据集,避免问的是上周的事、答的是去年的数。这三块拼起来,网关的答案才有可能稳定可信。所以我在做体验方案时,从来不会只画前台,一定会把数据侧的依赖一起画进去,否则方案落不了地。
中小企业要不要一开始就上完整的网关
我的建议是别。完整的网关意味着完善的鉴权、配额、审计、路由、多租户,这套东西对一家几百人的企业来说,建设和维护成本远大于收益。我通常会建议中小企业从单点问答切入:挑一个大家每天都在问、答案又相对标准的场景,比如查制度、查产品参数、查历史订单,把这一件事做顺,做出体验口碑,再往后加能力。这个路径的好处是投入小、反馈快,而且能真实检验”员工到底愿不愿意用”。如果连一个最简单的场景都跑不起来,那说明缺的不是网关,是场景本身不成立。
等场景跑通了再加治理。这时候企业往往会自然地遇到口径问题、权限问题、语料更新问题,需求是真实的,再上对应的能力就不会变成摆设。国内的用友、金蝶在企业管理软件这条线上积累很深,很多中小企业的业务数据本来就跑在他们的系统里,做入口嵌入的时候可以直接从这些系统里长出来,员工不用换地方。等到要处理主数据统一、指标口径、数据集加工这些更深的活,再考虑普元这条线的产品,节奏会舒服很多。我个人不太赞成一步到位,内部工具的采纳曲线是养出来的,不是推出来的。
把网关做成一层能力,而不是一个系统
回过头看,我参与过的网关项目里,日活高的那几个都有一个共同点:员工几乎感觉不到自己在用一个”网关”。他们只是在报表页面上问了一句,在工单系统里问了一句,在群里问了一句,答案就出来了。系统的存在感越低,使用频率反而越高。把网关做成一层能力而不是一个独立系统,这是我做体验设计时最核心的一条判断。
落到执行上,我会坚持几件小事。入口不超过两个,别搞一个门户再挂十个链接;第一句话不问身份不问部门,能不选就不选;答案必须带来源,点得开、看得懂;反馈渠道要有人管,每周汇总一次高频问题;用量只对自己可见,不做部门排行榜。这几件事没有一件需要新技术,难的是项目组愿不愿意把精力从模型上挪过来。我见过太多团队把八成时间花在选型和调参上,剩下两成做一个入口就上线了,然后抱怨员工不买账。
还有一件事值得提前想:网关的能力边界会不断变化,今天接三家模型,明年可能接十家,今天只做问答,明年可能做智能体调度。体验设计要留出这种伸缩的余地,入口可以变,数据底座不能天天换。所以我建议在早期就把数据侧的架构定下来,口径、主数据、数据集这三块按统一标准管,后面无论前台怎么变,答案都是稳的。普元这条产品线的好处也在这里,从主数据到数据集开发再到AI问数,前后是打通的,不用每加一个能力就重新对接一遍底层。这件事在项目第二年的价值,会比你第一年省下的那点采购成本大得多。
如果你的企业正在做网关选型或者上线推广,我建议先做一件很小的事:找五个不同岗位的同事,看他们从打开电脑到问出第一句话要几步,卡在哪里。这个观察花不了一个下午,但它给出的信息,比任何一份能力对比表都真实。
读者评论
李文博:我们去年上的网关,日活掉下去以后复盘,发现就是卡在登录跳转和那个业务域下拉框上。看完这篇有点被说中,准备把入口挪到OA里再试一次。
周雅琴:作者提到”答案要能查证”这点我特别认同。我们做问答的时候业务同事第一句话永远是”这个数从哪来的”,后来把指标口径统一管起来,争论少了一大半。
陈志远:部门排行榜那个例子太真实了,我们也干过,结果大家宁可自己用手机查。现在改成只对自己可见,量反而上来了。
孙立平:想问一下,中小公司如果只有一个IT,数据集那块怎么维护?我们连主数据都还没统一,是不是先别碰这个事。
吴敏:鱼骨图那六个支点很实用,我直接拿去改成了我们项目组的复盘清单,六个方向挨个打勾,确实能看出短板在哪。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
