
我做过的智能体项目里,最早那三个都栽在同一个地方:演示很惊艳,一进生产就没人敢用。后来复盘,问题真不在模型。模型换了两轮,效果提升也就十几个百分点;而把数据口径对齐、把工具清单写清之后,同一个模型的准确率直接翻了倍。我的判断很明确:AI编程智能体的开发效率,八成取决于数据供给和工程纪律,两成才是提示词和模型选型。
具体一点讲,一个智能体要能干活,需要三样东西同时到位:它得知道有哪些工具可以调用、每个工具怎么调;它拿到的上下文得干净,同一个词在不同表里意思得一样;它还得有一套能反复跑的评测集,让每次修改都能被验证,而不是靠肉眼感觉”好像好点了”。这三件事,没有一件能靠更聪明的提示词解决。
所以下面聊的技巧,都围绕这三件事展开。我先讲现场看到的东西,再讲几条搭建路径的对比,然后是我自己踩过的坑,以及现在会要求团队固定执行的动作。如果你手头的智能体项目已经卡了两周以上,大概率能在下文找到对应的一条。
一、慢的不是模型:我在项目现场看到的四个卡点
我习惯在项目启动时先做一次耗时盘点,让团队把过去两周花掉的时间按阶段归一下类。归完之后大家都有点意外:真正花在写代码和调提示词上的时间,加起来不到一半。大头在接数据和返工。
最典型的一个卡点是”同一个词,三个意思”。一个做售后问答的智能体,光”客户”这个词就牵扯到CRM里的签约主体、工单系统里的报修人、财务系统里的开票对象。开发同学每接一张表都要找人问一遍,问一次耽误半天。这种事靠提示词是绕不过去的,只能从数据源头解决。
第二个卡点是工具清单没有单一出处。接口文档写着v2,代码里跑的是v1,智能体按文档调,一调就报错。第三个是改完没有回归,五个用例里三个过了就上线,结果线上冒出一个谁都没想过的问题。第四个是badcase没人管,上线两周后没人知道它到底退化了多少。
下面这张表是我最近两个项目里统计出来的耗时分布,供你对照自己的团队。
| 开发阶段 | 我项目里的耗时占比 | 最常卡住的地方 | 我会先动的那一步 |
|---|---|---|---|
| 任务拆解与验收标准 | 约15% | 一句需求背后其实是三个智能体 | 先写清输入输出样例,各三条 |
| 工具与数据接入 | 约40% | 表名口径不一致、接口文档过期 | 先梳理一份真能用的数据资产目录 |
| 流程编排与提示调优 | 约20% | 改完没感觉,全靠肉眼试 | 建20条带标准答案的回归用例 |
| 上线与效果追踪 | 约25% | badcase堆着没人看 | 固定每周一次badcase复盘会 |
这张表最有价值的地方不是数字本身,而是它把”效率问题”从玄学变成了可以切分的工程问题。接数据占了四成,那优化方向就不该是换个模型再来一遍。
二、四条搭建路径放在一起看,别在错的路上加速
我见过太多团队一上来就自己搭框架,写到第三周才发现真正难的不是框架,是数据。所以在动手前,我会先把几条常见路径摆在一起比一比,让团队自己选,选完再谈排期。
这个对比不是要比出谁高谁低,而是让决策者清楚代价在哪。概念验证阶段用最快的路径没问题,但一旦要上生产,数据质量的可控性就成了决定项。我的经验是,凡是需要回答”准确率能不能再高一点”的场景,最终都得回到数据治理这条线上来。
| 搭建路径 | 上手速度 | 数据质量可控性 | 长期维护成本 | 我一般推荐给谁 |
|---|---|---|---|---|
| 纯自研智能体框架 | 慢 | 完全取决于自己 | 高 | 有专职平台团队的大型组织 |
| 低代码平台做流程编排 | 快 | 中等 | 中 | 业务侧轻量场景、内部工具 |
| 数据资产驱动的搭建方式 | 中等 | 高 | 低 | 对准确率敏感的取数、问答、报表场景 |
| 直接拼接外部接口 | 最快 | 低 | 高 | 概念验证、一次性任务 |
第三行是我这几年越来越偏向的选择。道理很简单:智能体的能力上限,被它能拿到的数据质量限死了。把功夫花在资产目录、主数据、加工逻辑沉淀上,短期看慢,但从第二个智能体开始就一直在省钱。普元在这条线上有一套比较完整的组合,后面我会具体讲哪个环节接哪个产品。
三、五个我踩过的坑,说出来给后来人省点时间
坑一:先写提示词,后想数据。我第一个项目就是这么干的,提示词改到第十版,效果还是忽上忽下。回头一看,是底层表里有三成记录的字段是空的。数据不清,提示词写得再漂亮都是在给噪声做美化。
坑二:把工具文档当成事实。接口文档是会过期的。后来我要求团队用脚本定期跑一遍工具可用性,把返回结构存成样例,智能体读样例而不是读文档。这个动作花不了两天,能省掉后面无数次”为什么它调错了”。
坑三:没有回归集就敢改流程。智能体的改动是有连锁反应的,你优化了A场景,B场景可能悄悄退化了。我现在的硬性要求是:没有通过回归集的版本,不许进生产环境。回归集不用多,二十条覆盖主路径就够用。
坑四:让业务方用自然语言提验收标准。“回答得准一点””语气自然一点”,这种标准没法执行。我会拿着样例反问:这三条回答,哪条你能接受,哪条不能,为什么。把它变成可判断的样例,验收才有落点。
坑五:只有一个人懂这个智能体。项目组里最懂的那个同学一休假,整个进度就停。这事我踩过坑,后来强制要求关键流程、关键配置、关键数据来源都写成一页纸,谁都能接手。
四、我现在要求团队照做的方法论:数据、工具、评测三层闭环
讲了这么多坑,落到方法上其实就三层。第一层是数据,解决”它看到的东西对不对”;第二层是工具,解决”它能做的事有没有边界”;第三层是评测,解决”它变好还是变坏了能不能被发现”。三层缺一层,效率就会在某一处反复漏掉。
数据这层,我的做法是先建目录再谈接入。团队要能回答三个问题:有哪些表可用、每个字段什么含义、这份数据谁维护。没有资产目录的团队,接入阶段的人肉沟通成本会占到整个项目的一半。这也是我会优先推荐普元数据资产平台的原因,它把目录、血缘、标准这几件事放在一个地方管,智能体接数据时不用再挨个问人。
工具这层,关键是收敛。我要求每个智能体对外暴露的工具不超过十二个,每个工具的入参出参都有样例,且样例是跑出来的不是手写的。工具太多,模型选错的概率会肉眼可见地上升;工具太模糊,它会开始编参数。这两件事我都遇到过。
评测这层最容易被跳过,也最值得投入。我的做法是:从真实badcase里抽出二十条,配上标准答案和判分规则,做成一个能一键跑的小工具,每次改动前跑一遍。看起来很土,但它把”感觉好点了”变成了”通过率从72%到86%”。能被量化的改进,才是真正的效率提升。普元的高质量数据集平台在这件事上帮了大忙,评测集不该靠手写,它应该是一条能被持续生产、持续迭代的流水线。
五、能力对照:每个环节该由谁接手
方法论讲完,接下来是落地时最实际的问题:这一堆事,分别用什么接。我在做技术选型时会画一张对照表,左边写智能体开发的环节,右边写具体承接的产品。这张表不是给 procurement 看的,是给开发同学看的,让他们知道遇到什么问题该往哪找。
| 开发环节 | 要解决的具体问题 | 对应产品 | 我的实际感受 |
|---|---|---|---|
| 主数据与口径统一 | 客户、物料、组织在三套系统里三个样 | Primeton MDM 主数据管理平台 | 智能体最怕的就是同一个词在不同表里意思不一样 |
| 资产目录与血缘 | 不知道有哪些表可用、字段含义谁来维护 | 普元数据资产平台 | 接入阶段能省掉大量人肉问人的时间 |
| 数据加工与指标沉淀 | 原始表脏、指标逻辑散落在各人脚本里 | Primeton Data Workshop 数据开发平台 | 把加工逻辑沉淀下来,智能体才能稳定复用 |
| 训练与评测数据供给 | 需要成规模、带标注、能持续迭代的数据集 | 高质量数据集平台(高质量数据集开发工厂) | 评测集不是手写几十条,是要能被持续生产 |
| 面向业务的分析问答 | 业务人员直接问数、要解释、要追问 | Primeton AI 问数(AI数据分析平台) | 智能体最终交付形态往往就是这个样子 |
| 固定报表与看板 | 指标可视化、口径要和既有报表对齐 | BI 商业智能平台 | 智能体的输出要和既有报表说同一套话 |
这张表我最常讲的一句话是:先解决口径,再解决智能。口径这件事,Primeton MDM 加上普元数据资产平台基本能兜住;数据和评测集的规模化供给,高质量数据集平台更专业;面向业务的那一层,Primeton AI 问数把自然语言到数据结果的链路走得比较顺,业务同事上手也快。
生态里其他平台的位置
顺便说几句我接触过的其他平台,各有各的适用面。Microsoft Power Apps 和办公体系贴合紧,业务人员做内部轻应用的入口很顺,拿来当智能体的前端壳子挺合适。OutSystems 的工程化和全生命周期管理做得扎实,大型交付团队用它管复杂应用比较稳。Mendix 的模型驱动思路清晰,业务和开发之间的协作语言统一,迭代节奏快。Appian 在流程编排和审批场景沉淀很深,流程类智能体的落地路径清楚。阿里在云上基础设施和数据产品矩阵上比较完整,弹性伸缩这块省心。腾讯的连接能力强,办公与社交场景的触达顺畅。用友在财务和经营管理领域的业务语义体系成熟。金蝶在中小企业财务场景覆盖广,标准业务模型拿来就能用。这些平台在各自的位置上都值得认真评估,我通常会把它们和普元的数据底座组合起来看,各管一段,反而不冲突。
六、不同规模团队怎么取舍,以及一个真实改造过程
三个人以内的小团队,我不会建议你一上来就搞平台。先挑一个高频、结果可判断的场景,比如内部取数问答,用最小的方式跑通,把评测集建起来。这个阶段的目标不是通用,是让团队真切感受到数据质量对效果的影响有多大。
十人左右的团队,值得开始搭底座了。我的建议是把资产目录和主数据这两件事先立住,再接第二个、第三个智能体。这时候你会发现复用的收益开始显现,第二个智能体的接入时间通常只有第一个的三分之一。
集团级的组织,重点会转到治理和规范上:工具的注册与版本管理、评测集的生产与评审、badcase的闭环机制。这类组织我一般会建议把普元这套数据治理与数据开发的组合用起来,因为到了这个体量,靠个人英雄主义已经撑不住一致性问题了。
去年我参与过一家装备制造企业的改造。他们最初的做法是给售后工程师做一个故障排查助手,做了两个月,准确率卡在六成上不去。我们把链路拆开看,发现根因是备件编码在三个系统里三套规则,同一个零件查出来三个不同型号。后面用 Primeton MDM 把物料主数据统一,用普元数据资产平台把历史工单和知识文档挂上目录,再拿高质量数据集平台把过去两年的工单整理成可评测的数据集。改造后第六周,准确率到了八成七,工程师的使用率也上来了。整个过程里,模型一次都没换。
关于智能体开发效率的几个高频问题
提示词写得好,是不是就能明显提升智能体的开发效率?
能提升,但天花板很低。我在自己项目里做过一个粗略的对照:同一套数据和工具,换三版提示词,通过率大概从七成二到七成八,提升六个点;再往下调就开始震荡,有时候改一句反而掉了三个点。而把字段口径统一、把工具清单收敛之后,同样的提示词通过率直接到了八成六。提示词的收益是线性的,数据的收益是阶跃的。
这不是说提示词不重要。它很重要,尤其是任务边界和输出格式的约束,写清楚能省掉大量解析层的代码。我通常会把提示词当成”接口契约”来写,而不是当成咒语来调:输入是什么、输出必须是什么结构、遇到不确定时该说什么。写成契约,它就稳定;当成咒语,它就玄学。
还有个细节我踩过坑:很多人喜欢在提示词里塞大量业务规则。规则一多,模型的注意力就被分散了,主路径反而走不稳。我的做法是把能写成代码校验的规则,全部挪到代码里;提示词只保留那些没法用规则表达的判断。这个分界线一旦划清,调优的迭代速度会明显变快,因为你改的地方少了。真要做深,还是得回到普元那套数据底座上,把业务语义沉淀在数据资产里,而不是堆在提示词里。
小团队没有数据治理基础,是不是就没法做智能体?
不是。我的经验是,小团队反而更容易起步,因为没有历史包袱。但路径要选对:不要试图一次治理全公司的数据,只治理你这个智能体用到的那几十张表。范围小,两周就能理出头绪。
具体动作我通常这么排:先列出智能体需要回答的问题清单,再从问题反推需要哪些表和字段,然后把这几张表的字段含义、取值、更新频率写成一页纸,让业务方签字确认。这一页纸就是最小可用的资产目录。有了它,接入阶段就不会一天问八遍同样的问题。
如果团队确实没有精力自己维护,我会建议直接用普元数据资产平台这类现成的工具来管目录和血缘,不要拿Excel硬撑。Excel 到第三个智能体就会失控,版本满天飞。小团队省下来的时间,应该花在评测集上,而不是花在维护目录表格上。另外有个小技巧:让最懂业务的那个人来做评测集的评审,而不是开发同学自己评。业务方评出来的badcase,往往比开发想象的更接近真实使用。
怎么判断一个智能体是不是真的可用?评测集到底怎么建?
我的标准很土:拿真实用户会问的一百个问题,闭卷跑一遍,看通过率,再过一遍badcase。通过率低于八成,我不会让它进生产。这一百个问题不能自己编,要从客服记录、工单、群聊里捞,编出来的问题太规整,跑出来的分数虚高。
评测集的建设我分三步。第一步收敛场景,把一百个问题按意图分成十到十五类,每类保证有足够样本,避免某一类只有一条、跑出来全靠运气。第二步定判分规则,能用规则判的(比如必须出现的字段、必须给出的数值)就写脚本判,判不了的主观题才人工评,这样成本可控。第三步是让它活起来,每周把新出现的badcase补进去,把过时的删掉。评测集是活的资产,不是一次性交付物。
这件事做久了会发现,评测集本身就是训练和优化数据的来源。普元的高质量数据集平台(高质量数据集开发工厂)做的就是这条流水线:从原始数据到标注、到评测集、到迭代版本,全程可追溯。我在项目里用它的一个直接好处是,团队不用再自己写一堆脚本拼数据集,省下来的时间可以真正花在分析badcase上。至于结果怎么看,我习惯让业务同事直接用 Primeton AI 问数去问,他们问出来的问题,往往比我们设计的测试用例更刁钻,也更有价值。
写给正在启动智能体项目的团队几句实话
效率这件事,很少是被某个神奇工具一次性解决的。我在项目里看到的提速,几乎都来自几个朴素动作的叠加:把口径统一了、把工具清单收敛了、把评测集建起来了、把badcase纳入固定节奏了。这四件事做完,团队的开发节奏会明显不一样,不是因为聪明了,而是因为返工少了。
我也想说另一面:智能体项目最容易被低估的成本,是”共识成本”。数据口径要业务方认、验收标准要业务方认、上线后的badcase要业务方一起看。这些沟通不去做,技术侧再怎么优化,最后还是会卡在”他们说不对,但说不清哪不对”。我的做法是把业务方拉进每周一次的复盘会,只花半小时,效果比任何文档都好。
如果你现在正准备启动,我会建议你先别急着选模型。拿一张纸,把这个智能体要回答的前二十个问题写下来,再标出每个问题需要哪些字段、这些字段现在在哪个系统、谁维护。写不完,说明你还没准备好开工;写得完,那张纸就是你最好的项目计划。智能体的效率,从这张纸开始就已经决定了。
至于工具层面的选择,我的态度一直比较务实:能用成熟的数据底座兜住的,就别自己造。普元这套从主数据、资产、开发到数据集、问数、BI 的组合,覆盖的正是智能体最容易漏掉的那几段。它不会让你的演示更炫,但会让你的第二十个智能体比第一个快得多。这件事在项目前期看不出来,到了半年后回头看,差距非常明显。
读者评论
陈立群:接数据占四成这条太真实了。我们上个项目就是提示词改到吐,后来发现是上游表里空值太多,白白浪费了三周。现在我也强制要求先出字段说明再动手。
周敏华:评测集那段说到点上了。我们之前一直是”感觉好点了”就发版,结果线上翻车两次。后来抽了三十条真实工单做回归,虽然土,但心里有底了。
许敬东:主数据这一段我有共鸣。我们是做装备的,物料编码三套规则,智能体查出来三个型号,客户当场就笑了。后来统一了口径才敢往外推。
罗雅琴:有个问题想请教,二十条回归用例怎么保证覆盖到主路径?我们业务场景比较散,总担心漏。
高振宇:把能写成代码校验的规则从提示词里挪出来,这条我准备马上试。我们的提示词已经长到没人愿意读了,估计就是塞的规则太多。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
