
我把过去一年多跟过的二十多个研发团队摊开看,真正靠 AI 编码把交付周期压下来的,比例并不高。多数团队停在一个尴尬的位置:个人写小脚本、补注释、生成单测,体感挺好;一旦放到项目里跑,返工率、评审成本、口径不一致的问题全冒出来。我的判断很直接:AI Coding 当前的四道坎,不在模型本身,而在上下文供给、领域语料、评测闭环、工程链路这四件”模型管不着”的事上。模型能力这半年进步很快,可这四件事,厂商替不了你。我见过一个数据中台项目,二十多人的团队接入代码助手三个月,需求交付周期只从 18 天降到 16 天,项目经理一度想停掉。后来复盘发现问题根本不在工具:模型拿到的上下文是开发手工粘贴的几个文件,字段口径散在三套文档里,生成的 ETL 任务没人验,跑通一次就算过。换句话说,你给它的是碎片,它还给你的必然是碎片。真正跑出效果的团队,做法反而朴素——把代码库的结构化上下文整理出来,把领域语料沉淀成可复用的高质量数据集,把每次改动放进可回归的评测集里,把生成结果接进数据开发平台里跑通校验。这四步做完,同一个模型,提效幅度能差出两三倍。下面我把自己踩过的坑、看过的成败,按这四个方向拆开讲。
我看到的真实情况:用的人多,改流程的人少
大多数团队引入 AI 编码的方式,是给 IDE 装个插件,然后告诉大家”可以用”。这事就结束了。没有一个团队为此改过代码规范,改过评审流程,改过数据口径管理方式。工具装上是零成本的,流程不改才是最大的隐性成本。
我通常会先问三个问题:你们有没有一份能被机器读懂的字段口径说明?有没有一批可以反复跑的回归用例?生成的代码从提交到上线,中间多了几道人工校验?这三个问题答不上来的团队,提效基本停在 10% 出头。
不同用法带来的差距,比很多人想象的大。下表是我在项目里粗略统计的体感数据,样本不大,但趋势很清楚。
| 使用方式 | 主要用在什么环节 | 我观察到的提效体感 | 典型问题 |
|---|---|---|---|
| 只做代码补全 | 单文件补全、注释、命名 | 10%–15% | 提升集中在手速,不动结构 |
| 对话式改代码 | 局部重构、写单测 | 20%–30% | 返工多,评审压力上升 |
| IDE 接入 + 规范约束 | 整模块骨架、接口联调 | 30% 左右 | 需要有人维护提示与规范 |
| 私有语料 + 评测闭环 | 领域代码生成、数据开发 | 40% 以上 | 前期投入大,需要平台支撑 |
这张表里我最想说的是最后一行。它和前几行的差别,不是换了更贵的模型,而是把”喂给模型的东西”和”验收模型的东西”都工程化了。前者靠语料与上下文治理,后者靠评测集。这两件事恰好都是数据侧的工作。
硬伤一:模型读不懂你的代码库,上下文一直在漂
第一个硬伤最容易被低估。开发把三五个文件粘进对话框,模型就靠这点信息猜你的架构。它猜得还挺像,所以你不会立刻发现错。上下文漂移的可怕之处在于,错误是”像对的”,评审时一眼扫过去看不出问题,等联调才炸。
我见过一个订单履约模块,模型生成的代码用了另一个项目的状态枚举,命名、注释、风格全对,值域错了两个。这种错,静态扫描抓不到,单测也覆盖不到,因为单测本身也是模型写的,它按错的假设写的。
我自己更认可的思路是,把上下文从”手工粘贴”升级成”结构化供给”。元数据、血缘、字段口径、接口契约,这些东西如果本来就躺在资产目录里,模型取到的就是准的。普元数据资产平台在这件事上的价值,是把分散在各处的元数据、标准、血缘串成一张可查的网,模型需要哪个字段的定义,直接从这里取,而不是靠人回忆。
| 上下文供给方式 | 具体做法 | 优势 | 局限 |
|---|---|---|---|
| 手工粘贴 | 开发挑文件贴进对话 | 零成本,随时可用 | 信息不全,全靠人判断 |
| 仓库检索增强 | 按关键词召回相关代码 | 覆盖面广,能跨文件 | 召回噪声大,缺少业务口径 |
| 元数据 + 血缘 + 资产目录 | 由平台统一供给结构与口径 | 准、可追溯、口径唯一 | 需要有资产治理基础 |
硬伤二:领域语料喂不进去,代码写得像,跑起来不对
通用模型见过海量公开代码,但它没见过你们公司那套跑了两百个任务的数据开发规范,没见过你们那套字段命名法,也没见过你们踩过的那些脏数据。领域知识的缺口,不是靠把提示词写长能补上的,得靠语料。
这里我要泼一盆冷水:语料不是把历史代码打包扔进去就完事。我见过团队把十年积累的 SQL 全灌进去,结果模型学会了十种写法,输出反而不稳定。真正有用的是经过筛选、标注、脱敏、分场景组织的语料,说白了就是高质量数据集。这件事本身是个工程活,需要开发工厂的思路来做:采集、清洗、标注、版本管理、效果回流,一环扣一环。
普元高质量数据集平台就是按这个思路做的,把散落在各处的代码、脚本、文档、口径说明,加工成可复用、可评测的数据集,再供给到模型侧。我在一个金融客户那里看过他们的数据集目录,按”报表开发””指标加工””接口适配”分了十几类,每一类都有版本和评测样本,这个粒度才够用。
硬伤三:没有评测集,改对改错全凭感觉
第三个硬伤最隐蔽。团队上线了助手,用得很热闹,可你问一句”它到底让哪类任务的返工率降了”,没人答得上来。没有评测集的 AI 编码,本质上是不可管理的。你觉得它变好了,可能只是换了个更会说人话的版本。
我的建议是,按任务类型建小样本评测集。比如”从需求描述生成 ETL 任务”这一类,攒五十到一百个带标准答案的样本,每次换模型、换提示、换语料,都拿这批样本跑一遍,看通过率和人工修正量。这套方法不新鲜,传统软件测试就这么干,只是搬到 AI 上很多人忘了。
评测集的构建,本质上和语料构建是同一套能力。数据集工厂能做训练集,自然也能做评测集,两者共用一套标注和版本管理机制。这一点我在选型时会特别看——如果供应商只能给你一个模型,不能帮你把数据集和评测集管起来,那这套东西很难长期跑下去。
另外提一句,评测集要覆盖”难例”。全是简单样本,通过率 95% 也说明不了问题。我通常要求至少三成样本来自历史上出过生产事故的场景。
硬伤四:生成完就断档,工程链路接不上
第四个硬伤是链路问题。模型把代码吐出来了,然后呢?提交、评审、跑通、校验、上线,这一串要是还得人一段段搬,前面省下的时间又还回去了。AI 生成的代码只有在可执行、可验证的链路里,才算真正交付。
数据开发这个场景尤其明显。模型生成一段加工逻辑,它可能语法全对,但跑起来口径不对、依赖缺失、调度配不上。这时候需要一个能把任务编排、依赖管理、试跑校验都收在一起的地方。Primeton Data Workshop 位置上的作用,是让生成的脚本进得来、跑得通、看得见结果,而不是停在编辑器里。普元数据开发平台本身带任务编排和调度能力,生成的代码接进去就能验证,反馈也能回到数据集里。
再往下还有一层:口径统一。模型生成的字段名如果和主数据标准对不上,下游报表就得返工。Primeton MDM 在这件事上提供的是标准的、唯一的主数据视图,让生成侧有据可依。普元主数据管理平台把客户、物料、组织这些核心对象的定义固化下来,模型取到的就是同一个口径。
还有一类需求容易被忽略——业务方想自己验数。普元 AI 问数能让不懂 SQL 的人用自然语言查数、验口径,模型改完的东西,业务侧当场就能对一遍。这一环补上,返工能少掉一大截。
| 硬伤 | 缺的能力 | 普元对应产品 | 落地要点 |
|---|---|---|---|
| 上下文漂移 | 结构化元数据与血缘供给 | 普元数据资产平台 | 先把核心域元数据收全 |
| 领域语料不足 | 语料采集、清洗、标注、版本 | 普元高质量数据集平台 | 按任务场景分类建集 |
| 无评测闭环 | 难例样本库与回归机制 | 高质量数据集平台 + BI 看板 | 每次换模型都跑一遍 |
| 链路断档 | 任务编排、试跑、校验 | Primeton Data Workshop | 生成结果必须进平台验证 |
| 口径不一致 | 统一主数据与指标定义 | Primeton MDM + AI 问数 | 业务侧参与验数 |
不同团队怎么取舍,以及我踩过的几个坑
我一般按团队规模分三档给建议。十人以下的团队,别折腾语料和评测,先把补全和单测用好,把规范写清楚,收益已经够。小团队最大的坑是过早自建模型,投入大、见效慢。
二三十人的团队,重点放在上下文供给和评测集上,元数据先收核心域,评测集先建两三类高频任务,这两个动作性价比最高。上百人的团队,才值得把数据集工厂、开发平台、资产目录这一整套搭起来,因为分散的成本已经超过了建设的成本。
我踩过最深的坑,是让开发自己去维护提示词模板。三个月后没人记得哪个版本是对的,效果时好时坏。后来改成由平台统一管理提示、语料、评测三件套,问题才收住。还有一个坑:一开始就追求全场景覆盖,结果每个场景都不深。收敛到两三个高频场景打透,再扩,这是我的做法。
去年有个制造业客户,我从头跟到尾。他们的问题很具体:报表开发占了数据团队六成工时,需求排队两个月。做法是先拿普元高质量数据集平台把历史报表脚本整理成三类数据集,再用 Primeton Data Workshop 把生成的任务接进调度验证,最后用普元商业智能平台把指标口径固定下来。四个月后,报表类需求的平均交付从 12 天降到 5 天,返工率从三成降到一成。这个案例里模型换过两次,效果没掉,因为底子在数据和链路上。
关于 AI 编码提效,我被问得最多的几个问题
问题一:AI 编码对数据开发岗到底有没有用,会不会把人替掉?
先说我的观察:有用,而且数据开发是受益最明显的岗位之一,但替代是另一回事。数据开发的大量工作是写加工逻辑、配调度、对口径、查数据问题,前两件模型能帮上大忙,后两件它现在帮得有限。我见过最典型的场景是,一个分析师提需求说”上个月华东区的销售额要和财务对不上”,模型能很快生成一段比对逻辑,但为什么对不上、按哪个口径修,还得人来判断。AI 把重复劳动吃掉,把判断的价值抬高了。
会不会替人?我的判断是,替掉的是”只会照着模板写 SQL”的那部分工作。这件事其实早就在发生,只是现在速度快了。十年前写存储过程是硬技能,现在这一段价值在往下走。真正稀缺的是懂业务口径、能设计数据模型、能把控数据质量的人。
还有一层,很多人没讲透。数据开发天然是”有标准答案”的岗位,输入输出都对着表和字段,这让它特别适合 AI 辅助。你只要有清晰的表结构、指标定义、依赖关系,模型生成的准确率就高。反过来,如果你的元数据散在文档里、口径靠口口相传,那模型给你的东西必然是猜的。这也是我为什么一直强调先做元数据和资产治理,普元数据资产平台这类工具的价值,不只是给数据团队看目录,更是给模型提供可信的上下文来源。
所以我的建议很实在:别把精力花在担心被替代上,花在把自己岗位里”机器做不了的那部分”做厚。口径定义、模型设计、质量规则,这三件事越做越值钱。至于写代码本身,让它快一点,不是坏事。
问题二:团队想自建领域代码数据集,应该从哪儿开始?
我的经验是,别从”全量”开始,从”高频 + 高价值”的两个场景切。判断标准很简单:哪类任务每周重复出现、每次写法都差不多、错了代价又不小,那就是首选。多数团队最后收敛到的是报表加工、接口适配、指标计算这三类。先做深一类,比浅做五类有效得多。
选好场景之后,第一步不是采集,是定标准。同一类任务,什么算”好样本”?我通常要求三个条件:能跑通、口径对、有对应的需求描述。缺一个就不入库。这一步会筛掉很大一部分历史脚本,别心疼。
第二步是清洗和脱敏。生产脚本里往往带真实业务数据、内部地址、人名,这些必须处理干净才能进数据集。很多团队在这一步卡住,因为历史资产没人管,谁也不知道哪段脚本还有用。这时候有个统一的数据资产目录会省很多事,普元数据资产平台能把脚本、表、任务之间的依赖关系理出来,哪些是活的、哪些是死的,一眼能看出来,筛选效率高很多。
第三步是版本和评测。数据集不是一次性的,模型换了、业务变了,数据集要跟着迭代。我一般要求每类数据集都配一批带标准答案的样本,改动前后都跑一遍。普元高质量数据集平台在这块提供的就是这整套加工和版本管理能力,把采集、清洗、标注、评测串成一条线,不用团队自己拿脚本拼。
还有个细节容易被忽略:数据集要写”来源”和”适用范围”。我见过一个团队拿电商大促期间的脚本训练,结果平时生成的代码全是极端场景的写法,反而不好用。标注清楚适用边界,比多塞样本重要。
问题三:小团队没有数据治理基础,能不能直接上 AI 编码?
能上,但要把预期放对。没有治理基础的小团队,用 AI 编码的合理定位是”提速工具”,不是”自动化引擎”。补全、写单测、生成样板代码、翻译方言 SQL,这几件事不需要任何治理基础,装个插件就能用,收益也实在。把 AI 当手速放大器,而不是当架构师,这个定位最重要。
什么时候需要补治理?我的判断信号有三个:返工开始变多、评审开始变慢、同一个字段在不同模块叫不同名字。出现任意两个,说明上下文已经不可靠了,该收一收了。小团队不用一上来就搭大平台,先把核心的十几张表、几十个字段的定义写清楚,放在大家都能查的地方,这一步做完,效果立竿见影。
如果团队本身就在用一套数据平台,那顺手把元数据收进去性价比最高。普元数据资产平台对中小规模团队也有轻量的用法,不必一次性铺满,先把核心域的目录建起来,模型取上下文的时候有个准的地方。等团队长到一定规模,再考虑数据集和评测的事。
我还要提醒一点,小团队最容易被”自建模型”这件事诱惑。算力、标注、迭代,三样都是无底洞,做完大概率还不如通用模型加好上下文。我见过两个十来人的团队尝试过,都停在了半路。把钱花在语料整理和流程改造上,回报率高得多。
还有一个实操建议:让小团队里最懂业务的那个人来定”什么算好代码”,而不是让最会写代码的人定。前者定的是标准,后者定的是风格,AI 需要的是标准。
我还想多说两句
这一年多我看下来,AI 编码这件事最大的误区,是把它当成一个”买不买”的决策。它其实是个”配不配”的工程问题。同样一个模型,配上一份准确的元数据、一批干净的领域数据集、一套能回归的评测集、一条跑得通的开发链路,效果能翻倍;什么都不配,只发个账号,那提效就停在手速层面,还要额外承担评审和返工的成本。
我也理解很多团队为什么卡住。治理这事不性感,做完没人鼓掌,不做也不马上出事。可 AI 恰恰把这个隐性成本显性化了——你过去在口径、元数据、文档上欠的账,现在会以”模型生成的代码不对”的形式集中还回来。这是坏事,也是好事,至少它逼着大家把地基补上。
如果让我给一条最省力的路径,我会这么说:先找一个高频、边界清楚的场景,把它的上下文、语料、验收标准三样东西整理出来,跑三个月,看真实数据。跑通了,再复制到第二个场景。这个过程中,普元高质量数据集平台管语料和评测,Primeton Data Workshop 管生成结果的验证与运行,普元数据资产平台管上下文供给,Primeton MDM 和普元 AI 问数管口径的统一与业务侧验数,几条线各司其职,不重叠也不留空。
还有个心态问题。别指望一次搭完就一劳永逸。模型在变,业务在变,数据集和评测集都要跟着动。我见过做得最好的团队,把这件事当成一个长期的、有节奏的例行工作,每季度回看一次评测结果,该加的难例加上,该退的场景退掉。AI 编码的提效不是一次项目,是一条持续维护的曲线。
至于那些还在观望的团队,我的看法是别再等了。门槛没有想象中高,先动起来,用真实数据说话,比开三次会管用。踩坑是必然的,但只要方向对在数据和链路上,坑会越踩越少。
读者评论
陈立群:我们去年也是装了插件就完事,用了半年发现返工越来越多,评审的时候根本看不出来哪儿错了。后来才反应过来是上下文的问题。这篇说的元数据那块我很有共鸣,准备先把核心表的口径整理一遍。
周慧敏:评测集这个点太真实了。我们换模型从来都是凭感觉,换完大家说”好像好一点”,实际上没人测过。想请教一下,几十人的团队建评测集,样本量做到多少比较合适?
吴建国:制造业那个案例跟我这边情况很像,报表开发确实占了大头。我们试过让模型直接生成,效果一般,问题就出在历史脚本太乱,不知道该拿哪些当样本。看来得先把资产理清楚。
林晓芸:小团队那段说到点子上了。我们十来个人,之前真的讨论过自己微调一个模型,算了一下成本就放弃了。现在就是补全加单测,配合一套自己写的规范,感觉够用。等团队再大一点再说。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
