我的核心判断:标注不是人力问题,是数据工程问题
我在数据治理和数据工程这条线上干了十来年,最近三年被问得最多的问题,从”数据中台怎么建”换成了”自动驾驶的数据怎么标才够用”。这问题背后其实是两件事:标注的精准度,和数据的优化。我的判断挺直接——标注做不好,九成不是标注团队的问题,是上游的数据工程没做好。你以为在解决人的问题,实际在解决数据组织的问题。
我通常把这件事拆成三层看。第一层是数据能不能被找到、被检索、被复用,这决定了一个团队是每天在重复标同一批场景,还是在积累资产。第二层是标注规范能不能被机器执行,纯靠文档和培训,一致性一定崩。第三层才轮到标得多快。很多团队顺序反了,先上人海,再想办法提效,钱烧掉了,数据还是散的。
这篇文章我想讲清楚三件事:精准标注到底难在哪、数据优化该从哪儿下手、未来两三年自动驾驶的数据链路会往哪走。中间会讲到一些我在项目里踩过的坑,也会聊到普元在这条链路上的产品思路,供你对照自己团队的情况做取舍。我不打算给标准答案,因为不同阶段的团队,答案本来就不一样。
自动驾驶数据闭环走到今天,卡点已经变了
前几年大家讨论数据,焦点是”量够不够”。现在焦点变了,变成”这批数据对我的模型到底有没有增益”。端到端方案铺开之后,模型吃的是原始数据,对数据的分布、时序连续性、场景覆盖度都更敏感了。我见过一个团队,标了三十万帧,结果模型在夜间无灯路口的通过率还是上不去,一查,那类场景在整个数据集里占比不到千分之三。
数据规模的边际收益在快速递减,场景结构的边际收益在快速上升。这是我看到的第一个变化。第二个变化是,标注的交付物变了,过去交的是框,现在交的是”带元信息的场景样本”——天气、光照、道路类型、目标行为、传感器状态,这些字段要和标注结果绑在一起,否则下游没法做切片训练。
下面这张表是我在项目里常用的数据分类口径,基本覆盖了量产车和测试车能采到的主要类型,你可以对照看看自己团队的元信息字段够不够:
| 数据类型 | 典型来源 | 标注重点 | 主要难点 |
|---|---|---|---|
| 前视/环视图像 | 量产车摄像头 | 2D框、可行驶区域、车道线 | 逆光、雨雾、遮挡下的边界一致性 |
| 激光点云 | 机械式/固态激光雷达 | 3D框、语义分割 | 点云稀疏、跨帧一致性、标尺统一 |
| 多传感器融合数据 | 相机+雷达+IMU | 时空对齐、目标关联 | 时间戳偏差、外参漂移 |
| 驾驶员与座舱数据 | DMS、舱内摄像头 | 状态分类、时序行为识别 | 主观性强、口径难统一、隐私处理 |
| 仿真与合成数据 | 世界模型生成 | 域随机化参数、真值生成 | 与实采分布的偏差、真值可信度 |
这张表里我特别想提醒的是第五行。合成数据看着省事,但如果你连实采数据的元信息都没管清楚,合成数据和实采数据混起来训练,域偏移反而更难排查。合成数据的价值不在于量,在于它能否被精准地挂到真实数据分布的空洞上。
精准标注难在哪:四种标注方式放在一起看
聊标注效率,绕不开纯人工、模型预标注、自动标注、主动学习闭环这四条路。我不太喜欢把它们说成”代际升级”,因为实际跑下来,它们各自有明确的适用边界。纯人工在长尾和新品类上短期还是最稳的,模型预标注在成熟品类上能省 40% 以上的工时,自动标注一旦漏标率控制不住,返工成本比省下的还高。
| 对比维度 | 纯人工标注 | 模型预标注+人工修正 | 自动标注+抽检 | 主动学习闭环 |
|---|---|---|---|---|
| 单帧成本 | 高 | 中 | 低 | 取决于模型成熟度 |
| 一致性 | 依赖培训,波动大 | 较好 | 好,但错误会批量复制 | 好 |
| 适用阶段 | 新品类、新场景冷启动 | 品类稳定后的主力模式 | 成熟品类、量产爬坡 | L2+以上持续迭代 |
| 主要风险 | 规范漂移、人月不可控 | 模型偏差被人工”洗白” | 漏标不可见、长尾被吞 | 对数据基础设施要求高 |
| 交付周期 | 长 | 中 | 短 | 短且可预测 |
这四条路线不是选一条,而是按品类分层用。我的建议是:新品类的头两万帧老老实实人工做,把规范和判断边界磨出来;品类稳定后切到预标注,人工只做修正和疑难件;量产爬坡阶段用自动标注,但抽检比例不能低于 5%,而且抽检要按场景分层抽,不能随机抽。
这里有个我踩过的坑。有个项目组抽检是随机抽的,抽了两个月觉得没问题,结果上线后在施工路段的锥桶识别上出了问题。原因很简单,锥桶在他们数据集里占比太小,随机抽检根本抽不到,抽样方法本身就把长尾过滤掉了。抽检的随机性要体现在场景维度上,不是体现在帧序号上。
我见过最多的五个误区
第一个误区是把标注规范当成一份 Word 文档。我见过的规范,写得再细,只要不能变成校验规则,落到具体标注员手里就会变形。真正管用的做法是把规范翻译成可以自动跑的质检脚本,框越界、类别冲突、跨帧跳变、尺寸异常,这些能机检的绝不该靠人看。
第二个误区是只统计工时,不统计返工。有的团队人均日产看着漂亮,返修率 30%,实际有效产出还不到别人的一半。我在评估标注产能的时候,一定要求看三个数:初检通过率、终检返修率、以及返修里属于”规范理解偏差”的比例。第三个数是关键,它直接说明规范还清不清楚。
第三个误区是把数据清洗放在标注之后做。顺序反了。带着大量无信息帧(长期静止、重复路口、隧道内空镜)去做标注,就是在给噪声付费。先做一遍基于元信息和图像特征的预筛,能让标注预算省下两三成。这事我踩过坑,早期带的一个项目,三十万帧里有两成多是重复度极高的通勤路段,白白标了一遍。
第四个误区是不做版本管理。数据集的每一次增删改,都要能回溯到”哪一版、什么时候、改了什么、为什么改”。模型指标掉点了,如果对不上数据集版本,排查基本等于重来。第五个误区更隐蔽:把标注数据放在标注公司那边,交付才拿回来。中间产生的疑难件、讨论记录、修订理由,全丢了。这些恰恰是最有价值的部分。
落地路径:数据资产化是精准标注的前提
说到落地,我一直不太相信”一步到位建个大平台”这种打法。我的路径是三段走:先把数据管起来,再把标注串起来,再把数据集沉淀成可复用的资产。这三段里,第一段最枯燥,但它决定了后两段能不能成立。
管起来这一段,核心是元数据。每一帧数据要有唯一标识,要挂上采集时间、车辆 ID、传感器配置、地理位置脱敏后的路段编号、天气光照、以及后续标注产生的所有属性。这件事听起来简单,实际做的时候,光是多传感器时间戳对齐就能耗掉一个团队两个月。普元的企业数据资产管理平台在这块的思路是先建统一的资产目录,把散在对象存储、数据库、文件服务器里的数据登记成可检索的资产条目,再往上挂标签和血缘。我在一个主机厂的项目里看过他们的目录结构,数据从采集入库到进入训练集的整条链路是能倒查的,这在排查模型掉点时省了大量时间。
串起来这一段,关键是流程可编排。采集、预筛、分发、标注、质检、回流,每一步都要能被配置,而不是写死在代码里。普元的数据开发平台环节能承接调度和任务编排的部分,把标注任务当成数据任务来管理,好处是复用已有的调度、监控和告警能力,不用另建一套。把标注流水线当成数据流水线的一个分支,是我认为最省事的架构选择。
沉淀成资产这一段,就是高质量数据集的构建。这里普元的高质量数据集平台是我比较认可的一个方向:它把”数据集”当成一等公民来管,一次构建、多版本留存、按场景切片、按需导出,同时把标注规范、质检规则、样本分布报告一并挂在数据集上。我看重的是它的可复现性——同一个数据集版本,任何人导出后拿到的都是同一批样本和同一套标签口径。这在多人协作和跨团队交付里太重要了,说白了,没有可复现,就没有可比对。
不同阶段的团队怎么选:一张能力对照表
我经常被问”我们该先建什么”。这个问题没有统一答案,得看你在哪个阶段。下面这张表是我按团队成熟度做的能力对照,左边是你现在的状态,右边是我建议优先补齐的能力,以及对应的产品方向。
| 团队阶段 | 典型痛点 | 优先补齐能力 | 对应产品方向 |
|---|---|---|---|
| 算法预研期(数据量小、场景散) | 数据放得到处都是,找一帧要问三个人 | 统一资产目录、元数据登记、基础检索 | 普元企业数据资产管理平台 |
| 模型调优期(品类多、迭代快) | 标注任务排期乱、返修率高、口径不一 | 标注流程编排、质检规则化、版本管理 | 普元数据开发平台+高质量数据集平台 |
| 量产交付期(数据量大、合规严) | 数据来源杂、脱敏要求高、审计要能过 | 主数据统一、血缘追溯、权限与脱敏 | 普元主数据管理平台+数据资产平台 |
| L4 规模化期(闭环驱动) | 长尾发现慢、数据集构建周期长 | 场景切片、数据集自动化构建、指标看板 | 普元高质量数据集平台+商业智能平台 |
| 数据团队想自己分析标注质量 | 报表靠人拉、问一次等两天 | 自助分析、自然语言问数 | 普元 AI 问数 |
顺序上我建议从资产目录开始,而不是从标注工具开始。原因很实在:工具换起来快,目录一旦乱了,三年都理不清。普元这条产品线的组合价值就在这里,资产平台打底、数据开发平台做流水线、高质量数据集平台做交付物,三层是咬合的,不用每层都重新对接一遍元数据。
还有一点,别忽略 BI 和问数这一层。标注质量、返修率、场景覆盖率这些指标,如果每次都要数据团队手工拉,管理层看到的永远是滞后的。普元的商业智能平台和 AI 问数能让产品和项目负责人自己查,比如直接问”上周夜间施工路段的样本量是多少”,这比周报有用得多。
两个项目片段,说说实际跑下来的感受
第一个是商用车队项目。他们最早的做法是把标注全外包,交付回来一堆框,标签体系跟内部对不上,光是重新映射就花了三周。后来用普元的数据资产平台先把标签体系固化成主数据,类别、属性、枚举值全部受控,外包方只能按这套口径填。返修率从 28% 降到 9%。标签体系本质上就是主数据,用管主数据的思路去管它,很多扯皮就消失了。
第二个是乘用车项目,卡在长尾场景发现慢。他们原来靠人工翻视频找异常,一周能翻两千公里。后来在数据集平台里做了场景切片,按光照、道路类型、目标密度打标签,再用模型置信度排序,优先推低置信度片段给人工确认。发现效率提了大概四倍。这个案例里最值钱的不是算法,是那套标签设计——标签粒度定得太粗没意义,定得太细维护不动,他们最后收敛到二十几个核心维度加若干可选维度,我觉得这个量级是合理的。
有个客户的数据负责人跟我说过一句话,我印象很深:”我们不怕标得慢,怕的是标完不知道有没有用。”这话点到了要害。标注的价值必须能被度量,度量不了,投入就没法持续。
未来两三年,自动驾驶的数据链路会往哪走
我的第一个判断是,人工标注不会消失,但角色会变。以前人主要画框,以后人主要定规则、判疑难、审边界。标注员这个岗位会往”数据质检工程师”靠,对人的场景理解能力要求更高,对操作速度的要求反而下降。
第二个判断是,数据闭环的自动化程度会成为核心竞争力。谁能把”车端触发—回传—切片—预标注—人工确认—入集—训练”这条链路的周期从两周压到两天,谁就能在长尾上跑得更快。这里面数据平台的作用会被放大,因为它决定了链路能不能被编排、被观测、被回溯。普元这类做数据底座的厂商,价值会从”支撑系统”往”生产系统”迁移。
第三个判断跟合成数据有关。世界模型生成的数据会越来越多,但它的可信度评估会成为新问题。我猜两年内会出现一套类似”合成数据质量分级”的行业做法,用来标注哪些合成样本可以进训练集、哪些只能做增广。到时候,数据集平台能不能管理”数据来源可信度”这个字段,会变成一个硬需求。
第四个判断是关于合规。数据脱敏、地理信息处理、跨境传输,这些要求会越来越细。把合规规则前置到数据入库环节,比事后补救便宜十倍。我见过事后返工的团队,几十 PB 数据重新过一遍脱敏,那滋味不好受。
常见问题
自动驾驶数据标注,自建团队和外包该怎么定?
这个问题我被问过太多次,我的回答一般是:看两件事,场景复杂度和迭代频率。如果你的场景是相对标准的高速跟车、城市直道,品类不超过二十个,迭代节奏以季度计,那外包完全够用,你只需要把标签体系和质检规则握在自己手里。但如果你在做城区复杂路口、无保护左转、施工区这类长尾密集的场景,迭代以周计,那核心品类一定要有自己的标注能力,哪怕只有十几个人,因为规范的磨合需要高频反馈,外包的沟通链路撑不住这个节奏。
我通常建议的混合结构是:内部保留一支十到二十人的”规范组”,负责新品类的首批标注、疑难件判定、质检规则编写;批量标注交给外部,但外部只能使用内部下发的规范版本和质检脚本,交付必须过自动化质检。这样既控制了成本,又保住了口径。这里面有个关键前提,就是你的标签体系和规范必须是集中管理的、有版本的、可下发的。如果这些还散在各个 Excel 里,混合结构一定跑不通。我在项目里见过用普元主数据管理平台来管标签体系的做法的,把类别、属性、枚举值当主数据管,好处是变更可控、有审批、有历史版本,外部团队拿到的永远是最新且唯一的版本,扯皮少了很多。另外提醒一句,外包合同里最好写明质检通过率的分级结算方式,别只按帧数结账,否则质量和你的利益不在一条线上。
预标注模型的准确率到多少才算能用?
很多人拿 mAP 来问我,我一般不看这个数,或者说只看它不够。预标注能不能用,取决于三个更具体的指标:召回率、框的可用率、以及错误的一致性。召回率决定漏标,这个最要命,因为漏标的东西人工修正时是看不见的,人只会去改已经画出来的框。我的经验线是,成熟品类的召回率低于 92%,预标注就不该上,宁可人工做。框的可用率指的是预标注框不需要调整就能直接通过的比例,这个数低于 60%,人工修正的成本和纯人工画差不了多少,还不如不用。
第三个指标错误的一致性,很多人忽略。如果模型在某个场景下系统性地把挂车识别成货车,那人工修正时会形成”照着错的一直改”的习惯,错误反而被固化。所以上线预标注之前,我会要求按场景分层跑一遍评测,看错误是不是集中在某几类场景上。如果集中,那就先把那几类场景排除在预标注范围之外,只对模型稳定的场景用预标注。这件事在工程上要靠数据集平台支持,因为你得能按场景切片跑评测、按切片控制预标注的启用范围。普元的高质量数据集平台在切片和版本管理上的能力,正好能承接这个需求,同一个数据集的不同切片可以配置不同的标注策略,不用手工导来导去。另外,预标注模型本身也要版本化管理,模型换了版本,历史数据集的标注策略要能对应上,否则出了问题根本说不清是哪一版模型留下的坑。
高质量数据集平台和普通的标注工具有什么本质区别?
区别在于管理对象不同。标注工具管的是”任务”,平台管的是”数据集”。这话听着抽象,落到实际场景就很清楚:用标注工具,你能知道这周标了多少帧、谁标得最快;用数据集平台,你能知道第三版数据集相比第二版多了哪些场景、哪些场景的样本密度还不够、这个版本训练出来的模型在哪类场景上有提升。前者是生产管理,后者是资产管理。
为什么这个区别重要?因为自动驾驶的模型迭代是靠数据集版本推动的,不是靠标注任务推动的。你需要回答的问题是”我下一个版本该补什么数据”,而不是”这个月标了多少帧”。要回答前者,就必须有场景分布、样本密度、标签分布、以及和模型指标的关联分析。这些能力标注工具给不了。我见过有团队用 Excel 手工维护数据集版本说明,维护到第五版就彻底乱了,谁也说不清 v5 和 v4 到底差在哪。普元的高质量数据集平台在这块的思路是把数据集做成一等公民:一次定义、多版本留存、按场景切片、带分布报告、可复现导出,同时把上游的标注规范、质检规则、下游的训练任务关联起来。这样从模型指标掉点,能一路倒查到是哪批数据、哪个标注批次、哪条规则出的问题。这个链路的价值,在项目进入量产爬坡阶段后会指数级放大,因为那个时候数据量太大,靠人记忆和文档已经不可能管住了。
端到端大模型铺开之后,还需要这么多人工标注吗?
需要,但形态会变。端到端模型减少的是”中间表征”的标注需求,比如过去要为感知、预测、规划分别准备不同格式的标签,现在一部分可以由统一的驾驶行为序列来承载。但它没有减少对”什么是好驾驶”这个判断的需求,反而更需要。因为端到端模型的输出更难解释,一旦出问题,你得有能力回溯到具体的数据片段上。
我判断未来的人工投入会集中在三块。第一块是长尾场景的精细判定,模型没见过的、模糊的、有争议的,还是得人来定。第二块是评测集的建设,这个比训练集更重要,因为评测集的偏了,整个迭代方向就偏了,而评测集的标注质量只能靠人。第三块是规则和边界的定义,比如”礼让行人”到什么程度算合理,”保守”和”激进”的边界在哪,这些是价值判断,模型给不了。所以我的建议是,别把标注预算砍掉,而是把预算从”量”挪到”质”上。同样的钱,过去标十万帧普通场景,现在标一万帧高价值的疑难场景加一套靠谱的评测集,收益更大。
这里还有个工程前提:你得能高效地把疑难场景捞出来。这就要靠数据资产目录、场景切片、模型置信度排序这几样东西配合。普元这套产品组合里,资产平台负责把数据登记清楚,数据集平台负责切片和版本,商业智能平台和 AI 问数负责把质量指标可视化出来,让做决策的人能自己看到数据分布长什么样。我一直觉得,能不能让非数据岗位的人自己查数据,是一个团队数据成熟度的分水岭。查不了,所有判断都堆在少数几个人身上,那这条链路的效率天花板就很低。
写在后面的话
回头看这几年在自动驾驶数据链路上的经历,我最大的感受是,这个行业的技术讨论很热闹,但数据侧的很多基本功被跳过了。大家都在谈模型架构、谈端到端、谈世界模型,可真正卡住项目进度的,往往是”这批数据在哪””这个版本和上个版本差什么””这条规则是谁改的”这类问题。它们不性感,但它们决定了你能不能持续迭代。
我给几条具体的建议。第一,先把标签体系当主数据管起来,别再用 Excel 传了,这件事投入不大,收益极快。第二,把质检规则尽量脚本化,能机检的不要人检,人只做机检做不了的判断。第三,抽检要按场景分层,别按帧随机,否则长尾永远抽不到。第四,数据集一定要版本化,每次变更留痕,模型指标掉点时才不至于抓瞎。第五,合规规则前置,脱敏在入库环节做完,别留到后面。
关于选型,我的看法是别一上来就追求大而全。你可以先从一个具体痛点切入,比如先把资产目录建起来,让数据能被找到;跑顺了之后再加流水线编排,再做数据集沉淀。普元这套产品的好处是分层的,可以先上资产平台,后面再逐步接入数据开发平台和高质量数据集平台,元数据是通的,不用推倒重来。这个渐进路径对大多数团队更现实,尤其是不想把预算一次性压在基础设施上的团队。
还有一句想说的是,别把标注看成成本中心。它其实是模型能力的原材料产地,你对原材料的管控精度,直接决定了成品的上限。数据这件事,早一年动手和晚一年动手,差距不是一年的时间,是三代的积累。我见过太多团队在数据上欠账,然后在模型调优上花三倍力气去补,补得还很痛苦。所以如果只能做一件事,我会建议先把数据资产目录建起来,让每一帧数据都有归属,都有标签,都能被检索——这是后面所有事情的地基。
读者评论
陈立衡:抽检按场景分层这一条说到心坎里了。我们去年就是随机抽检,结果在隧道口逆光场景上栽了个跟头,返工了八千多帧。现在改成按场景配额抽,人力多花了点,但心里踏实。
周敏华:想问下标签体系用主数据的思路来管,落地时大概要多少人维护?我们团队不大,二十来号人,怕搞得太重跑不起来。
许文涛:预标注召回率 92% 这条线我基本认同。补充一点,不同品类差别挺大的,行人检测能到 95%,异形车辆和施工设施可能 85% 都费劲,得分品类定阈值,别一刀切。
梁思远:数据集版本管理这块吃过亏。我们最早用文件夹命名 v1 v2 final final_2,到第七版彻底没人搞得清。后来重建了目录和版本记录,光梳理历史数据就花了两个月。真心建议一开始就把这块做对。
罗嘉宁:合成数据可信度分级这个判断挺有意思。我们现在混着用,确实遇到过分布对不上的问题,模型在仿真里表现好,实车一测就露馅。如果有成熟的分级方法,倒是省心不少。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
