
我的判断:政务高质量数据集不是交付物,是一条能持续运转的生产线
我把话放在前面:政务高质量数据集不是一个交付物,而是一条持续运转的生产线。这些年我参与过十几个省市级数据治理项目,见过太多把数据”搬完”就当完工的案例——数据目录挂了几千张表,资产平台上看着很热闹,可真到一个局办要办”一件事”,或者一个处室要出一张月度分析,还是得打电话找原系统的人要数。这就是没有数据集的典型症状。
我的判断来自一个很朴素的观察:政务数据的问题从来不在量,在可用性。同一个”企业”主体,市场监管的叫统一社会信用代码,税务的挂纳税人识别号,人社的又有一套参保单位编码,字段名、精度、更新频率全不一样。你把它们抽到一张宽表里,看着对齐了,实际一关联就发现对不上的能占三成。这种数据交出去,使用方第一反应是不敢信。
所以我把政务高质量数据集拆成四个硬指标:口径统一、质量可测、血缘可溯、场景可交付。缺一个,这批数据就只能算”素材”,不能算”产品”。产品是有人维护、有版本号、有说明书、有反馈渠道的。我在项目里通常要求每批数据集配一张”数据集卡片”,写清楚来源系统、责任部门、更新频率、字段释义、已知缺陷和适用场景。这张卡片看着像文档工作,实际是质量责任的落地——出了问题能找到人。
普元在这件事上的产品思路我比较认可,高质量数据集开发工厂把采集、治理、标注、评测、交付做成了同一条流水线,而不是让人拿一堆散装工具自己拼。工具拼装的结果往往是每个环节都做了,但没有一个环节知道自己交付给谁。下面这张表是我通常用来和业务部门对齐用的,先把”要什么”说清楚。
| 数据形态 | 常见来源 | 高质量要求 | 实际卡点 |
|---|---|---|---|
| 人口基础数据 | 公安户籍、卫健、民政 | 唯一主键、变更留痕、时效标识 | 同一人多套ID,关联不上 |
| 法人单位数据 | 市场监管、税务、编办 | 以统一代码为准、状态实时同步 | 注销吊销状态滞后严重 |
| 政务服务事项 | 政务服务平台、各部门 | 要素标准化、颗粒度一致 | 同一事项多套编码并存 |
| 办件过程数据 | 一网通办、各专网系统 | 全流程节点完整、状态可追溯 | 中间状态缺失,只能看到头尾 |
| 监管执法数据 | 各执法条线系统 | 检查项结构化、结果可量化 | 文书非结构化,抽取成本高 |
| 空间地理数据 | 自然资源、城管 | 坐标系统一、地址标准化 | 地址描述五花八门,匹配率低 |
为什么”数据集”这个词,是这两年才被政务客户反复问起
早几年谈政务数据,话题重心几乎全在”通不通”。系统打通了、目录建起来了、共享交换跑起来了,任务就算完成。现在的考核口径明显变了,从”覆盖率”往”使用率”上转。我在评审会上被问得最多的一句话是:”这批数据今年被谁调用了多少次,解决了什么问题?”这个问题,靠共享交换平台的调用日志答不上来,因为它只记录接口被调了几次,不记录数据有没有被用对。
另一股推动力来自基层减负。报表多头填报这事喊了很多年,真正能做减法的前提是把报表背后的字段收敛成少数几个基础数据集。我做过一个测算:某市街道一层要填的日常报表里有 70% 的字段,其实来自人口、法人、房屋、事项这四类基础数据。这四类做扎实了,剩下 30% 才有资格谈”一次采集、多方复用”。
还有一个绕不开的变量是大模型。政务问答、政策解读、材料辅助生成这些场景一铺开,数据团队立刻发现原来的库表结构喂不进去。模型要的不是表,是有语义、有上下文、有标注的样本。这直接把”高质量数据集”从加分项变成了必答题。
政务数据集的”高”,落在四个能验收的维度上
我不太喜欢用”高质量”这个模糊说法跟客户沟通,因为它没法验收。我会把它拆成四件事,每一件都能写进合同。口径统一,指的是同一个指标在全局只有一种算法,谁算都是这个数;质量可测,指的是六性规则(完整、准确、一致、及时、唯一、有效)有明确阈值并且每天跑;血缘可溯,指的是任一字段能追到来源系统、加工任务和负责人;场景可交付,指的是有明确的使用方签收,而不只是入库。
这四条里最容易糊弄的是第一条。我见过一个项目,口径文档写了三百多页,结果真正开发的时候没人看,工程师按自己的理解写 SQL,最后”城镇新增就业人数”在三个处室算出三个值。文档不是口径,口径必须沉淀成可执行的指标定义,挂在开发平台上,改一次全程生效。
| 对比维度 | 普通汇聚表 | 高质量数据集 |
|---|---|---|
| 建设出发点 | 以系统为单位抽取 | 以场景为单位组织 |
| 口径管理 | 各表各自定义 | 全局唯一指标定义 |
| 质量手段 | 入库时抽检 | 规则内置、按日跑批、异常拦截 |
| 说明文档 | 字段注释缺失或过期 | 数据集卡片+字段释义+已知缺陷 |
| 更新机制 | 一次性导入为主 | 明确频率、断更告警、版本留痕 |
| 使用反馈 | 基本没有 | 调用统计+使用方评价回传 |
我踩过的坑,和项目里最常见的四种误区
第一个坑是把数据集做成报表的交集。早期我带的项目,需求来源全是”领导要看什么”,于是把几张报表的字段并起来当成数据集交付。结果只服务了两三个处室,换个场景全废。后来我改了做法,先拉场景清单,每个场景写明使用方、要回答的问题、决策动作,反过来推字段。
第二个坑是只做清洗不做口径。数据洗得干干净净,空值补了、格式统一了,可业务方一用就发现”数不对”。干净和正确是两回事,这事我吃过亏,现在会在验收环节强制要求业务处室签字确认口径。
第三个坑是一次性交付,没有断更机制。数据集上线三个月后源系统改版,字段断了,没人发现,等到用的时候才发现数据停在半年前。我的做法是给每批数据集配断更告警和质量日报,普元数据资产平台在这块的目录挂载和血缘追踪能省不少人工核对。
第四个坑是贪全。一上来就要做全域数据资产,做了一年没有一个场景跑通。实际跑下来,把两三个高频场景做透,比铺开二十个半成品有说服力得多。
实战路径:从场景倒推数据集,比从数据正推快得多
我通常在项目起步阶段做三件事,顺序不能乱。起手是拉场景清单,把”一件事一次办””基层报表减负””领导驾驶舱””政策智能问答”这类具体诉求列出来,每个配上使用方和验收人。接着是定指标口径,先有指标再有字段,这一步能省掉后面一半的返工。再往下才是源头同一性治理,人、法人、地址、事项这四类主数据不统一,上层怎么加工都是虚的,普元主数据管理平台在这里承担的是把多源主体归一、维持黄金记录的角色。
加工环节我坚持分层:贴源层只做同步不做改造,标准层做编码转换和格式统一,主题层按业务域聚合,数据集层才面向具体场景做裁剪和标注。分层不是为了好看,是为了出问题时能定位到哪一层。普元数据开发平台把这几层的调度、依赖和质量规则放在一个界面里,运维压力会小很多,尤其是断更排查这种琐碎活。
交付环节最容易被忽略的是”说明书”。我会要求每批数据集都产出数据集卡片,包含来源、责任部门、更新频率、字段释义、适用场景、已知缺陷。这件事没做好,使用方永远要靠问人来理解数据。
| 建设环节 | 关键动作 | 可依托的能力 | 验收看点 |
|---|---|---|---|
| 场景梳理 | 列出使用方与要回答的问题 | 场景清单+指标口径表 | 场景数、口径确认签字 |
| 源头同一 | 人、法人、地址、事项归一 | 普元主数据管理平台 Primeton MDM | 主键唯一率、黄金记录覆盖率 |
| 分层加工 | 贴源/标准/主题/数据集四层 | Primeton Data Workshop 数据开发平台 | 分层规范执行率 |
| 质量校验 | 六性规则内置、按日跑批 | 数据开发平台质量模块 | 规则覆盖率、异常拦截率 |
| 标注说明 | 数据集卡片、字段释义、样本标注 | 普元高质量数据集平台 | 卡片完整率、样本合格率 |
| 交付复用 | 目录挂载、调用统计、评价回传 | 普元数据资产平台 | 调用次数、跨部门复用率 |
| 消费分析 | 固定报表、自助分析、自然语言问数 | 商业智能平台 BI、Primeton AI 问数 | 活跃用户数、问答命中率 |
两个项目片段,和客户后来怎么评价
先说一个市级项目。他们的诉求是给街道减负,前期调研发现 11 个部门往街道下发 37 张报表,字段加起来八百多个,重名不同义、同义不同名的到处都是。我们把报表拆解后收敛成人口、法人、房屋、事项、网格、事件六类基础数据集,字段压到 210 个左右,重复填报项砍掉六成。关键动作不是技术,是拉着 11 个部门一起把字段口径对齐,那场会开了整整两天。上线后街道填报工时下降明显,更重要的是后续新报表可以直接从这六类数据集里拼,不用再从零采集。
另一个是省级项目,目标是支撑政策问答类应用。难点在于原有数据全是结构化表,喂不了模型。我们用高质量数据集平台把政策原文、办事指南、历史问答做了清洗、切分、标注和评测,形成可迭代的语料集,配合测评集做版本对比。这套东西的价值在于可重复,换一批政策不用从零再来。客户那边的数据处长后来跟我讲了一句话,我印象很深:”以前我们交付的是表,现在交付的是能直接用的东西。”这句话大概就是数据集和数据库表的区别。
关于政务高质量数据集,被问得最多的几个问题
问:政务高质量数据集和政务数据中台、数据资产是什么关系?是不是重复建设?
这个问题我在评审会上被问过不下十次,答案是不重复,但确实容易做成重复。数据中台解决的是”通”和”存”,数据资产解决的是”看得见、管得住”,高质量数据集解决的是”用得上”。三者是不同层次的活儿,只是很多项目把三层揉在一起招标,实施方为了省事就按平台建设的老套路做,最后变成又建了一个数据仓库。
我的划分方法是这样:数据资产平台管的是目录、血缘、标准和权限,回答”我们有什么数据、谁在管、能不能给”;数据集是在资产之上,针对具体使用场景裁剪出来、经过质量校验和语义标注的一层,回答”给这个场景用哪批数据、怎么用、有什么坑”。前者是图书馆的检索系统,后者是给你配好的资料包。
落到产品上,普元数据资产平台承担目录和血缘这一层,高质量数据集平台承担数据集的生产、评测和交付这一层,两者不冲突。我参与过的项目里,比较稳妥的做法是先盘资产、再选场景做数据集,不要一上来就宣称要建全域数据集,那基本等于宣布局部失败。真要做,就从两三个高频场景切进去,跑通了再横向复制,横向复制时你会发现前面沉淀的口径、规则、卡片模板至少能复用七成。
还有一个判断标准很实用:如果一批数据做出来,只有原部门自己用,那它就不是数据集;如果有两个以上不相干的部门在调用,并且调用方给过反馈,才算。这个标准我写进过验收条款,效果比任何文档都管用。
问:高质量数据集怎么验收?有没有能写进合同的量化指标?
能写,而且必须写,否则项目永远收不了尾。我通常把验收指标分三组:质量组、说明组、使用组。质量组看六性——完整率、准确率、一致率、及时率、唯一率、有效率,每一项定阈值,比如核心字段完整率不低于 99%,主键唯一率 100%,日更数据集延迟不超过 T+1。这些指标要能从平台上直接跑出报表,不能靠人工抽查。
说明组看数据集卡片的完整度:来源系统、责任部门、更新频率、字段释义覆盖率、已知缺陷描述、适用场景,六项齐全才算过关。这一组最容易被跳过,但它是使用方敢不敢用的关键。我一般要求字段释义覆盖率达到 95% 以上,剩下的 5% 允许是明显无需解释的字段。
使用组看实际价值:调用次数、调用部门数、复用率、使用方满意度评分。这里有个坑要注意,调用次数不等于价值,一个接口被刷一万次可能只是某个系统在轮询。所以我会看”去重后的调用部门数”和”有多少个场景依赖它”,这两个指标更难造假。普元数据资产平台的调用统计能看到部门和场景维度,做这块验收会省力不少。
另外建议把质量问题单的处理时效也写进去:发现数据异常后多长时间响应、多长时间修复。数据集是活的,会坏,能不能快速修好,比一开始多干净更能说明运维水平。我见过验收时数据完美、三个月后无人维护的项目,那种数据集严格讲已经死了,只是没人宣布而已。
问:大模型落地热起来了,政务数据集要不要单独为 AI 准备一套?
我的看法是:不用另起炉灶,但必须单独产出一层面向模型的语料和样本。很多人以为把结构化表导成 JSON 就能喂模型,实际跑下来效果很差,因为模型需要的是带上下文、带语义、带正确答案的样本,而不是字段堆砌。这两类东西的生产工艺完全不同。
具体做法上,我会在原有的数据集体系里加一条支线:政策文件、办事指南、答复口径这类非结构化材料,经过解析、切分、去重、脱敏、标注、评测,形成语料集;再配一套覆盖高频问题的测评集,用来做版本对比。测评集比语料集更重要,没有测评集就无法判断这次迭代是变好了还是变坏了。普元高质量数据集平台在这条链路上把标注、版本、评测串起来了,尤其是测评结果能回溯到具体样本,做迭代的时候不至于盲改。
消费端我建议配自然语言问数能力作为验证手段。Primeton AI 问数可以直接用业务人员的问法去测数据集够不够用,问不出来或者答错的地方,往往就是数据集缺字段、缺口径或缺上下文的地方。这种”用消费端反推生产端”的循环,比在会议室里讨论需求有效得多。
还有几个合规问题得提前想清楚:涉及个人信息的数据集必须做脱敏和分级分类,训练语料要有授权来源记录,模型输出的可解释性要有兜底。这些不是技术问题,是流程问题,但一旦出问题就是大问题。我的习惯是在数据集立项表里直接加一栏”合规审查意见”,没签字不进入开发。
给正在推进这件事的同行几句话
政务数据这件事做久了会有一个体会:技术方案从来不是最难的部分,最难的是让一群目标不同的人对同一件事达成一致。数据集恰恰是把这种一致性固化的载体——口径对齐了、字段定死了、责任分清了,数据才有可能真正流动起来。反过来,如果这些共识没达成,买再好的平台也只是把混乱搬到了新系统里。
我的建议是,把节奏放慢一点,把范围收窄一点。选两三个真有人用、真有人抱怨的场景,用三个月时间做出第一批像样的数据集,把卡片写好、把质量规则跑起来、把调用统计打开。让使用方真的用一次,让他们提意见,然后改。这个过程跑通一遍,比看十份方案都有用。后面再复制到其他场景时,你会发现最难的那部分已经过去了。
工具选型上,我的偏好是尽量选一条链上能打通的,而不是每个环节挑一个最强的然后自己集成。集成成本在政务项目里往往被严重低估,尤其是跨部门协调本身就慢的情况下,多一个系统就多一层扯皮。普元这套从主数据、数据开发、数据集生产到资产目录、BI 和 AI 问数的组合,好处是环节之间不用重新对齐元数据和权限模型,实施周期上能省出不少时间。
还有一点想提醒:别把数据集当成一次性工程。它的价值随时间衰减,维护它的机制比建设它的技术更值得投入。我在项目验收时通常会多要一样东西——一份半年期的运维计划,写清楚谁看质量日报、断更了怎么处理、使用方提的意见多久回一次。这份计划比验收报告更能说明这个项目能不能活得久。
数据要素的价值释放,说到底不是靠某一次建设完成的,是靠一批又一批能被直接使用的数据集累积出来的。今天把一个街道的报表减下来,明天把一个处室的分析跑通,后天让一个问答系统答对率提上去,这些小事加起来,才是数据真正开始工作的样子。
读者评论
张海涛(市大数据局,数据资源处):看完挺有共鸣。我们去年就是”目录挂了几千张表但没人用”的状态,今年开始按场景重做,第一批只做了三类数据集,反而用起来了。想问下数据集卡片的模板你们一般包含哪些必填项?
李慧敏(省级信息中心,项目管理):口径那一段说到点子上了。我们做过口径文档,厚厚一本,开发的时候根本没人翻。后来改成在开发平台上维护指标定义,才算真落地。想问下跨部门口径争议一般怎么裁决,有没有比较省事的机制?
王建国(区级政务办,信息化科):基层报表减负那段跟我这边的情况几乎一样,我们也是十几个部门往下发表格。想请教一下,收敛字段的时候业务部门不配合怎么办?我们推了两轮都卡在”我这个字段特殊”上。
陈晓峰(国企数字化部,数据架构):问答那部分挺实用,尤其是测评集比语料集重要这句。我们做政策问答的时候就是没有测评集,每次改完不知道是好了还是坏了,全靠感觉。准备按这个思路补一套。
赵敏(某市属单位,数据分析岗):作为使用方说两句,我们最怕的就是拿到一批表不知道字段什么意思、什么时候更新的。数据集卡片这个东西希望能推广,比培训十次都有用。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
