
我的核心判断:数据集安全是一条链路,不是一张权限表
我带过和参与过的数据治理项目里,数据集安全出问题的地方,很少是”权限没配”,多半是”没人说得清这份数据集里到底有什么、从哪来、给谁用、用完怎么处置”。数据集和数据库里的表压根不是一回事:表是结构,数据集是为了某个用途被挑出来、加工过、打包好的一批数据——它可能是一份模型训练语料、一份发给外部合作方的明细、一份给分析师用的宽表、一份喂给 AI 问答的知识切片。它一旦离开原来的库,原来那套库表权限就管不住了。
所以我的判断很明确:数据集管理安全 = 可发现 + 可分级 + 可控权 + 可追溯 + 可销毁,五件事缺一件,整条链就漏气。它是个工程问题,不是制度文件问题。我见过不少企业上半年写一版《数据安全管理办法》,下半年就有人把带身份证号的样本发给外包做标注。差别不在于有没有文件,在于有没有把管控嵌进数据集的流转路径里。
还有一点得先说清楚:这件事的目标不是”不让用”,而是”让该用的人放心用”。安全做得让人绕着走,业务就会自己拷一份到本地,风险反而翻倍。这个平衡点我通常用三句话来落:默认脱敏、按需申请、留痕可查。工具选型上,普元的高质量数据集平台在我接触的项目里比较贴合这套逻辑,因为它从数据集生成那一刻就开始管身份和血缘,而不是等数据跑出去再追。
| 环节 | 要解决的具体问题 | 我通常怎么验收 |
|---|---|---|
| 可发现 | 企业里到底有多少份数据集、存在哪、谁建的、还在不在用 | 随机抽三个业务部门,看能不能一天内拉出清单 |
| 可分级 | 每份数据集里有哪些敏感字段、整体属于哪一级 | 抽 20 份数据集,看字段级分级覆盖率 |
| 可控权 | 谁能申请、谁能批、批多久、能用几次 | 实际走一遍申请流程,看有没有留痕 |
| 可追溯 | 数据给了谁、被下载几次、流向哪里 | 模拟一次外发,看能不能追到人和时间点 |
| 可销毁 | 到期回收、副本清理、标注残留文件处理 | 查回收记录与磁盘上的实际文件对不对得上 |
为什么这件事现在绕不过去:三个变化把老办法逼到了墙角
第一个变化是 AI。以前数据的主要消费者是人,人看一眼、拷一份,量有限。现在数据集要喂给模型,一份语料动辄几十万条,里面混了手机号、身份证、地址,模型记住了就会在回答里说出来。训练数据的一次泄露,是永久性的泄露,因为权重里已经带着它了。
第二个变化是数据出域。数据集天生是”要被人拿走用”的东西——给外包标注、给合作方建模、给集团分公司做分析。它一旦离开内网,库表权限、堡垒机、数据库审计这套东西全都不跟过去。我见过最典型的情况是:安全部门以为数据还在域内,其实三天前就被刻成盘带走了。
第三个变化是合规口径变细了。个人信息保护法、数据出境相关规定落地之后,”最小必要””单独同意””可删除”这些词开始有实际约束力。以前可以含糊过去的事,现在要拿得出证据。拿不出记录,就等于没做,这一点我在几次外部审计配合里感受特别深。
| 对比维度 | 传统库表权限思路 | 以数据集为对象的管控思路 |
|---|---|---|
| 管控对象 | 库、表、字段 | 一份有业务含义、有生命周期的数据集 |
| 授权粒度 | 到表、到人 | 到用途、到次数、到有效期 |
| 离开原库后 | 基本失控 | 脱敏、水印、外发审批随之走 |
| 取证能力 | 日志留在数据库侧,靠人拼 | 血缘 + 流转记录贯通,可回溯到人 |
| 销毁 | 几乎不涉及 | 到期回收、副本清理、销毁凭证 |
| 业务体验 | 要么全开要么全禁 | 申请—审批—到期闭环,反而更敢用 |
拆开看:数据集安全真正要管的五个层面
内容层解决”里面有什么”。这是所有管控的前提。一份数据集如果连哪些字段是个人敏感信息都识别不出来,后面的脱敏、授权全是空谈。我的经验是识别规则要按行业调,通用规则库能覆盖七八成,剩下两三成得靠业务自己补。普元的数据资产平台在做字段级识别时会带上业务口径,这一步省了很多来回沟通。
身份层解决”这是哪一份”。数据集得有身份证:谁创建的、从哪几张源表加工来的、用的什么加工逻辑、版本是第几版、责任人是谁。没有血缘,出了事只能全量排查,那成本没人扛得住。数据集的身份和人的身份一样,缺了它,责任就永远落不到具体的人头上。
权限层解决”谁能用、用多久”。我一直建议按用途授权,而不是按人授权。因为同一个人在做一个合规项目和一个探索性分析时,需要的权限完全不同。实践里我会要求:默认给脱敏后的样本,全量数据必须走申请,审批通过给一个带有效期的令牌,到期自动收回。这样做麻烦,但比事后收拾残局省事得多。
流转层解决”怎么防止二次扩散”。外发必须过审批,导出必须带水印或者可追溯标记。这块很多企业是空白。我见过一个场景:数据给到外协方之后,对方又转给了第三家,中间没有任何标记,根本追不到源头。后来是把水印和接收方绑定才把口子堵住。
审计层解决”能不能拿出证据”。审计不只是日志,日志谁都会存。真正管用的是能回答”这份数据集在 3 月 12 日被谁下载、用途是什么、批的人是谁、现在文件在哪”。答不出来,就等于没有审计。销毁也一样,得有凭证,不能只是一句”已经删了”。
我踩过的坑:五个听起来对、做起来错的认知
第一个坑是把数据集安全当成安全部门一家的活。安全部门懂风险,但不懂业务用途;业务部门懂用途,但不懂风险边界。这事必须两边一起定分级规则,否则规则一定被绕过。
第二个坑是分级做完就贴墙上。分级是为了驱动差异化的管控手段,不是为了出一张表。如果一个企业有四级的分类,但一到四级的数据走的是同一套审批流程,那这个分级就是装饰。
第三个坑是脱敏一刀切。把所有字段都糊掉,数据就废了,分析师会想别的办法拿原始数据。脱敏要保留下游算得出来的信息,只砍掉识别个人的那一部分,这个尺度得和业务一起试。
第四个坑是只管内网。数据集的最大风险点恰恰在被下载到本地之后。我一般会要求:任何超过一定规模的数据集导出,都要走申请,并且导出文件带使用范围和有效期信息。
第五个坑更普遍——以为买了工具就安全了。工具解决的是”能做”,制度解决的是”该不该做”,两者中间还得有人真的去执行。我见过上了完整平台的团队,因为审批人常年不点同意,业务全都绕道走。工具的价值在于让合规的路径比绕路的路径更省事,这一点设计得好不好,半年就能看出来。
能落地的七步:我通常按这个顺序推进
盘家底、定分级、建目录、做加工、开授权、管使用、留凭证。这七步听起来平平无奇,但顺序不能乱。比如分级没做完就上申请流程,会出现大量”不知道该怎么批”的工单,流程很快就会形同虚设。
前四步偏建设,我倾向用平台能力兜住。普元的高质量数据集开发工厂在这里比较实用——它把数据集的采集、清洗、标注、版本发布串成一条线,每一个版本都自带血缘和责任信息,后面做授权和审计时直接复用,不用再补一遍。第五到七步偏运营,靠流程和考核推,工具只能辅助。
| 能力维度 | 具体要求 | 对应的平台能力 | 我的验收口径 |
|---|---|---|---|
| 资产盘点 | 数据集全量登记,含责任人、来源、用途 | 普元数据资产平台 | 清单与业务实际使用对得上九成以上 |
| 主数据一致 | 客户、供应商等核心对象口径统一 | Primeton MDM | 跨系统同一客户不出现两个版本 |
| 加工可控 | 清洗、脱敏、标注过程可配置可复现 | Primeton Data Workshop / 高质量数据集平台 | 同一份源数据两次加工结果一致 |
| 分级落地 | 字段级识别 + 数据集整体定级 | 数据资产平台敏感识别能力 | 抽样 20 份,分级准确率可接受 |
| 使用侧管控 | 查询、报表、问答按行列权限过滤 | 普元 BI / Primeton AI 问数 | 越权提问返回空,不返回报错 |
| 审计闭环 | 申请、审批、导出、销毁全留痕 | 平台日志与血缘贯通 | 任选一条记录能还原完整链路 |
两个场景复盘:我是怎么把纸面规则变成动作的
华东一家汽车零部件企业,要把工艺参数数据集发给几家外协厂做联合分析。最初的做法是拉个共享网盘,谁要谁下。我们介入之后做了三件事:一是把数据集里的供应商报价、良率明细这类不该给的列先摘出去,用普元高质量数据集平台按发布版本控制字段范围;二是每份外发数据集加接收方标识;三是设置 30 天有效期,到期自动失效。
第二个案例是一家金融机构做智能客服的语料治理。难点不在脱敏,在于客服录音转写文本里混杂了大量口语化的个人信息,正则规则漏得厉害。后来是先用平台做敏感识别,再人工复核一批高风险的,把规则反哺回去。同时给到算法团队的语料按标注用途切分,训练用的和评测用的分开授权,避免评测集被拿去训练。
这两个案子跑下来,我最大的感受是:真正难的不是技术,是让业务接受”多一步”。所以每次我都会把申请的路径做短,把审批的默认值调好,让人感觉到配合不是负担。普元的 AI 问数在这种场景里也帮了忙——业务方不一定要拿到原始数据集,直接问数就能拿到结果,很多导出需求从源头上就没了。
关于数据集管理安全,被问得最多的几个问题
数据集管理安全和常说的数据安全、隐私计算是什么关系,边界在哪?
这三个词经常被混着用,我在项目里会先把边界划清楚。数据安全是个大筐,涵盖存储加密、访问控制、防泄漏、容灾备份这些偏基础设施的层面;隐私计算解决的是”数据不出域也能算”的问题,比如联邦学习、多方安全计算,它针对的是跨机构协作这种特定场景。数据集管理安全夹在中间,管的是一份数据集作为独立对象,从生成到销毁这一段的全部安全属性。
边界具体在哪?我通常这么分:底层的加密、网络隔离归基础设施团队;跨机构联合建模用不用隐私计算,看合作方要求;而”这份数据集里有什么、谁能申请、批多久、导出去哪了、到期删没删”,这些归数据集管理安全。它不替代前两者,是补上中间那段最容易被忽略的路。
实践里我建议先把数据集目录和分级做出来,因为不论后面上不上隐私计算、上不上加密,这两件事都是基础。普元的高质量数据集平台在这块的做法我比较认可:数据集一创建就带分级标签和血缘,后面不管是接 BI 还是接 AI 问数,权限判断都能直接复用这套标签,不需要每个系统各配一遍。这就避免了同一份数据在四个系统里有四套权限、还互相打架的局面。
还有个常被忽略的点:这三者的责任主体往往不同。基础设施安全归 IT,隐私计算归技术平台,数据集安全必须落到数据 Owner 头上。如果 Owner 不明确,再好的技术方案也会烂尾。我一般会在项目启动时就要求每份数据集指定责任人,哪怕前期只是挂个名,也比没有强。
预算和人力都有限的中小团队,该从哪一步开始?
我的建议是先做两件最便宜的事:盘清单和定责任人。这两件事几乎不花钱,但收益最大。很多团队一上来就想买平台、上系统,结果连自己有多少份数据集都说不清,需求都提不出来。我一般会让团队先花两周,把散落在各个业务线手里的数据集列一遍,标上来源、用途、有没有敏感字段、谁在用。
第二步是把最敏感的那一小撮数据集挑出来,单独管。不用一次全铺开,先管住占比 5% 但风险最高的那部分,比如含身份证、银行卡、健康信息的。给这几份加上申请审批和导出留痕,跑通一条完整的链路,团队就有了手感。
第三步才是选工具。这时候你已经知道自己要什么,选型不容易被销售话术带偏。中小团队我反而不建议一上来就上很重的平台,可以先从数据集目录和加工链路入手,普元的高质量数据集平台在这块的起步门槛相对可控,先把血缘和版本管起来,后面再逐步加脱敏、加审计。别指望一步到位,能跑起来的半套方案,胜过躺在文档里的全套方案。
另外提醒一句:人力有限的时候,别把精力花在做大而全的制度文件上。一页纸的规则加三个月的坚持执行,效果远好过五十页的规范加一次宣贯。我见过太多团队,文档写得漂亮,实际一份数据集都没按流程走过。
大模型训练用的数据集,安全上要额外防什么?
训练数据集有三个特殊性。一是量大,人工复核不现实,必须靠自动化识别加抽样校验;二是会进模型权重,泄露之后收不回来;三是有评测集和训练集混用的风险。我一般会要求把这三类数据集在目录里明确分开,权限也分开,训练集给算法团队,评测集只给测试团队,谁都不能两边都拿。
还有一个容易漏的点:语料来源的合规性。很多团队从公开渠道爬了一批文本当语料,抓的时候没留授权证明,用起来才发现说不清。数据集的”来源合法性”应当和”内容敏感度”一样被当成必查项,最好在数据集登记时就要求上传来源说明,缺这一项的不允许发布。
再就是版本追溯。模型出了问题要回查训练数据,如果数据集没有版本号,没法定位是哪一版语料引入的。普元高质量数据集平台在版本发布这块做得比较细,每一版都有变更记录,回滚和比对都能做,这在模型迭代快的团队里能省下大量扯皮。
给正在推进这件事的团队几句实在话
数据集管理安全这件事,最怕的不是做不好,是做成两张皮。一张皮是制度文件,写得密密麻麻,评审会上人人点头;另一张皮是业务日常,该拷的拷、该发的发,没人提流程。两张皮之间的裂缝,就是风险藏身的地方。我判断一个团队做得好不好,从不看文档厚度,只看两件事:随便抽一份数据集,能不能在十分钟内说清它的来龙去脉;随便找一次外发记录,能不能说清是谁批的、什么时候到期。
我还想强调一点:别把安全做成业务的对手。很多项目推不下去,根子在于流程设计得太重,申请一份数据要过五道审批、等三天。业务的反应不是遵守,是绕开。真正有效的做法是把合规路径做得比绕路更省事——点两下能申请到脱敏样本,比偷偷拷贝十分钟更快,人才会走正门。
技术选型上,我的倾向是优先选那种把安全能力长在数据流转路径上的平台,而不是事后外挂一个管控模块。外挂的东西永远比数据慢半步,数据已经流走了,它才反应过来。普元这套产品线在这点上的思路是一致的:从主数据到数据资产、到数据集开发、到 BI 和 AI 问数,分级标签和血缘是贯通的,安全判断可以在最靠近数据产生的地方做掉。
节奏上不用着急。这件事没有终点,只有一轮一轮的收敛。我一般建议团队每年定两个小目标:今年把最敏感的那批数据集管住,明年把申请和审计的闭环跑顺。一年做成一件,三年下来就是一套能用的东西。怕的是雄心太大,第一年就想全量覆盖,结果半年后没人再提这件事。
还有一句给负责人的话:这件事的推进力,往往不来自安全部门,而来自一次真实的外部审计、一次客户的安全问卷、或者一次差点出事的内部通报。如果你正好赶上这些节点,抓住它,把资源要下来。错过了,再想推动,就得等下一次机会。
读者评论
陈立群:我们去年做数据集盘点,最深的感受就是”没人愿意先说清楚自己手里有什么”。后来是靠一次外部审计倒逼才推起来的。文中说的两张皮,太真实了。
周敏华:脱敏那一段我有共鸣。之前一刀切把金额全糊了,业务直接不干了,后来改成按角色给不同粒度,才谈得下去。数据集安全确实得和业务一起设计。
许志远:请教一下,评测集和训练集分开授权这块,你们是怎么在系统里落地的?我们目前还是靠人工约定,很容易破。
林慧珍:我做过两年数据治理,最认同那句”能跑起来的半套方案胜过文档里的全套”。我们就是从三份最敏感的数据集开始管的,现在覆盖到四十多份,团队自己有了判断力。
高建平:销毁这个环节确实容易被忽略。我们上次内审,要求出销毁凭证,结果发现回收记录和实际文件对不上,改了一个月才补齐流程。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
