OriginBlame系统实现AI训练数据记录级溯源

背景

随着AI训练数据集的规模持续增长，数据贡献者要求删除其个人数据的场景日益增多（例如基于隐私法规或作者意愿）。然而，当前机器学习中的“遗忘”（unlearning）算法虽然需要明确指定一个“遗忘集”（forget set），但没有任何工具能够定位训练数据集中哪些记录属于特定作者。现有的数据溯源（data provenance）系统仅能在文件或数据集层级操作，导致一旦收到删除请求，模型训练者只能进行灾难性的过度删除——删除整个文件或数据集，而非仅删除相关记录。这种粗粒度的溯源方式无法满足日益严格的合规要求，也大幅增加了不必要的模型性能损失。

核心内容

本文提出 OriginBlame（简称 ob），一个在记录级别（record-level）和词元级别（token-level）运作的数据溯源系统。该系统通过将作者身份信息沿着数据处理管道（data processing pipelines）传播，并利用确定性查询将撤销请求解析为精确的遗忘集，从而解决上述差距。

具体而言，OriginBlame 的核心机制包括：

• 身份传播：在数据预处理、清洗、增强等各环节中，自动为每条记录（或每个词元）附加作者标识，确保溯源信息不丢失。
• 精确遗忘集查询：当收到来自某作者的撤销请求时，系统通过确定性查询（而非模糊匹配）直接定位到该作者贡献的所有记录，生成精确的 forget set。

实验基于 219,555 个 Wikipedia 页面进行。结果显示：

• 记录级溯源完全消除了数据集级过度删除：删除量从数据集级别的 101 倍冗余下降至记录级别的 1.3 倍冗余（即几乎只删除目标记录）。
• 集成开销：在 HuggingFace 数据集处理管道上，吞吐量额外增加 1.3–4.0%；在 Datatrove 管道上，额外增加 2.1–19.0%。
• 遗忘效果：在 1.7B 参数模型上，使用 originblame 生成的遗忘集进行遗忘，其效果比随机基线（随机选择遗忘集）提升了 42%。

关键要点

• 粒度突破：现有溯源系统仅支持文件/数据集层级，OriginBlame 首次实现记录级和词元级溯源，能精确匹配训练数据中的单个样本甚至单个词元。
• 确定性遗忘集：不再依赖模糊搜索或概率匹配，而是通过确定性查询生成精确的 forget set，从根本上避免过度删除。
• 低开销：在主流数据管道（HuggingFace、Datatrove）上的吞吐量开销可控（1.3–19.0%），具有实际部署可行性。
• 遗忘效果显著：在 1.7B 模型的实验中，基于溯源信息的遗忘比随机遗忘提升 42%，证明精确的 forget set 对遗忘算法至关重要。
• 通用性：系统设计不依赖特定模型或数据集格式，可应用于任意带作者标识的训练数据管道。

意义与影响

1. 合规与隐私：为 GDPR、CCPA 等数据删除权法规提供了技术实现途径，使模型训练者能够精准响应个人数据删除请求，避免法律风险。
2. 降低模型性能损失：过度删除会移除大量无关数据，导致模型能力下降；OriginBlame 的精确删除可将性能损失控制在最小范围。
3. 推动遗忘算法实用化：遗忘算法长期缺乏可靠且精细的 forget set 来源，OriginBlame 填补了这一空白，使遗忘研究从理论走向实用。
4. 数据治理新范式：将“作者身份”作为一等公民嵌入数据管道，为未来可溯源、可审计的 AI 训练体系奠定基础。
5. 开源生态：系统与 HuggingFace、Datatrove 等主流工具兼容，降低了社区采用门槛，有望成为数据溯源的标准组件。