DMVM利用模型合并实现去中心化多任务数据集高效估值

背景

随着数据驱动的人工智能模型日益普及，数据交易市场正在兴起。在多任务学习场景中，多个数据贡献者提供各自的数据集，用于训练一个能够同时胜任多个下游任务的模型。如何公平、透明地对这些数据集进行价值评估（dataset valuation）成为数据市场运转的核心问题。然而，现有的数据集估值方法大多局限于单任务设定，无法处理买家希望优化多个任务性能的复杂需求。此外，传统估值方法（如基于 Shapley 值或需要反复重训练的方法）计算开销巨大，且依赖可信的中央协调方，无法适应去中心化环境——在这种环境下，隐私约束严格，各方不愿共享原始数据或模型参数。针对这些挑战，本文提出了一种新的框架 DMVM（Decentralized Multi-task Valuation via Model Merging），旨在实现高效、去中心化、隐私友好的多任务数据集估值。

核心内容

DMVM 的核心思想是利用任务算术（task arithmetic）从模型组合中推断数据集贡献，从而绕过重训练和数据共享。具体来说，每个数据贡献者先在自己的私有数据集上独立训练一个模型（例如针对某个任务或数据子集）。然后，DMVM 不要求各方共享原始数据或模型参数，而是通过一种安全的聚合协议，在参数空间中对这些模型进行合并（model merging），观察不同模型组合后的参数变化，进而量化每个数据集在多任务上的边际效用。

该方法的核心步骤包括：

1. 本地训练：每个数据贡献者在自己的私有数据集上训练一个基础模型（例如使用标准监督学习）。
2. 任务算术编码：每个数据集被映射为参数空间中的一个“向量”（即模型权重）。通过将不同数据集对应的模型权重进行线性组合（例如加权平均或更复杂的算术运算），可以合成一个代表多任务目标的复合模型。
3. 边际效用推断：对于某个数据集，其价值由其对应的模型权重对合成模型性能的影响程度来衡量。具体而言，DMVM 通过比较包含和排除该数据集时的合成模型在多组测试任务上的表现差异，来估计该数据的边际贡献。
4. 安全聚合协议：为了保护隐私，DMVM 引入了一种安全的多方计算协议，使得各参与方可以在不暴露各自模型参数的情况下，合作计算出合并后的模型参数以及估值结果。该协议保证了即使存在恶意参与者，也无法推断出其他方的敏感信息。
5. 理论误差界：作者提供了理论分析，给出了 DMVM 近似质量的误差上界，从数学上保证了当模型合并方法满足一定条件时，估值结果能够很好地逼近真实边际效用。

实验部分，作者在计算机视觉（CV）和自然语言处理（NLP）任务上进行了全面验证。结果表明，DMVM 能够在显著降低计算成本（相比重训练方法节省数个数量级的算力）的前提下，给出与重训练基准高度一致的数据集估值排名，并且对不同的任务组合和数据分布具有良好的鲁棒性。

关键要点

• DMVM 是首个面向去中心化多任务场景的数据集估值框架，解决了现有方法只能处理单任务、不能应对无中央协调方和隐私约束的局限。
• 该方法完全避免重训练和数据共享，通过任务算术在参数空间中进行模型合并，从而高效推断每个数据集的边际效用。
• 引入了一种安全的聚合协议，使得各方在不泄露各自模型参数和原始数据的前提下完成协作估值，满足严格的隐私要求。
• 理论部分提供了近似误差的数学界，为算法的可靠性提供了保证。
• 在 CV 和 NLP 多项任务上的实验证明，DMVM 的计算效率远优于传统重训练方法，同时估值准确度与重训练基准相当。
• 该方法天然支持多任务场景，估值结果直接反映数据集对多个下游任务综合性能的贡献，更贴合实际数据市场的需求。

意义与影响

DMVM 的提出为去中心化数据市场的公平估值提供了可行的技术路线。它解决了传统估值方法在隐私、计算成本和扩展性上的瓶颈，使得多方在不信任、无中心协调的环境下也能就数据价值达成共识。任务算术和模型合并的巧妙运用，不仅降低了估值开销，还使得估值过程与多任务模型的训练行为直接对齐——因为模型最终是通过合并多个数据集训练出的模型来优化多任务表现的。这一思路有望推动数据交易从单任务、中心化模式向多任务、去中心化模式演进，为更广泛的数据协作和 AI 模型开发奠定基础。此外，安全聚合协议的引入也为其他需要隐私保护的协作计算场景提供了参考。