← 返回信息流
AI 资讯量子位·3 小时前

Meta紧急叫停员工数据蒸馏计划:私聊数据泄露

原标题:小扎「蒸馏员工」计划紧急喊停!私聊数据都泄露了…

速览

Meta近期推出的员工数据蒸馏计划因严重的安全漏洞被紧急叫停。该计划旨在利用员工数据训练AI模型,但意外导致内部私聊等敏感数据泄露。这一事件暴露了Meta在内部AI数据使用流程上的重大管理疏漏。

AI 深度解读

背景

Meta(原 Facebook)近期在人工智能(AI)领域的激进布局引发了内部剧烈震荡。为了提升其 AI Agent(智能体)对人类使用电脑行为模式的理解,Meta 启动了一项名为 MCI(Model Capability Initiative,模型能力倡议)的内部监控项目。该项目旨在强制收集员工在常用工作软件(如 Gmail、GChat、Metamate 和 VSCode)中的鼠标移动、点击及键盘输入等数据,用于训练 AI 模型。

然而,这一旨在“蒸馏”员工操作数据以喂养 AI 的计划,因严重的数据隐私泄露事故被迫紧急叫停。事件不仅暴露了 Meta 在数据治理上的重大漏洞,更使其本就低迷的内部士气跌至历史谷底。Meta CTO Andrew Bosworth(Boz)不得不公开承认公司士气危机,并承诺彻查事故原因。

核心内容

Meta 的 MCI 项目原定于今年 4 月启动,其官方说法是仅监控工作相关软件的操作数据,并明确声明员工的个人手机不在监控范围内。然而,项目执行过程中出现了严重的技术与管理失误。

据 Business Insider 报道,该项目因敏感数据泄露而被紧急终止。泄露的数据涉及约 45,000 份员工数据表,且一度处于“全员可见”的状态。这些数据不仅包含 AI 工具相关的完整提示词(Prompts)和转录文本,还意外包含了员工的私人聊天记录(私聊数据)以及绩效评估数据等高度敏感信息。

Meta 发言人随后证实了此事,并表示在调查期间暂停该项目。官方声明称:“我们在设计该项目时已仔细考虑过隐私保护措施。虽然目前没有迹象表明有员工不当访问了这些数据,但我们仍决定在调查期间暂停该项目。”

然而,实际情况与官方说法存在出入。Meta CTO Andrew Bosworth 承认,该项目在执行中出现了 ACL(访问控制列表)配置错误,未达到既定的隐私审查标准。有 Meta 员工向《连线》(Wired)透露,在问题得到控制之前,已有数十名员工主动访问了这些本应保密的数据。目前,该事件在内部状态已被标记为“已结束”,但 Meta 承诺将分享详细的调查结果,并追踪所有数据访问记录进行分析。

关键要点

  • 项目叫停原因:Meta 强制监控员工电脑操作以训练 AI 的 MCI 项目,因 ACL 配置错误导致敏感数据泄露,被紧急叫停。
  • 泄露数据规模与性质:涉及约 45,000 份员工数据表,包括 AI 提示词、转录文本、员工私聊记录及绩效数据,且一度全员可见。
  • 事故定级:该事件被定性为 2 级事故(事故等级为 0-5 级,0 级最严重),属于重大数据安全事故。
  • 官方回应与矛盾:Meta 发言人声称无不当访问迹象,但内部消息指出已有数十名员工主动查看了泄露数据;CTO Andrew Bosworth 承认配置错误并承诺彻查。
  • 内部反应:员工对隐私泄露极度愤怒,对管理层信任度降至冰点。Meta 内部士气已处于“历史谷底”,员工不再相信自身专长会被重视或工作具有影响力。
  • 后续措施:Meta 恢复部分被砍福利(如茶水间、差旅预算、团建经费),并试图精简组织架构以稳定局势,但被员工视为“用零食安抚不了乱麻”。

意义与影响

此次事件不仅是 Meta 的一次严重公关与技术危机,更折射出大型科技公司在 AI 数据收集伦理与合规性上的深层困境。

首先,数据隐私边界的模糊化引发信任崩塌。Meta 试图将员工行为数据化以优化 AI,却因基础的安全配置失误导致隐私防线全面溃败。这种“为了 AI 牺牲隐私”的做法,即便初衷是工作用途,也因数据混入私人信息而引发了强烈的抵触情绪。员工对“被监控”的恐惧转化为对管理层的不信任,直接导致内部士气跌至谷底。

其次,AI 训练数据的获取方式面临伦理与法律挑战。随着 AI 模型对高质量人类行为数据需求的增加,企业如何合法、合规地收集数据成为难题。Meta 此次事故表明,即便有隐私保护设计,执行层面的微小失误也可能导致灾难性后果。这迫使业界重新审视 AI 数据收集的流程规范,特别是对于内部员工数据的处理,必须建立更严格的隔离机制和访问控制。

最后,企业文化与技术创新的平衡成为关键。Meta 在 AI 领域的激进重组和“整活”已让员工感到疲惫和不安。CTO Andrew Bosworth 承认士气危机,并试图通过恢复福利来安抚员工,但此次数据泄露事件表明,单纯的经济补偿或福利恢复无法解决根本的信任危机。如果 Meta 不能从根本上解决数据治理问题并重建员工安全感,其 AI 战略的推进将面临巨大的人力阻力。

此事件也为整个科技行业敲响了警钟:在追求 AI 技术突破的同时,必须将数据安全和员工隐私置于同等重要的地位,任何忽视合规性的“捷径”都可能付出高昂的代价。

查看原文 →qbitai.com