Meta因用户反对移除Instagram争议AI功能

背景

Meta 本周早些时候推出了一批新的 AI 工具，其中包括一项备受争议的功能：允许用户通过提及公共 Instagram 账户（@-mentioning）来引用该账户中的照片，并利用 AI 对其进行修改。该功能由 Meta 旗下的专门 AI 研究部门 Meta Superintelligence Labs 开发的 Muse Image 图像生成器提供支持。然而，该功能在上线后迅速引发大规模批评，因为它没有通知被引用的用户其照片被用于 AI 修改。Meta 最初在 TechCrunch 的指南中告知用户如何禁用该功能，但最终在周五宣布完全移除该功能。

核心内容

Meta 在周五（美国时间）发布了一篇博客文章，确认移除这项有争议的 AI 功能。该功能允许用户通过 @-mention 公共 Instagram 账户，引用该账户的公开照片，并使用 AI 生成修改后的图片——例如将照片中的背景或人物进行风格化处理。但 Meta 在设计时默认不通知被 @ 的账户用户其照片被使用，这引发了隐私和滥用担忧。用户和艺人与经纪公司（包括 CAA）对此表示强烈反对。Puck News 创始合伙人 Dylan Byers 率先报道了 Meta 的决定。Meta 在博客中承认：“我们的初衷是提供一个有用的创意工具，并让人们控制自己的公开内容是否可以被这样引用。我们听到了反馈，认为这项功能‘未达到预期’，因此它不再可用。”TechCrunch 已联系 Meta 寻求更多细节，并将在收到回复后更新报道。

关键要点

• 功能名称：Muse Image 中的 @-mention 照片引用与 AI 修改功能。
• 问题核心：该功能未向被引用的公共 Instagram 账户发送通知，用户无法得知自己的照片被用于 AI 生成修改版。
• 后果：立即引发用户和业界（特别是知名艺人经纪公司 CAA）的强烈反对，担忧该功能会被滥用于生成不当内容（如伪造或裸露图片）。
• Meta 的回应：先在 TechCrunch 上发布禁用指南，后于周五通过博客宣布彻底移除该功能。
• 行业背景：AI 在社交媒体平台上的滥用问题日益严重，尤其是生成女性名人裸照等行为，平台此前已尝试设置护栏但效果有限。

意义与影响

此次事件反映了 AI 工具在社交媒体平台上快速部署时面临的隐私、同意和滥用风险。Meta 虽自称其初衷是创新，但未能预见到“未通知用户”这一设计缺陷会引发信任危机。该功能的下线表明，即使是大公司也需在推出 AI 功能前充分考虑伦理与法律合规性，尤其是当涉及用户公开内容作为训练或引用素材时。同时，这也给其他提供 AI 图像生成功能的平台（如 OpenAI、Google 等）敲响警钟：在用户生成内容（UGC）平台集成 AI 修改工具，必须建立明确的知情同意机制和滥用防护措施。未来，类似功能的推出可能会受到更严格的内部审查和用户反馈流程。