Meta关停Instagram AI深度伪造功能

背景

本周，Meta 推出了一项备受争议的 Instagram 新功能：用户只需在对话中 @ 提及一个公开的 Instagram 账户，即可基于该账户的内容生成 AI 图像。这一功能本质上允许任何人利用公开账户的肖像和内容制作深度伪造（deepfake）图像，而无需账户所有者的许可。该功能在周二宣布后迅速引发强烈反对，最终 Meta 在周五宣布将其关闭。

核心内容

Meta 在其 Muse Image AI 模型的博客文章更新中表示：“本周早些时候，我们宣布了一项功能，让用户可以通过 @ 提及他们想要引用的公开 Instagram 账户来生成图像。我们的初衷是提供一个有用的创意工具，并让用户能够控制自己的公开内容是否可以被以这种方式引用。我们听到了反馈，认为这项功能未能达到预期，因此它已不再可用。”

事实上，在完全关闭该功能之前，Meta 曾允许用户通过深入设置选项来选择退出。但即便如此，该功能依然招致大量批评。美国国家性剥削问题中心（National Center on Sexual Exploitation）执行董事兼首席战略官 Haley McNamara 在周五早些时候指出：“这不仅明显侵蚀了我们对自己肖像的权利……而且它还成为了#性勒索（#sextortion）和其他诈骗活动的明显工具！追求高风险设计，然后把责任推给个人，让他们费尽周折才能选择退出，这是不可接受的。”

美国演员工会（Screen Actors Guild）也建议其成员选择退出该功能，并详细说明了操作方法。

关键要点

• Meta 临时推出的 Instagram 功能允许用户通过 @ 提及公开账户来生成基于该账户内容的 AI 图像。
• 该功能在宣布后立即遭遇强烈抵制，批评者认为它未经许可便使用用户肖像，并可能被用于性勒索等恶意用途。
• Meta 原计划让用户通过设置选项选择退出，但最终因反馈不佳而彻底关闭该功能。
• 性剥削防治组织和演员工会均对该功能提出严厉批评，并呼吁用户采取保护措施。

意义与影响

这一事件凸显了 AI 深度伪造技术在社交平台上面临的伦理和法律挑战。Meta 原本试图通过“引用”机制平衡创意工具与用户控制权，但实践中却暴露出对用户肖像权的严重忽视。尽管公司最终收回了功能，但过程中将退出负担转嫁给用户的做法遭到广泛谴责。此次事件可能推动 Meta 及其他平台在未来推出同类功能时，必须建立更严格的默认同意机制，而非事后补救的退出选项。同时，它也警示了 AI 生成内容滥用对性勒索、身份盗用等犯罪活动的潜在助长作用。