Meta 自制 AI 生成的“标题党”新闻流：一场被叫停的测试

背景

长期以来，Facebook 的信息流中充斥着大量旨在吸引点击的“标题党”文章。如今，Meta 似乎决定亲自下场，利用人工智能（AI）生成自己的此类内容。

Meta AI 独立应用最初于 2025 年 4 月推出，其核心功能是一个公开的“发现（Discover）”信息流，展示其他用户生成的 AI 图像和对话（这些用户往往并未意识到自己的内容是公开的）。然而，这一功能现已消失。取而代之的是一个标准的聊天机器人界面，以及一个已存在数月的“为你推荐（For You）”页面。该页面展示了一系列建议的文章提示词，用户点击后，系统便会生成完整的“故事”。

核心内容

The Verge 记者深入体验了这一功能，发现其生成的内容在质量、准确性和伦理合规性上均存在严重问题。

1. 高度个性化的“刻板印象”推送 算法根据用户所在地和身份特征推送极具地域或阶层色彩的内容。

• 伦敦记者视角：当记者位于伦敦时，推送内容极具“英式”刻板印象，涉及茶、礼仪、酒吧、皇室、足球（英式足球）以及排队艺术。具体的标题包括：“皇室管家最终解决了先倒牛奶还是先倒茶的争论”（据称茶先倒）、“加入不知为何的队列背后的心理学”、“令人绝望的英式‘啧’声的解剖学”，以及“探访英国每家酒吧的极限运动内幕”。其中，“当一点小麻烦意味着彻底灾难”这类标题更是逻辑混乱。
• 奢侈品爱好者视角：The Verge 的另一位同事被算法归类为“奢侈品腕表爱好者”，其信息流推送了“我的假劳力士实验”和“劳力士等待名单幻觉背后的残酷数学”等故事。

2. 内容空洞且缺乏信源 AI 生成的文本读起来像是空洞的填充物，除了反复重述提示词的前提外，几乎没有实质内容。更严重的是，这些文章完全缺乏信源引用。

• 事实核查：记者尝试追踪故事来源，发现“皇室管家与茶”的故事实际上源自 2018 年 BBC Three 的一部喜剧系列剧《Miss Holland》，该剧讲述了一位虚构的荷兰小镇选美皇后前往英国，向真正的前皇室管家 Grant Harrold 学习“如何变得高贵优雅”的故事。
• 完全捏造：“劳力士实验”的故事则完全是凭空捏造的。它是在聊天框中生成的第一人称叙述，没有署名，仅经过常规的 AI 生成“嗡嗡”声后便出现。其他故事则依赖于对未命名专家或虚构研究的模糊引用。

3. 技术漏洞暴露系统逻辑 当记者多次点击同一张卡片时，生成的故事始终围绕提示词的粗略范围，但细节略有不同。而在单独的聊天中输入相同的标题，则会产生完全不同的响应。 最明显的破绽出现在聊天记录中，显示了触发文章生成的隐藏建议提示词。其中一个提示词开头写道：“你是一个乐于助人的对话助手。用户正在回复向他们展示的前馈卡片。下面的卡片上下文提供了用户消息的背景信息”，随后紧接着似乎是内部指令、信息和元数据的引用。这直接暴露了系统是如何通过后台指令生成内容的。

4. 图像生成存在严重错误与伦理风险 文章附带了 AI 生成的图像，其中许多存在明显缺陷：

• 常识性错误：一篇题为“2026 年谁真正为皇室家族买单？”的文章中，出现了两位伊丽莎白二世女王。尽管她已在几年前去世，且历史上只有一位伊丽莎白二世，AI 却生成了两个克隆体。
• 人物失真：围绕“女王克隆体”的是其他皇室成员的近似图像：左侧是一个 vaguely 像凯特王妃的脸，后方是一个奇怪的威廉王子尝试，中间是一个有点像查尔斯国王的人，但其长相夸张地像他已故的父亲。
• AI 典型瑕疵：其他图像包含常见的 AI 缺陷，如不可能的手部结构和 unnatural 的身体角度。甚至有一张图片实际上是一个 GIF，显示一对老年夫妇跳舞，做出了人类身体无法完成的动作。

5. 违反 Meta 自身的 AI 内容政策？ 目前尚不清楚该应用是否有权根据 Meta 自身模糊的规则生成真实人物和公众人物的 AI 图像，但它确实做到了。Meta 此前曾表示希望“人们在看到由 AI 制作的帖子时能够知晓”，并会在检测到 AI 时自动为用户生成内容添加标签。然而，在此信息流或文章中，没有任何明显的指示或标签表明材料是由 AI 生成的。

6. Meta 的回应与撤回 Meta 拒绝回答关于该功能目的、输出内容是否被视为新闻或虚构、安全措施以及涉及真实人物的图像是否符合其 AI 内容政策等问题。

• 初始声明：Meta 发言人 Tracy Clayton 表示：“我们正在测试一个每日信息流，主动分享针对您兴趣定制的技巧、内容和推荐。目标是在您甚至不需要询问之前就建议最相关的内容——例如健身建议、膳食计划或其他见解。”
• 修改声明：随后，Clayton 发送了一份几乎相同的“更新”声明，神秘地删除了“主动（proactively）”一词。
• 最终撤回：当天晚些时候，Clayton 发布了第三份声明：“这是针对有限数量用户的测试，该功能将被弃用。Meta 没有计划继续推进此功能。”

关键要点

• 功能本质：Meta AI 应用中的“为你推荐”页面利用 AI 自动生成类似新闻标题党内容的“故事”，包括文本和图像。
• 内容质量低劣：生成的文本空洞、逻辑混乱，且完全缺乏信源；部分故事基于虚构或误解原有文化梗（如将喜剧剧情节当作新闻）。
• 图像生成违规：AI 生成了包含真实公众人物（如英国皇室成员）的图像，且存在严重的事实错误（如已故女王复活）和明显的 AI 伪影，且未添加任何 AI 生成标识。
• 内部逻辑泄露：通过查看聊天历史中的隐藏提示词，揭示了系统通过内部指令和元数据自动生成内容的机制。
• 测试范围争议：尽管 Meta 声称这是针对“有限数量用户”的测试，但 The Verge 的多名记者均访问到了该功能，质疑“有限”的定义。
• 迅速撤回：在 The Verge 提出质疑后，Meta 迅速撤回该功能，并删除了声明中关于“主动推荐”的措辞，最终确认不再推进此功能。

意义与影响

这一事件揭示了大型科技公司在探索 AI 内容生成边界时的盲目与伦理缺失。

首先，AI 幻觉与事实核查的缺失是主要风险。Meta 的 AI 不仅无法区分虚构叙事与新闻事实，甚至将喜剧剧情节误当作新闻源，且完全忽略了基本的历史事实（如伊丽莎白二世的去世）。这表明，在缺乏严格人工审核和事实核查机制的情况下，直接面向公众推送 AI 生成内容极易导致误导性信息的传播。

其次，透明度与合规性的矛盾。Meta 一方面强调用户应知晓 AI 生成内容，另一方面却在其测试功能中未对 AI 生成的图像和文本添加任何标识。这种“说一套做一套”的做法不仅违反了其自身的公开政策，也引发了关于 AI 内容监管的深层担忧。特别是涉及真实公众人物的图像生成，若不加限制和标注，极易引发肖像权争议和深度伪造（Deepfake）滥用。

最后，算法偏见与刻板印象强化。算法根据用户地理位置推送极度简化的文化刻板印象（如英国人的排队和喝茶），这不仅降低了用户体验，也反映了推荐算法在训练数据和处理逻辑上可能存在的偏见问题。

Meta 的迅速撤回虽然避免了更大的舆论危机，但这一测试本身暴露了公司在 AI 产品化过程中对内容质量、伦理合规和用户信任的忽视。对于整个 AI 行业而言，这是一个警示：在将 AI 生成内容推向大众之前，必须建立更严格的质量控制、事实核查机制以及透明的标识系统。