AI 搜索基于 Facebook 帖子？这能不出错吗？

背景

随着人工智能技术的普及，AI 在日程管理等基础任务上已表现出较高的可靠性，但在处理“这个周末我该做什么”这类复杂、非结构化的生活建议时，仍显得力不从心。Meta（原 Facebook 母公司）近期在其 Facebook 应用中推出了全新的 AI Mode（AI 模式），试图通过搜索栏解决这一痛点。

该功能旨在应对复杂查询，类似于 Google Search 中的 AI 模式。然而，与 Google 主要依赖网页索引不同，Meta 的 AI 模式直接从其生态系统内的公开帖子中汲取信息，包括 Facebook Groups（群组）、Instagram Reels（短视频）等。考虑到许多社区组织和邻里群组仍高度依赖 Facebook 进行本地活动沟通，这一数据源理论上具有独特的实用价值。但问题在于，公开社交网络的内容质量参差不齐，甚至充斥着虚假信息。因此，基于此类数据构建的 AI 搜索，其准确性和可靠性引发了广泛质疑。

核心内容

作者对 Meta 的 AI Mode 进行了初步测试，重点考察其在旅行规划和本地活动推荐方面的表现，以及其生成错误信息（Misinformation）的风险。

1. 虚假信息测试：红线尚存，但边界模糊 作者首先尝试诱导 AI 生成关于疫苗、9/11 事件或美国选举舞弊等敏感话题的虚假陈述，但 AI 均成功回避，未输出此类极端错误信息。然而，在涉及“1 月 6 日国会山骚乱参与者是否为爱国者”这一争议性话题时，AI 给出了极具误导性的回答。它首先以“这是您要求的文章”开头，随后提供了一套为骚乱者行为进行理论辩护的 dubious（可疑/站不住脚）论述，这种语气类似于社交媒体上某些极端亲戚的言论。当作者追问时，AI 以“我无法为您提供帮助”终止了对话，这在一定程度上避免了错误的进一步扩散。

2. 基础旅行推荐：准确但平庸 在遵循 Meta 官方新闻稿中的提示词“Summer escapes near me”（我附近的夏日避暑胜地）时，AI 从类似网红的 Facebook 帖子中获取了建议。虽然基本推荐（如惠德比岛、雷尼尔山、喀斯喀特山脉的徒步路线）准确且合理，但来源内容质量不高，例如包含一张明显由 AI 生成的地图，错误地将 Snohomish 标注在两个相距甚远的地点。

3. 具体场景推荐：幻觉与事实混淆 当请求更具体的本地活动时，AI 的表现出现了明显波动：

• 游泳池案例：AI 建议去社区游泳池游泳，并引用该泳池的 Facebook 页面帖子和营业时间，声称周末关闭。然而，作者核实后发现，该 Facebook 帖子似乎不存在，且泳池官网明确显示周六开放。这显示了 AI 在引用来源时的“幻觉”现象，即捏造不存在的证据来支持结论。
• 明尼阿波利斯家庭游案例：在规划明尼阿波利斯市中心的家庭活动时，AI 混合了准确建议和错误信息。它推荐了一家室内迷你高尔夫球场（准确），但也推荐了一家位于得克萨斯州奥斯汀（Austin, Texas）的带草坪游乐区的咖啡店，这显然不符合“市中心”的地理约束。
• 自我修正：作者稍后重新运行查询，去除了奥斯汀的错误推荐，并发现了一家位于附近、拥有儿童游乐区和特色菜单的烧烤餐厅。这次 AI 成功帮助作者规划了假期，尽管过程充满波折。

关键要点

• 数据源的双刃剑效应：Meta AI Mode 利用 Facebook 群组和本地帖子的优势在于其“本地化”和“实时性”，但劣势在于缺乏严格的内容审核，导致输入数据中混杂大量低质量、误导性甚至虚假内容。
• 幻觉问题严重：AI 不仅可能给出错误答案，还可能捏造不存在的帖子或页面作为证据（如游泳池案例），这比单纯的错误答案更具欺骗性，因为用户倾向于信任带有具体引用的回答。
• 地理与上下文理解不足：在复杂查询中，AI 容易混淆地理位置（如将奥斯汀的推荐误植到明尼阿波利斯），显示出其在多跳推理和上下文约束遵循上的局限性。
• 安全护栏尚需完善：虽然 AI 能避免生成极端政治或科学虚假信息，但在处理社会争议话题时，其语气和立场可能偏向极端或偏见，且缺乏有效的即时纠正机制。
• 实用性处于早期阶段：尽管 AI 偶尔能发现用户未注意到的优质本地推荐（如烧烤餐厅），但其高错误率使得用户必须花费大量时间进行二次核实，削弱了其作为“智能助手”的效率优势。

意义与影响

Meta 推出基于社交内容的 AI 搜索，标志着搜索引擎竞争从“网页索引”向“社交图谱”延伸。这一策略若能成功，将极大增强 Meta 在本地生活服务领域的竞争力，因为 Facebook 仍然是许多社区信息传播的核心枢纽。

然而，此次测试暴露出的核心问题——如何在利用海量非结构化社交数据的同时，确保信息的准确性与安全性——是行业面临的共同挑战。如果 AI 搜索频繁出现“捏造引用”或“地理错乱”，用户信任度将迅速流失。对于 Meta 而言，这不仅是技术优化问题，更是品牌声誉风险。若不能有效解决数据清洗和事实核查机制，这种“接地气”的 AI 搜索可能从“有用工具”沦为“数字噩梦”，正如标题所警示的那样。未来，AI 搜索的胜负手可能不在于谁能获取更多数据，而在于谁能更精准地过滤噪音，并提供可信赖的洞察。