← 返回信息流
技术博客OpenAI Blog·10 小时前

OpenAI报告:涉华势力利用AI干预美国科技辩论

原标题:PRC-linked influence operations are targeting AI debates in the US

速览

OpenAI发布最新报告,详细披露了与中华人民共和国相关的影响力行动如何利用人工智能技术干预美国国内科技辩论。这些行动主要针对数据中心建设叙事、关税政策以及关于ChatGPT的虚假指控展开。该报告揭示了AI技术被用于地缘政治操弄的新趋势,引发了对技术安全与信息生态的广泛关注。

AI 深度解读

深度解读:OpenAI 披露中国关联影响力行动干预美国 AI 辩论

背景

人工智能(AI)的治理与发展不仅是技术问题,更日益成为地缘政治博弈的核心场域。OpenAI 在其官方博客发布了一份详细报告,旨在揭示并阻断由威权政权及其代理人发起的、利用 AI 系统进行舆论操纵和隐蔽干预的行为。

OpenAI 的核心使命是确保通用人工智能(AGI)造福全人类,并通过构建“民主 AI”来实现这一目标。所谓“民主 AI”,是指由民主原则塑造、遵循常识规则、旨在帮助人类解决难题同时保护公众免受真实伤害的 AI 系统。为了维护这一使命,OpenAI 强调必须识别并破坏那些试图利用 AI 系统胁迫批评者、监视社区或暗中干涉民主社会的企图。

本报告详细描述了 OpenAI 封禁的两个疑似源自中国的 ChatGPT 账户集群。这些账户被指控支持看似隐蔽的影响力行动,试图通过推广特定叙事来操纵关于美国 AI 及更广泛科技政策的合法辩论。

核心内容

OpenAI 在报告中具体披露了两类被其认定为具有中国关联的影响力行动集群,并分别命名如下:

1. “数据中心搭便车”行动(The “Data Center Bandwagon” Campaign)

该行动集群的主要特征是生成社交媒体评论和图像,其核心叙事声称:为建设 AI 而扩建数据中心正在导致普通家庭电费上涨。这一叙事试图将 AI 基础设施的发展与民众日常生活的经济负担直接挂钩,从而引发公众对 AI 发展的抵触情绪。

2. “科技与关税”行动(The “Tech and Tariffs” Campaign)

该行动集群则聚焦于批评美国的关税政策,将其描绘为试图在技术竞争中占据主导地位的手段。值得注意的是,该集群在生成内容时使用了特定的提示词(prompts),明确要求输出内容中不得出现中国领导人习近平,而只应包含美国总统特朗普。

此外,该集群还与一个疑似虚假的社交媒体账户网络相关联。这些账户不仅针对 OpenAI,还散布关于 ChatGPT 用户数据泄露的虚假指控。OpenAI 明确指出,这些关于数据泄露的指控完全是捏造的。

行动特征与目的

OpenAI 指出,针对 OpenAI 和美国数据中心扩建的攻击,其重要性并不在于该行动是否成功改变了公众舆论,而在于它展示了源自中国的行动者正在测试针对 AI 基础设施的叙事策略。AI 基础设施是美国技术领导力、经济增长以及更广泛的民主 AI 生态系统的基石。

尽管这些行动试图利用并放大公众对能源价格和数据中心本地影响的既有担忧,但 OpenAI 发现,除了其自身的活动范围外,并未发现这些叙事有实质性的突破或广泛传播。

历史上,外国影响力行动长期倾向于依附于现有的本地问题和真诚持有的信念,以此建立可信度、放大分歧或加剧公众的不信任感。在此次事件中,行动者试图在隐藏自身身份和动机的情况下,暗中介入美国关于国家 AI 能力未来的辩论。

关键要点

  • 双重叙事策略:中国关联的影响力行动通过两条主要路径进行干预:一是攻击 AI 基础设施(如数据中心)对民生的负面影响(电费上涨);二是攻击美国的科技政策(如关税),并刻意规避提及中国最高领导人,以伪装成美国内部的政治辩论。
  • 虚假指控与协同作战:除了舆论引导,相关行动还配合了针对 OpenAI 本身的虚假数据泄露指控,并与疑似虚假的社交媒体账户网络协同运作,以增强传播效果。
  • 隐蔽性与试探性:行动者刻意隐藏身份和动机,试图将外部干预伪装成内部辩论。这被视为一种“测试”行为,旨在评估针对 AI 基础设施叙事的可行性。
  • 无实质破圈证据:OpenAI 强调,虽然行动试图利用公众关切,但目前没有证据表明这些叙事超出了行动者自身的活动范围,即未造成大规模的社会舆论分裂或实质性影响。
  • 定义“极权主义 AI 特征”:报告明确将“极权主义 AI 特征”定义为利用 AI 进行监视、审查以及对政治、社会和私人生活的控制,并指出这是外国威胁行为者试图通过削弱民主机构来推进的目标。

意义与影响

OpenAI 发布此报告具有多重深远意义:

  1. 行业预警与防御机制建立:通过公开披露这些行动的细节,OpenAI 旨在帮助科技行业、政府、公民社会及公众更好地识别和阻断外国威胁行为者利用 AI 操纵公共辩论、削弱民主机构的行为。
  2. 重新定义 AI 安全边界:报告将 AI 安全从单纯的技术风险(如模型幻觉、偏见)扩展到了地缘政治和信息战层面。它强调,保护 AI 系统不被用于隐蔽的影响力操作,是维护民主社会稳定的关键一环。
  3. 确立“民主 AI”的对立面:OpenAI 明确划定了“民主 AI”与“极权主义 AI”的界限。前者旨在赋能人类和保护公众,后者则服务于监视、审查和控制。这一区分有助于在全球范围内凝聚关于 AI 伦理和治理的共识。
  4. 揭露混合战新形态:此次披露揭示了现代混合战(Hybrid Warfare)的新形态——即利用生成式 AI 的大规模内容生成能力,低成本、高效率地制造和传播针对性叙事,从而干扰目标国家的政策辩论和社会凝聚力。

总之,OpenAI 的这份报告不仅是一次内部安全事件的通报,更是对全球 AI 治理格局的一次重要声明:AI 技术的发展不能脱离其政治和社会背景,必须警惕并抵御将其武器化以干涉民主进程的风险。

查看原文 →openai.com