← 返回信息流
AI 资讯The Verge AI·5 小时前

AI巨头联名呼吁立法严防AI助长生物武器

原标题:AI leaders call for tougher protections against AI-aided bioweapons

速览

Anthropic、OpenAI和微软等科技巨头联合签署公开信,呼吁美国国会制定更严格的法规,以防止其技术被用于开发生物武器。这些领袖指出,当前在合成DNA和RNA销售环节存在严重的生物安全漏洞,可能引发全球大流行病。此举旨在通过强制筛查购买序列,遏制利用AI和生物技术制造大规模杀伤性武器的风险。

AI 深度解读

AI 巨头罕见联手:呼吁立法封堵 AI 辅助生物武器漏洞

在人工智能行业内部,竞争往往激烈且充满火药味,但面对一个共同的潜在威胁,昔日的竞争对手们罕见地达成了共识。Anthropic、OpenAI、Microsoft、Meta 和 Google DeepMind 等科技巨头的高管,联合多位顶尖科学家及生物科技公司高管,共同签署了一封致美国国会的公开信。他们呼吁立法者采取紧急行动,填补所谓的“生物安全漏洞”,防止人工智能技术被滥用,从而降低人为制造生物武器或引发全球大流行的风险。

背景

合成生物学(Synthetic Biology)的进步长期以来一直让科学界和国家安全专家感到担忧。随着基因编辑技术的普及和成本的降低,设计危险病原体或甚至“复活”已灭绝病原体的技术门槛正在下降。然而,在过去,这种能力主要掌握在拥有先进实验室、精密设备和专业资源的资深科学家手中。

当前的担忧在于,随着生物工具的日益廉价和普及,以及 AI 模型能力的指数级增长,防止滥用的壁垒正在瓦解。AI 工具使得非专家也能更容易地设计潜在的危险基因序列,在线订购合成 DNA/RNA,并在实验室中组装。这种“民主化”的技术获取能力,结合 AI 强大的设计效率,使得生物恐怖主义或意外泄露的风险显著上升。此外,专家也警告称,AI 同样可能被用于开发化学武器等其他形式的威胁。

核心内容

这封公开信由“美国创新基金会”(Foundation for American Innovation)和“进步研究所”(Institute for Progress)两家智库组织,旨在向美国立法者施压,要求建立强制性的监管框架。

签署阵容与共识 尽管 AI 行业巨头们平时在技术路线和商业利益上争执不断,但此次他们搁置分歧,共同关注技术被用于开发生物武器的风险。签署者包括:

  • AI 行业领袖:Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、Microsoft 的 Mustafa Suleyman、Meta 的 AI 负责人 Alexandr Wang 以及 Google DeepMind 的 Demis Hassabis(2024 年诺贝尔化学奖得主,因其在基于 AI 的蛋白质预测方面的工作而闻名)。
  • 科学与政策专家:多位知名科学家、国家安全专家和政策制定者。
  • 生物技术公司高管:包括合成遗传材料主要卖家 Twist Bioscience 和 Ansa Biotechnologies 的高管。

核心诉求:强制筛查与记录 信件的核心建议是针对销售合成 DNA 和 RNA(即可以在网上订购并在实验室组装的遗传物质)的公司实施强制性规定:

  1. 强制筛查:要求供应商在购买环节筛查订单中的基因序列,识别出可能被用于制造危险病原体的序列。
  2. 详细记录:必须保留任何订单的详细记录,以便追踪那些可能逃避了初步筛查的潜在威胁。

紧迫性与现状 信件承认,目前许多最大的合成 DNA 和 RNA 提供商已经对订单进行筛查,但这主要是一种自愿行为,而非法律强制要求。信件指出:“鉴于底层技术变化的速度,我们认为需求是紧迫的。”这是一个利益相关者之间罕见的达成一致的时刻,呼吁政策制定者采取果断行动。

关键要点

  • 罕见联盟:Anthropic、OpenAI、Microsoft、Meta 和 Google DeepMind 等 AI 巨头罕见地联合起来,共同应对 AI 被用于生物武器开发的风险。
  • 立法目标:呼吁美国国会立法,强制要求合成 DNA/RNA 供应商对订单进行强制性筛查,以识别潜在的危险病原体序列。
  • 技术风险:AI 降低了设计危险生物序列的技术门槛,使得缺乏专业背景的人也可能利用在线订购的合成遗传材料制造威胁。
  • 监管缺口:目前的行业筛查多为自愿性质,缺乏强制力和详细的追踪记录机制,存在监管漏洞。
  • 广泛支持:除了科技巨头,签署者还包括诺贝尔奖得主 Demis Hassabis、生物技术公司高管以及国家安全专家,显示了问题的跨领域重要性。
  • 双重威胁:除了生物武器,专家也警告 AI 可能被用于加速化学武器的开发。

意义与影响

这封公开信标志着 AI 安全议题从传统的“数字安全”(如虚假信息、隐私泄露、算法偏见)扩展到了“物理安全”和“全球公共卫生”领域。其深远影响体现在以下几个方面:

  1. 确立“AI 生物安全”的新范式:这是 AI 行业首次大规模、高调地要求针对生物合成领域进行立法监管。它表明,AI 巨头们意识到,如果不对技术的物理后果进行约束,整个行业可能面临更严厉的外部监管甚至禁令。
  2. 推动合成生物学监管升级:目前合成生物学领域的监管相对滞后于技术发展。这封信可能成为美国乃至全球加强合成 DNA/RNA 销售监管的催化剂,促使“自愿准则”向“强制法律”转变。
  3. 行业自律与政府干预的平衡:虽然科技公司主动呼吁监管,但这反映了行业内部对“自我监管”失效的担忧。如果政府不迅速采取行动填补漏洞,未来可能面临更严苛、更缺乏行业参与度的强制性法规。
  4. 全球安全格局的变化:随着 AI 降低生物武器制造门槛,国家安全和公共卫生机构需要重新评估威胁模型。这封信发出的信号是,AI 不仅是信息战工具,更是潜在的生化武器放大器,需要跨学科(AI、生物学、国家安全)的合作来应对。

总之,这不仅是科技巨头的一次公关行动,更是对现有生物安全体系的一次紧急预警。它揭示了在技术加速迭代的背景下,法律与伦理框架建设的滞后性,以及各方利益相关者对于失控风险的共同焦虑。

查看原文 →theverge.com