Anthropic 声明深度解读：Dario Amodei 谈与“战争部”的博弈

背景

近期，美国人工智能公司 Anthropic 发布了一篇由联合创始人兼 CEO Dario Amodei 撰写的公开声明，详细阐述了该公司与美国政府（文中称为“Department of War”，即美国国防部/战争部）在模型部署和安全护栏问题上的激烈分歧。

这一背景建立在 Anthropic 长期以来作为前沿 AI 公司积极参与美国国家安全领域的行动之上。Anthropic 声称自己是首家将模型部署在美国政府机密网络、国家实验室，并为国家安全客户提供定制模型的前沿 AI 公司。Claude 模型已被广泛用于情报分析、建模与仿真、作战规划、网络行动等关键任务。

然而，美国政府近期提出了一项强硬要求：AI 公司必须同意“任何合法用途”，并移除针对特定敏感场景的安全限制。作为回应，Anthropic 拒绝妥协，并警告称若被强制移除这些安全护栏，将不得不退出相关合同。这一事件不仅揭示了 AI 公司在国家安全领域的伦理边界，也暴露了政府强制力与企业价值观之间的紧张关系。

核心内容

Dario Amodei 在声明中首先重申了 Anthropic 的核心价值观：利用 AI 保卫美国及其他民主国家，击败专制对手。他列举了 Anthropic 为此做出的牺牲，包括放弃数亿美元的收入以切断与中国关联公司（部分已被美国战争部列为“中国军事企业”）使用 Claude 的渠道，阻止针对 Claude 的 CCP 赞助的网络攻击，并倡导严格的芯片出口管制以维持民主国家的优势。

声明指出，Anthropic 尊重战争部的军事决策权，从未对特定军事行动提出异议，也未试图随意限制技术使用。但是，Anthropic 认为在极少数情况下，AI 的使用可能会损害而非捍卫民主价值观，或者超出当前技术安全可靠运行的边界。因此，有两类用例从未包含在与战争部的合同中，且 Anthropic 认为不应纳入：

1. 大规模国内监控（Mass Domestic Surveillance） Anthropic 支持用于合法的外国情报和反情报任务，但反对大规模国内监控。Amodei 指出，AI 驱动的大规模监控对基本自由构成严重且新颖的风险。目前的法律滞后于 AI 能力的发展，例如，政府目前可在无搜查令的情况下从公开来源购买美国人的移动轨迹、网络浏览和社交关联记录。强大的 AI 能够将这些看似无害的碎片化数据自动整合成个人的全景画像。这种监控方式与民主价值观不相容。

2. 完全自主武器（Fully Autonomous Weapons） 声明区分了“部分自主武器”（如乌克兰目前使用的武器，对保卫民主至关重要）和“完全自主武器”（完全排除人类干预，自动化选择和打击目标）。Anthropic 承认完全自主武器在未来可能对国防至关重要，但强调当前的前沿 AI 系统可靠性不足，无法承担此类任务。提供此类产品将置美国战斗人员和平民于风险之中。Anthropic 曾提议与战争部合作研发以提高可靠性，但未获接受。此外，缺乏适当监督的完全自主武器无法像训练有素的专业士兵那样行使关键判断力，目前缺乏必要的“护栏”。

尽管存在上述分歧，Anthropic 表示，这两项例外并未阻碍其模型在军队中的加速采用。

然而，局势近期升级。战争部表示，只与同意“任何合法用途”并移除上述安全护栏的公司签约。若 Anthropic 坚持保留护栏，战争部威胁将其从系统中移除，甚至将其列为“供应链风险”（这一标签通常保留给美国对手，从未用于美国公司），并援引《国防生产法》强制移除护栏。Amodei 指出，后两种威胁存在内在矛盾：一方面将 Anthropic 标记为安全风险，另一方面又暗示 Claude 对国家安全至关重要。

面对威胁，Anthropic 立场坚定：出于良知，无法同意移除安全护栏。虽然战争部有权选择与其愿景一致的承包商，但鉴于 Anthropic 技术对武装部队的重要价值，公司希望对方重新考虑。Anthropic 的首选仍是继续服务于战争部和战斗人员，同时保留两项安全护栏。如果战争部决定终止合作，Anthropic 将确保平稳过渡，避免对军事规划、行动或其他关键任务造成中断，并承诺在其提出的广泛条款下继续提供模型支持。

关键要点

• 国家安全贡献与牺牲：Anthropic 强调其在美国国家安全领域的先驱地位，包括首家部署于机密网络和国家实验室，并指出公司曾为切断与中国军方关联企业的联系而放弃数亿美元收入。
• 两大拒绝场景：
  • 大规模国内监控：认为 AI 整合碎片化数据形成的全景监控侵犯基本自由，与民主价值观冲突，且法律尚未跟上技术能力。
  • 完全自主武器：承认部分自主武器的价值，但认为当前 AI 可靠性不足，无法承担完全自主打击任务，且缺乏人类监督会导致无法行使关键判断力。
• 政府的最后通牒：美国战争部要求 AI 公司接受“任何合法用途”并移除上述安全护栏，否则将终止合同。
• 威胁手段升级：战争部威胁将 Anthropic 列为“供应链风险”（此前仅用于美国对手）并援引《国防生产法》强制合规。Amodei 指出这构成了逻辑矛盾（既视其为风险又视其为必要）。
• Anthropic 的最终立场：拒绝出于良知无法接受的请求，但承诺若被解约，将确保技术过渡平滑，不影响军事任务连续性，并愿意在原有宽松条款下继续提供服务。

意义与影响

1. AI 伦理与国家安全边界的重新定义 此次声明标志着 AI 公司在参与国防和情报工作时，从单纯的“技术供应商”向“伦理守门人”角色的转变。Anthropic 明确划定了“民主价值观”与“军事效率”之间的红线，特别是针对国内监控和完全自主武器。这不仅是对政府权力的制衡，也是为整个 AI 行业设定了一个关于“不可接受用途”的先例。

2. 政府强制力与企业自主权的冲突 战争部援引《国防生产法》和“供应链风险”标签的威胁，展示了美国政府在处理关键基础设施和技术依赖时的强硬手段。然而，这种手段的极端性（将美国公司列为类似对手的标签）引发了关于行政权力滥用和言论/良心自由边界的讨论。如果政府可以强制一家私营公司移除其设定的安全护栏，那么 AI 公司的“对齐”（Alignment）努力将变得毫无意义，技术控制权的归属问题将变得极其敏感。

3. 对 AI 安全护栏（Safeguards）行业标准的冲击 Anthropic 的抵抗表明，头部 AI 公司正在试图将内部伦理准则转化为行业标准。如果 Anthropic 因坚持护栏而被排除在政府合同之外，可能会产生寒蝉效应，迫使其他公司降低安全标准以获取政府合同；反之，如果 Anthropic 坚持住，可能会确立“安全护栏是获得政府信任的前提”这一新规范。

4. 技术可靠性与军事应用的现实差距 声明中关于“完全自主武器”的论述，客观上指出了当前前沿 AI 在军事应用中的局限性。尽管军方渴望自动化优势，但 Anthropic 指出当前系统在可靠性和判断力上的不足，这为军事 AI 的部署速度设定了一个基于技术现实的“减速带”，而非仅由政策驱动。

5. 潜在的供应链重构风险 虽然 Anthropic 承诺平稳过渡，但被移除出美国核心国防系统将对 Anthropic 的商业前景产生重大影响。同时，这也迫使美国政府寻找替代方案，可能加速其他 AI 公司（如 OpenAI、Google DeepMind 等）在政府合同中的份额，或者促使政府内部开发替代模型，从而改变美国 AI 生态系统的竞争格局。