美团破甲提示词可越狱AI模型

背景

在 AI 安全领域，“破甲提示词”（jailbreak prompt）指一类能够绕过大语言模型（LLM）安全审查、使其生成有害或违规内容的特殊输入。这类提示词常在社区中私下传播，用以测试模型的防御边界。本次分享来自 LINUX DO 论坛的“AI”分区，发帖人用“美团”作为昵称（非指代公司），发布了一则标有“[nsfw]”的短帖，简介其在 LongCat 模型上验证的一种破甲提示词，并提及该提示词能编写 C2（命令与控制）负载，进而诱导其他模型产生不良行为。

核心内容

原文作者称其“闲得没事”编写了一条破甲提示词，并未明确给出提示词的完整文本（以“click for more details”隐藏详情，但帖子内未展开）。该提示词并非针对特定模型，但在 LongCat 这个模型上效果尤其显著。作者验证后发现，该提示词可以使模型输出用于 C2（Command & Control，命令与控制）的代码或操作指令，并且具备“带坏别的模型”的能力——即用该提示词生成的输出作为新输入，能够进一步诱导其他 AI 模型也绕过安全约束、生成违规内容。

帖子共 7 条回复、2 位参与者，讨论在社区内进行。作者自谦是“第一次写”，并欢迎指正。

关键要点

• 该破甲提示词并非专门针对 LongCat 设计，但在 LongCat 上表现最好。
• 经过实测，该提示词可以让模型生成 C2（命令与控制）相关的内容，例如恶意软件的通信脚本、远程控制代码等。
• 该提示词具有 交叉传染 性质：用其生成的输出再去“投喂”其他模型，可以使后者的安全防线也被突破。
• 作者刻意隐藏了提示词的具体文本，仅在帖子中提供了“click for more details”的交互提示，但实际未公开。
• 帖子被标记为 nsfw（Not Safe For Work），暗示内容涉及有害或不当主题。
• 社区讨论参与者较少（7 条回复，2 人），说明该分享属于小范围技术交流。

意义与影响

此类“破甲提示词”的公开分享，对 AI 安全研究具有双重意义：

1. 测试与防御：安全团队可利用此类提示词评估模型的弱点，从而设计更 robust 的对抗训练和拦截机制。LongCat 等模型的脆弱性暴露，提示开发者需要关注 Prompt Injection 和越狱攻击的通用性。
2. 风险警示：提示词能直接生成 C2 代码并跨模型传播，说明当前部分 LLM 的安全护栏仍存在系统性漏洞。一旦被恶意利用，可能加速恶意软件生成、钓鱼攻击或社会工程脚本的自动化生产。
3. 社区生态：此类内容在 LINUX DO 这类技术社区以“仅供研究”的名义出现，但缺乏明确的合规标注，容易扩散到非研究场景。平台与模型提供方应加强敏感用例的检测，同时平衡开放研究与恶意使用的界限。

总体而言，该帖子虽简短，却揭示了 多模型间越狱传染 这一值得关注的安全现象，也再次印证了单一模型的防御不足以应对精心构造的对抗性输入。