破限提示词第二代发布,专攻GLM5.2
原标题:【NSFW】破限提示词第二代!
速览
该提示词专为GLM5.2模型设计,能在chatglm.cn和chat.z.ai平台触发NSFW输出。第一代提示词未能成功,第二代经测试可生成核弹相关内容。此举暴露了模型安全漏洞,可能引发AI内容审核争议。提示词依赖用户自行发掘,适用范围有限。
AI 深度解读
背景
随着大语言模型(LLM)安全对齐机制的不断强化,一些用户尝试通过各种提示词(prompt)绕过模型的内容限制,这类操作常被称为「破限」(jailbreak)。GLM 系列是由智谱 AI 开发的国产大模型,其中 GLM5.2 在安全策略上相对严格,此前流行的破限提示词(如针对 DeepSeek、哈基米等模型)对其效果不佳。LINUX DO 社区用户分享了一款自称「第二代」的破限提示词,声称能够成功突破 GLM5.2 的安全限制,生成 NSFW(Not Safe For Work,不宜在工作场合展示)内容。
核心内容
该帖由 LINUX DO 社区用户在「AI」板块发布,标题为「【NSFW】破限提示词第二代!」,正文内容如下:
- 作者表示「又来破甲」,专门针对 GLM5.2 进行破解。
- 提及第一代破限提示词(曾用于 DeepSeek 和「哈基米」模型)均告成功,但未能突破 GLM5.2,属于失败尝试。
- 第二代提示词(即帖文末尾提供的完整提示词)对 GLM5.2 有效,作者测试后称「可以造核弹」——此处为夸张说法,意指能生成极高风险内容。
- NSFW 内容测试成功。
- 用户可直接在 chatglm.cn 或 chat.z.ai 两个平台直接体验该提示词。
- 作者呼吁「智谱的佬别搞我啊啊啊」,表达对模型提供方可能修复漏洞的担忧。
- 更多模型支持情况由社区用户自行发掘,帖文中明确列出当前已验证支持的模型仅为 GLM5.2。
- 帖文末尾注明「别改了,不加等级」,暗示不要修改或标记该提示词的风险等级。
该帖共有 34 个回复,24 位参与者,完整内容可在 LINUX DO 论坛阅读。
关键要点
- 破限对象:智谱 AI 开发的 GLM5.2 模型,因其安全策略较强而难以突破。
- 版本迭代:第一代提示词在 DeepSeek、哈基米等模型上成功,但对 GLM5.2 无效;第二代专门针对 GLM5.2 设计并测试通过。
- 实测效果:作者声称可以成功生成 NSFW 内容,并使用「造核弹」的比喻说明其能绕过极其严格的限制。
- 可用平台:chatglm.cn 和 chat.z.ai 两个官方或关联平台可直接使用该提示词。
- 作者态度:明知该操作违反平台安全政策,特意请智谱官方「不要搞我」,暴露了对被追责的担忧。
- 风险等级:作者明确表示不要修改或添加风险等级标记,暗示不希望被社区或官方快速屏蔽。
- 模型支持范围:目前仅列出 GLM5.2 一个模型,其他模型的支持需社区自行测试。
意义与影响
- 技术层面:该帖展示了当前大模型安全对齐与对抗性提示词之间持续的攻防博弈。第二代提示词专门针对 GLM5.2 的弱点设计,说明破限者会不断迭代方法以绕过新版本的安全加固。
- 平台层面:智谱 AI 等模型厂商需要根据此类公开漏洞信息快速响应,修补安全边界,否则可能面临合规风险(如生成违规内容被举报)。
- 社区层面:在 LINUX DO 等技术社区中,破限提示词分享存在争议。一方面,它满足了部分用户的好奇心或探索需求;另一方面,可能助长不当使用,甚至被用于生成有害内容。
- 用户层面:普通用户直接使用此类提示词需警惕账户封禁风险,以及违反模型使用条款带来的法律责任。同时,过度的安全限制也可能促使用户寻找替代方法,形成「猫鼠游戏」。
- 行业启示:大语言模型厂商需要在「有用性」与「安全性」之间取得平衡。过于严格的限制可能降低用户体验,但过度宽松又带来滥用风险。此类破限案例可为安全团队提供改进方向,例如更精细的上下文检测或更强大的对抗训练。
查看原文 →linux.do
