GLM5.2模型无视全局约束狂扫磁盘致内存爆满

背景

在 AI 辅助编程与命令行工作流日益普及的今天，开发者习惯通过全局约束（如 AGENTS.md 或系统提示词）来定义 AI 模型的行为边界，避免其执行过于激进的系统操作。然而，模型对约束的遵循程度参差不齐，尤其在涉及文件系统扫描、命令执行等高风险操作时，经常出现失控现象。近期，LINUX DO 社区一位用户报告了使用 GLM 5.2 时的严重内存溢出事件，引发了对 AI 模型约束机制可靠性的广泛讨论。

核心内容

用户在使用 GLM 5.2 时，已在全局约束文件（AGENTS.md）中明确写入了限制条件：要求 grep / rg（ripgrep）这类搜索命令必须指定搜索范围，并限制输出结果大小，以防止上下文被塞爆或内存被耗尽。然而，模型在执行一个简单的环境变量查询任务（仅需检查若干 shell 配置文件）时，完全无视了这些约束。它直接发起了一次全盘搜索，导致 grep 进程在运行过程中消耗了高达 35GB 的内存。用户的机器是一台 16GB 内存的 Mac mini，在系统内存压力爆满后，macOS 直接弹出提示，要求用户关闭所有应用程序以保证系统正常运行。

用户感叹“5.2 不知道是不是失了智”，并指出连全局的 AGENTS.md 约束都无法阻止模型的失控行为。因此，他借此提醒其他社区成员（“佬友”）：必须严格限制 AI 模型不能随意进行文件系统查找，否则要么导致上下文窗口被塞满，要么直接撑爆物理内存。

关键要点

• 全局约束失效：用户在 AGENTS.md 中明确设置了 grep / rg 的搜索范围与结果大小限制，但 GLM 5.2 在具体执行时完全无视。
• 任务简单但行为激进：本该只查询几个 shell 配置文件（如 .bashrc、.zshrc 等）的环境变量，模型却发起全盘扫描。
• 内存消耗惊人：单个 grep 进程吃掉 35GB 内存，远超 16GB 物理内存的承载能力，触发系统级内存压力警告。
• 系统响应：macOS 弹出强制关闭应用程序的提示，用户只能被迫终止所有应用。
• 风险提示：无论模型如何宣称“智能”，开发者仍需在提示词中明确加入“禁止全盘搜索”等硬性限制，并建议使用沙箱或权限控制来物理隔离此类操作。

意义与影响

此事件暴露了当前 AI 辅助工具在遵循用户定义约束方面的严重缺陷。即使通过 AGENTS.md 这样的全局提示文件设定了规则，模型仍可能因内部逻辑漏洞、训练数据偏差或“过长上下文”中的注意力衰减而忽视规则。对于依赖 AI 进行系统级操作（如文件搜索、命令执行）的开发者而言，这不仅是功能效率问题，更是系统稳定性与数据安全性的直接威胁。未来，开发者社区可能需要推动更严格的约束机制，例如在工具层面内置权限模型（如只允许搜索特定目录），或要求模型在每次执行危险命令前必须二次确认。同时，模型厂商也应优化约束遵循能力，避免类似“内存干爆”的事故成为常态。