微软推出新规范助开发者精准控制AI代理行为
速览
微软推出了一项新规范，旨在为开发者、合规及安全团队提供更精细的手段来控制AI代理的行为。该规范允许团队在便携策略文件中定义专属规则，从而确保AI代理在执行任务时遵循特定的安全与合规标准。这一举措有助于提升AI应用的可靠性和可控性。
AI 深度解读
背景
随着 AI 智能体（AI Agents）能力的不断增强，企业正竞相将其部署到各种应用程序、工作流和产品中。然而，这一进程也带来了一个全新的挑战：如何确保智能体在跨不同环境部署时，能够严格遵循预设的行为规范，执行其应有的任务。
目前，开发者主要依靠临时拼凑的方式来控制 AI 的输入和输出。常见做法包括在系统提示词（System Prompt）中指定指令、在应用程序代码中添加自定义检查逻辑，或使用分类器来拦截有问题的输入和输出。尽管这些方法在一定程度上有效，但它们往往导致企业的控制措施碎片化，难以审计，且在不同框架、接口和系统之间难以复用。此外，近期关于 AI 工作流因工具误用或意外操作导致级联失败的讨论，进一步凸显了建立统一控制标准的紧迫性。
核心内容
为了解决上述问题，微软推出了一项名为 Agent Control Specification (ACS) 的新开源标准。该规范旨在为开发者提供一种更一致、更细粒度的方式来控制 AI 智能体的行为权限。
ACS 的核心机制允许开发者、合规团队和安全团队定义智能体必须遵循的策略（Policies）。这些策略文件可以明确规定：
- 智能体允许执行哪些操作；
- 智能体严禁执行哪些操作；
- 在何种情况下需要人工审批；
- 应记录哪些证据以供后续审查。
为了确保智能体在任务执行过程中始终处于“护栏”（Guardrails）之内，ACS 在多个“拦截点”（Interception Points）对策略文件进行检查。这些检查点覆盖智能体工作流的关键阶段：
- 接收输入之前；
- 调用工具之前；
- 工具返回结果之后；
- 向用户发送最终响应之前。
在每个检查点，策略可以允许操作、阻止操作、脱敏敏感信息，甚至要求人工介入审批。
除了基本的权限控制，ACS 还支持更复杂的逻辑集成：
- 分类器集成：开发者可以插入分类器对输入和输出进行分类、预测结果，或决定智能体的响应方式。
- LLM 作为“法官”：可以添加带有特定提示词的大型语言模型（LLM），使其充当策略执行的“裁判”。
- 工具调用逻辑：支持对工具调用、工具选择、输入准确性、输出使用及最终响应进行逻辑检查。
由于这些策略可以编写为单个文件，它们可以与智能体打包在一起。这意味着安全策略可以跟随智能体跨越不同的框架和环境，实现了策略与智能体的解耦与便携性。
目前，ACS 以 SDK 的形式发布，并提供了针对多种主流 AI 开发框架和工具的插件支持，包括：
- LangChain
- OpenAI Agents SDK
- Anthropic Agents SDK
- AutoGen
- CrewAI
- Semantic Kernel
- Microsoft.Extensions.AI
- MCP 工具等
关键要点
- 标准化控制：ACS 旨在解决 AI 智能体跨环境部署时的行为控制碎片化问题，提供统一的治理层。
- 全链路拦截：通过在输入前、工具调用前后、输出前等多个关键节点进行策略检查，确保智能体行为合规。
- 细粒度策略：支持定义允许/禁止的操作、人工审批触发条件以及审计日志要求。
- 策略便携性：策略以单文件形式存在，可随智能体一起打包，实现“策略跟随智能体”，便于在不同框架间复用。
- 广泛兼容性：提供 SDK 及针对 LangChain、OpenAI、Anthropic、AutoGen 等主流生态的插件，降低集成门槛。
- 增强安全性：支持集成分类器、LLM 裁判及复杂的工具调用逻辑，提升对敏感信息和错误操作的拦截能力。
意义与影响
ACS 的推出标志着 AI 智能体开发从“功能导向”向“治理导向”的重要转变。对于企业而言，它提供了一种标准化的方法来应对 AI 部署中的合规与安全挑战。
首先，ACS 解决了当前 AI 应用开发中控制措施分散、难以审计的痛点。通过将分散在代码和提示词中的控制逻辑集中到统一的策略文件中，企业可以更轻松地实现跨系统、跨框架的安全审计和合规管理。
其次，该规范增强了 AI 智能体的可预测性和安全性。通过在关键节点实施严格的拦截和审批机制，企业可以有效防止因工具误用或逻辑错误导致的级联故障，特别是在处理敏感数据或执行高风险操作时。
最后，ACS 的开源性质及其对主流框架的广泛支持，有助于加速 AI 智能体生态系统的成熟。它为开发者提供了一套通用的“最佳实践”框架，降低了构建安全、可控 AI 应用的门槛，从而推动 AI 智能体在更广泛的商业场景中落地。