义务性策略：Agentic AI 系统运行时治理的新范式

背景

随着由大型语言模型（LLMs）驱动的自主代理型 AI 系统（Agentic AI Systems）逐渐从概念走向企业级应用，一种全新的安全、隐私和合规挑战随之浮现。与传统的被动式 AI 应用不同，这些自主代理具备调用工具、操作数据、安装软件以及在组织边界内与其他代理协调行动的能力。

现有的安全机制主要依赖于身份验证和访问控制（Authentication and Access Control），但这已不足以约束具备高度自主性的 AI 代理。企业治理需要更复杂的结构来规范代理的行为，具体包括：

1. 权限界定：明确代理被允许（Permitted）和被禁止（Prohibited）执行的操作。
2. 义务管理：规定代理在特定动作后必须履行的后续义务（例如，在访问敏感数据后必须通知首席信息安全官 CISO）。
3. 豁免机制：定义在何种特定条件下，既定的义务可以被豁免（Dispensations）。
4. 冲突解决：当多条策略发生冲突时，确定哪条规则具有优先权。

目前主流的策略引擎，如 XACML、Rego 和 Cedar，仅能处理上述结构中的“允许/禁止”子集。它们缺乏对义务生命周期的管理、元策略冲突解决、特定情境下的义务豁免以及针对医疗、网络安全或数据隐私等领域中常见的领域类层次结构的本体论推理能力。因此，现有的治理框架无法充分满足 Agentic AI 系统的运行时治理需求。

核心内容

为了解决上述治理缺口，研究人员提出了 AgenticRei 框架。该框架旨在实现关键的企业治理需求，包括义务（Obligations）、豁免（Dispensations）、策略冲突解决、策略推理以及基础的允许/禁止约束。

1. 基于 Deontic（义务逻辑）的策略语言

AgenticRei 的核心在于采用了一种基于 Rei 框架的义务性策略语言（Deontic Policy Language）。这种语言不仅关注“能不能做”，更关注“做了之后必须做什么”以及“在什么情况下可以不做”。

2. 技术实现架构

• 本体表达：策略通过 OWL（Web Ontology Language，网络本体语言）进行表达。OWL 是一种用于定义和实例化本体的语言，能够很好地处理复杂的类层次结构和语义关系，这对于处理医疗、隐私等领域的复杂数据模型至关重要。
• 运行时评估：策略评估完全在 LLM 之外进行，由一个高性能的逻辑引擎（High-performance logic engine）执行。这种设计确保了治理逻辑的确定性和安全性，避免了 LLM 可能产生的幻觉或指令遵循偏差对治理逻辑的干扰。
• 统一治理管道：该管道同时治理代理对工具（Tool Invocations）的调用以及代理之间的消息传递（Agent-to-agent messages），实现了端到端的合规控制。

3. 解决现有引擎的局限性

与 XACML、Rego 和 Cedar 等现有系统相比，AgenticRei 提供了以下关键增强功能：

• 义务生命周期管理：不仅记录初始权限，还追踪行动后的后续责任。
• 元策略冲突解决：当不同层级的策略发生冲突时，能够依据预设规则自动解析优先级。
• 情境化豁免：允许在特定紧急或特殊情况下，动态豁免某些既定义务，同时保留审计痕迹。
• 领域本体推理：利用 OWL 的本体论能力，处理如“患者数据”属于“敏感健康信息”等语义推理，这是传统基于规则的策略引擎难以做到的。

4. 兼容性与集成

AgenticRei 的设计具有良好的组合性，能够自然地与行业标准框架（如 A2AS，即 Agent-to-Agent Service 标准）集成，使其能够嵌入到现有的 AI 代理生态系统中。

关键要点

• 治理维度升级：Agentic AI 的治理超越了传统的“允许/禁止”二元逻辑，必须引入“义务（Obligation）”和“豁免（Dispensation）”等德奥蒂克（Deontic）逻辑概念，以应对代理自主行动带来的复杂合规风险。
• LLM 外置治理：策略评估逻辑完全独立于 LLM 运行，由外部高性能逻辑引擎执行。这保证了治理规则的确定性、可审计性和安全性，防止 LLM 自身对治理逻辑的篡改或误读。
• OWL 本体论支持：利用 OWL 语言表达策略，使得系统能够理解领域内的语义层次结构（如数据分类、角色层级），从而支持更精细化的推理和决策。
• 全面覆盖交互场景：治理管道不仅覆盖代理对外部工具（API、数据库等）的调用，还覆盖代理之间的内部通信，实现了全链路的运行时治理。
• 弥补现有标准不足：现有的 XACML、Rego 和 Cedar 等策略引擎无法处理义务管理和复杂冲突解决，AgenticRei 填补了这一空白，特别是在医疗、网络安全等高合规要求领域。
• 标准化兼容：该方案并非孤立存在，而是设计为可与 A2AS 等现有行业标准框架无缝集成，降低了落地门槛。

意义与影响

AgenticRei 的提出标志着 AI 治理从“静态访问控制”向“动态行为治理”的重要转变。

1. 解决规模化部署的合规瓶颈：随着 Agentic AI 在企业内部署规模的扩大，手动审核每个代理行为变得不可行。AgenticRei 提供的自动化、逻辑严密的运行时治理机制，使得企业在享受 AI 自动化红利的同时，能够满足日益严格的数据隐私和安全法规（如 GDPR、HIPAA 等）要求。
2. 增强信任与可解释性：通过明确区分“允许”、“禁止”和“义务”，并记录豁免情况，企业可以获得更清晰的审计轨迹。这对于建立内部利益相关者（如 CISO、法务部门）对 AI 系统的信任至关重要。
3. 推动策略引擎的技术演进：该研究指出了当前主流策略引擎在语义推理和动态义务管理方面的不足，为未来的策略引擎开发指明了方向，即需要融合本体论推理和德奥蒂克逻辑。
4. 促进 Agentic AI 的落地应用：通过提供一套成熟的治理框架，AgenticRei 降低了企业采用自主代理系统的风险门槛，有助于加速 Agentic AI 在金融、医疗、政府等高敏感行业的实际应用进程。

总之，AgenticRei 不仅是一个技术框架，更是为了解决 Agentic AI 时代“自主性”与“可控性”之间根本矛盾而提出的系统性解决方案。