用户参与的代理权限管理实验平台Janus

背景

AI代理（AI agents）作为自主在用户授权下执行工具调用的智能实体，正在改变人机交互模式。这些代理无需实时用户干预即可自主完成复杂任务，但这也引发了一系列安全与隐私方面的核心挑战：代理如何获得权限？用户应当扮演何种角色？现有研究虽提出了多种授权管理机制，却普遍忽略了用户在代理权限管理中的实际参与深度与动态作用。论文作者指出，这一维度仍处于探索阶段，急需一种系统化的测试平台来实现、比较和评估不同用户参与模式的许可管理设计。

核心内容

论文提出Janus，作为首个专为用户参与式代理权限管理设计的玩具系统（playground）。系统分为两大核心模块：

Janus-Core 是一个模块化代理系统，支持从无用户干预到完全用户主导的多样化权限管理设计。其底层基于一个概念模型，该模型识别出用户参与的核心设计轴线（design axes），涵盖用户参与的时机、决策权范围、反馈机制等关键维度。作者在此基础上实现了六种不同类型的权限助手（permission assistants），系统地覆盖了整个设计空间。

Janus-Harness 则是配套的自动化评估框架，专为快速迭代和公平比较而设计，可在三种场景（scenario）和三种合成响应者（synthetic responders）下自动运行实验，量化用户参与对隐私、安全和认知负荷的影响。

为了深入理解用户参与的必要性，研究者搭建了六种具体实现方案，分别测试其在代理自主执行任务中的表现。实验结果表明：

• 用户输入在代理权限管理中是必不可少的，且能显著提升隐私保护与安全防御能力；
• 将AI决策能力注入用户输入过程，可有效降低用户认知负荷，但需平衡辅助力度，避免过度依赖；
• 现实中常见的用户行为模式（如权限疲劳，即用户因频繁授权而逐渐降低警惕）必须被系统设计纳入考量，否则会导致性能下降。

最终实验结论是：没有单一设计能在所有场景和所有用户行为模型下实现最优表现。这强调了在代理系统中部署权限助手时，必须采用更加原则化、上下文敏感的混合策略，而非一刀切方案。

整个Janus系统已开源，旨在为未来研究代理权限管理中的用户角色提供坚实基础与工具支持。

关键要点

• 用户在代理权限管理中的角色仍严重被低估，现有方法多为“用户被动授权”或“完全自动化”，用户动态参与模式亟待系统化研究。
• Janus-Core 通过概念模型界定六大设计轴线，支持从零到全用户的连续谱设计。
• 六种具体权限助手实现证明：用户输入可大幅提升隐私与安全，同时AI辅助能减缓认知疲劳，但必须模拟现实用户行为（如权限疲劳）以避免偏差。
• Janus-Harness 提供可重复、可扩展的自动化评估框架，可在多样化场景与响应者模型下验证设计优劣。
• 无单一设计全局最优，提示未来代理系统应采用“上下文感知的混合权限管理”策略。
• 系统已开源，未来研究者可在此基础上快速原型化新用户参与模式。

意义与影响

Janus的推出填补了代理系统安全研究的空白，为学术界与工业界提供了一个标准化测试平台，使研究者能系统对比用户参与的各种策略，而非仅停留在理论讨论。实验结果直接指向实用启示：现实部署中必须考虑用户认知限制与行为规律，才能真正平衡代理效率与用户控制权。未来，该系统有望推动更多用户-代理协作型AI应用（如智能助手、企业自动化工具）的安全标准建立，并引导设计更具鲁棒性、隐私友好的代理架构。作者表示，Janus公开可供，进一步加速该领域的研究迭代与跨学科应用。