When Regulation Has Memory: Hysteresis and Control Burden in Artificial Agency

背景

在评估人工代理（如自适应AI系统）时，传统的评判标准往往聚焦于其外在行为：只要系统输出保持稳定，我们就认为它是可靠的。然而，这种评估方式存在一个盲区——它忽略了维持这种外在稳定所需的内部努力。在现实环境中，人工代理常常需要在充满噪声、延迟或动态变化需求的条件下运行。两个看似达到相同内部状态的系统，其中一个可能付出了远超另一个的纠正性控制代价。这种“隐藏的控制负担”正随着AI系统复杂度的提升而变得愈发重要。本文探讨的核心问题正是：这种控制负担是否具有“记忆”？即，代理的历史路径和调节时机，是否会深刻影响当前的调节需求？

核心内容

适应性代理通常以其外在行为作为评判标准。然而，一个看似稳定的代理，其内部维持稳定所需的努力可能正在不断增加。在充满噪声、延迟或需求动态变化的环境中，这种隐藏的监管负担尤为关键。两个系统或许能达成相似的内部状态，但其中一个可能需要付出大得多的纠正性控制代价才能到达那里。

本文旨在探究这种负担是否具有历史依赖性。研究采用了一种适应性不确定性调节的计算模型，让人工代理经历其不确定性目标的连续变化，并在不重置代理状态的情况下将变化逆转。这构成了一个关于“遗留效应”的简单测试：控制器究竟是仅对当前目标做出反应，还是代理抵达该目标的路径依然发挥着作用？

模拟实验揭示了显著的历史依赖性效应。用于调节代理的适应性增益形成了一个可重复的迟滞回线。这意味着，同一个不确定性目标，可能需要截然不同的控制力度——具体取决于代理是正向逼近还是从更严苛的状态折返。

调节的时机同样关键。当稳定化机制在干扰暴露之前就已启动，代理所需的适应性增益通常低于在干扰已经发生后才