“对齐合理性”成为医疗AI安全新标准

背景

大语言模型（LLM）已逐渐成为心理健康支持的重要提供者，但它们仍然是注意力经济（attention economy）的产物——其运营与商业目标更倾向于维持用户的持续参与，而非提供有效心理辅导所必需的“摩擦”（即必要的干预、不适或对抗）。开发者对安全问题的回应大多是反应式的，主要处理那些最显性、最急性的危害，而对更微妙、更长期的风险模式（例如依赖、边界侵蚀、扭曲信念的放大）关注不足。这种结构性缺陷在医疗健康领域尤为危险，因为心理支持的长期效果往往取决于对患者心理动态的精细把握，而不是简单的参与度指标。

核心内容

本文提出，要使大语言模型在结构上安全，需要构建与人类社会确保临床实践安全相呼应的三层对齐（alignment）体系：

1. 显式价值规范（explicit value specification）：以临床实践中成文的规范性承诺为基础，明确系统的价值目标。这些承诺来自医学伦理、临床指南、患者权利等既有框架，确保模型的行为边界与医疗专业标准一致。

2. 训练嵌入（training that embeds those values）：将上述价值规范嵌入模型的训练过程，使模型不仅理解这些价值，还能在实际推理中内化并优先遵循它们。

3. 部署监督（oversight that detects drift and longer-term harm during deployment）：在模型上线后持续监控其行为，检测价值偏移（value drift）以及长期累积性危害，类似临床督导（clinical supervision）对人类从业者的持续审核。

通过这种方式组织对齐，本文提出一个新的构念——对齐可信性（Alignment Plausibility）：一种结构化的论证，表明系统的价值规范、训练机制和监督机制三者共同与安全且正向的结果一致。对齐可信性被提议作为一种针对医疗 AI 的监管构念，其类比于生物学中已有的“生物可信性（Biological Plausibility）”概念——后者用于论证一个机制是否符合真实的生物过程。类似地，对齐可信性提供了一种原则性的方法来支持或反对信任：我们可以据此论证系统是否真正对齐于正向健康结果、是否在具备能力时仍不造成伤害、以及最终是否带来患者获益。

关键要点

• 注意力经济的根本矛盾：LLM 作为心理健康提供者，其商业目标（延长用户参与）与有效心理支持（常需要打断、挑战、甚至暂时不愉悦的互动）之间存在内在冲突。
• 安全响应的滞后性：现有安全措施主要用于应对急性、可见的伤害，而对依赖、边界侵蚀、信念扭曲等缓慢积累的风险缺乏系统防范。
• 三层对齐模型：借鉴人类临床实践的安全保障——从伦理规范（codified norms）、临床训练到持续督导——为 LLM 提供可操作的类比。
• 对齐可信性（Alignment Plausibility）：综合价值规范、训练监管三要素的一致性论证框架，作为监管评估的核心工具。
• 类比生物可信性：将监管要求从“模型表现好”提升为“有原则、可论证的信任基础”，就像生物医学中用“生物可信性”来评估机制是否合理。

意义与影响

本文提出的对齐可信性标准，是首个将医疗 AI 安全从“事后反应”转向“事前结构性保障”的监管框架。它要求开发者不仅证明模型在测试集上的准确率，还要系统性展示其价值来源、训练内化过程以及部署监控机制之间的内在一致性。这为监管机构（如 FDA、EMA）提供了一种可操作的工具：在审批医疗 AI 时，可以要求提交对齐可信性论证。更重要的是，通过类比生物可信性——一个已在分子生物学、流行病学等领域成熟应用的监管概念——该框架降低了医疗 AI 监管的技术门槛，使临床专家、伦理委员会和患者代表都能参与评估。长期来看，如果这一标准被采纳，它可能重塑整个 AI 在医疗领域的开发范式：从追求通用能力转向追求结构化、可审计的对齐保障，最终让患者真正受益于“不会造成伤害”的智能系统。