人类与LLM的对抗性社会认识论

背景

随着大型语言模型（Large Language Models, LLMs）被广泛整合到人类决策与信息传播系统中，人机混合的沟通场景变得日益复杂。在这样的环境中，公共声明不再仅仅是孤立的话语，而是通过一连串的证言链条、推理链条、制度认证以及隐性信任而相互支撑。传统上，我们对信息失真的认识主要停留在“信息茧房”、“回音室”或“错误信息扩散”等概念上。然而，当人类与LLM共同构成一个紧密互动的沟通生态时，这些旧框架无法充分解释一个关键现象：沟通主体如何系统性地利用原本使声明可信的那些承诺与权利，来扭曲、省略、编造或策略性地弱化信息。本文提出了一种对抗性社会认识论（Adversarial Social Epistemology, ASE），旨在为这种人机混合的密集型沟通景观提供分析语言、机制刻画以及审计与补救工具。

核心内容

本文的核心主张是：在由人类与大型语言模型共同组成的、声明通过证言链条与推理链条相互支撑的沟通景观中，存在一种系统性的认识论威胁——即沟通主体可以利用正常信任建立所依赖的“承诺”与“权利”（commitments and entitlements）来颠覆信任。作者将这种现象称为对“支撑性公共沟通”的颠覆，并指出它超出了传统意义上的错误信息或阴谋论范畴。

具体而言，文章首先定义了一种“支撑性公共沟通”（scaffolded public communications）——即那些其可信度依赖于一系列隐性或显性的证言、推理、制度认证以及他人信任的声明。在这种环境中，每个声明都不仅是信息本身，还承载着说话者（包括LLM系统）的承诺（比如“我保证这是真实的”）以及受众依据推理链条所获得的资格或权利（比如“因为源头权威，我有权相信这个”）。

接着，文章揭示了颠覆信任的几种机制：

• 歪曲（distortion）：有意或无意地改变信息内容，使其偏离原始事实。
• 着色（coloring）：通过情感或价值载荷的附加来引导受众解读。
• 省略（omission）：选择性忽略关键背景或反例。
• 编造（fabrication）：无中生有地生成虚假信息。
• 策略性弱化（strategic under-specification）：有意让信息模糊，使受众难以审计其推理链条。

这些机制之所以有效，是因为它们利用的是正常沟通中为了高效传递信息而建立的信任基础——例如，一个LLM生成的文本之所以被信任，是因为它模仿了人类权威的修辞结构，或者是因为它引用了看似权威的证言链条。颠覆者并不需要直接制造谎言，他们只需要扭曲或模糊那些使链条可审计的关键环节，就能让受众在不自知的情况下接受被操纵的信息。

为了使这种分析具有操作性，文章提供了基于“推理主义语义学”（inferentialist semantics）的语言框架，将每个声明解释为在特定推理网络中的一项行动，该网络由承诺和权利构成。基于此，文章还提出了审计和补救的机制：通过追踪声明的推理链条、检查各环节的承诺是否被合理授予、以及评估权利是否被滥用，可以检测并纠正信任破坏行为。这些机制依赖于“认识论网络”（epistemic networks）——一种将通信主体（人类和模型）及其推理关系建模为有向图的方法，其中每个节点代表一个主体，每条边代表一种证言或推理授权关系。

关键要点

• 新概念提出：作者提出“对抗性社会认识论”（ASE），专门用于分析人机密集互动环境中系统性的信息扭曲，而不是仅针对单次谎言或单个回音室。
• 核心区分：ASE 不聚焦于信息是否为真，而是聚焦于沟通主体如何利用原本建立信任的那些“承诺”与“权利”来颠覆信任——这是一种更深层的认识论攻击。
• 五种颠覆机制：歪曲、着色、省略、编造、策略性弱化——这些机制并非都是直接的虚假，而是利用了信任链条的模糊性。
• 理论支撑：文章借用“推理主义语义学”（inferentialist semantics）来为审计提供精确语言——每个声明可看作在推理网络中的一个承诺行动，其可审计性取决于链条中每个节点的承诺是否透明。
• 审计工具：建议构建“认识论网络”（epistemic networks），通过建模人类与LLM之间的证言与推理关系，可以检测出信任破坏模式（例如，一个LLM重复引用一个不可靠的源头但从未暴露其原始证言）。
• 补救方向：审计的目的不仅是检测，还包括补救——例如，修复被破坏的推理链条、恢复可审计性，或对恶意主体施加声誉惩罚。

意义与影响

这篇文章的意义在于，它提供了一个超越传统“错误信息”研究框架的理论武器。在LLM被大规模部署的现实世界中（例如用于客服、内容生成、学术写作、政策分析），信息生态中的信任基础正经历根本性转变——机器能够轻易地模仿人类证言链条的结构，从而让受众误以为某些声明经过了严格的推理验证。ASE 框架可以用于：

• 设计更好的审计系统：现有的内容审核主要关注明显有害或虚假的声明，但 ASE 提示我们，更隐蔽的威胁在于利用信任链条的模糊性进行策略性操控。审计系统应该追踪推理链条的完整性，而不是仅检查最终输出。
• 提升人机协作中的认识论安全意识：无论是用户还是开发者，都应意识到LLM输出的“可靠性”不仅取决于模型本身，还取决于它被整合进什么样的证言网络。一个被设计为模拟权威口吻的LLM可能无意中（或被恶意利用）破坏用户的理性判断。
• 为政策制定提供语言：ASE 给出了具体术语来描述当前监管中的盲点——例如，欧盟《人工智能法案》强调“透明度”和“可解释性”，但 ASE 表明，仅仅解释模型内部的运行机制并不足以应对信任链条破坏。还需要追踪模型输出如何与人类证言链条连接，以及这些连接是否可审计。
• 推动跨学科研究：认识论、计算机科学、社会学和传播学需要共同探索 ASE 中的机制（如承诺与权利的授予在算法环境中的具体表现），并开发实证工具（如网络分析、对话流审计）来验证理论。

简言之，这篇论文为理解人机混合沟通中的系统性信任破坏提供了新的理论基石，并指出了从审计到补救的实用路径，对于应对LLM时代的信息生态挑战具有重要的前瞻性。