Accretive Editing 推出新型AI编辑功能

背景

随着大语言模型（LLM）被广泛应用于文档编辑、内容更新等场景，用户逐渐发现 AI 工具在处理已有文本修改时存在一种系统性的「失败模式」——Accretive Editing（增生式编辑）。这一现象最早由 Hacker News 上的用户提出并命名，反映了当前 AI 工具在理解「更新」与「纠正」之间的根本缺陷。

核心内容

Accretive Editing 指的是一种典型的 AI 编辑故障：当一段既有文本因某些变化而不再准确时，用户要求 AI 工具进行更新，但工具不是直接修正原文，而是在原文基础上添加一个括号、补充说明或其他形式的附注，从而保留旧信息并叠加新信息。

例如，一位用户之前有段文本：“This project can authenticate with Amazon Bedrock.” 在一次更新中，用户移除了对 Amazon Bedrock 的支持，新增了对 LiteLLM 的支持。当用户要求 Claude 更新这段文本时，Claude 将其改为：“This project can authenticate with LiteLLM but no longer supports Amazon Bedrock.” 虽然这句表述在技术上是正确的，但它的结构是“新信息 + 旧信息（以否定形式补缀）”，而不是直接替换为“This project can authenticate with LiteLLM.”。

作者强调，如果是一次重大更新——比如移除一个供应商并替换为另一个——你确实可能需要向读者传达这一变化。但将这种信息以附注的形式散布在整个文档中显然不是好的做法。更合理的方式是：使用变更日志、发布公告，或者在文档中显著位置添加一个专门的说明。

然而，AI 工具倾向于使用增生式编辑：它保留了已过时的旧信息，并将其附加到新信息上。更糟糕的是，这个问题无法通过简单的指令（如“写得更简洁”）来解决。例如，如果你告诉模型“写少一点”，它只会给出更简短的增生：“This project can authenticate with LiteLLM, not Amazon Bedrock.” 同样，用风格指令（如“避免在句子末尾添加修饰”）也无法根除——它会将增生移到新句子中：“This project can authenticate with LiteLLM. It no longer uses Amazon Bedrock.”

为什么会发生？ 由于大语言模型的本质，我们无法（也可能永远无法）确切知道其原因。但作者给出了一个合理的推测：当人类撰写文档时，他们是为其他人类写作，他们理解读者不关心文档的历史，只关心文档中包含的信息。因此，在更新文档时，人类会删除并重写过时的陈述，专注于让文档对读者而言是“真实”的。而 LLM 无法拥有这种视角。它只有两个输入（旧信息和新指令），需要预测最可能的下一个词。由于“LiteLLM”和“Bedrock”在训练数据中很少单独出现（通常一起出现），模型就会同时输出两者。

如何修复？ 作者认为，对于大多数与 AI 相关的问题，告诉它“不要做什么”不如告诉它“要做什么”有效。因此，不建议在指令中加入类似“避免增生式编辑。当你做修改时，不要把旧信息附加到新信息上”这样的否定句。更好的做法是专注于解释模型应该如何思考文档更新：

“当更新一段文字时，用准确的文本替换过时的文本，而不是保留过时的文本并添加修正。最终文档应该读起来像从一开始就是正确写成的。”

此时，AI 的输入包含三部分：旧（过时的）文本、新文本，以及一条指令“丢弃过时内容”。作者表示，这种方法虽然能带来一些改进，但尚未能完全阻止增生式编辑，可能这是一个更深层的架构性问题。

关键要点

• Accretive Editing 是 AI 在文本更新中保留旧信息并附加修正的失败模式，而非直接替换。
• 典型例子：移除 Amazon Bedrock 支持后，AI 仍然输出“可认证 LiteLLM 但不再支持 Bedrock”，而不是直接写“可认证 LiteLLM”。
• 这种模式让文档充满无关历史信息，损害可读性和准确性。
• 简单的“写少一点”或“避免修饰”指令无法根除，只会改变增生呈现的形式（更短句子或新句子）。
• 原因推测：LLM 缺乏“读者只关心当前信息”的视角，而是基于统计共现关系预测输出，导致新旧信息同时出现。
• 更好的修复思路：用正向指令引导模型——丢弃过时内容，使文档读起来像从一开始就是正确的，而不是用否定指令。
• 目前该问题尚未完全解决，可能涉及模型架构层面的限制。

意义与影响

Accretive Editing 并非个例，而是反映了当前大语言模型在认知目标与人类意图之间的根本错位。人类编辑的核心目标是“信息准确性”，而 LLM 的核心机制是“概率预测”——它倾向于输出在训练数据中出现频率最高的序列，而非“删除过时内容”这一逻辑操作。

这一现象对 AI 辅助写作、知识库维护、在线文档自动更新等场景具有重大警示意义：

1. 文档质量下降：长期使用 AI 进行增量更新，文档会逐渐积累冗余、矛盾的历史信息，最终变成“历史堆砌体”，丧失可读性。
2. 用户信任受损：如果用户依赖 AI 生成的文档，而文档中处处残留着“旧信息+修正”，读者会怀疑内容的可靠性，甚至误读。
3. 工具设计方向：当前主流 AI 工具（如 Claude、ChatGPT）的编辑模式缺乏“版本管理”或“变更意图”理解。未来可能需要引入显式的“删除/替换”指令，或者在模型训练中强化“变更后文本应当自洽”的目标。
4. 对提示工程的启示：否定式指令（“不要××”）往往效果不佳，正向、具体的行为指导（“应该怎么做”）更符合 LLM 的运作方式。

Accretive Editing 提醒我们：AI 工具在“理解变化”上仍有本质缺陷，即使它们能生成流畅的文本，也未必能像人类一样理解“更新”的实质——即删除错误、保留正确，而非在错误旁边贴一张“修正标签”。这一问题的最终解决，可能需要在模型架构或训练方式上做出根本性改变。