AI深度伪造引发“伪末日”恐慌

背景

本文源自 Hacker News 上的一篇深度长文，作者提出一个大胆的猜想：随着大语言模型（LLM）和统计分析的进步，任何人在互联网上以不同身份发布的大量文本，几乎都可以通过文本自身的统计特征被关联起来。作者将这种现象称为“Pseudpocalypse”（假名终结）。文章写于 2025 年中，但作者因忙于修改定理陈述而搁置了一年，期间 LLM 的能力已大幅提升（例如 Claude 4.8 仅凭 1000 词就能识别出作者本人）。作者认为，我们正走向一个广义的“假名终结”——不仅限于文本，任何高带宽的交互方式（如身体形态、步态、化学特征、汽车细微划痕、滚动手指的微小动作）都可能暴露人的唯一身份。

核心内容

从信息论出发：比特串模型

设想每个人出生时被分配一个随机的二进制串。每当你在互联网上发布内容，你必须用该串签名。如果串很短（比如 4 位），很多人会共享相同串；如果串很长（比如 100 位），你的串几乎唯一，很容易将所有假名关联起来。

关键临界点：假设作者是当前生活在英语世界的活人，总人口约 4.9 亿。那么需要多少比特才能让串唯一？答案是约 29 位。因为 2^29 ≈ 5.36 亿，而 2^28.86 ≈ 4.9 亿。所以，如果串少于 29 位，很可能有人与你重复；如果串多于 29 位，则你的串几乎唯一。

从签名到写作风格泄露

我们目前不需要用政府颁发的固定字符串签名，但写作风格本身会泄露大量关于你的信息。作者提出一个更现实的模型：每个人出生时仍有一个随机二进制串，但每次你写一个词，有一定概率暴露你的串中的某一位（比如你写 em-dash 时是否加空格，暴露了第 18 位是 0 还是 1）。这样，你的写作风格相当于一个逐渐暴露的比特串。

攻击者视角：假设你以假名 A 写了大量内容，使得其完整比特串被揭示。然后你开始用假名 B 写作。起初 B 的比特串全是未知，但慢慢地会泄露一些位。攻击者只知道 A 和 B 的已暴露位，且知道这些位全部匹配。那么，如果匹配的位数 K 小于 29，存在其他人与这些位全部匹配的概率很高（因为总人口 4.9 亿，随机匹配概率为 2^(-K)）。如果 K 大于 29，则几乎不可能有其他人全部匹配。因此，攻击者可以断定 A 和 B 是同一人。

数学公式：假设有 N 个其他随机比特串，你选择 K 位，存在某人与你全部匹配的概率为 1 - (1 - 2^(-K))^N。当 N = 4.9 亿时，K = 29 是突变点。这与之前的结论一致：如果写作风格包含至少 29 比特信息，且你写了足够多文本，你的假名就暴露了。

现实中的噪声与复杂性

作者承认这是一个简化模型。真实情况更复杂：

• 文本提供的是关于作者的“噪声”信息，而非精确比特。
• 不同写作风格的分布不均匀（某些风格更常见）。
• 不同特征被暴露的概率不同（有些特征更明显）。

但这些都不会改变基本结论：只要你的写作风格包含至少 29 比特的信息，且你写了足够多的文本，你的身份就会被关联。

作者声称的未来趋势

作者认为 Pseudpocalypse 不仅可能发生，而且很快会变得容易。所需的文本量可能并不大。随着 LLM 在作者识别方面的能力不断提升，我们很快就能从越来越小的文本片段中识别出越来越小众的作者，即使他们用不同的语域或谈论不同主题。最终，作者所有假名下的文字都会被链接到其真实身份。

广义的 Pseudpocalypse：不仅仅针对文本，任何高带宽的交互方式都会暴露身份。例如：

• 在公共场合戴口罩，只通过次声发音器变声，但你的体型、步态或化学特征仍会暴露你。
• 取消手机和车牌，但汽车上的微小划痕或引擎的独特声音仍可被追踪。
• 在互联网上严格锁定浏览器，只用门罗币支付，通过三层 VPN 连接，但滚动页面时手指的微小动作也会暴露你。

人类个体太独特，信息论极限正在逼近我们。

关键要点

• 核心论点：任何人在互联网上以不同身份发布足够多的文本，仅凭文本统计特征就能将这些身份关联起来，这从信息论上是可行的，并且很快会变得容易。
• 信息论临界点：对于英语世界大约 4.9 亿活人，大约需要 29 比特的信息才能实现唯一身份识别。一旦写作风格暴露超过 29 比特，假名几乎必然被破解。
• 模型简化：写作风格可视为一个逐渐暴露的二进制串，攻击者通过比较已暴露位的匹配情况即可判断身份重合，无需查看其他人口数据。
• 现实复杂性：噪声、非均匀分布、不同特征暴露概率不同等因素不会改变基本结论，只会让数学更复杂。
• 广义扩展：Pseudpocalypse 不仅限于文本，任何高带宽交互（体态、声音、汽车特征、滚动动作等）都可能暴露唯一的身份，因为人类个体具有极高的信息熵。
• 时间紧迫性：作者认为这一趋势正在加速到来，LLM 的进步使得识别所需文本量越来越小。

意义与影响

• 对匿名写作的冲击：如果 Pseudpocalypse 成为现实，那么假名博客、匿名评论、马甲账号等将失去效用。任何人只要在网上留下足够多的文字，其真实身份就可能被回溯关联。
• 隐私与自由表达：这将对言论自由、举报人保护、少数群体表达等产生深远影响。人们可能因为害怕被识别而不敢在敏感话题上发声。
• 技术对抗可能性：是否存在反制措施？例如刻意改变写作风格、使用对抗性扰动、或通过 LLM 生成“伪装文本”来混淆特征？但作者认为，由于信息论极限，只要存在足够多的交互，唯一性终究会暴露。
• 社会与法律挑战：当身份识别变得如此容易，监管机构、平台甚至个人都可能利用这种技术。需要新的法律框架来规范作者识别技术的使用，防止滥用（如恶意人肉搜索）。
• 跨领域启示：作者将问题从文本扩展到所有高带宽通道，意味着任何与环境交互的独特模式都可能成为身份标识。这警示我们，未来隐私保护可能需要在所有维度上重新设计，而不仅仅是数字签名或加密。