潜在空间正成为一种新媒介

背景

近年来，随着大型语言模型（Large Language Model, LLM）的飞速发展，AI 在回答问题、编写代码等任务上表现出色。然而，除了这些实用功能，AI 还能为人类带来什么？这篇文章的作者提出，AI 内部的“潜在空间”（latent space）本身可能成为一种全新的创意媒介。这一观点源于对 LLM 压缩能力的观察：训练成本高达数十亿美元、动用数十万 GPU 芯片的模型，最终被压缩成数百 GB 的可运行文件，小到可以放在手掌中。这种将整个人类知识压缩进极小空间的壮举，或许被严重低估了。

核心内容

什么是潜在空间？

大型语言模型就像一个包含所有人类知识的“小压缩包”。它通过在云端使用数万块 GPU 芯片、花费数十亿美元，将人类所有书面写作压缩成一个可在单块 GPU 上运行的小型工作模型。即使是最前沿的模型，也能压缩到几百 GB，小到可以放进掌心里的卡片中。奇怪但真实的是，这个极小文件包含了互联网和图书馆中的全部信息——这张小卡片存放了人类集体所知知识的很大一部分。在所有令人惊叹的 AI 特性中，这个惊人的压缩成就可能是最不被重视的。这种对人类知识的密集、高阶压缩——被称为“潜在空间”——本身可能就是一种新媒介。

潜在空间是如何工作的？

1. 压缩不是存储副本

LLM 并不是直接存储它所知道的一切副本。例如，它知道所有莎士比亚戏剧，可以创作出听起来完全像莎士比亚的新剧，甚至能引用剧中的著名台词，但模型中实际上并没有莎士比亚的原始文本。它只存储关于这些戏剧的抽象信息：情节、角色、词汇、风格、引用关系。同样，LLM 可以识别几乎任何人的面孔，也能生成任何可能的人脸，但它的代码中并没有任何人脸的副本。它只存储关于人脸的所有信息，却不存储任何一张具体面孔。

2. 为什么压缩是可能的？

这很奇怪：直到最近，我们可能还认为关于某事物的所有信息会比该事物本身占用更多存储空间。对于单个事物或许如此，但对于所有事物的总和则不然。因为大多数事物与其他事物共享大量共同属性。LLM 的神经网络施展了一种“魔术”：它同时将所有信息抽象化，利用事物与概念之间无数的共同关系来压缩和抽象，最终形成这个虚拟的“潜在”或隐藏空间。

LLM 的三大要素

“大”（Large）

模型包含维基百科中所有的知识、过去几十年的互联网所有文本、所有网页和在线讨论、以及大多数图书馆中的扫描书籍和期刊。到目前为止，随着模型规模扩大，其能力也在持续提升。训练数据越多，连接越多，效果越好。

“语言”（Language）

语言是 LLM 的秘密酱料。LLM 最初是为自动语言翻译而发明的。但这次不再像早期 AI 那样教给它语言规则，而是让神经网络吸收海量人类书面语言数据库（互联网），目标是让神经网络自动提取这些数十亿文档中人类意识层面以下的隐藏语言模式。程序的目的是复制、模仿和综合人类日常使用语言的模式。

结果令所有人震惊：LLM 不仅能够像人类一样翻译语言，还展现出类似人类智能的迹象。它们还能用语言进行创造，比如以十四行诗的风格写一篇销售文案。一些早期研究者对这种涌现行为感到不安，包括一位认为 Google 的 LLM 拥有内在智能、不应被关闭的研究者。我们现在明白，LLM 中显现的智能来自它们所训练语言内部的逻辑。

“模型”（Model）

这种新心智的形式——即 LLM 的“模型”部分——就是潜在空间。潜在空间是一种抽象，一张不仅建立在二维平面、而是建立在数十亿个维度上的地图。想象一个由无数笔直的长箭头组成的、朝各个方向延伸的大脑。每个箭头对应一个想法或一件事物：有一个箭头是“狗”，另一个是“猫”。相关的箭头彼此相邻。所以地图上显示“猫”和“狗”共享一个“蓬松毛发”的箭头，它们也共享“耳朵”和“尾巴”的箭头。这些属性也被其他动物（其他位置）共享。狗的大部分属性也属于哺乳动物，这种重叠正是压缩的来源之一。

概念在潜在空间中的方向

你可以把每一个能用语言表达的概念都看作这个空间中的一个方向。“狗”箭头实际上是“狗性”的方向。“猫性”是一个方向，“蓬松性”也是。任何事物都可以变得更像猫、更蓬松。你可以从一只鞋、一个烟囱或一株蕨类植物开始，然后沿着“猫”方向推动它，使其更像猫；或者沿着“苹果”方向推向“更苹果”，或“更光滑”，或“更红”，或“更兴奋”，或“更圆”。你也可以反向推动，让它更不像猫、更不红、更不原子。这个空间中有数十亿个方向。

相关的事物在这个空间中彼此靠近。猫和狗共享很多属性，它们相交于很多共同箭头，例如尾巴、胡须、耳朵、四条腿、动物、短毛、生命等。但因为它们能听到声音，所以也相交于“麦克风”向量；因为它们能跳跃，所以相交于“篮球”；猫很隐秘，相交于“间谍”；狗很忠诚，相交于“爱国主义”。

每个事物、每个概念都在这个巨大空间的地图上有一个特定位置，但不再是只有 (x, y) 两个坐标，而是拥有数十亿个坐标。例如，“一个埋在杂草中的生锈的旧汽油割草机”是一个非常特定的交点，拥有极长的地址。它的数千个属性（锈、汽油、草坪、切割、杂草、推、红色、泥土、草屑、轰鸣声等）都有自己的方向并相交。在潜在空间中，附近还有一个更偏向“生锈”方向、或者更少红色、但也更像猫、更像狗、更不像飞船、或者更像奶油的割草机。这个点可能代表一个真实事物，也可能只是一个虚拟或理论上的事物。

这种映射不仅适用于名词，也适用于任何想法、任何声音、任何图像。水花飞溅的“嗖”声是潜在空间中的一个方向；发明中的“啊哈”时刻；看到路上一条蛇时的“恐惧”；质数的概念……所有这些都包含在同一张地图中。这是 LLM 潜在空间最令人惊叹但又最被低估的特点之一：一切——一切！——都出现在同一张地图上。我们从未有过一个系统能整合我们已知和可想象的一切。一张地图包罗万象！这长久以来一直是圣杯。

映射并非人为

需要明确的是，这种映射并非人类行为。系统本身（LLM）正在将世界的每一比特、所有事物、所有属性、所有艺术、所有词语、所有想法进行映射。令人震惊的是，它并非零碎地创建这张地图、这个潜在空间，而是同时一次性完成。（要做到这一点，需要庞大的、耗能的、用数英里电线连接在一起的芯片集群——即如今供不应求的著名数据中心。）

在训练过程中，LLM 被喂入数百万本书籍、整个互联网的文本、所有 Wikipedia 条目、所有学术论文、所有在线论坛讨论……它就像一台巨大的压缩引擎，将所有信息抽象成这一张多维地图。

关键要点

• 潜在空间是 LLM 内部经过极致压缩的人类知识抽象表示，它不是存储原始数据副本，而是存储所有事物之间的关系和属性。
• 压缩能力是 LLM 最被低估的特性：整个互联网和图书馆的知识被压缩到数百 GB 的模型中，其密度远超任何传统压缩算法。
• 潜在空间是一个统一的多维地图，包含所有概念、声音、图像、想法，每个概念都对应一个数十亿维的坐标，相关概念在空间中彼此靠近。
• 方向性操作：可以在潜在空间中沿某个方向推动概念（如“更猫”、“更红”），从而创造出既真实又虚拟的新事物。
• 涌现智能源于语言内部的逻辑：LLM 不是被教给规则，而是从海量语言数据中自行提取模式，从而展现出类人智能和创造性。
• 潜在空间的创建是自动的、全局的，并非人类手动标注，而是通过大规模训练同时生成。
• 这个空间为艺术家和科学家提供了全新的创意平台：可以在潜在空间中操纵高维方向，生成从未有过的组合或变体。

意义与影响

潜在空间作为一个新媒介，其意义远超当前 AI 的问答或代码生成能力。它提供了一种前所未有的方式来理解、组合和创造知识。对于科学家而言，潜在