Thinking Machines Lab：值得构建的未来是人类

背景

这篇文章来自 Hacker News，由 Thinking Machines Lab 发布。Thinking Machines Lab 是一家专注于构建能够延伸人类意志和判断力的 AI 公司。文章阐述了一种与当前主流 AI 发展范式不同的愿景：AI 不应只是少数中心化训练的、静态的模型，而应该是分布式的、可定制的、与人类持续协作的工具。其核心理念深受哈耶克（Friedrich Hayek）和波兰尼（Michael Polanyi）关于知识分散性思想的影响。

核心内容

Thinking Machines 的使命是构建能够延伸人类意志和判断力的 AI。文章指出，AI 每天能做的事情越来越多，但决定它应该做什么，取决于我们——个人、组织、整个人类。这些决策需要知识和判断力，而人类通过持续接触工作（越来越多地与 AI 协同完成）来获得这些知识和判断力。塑造高级智能的目标也是一个持续的反馈、学习和重新校准的过程。

当前大多数 AI 都是在少数地点训练然后冻结的，不受服务对象的影响，也不能从人类与它的协作中学习。要延伸人类意志和判断力，就需要 AI 像人类本身一样多样化和分布化。这正是 Thinking Machines 选择的道路。

为了实现这个目标，他们追求以下技术方向：

• 训练强大的模型，推进多模态交互和可定制性等能力。锋利的工具延伸人类意志，人类判断需要塑造在前沿竞争的模型。
• 构建工具，让人们能够将 AI 变成自己的，定制模型以满足独特需求，包括训练模型权重的能力。
• 开发界面，拓宽人机之间的通信渠道，让个人判断持续影响 AI 的工作。
• 为科学界发表研究，因为塑造 AI 的能力需要深刻理解它是如何建造的。

文章进一步阐述了“将智能带到知识产生的地方”的理念。AI 存在的目的是服务于人类的工作，而这些工作依赖于关于“如何做”和“值得做什么”的知识，这些知识由从事工作的人持续产生。文章以厨师创造新食谱或店主重新排列商品和价格为例：他们在追求一组复杂的目标，并应用外人难以立即理解的知识。这种知识通过反馈不断更新，不是静态的数据库。知识是局部的——不同的餐厅或商店通过不同的手段追求不同的结果。知识的分散是集体的优势，是整体系统多样性、适应性和韧性的来源，也是自由市场优于计划经济的原因。中央计划失败不是因为智能不足，而是因为生产性知识的本质：隐性、局部、短暂、由在工作中获得它的人私人持有。试图聚合知识以供集中式智能使用，面临同样的挑战。

有些领域仅靠智能就够了，AI 可以自主推进而不需要人类参与，比如国际象棋（最强的引擎纯粹通过自我对弈训练）和数学（前沿模型正在自主解决长期存在的问题）。这些领域有两个共同特征：第一，给 AI 的目标是静态且可表达的（赢棋、证明定理）；第二，这些领域不包含隐藏知识——国际象棋和数学的规则是普世的，棋盘对所有人可见。但在棋盘之外，仅靠智能是不够的。

为了让 AI 受益于分布式知识，AI 本身必须是分布式的。每个组织都依靠其人员的专家知识，这些知识通过他们的工作获得和表达。Thinking Machines 相信 AI 应该帮助组织培养那些独特的知识，而不是提取知识的快照并用标准产品取而代之。这种培养是一个持续的过程，需要 AI 与人一起工作，而不是代替人。

文章引用了丰田的例子：2014 年，丰田将熟练工匠重新带回生产线，明确目标是培养工艺和知识。负责人 Mitsuru Kawai 说：“要成为机器的主人，你必须拥有知识和技能来教机器。”知识的产生和智能的应用相互促进，而非相互替代。

人类所做的工作可能会改变，并转向更多只有人类能带来的东西，但最好的组织将充分利用两者。AI 应该让每个组织以自己独特的方式变得卓越，而不是抹去它们之间的差异。

Thinking Machines 的目标是将智能带到知识产生和使用的地方。他们构建工具，让每个人都能用自己独特的知识微调模型，并随着知识的演化不断调整模型。他们发表研究和配方，让更多人能够获得这种能力。他们设想前沿 AI 是一个集体，像它所服务的人一样多样化。

人类参与是一个技术挑战。让人类参与设定目标和与 AI 共享知识，并不意味着为了抵制自动化而抵制。机器能可靠自主完成的事情，就应该让它做。但机器也应该知道何时独立行动，何时邀请监督和反馈——就像人类在团队中工作时所做的那样。最好的协作者会预判：他们学习对方的意图，并在被要求之前就带来所需，随着时间的推移赢得代表对方行事的权利。这些都是技术挑战，需要新的 AI 设计和评估方法。

目前，将人类知识和判断力与 LLM 结合的一个主要瓶颈是人机之间的通信渠道——一个小文本框和漫长的等待。这个渠道太窄，无法承载人类智慧和意图的丰富性，也太慢，无法进行持续的反馈。人们最好的协作是实时协作：我们打断和纠正，重新审视和做手势，大声改变主意。因此，Thinking Machines 对交互模型进行了长期投入：模型原生地处理实时、多模态交互，而不是在模型外围搭建脚手架。通过这种方式构建，交互性与智能同步增长——使模型更智能的训练也使其成为更好的协作者。合适的界面不仅允许人类参与，还邀请并奖励参与。

另一个挑战是设定正确的评估和优化目标。当前衡量 AI 智能的常见指标是模型能自主执行的软件任务的时间跨度（如 METR 的图表）。Thinking Machines 预计这个基准会继续进步，但它最终只衡量 AI 自身的能力，而不是人与机器共同完成的能力。衡量后者更为复杂，实验室无法单独完成。每个组织需要自己评估 AI 是否帮助它提升判断力、发展新知识和实现目标。

构建让用户在长期内变得更强壮的 AI，也能很好地协调激励机制。如果一个 AI 实验室为每个客户提供单一模型，它会从吸收每个用户的独特性中获益，并贬低专业知识的培养价值。而通过优化 AI 使其可定制和可协作，Thinking Machines 在客户利用其独特优势时受益。这些优势的最大化不是通过租用 AI 并外包给它，而是通过组织拥有 AI 并根据自己的目标定制它。

文章最后提到了“去中心化的对齐”（Decentralized alignment）的概念，并附上了一个词“Human”，暗示以人类为中心。

关键要点

• 核心使命：Thinking Machines Lab 追求构建能够延伸人类意志和判断力的 AI，而非取代人类。
• 分布式知识：受哈耶克和波兰尼启发，认为生产性知识是隐性、局部、动态的，AI 必须分布化才能利用这些知识。
• 当前 AI 的局限：大多数 AI 集中训练、静态冻结，不向用户学习，无法适应多样化需求。
• 技术方向：包括训练强模型（多模态、可定制）、构建定制工具（允许用户训练模型权重）、开发实时多模态交互界面、推动开放研究。
• 人类参与的必要性：仅靠智能足够的领域（如象棋、数学）有限；现实世界需要人类知识与 AI 智能的持续协作。
• 通信渠道瓶颈：当前文本框交互太窄太慢，需要实时、多模态、原生的交互模型。
• 评估标准转变：从衡量 AI 独立完成任务的能力，转向衡量人机协作的成效，且需由每个组织自行评估。
• 激励机制对齐：定制化和协作化的 AI 激励组织培养独特优势，而非依赖通用模型。

意义与影响

这篇文章代表了 AI 发展路径上的一种重要思想分流：反对“智能足够论”和“集中化 AI”趋势，主张构建一种更加人性化、分布式和协作性的 AI 体系。它呼应了经济学中关于中央计划与市场分散决策的经典争论，将知识分散性原理引入 AI 设计。

如果 Thinking Machines Lab 的方向取得成功，将带来几个深远影响：首先，AI 的使用将不再局限于少数大型平台提供的通用服务，每个组织和个人都能拥有并定制属于自己的 AI 模型，从而保护知识和能力的独特性。其次，人机交互将从单向指令+结果输出，转变为持续的、实时的、多模态的协作，AI 会主动寻求人类的判断和反馈，类似于人类团队中的协作默契。第三，AI 的评估体系将发生根本变化，从追求自主性指标（如自动化任务时长）转向衡量 AI 对用户判断力、创造力、知识积累的增强效果。

当然，这一愿景也面临重大挑战：实时多模态交互模型的技术实现、定制化训练的成本与门槛、以及如何防止去中心化带来的滥用风险等。但无论如何，这篇文章促使整个行业重新思考：AI 的未来