费曼与Connection Machine的往事
速览
本文回顾了诺贝尔物理学奖得主理查德·费曼在20世纪80年代参与设计Connection Machine的历程。Connection Machine是当时极具创新性的并行超级计算机,影响了后续神经网络和AI硬件的发展。费曼的思维方式和工作风格为这台机器注入了独特的物理直觉。
AI 深度解读
背景
本文是 Long Now 联合创始人 Danny Hillis 撰写的一篇回忆文章,最初发表于《Physics Today》,后因 Hacker News 上的转载而广受传播。文章记录了理论物理学家 Richard Feynman 与 Hillis 在 1980 年代共同建造一台并行计算机——Connection Machine——的经历。这段合作发生在 Feynman 生命的最后几年,既展示了这位科学伟人的天才与 eccentricity,也生动呈现了早期并行计算领域的开拓过程。
核心内容
1983 年的一天,Danny Hillis 与 Richard Feynman 共进午餐时,提到自己计划创办一家公司,制造一台拥有一百万个处理器的并行计算机。Feynman 的反应毫不含糊:“这绝对是我听过的最愚蠢的想法。”但对他而言,一个疯狂的想法恰好是验证其正确或错误的契机——无论如何,他都很感兴趣。午餐结束时,Feynman 同意整个夏天都来这家公司工作。
Feynman 对计算领域的兴趣可以追溯到他在 Los Alamos 的日子,当时他负责监督“计算机”——即操作机械计算器的人员。在那里,他参与了首批用于物理模拟的插拔式制表机的搭建。1970 年代末,他的儿子 Carl 开始在 MIT 学习计算机,进一步激发了他对这一领域的兴趣。
Hillis 正是通过 Carl 认识 Feynman 的。当时 Hillis 是 MIT 人工智能实验室的研究生,Carl 是帮助他做论文项目的本科生之一。Hillis 试图设计一台足够快的计算机来解决常识推理问题。这台机器设想包含一百万个微小计算机,通过通信网络连接,他们称之为“Connection Machine”。Feynman 一直关注儿子的活动,对这个项目紧追不舍。他对这个想法持怀疑态度,但每当他们在会议上相遇或 Hillis 访问 CalTech 时,他们都会讨论到凌晨,探讨计划中的机器的细节。直到那次午餐会面,Feynman 才似乎第一次相信他们真的打算建造它。
公司成立后的第二天,Feynman 抵达波士顿。当时团队正在忙着筹钱、租房、发行股票等事务。他们在一座古老的大宅里安顿下来,Feynman 到达时,大家还在为银行里突然多了几百万美元而震惊。几个月来没人考虑过任何技术问题。他们正在争辩公司应该叫什么名字,Feynman 走进来,敬了个礼说:“Richard Feynman 报到。OK,老板,我的任务是什么?”在场的这群还没毕业的 MIT 学生都惊呆了。
在匆忙的私下讨论(“我不清楚,是你雇的他……”)之后,他们告诉 Feynman,他的任务是就并行处理在科学问题上的应用提供咨询。
“这听起来全是废话,”他说,“给我点实际的事情做。”
于是他们派他去买了些办公用品。他出门时,大家决定机器中最令人担忧的部分是路由器——它负责将消息从一个处理器传送到另一个处理器。他们不确定自己的设计是否能工作。Feynman 买铅笔回来后,他们便交给他分析路由器的任务。
Connection Machine 的路由器是硬件中负责处理器间通信的部分。它是一个复杂的设备;相比之下,处理器本身反而简单。给每一对处理器之间连一根单独的通信线是不现实的——一百万个处理器需要 10¹² 根线。因此,他们计划将处理器连接成一个 20 维的超立方体,这样每个处理器只需直接与另外 20 个处理器通信。由于许多处理器需要同时通信,大量消息会争抢同一根线。路由器的任务是在这个 20 维的交通堵塞中找到一条空闲路径,如果找不到,就把消息保存在缓冲区中,直到路径空闲。他们向 Feynman 提出的问题是:是否为路由器留出了足够的缓冲区,使其能够高效运行。
在最初几个月里,Feynman 开始像研究自然对象一样研究路由器电路图。他愿意听取关于事物如何运作以及为何如此运作的解释,但本质上他更喜欢通过用铅笔和纸模拟每个电路的动作来自行弄清一切。
与此同时,其他人很高兴找到了让 Feynman 忙碌的事情,继续订购家具和计算机、招聘首批工程师、安排国防高级研究计划局(DARPA)资助首台样机的开发。Feynman 出色地专注于他的“任务”,只是偶尔停下来帮助布线计算机房、搭建机械车间、与投资者握手、安装电话,并愉快地提醒大家他们有多疯狂。当他们最终选定公司名称为 Thinking Machines Corporation 时,Feynman 非常高兴:“很好,这样我就不用向别人解释我和一群疯子一起工作了。我只需要告诉他们公司的名字。”
项目的技术方面确实超出了他们的能力范围。他们决定从仅包含 64,000 个处理器开始以简化事情,但即便如此工作量也巨大。他们必须自行设计硅集成电路(包含处理器和路由器),发明封装和冷却机制,编写编译器和汇编器,设计同时测试处理器的方法等。即使是像将电路板连接起来这样简单的问题,在处理数万个处理器时也变得意义非凡。事后看来,如果他们当时对项目的复杂程度有任何了解,就绝不会开始。
“把这些人组织起来”
Hillis 以前从未管理过这么大的团队,显然力不从心。Feynman 主动提出帮忙:“我们得把这些人组织起来。让我告诉你在 Los Alamos 时我们是怎么做的。”
每一位 Hillis 认识的伟人,生活中都有一个特定的时间和地点作为参照点——那时事情按照预期运转,伟大成就得以实现。对 Feynman 而言,那个时间就是 Los Alamos 的曼哈顿计划期间。每当事情变得“离谱”,Feynman 就会回顾过去,试图理解现在与那时有何不同。基于这个方法,Feynman 决定,应该在机器的重要领域(如软件、封装或电子)中各选一名专家,成为该领域的“小组长”,类似于 Los Alamos 的小组长。
Feynman “让我们组织起来”活动的第二部分是:开始定期举办系列研讨会,邀请可能对我们的机器有有趣应用的人来做演讲。Feynman 的想法是关注那些有新应用的人,因为他们对使用什么类型的计算机不会那么保守。第一次研讨会,他请来了他在 CalTech 的朋友 John Hopfield,谈论他构建神经网络的方案。在 1983 年,研究神经网络几乎和研究 ESP 一样不流行,所以有些人认为 John Hopfield 有点疯狂。Feynman 确信他非常适合 Thinking Machines Corporation。
Hopfield 发明的是一种构建联想存储器的方法——一种用于记忆模式的设备。使用联想存储器时,需要在一系列模式(比如字母的图片)上训练它……
(原文在此处截断,但核心故事已完整呈现。)
关键要点
- 费曼的参与源于一次午餐对话:他最初认为并行计算机的想法愚蠢,但正是这种“疯狂”吸引了他,最终同意花一个夏天工作。
- 费曼的工作态度:他不愿做抽象咨询,要求“实际的任务”。他通过用铅笔和纸模拟电路来独立分析路由器,展现出科学家的探究本能。
- 公司初创阶段的混乱:团队刚获得资金,尚未考虑技术问题,费曼的到来反而起到了“组织者”作用,类比曼哈顿计划的管理方式。
- 并行计算的技术挑战:100 万个处理器需要 20 维超立方体连接,路由器面临严重拥塞问题;团队不得不从 64,000 个处理器起步,并自行设计芯片、封装、编译器、测试方法等。
- 费曼的管理建议:设立各领域“小组长”,并邀请有新颖应用的外部演讲者(如 John Hopfield 关于神经网络的演讲),以打破保守思维。
- 公司命名:最终取名 Thinking Machines Corporation,费曼认为这能解释为什么与“疯子”共事。
- 回忆录的基调:既是技术史,也是对费曼 eccentricity 与天才的生动描绘,充满温情与敬意。
意义与影响
这篇文章不仅是计算机科学史上的珍贵记录,更彰显了 Richard Feynman 作为科学家和实践者的独特魅力。他虽然是理论物理学家,却毫不畏惧深入硬件设计的具体细节,这种跨学科参与精神至今激励着研究人员。Connection Machine 是早期大规模并行计算的里程碑之一,其架构思想(超立方体连接、路由器缓冲设计等)影响了后续超级计算机的发展。此外,Feynman 建议引入神经网络研究者 John Hopfield,间接推动了该领域在 1980 年代后期的复兴。文章本身也成为 Hacker News 上经久不衰的经典,因为它展现了科学探索中疯狂、严谨与人性的结合,提醒我们伟大的创新常常始于“最愚蠢”的想法。
