4亿美元交易:GPU投资者转向推理芯片
速览
一笔4亿美元的芯片担保贷款显示,首批GPU投资者开始转向推理芯片,为AI部署提供融资。该交易标志着AI基础设施融资的新方向,从训练芯片扩展到推理芯片领域。这可能预示着未来更多资本将投入推理芯片相关的融资和租赁市场。
AI 深度解读
背景
AI 推理云初创公司 General Compute 近期获得了一笔 4 亿美元的贷款,来自科技投资机构 Upper90。这笔交易被认为是首次将推理专用芯片作为抵押物的贷款——这些芯片旨在快速、高效地运行已经训练好的 AI 模型,而非用于训练模型的更昂贵的芯片。这一融资信号表明,市场正通过转向能够更廉价运行开源模型的基础设施,来回应人们对 AI 工具和代币价格的担忧。
核心内容
General Compute 由 CEO Finn Puklowski 创立,于今年 5 月完成了 1500 万美元的种子轮融资,旨在围绕 Intel 支持的芯片制造商 SambaNova 的芯片构建推理专用云(neocloud)。Neocloud 是专为 AI 工作负载构建的,不同于 AWS 或 Azure 等传统超大规模云提供商提供的通用基础设施。
该公司使用的 SN50 芯片专为推理设计,能效高,且无需昂贵的水冷系统,这意味着它们可以比 GPU 更快地在更多类型的数据中心中部署。General Compute 表示,新芯片将提供比基于 GPU 的云快 16 倍的推理速度。挑战在于获得大量此类芯片,尤其是对于一家全新公司而言。
Upper90 联合创始人兼 CEO Billy Libby 曾是高盛量化交易员,他在 2021 年就用过类似策略:为专注于能源的数据中心初创公司 Crusoe 的 GPU 采购提供融资,他认为那是第一笔以先进芯片价值为抵押的贷款。当时传统贷款机构因 GPU 折旧的风险和不确定性而回避此类交易。但随着 CoreWeave 将芯片抵押贷款变为商业模式,乃至后来成为轰动一时的 IPO 的基础,这种融资方式已变得普遍。
Libby 告诉 TechCrunch:“当我们作为第一个群体为 Nvidia GPU 提供融资时,市场效率低下。作为早期参与者,我们确实能够构建一些东西,并因风险而获得补偿。”如今 GPU 相对被充分理解,甚至可能被过度采购,Upper90 正转向 General Compute 这样的公司,以赶上 AI 热潮的下一波浪潮。Libby 说:“我们认为开源模型将变得重要,去年我们寻找了一个处于推理领域的玩家。每个人都不需要超级计算机,但他们确实需要推理和 AI。”
这一论点正变得越来越强。提供开源模型访问的公司(如 OpenRouter 和 Fireworks)以极高估值完成新一轮融资。新模型如 Kimi 的 K3(本周刚发布)已在编码基准测试中与 Anthropic 和 OpenAI 的最新发布竞争。新芯片制造商如 Groq 和 Cerebras 也吸引了收购方和公开市场的兴趣。
General Compute 能够在 Nvidia 生态系统之外获得芯片,这一点同样重要。另一家 AI 基础设施公司 TensorWave 也押注与 AMD 的合作。随着 Nvidia 的替代品越来越多,不受 Nvidia 交易束缚的计算提供商可能在提供低成本推理方面具有优势。
Puklowski 说:“有一批芯片正在开始规模化,它们拥有令人惊叹的总拥有成本,或者运行速度比 Nvidia 快得多,但买家并不多。通过与 Upper90 合作,这不仅仅是‘一家酷炫的初创公司拿到钱去买计算资源’。这是资本组织自身以及 Nvidia 垄断地位碎片化的第一个信号。”
关键要点
- 融资规模与结构:General Compute 从 Upper90 获得 4 亿美元贷款,以推理专用芯片(SambaNova 的 SN50)作为抵押物,这是首笔此类交易。
- 芯片优势:SN50 芯片能效高、无需水冷,可快速部署,推理速度比 GPU 云快 16 倍。
- 市场背景:市场对 AI 工具和代币价格担忧,促使资金转向能更廉价运行开源模型的基础设施。
- 资本趋势:Upper90 此前曾为 GPU 购买提供抵押贷款(如 Crusoe 案例),现在转向推理芯片,认为开源模型和推理需求是下一波 AI 浪潮的关键。
- 芯片生态:General Compute 不依赖 Nvidia,而是使用 SambaNova 芯片,与 TensorWave 和 AMD 的合作类似,这有助于打破 Nvidia 垄断,提供更经济的推理服务。
- 行业信号:新模型(如 Kimi K3)能与前沿模型竞争,开放模型公司(OpenRouter、Fireworks)估值飙升,新芯片公司(Groq、Cerebras)受关注,表明推理领域正在快速成长。
意义与影响
这笔交易标志着 AI 基础设施融资模式的重大转变。过去,GPU 抵押贷款由 CoreWeave 等公司率先推广,成为主流,而如今推理专用芯片开始获得同样的金融认可。这反映出 AI 行业从训练阶段向推理阶段过渡的趋势:训练模型需要昂贵的 GPU,但推理——即运行模型——是更广泛、更持续的需求。开源模型的崛起进一步推动了对低成本推理基础设施的需求,使得像 General Compute 这样专注于推理芯片的初创公司能够获得大额融资。
Upper90 的转向也表明,资本正在主动寻找 Nvidia 之外的替代方案。随着 Groq、Cerebras、SambaNova 等芯片制造商不断涌现,以及 AMD 等传统竞争对手的加入,Nvidia 在 AI 计算领域的垄断地位正面临挑战。General Compute 的融资不仅是一次商业交易,更是资本开始组织自身、支持多元化芯片生态的早期信号。如果推理芯片能够在成本、能效和部署速度上持续证明自己的价值,未来 AI 计算基础设施的格局可能发生根本性变化,从依赖单一巨头转向更加分散、更具竞争力的市场。
