法国AI初创公司ZML发布免费产品加速多芯片推理

背景

Nvidia 在 AI 芯片市场的主导地位尚未落幕，但挑战者与替代选择正从四面八方涌现。随着 AI 深度融入工作与日常生活，优化推理（即处理用户提示词的过程）在重要性上已超越模型训练，但背后往往因软件与架构壁垒导致供应商锁定，使得推理效率参差不齐。基于这一痛点，一家由图灵奖得主 Yann LeCun 背书的法国 AI 初创公司 ZML 发布了新的推理性能软件，旨在打破现有孤岛，让多种芯片都能以最高速度（甚至更快）为 AI 场景所用。

核心内容

ZML 是一家总部位于巴黎的 AI 初创公司，其创始人兼 CEO Steeve Morin 曾担任社交地图应用 Zenly（2017 年被 Snapchat 以九位数美元收购）的工程副总裁。ZML 的核心产品是名为 ZML/LLMD 的 LLM 推理服务器，该产品于近期正式发布。与 ZML 首个公开项目（2024 年发布、2025 年 3 月更新的推理 ML 框架）不同，ZML/LLMD 并非开源，但作为免费产品推出，目的是了解用户使用情况。

ZML/LLMD 允许各类开源大语言模型运行在不同厂商的芯片上，包括 Nvidia、AMD、Google TPU、Apple Metal 和 Intel Arc 等。Morin 表示，该软件的目标是让企业和云服务商能够混合使用多种芯片——其中一些可能成本更低或能耗更少。“关键在于将创造自身系统的权力交还给用户，实现真正的效率提升，从而推动 AI 的普及。”

Morin 认为，这样的软件工具可以帮助新兴 AI 芯片制造商——其中许多恰好来自欧洲，例如 Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud 和 VSORA。但他更看重的是，ZML 能与这些公司合作“完成在地球上任何地方都未曾做过的事”。不过，Morin 对 Nvidia 并非看空，他表示 ZML 与这家 AI 芯片巨头保持着良好关系，而 Nvidia 也一直在为推理时代的到来做准备。

推理领域已成为投资热土，被称为“推理淘金热”。ZML 面临众多竞争对手，包括估值已达 130 亿美元的 Baseten、由开源项目 vLLM 创建者打造的 Inferact，以及 SGLang 背后的商业公司 RadixArk。vLLM 和 SGLang 都在一定程度上与 LLMD 竞争，但 Morin 对 ZML 的野心覆盖更广范围——“我们已经达到共同设计芯片的地步。”他称赞 ZML 的 20 人精干团队让这家初创公司能够快速行动，且未来还有更多产品发布计划。

团队虽小但资金充足。Morin 凭借其职业背景，从 Harry Stebbings 的 20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel 的 Kima Ventures、Kindred Capital、LocalGlobe 和 Puzzle Ventures 等风险投资机构筹集了 2000 万美元。投资方还包括 Dagger 和 Docker 创始人 Solomon Hykes、Hugging Face 的 Clément Delangue 与 Julien Chaumond，以及现于 AMI Labs 的 Yann LeCun。这进一步证明欧洲的 AI 初创公司如今可以在本土成长。Morin 表示：“我只能在巴黎做 ZML。”

关于 ZML/LLMD 何时成为付费产品以及采用情况如何，目前尚无法预测。Morin 的策略是先测量用量，再在最有效的地方创收，“而不至于因为一开始太过贪婪而愚蠢地阻碍增长。”

关键要点

• ZML 发布了一款名为 ZML/LLMD 的 LLM 推理服务器，作为免费产品推出，目标是收集使用数据。
• 该软件支持在多种芯片上运行开源大语言模型，包括 Nvidia、AMD、Google TPU、Apple Metal 和 Intel Arc。
• 创始人 Steeve Morin 认为，打破芯片供应商锁定、实现跨芯片高效推理是降低 AI 成本和能耗的关键。
• ZML/LLMD 并非开源，但 ZML 此前已发布过一个开源的推理 ML 框架（2024 年发布，2025 年 3 月更新）。
• 推理优化已成为“淘金热”领域，竞争激烈：Baseten（估值 130 亿美元）、Inferact（来自 vLLM 团队）、RadixArk（SGLang 背后公司）等都是对手。
• ZML 团队仅有 20 人，但融资 2000 万美元，投资方包括多位知名创始人和风投机构。
• 团队背景强大：创始人 Morin 是 Zenly 前 VP 工程，公司得到 Turing Award 得主 Yann LeCun 背书；投资方包括 Solomon Hykes（Dagger/Docker 创始人）及 Hugging Face 联合创始人等。
• ZML 希望与新兴欧洲芯片公司合作，实现“前所未有”的软硬件协同设计。
• 目前无法确定 ZML/LLMD 何时转为付费产品，Morin 采用先测量后变现的策略。

意义与影响

ZML/LLMD 的发布代表了硬件推理领域的一次重要尝试：通过软件层抽象，让各类 AI 芯片都能高效运行主流开源模型。这有望缓解当前 AI 产业对单一供应商（尤其是 Nvidia）的过度依赖，降低企业的硬件采购成本和能耗，同时为新兴芯片制造商（尤其欧洲厂商）提供进入市场、实现差异化竞争的机会。

从行业角度看，推理优化已成为大模型部署的瓶颈。ZML 的产品切入了一个快速增长且竞争激烈的市场，其免费策略有助于快速积累用户和场景数据，为后续商业化铺路。同时，ZML 较小的团队规模和充足的资金支持，使其能够保持灵活性和创新速度，未来可能与芯片厂商进行更深层的联合设计（co-designing silicon），从而进一步推动 AI 基础设施的多元化。

这一案例也折射出欧洲 AI 生态的崛起：巴黎作为 AI 初创公司的聚集地，正吸引越来越多顶级人才和资本。ZML 的成功融资和产品推出，表明欧洲在 AI 推理基础设施领域具备与国际巨头竞争的能力。