字节跳动兆瓦级算力系统 AI Rack 3.0 亮相

背景

在 OCP（Open Compute Project）开放计算中国峰会上，字节跳动首次公开展示了其新一代兆瓦级算力系统 AI Rack 3.0。OCP 是一个以数据中心硬件开源设计为核心的社区，字节跳动作为重要成员持续推动高密度、高能效的算力基础设施创新。随着 AI 训练与推理需求的爆发式增长，传统数据中心在功率密度、散热效率、供电架构上面临严峻挑战，兆瓦级系统成为行业突破方向。此次亮相的 AI Rack 3.0 是字节跳动在该领域的最新成果，标志着其自研算力基础设施进入新阶段。

核心内容

字节跳动全新一代兆瓦级算力系统 AI Rack 3.0 在 OCP 开放计算中国峰会上正式亮相。该系统首次公开确认采用 800V HVDC（高压直流）供电方案，并配套 100% 整机柜全液冷散热架构。整机采用双柜组合设计：单柜功率可达 500kW，双柜集群总功率突破 1MW（即兆瓦级）。在算力配置上，AI Rack 3.0 最高可搭载 576 颗 XPU 算力芯片（XPU 为字节跳动自研的 AI 加速芯片）。与前代产品相比，该系统的算力密度和集群带宽均实现翻倍提升。

关键要点

• 供电架构革新：首次公开确认采用 800V HVDC 高压直流供电，相比传统交流供电或较低电压的直流供电，可降低传输损耗、提升供电效率，适配高功率密度场景。
• 全液冷散热：配套 100% 整机柜全液冷散热架构，无需风冷辅助，有效应对单柜 500kW 超高功率带来的热管理挑战。
• 双柜兆瓦级设计：由两个功率各达 500kW 的机柜组合，集群总功率突破 1MW，直接对标大模型训练集群的电力需求。
• 高密度算力配置：单系统最高可搭载 576 颗 XPU 芯片，为大规模并行计算提供充足算力资源。
• 性能翻倍提升：算力密度和集群带宽较上代（AI Rack 2.x 系列）实现翻倍，表明字节跳动在互联架构与芯片集成度上取得显著进展。

意义与影响

AI Rack 3.0 的亮相体现了字节跳动在超大规模 AI 基础设施上的自主创新方向。兆瓦级系统配合 800V HVDC 与全液冷，为业界提供了高密度、高能效的数据中心参考设计，可能加速 OCP 社区在高压直流与液冷标准上的演进。对行业而言，该技术路径有望降低 AI 训练集群的物理占地面积与电力损耗，缓解 GPU/XPU 集群的散热瓶颈。同时，字节跳动自研 XPU 与 Rack 架构的紧密结合，进一步强化了其在 AI 芯片与系统层的一体化能力，或对云服务商及超算中心的设计范式产生示范效应。未来，此类兆瓦级系统可能成为大模型训练和推理的首选基础架构。