AMD推出4000美元Ryzen AI Halo开发套件
速览
AMD推出Ryzen AI Halo开发套件,定价4000美元,专为AI开发场景设计。该套件集成高性能CPU与AI加速单元,旨在降低开发者部署边缘AI的门槛。此举表明AMD正进一步布局AI硬件生态,与NVIDIA等对手竞争。
AI 深度解读
背景
AMD 近期推出了名为 Ryzen AI Halo 的迷你 PC,这是一款专门面向 AI 开发者的硬件套件。该设备基于 AMD 最新的 Zen 5 架构 Ryzen AI Max+ 395 处理器(16 核 32 线程),旨在简化使用 ROCm 或 AMD 硬件进行 AI 开发的门槛。此前,AMD 在 AI 开发生态方面相对薄弱,而 Halo 的发布标志着 AMD 在该领域的又一次尝试。
Halo 的定位并非普通消费级产品,而是一台售价 4000 美元的“AI 开发套件”,预装 Windows 11 Pro 或 Linux 系统,目标用户是需要本地运行大语言模型(LLM)或进行 AI 相关工作负载的开发者和研究人员。
核心内容
硬件配置
Ryzen AI Halo 采用单一硬件配置:配备可拆卸的 2TB M.2 SSD,以及 128GB 统一 LPDDR5x-8000 内存,带宽可达 256 GB/s。处理器集成了 AMD Radeon 8060S 显卡和 NPU(神经处理单元),其中显卡承担主要计算任务,而 NPU 的作用相对有限,但本次评测中确实能够使用。
设备本体非常小巧,底面积仅为 15cm × 15cm(约 6 英寸见方),高度不到 5cm(2 英寸),重 1.2kg。不过,需要搭配一个 240W 的电源适配器,因此携带时需考虑总重量。
接口全部位于机箱背面:四个 USB 3.2 Type-C 端口(其中一个专用于 USB-C PD 供电输入)、一个 HDMI 2.1 端口、一个 10GbE 以太网口。此外支持 Wi-Fi 7 和蓝牙 5.4。机箱底部有磁吸脚垫,侧面和顶部有进风口,内部有两个涡轮风扇用于散热,能够应对处理器 120W TDP 的发热。机箱底部带有一圈白色 LED 灯环(休眠时显示蓝色脉冲效果),可以关闭,设计低调美观。
拆解与内部结构
拆解较为简单:移除磁吸脚垫下的四颗螺栓即可卸下底盖,直接看到可拆卸的 M.2 2280 SSD。进一步拆下顶盖即可暴露计算核心模块,但核心模块本身无法进一步分解,底部金属板下方有导热硅脂,不建议用户自行拆卸。
性能测试
处理器为 AMD Ryzen AI Max+ 395(Strix Halo),自 2025 年春季已发布,Halo 在处理器性能上并无新意。2TB SSD 和 128GB 内存也与市面上其他同类产品(如 Framework Desktop、Beelink GTR9 Pro、X+ Rival、ACEMAGIC M1A PRO)类似。Halo 的独特之处在于其预装的“开箱即用”软件生态。
本次测试主要使用 llama-bench(llama.cpp 附带基准测试工具),模拟 LLM 推理的提示处理(Prompt Processing, pp)和 Token 生成(Token Generation, tg)阶段。测试模型包括 Qwen 3.6 35B A3B (Q4_K_M)、Gemma 4 31B IT (IQ4_XS) 和 GLM 4.7 Flash (Q8_0),这些模型体积在 17-32 GB 之间,是当时热门模型。
对比设备包括:
- Framework Desktop(同款 AI Max+ 395,128GB)
- M2 Ultra(76 核 GPU)Mac Studio(128GB 统一内存)
- M3 Ultra(80 核 GPU)Mac Studio(512GB 统一内存)
测试同时使用了 ROCm/HIP 和 Vulkan 两种后端运行 AI Halo 和 Framework Desktop。
结果:
- Apple Silicon Mac Studio 在 LLM 推理中整体优于 AMD Ryzen AI Max+ 395 设备,主要原因是 Mac 的内存带宽高达 800 GB/s,远超 Max+ 395 的 256 GB/s。
- 对于提示处理阶段(计算密集型),在稠密模型 Gemma 4 上,AMD 与 Apple 差距较小;但在稀疏的 MoE 模型上,Apple 的内存带宽优势使其明显领先。
- Token 生成阶段(内存带宽敏感)同样,Mac 凭借更高带宽表现更佳。
- 对于 AMD 设备,ROCm 和 Vulkan 后端在部分模型和测试中表现接近,但在某些特定配置下可能存在兼容性差异,导致性能波动。
关键要点
- 定位明确:Ryzen AI Halo 是一台售价 4000 美元的 AI 开发套件,非普通 PC,目标用户是需要在本地运行 LLM 的开发者。
- 单一配置:仅提供一种硬件规格(2TB SSD + 128GB 内存),统一内存带宽 256 GB/s,预装 Windows 11 Pro 或 Linux。
- 体积小巧但散热实:15cm 见方、高度不到 5cm,配备双涡轮风扇和 120W TDP 散热能力,运行时安静,且有白色 LED 灯环。
- 接口丰富:支持 10GbE、双 HDMI、USB4 Type-C、Wi-Fi 7、蓝牙 5.4 等,满足高速数据传输和网络需求。
- 性能受限于内存带宽:LLM 推理中,256 GB/s 的内存带宽明显低于 Apple Silicon 的 800 GB/s,导致生成速度和部分处理阶段落后。
- 软件生态是亮点:Halo 的差异化在于 AMD 提供的预装系统和驱动、程序、模型,以及针对 ROCm 的优化,而非硬件性能突破。
- 可自装操作系统:用户可自行安装其他系统,但 AMD 不会官方提供工厂预装版的驱动、程序和模型包。
- 与其他硬件对比:Framework Desktop 等同类产品已在市场上存在,Halo 并非唯一选择,但其“开箱即用”的 AI 软件栈是独特卖点。
意义与影响
Ryzen AI Halo 的出现,进一步降低了使用 AMD 硬件进行 AI 开发的门槛。过去,AMD 在 AI 生态系统(特别是 ROCm 对 PyTorch、llama.cpp 等的支持)上落后于 NVIDIA 的 CUDA 生态。Halo 通过预装完整的软件栈和优化驱动,让开发者“开箱即用”,无需自行配置环境,这对于非资深 AI 工程师或希望快速验证想法的团队很有吸引力。
然而,从性能测试看,AMD 的统一内存带宽(256 GB/s)与 Apple Silicon Mac Studio(800 GB/s)存在显著差距,在 LLM 推理这类对带宽敏感的任务中处于劣势。这意味着对于追求极致速度或需要运行超大模型的场景,Halo 可能不是首选。
另一方面,Halo 的 4000 美元定价加上 240W 功耗,使得其在性价比和能效比方面并不突出——同样预算可购买带宽更高的 Mac Studio,或更便宜的 PC 加 NVIDIA 显卡组合。Halo 的价值更多在于提供一个完整的、针对 AMD 硬件优化的 AI 开发封闭环境,适合希望在 ROCm 生态内进行实验或部署的开发者。
总体而言,Ryzen AI Halo 是 AMD 在 AI 开发生态上的一次重要尝试,它展示了 AMD 对 AI 开发者市场的重视,但受限于硬件架构的内存带宽瓶颈,目前仍难以撼动 Apple Silicon 和 NVIDIA 在该领域的统治地位。对于正在评估 AMD ROCm 生态的用户,Halo 提供了一个便捷的参考平台。
