15款电子垃圾GPU在现代负载下实测

背景

随着AI和大语言模型（LLM）的普及，GPU 成为最紧缺的硬件资源之一。然而，高端消费级 GPU 价格高昂、供应紧张，不少个人开发者与实验室开始将目光投向被企业淘汰的“电子垃圾”级 GPU。这批退役的 NVIDIA 企业级 Tesla 显卡拥有大量闲置显存，且价格极低：K80（24GB GDDR5）约 60 美元，P100-16GB 约 75 美元，V100-16GB 不到 200 美元。但它们的驱动和 CUDA 支持已经停止维护，功耗也远高于现代 GPU。是否能在现代工作负载中有效利用这些廉价显卡？本文作者耗时近一年，针对 15 款 Tesla GPU 进行了系统化的基准测试，并公布了详细结果与分析方法。

核心内容

测试目的与硬件选型

作者的目标是为自己的 homelab 构建一个廉价、紧凑的 4U GPU 节点。随着 Intel X99 平台（E5‑26xx v3/v4 Xeon）价格暴跌，搭配这些 GPU 的成本极低：40 美元即可买到 56 线程（双路 E5-2690 v4，加速频率 3.50 GHz），而 Supermicro X10DRG-Q 双路主板（7 个 PCIe 插槽）约 200 美元。作者认为，只要配上合适的散热器（可申请 beta 版），这些 Tesla 卡可以比消费级 GPU 更密集地安装，一个标准 ATX 机箱就能塞入 3 张 GPU 加一张 10Gb 网卡。

对“退役 GPU 不可用”观点的反驳

许多人认为这些 GPU 早已 EOL（停止生命周期），不会获得 CUDA 兼容性更新，且每 token 能耗更高，因此不应继续使用。但作者指出，这种警告在 homelab 场景中并不适用：

• 软件兼容性问题可以通过使用稍旧版本的软件解决。例如 llama.cpp 如果从源码编译，仍支持许多 CUDA 架构。作者甚至通过 Docker 在 2014 年发布的 Kepler 架构上成功运行了所有测试软件。
• 功耗方面，对于需要 24/7 高可用性的场景，电费的确会很快吞噬省下的硬件成本。但 homelab 用户并非必须全天运行——不用时关机即可。

基准测试方法论

测试工具已开源在 GitHub，所有 benchmark 定义为 Dockerfile，以容器形式运行以保证兼容性和可移植性。测试流程如下：

1. 对系统中每张 GPU 的每个逻辑核心单独运行一次容器（例如 K80 有两个核心，M10 有四个核心，P100 只有一个核心）。
2. 然后在所有 GPU 的所有核心上并行重新运行。
3. 如果测试本身支持多 GPU，则创建一个能访问所有 GPU 所有核心的容器并运行。
4. 计算理论多 GPU 总和（单核心分数 × 核心数之和）和强制多 GPU 总和（并行运行结果相加），以及对应的平均值。通过这些数值可以识别 GPU box 或测试自身的性能瓶颈。

目前可视化中只使用 native_multi_gpu_result（原生多 GPU）或 forced_multi_gpu_sum（强制并行总和）作为关键指标。子图标题带星号的表示强制多 GPU 总和。

测试硬件

• GPU：K80、M10、M40、M60、P40、P100、V100、T40
• CPU：E5-2687W（12核）、E5-1680（8核）
• 主板：Asus X99‑WS（单路）、Supermicro X10DRG‑Q（双路）
• 其余组件（RAM、机箱、电源）在所有测试中保持一致。所有 GPU 均使用作者设计的散热器（自动模式）。

测试结果

GPU 代际对比

按使用场景分组，横向比较不同代 GPU。预期是发布时间越新性能越强，柱状图从左到右按发布日期排列。

• V100-16GB 在所有测试中的整体性能与相对稀有的 T40 相当，而 V100 更老、更便宜。
• Volta 架构（V100）相比前几代的增量提升非常显著。
• 对于 LLM 使用场景，P40 优于 P100（与网上常见建议一致）。
• M60 的 Whisper（语音转录）性能令人印象深刻，而 M60 仅售 50 美元。

GPU 扩展性

测试了随着系统中 GPU 数量增加性能的变化。预期是性能上升但边际递减（通信开销增加）。

• LLM 吞吐量在增加 GPU 后基本保持不变——作者认为这是 llama.cpp 配置问题（欢迎 PR）。
• 对于 K80 和 P100，除了 P100 上的 CAT ViT Attention 测试外，并没有明显体现边际递减。其他更成熟的多 GPU 原生测试（ResNet50、SHA-256）性能随 GPU 数量线性增长。
• 推测：最终可能仍会出现递减，但其拐点很可能远超过 4U 机箱能容纳的 GPU 数量。这对 homelab 用户是好消息：填满机箱并不会因为开销而浪费大量算力。

GPU 混插

作者好奇如果用一块较新较贵的 GPU 搭配多块廉价旧 GPU，结果如何。

• 在 LLM 测试中，V100 的性能被 P100 拖累显著。
• 其他测试的结论与扩展性部分类似：GPU 越多越好，即使混插不同代。

CPU 对比

GPU 需要 CPU 喂数据。选择 CPU 时应更关注单核频率还是核心总数？预期是更好的单核性能带来更高分数，但更多 CPU 核心意味着更多 PCIe 通道和可安装的 GPU 数量。

• 按 GPU 类型分别展示结果：
  • 通常更快的 CPU 核心会带来更好的分数。这种影响对于（原文在此处截断，未给出完整图表和结论）。但总体趋势表明，单核性能在多数场景下比核心数量更重要。

关键要点

• 价格极低：K80（24GB）约 $60，P100-16GB 约 $75，V100-16GB 约 $200，CPU+主板（双路 Xeon）约 $240，整体成本远低于消费级方案。
• 软件兼容性可通过旧版本解决：使用 Docker、旧版 CUDA 和从源码编译的 llama.cpp 等工具，可在 Kepler 架构（2014）上运行现代负载。
• 功耗问题在 homelab 场景可接受：非 24/7 运行时，省下的硬件成本远超电费；且可以按需关机。
• 代际性能差距明显：Volta（V100）比前代性能跃升巨大，V100 与 T40 性能相当但更老更便宜。P40 在 LLM 任务中优于 P100。
• 扩展性良好：多数任务（如 ResNet50、SHA-256）性能随 GPU 数量线性增长，边际递减不明显，适合密集部署。
• 混合 GPU 降低吞吐但总体仍有收益：V100 与 P100 混插时 LLM 性能受拖累，但其他任务仍然是“越多越好”。
• CPU 选择以单核性能优先：更快的 CPU 核心比更多核心更有利于提升 GPU 利用率。
• 特定任务有惊喜：M60（$50）在 Whisper 音频转录上表现极佳。

意义与影响

• 为个人和小型实验室提供了低成本 GPU 计算方案：利用企业淘汰的 Tesla GPU，可以用不到 $500 搭建一台具备数十 GB 显存、多 GPU 并行的推理/训练节点，满足 LLM、图像识别、语音处理等现代 AI 工作负载。
• 验证了退役硬件在 homelab 中的实用价值：打破了“旧 GPU 已无意义”的刻板印象，使更多爱好者能够进入 GPU 计算领域，推动社区共享廉价算力方案。
• 给出了系统化的基准测试方法论：Docker 容器化测试、多 GPU 并行与原生多 GPU 对比、理论值与实测值分析，为后续类似硬件评估提供了可复现的框架。
• **对数据中心和云服务