实测Fable 5生成高性能算子代码，5分钟超越专家级迭代优化

背景

在大模型（LLM）内核优化领域，性能提升是降低推理成本、提高吞吐量的关键。目前存在一个名为 FlashInfer-Bench 的基准测试套件，用于评估各种算子的性能。其中，Sparse Attention（稀疏注意力机制）算子是现代大模型（如 DeepSeek 等）中至关重要的核心构件。

近期，AI 社区在 LINUX DO 平台上分享了一次关于 Cursor 编辑器中 Fable 模型的实测案例。该案例旨在验证 Fable 在生成高性能 CUDA/Triton 内核代码方面的能力，并对比其与当前顶尖模型在专家级工作流下的表现差异。

核心内容

本次测试的核心在于对比 Fable 5 max thinking 与 Mimo-v2.5、GPT-5.5 在生成高性能 Sparse Attention 算子代码时的效率与效果。

1. 测试环境与约束

• 目标硬件：本机 A800 GPU。
• 目标形式：单个 Python 文件，包含 Triton 或 CUDA Extension 实现。
• 性能目标：相比参考实现（朴素 PyTorch 实现）快一千倍。
• 测试模式：
  • Fable：采用无 Agent 环境，单次生成（One-shot generation）。未进行测试或迭代优化，以避免高昂的 Token 消耗。
  • 对比模型：Mimo-v2.5 和 GPT-5.5 在“十分完整的专家级 Harness”中运行，经过超过一个小时的多轮迭代优化。

2. 输入 Prompt 测试使用的输入数据为 dsa_sparse_attention_h16_ckv512_kpe64_topk2048_ps64.json，要求模型基于此配置生成代码。

3. 测试结果对比

• 加速比表现：测试结果显示，Fable 生成的代码在加速比（SPEEDUP，即相对朴素 Torch 实现的加速倍数）上表现惊人。
• 效率对比：
  • Fable：仅耗时 5 分钟 完成单次生成。
  • Mimo-v2.5 / GPT-5.5：耗时 超过 1 小时 进行迭代优化。
  • 结论：Fable 在极短时间内生成的代码性能超越了经过长时间专家级优化的其他顶尖模型。
• Token 消耗：
  • Fable 生成的 Triton 解法消耗 22.9 万 Token。
  • Fable 生成的 CUDA 解法消耗 37.5 万 Token。

4. 社区反馈 测试者所在团队对 Fable 的表现感到震惊，并戏称其为“神”。

关键要点

• 单次生成 vs. 迭代优化：Fable 在无 Agent、无迭代优化的单次生成模式下，直接输出了高性能代码；而对比模型需要复杂的专家级 Harness 和长时间迭代才能达到类似或更差的效果。
• 性能超越：Fable 生成的代码在 A800 上实现了极高的加速比，甚至在某些指标上优于经过一小时优化的 Mimo-v2.5 和 GPT-5.5。
• 成本效率：Fable 以 5 分钟的时间和约 23-37 万 Token 的消耗，完成了其他模型需 1 小时+ 迭代才能完成的任务，展现了极高的时间效率和潜在的 Token 效率优势。
• 技术栈：测试涉及底层高性能计算技术，包括 Triton 和 CUDA Extension，要求模型具备深厚的系统编程和大模型内核优化知识。
• 社区认可度：该案例在 LINUX DO 等社区引发关注，测试者团队对 Fable 的能力给予了极高评价。

意义与影响

1. 大模型代码生成能力的突破：该测试表明，最新的模型（如 Fable）在生成底层、高性能系统代码（如 CUDA/Triton Kernel）方面，已经具备了接近或超越人类专家级工作流的能力。这标志着 AI 在“硬核”编程领域的重大进步。
2. 开发流程的简化：传统上，优化高性能算子需要专家花费大量时间进行迭代、调试和验证。Fable 的“单次生成”即可达到高性能，暗示了未来 AI 辅助开发流程可能大幅简化，减少人工干预和迭代成本。
3. 对现有基准测试的挑战：FlashInfer-Bench 中的 Sparse Attention 算子是衡量模型内核生成能力的重要指标。Fable 在此项测试中的优异表现，可能促使社区重新评估现有模型在该领域的排名，并推动其他模型在代码生成质量上的竞争。
4. Token 成本与性能的权衡：虽然 Fable 消耗了数十万 Token，但其单次生成的特性可能比多轮迭代更易于预测和控制成本。对于需要快速原型验证或高性能内核生成的场景，这种模式具有极高的实用价值。
5. 对 AI 辅助编程工具的启示：Cursor 等集成 AI 的编辑器通过提供强大的后端模型（如 Fable），能够显著提升开发者的生产力，特别是在处理复杂、底层的系统级编程任务时。