← 返回信息流
AI 资讯Hacker News·2 小时前

We made Grok 4.5, GPT-5.5, and Claude build the same apps

AI 深度解读

背景

随着大语言模型在代码生成领域的能力不断提升,开发者社区常用一种被称为“build-off”的直观方法来评估新模型:给模型一个相同的提示,让它一次性生成一个完整的交互式应用,然后对比输出结果。xAI 本周发布了 Grok 4.5,号称是其迄今为止最智能的模型,并特别强调其“与 Cursor 一起训练”以优化编码和智能体工作。为了客观检验这一宣称,作者将 Grok 4.5 与当前最主流的三个模型——GPT-5.5、Claude Opus 4.8 和 Claude Fable 5——放在同一标准下进行了三轮对比测试,并测量了延迟与成本。

核心内容

作者给四个模型完全相同的三个提示,要求每个模型一次性生成一个独立的、自包含的 HTML 文件(无外部库、无网络请求),用于构建交互式应用。不允许任何人工干预或提示调整,仅当应用完全无法渲染时允许一次重试。所有结果均在真实浏览器中加载、测试并记录。以下是三轮测试的详细结果:

第一轮:3D 魔方(带打乱和还原功能)

提示要求构建一个彩色、3D 效果的魔方,带有“Scramble”和“Solve”按钮,且必须展示旋转动画。这是最困难的任务,需要真正的 3D 数学、面状态管理和动画。

  • Claude Opus 4.8 和 Fable 5:第一次尝试就生成了正确、完整、彩色且能正常打乱/还原的 3D 魔方,动画流畅。
  • Grok 4.5:第一次尝试只渲染了标题和按钮,魔方本体完全空白(黑色空洞)。使用一次允许的重试后,第二次生成了干净、彩色的 3D 魔方。
  • GPT-5.5:表现最差,只渲染了一个几乎无色的单一面,而非完整魔方。
  • 胜者:Claude Opus 4.8 和 Fable 5 并列第一。

第二轮:粒子重力沙盒

提示要求构建一个基于 Canvas 的交互式粒子重力沙盒:数百个带拖尾的粒子,点击鼠标可添加大质量引力源,视觉效果要令人着迷。

  • 所有模型都成功生成了可工作的沙盒,胜负取决于视觉风格。
  • GPT-5.5:效果最令人着迷,使用了发光霓虹引力源和密集的彩色旋涡拖尾。
  • Grok 4.5:风格干净、轨道感强,带有整齐的引力环和彩色条纹粒子。
  • Fable 5:倾向于柔和的光球效果。
  • Claude Opus 4.8:产生了最密集、最像蛛网的粒子场,物理效果出色,但视觉稍逊。
  • 胜者:GPT-5.5(凭“感觉”胜出)。

第三轮:可玩的打砖块游戏

提示要求构建一个基于 Canvas 的可玩打砖块游戏:鼠标控制挡板,球击碎彩色砖块,显示得分和生命数。

  • 四个模型全部一次性成功生成了可玩、精致的打砖块游戏,包含得分、生命数和发光挡板。
  • Grok 4.5 和 GPT-5.5 的霓虹街机风格最突出(GPT 甚至在脚本自动击球时自己累计了分数)。
  • 如果非要挑刺,四个模型都达到了可发布水平。
  • 胜者:所有人并列。

速度与成本对比

作者使用统一的测试框架,通过同一提供商路径运行三个固定提示(涵盖编码、推理、摘要),每个提示重复三次,输出 token 上限为 400,测量吞吐量(输出 token 数 / 总墙钟延迟)和首次 token 延迟。

  • Grok 4.5:首次 token 延迟低于 0.5 秒,流式输出速度约 110 tokens/秒(约为其他模型的两倍),且回复成本最低。这正是 xAI 宣传的“智能/时间/成本”优势。其中位墙钟延迟看起来中等,是因为它回复冗长(每个答案写了更多 token),且尾部延迟较高(p95 约 9 秒)。
  • GPT-5.5:短回答时最迅速。
  • Claude Opus 4.8:均衡的中间位置。
  • Claude Fable 5:最慢且最贵,是为顶级智能付出的代价。

附加轮:绘制奇怪 SVG

作者要求每个模型仅用手写 SVG(无光栅、无库)绘制一个故意滑稽的场景:一匹马骑在宇航员肩膀上,在月球上行走(角色反转,两个人物,一个文件)。

  • Fable 5:最佳表现——马戴着牛仔帽,大喊“驾,人类!”,驼背的宇航员喘着气说“呼……呼……”。不仅是绘图,更是喜剧。
  • GPT-5.5:紧随其后,马兴高采烈地喊着“WHEE!”。
  • Grok 4.5:干净利落地完成了任务,绘制了色彩丰富、可读性强的场景。
  • Claude Opus 4.8:也画出了有特色的马骑宇航员,但其原始 SVG 包含重复属性,导致严格 SVG 解析器报错(作者在展示时宽松渲染了它),这是一个真实但小的正确性瑕疵。

最终结论

  • Grok 4.5:速度与价值的怪兽。它构建了出色的打砖块和流畅的引力模拟器,流式输出速度约为其他模型的两倍,运行成本最低。唯一的失误是难度最高的状态依赖任务(魔方第一次失败,重试后修复)。如果你的工作负载是高流量代码生成,延迟和成本是关键因素,那么它很难被反驳。
  • Claude Opus 4.8 和 Fable 5:最可靠的构建者。它们是唯一首次尝试就成功完成 3D 魔方的模型,Fable 5 的 SVG 最有趣。但代价是延迟和价格,尤其是 Fable 5。
  • GPT-5.5:快速风格师。最漂亮的引力模拟器,短回答最快,但魔方表现不佳。

关键要点

  • 在“一次性构建”测试中,Claude 家族(Opus 4.8 和 Fable 5)在复杂 3D 任务上表现最可靠,首次尝试即成功;Grok 4.5 需要一次重试,GPT-5.5 完全失败。
  • 在粒子沙盒等视觉创意任务中,GPT-5.5 的视觉效果最令人着迷,Grok 4.5 风格干净且轨道感强。
  • 打砖块游戏所有模型均一次成功,质量接近可发布水平,差异微乎其微。
  • 速度与成本方面,Grok 4.5 优势明显:首次 token 延迟低于 0.5 秒,流式速度约 110 tokens/秒,成本最低。但其输出冗长,尾部延迟偏高(p95 约 9 秒)。
  • 在 SVG 创意任务中,Fable 5 兼具幽默感和绘画质量,GPT-5.5 次之;Opus 4.8 存在 SVG 属性重复的 bug。
  • 总体而言,Grok 4
查看原文 →tryai.dev