代码调优应优先于垃圾回收

背景

在 Java 性能调优中，开发者常常将大量精力花在选择和调优垃圾回收器（Garbage Collector, GC）上，却忽略了代码本身的内存分配模式可能带来的更大影响。一篇来自 Hacker News 的技术文章通过一个具体的基准测试案例，揭示了这样一个反直觉的事实：在优化垃圾回收器之前，先优化代码中的冗余工作（例如多余的日志记录），往往能带来更显著的延迟改善，甚至改变最合适的垃圾回收器选择。

本文基于一个简单的“事件到响应延迟”基准测试——以每秒 50,000 笔的速度运行 MarketDataSnapshot 到 NewOrderSingle 转换，持续 30 分钟，使用 JLBH（Java Latency Benchmarking Harness）测试 Chronicle-FIX 库。目标是比较两种情景：系统中存在冗余工作（使用 SLF4J 记录每条消息）与不记录日志（Chronicle-FIX 内部使用 Chronicle Queue 记录每条消息），并观察这种差异如何影响垃圾回收器的选择。

核心内容

基准测试设置

测试分为两个版本：

• 优化基准（Optimised Benchmark）：Chronicle-FIX 内部使用 Chronicle Queue 记录每条消息，不额外通过 SLF4J 输出日志。
• 未优化基准（Unoptimised Benchmark）：在优化基准的基础上，为每条待发送消息增加一行 SLF4J 日志调用。

未优化基准的结果

仅仅增加一行日志，看似微不足道，但对于低延迟代码来说，每次调用都会引入大量开销。当每秒处理 50,000 笔消息时：

• p99（最慢的 1%）延迟，垃圾回收器的选择与日志优化方式的影响相当。
• p99.99（最慢的 0.01%）延迟，虽然听起来罕见，但在 50K/s 的速率下意味着每秒出现 5 次，每分钟 300 次。未优化基准下，Shenandoah GC 表现较好，Parallel GC 则应避免。

磁盘 I/O 的影响

日志写入位置对延迟影响巨大。将日志写入 tmpfs（内存文件系统）而非普通磁盘后：

• 对于 Parallel GC，p99 可能是一个异常值，但整体上 Shenandoah 仍有优势。然而，仅仅改变日志写入位置所带来的延迟改善远大于更换垃圾回收器。

去除冗余日志后的结果

Chronicle-FIX 本身已通过 Chronicle Queue 记录每条消息，因此 SLF4J 日志完全是冗余的。在低延迟编码中，策略是使用 Chronicle Queue 记录所有必要信息，几乎不使用传统日志（因为日志是延迟的最大来源之一）。启动后，没有 INFO 级别日志；要么是 ERROR/WARNING（默认开启），要么是 DEBUG（默认关闭）。

去除冗余日志后：

• p99 下降了约 2 微秒。
• p99.99 下降了三的数量级（即 1000 倍）。
• 更重要的是，由于工作负载发生了变化，最佳垃圾回收器发生了翻转：此时 Parallel GC 表现最好，而 Shenandoah 在 p99.99 上表现最差。

结论

最佳垃圾回收器的选择及其调优方式取决于工作负载。在调优垃圾回收器之前，应首先确保工作负载本身已经过优化，原因有二：

1. 在某些情况下，代码优化能带来比垃圾回收器调优更显著的改善。
2. 代码优化可能改变对垃圾回收器的偏好。

关键要点

• 垃圾回收器的选择高度依赖于工作负载：Shenandoah 在未优化（有冗余日志）时表现较好，而 Parallel GC 在优化后（无冗余日志）表现更好。
• 一行日志可能带来巨大延迟影响：在 50K/s 的速率下，一行 SLF4J 日志导致 p99.99 延迟恶化三个数量级。
• 磁盘 I/O 是延迟的主要来源：将日志写入 tmpfs（内存文件系统）比切换垃圾回收器带来更大的改善。
• 先优化代码，再调优垃圾回收器：冗余工作（如不必要的日志）会扭曲垃圾回收器的表现，优先消除冗余才能做出正确的 GC 选择。
• 低延迟系统应避免 INFO 级别日志：使用 Chronicle Queue 等内部记录机制替代传统日志，所有非必要日志默认关闭。

意义与影响

该案例对 Java 性能调优社区具有重要启示。它挑战了“垃圾回收器是延迟瓶颈”的常见假设，提醒开发者代码层面的内存分配和 I/O 行为才是更值得优先关注的环节。特别是在金融交易、实时流处理等对 p99.99 延迟敏感的场景中，一个看似无害的日志调用可能成为性能杀手。

同时，该研究强调了可观察性工具（如 JLBH）的价值，它能够精细量化不同优化手段对尾部延迟的影响，从而指导开发者做出基于数据的决策。此外，Chronicle-FIX 和 Chronicle Queue 的设计理念——用持久化队列替代日志，在低延迟场景下显著优于传统日志框架，值得其他系统借鉴。

最终，本文传递的核心信息是：性能调优应当从工作负载本身开始，而不是盲目依赖垃圾回收器的“银弹”。通过消除冗余、优化 I/O 路径，开发者不仅能获得更大的延迟收益，还能让垃圾回收器选择回归到最本质的依据——实际的工作负载特征。