1-Bit Bonsai Image 4B：让本地设备运行高质量图像生成的突破

背景

当前，基于扩散模型（Diffusion Models）的图像生成技术虽然取得了巨大进展，但其部署往往受限于巨大的内存和算力需求。对于参数量在 4B（40亿）级别的现代图像模型而言，扩散 Transformer 是模型中最大的组成部分，且在生成过程中需要反复调用。这种架构导致了极高的内存压力、带宽需求以及推理延迟，使得此类高性能模型通常只能运行在云端服务器或拥有强大 GPU 的高端工作站上。

然而，图像生成本质上是一个高度迭代的创作过程。用户很少只生成一张图片，而是需要不断修改提示词、比较输出结果、生成变体或重试失败案例。如果每次尝试都依赖云端 API，不仅会产生边际服务成本，还会引入往返延迟，严重阻碍创作流畅度。此外，对于隐私敏感的应用场景，数据必须留在本地。

因此，行业面临着一个核心矛盾：如何在保持模型生成质量的同时，将庞大的模型压缩到足以在笔记本电脑、平板电脑甚至智能手机等本地设备上运行的规模？PrismML 团队推出的 Bonsai Image 4B 正是为了解决这一部署难题而生。

核心内容

Bonsai Image 4B 是一个专为本地硬件设计的紧凑型图像生成模型家族，旨在从笔记本电脑到手机等设备上实现高质量的扩散推理。该模型基于 FLUX.2 Klein 4B 架构，保留了原有的架构完整性，但彻底改变了 Transformer 权重的表示方式，通过引入极低比特（Low-bit）量化技术，大幅降低了模型体积。

两种变体设计

Bonsai Image 4B 提供两种主要变体，分别针对极致压缩和质量保留进行了优化：

1. 1-bit Bonsai Image 4B（极致压缩版）

   • 技术原理：使用二元权重 {−1, +1}，并配合 FP16 的组-wise 缩放因子。
   • 精度：每个权重有效位数为 1.125 bit。
   • 定位：针对内存压力、带宽限制和部署体积为主要约束的场景。
   • 体积：扩散 Transformer 部分仅为 0.93 GB，相比全精度 FLUX.2 Klein 4B（7.75 GB）减少了约 8.3 倍。

2. Ternary Bonsai Image 4B（质量优化版）

   • 技术原理：使用三元权重 {−1, 0, +1}，同样配合 FP16 的组-wise 缩放因子。
   • 精度：每个权重有效位数为 1.71 bit。
   • 定位：额外的“零”状态赋予了模型更多的表示灵活性，从而在保持极小体积的同时提升视觉质量和提示词遵循度。
   • 体积：扩散 Transformer 部分为 1.21 GB，相比全精度模型减少了约 6.4 倍。

部署性能与硬件支持

为了验证其本地部署能力，研究团队对包括文本编码器和 FP16 VAE 在内的完整部署负载进行了测量：

• 总部署负载：
  • 1-bit 变体：3.42 GB
  • Ternary 变体：3.88 GB
  • 对比：全精度 FLUX.2 Klein 4B 需要 15.97 GB。
• 运行时平均内存占用：
  • 由于文本编码器在提示词编码后会被卸载，实际运行时内存远低于总负载。
  • 生成 512x512 图像时，1-bit 模型平均活跃内存为 1.5 GB，Ternary 模型为 1.96 GB，而原模型需 11.74 GB（分别减少 7.8 倍和 6.0 倍）。
  • 生成 1024x1024 图像时，1-bit 模型平均活跃内存为 1.95 GB，Ternary 模型为 2.38 GB，而原模型需 14.39 GB（分别减少 7.4 倍和 6.0 倍）。

硬件兼容性： 部署栈支持 Apple Silicon（iPhone、iPad、Mac）和 CUDA GPU。在 Apple 硬件上使用 MLX 的低比特路径，在 CUDA 上使用 Gemlite 的低比特 GEMM 内核。值得注意的是，全精度的 FLUX.2 Klein 4B 无法在 iPhone 17 Pro Max 的内存预算内运行，而 Bonsai Image 的两个变体均可在设备端直接运行。

推理速度：

• 在 iPhone 17 Pro Max 上生成 512x512 图像需 9.4 秒。
• 在 Mac M4 Pro 上生成 512x512 图像需约 6 秒，比标准的 MFLUX 全精度管道快多达 5.6 倍。

基准测试表现

压缩不能以牺牲实用性为代价。团队通过三个互补的基准测试评估了模型质量：

• GenEval：评估对象组合和属性绑定能力。
• HPSv3：评估人类偏好和美学质量。
• DPG-Bench：评估密集提示词遵循度和语义忠实度。

结果对比：

• Ternary Bonsai Image 4B：作为质量导向变体，在 Transformer 体积减少 6.4 倍的情况下，在 GenEval、HPSv3 和 DPG-Bench 上保留了 FLUX.2 Klein 4B 95% 的准确率。
• 1-bit Bonsai Image 4B：作为体积导向变体，在 Transformer 体积减少 8.3 倍（低于 1 GB）的情况下，保留了 FLUX.2 Klein 4B 88% 的准确率，并在三项评估中均表现强劲。

这表明 Bonsai Image 在保持与现代 4B 级图像模型竞争力的同时，使用了其分数之一的扩散 Transformer 体积，并在相同内存 footprint 下显著优于更小的模型。

关键要点

• 开创性本地部署：据团队所知，Bonsai Image 4B 是首个能在 iPhone 上直接运行的同参数级别图像生成模型，标志着图像生成进入新的部署范式。
• 极致的压缩效率：通过二元（1-bit）和三元（Ternary）权重表示，扩散 Transformer 部分的体积分别缩减了 8.3 倍和 6.4 倍，使得总部署负载降至 3.42 GB - 3.88 GB 区间。
• 质量与体积的平衡：
  • Ternary 变体在仅增加少量体积的情况下，保留了原模型 95% 的质量指标。
  • 1-bit 变体在极致压缩下仍保留 88% 的质量指标，实现了“质量-体积”前沿的突破。
• 硬件友好性：支持 Apple Silicon 和 CUDA 平台，利用 MLX 和 Gemlite 等专用低比特内核优化推理速度。在 Mac M4 Pro 上推理速度比全精度版本快 5.6 倍。
• 开源协议：两种变体均将开放权重和代码，采用 Apache 2.0 许可证发布。
• 配套应用：同步发布 Bonsai Studio iOS 应用，允许用户直接在 iPhone 上体验 Bonsai Image 4B。

意义与影响

Bonsai Image 4B 的发布不仅仅是一个模型压缩技术的胜利，更是对图像生成应用形态的一次重构。

1. 打破云端依赖，重塑用户体验 传统的云端生成模式将每次提示词迭代转化为远程请求，带来了延迟和成本。本地推理使得生成过程可以直接嵌入产品体验中，降低了运行成本，加快了迭代速度，并消除了往返延迟。对于需要频繁调整提示词、比较不同变体的创意工作者而言，这种即时反馈循环至关重要。

2. 隐私与数据主权 本地部署意味着提示