Fable 5装进MacBook还需多久

背景

“把 Fable 5 装进 MacBook，还要多久”——这个问题的出现，本身就是一个信号。过去，人们讨论前沿模型时，话题通常是“它有多强”、“它比竞品快多少”、“它能取代什么工作”。但这一次，话题变成了“它能不能跑在端侧”。这说明，端侧 AI 已经从行业术语变成了大众期待。

Fable 5 是 Anthropic 第一个 Mythos 级的公开模型，拥有 100 万 token 上下文窗口，专为长时间异步任务设计，跑在 AWS 和 Google Cloud 的数据中心里。它离端侧设备之间隔着的不是一代芯片，而是好几个数量级的算力、功耗和模型压缩难题。Fable 5 原定下线，后被延长，此后订阅用户不再能用套餐限额体验。这一事件提醒了另一件事：如果你不拥有硅和权重，高可用性就是个幻觉。

核心内容

从发布参数到发布架构：硬件厂商全面转向

如果过去两年端侧 AI 的主题是“宣布”，今年的主题变成了“重构”。芯片厂商不再满足于在发布会 PPT 上标一个 NPU 算力数字，而是开始围绕本地 AI 推理重新设计整个硬件架构。

高通：将“个人 AI 终端”写入公司战略。 6 月 25 日，高通给出了让华尔街重新评估这家公司的数字：2029 财年非手机业务收入目标上调到 400 亿美元，约为此前目标的两倍。CFO Akash Palkhiwala 的表述更直接：“到 2029 年，手机将只占我们芯片收入的三分之一。”支撑这个目标的硬件基础是已经进入第二代的骁龙 X2 系列。X2 Elite 的 Hexagon NPU 做到了 80 TOPS 的 AI 算力，最高 18 核 CPU、228GB/s 内存带宽、128GB 统一内存的配置，已经不是“能跑 AI 的笔记本”，而是“为 AI 设计的笔记本”。比芯片本身更值得关注的是系统级布局：骁龙 START 计划将芯片、AI 软件栈、合作伙伴网络打包成模块化方案，首批落地的品类是智能眼镜。高通的愿景叫 “The Ecosystem of You”——不是你在不同设备上打开不同的 AI，而是同一个 AI 追着你走。

苹果：打破芯片迭代节奏，押注 AI。 根据彭博社 Mark Gurman 爆料，苹果正在做出自 2020 年 Apple Silicon 发布以来最大的一次路线图调整——跳过 M6 Pro 和 M6 Max，直接押注 2027 年的 AI-focused M7。这意味着苹果内部判断端侧 AI 的需求已经紧迫到等不及按常规节奏迭代。M6 基础版的内存带宽预计 200GB/s，M7 目标 240GB/s。统一内存架构让 CPU、GPU 和 Neural Engine 共享同一个内存池，天然适合大模型推理。M5 开始在每个 GPU 核心内置了 Neural Accelerator，AI 不再是一个独立的协处理器功能，而是分布在整个芯片的每一处计算单元里。在 Gurman 看来，这是苹果正在“加速推进”，因为 M7 拥有“支持端侧 AI 和 GPU 密集型软件的技术”——不是“支持 AI 功能”，是“支持端侧 AI”。

英伟达：从另一个方向杀入，把本地 AI 变成可定价的硬件品类。 售价 4699 美元的 DGX Spark 搭载 Grace Blackwell 超级芯片，128GB 统一内存，1 PFLOP 的 FP4 AI 算力，定位为“个人 AI 超级计算机”。今年 6 月的 GTC 台北，老黄又发布了更轻量的 RTX Spark，目标是把 AI 原生 PC 推向更薄的笔记本形态。DGX Spark 负责桌面级重度推理，RTX Spark 负责轻薄本，RTX PRO 负责专业创作，全方位出击。

向设备弯腰：模型也在反过来适应硬件

硬件在追 AI，模型也在反过来适应硬件。

Google DeepMind 发布 Gemma 4。 这是来自 Gemini 3 研究、Apache 2.0 许可的开放模型家族。五个参数规格一字排开，从只在 5GB 内存就能跑的 E2B，到对标 70B 级能力的 31B 密集模型，构成了从手机到个人电脑的完整产品线。最引人注目的是那些“小”模型：E2B 和 E4B 在 4-bit 量化下只需要 4-5GB 内存，可以在没有 GPU 的普通笔记本甚至手机上跑；12B 模型在 8GB 内存设备上就能运行，同时支持文本、图像和音频多模态输入；26B-A4B 是 MoE 架构，30GB 内存就能跑到 30+ tokens/s。Google AI Edge 团队专门写了一篇博客展示如何把 Gemma 4 12B 部署到日常笔记本上做 agentic 工作流。

阿里 Qwen3.6 让更大的模型对本地更友好。 Qwen3.6-27B 是一个 27B 参数的密集模型，100 万 token 上下文窗口，被 MindStudio 评为 2026 年最佳开源 agentic coding 模型。Reddit 上已有开发者搭建了“Qwen3.6 35B + llama.cpp + RTX 5090”的本地 agentic coding 方案。Qwen 的策略不是在参数规模上跟云端模型硬拼，而是用 MoE 和架构优化，把接近前沿的能力塞进本地可承受的硬件边界里。

面壁智能 MiniCPM 系列为手机和边缘设备设计。 MiniCPM-V 4.6 只有 1.3B 参数，专为端侧多模态设计，能处理单图、多图和视频理解，可以在 iPhone、Android 和鸿蒙手机上直接运行，Apache 2.0 开源。1.3B 的参数数字放在云端模型旁边几乎可以忽略，但它在 OCR、文档理解和视觉推理上的表现已经可以跟 7B 级的模型竞争。MiniCPM5-1B 则更激进——1B 级的密集模型，把目标用户从“AI 开发者”扩展到了“普通消费者”。Nature Communications 上发表的论文评价其为“迈向在边缘设备上部署 GPT-4V 级多模态能力的关键一步”。

代价与账单

本地 AI 不是免费的。你可能省掉了订阅费，但要为高内存带宽、大容量统一内存和高算力 NPU 支付更高的硬件溢价。

• 硬件溢价：M5 Max 从 36GB 到 128GB 内存的差价是数千元人民币，而且这条价格曲线只会更陡。
• 功耗墙：骁龙 X2 Elite 的 NPU 满负荷 80 TOPS 时，无风扇轻薄本的体验会打折。英伟达的 DGX Spark 本身就是一台需要主动散热的桌面设备。“能跑大模型”和“续航不崩”之间，大概率是一个二选一。
• 生态锁定：苹果的 Neural Engine 只能在 macOS 生态内发挥最大效能，Windows AI PC 的 Copilot+ 绑定了骁龙 NPU 和安全芯片，Google 的 AI Edge Gallery 是 Gemma 在安卓上的最佳路径。每家用硬件能力筑自己的围墙。
• 更新速度：云端模型迭代已经是月级，本地部署依赖推理框架适配、量化工具链成熟以及用户主动更新。否则，买回家的设备跑的可能还是上个季度的模型。
• 隐私新问题：本地 AI 意味着一个系统级的模型能读到你的文件、照片、屏幕、日程和邮件。当 AI 从云端的匿名请求变成你设备上“什么都能看见”的常住程序，“本地 = 安全”这个等式不再自动成立。

2028 年的预测

• 高端电脑：本地运行强写作、代码、文档和图片理解模型将成为常态。本地 RAG、会议摘要、文件搜索和私有知识库真正可用。“这台设备能跑什么模型”会成为和“这台设备屏幕多大”一样自然的购机参数。
• 手机端：多模态助手在相册搜索、语音翻译、智能摘要上明显变强。
• 中远距离：接近 GPT-5 或 Claude 4 水平的开放模型，有可能通过量化、MoE