← 返回信息流
AI 资讯雷峰网·3 小时前

35B模型塞进32GB内存,智能体PC挑战端侧部署极限

原标题:把35B模型塞进32GB内存,智能体PC如何挑战端侧部署的「物理极限」?

速览

2026年4月英特尔提出智能体PC概念,两个半月后七家合作伙伴推出覆盖办公、娱乐等场景的应用。但用户使用门槛高,多数人不知如何使用桌面智能体。英特尔和ISV通过MoE专家卸载、端云混合等方案降低硬件成本,使35B模型可在32GB内存设备上运行,并将Token消耗成本降低69%。端侧部署从“不可能”走向“可落地”,但仍需生态持续建设。

AI 深度解读

背景

2026年4月,英特尔正式提出“智能体PC”概念,描绘了一套关于AI PC未来形态的架构。两个半月后,七家合作伙伴——QClaw、Flowy、remio、TRAE、DuMate、YOYO Claw、Marvis——带着覆盖办公、娱乐、教育、游戏四个场景的具体产品亮相。这一速度体现了AI落地的紧迫性,但同时也暴露出行业在落地深度上的困惑:用户是否真正用了起来?应用是否经得起日常消耗?英特尔中国区技术部总经理高宇坦言:“智能体PC依然是一个新生的概念,出现市场困惑是正常的。”

核心内容

从概念到产品:落地速度与困惑并存

2026年初,OpenClaw的爆火让“桌面智能体”首次进入公众视野,但大多数普通用户从未亲自部署过。交互方式的门槛是核心障碍——几乎所有AI产品都给用户一个空白对话框。QClaw产品经理孙桦阳描述典型场景:“多数的用户面临的问题是用不起来,一个简单的对话框放在他们面前,更多的时候,用户就是在上面问一下天气,查一下科技资讯。”荣耀YOYO Claw发布两个月积累约100万用户后,听到最多的声音是“有很大一批人都不知道什么是龙虾”。一个连概念都不知道的用户群体,很难主动探索空白对话框的可能性。

降低门槛:从“用户学AI”到“AI适应用户”

ISV们将降低门槛视为首要任务。Marvis选择了最通俗的方式:在产品负责人王秋阳的分享中,他们在系统里出厂预置了六个“小牛马”,各自分工——有的管文件、有的管应用、有的管系统设置。用户不需要理解MCP、专家、Skills等技术概念,整套东西被包装成一条故事线:“你雇佣你的'小牛马'在办公室给你干活”。实际使用中,有人电脑总熄屏却找不到设置开关,用Marvis调整了选项;有人键盘快捷键错乱,Marvis判断出是键盘布局错误并修正。高宇描述这种转向的终点形态:“不能老让用户做问答题,而是让用户可以做选择题。未来的终极形态,是用户一打开设备,面对的是极其熟悉、符合直觉的引导式界面。”

成本账:端云混合是商业逻辑的必然

当前AI行业出现“免费送Token”的奇怪现象,用户用尽一家额度就注册下一家。核心矛盾在于云端推理有成本——服务器、电费、带宽、运维——免费烧不出商业模式,收费又赶跑用户。英特尔提出了“微笑曲线”:曲线右端是重度依赖云端API的方案,初期硬件门槛低,但长期面临Token费用高的“高墙”;曲线左端是试图在本地部署大模型的方案,硬件成本高(动辄上万或两万以上的整机价格)。唯一的通路是端云混合——简单任务本地完成,复杂任务上云。ISV数据印证了这一点:remio创始人汪源算账显示,开会场景中全云端方案80%成本消耗在语音转文字环节,而通过本地ASR模型,不仅保护隐私,还能直接砍掉80%成本。英特尔技术团队对SuperClaw路由机制的实测表明,将复杂流程中五个子任务中的四个分配给本地处理,节省了43%的推理时间和69%的推理成本。

硬件降成本:让端云混合落在主流价位

为了让端云混合的商业逻辑成立,硬件必须不能太贵。英特尔酷睿Ultra 325处理器主打“平衡之选”——100 TOPS平台AI算力,性能达到旗舰级358H平台的70%以上,但价格面向主流市场。MoE专家卸载技术是降成本的关键:大语言模型参数量巨大,但MoE模型每步推理只激活一小部分“专家”。英特尔把“冷专家”放到AI SSD高速分区,只将“热专家”留在内存里。实测显示,在32K超长窗口场景下,内存节省超过30%,首Token性能损失小于10%,解码阶段TPS几乎无损。这意味着32GB内存机器就能流畅运行35B的MoE模型,无需升级到64GB或128GB。高宇明确目标:“让用户在主流的24G或32G内存配置上,就能跑得动35B的MoE模型,而且还能把上下文窗口开到128K到256K。”

生态建设:“水利万物而不争”

硬件经济账算清后,需要生态持续提供服务。高宇用五个字概括英特尔的生态哲学:“水利万物而不争。”实际行动是“种树”——扎根芯片和底层技术,让枝叶自己长出来。英特尔提出“智能体PC必备的七种模型能力”:ASR、OCR、TTS、CV/VLM、LLM、Image Gen、Omni,构成完整基座,ISV无需从零摸索。响应速度方面,从4月21日提出概念到7月7日集中亮相,几乎在一个半月内密集发生。高宇描述:“大家常说'下午拍板,晚上开干'。”具体优化成果包括:remio通过英特尔算力平台将OCR识别速度提升3倍、ASR转写做到“1小时音频不到2分钟”;百度DuMate在酷睿Ultra平台上完成OCR和35B模型的端侧部署;QClaw的本地模型推荐机制根据用户设备参数直接计算最优方案。技能广场、模型路由框架、MoE卸载技术等底层能力正在标准化和产品化。

关键要点

  • 用户门槛:空白对话框是主要障碍,用户只会问天气或查资讯,难以主动探索复杂功能。
  • 降低门槛策略:Marvis用“六个小牛马”的故事线替代技术术语,让用户无需理解MCP、专家、Skills即可使用。
  • 成本矛盾:纯云端方案有Token费用高墙,纯本地方案有硬件成本高墙,端云混合是唯一商业通路。
  • 端云混合效果:本地ASR可砍掉80%会议场景成本;SuperClaw路由节省43%推理时间和69%成本。
  • 硬件降成本:酷睿Ultra 325平衡性能与价格;MoE专家卸载技术让32GB内存跑35B模型,内存节省超30%,性能损失极小。
  • 生态协作:英特尔提供七种模型能力底座,ISV无需重复造轮子;响应速度快,一个半月内密集落地。
  • 具体优化成果:remio OCR速度提升3倍、ASR 1小时音频不到2分钟;百度DuMate端侧部署OCR和35B模型;QClaw自动推荐本地模型。
  • 未来挑战:用户能否形成使用习惯、硬件成本能否持续下探、技术迭代能否跟上ISV需求,是生态持续运转的关键。

意义与影响

英特尔“智能体PC”概念的提出及七家合作伙伴的集中亮相,标志着AI PC从架构蓝图走向具体产品落地的关键一步。其意义体现在三个方面:

第一,交互范式从“用户适应AI”向“AI适应用户”转变。 过去AI产品要求用户学习操作(如空白对话框、技术术语),而Marvis的“小牛马”等设计表明,通过故事化、角色化的交互,普通用户无需理解背后技术即可投入生产场景。这一转向有望大幅降低AI在非技术人群中的普及门槛。

第二,端云混合架构为AI商业闭环提供可行路径。 通过本地处理大部分简单任务、云端处理复杂任务,总拥有成本从“无法预估”变得“可以计算”。MoE专家卸载技术让35B模型在主流32GB内存设备上流畅运行,降低了硬件溢价对用户的排斥效应。这一模式可能成为未来消费级AI终端的标准架构。

第三,平台方与ISV的协作模式加速了生态成熟。 英特尔以“水利万物而不争”的姿态,提供七种模型能力底座、工具框架和快速响应支持,让ISV专注于场景创新。七家合作伙伴在三个月内覆盖办公、娱乐、教育、游戏四个场景,证明了这种“种树”策略的效率。然而,真正的考验在于用户能否从尝鲜阶段迈向日常依赖,以及生态能否在商业持续性上证明自己。若这些应用能经得起高频消耗并形成口碑,智能体PC有望成为继智能手机之后的下一个计算平台变革。

查看原文 →leiphone.com