高通徐晧:端侧AI架构创新应对智能体需求
速览
高通全球副总裁徐晧在WAIC端侧AI论坛发表演讲,强调智能体AI对终端计算架构带来范式变革,设备所需Token量从万级增至百万级。他介绍了高通针对智能体打造的新一代设备架构,包括传感器中枢、NPU和连接能力,并指出端侧模型未来一两年内可达云端模型同等功能。高通已与面壁智能等合作伙伴在端侧模型领域开展合作,推动从感知AI到生成式AI再到物理AI的演进。
AI 深度解读
背景
2026年世界人工智能大会(WAIC)期间,高通公司全球副总裁、中国区研发负责人、IEEE Fellow徐晧博士出席“端侧AI创新和行业发展论坛”,并发表题为《智能体AI时代:计算架构与模型效率的持续创新》的主题演讲。随着生成式AI向智能体(Agent)方向演进,终端设备的计算需求正从单轮对话向多轮交互、智能体调度快速升级,所需Token处理量呈十倍级递增,端云协同成为关键。高通作为移动芯片与通信技术领导者,正从硬件、软件、算法及生态合作层面,推动面向智能体AI的新一代端侧计算架构创新。
核心内容
徐晧博士在演讲中系统阐述了端侧AI的广阔前景以及智能体浪潮对终端计算架构带来的范式变革。他指出,手机等终端的交互方式已从简单单轮对话逐步演进到多轮对话,并进一步迈向智能体调度,每个阶段所需的Token量从1万级增长到10万级,再到100万级,因此端云协同处理至关重要——端侧小模型负责隐私性强、需实时处理的任务,云端大模型处理深度推理与规划。未来,随着硬件算力提升和模型压缩优化,越来越多的大模型将以小模型形式迁移到端侧运行。
从硬件设计角度,徐晧强调了四大难点:一是需要全新的CPU来承担智能体手机的复杂任务规划与控制;二是需要低功耗的传感器中枢,能够24小时感知环境并主动提供服务(如检测到用户身处会场时自动静音,进入座舱时调节温度与座椅);三是需要强大的NPU,以高效处理2B到3B量级的端侧模型;四是需要出色的5G或6G连接能力,实现端侧、云端和边缘云的协同。
高通的具体硬件方案包括:高通传感器中枢,为智能体提供持续情境感知数据,构建个人知识图谱;NPU,为端侧20亿、30亿参数mini CPM等大模型提供流畅运行算力;最新旗舰移动平台第五代骁龙8至尊版,以及具备更强算力的座舱芯片,可支持车上稳定运行百亿以上参数的大模型。展望未来,高通正从感知AI、生成式AI、智能体AI向物理AI演进,重点推进从小模型到多功能大模型的转变,并在算法层面进行模型压缩与量化、长上下文处理、端侧持续学习等适配工作。此外,高通正从汽车芯片向机器人芯片拓展,将二维规划升级为对三维真实世界的理解,并与面壁智能等合作伙伴在手机、车等多终端端侧模型领域深度合作。
关键要点
- 端侧AI应用市场前景广阔,手机等终端设备数量达数十亿量级,但与数据中心训练相比,端侧AI常被忽视。
- 手机交互从单轮对话(~1万Token)到多轮对话(~10万Token)再到智能体调度(~100万Token),Token处理量以十倍递增,端云协同是当前最优解。
- 端侧模型在未来1-2年内可达与几十倍算力的云端模型同等功能,大模型将逐步迁移到端侧以小模型形式出现。
- 面向智能体手机的硬件设计四大难点:CPU任务规划与控制、低功耗传感器中枢(24小时环境感知)、NPU高效运行2B-3B模型、5G/6G端云协同连接。
- 高通传感器中枢为智能体提供持续情境感知数据,构建个人知识图谱;NPU可流畅运行20亿、30亿参数mini CPM等端侧模型。
- 第五代骁龙8至尊版与座舱芯片分别支持手机侧和车载侧的端侧运算,座舱芯片可稳定运行百亿以上参数大模型。
- 高通AI演进路线:感知AI → 生成式AI → 智能体AI → 物理AI,算法层面重点推进模型压缩量化、长上下文增强、端侧持续学习。
- 从汽车芯片到机器人芯片的演进:需要将二维规划升级为三维真实世界理解,并适配更多复杂应用场景。
- 高通与面壁智能在手机、车等多终端已有深度合作,并持续联合推进端侧模型应用发展。
意义与影响
徐晧博士的演讲揭示了高通在智能体AI时代的关键战略布局:通过重新定义终端计算架构,将AI能力从云端下沉到设备端,以应对智能体场景对实时性、隐私性和低延迟的刚性需求。这一方向不仅推动了移动芯片、传感器中枢、NPU等硬件升级,也促进了模型压缩、量化、长上下文处理等算法创新,有望加速AI从“云端依赖”向“端云协同”的范式转变。
对于行业而言,高通的端侧AI方案为手机、汽车、机器人等终端提供了可落地的智能体能力基础,降低了数据传输成本和对云端算力的依赖,同时增强了用户隐私保护。与面壁智能等中国AI企业的合作,体现了高通在端侧模型生态上的开放态度,有助于推动本土化适配与创新。从更长远看,物理AI的引入将使得终端设备不仅能理解语言,还能感知三维空间和物理世界,这为自动驾驶、机器人、智能家居等场景提供了新的技术路径,进而重塑人与设备的交互方式。
