ICML 2026 Spotlight Poster 精选汇总

背景

国际机器学习大会（ICML）是机器学习领域的顶级学术会议之一。2026年的ICML在首尔COEX会展中心举行。雷峰网（公众号：雷峰网）派出报道小组现场参会，从Poster展区的数千张学术海报中精选出最具代表性的研究成果，以“一张图 + 一段解读”的方式呈现。这份汇总旨在勾勒本届ICML的学术重心——从大模型可解释性到AI for Science，从具身智能到理论硬度的回归。以下精选Poster Session 1中的九篇Spotlight论文，涵盖生成模型、智能体系统、模型压缩、隐私保护、表格学习、神经形态计算等多个方向。

核心内容

1. Generative Modeling of Irregular Time Series via SDE-Induced Continuous-Discrete Variational Inference
   现实世界的时间数据常面临观测间隔不规则、数据点缺失的问题（如医疗监护、气候传感器、物联网设备）。传统生成模型难以处理此类不规则时间序列。该论文提出SDEVI框架，将连续时间的随机微分方程（SDE）与离散时间的观测分布统一到同一变分推理框架中。核心思路是用线性时变SDE诱导的变分后验作为推理骨干，直接对离散观测的联合分布建模，而非依赖对连续轨迹的近似插值。进一步引入非线性SDE诱导的变分推理，并将其推广至复数域，增强模型表达能力。在医疗、物理、气候、物联网等多个不规则时间序列基准上达到当前最优水平。

2. What Do Agents Learn from Trajectory-SFT: Semantics or Interfaces?
   Trajectory-SFT（轨迹监督微调）是训练LLM智能体的主流范式，但根本性问题悬而未决：智能体究竟是在理解工具的语义功能，还是仅仅记住了特定接口的操作模式？作者提出PIPE（Protocol-Level Evaluation）增强方法和IR（Interface Robustness）度量指标，从协议层面解耦语义使用与接口交互的评估。实验发现：Trajectory-SFT显著放大了智能体对接口捷径行为的依赖，且这种依赖呈现非单调的训练动态——训练越久，语义理解未必越深，接口记忆反而可能越牢。这项工作揭示了当前基准测试可能高估了智能体的真实能力。

3. MASpoB: Bandit-Based Prompt Optimization for Multi-Agent Systems with Graph Neural Networks
   多智能体系统（MAS）的提示优化面临搜索空间指数级膨胀的挑战。MASpoB从三个维度协同解决：引入基于UCB的Bandit框架，将每个智能体的提示视为“臂”，以探索-利用平衡策略高效筛选；通过图神经网络（GNN）集成捕获智能体拓扑结构诱导的提示耦合关系；坐标上升分解将联合搜索拆解为逐智能体迭代优化，将搜索复杂度从指数级降至线性级。在多个多智能体基准上实现当前最优性能。

4. LiftQuant: Continuous Bit-Width LLM via Dimensional Lifting and Projection
   大模型量化压缩通常只能在预设整数比特（如4-bit、8-bit）之间跳跃。LiftQuant提出“升维再投影”机制，让量化位宽变成可连续调节的参数。先将权重映射到更高维空间进行细粒度量化控制，再通过投影映射回原空间，完成准连续比特宽度适配。70B参数模型可精准压缩至2.4-bit，直接适配24GB GPU的显存限制。最终推理仍可通过线性变换加1-bit量化器完成，未引入复杂非线性运算。

5. TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention
   表格数据在工业界常见但现有基础模型推理开销随数据规模增长。TabSwift采用行级注意力机制，以行为单位组织注意力计算，大幅降低复杂度。配合门控稳定机制和可学习的注册令牌，保持表达力并增强训练稳定性。引入自适应逐层早退机制：简单样本浅层即可输出，复杂样本走完全部层。在分类与回归任务上与TabPFN v2和TabICL竞争力相当，推理效率大幅领先。

6. Variational Learning for Insertion-based Generation
   传统自回归生成模型从左到右逐词追加，排斥“中间插入”的生成方式。该论文从插入操作构建变分学习生成框架。建立插入轨迹与排列之间的双射对应关系，将插入过程映射到结构化排列空间。提出的IP（Insertion Process）模型联合学习三个核心决策：在哪里插入、插入什么内容、何时终止生成，原生支持变长序列生成。在目标条件规划和分子字符串生成任务上展现出更优的建模质量和泛化能力。

7. SlaClip: Gradient Norm Slacks can be Indicator for Adaptive Clipping in DP-SGD
   差分隐私随机梯度下降（DP-SGD）中裁剪阈值选择影响模型精度与隐私保证的平衡。SlaClip发现标准裁剪操作产生的“松弛量”（slack，即被裁剪梯度与裁剪阈值之差）可以作为自适应裁剪的自然指示器。当松弛量普遍偏大，说明裁剪阈值偏低需上调；反之则下调。SlaClip-DP-SGD与原始DP-SGD实例化相同的高斯机制，隐私代价完全等效，无需额外隐私预算。仅需极少超参数调优即可提升多种任务精度。

8. End-to-End Autoregressive Image Generation with 1D Semantic Tokenizer
   自回归图像生成传统上先训练视觉分词器将图像压缩为离散token，再在token序列上训练自回归模型，两阶段独立优化。该论文设计端到端联合训练流程，让图像重建和自回归生成在同一框架下协同优化，生成结果直接对分词器施加监督信号，梯度从生成端回传至编码端，使分词器学习更适合生成的表示。引入视觉基础模型增强1D分词器的语义表达能力。在ImageNet 256×256无条件生成任务上以FID 1.48创下无引导条件下的当前最优纪录。

9. SVL: Empowering Spiking Neural Networks for Efficient 3D Open-World Understanding
   脉冲神经网络（SNN）拥有能效优势（Speck芯片功耗0.7mW），但长期困于性能差距和缺乏多模态理解能力。SVL框架包含多尺度三元对齐（MTA）——通过无标签三元组对比学习对齐3D点云、图像和文本三种模态，让SNN获得跨模态语义一致性；可重参数化的视觉-语言集成（Rep-VLI）将离线文本嵌入转化为轻量级分类权重，推理时完全丢弃文本编码器。还提出首个全脉冲驱动的点云Transformer——Spike driven PointFormer，其3D-SDSA机制将注意力交互简化为稀疏加法运算。零样本3D分类达到85.4% Top-1准确率，在3D分类、DVS动作识别、检测、分割等下游任务上分别提升6.1%、2.1%、1.1%和2.1%，首次实现基于SNN的3D开放世界问答。在某些场景下以204倍能效优势实现与ANN可比性能。

关键要点

• 不规则时间序列生成：SDEVI通过SDE桥接连续与离散，在不规则时间序列生成上达到SOTA，为医疗、气候等实际数据提供新工具。
• 智能体能力本质：Trajectory-SFT训练的智能体倾向于记忆接口捷径而非理解语义，PIPE和IR评估方法揭示了当前基准的高估风险。
• 多智能体提示优化：MASpoB结合Bandit、GNN和坐标上升，将指数级搜索降为线性，使多智能体系统提示优化可行。
• 连续位宽量化：LiftQuant通过升维再投影实现准连续比特宽度量化，70B模型可压至2.4-bit适配24GB显存，保持硬件友好。
• 高效表格基础模型：TabSwift的行级注意力与早退机制，在保持性能同时大幅提升推理效率，推动表格模型规模化应用。
• 插入式生成：IP模型将插入操作与变分学习结合，支持变长序列生成，为编辑式生成提供理论框架。
• 自适应隐私裁剪：SlaClip利用裁剪松弛量自适应调整阈值，无需额外隐私代价，简化DP-SGD调参。
• 端到端图像生成：联合训练分词器与生成模型，分词器学习生成友好表示，实现无引导条件下FID