7 月 7 日,机器学习领域最具影响力的顶级学术会议 ICML 2026 进入正会第一天。本次大会共接收 6352 篇论文,其中 Spotlight 论文 536 篇(占投稿总数的 2.2%),Oral 论文 168 篇 (仅占投稿总数的 0.7 %)。今年的论文再次汇聚了从生成模型到隐私保护、从智能体评估到模型压缩、从脉冲神经网络到视觉分词器的多元前沿探索,在投稿量较去年翻倍、评审标准经历深刻 " 重新校准 " 的背景下,这些脱颖而出的论文无疑是本届会议最值得关注的学术精华。
雷峰网已派出报道小组赴首尔 COEX 会展中心参会。在会议现场,我们从 Poster 展区的数千张学术海报中精选出最具代表性的研究成果,以 " 一张图 + 一段解读 " 的方式呈现给未能亲临现场的读者。
这份汇总不仅是一次视觉巡礼,更试图为你勾勒出本届 ICML 的学术重心——从大模型可解释性到 AI for Science,从具身智能到理论硬度的回归,我们希望这些现场捕捉的瞬间,能帮助你快速感知机器学习前沿正在发生什么。
以下精选 Poster Session 1 九篇 Spotlight 论文,一文看尽 AI 研究最值得关注的方向。(如果你也想让你的研究成果出现在这里,请与我们联系):
1. 用随机微分方程打通不规则时间序列的生成之路
Generative Modeling of Irregular Time Series via SDE-Induced Continuous-Discrete Variational Inference
现实世界的时间数据远比理想中 " 均匀采样 " 的假设更复杂,比如医疗监护的生理信号、气候传感器的环境读数、物联网设备的监测日志,观测间隔不规则、数据点时有缺失,传统生成模型对此束手无策。
这篇论文直面这一难题,提出 SDEVI 框架,将连续时间的随机微分方程(SDE)与离散时间的观测分布统一到同一变分推理框架之下。
SDEVI 的核心思路是用线性时变 SDE 诱导的变分后验作为推理骨干,直接对离散观测的联合分布建模,而非依赖对连续轨迹的近似插值。在此基础上,作者进一步引入非线性 SDE 诱导的变分推理,并将其推广至复数域,显著增强了模型的表达能力。
在医疗、物理、气候、物联网等多个不规则时间序列基准上,SDEVI 均达到当前最优水平。这项工作在 SDE 理论离散观测建模之间建立了扎实桥梁,为不规则数据的生成与分析开辟了新路径。

2. 智能体到底学到了什么——语义理解还是接口捷径?
What Do Agents Learn from Trajectory-SFT: Semantics or Interfaces?
Trajectory-SFT(轨迹监督微调)是当前训练 LLM 智能体的主流范式,但一个根本性问题始终悬而未决:经过轨迹微调的智能体,究竟是在理解工具的语义功能,还是仅仅记住了特定接口的操作模式?这篇论文给出了令人警醒的答案——两者被严重混淆了。
作者提出 PIPE(Protocol-Level Evaluation)增强方法和 IR(Interface Robustness)度量指标,从协议层面解耦语义使用与接口交互的评估。实验揭示了一个关键现象:Trajectory-SFT 显著放大了智能体对接口捷径行为的依赖,且这种依赖呈现出非单调的训练动态——训练越久,语义理解未必越深,接口记忆反而可能越牢。
这项贡献的意义不止于发现问题。PIPE 和 IR 为智能体评估提供了原则性框架,迫使研究者正视一个事实:当前基准测试可能高估了智能体的真实能力,未来需要在语义理解与接口适应性之间划出清晰的界限。

3. 多智能体提示优化:从指数爆炸到线性搜索
MASpoB: Bandit-Based Prompt Optimization for Multi-Agent Systems with Graph Neural Networks
多智能体系统(MAS)的提示优化面临一个看似不可逾越的障碍:每增加一个智能体,提示组合的搜索空间就指数级膨胀,传统优化方法几乎无力应对。MASpoB 从三个维度协同攻克这一难题。
首先,作者引入基于 UCB 的 Bandit 框架,将每个智能体的提示视为一个 " 臂 ",以探索 - 利用的平衡策略高效筛选候选提示。其次,通过图神经网络(GNN)集成捕获智能体拓扑结构诱导的提示耦合关系——不同智能体的提示并非独立生效,而是在协作拓扑中相互影响。最后,坐标上升分解将联合搜索拆解为逐智能体迭代优化,将搜索复杂度从指数级降至线性级。
三者合力,MASpoB 在多个多智能体基准上实现了当前最优性能。这项工作证明:即使搜索空间看似爆炸性增长,结构化的优化策略仍能让提示优化变得切实可行。

4. 把 70B 模型塞进 24GB 显卡——连续位宽量化的维度提升之道
LiftQuant: Continuous Bit-Width LLM via Dimensional Lifting and Projection
大模型量化压缩一直是工程落地的关键瓶颈,但现有方法大多只能在预设的整数比特(如 4-bit、8-bit)之间跳跃,无法灵活适配不同硬件的内存约束。LiftQuant 提出了一种 " 升维再投影 " 的精巧机制,让量化位宽变成可连续调节的参数。
具体而言,LiftQuant 先将权重映射到更高维空间进行 " 维度提升 ",在高维空间中实现细粒度的量化控制,再通过 " 投影 " 将结果映射回原空间,完成准连续比特宽度的适配。这一机制使得 70B 参数模型可以精准压缩至 2.4-bit,直接适配 24GB GPU 的显存限制,这对实际部署而言意义巨大。
更值得注意的是,LiftQuant 在追求灵活位宽的同时保留了硬件友好的解码路径:最终推理仍可通过线性变换加 1-bit 量化器完成,没有引入复杂的非线性运算。在精度与效率之间,这项工作找到了一个优雅的平衡点。

5. 表格数据的新范式——行级注意力让基础模型更轻更快
TabSwift: An Efficient Tabular Foundation Model with Row-Wise Attention
表格数据是工业界最常见也最被低估的数据形态。现有表格基础模型如 TabPFN v2 和 TabICL 虽表现不俗,推理开销却随数据规模急剧增长。TabSwift 从架构设计层面重新审视这一问题,提出了一套轻量且高效的新方案。
TabSwift 的核心是行级注意力机制。不再对整表做全局注意力,而是以行为单位组织注意力计算,大幅降低计算复杂度。配合门控稳定机制和可学习的注册令牌(registration tokens),模型在保持表达力的同时获得了更强的训练稳定性和信息聚合能力。更巧妙的是,TabSwift 引入了自适应逐层早退机制:简单样本在浅层即可输出结果,复杂样本才走完全部层,推理效率因此显著提升。
在分类与回归双任务上,TabSwift 与 TabPFN v2 和 TabICL 竞争力相当,推理效率却大幅领先。行级注意力 + 早退机制的组合,为表格基础模型的规模化应用铺平了道路。

6. 插入而非追加——变分学习让变长生成更自然
Variational Learning for Insertion-based Generation
传统自回归生成模型从左到右逐词追加,逻辑清晰却天然排斥了 " 中间插入 " 这种更符合人类思维习惯的生成方式。这篇论文另辟蹊径,从插入操作出发构建了一套完整的变分学习生成框架。
作者首先建立了插入轨迹与排列之间的双射对应关系,将看似无序的插入过程映射到结构化的排列空间,为变分推断提供了理论基础。在此基础上提出的 IP(Insertion Process)模型,联合学习了三个核心决策:在哪里插入、插入什么内容、何时终止生成——三者协同,使模型原生支持变长序列生成,无需借助外部长度预测模块。
在目标条件规划和分子字符串生成两类任务上,IP 模型均展现出更优的建模质量和泛化能力。这项工作为变长生成提供了一个理论扎实、实现简洁的新范式:生成也可以像编辑一样灵活。

7. 差分隐私训练的自适应裁剪:零额外隐私代价的秘密
SlaClip: Gradient Norm Slacks can be Indicator for Adaptive Clipping in DP-SGD
差分隐私随机梯度下降(DP-SGD)是隐私保护训练的标准方法,但其裁剪阈值的选择直接影响模型精度与隐私保证的平衡。阈值过大则噪声不足,阈值过小则信号丢失。现有自适应裁剪方案往往引入额外的隐私代价,让问题变得更加棘手。
SlaClip 发现了一个被长期忽视的信号:标准裁剪操作本身产生的 " 松弛量 "(slack),即被裁剪梯度与裁剪阈值之间的差值——恰好可以作为自适应裁剪的自然指示器。当松弛量普遍偏大,说明裁剪阈值偏低,需要上调;反之则需下调。SlaClip-DP-SGD 与原始 DP-SGD 实例化相同的高斯机制,隐私代价完全等效,无需额外隐私预算。
仅需极少超参数调优,SlaClip 即可在多种任务上提升模型精度。这项工作的贡献不止于方法本身,更在于揭示了一个朴素却深刻的洞察:裁剪操作的副产品本身就是最好的裁剪指南。

8. 端到端联合训练——图像生成告别 " 两阶段 " 旧范式
End-to-End Autoregressive Image Generation with 1D Semantic Tokenizer
自回归图像生成长期遵循一个 " 先分词、再生成 " 的两阶段范式:先训练视觉分词器将图像压缩为离散 token,再在 token 序列上训练自回归模型。这两步各自优化、互不干涉,分词器只为重建质量服务,却未必适合下游生成任务,因为生成阶段的损失信号无法反传回分词器,导致其学到的表示对自回归建模可能并不理想。
这篇论文打破了这一传统,设计了端到端的联合训练流程,让图像重建和自回归生成在同一框架下协同优化。生成结果可以直接对分词器施加监督信号,梯度从生成端一路回传至编码端,使分词器被迫学习更适合生成而非仅适合重建的表示。此外,作者还引入视觉基础模型来增强 1D 分词器的语义表达能力,让压缩后的 token 不仅保留视觉信息,更蕴含丰富的语义层级。
在 ImageNet 256 × 256 无条件生成任务上,该模型以FID 1.48的成绩创下无引导条件下的当前最优纪录。这项工作证明:当分词器与生成模型不再各自为政,而是联手进化,图像生成的天花板可以被再次推高。

9. 脉冲神经网络也能理解 3D 开放世界—— SVL 让能效与能力不再对立
SVL: Empowering Spiking Neural Networks for Efficient 3D Open-World Understanding
脉冲神经网络(SNN)因稀疏事件驱动的计算范式拥有惊人的能效优势——一块 Speck 芯片功耗仅 0.7mW ——但与人工神经网络(ANN)相比,SNN 长期困于性能差距和泛化不足,更缺乏多模态理解能力。零样本 3D 分类、开放世界问答这些 ANN 已经习以为常的任务,对 SNN 而言几乎是禁区。SVL 的目标就是打破这道壁垒。
SVL 框架包含两大核心组件:多尺度三元对齐(MTA)通过无标签的三元组对比学习,对齐 3D 点云、图像和文本三种模态,让 SNN 在预训练阶段就获得跨模态语义一致性;可重参数化的视觉 - 语言集成(Rep-VLI)则将离线文本嵌入转化为轻量级分类权重,推理时完全丢弃文本编码器——这意味着部署时不再需要庞大的语言模型,大幅降低了推理开销。此外,论文还提出了首个全脉冲驱动的点云 Transformer —— Spike driven PointFormer,其 3D-SDSA 机制将注意力交互简化为稀疏加法运算,保持了端到端的脉冲计算范式。
实验结果令人瞩目:零样本 3D 分类达到 85.4% 的 Top-1 准确率,在 3D 分类、DVS 动作识别、检测、分割等下游任务上分别提升 6.1%、2.1%、1.1% 和 2.1%,甚至首次实现了基于 SNN 的 3D 开放世界问答。在某些场景下,SVL 以 204 倍的能效优势实现了与 ANN 可比的性能。这项工作标志着脉冲系统从 " 节能但无能 " 走向 " 节能且能干 " 的关键转折。

这九篇 Spotlight 论文横跨生成模型、智能体系统、模型压缩、隐私保护、表格学习、神经形态计算等多个维度,共同勾勒出 ICML 2026 最前沿的研究图景。每一篇都在各自的领域提出了独到的洞察与方法,而这些洞察之间暗藏的共鸣与张力,或许正是下一轮突破的起点。
如果你想推荐 ICML 上的其他论文,欢迎联系我们进一步交流探讨 。
一个人读论文太孤单,一群人刷顶会才好玩。
ICML 2026 召开在即,我们正在召集一波含金量极高的 AI 研究者。群内主打实时论文跟踪与硬核技术探讨,拒绝灌水。
? 进群传送门: 扫码进群或添加微信 Vin_Vivid,备注:论文群 + 关注的 AI 方向。
搞科研 / 搞技术,信息差很重要。
来,一起快人一步!
上车,带你看遍全球 AI 顶会精华
可独家畅览:
专家演讲 PPT
大会报告全文
热门论文解读
学术新星访谈
扫描上方二维码
关注专区。