7 月 8 日，机器学习领域最具影响力的顶级学术会议 ICML 2026 进入正会第二天。本次大会共接收 6352 篇论文，其中 Spotlight 论文 536 篇（占投稿总数的 2.2%），Oral 论文 168 篇 （仅占投稿总数的 0.7 %）。
今年的论文再次汇聚了从生成模型到隐私保护、从智能体评估到模型压缩、从脉冲神经网络到视觉分词器的多元前沿探索，在投稿量较去年翻倍、评审标准经历深刻 " 重新校准 " 的背景下，这些脱颖而出的论文无疑是本届会议最值得关注的学术精华。
雷峰网已派出报道小组赴首尔 COEX 会展中心参会。在会议现场，我们从 Poster 展区的数千张学术海报中精选出最具代表性的研究成果，以 " 一张图 + 一段解读 " 的方式呈现给未能亲临现场的读者。
这份汇总不仅是一次视觉巡礼，更试图为你勾勒出本届 ICML 的学术重心——从大模型可解释性到 AI for Science，从具身智能到理论硬度的回归，我们希望这些现场捕捉的瞬间，能帮助你快速感知机器学习前沿正在发生什么。
以下精选 Poster Session 3 九篇 Spotlight 论文，一文看尽 AI 研究最值得关注的方向。（如果你也想让你的研究成果出现在这里，请与我们联系）：
1. 关于表示浮点函数的浮点神经网络最小深度与宽度研究
On Minimum Depth and Width of Floating-Point Neural Networks for Representing Floating-Point Functions
现有关于神经网络表达能力的研究大多基于理想的精确算术，无法直接适用于实际计算机中具有有限数值与舍入误差的真实浮点运算环境。为了填补这一理论空白，本研究深入探索了浮点环境中神经网络表达浮点函数的能力，旨在确定浮点 ReLU 网络表示所有从浮点向量到浮点数的函数所需的最小深度与宽度，为实际浮点数操作提供底层理论支持。
本工作完全基于严密的数学论证与符号运算展开。通过严格的理论推导，研究人员系统分析了浮点网络在不同约束下的表示能力以及宽度与深度之间的内在关系。研究表明，浮点网络的最小深度通常为三层（在特定域与值域条件下可缩减至两层），其最小宽度范围在 $$2$$ 到 $$2d+$$ 之间；当域限制为非负浮点数时，宽度范围则进一步缩小为 $$$$ 到 $$d+$$。该论文有力证明了浮点环境与精确算术环境下神经网络表达能力的本质不同，首次给出了浮点 ReLU 网络最小深宽度的边界，为面向实际计算机浮点操作的网络拓扑设计提供了坚实的理论指导。
2. 理论层级自动形式化：从孤立陈述到统一的形式化知识库
Theory-Level Autoformalization: From Isolated Statements to Unified Formal Knowledge Bases
自动形式化作为将非正式自然语言转化为形式化语言的强有力工具，目前的学术研究大多聚焦于单个孤立的陈述层面。这种做法忽视了理论层面的复杂结构，未能充分利用定理、公理之间的内在依赖性来增强形式化和验证能力，缺乏对完整理论的结构化处理。
为了打破这一局限，本文作为一篇极具前瞻性的观点文章（Position Paper），主张将自动形式化研究从 " 单一陈述 " 推进到支持公理、定义、定理、证明及其依赖关系的 " 完整理论层次 "。文中创新性地提出了理论层次自动形式化的系统框架，深度分析并正面回应了 3 种学术界常见的反对观点，明确了当前面临的 5 大核心挑战，并针对性地指明了 3 条未来的研究方向。尽管论文未涵盖具体的实验或数据集分析，但它深刻阐述了构建结构化理论库的必要性，首次系统性地提出了理论层次自动形式化的概念，为该领域的未来演进提供了坚实的理论支撑与战略路线图。
3. 基于梯度变动的多臂老虎机凸优化维度依赖性改进
Improved Dimension Dependence for Bandit Convex Optimization with Gradient Variations
梯度变动的在线学习因其与博弈论和优化等领域的深刻联系，近年来备受学术界关注。然而，在带有带宽反馈（Bandit Feedback）的复杂场景中，针对这一特性的研究依然存在明显的不足。为此，本研究聚焦于带宽凸优化中的梯度变动特性，尤其是非连续梯度变动，旨在攻克并优化关键的维度依赖性瓶颈。
针对这一理论难题，论文提出了一种专门适用于两点反馈的梯度变动分析技术，并成功将其拓展至一维带宽线性优化域中的梯度变动界限。基于这一改进的非连续梯度变动分析，研究团队在凸和强凸函数场景下，实现了维度依赖性的显著提升。实验与理论验证表明，该方法在动态、普适后悔最小化及带宽博弈中均取得了优异的效果，并成功获得了首个梯度变动动态 / 普适后悔界及快速收敛率。该工作不仅显著改进了梯度变动的维度依赖性，更极大拓展了其适用范围，实现了带宽游戏和后悔优化领域的全新突破。
4. 谱球上的受控大语言模型训练
Controlled LLM Training on Spectral Sphere
大规模语言模型训练极度依赖先进的优化策略以确保快速收敛和训练稳定性。然而，现有的前沿优化器（如 Muon）在权重控制方面仍显不足，仅部分符合宽度无关的理论约束，对于大模型训练中常见的权重漂移问题缺乏严格的数学约束。
针对这一痛点，本研究创新性地提出了谱球优化器（Spectral Sphere Optimizer, SSO）。该优化器完全基于严格的频谱约束来计算最陡下降方向，并辅以高效的并行算法，以完美适配大规模分布式模型训练。通过实施严苛的谱约束，研究团队在模型训练中观察到了显著的稳定性提升，具体表现为负载均衡的显著改善以及激活值边界的有效收紧。预训练实验在 Dense 1.7B、MoE 8B-A1B 以及深达 200 层的 DeepNet 等多种前沿大模型架构上展开，结果表明，SSO 的训练性能全面优于传统的 AdamW 和新型的 Muon 优化器。该工作成功设计出符合宽度无关理论约束的优化器，实现了更稳定、更高效的训练表现，为超大规模高层数模型的底层优化提供了强有力的全新解决方案。
5. 迈向学习增强分米算法的最优鲁棒性研究
Towards Optimal Robustness in Learning-Augmented Paging
近年来，学习增强的分页（Paging）算法因其在面对不准确预测时的鲁棒性受到了广泛关注。然而，现有算法的鲁棒性界限仍存在明显的改进空间，推动研究迈向理论上的 " 最优鲁棒性 " 至关重要。当前已有算法在预测资源的使用上普遍存在过度或不足的问题，导致现有随机环境下的鲁棒性界限 $$2H_k + O ( 1$$ 与最优竞争比 $$H_$$ 之间存在较大差距。
为了攻克这一瓶颈，本研究重访了在线最优性，并为最新的 $$H_$$- 竞争算法提供了新证据。论文创新性地提出了一个统一原语—— " 相对预测预算 "，并以此指导分页算法设计出全新的框架。该框架成功将算法的鲁棒性大幅提升至 $$H_k + O ( 1$$，在理论上首次实现了学习增强分页的最优鲁棒性。实验结果验证了新框架的实用性与稳定的性能表现，有力地证明了这一理论改进对实际系统的有效性，并成功揭示了预测资源使用的核心规律。
6. 视觉机制可解释性的分布视角：KL 最小化软约束原则
A Distributional View for Visual Mechanistic Interpretability: KL-Minimal Soft-Constraint Principle
当前视觉机制可解释性方法大多依赖启发式手段，难以有效揭示特征激活对自然图像分布的真实影响。由于现有方法在激活特征与自然图像分布之间存在统计偏差，常常导致结果对人类不可解释，或者对模型内部机制的呈现不够忠实。
为了解决这一痛点，本研究创新性地提出从分布视角建立视觉机制可解释性的新框架。该方法通过 $$KLtext{- 最小化 $$ 优化问题重新定义任务，并基于 $$KLtext{- 最小化 $$ 软约束原则，通过能量引导的扩散后验采样，完美实现了分布视角下的优化过程，从而在模型可解释性与机制忠实性之间找到了绝佳的平衡。团队在 DINOv3 视觉模型上开展了大量实验，有力验证了该理论框架的合理性及所提方法在实际应用中的有效性。该工作首次开辟了视觉机制可解释性的分布视角新框架，揭示了传统方法统计偏差的深层成因，为平衡可解释性与忠实性提供了实用的全新路径。
7. 助手轴：大语言模型默认人格的定位与稳定研究
The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models
语言模型虽然具备强大的多重人格表达能力，但其默认的 " 助手人格 " 往往容易随着复杂情境发生偏移。如何有效识别并控制模型在默认助手模式中的行为漂移，减少其可能引发的有害或怪异表现，对于提升大模型的安全性和可靠性至关重要。
通过深度挖掘模型的内部激活空间，本研究发现了一个独特的 " 助手轴 "（Assistant Axis）。现象分析表明，模型在面对用户的情感需求或进行自反性对话时，更容易触发偏离默认人格的漂移机制。为此，论文提出了一种全新的控制策略，通过精准识别和调控 " 助手轴 " 方向上的激活区域，来强行固定模型的人格空间，以此有效抑制行为漂移，并从容应对对话中可能出现的人格破解尝试。团队在多种主流语言模型上展开了广泛实验，系统分析了助手轴表现及其与行为漂移的内在关联。该工作不仅首次提出了 " 助手轴 " 概念，揭示了模型人格空间的深层作用机制，更为未来强化大模型的人格锚定方法奠定了坚实的理论与技术基础。
8.DecFus：基于动态探索与利用的分布式层级融合
DecFus: Decentralized Layer-wise Fusion with Dynamic Exploration and Exploitation
分布式联邦学习（DFL）能有效避免通信瓶颈及中心化联邦学习（CFL）的单点故障问题。然而，现有的 DFL 方法多集中于参数平均，其更新方向的多样性较差且缺乏足够的探索能力，导致对损失函数局部的探索不足，极大地限制了复杂模型的性能潜力。
通过深入的机制分析，研究团队发现客户端间的层级参数交换虽然能够增强对损失函数景观（loss landscape）的探索，但由于更新方向存在高差异性，极易为训练引入不稳定性。为了克服这一矛盾，本研究提出了 DecFus 框架。该方法通过动态调整探索与利用阶段的平衡，并创造性地采用了一种基于余弦相似度的层级划分策略来进行参数交换与平均。团队在独立同分布（IID）和非独立同分布（Non-IID）数据集上进行了广泛实验，结果表明，DecFus 的表现显著优于现有的 CFL 和 DFL 基线方法。该工作首次统一了层级参数交换与平均，并从理论上证明了其收敛性（且无需依赖双随机矩阵假设），为多场景下的分布式训练提供了高稳定性、高性能的新方案。
9.HELIX：基于可学习身份与跨维度合成的混合编码时间序列插补
HELIX: Hybrid Encoding with Learnable Identity and Cross-dimensional Synthesis for Time Series Imputation
时间序列插补的核心在于有效利用跨特征的关联性，但现有的注意力机制倾向于在各层中重复建立特征关系，缺乏一致性的表示锚点。这导致现存方法无法在网络中持续捕捉特征间的内在语义依赖，且在面对空间与语义混合特征时，数据处理能力十分有限。
针对这一瓶颈，本研究创新性地提出了 HELIX 方法。该方法通过引入 " 可学习的特征身份嵌入 " 来持久表达特征的固有语义，并无缝结合 " 混合时序 - 特征注意力机制 "，实现了端到端挖掘任意特征间依赖关系的能力。机制分析表明，特征注意力会随网络层次逐步对齐底层物理结构，从而在插补任务中高效利用跨特征依赖。团队在 21 种实验设置下进行了深入评测，对比 17 种主流基线方法，HELIX 均取得了当前的最佳性能（SOTA），充分验证了其处理复杂空间与语义混合变量数据的卓越能力。该工作成功推动了对跨特征关联的深层理解与利用，为时间序列插补领域带来了重要突破。
