当前位置:首页 > 知识 > ICML 精选Spotlight Poster汇总:Session 3-3

ICML 精选Spotlight Poster汇总:Session 3-3

2026-07-17 05:36:16 [综合] 来源:盘星资讯网

7月8日,精选机器学习领域顶级盛会 ICML 2026进入正会第二天。精选本届大会共接收 6352篇论文,精选其中 Spotlight 论文 536篇(占比 2.2%),精选Oral 论文 168篇(占比 0.7%)。精选

在投稿量较去年翻倍、精选评审标准经历深刻“重新校准”的精选背景下,今年的精选研究涵盖了从生成模型到隐私保护、从智能体评估到模型压缩、精选从脉冲神经网络到视觉分词器的精选多元前沿探索。这些脱颖而出的精选论文构成了本届会议最值得关注的学术精华。

雷峰网报道小组深入首尔 COEX 会展中心,精选从数千张学术海报中精选出最具代表性的精选 9 篇 Spotlight 论文。我们以“一张图 + 一段解读”的精选形式,为你勾勒 ICML 的精选学术重心——从大模型可解释性到 AI for Science,从具身智能到理论硬度的回归。


1. 浮点神经网络的最小深度与宽度:填补理论空白

论文标题:On Minimum Depth and Width of Floating-Point Neural Networks for Representing Floating-Point Functions

核心解读:
现有研究多基于理想精确算术,难以直接适用于存在舍入误差的真实浮点环境。本研究首次系统推导了浮点 ReLU 网络表示浮点函数的最小深度与宽度边界:
* 最小深度:通常为 3层(特定条件下可缩减至2层)。
* 最小宽度:范围在 $2d+$ 之间;若域限制为非负浮点数,则缩小为 $d+$。

该工作证明了浮点环境与精确算术环境下神经网络表达能力的本质差异,为面向实际计算机浮点操作的网络拓扑设计提供了坚实的理论指导。

论文链接:https://openreview.net/forum?id=8IxY2DUiBi


2. 理论层级自动形式化:从孤立陈述到统一知识库

论文标题:Theory-Level Autoformalization: From Isolated Statements to Unified Formal Knowledge Bases

核心解读:
针对当前自动形式化研究局限于“孤立陈述”、忽视定理与公理间依赖关系的痛点,本文提出了一种前瞻性的理论层次自动形式化框架
* 核心主张:将研究从单一陈述推进至支持公理、定义、定理、证明及其依赖关系的“完整理论层次”。
* 贡献:明确了5大核心挑战与3条未来方向,系统阐述了构建结构化理论库的必要性,为该领域提供了战略路线图。

论文链接:https://openreview.net/forum?id=BoteCHEFUr


3. 梯度变动多臂老虎机:突破维度依赖性瓶颈

论文标题:Improved Dimension Dependence for Bandit Convex Optimization with Gradient Variations

核心解读:
在带宽反馈(Bandit Feedback)场景下,针对非连续梯度变动导致的维度依赖性瓶颈,本研究提出了创新的两点反馈梯度变动分析技术
* 突破:将分析拓展至一维带宽线性优化域,在凸和强凸函数场景下显著提升了维度依赖性表现。
* 成果:获得了首个梯度变动动态/普适后悔界及快速收敛率,在动态后悔最小化及带宽博弈中实现全新突破。

论文链接:https://openreview.net/forum?id=X8evkEdMxb


4. 谱球上的受控大模型训练:解决权重漂移

论文标题:Controlled LLM Training on Spectral Sphere

核心解读:
针对 Muon 等前沿优化器在权重控制上的不足,本研究提出谱球优化器(SSO),通过严格的频谱约束计算最陡下降方向。
* 优势:完美适配大规模分布式训练,显著改善负载均衡并收紧激活值边界。
* 验证:在 Dense 1.7B、MoE 8B-A1B 及 200 层 DeepNet 等架构上,SSO 的训练性能全面优于 AdamW 和 Muon,实现了符合宽度无关理论约束的稳定高效训练。

论文链接:https://openreview.net/forum?id=5kTn1c3vtt


5. 学习增强分页算法:迈向最优鲁棒性

论文标题:Towards Optimal Robustness in Learning-Augmented Paging

核心解读:
为解决现有学习增强分页算法在预测资源使用上的过度或不足问题,本研究提出统一原语“相对预测预算”
* 突破:新框架将算法鲁棒性大幅提升至 $H_k + O(1)$,在理论上首次实现了学习增强分页的最优鲁棒性,填补了现有界限 $2H_k + O(1)$ 与最优竞争比之间的差距。
* 意义:揭示了预测资源使用的核心规律,证明了理论改进对实际系统的有效性。

论文链接:https://openreview.net/forum?id=ESa07RwpVr


6. 视觉机制可解释性:KL最小化软约束原则

论文标题:A Distributional View for Visual Mechanistic Interpretability: KL-Minimal Soft-Constraint Principle

核心解读:
针对现有方法因统计偏差导致结果不可解释或不忠实的问题,本研究从分布视角建立新框架。
* 方法:基于 KL-最小化软约束原则,通过能量引导的扩散后验采样,重新定义任务优化过程。
* 效果:在 DINOv3 模型上验证了该框架,在模型可解释性与机制忠实性之间找到了绝佳平衡,揭示了传统方法统计偏差的深层成因。

论文链接:https://openreview.net/forum?id=TZvHUmClPP


7. 助手轴:大模型默认人格的定位与稳定

论文标题:The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models

核心解读:
针对大模型默认“助手人格”易发生行为漂移的问题,本研究通过挖掘内部激活空间,发现了独特的“助手轴”(Assistant Axis)
* 机制:发现模型在面对情感需求或自反性对话时易触发漂移。
* 策略:提出通过精准识别和调控“助手轴”方向上的激活区域,强行固定模型人格空间,有效抑制行为漂移及人格破解尝试,为大模型安全性提供新路径。

论文链接:https://openreview.net/forum?id=q17jVxMtwS


8. DecFus:动态探索与利用的分布式层级融合

论文标题:DecFus: Decentralized Layer-wise Fusion with Dynamic Exploration and Exploitation

核心解读:
为解决分布式联邦学习(DFL)中参数平均导致的更新方向多样性差及训练不稳定问题,提出 DecFus框架。
* 创新:采用基于余弦相似度的层级划分策略,动态调整探索与利用阶段的平衡。
* 优势:首次统一了层级参数交换与平均,无需依赖双随机矩阵假设即可证明收敛性。在 IID 和 Non-IID 数据集上,其表现显著优于现有 CFL 和 DFL 基线方法。

论文链接:https://openreview.net/forum?id=QNYVYUa3aa


9. HELIX:混合编码时间序列插补新范式

论文标题:HELIX: Hybrid Encoding with Learnable Identity and Cross-dimensional Synthesis for Time Series Imputation

核心解读:
针对现有注意力机制缺乏一致性表示锚点、难以捕捉跨特征语义依赖的问题,提出 HELIX方法。
* 核心机制:引入“可学习的特征身份嵌入”持久表达固有语义,结合“混合时序-特征注意力机制”实现端到端依赖挖掘。
* 性能:在 21 种实验设置下对比 17 种主流基线,均取得 SOTA性能,充分验证了其处理复杂空间与语义混合变量数据的卓越能力。

论文链接:https://openreview.net/forum?id=FN20iuPnEU

(责任编辑:时尚)

推荐文章