Evolutionary Curriculum Learning Improves Biological Sequence Modeling
进化课程学习改进生物序列建模
AI总结 该研究提出进化课程学习(ECL),将其应用于VAE模型的蛋白质变异预测与RNA序列生成任务,提升了下游任务性能,证实进化距离是生物序列建模中排序训练课程的有效归纳偏置。
Comments Published in ICML 2026 SPIGM Workshop
期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
进化课程学习改进生物序列建模
AI总结 该研究提出进化课程学习(ECL),将其应用于VAE模型的蛋白质变异预测与RNA序列生成任务,提升了下游任务性能,证实进化距离是生物序列建模中排序训练课程的有效归纳偏置。
Comments Published in ICML 2026 SPIGM Workshop
PointCHR:通过曲率感知双曲整流进行点云分析
AI总结 针对三维点云中高曲率区域难以解析的问题,提出PointCHR方法,利用双曲流形指数体积膨胀特性,通过曲率引导径向整流机制,有效缓解表示拥挤问题,提升主干网络捕捉细节能力,在多基准测试中达最优性能。
Journal ref Proceedings of the 43 rd International Conference on Machine Learning,2026
HIVE-3D:用于高质量3D场景生成的分层体素增强
AI总结 研究针对单图像3D场景生成中分辨率受限问题,提出HIVE-3D方法。基于分层体素增强框架,经图像分割、注意力检索、构建分层组件树及体素超分辨率模型,实现粗到细的分层超分辨率,显著优于先前方法,达当前最优性能。
Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026). Project page: https://xbdff.github.io/HIVE-3D/
学习大规模多神经元数据的生物物理模型以实现精确神经刺激
AI总结 研究利用可微生物物理模拟等从细胞外多电极阵列测量数据快速推断霍奇金-赫胥黎模型参数,用于预测神经尖峰反应,以验证方法收集猕猴视网膜数据,准确率达90.6%。
Comments Accepted at ICML 2026
可解码但不忠实:将自然语言理由与程序化验证器耦合
机构 * AI4Math
AI总结 提出验证器耦合推理框架,通过一致性训练使验证器信息可从理由表示中解码,但发现可解码性不保证忠实生成,在多个任务中验证了该差距。
Comments Accepted to the ICML 2026 AI4Math Workshop as a poster
无监督解缠无需妥协:函数正交性如何强制可识别性
机构 * EPFL, LTS4 laboratory, Lausanne, Switzerland(瑞士洛桑联邦理工学院,LTS4实验室,洛桑,瑞士)
AI总结 从函数视角出发,通过生成映射雅可比的正交性约束实现无监督解缠,证明该条件在无需统计独立或因果假设下保证非线性生成模型的可识别性,实验验证了理论有效性。
Comments Accepted at ICML 2026
两层线性自回归模型估计潜在状态
机构 * Cornell(康奈尔大学) ; Washington(华盛顿大学) ; Imperial College London(伦敦帝国理工学院) ; Amazon(亚马逊)
AI总结 本文证明两层线性自回归模型通过经验风险最小化训练时,能近似卡尔曼滤波,恢复潜在状态估计,并提供有限样本保证。
Comments ICML 2026
跳过一层还是循环它?学习LLM中的层程序
机构 * Ziyue Li, Yang Li, Tianyi Zhou(李子悦、李阳、周天毅)
AI总结 本文提出PoLar方法,通过轻量级预测网络学习为每个输入动态跳过或重复预训练层,在数学推理任务上以更少层数提升准确率。
Comments Accepted at ICML 2026. Substantially extends arXiv:2507.07996. Updated DART-Math experiments by removing duplicate examples; conclusions remain unchanged. Code: https://github.com/tianyi-lab/PoLar
拉格朗日扰动扩散引导:用于生成策略的潜在强化学习
机构 * University of Michigan(密歇根大学)
AI总结 提出拉格朗日扰动扩散引导(LP-DS),通过学习紧凑的噪声空间扰动来微调冻结的生成策略,利用拉格朗日信任区域目标优化,在保持潜在先验约束的同时提升下游价值,在多个基准上实现样本效率和回报提升。
Comments Accepted as a regular paper at ICML 2026
通过部分信息分解理解多模态语言模型中的模态交互
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学)
AI总结 引入部分信息分解(PID)框架,分离感官和语言输入的独特、冗余和协同贡献,揭示多模态大模型中的模态使用模式,并扩展至三模态系统。
Comments Accepted by ICML 2026
单索引模型损失景观中的凸盆地:强对抗性腐败下的鲁棒恢复应用
机构 * School of Technology and Computer Science, Tata Institute of Fundamental Research, Mumbai, India(技术与计算机科学学院,印度塔塔基础研究机构,孟买)
AI总结 针对具有重尾噪声和对抗性腐败的单索引模型,提出首个基于凸盆地结构的鲁棒恢复算法,实现近线性样本和时间复杂度。
Comments Accepted at ICML 2026
基于特权信息与未标记数据的联合训练
机构 * Department of Electrical and Computer Engineering, Princeton University(普林斯顿大学电子与计算机工程系) ; Department of Operations Research and Financial Engineering, Princeton University(普林斯顿大学运筹学与金融工程系)
AI总结 提出一种联合训练方法,同时学习利用训练时特权信息和测试时可用输入的模型,避免两阶段方法中弱噪声信息误导部署模型,并通过理论保证和实验验证其鲁棒性优于标准两阶段基线。
Comments 37 pages, 6 figures. Accepted to ICML 2026
变换器能生成多少种不同的输出?
机构 * Department of Mathematics, National University of Singapore, Singapore, 117543(新加坡国立大学数学系) ; School of Computing, National University of Singapore, Singapore, 117543(新加坡国立大学计算学院) ; Aix Marseille Univ, CNRS, I2M, Marseille, France(法国马赛大学、国家科学研究中心、I2M研究所) ; Department of Electrical and Computer Engineering, National University of Singapore(新加坡国立大学电子与计算机工程系)
AI总结 研究如何利用变换器架构中的少量特性来准确预测其能生成的不同序列数量,包括定性和定量分析,并提供基于提示长度的上限,实验证明在不同架构和模型大小下该上限紧致于10倍以内。分析还解释了之前在简单序列任务(如复制和填塞)中观察到的变换器经验性失败现象。
Comments ICML 2026 Oral
AgentPSO: 通过多智能体粒子群优化进化智能体推理能力
机构 * Korea Advanced Institute of Science and Technology(韩国科学技术院)
AI总结 AgentPSO通过多智能体粒子群优化框架,使智能体在任务中进化推理能力,通过结合自身经验与群体最优技能,提升个体与集体推理性能,实验证明其优于静态单智能体和测试时多智能体方法。
Comments The 3rd AI for Math Workshop at the 43rd International Conference on Machine Learning (ICML), Seoul, South Korea, 2026
混合策略蒸馏用于大语言模型
机构 * Department of Computer Science(计算机科学系) ; Engineering, Shanghai Jiao Tong University(上海交通大学工程学院) ; Shanghai Innovation Institute(上海创新研究院) ; Large Language Department, Tencent(腾讯大语言部门)
AI总结 本文提出混合策略蒸馏方法,结合正反KL散度优势,提升模型生成能力和效率,验证了其在多种任务中的有效性。
Comments ICML 2026
对称性揭示逐层动力学:Transformer如何执行上下文分类
机构 * Boston University, Departments of Computer Science
AI总结 通过强制特征和标签排列等变性,从Transformer中提取出显式的深度索引递归更新规则,揭示了上下文分类的几何驱动算法。
Comments appears in the Proceedings of the 43rd International Conference on Machine Learning (ICML '26)
高维经验风险最小化中高斯普适性破坏的表征
机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen, China ; Huawei Noah's Ark Lab, Huawei Technologies, Paris, France ; School of Electronic Information ; Communications, Huazhong University of Science \& Technology, China
AI总结 通过将凸高斯极小极大定理推广到非高斯数据,刻画了高维经验风险最小化估计量的渐近分布,揭示了高斯普适性的适用范围与局限。
Comments 28 pages, 3 figures, 1 table
Journal ref ICML 2026
SimulCost: 一个用于自动化物理模拟的代价感知基准与工具包
机构 * University of California San Diego(加州大学圣地亚哥分校) ; The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)) ; Peking University(北京大学) ; University of California, Los Angeles(加州大学洛杉矶分校) ; California Institute of Technology(加州理工学院) ; ETH Zurich(苏黎世联邦理工学院)
AI总结 针对现有LLM评估忽略工具使用代价的问题,提出SimulCost基准,通过单轮和多轮参数调优任务比较LLM与传统扫描方法在准确性和计算代价上的表现,发现LLM在高精度任务中初始猜测不可靠且多轮模式效率更低。
Comments post conference revision version at ICML; update: removed CGYRO due to bug in cases search. Will add back soon
一个可解的高维模型,其中非线性自编码器学习到结构对PCA不可见,而测试损失与泛化不一致
机构 * Statistical Physics of Computation Laboratory, École polytechnique fédérale de Lausanne (EPFL)(计算统计物理实验室,瑞士联邦理工学院(EPFL))
AI总结 本文提出一个高维模型,展示非线性自编码器能学习线性方法如PCA无法捕捉的结构,尽管其测试损失与泛化性能不一致。
Journal ref ICML 2026
成对比较数据中的偏好学习恢复了什么?
机构 * Machine Learning Department, Carnegie Mellon University, Pittsburgh, USA(卡内基梅隆大学机器学习系)
AI总结 本文通过条件偏好分布(CPRD)形式化成对比较数据中的偏好信息,分析了Bradley-Terry模型在数据违反假设时的恢复能力,并揭示了影响样本效率的关键因素(边界和连通性)。
Journal ref ICML 2026
学习尖峰分布中的普适三分之一时间缩放
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 本文通过理论分析和实验验证,揭示了使用softmax和交叉熵学习尖峰分布时,损失和梯度呈幂律衰减,导致损失时间缩放指数为1/3的普适瓶颈,为神经缩放现象提供了机理解释。
Comments Camera-ready version, ICML 2026
深入Kronecker适配器:组件设计至关重要
机构 * School of Electronic Information and Communications, Huazhong University of Science and Technology(华中科技大学电子信息学院) ; Huawei(华为) ; Center for Applied Statistics and School of Statistics, Renmin University of China(中国人民大学应用统计中心和统计学院)
AI总结 本文通过分析Kronecker适配器的组件维度和数量,提出组件设计的Kronecker适配器(CDKA),并给出参数预算感知的配置指南和训练稳定策略,实验证明其有效性。
Comments Accepted by ICML 2026
HybridFlow: 适应资源的子任务路由用于高效的边缘-云LLM推理
AI总结 HybridFlow通过动态资源适应的子任务路由框架,提升边缘-云LLM推理的效率与准确性。
Comments Accepted by ICML 2026
嵌入信任:语义各向同性预测长文本生成中的非事实性
机构 * New York University(纽约大学) ; University of Toronto(多伦多大学)
AI总结 该研究提出通过语义各向同性(单位球面上归一化文本嵌入的均匀程度)评估LLMs生成长文本的可信度,其方法无需标注数据等,在多领域仅用少量样本预测非事实性的表现优于现有信号。
Comments Published in Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)
OBCache: 面向高效长上下文LLM推理的最优脑KV缓存剪枝
机构 * University of Science and Technology of China(中国科学技术大学)
AI总结 提出OBCache框架,将缓存驱逐形式化为逐层结构化剪枝问题,基于最优脑损伤理论量化令牌显著性,通过输出感知分数改进现有驱逐策略,在长上下文任务中提升准确性。
Comments ICML 2026