arXivDaily arXiv每日学术速递 周一至周五更新

期刊&会议

International Conference on Learning Representations · 会议 · Machine Learning

2026-05-08 至 2026-05-08 共收录 6
2602.18473 2026-05-08 cs.LG cs.AI

Decentralized Attention Fails Centralized Signals: Rethinking Transformers for Medical Time Series

去中心化注意力失败于中心化信号:重新思考用于医疗时间序列的Transformer

Guoqi Yu, Juncheng Wang, Chen Yang, Jing Qin, Angelica I. Aviles-Rivero, Shujun Wang

机构 * Department of Biomedical Engineering, PolyU(PolyU 生物医学工程系) School of Nursing, PolyU(PolyU 护理学院) Yau Mathematical Sciences Center, Tsinghua University(清华大学尤太数学科学中心)

AI总结 本文提出CoTAR模块,通过集中化MLP替代去中心化注意力,以更好地捕捉医疗时间序列数据中的中心化依赖关系,提升模型效果与效率。

Comments Accepted by ICLR 2026 (Oral). arXiv admin note: text overlap with arXiv:2405.19363 by other authors

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.06856 2026-05-08 cs.LG math.DG

Contact Wasserstein Geodesics for Non-Conservative Schrödinger Bridges

接触Wasserstein测地线用于非保守Schrödinger桥

Andrea Testa, Søren Hauberg, Tamim Asfour, Leonel Rozo

机构 * Bosch Center for Artificial Intelligence (BCAI)(博世人工智能中心) Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院) Technical University of Denmark (DTU)(丹麦技术大学) Italian Institute of Artificial Intelligence (AI4I)(意大利人工智能研究所)

AI总结 本文提出非保守广义Schrödinger桥,通过接触哈密顿力学实现能量变化的桥模型,利用接触Wasserstein测地线实现高效计算,验证了其在流形导航、分子动力学预测和图像生成中的实用性。

Comments 44 pages, 21 figures, ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.02312 2026-05-08 cs.LG

KaVa: Latent Reasoning via Compressed KV-Cache Distillation

KaVa:通过压缩KV缓存蒸馏实现潜在推理

Anna Kuzina, Maciej Pioro, Paul N. Whatmough, Babak Ehteshami Bejnordi

机构 * Qualcomm AI Research(高通人工智能研究)

AI总结 KaVa通过压缩KV缓存蒸馏实现潜在推理,利用连续潜在标记的表示灵活性对齐逐步KV轨迹,有效提升复杂自然语言推理任务的性能。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.05227 2026-05-08 cs.LG cs.AI

Rethinking Data Curation in LLM Training: Online Reweighting Offers Better Generalization than Offline Methods

重新思考大语言模型训练中的数据整理:在线重加权优于离线方法

Wanru Zhao, Yihong Chen, Yuzhi Tang, Wentao Ma, Shengchao Hu, Shell Xu Hu, Alex Iacob, Abhinav Mehrotra, Nicholas D. Lane

机构 * University of Cambridge(剑桥大学) OATML, University of Oxford(牛津大学OATML实验室) University of Toronto(多伦多大学) Shanghai Jiao Tong University(上海交通大学) Samsung AI Center(三星人工智能中心)

AI总结 本文提出ADAPT框架,通过动态在线重加权提升模型泛化能力,实验显示其在指令微调和大规模预训练中优于传统离线方法。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.03511 2026-05-08 cs.LG cond-mat.mtrl-sci physics.chem-ph

Orbital Transformers for Predicting Wavefunctions in Time-Dependent Density Functional Theory

轨道变换器用于时间依赖密度泛函理论中波函数的预测

Xuan Zhang, Haiyang Yu, Chengdong Wang, Jacob Helwig, Shuiwang Ji, Xiaofeng Qian

机构 * Department of Computer Science and Engineering, Texas A&M University(计算机科学与工程系,德克萨斯大学阿马尔科分校) Department of Materials Science and Engineering, Texas A&M University(材料科学与工程系,德克萨斯大学阿马尔科分校) J. Mike Walker ’66 Department of Mechanical Engineering, Texas A&M University(J. Mike Walker ’66 机械工程系,德克萨斯大学阿马尔科分校) Department of Electrical and Computer Engineering, Texas A&M University(电气与计算机工程系,德克萨斯大学阿马尔科分校) Department of Physics and Astronomy, Texas A&M University(物理与天文学系,德克萨斯大学阿马尔科分校)

AI总结 本文提出OrbEvo模型,基于等变图变换器架构,通过等变条件编码外部电场强度和方向,打破SO(3)到SO(2)对称性,利用波函数池化和密度矩阵作为交互方法,准确捕捉外部场下激发态的量子动力学。

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.18120 2026-05-08 stat.ML cs.LG

Generalization Below the Edge of Stability: The Role of Data Geometry

在稳定性边缘以下的泛化:数据几何的作用

Tongtong Liang, Alexander Cloninger, Rahul Parhi, Yu-Xiang Wang

机构 * UC San Diego(圣迭戈大学)

AI总结 本文研究了过参数化神经网络中数据几何对泛化能力的影响,通过理论分析揭示了数据几何如何控制隐式偏置,提出在稳定性边缘以下的两层ReLU网络的泛化界限,并探讨了梯度下降在不同数据分布下的学习机制。

Comments Accepted by ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏