ICML

Teaching LLMs to Speak Spectroscopy

Nesar Ramachandra, Yuan-Sen Ting, Zechang Sun, Azton Wells, Salman Habib

Comments 6 pages, 1 figure, Accepted to the Machine Learning for Astrophysics (ML4Astro) Colocated Workshop at ICML 2025

Curse of High Dimensionality Issue in Transformer for Long-context Modeling

Shuhai Zhang, Zeng You, Yaofo Chen, Zhiquan Wen, Qianyue Wang, Zhijie Qiu, Yuanqing Li, Mingkui Tan

机构 * South China University of Technology（华南理工大学） ； Peng Cheng Laboratory（鹏城实验室） ； Pazhou Laboratory（Pazhou实验室） ； Key Laboratory of Big Data（大数据重点实验室） 纠错

Comments Accepted at ICML 2025

Identifying Causal Direction via Variational Bayesian Compression

Quang-Duy Tran, Bao Duong, Phuoc Nguyen, Thin Nguyen

机构 * Deakin Applied Artificial Intelligence Initiative, Deakin University, Geelong, Australia（德金应用人工智能倡议，德金大学，澳大利亚Geelong） 纠错

Comments Accepted at the 42nd International Conference on Machine Learning (ICML2025)

Measuring Diversity in Synthetic Datasets

Yuchang Zhu, Huizhe Zhang, Bingzhe Wu, Jintang Li, Zibin Zheng, Peilin Zhao, Liang Chen, Yatao Bian

机构 * School of Computer Science（计算机科学学院） ； Engineering, Sun Yat-sen University（工程，中山大学） ； School of Software Engineering（软件工程学院） ； Sun Yat-sen University（中山大学） ； Zhuhai Key Laboratory of Trusted Large Language Models（珠海可信大语言模型实验室） ； Tencent AI Lab（腾讯AI实验室） ； National University of Singapore（新加坡国立大学） ； Shenzhen University（深圳大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

Comments Accepted by ICML 2025

Efficient Distributed Optimization under Heavy-Tailed Noise

Su Hyeong Lee, Manzil Zaheer, Tian Li

机构 * Department of Statistics, University of Chicago（芝加哥大学统计系） ； Meta ； Department of Computer Science, University of Chicago（芝加哥大学计算机科学系） 纠错

Comments Accepted to ICML 2025

Diversifying Policy Behaviors with Extrinsic Behavioral Curiosity

Zhenglin Wan, Xingrui Yu, David Mark Bossens, Yueming Lyu, Qing Guo, Flint Xiaofeng Fan, Yew Soon Ong, Ivor Tsang

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen, China（数据科学学院，香港中文大学（深圳）） ； CFAR, Agency for Science, Technology and Research, Singapore（CFAR，新加坡科技研究局） ； College of Computing and Data Science, Nanyang Technological University (NTU), Singapore（计算与数据科学学院，南洋理工大学（NTU）） 纠错

Comments 20 pages, conference paper

Journal ref International Conference on Machine Learning (ICML 2025)

Collaborative Mean Estimation Among Heterogeneous Strategic Agents: Individual Rationality, Fairness, and Truthful Contribution

Alex Clinton, Yiding Chen, Xiaojin Zhu, Kirthevasan Kandasamy

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Cornell University（康奈尔大学） 纠错

Comments ICML 2025

Clipping Improves Adam-Norm and AdaGrad-Norm when the Noise Is Heavy-Tailed

Savelii Chezhegov, Yaroslav Klyukin, Andrei Semenov, Aleksandr Beznosikov, Alexander Gasnikov, Samuel Horváth, Martin Takáč, Eduard Gorbunov

机构 * Moscow Institute of Physics and Technology, Russia（莫斯科物理技术学院） ； Ivannikov Institute for System Programming RAS, Russia（伊万诺夫系统编程研究所） ； Sber AI Lab, Russia（俄罗斯Sber人工智能实验室） ； Innopolis University, Russia（因诺波利斯大学） ； The Russian Presidential Academy of National Economy and Public Administration, Russia（俄罗斯总统经济与公共行政学院） ； Skolkovo Institute of Science and Technology, Russia（斯克沃尔佐夫科学与技术研究所） ； Mohamed bin Zayed University of Artificial Intelligence, UAE（穆罕默德·本·扎耶德人工智能大学） ； Machine Learning and Optimization Laboratory (MLO), EPFL, Lausanne, Switzerland（机器学习与优化实验室（MLO），EPFL，拉瓦尔普勒斯，瑞士） 纠错

Comments ICML 2025. 65 pages, 12 figures. Changes in V3: extended results for the methods with coordinate-wise stepsizes and new experiments