TMLR

On the Fundamental Limits of LLMs at Scale

在大规模下的大语言模型根本限制

Muhammad Ahmed Mohsin, Muhammad Umer, Ahsan Bilal, Zeeshan Memon, Muhammad Ibtsaam Qadir, Sagnik Bhattacharya, Hassan Rizwan, Abhiram R. Gorle, Maahe Zehra Kazmi, Nukhba Amir, Ali Subhan, Muhammad Usman Rafique, Zihao He, Pulkit Mehta, Muhammad Ali Jamshed, John M. Cioffi

机构 * Stanford University（斯坦福大学） ； The University of Oklahoma（俄克拉荷马大学） ； Emory University（埃默里大学） ； Purdue University（普渡大学） ； UC Riverside（加州大学河滨分校） ； UC Berkeley（加州大学伯克利分校） ； Khyber Medical University（克希伯医学大学） ； Universtat Pompeu Fabra（庞培法华大学） ； Zoox（Zoox公司） ； Meta ； Google DeepMind（谷歌DeepMind） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Glasgow（格拉斯哥大学） 纠错

AI总结 本文探讨了大规模大语言模型的根本限制，提出统一框架分析计算、信息和学习的基础限制，并提供缓解方法。

Comments Submitted to TMLR 2025

Efficient Dilated Squeeze and Excitation Neural Operator for Differential Equations

高效稀疏挤压与激励神经算子用于微分方程

Prajwal Chauhan, Salah Eddine Choutri, Saif Eddin Jabari

机构 * Engineering Division New York University Abu Dhabi（纽约大学阿布扎克分校工程系） ； NYUAD Research Institute（纽约大学阿布扎克分校研究 institute） 纠错

AI总结 D-SENO通过结合扩张卷积和挤压激励模块，高效解决多种偏微分方程，实现比传统模型快20倍的训练速度并保持高精度。

Comments Accepted to Transactions on Machine Learning Research (TMLR)

Parameter Efficient Continual Learning with Dynamic Low-Rank Adaptation

参数高效持续学习与动态低秩适应

Prashant Shivaram Bhat, Shakib Yazdani, Elahe Arani, Bahram Zonooz

机构 * Eindhoven University of Technology (TU/e)（埃因霍温理工大学） 纠错

AI总结 PEARL通过动态低秩适应实现参数高效的持续学习，有效解决灾难性遗忘问题，适用于多种视觉架构和持续学习场景。

Comments 27 pages, 5 figures

Journal ref TMLR 2026

Quantum Rationale-Aware Graph Contrastive Learning for Jet Discrimination

量子理性感知图对比学习用于喷注鉴别

Md Abrar Jahin, Md. Akmol Masud, M. F. Mridha, Nilanjan Dey, Zeyar Aung

机构 * University of Southern California（南加州大学） ； Jahangirnagar University（贾哈吉尔纳加尔大学） ； American International University-Bangladesh（孟加拉国美国国际大学） ； Techno International New Town（技术国际新镇） ； Khalifa University（卡利法大学） 纠错

AI总结 本文提出量子理性感知图对比学习框架，通过量子理性生成器提升喷注鉴别性能，在参数受限环境下实现77.5%的AUC分数。

Journal ref Transactions on Machine Learning Research (TMLR), 2026