arXivDaily arXiv每日学术速递 周一至周五更新

期刊&会议

International Joint Conference on Artificial Intelligence · 会议 · Artificial Intelligence

2026-07-07 至 2026-07-07 共收录 2
2511.07308 2026-07-07 cs.LG 版本更新

Can Stationary Distributions of Scale-Invariant Neural Networks Be Described by the Thermodynamics of an Ideal Gas?

尺度不变神经网络的稳态分布能否用理想气体的热力学描述?

Ildus Sadrtdinov, Ekaterina Lobacheva, Ivan Klimov, Mikhail Burtsev, Mikhail I. Katsnelson, Dmitry Vetrov

机构 * Constructor University(Constructor大学) Mila – Quebec AI Institute(魁北克AI研究所) Université de Montréal(蒙特利尔大学) London Institute for Mathematical Sciences(伦敦数学科学研究所) Institute for Molecules and Materials, Radboud University(分子与材料研究所,拉德堡德大学)

AI总结 本文提出用热力学框架解释SGD在尺度不变神经网络中的稳态分布,通过理论和模拟验证SGD动态与理想气体行为的对应关系,并探讨其对超参数调优和学习率调度器设计的指导意义。

Comments Accepted at IJCAI-ECAI 2026 (the 35th International Joint Conference on Artificial Intelligence)

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.07337 2026-07-07 cs.LG cs.SI 版本更新

FLASH: Flexible Learning of Adaptive Sampling from History in Temporal Graph Neural Networks

FLASH:时态图神经网络中从历史灵活学习自适应采样

Or Feldman, Krishna Sri Ipsit Mantri, Carola-Bibiane Schönlieb, Chaim Baskin, Moshe Eliasof

机构 * Ben-Gurion University of the Negev(本·古里安大学) Purdue University(普渡大学) University of Cambridge(剑桥大学)

AI总结 研究时态图未来链接预测汇总历史交互信号时,长历史会消耗资源,常用启发式采样静态且不适应图结构。提出FLASH可学习且图自适应的邻域选择机制,集成到TGNNs并端到端训练,实验证明性能提升。

Comments IJCAI 2026, 24 pages, 5 figures, 14 tables

详情

展开后加载摘要…

URL PDF HTML 收藏