arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

Massachusetts Institute of Technology(麻省理工学院)

2026-02-02 至 2026-02-02 共收录 7
2601.23135 2026-02-02 cs.LG

Why GRPO Needs Normalization: A Local-Curvature Perspective on Adaptive Gradients

为何GRPO需要规范化:从局部曲率角度探讨自适应梯度

Cheng Ge, Caitlyn Heqi Yin, Hao Liang, Jiawei Zhang

机构 * Department of Aeronautics and Astronautics, MIT(麻省理工学院航空与宇航系) Department of Statistics, University of Wisconsin--Madison(威斯康星大学麦迪逊分校统计系) Department of Informatics, King's College London(伦敦国王学院信息学系) Department of Computer Sciences, University of Wisconsin--Madison(威斯康星大学麦迪逊分校计算机科学系)

AI总结 GRPO中标准差规范化通过局部曲率视角解释了其自适应梯度机制,理论和实验表明规范化能提升收敛速度并优化训练阶段表现。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22917 2026-02-02 cs.CV

Deep in the Jungle: Towards Automating Chimpanzee Population Estimation

深入丛林:迈向自动化大猩猩种群估计

Tom Raynes, Otto Brookes, Timm Haucke, Lukas Bösch, Anne-Sophie Crunchant, Hjalmar Kühl, Sara Beery, Majid Mirmehdi, Tilo Burghardt

机构 * University of Bristol, UK(英国布里斯托大学) Massachusetts Institute of Technology, USA(美国麻省理工学院) Wild Chimpanzee Foundation(野生 chimpanzee 基金会) Senckenberg Museum of Natural History, Germany(德国森肯伯格自然历史博物馆)

AI总结 本研究通过整合计算机视觉单目深度估计技术,实现了大猩猩种群数量估计的自动化,其方法在准确性上优于传统手动方法,误差控制在22%以内。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.01868 2026-02-02 cs.LG math-ph math.DS math.MP math.PR

The Mean-Field Dynamics of Transformers

Transformer 的均场动力学

Philippe Rigollet

机构 * Massachusetts Institute of Technology(麻省理工学院)

AI总结 本文提出了一种将 Transformer 注意力建模为均场动力学的数学框架,揭示了注意力机制中聚类现象和长上下文注意力的相变特性。

Comments to appear as Proceedings of the ICM2026, Philadelphia, USA

详情

展开后加载摘要…

URL PDF HTML 收藏
2402.17233 2026-02-02 cs.LG stat.AP stat.ME

Hybrid$^2$ Neural ODE Causal Modeling and an Application to Glycemic Response

混合$^2$神经ODE因果建模及其在糖化反应中的应用

Bob Junyi Zou, Matthew E. Levine, Dessi P. Zaharieva, Ramesh Johari, Emily B. Fox

机构 * Institute for Computational and Mathematical Engineering, Stanford University(计算与数学工程研究所,斯坦福大学) Broad Institute of MIT and Harvard(哈佛大学与麻省理工学院Broad研究所) Department of Pediatrics, Stanford University(斯坦福大学儿科系) Department of Management Science and Engineering, Stanford University(斯坦福大学管理科学与工程系) Department of Statistics and Department of Computer Science, Stanford University(斯坦福大学统计系与计算机科学系)

AI总结 本文提出了一种混合神经ODE模型,通过引入因果损失来提升因果有效性,应用于1型糖尿病患者运动后葡萄糖动态建模,实现预测性能与因果有效性的双赢。

Journal ref Proceedings of the 41st International Conference on Machine Learning, PMLR 235:62934-62963, 2024

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22371 2026-02-02 cs.LG

FIRE: Multi-fidelity Regression with Distribution-conditioned In-context Learning using Tabular Foundation Models

FIRE: 基于分布条件化上下文学习的多保真度回归

Rosen Ting-Ying Yu, Nicholas Sung, Faez Ahmed

机构 * Department of Mechanical Engineering, Massachusetts Institute of Technology, Cambridge, MA, USA(麻省理工学院机械工程系) Center for Computational Engineering, Massachusetts Institute of Technology, Cambridge, MA, USA(麻省理工学院计算工程中心)

AI总结 FIRE通过分布条件化上下文学习,实现高效的多保真度回归,提升准确性和不确定性量化,优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22356 2026-02-02 cs.LG cs.RO

PoSafeNet: Safe Learning with Poset-Structured Neural Nets

PoSafeNet: 基于偏序结构神经网络的安全学习

Kiwan Wong, Wei Xiao, Daniela Rus

机构 * MIT CSAIL(麻省理工学院计算机科学与人工智能实验室) Worcester Polytechnic Institute(沃斯特理工学院)

AI总结 PoSafeNet通过偏序结构神经网络实现安全学习,通过可微神经安全层在偏序一致约束顺序下进行闭式投影,提升机器人系统在多障碍导航、受约束操作和自动驾驶中的可行性、鲁棒性和可扩展性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22298 2026-02-02 cs.LG cs.AI physics.ao-ph

Conformal Prediction for Generative Models via Adaptive Cluster-Based Density Estimation

通过自适应聚类密度估计实现生成模型的符合预测

Qidong Yang, Qianyu Julie Zhu, Jonathan Giezendanner, Youssef Marzouk, Stephen Bates, Sherrie Wang

机构 * MIT(麻省理工学院)

AI总结 本文提出CP4Gen方法,通过自适应聚类密度估计提升条件生成模型的预测置信度与可解释性。

详情

展开后加载摘要…

URL PDF HTML 收藏