Meta

Towards Physics of Multimodal Pretraining: Knowledge Flow, Modality Synergy, Early Unification, and Recipes

迈向多模态预训练的物理学：知识流、模态协同、早期统一与方法指南

Junlin Han, Shengbang Tong, David Fan, Minghao Chen, Philip Torr, Filippos Kokkinos, Mike Lewis

机构 * FAIR, Meta（Meta FAIR研究院） ； Reality Labs, Meta（Meta Reality Labs） ； University of Oxford（牛津大学） 纠错

AI总结 该研究探索多模态预训练的机制，得出知识流、模态协同等四个关键见解，推导高效预训练方法，为多模态预训练的理解与扩展提供基础。

Comments Project page: https://junlinhan.github.io/projects/physics_of_mm_pretrain/

Accelerating Q-learning through Efficient Value-Sharing across Actions

通过跨动作的高效值共享加速Q学习

Prabhat Nagarajan, Brett Daley, Martha White, Marlos C. Machado

机构 * Department of Computing Science, University of Alberta（阿尔伯塔大学计算机科学系） ； Alberta Machine Intelligence Institute（阿尔伯塔人工智能研究所） ； Meta 纠错

AI总结 提出均值扩展层，通过跨动作共享值和学习低范数表示来加速动作值学习，在深度Q网络和隐分位数网络上提升Atari游戏性能并减少过估计。

Comments ICML 2026 (Spotlight); Adaptive and Learning Agents workshop 2026 (Best paper runner-up)