Microsoft（微软）

Taylor-Calibrate: Principled Initialization for Hybrid Linear Attention Distillation

Taylor-Calibrate：混合线性注意力蒸馏的原则性初始化

Zhongzhu Zhou, Qingyang Wu, Junxiong Wang, Mayank Mishra, Shuaiwen Leon Song, Ben Athiwaratkun, Chenfeng Xu

机构 * The University of Sydney（悉尼大学） ； Together AI ； University of California, Berkeley（加州大学伯克利分校） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Microsoft（微软） 纠错

AI总结 提出Taylor-Calibrate方法，利用泰勒引导的教师注意力统计初始化混合线性注意力学生模型，显著减少蒸馏所需训练令牌数。

Comments 24 pages, 9 figures

Cascaded Sparse Autoencoders Learn Multi-Level Visual Concepts in Multimodal LLMs

级联稀疏自编码器在多模态大语言模型中学习多级视觉概念

Yusong Zhao, Hengyi Wang, Tanuja Ganu, Akshay Nambi, Hao Wang

机构 * Rutgers University（罗格斯大学） ； Microsoft Research（微软研究院） 纠错

AI总结 提出级联稀疏自编码器（CSAEs），通过在第一级SAE解码器权重上训练第二级SAE来学习层次化视觉概念，避免嵌套或堆叠SAE的缺点，在多个MLLM和数据集上提升了概念层次一致性和干预效果。

Closed-Loop Triplet Synergistic Generation for Long-Form Video

闭环三元组协同生成用于长视频

Xinlei Yin, Xiulian Peng, Xiao Li, Zhiwei Xiong, Yan Lu

机构 * University of Science and Technology of China（中国科学技术大学） ； Microsoft Research Asia（微软亚洲研究院） 纠错

AI总结 提出CoTriSyGen框架，通过闭环视觉-文本-记忆协同过程，结合分析器进行镜头内和镜头间修正，解决长视频生成中的身份漂移和不一致问题。

Multi-agent Framework for Time-Sensitive Complementary Collaboration in Minecraft

Minecraft中时间敏感互补协作的多智能体框架

Juheon Yi, Jinglu Wang, Xiaoyi Zhang, Yan Lu

机构 * Microsoft Research Asia（微软亚洲研究院） 纠错

AI总结 提出TickingCollabBench基准和TickingCollab框架，用于评估LLM在动态、实时、异构智能体强制协作任务中的表现，发现LLM因延迟和协调困难而频繁失败。

Understanding Diversity Collapse in RLVR via the Lens of Overtraining

通过过度训练的视角理解RLVR中的多样性崩溃

Suqin Yuan, Jinkun Chen, Jiyang Zheng, Muyang Li, Lei Feng, Dadong Wang, Tao Xiang, Tongliang Liu, Bo An

机构 * Sydney AI Centre, The University of Sydney（悉尼大学悉尼人工智能中心） ； Southeast University（东南大学） ； Microsoft（微软） ； Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61） ； Chongqing University（重庆大学） ； Nanyang Technological University（南洋理工大学） 纠错

AI总结 本文通过过度训练的视角形式化RLVR中的多样性崩溃，发现标准训练中大部分更新是过度训练，并提出贝叶斯边界门控（BBG）方法，通过估计每个问题对推理边界的边际贡献来优化，提升多个基准上的Pass@k。

From Frames to Temporal Graphs: In-Context Egocentric Action Recognition with Vision-Language Models

从帧到时间图：基于视觉语言模型的上下文第一人称动作识别

Bessie Dominguez-Dager, Francisco Gomez-Donoso, Miguel Cazorla, Marc Pollefeys, Daniel Barath, Zuria Bauer

机构 * University of Alicante（阿利坎特大学） ； ETH Zürich（苏黎世联邦理工学院） ； Microsoft（微软） 纠错

AI总结 提出将视频转换为时间动作图，通过多阶段提示生成自然语言叙述并结构化，实现上下文学习，在EGTEA和Epic-Kitchens-100上显著提升零样本和少样本动作识别性能。

Adaptive Inference-Time Scaling via Early-Step Latent Verification for Image Editing

自适应推理时间缩放：基于早期步骤潜在验证的图像编辑

Yue Yu, Yang Jiao, Jiayu Wang, Qi Dai, Jingjing Chen

机构 * College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学与人工智能学院） ； Microsoft Research Asia（微软亚洲研究院） ； Institute of Trustworthy Embodied AI, Fudan University（复旦大学可信具身人工智能研究所） 纠错

AI总结 提出VeriLatent框架，通过早期步骤潜在空间编辑激活图验证初始噪声，实现自适应推理时间缩放，提升图像编辑质量和效率。