Microsoft（微软）

A New Framework to Analyse the Distributional Robustness of Deep Neural Networks

分析深度神经网络分布鲁棒性的新框架

Divij Khaitan, Subhashis Banerjee

机构 * Microsoft（微软） ； Ashoka University（阿什oka大学） 纠错

AI总结 本文提出了一种新框架，通过研究层权重与激活之间的相互作用来分析和量化深度神经网络的分布鲁棒性，展示了该框架在CIFAR-10和ImageNet上模型的实用性，并表明所提指标能区分记忆训练数据和未记忆的网络。

Comments 9 pages, 6 figures, 3 tables

Llamas on the Web: Memory-Efficient, Performance-Portable, and Multi-Precision LLM Inference with WebGPU

网络上的Llamas：基于WebGPU的内存高效、性能可移植和多精度LLM推理

Reese Levine, Rithik Sharma, Nikhil Jain, Abhijit Ramesh, Zheyuan Chen, Neha Abbas, James Contini, Tyler Sorensen

机构 * Microsoft Research（微软研究院） ； UC Santa Cruz（加州大学圣克鲁兹分校） 纠错

AI总结 本文提出LlamaWeb，一种基于WebGPU的LLM推理框架，通过静态内存规划和高效模型加载减少内存开销，支持多种模型权重格式，实现了内存高效、性能可移植的LLM推理。

Comments 19 pages, 11 figures, 5 tables

Statistical Guarantees in the Search for Less Discriminatory Algorithms

在寻找更少歧视性算法中统计保证

Chris Hays, Ben Laufer, Solon Barocas, Manish Raghavan

机构 * MIT（麻省理工学院） ； Cornell University（康奈尔大学） ； Microsoft Research（微软研究院） 纠错

AI总结 本文研究了在高风险领域中，企业为减少对受保护群体的歧视性影响而寻找更少歧视性算法的统计保证问题，提出了一种自适应停止算法以确定何时停止搜索以证明进一步搜索不会带来有意义的改进。

Comments 38 pages, 10 figures

Code Researcher: Deep Research Agent for Large Systems Code and Commit History

Code Researcher: 用于大型系统代码和提交历史的深度研究代理

Ramneet Singh, Sathvik Joel, Abhav Mehrotra, Nalin Wadhwa, Ramakrishna B Bairi, Aditya Kanade, Nagarajan Natarajan

机构 * Microsoft Research（微软研究院） 纠错

AI总结 本文提出Code Researcher，一种用于大型系统代码和提交历史的深度研究代理，通过多步骤推理和全局上下文收集，有效解决系统代码崩溃修复问题，显著优于现有基线方法。

MemGym: a Long-Horizon Memory Environment for LLM Agents

MemGym: 一种长时间跨度的记忆环境用于LLM智能体

Wujiang Xu, Yu Wang, Kai Mei, Kaiqu Liang, Zhenting Wang, Mingyu Jin, Han Zhang, Shi-Xiong Zhang, Wenyue Hua, Sambit Sahu, Dimitris N. Metaxas

机构 * Rutgers University（罗杰斯大学） ； Capital One ； Princeton University（普林斯顿大学） ； Microsoft Research（微软研究院） 纠错

AI总结 本文提出MemGym，一种用于评估LLM智能体记忆能力的基准测试环境，通过统一现有智能体 gym 和内部记忆基础管道，提供一个记忆推理接口。MemGym 包含五个评估赛道，涵盖四个智能体领域，能够独立评估记忆性能，排除推理、检索和工具使用能力的干扰。

Instant GPU Efficiency Visibility at Fleet Scale

在舰队规模上实现GPU效率的即时可见性

Connor Pedersen, Dong H. Ahn, Michel Migdal, Collin Neale, Nik Konyuchenko

机构 * Microsoft（微软） ； Alphabet ； Meta 纠错

AI总结 本文提出了一种硬件级别的GPU效率指标Overall FLOP Utilization (OFU)，用于HPC系统上的AI工作负载，通过两种芯片级性能计数器：张量管道活动和SM时钟频率来推导。OFU无需应用程序仪器化，适用于所有GPU代际和数值精度。通过在H100和GB200上进行受控的GEMM实验，研究了OFU近似值的五个属性，并在FP16、TF32、FP8和NVFP4上进行了验证。经过瓷砖量化修正后，OFU可以预测应用级别的MFU误差不超过2个百分点。在608个生产训练任务中，OFU与应用级别的MFU相关性达到0.78，并揭示了两个框架级别的FLOPs计算错误。在大规模GPU舰队上部署后，OFU检测到2.5倍的效率退化，并追踪了混合精度预训练中的精度依赖性利用变化。评估和运营经验表明，OFU是应用级别MFU的实用且可部署的补充，用于持续的舰队级效率监控。

Comments 12 pages, 7 figures, 3 tables

Spectral bandits for smooth graph functions with applications in recommender systems

图上平滑函数的谱带it问题及其在推荐系统中的应用

Tomáš Kocák, Michal Valko, Rémi Munos, Branislav Kveton, Shipra Agrawal

机构 * SequeL team, Inria France Microsoft Research New England（Inria法国微软新英格兰研究实验室SequeL团队） ； Technicolor Research Center California（Technicolor加州研究中心） ； Microsoft Research New England（微软新英格兰研究实验室） ； Microsoft Research Bangalore India（微软班加罗尔印度研究实验室） 纠错

AI总结 本文研究了图上平滑函数的带it问题，提出了一种在推荐系统中有效学习用户偏好的方法，通过有效维度的定义和线性缩放的算法，实现了低悔的在线学习。

Comments Published at AAAI 2014 - SDMBD

Reinforcing VLAs in Task-Agnostic World Models

在任务无关的世界模型中强化视觉-语言-动作

Yucen Wang, Rui Yu, Fengming Zhang, Junjie Lu, Xinyao Qin, Tianxiang Zhang, Kaixin Wang, Li Zhao

机构 * Microsoft Research Asia（微软亚洲研究院） ； Nanjing University（南京大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Wuhan University（武汉大学） ； University of Technology Sydney（悉尼科技大学） ； Tsinghua University（清华大学） 纠错

AI总结 本文提出RAW-Dream方法，通过分离世界模型学习与下游任务依赖，利用预训练的世界模型和现成的视觉-语言模型，实现零样本推理，从而在无需任务特定数据的情况下提高VLA适应性。

FT-Dojo: Towards Autonomous LLM Fine-Tuning with Language Agents

FT-Dojo: 向自主LLM微调迈进的语言代理

Qizheng Li, Yifei Zhang, Xiao Yang, Xu Yang, Zhuo Wang, Weiqing Liu, Jiang Bian

机构 * Peking University（北京大学） ； Nanjing University（南京大学） ； Microsoft Research Asia（微软亚洲研究院） ； The University of Chicago（芝加哥大学） 纠错

AI总结 本文提出FT-Dojo交互式基准环境，用于研究自主LLM微调，通过标准化任务接口、共享数据仓库、沙盒执行环境和反馈协议，开发了FT-Agent框架，实现了结构化迭代规划和多级反馈分析，实验显示FT-Agent在13个任务中表现优异，且展示了代理在故障恢复和长期规划中的能力。

Comments 26 pages, 6 figures, 11 tables

Open-World Evaluations for Measuring Frontier AI Capabilities

面向前沿AI能力的开放世界评估

Sayash Kapoor, Peter Kirgis, Andrew Schwartz, Stephan Rabanser, J. J. Allaire, Rishi Bommasani, Harry Coppock, Magda Dubois, Gillian K Hadfield, Andrew B. Hall, Sara Hooker, Seth Lazar, Steve Newman, Dimitris Papailiopoulos, Shoshannah Tekofsky, Helen Toner, Cozmin Ududec, Arvind Narayanan

机构 * Princeton University（普林斯顿大学） ； Cornflower Labs（Cornflower实验室） ； Meridian Labs（Meridian实验室） ； Stanford University（斯坦福大学） ； UK AI Security Institute（英国人工智能安全研究所） ； Johns Hopkins University（约翰霍普金斯大学） ； Adaption Labs（Adaption实验室） ； Australian National University（澳大利亚国立大学） ； Golden Gate Institute for AI（金门人工智能研究所） ； UW Madison（威斯康星大学麦迪逊分校） ； Microsoft Research（微软研究院） ； AI Digest（AI摘要） ； Georgetown University (CSET)（乔治城大学（CSET）） 纠错

AI总结 本文提出开放世界评估作为一种补充方法，通过小样本定性分析来评估长期、复杂、现实世界任务，以更准确地衡量AI能力，并介绍了CRUX项目作为定期进行此类评估的尝试。

Reinforcing Human Behavior Simulation via Verbal Feedback

通过言语反馈强化人类行为模拟

Weiwei Sun, Xuhui Zhou, Jiarui Liu, Weihua Du, Haojia Sun, Yiqing Xie, Qianou Ma, Sihao Chen, Mengting Wan, Longqi Yang, Pei Zhou, Sherry Wu, Sean Welleck, Graham Neubig, Yiming Yang, Maarten Sap

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Microsoft（微软） 纠错

AI总结 本文提出DITTO模型，通过将言语反馈作为强化学习中的首要信号来提升LLM模拟人类行为的能力，并引入SOUL基准测试平台，展示了在多个任务中显著提升性能的成果。

Mechanisms of Misgeneralization in Physical Sequence Modeling

物理序列建模中泛化错误的机制

Kento Nishi, Raphael Tang, Karun Kumar, Core Francisco Park, Hidenori Tanaka

机构 * Harvard College（哈佛大学） ； Harvard John A. Paulson School of Engineering and Applied Sciences（哈佛大学约翰·A·保罗森工程与应用科学学院） ； Comcast AI ； CBS-NTT Program in Physics of Intelligence, Harvard University（哈佛大学物理智能计划） ； Physics of Artificial Intelligence Group, NTT Research, Inc., Sunnyvale, CA, USA（人工智能物理研究组，NTT研究公司，美国加利福尼亚州山景城） ； Microsoft（微软） 纠错

AI总结 本文研究了物理序列建模中由于局部误差传播导致的物理泛化错误，提出了一种数据偏差核来预测物理量的质量变化，并提出了基于核的干预策略。

Comments Preprint. kentonishi.com/physical-misgeneralization

Why Latent Actions Fail, and How to Prevent It

为何潜在动作失效，以及如何防止它

Jung Min Lee, Taehyun Cho, Li Zhao, Jungwoo Lee

机构 * Seoul National University（首尔国立大学） ； Microsoft Research（微软研究院） 纠错

AI总结 本文研究了潜在动作模型中外部状态对动作学习的干扰问题，并提出通过聚焦内生成分来缓解噪声干扰的方法。

Task-conditioned probing of instruction-tuned multimodal LLMs: Region-specific brain alignment patterns under naturalistic stimuli

基于任务的指令调制多模态大语言模型探测：在自然主义刺激下的区域特定大脑对齐模式

Subba Reddy Oota, Khushbu Pahwa, Prachi Jindal, Satya Sai Srinath Namburi, Maneesh Singh, Tanmoy Chakraborty, Bapi S. Raju, Manish Gupta

机构 * Technische Universität Berlin（柏林技术大学） ； Rice University（Rice 大学） ； AWS AI Labs, Amazon（Amazon 人工智能实验室） ； IIT Delhi（德里理工学院） ； University of Wisconsin - Madison（威斯康星大学麦迪逊分校） ； Spector Inc（Spector 公司） ； IIIT-Hyderabad（海得拉巴理工学院） ； Microsoft（微软） 纠错

AI总结 本研究探讨了指令调制多模态大语言模型在自然主义刺激下的大脑对齐模式，通过比较不同模型在视频和音频任务中的表现，揭示了指令调制对模型表示能力的影响。

Comments 57 pages, 39 figures