NeurIPS

How Data Mixing Shapes In-Context Learning: Asymptotic Equivalence for Transformers with MLPs

数据混合如何塑造上下文学习：具有MLP的Transformer的渐近等价性

Samet Demir, Zafer Dogan

机构 * MLIP Research Group, KUIS AI Center, Koç University（MLIP研究组、KUIS人工智能中心、科举大学） ； Department of EEE, Koç University（电子工程系、科举大学） 纠错

AI总结 本文研究了具有MLP头的Transformer在非线性任务上的上下文学习能力，证明其在高维情况下与多项式预测器等价，并揭示了数据混合对学习性能的影响。

Comments NeurIPS 2025, 24 pages, 6 figures

Additive Models Explained: A Computational Complexity Approach

可加模型解释：一种计算复杂性方法

Shahaf Bassan, Michal Moshkovitz, Guy Katz

机构 * The Hebrew University of Jerusalem（特拉维夫大学） ； Google Research（谷歌研究） 纠错

AI总结 本文通过计算复杂性分析，揭示了GAMs解释的复杂性取决于输入空间结构、组件模型类型、任务类型及解释方法，挑战了GAMs解释的高效性假设。

Comments To appear in NeurIPS 2025

Preference-based Reinforcement Learning beyond Pairwise Comparisons: Benefits of Multiple Options

基于偏好强化学习的多选项扩展：多个选项的好处

Joongkyu Lee, Seouh-won Yi, Min-hwan Oh

AI总结 本文提出M-AUPO算法，通过多选项选择提升偏好强化学习的样本效率，并证明其理论性能界。

Comments Accepted at NeurIPS 2025

AlphaBeta is not as good as you think: a simple class of synthetic games for a better analysis of deterministic game-solving algorithms

AlphaBeta 不如你想象的那么好：一种简单的合成游戏类用于更深入分析确定性游戏求解算法

Raphaël Boige, Amine Boumaza, Bruno Scherrer

AI总结 本文提出了一种合成游戏模型，用于更深入分析确定性游戏求解算法，揭示AlphaBeta在深树中的性能劣势。

Journal ref The Thirty-ninth Annual Conference on Neural Information Processing Systems, Dec 2025, San Diego, United States

MaxSup: Overcoming Representation Collapse in Label Smoothing

MaxSup: 解决标签平滑中的表征崩溃

Yuxuan Zhou, Heng Li, Zhi-Qi Cheng, Xudong Yan, Yifei Dong, Mario Fritz, Margret Keuper

机构 * University of Mannheim（曼海姆大学） ； University of Washington（华盛顿大学） ； Meta AI ； CISPA Helmholtz Center for Information Security（信息安全霍普夫研究所） ； Max Planck Institute for Informatics（马克斯·普朗克信息研究所） 纠错

AI总结 MaxSup通过惩罚top-1 logit解决标签平滑中的表征崩溃问题，恢复类内多样性并增强类间边界。

Comments NeurIPS 2025 Oral (0.36% acceptance); code: https://github.com/ZhouYuxuanYX/Maximum-Suppression-Regularization

Normative Modeling using Multimodal Variational Autoencoders to Identify Abnormal Brain Structural Patterns in Alzheimer Disease

基于多模态变分自编码器的规范建模用于识别阿尔茨海默病异常脑结构模式

Sayantan Kumar, Philip Payne, Aristeidis Sotiras

AI总结 本文提出基于多模态变分自编码器的规范建模框架，用于识别阿尔茨海默病中异常脑结构模式，通过联合分布建模提高疾病阶段检测的敏感性和准确性。

Comments Medical Imaging Meets NeurIPS workshop in NeurIPS 2022

Journal ref Proc. SPIE 12465, Medical Imaging 2023: Computer-Aided Diagnosis, 1246503 (7 April 2023)

ZeroS: Zero-Sum Linear Attention for Efficient Transformers

ZeroS：用于高效Transformer的零和线性注意力

Jiecheng Lu, Xu Han, Yan Sun, Viresh Pati, Yubin Kim, Siddhartha Somani, Shihao Yang

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Amazon Web Services（亚马逊网络服务） 纠错

AI总结 ZeroS通过去除零阶项并重新加权残差，改进了线性注意力机制，实现了更稳定的权重和对比操作，从而在保持O(N)复杂度的同时提升了序列建模性能。

Comments Camera-ready version. Accepted at NeurIPS 2025

Journal ref Proceedings of the Thirty-ninth Annual Conference on Neural Information Processing Systems (NeurIPS 2025)

CyIN: Cyclic Informative Latent Space for Bridging Complete and Incomplete Multimodal Learning

CyIN：循环信息潜在空间用于连接完整与不完整多模态学习

Ronghao Lin, Qiaolin He, Sijie Mai, Ying Zeng, Aolin Xiong, Li Huang, Yap-Peng Tan, Haifeng Hu

机构 * School of Electronics and Information Technology, Sun Yat-Sen University（中山大学电子与信息学院） ； School of Electrical and Electronic Engineering, Nanyang Technological University（南洋理工大学电气与电子工程学院） ； School of Computer Science, South China Normal University（华南师范大学计算机科学学院） ； Desay SV Automotive Co., Ltd（德赛股份有限公司） ； Pazhou Laboratory（琶洲实验室） 纠错

AI总结 CyIN通过构建循环信息潜在空间，解决多模态学习中完整与不完整数据之间的性能差距，实现统一优化。

Comments Accepted by NeurIPS 2025

A Single-Loop First-Order Algorithm for Linearly Constrained Bilevel Optimization

一个用于线性约束双层优化的单循环一阶算法

Wei Shen, Jiawei Zhang, Minhui Huang, Cong Shen

机构 * University of Virginia（弗吉尼亚大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Meta 纠错

AI总结 本文提出了一种单循环一阶算法，用于解决具有线性约束的双层优化问题，通过改写问题并分析收敛率，提升了算法效率。

Comments NeurIPS 2025

Amortized Sampling with Transferable Normalizing Flows

基于可迁移归一化流的 amortized 模拟

Charlie B. Tan, Majdi Hassan, Leon Klein, Saifuddin Syed, Dominique Beaini, Michael M. Bronstein, Alexander Tong, Kirill Neklyudov

机构 * University of Oxford（牛津大学） ； Université de Montréal（蒙特利尔大学） ； Mila - Quebec AI Institute（魁北克AI研究所） ； Freie Universität Berlin（柏林自由大学） ； Valence Labs（Valence实验室） ； AITHYRA ； Institut Courtois（科特伊研究所） 纠错

AI总结 本文提出 Prose，一个基于深度学习的可迁移归一化流，用于高效跨系统分子采样，通过零样本提案实现序列长度的可转移性，并在多种采样算法中表现出竞争力。

Comments Presented at NeurIPS 2025

LittleBit: Ultra Low-Bit Quantization via Latent Factorization

LittleBit：通过潜在因子分解实现超低比特量化

Banseok Lee, Dongkyu Kim, Youngcheon You, Youngmin Kim

机构 * Samsung Research（三星研究院） 纠错

AI总结 LittleBit通过潜在因子分解实现超低比特量化，实现高达31倍的内存压缩，同时在亚1比特域内提升模型性能，达到FP16的11.6倍推理加速。

Comments Accepted to NeurIPS 2025. Banseok Lee and Dongkyu Kim contributed equally

Statistically Valid Post-Deployment Monitoring Should Be Standard for AI-Based Digital Health

基于AI的数字健康应将统计上有效的部署后监控作为标准

Pavel Dolin, Weizhi Li, Gautam Dasarathy, Visar Berisha

机构 * Arizona State University（亚利桑那州立大学） 纠错

AI总结 本文主张基于AI的数字健康应采用统计上有效的部署后监控作为标准，提出统计有效且标签效率高的测试框架以确保现实部署的可靠性和安全性。

Journal ref 39th Conference on Neural Information Processing Systems (NeurIPS 2025)

Guided Diffusion Sampling on Function Spaces with Applications to PDEs

在函数空间上引导扩散采样及其在偏微分方程中的应用

Jiachen Yao, Abbas Mammadov, Julius Berner, Gavin Kerrigan, Jong Chul Ye, Kamyar Azizzadenesheli, Anima Anandkumar

机构 * California Institute of Technology（加州理工学院） ； NVIDIA（英伟达） ； University of Oxford（牛津大学） ； KAIST（韩国科学技术院） 纠错

AI总结 本文提出FunDPS框架，通过函数空间扩散模型和引导机制，在极稀疏或噪声数据下有效恢复PDE解，实现32%的准确率提升。

Comments Accepted to NeurIPS 2025

Root Cause Analysis of Outliers with Missing Structural Knowledge

具有缺失结构知识的异常根源分析

William Roy Orchard, Nastaran Okati, Sergio Hernan Garrido Mejia, Patrick Blöbaum, Dominik Janzing

机构 * University of Cambridge（剑桥大学） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） ； Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； Amazon Tübingen（亚马逊图宾根） 纠错

AI总结 本文提出了一种简单高效的方法，用于在因果图是聚树的情况下，通过边际异常分数识别异常根源，无需假设因果图结构或指定异常分数阈值。

Comments Accepted at the 39th Conference on Neural Information Processing Systems (NeurIPS 2025)

A Differential and Pointwise Control Approach to Reinforcement Learning

基于微分和逐点控制的强化学习方法

Minh Nguyen, Chandrajit Bajaj

机构 * University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

AI总结 本文提出微分强化学习框架，通过微分对偶形式和dfPO算法提升样本效率和动态对齐，理论证明收敛性并实验证明在科学计算任务中的有效性。

Comments NeurIPS 2025