NeurIPS

Linearization Explains Fine-Tuning in Large Language Models

线性化解释大语言模型中的微调

Zahra Rahimi Afzal, Tara Esmaeilbeig, Mojtaba Soltanalian, Mesrob I. Ohannessian

AI总结 本文通过线性化视角揭示了大语言模型微调的机制，分析了正则化对NTK特征值谱的影响，并通过LoRA实验证明了微调优化的改进。

Journal ref Afzal, Z.R., Esmaeilbeig, T., Soltanalian, M. and Ohannessian, M.I., 2025. Linearization Explains Fine-Tuning in Large Language Models. In The Thirty-ninth Annual Conference on Neural Information Processing Systems

On Evaluation of Unsupervised Feature Selection for Pattern Classification

对无监督特征选择用于模式分类的评估

Gyu-Il Kim, Dae-Won Kim, Jaesung Lee

机构 * Department of Artificial Intelligence, Chung-Ang University, Republic of Korea（人工智能系， Chung-Ang 大学） ； School of Computer Science and Engineering, Chung-Ang University, Republic of Korea（计算机科学与工程学院， Chung-Ang 大学） 纠错

AI总结 本文通过多标签分类框架重新评估无监督特征选择方法，发现其性能排名与单标签设置有显著差异，表明多标签评估能更公平地比较这些方法。

Comments To appear in the 39th Annual Conference on Neural Information Processing Systems in Europe (EurIPS 2025) Workshop, Copenhagen, Denmark, 2-7 December 2025 AIDT@EurIPS: AI for Tabular Data

Reasoning With a Star: A Heliophysics Dataset and Benchmark for Agentic Scientific Reasoning

用恒星进行推理：一个用于代理科学推理的太阳物理数据集和基准

Kevin Lee, Russell Spiewak, James Walsh

机构 * Frontier Development Lab（前沿发展实验室） ； Department of Mechanical and Aerospace Engineering, UCLA（机械与航空航天工程系，加州大学洛杉矶分校） ； Trillium Technologies Inc.（Trillium技术公司） ； Department of Engineering, University of Cambridge（工程系，剑桥大学） 纠错

AI总结 本研究提出一个太阳物理数据集和基准，用于评估代理在科学推理中的表现，发现系统工程原则在演绎推理任务中优于直接提示方法。

Comments Accepted at NeurIPS 2025 Machine Learning and the Physical Sciences (ML4PS) Workshop. Dataset: https://huggingface.co/datasets/SpaceML/ReasoningWithAStar

Neural MJD: Neural Non-Stationary Merton Jump Diffusion for Time Series Prediction

神经MJD：用于时间序列预测的神经非平稳梅顿跳跃扩散

Yuanpei Gao, Qi Yan, Yan Leng, Renjie Liao

AI总结 Neural MJD通过引入非平稳梅顿跳跃扩散模型，结合随机微分方程和时间非齐次过程，提升时间序列预测的准确性和泛化能力。

Comments Accepted at NeurIPS 2025

On Geometry-Enhanced Parameter-Efficient Fine-Tuning for 3D Scene Segmentation

针对3D场景分割的几何增强型参数高效微调

Liyao Tang, Zhe Chen, Dacheng Tao

机构 * The University of Sydney（悉尼大学） ； La Trobe University（拉特罗布大学） ； Nanyang Technological University（南洋理工大学） 纠错

AI总结 本文提出GEM模块，通过整合局部位置编码与轻量级注意力机制，提升3D点云模型的几何感知微调效率和性能。

Comments Neurips 2025; available at https://github.com/LiyaoTang/GEM

The Structural Complexity of Matrix-Vector Multiplication

矩阵向量乘法的结构复杂性

Emile Anand, Jan van den Brand, Rose McCarty

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

AI总结 研究通过结构化矩阵的VC维分析，提出矩阵向量乘法的高效预处理和查询方法，解决了理论与实践间的效率差距。

Comments 32 pages. 2 figures. Accepted at NeurIPS 2025

Securing Dual-Use Pathogen Data of Concern

保障受关注的双用途病原体数据安全

Doni Bloomfield, Allison Berke, Moritz S. Hanke, Aaron Maiwald, James R. M. Black, Toby Webster, Tina Hernandez-Boussard, Oliver M. Crook, Jassi Pannu

机构 * Fordham University School of Law（福特汉姆大学法学院） ； RAND（RAND研究院） ； Center for Health Security Johns Hopkins Bloomberg School of Public Health（约翰霍普金斯大学布隆伯格公共卫生学院健康安全中心） ； Department of Statistics University of Oxford（牛津大学统计学系） ； RAND Europe（RAND欧洲分部） ； Stanford University School of Medicine（斯坦福大学医学院） ； Department of Chemistry & Kavli Institute for Nanoscience Discovery University of Oxford（牛津大学化学系及Kavli纳米科学发现研究所） 纠错

AI总结 本文提出了一种五级生物安全数据等级框架，用于分类和控制可能用于生物安全威胁的双用途病原体数据。

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: Biosecurity Safeguards for Generative AI

ElliCE: Efficient and Provably Robust Algorithmic Recourse via the Rashomon Sets

ElliCE: 通过Rashomon集实现高效且可证明稳健的算法补救

Bohdan Turbal, Iryna Voitsitska, Lesia Semenova

机构 * Princeton University（普林斯顿大学） ； Ukrainian Catholic University（乌克兰天主教大学） ； Rutgers University（罗格斯大学） ； Taras Shevchenko National University of Kyiv（塔拉斯·谢甫琴科基斯林国立大学） ； Microsoft Research NYC（微软研究院纽约） 纠错

AI总结 ElliCE通过椭球近似Rashomon集，提供高效且可证明稳健的算法补救方法，提升反事实解释的鲁棒性和灵活性。

Journal ref The Thirty-ninth Annual Conference on Neural Information Processing Systems 2025

RNNs perform task computations by dynamically warping neural representations

RNNs通过动态扭曲神经表示来执行任务计算

Arthur Pellegrino, Angus Chadwick

AI总结 本文提出RNNs通过动态扭曲其表示来执行任务计算，并利用黎曼几何框架验证了这一假设。

Comments NeurIPS 2025

Correct Reasoning Paths Visit Shared Decision Pivots

正确推理路径访问共享决策枢纽

Dongkyu Cho, Amy B. Z. Zhang, Bilel Fehri, Sheng Wang, Rumi Chunara, Hengrui Cai, Rui Song

AI总结 本文提出了一种基于决策枢纽的自训练方法，通过挖掘共享决策点提升大语言模型的推理能力。

Comments 18 pages, 10 figures

Journal ref NeurIPS 2025 Workshop on Foundations of Reasoning in Language Models (FoRLM)

Predictability Enables Parallelization of Nonlinear State Space Models

可预测性使非线性状态空间模型并行化

Xavier Gonzalez, Leo Kozachkov, David M. Zoltowski, Kenneth L. Clarkson, Scott W. Linderman

机构 * Stanford University（斯坦福大学） ； IBM Research（IBM研究院） ； Brown University（布朗大学） 纠错

AI总结 本研究揭示了可预测性对非线性状态空间模型并行化效率的影响，通过分析系统动态与优化问题条件的关系，证明可预测系统可显著提升并行计算效率。

Comments NeurIPS '25. XG and LK dual lead authors. Code: https://github.com/lindermanlab/predictability_enables_parallelization

Remasking Discrete Diffusion Models with Inference-Time Scaling

通过推理时间缩放重新掩码离散扩散模型

Guanghan Wang, Yair Schiff, Subham Sekhar Sahoo, Volodymyr Kuleshov

机构 * Cornell Tech（康奈尔科技） ； Cornell University（康奈尔大学） 纠错

AI总结 ReMDM通过推理时间缩放提升离散扩散模型的样本质量与可控性

Comments NeurIPS 2025. Project page: https://remdm.github.io

Knowing When to Stop: Efficient Context Processing via Latent Sufficiency Signals

何时停止：通过潜在充分信号实现高效的上下文处理

Roy Xie, Junlin Wang, Paul Rosu, Chunyuan Deng, Bolun Sun, Zihao Lin, Bhuwan Dhingra

机构 * Duke（杜克大学） ； Rice（稻田大学） ； JHU（约翰·霍普金斯大学） ； UC Davis（加州大学戴维斯分校） 纠错

AI总结 通过潜在充分信号实现高效上下文处理，使LLMs在获得足够信息后自动终止处理，提升效率并减少token使用。

Comments Accepted to NeurIPS 2025

Latent Target Score Matching, with an application to Simulation-Based Inference

潜在目标分数匹配，及其在基于模拟的推断中的应用

Joohwan Ko, Tomas Geffner

机构 * University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） ； NVIDIA（英伟达） 纠错

AI总结 本文提出潜在目标分数匹配方法，通过利用联合分数降低方差，提升基于模拟推断任务的分数准确性和样本质量。

Comments Machine Learning and the Physical Sciences Workshop, NeurIPS 2025

Specialization after Generalization: Towards Understanding Test-Time Training in Foundation Models

专精于泛化：关于基础模型中测试时训练的理解

Jonas Hübotter, Patrik Wolf, Alexander Shevchenko, Dennis Jüni, Andreas Krause, Gil Kur

机构 * ETH Zürich（苏黎世联邦理工学院） ； Max Planck Institute for Intelligent Systems（智能系统马克斯·普朗克研究所） 纠错

AI总结 本文提出基础模型在测试时训练通过专精于泛化以提升性能，通过实验验证了这一机制在分布内任务中的有效性。

Comments ICLR 2026 Oral at CCFM @ NeurIPS 2025

HyPlaneHead: Rethinking Tri-plane-like Representations in Full-Head Image Synthesis

HyPlaneHead：重新思考全头图像合成中的三平面表示

Heyuan Li, Kenkun Liu, Lingteng Qiu, Qi Zuo, Keru Zheng, Zilong Dong, Xiaoguang Han

机构 * Tongyi Lab, Alibaba Inc.（阿里云实验室） ； SSE, CUHK (Shenzhen)（城市大学（深圳）信息科学与工程学院） ； FNii-Shenzhen Guangdong Provincial Key Laboratory of Future Networks of Intelligence（未来网络智能化广东省重点实验室） 纠错

AI总结 HyPlaneHead通过引入混合平面表示，解决三平面表示中的特征纠缠和映射不均问题，提升全头图像合成性能。

Comments Accepted by NeurIPS 2025. Project page: https://lhyfst.github.io/hyplanehead/

Interpretable Generalized Additive Models for Datasets with Missing Values

可解释的广义加法模型用于含有缺失值的数据集

Hayden McTavish, Jon Donnelly, Margo Seltzer, Cynthia Rudin

AI总结 M-GAM通过结合缺失性指示符和交互项，提供了一种稀疏且可解释的广义加法模型，有效提升稀疏性并保持模型准确性。

Comments Published in NeurIPS 2024