ICLR

Towards Large-Scale Heterogeneous Data Organization for Scientific Foundation Models: A Nuclear Fusion Case Study

面向科学基础模型的大规模异构数据组织：以核聚变研究为例

Nathaniel Chen, Kouroche Bouchiat, Peter Steiner, Azarakhsh Jalalvand, SangKyeun Kim, Egemen Kolemen

AI总结 本文以核聚变研究为例，针对科学基础模型训练所需的大规模异构数据问题，表征了相关数据特性并分析了复杂度，提出了多模态波动数据表征模板，为相关领域提供了参考。

Comments Accepted at the 3rd Workshop on Navigating and Addressing Data Problems for Foundation Models (DATA-FM), ICLR 2026

Agnostics: Learning to Code in Any Programming Language via Reinforcement with a Universal Learning Environment

Agnostics: 通过通用学习环境的强化学习实现任何编程语言的代码学习

Aleksander Boruch-Gruszecki, Yangtian Zi, Zixuan Wu, Tejas Oberoi, Carolyn Jane Anderson, Joydeep Biswas, Arjun Guha

机构 * Northeastern University（东北大学） ； University of Texas（德克萨斯大学） ； Wellesley College（韦尔斯利学院） 纠错

AI总结 Agnostics通过通用学习环境的强化学习，实现任何编程语言的代码学习，提升低资源语言模型性能并简化训练流程。

Comments 30 pages, 19 figures. Accepted at ICLR 2026. For data, code, artifacts, see https://agnostics.abgru.me

Multi-Marginal Flow Matching with Adversarially Learnt Interpolants

多边际流匹配与对抗性学习插值

Oskar Kviman, Kirill Tamogashev, Nicola Branchini, Víctor Elvira, Jens Lagergren, Esmeralda S. Whitammer

机构 * KTH（皇家理工学院） ； University of Edinburgh（爱丁堡大学） ； CIFAR Fellow 纠错

AI总结 本文提出了一种新的流匹配方法ALI-CFM，通过GAN启发的对抗损失拟合神经参数化插值曲线，以逼近中间时间点的观测分布，从而提升多边际轨迹推断的性能。

Comments ICLR 2026

Data-to-Energy Stochastic Dynamics

数据到能量的随机动力学

Kirill Tamogashev, Esmeralda S. Whitammer

机构 * University of Edinburgh（爱丁堡大学） ； CIFAR Fellow（蒙特利尔认知研究院研究员） 纠错

AI总结 本文提出了一种数据到能量的IPF方法，用于建模Schrödinger桥问题，无需数据样本即可学习多模态分布之间的传输，并改进了扩散系数的学习。

Comments ICLR 2026

PERK: Long-Context Reasoning as Test-Time Learning

PERK：长上下文推理作为参数高效测试时学习

Zeming Chen, Angelika Romanou, Gail Weiss, Antoine Bosselut

机构 * EPFL（瑞士联邦理工学院） 纠错

AI总结 PERK通过参数高效测试时学习方法，实现对长上下文的高效推理，显著提升模型性能。

Comments ICLR 2026, 10 pages, 7 figures, test-time learning, long context, meta-learning

Journal ref The Fourteenth International Conference on Learning Representations, 2026

PQMass: Probabilistic Assessment of the Quality of Generative Models using Probability Mass Estimation

PQMass：基于概率质量估计的生成模型质量概率评估

Pablo Lemos, Sammy Sharief, Esmeralda S. Whitammer, Salma Salhi, Connor Stone, Laurence Perreault-Levasseur, Yashar Hezaveh

机构 * Mila – Québec Artificial Intelligence Institute（魁北克人工智能研究所） ； Ciela Institute（Ciela研究所） ； Université de Montréal（蒙特利尔大学） ； SanboxAQ ； CCA – Flatiron Institute（CCA-Flatiron研究所） ； University of Edinburgh（爱丁堡大学） ； Trottier Space Institute（特罗特里尔空间研究所） 纠错

AI总结 研究提出无需似然的PQMass方法，通过划分样本空间并应用卡方检验，可严谨评估生成模型质量、比较模型，适用于多模态及中等高维数据，无需辅助模型或特征提取。

Comments ICLR 2025; code: https://github.com/Ciela-Institute/PQM

A foundation model with multi-variate parallel attention to generate neuronal activity

一种用于生成神经元活动的多变量并行注意力基础模型

Francesco Carzaniga, Michael Hersche, Abu Sebastian, Kaspar Schindler, Abbas Rahimi

AI总结 本研究提出多变量并行注意力（MVPA）机制，构建MVPFormer生成式基础模型，在iEEG等任务上达SOTA性能，发布最大公开iEEG数据集SWEC，为异构时间序列建模提供通用方案。

Comments The code is available at https://github.com/IBM/multi-variate-parallel-transformer. The SWEC iEEG dataset is available at https://huggingface.co/datasets/NeuroTec/SWEC_iEEG_Dataset. Published at ICLR 2026

MoDGS: Dynamic Gaussian Splatting from Casually-captured Monocular Videos with Depth Priors

MoDGS：基于深度先验的随意捕获单目视频动态高斯溅射

Qingming Liu, Yuan Liu, Jiepeng Wang, Xianqiang Lyv, Peng Wang, Wenping Wang, Junhui Hou

机构 * City University of HongKong（香港城市大学） ； HKUST（香港科技大学） ； HKU（香港大学） ； TAMU（德克萨斯大学奥斯汀分校） ； CUHK(SZ)（香港城市大学（深圳）） 纠错

AI总结 MoDGS是基于深度先验的新管线，通过3D感知初始化与鲁棒深度损失，从相机静止或缓慢移动的随意单目视频渲染高质量动态场景新视角，性能优于现有方法且代码公开。

Comments Accepted as a poster at ICLR. Project page: https://modgs.github.io

Adaptive teachers for amortized samplers

用于摊销采样器的自适应教师

Minsu Kim, Sanghyeok Choi, Taeyoung Yun, Emmanuel Bengio, Leo Feng, Jarrid Rector-Brooks, Sungsoo Ahn, Jinkyoo Park, Esmeralda S. Whitammer, Yoshua Bengio

AI总结 该研究针对摊销采样器的高效探索挑战，提出用自适应训练分布（教师）指导采样器（学生）训练，经多任务验证可提升样本效率与模式覆盖范围。

Comments ICLR 2025, 27 pages, 12 figures

CLIPure: Purification in Latent Space via CLIP for Adversarially Robust Zero-Shot Classification

CLIPure：基于CLIP的潜在空间纯化用于对抗鲁棒零样本分类

Mingkun Zhang, Keping Bi, Wei Chen, Jiafeng Guo, Xueqi Cheng

机构 * Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

AI总结 该研究提出CLIPure，一种基于CLIP多模态潜在空间的对抗鲁棒零样本分类纯化方法，含两个变体，在多个数据集上大幅提升了对抗鲁棒性，其中CLIPure-Cos不依赖生成模型且防御效率更高。

Comments accepted by ICLR 2025

Learning diverse attacks on large language models for robust red-teaming and safety tuning

针对大语言模型学习多样化攻击以用于鲁棒红队测试与安全调优

Seanie Lee, Minsu Kim, Lynn Cherif, David Dobre, Juho Lee, Sung Ju Hwang, Kenji Kawaguchi, Gauthier Gidel, Yoshua Bengio, Esmeralda S. Whitammer, Moksh Jain

机构 * KAIST（韩国科学技术院） ； Mila – Québec AI Institute（米拉-魁北克人工智能研究所） ； Université de Montréal（蒙特利尔大学） ； McGill University（麦吉尔大学） ； National University of Singapore（新加坡国立大学） ； University of Edinburgh（爱丁堡大学） ； CIFAR（加拿大高级研究所） 纠错

AI总结 该研究针对现有红队测试方法存在的模式崩塌或攻击有效性不足问题，提出GFlowNet微调加二次平滑的方法生成多样化攻击提示，其攻击对各类LLM有效且可迁移，用该攻击提示调优的模型对其他攻击方法具有鲁棒性。

Comments ICLR 2025; code: https://github.com/GFNOrg/red-teaming

PhyloGFN: Phylogenetic inference with generative flow networks

PhyloGFN：基于生成流网络的系统发育推断

Mingyang Zhou, Zichao Yan, Elliot Layne, Esmeralda S. Whitammer, Dinghuai Zhang, Moksh Jain, Mathieu Blanchette, Yoshua Bengio

AI总结 本文提出PhyloGFN，将生成流网络（GFlowNets）框架用于系统发育推断，在真实基准数据集上产生多样高质量进化假设，边际似然估计具竞争力，贴合目标分布优于变分推断方法。

Comments ICLR 2024

Amortizing intractable inference in large language models

摊销大型语言模型中难以处理的推理

Edward J. Hu, Moksh Jain, Eric Elmoznino, Younesse Kaddar, Guillaume Lajoie, Yoshua Bengio, Esmeralda S. Whitammer

AI总结 该研究针对大型语言模型的难以处理后验分布采样问题，提出用生成流网络（GFlowNets）的摊销贝叶斯推理方法微调LLM，可替代最大似然训练，还能高效适配需多步推理和工具使用的任务。

Comments ICLR 2024; 23 pages; code: https://github.com/GFNOrg/gfn-lm-tuning

Expected flow networks in stochastic environments and two-player zero-sum games

随机环境及两人零和博弈中的期望流网络

Marco Jiralerspong, Bilun Sun, Danilo Vucetic, Tianyu Zhang, Yoshua Bengio, Gauthier Gidel, Esmeralda S. Whitammer

AI总结 本文提出期望流网络（EFlowNets）扩展GFlowNets至随机环境，又提出对抗流网络（AFlowNets）用于两人零和博弈，前者在蛋白质设计任务中表现更优，后者在四子棋中找到超80%最优走法且优于AlphaZero。

Comments ICLR 2024; code: https://github.com/GFNOrg/AdversarialFlowNetworks

Delta-AI: Local objectives for amortized inference in sparse graphical models

Delta-AI：稀疏图模型中摊销推断的局部目标

Jean-Pierre Falet, Hae Beom Lee, Esmeralda S. Whitammer, Chen Sun, Dragos Secrieru, Thomas Jiralerspong, Dinghuai Zhang, Guillaume Lajoie, Yoshua Bengio

AI总结 研究人员提出Δ-AI算法，利用PGM稀疏性实现局部信用分配，基于GFlowNets风格损失实现离策略训练且加速，在合成PGM和稀疏因子结构隐变量模型上验证其有效性。

Comments ICLR 2024; 19 pages, code: https://github.com/GFNOrg/Delta-AI/

GFlowNets and variational inference

GFlowNets与变分推断

Esmeralda S. Whitammer, Salem Lahlou, Tristan Deleu, Xu Ji, Edward Hu, Katie Everett, Dinghuai Zhang, Yoshua Bengio

AI总结 本文建立变分推断与生成流网络的联系，证明特定情形下VI等价于GFlowNets特例，指出GFlowNets更适合离策略训练且利于捕获多模态分布多样性。

Comments ICLR 2023 final version; code: https://github.com/GFNOrg/GFN_vs_HVI