ICLR

Understanding and Improving Continuous Adversarial Training for LLMs via In-context Learning Theory

通过上下文学习理论理解并改进LLMs的连续对抗训练

Shaopeng Fu, Di Wang

机构 * Provable Responsible AI and Data Analytics (PRADA) Lab（可证责任AI与数据分析实验室） ； King Abdullah University of Science and Technology（卡布斯大学） 纠错

AI总结 本文基于上下文学习理论，首次对LLMs的连续对抗训练进行了理论分析，提出通过引入奇异值正则化项提升对抗训练的鲁棒性与实用性。

Comments The Fourteenth International Conference on Learning Representations (ICLR 2026)

Algorithmic Analysis of Dense Associative Memory: Finite-Size Guarantees and Adversarial Robustness

密集关联记忆的算法分析：有限规模保证与对抗鲁棒性

Madhava Gaikwad

机构 * Independent Researcher（独立研究者） 纠错

AI总结 本文通过算法分析，为密集关联记忆的检索动态提供有限规模保证，并证明其在高加载条件下具有对抗鲁棒性，同时展示了容量保证和收敛时间。

Comments 21 pages, 9 figures, Accepted in New Frontiers in Associative Memory workshop at ICLR 2026

TimeSeriesExamAgent: Creating Time Series Reasoning Benchmarks at Scale

时间序列考试代理：大规模创建时间序列推理基准测试

Malgorzata Gwiazda, Yifu Cai, Mononito Goswami, Arjun Choudhry, Artur Dubrawski

机构 * Technical University of Munich（慕尼黑技术大学） ； Auton Lab, School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机学院自主实验室） 纠错

AI总结 本文提出TimeSeriesExamAgent，通过模板灵活性与LLM代理创造力结合，创建涵盖医疗、金融和天气领域的综合性时间序列推理基准测试，验证LLM在时间序列理解上的能力与局限。

Journal ref Proc. Int. Conf. Learn. Representations ICLR (2026)

Turbo-DDCM: Fast and Flexible Zero-Shot Diffusion-Based Image Compression

Turbo-DDCM：快速且灵活的零样本扩散图像压缩

Amit Vaisman, Guy Ohayon, Hila Manor, Michael Elad, Tomer Michaeli

机构 * Technion – Israel Institute of Technology（技术学院—以色列理工学院） ； Flatiron Institute, Simons Foundation（Flatiron研究所，Simons基金会） 纠错

AI总结 本文提出Turbo-DDCM，一种快速且高效的零样本扩散图像压缩方法，通过优化噪声向量处理和编码协议，提升压缩效率并保持性能。

Comments ICLR 2026. Code is available at https://amitvaisman.github.io/turbo_ddcm/

Point Prompting: Counterfactual Tracking with Video Diffusion Models

点提示：基于视频扩散模型的反事实跟踪

Ayush Shrivastava, Sanyam Mehta, Daniel Geng, Andrew Owens

机构 * University of Michigan（密歇根大学） ； Cornell University（康奈尔大学） 纠错

AI总结 本文提出利用视频扩散模型进行零样本点跟踪，通过提示模型在视频中标记移动点，实现反事实生成，实验表明其跟踪效果优于传统方法且能克服遮挡。

Comments ICLR 2026. Project link: https://point-prompting.github.io

Robust Federated Inference

鲁棒联邦推断

Akash Dhasade, Sadegh Farhadkhani, Rachid Guerraoui, Nirupam Gupta, Maxime Jacovella, Anne-Marie Kermarrec, Rafael Pinot

机构 * EPFL（苏黎世联邦理工学院） ； University of Copenhagen（哥本哈根大学） ； Sorbonne Université and Université Paris Cité, CNRS, LPSM（巴黎索邦大学和巴黎cité大学，法国国家科学研究中心，巴黎数学研究所） 纠错

AI总结 本文提出鲁棒联邦推断框架，通过结合对抗训练与测试时鲁棒聚合，提升非线性聚合器的鲁棒性，在多个基准测试中准确率提升4.7-22.2%。

Comments Accepted at ICLR 2026

SeedPrints: Fingerprints Can Even Tell Which Seed Your Large Language Model Was Trained From

SeedPrints: 指纹甚至能告诉你是哪种种子训练了你的大型语言模型

Yao Tong, Haonan Wang, Siquan Li, Kenji Kawaguchi, Tianyang Hu

机构 * National University of Singapore（新加坡国立大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

AI总结 本文提出SeedPrints方法，通过随机初始化偏倚实现LLM的内在指纹识别，解决了传统指纹方法在大规模预训练阶段可靠性不足的问题，实现了从初始化到全生命周期的身份验证。

Comments Accepted to ICLR 2026. The code repository linked on OpenReview is outdated; the latest code is available via the final arXiv version

ASGuard: Activation-Scaling Guard to Mitigate Targeted Jailbreaking Attack

ASGuard：激活-缩放防护：缓解针对性劫持攻击

Yein Park, Jungwoo Park, Jaewoo Kang

机构 * Korea University（韩国大学） ； AIGEN Sciences（AIGEN公司） 纠错

AI总结 本文提出ASGuard框架，通过电路分析识别与针对性劫持相关的注意力头，训练通道缩放向量重新校准激活，结合预防性微调提升模型拒绝能力，有效降低攻击成功率并保持模型性能。

Comments ICLR 2026, 29 pages, 11 figures

Replicable Reinforcement Learning with Linear Function Approximation

可重复的强化学习与线性函数逼近

Eric Eaton, Marcel Hussing, Michael Kearns, Aaron Roth, Sikata Bela Sengupta, Jessica Sorrell

机构 * University of Pennsylvania（宾夕法尼亚大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

AI总结 本文提出可重复的强化学习算法，针对线性函数逼近问题，设计了高效的随机设计回归和协方差估计算法，并在生成模型和片段设置中实现了可证明高效的可重复RL算法，通过实验验证了其对神经策略的一致性影响。

Comments ICLR 2026

Navigating the Accuracy-Size Trade-Off with Flexible Model Merging

通过灵活模型合并导航精度-大小权衡

Akash Dhasade, Divyansh Jhunjhunwala, Milos Vujasinovic, Gauri Joshi, Anne-Marie Kermarrec

机构 * EPFL（苏黎世联邦理工学院） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 本文提出FlexMerge框架，灵活生成不同规模的合并模型，并揭示不同算法在精度与规模权衡中的表现差异，验证了其在视觉和NLP任务中的有效性。

Comments Accepted at ICLR 2026

BAH Dataset for Ambivalence/Hesitancy Recognition in Videos for Digital Behavioural Change

用于数字行为改变视频中矛盾/犹豫识别的BAH数据集

Manuela González-González, Soufiane Belharbi, Muhammad Osama Zeeshan, Masoumeh Sharafi, Muhammad Haseeb Aslam, Marco Pedersoli, Alessandro Lameiras Koerich, Simon L Bacon, Eric Granger

机构 * LIVIA, Dept. of Systems Engineering, ETS Montreal, Canada（LIVIA系统工程系，蒙特利尔埃克塞特学院，加拿大） ； LIVIA, Dept. of Software and IT Engineering, ETS Montreal, Canada（LIVIA软件与IT工程系，蒙特利尔埃克塞特学院，加拿大） ； Dept. of Health, Kinesiology, & Applied Physiology, Concordia University, Montreal, Canada（健康、运动科学与应用生理学系，康科迪亚大学，蒙特利尔，加拿大） ； Montreal Behavioural Medicine Centre, CIUSSS Nord-de-l’Ile-de-Montréal, Canada（蒙特利尔行为医学中心，北岛-蒙特利尔医疗与社会服务委员会，加拿大） 纠错

AI总结 本文提出BAH数据集，用于多模态识别视频中的矛盾/犹豫，包含1427个视频，旨在为机器学习模型提供训练数据，通过专家标注和基准测试展示识别挑战。

Comments 46 pages, 21 figures, ICLR 2026

Variational Autoencoding Discrete Diffusion with Enhanced Dimensional Correlations Modeling

变分自编码离散扩散与增强的维度相关性建模

Tianyu Xie, Shuchen Xue, Zijin Feng, Tianyang Hu, Jiacheng Sun, Zhenguo Li, Cheng Zhang

机构 * School of Mathematical Sciences, Peking University（北京大学数学科学学院） ； Center for Statistical Science, Peking University（北京大学统计科学中心） ； Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院） ； Huawei Foundation Model Dept（华为基金会模型部门） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

AI总结 本文提出VADD框架，通过潜在变量建模增强离散扩散，提升样本质量，尤其在少量去噪步骤时表现优异。

Comments ICLR 2026 Poster; 24 pages, 13 figures

Latent Planning Emerges with Scale

在规模下显现的潜在规划

Michael Hanna, Emmanuel Ameisen

机构 * ILLC, University of Amsterdam（伊拉斯姆斯自由大学，阿姆斯特丹大学） ； Anthropic 纠错

AI总结 本文研究了LLM在简单规划任务中潜在规划能力随规模增加而增强的现象，发现模型能通过内部表示生成未来词并影响上下文，但复杂任务如押韵对句中规划能力有限。

Comments ICLR 2026

Do Transformers Use their Depth Adaptively? Evidence from a Relational Reasoning Task

Transformer 是否会根据深度进行自适应使用？来自关系推理任务的证据

Alicia Curth, Rachel Lawrence, Sushrut Karmalkar, Niranjani Prasad

机构 * Microsoft Research Cambridge（微软研究院剑桥分部） 纠错

AI总结 本文通过控制多跳关系推理任务研究Transformer是否自适应使用深度，发现预训练模型在简单任务中使用较少层，而微调模型在更复杂的任务中更一致地自适应调整深度。

Comments Accepted at the ICLR 2026 Workshop on Logical Reasoning of Large Language Models

LiveMoments: Reselected Key Photo Restoration in Live Photos via Reference-guided Diffusion

LiveMoments: 通过参考引导扩散重新选择关键照片的键照片修复

Clara Xue, Zizheng Yan, Zhenning Shi, Yuhang Yu, Jingyu Zhuang, Qi Zhang, Jinwei Chen, Qingnan Fan

机构 * vivo BlueImage Lab（vivo蓝影实验室） ； College of Computer Science, Nankai University（南开大学计算机学院） 纠错

AI总结 本文提出LiveMoments框架，通过参考引导扩散模型修复Live照片中重新选择的关键照片，提升视觉质量和保真度，尤其在快速运动或复杂结构场景中表现优异。

Comments Accepted by ICLR 2026

Robust Optimization for Mitigating Reward Hacking with Correlated Proxies

鲁棒优化用于通过相关代理缓解奖励黑客问题

Zixuan Liu, Xiaolin Sun, Zizhan Zheng

机构 * Department of Computer Science（计算机科学系） 纠错

AI总结 本文提出通过鲁棒策略优化方法应对奖励黑客问题，基于r相关性代理奖励空间，改进代理优化并提升鲁棒性与透明度。

Comments ICLR 2026

IMSE: Intrinsic Mixture of Spectral Experts Fine-tuning for Test-Time Adaptation

IMSE：内在光谱专家混合微调用于测试时间适应

Sunghyun Baek, Jaemyung Yu, Seunghee Koh, Minsu Kim, Hyeonseong Jeon, Junmo Kim

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） ； LG Energy Solution（LG能源解决方案） 纠错

AI总结 本文提出IMSE方法，通过分解线性层并仅更新奇异值，结合多样性最大化损失和领域感知光谱码检索，提升测试时间适应性能，在多种分布偏移基准测试中取得最佳效果，且在连续测试时间适应中提升准确率3.4个百分点，参数量减少385倍。

Comments ICLR 2026

FAST-DIPS: Adjoint-Free Analytic Steps and Hard-Constrained Likelihood Correction for Diffusion-Prior Inverse Problems

FAST-DIPS: 无训练分析步骤和硬约束似然校正用于扩散先验逆问题

Minwoo Kim, Seunghyeok Shin, Hongki Lim

机构 * Department of Electrical and Computer Engineering, Inha University（信息电子工程系，釜山大学） 纠错

AI总结 本文提出一种无训练扩散先验求解器，通过硬测量空间可行性约束和分析最优步长，减少迭代次数，实现高效逆问题求解，实验显示在PSNR/SSIM/LPIPS上表现优异，速度提升达19.5倍。

Journal ref International Conference on Learning Representations 2026

Characterizing Human Semantic Navigation in Concept Production as Trajectories in Embedding Space

表征人类概念生成中的语义导航作为嵌入空间中的轨迹

Felipe D. Toro-Hernández, Jesuino Vieira Filho, Rodrigo M. Cabral-Carvalho

机构 * Center of Mathematics, Computing and Cognition, Federal University of ABC（数学、计算与认知中心，巴西ABC联邦大学） ； Department of Computer Science and Operations Research, Université de Montréal（计算机科学与运筹学系，蒙特利尔大学） 纠错

AI总结 研究通过嵌入空间导航表征人类语义导航，利用不同变换器文本嵌入模型构建参与者特定的语义轨迹，并提取几何和动态指标，以评估跨语言和不同任务的语义表示动态。

Comments 10 pages, 6 figures (excluding refs/appendix). Accepted to ICLR 2026

Journal ref International Conference on Learning Representations (ICLR) 2026

StableToken: A Noise-Robust Semantic Speech Tokenizer for Resilient SpeechLLMs

StableToken：一种抗噪声的语义语音分词器用于鲁棒的语音大语言模型

Yuhan Song, Linhao Zhang, Chuhan Wu, Aiwei Liu, Wei Jia, Houfeng Wang, Xiao Zhou

机构 * State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University（多媒体信息处理国家重点实验室，计算机学院，北京大学） ； Basic Model Technology Center, WeChat AI, Tencent Inc.（微信AI基础模型技术中心，腾讯公司） 纠错

AI总结 本文提出StableToken，通过共识机制提升语音分词器的稳定性，减少噪声下的单位编辑距离，提升语音大语言模型的鲁棒性。

Comments Accepted to ICLR 2026

Variation in Verification: Understanding Verification Dynamics in Large Language Models

验证的多样性：理解大型语言模型中的验证动态

Yefan Zhou, Austin Xu, Yilun Zhou, Janvijay Singh, Jiang Gui, Shafiq Joty

机构 * Salesforce AI Research（Salesforce AI研究院） ； Dartmouth College（达特茅斯学院） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

AI总结 研究大型语言模型中验证动态，分析问题难度、生成器能力及验证器生成能力三个维度，发现验证有效性与问题难度相关，优化TTS应用中的基本验证策略。

Comments ICLR 2026

SmellNet: A Large-scale Dataset for Real-world Smell Recognition

SmellNet：一个大规模数据集用于现实世界中的气味识别

Dewei Feng, Wei Dai, Carol Li, Alistair Pernigo, Yunge Wen, Paul Pu Liang

机构 * MIT Media Lab（麻省理工学院媒体实验室） ； MIT EECS（麻省理工学院电子工程与计算机科学系） 纠错

AI总结 本文提出SmellNet数据集，通过小气体和化学传感器收集82.8万条时间序列数据，用于训练ScentFormer模型，实现对多种物质和混合物的气味识别与分类，展示了基于传感器的嗅觉AI的应用潜力。

Comments Accepted to ICLR 2026; published as a conference paper at ICLR 2026. 32 pages; 21 figures