ICLR

SASFT: Sparse Autoencoder-guided Supervised Finetuning to Mitigate Unexpected Code-Switching in LLMs

SASFT：基于稀疏自编码器的监督微调以缓解大语言模型中的意外语言混合

Boyi Deng, Yu Wan, Baosong Yang, Fei Huang, Wenjie Wang, Fuli Feng

机构 * Tongyi Lab, Alibaba Group Inc（通义实验室，阿里巴巴集团） 纠错

AI总结 SASFT通过稀疏自编码器引导监督微调，有效减少大语言模型中的意外语言混合，同时保持多语言能力。

Comments ICLR 2026

When Does Divide and Conquer Work for Long Context LLM? A Noise Decomposition Framework

当分治策略在长上下文LLM中何时有效？一种噪声分解框架

Zhen Xu, Shang Zhu, Jue Wang, Junlin Wang, Ben Athiwaratkun, Chi Wang, James Zou, Ce Zhang

机构 * University of Chicago（芝加哥大学） ； Together AI ； Duke University（杜克大学） ； Google DeepMind（谷歌DeepMind） ； Stanford University（斯坦福大学） 纠错

AI总结 本文提出了一种噪声分解框架，分析了长上下文LLM中分治策略的有效条件，揭示了任务噪声、模型噪声和聚合噪声的区分，并通过实验验证了多代理分块策略在处理长上下文任务中的有效性。

Comments ICLR 2026

SecP-Tuning: Efficient Privacy-Preserving Prompt Tuning for Large Language Models via MPC

SecP-Tuning: 通过MPC实现大语言模型高效隐私保护提示微调

Jinglong Luo, Zhuo Zhang, Yehong Zhang, Shiyu Liu, Ye Dong, Hui Wang, Yue Yu, Xun Zhou, Zenglin Xu

机构 * Pengcheng Laboratory（鹏城实验室） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Fudan University（复旦大学） ； Shanghai Academy of AI for Science（上海人工智能科学研究院） ； Institute of Statistical Interdisciplinary Research, Southwestern University of Finance and Economics（统计交叉学科研究所，西南财经大学） ； National University of Singapore（新加坡国立大学） 纠错

AI总结 SecP-Tuning通过MPC实现大语言模型高效隐私保护提示微调，显著提升微调效率并减少通信开销。

Comments ICLR 2026

VINCIE: Unlocking In-context Image Editing from Video

VINCIE：从视频中解锁上下文图像编辑

Leigang Qu, Feng Cheng, Ziyan Yang, Qi Zhao, Shanchuan Lin, Yichun Shi, Yicong Li, Wenjie Wang, Tat-Seng Chua, Lu Jiang

机构 * National University of Singapore（国立新加坡大学） ； ByteDance Seed（字节跳动种子） 纠错

AI总结 VINCIE通过视频直接训练模型，实现了强大的上下文图像编辑能力，并在多轮图像编辑基准中取得最佳成绩。

Comments ICLR 2026 Camera-ready. Project page: https://vincie2025.github.io/

VITA: Zero-Shot Value Functions via Test-Time Adaptation of Vision-Language Models

VITA：通过视觉语言模型的测试时间适应实现零样本价值函数

Christos Ziakas, Alessandra Russo

AI总结 VITA通过测试时间适应提升视觉语言模型的零样本价值估计能力，实现跨任务和环境的泛化，优于现有方法。

Comments International Conference on Learning Representations, 2026

PD$^{2}$GS: Part-Level Decoupling and Continuous Deformation of Articulated Objects via Gaussian Splatting

PD$^{2}$GS: 关节物体的部件级解耦与连续变形 via 高斯点散布

Haowen Wang, Xiaoping Yuan, Zhao Jin, Zhen Zhao, Zhengping Che, Yousong Xue, Jin Tian, Yakun Huang, Jian Tang

机构 * Anhui University（安徽大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Beijing Innovation Center of Humanoid Robotics（北京人形机器人创新中心） ； Beijing Institute of Architectural Design（北京建筑院设计研究院） 纠错

AI总结 PD$^{2}$GS通过高斯点散布实现关节物体的部件级解耦与连续变形，无需手动监督，提升几何和运动学准确性及连续控制一致性。

Comments Accepted by ICLR 2026

OmniSpatial: Towards Comprehensive Spatial Reasoning Benchmark for Vision Language Models

OmniSpatial：迈向视觉语言模型的空间推理综合基准

Mengdi Jia, Zekun Qi, Shaochen Zhang, Wenyao Zhang, Xinqiang Yu, Jiawei He, He Wang, Li Yi

机构 * Tsinghua University（清华大学） ； Xian Jiaotong University（西安交通大学） ； Shanghai Jiao Tong University（上海交通大学） ； Galbot ； Peking University（北京大学） ； Shanghai Qi Zhi Institute（上海启智研究院） 纠错

AI总结 OmniSpatial是一个基于认知心理学的综合性空间推理基准，通过动态推理、复杂空间逻辑等四个类别，评估视觉语言模型在空间推理上的能力与局限。

Comments ICLR 2026

In-Context Learning for Pure Exploration

基于上下文的学习用于纯粹探索

Alessio Russo, Ryan Welch, Aldo Pacchiano

AI总结 ICPE通过元训练Transformer实现上下文迁移，能够在无需显式建模信息结构的情况下，高效完成多臂老虎机和广义搜索等任务的纯粹探索。

Comments Published as a conference paper at ICLR 2026

SenseFlow: Scaling Distribution Matching for Flow-based Text-to-Image Distillation

SenseFlow: 为基于流的文本到图像蒸馏扩展分布匹配

Xingtong Ge, Xin Zhang, Tongda Xu, Yi Zhang, Xinjie Zhang, Yan Wang, Jun Zhang

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； SenseTime Research（商汤科技研究院） ； Vivix AI（维维克斯人工智能） ； Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究所） 纠错

AI总结 SenseFlow通过引入隐式分布对齐和段内指导，解决大规模基于流的文本到图像模型蒸馏中的收敛问题，提升蒸馏效果。

Comments Published as a conference paper at ICLR 2026

RedTeamCUA: Realistic Adversarial Testing of Computer-Use Agents in Hybrid Web-OS Environments

RedTeamCUA: 计算机使用代理在混合网络-操作系统环境中的现实对抗测试

Zeyi Liao, Jaylen Jones, Linxi Jiang, Yuting Ning, Eric Fosler-Lussier, Yu Su, Zhiqiang Lin, Huan Sun

机构 * The Ohio State University（俄亥俄州立大学） 纠错

AI总结 RedTeamCUA通过混合沙盒评估CUA在混合网络-操作系统环境中的对抗性攻击，揭示了当前CUA在间接提示注入方面的严重安全漏洞。

Comments ICLR 2026 (Oral)

VeriTrail: Closed-Domain Hallucination Detection with Traceability

VeriTrail：基于可追溯性的封闭领域幻觉检测

Dasha Metropolitansky, Jonathan Larson

机构 * Microsoft Research（微软研究院） 纠错

AI总结 VeriTrail通过提供可追溯性，首次实现了对封闭领域幻觉的检测，同时引入了包含中间输出和人类注释的数据集，提升了多步骤和单步骤生成过程的幻觉检测效果。

Comments ICLR 2026

RefTool: Reference-Guided Tool Creation for Knowledge-Intensive Reasoning

RefTool: 基于参考的工具创建用于知识密集型推理

Xiao Liu, Da Yin, Zirui Wu, Yansong Feng

机构 * Wangxuan Institute of Computer Technology, Peking University（北京大学王萱计算机技术研究所） ； University of Chicago（芝加哥大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

AI总结 RefTool通过基于参考的工具创建框架，提升LLMs在知识密集型任务中的推理能力，实现更准确和高效的工具生成与应用。

Comments Accepted by ICLR 2026. Code is available at https://github.com/xxxiaol/RefTool

PLANETALIGN: A Comprehensive Python Library for Benchmarking Network Alignment

PLANETALIGN：一个用于网络对齐基准测试的综合Python库

Qi Yu, Zhichen Zeng, Yuchen Yan, Zhining Liu, Baoyu Jing, Ruizhong Qiu, Ariful Azad, Hanghang Tong

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Texas A&M University（德克萨斯大学农工学院） 纠错

AI总结 PLANETALIGN是一个用于网络对齐基准测试的综合Python库，提供丰富的数据集、方法和评估流程，旨在促进更有效、可扩展和鲁棒的NA方法开发。

Comments Published as a conference paper at ICLR 2026

Seek-CAD: A Self-refined Generative Modeling for 3D Parametric CAD Using Local Inference via DeepSeek

Seek-CAD: 一种基于局部推理的自优化生成模型用于3D参数化CAD设计

Xueyang Li, Jiahao Li, Yu Song, Yunzhong Lou, Xiangdong Zhou

机构 * College of Computer Science and Artificial Intelligence, Fudan University（计算机科学与人工智能学院，复旦大学） ； School of Information and Intelligent Science, Donghua University（信息与智能科学学院，东华大学） 纠错

AI总结 Seek-CAD通过结合视觉和链式思维反馈，利用本地开源模型生成3D参数化CAD模型，提升生成效率和实用性。

Comments Accepted to ICLR 2026. The datatset has been released publicly and can be acessed in https://github.com/Sunny-Hack/Seek-CAD

The First Impression Problem: Internal Bias Triggers Overthinking in Reasoning Models

首次印象问题：内部偏见触发推理模型中的过度思考

Renfei Dang, Zhening Li, Shujian Huang, Jiajun Chen

AI总结 本文研究了推理模型中过度思考的根源，发现内部偏见是导致过度思考的关键因素，并通过实验验证了偏见对推理过程的影响。

Comments ICLR 2026 poster

GradPCA: Leveraging NTK Alignment for Reliable Out-of-Distribution Detection

GradPCA: 利用NTK对齐实现可靠的分布外检测

Mariia Seleznova, Hung-Hsu Chou, Claudio Mayrink Verdun, Gitta Kutyniok

机构 * Ludwig-Maximilians-Universität München（慕尼黑莱布尼茨大学） ； University of Pittsburgh（匹兹堡大学） ； Harvard University（哈佛大学） ； University of Tromso（特罗姆斯大学） ； DLR-German Aerospace Center（德国航空航天中心） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

AI总结 GradPCA通过利用NTK对齐的梯度低秩结构，实现了可靠的分布外检测，并通过理论分析和实验验证了其有效性。

Journal ref In Proceedings of International Conference on Learning Representations (ICLR), 2026

Identifying and Evaluating Inactive Heads in Pretrained LLMs

识别和评估预训练语言模型中的惰性头部

Pedro Sandoval-Segura, Xijun Wang, Ashwinee Panda, Micah Goldblum, Ronen Basri, Tom Goldstein, David Jacobs

机构 * University of Maryland（马里兰大学） ； Columbia University（哥伦比亚大学） ； Weizmann Institute of Science（魏茨曼科学研究院） 纠错

AI总结 研究识别预训练语言模型中非活动注意力头部，通过评分函数评估其非活动性，并发现模型规模和微调对注意力行为有影响。

Comments Accepted to ICLR 2026. Code available at https://github.com/psandovalsegura/inactive-heads

ACPBench Hard: Unrestrained Reasoning about Action, Change, and Planning

ACPBench Hard: 关于行动、变化和规划的无约束推理

Harsha Kokel, Michael Katz, Kavitha Srinivas, Shirin Sohrabi

机构 * IBM Research San Jose（IBM桑 Jose 研究所） ； IBM Thomas J. Watson Research Center（IBM 托马斯·J·沃森研究中心） 纠错

AI总结 ACPBench Hard通过开放性问题测试模型在行动、变化和规划上的推理能力，发现现有模型在复杂任务上表现有限。

Comments Accepted at Proceedings of the Fourteenth International Conference on Learning Representations (ICLR 2026), see https://openreview.net/forum?id=WIXohR7mEo

AdaRank: Adaptive Rank Pruning for Enhanced Model Merging

AdaRank: 适应性秩修剪以提升模型融合

Chanhyuk Lee, Jiho Choi, Chanryeol Lee, Donggyun Kim, Seunghoon Hong

机构 * KAIST（韩国科学技术院） 纠错

AI总结 AdaRank通过自适应秩修剪技术，有效减少多任务学习中的任务干扰，提升模型融合性能。

Comments ICLR 2026. Code available at: github.com/david3684/AdaRank

Target-Aware Video Diffusion Models

面向目标的视频扩散模型

Taeksoo Kim, Hanbyul Joo

AI总结 本文提出一种面向目标的视频扩散模型，通过引入目标掩码和特殊标记提升视频生成中演员与目标的互动准确性，并在两个下游任务中验证其有效性。

Comments ICLR 2026. The project page is available at https://taeksuu.github.io/tavid/

SPEED: Scalable, Precise, and Efficient Concept Erasure for Diffusion Models

SPEED：可扩展、精确和高效的扩散模型概念擦除

Ouxiang Li, Yuan Wang, Xinting Hu, Houcheng Jiang, Yanbin Hao, Fuli Feng

机构 * University of Science and Technology of China（中国科学技术大学） ； Hefei University of Technology（合肥工业大学） 纠错

AI总结 SPEED通过直接编辑模型参数，高效精准地擦除扩散模型中的多个概念，同时保护非目标概念的质量。

Comments Accepted to ICLR 2026

SemHiTok: A Unified Image Tokenizer via Semantic-Guided Hierarchical Codebook for Multimodal Understanding and Generation

SemHiTok：一种通过语义引导的层次代码本实现的统一图像分词器，用于多模态理解和生成

Zisheng Chen, Chunwei Wang, Runhui Huang, Hongbin Xu, Xiuwei Chen, Jun Zhou, Jianhua Han, Hang Xu, Xiaodan Liang

机构 * Sun Yat-sen University（中山大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； University of Hong Kong（香港大学） ； South China University of Technology（华南理工大学） 纠错

AI总结 SemHiTok通过语义引导的层次代码本实现统一图像分词器，提升多模态理解和生成性能。

Comments ICLR 2026

Vision-R1: Incentivizing Reasoning Capability in Multimodal Large Language Models

Vision-R1: 促进多模态大语言模型推理能力的激励方法

Wenxuan Huang, Bohan Jia, Zijie Zhai, Shaosheng Cao, Zheyu Ye, Fei Zhao, Zhe Xu, Xu Tang, Yao Hu, Shaohui Lin

机构 * East China Normal University（华东师范大学） ； The Chinese University of Hong Kong（香港中文大学） ； Xiaohongshu Inc.（小红书公司） 纠错

AI总结 Vision-R1通过构建高质量多模态CoT数据集和渐进性思维抑制训练策略，提升多模态推理能力，在数学推理基准中取得显著成绩。

Comments Accepted to ICLR 2026. Code is available at https://github.com/Osilly/Vision-R1

Token-Efficient Item Representation via Images for LLM Recommender Systems

通过图像实现高效的物品表示用于LLM推荐系统

Kibum Kim, Sein Kim, Hongseok Kang, Jiwan Kim, Heewoong Noh, Yeonjun In, Kanghoon Yoon, Jinoh Oh, Julian McAuley, Chanyoung Park

机构 * KAIST（韩国科学技术院） ； Amazon Alexa（亚马逊Alexa） ； UC San Diego（加州大学圣地亚哥分校） 纠错

AI总结 本文提出I-LLMRec方法，通过利用图像替代文本描述，提高LLM推荐系统的效率和有效性，同时增强对噪声的鲁棒性。

Comments ICLR 2026

Thicker and Quicker: A Jumbo Token for Fast Plain Vision Transformers

更厚更快：一种大token用于快速的纯视觉变换器

Anthony Fuller, Yousef Yassin, Daniel G. Kyrollos, Evan Shelhamer, James R. Green

AI总结 通过引入大token提升ViT速度，保持准确性并兼容现有ViT方法，改进多种任务性能。

Comments ICLR 2026

CLIP Behaves like a Bag-of-Words Model Cross-modally but not Uni-modally

CLIP 表现得像一个词袋模型但不是单模态的

Darina Koishigarina, Arnas Uselis, Seong Joon Oh

机构 * Tübingen AI Center, University of Tübingen（图宾根人工智能中心，图宾根大学） 纠错

AI总结 CLIP表现出词袋模型特性，但其属性-对象绑定信息已单模态编码，通过简单线性变换可提升性能。

Comments ICLR 2026

Expert Divergence Learning for MoE-based Language Models

专家分歧学习用于基于混合专家的语言模型

Jiaang Li, Haibin Chen, Langming Liu, Yujin Yuan, Yadao Wang, Yizhen Zhang, Chengting Yu, Xin Tong, Weidong Zhang, Shilei Liu, Wenbo Su, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） 纠错

AI总结 专家分歧学习通过促进专家功能专业化，提升MoE模型的语言建模能力及下游任务性能。

Comments ICLR 2026

DARE-bench: Evaluating Modeling and Instruction Fidelity of LLMs in Data Science

DARE-bench: 评估LLMs在数据科学中的建模和指令忠实度

Fan Shu, Yite Wang, Ruofan Wu, Boyi Liu, Zhewei Yao, Yuxiong He, Feng Yan

机构 * University of Houston（德克萨斯大学休斯顿分校） ； Snowflake AI Research（Snowflake人工智能研究院） 纠错

AI总结 DARE-bench通过提供可验证的真实值任务和大规模训练数据，有效评估和提升LLMs在数据科学中的建模和指令忠实度。

Comments Published as a conference paper at ICLR 2026. 10 pages plus appendix

Taming Momentum: Rethinking Optimizer States Through Low-Rank Approximation

驯服动量：通过低秩近似重新思考优化器状态

Zhengbo Wang, Jian Liang, Ran He, Zilei Wang, Tieniu Tan

机构 * University of Science and Technology of China（中国科学技术大学） ； NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

AI总结 LoRA-Pre通过低秩近似优化器状态，提升预训练和微调效率，实现内存节省与性能提升

Comments Camera-ready version. Accepted as Oral at ICLR 2026

Uncertainty Quantification for Multimodal Large Language Models with Incoherence-adjusted Semantic Volume

多模态大语言模型的不确定性量化：基于不一致性调整的语义体积

Gregory Kang Ruey Lau, Hieu Dao, Nicole Kan Hui Lin, Bryan Kian Hsiang Low

机构 * Department of Computer Science, National University of Singapore（新加坡国立大学计算机科学系） 纠错

AI总结 UMPIRE是一种无需训练的多模态大语言模型不确定性量化框架，通过内部特征有效捕捉语义多样性和响应不一致性，提升错误检测和不确定性校准性能。

Comments Earlier versions presented at ICLR 2025 QUESTION workshop and ICML 2025 R2-FM workshop