Latent Planning Emerges with Scale
在规模下显现的潜在规划
机构 * ILLC, University of Amsterdam(伊拉斯姆斯自由大学,阿姆斯特丹大学) ; Anthropic
AI总结 本文研究了LLM在简单规划任务中潜在规划能力随规模增加而增强的现象,发现模型能通过内部表示生成未来词并影响上下文,但复杂任务如押韵对句中规划能力有限。
Comments ICLR 2026
期刊&会议
International Conference on Learning Representations · 会议 · Machine Learning
在规模下显现的潜在规划
机构 * ILLC, University of Amsterdam(伊拉斯姆斯自由大学,阿姆斯特丹大学) ; Anthropic
AI总结 本文研究了LLM在简单规划任务中潜在规划能力随规模增加而增强的现象,发现模型能通过内部表示生成未来词并影响上下文,但复杂任务如押韵对句中规划能力有限。
Comments ICLR 2026
Transformer 是否会根据深度进行自适应使用?来自关系推理任务的证据
机构 * Microsoft Research Cambridge(微软研究院剑桥分部)
AI总结 本文通过控制多跳关系推理任务研究Transformer是否自适应使用深度,发现预训练模型在简单任务中使用较少层,而微调模型在更复杂的任务中更一致地自适应调整深度。
Comments Accepted at the ICLR 2026 Workshop on Logical Reasoning of Large Language Models
LiveMoments: 通过参考引导扩散重新选择关键照片的键照片修复
机构 * vivo BlueImage Lab(vivo蓝影实验室) ; College of Computer Science, Nankai University(南开大学计算机学院)
AI总结 本文提出LiveMoments框架,通过参考引导扩散模型修复Live照片中重新选择的关键照片,提升视觉质量和保真度,尤其在快速运动或复杂结构场景中表现优异。
Comments Accepted by ICLR 2026
鲁棒优化用于通过相关代理缓解奖励黑客问题
机构 * Department of Computer Science(计算机科学系)
AI总结 本文提出通过鲁棒策略优化方法应对奖励黑客问题,基于r相关性代理奖励空间,改进代理优化并提升鲁棒性与透明度。
Comments ICLR 2026
IMSE:内在光谱专家混合微调用于测试时间适应
机构 * Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院) ; LG Energy Solution(LG能源解决方案)
AI总结 本文提出IMSE方法,通过分解线性层并仅更新奇异值,结合多样性最大化损失和领域感知光谱码检索,提升测试时间适应性能,在多种分布偏移基准测试中取得最佳效果,且在连续测试时间适应中提升准确率3.4个百分点,参数量减少385倍。
Comments ICLR 2026
FAST-DIPS: 无训练分析步骤和硬约束似然校正用于扩散先验逆问题
机构 * Department of Electrical and Computer Engineering, Inha University(信息电子工程系,釜山大学)
AI总结 本文提出一种无训练扩散先验求解器,通过硬测量空间可行性约束和分析最优步长,减少迭代次数,实现高效逆问题求解,实验显示在PSNR/SSIM/LPIPS上表现优异,速度提升达19.5倍。
Journal ref International Conference on Learning Representations 2026
表征人类概念生成中的语义导航作为嵌入空间中的轨迹
机构 * Center of Mathematics, Computing and Cognition, Federal University of ABC(数学、计算与认知中心,巴西ABC联邦大学) ; Department of Computer Science and Operations Research, Université de Montréal(计算机科学与运筹学系,蒙特利尔大学)
AI总结 研究通过嵌入空间导航表征人类语义导航,利用不同变换器文本嵌入模型构建参与者特定的语义轨迹,并提取几何和动态指标,以评估跨语言和不同任务的语义表示动态。
Comments 10 pages, 6 figures (excluding refs/appendix). Accepted to ICLR 2026
Journal ref International Conference on Learning Representations (ICLR) 2026
StableToken:一种抗噪声的语义语音分词器用于鲁棒的语音大语言模型
机构 * State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University(多媒体信息处理国家重点实验室,计算机学院,北京大学) ; Basic Model Technology Center, WeChat AI, Tencent Inc.(微信AI基础模型技术中心,腾讯公司)
AI总结 本文提出StableToken,通过共识机制提升语音分词器的稳定性,减少噪声下的单位编辑距离,提升语音大语言模型的鲁棒性。
Comments Accepted to ICLR 2026
验证的多样性:理解大型语言模型中的验证动态
机构 * Salesforce AI Research(Salesforce AI研究院) ; Dartmouth College(达特茅斯学院) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
AI总结 研究大型语言模型中验证动态,分析问题难度、生成器能力及验证器生成能力三个维度,发现验证有效性与问题难度相关,优化TTS应用中的基本验证策略。
Comments ICLR 2026
SmellNet:一个大规模数据集用于现实世界中的气味识别
机构 * MIT Media Lab(麻省理工学院媒体实验室) ; MIT EECS(麻省理工学院电子工程与计算机科学系)
AI总结 本文提出SmellNet数据集,通过小气体和化学传感器收集82.8万条时间序列数据,用于训练ScentFormer模型,实现对多种物质和混合物的气味识别与分类,展示了基于传感器的嗅觉AI的应用潜力。
Comments Accepted to ICLR 2026; published as a conference paper at ICLR 2026. 32 pages; 21 figures
神经网络与分区聚合集成对抗标签毒化攻击的精确认证
机构 * Munich Center for Machine Learning(慕尼黑机器学习中心) ; Australian Institute for Machine Learning, Adelaide University(阿德莱德大学澳大利亚机器学习研究所)
AI总结 本文提出EnsembleCert框架,通过白盒知识提升分区聚合集成的认证鲁棒性,ScaLabelCert方法利用神经切线核实现神经网络对标签毒化攻击的精确认证,实验显示其在CIFAR-10上认证效果优于现有黑盒方法。
Comments Workshop on Principled Design for Trustworthy AI @ ICLR 2026
AtlasKV:在20GB VRAM中通过十亿级知识图谱增强大语言模型
机构 * The Hong Kong University of Science and Technology(香港科技大学) ; Theory Lab, Huawei(华为理论实验室)
AI总结 本文提出AtlasKV,一种通过十亿级知识图谱增强大语言模型的方法,利用子线性时间与内存复杂度实现高效知识整合,无需外部检索模块或长上下文先验。
Comments ICLR 2026
SimBench:大型语言模型模拟人类行为能力的基准测试
机构 * University of Cambridge(剑桥大学) ; Stanford University(斯坦福大学) ; Bocconi University(博科尼大学) ; University of Oxford(牛津大学)
AI总结 SimBench通过统一20个多样化的数据集,评估大型语言模型模拟人类行为的 fidelity,发现模型性能与模型大小呈对数线性关系,但与计算资源无关,且存在指令微调与模拟准确性之间的权衡。
Comments Accepted at ICLR 2026. Project Website: http://simbench.tiancheng.hu/ Data: https://huggingface.co/datasets/pitehu/SimBench
EEPO:通过采样后遗忘的探索增强策略优化
机构 * The Chinese University of Hong Kong(香港中文大学) ; Microsoft Research Asia(微软亚洲研究院) ; Hong Kong Baptist University(香港浸会大学) ; LMU Munich(慕尼黑大学) ; MoE Key Laboratory of High Confidence Software Technologies(教育部高可信软件技术重点实验室)
AI总结 EEPO通过两阶段 rollout 和自适应遗忘机制提升探索能力,在五个推理基准中超越 GRPO,取得显著性能提升。
Comments ICLR 2026
ChatInject: 利用聊天模板对LLM代理进行提示注入
机构 * Department of Artificial Intelligence, Chung-Ang University(中央大学人工智能系)
AI总结 研究提出ChatInject攻击,通过模拟聊天模板诱导LLM代理执行恶意指令,实验显示其攻击成功率显著高于传统方法,且现有防御措施对多轮对话变种效果有限。
Comments ICLR 2026
LingoLoop攻击:通过语言上下文和状态陷阱使大语言模型陷入无限循环
机构 * College of Computer Science and Artificial Intelligence, Fudan University(复旦大学计算机科学与技术学院) ; College of Intelligent Robotics and Advanced Manufacturing, Fudan University(复旦大学智能机器人与先进制造学院) ; Jiiov Technology(极奥科技)
AI总结 本文提出LingoLoop攻击,通过调整词性标注和隐藏状态限制,使多模态大语言模型生成冗长重复内容,导致资源耗尽和服务降级。
Comments Accepted to ICLR 2026. Code is available at: https://github.com/fuhaha824/LingoLoop-Attack
穿透欺骗:在多模态新闻中揭示误导性创作者意图
机构 * National University of Singapore(新加坡国立大学) ; Yunnan University(云南大学)
AI总结 本文提出DeceptionDecoded基准数据集,通过意图引导模拟框架生成12000组图像-描述对,旨在揭示多模态虚假信息中的误导性意图,评估14种最新视觉-语言模型,发现其在意图推理上存在不足,提出系统合成数据以提升模型意图理解能力。
Comments ICLR 2026
通过模块切换防御后门攻击
机构 * Macquarie University(麦考瑞大学) ; University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校) ; University College London(伦敦大学学院)
AI总结 本文提出模块切换防御方法,通过验证理论依据和实验效果,展示其在减少后门攻击有效性方面优于现有方法,适用于深层网络和多种架构,实验表明其在较少模型情况下具有更强的防御能力。
Comments Accepted to ICLR 2026
图变换器的对抗鲁棒性
机构 * Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
AI总结 研究图变换器在结构扰动下的对抗鲁棒性,设计了首个自适应攻击方法,评估了多种任务和扰动模型,发现图变换器在许多情况下存在严重脆弱性。
Comments TMLR 2025 (J2C-Certification: Presented @ ICLR 2026). A preliminary version appeared at the Differentiable Almost Everything Workshop at ICML 2024. Code available at https://github.com/isefos/gt_robustness
全景成对失真图
机构 * Huawei Technologies(华为技术有限公司)
AI总结 本文提出全景成对失真图任务,通过区域结构化组成图像对,改进现有方法对整体图像分析的局限性,构建PandaSet数据集、PandaBench基准和Panda架构,揭示多模态大语言模型在区域级失真理解上的不足。
Comments Accepted to ICLR 2026
通过遗忘集无关的去学习来缓解隐私风险
机构 * University of Toronto(多伦多大学) ; Vector Institute(向量研究所)
AI总结 本文提出部分盲去学习方法Reload,通过梯度优化和结构化权重稀疏化有效去除训练数据影响,实验证明其在去学习效率和隐私保护方面优于传统方法。
Comments 50 pages, 20 figures, Published at The Fourteenth International Conference on Learning Representations
Journal ref Proceedings of The Fourteenth International Conference on Learning Representations (ICLR), 2026
WaveMoE: 一种用于时间序列预测的小波增强混合专家基础模型
机构 * Sun Yat-sen University(中山大学) ; Xiaomi Corporation(小米集团) ; National University of Singapore(新加坡国立大学)
AI总结 WaveMoE通过整合小波域表示提升时间序列预测能力,采用双路径架构和共享专家路由机制,实验表明其在16个基准数据集上具有提升预测性能的潜力。
Comments Presented at ICLR 2026 TSALM Workshop (1st Workshop on Time Series in the Age of Large Models)
PepBenchmark:肽机器学习的标准基准
机构 * Zhongguancun Academy(中关村学院) ; University of Science and Technology of China(中国科学技术大学) ; Nankai University(南开大学) ; Tianjin University(天津大学)
AI总结 本文提出PepBenchmark,为肽药物发现提供标准化基准,包含统一的数据集、预处理流程和评估协议,涵盖四种主要方法家族,推动肽机器学习方法的发展。
Journal ref ICLR 2026
打乱数据,扩大步长:在固定步长SGD中更精确的偏倚
机构 * University of Pennsylvania(宾夕法尼亚大学) ; University of Wisconsin-Madison(威斯康星大学麦迪逊分校) ; Archimedes Research Unit(阿基米德研究单位)
AI总结 本文研究了在有限和最小-最大优化问题中,通过随机重洗数据和Richardson-Romberg外推的组合,提升固定步长SGD的收敛性,提供理论保证和实验验证。
Comments Accepted in ICLR 2026 Conference
对齐的智能体,偏见的蜂群:测量多智能体系统中的偏见放大
机构 * Shanghai Jiao Tong University(上海交通大学) ; Shanghai Innovation Institute(上海创新研究院)
AI总结 研究通过实验分析多智能体系统拓扑结构和反馈循环对偏见的影响,发现结构复杂性并不保证伦理鲁棒性,指出系统复杂性可能加剧偏见。
Comments Accepted by ICLR 2026
STDDN:一种基于物理的深度学习框架用于人群模拟
机构 * School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院) ; School of Software, Beihang University(北京航空航天大学软件学院) ; Beijing Digital Native Digital City Research Center(北京数字原生数字城市研究中心)
AI总结 本文提出STDDN框架,通过引入流体动力学的连续方程,结合神经普通微分方程和动态图学习模块,改进人群模拟的物理约束与效率,实现更稳定和高效的模拟性能。
Journal ref International Conference on Learning Representations (ICLR), 2026
诊断LLM代理记忆中的检索与利用瓶颈
机构 * University of California, San Diego(加利福尼亚大学圣迭戈分校) ; Carnegie Mellon University(卡内基梅隆大学) ; University of North Carolina(北卡罗来纳大学)
AI总结 本文通过3x3实验分析写入策略、检索方法和记忆利用行为对性能的影响,发现检索方法是主要瓶颈,且原始分块存储在无需LLM调用时表现优异。
Comments Accepted at the MemAgents Workshop, ICLR 2026
小规模训练能否可靠地指导数据整理?重新审视代理模型实践
机构 * Princeton University(普林斯顿大学) ; Tsinghua University(清华大学) ; UC Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学) ; Virginia Tech(弗吉尼亚理工大学)
AI总结 本文探讨了小规模代理模型训练在数据整理中的可靠性问题,指出固定配置协议与全规模模型开发流程的差异,并提出通过降低学习率提升小规模实验的可靠性。
Comments ICLR 2026
FlowBind: 任意到任意生成的高效方法
机构 * KAIST(韩国科学技术院)
AI总结 本文提出FlowBind框架,通过共享潜在空间和双向流实现高效任意模态生成,减少数据和计算成本,实验显示生成质量与传统方法相当。
Comments ICLR 2026
BézierFlow:学习Bézier随机插值调度器用于少步生成
机构 * KAIST(韩国科学技术院)
AI总结 BézierFlow通过学习Bézier随机插值调度器,实现少步生成的性能提升,采用轻量训练方法,在10次NFE内提升2-3倍性能,且训练时间仅需15分钟。
Comments ICLR 2026, Project page: https://bezierflow.github.io