Self-Augmenting Retrieval for Diffusion Language Models
扩散语言模型的自增强检索
机构 * University of California, Berkeley(加州大学伯克利分校) ; Google Research(谷歌研究院)
AI总结 提出SARDI框架,利用扩散语言模型去噪过程中丢弃的低置信度标记作为前瞻信号指导检索,无需训练且与检索器无关,在多跳问答基准上以高达8倍吞吐量超越现有方法。
Comments ICML 2026
期刊&会议
International Conference on Machine Learning · 会议 · Machine Learning
扩散语言模型的自增强检索
机构 * University of California, Berkeley(加州大学伯克利分校) ; Google Research(谷歌研究院)
AI总结 提出SARDI框架,利用扩散语言模型去噪过程中丢弃的低置信度标记作为前瞻信号指导检索,无需训练且与检索器无关,在多跳问答基准上以高达8倍吞吐量超越现有方法。
Comments ICML 2026
DragOn:基于拖拽的GUI交互基准与数据集
AI总结 针对GUI代理在拖拽操作(如拖放、滑动、高亮)上的性能不足,提出DragOn基准和训练数据集,涵盖文本高亮、单元格选择、元素缩放和滑块操作四个领域,包含28.6万张训练截图和350万个训练任务,评估了多个模型并显示数据集能提升下游任务性能。
Journal ref Published as a workshop paper at SCALE - 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026
LLM 自我识别:引导与检索激活签名
机构 * University of California, Berkeley(加州大学伯克利分校) ; ETH Zurich(苏黎世联邦理工学院)
AI总结 通过随机稀疏向量引导内部残差流,在LLM生成文本中嵌入可检测指纹,实现高精度归属,同时保持文本质量。
Comments To appear in Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)
你的GFlowNet秘密学习了一个最优传输方案
AI总结 本文建立了非无环生成流网络与最优传输之间的理论联系,证明最小流GFlowNet学习到的策略编码了从源分布到目标分布的最优传输方案。
Comments ICML 2026 SPIGM Workshop
告密范数:$\ell_2$ 幅度作为大语言模型推理动态的信号
机构 * University of Science and Technology of China(中国科学技术大学)
AI总结 本文提出隐藏状态的 $\ell_2$ 范数作为大语言模型推理强度的内生信号,并通过稀疏自编码器分析、理论证明和因果干预验证其有效性,进而引入三种基于 $\ell_2$ 范数的测试时缩放技术以提升推理性能。
Comments ICML
IR3DE:面向大型语言模型的线性路由器
机构 * Gensyn
AI总结 提出基于岭回归的线性路由器IR3DE,以低成本快速为每个提示选择最合适的领域专家大语言模型,在推理任务中超越基线方法,并支持动态添加或移除专家模型。
Comments Accepted at the ICML 2026 Workshop on Resource-Adaptive Foundation Model Inference
第一价格拍卖中无交换遗憾动态的收益保证
AI总结 研究离散第一价格拍卖中近似相关均衡的收益,证明任何ε-近似相关均衡的收益至少为v2 - Θ(1/k) - Θ(εk^2),首次给出无交换遗憾投标人产生的收益的多项式收敛速度。
Comments To be published in ICML 2026
记忆是重建的,而非检索的:面向LLM智能体的图记忆
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学)
AI总结 提出MRAgent框架,通过关联记忆图和主动重建机制,使LLM智能体在推理过程中动态调整记忆访问,显著提升长程记忆推理性能。
Comments Accepted at ICML 2026
CollabBench: 通过主动参与与多样化玩家基准测试和释放LLMs的协作能力
机构 * Shanghai Institute of AI for Education(上海人工智能教育研究院) ; School of Computer Science(计算机科学学院) ; East China Normal University(东华大学) ; Tencent Inc.(腾讯公司) ; Shanghai Innovation Institute(上海创新研究院)
AI总结 提出CollabBench基准,通过多样化玩家模拟和协作智能体训练范式,提升LLM在合作游戏中的任务效率和情感适应能力。
Comments Accepted by ICML 2026
r/ChatGPT 三年:来自社交媒体数据的社会影响评估
AI总结 本研究提出 PuLSE 框架,利用社交媒体数据纵向分析 r/ChatGPT 子版块,揭示 ChatGPT 从新奇技术向日常消费品的常态化过程,并检测到 GPT-4o 发布后情感参与度的显著上升。
Comments To be presented at ICML 2026
进化中选择的因果建模
机构 * University of Washington(华盛顿大学) ; Carnegie Mellon University(卡内基梅隆大学)
AI总结 本文区分了静态选择与进化选择两种形式,针对进化选择提出新因果模型,并开发了从数据中识别该模型的完整方法。
Comments Appears at ICML 2026 (spotlight)
AdaMEM:语言代理的测试时自适应记忆
机构 * Yunxiang Zhang(张 Yunxiang) ; Yiheng Li(李 Yiheng) ; Ali Payani(Payani Ali) ; Lu Wang(王 Lu)
AI总结 提出AdaMEM框架,通过混合记忆架构(长期轨迹记忆+动态短期策略记忆)实现测试时自适应,无需在线更新参数,在ALFWorld、WebShop等任务上显著优于静态记忆基线。
Comments ICML 2026
V2V-Bench:视频到视频生成评估的综合基准
机构 * Centific Global Solutions Inc.(Centific全球解决方案公司)
AI总结 针对视频到视频生成评估中现有指标无法同时衡量编辑指令遵循和帧级对应的问题,提出包含11个维度、5个类别的V2V-Bench基准,评估三个模型并验证其与人类判断高度相关。
Comments Accepted at ICML 2026 workshop
修正思维,而非动作:通过知识缺口定位实现可解释的AI辅助
机构 * University of Tokyo(东京大学) ; National Institute of Information and Communications Technology(信息与通信技术国家研究所)
AI总结 提出SENSEI框架,通过结构化知识表示推断用户误解并提供针对性建议,在长时任务中实现零样本组合泛化,纠正90%的学生误解。
Comments Accepted to International Conference on Machine Learning (ICML) 2026
学习子空间压缩以实现通信高效的流水线并行
机构 * Concordia University(康科迪亚大学) ; Mila ; Quebec AI Institute(魁北克人工智能研究所) ; CNRS, Sorbonne University(法国国家科学研究中心,索邦大学)
AI总结 提出MAPL方法,通过Stiefel流形约束学习每个流水线阶段的任务最优正交投影,结合因子化锚点嵌入和残差向量量化,在低带宽网络中实现高压缩比且性能损失极小。
Comments Accepted at the 2nd Workshop on Connecting Low-rank Representations in AI, ICML 2026
形式概念格是基于概念学习的好语义支架
机构 * Amazon, India(亚马逊(印度)) ; Microsoft Research(微软研究院)
AI总结 本文利用形式概念分析中的概念格作为语义支架,指导神经网络在不同深度层次学习分层结构的概念表示,从而提升可解释性和干预效果。
Comments Accepted at ICML 2026
语言模型引导的圆柱表示假说
机构 * University of Science and Technology of China(中国科学技术大学)
AI总结 提出圆柱表示假说(CRH),通过放宽线性表示假说(LRH)的正交性假设,解释语言模型引导中的不稳定性和不确定性。
Comments ICML 2026 camera ready
GITCO:TSFMs中的门控推理时上下文优化
机构 * Birla AI Labs(巴尔拉人工智能实验室)
AI总结 提出GITCO框架,通过门控机制在推理时选择性抑制有害补丁,无需更新参数即可提升基于补丁的时间序列基础模型的零样本预测精度。
Comments ICML 2026 Workshop on Foundation Models for Structured Data
智能体蒙特卡洛:黑盒智能体的强化学习模拟
机构 * University of Cambridge(剑桥大学)
AI总结 提出Agentic Monte Carlo (AMC)方法,利用序贯蒙特卡洛从最优策略后验中采样,无需参数级优化即可对黑盒LLM智能体进行强化学习式优化,在AgentGym基准上超越提示基线并随测试时计算扩展优于GRPO。
Comments Accepted by ICML 2026
学习流形与伊藤动力学:分支神经粗糙微分方程
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学) ; University of Toronto(多伦多大学)
AI总结 提出分支神经粗糙微分方程(B-NRDE),通过Hopf代数框架统一处理欧几里得伊藤动力学、流形上的有序协变导数及经典Stratonovich情形,实现精确的粗步流形约束动力学和伊藤一致律匹配。
Comments Accepted at ICML 2026
VideoKR:迈向知识和推理密集型视频理解
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学) ; University of Toronto(多伦多大学) ; University of Washington(华盛顿大学) ; University of Michigan(密歇根大学)
AI总结 提出VideoKR,首个大规模训练语料库,通过人工参与的技能导向生成管道构建315K视频推理示例,增强知识和推理密集型视频理解,并在专家标注基准上验证其有效性。
Comments ICML 2026 Spotlight
大步长梯度下降恢复多路径深度线性网络中的对称性
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 本文研究大步长离散梯度下降如何通过边缘稳定性振荡使多路径深度线性网络从对称性破坏转向信号重新分配,从而偏好共享表示而非单路径主导。
Comments ICML 2026
利用状态空间模型学习连续时间动态图中的长程时空表示
机构 * University of Texas at Austin(德克萨斯大学奥斯汀分校) ; Indian Institute of Science(印度科学研究院)
AI总结 提出一种基于状态空间模型的连续时间动态图框架(CTDG-SSM),通过拓扑感知的高阶多项式投影算子(CTT-HiPPO)实现长程时空信息传播,在动态链接预测、节点分类和序列分类任务上取得最优性能。
Comments Accepted at ICML 2026
LimiX-2M:缓解表格基础模型中的低秩坍塌和注意力瓶颈
机构 * University of Science and Technology of China(中国科学技术大学)
AI总结 提出统一tokenize-and-route框架LimiX-2M,通过RaBEL扩展标量为局部RBF特征并重新排序双向块S→N→F,以2M参数超越更大模型,改善表格基础模型的精度-效率权衡。
Comments Accepted to ICML 2026
零样本3D问答通过层级视图到令牌传输
机构 * Dongsheng Wang(王东生) ; Dawei Su(苏大卫) ; Hui Huang(黄慧)
AI总结 提出KeyVT方法,通过层级视图和令牌级输入上下文收集,结合像素特征与相机参数评估视图重要性,并利用最优传输识别代表性令牌,实现零样本3D问答性能提升。
Comments Accepted at ICML 2026. 19 pages, 6 figures
工业化预测驱动推断:用于可靠生成式AI与智能体系统评估的GLIDE库
机构 * University of California, Berkeley(加州大学伯克利分校) ; Google Research(谷歌研究院)
AI总结 提出GLIDE开源库,统一多种预测驱动推断方法,提供无偏估计与有效置信区间,显著降低人工标注成本。
Comments 8 pages, Accepted to the ICML 2026 Workshop on Statistical Frameworks for Uncertainty in Agentic Systems, Seoul, South Korea, 2026
4DPC$^2$hat: 面向动态点云理解的失败感知自举学习
机构 * University of Science and Technology of China(中国科学技术大学)
AI总结 提出首个针对动态点云理解的多模态大语言模型4DPC$^2$hat,通过构建大规模跨模态数据集4DPC$^2$hat-200K和引入Mamba增强的时间推理模块及失败感知自举学习策略,显著提升了动作理解与时间推理能力。
Comments Accept by ICML 2026
谁的对齐?比较不同组织决策情境下的大语言模型过程对齐
机构 * University of Cambridge(剑桥大学)
AI总结 本文提出一种决策策略捕获方法测量过程对齐,发现LLM在ECHR第6条决策中过程对齐与输出准确性高度相关,但在德国消费信贷决策中关系消失,揭示了多元对齐挑战。
Comments Accepted to Pluralistic Alignment Workshop @ ICML 2026, Seoul, South Korea
沉默的思维:通过潜在推理建模全双工语音对话模型中的内部认知
机构 * DeepMind(深度Mind)
AI总结 本文提出了一种名为FLAIR的全双工语音对话模型,通过潜在推理同时进行语音感知和内部思考,以提高对话质量,该方法在多个语音基准测试中取得了竞争性的结果。
Comments Accepted by ICML 2026
当偏好标签不足时:从真实数据对齐扩散模型
机构 * University of Science and Technology of China(中国科学技术大学)
AI总结 本文研究了真实数据作为偏好对齐的替代监督源,通过数据驱动的方法,利用真实图像作为参考点,对比生成或扰动样本以构建偏好信号,无需手动标注的偏好对,实验证明真实数据监督能有效对齐扩散模型并达到与现有偏好方法相当的性能。
Comments ICML 2026 Camera Ready; Project Page: https://cwyxx.github.io/RealAlign