语言大模型 / LLM

Robust Preference Alignment via Directional Neighborhood Consensus

通过方向邻域共识实现鲁棒偏好对齐

Ruochen Mao, Yuling Shi, Xiaodong Gu, Jiaheng Wei

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL

AI总结 通过方向邻域共识实现鲁棒偏好对齐，提升模型在多样化偏好下的稳定性与可靠性。

Comments Accepted to ICLR 2026

Small Reward Models via Backward Inference

通过反向推理的小奖励模型

Yike Wang, Faeze Brahman, Shangbin Feng, Teng Xiao, Hannaneh Hajishirzi, Yulia Tsvetkov

机构 * University of Washington（华盛顿大学） ； Allen Institute for Artificial Intelligence（人工智能研究院） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract)；language model(abstract)；small language model(abstract)；分类 cs.CL

AI总结 FLIP通过反向推理实现无需参考和评分标准的奖励建模，在多个领域中显著提升性能并增强鲁棒性。

PanoEnv: Exploring 3D Spatial Intelligence in Panoramic Environments with Reinforcement Learning

PanoEnv：探索基于强化学习的全景环境中3D空间智能

Zekai Lin, Xu Zheng

机构 * University of Glasgow（格拉斯哥大学） ； HKUST(GZ)（香港科技大学（广州）） 纠错

专题命中 后训练与偏好优化 ：language model(abstract)；post-training(abstract)

AI总结 PanoEnv通过强化学习框架提升VLMs在全景环境中3D空间推理能力，实现更高准确率和语义评分。

Unified Reward Model for Multimodal Understanding and Generation

多模态理解和生成的统一奖励模型

Yibin Wang, Yuhang Zang, Hao Li, Cheng Jin, Jiaqi Wang

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai AI Lab（上海人工智能实验室） 纠错

专题命中 后训练与偏好优化 ：preference optimization(abstract)

AI总结 本文提出统一奖励模型，通过联合学习多种视觉任务提升多模态理解和生成的性能。

Comments project page: https://codegoat24.github.io/UnifiedReward/

InftyThink: Breaking the Length Limits of Long-Context Reasoning in Large Language Models

InftyThink: 突破大型语言模型长上下文推理的长度限制

Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Mengdi Zhang, Jian Shao, Yueting Zhuang

机构 * Zhejiang University（浙江大学） ； Meituan Group（美团集团） ； Peking University（北京大学） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 InftyThink通过迭代推理与中间摘要机制，突破大型语言模型长上下文推理的长度限制，提升推理深度与效率。

Comments ICLR 2026: https://openreview.net/forum?id=T1h5em349L Project Page: https://zju-real.github.io/InftyThink Code: https://github.com/ZJU-REAL/InftyThink

Personalized Graph-Empowered Large Language Model for Proactive Information Access

面向主动信息获取的个性化图增强大语言模型

Chia Cheng Chang, An-Zi Yen, Hen-Hsen Huang, Hsin-Hsi Chen

机构 * Department of Computer Science（计算机科学系） ； Information Engineering National Taiwan University Taipei, Taiwan（信息工程国立台湾大学台北市） ； Department of Computer Science National Yang Ming Chiao Tung University Hsinchu, Taiwan（计算机科学国立阳明交通大学新竹市） ； Institute of Information Science Academia Sinica Taipei, Taiwan（信息科学研究所台湾学术院台北市） ； Information Engineering AI Research Center (AINTU) National Taiwan University Taipei, Taiwan（信息工程人工智能研究中心（AINTU）国立台湾大学台北市） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出一种基于大语言模型和个性化知识图谱的主动信息获取框架，通过精炼决策过程提升用户对遗忘事件的识别能力。

Generative agents in the streets: Exploring the use of Large Language Models (LLMs) in collecting urban perceptions

街道中的生成代理：探索大型语言模型（LLMs）在收集城市感知中的应用

Deepank Verma, Olaf Mumm, Vanessa Miriam Carlow

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)

AI总结 本研究利用生成代理探索大型语言模型在模拟城市环境中人类行为中的应用，通过街景图像交互和感知评估提升AI在城市感知中的能力。

Comments 30 Pages, 15 Figures, Submitted in a Journal for Peer review

Enhancing LLM-Based Test Generation by Eliminating Covered Code

通过消除已覆盖代码增强基于LLM的测试生成

WeiZhe Xu, Mengyu Liu, Fanxin Kong

机构 * University of Notre Dame（诺丁汉大学） ； Washington State University（华盛顿州立大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于LLM的单元测试生成方法，通过上下文检索和迭代测试生成与代码消除，提升复杂方法的测试覆盖率。

Comments 9 pages, 4 figures, supplementary material included

Beyond RAG vs. Long-Context: Learning Distraction-Aware Retrieval for Efficient Knowledge Grounding

超越RAG与长上下文：学习抗干扰检索以实现高效的知识 grounding

Seongwoong Shim, Myunsoo Kim, Jae Hyeon Cho, Byung-Jun Lee

机构 * Korea University, Decision Making Lab（韩国大学，决策实验室） ； LG CNS 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出LDAR方法，通过学习抗干扰检索提升知识 grounding 的效率与性能。

Comments Accepted at ICLR 2026

Structured Prompt Language: Declarative Context Management for LLMs

结构化提示语言：面向大语言模型的声明式上下文管理

Wen G. Gong

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 结构化提示语言SPL通过声明式框架管理大语言模型的上下文资源，实现高效提示生成和多模型协同，减少65%的模板开销，提升成本透明度和执行效率。

Comments 44 pages, 6 figures, 14 tables, 15 code-listings

When Can Transformers Count to n?

Transformer何时能数到n？

Gilad Yehudai, Haim Kaplan, Guy Dar, Royi Rassin, Asma Ghandeharioun, Mor Geva, Amir Globerson

机构 * NYU Center for Data Science（纽约大学数据科学中心） ； School of Computer Science, Tel Aviv University（特拉维夫大学计算机科学学院） ； Google Research（谷歌研究） ； Bar-Ilan University（巴伊兰大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究揭示了Transformer在计数任务中受词汇量限制的理论瓶颈，证明词汇量决定计数难度。

An Evaluation of Context Length Extrapolation in Long Code via Positional Embeddings and Efficient Attention

通过位置嵌入和高效注意力机制评估长代码中的上下文长度外推

Madhusudan Ghosh, Rishabh Gupta

机构 * Bosch Research and Technology Centre, Bangalore, India（博世研究与技术中心，班加罗尔，印度） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文通过位置嵌入和高效注意力机制评估长代码中的上下文长度外推，旨在提升代码生成任务的泛化能力。

Structurally Aligned Subtask-Level Memory for Software Engineering Agents

结构对齐的子任务级记忆用于软件工程代理

Kangning Shen, Jingyuan Zhang, Chenxi Sun, Wencong Zeng, Yang Yue

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出结构对齐的子任务级记忆方法，通过与代理功能分解对齐来提升软件工程代理的长周期推理能力，实验表明在多种backbone上均优于传统方法。

Latent Context Compilation: Distilling Long Context into Compact Portable Memory

潜在上下文编译：将长上下文编译为紧凑便携内存

Zeju Li, Yizhou Zhou, Qiang Xu

机构 * The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出潜在上下文编译方法，通过LoRA模块将长上下文压缩为紧凑内存，无需合成数据即可提升LLM部署效率。

JanusVLN: Decoupling Semantics and Spatiality with Dual Implicit Memory for Vision-Language Navigation

JanusVLN: 通过双隐式记忆解耦语义与空间性用于视觉-语言导航

Shuang Zeng, Dekang Qi, Xinyuan Chang, Feng Xiong, Shichao Xie, Xiaolong Wu, Shiyi Liang, Mu Xu, Xing Wei, Ning Guo

机构 * Xi’an Jiaotong University（西安交通大学） ； Amap, Alibaba Group（阿里巴巴集团） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 JanusVLN通过双隐式记忆解耦语义与空间性，提升视觉-语言导航的性能和效率。

Comments Accepted to ICLR 2026. Project page: https://miv-xjtu.github.io/JanusVLN.github.io/

Recursive Belief Vision Language Action Models

递归信念视觉语言动作模型

Vaidehi Bagaria, Bijo Sebastian, Nirav Kumar Patel

机构 * Department of Engineering Design, Indian Institute of Technology, Madras, Chennai, India（工程设计系，印度理工学院，马德拉斯，钦奈，印度） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 RB-VLA通过信念与意图联合条件化扩散策略，实现长周期任务的高效执行，显著提升成功率并降低推理延迟。

Slm-mux: Orchestrating small language models for reasoning

Slm-mux: 通过协调小型语言模型进行推理

Chenyu Wang, Zishen Wan, Hao Kang, Emma Chen, Zhiqiang Xie, Tushar Krishna, Vijay Janapa Reddi, Yilun Du

机构 * Harvard University（哈佛大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Stanford University（斯坦福大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；small language model(title,abstract)；SLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 SLM-MUX通过协调多个小型语言模型提升推理准确性，实现比单个模型更高的性能。

Understanding Artificial Theory of Mind: Perturbed Tasks and Reasoning in Large Language Models

理解人工智能理论 of mind：受扰任务和大语言模型中的推理

Christian Nickel, Laura Schrewe, Florian Mai, Lucie Flek

机构 * Bonn-Aachen International Center for Information Technology (b-it)（波恩-埃森国际信息科技中心） ； University of Bonn（波恩大学） ； Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究所） ； Research Center Trustworthy Data Science and Security (RC-Trust)（可信数据科学与安全研究中心） ； University of Duisburg-Essen（埃森-杜伊斯堡大学） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；prompting(abstract)

AI总结 本研究通过扰动任务和链式推理提示探讨大语言模型的理论 of mind能力，发现其鲁棒性受扰动影响显著，CoT提示虽提升整体表现，但对某些扰动类别却降低准确性。

D-COT: Disciplined Chain-of-Thought Learning for Efficient Reasoning in Small Language Models

D-COT：为小语言模型高效推理的纪律性推理学习

Shunsuke Ubukata

机构 * Shunsuke Ubukata（独立研究者） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；small language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 D-CoT通过引入控制标签强制结构化推理，提升小语言模型在推理任务中的性能并减少计算成本。

Comments 9 pages, 3 figures. Code: https://github.com/gitpullpull/DisciplinedChainOfThought | Benchmarks: https://huggingface.co/datasets/gitpullpull/D-CoT-Benchmarks | Dataset: https://huggingface.co/datasets/gitpullpull/D-CoT-datasets

Reasoning-Driven Design of Single Atom Catalysts via a Multi-Agent Large Language Model Framework

通过多智能体大语言模型框架进行基于推理的单原子催化剂设计

Dong Hyeon Mok, Seoin Back, Victor Fung, Guoxiang Hu

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 本文提出一种多智能体大语言模型框架，用于基于推理的单原子催化剂设计，通过迭代推理和上下文学习发现高性能催化剂并突破传统缩放关系。

RADAR: Reasoning as Discrimination with Aligned Representations for LLM-based Knowledge Graph Reasoning

RADAR: 以对齐表示进行基于大语言模型的知识图谱推理的推理

Bo Xue, Yuan Jin, Luoyi Fu, Jiaxin Ding, Xinbing Wang

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 RADAR通过判别性关系推理提升知识图谱推理的鲁棒性和泛化能力，实现比LLM基线更高的链接预测和三元组分类精度。

Two-Stage Active Distribution Network Voltage Control via LLM-RL Collaboration: A Hybrid Knowledge-Data-Driven Approach

通过LLM-RL协作的两阶段主动配电网电压控制：一种混合知识-数据驱动方法

Xu Yang, Chenhui Lin, Xiang Ma, Dong Liu, Ran Zheng, Haotian Liu, Wenchuan Wu

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种混合知识-数据驱动方法，通过LLM与RL协作实现主动配电网两阶段电压控制，提升电压调节效率与电网质量。

Breaking Semantic-Aware Watermarks via LLM-Guided Coherence-Preserving Semantic Injection

破坏语义感知水印：通过LLM引导的保持连贯性语义注入

Zheng Gao, Xiaoyu Li, Zhicheng Bao, Xiaoyan Feng, Jiaojiao Jiang

机构 * University of New South Wales（新南威尔士大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出CSI攻击，利用LLM引导的语义操纵破坏语义水印的绑定，揭示当前语义水印设计在面对LLM驱动的语义扰动时的安全漏洞。

Comments Accepted by The Web Conference 2026 (Short Paper Track)

ExpLang: Improved Exploration and Exploitation in LLM Reasoning with On-Policy Thinking Language Selection

ExpLang: 通过在线策略思考语言选择改进大语言模型推理中的探索与利用

Changjiang Gao, Zixian Huang, Kaichen Yang, Jiajun Chen, Jixing Li, Shujian Huang

机构 * National Key Laboratory for Novel Software Technology, Nanjing University, Jiangsu, China（新型软件技术国家重点实验室，南京大学，江苏，中国） ； Shanghai Artificial Intelligence Laboratory, Shanghai, China（上海人工智能实验室，上海，中国） ； Department of Linguistics and Translation, City University of Hong Kong, Hong Kong, China（语言学与翻译系，香港城市大学，香港，中国） ； School of Mathematical Sciences, Dalian University of Technology, Liaoning, China（数学科学学院，大连理工大学，辽宁，中国） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；post-training(abstract)；分类 cs.CL

AI总结 ExpLang通过在线策略思考语言选择改进大语言模型推理中的探索与利用，实现多语言优势提升

1-2-3 Check: Enhancing Contextual Privacy in LLM via Multi-Agent Reasoning

1-2-3 Check: 通过多智能体推理增强LLM的上下文隐私

Wenkai Li, Liwen Sun, Zhenxiang Guan, Xuhui Zhou, Maarten Sap

机构 * Language Technologies Institute Carnegie Mellon University（语言技术研究所卡内基梅隆大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 通过多智能体推理，有效减少LLM中的私有信息泄露，提升上下文隐私保护效果。

Comments Accepted at the International Association for AI Safety and Ethics AI (IASEAI) 2026

SCoTER: Structured Chain-of-Thought Transfer for Enhanced Recommendation

SCoTER: 结构化推理链转移以提升推荐

Jie Jiang, Yang Wu, Qian Li, Yuling Xiong, Hongbo Tang, Xun Liu, Haoze Wang, Jun Zhang, Huan Yu, Hailong Shi

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 SCoTER通过结构化推理链转移提升推荐系统，解决推理模式发现和结构保持问题，实现推荐效果和成本的双重优化。

Improving Parametric Knowledge Access in Reasoning Language Models

提升推理语言模型的参数知识访问能力

Melody Ma, John Hewitt

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL

AI总结 通过强化学习训练，提升推理语言模型在参数知识访问上的能力，改进知识回忆和问答任务表现。

EO-1: An Open Unified Embodied Foundation Model for General Robot Control

EO-1：一个通用机器人控制的开放统一具身基础模型

Delin Qu, Haoming Song, Qizhi Chen, Zhaoqing Chen, Xianqiang Gao, Dong Wang, Xinyi Ye, Qi Lv, Modi Shi, Guanghui Ren, Cheng Ruan, Maoqing Yao, Haoran Yang, Jiacheng Bao, Bin Zhao, Xuelong Li

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； AgiBot ； Northwestern Polytechnical University（西北工业大学） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.AI

AI总结 EO-1是一个统一的具身基础模型，通过交错视觉-文本-动作预训练实现了在多模态推理和机器人控制中的卓越性能。

Evolutionary System Prompt Learning for Reinforcement Learning in LLMs

强化学习中大语言模型的进化系统提示学习

Lunjun Zhang, Ryan Chen, Bradly C. Stadie

机构 * Department of Computer Science, University of Toronto（多伦多大学计算机科学系） ； Department of Statistics（统计学系） ； Data Science, Northwestern University（数据科学，西北大学） ； Bridgewater AIA Labs（布里奇沃特AIA实验室） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 E-SPL通过结合强化学习和系统提示进化，提升大语言模型在推理和智能任务中的性能。

Comments 39 pages, 22 figures

VOILA: Evaluation of MLLMs For Perceptual Understanding and Analogical Reasoning

VOILA：对多模态大语言模型的感知理解与类比推理能力评估

Nilay Yilmaz, Maitreya Patel, Yiran Lawrence Luo, Tejas Gokhale, Chitta Baral, Suren Jayasuriya, Yezhou Yang

机构 * Arizona State University（亚利桑那州立大学） ； University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 VOILA通过类比映射方法评估多模态大语言模型的感知理解和抽象推理能力，发现其在图像间关系理解上存在不足，但通过多步提示策略可提升性能。

Comments Accepted at ICLR 2025. Code and data: https://github.com/nlylmz/Voila