语言大模型 / LLM

Robust LLM Alignment via Distributionally Robust Direct Preference Optimization

通过分布鲁棒直接偏好优化实现鲁棒的大语言模型对齐

Zaiyan Xu, Sushil Vemuri, Kishan Panaganti, Dileep Kalathil, Rahul Jain, Deepak Ramachandran

机构 * Texas A&M University（德克萨斯大学） ； California Institute of Technology（加州理工学院） ； Tencent AI Lab（腾讯AI实验室） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 后训练与偏好优化 ：LLM(title,abstract)；preference optimization(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出Wasserstein DPO和KLDPO算法，通过分布鲁棒优化解决LLM与人类偏好间的分布偏移问题，提升对齐性能。

Comments Accepted to NeurIPS 2025

The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models

助手轴：定位和稳定语言模型的默认人格

Christina Lu, Jack Gallagher, Jonathan Michala, Kyle Fish, Jack Lindsey

机构 * MATS ； Anthropic Fellows Program ； University of Oxford（牛津大学） ； Anthropic 纠错

专题命中 后训练与偏好优化 ：language model(title,abstract)；large language model(abstract)；post-training(abstract)；分类 cs.CL

AI总结 研究发现语言模型的默认人格轴影响行为稳定性，通过限制激活区域可防止人格漂移及对抗性突破。

Towards Native Intelligence: 6G-LLM Trained with Reinforcement Learning from NDT Feedback

迈向原生智能：通过NDT反馈强化学习训练的6G-LLM

Zhuoran Xiao, Tao Tao, Chenhui Ye, Yunbo Hu, Yijia Feng, Tianyu Jiao, Liyu Cai

专题命中 后训练与偏好优化 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出通过NDT反馈强化学习训练6G-LLM，以提升网络调度精度和解决方案最优性。

Comments The paper has been accepted IEEE WCNC 2026

Evaluating Novelty in AI-Generated Research Plans Using Multi-Workflow LLM Pipelines

利用多工作流LLM管道评估AI生成的研究计划新颖性

Devesh Saraogi, Rohit Singhee, Dhruv Kumar

机构 * Birla Institute of Technology and Science, Pilani, India（比拉理工学院和科学学院，皮兰迪） 纠错

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文通过多工作流LLM管道评估AI生成研究计划的新颖性，发现递归分解和长上下文工作流在新颖性和可行性方面表现更优。

Comments Under Review

Continuum Memory Architectures for Long-Horizon LLM Agents

连续记忆架构用于长周期大语言模型智能体

Joe Logan

机构 * Mode7 GK Tokyo, Japan（Mode7 GK东京） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 连续记忆架构通过持久存储和动态更新机制，解决了长周期大语言模型智能体在记忆积累、修改和消歧方面的局限性，同时揭示了该架构在延迟、漂移和可解释性方面的挑战。

Comments 10 Pages

Investigating LLM Capabilities on Long Context Comprehension for Medical Question Answering

探究大语言模型在医疗问答中的长上下文理解能力

Feras AlMannaa, Talia Tseriotou, Jenny Chim, Maria Liakata

机构 * Istanbul Aydın University（伊斯坦布尔阿迪兰大学） ； Queen Mary University of London（伦敦女王学院） ； The Alan Turing Institute（艾伦·图灵研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL

AI总结 本研究探讨大语言模型在医疗问答中处理长上下文任务的能力，分析了模型大小、记忆问题及RAG方法的效果，揭示了其在不同任务中的优势与限制。

SagaScale: A Realistic, Scalable, and High-Quality Long-Context Benchmark Built from Full-Length Novels

SagaScale: 一种真实、可扩展且高质量的长上下文基准，基于完整小说构建

Guancheng Du, Yong Hu, Wenqing Wang, Yaming Yang, Jiaheng Gao

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 SagaScale基于完整小说构建，提供长上下文基准，通过自动化数据收集管道，评估12个LLMs和三种方法，揭示LLM在长上下文处理中的表现差异及Agentic RAG的改进效果。

Structure and Diversity Aware Context Bubble Construction for Enterprise Retrieval Augmented Systems

结构与多样性感知的上下文气泡构建方法用于企业检索增强系统

Amir Khurshid, Abhishek Sehgal

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种结构感知和多样性约束的上下文气泡构建方法，以提高企业检索增强系统中上下文的效率和信息完整性。

Investigating Tool-Memory Conflicts in Tool-Augmented LLMs

探究工具增强大语言模型中的工具-记忆冲突

Jiali Cheng, Rui Pan, Hadi Amiri

机构 * University of Massachusetts Lowell（马萨诸塞大学洛约拉分校） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 本文提出工具-记忆冲突的概念，发现现有LLMs在STEM任务中存在该问题，并评估了现有解决方法的不足。

Comments R2-FM Workshop @ ICML 2025

Judge Q: Trainable Queries for Optimized Information Retention in KV Cache Eviction

Judge Q: 用于优化KV缓存淘汰信息保留的可训练查询

Yijun Liu, Yixuan Wang, Yuzhuang Xu, Shiyu Ji, Yang Xu, Qingfu Zhu, Wanxiang Che

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 Judge Q通过引入软令牌列表，优化KV缓存淘汰中的信息保留，提升解码质量与性能表现。

Comments Accepted in AAAI 2026

Developer Interaction Patterns with Proactive AI: A Five-Day Field Study

开发者与前瞻性AI的交互模式：一项为期五天的实地研究

Nadine Kuo, Agnia Sergeyuk, Valerie Chen, Maliheh Izadi

专题命中 长上下文与记忆 ：prompting(abstract)

AI总结 本研究通过五天实地观察，揭示开发者对前瞻性AI建议的接受模式，发现干预时机和上下文对使用效果有显著影响。

Comments 14 pages, 6 figures, accepted to IUI'26

Bayesian Teaching Enables Probabilistic Reasoning in Large Language Models

贝叶斯教学使大语言模型具备概率推理能力

Linlu Qiu, Fei Sha, Kelsey Allen, Yoon Kim, Tal Linzen, Sjoerd van Steenkiste

机构 * MIT（麻省理工学院） ； Meta ； Google（谷歌公司） ； DeepMind University of British Columbia（不列颠哥伦比亚大学深度思维学院） ； Vector Institute（向量研究所） ； New York University（纽约大学） ； Google Research（谷歌研究） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 通过教学使大语言模型模仿贝叶斯模型预测，提升其概率推理能力并推广至新任务。

Comments Nature Communications

Large Language Models-Enabled Digital Twins for Precision Medicine in Rare Gynecological Tumors

基于大语言模型的数字孪生在罕见妇科肿瘤精准医学中的应用

Jacqueline Lammert, Nicole Pfarr, Leonid Kuligin, Sonja Mathes, Tobias Dreyer, Luise Modersohn, Patrick Metzger, Dyke Ferber, Jakob Nikolas Kather, Daniel Truhn, Lisa Christine Adams, Keno Kyrill Bressem, Sebastian Lange, Kristina Schwamborn, Martin Boeker, Marion Kiechle, Ulrich A. Schatz, Holger Bronger, Maximilian Tschochohei

机构 * Technical University of Munich (TUM), School of Medicine and Health, Klinikum rechts der Isar, TUM University Hospital（慕尼黑技术大学（TUM）、医学院与健康学院、右岸医院、TUM大学医院） ； Center for Personalized Medicine (ZPM)（个性化医学中心） ； German Cancer Consortium (DKTK)（德国癌症联合会（DKTK）） ； EUropean Reference Network for RAre CANcers (EURACAN) Initiative（罕见癌症欧洲参考网络（EURACAN）计划） ； University of Mainz Medical Center（法兰克福大学医学中心） ； Google Cloud（谷歌云） ； Institute of Artificial Intelligence in Medicine and Healthcare（医学与健康人工智能研究所） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本研究利用大语言模型构建数字孪生，用于罕见妇科肿瘤的精准医学治疗方案设计，通过整合多源数据实现个性化治疗。

Comments 20 pages, 2 figures, 3 tables, supplements, original article

Journal ref npj Digit. Med. 8, 12 (2025)

DecisionLLM: Large Language Models for Long Sequence Decision Exploration

DecisionLLM: 用于长序列决策探索的大型语言模型

Xiaowei Lv, Zhilin Zhang, Yijun Li, Yusen Huo, Siyuan Ju, Xuyan Li, Chunxiang Hong, Tianyu Wang, Yongcai Wang, Peng Sun, Chuan Yu, Jian Xu, Bo Zheng

机构 * Renmin University of China, Beijing China（中国人民大学） ； Alibaba Group, Beijing, China（阿里巴巴集团） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 DecisionLLM基于Transformer架构，通过将轨迹视为独立模态，解决LLMs在连续值解释上的不足，实现长序列决策任务的高性能表现。

AWPO: Enhancing Tool-Use of Large Language Models through Adaptive Integration of Reasoning Rewards

AWPO: 通过适应性整合推理奖励增强大语言模型的工具使用

Zihan Lin, Xiaohan Wang, Hexiong Yang, Jiajun Chai, Jie Cao, Guojun Yin, Wei Lin, Ran He

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 AWPO通过适应性整合推理奖励提升大语言模型的工具使用性能，实现多轮场景中的卓越表现。

Performance of AI agents based on reasoning language models on ALD process optimization tasks

基于推理语言模型的AI代理在ALD过程优化任务中的性能

Angel Yanguas-Gil

机构 * Applied Materials Division, Argonne National Laboratory, Lemont, IL 60439, USA（阿贡国家实验室应用材料部） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究基于推理语言模型的AI代理在ALD过程优化中的性能，发现其能有效完成优化任务，但存在响应不确定性及潜在的推理偏差。

STELP: Secure Transpilation and Execution of LLM-Generated Programs

STELP: 保障LLM生成程序的编译与执行

Swapnil Shinde, Sahil Wadhwa, Andy Luo, Akshay Gupta, Mohammad Shahed Sorower

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 STELP通过安全编译和执行LLM生成的代码，解决生产环境中的安全性和可靠性问题，提升代码执行的安全性与准确性。

Think-Then-Generate: Reasoning-Aware Text-to-Image Diffusion with LLM Encoders

思考-然后-生成：基于LLM编码器的推理感知文本到图像扩散模型

Siqi Kou, Jiachun Jin, Zetong Zhou, Ye Ma, Yugang Wang, Quan Chen, Peng Jiang, Xiao Yang, Jun Zhu, Kai Yu, Zhijie Deng

机构 * Shanghai Jiao Tong University（上海交通大学） ； Kuaishou Technology（快手科技） ； Tsinghua University（清华大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出基于LLM编码器的推理感知文本到图像扩散模型，通过推理重写提示提升生成质量，达到接近GPT-4的性能。

CoMAT: Chain of Mathematically Annotated Thought Improves Mathematical Reasoning

CoMAT：数学注释的思维链提升数学推理

Joshua Ong Jun Leang, Aryo Pradipta Gema, Shay B. Cohen

机构 * School of Informatics, The University of Edinburgh（信息学院，爱丁堡大学） ； Imperial College London（伦敦帝国学院） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 CoMAT通过符号转换和推理执行两个阶段提升数学推理能力，在多个基准测试中超越传统CoT方法。

Comments 9 pages, 12 figures

Journal ref Proc. EMNLP 2025, pp. 20245-20274

Rewarding the Rare: Uniqueness-Aware RL for Creative Problem Solving in LLMs

奖励罕见性：面向LLM创造性问题解决的唯一性感知强化学习

Zhiyuan Hu, Yucheng Wang, Yufei He, Jiaying Wu, Yilun Zhao, See-Kiong Ng, Cynthia Breazeal, Anh Tuan Luu, Hae Won Park, Bryan Hooi

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本研究提出唯一性感知强化学习方法，通过奖励罕见的高级策略提升LLM在复杂推理任务中的多样性与性能。

Comments Work in Progress

ToolSafe: Enhancing Tool Invocation Safety of LLM-based agents via Proactive Step-level Guardrail and Feedback

ToolSafe: 通过主动的步骤级防护和反馈提升基于LLM的代理的工具调用安全性

Yutao Mou, Zhangchi Xue, Lijun Li, Peiyang Liu, Shikun Zhang, Wei Ye, Jing Shao

机构 * National Engineering Research Center for Software Engineering, Peking University（软件工程国家工程研究中心，北京大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL

AI总结 ToolSafe通过构建TS-Bench和TS-Guard模型，结合TS-Flow框架，有效减少LLM代理的有害工具调用并提升任务完成率。

Comments Work in Progress. Code available: https://github.com/MurrayTom/ToolSafe

Repository Intelligence Graph: Deterministic Architectural Map for LLM Code Assistants

仓库智能图：用于LLM代码助手的确定性架构图

Tsvi Cherny-Shahar, Amiram Yehudai

机构 * Blavatnik School of Computer Science Tel Aviv University（布拉瓦特尼克计算机科学学院特拉维夫大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI

AI总结 本研究提出仓库智能图（RIG）以提升LLM代码助手的构建和测试结构理解能力，通过确定性架构图和SPADE提取器实现结构化问题解答的准确性与效率提升。

Comments 35 pages, 5 figures

MedVL-SAM2: A unified 3D medical vision-language model for multimodal reasoning and prompt-driven segmentation

MedVL-SAM2：一种统一的3D医学视觉-语言模型，用于多模态推理和基于提示的分割

Yang Xing, Jiong Wu, Savas Ozdemir, Ying Zhang, Yang Yang, Wei Shao, Kuang Gong

机构 * Department of Biomedical Engineering, University of Florida（佛罗里达大学生物医学工程系） ； Department of Radiology, University of Florida（佛罗里达大学放射学系） ； Research Computing, University of Florida（佛罗里达大学研究计算中心） ； Department of Medicine, University of Florida（佛罗里达大学医学系） ； Department of Radiology, UC San Francisco（旧金山大学放射学系） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI

AI总结 MedVL-SAM2是一种统一的3D医学多模态模型，通过联合训练实现报告生成、VQA和多任务分割的高性能表现。

Smooth Operator: Smooth Verifiable Reward Activates Spatial Reasoning Ability of Vision-Language Model

平滑操作符：平滑可验证奖励激活视觉-语言模型的空间推理能力

Siwen Jiao, Tianxiong Lv, Kangan Qian, Chenxu Zhao, Xiuyuan Zhu, Tianlun Li, Xiaolong Cheng, Jinyu Li, Zhihao Liao, Yang Cai

专题命中 推理与问题求解 ：language model(title,abstract)

AI总结 本文提出平滑可验证奖励激活方法，通过平滑操作符和绝对保持GRPO框架提升视觉-语言模型对3D场景的理解能力，实现性能与数据效率的平衡。

MindGuard: Intrinsic Decision Inspection for Securing LLM Agents Against Metadata Poisoning

MindGuard：内在决策检查用于保护LLM代理免受元数据中毒攻击

Zhiqiang Wang, Haohua Du, Guanquan Shi, Junyang Zhang, HaoRan Cheng, Yunhao Yao, Kaiwen Guo, Xiang-Yang Li

专题命中 推理与问题求解 ：LLM(title,abstract)

AI总结 MindGuard通过决策依赖图检测和归因LLM代理中的元数据中毒攻击，实现高精度的污染调用检测与溯源。

Compartmentalised Agentic Reasoning for Clinical NLI

临床自然语言推理中的 compartmentalised agentic 推理

Maël Jullien, Lei Xu, Marco Valentino, André Freitas

机构 * Department of Computer Science, University of Manchester, UK（曼彻斯特大学计算机科学系） ； National Biomarker Centre, CRUK-MI, University of Manchester, UK（曼彻斯特大学国家生物标记中心） ； Idiap Research Institute, Switzerland（日内瓦IDIAP研究所） ； School of Computer Science, University of Sheffield, UK（谢菲尔德大学计算机科学系） ； École Polytechnique Fédérale de Lausanne (EPFL), Switzerland（洛桑联邦理工学院（EPFL）） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 CARENLI 通过 compartmentalisation 和验证提升临床自然语言推理的准确率，从 23% 提高到 57%

Unlabeled Data Can Provably Enhance In-Context Learning of Transformers

未标记数据可以证明性地增强Transformer的上下文学习

Renpu Liu, Jing Yang

机构 * University of Virginia（弗吉尼亚大学） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.LG

AI总结 本文提出了一种增强ICL框架，通过结合标记和未标记数据，利用CoT提示使Transformer模拟EM算法，从而证明性地提升ICL性能。

Comments Published as a conference paper at NeurIPS 2025

An Exploratory Study to Repurpose LLMs to a Unified Architecture for Time Series Classification

一项探索性研究：将大语言模型重新利用到时间序列分类的统一架构中

Hansen He, Shuheng Li

机构 * Canyon Crest Academy（山崖顶学术院） ； UC San Diego（圣迭戈大学） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究探索了将大语言模型与时间序列编码器结合的混合架构，发现Inception模型在提升性能方面表现突出。

SuS: Strategy-aware Surprise for Intrinsic Exploration

SuS：基于策略的惊喜用于内在探索

Mark Kashirskiy, Ilya Makarov

机构 * Higher School of Economics（俄罗斯高等经济学院） ； AI Talent Hub（人工智能人才中心） ； ITMO University（ITMO大学） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SuS通过结合策略稳定性与策略惊喜，提升强化学习中探索的准确性和多样性，实现显著性能提升。

Comments 8 pages, 7 figures, 3 tables. Code available at https://github.com/mariklolik/sus

Optimizing Multimodal LLMs for Egocentric Video Understanding: A Solution for the HD-EPIC VQA Challenge

优化多模态大语言模型以实现视角视频理解：HD-EPIC VQA挑战的解决方案

Sicheng Yang, Yukai Huang, Shitong Sun, Weitong Cai, Jiankang Deng, Jifei Song, Zhensong Zhang

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出一种优化多模态大语言模型的方法，通过预处理、微调和时间链式思考提示，在HD-EPIC VQA挑战中实现了41.6%的准确率。

Comments 4 pages, 1 figure, CVPR 2025 EgoVis Workshop, 2nd Place in HD-EPIC Challenge