语言大模型 / LLM

Can We Read the Mind of an Audio LLM? A Verbalizable, Multilingual Middle-Layer Workspace

我们能否解读音频大语言模型的思维？一个可解读的多语言中间层工作空间

Jiajun Fan, Jingyuan Li, Prashanth Gurunath Shivakumar, Qi Luo, Jia-Hong Huang, M. Maruf, Roger Ren, Yile Gu, Rahul Pandey, Ge Liu, Ivan Bulyko

机构 * Amazon AGI Foundations（亚马逊AGI基金会） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 推理与问题求解 ：LLM(title)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过logit lens分析Qwen3-Omni模型，发现其中间层可在输出前清晰呈现音频问题答案，揭示了音频模型推理的特性与信号分布，为解读音频大语言模型内部思维提供了定性依据。

Skill-Conditioned Gated Self-Distillation for LLM Reasoning

技能条件门控自蒸馏用于大语言模型推理

Jiazhen Huang, Xiao Chen, Xiao Luo, Yong Dai, Senkang Hu, Yuzhi Zhao

机构 * Tsinghua University（清华大学） ； Fudan University（复旦大学） ； City University of Hong Kong（香港城市大学） ； Huazhong University of Science and Technology（华中科技大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出技能条件门控自蒸馏（SGSD），通过从经验技能库中检索技能-错误对构建多教师池，并利用验证器验证教师极性，以鲁棒门控目标蒸馏信息性师生差异，在弱先验信息假设下提升数学推理性能。

Comments Accepted by EMNLP 2026 Findings. Code is available at https://github.com/walawalagoose/SGSD

Measuring Stability and Failure Behavior in Language Models Under Structured Perturbations

结构化扰动下语言模型的稳定性与失效行为测量

Samira Golsefid

机构 * NeuroLoft（神经 loft（或：神经实验室）） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出分级多类别失效感知框架，在四类模型上测试七种结构化扰动，发现模型失效层级因类别而异，冲突指令与不可能前提问题是所有模型共有的弱点，此类失效无法被标准准确率检测。

Answer First, Reason Later: When Commitment Order Costs Accuracy in Diffusion Language Models

先给出答案，后进行推理：扩散大语言模型中的承诺顺序

Jewon Yeom, Jaewon Sok, Seonghyeon Park, Jeongjae Park, Hwiyeong Lee, Taesup Kim

机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究发现扩散大语言模型（dLLMs）的任意顺序提交机制会导致推理失败，通过前沿门控承诺干预可恢复推理性能，同时保留并行解码优势。

TempJail: Temporal Jailbreak Attack against Large Vision-Language Models via Subtitle Scheduling

TempJail：基于字幕时序调度的针对大型视觉语言模型的时序越狱攻击

Ling Zhou, Yihao Huang, Jingling Sun, Zhiwen Tian, Yi Zeng, Qihe Liu, Shijie Zhou

机构 * University of Electronic Science and Technology of China（电子科技大学） ； East China Normal University（华东师范大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 TempJail是一种黑盒视频越狱框架，通过优化字幕时序调度攻击LVLMs，在四个模型和两个数据集上的攻击成功率优于基线。

Comments 8 pages,4 figures

UVLM: A Universal Vision-Language Model Loader for Reproducible Multimodal Benchmarking

UVLM：一种通用视觉-语言模型加载器，用于可重复的多模态基准测试

Joan Perez, Giovanni Fusco

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 UVLM提供统一接口加载和基准测试多种视觉-语言模型架构，支持LLaVA-NeXT和Qwen2.5-VL，通过抽象差异实现一致评估，具备多任务提示构建、共识验证和灵活token预算等功能。

Comments 22 pages, 3 figures

Journal ref Software 2026, 5(3), 30

LZ Penalty: An information-theoretic repetition penalty for autoregressive language models

LZ惩罚：一种用于自回归语言模型的信息论重复惩罚项

Antonio A. Ginart, Naveen Kodali, Jason Lee, Caiming Xiong, Silvio Savarese, John R. Emmons

机构 * Salesforce AI Research（Salesforce人工智能研究） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出LZ惩罚，基于LZ77压缩算法，可让开源推理模型用贪婪解码时无退化重复，优于现有频率、重复惩罚。

Comments Post-publication corrections (minor calculation mistakes)

Value Leakage: An LLM's Answers Are Silently Shaped by Its Own Values

价值泄露：大语言模型的答案被其自身价值观悄然塑造

Jan Betley, Johannes Treutlein, Jan Dubiński, Harry Mayne, Karol Gałązka, Niels Warncke, Anna Sztyber-Betley, Owain Evans

专题命中 推理与问题求解 ：LLM(title)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究发现大语言模型存在价值泄露问题，即其答案受自身价值观影响却未向用户披露。为此引入评估套件量化，发现模型受多种价值观影响，前沿模型差异大，价值泄露是新的失败模式，当前训练和评估未充分解决。

LLMs as a Jury: Cross-Model Consensus Can Outperform Process Reward Models for LLM Reasoning

作为陪审团的语言模型：跨模型共识在语言模型推理方面可超越过程奖励模型

Ning Liu

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究在语言模型推理中从候选推理链选正确答案的问题，提出跨模型共识方法，将其视为语言模型陪审团，通过错误去相关机制工作，在多个基准测试中表现出色，能预先表征，有定律和下限。

CRAFT: LLM-Based Iterative Refinement for Temporal Reasoning over Clinical Narratives

CRAFT：基于大语言模型的迭代优化用于临床叙事的时间推理

Chengyang He, Tahreem Arif, Marko Zivkovic, Lijing Wang, Yue Ning, Ping Wang

机构 * Stevens Institute of Technology（史蒂文斯理工学院） ； Genesis Research Group（创世纪研究集团） ； New Jersey Institute of Technology（新泽西理工学院） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 针对临床叙事中时间锚点稀疏导致的症状轨迹重建难题，提出基于大语言模型的CRAFT框架，通过生成器与约束验证器迭代优化，在MedTempo基准上提升了时间排序准确率。

CityRiSE: Reasoning Urban Socio-Economic Status in Large Vision-Language Models via Reinforcement Learning

CityRiSE：基于强化学习的大视觉语言模型城市社会经济地位推理框架

Tianhui Liu, Hetian Pang, Xin Zhang, Jie Feng, Pan Hui, Yong Li

机构 * Information Hub, The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）信息中心） ； Department of Electronic Engineering, BNRist, Tsinghua University（清华大学电子工程系） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出CityRiSE框架，结合强化学习与大视觉语言模型，提升城市社会经济感知的预测准确性与泛化能力，尤其在未见城市和指标上表现优异。

Comments Accepted by ACM MM 2026, https://github.com/tsinghua-fib-lab/CityRiSE

What Iterated Self-Feeding Probes of Language Models Measure, and a test that separates the construction from the model

语言模型迭代自馈探测的测量对象，以及一种区分构造与模型的测试方法

Nicolás Vera Zúñiga

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究探究语言模型迭代自馈探测的测量对象，提出区分探测构造与模型的测试方法，揭示两类测量量的差异，复现验证工具并纠正错误判断。

Comments 16 pages, 4 figures. Code, per-run results, and the findings ledger: https://github.com/nicoveraz/token-lattice-ca (archived: https://doi.org/10.5281/zenodo.21880472)

Capability Provenance in Language Models: A Case Study in Social Reasoning

社会推理从何而来？语言模型中的能力来源

Glenn Matlin, Chandreyi Chakraborty, Saehee Eom, Mika Okamoto, Rayan Castilla, Louis Jaburi, Alvin Deng, Taywon Min, Lucia Quirke, Stella Biderman, Mark Riedl

机构 * Georgia Institute of Technology, College of Computing（佐治亚理工学院计算学院） ； MATS Program（MATS项目） ； EleutherAI ； KAIST AI（韩国科学技术院人工智能学院） ； Georgia Tech AI Safety Initiative（佐治亚理工学院人工智能安全倡议） 纠错

专题命中 推理与问题求解 ：language model(title)；pretraining(abstract)；分类 cs.CL、cs.LG

AI总结 通过训练数据归因方法，发现OLMo3-7B中社会推理和STEM推理依赖于不同的预训练语料区域，且推理层面的差异比知识层面更显著。

Comments 120 pages. Published as a conference paper at COLM 2026

Hierarchical Latent Prediction for Language Models

语言模型的分层隐式预测

Chang Shi, Tim Pearce, Manan Tomar, Siddhartha Sen, John Langford

机构 * University of Texas at Austin（得克萨斯大学奥斯汀分校） ； Microsoft Research（微软研究院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对语言模型下一个token预测的误差累积问题，提出分层隐式预测方法，在编码、多步推理基准及推测解码上验证了其有效性。

Relational Response Fields: A General Theory of Black-Box LLM Response Consistency and Recovery

关系响应场：黑盒大语言模型响应一致性与恢复的通用理论

Song Zichen

机构 * Sungkyunkwan University（成均馆大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 该研究提出关系响应场（RRF）理论，定义黑盒大语言模型响应恢复的内在难度γₖ(D,A)，推导稀疏修复算法，通过实验验证其在响应一致性与恢复中的有效性。

Speculative Correction: Draft-then-Refine Decoding for Diffusion Language Models

推测校正：扩散语言模型的草稿后精炼解码

Brian K Chen, Chong Wu, Kenji Kawaguchi

机构 * National University of Singapore（新加坡国立大学） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对扩散语言模型提出草稿后精炼解码方案，通过 Flash-Flash 和 Mini-Flash 配置在 GSM8K、MBPP、MATH 数据集上提升准确率并加快推理速度，为双向精炼及快速生成提供新路径。

Comments 25 pages, 3 figures

Cross-Task Dissociation in Frontier Vision-Language Model Theory of Mind

前沿视觉语言模型的心智理论跨任务解离

Kejia Zhang, Youran Sun, Chugang Yi, Haizhao Yang

机构 * University of Maryland（马里兰大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究评估9个前沿VLM在两项心理学衍生ToM任务中的表现，发现其ToM特征存在跨任务解离，无模型在两项任务中均接近典型发展成人，推理可改善部分模型在导演任务中的表现。

GLM-RAG: Graph Language Models for Graph-Based Retrieval-Augmented Generation

GLM-RAG：面向基于图的检索增强生成的图语言模型

Maya Arseven, Anette Frank, Beni Egressy, Johann Higl, Moritz Plenz

机构 * Institute of Computational Linguistics, Heidelberg University（海德堡大学计算语言学研究所） ； Aleph Alpha Research（Aleph Alpha 研究院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出GLM-RAG的GLM基检索器，对比三类检索器性能，发现微调GLM检索器跨域泛化更优且在多跳基准达SOTA，GNN与向量搜索各有优势。

Comments 10 pages, 19 figures

CORVUS: Context Optimization and Reduction Via Underlying Synchronization for LLM Coding Agents

CORVUS：通过底层同步实现大语言模型编码代理的上下文优化与缩减

Mingwei Zheng, David OBrien, Siwei Cui, Pardis Pashakhanloo, Rajdeep Mukherjee, Myeongsoo Kim, Sachit Kuhar

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型编码代理传统轨迹架构问题，提出CORVUS架构解耦文件读取与观察，通过维护同步注册表注入当前内容，经实验评估，该架构能减少输入令牌、缩短提示并减少推理周期，保持通过率。

LEDOM: Reverse Language Model

LEDOM：反向语言模型

Xunjian Yin, Sitao Cheng, Yuxi Xie, Xinyu Hu, Li Lin, Xinyi Wang, Liangming Pan, William Yang Wang, Xiaojun Wan

机构 * Peking University（北京大学） ； University of California, Santa Barbara（加州大学圣芭芭拉分校） ； University of Arizona（亚利桑那大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 LEDOM是一种反向自回归语言模型，通过反向训练获得独特能力，如演绎推理和解决反转诅咒，并在多个基准测试中提升了性能。

Comments Work in progress; Models can be found at: https://huggingface.co/Corning/Reverse-Model-7B-348B/tree/main

Uncovering Latent Reasoning Strategies in Language Models

揭示语言模型中的潜在推理策略

Awni Altabaa, John Lafferty

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究将预训练语言模型响应分布分解为策略条件表示的问题，提出潜在变量分解方法，引入新变分目标，通过多策略算法任务基准验证了该方法能恢复潜在代码并保留基础模型响应分布。

Solver-Hard Is Not Model-Hard: A Hardness-Controlled Diagnostic for LLM Constraint Reasoning

求解器困难并非模型困难：一种用于大语言模型约束推理的硬度控制诊断方法

Lucky Verma

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型约束推理，在接近匹配子句密度时测试实例级转移，比较不同公式和锚点，发现求解器与模型硬度差异，以及模型对证明保留重新标记敏感，还研究了完成令牌花费与代理的关系。

Comments 13 pages, 2 figures, 5 tables. Code and aggregate reproduction data: https://github.com/lucky-verma/solver-hard-is-not-model-hard

DS@GT ARC at eRisk 2026: Hybrid Multi-Agent LLM System with Structured Algorithmic Guidance for Conversational Depression Screening

DS@GT在eRisk 2026的ARC：用于对话式抑郁症筛查的具有结构化算法指导的混合多智能体大语言模型系统

Victor Gong, David Guecha

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 介绍DS@GT参加eRisk 2026对话式抑郁症筛查挑战赛，其系统历经三个阶段，最终采用混合配置并添加算法组件。提交三次运行结果，混合运行3表现出色，以低成本超付费基线，验证较弱开源模型经算法监督可与专有模型竞争。

Comments Conference and Labs of the Evaluation Forum (CLEF), 19 pages, 5 figures

LLM-Guided Exemplar Selection for Few-Shot Wearable-Sensor Human Activity Recognition

基于大语言模型的示例选择用于少样本可穿戴传感器人体活动识别

Elsen Ronando, Sozo Inoue

机构 * Graduate School of Life Science and Systems Engineering, Kyushu Institute of Technology, Kitakyushu, Japan（九州工学院生命科学与系统工程研究生院，日本） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于大语言模型的示例选择方法，通过语义先验和结构几何线索提升少样本可穿戴传感器人体活动识别的性能。

Comments This paper has been accepted for presentation at ABC 2026. The manuscript is under revision prior to camera-ready submission

Journal ref International Journal of Activity and Behavior Computing 2026, Vol. 2026, No. 1, 1-34

Partially Correlated Verifier Cascades in LLM Harnesses: Concave Log-Odds, Polynomial Reliability, and Blind-Spot Ceilings

大语言模型工具中的部分相关验证级联：凹对数优势、多项式可靠性和盲点上限

Jiangang Han

机构 * Independent researcher（独立研究者） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型工具中部分相关验证级联，将生成器错误接受率建模为潜在变量，给出理论。包括凹对数优势、多项式可靠性等特性，可测量，通过合成测试对比不同方法效果，指出实际应通过去相关而非加门提升可靠性。

Comments 14 pages, 2 figures. Code and synthetic-recovery experiments: https://github.com/jianganghan/harness-verifier-cascades

Evidence-Grounded Verified Agentic Reasoning: A Path Toward Eliminating LLM Hallucination in Empirical Inference via Tool-Attested Kernel Proofs

基于证据的可验证智能推理：通过工具验证内核证明消除经验推理中语言模型幻觉的途径

Junyu Ren

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究旨在消除语言模型经验推理中的幻觉，提出基于Lean 4的EG-VAR工具调用架构，通过工具验证公理等生成可验证声明，经实验在数值推理等测试中表现良好，定位为高风险经验声明的技术治理接口，可审计相关条件并转化错误为审计目标。

Comments Accepted at the ICML 2026 TAIGR workshop. System name: EG-VAR

Embodied-R1.5: Evolving Physical Intelligence via Embodied Foundation Models

Embodied-R1.5：通过具身基础模型演化物理智能

Yifu Yuan, Yaoting Huang, Xianze Yao, Yutong Li, Shuoheng Zhang, Linqi Han, Pengyi Li, Jiangeng Sun, Wenting Jia, Zhao Zhang, Yuhao Liu, Ruihao Liao, Yucheng Hu, Qiyu Wu, Yuxiao Li, Zibin Dong, Fei Ni, Yan Zheng, Shuyang Gu, Yi Ma, Hongyao Tang, Han Hu, Jianye Hao

机构 * Tianjin University（天津大学） ； Tencent Hunyuan（腾讯混元） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出统一具身基础模型Embodied-R1.5，通过自动化数据管道和多任务平衡强化学习，在8B参数下实现24项基准中16项最优，并支持微调为VLA模型。

Comments Embodied R1.5 technical report. Project page: https://embodied-r.github.io/

MUGEN: Evaluating and Improving Multi-audio Understanding of Large Audio-Language Models

MUGEN：评估和改进大型音频-语言模型的多音频理解

Chih-Kai Yang, Yun-Shao Tsai, Yu-Kai Guo, Ping-Le Tsai, Yen-Ting Piao, Hung-Wei Chen, Ting-Lin Hsiao, Yun-Man Hsu, Ke-Han Lu, Hung-yi Lee

机构 * National Taiwan University（国立台湾大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 MUGEN通过评估多音频理解能力，揭示了大型音频-语言模型在多音频输入下的性能瓶颈，并通过排列自一致性策略提升了模型的预测准确性。

Comments Interspeech 2026. Project page: https://github.com/danielqwer/MUGEN

HALO: Hybrid Adaptive Latent Reasoning for Language Models

HALO：语言模型的混合自适应潜在推理

Micah Zhang

机构 * Lockheed Martin（洛克希德·马丁公司） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究如何用少量自适应计算改进预训练语言模型，提出HALO混合自适应潜在细化方法，结合粗略与选择性第二阶段细化。在基准比较中，HALO成绩最佳，使用细化步骤少，兼具更好的细化分配，计算量也少。

Comments 15 pages, 4 figures, preprint

TRACE: A Two-Channel Robust Attribution Watermark via Complementary Embeddings for LLM-Agent Trajectories

TRACE：一种通过互补嵌入实现的用于大语言模型智能体轨迹的双通道鲁棒归属水印

Zheng Gao, Xiaoyu Li, Xiaoyan Feng, Jiaojiao Jiang, Yang Song, Yulei Sui, Zhenchang Xing, Liming Zhu

机构 * University of New South Wales（新南威尔士大学） ； Griffith University（格里菲斯大学） ； CSIRO’s Data61（澳大利亚联邦科学与工业研究组织（CSIRO）的数据61） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型智能体轨迹归属水印易被经销商攻击的问题，提出TRACE方法，通过互补嵌入构建双通道水印，包括基于局部内容的选择通道和基于日志框架的计数通道，实验表明该方法能保证水印鲁棒性，保持智能体成功率且检测分数高。