语言大模型 / LLM

From Next-Token to Next-Block: A Principled Adaptation Path for Diffusion LLMs

从单个token到单个block：一种为扩散语言模型设计的原理性适应路径

Yuchuan Tian, Yuchen Liang, Shuo Zhang, Yingte Shu, Guangwen Yang, Wei He, Sibo Fang, Tianyu Guo, Kai Han, Chao Xu, Hanting Chen, Xinghao Chen, Yunhe Wang

机构 * Peking University（北京大学） ； Huawei Technologies（华为技术） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种原理性适应路径，将自回归模型适配到扩散语言模型，以提升其长上下文生成能力，并在7B类模型中取得最佳性能。

Comments 14 pages, 5 figures

VideoNSA: Native Sparse Attention Scales Video Understanding

VideoNSA：原生稀疏注意力扩展视频理解

Enxin Song, Wenhao Chai, Shusheng Yang, Ethan Armand, Xiaojun Shan, Haiyang Xu, Jianwen Xie, Zhuowen Tu

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 VideoNSA通过端到端训练提升视频理解，结合原生稀疏注意力实现长视频和时间推理的性能优化

Comments ICLR 2026

Are Agents Probabilistic Automata? A Trace-Based, Memory-Constrained Theory of Agentic AI

智能体是概率自动机吗？基于轨迹的、内存受限的智能体AI理论

Roham Koohestani, Ziyou Li, Anton Podkopaev, Maliheh Izadi

机构 * JetBrains Research, Amsterdam, the Netherlands（JetBrains研究院，荷兰阿姆斯特丹） ； Delft University of Technology, Delft, the Netherlands（代尔夫特理工大学，荷兰代尔夫特） ； Constructor University, Bremen, Germany（Constructor大学，德国不来梅） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 本文提出了一种基于轨迹的、内存受限的智能体AI理论，通过自动机理论模型分析智能体与环境交互行为的概率分布，并探讨了不同内存限制下轨迹语言的可判定性。

SPLA: Block Sparse Plus Linear Attention for Long Context Modeling

SPLA：块稀疏加线性注意力用于长上下文建模

Bailin Wang, Dan Friedman, Tao Lei, Chong Wang

机构 * apple（苹果公司） 纠错

专题命中 长上下文与记忆 ：pretraining(abstract)；分类 cs.CL

AI总结 SPLA通过块稀疏加线性注意力框架，在长上下文建模中提升效率并保持性能，超越密集注意力模型。

Comments v1

Multi-Agent Systems Should be Treated as Principal-Agent Problems

多智能体系统应被视为委托-代理问题

Paulius Rauba, Simonas Cepenas, Mihaela van der Schaar

专题命中 长上下文与记忆 ：LLM(abstract)

AI总结 本文提出将多智能体系统视为委托-代理问题，探讨信息不对称和目标不一致对系统行为的影响，并通过谋略现象分析其缓解策略。

LINA: Linear Autoregressive Image Generative Models with Continuous Tokens

LINA: 基于连续令牌的线性自回归图像生成模型

Jiahao Wang, Ting Pan, Haoge Deng, Dongchen Han, Taiqiang Wu, Xinlong Wang, Ping Luo

机构 * The University of Hong Kong（香港大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Tsinghua University（清华大学） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） 纠错

专题命中 长上下文与记忆 ：language model(abstract)

AI总结 LINA是一种基于线性注意力的高效文本到图像生成模型，通过改进归一化和门控机制，在计算效率和生成质量上取得平衡。

Comments 20 pages, 9 figures

High-quality generation of dynamic game content via small language models: A proof of concept

通过小型语言模型实现高质量动态游戏内容生成：概念验证

Morten I. K. Munk, Arturo Valdivia, Paolo Burelli

机构 * brAIn lab\ University of Copenhagen Copenhagen Denmark ； \&\ Power Labs Copenhagen Denmark ； Data Science Section\ University of Copenhagen Copenhagen Denmark ； brAIn lab\ University of Copenhagen ； \&\ Power Labs ； Data Science Section\ University of Copenhagen 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；small language model(title,abstract)；LLM(abstract)；large language model(abstract)

AI总结 本文提出通过激进微调小型语言模型生成高质量动态游戏内容的方法，并通过概念验证展示其在实时生成中的可行性。

Helios: A Foundational Language Model for Smart Energy Knowledge Reasoning and Application

Helios：一种面向智能能源知识推理与应用的基础语言模型

Haoyu Jiang, Fanjie Zeng, Boan Qu, Xiaojie Lin, Wei Zhong

机构 * College of Energy Engineering, Zhejiang University（浙江大学能源工程学院） ； Polytechnic Institute, Zhejiang University（浙江大学 polytechnic 院） ； Shanghai Institute for Advanced Study, Zhejiang University（浙江大学上海研究院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；pretraining(abstract)

AI总结 Helios是一种专为智能能源领域设计的基础语言模型，通过构建多智能体协作框架和相关数据集，提升领域知识、任务执行准确性和与人类偏好的对齐程度。

Evaluating from Benign to Dynamic Adversarial: A Squid Game for Large Language Models

从温和到动态对抗的评估：一个大型语言模型的鱿鱼游戏

Zijian Chen, Wenjun Zhang, Guangtao Zhai

机构 * Shanghai Jiao Tong University, Shanghai, China（上海交通大学） ； Shanghai AI Laboratory, Shanghai, China（上海人工智能实验室） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出鱿鱼游戏，一个动态对抗性评估环境，用于评估大型语言模型的多方面能力，并揭示静态基准中可能存在的评估范式污染问题。

Comments 31 pages, 15 figures

GraphGhost: Tracing Structures Behind Large Language Models

GraphGhost: 探索大型语言模型背后的结构

Xinnan Dai, Xianxuan Long, Chung-Hsiang Lo, Kai Guo, Shenglai Zeng, Dongsheng Luo, Jiliang Tang

机构 * Michigan State University（密歇根州立大学） ； Northeastern University（东北大学） ； Florida International University（佛罗里达国际大学） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 GraphGhost通过图分析揭示大型语言模型内部结构，捕捉推理过程中的关键节点与信息流，为理解模型决策提供新视角。

Probing the Trajectories of Reasoning Traces in Large Language Models

探究大型语言模型中推理轨迹的轨迹

Marthe Ballon, Brecht Verbeken, Vincent Ginis, Andres Algaba

机构 * Data Analytics Lab, Vrije Universiteit Brussel（自由大学布鲁塞尔数据分析实验室） ； imec-SMIT, Vrije Universiteit Brussel（imec-SMIT，自由大学布鲁塞尔） ； School of Engineering and Applied Sciences, Harvard University（哈佛大学工程与应用科学学院） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过探究大型语言模型中推理轨迹的轨迹，研究发现随着推理token百分比增加，准确性和决策承诺提升，且相关内容驱动而非通用效应。

Comments 33 pages, 20 figures, 4 tables

ImgCoT: Compressing Long Chain of Thought into Compact Visual Tokens for Efficient Reasoning of Large Language Model

ImgCoT：将长链推理压缩为紧凑的视觉标记以实现大语言模型的高效推理

Xiaoshu Chen, Sihang Zhou, Ke Liang, Taichun Zhou, Xinwang Liu

机构 * National University of Defense Technology（国防科技大学） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 ImgCoT通过将长链推理压缩为视觉标记，提升大语言模型的推理效率，同时保留全局结构和细节信息。

Unrewarded Exploration in Large Language Models Reveals Latent Learning from Psychology

大语言模型中的无奖励探索揭示了心理学中的潜在学习

Jian Xiong, Jingbo Zhou, Zihan Zhou, Yixiong Xiao, Le Zhang, Jingyong Ye, Rui Qian, Yang Zhou, Dejing Dou

机构 * Fudan University, China（复旦大学） ； Auburn University, USA（阿伯茨罕大学） ； Baidu Research, China（百度研究院） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.LG

AI总结 研究发现大语言模型在无奖励探索阶段表现出潜在学习动态，通过实验验证其在无奖励和有奖励训练下的性能差异，并提出理论解释。

Comments 17pages, 1 figure

Geometric Dynamics of Agentic Loops in Large Language Models

大语言模型中代理循环的几何动力学

Nicolas Tacheny

机构 * University of Mons（蒙斯大学） 纠错

专题命中 推理与问题求解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.AI、cs.LG

AI总结 研究揭示大语言模型中代理循环的动力学特性，通过几何方法分类其收缩、振荡或探索行为，并展示提示设计对动力学模式的控制作用。

Why Reasoning Fails to Plan: A Planning-Centric Analysis of Long-Horizon Decision Making in LLM Agents

为何推理无法规划：从规划角度分析LLM代理在长周期决策中的表现

Zehong Wang, Fang Wu, Hongru Wang, Xiangru Tang, Bolian Li, Zhenfei Yin, Yijun Ma, Yiyang Li, Weixiang Sun, Xiusi Chen, Yanfang Ye

机构 * University of Notre Dame（诺丁汉大学） ； Stanford University（斯坦福大学） ； Purdue University（普渡大学） ； University of Edinburgh（爱丁堡大学） ； University of Oxford（牛津大学） ； Yale University（耶鲁大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文从规划角度分析LLM代理在长周期决策中的失败原因，提出FLARE方法通过前瞻和价值传播提升规划能力，使LLaMA-8B在多个基准中超越GPT-4o。

RAudit: A Blind Auditing Protocol for Large Language Model Reasoning

RAudit: 一种用于大语言模型推理的盲审协议

Edward Y. Chang, Longling Geng

机构 * Stanford University（斯坦福大学） 纠错

专题命中 推理与问题求解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.AI

AI总结 RAudit通过盲审协议检测大语言模型推理中的问题，揭示了四个导致模型不可靠的机制，挑战了能力与鲁棒性之间的关系。

Comments 24 pages, 21 tables, 3 figures

TriPlay-RL: Tri-Role Self-Play Reinforcement Learning for LLM Safety Alignment

TriPlay-RL：三角色自我对抗强化学习用于大语言模型安全对齐

Zhewen Tan, Wenhan Yu, Jianfeng Si, Tongxin Liu, Kaiqi Guan, Huiyan Jin, Jiawen Tao, Xiaokun Yuan, Duohe Ma, Xiangzheng Zhang, Tong Yang, Lin Sun

机构 * Peking University（北京大学） ； Qiyuan Tech（启元科技） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 TriPlay-RL通过三角色自我对抗强化学习，实现LLM安全对齐的高效且可扩展范式，提升攻击有效性、安全性能和评估准确性。

Task-Aware LLM Council with Adaptive Decision Pathways for Decision Support

具有自适应决策路径的任务感知大语言模型委员会用于决策支持

Wei Zhu, Lixing Yu, Hao-Ren Yao, Zhiwen Tang, Kun Yue

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 TALC通过任务感知的LLM委员会和自适应决策路径，提升决策支持任务的成功率和搜索效率。

Comments A shorter version of this work has been accepted by ICASSP 2026

Jailbreaks on Vision Language Model via Multimodal Reasoning

通过多模态推理实现对视觉语言模型的逃逸攻击

Aarush Noheria, Yuguang Yao

机构 * Novi High School, MI, USA（诺维高中） ； Michigan State University, MI, USA（密歇根州立大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；post-training(abstract)；prompting(abstract)；分类 cs.AI

AI总结 本文提出了一种基于多模态推理的逃逸攻击框架，通过训练后链式推理和自适应噪声机制提高对视觉语言模型的安全过滤器的绕过能力。

SCALAR: Quantifying Structural Hallucination, Consistency, and Reasoning Gaps in Materials Foundation Models

SCALAR：量化材料基础模型中的结构幻觉、一致性和推理差距

Can Polat, Erchin Serpedin, Mustafa Kurban, Hasan Kurban

机构 * Texas A\&M University, College Station, TX, USA（德克萨斯A&M大学） ； Ankara University, Ankara, Turkey（安卡拉大学） ； Texas A\&M University at Qatar, Doha, Qatar（德克萨斯A&M大学多哈分校） ； Hamad Bin Khalifa University, Doha, Qatar（哈马德·本·卡西姆大学） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SCALAR基准通过评估几何尺度泛化与材料基础模型中结构幻觉、一致性和推理的关系，揭示了大语言模型在材料科学推理中的性能局限。

Rethinking the Sampling Criteria in Reinforcement Learning for LLM Reasoning: A Competence-Difficulty Alignment Perspective

重新思考强化学习中用于大语言模型推理的采样标准：一种能力-难度对齐视角

Deyang Kong, Qi Guo, Xiangyu Xi, Wei Wang, Jingang Wang, Xunliang Cai, Shikun Zhang, Wei Ye

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CDAS方法，通过能力-难度对齐提升大语言模型推理的准确性和效率。

Navigate the Unknown: Enhancing LLM Reasoning with Intrinsic Motivation Guided Exploration

穿越未知：通过内在动机引导的探索增强大语言模型推理

Jingtong Gao, Ling Pan, Yejing Wang, Rui Zhong, Chi Lu, Maolin Wang, Qingpeng Cai, Peng Jiang, Xiangyu Zhao

机构 * City University of Hong Kong（香港城市大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 IMAGINE通过内在动机引导的探索增强大语言模型推理能力，提升复杂任务性能22.23%

SYMPHONY: Synergistic Multi-agent Planning with Heterogeneous Language Model Assembly

SYMPHONY：异构语言模型组装的协同多智能体规划

Wei Zhu, Zhiwen Tang, Kun Yue

机构 * School of Information Science and Engineering, Yunnan University, Kunming, China（信息科学与工程学院，云南大学，昆明，中国） ； Yunnan Key Laboratory of Intelligent Systems and Computing, Kunming, China（智能系统与计算云南重点实验室，昆明，中国） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 SYMPHONY通过整合异构语言模型的多智能体规划框架，提升探索能力与规划性能，实验证明其在复杂任务中的有效性。

Comments Accepted by NeurIPS 2025

What Helps Language Models Predict Human Beliefs: Demographics or Prior Stances?

什么有助于语言模型预测人类信念：人口统计学特征还是先前立场？

Joseph Malone, Rachith Aiyappa, Byunghwee Lee, Haewoon Kwak, Jisun An, Yong-Yeol Ahn

机构 * Center for Complex Networks and Systems Research, Indiana University（复杂网络与系统研究中心，印第安纳大学） ； School of Data Science, University of Virginia（数据科学学院，弗吉尼亚大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 研究探讨了语言模型预测人类信念时，人口统计学特征与先前立场对预测效果的影响，发现两者结合效果最佳，但不同信念领域中其相对价值存在差异。

Comments 32 pages, 6 figures

Hearing is Believing? Evaluating and Analyzing Audio Language Model Sycophancy with SYAUDIO

听信还是不信？评估和分析音频语言模型的趋炎附势行为 with SYAUDIO

Junchi Yao, Lokranjan Lakshmikanthan, Annie Zhao, Danielle Zhao, Shu Yang, Zikang Ding, Di Wang, Lijie Hu

机构 * University of Electronic Science and Technology of China（电子科技大学） ； Mohamed bin Zayed University of Artificial Intelligence（Mohamed bin Zayed人工智能大学） ； King Abdullah University of Science and Technology（卡布斯大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)

AI总结 SYAUDIO是首个评估音频语言模型趋炎附势行为的基准，通过系统分析不同领域和条件下的趋炎附势现象，验证了监督微调在减少此类行为中的有效性。

Guided by Trajectories: Repairing and Rewarding Tool-Use Trajectories for Tool-Integrated Reasoning

轨迹引导：修复与奖励工具使用轨迹以实现工具集成推理

Siyu Gong, Linan Yue, Weibo Gao, Fangzhou Yao, Shimin Di, Lei Feng, Min-Ling Zhang

机构 * School of Computer Science and Engineering, Southeast University, Nanjing, China（东南大学计算机科学与工程学院） ； Key Lab. of Computer Network and Information Integration (Southeast University), MOE, China（计算机网络与信息集成重点实验室（东南大学）） ； State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China, Hefei, China（认知智能国家重点实验室（中国科学技术大学）） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 AutoTraj通过自动修复和奖励工具使用轨迹，提升大型语言模型在工具集成推理中的性能。

Leveraging LLMs For Turkish Skill Extraction

利用LLMs进行土耳其语技能提取

Ezgi Arslan İltüzer, Özgür Anıl Özlü, Vahid Farajijobehdar, Gülşen Eryiğit

机构 * Kariyer.net, R&D Center（Kariyer.net 研发中心） ； Istanbul Technical University（伊斯坦布尔技术大学） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文利用LLMs提升土耳其语技能提取性能，提出首个土耳其语技能提取数据集，并通过端到端流程实现0.56的性能指标。

RAFFLES: Reasoning-based Attribution of Faults for LLM Systems

基于推理的LLM系统故障归因

Chenyang Zhu, Spencer Hong, Jingyu Wu, Kushal Chawla, Charlotte Tang, Youbing Yin, Nathan Wolfe, Erin Babinsky, Daben Liu

机构 * Capital One 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 RAFFLES通过整合迭代推理的离线评估架构，实现了对LLM系统中步骤级故障的自动化检测，显著提高了故障识别的准确率。

Comments Accepted at EACL 2026 Main Conference

Vision-Language Models Unlock Task-Centric Latent Actions

视觉-语言模型解锁任务导向的潜在动作

Alexander Nikulin, Ilya Zisman, Albina Klepach, Denis Tarasov, Alexander Derevyagin, Andrei Polubarov, Lyubaykin Nikita, Vladislav Kurenkov

机构 * Innopolis University（因诺波利斯大学） ； Research Center for Trusted Artificial Intelligence, ISP RAS（可信人工智能研究所以及ISP俄罗斯科学院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出利用视觉-语言模型的常识推理能力，通过可提示的表示分离可控变化与噪声，提升潜在动作质量，从而提高下游任务性能。

Comments Preprint

TTCS: Test-Time Curriculum Synthesis for Self-Evolving

TTCS: 测试时课程合成用于自演化

Chengyi Yang, Zhishang Xiang, Yunbo Tang, Zongpei Teng, Chengsong Huang, Fei Long, Yuhan Liu, Jinsong Su

机构 * Xiamen University（厦门大学） ； Washington University in St. Louis（华盛顿大学圣路易斯分校） ； Renmin University of China（中国人民大学） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 TTCS通过共进化框架提升LLM推理能力，利用生成器和求解器的协同进化，动态构建测试时课程以增强模型性能。

Comments 10 pages, 4 figures, Our code and implementation details are available at https://github.com/XMUDeepLIT/TTCS