语言大模型 / LLM

CORTEX: Token-Level Hallucination Detection in RAG via Comparative Internal Representations

CORTEX：通过比较内部表示在检索增强生成中进行令牌级幻觉检测

Kazuaki Furumai, Shuichiro Haruta, Kazunori Matsumoto, Daisuke Kamisaka

机构 * KDDI Research, Inc.（KDDI研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出CORTEX方法，通过比较有无检索文档时LLM的内部表示，实现RAG中令牌级幻觉检测，并利用前序令牌传播和连续性平滑提升性能。

The Topology of Ill-Posed Questions: Persistent Homology for Detection and Steering in LLMs

病态问题的拓扑：用于大语言模型中检测与引导的持续同调

Guangyu Jiang, Sizhe Tang, Mahdi Imani, Tian Lan

机构 * The George Washington University（乔治华盛顿大学） ； Northeastern University（东北大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 利用持续同调分析LLM内部状态的拓扑结构，统一表示多种病态问题，并实现分类与激活引导，提升响应质量。

InA-Probe: Instruction-Aware Active Probing for Time Series Forecasting with LLMs

InA-Probe：面向LLM时间序列预测的指令感知主动探测

Peiliang Gong, Emadeldeen Eldele, Chenyu Liu, Ziyu Jia, Yi Ding, Xinliang Zhou, Lianchao Gu, Qi Zhu, Yang Liu, Daoqiang Zhang, Xiaoli Li

机构 * Nanyang Technological University（南洋理工大学） ； Khalifa University（哈利法大学） ； Nanjing University of Aeronautics and Astronautics（南京航空航天大学） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出指令感知主动探测（InA-Probe），通过多级指令注入和自适应查询生成，结合双阶段注意力机制，在7个基准上超越现有方法，跨域误差降低37%。

DeMTS: Denoising Trajectories as Multivariate Time Series for Hallucination Detection in Diffusion Language Models

DeMTS：将去噪轨迹作为多元时间序列用于扩散语言模型的幻觉检测

Xin Zhang, Yili Wang, Yue Tan, Xin He, Yanyu Qian, Yixin Liu, Yi Chang, Shirui Pan, Xin Wang

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对现有D-LLMs幻觉检测方法压缩轨迹丢失关键信息的问题，提出DeMTS框架，将去噪轨迹作为多元时间序列，实验显示其性能优于现有方法且兼具鲁棒性、效率与迁移性。

Perturbation-based Regional Interpretability through Subtraction Mapping (PRISM): naming-error dissociations in language models and post-stroke aphasia

基于减法映射的扰动型区域可解释性方法（PRISM）：语言模型与卒中后失语症中的命名错误分离现象

Xiang Guan, Roger D. Newman-Norlund, Yong Yang, Saeed Ahmadi, Regan Willis, Nadra Salman, Kalil Warren, Srihari Nelakuditi, Chris Rorden, Leonardo Bonilha, Julius Fridriksson

机构 * University of South Carolina（南卡罗来纳大学） ； ALLT.AI, LLC（ALLT.AI有限责任公司） ； USC School of Medicine（南卡罗来纳大学医学院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 本研究开发PRISM方法，将神经成像减法分析适配至Transformer语言模型，对比模型与213名卒中后失语症患者的命名错误模式，验证了音素偏向性分离等结果，为模型功能专业化提供可证伪的空间分辨率测试工具。

Comments 49 pages, 6 figures, 1 table. Supplementary methods, 6 tables and 5 figures included

Uncertainty-Aware Trust Estimation for Multi-LLM Systems via Structured Expert Judgement

通过结构化专家判断对多语言模型系统进行不确定性感知信任估计

Jiawei Zheng, Jiazhen Zhang

机构 * DigitLab, University of Exeter（数字实验室，埃克塞特大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究多语言模型聚合问题，核心方法是采用结构化专家判断，通过上下文感知校准问题及库克式对数加权估计专家可靠性，主要贡献是在异构和受污染情况下实现更好的准确性-可靠性平衡，强调聚合时需校准信任。

Constrained Paraphrase Consistency for LLM Hallucination Detection

约束释义一致性用于大语言模型幻觉检测

Shanshan Lin, Dongsheng Hong, Sibo Ju, Chao Chen, Xi Zhang, Xiangwen Liao

机构 * Fuzhou University（福州大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出约束一致性幻觉检测器(CCHD)，通过约束优化利用释义一致性，无需额外数据，在多个基准上超越现有方法。

Comments Accepted to ICASSP 2026

The ultimate carbon cost of a ChatGPT query

一次ChatGPT查询的最终碳成本

Paul Kron

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 该研究结合多领域成果，估算ChatGPT类LLM单次查询最终碳成本约0.4美元、对应10gCO₂eq，引入QCC概念以凸显AI对地球健康的影响，为相关研究提供方向。

Comments 5 pages,0 figures. Accepted at the 2nd International Workshop on Low Carbon Computing (LOCO 2026), Lancaster University, United Kingdom, 10-11 September 2026. Part of the LOCO 2026 proceedings, arXiv:LOCO2026/P15

VADER: Adaptive Debiasing for Hallucination Mitigation in Video Large Language Models

VADER：用于视频大语言模型幻觉缓解的自适应去偏方法

Dong Xing, Jiaxin Chen, Hang Yang, Peixun Liu, Qiushi Yang, Yuqing Wang

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)

AI总结 本研究针对视频大语言模型的幻觉问题，提出无训练自适应去偏框架VADER，通过视觉焦点重分配与选择性证据擦除模块结合对比解码，在LLaVA-Video-7B等模型的EventHallusion任务上取得显著性能提升。

CyberSelf: Embodied Self-Distancing for Emotional Support in Virtual Reality

CyberSelf：用于虚拟现实中情绪支持的具身自我疏离

Bing Li, Dr Yan Hu, Tinghui Li, Yinuo Zhang, Wen Ma, Yuanfeng Zhou, Professor Yiran Shen

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出VR情绪支持系统CyberSelf，整合相似化身、克隆语音与LLM实时对话，短期及长期研究显示其可提升情绪与应对指标，实现具身自我疏离以支持情绪调节。

Mitigating Scaffolding Collapse in Socratic Tutors via Representation Alignment

通过表示对齐减轻苏格拉底式导师中的支架坍塌

Jing Shao, Qifeng Wu, Hanyu Zhang, Sixia Sun, Jun Zhuang

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 研究基于大语言模型的苏格拉底式导师的支架坍塌问题，提出支架保留表示对齐方法，先监督微调预热，再结合轨迹加权优化与表示损失，经多学科和策略评估，该方法能提升长程苏格拉底辅导的鲁棒性。

Comments preprint, under review

LLM-Based Embeddings for Program Analysis and Optimization

基于大语言模型嵌入的程序分析与优化

Calvin Higgins, Marco Alvarez

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究首次将LLMCompiler生成的程序嵌入应用于程序分析与优化任务，结合源与IR代码嵌入在算法分类上错误率1.54%、较SOTA提升12%，为代码优化提供新方向。

Journal ref 2025 International Joint Conference on Neural Networks (IJCNN), Rome, Italy, 2025, pp. 1-8

HAFI-VLM: A Frequency Perspective for Diagnosing and Enhancing Visual Perception in Vision-Language Models

HAFI-VLM：用于诊断和增强视觉语言模型中视觉感知的频率视角

Jin Cui, Chuanchang Su, Jiayi Lu, Xinyue Long, Boran Zhao, Pengju Ren

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 该研究针对VLMs视觉预测不可靠的频谱响应刚性问题，提出HAFI-VLM，通过任务条件频率通路与相关组件优化，在多个VLMs基准上提升了视觉感知性能。

Comments 11 pages, 8 figure

Beyond Single-Use Tokens: Durable Authorization State for Replay-Resistant LLM Agent Actions

超越单次使用令牌：面向抗重放的大语言模型智能体行动的持久授权状态

Jinghan Xu, Longze Fan, Zeyuan Wang, Xinjin Li, Hankai Liu

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对大语言模型智能体重规划等行为引发的语义重放问题，提出 CapLease 授权消耗层，结合服务器账本实现抗重放，证明持久授权状态是抗重放智能体执行的系统要求。

What VGGT Knows About Overlap: Probing Geometric Foundation Models for Co-Visibility

VGGT 对重叠的理解：探索共可见性的几何基础模型

Filippo Ziliotto, Luciano Serafini, Lamberto Ballan, Tommaso Campari

机构 * University of Padova（帕多瓦大学） ； Fondazione Bruno Kessler (FBK)（布鲁诺·凯斯勒基金会） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究三维重建和机器人定位中共可见性问题，通过探索 VGGT 模型，发现其隐式编码共可见性及层间特性，引入 Co-VGGT 方法，该方法冻结 VGGT 并训练轻量级头，在基准测试中表现出色，提升了共可见性分类效果。

STAPO: Selective Trajectory-Aware Policy Optimization for LLM Agent Training

STAPO：用于大语言模型智能体训练的选择性轨迹感知策略优化

Qiuyi Qi, Tian Liang, Mutian Bao, Jinjian Zhang, Dongnan Liu, Wei Zhou, Linjian Mo, Ming Kong, Jie Liu, Feng Zhang, Qiang Zhu

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； City University of Hong Kong（香港城市大学） ； College of Artificial Intelligence, Shanghai Institute for Advanced Study, Zhejiang University（浙江大学上海高等研究院人工智能学院） ； School of Earth Sciences, Zhejiang University（浙江大学地球科学学院） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对强化学习训练大语言模型智能体时轨迹忽视问题，提出归一化熵，引入STAPO框架，利用其定位异常步骤，通过联合机制优化，提升轨迹感知并保持训练稳定性，实验验证其有效性和鲁棒性。

Comments ACL 2026 MainConference

DexterSQL: Deep Schema Exploration and Rule-based Correction for Text-to-SQL Generation

DexterSQL：用于Text-to-SQL生成的深度模式探索与基于规则的修正

Anik Pramanik, Murat Kantarcioglu, Vincent Oria, Shantanu Sharma

专题命中 知识编辑与模型理解 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 DexterSQL是基于提示的非微调Text-to-SQL系统，通过深度模式探索器、数据库无关规则创建器、多路径SQL生成三个组件，在BIRD-Dev数据集上提升了开源与闭源大语言模型的Text-to-SQL生成准确率。

Attention-Path Fragility as an Uncertainty Signal in Large Language Models

注意力路径脆弱性作为大语言模型中的不确定性信号

Minsoo Kim, Sungyoung Ji, Kisung Moon, Ilyong Yoon

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；分类 cs.CL、cs.AI

AI总结 本研究提出 ASMI 作为大语言模型的不确定性信号，通过掩码注意力头测量子网络间的 BALD 互信息，在基于事实的问答任务中优于基线，可有效识别自信但脆弱的预测。

Comments 19 pages, Under review

Cultural Awareness is Represented but Not Decoded: Tracing Mythological Knowledge across 18 Open-Source LLMs

文化意识被表征但未被解码：追踪18个开源大语言模型（LLM）中的神话知识

Iaroslav Chelombitko, Ekaterina Chelombitko, Mika Hämäläinen

机构 * DataSpike ； Metropolia University of Applied Sciences（梅托波利亞應用科學大學） ； Neapolis University Pafos（帕福斯尼阿波利斯大學） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.LG

AI总结 该研究分析18个开源LLM的神话知识表征，发现文化表征存在于模型残差流中，但解码器因提示语言偏差无法解码非主导文化内容，还发布了相关跨文化研究工具与基准。

Comments 45 pages, 23 figures, 18 tables. Dataset: https://huggingface.co/datasets/Aragoner/folkmotif Code: https://github.com/AragonerUA/folkmotif

Moir: Let the Model Direct Its Own Story for Robust Cross-Domain Knowledge Editing

莫尔：让模型为稳健的跨域知识编辑指引自身方向

Jea Kwon, Jiwon Kim, Dong-kyum Kim, Meeyoung Cha

机构 * Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所） 纠错

专题命中 知识编辑与模型理解 ：SFT(abstract,abstract_cn)；language model(abstract)；pretraining(abstract)；post-training(abstract)

AI总结 研究针对语言模型训练后知识编辑核心能力退化问题，提出莫尔方法，通过从模型自身解码分布采样估计保留协方差，无需外部数据，可作插入组件。实验表明该方法能在多模型上扩展保留能力，提升准确率，凸显分布对齐对无损编辑的关键作用。

Formalizing Latent Thoughts: Four Axioms of Thought Representation in LLMs

形式化潜在思维：LLM中思维表示的四条公理

Fahd Seddik, Fatemeh Fard

机构 * University of British Columbia（不列颠哥伦比亚大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.LG

AI总结 提出独立于下游基准的LLM潜在思维表示公理评估框架，发现当前表示不满足所有四条公理，且编码信息有限。

Comments 44 pages, 27 tables, 14 figures

Pre-Generation Hallucination Detection in Large Language Models via Soft-Target Attention Probing

通过软目标注意力探测在大型语言模型中进行生成前幻觉检测

Amina Miftakhova, Alexey Zaytsev

机构 * Applied AI Institute（应用人工智能研究所） 纠错

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；分类 cs.CL、cs.LG

AI总结 提出一种基于软目标监督和注意力探测的生成前幻觉风险估计方法，在三个问答基准和五个模型上优于线性探测。

Demystifying Variance in Circuit Discovery of LLMs

揭示LLM电路发现中的方差

Frank Zhengqing Wu, Francesco Tonin, Volkan Cevher

机构 * Laboratory for Information and Inference Systems (LIONS), École Polytechnique Fédérale de Lausanne (EPFL), Lausanne, Switzerland（信息与推理系统实验室（LIONS），洛桑联邦理工学院（EPFL），瑞士洛桑） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.AI、cs.LG

AI总结 本文研究LLM电路发现中的重采样、重述和样本方差，提出CEAP方法减少重采样方差，并分析重述方差源于不同模板激活不同电路，样本方差主要由不忠定义导致。

Integrating Local and Global Entropy for Uncertainty Quantification in LLMs

集成局部和全局熵用于大语言模型的不确定性量化

Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

机构 * Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学） ； KTH Royal Institute of Technology（瑞典皇家理工学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GLU方法，通过融合隐藏状态几何熵（全局）和token级熵（局部）来量化LLM不确定性，有效捕捉自信但错误的失败模式，无需额外训练。

Comments 17 pages, 2 figures

Code Is More Than Text: Uncertainty Estimation for Code Generation

代码不仅仅是文本：代码生成的不确定性估计

Yuling Shi, Caiqi Zhang, Yuexian Li, Haopeng Wang, Yeheng Chen, Nigel Collier, Xiaodong Gu

机构 * Shanghai Jiao Tong University（上海交通大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 针对代码生成中错误程序的可靠性问题，提出基于词法、算法和功能三个正交轴的不确定性估计方法，在五个代码LLM上将AUROC提升8.1个百分点。

Neutrality Bites: Gender Representation in AI-Generated Animal Stories

中立性的代价：AI生成的动物故事中的性别表征

Imani Finkley, Yuanxi Li, Melanie Walsh

机构 * University of Washington（华盛顿大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究六种主流LLM在生成动物故事时的性别分配，发现模型常避免指定性别或使用中性语言，但一旦指定则显著偏向男性，女性角色几乎缺席，表明中立策略可能导致边缘视角的抹除。

Comments FAccT(ACM Conference on Fairness, Accountability, and Transparency) 2026

ABLE: Representing and Mapping LLMs via Attribution-Based Large-model Embedding

ABLE：基于归因的大模型嵌入表示与映射

Zirui Wang, Yusen Hou, Shaofeng Liang, Bowen Tian, Yanlin Zhang, Wenshuo Chen, Yutao Yue

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Deep Interdisciplinary Intelligence Lab (DI2 Lab)（深度跨学科智能实验室（DI2 Lab）） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出ABLE框架，利用梯度特征归因和分词器无关的词级对齐构建模型嵌入，实现异构LLM的高效比较，在关系预测、模型路由和基准分数预测上表现优异。

Measuring Concept Content in Text from LLM Activations: ESG Evidence from Concept Vectors and Linear Probes

从大语言模型激活值中测量文本的概念内容：基于概念向量与线性探测的ESG证据

Luc Hazenoot, Zhaochun Ren, Amirhossein Zohrehvand

机构 * Leiden Institute of Advanced Computer Science, Leiden University（莱顿大学高级计算机科学研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出用冻结LLMs的激活值测量文本概念内容，在ESG金融文本实验中，线性探测效果接近微调分类器，优于模型自身答案，且优于RFM概念向量。

Comments 19 pages, 1 figure, 7 tables

LM2Alloy: Investigating LLM-Generated Formal Specifications for Automated Test Derivation in Production Software

LM2Alloy：研究用于生产软件自动测试推导的大语言模型生成的形式规范

Tasmim Rashid, Muhammad Zubair Malik

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 该研究探索用大语言模型从需求文档和生产源代码生成Alloy形式规范及推导可执行测试用例，在Flipper和Cerberus库上评估，发现能揭示约束级缺陷，基于代码的规范方差更低，为生产软件自动测试推导提供了新方法。

How to Guide LLM Generation: Dual-Surrogate Guided Search for Automated Heuristic Design

如何引导大语言模型生成：用于自动启发式设计的双代理引导搜索

Yuhan Wang, Chaoda Peng, Xingyu Wu, Sheng-Hao Wu, Zhi-Hui Zhan

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究如何在有限预算下引导大语言模型进行自动启发式设计，提出双代理引导搜索方法，通过两个互补代理评分及不确定性感知规则选择行动，在多样套件中表现出色，超越简单排名和固定偏好。