语言大模型 / LLM

Towards Uncertainty-Aware Language Agent

Jiuzhou Han, Wray Buntine, Ehsan Shareghi

专题命中 知识编辑与模型理解 ：language agent(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

Comments Our code and data are at https://uala-agent.github.io. (accepted to ACL 2024 Findings). arXiv admin note: text overlap with arXiv:2310.05915

CrossCheckGPT: Universal Hallucination Ranking for Multimodal Foundation Models

Guangzhi Sun, Potsawee Manakul, Adian Liusie, Kunat Pipatanakul, Chao Zhang, Phil Woodland, Mark Gales

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；instruction tuning(abstract)

Comments 21 pages. Preprint

A Language Model based Framework for New Concept Placement in Ontologies

Hang Dong, Jiaoyan Chen, Yuan He, Yongsheng Gao, Ian Horrocks

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(abstract)；instruction tuning(abstract)；prompting(abstract)

Comments 20 pages, 3 figures, accepted for ESWC 2024

(Why) Is My Prompt Getting Worse? Rethinking Regression Testing for Evolving LLM APIs

Wanqin Ma, Chenyang Yang, Christian Kästner

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

Comments conference version

Beyond Surface Cues: Disentangling Sociocultural Signals in Multilingual LLMs

超越表层线索：在多语言大语言模型（LLM）中解耦社会文化信号

Yuanjun Feng, Tanzhou Liu, Stefan Feuerriegel, Yash Raj Shrestha

机构 * University of Lausanne（洛桑大学） ； LMU Munich（慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.AI

AI总结 本研究提出经人工验证的多智能体审计框架，分析12个LLM的89253个多语言输出，发现多语言LLM的偏见表征随语言和任务变化，需区分表层线索与真正的跨文化模式。

Do Uncertainty Signals Help? A Systematic Study of Uncertainty-Aware Decoding with Rollback Mechanisms

不确定信号是否有用？对带有回滚机制的不确定感知解码的系统研究

Xianzong Wu, Xiaohong Li, Yuejun Guo, Xinyang Liu, Tianlin Li, Junjie Wang, Qiang Hu

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过系统研究带有回滚机制的不确定感知解码，发现其可提升代码LLM的生成性能，其中token熵等信息论不确定信号效果最优，反馈引导的回滚是主要改进来源。

Adapting LLMs to Time Series Forecasting via Temporal Heterogeneity Modeling and Representation Alignment

通过时间异质性建模与表示对齐将大语言模型（LLMs）适配到时间序列预测任务

Yanru Sun, Emadeldeen Eldele, Zongxia Xie, Yucheng Wang, Wenzhe Niu, Qinghua Hu, Chee Keong Kwoh, Min Wu

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出TALON框架，通过异构时间编码器建模时间异质性、表示对齐模块弥合模态差距，在7个真实世界基准上较SOTA方法平均MSE提升最高11%，实现高效且高性能的LLM时间序列预测。

Actionable Hallucination Detection: Translating Latent Uncertainty into Agentic Critique

可操作的幻觉检测：将潜在不确定性转化为智能体批判

Sanidhya Vijayvargiya, Rahul Lokesh

机构 * Samsung Research America（美国三星研究院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出Latent Critic轻量级LoRA适配器，可实时检测LLM智能体的幻觉，定位准确率超80%、AUROC达0.966，能拦截幻觉并助力智能体自我修正，效能优于同类基线方法。

Comments 22 pages, 6 figures

Let's Unlearn Stereotypes Before Decision-Making: Assessing the Impact of Intrinsic Bias Mitigation on Downstream Fairness in LLMs

让我们在决策前忘却刻板印象：评估内在偏差缓解对大语言模型下游公平性的影响

Mina Arzaghi, Alireza Dehghanpour Farashah, Florian Carichon, Jean-François Plante, Golnoosh Farnadi

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出公平感知概念忘却（FACU）方法，在保留预测性能的同时缓解LLM内在偏差，可提升下游公平性，结合反事实数据增强效果更佳，为LLM公平性优化提供了新路径。

Localizing Persona Representations in LLMs

在大语言模型中定位角色表示

Celia Cintas, Miriam Rateike, Erik Miehling, Elizabeth Daly, Skyler Speakman

机构 * IBM Research Africa（IBM非洲研究院） ； IBM Research Europe（IBM欧洲研究院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型中角色表示的编码位置与方式，运用降维和模式识别方法，发现角色表示差异在解码器层最后三分之一内，特定伦理观点有重叠激活，政治意识形态区域不同，有助于理解LLM信息表示及改进输出调制。

Comments Corrected small naming inconsistencies for Level 0, 1, and 2 analysis

Journal ref Proceedings of the AAAI ACM Conference on AI, Ethics, and Society, 8(1), 630-642, 2025

No Reliable Evidence of Self-Reported Sentience in Small Large Language Models

小语言模型中自我报告的感知能力缺乏可靠证据

Caspar Kaiser, Sean Enderby

机构 * University of Warwick, Warwick Business School（沃里克大学，沃里克商学院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI

AI总结 通过询问多个开源语言模型关于其自身意识的问题，并利用基于内部激活训练的分类器验证回答，对语言模型是否认为自己有感知能力进行测试，发现模型否认有感知，分类器也无反例，且Qwen模型中越大越确定。

Reported Confidence in LLMs Tracks Commitment More Than Correctness

LLM中的报告置信度追踪承诺而非正确性

Dharshan Kumaran

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过两阶段弃权范式，发现LLM的言语置信度预测弃权决策远优于预测答案正确性，而令牌对数概率则相反，表明言语置信度是内部承诺准备状态的行为输出。

Explainable AML Triage with LLMs: Evidence Retrieval and Counterfactual Checks

可解释的AML优先级排序与LLMs：证据检索与反事实检查

Dorothy Torres, Wei Cheng, Ke Hu

机构 * School of Science, Technology, Engineering and Mathematics（科学、技术、工程与数学学院） ； School of Electrical Engineering and Computer Science（电气工程与计算机科学学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种可解释的AML优先级排序框架，结合证据增强的证据捆绑、结构化LLM输出合同和反事实验证，提升审计性和鲁棒性，实验证明其在优先级排序和证据支持方面表现优异。

Hallucination Detection in LLMs with Topological Divergence on Attention Graphs

基于注意力图拓扑分歧的LLM幻觉检测

Alexandra Bazarova, Andrei Volodichev, Aleksandr Yugay, Andrey Shulga, Alina Ermilova, Konstantin Polev, Julia Belikova, Rauf Parchiev, Dmitry Simakov, Maxim Savchenko, Andrey Savchenko, Serguei Barannikov, Alexey Zaytsev

机构 * Applied AI Institute（应用人工智能研究所） ； SB AI Lab（SB人工智能实验室） ； HSE University（俄罗斯高等经济学院） ； CNRS, Universite Paris Cite（法国国家科学研究中心，巴黎Cité大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出TOHA方法，通过分析注意力矩阵的拓扑结构来检测LLM中的幻觉现象，实验表明该方法在多个基准测试中表现优异，且对标注数据和计算资源需求较低。

Comments Accepted to the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026)

SVHalluc: Benchmarking Speech-Vision Hallucination in Audio-Visual Large Language Models

SVHalluc: 音频-视觉大语言模型中的语音-视觉幻觉基准测试

Chenshuang Zhang, Kyeong Seon Kim, Chengxin Liu, Tae-Hyun Oh

机构 * KAIST（韩国国立信息通信研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.AI、cs.LG

AI总结 针对音频-视觉大语言模型中的语音-视觉幻觉问题，提出SVHalluc基准，从语义和时间两个维度评估模型将语音内容与视觉信号对齐的能力，发现现有模型存在跨模态理解局限。

Comments Accepted at CVPR 2026

Graph Alignment Topology as an Inductive Bias for Grounding Detection

图对齐拓扑作为接地检测的归纳偏置

Paul Landes, Pranav Herur, Adam Cross, Jimeng Sun

机构 * Department of Pediatrics, University of Illinois College of Medicine Peoria（伊利诺伊大学皮奥里亚医学院儿科部） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Siebel School of Computing and Data Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校计算机与数据科学学院） ； Carle Illinois College of Medicine, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校卡莱医学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出利用图对齐拓扑作为归纳偏置，通过构建参考信息与LLM输出之间的对齐二分图并训练图神经网络建模对齐结构，在幻觉检测和问答任务上取得最先进结果。

ACL-Verbatim: hallucination-free question answering for research

ACL-Verbatim: 无幻觉的科研问答

Gábor Recski, Szilveszter Tóth, Nadia Verdha, István Boros, Ádám Kovács

机构 * TU Wien（维也纳技术大学） ； KR Labs（KR实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出ACL-Verbatim系统，通过提取式问答方法在科研论文中精准映射用户查询到相关文本片段，构建了新的真实数据集并训练评估了多种提取模型，最终通过150M参数的ModernBERT模型在词级F1得分上达到53.6，优于最强的LLM提取器。

Comments 13 pages

Permutation-Consensus Listwise Judging for Robust Factuality Evaluation

排列一致性列表判断用于鲁棒事实性评估

Tianyi Huang, Nathan Huang, Justin Tang, Wenqian Chen, Elsa Fan

机构 * App-In Club（App-In俱乐部） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PCFJudge方法，通过多排列重跑列表事实性提示以提高LLM事实性判断的鲁棒性，实验显示其在RewardBench 2 Factuality上显著提升准确率。

Comments Accepted at the Fifth Workshop on Natural Language Generation, Evaluation, and Metrics at ACL 2026

Hallucination as an Anomaly: Dynamic Intervention via Probabilistic Circuits

幻觉作为异常：通过概率电路进行动态干预

Erik Nielsen, Elia Cunegatti, Marcus Vukojevic, Giovanni Iacca

机构 * Department of Information Engineering and Computer Science（信息工程与计算机科学系） ； University of Trento（特伦托大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PCNET，通过概率电路估计LLM残差流密度，检测幻觉作为几何异常，从而改进幻觉纠正，减少错误生成并提升事实性。

reward-lens: A Mechanistic Interpretability Library for Reward Models

reward-lens: 一个用于奖励模型的机制可解释性库

Mohammed Suhail B Nadaf

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract_cn)；RLHF(abstract,abstract_cn)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 reward-lens库将传统生成LLM的机制可解释性工具适配至奖励模型，通过奖励头权重向量作为核心分析轴，提供多种分析工具和扩展功能，验证发现线性归因与因果修补效果存在负相关。

Comments 30 pages, 5 figures, 9 tables, including appendix. Library available at https://github.com/suhailnadaf509/reward-lens (pip install reward-lens)

STaD: Scaffolded Task Design for Identifying Compositional Skill Gaps in LLMs

STaD：基于支架任务设计的LLM组合技能缺口识别

Sungeun An, Swanand Ravindra Kadhe, Shailja Thakur, Chad DeLuca, Hima Patel

机构 * IBM Research（IBM研究院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.AI

AI总结 STaD框架通过生成受控变体任务，系统探测LLM在组合技能上的不足，揭示不同模型的独特技能缺口。

Comments 9 pages, 3 figures, 3 tables, ACL Findings 2026

ReGA: Model-Based Safeguard for LLMs via Representation-Guided Abstraction

ReGA：通过表示引导抽象的基于模型的安全保障方法

Zeming Wei, Chengcan Wu, Meng Sun

机构 * Peking University（北京大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ReGA框架，通过利用安全关键表示缩小模型分析在大规模语言模型中的可扩展性差距，有效区分安全与有害输入，提升LLM安全性。

Comments FSE 2026

Misinformation Detection using Large Language Models with Explainability

Jainee Patel, Chintan Bhatt, Himani Trivedi, Thanh Thi Nguyen

机构 * Department of Computer Engineering, LDRP Institute of Technology and Research（计算机工程系，LDRP技术与研究学院） ； University of Wollongong（沃林根大学） ； Monash University（莫纳什大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI

Comments Accepted for publication in the Proceedings of the 8th International Conference on Algorithms, Computing and Artificial Intelligence (ACAI 2025)

Multi-Scale Manifold Alignment for Interpreting Large Language Models: A Unified Information-Geometric Framework

Yukun Zhang, Qi Dong

机构 * The Chinese University of Hong Kong（香港中文大学） ； Fudan University（复旦大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

Context-Adaptive Multi-Prompt Embedding with Large Language Models for Vision-Language Alignment

Dahun Kim, Anelia Angelova

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.AI、cs.LG

Comments COLM 2025

High-Dimension Human Value Representation in Large Language Models

Samuel Cahyawijaya, Delong Chen, Yejin Bang, Leila Khalatbari, Bryan Wilie, Ziwei Ji, Etsuko Ishii, Pascale Fung

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI

Coarse-to-Fine Highlighting: Reducing Knowledge Hallucination in Large Language Models

Qitan Lv, Jie Wang, Hanzhu Chen, Bin Li, Yongdong Zhang, Feng Wu

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI

Probing the Robustness of Theory of Mind in Large Language Models

Christian Nickel, Laura Schrewe, Lucie Flek

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

A Timeline and Analysis for Representation Plasticity in Large Language Models

Akshat Kannan

专题命中 知识编辑与模型理解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.AI、cs.LG

Hyperbolic Learning with Multimodal Large Language Models

Paolo Mandica, Luca Franco, Konstantinos Kallidromitis, Suzanne Petryk, Fabio Galasso

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(title)；分类 cs.AI、cs.LG

Comments ECCV 2024 - Beyond Euclidean Workshop