语言大模型 / LLM

Benchmarking Uncertainty Calibration in Large Language Model Long-Form Question Answering

在大型语言模型长格式问答中评估不确定性校准的基准测试

Philip Müller, Nicholas Popovič, Michael Färber, Peter Steinbach

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；instruction tuning(abstract)；prompting(abstract)

AI总结 本研究提出首个大规模基准，评估大型语言模型在长格式问答中不确定性校准的可靠性，揭示了指令调优和推理过程对校准的影响及ECE指标的局限性。

Comments Under Review

Large Language Model and Formal Concept Analysis: a comparative study for Topic Modeling

大语言模型与形式概念分析：一种用于主题建模的比较研究

Fabrice Boissier, Monica Sen, Irina Rychkova

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 本研究比较大语言模型与形式概念分析在主题建模中的应用，通过实验评估两者在生成和标注主题方面的性能与优劣。

PretrainRL: Alleviating Factuality Hallucination of Large Language Models at the Beginning

PretrainRL: 缓解大语言模型在开始阶段的事实性幻觉

Langming Liu, Kangtao Lv, Haibin Chen, Weidong Zhang, Yejing Wang, Shilei Liu, Xin Tong, Yujin Yuan, Yongwei Wang, Wenbo Su, Bo Zheng

机构 * Future Living Lab of Alibaba（阿里巴巴未来生活实验室） ； Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；pretraining(abstract)；分类 cs.CL

AI总结 PretrainRL通过在预训练阶段引入强化学习，缓解大语言模型在开始阶段的事实性幻觉问题，通过去偏见和学习机制提升事实准确性。

Do Large Language Models (Really) Need Statistical Foundations?

大型语言模型（真的需要统计基础吗？

Weijie Su

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.LG

AI总结 本文探讨大型语言模型是否需要统计学基础，指出其统计本质和黑箱特性使统计方法成为必要，并强调统计学界在LLMs研究中的重要性。

Comments Accepted at The Annals of Applied Statistics; Added discussions on more topics

Learning to Decode Against Compositional Hallucination in Video Multimodal Large Language Models

在视频多模态大语言模型中学习对抗组合性幻觉

Wenbin Xing, Quanxing Zha, Lizheng Zu, Mengran Li, Ming Li, Junchi Yan

机构 * Sun Yat-sen University（中山大学） ； Huaqiao University（华侨大学） ； Shenzhen University（深圳大学） ； Guangming Laboratory（光明实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 针对视频多模态大语言模型中的组合性幻觉问题，提出TriCD框架，通过对比解码和三路径校准机制提升模型在对抗幻觉时的准确率。

How Much Do LLMs Hallucinate across Languages? On Realistic Multilingual Estimation of LLM Hallucination

LLMs在不同语言中产生幻觉的程度有多大？对多语言现实估计LLM幻觉的探讨

Saad Obaid ul Islam, Anne Lauscher, Goran Glavaš

机构 * WüNLP, CAIDAS, University of Würzburg（乌尔姆大学） ； Data Science Group, University of Hamburg（汉堡大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究评估了多语言LLM在长形式问答中的幻觉程度，发现高资源语言中幻觉率与语言规模无关，且支持更多语言的LLM幻觉率更高。

Comments EMNLP 2025

Context Dependence and Reliability in Autoregressive Language Models

自回归语言模型中的上下文依赖性与可靠性

Poushali Sengupta, Shashi Raj Pandey, Sabita Maharjan, Frank Eliassen

机构 * Department of Informatics, University of Oslo（信息学院，奥斯陆大学） ； Department of Electronic Systems, Aalborg University（电子系统系，奥胡斯大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出RISE方法，用于自回归语言模型中区分关键上下文元素与冗余信息，提升解释的可靠性和稳定性。

From Code-Centric to Concept-Centric: Teaching NLP with LLM-Assisted "Vibe Coding"

从代码导向到概念导向：利用LLM辅助的“Vibe编码”教授NLP

Hend Al-Khalifa

机构 * College of Computer and Information Sciences（计算机与信息科学学院） ； King Saud University（沙特国王大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出利用LLM辅助的

Comments Accepted in The Seventh Workshop on Teaching Natural Language Processing (Teaching NLP @ EACL2026)

Latent Debate: A Surrogate Framework for Interpreting LLM Thinking

潜在辩论：一种解释大语言模型思维的代理框架

Lihu Chen, Xiang Yin, Francesca Toni

机构 * Imperial College London, United Kingdom（伦敦帝国学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出潜在辩论框架，通过捕捉单个模型内部隐含的论点信号，解释LLM的思维过程并检测幻觉。

Comments Preprint

Information Security Based on LLM Approaches: A Review

基于大语言模型的信息安全：综述

Chang Gong, Zhongwen Li, Xiaoqi Li

机构 * School of Cyberspace Security, Hainan University（海南大学网络空间安全学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文综述了大语言模型在信息安全领域的应用，探讨其在恶意行为预测、网络威胁分析等任务中的优势及面临的挑战。

<SOG_k>: One LLM Token for Explicit Graph Structural Understanding

<SOG_k>: 一个LLM令牌用于显式图结构理解

Jingyao Wu, Bin Lu, Zijun Di, Xiaoying Gan, Meng Jin, Luoyi Fu, Xinbing Wang, Chenghu Zhou

机构 * Shanghai Jiao Tong University（上海交通大学） ； IGSNRR, Chinese Academy of Sciences（中科院信息融合国家重点实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出<SOG_k>令牌，通过统一令牌空间实现图结构的显式表示，提升LLM对图结构的理解、生成和推理能力。

The Shape of Beliefs: Geometry, Dynamics, and Interventions along Representation Manifolds of Language Models' Posteriors

信念的形状：语言模型后验表示的流形、动态和干预

Raphaël Sarfati, Eric Bigelow, Daniel Wurgaft, Jack Merullo, Atticus Geiger, Owen Lewis, Tom McGrath, Ekdeep Singh Lubana

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 研究揭示了语言模型中信念的几何结构，通过干预展示了如何在流形上保持信念的一致性，表明LLMs中自然涌现出复杂结构。

Auto-Comp: An Automated Pipeline for Scalable Compositional Probing of Contrastive Vision-Language Models

Auto-Comp: 一种用于可扩展组合探测对比视觉-语言模型的自动化流水线

Cristian Sbrolli, Matteo Matteucci, Toshihiko Yamasaki

机构 * Politecnico di Milano（米兰理工学院） ； The University of Tokyo（东京大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 Auto-Comp通过自动化生成可扩展基准，揭示了对比视觉-语言模型在组合推理中的普遍缺陷及视觉-语言上下文的权衡问题。

Universal Redundancies in Time Series Foundation Models

时间序列基础模型中的通用冗余性

Anthony Bao, Venkata Hasith Vattikuti, Jeffrey Lai, William Gilpin

机构 * ECE Department, UT Austin（UT奥斯汀电子工程系） ； Department of Physics, UT Austin（UT奥斯汀物理系） ； Oden Institute, UT Austin（UT奥斯汀奥登研究所） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；pretraining(abstract)；分类 cs.LG

AI总结 本研究揭示了时间序列基础模型中普遍存在的冗余特性，并通过理论框架和消融实验揭示了模型退化现象的根源。

From Directions to Regions: Decomposing Activations in Language Models via Local Geometry

从方向到区域：通过局部几何分解语言模型中的激活

Or Shafran, Shaked Ronen, Omri Fahn, Shauli Ravfogel, Atticus Geiger, Mor Geva

机构 * Blavatnik School of Computer Science（Blavatnik计算机科学学院） ； AI, Tel Aviv University, Israel（人工智能，特拉维夫大学，以色列） ； New York University, New York, NY, USA（纽约大学，纽约，纽约州，美国） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.CL

AI总结 本研究提出MFA方法，通过局部几何分解语言模型中的激活，捕捉复杂非线性结构，优于无监督基线并优于稀疏自编码器的转向性能。

Canonical Intermediate Representation for LLM-based optimization problem formulation and code generation

基于LLM的优化问题建模与代码生成的规范中间表示

Zhongyuan Lyu, Shuoyu Hu, Lujie Liu, Hongxia Yang, Ming LI

机构 * The Hong Kong Polytechnic University, Hong Kong, China（香港理工大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；分类 cs.AI

AI总结 本研究提出规范中间表示（CIR）以提升LLM在复杂运营规则下的优化问题建模与代码生成能力，通过多智能体框架实现高精度建模。

Comments 41 pages, 4 figures, 5 tables

SocialFusion: Addressing Social Degradation in Pre-trained Vision-Language Models

SocialFusion: 解决预训练视觉-语言模型中的社会退化问题

Hamza Tahboub, Weiyan Shi, Gang Hua, Huaizu Jiang

机构 * Northeastern University（东北大学） ； Amazon.com, Inc.（亚马逊公司） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI

AI总结 SocialFusion通过统一框架解决预训练视觉-语言模型中的社会退化问题，实现跨社会任务的正迁移并提升整体性能。

Comments 22 pages, 10 figures. Published in Transactions on Machine Learning Research (TMLR)

Journal ref Transactions on Machine Learning Research, 2026

Tri-LLM Cooperative Federated Zero-Shot Intrusion Detection with Semantic Disagreement and Trust-Aware Aggregation

三LLM协作联邦零日入侵检测：基于语义分歧与信任感知的聚合

Saeid Jamshidi, Omar Abdul Wahab, Foutse Khomh, Kawser Wazed Nafi

机构 * SWAT Laboratory, Polytechnique Montréal（Polytechnique Montréal SWAT 实验室） ； Department of Computer and Software Engineering, Polytechnique Montréal（Polytechnique Montréal 计算机与软件工程系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；分类 cs.AI

AI总结 本文提出基于三LLM的联邦IDS框架，通过语义监督实现零日入侵检测，提升对未知攻击行为的识别能力，同时增强对异构和不可靠客户端的鲁棒性。

PAL: Probing Audio Encoders via LLMs -- Audio Information Transfer into LLMs

PAL: 通过LLM探测音频编码器——音频信息转移到LLM中

Tony Alex, Wish Suharitdamrong, Sara Atito, Armin Mustafa, Philip J. B. Jackson, Imran Razzak, Muhammad Awais

机构 * Centre for Vision, Speech and Signal Processing (CVSSP), University of Surrey, UK（视觉、语音和信号处理中心（CVSSP），英国萨里大学） ； Surrey Institute for People-Centred AI, University of Surrey, Guildford, GU2 7XH, UK（萨里大学以人为中心的人工智能研究所，英国Guildford） ； Mohamed bin Zayed University of Artificial Intelligence (MBZUAI), Abu Dhabi, UAE（穆罕默德·本·扎耶德人工智能大学（MBZUAI），阿布扎赫德） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 PAL通过LLM高效探测音频编码器，利用LAL和PLITS结合的方法提升音频信息整合效率，降低计算和内存开销。

Comments 20 pages, 7 figures

Hallucination-Resistant Relation Extraction via Dependency-Aware Sentence Simplification and Two-tiered Hierarchical Refinement

通过依赖感知句子简化和双层级层次精炼实现抗幻觉的关系抽取

Yupei Yang, Fan Feng, Lin Yang, Wanxi Deng, Lin Qu, Biwei Huang, Shikui Tu, Lei Xu

机构 * Shanghai Jiao Tong University（上海交通大学） ； University of California San Diego（加州大学圣地亚哥分校） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 DEPTH通过依赖感知句子简化和双层级层次精炼提升关系抽取的准确性，将幻觉率降低至7.9%，F1分数提升9.3%。

Exploiting Latent Linearity in LLMs Improves Explainable Molecular Representation Learning

利用大语言模型中的潜在线性性改进可解释的分子表示学习

Zhuoran Li, Xu Sun, Wanyu Lin, Jiannong Cao

机构 * Department of Computing, The Hong Kong Polytechnic University（计算系，香港理工大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MoleX通过利用大语言模型中的潜在线性性，提升分子表示学习的可解释性和性能

Feat2GS: Probing Visual Foundation Models with Gaussian Splatting

Feat2GS: 通过高斯点云探测视觉基础模型

Yue Chen, Xingyu Chen, Anpei Chen, Gerard Pons-Moll, Yuliang Xiu

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)

AI总结 Feat2GS通过高斯点云探测视觉基础模型的3D理解能力，无需3D数据即可分析几何和纹理意识。

Comments Project Page: https://fanegg.github.io/Feat2GS/

Journal ref Proc. IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2025

Semantic Uncertainty Quantification of Hallucinations in LLMs: A Quantum Tensor Network Based Method

LLMs语义幻觉的不确定性量化：基于量子张量网络的方法

Pragatheeswaran Vipulanandan, Kamal Premaratne, Dilip Sarkar

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） ； Department of Computer Science（计算机科学系） ； University of Miami（迈阿密大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 基于量子张量网络的方法用于量化LLMs语义幻觉的不确定性，通过熵最大化策略提升幻觉检测的鲁棒性和准确性。

Journal ref ICLR2026

Model Editing with Graph-Based External Memory

基于图的外部记忆模型编辑

Yash Kumar Atri, Ahmed Alaa, Thomas Hartvigsen

机构 * University of Virginia（弗吉尼亚大学） ； UC Berkeley（伯克利大学） ； UCSF（旧金山加州大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.CL

AI总结 HYPE通过双曲几何和图神经网络实现稳定的模型编辑，提升编辑稳定性、事实准确性和多跳推理能力。

BiasGym: A Simple and Generalizable Framework for Analyzing and Removing Biases through Elicitation

BiasGym: 一个简单且通用的框架，用于通过诱发分析和去除偏见

Sekh Mainul Islam, Nadav Borenstein, Siddhesh Milind Pawar, Haeun Yu, Arnav Arora, Isabelle Augenstein

机构 * University of Copenhagen（哥本哈根大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 BiasGym通过安全注入和分析偏见，提供了一种简单且通用的方法来减少大语言模型中的偏见和刻板印象。

Comments Under review. Title updated

Stream: Scaling up Mechanistic Interpretability to Long Context in LLMs via Sparse Attention

Stream: 通过稀疏注意力扩展机械可解释性以分析LLM中的长上下文

J Rosser, José Luis Redondo García, Gustavo Penha, Konstantina Palla, Hugues Bouchard

机构 * University of Oxford（牛津大学） ； Spotify Spain（Spotify西班牙分公司） ； Spotify Netherlands（Spotify荷兰分公司） ； Spotify UK（Spotify英国分公司） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 Stream通过稀疏注意力技术实现LLM长上下文的高效可解释性分析，显著减少内存消耗并提升推理轨迹追踪能力。

RePPL: Recalibrating Perplexity by Uncertainty in Semantic Propagation and Language Generation for Explainable QA Hallucination Detection

RePPL：通过语义传播和语言生成中的不确定性重新校准困惑度以检测可解释问答幻觉

Yiming Huang, Junyan Zhang, Zihao Wang, Biquan Bie, Yunzhong Qiu, Xuming Hu, Yi R. Fung, Xinlei He

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； Tsinghua University（清华大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 RePPL通过校准语义传播和语言生成中的不确定性，提升问答幻觉检测性能，生成token级不确定性评分作为解释。

Factuality on Demand: Controlling the Factuality-Informativeness Trade-off in Text Generation

按需事实性：在文本生成中控制事实性与信息性之间的权衡

Ziwei Gong, Yanda Chen, Julia Hirschberg, Chen Zhao, He He, Zhou Yu, Kathleen Mckeown

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Factuality-Controlled Generation框架，通过合成数据训练提升模型在信息性与事实性之间的平衡能力。

GHOST: Hallucination-Inducing Image Generation for Multimodal LLMs

GHOST：诱导幻觉的多模态大语言模型图像生成

Aryan Yazdan Parast, Parsa Hosseini, Hesam Asadollahzadeh, Arshia Soltani Moakhar, Basim Azam, Soheil Feizi, Naveed Akhtar

机构 * The University of Melbourne（墨尔本大学） ； University of Maryland（马里兰大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 GHOST通过优化隐蔽令牌生成诱导幻觉的图像，评估多模态大语言模型的可靠性，并发现高幻觉成功率及可转移漏洞。

HueManity: Probing Fine-Grained Visual Perception in MLLMs

HueManity: 探索 MLLMs 中的细粒度视觉感知

Rynaa Grover, Jayant Sravan Tamarapalli, Sahiti Yerramilli, Nilay Pande

机构 * Google（谷歌） ； Waymo 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 HueManity 通过细粒度视觉感知基准测试揭示 MLLMs 在捕捉细粒度视觉细节方面的显著缺陷。

Journal ref ICML 2025 Workshop on Assessing World Models