语言大模型 / LLM

Explainable and Fine-Grained Safeguarding of LLM Multi-Agent Systems via Bi-Level Graph Anomaly Detection

通过双层图异常检测实现LLM多智能体系统的可解释性与细粒度防护

Junjun Pan, Yixin Liu, Rui Miao, Kaize Ding, Yu Zheng, Quoc Viet Hung Nguyen, Alan Wee-Chung Liew, Shirui Pan

机构 * School of Information and Communication Technology, Griffith University, Australia（格里菲斯大学信息与通信技术学院） ； School of Artificial Intelligence, Jilin University, China（吉林大学人工智能学院） ； Department of Statistics and Data Science, Northwestern University, USA（西北大学统计与数据科学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出XG-Guard框架，通过双层图异常检测实现对LLM多智能体系统中恶意智能体的可解释性与细粒度检测。

Comments 14 pages, 3 tables, 5 figures

PILAR: Personalizing Augmented Reality Interactions with LLM-based Human-Centric and Trustworthy Explanations for Daily Use Cases

PILAR: 基于LLM的人本化和可信的增强现实交互个性化

Ripan Kumar Kundu, Istiak Ahmed, Khaza Anuarul Hoque

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 PILAR通过基于LLM的个性化解释提升AR交互的可信度和用户体验

Comments Published in the 2025 IEEE International Symposium on Mixed and Augmented Reality Adjunct (ISMAR-Adjunct)

Citation-Grounded Code Comprehension: Preventing LLM Hallucination Through Hybrid Retrieval and Graph-Augmented Context

基于引用的代码理解：通过混合检索和图增强上下文防止LLM幻觉

Jahidul Arafat

机构 * Department of Computer Science and Software Engineering, Auburn University, Alabama, USA（计算机科学与软件工程系，阿伯丁大学，阿拉巴马州，美国） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出混合检索与图增强上下文方法，通过系统评估实现92%引用准确率，有效防止LLM幻觉。

RisConFix: LLM-based Automated Repair of Risk-Prone Drone Configurations

RisConFix: 基于大语言模型的高风险无人机配置自动修复

Liping Han, Tingting Nie, Le Yu, Mingzhe Hu, Tao Yue

机构 * School of Computer Science Nanjing University of Posts and Telecommunications（南京邮电大学计算机科学学院） ； School of Computer Science and Engineering Beihang University（北京航空航天大学计算机科学与工程学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 RisConFix通过基于大语言模型的实时修复机制，有效提升无人机在高风险配置下的鲁棒性，实验显示其修复成功率高达97%。

Knowing Your Uncertainty -- On the application of LLM in social sciences

了解你的不确定性——关于LLM在社会科学中的应用

Bolun Zhang, Linzhuo Li, Yunqi Chen, Qinlin Zhao, Zihan Zhu, Xiaoyuan Yi, Xing Xie

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一个统一框架，用于评估LLM在社会科学任务中的不确定性，通过任务类型和验证类型两个维度，为研究者提供方法学保障和实践指导。

Comments 49 pages, 10 figures

SignBind-LLM: Multi-Stage Modality Fusion for Sign Language Translation

SignBind-LLM：多阶段模态融合用于手语翻译

Marshall Thomas, Edward Fish, Richard Bowden

机构 * CVSSP, University of Surrey（计算机视觉与模式识别研究所，萨里大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SignBind-LLM通过多阶段模态融合提升手语翻译的准确性和鲁棒性，实现高保真翻译效果。

Frame Representation Hypothesis: Multi-Token LLM Interpretability and Concept-Guided Text Generation

框架表示假说：多词LLM可解释性与概念引导的文本生成

Pedro H. V. Valois, Lincon S. Souza, Erica K. Shimomoto, Kazuhiro Fukui

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出框架表示假说，通过多词建模提升LLM的可解释性，利用概念引导解码实现更安全透明的文本生成。

Can Linear Probes Measure LLM Uncertainty?

Ramzi Dakhmouche, Adrien Letellier, Hossein Gorji

机构 * Institute of Mathematics, EPFL, Switzerland（瑞士联邦理工学院数学研究所） ； Computational Engineering Lab, Empa, Switzerland（瑞士Empa计算工程实验室） ； ENSAE, IP Paris, France（法国IP巴黎高等商学院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

MMSense: Adapting Vision-based Foundation Model for Multi-task Multi-modal Wireless Sensing

Zhizhen Li, Xuanhao Luo, Xueren Ge, Longyu Zhou, Xingqin Lin, Yuchen Liu

机构 * North Carolina State University, USA（北卡罗来纳州立大学） ； University of Virginia, USA（弗吉尼亚大学） ； Singapore University of Technology（新加坡科技设计大学） ； NVIDIA Corporation, USA（英伟达公司） 纠错

专题命中 知识编辑与模型理解 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Interpretable LLM Guardrails via Sparse Representation Steering

Zeqing He, Zhibo Wang, Huiyu Xu, Hejun Lin, Wenhui Zhang, Zhixuan Chu

机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University, China（区块链与数据安全国家重点实验室，浙江大学，中国） ； School of Cyber Science and Technology, Zhejiang University, China（网络安全与技术学院，浙江大学，中国） ； College of Computer and Information Sciences, Fujian Agriculture and Forestry University, China（计算机与信息科学学院，福建农林大学，中国） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Increasing AI Explainability by LLM Driven Standard Processes

Marc Jansen, Marcel Pehlke

机构 * Computer Science Institute University of Applied Sciences Ruhr West Bottrop（应用科学鲁尔西贝特大学计算机科学研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

LLM-Powered Swarms: A New Frontier or a Conceptual Stretch?

Muhammad Atta Ur Rahman, Melanie Schranz, Samira Hayat

机构 * Lakeside Labs GmbH（莱克西德实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments This is the author's version of a paper submitted to IEEE Intelligent Systems. 2 Tables, 2 Figures

llmSHAP: A Principled Approach to LLM Explainability

Filip Naudot, Tobias Sundqvist, Timotheus Kampik

机构 * Umeå University（乌梅大学） ； Tietoevry（蒂奥埃弗里） ； SAP（SAP公司） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

ERGO: Entropy-guided Resetting for Generation Optimization in Multi-turn Language Models

Haziq Mohammad Khalid, Athikash Jeyaganthan, Timothy Do, Yicheng Fu, Sean O'Brien, Vasu Sharma, Kevin Zhu

机构 * Algoverse AI Research（Algoverse AI研究院） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

Comments 14 pages, 5 figures

Journal ref Proceedings of the 2nd Workshop on Uncertainty Aware NLP (UncertaiNLP 2025), Suzhou, China, Association for Computational Linguistics, pp. 273--286, 2025

ThoughtProbe: Classifier-Guided LLM Thought Space Exploration via Probing Representations

Zijian Wang, Chang Xu

机构 * School of Computer Science（计算机科学学院） ； The University of Sydney（悉尼大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments EMNLP2025 main conference

CritiCal: Can Critique Help LLM Uncertainty or Confidence Calibration?

Qing Zong, Jiayu Liu, Tianshi Zheng, Chunyang Li, Baixuan Xu, Haochen Shi, Weiqi Wang, Zhaowei Wang, Chunkit Chan, Yangqiu Song

机构 * Department of Computer Science and Engineering, HKUST（计算机科学与工程系，香港科技大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

LLM-Enhanced Black-Litterman Portfolio Optimization

Youngbin Lee, Yejin Kim, Juhyeong Kim, Suin Kim, Yongjae Lee

机构 * Elice AI Quant Lab, MODULABS Seoul Republic of Korea ； Meritz Fire \& Marine Insurance AI Quant Lab, MODULABS Seoul Republic of Korea ； Mirae Asset Global Investments AI Quant Lab, MODULABS Seoul Republic of Korea ； Ulsan National Institute of Science ； Elice AI Quant Lab, MODULABS ； Meritz Fire \& Marine Insurance AI Quant Lab, MODULABS ； Mirae Asset Global Investments AI Quant Lab, MODULABS 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments Presented at the CIKM 2025 Workshop on Financial AI (https://advancesinfinancialai.com/)

Active Honeypot Guardrail System: Probing and Confirming Multi-Turn LLM Jailbreaks

ChenYu Wu, Yi Wang, Yang Liao

机构 * Wuhan, China（中国武汉） ； The University of Tokyo（东京大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments 6pages, 2 figures

Confidence-Based Response Abstinence: Improving LLM Trustworthiness via Activation-Based Uncertainty Estimation

Zhiqi Huang, Vivek Datla, Chenyang Zhu, Alfy Samuel, Daben Liu, Anoop Kumar, Ritesh Soni

机构 * Capital One 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments UncertaiNLP at EMNLP 2025

LLM Based Bayesian Optimization for Prompt Search

Adam Ballew, Jingbo Wang, Shaogang Ren

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； University of Tennessee at Chattanooga（田纳西大学查塔努加分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AnyEdit: Edit Any Knowledge Encoded in Language Models

Houcheng Jiang, Junfeng Fang, Ningyu Zhang, Guojun Ma, Mingyang Wan, Xiang Wang, Xiangnan He, Tat-seng Chua

机构 * MoE Key Lab of BIPC, University of Science（BIPC摩尔实验室，科学技术大学） ； National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学） ； Douyin Co., Ltd（抖音公司） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL

LLM Hallucination Detection: HSAD

JinXin Li, Gang Tu, JunJie Hu

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments in Chinese language

TokenSmith: Streamlining Data Editing, Search, and Inspection for Large-Scale Language Model Training and Interpretability

Mohammad Aflah Khan, Ameya Godbole, Johnny Tian-Zheng Wei, Ryan Wang, James Flemings, Krishna P. Gummadi, Willie Neiswanger, Robin Jia

机构 * Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） ； University of Southern California（南加州大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；large language model(abstract)；pretraining(abstract)；分类 cs.CL

Backdoor Attribution: Elucidating and Controlling Backdoor in Language Models

Miao Yu, Zhenhong Zhou, Moayad Aloqaily, Kun Wang, Biwei Huang, Stephen Wang, Yueming Jin, Qingsong Wen

机构 * University of Science and Technology of China（中国科学技术大学） ； Nanyang Technological University（南洋理工大学） ； United Arab Emirates University（阿拉伯联合酋长国大学） ； University of California San Diego（加州大学圣地亚哥分校） ； Abel AI ； National University of Singapore（新加坡国立大学） ； Squirrel Ai Learning 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI

Regulating the Agency of LLM-based Agents

Seán Boddy, Joshua Joseph

机构 * Berkman Klein Center for Internet & Society（互联网与社会伯克曼克莱因中心） ； Harvard University（哈佛大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Comments 4 pages

Probing LLM World Models: Enhancing Guesstimation with Wisdom of Crowds Decoding

Yun-Shiuan Chuang, Sameer Narendran, Nikunj Harlalka, Alexander Cheung, Sizhe Gao, Siddharth Suresh, Junjie Hu, Timothy T. Rogers

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

Adaptive Distraction: Probing LLM Contextual Robustness with Automated Tree Search

Yanbo Wang, Zixiang Xu, Yue Huang, Chujie Gao, Siyuan Wu, Jiayi Ye, Pin-Yu Chen, Xiuying Chen, Xiangliang Zhang

机构 * Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（莫扎伊德大学人工智能学院） ； University of Notre Dame（诺特丹大学） ； IBM Research（IBM研究院） 纠错

专题命中 知识编辑与模型理解 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

Calibrating LLM Confidence by Probing Perturbed Representation Stability

Reza Khanmohammadi, Erfan Miahi, Mehrsa Mardikoraem, Simerjot Kaur, Ivan Brugere, Charese H. Smiley, Kundan Thind, Mohammad M. Ghassemi

机构 * Michigan State University（密歇根州立大学） ； JPMorgan AI Research（摩根大通人工智能研究） ； Henry Ford Health（亨利福特健康） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

LLM-QUBO: An End-to-End Framework for Automated QUBO Transformation from Natural Language Problem Descriptions

Huixiang Zhang, Mahzabeen Emu, Salimur Choudhury

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

Interpretation Gaps in LLM-Assisted Comprehension of Privacy Documents

Rinku Dewri

机构 * Department of Computer Science, University of Denver, CO, 80208, USA（计算机科学系，丹佛大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments Minor revision

Journal ref IEEE Computer, 58:9, pp. 70-79, 2025