语言大模型 / LLM

Improving Large Language Model Safety with Contrastive Representation Learning

通过对比表征学习提升大语言模型安全性

Samuel Simko, Mrinmaya Sachan, Bernhard Schölkopf, Zhijing Jin

机构 * ETH Zurich（苏黎世联邦理工学院） ； MPI for Intelligent Systems（智能系统最大计划） ； University of Toronto（多伦多大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于对比表征学习的框架，通过三元组损失和对抗性难负样本挖掘提升大语言模型对对抗攻击的鲁棒性。

Comments EMNLP 2025 Main

Predicting LLM Correctness in Prosthodontics Using Metadata and Hallucination Signals

利用元数据和幻觉信号预测牙科修复学中大语言模型的正确性

Lucky Susanto, Anasta Pranawijayana, Cortino Sukotjo, Soni Prasad, Derry Wijaya

机构 * 1 Department of Data Science, Monash University Indonesia, Tangerang, Indonesia ； 2 Independent Researcher ； 3 Department of Prosthodontics, University of Pittsburgh, Pittsburgh, Pennsylvania ； 4 Department of Restorative Sciences, University of North Carolina Adams School of Dentistry, Chapel Hill, North Carolina ； 5 Department of Computer Science, Boston University, Boston, Massachusetts 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文研究通过元数据和幻觉信号预测牙科修复学中LLM的正确性，发现元数据方法可提升准确性，但需进一步改进以适应高风险应用。

Comments Accepted as a Short Paper at HEALTHINF2026

Single LLM Debate, MoLaCE: Mixture of Latent Concept Experts Against Confirmation Bias

单个LLM辩论，MoLaCE：混合潜在概念专家对抗确认偏见

Hazel Kim, Philip Torr

机构 * Department of Computer Science University of Oxford（牛津大学计算机科学系） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 MoLaCE通过混合潜在概念专家减少LLM的确认偏见，提升鲁棒性并高效实现多智能体辩论效果。

Hallucination Detection for LLM-based Text-to-SQL Generation via Two-Stage Metamorphic Testing

通过双阶段元测试检测基于大语言模型的文本到SQL生成中的幻觉

Bo Yang, Yinfen Xia, Weisong Sun, Yang Liu

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 通过双阶段元测试方法检测基于大语言模型的文本到SQL生成中的幻觉，无需地面真实数据，提升检测性能。

Calibrating LLM Judges: Linear Probes for Fast and Reliable Uncertainty Estimation

校准大语言模型法官：用于快速可靠不确定性估计的线性探针

Bhaktipriya Radharapu, Eshika Saxena, Kenneth Li, Chenxi Whitehouse, Adina Williams, Nicola Cancedda

机构 * FAIR at Meta（Meta 的 FAIR 研究所） ； Meta Superintelligence Labs（Meta 超智能实验室） 纠错

专题命中 知识编辑与模型理解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于线性探针的校准方法，通过Brier分数损失训练，实现快速可靠的LLM法官不确定性估计，相比现有方法在计算效率和泛化能力上表现更优。

Enhancing Vision-Language Model Reliability with Uncertainty-Guided Dropout Decoding

通过不确定性引导的丢弃解码增强视觉-语言模型的可靠性

Yixiong Fang, Ziran Yang, Zhaorun Chen, Zhuokai Zhao, Jiawei Zhou

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Princeton University（普林斯顿大学） ； University of Chicago（芝加哥大学） ； Stony Brook University（石溪大学） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过不确定性引导的丢弃解码方法，有效减少视觉-语言模型的幻觉问题，提升输出的可靠性和质量。

Comments Accepted to 39th Conference on Neural Information Processing Systems (NeurIPS 2025)

CoFi-Dec: Hallucination-Resistant Decoding via Coarse-to-Fine Generative Feedback in Large Vision-Language Models

CoFi-Dec：通过粗到细的生成反馈在大视觉-语言模型中实现抗幻觉解码

Zongsheng Cao, Yangfan He, Anran Liu, Jun Xie, Feng Chen, Zepeng Wang

机构 * Researcher（研究者） 纠错

专题命中 知识编辑与模型理解 ：language model(title,abstract)；分类 cs.AI

AI总结 CoFi-Dec通过粗到细的生成反馈机制，在大视觉-语言模型中减少幻觉，提升解码的鲁棒性和准确性。

Dictionary Learning: The Complexity of Learning Sparse Superposed Features with Feedback

字典学习：通过反馈学习稀疏叠加特征的复杂性

Akash Kumar

机构 * Department of Computer Science \& Engineering, University of California, San Diego, USA 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过反馈机制，研究在稀疏设置下学习字典特征的复杂性，并验证了理论结果在特征恢复和字典提取中的有效性。

Comments ICML'25, 35 pages

Toward Trustworthy Agentic AI: A Multimodal Framework for Preventing Prompt Injection Attacks

迈向可信的代理AI：一种多模态框架用于防止提示注入攻击

Toqeer Ali Syed, Mishal Ateeq Almutairi, Mahmoud Abdel Moaty

机构 * Faculty of Computer and Information System（计算机与信息系统系） ； Islamic University of Madinah（麦地那伊斯兰大学） ； Arab Open University-Bahrain（巴林阿拉伯开放大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种多模态框架，通过溯源感知机制防止代理AI中的提示注入攻击，提升系统安全性和稳定性。

Comments It is accepted in a conference paper, ICCA 2025 in Bahrain on 21 to 23 December

Lie to Me: Knowledge Graphs for Robust Hallucination Self-Detection in LLMs

对谎言说谎：知识图谱在大语言模型鲁棒性幻觉自检测中的应用

Sahil Kale, Antonio Luca Alfeo

机构 * eCampus University（eCampus大学） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出利用知识图谱提升大语言模型幻觉自检的鲁棒性，通过转换响应为图谱并估算幻觉可能性，实现准确率和F1分数的显著提升。

Comments Accepted to ICPRAM 2026 in Marbella, Spain

Bridging Global Intent with Local Details: A Hierarchical Representation Approach for Semantic Validation in Text-to-SQL

弥合全局意图与局部细节：一种用于文本到SQL语义验证的层次表示方法

Rihong Qiu, Zhibang Yang, Xinke Jiang, Weibin Liao, Xin Gao, Xu Chu, Junfeng Zhao, Yasha Wang

机构 * Peking University（北京大学） 纠错

专题命中 知识编辑与模型理解 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 HEROSQL通过整合逻辑计划和抽象语法树，提升文本到SQL的语义验证效果，实现更准确的细粒度语义检测。

Bright 4B: Scaling Hyperspherical Learning for Segmentation in 3D Brightfield Microscopy

Bright 4B: 通过超球面学习实现3D明场显微镜中分割的扩展

Amil Khan, Matheus Palhares Viana, Suraj Mishra, B. S. Manjunath

机构 * UC Santa Barbara（UC圣芭芭拉大学） ； Allen Institute for Cell Sciences（细胞科学研究院） 纠错

专题命中 知识编辑与模型理解 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 Bright-4B通过超球面学习实现3D明场显微镜中无需荧光的亚细胞结构分割，提供高精度的细胞形态分割方法。

Comments 20 pages, 15 figures

Decomposing Task Vectors for Refined Model Editing

任务向量分解以实现精细模型编辑

Hamed Damirchi, Ehsan Abbasnejad, Zhen Zhang, Javen Shi

机构 * Australian Institute for Machine Learning, Adelaide University（澳大利亚机器学习研究所，阿德莱德大学） ； Monash University（莫纳什大学） 纠错

专题命中 知识编辑与模型理解 ：language model(abstract)；分类 cs.LG

AI总结 本文提出一种任务向量分解方法，通过分离共享知识和独特信息，提升模型编辑的精度和效果。

Comments 16 pages

RAVEL: Rare Concept Generation and Editing via Graph-driven Relational Guidance

RAVEL：通过图驱动的关系引导进行罕见概念生成与编辑

Kavana Venkatesh, Yusuf Dalva, Ismini Lourentzou, Pinar Yanardag

机构 * Virginia Tech（弗吉尼亚理工大学） ； UIUC（伊利诺伊大学香槟分校） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)；分类 cs.CL

AI总结 RAVEL通过图驱动的关系引导方法，提升罕见概念生成与编辑的可控性和可解释性，适用于长尾领域。

Comments Project Page: https://ravel-diffusion.github.io/

VALLR-Pin: Uncertainty-Factorized Visual Speech Recognition for Mandarin with Pinyin Guidance

VALLR-Pin：基于拼音引导的中文视觉语音识别中的不确定性因子化方法

Chang Sun, Dongliang Xie, Wanpeng Xie, Bo Qin, Hong Yang

机构 * State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications（网络与交换技术国家重点实验室，北京邮电大学） ； First Research Institute of the Ministry of Public Security of the People’s Republic of China（中华人民共和国公安部第一研究所） 纠错

专题命中 知识编辑与模型理解 ：LLM(abstract)

AI总结 VALLR-Pin通过引入拼音作为中间表示，结合轻量LLM细化模块，提升了中文视觉语音识别的转录准确性，尤其在多说话人条件下表现优异。