大模型对齐与安全

Trust but Verify: Introducing DAVinCI -- A Framework for Dual Attribution and Verification in Claim Inference for Language Models

信任但验证：介绍DAVinCI——一种用于语言模型声明推断中双属性和验证的框架

Vipula Rawte, Ryan Rossi, Franck Dernoncourt, Nedim Lipka

机构 * Adobe（Adobe公司） ； Adobe Research（Adobe研究院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出DAVinCI框架，通过双属性和验证机制提升语言模型输出的事实可靠性与可解释性，实验表明其在分类准确率、属性精度、召回率和F1分数上提升5-20%。

A Heterogeneous Long-Micro Scale Cascading Architecture for General Aviation Health Management

一种异构长微尺度级联架构用于通用航空健康管理

Xinhang Chen, Zhihuan Wei, Yang Hu, Zhiguo Zeng, Kang Zeng, Wei Wang

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种异构级联架构，通过分离全局异常检测与微尺度故障分类，解决接收场悖论，提升航空设备健康管理的准确性和效率。

Comments Significant methodological flaws have been identified in the experimental validation and metric computation procedures that undermine the reliability of the reported results. A comprehensive revision is underway

The Imperfective Paradox in Large Language Models

大型语言模型中的不完美悖论

Bolei Ma, Yusuke Miyao

机构 * LMU Munich（慕尼黑大学） ； The University of Tokyo（东京大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究揭示大型语言模型在事件复合语义理解上的局限性，发现其依赖表面概率启发式而非逻辑推理，提出ImperfectiveNLI数据集揭示目标导向事件的预测偏差。

Comments ACL 2026

Variational Visual Question Answering for Uncertainty-Aware Selective Prediction

变分视觉问答用于不确定性感知的选择性预测

Tobias Jan Wieczorek, Nathalie Daun, Mohammad Emtiyaz Khan, Marcus Rohrbach

机构 * TU Darmstadt（图宾根大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出变分VQA方法，通过变分贝叶斯方法提升视觉问答和视觉推理任务的可靠性，尤其在低误差容忍度下表现优异，且优于AdamW训练模型。

Comments TMLR April 2026 version. 13 pages main paper, 31 pages with appendix. Updated bibliography

Journal ref Transactions on Machine Learning Research (2026)

Uncertainty Quantification in LLM Agents: Foundations, Emerging Challenges, and Opportunities

大语言模型代理中的不确定性量化：基础、新兴挑战与机遇

Changdae Oh, Seongheon Park, To Eun Kim, Jiatong Li, Wendi Li, Samuel Yeh, Xuefeng Du, Hamed Hassani, Paul Bogdan, Dawn Song, Sharon Li

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Carnegie Mellon University（卡内基梅隆大学） ； Nanyang Technological University（南洋理工大学） ； University of Pennsylvania（宾夕法尼亚大学） ； University of Southern California（南加州大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨了大语言模型代理中不确定性量化的基础、挑战及未来方向，提出新的框架并分析了现实场景中的技术难题。

Comments ACL 2026 Main Conference

From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models

从被动度量到主动信号：不确定性量化在大语言模型中的演变角色

Jiaxin Zhang, Wendi Cui, Zhuohang Li, Lifu Huang, Bradley Malin, Caiming Xiong, Chien-Sheng Wu

机构 * Salesforce AI Research（Salesforce AI研究院） ； Intuit（Intuit公司） ； Vanderbilt University（范德比大学） ； University of California, Davis（加州大学戴维斯分校） ； Vanderbilt University Medical Center（范德比大学医学中心） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文探讨大语言模型中不确定性量化从被动诊断指标到主动控制信号的演变，分析其在高级推理、自主代理和强化学习中的应用及贡献。

Comments This paper has been accepted by ACL 2026

MeasHalu: Mitigation of Scientific Measurement Hallucinations for Large Language Models with Enhanced Reasoning

MeasHalu：通过增强推理缓解大型语言模型中的科学测量幻觉

Ruijun Huang, Zhiqiao Kang, Yuxuan Zhu, Junxiong Li, Jiahao Zhao, Minghuan Tan, Feng Jiang, Min Yang

机构 * Shenzhen Key Laboratory for High Performance Data Mining（深圳高性能数据挖掘重点实验室） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院，中国科学院） ； Artificial Intelligence Research Institute, Shenzhen University of Advanced Technology（深圳先进技术大学人工智能研究院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出MeasHalu框架，通过增强推理和针对性优化缓解LLM的科学测量幻觉问题，改进测量提取的准确性。

Comments To appear in ACL 2026

Beyond Literal Summarization: Redefining Hallucination for Medical SOAP Note Evaluation

超越字面总结：重新定义医疗SOAP笔记评估中的幻觉

Bhavik Vachhani, Kush Shrisvastava, Pranshu Nema, Sai Chiranthan

机构 * Augnito Research（Augnito研究） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出通过校准提示和基于医学本体的检索，重新定义医疗SOAP笔记评估中的幻觉，发现传统评估方法高估了幻觉率，影响模型评估。

Comments 12 pages, 2 figures,3 tables

BoundRL: Efficient Structured Text Segmentation through Reinforced Boundary Generation

BoundRL: 通过强化边界生成实现高效的结构化文本分段

Haoyuan Li, Zhengyuan Shen, Sullam Jeoung, Yueyan Chen, Jiayu Li, Qi Zhu, Shuai Wang, Vassilis Ioannidis, Huzefa Rangwala

机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出BoundRL，一种高效处理长结构化文本的分段与标签预测方法，通过强化学习优化文档重建和语义对齐，减少输出token并降低幻觉风险，实验证明其在复杂提示下优于其他基线方法。

Comments accepted by ACL 2026 findings

[Emerging Ideas] Artificial Tripartite Intelligence: A Bio-Inspired, Sensor-First Architecture for Physical AI

新兴理念：人工三元智能：一种生物启发、以传感器优先的物理AI架构

You Rim Choi, Subeom Park, Hyung-Sin Kim

机构 * Seoul National University（首尔国立大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出人工三元智能（ATI），一种生物启发的物理AI架构，通过模块化设计实现传感器控制与推理的协同进化，提升动态环境下的性能与效率。

Transforming External Knowledge into Triplets for Enhanced Retrieval in RAG of LLMs

将外部知识转化为三元组以增强LLM中RAG的检索

Xudong Wang, Chaoning Zhang, Qigan Sun, Zhenzhen Huang, Chang Lu, Sheng Zheng, Zeyu Ma, Caiyan Qin, Yang Yang, Hengtao Shen

机构 * School of Computing, Kyung Hee University（韩国庆熙大学计算机学院） ； School of Computer Science and Engineering, University of Electronic Science and Technology of China（电子科技大学计算机科学与工程学院） ； School of Information and Software Engineering, University of Electronic Science and Technology of China（电子科技大学信息与软件工程学院） ； School of Robotics and Advanced Manufacture, Harbin Institute of Technology（哈尔滨工业大学机器人与先进制造学院） ； School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 Tri-RAG通过结构化三元组构建提升检索效率，减少冗余信息，提高生成质量与资源利用率。

Comments 12 pages, 5 figures

A Two-Stage LLM Framework for Accessible and Verified XAI Explanations

一个两阶段LLM框架用于可访问且验证的XAI解释

Georgios Mermigkis, Dimitris Metaxakis, Marios Tyrovolas, Argiris Sofotasios, Nikolaos Avgeris, Panagiotis Hadjidoukas, Chrysostomos Stylios

机构 * Department of Computer Engineering and Informatics, University of Patras（帕特拉大学计算机工程与信息学系） ； Department of Informatics and Telecommunications, University of Ioannina（伊奥安尼纳大学信息与电信系） ； Industrial Systems Institute, Athena Research Center（雅典研究中心工业系统研究所） ； Archimedes Unit, Athena Research Center（雅典研究中心阿基米德单位） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出两阶段LLM框架，通过解释器和验证器LLM生成并验证XAI解释，提升解释的准确性与可访问性。

Comments 8 pages, 8 figures, Accepted for publication at the 2026 IEEE World Congress on Computational Intelligence (WCCI 2026)

TRUST Agents: A Collaborative Multi-Agent Framework for Fake News Detection, Explainable Verification, and Logic-Aware Claim Reasoning

TRUST代理：一种用于虚假新闻检测、可解释验证和逻辑感知声明推理的协作多智能体框架

Gautama Shastry Bulusu Venkata, Santhosh Kakarla, Maheedhar Omtri Mohan, Aishwarya Gaddam

机构 * George Mason University（乔治·马歇尔大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 TRUST代理通过协作多智能体框架提升虚假新闻检测的可解释性和逻辑推理能力，引入分解器、陪审团和逻辑聚合器提升复杂声明的验证效果。

Comments 12 pages, 2 figures

Evaluating Small Open LLMs for Medical Question Answering: A Practical Framework

评估小型开放语言模型用于医疗问答：一种实用框架

Avi-ad Avraam Buskila

机构 * Bar-Ilan University（巴伊兰大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 本文提出评估小型本地部署开放权重语言模型在医疗问答中的实用框架，强调可重复性与准确性的平衡，通过八个质量指标和重复推理评估发现模型输出一致性不足，且领域微调影响评估结果。

CARE-ECG: Causal Agent-based Reasoning for Explainable and Counterfactual ECG Interpretation

CARE-ECG：基于因果代理的可解释与反事实ECG解读

Elahe Khatibi, Ziyu Wang, Ankita Sharma, Krishnendu Chakrabarty, Sanaz Rahimi Moosavi, Farshad Firouzi, Amir Rahmani

机构 * University of California, Irvine（加州大学尔湾分校） ； Arizona State University（亚利桑那州立大学） ； California State University, Dominguez Hills（加州州立大学多明格斯山分校） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 CARE-ECG通过统一的表示学习、诊断和解释流程，提升ECG解读的准确性与可信度，减少幻觉，适用于多基准和专家问答场景。

From GPT-3 to GPT-5: Mapping their capabilities, scope, limitations, and consequences

从GPT-3到GPT-5：映射其能力、范围、限制及后果

Hina Afridi, Habib Ullah, Sultan Daud Khan, Mohib Ullah

机构 * University of Bergen（卑尔根大学） ； Norwegian University of Life Sciences（挪威生命科学大学） ； Sohar University（苏哈尔大学） ； Norwegian University of Science and Technology（挪威科技大学） ； Kristiania University of Applied Sciences（克里斯蒂安尼亚应用科学大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文比较分析GPT系列从GPT-3到GPT-5的发展，探讨技术演进、能力变化、部署转变、持续限制及下游影响，强调后续版本不仅是更大更准的模型，而是更复杂的系统。

Revisiting Epistemic Markers in Confidence Estimation: Can Markers Accurately Reflect Large Language Models' Uncertainty?

重新审视置信度标记在置信度估计中的作用：标记能否准确反映大语言模型的不确定性？

Jiayu Liu, Qing Zong, Weiqi Wang, Yangqiu Song

机构 * Department of Computer Science and Engineering, HKUST（香港科技大学计算机科学与工程系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究探讨了大语言模型中置信度标记是否能准确反映其不确定性，通过多数据集评估发现标记在同分布下表现稳定，但异分布下存在不一致，质疑了置信度标记的可靠性。

Comments ACL 2025 Main

Mitigating Hallucination in Large Vision-Language Models via Adaptive Attention Calibration

通过自适应注意力校准缓解大视觉-语言模型中的幻觉

Mehrdad Fazli, Bowen Wei, Ahmet Sari, Ziwei Zhu

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出CAAC框架，通过解决空间感知偏差和模态偏差，提升大视觉-语言模型在长文本生成中的准确性和视觉对齐性。

Uncertainty-Aware Transformers: Conformal Prediction for Language Models

具有不确定性的转换器：语言模型的置信预测

Abhiram Vellore, Niraj K. Jha

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出CONFIDE框架，通过置信预测提升语言模型的可解释性和准确性，在BERT-tiny上测试准确率提升4.09%，并在资源受限和高风险任务中表现出鲁棒性和可解释性。

Better Eyes, Better Thoughts: Why Vision Chain-of-Thought Fails in Medicine

更好的眼睛，更好的思考：为何视觉链式推理在医学中失效

Yuan Wu, Zongxian Yang, Jiayu Qian, Songpan Gao, Guanxing Chen, Qiankun Li, Yu-An Huang, Zhi-An Huang

机构 * Department of Computer Science, City University of Hong Kong (Dongguan)（香港城市大学（东莞）计算机科学系） ； College of Computing and Data Science (CCDS), Nanyang Technological University（南洋理工大学计算与数据科学学院） ； School of Computer Science, Northwestern Polytechnical University（西北工业大学计算机科学学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文发现链式推理在医学视觉问答中表现欠佳，提出通过感知锚定和描述 grounding 提升视觉 grounding 和跨模态对齐以改善性能。

MedVR: Annotation-Free Medical Visual Reasoning via Agentic Reinforcement Learning

MedVR：通过代理强化学习实现无标注的医学视觉推理

Zheng Jiang, Heng Guo, Chengyu Fang, Changchen Xiao, Xinyang Hu, Lifeng Sun, Minfeng Xu

机构 * Tsinghua University（清华大学） ； DAMO Academy, Alibaba Group（阿里巴巴达摩院） ； Hupan Lab（湖畔实验室） ； Key Laboratory of Pervasive Computing, Ministry of Education（教育部普适计算重点实验室） ； Zhejiang University（浙江大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 MedVR通过代理强化学习实现无标注的医学视觉推理，利用熵引导的视觉重定位和基于共识的信用分配机制，在多个公开医学VQA基准上取得最佳性能，提升医疗AI的鲁棒性和透明度。

Comments Accepted by ICLR 2026

Rethinking Entropy Allocation in LLM-based ASR: Understanding the Dynamics between Speech Encoders and LLMs

重新思考基于大语言模型的自动语音识别中的熵分配：理解语音编码器与大语言模型之间的动态关系

Yuan Xie, Jiaqi Song, Guang Qiu, Xianliang Wang, Ming Lei, Jie Gao, Jie Wu

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文从熵分配角度重新审视基于大语言模型的ASR，提出三个指标刻画训练范式如何在语音编码器和LLM之间分配熵减少，通过多阶段训练策略优化参数效率和抗幻觉能力，实验显示在2.3B参数下达到与最新模型相当的性能并有效缓解幻觉。

URMF: Uncertainty-aware Robust Multimodal Fusion for Multimodal Sarcasm Detection

URMF：面向多模态讽刺检测的不确定性感知鲁棒多模态融合

Zhenyu Wang, Weichen Cheng, Weijia Li, Junjie Mou, Zongyou Zhao, Guoying Zhang

机构 * School of Artificial Intelligence, China University of Mining and Technology-Beijing（中国矿业大学（北京）人工智能学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出URMF框架，通过建模模态可靠性提升多模态讽刺检测的准确性和鲁棒性，采用多头交叉注意力和自注意力机制，并结合不确定性建模和联合训练目标，在公开基准上优于现有基线。

Fine-grained Approaches for Confidence Calibration of LLMs in Automated Code Revision

细粒度方法用于LLMs在自动代码修订中的置信度校准

Hong Yi Lin, Chunhua Liu, Haoyu Gao, Patanamon Thongtanunam, Christoph Treude

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出细粒度置信度校准方法，通过局部Platt缩放提升自动代码修订任务中模型的置信度校准效果，降低校准误差。

To Lie or Not to Lie? Investigating The Biased Spread of Global Lies by LLMs

说谎还是不说谎？研究LLMs在全球谎言传播中的偏见

Zohaib Khan, Mustafa Dogan, Ifeoma Okoh, Pouya Sadeghi, Siddhartha Shrestha, Sergius Justus Nyah, Mahmoud O. Mokhiamar, Michael J. Ryan, Tarek Naous

机构 * Fatima Fellowship（法蒂玛奖学金） ； Stanford University（斯坦福大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 研究LLMs在多语言多地区传播虚假信息的行为，揭示低资源语言和低HDI国家中谎言传播的系统性差异，提出GlobalLies数据集以支持减少全球虚假信息传播的策略。

Comments Accepted at ACL 2026 Main Conference

SymptomWise: A Deterministic Reasoning Layer for Reliable and Efficient AI Systems

SymptomWise: 一种用于可靠和高效人工智能系统的确定性推理层

Isaac Henry, Avery Byrne, Christopher Giza, Ron Henry, Shahram Yazdani

机构 * University of California Los Angeles, David Geffen School of Medicine（加州大学洛杉矶分校大卫·格芬医学院） ； University of Southern California（南加州大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 SymptomWise通过分离语言理解与诊断推理，结合专家知识和确定性推理，提升AI系统可靠性与可解释性，初步验证在儿科神经病学案例中表现优异。

Comments 18 pages, 1 figure,

Confidence Should Be Calibrated More Than One Turn Deep

置信度应比单轮更深入地校准

Zhaohan Zhang, Chengzhengxu Li, Xiaoming Liu, Chao Shen, Ziquan Liu, Ioannis Patras

机构 * Queen Mary University of London（伦敦玛丽女王大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出多轮校准任务，解决多轮对话中置信度动态校准问题，通过MTCal和ConfChat提升模型在多轮交互中的事实性和一致性。

Uncertainty-Guided Latent Diagnostic Trajectory Learning for Sequential Clinical Diagnosis

不确定性的引导潜在诊断轨迹学习用于顺序临床诊断

Xuyang Shen, Haoran Liu, Dongjin Song, Martin Renqiang Min

机构 * University of Connecticut（康涅狄格大学） ； Texas A&M University（德克萨斯农工大学） ； NEC Laboratories America（NEC美国实验室） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出基于规划LLM和诊断LLM的潜在诊断轨迹学习框架，通过后验分布优先选择高诊断信息轨迹，提升顺序临床诊断的准确率并减少检测次数。

Probabilistic Tree Inference Enabled by FDSOI Ferroelectric FETs

基于FDSOI铁电FETs的概率树推断

Pengyu Ren, Xingtian Wang, Boyang Cheng, Jiahui Duan, Giuk Kim, Xuezhong Niu, Halid Mulaosmanovic, Stefan Duenkel, Sven Beyer, X. Sharon Hu, Ningyuan Cao, Kai Ni

机构 * University of Notre Dame（圣母大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出一种基于FDSOI铁电FETs的硬件平台，实现概率决策树的高效推断，提供高能效的不确定性估计和噪声容忍，优于传统决策树。

TS-Agent: Understanding and Reasoning Over Raw Time Series via Iterative Insight Gathering

TS-Agent：通过迭代洞察获取理解并推理原始时间序列

Penghang Liu, Elizabeth Fons, Annita Vapsi, Mohsen Ghassemi, Svitlana Vyetrenko, Daniel Borrajo, Vamsi K. Potluru, Manuela Veloso

机构 * JPMorgan AI Research, NY, USA（摩根大通人工智能研究院，纽约，美国） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 TS-Agent通过迭代洞察获取机制，在时间序列理解和推理任务中匹配或超越文本、视觉及时间序列语言模型基线，尤其在零样本设置下表现更优。

Comments NeurIPS 2025 Workshop on Foundations of Reasoning in Language Models