大模型对齐与安全

Training Large Language Models for Self-Explanation Faithfulness

训练用于自解释忠实性的大语言模型

Yeoktatt Cheah, María Pérez-Ortiz, Noah Y. Siegel, Oana-Maria Camburu

机构 * Imperial College London（帝国理工学院） 纠错

专题命中 幻觉与事实性 ：分类 cs.CL、cs.AI、cs.LG；alignment(comments)

AI总结 提出强化学习方法，将忠实性度量改为训练目标，研究模型能否检测及优化影响决策因素以提高自解释忠实性。实验用随机词和用户偏差插入，微调模型在忠实性度量上显著改进，交叉干预泛化有模型依赖等情况，为减少不忠实推理提供路径。

Comments To appear at the ICLR 2026 Workshop on Representational Alignment (Re-Align), 10 pages (long paper)

The Effect of Model Size on LLM Post-hoc Explainability via LIME

Henning Heyen, Amy Widdicombe, Noah Y. Siegel, Maria Perez-Ortiz, Philip Treleaven

专题命中 幻觉与事实性 ：分类 cs.CL、cs.AI、cs.LG；trustworthy(comments)

Comments Published at ICLR 2024 Workshop on Secure and Trustworthy Large Language Models

Verbosity Tradeoffs and the Impact of Scale on the Faithfulness of LLM Self-Explanations

冗长性权衡与规模对LLM自我解释忠实度的影响

Noah Y. Siegel, Nicolas Heess, Maria Perez-Ortiz, Oana-Maria Camburu

机构 * Google DeepMind（谷歌DeepMind） ； Centre for AI, University College London（伦敦大学学院人工智能中心） ； Imperial College London（伦敦帝国学院） ； University College London（伦敦大学学院） 纠错

专题命中 幻觉与事实性 ：分类 cs.CL、cs.AI；safety(comments)；trustworthy(comments)

AI总结 本文分析13个模型家族共75个模型的反事实忠实度，提出phi-CCT和F-AUROC两个新指标，发现更大更强的模型在所有指标上更忠实。

Comments ICLR 2026 Workshop on Principled Design for Trustworthy AI - Interpretability, Robustness, and Safety across Modalities 67 pages, 13 figures

Enhancing Deep Neural Network Reliability with Refinement and Calibration

通过精炼和校准增强深度神经网络的可靠性

Ramya Hebbalaguppe, Ajay Shastry, Soumya Suvra Ghosal, Chetan Arora

机构 * SIT, Indian Institute of Technology Delhi, New Delhi, India（印度理工学院德里SIT，新德里） 纠错

专题命中 幻觉与事实性 ：分类 cs.AI、cs.LG；alignment(comments)；trustworthy(comments)

AI总结 针对深度神经网络置信度不可靠的问题，提出一种通过监督对比学习显式优化精炼度的损失函数，并联合优化校准、精炼和准确性的统一训练框架RefCal，在CIFAR-100-LT数据集上显著提升性能。

Comments ICLR 2026, Trustworthy AI and Representational Alignment

Bridging the Missing-Modality Gap: Improving Text-Only Calibration of Vision Language Models

弥合缺失模态的差距：改进纯文本校准的视觉语言模型

Mingyeong Kim, Jungwon Choi, Chaeyun Jang, Juho Lee

机构 * Graduate School of AI, KAIST（人工智能研究生院，韩国科学技术院） 纠错

专题命中 幻觉与事实性 ：分类 cs.CL、cs.AI；safety(comments)；trustworthy(comments)

AI总结 本文提出Latent Imagination Module，通过预测文本输入的潜在嵌入来提升纯文本环境下视觉语言模型的准确性和校准性能。

Comments 9 pages, 16 figures. Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI: Interpretability, Robustness, and Safety across Modalities

A Hybrid Discrete-Event and Agent-Based Simulation Approach to Model Circular Supply Chains in Healthcare: A Case Study of Laparoscopic Scissors

用于建模医疗领域循环供应链的混合离散事件与基于智能体的仿真方法：以腹腔镜剪刀为例

Mohd Shoaib, Antuela Tako, Shahin Rahimifard

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文以腹腔镜剪刀供应链为案例，采用混合离散事件与基于智能体的仿真方法，评估医疗领域引入循环医疗器械设计的影响，为医院提供最优库存策略，指出采用循环产品可降低环境影响但需大量前期投资。

Rethinking LLM Verification: Evidence Structure, Uncertainty, and Selective Refinement

重新思考大语言模型验证：证据结构、不确定性与选择性优化

Uma Ranjan, Kunal Tilaganji, Aditya Koul, Anurag Mahipal, Dashpreet Singh, Hriday Rana, Manan Jain, Sidharth Gupta, Ajo Babu George, Vineeth Balasubramanian, Nagarajan Natarajan, Amit Sharma

机构 * Indian Institute of Technology Jammu（贾姆穆印度理工学院） ； Microsoft Research（微软研究院） ； SCB Dental College and Hospital（SCB牙科学院与医院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 该研究针对LLMs医疗应用的安全问题，提出两阶段框架，利用模型弃权信号优化推理，在GPT-5.5、DeepSeek-R1模型及MedReason、MedQA数据集上显著提升了医疗假设验证的准确率。

Comments Withdrawn by the authors due to premature submission before final review

Video Evidence to Reasoning Efficient Video Understanding via Explicit Evidence Grounding

视频证据推理：通过显式证据接地实现高效的视频理解

Yanxiang Huang, Guohua Gao, Zhaoyang Wei

机构 * Department of Applied Mathematics, The Hong Kong Polytechnic University（应用数学系，香港理工大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本文提出CoE框架，通过显式证据接地模块和强化学习优化的锚定协议，提升视频推理的准确性和可靠性。

Comments 6 pages

Journal ref ICME 2026

Look Clearly Before Answering: Mitigating Hallucinations in LVLMs via Saliency-Driven Perceptual Realignment

回答前看清楚：通过显著性驱动的感知重新对齐减轻LVLMs中的幻觉

Pengxu Chen, Yao Zhu, Guangming Zhu, Jun Sheng, Jincai Huang, Xiangyang Ji, Liang Zhang

机构 * Xidian University（西安电子科技大学） ； Tsinghua University（清华大学） ； Shanghai Road Transport Development Center（上海市道路运输发展中心） ； Hunan Institute of Advanced Technology（湖南先进技术研究院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 研究针对LVLMs易产生幻觉问题，提出无需训练的SDPR框架，通过显著性驱动注意力重新分配、缓存对齐及先验约束对比解码，整体对齐视觉意识，在多基准测试中优于现有方法，无需额外训练且开销小。

Comments Accepted by ACM Multimedia 2026

MPC for underactuated spacecraft control with a Lyapunov supervised physics-informed neural network correction layer

基于李雅普诺夫监督的物理信息神经网络校正层的欠驱动航天器MPC控制

Amirhossein Ayanmanesh Motlaghmofrad, Carlo Cena, Mauro Martini, Marcello Chiaberge

机构 * Politecnico di Torino（托斯纳理工学院） ； Argotec S.R.L.（Argotec公司） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 针对欠驱动航天器姿态控制，提出一种分层架构，结合非线性模型预测控制、物理信息神经网络和李雅普诺夫监督机制，在不确定性下降低稳态误差并保持鲁棒性。

Comments Accepted at SPAICE (AI in and for Space) 2026

Reinforcing Consistency in Video MLLMs with Structured Rewards

通过结构化奖励强化视频MLLMs的一致性

Yihao Quan, Zeru Shi, Jinman Zhao, Ruixiang Tang

机构 * Rutgers University（罗格斯大学） ； University of Toronto（多伦多大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 研究通过结构化奖励提升视频MLLMs的一致性，发现传统监督不足，提出结合事实和时间单元的奖励机制，提升视频理解准确性。

Comments Accepted by COLM 2026

Beyond Accuracy: Assessing Calibration of Geospatial Foundation Models and Their Sensitivity to Distribution Shifts

超越准确率：评估地理空间基础模型的校准度及其对分布偏移的敏感性

Nils Lehmann, Jakob Gawlikowski, Burak Ekim, Isaac Corley, Xiao Xiang Zhu

机构 * Technical University of Munich (TUM)（慕尼黑工业大学） ； German Aerospace Center (DLR)（德国航空航天中心） ； Massachusetts Institute of Technology (MIT)（麻省理工学院） ； Taylor Geospatial（泰勒地理空间公司） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 该研究指出GeoFMs仅用准确率排序的不足，分析其校准度与分布偏移敏感性，发现EO预训练模型更易过度自信，提出需多条件多指标评估以缩小实际部署差距。

ConfTriage: A Calibration-Aware LLM Triage Framework for Pulmonary Nodule Malignancy with Selective Specialist Deferral

ConfTriage：用于肺结节恶性程度分级的校准感知大语言模型分级框架，结合选择性专家模型转诊机制

Md Rabiul Islam, Samir Abdaljalil, Erchin Serpedin, Hasan Kurban

机构 * Texas A&M University（德克萨斯农工大学） ； Hamad Bin Khalifa University（哈马德·本·哈利法大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本研究提出ConfTriage框架，以校准感知LLM为核心结合专家DL后备模型，通过肺结节属性的自然语言表述实现分级，在LIDC-IDRI数据集上取得88.22%的F1分数与0.92的AUC，可高效处理多数病例并仅转诊不确定病例，为医疗决策支持提供了新路径。

Comments 14 pages, 8 figures. Currently under review

Information-Aware Model Predictive Control for Satellite Inspection

面向卫星巡检任务的信息感知模型预测控制

Sarah E. Clees, Sean Phillips, Christopher Petersen

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 该研究提出信息感知MPC框架，将估计协方差纳入控制目标，通过数值模拟验证其能生成满足约束且主动降低目标估计协方差的卫星巡检轨迹。

Comments Presented at the 2026 AAS/AIAA Astrodynamics Specialist Conference in Whistler, BC, Canada. v2 - corrected title metadata, content remains unchanged

TruthLens: Object Hallucination Detection via Self-Evaluating Truthfulness Scores in LVLMs

TruthLens：通过大型视觉语言模型（LVLM）中的自评估真实性分数检测对象幻觉

Yanqi Wu, Runhe Lai, Xinhua Lu, Qichao Chen, Zhiping Zhou, Jia-Xin Zhuang, Weijiang Yu, Ruixuan Wang

机构 * School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院） ； Peng Cheng Laboratory（鹏城实验室） ； University of Nottingham Malaysia（马来西亚诺丁汉大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 TruthLens 是一种无需额外成本的 LVLM 对象幻觉检测框架，通过微调 LM 头部输出真实性分数，在 MS-COCO 数据集上的 Qwen2.5-VL-7B 上实现了超 17% 的 AUROC 提升，性能达当前最优。

Comments Accepted by ECCV 2026

Cross-platform epistemic verification for improving factual reliability in AI-generated news summarization

用于提升AI生成新闻摘要事实可靠性的跨平台认知验证

Zhuo Xie, Haoze Ni

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 本研究提出多源证据共识验证（MECV）框架，通过多异构来源证据聚合与多LLM陪审团机制修正AI生成新闻摘要的幻觉，在SummEdits基准上提升了事实一致性，为可信AI与自动化新闻研究提供了新方法。

RAC: Reference-Aware Activation Compression for Communication-Efficient Split LLM Inference

RAC：面向通信高效的分割式大语言模型推理的参考感知激活压缩

Guotao Yang, Mingxi Zhao, Haopeng Li, Zhengchao Wang, Sheng Chen, Yitao Hu, Keqiu Li

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 该研究针对分割式LLM推理的通信瓶颈，提出参考感知激活压缩方法RAC，通过参考感知编解码器等技术降低通信开销，在多模型多链路对实验中验证了其时间性能提升与任务分数变化情况。

Comments 10 pages, 7 figures, 2 tables

How Developers Experience Debugging Unfamiliar Codebases with Code Tours Generated and Evaluated by Local LLMs

开发者使用本地大语言模型生成和评估的代码导航体验陌生代码库调试的研究

Martin Balfroid, Julien Albert, Dzenatan Aliti, Xavier Devroey, Benoît Vanderose

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 该研究探讨开发者使用本地大语言模型生成评估的代码导航调试陌生代码库的体验，明确代码导航组件属性对开发者的影响，为优化代码导航生成与评估提供方向。

Fact-Checking at Scale: Multimodal AI for Authenticity and Context Verification in Online Media

大规模事实核查：用于在线媒体真实性与上下文验证的多模态AI

Van-Hoang Phan, Tung-Duong Le-Duc, Long-Khanh Pham, Anh-Thu Le, Quynh-Huong Dinh-Nguyen, Dang-Quan Vo, Hoang-Quoc Nguyen-Son, Anh-Duy Tran, Dang Vu, Minh-Son Dao

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 本文为2025年ACM多媒体大会多媒体验证挑战赛开发了多模态验证系统，整合视觉取证等技术，可检测脱离上下文的媒体，提升了多媒体验证水平，为相关从业者提供实用工具。

Goal-Oriented Logic-based Semantic Communication for Neuro-Symbolic Reasoning with Applications onto Autonomous Driving

面向目标的基于逻辑的语义通信及用于自动驾驶的神经符号推理

Ahmet Faruk Saz, Duo Xu, Faramarz Fekri

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文针对自动驾驶场景，提出基于一阶逻辑的目标导向语义通信方法，通过选择关键证据传输实现安全决策，在相同通信预算下优于均匀证据选择。

FabriVLA: A Lightweight Vision-Language-Action Model with Conformal Action Chunk Uncertainty

FabriVLA：用于精确多任务操作的轻量级视觉-语言-动作模型

Shiyuan Yang, Borong Zhang, Jizheng Zhang, Zhijia Tao, Junfei Guo, Donglai Ran, Xu Bian, Qingbiao Li

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 研究提出FabriVLA模型，结合视觉-语言主干与流匹配动作头，经单阶段联合优化训练。在Meta-World MT50基准测试中，该模型基于1B规模VLM，不依赖数十亿参数主干，实现90.0%平均成功率，展现强大性能。

Think2Go: Generative Next POI Recommendation with LLM Reasoning

Think2Go：基于大语言模型推理的生成式下一个兴趣点（POI）推荐

Zhuang Zhuang, Shanshan Feng, Hangwei Qian, Mingqi Yang, Heng Qi, Yanming Shen, Baocai Yin

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 Think2Go框架统一SFT与RL推理，通过优势加权机制校准策略优化，解决现有POI推荐模型的意图捕捉不足问题，提升推荐性能与稳健性。

Comments Accepted by KDD 2026 Research Track Cycle 1 (Oral presentation)

Anchoring and Steering Diffusion: Enhancing the Faithfulness of Text-to-Image Generation at Inference Time

锚定与引导扩散：在推理时提升文生图生成的忠实度

Xinyi Wang, Yuyang Huang, Yalin Su, Pengcheng Luan, Tao Zhang, Feiming Wei, Wenxian Yu

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 提出无训练框架AnchorSteer，通过语义锚定与反射引导组件改进文生图扩散模型的推理，在GenEval等基准上提升文本-图像对齐性能且保持视觉质量。

Comments Accepted by ECCV 2026

Automating structural reliability analysis with a multi-agent large language model framework

使用多智能体大语言模型框架实现结构可靠性分析自动化

Jaehwan Jeon, Chang Hee Lee, Taeyong Kim

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 研究提出多智能体大语言模型框架，通过专门智能体处理结构可靠性分析流程，用QLoRA微调方法规划器，由确定性求解器计算结果，降低专业知识壁垒，保持计算可信度，实现结构可靠性分析自动化。

Comments 41 pages, 10 figures. Submitted to Automation in Construction

RASR: Range-Aware Scale Recovery for Metric UAV Navigation

RASR：用于度量无人机导航的距离感知尺度恢复

Hongtao Liang, Xinyu Shao, Chenxu Wang, Yiyao Wan, Jiahuan Ji, Fangwei Ye, Fuhui Zhou, Qihui Wu

机构 * College of Electronic and Information Engineering, Nanjing University of Aeronautics and Astronautics（南京航空航天大学电子信息工程学院） ； Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Noah Ark Lab, Huawei（华为诺亚方舟实验室） ； College of Automation Engineering, Nanjing University of Aeronautics and Astronautics（南京航空航天大学自动化工程学院） ； College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics（南京航空航天大学人工智能学院） ； College of Computer Science and Technology, Nanjing University of Aeronautics and Astronautics（南京航空航天大学计算机科学与技术学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 研究在GNSS信号阻断时无人机精确最后一米导航问题，提出RASR方法，将尺度恢复核心与校准模块分离，核心压缩几何成描述符并全局校准，校准模块进行残差校正和对齐，在PairUAV评估中取得较好结果。

Comments 5 pages, 4 figures. Technical report for the UAVM 2026 PairUAV Challenge

Machine Learning Challenges in Intelligent Unmanned Aerial Vehicle Operations in Developing Economie

发展中经济体智能无人机操作中的机器学习挑战

Isuru Munasinghe, Nethmi Pathirana, Charitha Dombawala, Asanka Perera, Akila Pemasiri

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 探讨发展中经济体无人机智能操作面临的机器学习挑战，涉及导航、感知等核心功能领域，因资源、环境等因素受限，凸显了实验性能与实际部署间的差距。

Hallucination Detector: A hybrid LLM and Semantic Scholar tool calling for detecting hallucination in scientific literature on AtomGPT.org

幻觉检测器：一种用于在AtomGPT.org上检测科学文献中幻觉的混合大语言模型和语义学者工具调用

Harichandana Neralla, Jaehyung Lee, Aldo H. Romero, Kamal Choudhary

专题命中 幻觉与事实性 ：trustworthy(abstract)

AI总结 研究针对大语言模型用于科学写作时出现的虚构参考文献问题，提出结合大语言模型字段提取与语义学者结构化检索的AtomGPT参考文献检查器，经基准测试能可靠标记多数幻觉引用，保障文献引用可信度。

The ICSCREAM methodology: Identification of penalizing configurations in computer experiments using screening and metamodel -- Applications in thermal-hydraulics

ICSCREAM方法：利用筛查和元模型识别计算机实验中的惩罚配置——热力学-流体力学应用

A. Marrel, Bertrand Iooss, V Chabridon

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 ICSCREAM方法通过全局敏感性分析和元模型技术，高效识别热力学-流体力学事故模拟中的临界配置，减少计算成本。

A Multi-Agent Framework for Democratizing XR Content Creation in K-12 Classrooms

面向K-12教室的多智能体框架：民主化XR内容创作

Yuan Chang, Zhu Li, Jiaming Qu

专题命中 幻觉与事实性 ：safety(abstract)

AI总结 本文提出多智能体XR创作框架，通过四个专业代理解决K-12教育中XR内容创作的技术障碍和生成AI的幻觉风险，实现教育内容的安全生成与教学增强。

Fiber Bragg grating-based acoustic sensing system enabled by ML-trained, sub-picometer-tunable hybrid III-V/SiN lasers

基于光纤布拉格光栅的声学传感系统：采用机器学习训练、亚皮米可调谐混合III-V/SiN激光器

Prabhav Gaur, Premanand Chandramani, Yossef Ehrlichman, Mohammed Alshamari, Yufei Chu, Abu Mitul, John Simons, Ibrahim G. Yayla, Ming Han, Ashok V. Krishnamoorthy

专题命中 幻觉与事实性 ：alignment(abstract)

AI总结 提出一种机器学习训练的混合III-V/SiN可调谐激光器，实现亚皮米级波长控制，用于光纤布拉格光栅声学传感系统，实现高灵敏度、多通道分布式声发射检测与自适应空间定位。