大模型对齐与安全

Explainable Uncertainty Quantification for Wastewater Treatment Energy Prediction via Interval Type-2 Neuro-Fuzzy System

通过区间型2神经模糊系统实现废水处理能耗预测的可解释不确定性量化

Qusai Khaled, Bahjat Mallak, Uzay Kaymak, Laura Genga

机构 * Jheronimus Academy of Data Science, Eindhoven University of Technology, Eindhoven, The Netherlands（杰罗尼穆斯数据科学学院，埃因霍温理工大学，埃因霍温，荷兰） ； Haskoning, Amersfoort, The Netherlands（哈索宁，阿默斯福尔特，荷兰） ； School of Industrial Engineering, Eindhoven University of Technology（工业工程学院，埃因霍温理工大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种区间型2神经模糊系统，用于废水处理能耗预测，通过模糊规则结构生成可解释的预测区间，分解不确定性层级，提升决策可靠性。

Comments Submitted to 21st International Conference on Information Processing and Management of Uncertainty in Knowledge-Based Systems (IPMU2026)

Journal ref IPMU 2026, Commun. Comput. Inf. Sci. 3020, 392-406 (2026)

Measuring Semantic Progress in Multi-turn Dialogue via Information Gain

通过信息增益衡量多轮对话中的语义进展

Paul He, Shiva Kasiviswanathan, Dominik Janzing

机构 * NTU Singapore（新加坡南洋理工大学） ； Amazon（亚马逊） ； Amazon Research, Tübingen, Germany（亚马逊研究院（德国图宾根）） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 提出基于信息论的信息增益指标，通过高斯嵌入近似量化多轮对话中问题相关的语义进展，无需LLM推理，在多个基准上取得与人类判断一致的结果。

Comments Preprint. 26 pages

Decoupling Thought from Speech: Knowledge-Grounded Counterfactual Reasoning for Resilient Multi-Agent Argumentation

思想与言语解耦：基于知识反事实推理的鲁棒多智能体辩论

Jakub Masłowski, Jarosław A. Chudziak

机构 * Institute of Computer Science, Warsaw University of Technology（华沙技术大学计算机科学学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出知识反事实推理（KG-CFR）双阶段架构，通过私有规划缓冲与公共执行层分离，在动态资源分配环境下将扰动后论证质量从0.694提升至0.822，并减少语义循环。

Comments Accepted for publication in the Proceedings of the 30th International Conference on Knowledge-Based and Intelligent Information & Engineering Systems (KES 2026)

Code Is More Than Text: Uncertainty Estimation for Code Generation

代码不仅仅是文本：代码生成的不确定性估计

Yuling Shi, Caiqi Zhang, Yuexian Li, Haopeng Wang, Yeheng Chen, Nigel Collier, Xiaodong Gu

机构 * Shanghai Jiao Tong University（上海交通大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.LG

AI总结 针对代码生成中错误程序的可靠性问题，提出基于词法、算法和功能三个正交轴的不确定性估计方法，在五个代码LLM上将AUROC提升8.1个百分点。

Sample-Efficient Post-Training for LEGO Spatial-Physics Reasoning

面向LEGO空间物理推理的样本高效后训练

Yuhuan Yuan, Zhouliang Yu, Minghao Liu, Weiyang Liu, Ge Lin Kan

机构 * HKUST(GZ)（香港科技大学（广州）） ； CUHK（香港中文大学） ； ZODA 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 针对LLM生成LEGO组装时出现的物理有效但几何语义错位问题，提出基于模型的数据选择方法和样本高效强化学习PVPO，结合体素空间几何奖励，提升结构、语义对齐和物理有效性。

Comments Technical Report V1, 15 pages, 6 figures, 3 tables

Bridging Domain Expertise and Generalization for Performance Estimation

弥合领域专业知识与泛化能力以实现性能估计

Shuxuan Li, Zhilin Zhao, Quyu Kong, Wei-Shi Zheng

机构 * School of Computer Science and Engineering, Sun Yat-sen University, China（中山大学计算机科学与工程学院） ； Key Laboratory of Machine Intelligence and Advanced Computing, Ministry of Education, China（教育部人工智能与先进计算重点实验室） ； Shenzhen Loop Area Institute, China（深圳环湖院） ； Alibaba Cloud（阿里云） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出FRAP方法，利用外部基础模型和基础模型的互补优势，通过温度缩放校准和对齐预测分布，构建更可靠的伪标签参考分布，从而在分布偏移下准确估计模型性能。

Metamorphic Testing with the Rashomon Set: Explanation Faithfulness in Machine Learning

使用Rashomon集的蜕变测试：机器学习中的解释忠实性

Helge Spieker, Jørn Eirik Betten, Arnaud Gotlieb

机构 * Norwegian Ministry of Education and Research（挪威教育与研究部） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 针对机器学习中因Rashomon效应导致解释不可靠的问题，提出基于蜕变测试的框架，通过后验解释方法评估特征归因的忠实性，无需真实标签。

Comments Accepted at 10th International Workshop on Metamorphic Testing (MET 2026)

From Out-of-Distribution Detection to Hallucination Detection: A Geometric View

从分布外检测到幻觉检测：一个几何视角

Litian Liu, Reza Pourreza, Yubing Jian, Yao Qin, Roland Memisevic

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过将幻觉检测重新定义为分布外检测问题，利用几何视角提出了一种无需训练、基于单样本的检测方法，在推理任务中实现了高准确率。

Comments ICML 2026 main conference paper

Can I Take Another Dose? Evaluating LLM Decision-Making Under Temporal Uncertainty in OTC Dosing QA

我可以再服一剂吗？评估LLM在OTC剂量问答中时间不确定性下的决策能力

Maroof Kousar, Yibo Hu

机构 * Illinois Institute of Technology（伊利诺伊理工学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出DOSEBENCH基准测试，评估大语言模型在非处方药剂量问答中处理时间推理、约束遵循和不确定性的能力。

Comments 16 pages, 7 figures

PAND: Prompt-Aware Neighborhood Distillation for Lightweight Fine-Grained Visual Classification

PAND：面向提示的邻域蒸馏用于轻量级细粒度视觉分类

Qiuming Luo, Yuebing Li, Feng Li, Chang Kong

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出PAND框架，通过提示感知语义校准和邻域感知结构蒸馏，将大型视觉语言模型知识迁移至轻量网络，在细粒度分类任务上超越现有方法。

Comments Accepted by ICIP2026

SeSE: Black-Box Uncertainty Quantification for Large Language Models Based on Structural Information Theory

SeSE: 基于结构信息理论的大语言模型黑盒不确定性量化

Xingtao Zhao, Hao Peng, Dingli Su, Xianghua Zeng, Chunyang Liu, Jinzhi Liao, Philip S. Yu

机构 * School of Cyber Science and Technology Beihang University（北航信息科学与技术学院） ； School of Computer Science and Engineering Beihang University（北航计算机科学与工程学院） ； Didi Chuxing（滴滴出行） ； Laboratory for Big Data and Decision National University of Defense Technology（国防科技大学大数据与决策实验室） ； Department of Computer Science University of Illinois Chicago（伊利诺伊大学芝加哥分校计算机科学系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出SeSE框架，通过构建语义空间的最优层次抽象并计算结构熵，实现大语言模型的黑盒不确定性量化，理论推广了语义熵并在长文本生成中优于现有方法。

Comments Accepted by UAI 2026

Resonant Context Anchoring: Decoupling Attention Routing and Signal Gain at Inference Time

共振上下文锚定：推理时解耦注意力路由与信号增益

Mingkuan Zhao, Yide Gao, Wentao Hu, Suquan Chen, Tianchen Huang, Zhenhua An, Zetao Chang, Xiayu Sun, Yuheng Min

机构 * Xi’an Jiaotong University（西安交通大学） ； University of Science and Technology of China（中国科学技术大学） ； Tongji University（同济大学） ； Tsinghua University（清华大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 提出共振上下文锚定（RCA）方法，通过解耦自注意力中的路由逻辑与信息幅度，在推理时动态增强上下文令牌的信号，有效抑制大语言模型的参数化幻觉，提升事实一致性。

CAREF: Calibration-Aware Regularization for Explanation Faithfulness Without Rationale Supervision

CAREF: 面向解释忠实性的校准感知正则化，无需理由监督

Naphat Nithisopa, Teerapong Panboonyuen

机构 * MARSAIL ； Chulalongkorn University（朱拉隆梭大学） ； PBYAIL (Panboonyuen AI Lab)（PBYAIL（Panboonyuen人工智能实验室）） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 提出CAREF框架，通过校准感知正则化联合优化预测准确性和解释忠实性，无需理由监督，在四个NLE基准上以少量可训练参数取得最佳性能。

Comments 10 pages

Reconsidering Positional Supervision in Masked Diffusion Language Model Training

重新审视掩码扩散语言模型训练中的位置监督

Mengyu Ye, Keito Kudo, Ryosuke Takahashi, Jun Suzuki

机构 * Tohoku University（东大大学） ； RIKEN（理化学研究所） ； NII LLMC（国家信息研究所LLMC） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 针对掩码扩散语言模型对位置偏移敏感的问题，提出基于连接主义时序分类（CTC）的目标函数，通过引入松弛令牌和更新折叠映射来吸收位置不确定性，从而在开放生成基准上取得一致提升。

Comments preprint, WIP

Benchmarking Machine Learning Uncertainty Quantification Methodologies for Predicting Turbine Gas Temperature Degradation

机器学习不确定性量化方法在预测涡轮燃气温度退化中的基准测试

Jostein Barry-Straume, Changmin Son, Adrian Sandu, Gavan Burke, Rekha Sundararajan, Andrew Rimell, James G. Steinrock

机构 * Computational Science Laboratory（计算科学实验室） ； Department of Computer Science（计算机科学系） ； Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了五种预测区间构建方法（Delta法、贝叶斯蒙特卡洛Dropout、Bootstrap法、下上界估计和均值方差估计），在统一实验框架下评估其捕捉涡轮燃气温度神经网络预测不确定性的能力，并基于覆盖概率、归一化平均预测区间宽度和覆盖宽度准则等指标比较了各方法的可靠性、锐度及权衡，为发动机健康管理中的预测区间方法选择和调优提供了实用指南。

Belief-Sim: Towards Belief-Driven Simulation of Demographic Misinformation Susceptibility

Belief-Sim：迈向信念驱动的人口统计错误信息易感性模拟

Angana Borah, Zohaib Khan, Rada Mihalcea, Verónica Pérez-Rosas

机构 * University of Michigan - Ann Arbor（密歇根大学安娜堡分校） ； Texas State University（德克萨斯州立大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 提出BeliefSim框架，利用心理学分类和调查先验构建人口信念档案，通过提示条件化和后训练适应，实现基于信念模拟人口统计错误信息易感性，对齐度达92%。

Comments Paper Under Review

PaTAS: A Framework for Trust Propagation in Neural Networks Using Subjective Logic

PaTAS：基于主观逻辑的神经网络信任传播框架

Koffi Ismael Ouattara, Ioannis Krontiris, Theo Dimitrakos, Dennis Eisermann, Houda Labiod, Frank Kargl

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出PaTAS框架，利用主观逻辑在神经网络中并行传播信任，通过信任节点和信任函数量化输入、参数和激活的信任，并设计参数信任更新和推理路径信任评估方法，以在对抗或退化条件下提供可解释的信任估计。

Evidence-Linked Radiology Reporting: A Human-Supervised Reference Architecture for Structured Imaging Intelligence

证据关联放射学报告：面向结构化成像智能的人机协同参考架构

Houman Kazemzadeh, Kamyar Naderi

机构 * Xylemed 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL、cs.AI

AI总结 提出一种人机协同、证据关联的参考架构，通过结合特定检查模板、语音到结构处理、测量与分割捕获、受控AI辅助起草以及基于DICOM、HL7 FHIR等标准的互操作性，将放射学报告从自由文本转化为结构化智能层，支持审阅报告、纵向比较、临床数据重用及系统集成。

Comments Technical report, 27 pages, 2 figures, 12 tables, 1 listing; reference architecture paper; does not report clinical outcomes or validated diagnostic performance

Uncertainty-DTW for Sequences and Visual Tokens

Uncertainty-DTW 用于序列和视觉标记

Lei Wang, Syuan-Hao Li, Yongsheng Gao, Piotr Koniusz

机构 * School of Engineering and Built Environment, Electrical and Electronic Engineering, Griffith University（工程与建筑环境学院，电气与电子工程学院，格里菲斯大学） ； School of Computer Science and Engineering, University of New South Wales（计算机科学与工程学院，新南威尔士大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 提出不确定性感知的动态时间规整（uDTW）框架，通过异方差不确定性建模和最大似然估计实现鲁棒对齐，并推广到视觉标记集，在多个领域取得优于现有方法的结果。

Comments Research report

LLMs Uncertainty Quantification via Adaptive Conformal Semantic Entropy

通过自适应共形语义熵进行LLM不确定性量化

Hamed Karimi, Vaishali Meyappan, Reza Samavi

机构 * Toronto Metropolitan University（多伦多 Metropolitan 大学） ； Vector Institute（向量研究所） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 提出自适应共形语义熵（ACSE）方法，通过聚类语义熵并自适应调整不确定性分数，结合共形校准实现统计可靠的接受/弃权决策，在多个数据集上优于现有基线。

Comments Accepted for publication in the Proceedings of the 35th International Joint Conference on Artificial Intelligence (IJCAI 2026); 14 Pages

Convergence Without Understanding: When Language Models Agree on Representations but Disagree on Reasoning

没有理解的趋同：当语言模型在表示上一致但在推理上分歧时

Muhammad Usama, Dong Eui Chang

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过分析16个语言模型在800个推理问题上的表示相似性，发现模型在表示上趋同但推理策略不同，表明表示趋同反映的是共享的输入处理约束而非共享的推理策略。

Why Semantic Entropy Fails: Geometry-Aware and Calibrated Uncertainty for Policy Optimization

为何语义熵失效：面向策略优化的几何感知与校准不确定性

Zheyuan Zhang, Kaiwen Shi, Han Bao, Zehong Wang, Tianyi Ma, Yanfang Ye

机构 * University of Notre Dame（诺丁汉大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出了一种新的策略优化框架GCPO，通过几何感知措施捕捉语义分歧，并利用基于奖励的校准对齐不确定性与学习信号强度，从而更准确地跟踪梯度变化并提升训练后性能。

BalanceRAG: Joint Risk Calibration for Cascaded Retrieval-Augmented Generation

BalanceRAG: 为级联检索增强生成进行联合风险校准

Zijun Jia, Yuanchang Ye, Sen Jia, Yiyao Qian, Haoning Wang, Baojie Chen, Diyin Tang, Jinsong Yu, Zhiyuan Wang

机构 * Beihang University（北航） ； Shenzhen Institute of Advanced Technology（深圳先进技术研究院） ； Zhejiang University of Finance & Economics（浙江财经大学） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出BalanceRAG，一种用于级联检索增强生成的联合风险校准方法，通过在二维晶格上确定安全操作点，实现风险自适应的阈值校准，从而在控制系统级错误率的同时保留更多示例，并扩展到多风险校准。

Estimating Item Difficulty with Large Language Models as Experts

利用大语言模型作为专家估算项目难度

Diana Kolesnikova, Kirill Fedyanin, Abe D. Hofman, Matthieu J. S. Brinkhuis, Maria Bolsinova

机构 * Department of Methodology and Statistics, Tilburg University（蒂尔堡大学方法学与统计学系） ； Smart Business Technologies（智能商务技术公司） ； Department of Psychological Methods, University of Amsterdam（阿姆斯特丹大学心理方法系） ； Prowise Learn, Amsterdam（Prowise Learn公司，阿姆斯特丹） ； Department of Information and Computing Sciences, Utrecht University（乌得勒支大学信息与计算科学系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了如何利用大语言模型估算新任务的难度，通过对比不同配置下的模型表现，发现基于对偶比较的配置在无额外优化时表现更优，而结合token概率和已知难度示例的绝对判断配置也表现出中等至高水平的对齐度。

Comments 24 pages, 2 figures, 9 tables

TRACE: Trajectory Correction from Cross-layer Evidence for Hallucination Reduction

TRACE: 通过跨层证据进行轨迹修正以减少幻觉

Tej Sanibh Ranade

机构 * Independent Researcher（独立研究者） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出TRACE算法，通过跨层证据在推理时修正LLM中的幻觉，无需训练或标注，通过内部证据选择修正策略，提升多个基准测试的性能。

Comments 25 pages, 8 figures, 4 tables

LoVeC: Reinforcement Learning for Better Verbalized Confidence in Long-Form Generations

LoVeC：强化学习用于长文生成中的更可靠的 verbalized 自信度

Caiqi Zhang, Xiaochen Zhu, Chengzu Li, Nigel Collier, Andreas Vlachos

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LoVeC，一种基于强化学习的方法，通过在长文生成过程中实时附加数值自信度评分，提升事实性生成的可靠性。实验表明，该方法在多个长文问答数据集上实现了更好的校准和跨领域泛化能力，且效率显著高于传统自一致性方法。

Comments ACL 2026 Main

Humanwashing -- It Should Leave You Feeling Dirty

人类洗清——它应该让你感到肮脏

Ben Wilson, Matimba Swana, Peter Winter, Matt Roach

机构 * Computational Foundry, Swansea University, UK（计算泉研究所，斯wansea大学，英国） ； University of Bristol, UK（布里斯托大学，英国） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文质疑'人类在环'概念在AI决策系统中的有效性，指出其可能掩盖真实过程与结果，提出'人类洗清'现象需引起关注。

Comments 10 pages, 1 figure. Reviewed and accepted for presentation at HHAI 2026, Brussels

ToolWeave: Structured Synthesis of Complex Multi-Turn Tool-Calling Dialogues

ToolWeave：复杂多轮工具调用对话的结构化合成

Dinesh Khandelwal, Gnana Prakash Punnavajhala, GPS Bhargav, Gaurav Pandey, Sachin Joshi, Hima Karanam, Dinesh Raghu

机构 * IBM Research（IBM研究院） ； IIIT Hyderabad（Hyderabad理工学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 ToolWeave通过构建带有内置依赖关系的工具，生成更真实的多轮工具调用对话，减少参数幻觉，提升LLM在多步骤任务中的表现。

WhatsApp Vaccine Discourse (WhaVax): An Expert-Annotated Dataset and Benchmark for Health Misinformation Detection

WhatsApp疫苗 discourse（WhaVax）：一个专家标注的数据集和基准，用于健康虚假信息检测

Jônatas H. dos Santos, Julio C. S. Reis, Philipe Melo, João F. H. Olivetti, Thales H. Silva, Matheus Gontijo Guimaraes, Glaucio de Souza, Marcos A. Gonçalves, Fabricio Benevenuto, Filipe B. B. Zanovello, Marco A. G. Rodrigues, Cristiano X. Lima

机构 * Universidade Federal de Minas Gerais (UFMG)（巴西联邦大学矿务学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.CY

AI总结 本文介绍了WhaVax数据集，用于检测健康虚假信息，通过专家标注和多阶段协议生成高质量数据集，并评估了不同模型在数据稀缺条件下的表现。

Comments 10 pages. This is a preprint version of a paper accepted for the International AAAI Conference on Web and Social Media (ICWSM'26). Please cite the conference version rather than this preprint

FERA: Uncertainty-Aware Federated Reasoning for Large Language Models

FERA：面向大语言模型的不确定性感知联邦推理

Ruhan Wang, Chengkai Huang, Zhiyong Wang, Junda Wu, Rui Wang, Tong Yu, Julian McAuley, Lina Yao, Dongruo Zhou

机构 * Indiana University（印第安纳大学） ； The University of New South Wales（新南威尔士大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of California San Diego（加州大学圣地亚哥分校） ； Adobe Research（Adobe研究院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.LG

AI总结 FERA通过迭代服务器-客户端协同细化，解决联邦推理中客户端可靠性依赖查询的问题，提升多步骤推理能力，实验表明其在多个推理基准上优于联邦训练和无训练基线。

Comments 44 pages, 8 figures