大模型对齐与安全

DiRotQ: Rotation-Aware Quantization for 4-bit Diffusion Transformers

DiRotQ：面向4位扩散变换器的旋转感知量化

Sayeh Sharify, Mahsa Salmani, Hesham Mostafa

机构 * d-Matrix 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出DiRotQ，一种W4A4量化框架，通过旋转感知激活量化缓解扩散变换器在4位精度下的性能下降问题，同时引入VLM-as-a-Judge评估协议和Triton定制内核提升压缩下的效率与质量。

Adaptive Conformal Prediction for Quantum Machine Learning

适应性符合预测用于量子机器学习

Douglas Spencer, Samual Nicholls, Michele Caprio

机构 * Mathematical Institute, University of Oxford（牛津大学数学研究所） ； Department of Computer Science, The University of Manchester（曼彻斯特大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出适应性量子符合预测算法，解决量子处理器时间变化噪声对符合保证的影响，通过重复校准保持有效性，实验证明其在IBM量子处理器上的稳定性和覆盖率。

Comments Accepted at TMLR 05/2026. 27 pages, 5 figures

Journal ref Transactions on Machine Learning Research, May 2026, ISSN 2835-8856

Quantum Artificial Intelligence for Mission-Critical Systems: Foundations, Architectural Elements, and Future Directions

量子人工智能用于关键任务系统：基础、架构要素与未来方向

Siva Sai, Rajkumar Buyya

机构 * Quantum Cloud Computing and Distributed Systems (qCLOUDS) Laboratory, School of Computing and Information Systems, The University of Melbourne（量子云计算与分布式系统实验室，计算与信息系统学院，墨尔本大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨量子人工智能在关键任务系统中的应用，分析其在可靠性、确定性和低延迟决策中的挑战，并提出量子资源管理框架及未来研究方向。

Comments 15 pages, 5 figures, revised and accepted version of the paper

Inducing Artificial Uncertainty in Language Models

在语言模型中诱导人工不确定性

Sophia Hager, Simon Zeng, Nicholas Andrews

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Microsoft（微软） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 本文研究了在缺乏挑战性数据时如何通过诱导人工不确定性来提升语言模型的不确定性量化能力，通过训练探测器识别人工不确定性，实现了在困难数据上的高校准性，且对简单数据的性能影响较小。

Aligning LLM Uncertainty with Human Disagreement in Subjectivity Analysis

对主观分析中语言模型不确定性与人类分歧的对齐

Junyu Lu, Deyi Ji, Xuanyi Liu, Lanyun Zhu, Bo Xu, Liang Yang, Xian-Sheng Hua, Hongfei Lin

机构 * School of Computer Science and Technology, Dalian University of Technology, China（大连理工大学计算机科学与技术学院） ； Tencent（腾讯） ； Peking University（北京大学） ； Tongji University（同济大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出DPUA框架，通过感知分歧和对齐不确定性，提升模型在主观分析中的可靠性与泛化能力。

Efficient distributional regression trees learning algorithms for calibrated non-parametric probabilistic forecasts

高效分布回归树学习算法用于校准的非参数概率预测

Quentin Duchemin, Guillaume Obozinski

机构 * Swiss Data Science Center（瑞士数据科学中心） ； EPFL（瑞士联邦理工学院） ； ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出高效算法用于校准非参数概率预测，通过min-max堆等数据结构提升计算效率，展示其在WIS和CRPS损失函数下的竞争力，并利用树结构实现可解释的群体条件覆盖保障。

Template-as-Ontology: Configurable Synthetic Data Infrastructure for Cross-Domain Manufacturing AI Validation

模板作为本体：用于跨领域制造人工智能验证的可配置合成数据基础设施

Grama Chethan

机构 * Siemens Digital Industries Software（西门子数字工业软件） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种模板作为本体的方法，通过单一Python配置模块生成制造仿真和AI分析工具的统一数据结构，验证了跨领域制造AI验证的可行性。

Comments 18 pages, 1 fugure

Foundations of Reliable Inference: Reliability-Efficiency Co-Design

可靠推断的基础：可靠性与效率的协同设计

Jiayi Huang

机构 * The Department of Engineering（工程系） ； King’s College London（伦敦国王学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文探讨如何高效实现可靠推断，通过统一框架从两个视角出发，解决可靠性与效率的协同设计问题。

Comments PhD Thesis

Resolving space-sharing conflicts in road user interactions through uncertainty reduction: An active inference-based computational model

通过不确定性减少解决道路使用者互动中的空间共享冲突：一种基于主动推断的计算模型

Julian F. Schumann, Johan Engström, Ran Wei, Shu-Yuan Liu, Jens Kober, Arkady Zgonnikov

机构 * Department of Cognitive Robotics, Delft University of Technology, Netherlands（德鲁特理工大学认知机器人学系） ； Waymo LLC, Mountain View, CA, USA（Waymo公司） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出一种基于主动推断的计算模型，用于模拟道路使用者互动中的空间共享冲突解决，通过隐含沟通、规范预期和显性沟通机制提升冲突解决效率，但需考虑对方行为是否符合预期。

Preparing Students for AI-Powered Materials Discovery: A Workflow-Aligned Framework for AI Literacy, Equity, and Scientific Judgment

为AI赋能的材料发现培养学生：一种与工作流程对齐的AI素养、公平性及科学判断框架

Dongming Mei, Katherine Moore, Ben Sayler

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CY

AI总结 本文提出一种与工作流程对齐的AI素养框架，强调通过提升学生在材料信息学中的数据溯源、领域特定特征化等能力，促进AI在材料发现中的公平应用与科学判断。

Comments 22 pages, 4 figures, and 5 tables

Code Mixologist : A Practitioner's Guide to Building Code-Mixed LLMs

代码调酒师：构建代码混合LLM的从业者指南

Himanshu Gupta, Pratik Jayarao, Chaitanya Dwivedi, Neeraj Varshney

机构 * Arizona State University（亚利桑那州立大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 本文探讨了代码混合和切换在大语言模型中的挑战，提出统一的分类体系和实用指南，涵盖数据、建模和评估方法，分析现有评估实践并讨论安全问题。

Comments 8 pages main paper, 13 pages total

Investigating Anisotropy in Visual Grounding under Controlled Counterfactual Perturbations

探究在可控反事实扰动下的视觉语义对齐中的各向异性

Gabriele Lombardo, Luigi Maiorana, Liliana Lo Presti, Marco La Cascia

机构 * Department of Engineering（工程系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了在可控反事实扰动下视觉语义对齐中的各向异性影响，通过对比两种不同嵌入几何的模型发现，余弦相似度与近似行为无显著关联，表明各向异性不足以解释反事实错误。

Comments To be published in the proceedings of the 5th Explainable AI for Computer Vision (XAI4CV) Workshop at CVPR 2026

Multi-Stage Retrieval for Operational Technology Cybersecurity Compliance Using Large Language Models: A Railway Casestudy

基于大语言模型的多阶段检索在运营技术网络安全合规中的应用：铁路案例研究

Regan Bolton, Mohammadreza Sheikhfathollahi, Simon Parkinson, Dan Basher, Howard Parkinson

机构 * Digital Transit Limited, 3M Buckley Innovation Centre（数字交通有限公司，3M Buckley创新中心） ； Department of Computer Science at University of Huddersfield（赫德瑟尔大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出利用大语言模型和多阶段检索提升铁路网络安全合规性验证，通过对比不同模型展示PCA在合规性验证中的有效性，建立评估指标并指出LLM在合规性验证中的优势与局限。

The Endogeneity of Miscalibration: Impossibility and Escape in Scored Reporting

误校准的内生性：在评分报告中的不可能性与逃避

Lauri Lovén, Sasu Tarkoma

机构 * Future Computing Group, University of Oulu（未来计算组，奥卢大学） ； University of Oulu（奥卢大学） ； University of Helsinki（赫尔辛基大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨了在评分报告中如何避免误校准的内生性问题，发现使用非线性批准函数可实现最优监督，但会导致诚实报告次优。提出通过阶梯状批准阈值可实现最优筛选，尤其在布里尔评分下，二阶效用等价性独特。

Comments 38 pages, no figures. Targeting ACM Transactions on Economics and Computation (TEAC); preprint

Intent-Driven Semantic ID Generation for Grounded Conversational News Recommendation

基于意图的语义ID生成用于 grounded 对话新闻推荐

Hongyang Su, Beibei Kong, Lei Cheng, Chengxiang Zhuo, Zang Li, Chenyun Yu

机构 * Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区） ； Platform and Content Group, Tencent（腾讯平台与内容部） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出意图驱动的语义ID生成方法，通过多任务对齐和GPT-4链式推理蒸馏，实现意图到层级SID前缀的映射，提升新闻推荐的 grounded 性和冷启动用户推荐效果。

Comments Accepted at ACL 2026 Industry Track (Oral)

Prediction and Empowerment: A Theory of Agency through Bridge Interfaces

预测与赋能：通过桥接接口的代理理论

Richard Csaky

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究了在确定性物理或模拟世界中部分可观测性下的代理问题，通过桥接接口模型，证明了预测、压缩和赋能之间的分离关系，并提出了一种设计原则以区分隐藏状态识别、接口细化、任务相关可控性和简单覆盖控制。

Comments This is a working draft: feedback and criticism is most welcome

When Quantization Is Free: An int4 KV Cache That Outruns fp16 on Apple Silicon

量化为何免费：一种int4 KV缓存性能超越fp16的苹果硅芯片

Mohamed Amine Bergach

机构 * Illumina 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种int4 KV缓存方法，在苹果硅芯片上实现比fp16更快的性能，通过融合金属内核和内存压缩，保持质量并提升效率。

Hallucinations Undermine Trust; Metacognition is a Way Forward

幻觉削弱信任；元认知是前进的方向

Gal Yona, Mor Geva, Yossi Matias

机构 * Tel Aviv University（特拉维夫大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 研究指出，生成AI的幻觉问题源于知识边界扩展而非意识提升，提出通过元认知表达不确定性以提升可信度和能力。

Comments To appear in ICML 2026 (Position Track)

Machine Learning Enhanced Laser Spectroscopy for Multi-Species Gas Detection in Complex and Harsh Environments

机器学习增强的激光光谱法用于复杂恶劣环境中的多物种气体检测

Mohamed Sy

机构 * King Abdullah University of Science and Technology（国王阿卜杜勒·阿齐兹大学科学与技术学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本研究结合激光吸收光谱与机器学习，开发出多物种气体检测方法，通过深度去噪自编码器、结构化无监督框架和盲源分离技术提升检测可靠性，适用于动态或干扰环境。

Comments PhD thesis

Retrieval-Guided Generation for Safer Histopathology Image Captioning

基于检索的生成用于更安全的病理科图像描述生成

Md. Enamul Hoq, Wataru Uegami, Saghir Alfasly, Ghazal Alabtah, Sahar Rahimi Malakshan, Armita Kazemi, Alex T. Schmitgen, Fred Prior, H. R. Tizhoosh

机构 * Kimia Lab, Department of Artificial Intelligence \& Informatics, Mayo Clinic, Rochester, MN, USA ； Department of Biomedical Informatics, University of Arkansas for Medical Sciences, Little Rock, AR, USA ； Lane Department of Computer Science ； Electrical Engineering, West Virginia University, Morgantown, WV, USA ； Department of Computer Science ； Engineering, Princeton University, Princeton, NJ, USA ； Department of Computer Sciences, University of Wisconsin--Madison, Madison, WI, USA 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出检索引导生成方法，通过总结相似病例的专家文本生成描述，提升病理图像描述的准确性与可靠性，实验表明其在语义对齐和诊断一致性方面优于现有方法。

Online Self-Calibration Against Hallucination in Vision-Language Models

在线对抗幻觉的视觉-语言模型自我校准

Minghui Chen, Chenxu Yang, Hengjie Zhu, Dayan Wu, Zheng Lin, Qingyi Si

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出OSCAR框架，通过蒙特卡洛树搜索和双粒度奖励机制在线校准视觉-语言模型，减少幻觉并提升多模态能力。

Comments IJCAI 2026

Theory Under Construction: Orchestrating Language Models for Research Software Where the Specification Evolves

构建中的理论：协调语言模型用于研究软件，其中规范在演变

Halley Young, Nikolaj Björner

机构 * Microsoft Research（微软研究院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出Comet-H框架，通过迭代提示自动机协调语言模型在研究软件中的应用，解决规范演变中的 hallucination accumulation 和 desynchronization 问题，并通过实验证明其有效性。

ADVICE: Answer-Dependent Verbalized Confidence Estimation

ADVICE: 答案依赖性口头置信度估计

Ki Jung Seo, Sehun Lim, Taeuk Kim

机构 * Department of Computer Science, Hanyang University（韩国汉阳大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文提出ADVICE框架，通过增强答案依赖性改进大语言模型的置信度校准，减少过度自信现象，提升可信度。

Comments ACL 2026 Main

Evaluating Assurance Cases as Text-Attributed Graphs for Structure and Provenance Analysis

评估作为文本属性图的保证案例用于结构和来源分析

Fariz Ikhwantri, Dusica Marijan

机构 * Simula Research Laboratory（Simula研究实验室） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出基于图诊断框架分析保证案例的结构和来源，通过链接预测和图分类检测偏见，实验表明GNN在链接预测和来源检测中表现优异。

Comments 10 pages, 4 figures, 8 tables. Accepted to EASE 2026 AI Models / Data track, Glasgow, United Kingdom Fix the captions of tables 7 and 8

When Annotators Disagree, Topology Explains: Mapper, a Topological Tool for Exploring Text Embedding Geometry and Ambiguity

当标注者意见不一致时，拓扑解释：Mapper，一种用于探索文本嵌入几何和模糊性的拓扑工具

Nisrine Rair, Alban Goupil, Valeriu Vrabie, Emmanuel Chochoy

机构 * CReSTIC, Université de Reims Champagne-Ardenne（里摩日大学CReSTIC研究所） ； Chochoy Conseil（Chochoy咨询公司） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出用拓扑方法分析模型如何编码模糊性，通过Mapper工具揭示微调后嵌入空间的模块化结构，并探讨结构自信与标签不确定性的矛盾。

Comments Accepted to appear in the Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing (EMNLP 2025, Main Conference)

Journal ref Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing, pages 8457--8480, Suzhou, China. Association for Computational Linguistics

SycoPhantasy: Quantifying Sycophancy and Hallucination in Small Open Weight VLMs for Vision-Language Scoring of Fantasy Characters

SycoPhantasy: 量化小型开放权重视觉-语言模型中趋炎附势行为与幻觉现象以评估奇幻角色的视觉-语言评分

Arya Shah, Deepali Mishra, Chaklam Silpasuwanchai

机构 * IIT Gandhinagar（印度加尔各答理工学院） ； IIT Kanpur（印度坎浦尔理工学院） ； Asian Institute of Technology（亚洲理工学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文研究小型开放权重VLM在评估图像-文本对齐时是否存在趋炎附势行为，通过引入布林系数量化模型评分与视觉证据的不匹配程度，发现模型规模与趋炎附势率呈负相关。

Comments 13 pages, 12 figures, 6 tables

What Did They Mean? How LLMs Resolve Ambiguous Social Situations across Perspectives and Roles

他们是什么意思？大语言模型如何在不同视角和角色下解析模糊的社会情境

Qiming Yuan, Linyi Han, Nam Ling, Cihan Ruan

机构 * Santa Clara University（圣克拉拉大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨LLM在处理模糊社会情境时的响应方式，发现其倾向于通过叙事一致、规范建议等路径闭合模糊性，且叙述视角影响解读路径，凸显LLM在社会AI设计中保持不确定性的挑战。

Vibe Medicine: Redefining Biomedical Research Through Human-AI Co-Work

Vibe Medicine：通过人机协作重新定义生物医学研究

Zihao Wu, Steven Xu, Bowen Chen, Shaowen Wan, Yiwei Li, Wei Ruan, Yanjun Lyu, Siyuan Li, Dajiang Zhu, Tianming Liu, Lin Zhao

机构 * School of Computing, University of Georgia（佐治亚大学计算学院） ； Department of Biomedical Engineering, New Jersey Institute of Technology（新泽西理工学院生物医学工程系） ； Department of Computer Science and Engineering, University of Texas at Arlington（德克萨斯大学阿灵顿分校计算机科学与工程系） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出Vibe Medicine，通过自然语言指导AI代理执行复杂生物医学流程，解决多领域数据整合与分析难题，提升研究效率与公平性。

CGC: Compositional Grounded Contrast for Fine-Grained Multi-Image Understanding

CGC：基于组成性 grounded 对比的细粒度多图像理解

Lihao Zheng, Zhenwei Shao, Yu Zhou, Yan Yang, Xintian Shen, Jiawei Chen, Hao Ma, Tao Wei

机构 * School of Computer Science and Technology, Hangzhou Dianzi University（杭州电子科技大学计算机科学与技术学院） ； School of Computer Science（计算机科学学院） ； Technology, Hangzhou Dianzi University（技术，杭州电子科技大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出CGC框架，通过跨图像对比和内图像对比提升多图像细粒度理解，结合规则空间奖励增强属性和对齐，实验显示在多个基准上取得最佳结果，并在多模态任务中表现优异。

Towards Operational Validation of LLM-Agent Social Simulations: A Replicated Study of a Reddit-like Technology Forum

向LLM-代理社会模拟的操作验证：一个Reddit-like技术论坛的重复研究

Aleksandar Tomašević, Darja Cvetković, Sara Major, Slobodan Maletić, Miroslav Anđelković, Ana Vranić, Boris Stupovski, Dušan Vudragović, Aleksandar Bogojević, Marija Mitrović Dankulov

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CY

AI总结 本文通过30天的模拟研究，验证LLM-代理在技术论坛中的操作有效性，发现模拟结果与真实数据在用户和帖子层面有重叠，但评论毒性等指标存在差异，揭示了代理设计对模拟结果的影响。