大模型对齐与安全

Uncertainty-Aware Foundation Models for Clinical Data

具有不确定性的临床数据基础模型

Qian Zhou, Yuanyun Zhang, Shi Li

机构 * University of the Chinese Academy of Sciences（中国科学院大学） ； Columbia University（哥伦比亚大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种考虑不确定性的临床数据基础模型框架，通过学习集合值表示并强制一致性，提升预测性能和数据缺失下的鲁棒性。

ALIEN: Aligned Entropy Head for Improving Uncertainty Estimation of LLMs

ALIEN：对齐熵头以提高大语言模型的不确定性估计

Artem Zabolotnyi, Roman Makarov, Mile Mitrovic, Polina Proskura, Oleg Travkin, Roman Alferov, Alexey Zaytsev

机构 * Applied AI Institute, Moscow, Russia（应用人工智能研究所，莫斯科，俄罗斯） ； SB AI Lab, Moscow, Russia（SB AI实验室，莫斯科，俄罗斯） ； Intellectual data analysis and predictive modeling Institute, Moscow, Russia（智能数据分析与预测建模研究所，莫斯科，俄罗斯） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 ALIEN通过轻量级对齐方法提升大语言模型的不确定性估计，减少过自信，改进模型在困难输入下的预测可靠性。

Comments 16 pages, 2 figures

Cultural Authenticity: Comparing LLM Cultural Representations to Native Human Expectations

文化真实性：比较大语言模型的文化表征与本地人类期望

Erin MacMurray van Liemt, Aida Davani, Sinchana Kumbale, Neha Dixit, Sunipa Dev

机构 * Google Research（谷歌研究院） ； Google India（谷歌印度） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出人类中心框架评估LLM生成内容与本地期望的一致性，发现部分模型存在以西方为中心的校准，文化距离越远一致性越低，并识别出系统性误差。

Comments 18 pages, 4 figures

Scalable Variational Bayesian Fine-Tuning of LLMs via Orthogonalized Low-Rank Adapters

通过正交化低秩适配器实现大规模语言模型的可扩展变分贝叶斯微调

Haotian Xiang, Bingcong Li, Qin Lu

机构 * School of Electrical and Computer Engineering, University of Georgia（佐治亚大学电气与计算机工程学院） ； Department of Computer Science, ETH Zurich（苏黎世联邦理工学院计算机科学系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出PoLAR-VBLL框架，通过正交化低秩适配器与变分推断结合，实现大规模语言模型的可扩展贝叶斯微调，提升不确定性量化能力。

Audio Spatially-Guided Fusion for Audio-Visual Navigation

音频空间引导融合用于音频视觉导航

Xinyu Zhou, Yinfeng Yu

机构 * Joint Research Laboratory for Embodied Intelligence, Xinjiang University（新疆大学联合研究实验室，具身智能） ； Joint International Research Laboratory of Silk Road Multilingual Cognitive Computing, Xinjiang University（新疆大学丝绸之路多语言认知计算国际联合研究实验室） ； School of Computer Science and Technology, Xinjiang University（新疆大学计算机科学与技术学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种音频空间引导融合方法，通过自适应提取空间状态信息，实现多模态特征动态对齐与融合，提升在未知声源分布下的导航泛化能力。

Comments Main paper (6 pages). Accepted for publication by the International Joint Conference on Neural Networks (IJCNN 2026)

Multivariate Uncertainty Quantification with Tomographic Quantile Forests

多变量不确定性量化与断层量化森林

Takuya Kanazawa

机构 * Kobe Gakuin University（神户学院大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.LG

AI总结 本文提出Tomographic Quantile Forests，一种非参数、不确定性感知的树回归模型，用于多变量目标的条件分布估计，通过多方向量化聚合和 sliced Wasserstein 距离最小化实现多变量分布重建。

Comments 36 pages. v2: matches published version

Journal ref Math. Comput. Appl. 2026, 31(2), 53

AutoPK: Leveraging LLMs and a Hybrid Similarity Metric for Advanced Retrieval of Pharmacokinetic Data from Complex Tables and Documents

AutoPK：利用大语言模型和混合相似性度量进行药代动力学数据的高级检索

Hossein Sholehrasa, Amirhossein Ghanaatian, Doina Caragea, Lisa A. Tell, Jim E. Riviere, Majid Jaberi-Douraki

机构 * Kansas State University（堪萨斯州立大学） ； University of California-Davis（加利福尼亚大学戴维斯分校） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 AutoPK通过大语言模型和混合相似性度量，实现了从复杂表格和文档中高效提取药代动力学数据，显著提升了精度和召回率，适用于兽医药理学和公共卫生决策。

Comments Published in IEEE ICTAI 2025

The Illusion of AI Expertise Under Uncertainty: Navigating Elusive Ground Truth via a Probabilistic Paradigm

人工智能专家能力的幻觉：通过概率范式导航 elusive 的真实地面真相

Aparna Elangovan, Lei Xu, Mahsa Elyasi, Ismail Akdulum, Mehmet Aksakal, Enes Gurun, Brian Hur, Saab Mansour, Ravid Shwartz Ziv, Karin Verspoor, Dan Roth

机构 * Independent Researcher（独立研究员） ； Amazon（亚马逊） ； Gazi University（加齐大学） ； University of Colorado（科罗拉多大学） ； Samsun University（萨姆松大学） ； The University Of Melbourne（墨尔本大学） ； New York University（纽约大学） ； RMIT University（皇家墨尔本理工大学） ； University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文提出概率范式，揭示高置信度真实答案对专家高分的必要性，指出在真实答案变化大的数据集中，随机标注者与专家表现差异不大，强调在低专家表现时，按真实答案概率分层评估至关重要。

Extending MONA in Camera Dropbox: Reproduction, Learned Approval, and Design Implications for Reward-Hacking Mitigation

在Camera Dropbox中扩展MONA：再现、学习批准与奖励黑客缓解的设计影响

Nathan Heath

机构 * Independent Researcher（独立研究者） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 该研究通过扩展MONA方法，验证了学习批准在缓解奖励黑客中的有效性，并探讨了其设计影响。

PromptForge-350k: A Large-Scale Dataset and Contrastive Framework for Prompt-Based AI Image Forgery Localization

PromptForge-350k：一种大规模数据集和对比框架用于基于提示的AI图像伪造定位

Jianpeng Wang, Haoyu Wang, Baoying Chen, Jishen Zeng, Yiming Qin, Yiqi Yang, Zhongjie Ba

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出PromptForge-350k数据集和ICL-Net网络，通过自动化标注框架和对比学习提升伪造定位精度，实验显示在IoU指标上优于现有方法。

Energy Score-Guided Neural Gaussian Mixture Model for Predictive Uncertainty Quantification

基于能量分数的神经高斯混合模型用于预测不确定性量化

Yang Yang, Chunlin Ji, Haoyang Li, Ke Deng

机构 * Kuang-Chi Institute of Advanced Technology（光启高等理工研究院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出NE-GMM模型，结合高斯混合模型与能量分数，提升预测不确定性量化能力，通过理论证明和实验验证其有效性。

Comments 39 pages, 5 figures

Compositional Image Synthesis with Inference-Time Scaling

基于推理时缩放的图像合成

Minsuk Ji, Sanghyeok Lee, Namhyuk Ahn

机构 * Inha University（仁荷大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出一种无需训练的框架，结合对象中心方法与自我完善，提升布局忠实度并保持美学质量，通过大语言模型生成布局并注入图像生成过程，利用对象中心视觉-语言模型进行迭代选择，实现更强的场景对齐。

Comments projcet page: https://github.com/gcl-inha/ReFocus

MARCH: Multi-Agent Reinforced Self-Check for LLM Hallucination

MARCH: 多智能体强化自检用于大语言模型幻觉

Zhuo Li, Yupeng Zhang, Pengyu Cheng, Jiajun Song, Mengyu Zhou, Hao Li, Shujie Hu, Yu Qin, Erchao Zhao, Xiaoxi Jiang, Guanjun Jiang

机构 * Qwen Large Model Application Team, Alibaba（通义大模型应用团队，阿里巴巴） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 MARCH通过多智能体强化学习框架，利用信息不对称机制减少大语言模型幻觉，实验表明其能显著降低幻觉率，8B参数模型表现接近闭源模型。

When Brain Foundation Model Meets Cauchy-Schwarz Divergence: A New Framework for Cross-Subject Motor Imagery Decoding

当脑基础模型遇见柯西-施瓦茨散度：一种跨受体运动想象解码的新框架

Jinzhou Wu, Baoping Tang, Qikang Li, Yi Wang, Cheng Li, Shujian Yu

机构 * State Key Laboratory of Mechanical Transmission, College of Mechanical and Vehicle Engineering, Chongqing University（机械传动国家重点实验室，重庆大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种新的多源域适应框架，利用预训练的脑基础模型进行动态源受体选择，并结合柯西-施瓦茨散度实现特征和决策层面对齐，以提高跨受体运动想象解码的准确率。

Comments This work has been submitted to Elsevier for possible publication

Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals

学习信任：人类如何通过经验心理重新校准AI信心信号

ZhaoBin Li, Mark Steyvers

机构 * Department of Cognitive Sciences, University of California, Irvine（加州大学欧文分校认知科学系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 研究探讨人类能否通过经验重新校准AI信心信号，发现参与者在不同条件下通过50次试验显著提升准确性与校准能力，提出基于线性对数比变换和Rescorla-Wagner学习规则的计算模型。

To Agree or To Be Right? The Grounding-Sycophancy Tradeoff in Medical Vision-Language Models

同意还是正确？医学视觉-语言模型中的 grounding 与谄媚权衡

OFM Riaz Rahman Aranya, Kevin Desai

机构 * Department of Computer Science, The University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校计算机科学系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 研究评估了六种医学视觉问答模型，揭示了 grounding 与谄媚之间的权衡关系，并提出三种新指标以评估模型的可靠性与安全性。

Mitigating Object Hallucinations in Large Vision-Language Models via Attention Calibration

通过注意力校准缓解大视觉-语言模型中的物体幻觉

Younan Zhu, Linwei Tao, Minjing Dong, Chang Xu

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出动态注意力校准方法，通过对比学习动态强制位置不变性，有效缓解大视觉-语言模型中的物体幻觉问题，并在多个基准测试中取得最佳性能。

Discriminative Representation Learning for Clinical Prediction

判别表示学习用于临床预测

Yang Zhang, Li Fan, Samuel Lawrence, Shi Li

机构 * The University of Hong Kong (HKU)（香港大学） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本文提出一种监督深度学习框架，通过最大化类间分离与类内方差比，提升临床预测性能，优于其他预训练方法。

Efficient Counterfactual Reasoning in ProbLog via Single World Intervention Programs

通过单世界干预程序在ProbLog中实现高效的反事实推理

Saimun Habib, Vaishak Belle, Fengxiang He

机构 * University of Edinburgh（爱丁堡大学） ； The MITRE Corporation（MITRE公司） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出单世界干预程序(SWIPs)用于ProbLog中的反事实推理，通过将ProbLog子句分为观测和固定部分，减少计算复杂度并提升推理可靠性，实验表明在大规模数据上推理时间减少35%。

Evaluating Evidence Grounding Under User Pressure in Instruction-Tuned Language Models

评估在用户压力下指令调优语言模型的证据基础

Sai Koneru, Elphin Joe, Christine Kirchhoff, Jian Wu, Sarah Rajtmajer

机构 * College of Information Sciences and Technology, Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院） ； Department of Computer Science, Old Dominion University（老 Dominion 大学计算机科学系） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究探讨了在用户压力下指令调优语言模型如何平衡用户对齐压力与上下文证据的忠实性，通过控制的认知冲突框架评估证据一致性准确性及排序表现。

Neither Here Nor There: Cross-Lingual Representation Dynamics of Code-Mixed Text in Multilingual Encoders

既非此处亦非彼处：多语言编码器中混合语言文本的跨语言表示动态

Debajyoti Mazumder, Divyansh Pathak, Prashant Kodali, Jasabanta Patro

机构 * Indian Institute of Science Education and Research（印度科学教育与研究学院） ； Microsoft Corporation（微软公司） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 研究探讨多语言编码器对混合语言文本的内部表示，发现标准模型在英语和印地语间表现良好，但混合文本与任一语言连接松散。通过训练混合数据可提升英语混合文本对齐，但损害英语-印地语对齐。引入三语后训练目标，使混合文本表示更接近构成语言，提升跨语言理解。

Comments 24 pages

Reviewing the Reviewer: Graph-Enhanced LLMs for E-commerce Appeal Adjudication

审查审查者：图增强的大语言模型用于电商争议裁决

Yuchen Du, Ashley Li, Zixi Huang

机构 * Purdue University（普渡大学） ； Amazon（亚马逊） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL

AI总结 本文提出图增强的大语言模型，通过显式动作建模和冲突建模解决电商争议裁决中的信息不对称问题，提升裁决一致性。

Comments 10 pages, 3 figures, KDD 2026 Applied Data Science Track

Large Language Models Hallucination: A Comprehensive Survey

大语言模型幻觉：全面调查

Aisha Alansari, Hamzah Luqman

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 本文全面调查大语言模型中的幻觉现象，分析其成因、检测与缓解方法，探讨现有评估指标及未来研究方向。

TxSum: User-Centered Ethereum Transaction Understanding with Micro-Level Semantic Grounding

TxSum: 基于微粒语义锚定的用户导向以太坊交易理解

Zifan Peng, Jingyi Zheng, Yule Liu, Huaiyu Jia, Qiming Ye, Jingyu Liu, Xufeng Yang, Mingchen Li, Qingyuan Gong, Xuechao Wang, Xinlei He

机构 * Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Wuhan University（武汉大学） ； University of North Texas（北卡罗来纳州立大学） ； Fudan University（复旦大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.CL

AI总结 本文提出TxSum任务，通过构建187个复杂以太坊交易数据集，引入MATEX框架提升交易解释质量，使用户对复杂交易的理解率从52.9%提升至76.5%，恶意交易拒绝率提升至88%。

Resilience Meets Autonomy: Governing Embodied AI in Critical Infrastructure

韧性与自主性：在关键基础设施中治理具身体验的人工智能

Puneet Sharma, Christer Henrik Pursiainen

机构 * Department of Automation and Process Engineering (IAP)（自动化与过程工程系） ； UiT The Arctic University of Norway（北极大学） ； Department of Technology and Safety (ITS)（技术与安全系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 本文探讨关键基础设施中具身体验AI的韧性与自主性治理，提出混合治理架构下的四种监管模式，结合欧盟AI法案和ISO标准，强调机器能力与人类判断的结构化分配。

Comments 6 pages

TheraAgent: Multi-Agent Framework with Self-Evolving Memory and Evidence-Calibrated Reasoning for PET Theranostics

TheraAgent：具有自我进化记忆和证据校准推理的多智能体框架用于PET治疗诊断

Zhihao Chen, Jiahui Wang, Yizhou Chen, Xiaozhong Ji, Xiaobin Hu, Jimin Hong, Wolfram Andreas Bosbach, Axel Rominger, Ali Afshar-Oromieh, Hongming Shan, Kuangyu Shi

机构 * Fudan University（复旦大学） ； University of Bern（伯尔尼大学） ； Nanjing University（南京大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 TheraAgent通过自我进化记忆和证据校准推理，解决PET治疗诊断中数据稀缺、信息异构和证据推理的问题，实现75.7%的准确率。

Geometry-Aware Semantic Reasoning for Training Free Video Anomaly Detection

基于几何的语义推理用于无训练视频异常检测

Ali Zia, Usman Ali, Muhammad Umer Ramzan, Hamza Abid, Abdul Rehman, Wei Xiang

机构 * School of Computing, Engineering \& Mathematical Sciences, La Trobe University, Melbourne, Australia School of Engineering ； Applied Sciences, GIFT University, Gujranwala 52250, Pakistan 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.AI

AI总结 本文提出MM-VAD框架，通过将异常检测转为适应性测试时推理，利用双曲空间保留层次结构，并结合可学习提示和Mahalanobis细化提升性能，实现在多个基准上优于现有无训练方法。

The Challenge of Out-Of-Distribution Detection in Motor Imagery BCIs

运动想象脑机接口中分布外检测的挑战

Merlijn Quincent Mulder, Matias Valdenegro-Toro, Andreea Ioana Sburlea, Ivo Pascal de Jong

机构 * Department of Artificial Intelligence, University of Groningen（格罗宁根大学人工智能系） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文研究了运动想象脑机接口中分布外检测的挑战，通过训练模型并观察对未知类别的检测能力，发现高不确定性影响检测效果，MC Dropout表现最佳，高分类准确率可提升检测鲁棒性。

Machine Learning Detection of Lithium Plating in Lithium-ion Cells: A Gaussian Process Approach

基于高斯过程的锂离子电池锂沉积检测：一种机器学习方法

Ayush Patnaik, Jackson Fogelquist, Adam B Zufall, Yiwei Ji, Stephen K Robinson, Peng Bai, Xinfan Lin

机构 * Department of Mechanical and Aerospace Engineering, University of California, Davis（加州大学戴维斯分校机械与航空航天工程系） ； Department of Energy, Environmental & Chemical Engineering and the Institute of Materials Science and Engineering, Washington University in St. Louis（华盛顿大学圣路易斯分校能源、环境与化学工程系及材料科学与工程学院） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.LG

AI总结 本文提出基于高斯过程的锂沉积检测方法，通过直接建模充放电电压关系Q(V)作为随机过程，实现鲁棒检测，具有噪声感知推理、闭式导数和可扩展性等优势。

Comments Accepted for presentation at American Control Conference 2026 - ACC 2026 to be held in New Orleans, Louisiana

CHiL(L)Grader: Calibrated Human-in-the-Loop Short-Answer Grading

CHiL(L)Grader: 带校准置信度的循环人工参与简答评分

Pranav Raikote, Korbinian Randl, Ioanna Miliou, Athanasios Lakes, Panagiotis Papapetrou

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL

AI总结 CHiL(L)Grader通过校准置信度估计和人类参与流程，实现高置信度自动评分与不确定情况的人工处理，提升AI辅助评分的可靠性。