大模型对齐与安全

DA-RAC: Distance-Aware Calibration of LLM Judges for Trustworthy AI Auditing

DA-RAC：面向可信AI审计的大语言模型评判器的距离感知校准

Cheng Wu, Vishal Anand, Jaya Krishna Mandivarapu, Xiya Liu, Rui Zhuang

机构 * Microsoft（微软公司） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL

AI总结 针对LLM评判器因无关参考示例导致的校准偏差问题，提出DA-RAC距离感知参考锚定校准方法，在多轮评估基准上提升了校准效果并降低了误通过风险，为可信AI审计提供支撑。

On the global feature importance for interpretable and trustworthy heat demand forecasting

面向可解释且可信的热需求预测的全局特征重要性研究

Milan Zdravković

机构 * Faculty of Mechanical Engineering（机械工程学院） ； University of Niš（尼什大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.LG

AI总结 本文引入事前可解释AI方法，结合梯度提升法与Partial Dependence、Accumulated Local Effects、SHAP三种事后方法，评估区域供热系统热需求预测ML模型的全局特征重要性，以提升模型可解释性与可信度，解决相关标准、满意度及责任风险问题。

Comments 9 pages, 5 figures. This preprint corresponds to the paper published in Thermal Science 2025 Volume 29, Issue 5 Part A, Pages: 3355-3365

Journal ref Thermal Science 2025 Volume 29, Issue 5 Part A, Pages: 3355-3365

AIVV: Neuro-Symbolic LLM Agent-Integrated Verification and Validation for Trustworthy Autonomous Systems

AIVV: 用于可信自主系统的神经符号LLM代理集成验证与验证

Jiyong Kwon, Ujin Jeon, Sooji Lee, Guang Lin

机构 * School of Mechanical Engineering, Purdue University（普渡大学机械工程学院） ； School of Electrical and Computer Engineering, Purdue University（普渡大学电气与计算机工程学院） ； Department of Computer Science, Purdue University（普渡大学计算机科学系） ； Department of Mathematics, Purdue University（普渡大学数学系） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 本文提出AIVV框架，利用LLM作为决策外层循环，通过语义验证区分真实故障与干扰故障，生成可操作的V&V成果，提升自主系统验证效率。

mChartQA: A universal benchmark for multimodal Chart Question Answer based on Vision-Language Alignment and Reasoning

Jingxuan Wei, Nan Xu, Guiyong Chang, Yin Luo, BiHui Yu, Ruifeng Guo

专题命中 安全评测 ：alignment(title)；分类 cs.AI

Journal ref Pattern Recognition 172 (2026) 112348

Decoupling Perception from Description: Computation-Grounded Representation Alignment between Multivariate Time Series and Language

感知与描述解耦：多变量时间序列与语言间的计算基础表示对齐

Xinran Feng, Yi Xie, Chao Zhang, Ruikun Li, Wanyun Ling, Ziyue Li, Chenxi Liu

专题命中 安全评测 ：alignment(title)；分类 cs.LG

AI总结 该研究针对多模态时间序列语言对齐的三难困境，提出CGTime模型，通过计算处理感知、LLM处理描述，在多变量理解任务上优于更大的通用模型。

Comments 46 pages, 9 figures, including supplementary material. Submitted to AAAI 2027. Xinran Feng and Yi Xie contributed equally

STEAM: A Spatio-TEmporal Alignment Mixture-of-Experts Model with Hierarchical Pre-training for EEG Decoding

STEAM：用于EEG解码的分层预训练时空对齐混合专家模型

Zhu Chen, Dingkun Liu, Yuheng Chen, Dongrui Wu

专题命中 安全评测 ：alignment(title)；分类 cs.LG

AI总结 STEAM是一种分层迁移框架，通过双分支时空编码器与SSMoE模块实现EEG解码的通用表征学习与范式专业化，在7个数据集的14种评估设置中表现优异且推理成本具竞争力。

Enhancing Trustworthy Clinical Diagnosis Decision-Making in Large Language Models via Etiology-Aware Attention Supervision

通过病因感知注意力监督增强大型语言模型在临床诊断决策中的可信性

Peixian Li, Yu Tian, Ruiqi Tu, Chengkai Wu, Jingjing Ren, Jingsong Li

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL

AI总结 该研究提出病因感知注意力监督框架，通过引入临床病因模式对大型语言模型进行参数高效微调，在两类诊断队列上提升了诊断准确率与注意力聚焦性，增强了模型临床诊断的可信性。

Comments 20 pages, 8 figures

Human-LLM Alignment in Language Attitudes Toward Non-Native Japanese

在非母语日语的语言态度上实现人类与大语言模型（LLM）的对齐

Naho Orita, Hayato Ogawa, Daisuke Kawahara

专题命中 安全评测 ：alignment(title)；分类 cs.CL

AI总结 该研究对比人类与LLM对母语及非母语日语邮件的评价，发现LLM以结构化弱化形式重现母语者的语言态度，为审计LLM提供了可推广的语言态度框架。

Why Does Grounding Hurt Medical VQA? Benchmarking, Diagnosis, and Fine-Tuning of Vision-Language Models

对前沿视觉-语言模型进行审计以实现可信的医学视觉问答：定位失败、格式崩溃和领域适应

Xupeng Chen, Binbin Shi, Chenqian Le, Qifu Yin, Lang Lin, Haowei Ni, Ran Gong, Panfeng Li

机构 * New York University, New York, USA（纽约大学） ； Tsinghua University, Beijing, China（清华大学） ； Columbia University, New York, USA（哥伦比亚大学） ； University of Michigan, Ann Arbor, USA（密歇根大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 本文审计了五种前沿视觉-语言模型在医学视觉问答中的表现，发现定位失败和格式崩溃是信任瓶颈，通过领域适应可提升性能。

Explanation-Based Runtime Verification for Trustworthy ML-driven Optical Networks

基于解释的运行时验证用于可信的机器学习驱动的光网络

Omran Ayoub, Carlos Natalino, Ali Al Housseini, Felix Foschum, Philipp Morger, Tiziano Leidi, David Hock, Paolo Monti

专题命中 安全评测 ：trustworthy(title)；分类 cs.LG

AI总结 研究将机器学习模型用于光网络自动化时决策可靠性问题，提出基于解释的运行时验证方法，利用模型解释评估决策合理性，在光路径传输质量分类用例中验证该方法有效，能拦截错误决策并保持高自动化率。

Comments 6 Pages, 2 Figures. Accepted and presented at the 30th International Conference on Optical Network Design and Modelling (ONDM 2026), Munich, Germany, 12-15 May 2026

Trivial Prompt Reframing Bypasses Safety Guardrails in Googleś MedGemma-4B

简单提示重构绕过谷歌MedGemma-4B中的安全护栏

Avi-ad Avraam Buskila

机构 * Department of Information Science and Applied Artificial Intelligence, Bar-Ilan University, Ramat Gan, Israel（信息科学与应用人工智能系，巴伊兰大学，拉马特甘，以色列） 纠错

专题命中 安全评测 ：safety(title)；分类 cs.AI

AI总结 研究谷歌MedGemma-4B在安全护栏方面的问题，构建全因子基准测试，通过多种攻击方式和法官编码量化其表现，发现重新解释请求的框架能提高攻击成功率，且稳健性受主题主导，呼吁为开放医学模型加强部署时护栏。

LLM-Guided Measurement Credibility Correction for Trustworthy Industrial Process Inference

用于可信工业过程推理的大语言模型引导的测量可信度校正

Youcheng Zong, Runda Jia, Dakuo He

机构 * College of Information Science and Engineering, Northeastern University（信息科学与工程学院，东北大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 研究工业过程推理中测量可信度问题，提出大语言模型引导的测量可信度校正方法，通过转换测量语义、构建参考并校正冲突，使预测器输入更可信，在多任务中降低误差，增加少量参数且推理时间短，提升了预测准确性。

Decoding the Multimodal Mind: Generalizable Brain-to-Text Translation via Multimodal Alignment and Adaptive Routing

解码多模态思维：通过多模态对齐和自适应路由实现可泛化的脑到文本翻译

Chunyu Ye, Yunhao Zhang, Jingyuan Sun, Chong Li, Yang Zhao, Shaonan Wang

机构 * State Key Laboratory of Multimodal Artificial Intelligence System, Institute of Automation, Chinese Academy of Sciences（多模态人工智能系统国家重点实验室，中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Department of Computer Science, The University of Manchester（曼彻斯特大学计算机科学系） ； Department of Language Science and Technology, Hong Kong Polytechnic University（香港理工大学语言科学与技术系） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.CL

AI总结 该研究针对脑机接口从人脑解码语言的挑战，提出利用多模态大语言模型和路由模块的统一框架，通过多模态对齐和自适应路由将脑信号与多模态语义空间对齐，在fMRI等数据集实验中性能领先，还扩展到EEG和MEG数据，为现实应用提供灵活方案。

Comments Accepted to ACL 2026 Findings

Clinical Cognition Alignment for Gastrointestinal Diagnosis with Multimodal LLMs

多模态大语言模型在胃肠诊断中的临床认知对齐

Huan Zheng, Yucheng Zhou, Tianyi Yan, Dubing Chen, Hongbo Lu, Wenlong Liao, Tao He, Pai Peng, Jianbing Shen

机构 * SKL-IOTSC, CIS, University of Macau（澳门大学协同创新研究院物联网国家重点实验室） ； Shanghai Jiao Tong University（上海交通大学） ； COWARobot Co. Ltd.（COWARobot有限公司） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.CL

AI总结 本文提出CogAlign框架，通过构建层次化临床认知数据集和监督微调提升模型临床分析能力，并采用反事实强化学习消除视觉偏差，实现胃肠诊断的因果关联与高准确率。

Comments ECCV 2026

PromptGNN-sim: Deep Fusion and Alignment of GNN and LLMs for Text-Attributed Graph Learning

PromptGNN-sim：GNN与LLM的深度融合与对齐用于文本属性图学习

Zhifei Hu, Alexandra I. Cristea

机构 * Durham University（杜伦大学） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.AI

AI总结 提出PromptGNN-sim框架，通过双向结构-语义融合、图注意力网络与LLM协同，解决文本属性图中模态交互浅层化问题，在跨任务、跨数据集和稀疏扰动下表现优异。

Trustworthy Predictive Distributions for Tail Events with Semiparametric Diagnostic Transport Maps

面向尾部事件的可信预测分布：基于半参数诊断传输图

Elizabeth Cucuzzella, Rafael Izbicki, Ann B. Lee

机构 * Department of Statistics and Data Science, Carnegie Mellon University（统计与数据科学系，卡内基梅隆大学） ； Department of Statistics, Federal University of Sao Carlos（统计系，圣卡洛斯联邦大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.LG

AI总结 针对预测分布在尾部事件中局部校准不足的问题，提出半参数局部摊销诊断与重塑（LADaR）框架，通过非参数回归构建诊断传输图，校正尾部概率，生成可解释且鲁棒的预测分布，在热带气旋强度预测中验证有效性。

Comments 29 pages, 5 figures, 2 tables

TRUSTMEM: Learning Trustworthy Memory Consolidation for LLM Agents with Long-Term Memory

TRUSTMEM：学习具有长期记忆的LLM智能体的可信记忆巩固

Tianyu Yang, Sudipta Paul, Vijay Srinivasan, Vivek Kulkarni, Srinivas Chappidi

机构 * AI Center-Mountain View, Samsung Electronics（三星电子山景城AI中心） ； University of Notre Dame（圣母大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 提出TrustMem框架，通过记忆转换验证器评估更新过程，并利用偏好强化学习优化记忆更新行为，显著提升记忆效用和可靠性。

Cryptographic certificates of validity for trustworthy AI

可信AI的密码学有效性证书

Murdoch J. Gabbay

机构 * Heriot-Watt University（赫瑞思-瓦特大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 提出为智能AI系统生成密码学有效性证书，通过将正确性条件编译为多项式约束的见证检查问题，并使用简洁密码学证明系统（可选零知识）来证明条件成立，平衡了源代码形式验证与密码学认证。

Large Language Models for Agentic NetOps and AIOps: Architectures, Evaluation, and Safety

用于代理网络运维和AI运维的大型语言模型：架构、评估与安全

Muhammad Bilal, Jon Crowcroft, Ruizhi Wang, Xiaolong Xu, Schahram Dustdar

机构 * School of Computing and Communications（计算与通信学院） ； University of Cambridge（剑桥大学） ； School of Software（软件学院） ； Nanjing University of Information Science and Technology（南京信息科技大學） ； TU Wien（维也纳技术大学） ； ICREA 纠错

专题命中 安全评测 ：safety(title)；分类 cs.AI

AI总结 本文探讨了大型语言模型在网络运维和AI运维中的应用，分析了代理架构、评估方法及安全挑战，强调系统可靠性依赖于模型周边机制，而非模型本身。

Comments 49 pages, 15 figures, 6 tables; survey article

When Tabular Foundation Models Meet Strategic Tabular Data: A Prior Alignment Approach

当表格基础模型遇见策略性表格数据：一种先验对齐方法

Xinpeng Lv, Yunxin Mao, Renzhe Xu, Chunyuan Zheng, Yikai Chen, Haoxuan Li, Jinxuan Yang, Kun Kuang, Yuanlong Chen, Mingyang Geng, Wanrong Huang, Shixuan Liu, Shaowu Yang, Wenjing Yang, Zhouchen Lin, Haotian Wang

机构 * University of Science and Technology of China（中国科学技术大学） ； Tsinghua University（清华大学） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.AI

AI总结 本文研究了表格基础模型在策略性表格数据上的泛化能力，提出了一种策略感知的先验对齐框架SPN，以提高模型在策略性环境中的鲁棒性和预测性能。

Comments Accepted by ICML2026

InFerActive: Interactive Tree-Based Exploration of LLM Sampling for Safety Evaluation

InFerActive: 基于交互式树的安全评估中LLM采样探索

Junhyeong Hwangbo, Soohyun Lee, Hyeon Jeon, Kyochul Jang, Minsoo Cheong, Youngjae Yu, Jinwook Seo

机构 * Seoul National University（首尔国立大学） 纠错

专题命中 安全评测 ：safety(title)；分类 cs.AI

AI总结 提出InFerActive系统，通过广度优先采样构建可导航短语树，提升LLM安全评估中低概率有害输出的覆盖率和效率，相比随机采样减少5倍样本量。

Comments v2: Revised version

When Models Learn to Ask Why: Adaptive Causal Reasoning for Trustworthy Medical Vision-Language Models

当模型学会问为什么：面向可信医疗视觉语言模型的自适应因果推理

Jianxin Lin, Chunzheng Zhu, Peter J. Kneuertz, Yunfei Bai, Yuan Xue

机构 * The Ohio State University（俄亥俄州立大学） ； Hunan University（湖南大学） ； Amazon（亚马逊） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 提出MedCausalX框架，通过因果推理链、自适应反射架构和轨迹级因果校正，解决医疗VLM中的虚假相关和推理不一致问题，显著提升诊断一致性和减少幻觉。

Comments Accepted by CVPR 2026 Findings

Framing Matters: Addressing Framing Sensitivity in Decision-Making through Behaviorally-Grounded Value Alignment

框架至关重要：通过基于行为的价值对齐解决决策中的框架敏感性

Seojin Hwang, Minju Kim, Junhyuk Choi, JeongHyun Park, Hwanhee Lee

机构 * Chung-Ang University（Chung-Ang 大学） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.CL

AI总结 本文提出Fragile基准测试框架，系统评估大语言模型在事实等价但不同框架输入下的决策稳定性，并设计Valign方法通过表示级干预有效降低框架引起的决策翻转。

Comments 29 pages, 7 figures, 31 tables

MATCHA: Matching Text via Contrastive Semantic Alignment

MATCHA: 通过对比语义对齐进行文本匹配

Siran Li, Ece Sena Etoglu, Carsten Eickhoff, Seyed Ali Bahrainian

机构 * University of Tübingen（图宾根大学） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.CL

AI总结 针对现有评估指标无法区分语义矛盾的问题，提出MATCHA指标，通过双视角对比学习同时奖励语义一致性和惩罚矛盾，在多个基准上优于ROUGE和BERTScore。

Which Changes Matter? Towards Trustworthy Legal AI via Relevance-Sensitive Evaluation and Solver-Grounded Reasoning

哪些变化重要？通过相关性敏感评估和求解器基础推理实现可信赖的法律AI

Chen Linze, Cai Yufan, Hou Zhe, Dong Jin Song

机构 * National University of Singapore（新加坡国立大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 提出法律相关性敏感评估问题，引入统一评估套件，并设计基于形式推理的对抗多智能体框架LexGuard，以提高法律AI对法律相关变化的校准敏感性。

$Δ\mathrm{Energy}$: Optimizing Energy Change During Vision-Language Alignment Improves both OOD Detection and OOD Generalization

$Δ\mathrm{Energy}$: 优化视觉-语言对齐过程中的能量变化提升OOD检测与OOD泛化

Lin Zhu, Yifeng Yang, Xinbing Wang, Qinying Gu, Nanyang Ye

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.LG

AI总结 本文提出ΔEnergy分数，通过重新对齐视觉-语言模态时的能量变化来同时提升分布外检测和分布外泛化性能，并基于此开发了统一微调框架EBM。

Comments Accepted by NeurIPS2025

Ontological Knowledge Blocks: Executable Compliance and Profile-Based Validation for Trustworthy AI Systems

本体知识块：可信AI系统的可执行合规与基于配置文件的验证

Aasish Kumar Sharma, Julian M. Kunkel

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 提出本体知识块（OKBs）作为可编程治理基础设施，通过将监管义务编译为机器可检查的约束，实现自动化合规验证，并在AI辅助HPC资源分配场景中验证其有效性。

Comments 6 pages, 3 figures. Accepted at the Security, Trust and Privacy for Software and Applications (STPSA) Workshop, IEEE COMPSAC 2026, Madrid, Spain, July 7-10, 2026

The Expense of Seeing: Attaining Trustworthy Multimodal Reasoning Within the Monolithic Paradigm

视见之代价：在单体范式内实现可信的多模态推理

Karan Goyal

机构 * IIIT Delhi, India（德里印度理工学院） 纠错

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 本文提出了一种新的多模态评估方法，通过信息论视角揭示了多模态推理中的视见代价问题，提出了三个新指标并提出了语义充分性准则，挑战了传统多模态评估方法。

Comments Addresses practical viability of Vlabel construction. Writing is grounded. Acknowledgement is duly added

COHERENCE: Benchmarking Fine-Grained Image-Text Alignment in Interleaved Multimodal Contexts

COHERENCE：在交错多模态上下文中细粒度图像-文本对齐的基准测试

Bingli Wang, Huanze Tang, Haijun Lv, Zhishan Lin, Lixin Gu, Lei Feng, Qipeng Guo, Kai Chen

机构 * Southeast University Shanghai AI Laboratory（上海大学上海人工智能实验室） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 安全评测 ：alignment(title)；分类 cs.AI

AI总结 COHERENCE旨在评估MLLM在交错多模态上下文中恢复细粒度图像-文本对应关系的能力，涵盖四个领域，包含6161个高质量问题，并进行六类错误分析以识别当前MLLM的不足。

Prompt Engineering Strategies for LLM-based Qualitative Coding of Psychological Safety in Software Engineering Communities: A Controlled Empirical Study

基于LLM的软件工程社区心理安全定性编码的提示工程策略：一项受控实证研究

Moaath Alshaikh, Tasneem Alshaher, Ricardo Vieira, Beatriz Santana, Clelio Xavier, Jose Amancio, Glauco Carneiro, Julio Leite, Savio Freire, Manoel Mendonca

机构 * Federal University of Bahia（巴伊亚联邦大学） ； State University of Feira de Santana（费拉德桑塔纳州立大学） ； Federal University of Sergipe（塞格皮联邦大学） ； Federal Institute of Ceara（塞阿拉联邦理工学院） 纠错

专题命中 安全评测 ：safety(title)；分类 cs.AI

AI总结 本文通过对比三种LLM在零样本和多样本提示策略下的表现，验证了多样本提示能提升编码一致性，但对部分模型效果有限，同时发现模型在某些类别上存在系统性偏差。

Comments 9 pages, 5 figures. Accepted at the 1st International Workshop on Prompt Engineering for Software Engineering (PROMPT-SE 2026), co-located with the 30th International Conference on Evaluation and Assessment in Software Engineering (EASE 2026), Glasgow, Scotland, United Kingdom, June 9--12, 2026