大模型对齐与安全

Calibrate-Then-Delegate: Safety Monitoring with Risk and Budget Guarantees via Model Cascades

校准后再委托：通过模型级联实现具有风险和预算保证的安全监控

Edoardo Pona, Milad Kazemi, Mehran Hosseini, Yali Du, David Watson, Osvaldo Simeone, Nicola Paoletti

机构 * King’s College London（伦敦国王学院） ； University of Manchester（曼彻斯特大学） ； Northeastern University London（伦敦东北大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.LG

AI总结 本文提出Calibrate-Then-Delegate方法，通过模型级联在保证计算成本的同时实现实例级决策，有效提升安全监控的准确性和效率。

Trustworthy RAG: An Evaluation Agent for Detecting Misinformation and Knowledge Poisoning in Generative AI Systems

可信检索增强生成：用于检测生成式人工智能系统中错误信息和知识投毒的评估智能体

Balkrishna Giri, Md Toufique Hasan, Jussi Rasku, Muhammad Waseem, Pekka Abrahamsson

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL、cs.AI

AI总结 该研究针对RAG系统的安全-可靠性鸿沟，提出结合NLI验证、五信号投毒检测器及可信指数的评估智能体，在TruthfulQA等数据集上实现高检测性能，可阻止RAG系统的不安全指令注入。

Comments 7 pages, 1 figure. Accepted for publication in the Main Research Track of the Twenty-First International Conference on Software Engineering Advances (ICSEA 2026)

Auditable by Construction: An Ontology-Driven Framework for Trustworthy LLM Analytics in Enterprise Finance

可审计性原生：面向企业金融领域可信大语言模型分析的本体驱动框架

Sergiy Lunyakin

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL、cs.AI

AI总结 本文针对企业金融大语言模型应用的信任问题，提出知识驱动分析框架KDAF，结合本体与CARP技术，在FinanceBench评估中，其可审计性优于基线方法，表明可审计性是该框架的核心优势。

Comments 20 pages, 1 figure, 4 tables, 1 algorithm. Artifact deposit with configurations, ontology schema, prompts, audit reports and reconstruction scripts: this https URL (https://doi.org/10.5281/zenodo.22022068)

Prediction certification cannot replace explanation certification: a competence envelope for trustworthy AI under compound stress

预测认证无法替代解释认证：复合压力下可信人工智能的能力边界

Nataliya Shakhovska, Ivan Izonin, Stergios-Aristoteles Mitoulis

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 研究表明仅预测侧认证无法确保AI可信，提出结合预测与解释认证的能力边界框架，可捕捉预测侧认证遗漏的失效模式，为可信AI认证提供新方法。

Automated Trajectory Evaluation for Mobile Agents via Step-Level Consequence Reasoning and Aggregation

基于步骤级结果推理与聚合的移动智能体自动轨迹评估

Pengshuai Yang, Zijing Gao, Xue Yu, Benhui Zhuang, Bo Yuan, Junlan Feng

机构 * Jiutian Research（九天研究院） ； China Mobile（中国移动） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本研究提出CRATE（含安全评估扩展版CRATE-S）这一VLM-as-judge框架，通过步骤级推理解决移动智能体轨迹评估的上下文过载与安全缺失问题，在AndroidWorld、MobileRisk数据集上取得优于现有方法的性能。

PromptResponse: Optimizing Prompts for LLM Coding Tasks

PromptResponse：优化大语言模型编码任务的提示词

Erik Thureck, Robert Kühnen, Tim Jacobowitz

机构 * Humboldt-Universität zu Berlin（柏林洪堡大学） ； HU Berlin（柏林洪堡大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出PromptResponse，通过对HumanEval数据集的5种变体让GPT-4o执行8200次编码任务，发现统一格式（尤其JSON）可提升代码效率与稳定性，LLM调优提示词会降低性能，还发布了相关数据集与评估流程。

Comments 22 pages, 7 figures, 10 listings

Knowledge-Graph-Gated Defactualization for Style-Controllable and Fact-Preserving Generation in Agentic Conversational AI

面向智能体对话AI的风格可控且事实保留生成的知识图谱门控去事实化方法

Tanmay Kumar Shrivastava, Darsh Rohit Nandu, Rajesh Kumar Mundotiya

机构 * Indian Institute of Technology (IIT) Bhilai（印度比莱印度理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 针对智能体对话AI的事实保留与风格可控生成需求，提出DSR知识工程框架，结合KG与激活引导，在LLaMA系列模型上验证其可提升实体恢复率并保持风格控制，无需微调。

$Z^2$-ACT: End-to-End Verifiable Agentic Intent Control for Open 6G RAN

$Z^2$-ACT：面向开放6G无线接入网的端到端可验证智能体意图控制

Sunder Ali Khowaja, Kapal Dev, George C. Alexandropoulos

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 针对开放6G RAN多厂商部署的安全可验证需求，提出$Z^2$-ACT架构，集成多类核心组件并经实验验证其执行过滤与攻击恢复能力提升。

Comments 12 pages, 2 figures, 6 tables

Evaluating Large Language Model Performance on International Maritime Dangerous Goods Code Compliance

评估大型语言模型在国际海运危险货物规则合规性上的性能

Alexander Thomas, Hubert P. H. Shum, Darren Nellis, Manli Zhu, Phatpicha Yochum, William Bartle, Daniel Wrightson

机构 * NCB Hazcheck Limited（NCB Hazcheck有限公司） ； Durham University（杜伦大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究构建首个IMDG规则合规性基准DGEval，评估13个LLM的性能，发现其在积载等安全关键领域表现弱，仅可辅助结构化查询，需人工监督。

Comments 28 pages, 2 figures

No Judgment Without a Reason: Counterfactual Receipts for Versioned AI Evaluators

无理由不判断：面向版本化AI评估器的反事实收据

Ye Chen, Weining Zhang

机构 * Alibaba Group（阿里巴巴集团） ； Cheung Kong Graduate School of Business（长江商学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对AI评估器的推理问责问题，提出反事实收据方法与ReasonBench基准，发现模型标准准确率掩盖鲁棒性缺陷，需解耦预测与认证以实现可信审计。

Comments 26 pages, 11 tables, 7 figures

The Lifecycle of LLM-as-a-Judge for Large-Scale Recommendation Explanations

用于大规模推荐解释的LLM评判模型的生命周期

Emma Yanyang Kong, JJ Tan, Ishan Gupta, Lars Olds, Claire Campbell, David Fagnan, Ratna Kavuri, Veli Balin, Rohan Gosain, Louis Garcia, Minsu Jang

机构 * Netflix（网飞公司） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI

AI总结 该研究提出用于Netflix大规模推荐解释评估的LLM评判模型生命周期框架，经五周A/B测试证实，其对齐的解释可提升会员对新颖内容的观看及浏览到播放会话量。

MedRAGChecker: Claim-Level Verification for Biomedical Retrieval-Augmented Generation

MedRAGChecker: 用于生物医学检索增强生成的声明级验证

Yuelyu Ji, Min Gu Kwak, Hang Zhang, Xizhi Wu, Chenyu Li, Yanshan Wang

机构 * University of Pittsburgh（匹兹堡大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL

AI总结 MedRAGChecker通过声明级验证和诊断框架，提高生物医学RAG生成答案的可靠性与安全性。

Beyond Truth Discovery: A Two-Stage Framework to Assess the Severity of False Claim during Disasters

超越真相发现：一种评估灾害期间虚假声明严重程度的两阶段框架

Ruichen Yao, Tejna Dasari, Gulshat Baispay, Aizhan Zaurbek, Yifan Liu, Yaokun Liu, Zelin Li, Dong Wang

专题命中 安全评测 ：alignment(abstract,comments)

AI总结 该研究针对灾害中社交媒体虚假声明严重程度评估问题，提出两阶段框架，结合可信度与危害性维度构建基准，发现LLMs及上下文学习与人工判断对齐度更强。

Comments The 2026 ACM Conference on Human-AI Complementarity and Alignment

When Adaptation Hurts: Connecting Representational Drift to OOD Failures in MedSAM Fine-Tuning

当适应适得其反：将表征漂移与MedSAM微调中的分布外故障关联起来

Marko Haralović, Sounic Akkaraju, Carlo Baretta, Vasil Zapryanov, Alexia Briassouli

机构 * University of Zagreb（萨格勒布大学） ； University of Twente（特温特大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究分析MedSAM的六种微调策略在不同医学图像数据集上的泛化表现，发现仅编码器LoRA等策略可缓解远分布外性能下降，提示随机抖动能提升模型鲁棒性。

Comments Accepted at the SAFER Workshop, MICCAI 2026

From Search Agents to Dissemination Interfaces: Understanding Human Trust in Health Information from Conversational Search

从搜索智能体到传播界面：理解人们对对话式搜索中健康信息的信任

Xin Sun, Rongjun Ma, Xiaochang Zhao, Janne Lindqvist, Jan de Wit, Zhuying Li, Abdallah El Ali, Jos A. Bosch

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本研究通过两项混合方法研究，发现人们对ChatGPT提供的健康信息信任显著高于谷歌，且传播界面类型会显著影响这种信任，为开发可信的LLM驱动健康工具提供了关键见解。

High-Altitude Platforms Beyond Connectivity: A Survey of Integrated Sensing, Storage, Communication, Computing, and Intelligence

面向S^2C^2I集成高空平台：架构、跨职能设计、评估与部署视角

Haoxiang Luo, Mohamed-Slim Alouini

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本综述聚焦S^2C^2I集成高空平台，阐述其架构、技术、评估方法与部署，通过应急案例验证其服务优势，指明相关研究机遇，提供从设计到部署的路线图。

Learning to Orchestrate Vision Foundation Models for Multi-Task Dense Prediction

任务指令引导的视觉基础模型因果路由用于多任务学习

Donghyun Han, Yuseok Bae, Jung Uk Kim, Hyung-Il Kim

机构 * Electronics and Telecommunications Research Institute (ETRI)（韩国电子通信研究院（ETRI）） ； Kyung Hee University（庆熙大学） ； Chonnam National University（全南大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 提出TIGER框架，通过自然语言任务指令引导路由网络，结合反事实因果对齐，协调多个异构视觉基础模型实现多任务密集预测，在NYUD-v2和Pascal Context上超越现有方法。

Comments 9 pages, 4 figures

Your Harness is Not Secure: Benchmarking Real-world Threat of Command Line Interface Agent

你的工具不安全：评测命令行界面智能体的现实威胁

Weidi Luo, Qiming Zhang, Tianyu Lu, Xiaogeng Liu, Bin Hu, Hung-Chun Chiu, Siyuan Ma, Yizhe Zhang, Xusheng Xiao, Yinzhi Cao, Zhen Xiang, Chaowei Xiao

专题命中 安全评测 ：safety(abstract)

AI总结 该研究针对CLI智能体滥用风险，推出与MITRE ATT&CK对齐的AdvCLI基准测试，评估7款CLI智能体后发现其常越过拒绝边界，可完成部分恶意OS级任务，为开发安全机制提供测试平台。

Comments Accepted by EMNLP 2026 (Findings)

Crane: Context-Guided Prompt Learning and Attention Refinement for Zero-Shot Anomaly Detection

Crane：用于零样本异常检测的上下文引导提示学习与注意力优化

Alireza Salehi, Mohammadreza Salehi, Reshad Hosseini, Cees G. M. Snoek, Makoto Yamada, Mohammad Sabokrou

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究提出基于CLIP的框架Crane，通过相关性注意力模块、上下文引导提示学习等改进零样本异常检测，在7个工业基准上显著提升图像级AP与像素级AUPRO，还衍生出更强变体Crane+。

Comments British Machine Vision Conference (BMVC 2026)

Explaining Intrinsic Moral Self-Correction with Mechanistic Interpretability

大语言模型中的内在自我修正：通过机制可解释性实现可解释的提示

Yu-Ting Lee, Fu-Chieh Chang, Yu-En Shu, Hui-Ying Shih, Pei-Yuan Wu

机构 * Graduate Institute of Communication Engineering, National Taiwan University, Taipei, Taiwan（通讯工程研究院，国立台湾大学） ； MediaTek Research, Taipei, Taiwan（联发科研究，台北，台湾） ； Department of Electrical Engineering, National Taiwan University, Taipei, Taiwan（电气工程系，国立台湾大学） ； Department of Electrical Engineering, National Tsing Hua University, Hsinchu, Taiwan（电气工程系，国立清华大学） ； AI Research Center (AINTU), National Taiwan University, Taipei, Taiwan（人工智能研究中心（AINTU），国立台湾大学） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究通过机制可解释性揭示大语言模型中内在自我修正的机制，证明提示引导隐藏表示偏移是其核心驱动因素。

Six misconceptions about large language models: A minimal model and diagnostic taxonomy

大型语言模型的六大误解：一个极简模型与诊断分类法

Zhicheng Lin

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 该研究提出以四组区分为核心的LLM极简模型，诊断六大误解，应用于出版商AI政策案例，为纠正民间理论错误提供诊断工具。

Comments 20 pages, 1 figure, 2 tables, and 2 boxes. Published in PNAS Nexus

BioFirewall: A genome-writing-native governance layer for design-stage biosecurity screening of agentic AI

BioFirewall：面向智能体AI设计阶段生物安全筛查的基因组写入原生治理层

Anees Ahmed Mahaboob Ali, Radhakrishnan Delhibabu, Everette Jacob Remington Nelson

专题命中 AI治理与伦理 ：prompt injection(abstract)

AI总结 针对智能体AI基因组编辑设计阶段的生物安全管控缺口，提出BioFirewall中间件，其在多维度筛查中表现优于大模型，能有效抵御攻击且假拒绝率低，已开源并附带可复现基准。

Latent Ordinal Evidence, Misaligned Outputs: Inference-Time Ordinal Lens Alignment for Multimodal LLMs

潜在有序证据与未对齐输出：多模态大语言模型的推理时有序视角对齐

Haiming Li, Yingsheng Liu, Jingmin Zhu, Siyuan Yan, Xieji Li, Jiajun Sun, Zhen Yu, Zongyuan Ge

机构 * Monash University（莫纳什大学） ； Faculty of Information Technology, Monash University（莫纳什大学信息技术学院） 纠错

专题命中 其他安全 ：alignment(title,summary_cn)

AI总结 针对多模态大语言模型有序输出未对齐问题，本文提出推理时的Ordinal Lens Alignment方法，提升有序回归任务性能且优于现有基线。

Comments EMNLP 2026 (Main Conference)

Fragility of Value under Imperfect Alignment

不完美对齐下价值的脆弱性

Winter Cross, Léo Cymbalista, Alfred Harwood, Jose Faustino

专题命中 其他安全 ：alignment(title,abstract)；safety(abstract)；AI safety(abstract)；分类 cs.AI

AI总结 本文针对AI系统与人类价值对齐问题，建立模型明确人类价值函数与代理条件准确度的相关条件，凸显过度优化风险，提出采用quantilizers等限制优化压力的AI设计方案。

Comments 25 pages, 7 figures. Expanded the contribution statements and added three researchers as coauthors. Made small text improvements

Coverage-Driven Verification for Safety-by-Design in AI-Based Collision Avoidance Systems

基于覆盖率的AI防撞系统设计安全验证

Thomas Stefani, Johann Maximilian Christensen, Elena Hoemann, Frank Köster, Sven Hallerbach

专题命中 其他安全 ：safety(title,abstract)；分类 cs.AI

AI总结 本研究针对AI防撞系统的ODD代表性评估问题，提出采用Kullback-Leibler散度和Cramér's V的覆盖率驱动验证方法，契合EASA安全标准，为安全关键AI应用的设计安全提供支撑。

A Safety-Driven Architectural Framework for Fail-Operational Drone Swarms in Critical Missions

面向关键任务中故障可运行无人机集群的安全驱动架构框架

Luiz Giacomossi, Zafer Yigit, Marwan Shakarna, Shoaib Saleemi, Ivan Tomasic, Baran Çurüklü, Håkan Forsberg

专题命中 其他安全 ：safety(title,abstract)

AI总结 针对安全关键操作中无人机集群的认证需求，提出结合SAE ARP4754B方法的混合关键度架构框架，通过硬件隔离的安全监控器实现飞行关键核心与集群管理器解耦，经马尔可夫建模可满足危险故障要求。

Comments 10 pages, 7 figures. Accepted for presentation at the 45th AIAA/IEEE Digital Avionics Systems Conference (DASC), Orlando, FL, USA, 2026. \c{opyright} 2026 IEEE. Personal use of this material is permitted. Permission from IEEE must be obtained for all other uses

ConceptFormer: Learning Adaptive Latent Concepts for Query-Document Alignment in Visual Document Retrieval

ConceptFormer：学习自适应潜在概念以实现视觉文档检索中的查询-文档对齐

Chunyi Peng, Zhipeng Xu, Yukun Yan, Zhenghao Liu, Shi Yu, Sen Mei, Yubo Sun, Yongheng Zhang, Jie Zhou, Yu Gu, Ge Yu, Maosong Sun

机构 * Northeastern University（东北大学） ； Tsinghua University（清华大学） ； Peking University（北京大学） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 针对视觉文档检索中现有监督信号的局限，本文提出ConceptFormer框架，以自适应潜在概念为中间表示衔接语义鸿沟，在基准测试中较最强基线实现了16.7%、22.1%的NDCG@10相对提升，性能优异。

Deep Models, Shallow Alignment: Uncovering the Granularity Mismatch in Neural Decoding

深度模型，浅层对齐：揭示神经解码中的粒度不匹配

Yang Du, Siyuan Dai, Yonghao Song, Paul M. Thompson, Haoteng Tang, Liang Zhan

机构 * Dept. of Electrical & Computer Engineering, University of Pittsburgh, USA（宾夕法尼亚大学电气与计算机工程系） ； Dept. of Biomedical Engineering, Tsinghua University, China（清华大学生物医学工程系） ； Dept. of Neurology, University of Southern California, USA（美国南加州大学神经病学系） ； Dept. of Computer Science, University of Texas Rio Grande Valley, USA（德克萨斯理工大学里奥格兰德谷分校计算机科学系） 纠错

专题命中 其他安全 ：alignment(title,abstract)

AI总结 本文提出浅层对齐方法，通过对比学习策略解决神经解码中的粒度不匹配问题，显著提升解码性能。

Comments 33 pages, 16 figures

Kinematic Knowledge Maps for Pattern Alignment: Structured Latent Representational Learning in Multimodal Gait Analysis

用于模式对齐的运动学知识图谱：多模态步态分析中的结构化潜在表示学习

Chen Dong, He Zonglin, Cheung Kenneth M.C

专题命中 其他安全 ：alignment(title)

AI总结 本研究提出ScoliDetect框架，通过运动学知识图谱（KKM）实现多模态步态分析，其介导的融合结合三模态对比预训练提升了脊柱侧凸筛查的泛化性与可解释性，外部ROC-AUC达0.972。

Mind the Style: Impact of Communication Style on Human-Chatbot Interaction

注意风格：沟通风格对人机交互的影响

Erik Derner, Dalibor Kučera, Aditya Gulati, Ayoub Bagheri, Nuria Oliver

机构 * Czech Technical University in Prague（捷克技术大学（布拉格）） ； University of South Bohemia（南波西米亚大学） ； Utrecht University（乌得勒支大学） 纠错

专题命中 其他安全 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 研究探讨了沟通风格对人机交互的影响，发现友好风格提升女性用户满意度和任务完成率，且用户较少模仿聊天机器人风格。