大模型对齐与安全

Interpretable Safety Alignment via SAE-Constructed Low-Rank Subspace Adaptation

通过SAE构造的低秩子空间适应实现可解释的安全对齐

Dianyun Wang, Qingsen Ma, Yuhu Shang, Zhifeng Lu, Zhenbo Xu, Lechen Ning, Huijia Wu, Zhaofeng He

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；safety(title,abstract)；RLHF(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SAILS通过SAE构造低秩子空间实现安全对齐，提升安全性能并保持参数效率。

Multi-Agent Collaborative Reward Design for Enhancing Reasoning in Reinforcement Learning

多智能体协作奖励设计以增强强化学习中的推理

Pei Yang, Ke Zhang, Ji Wang, Xiao Chen, Yuxin Tang, Eric Yang, Lynn Ai, Bill Shi

机构 * Gradient ； Waseda University（早稻田大学） ； Columbia University（哥伦比亚大学） ； Hong Kong Polytechnic University（香港理工大学） ； Rice University（莱斯大学） 纠错

专题命中 偏好对齐 ：RLHF(abstract)；safety(abstract)；分类 cs.AI

AI总结 多智能体协作奖励模型通过分解偏好评估和引入集中化聚合器，提升强化学习中的鲁棒性和可解释性，同时提供透明的奖励建模方法。

Fine-Grained Preference Optimization Improves Spatial Reasoning in VLMs

细粒度偏好优化提升视觉语言模型的空间推理能力

Yifan Shen, Yuanzhe Liu, Jingyuan Zhu, Xu Cao, Xiaofeng Zhang, Yixiao He, Wenming Ye, James Matthew Rehg, Ismini Lourentzou

专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)；分类 cs.CL

AI总结 细粒度偏好优化方法SpatialReasoner-R1通过改进空间推理能力，在空间推理任务中取得显著性能提升。

AHA: Aligning Large Audio-Language Models for Reasoning Hallucinations via Counterfactual Hard Negatives

AHA: 通过反事实硬负样本对齐大音频-语言模型以缓解推理幻觉

Yanxi Chen, Wenhui Zhu, Xiwen Chen, Zhipeng Wang, Xin Li, Peijie Qiu, Hao Wang, Xuanzhao Dong, Yujian Xiong, Anderson Schneider, Yuriy Nevmyvaka, Yalin Wang

机构 * Arizona State University（亚利桑那州立大学） ； Clemson University（克莱姆斯大学） ； Washington University in St.Louis（圣路易斯华盛顿大学） ； Rice University（Rice 大学） ； Morgan Stanley（摩根大通） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 AHA通过反事实硬负样本对齐大音频-语言模型，有效减少推理幻觉，提升时间推理能力，并在多个基准测试中取得显著成效。

ERA-IT: Aligning Semantic Models with Revealed Economic Preference for Real-Time and Explainable Patent Valuation

ERA-IT：通过揭示的经济偏好对齐语义模型以实现实时和可解释的专利估值

Yongmin Yoo, Seungwoo Kim, Jingjiang Liu

机构 * School of Computing（计算学院） ； Macquarie University（麦考瑞大学） ； School of Computer Science（计算机科学学院） ； University of Technology Sydney（悉尼技术大学） ； School of Management（管理学院） ； Zhejiang University（浙江大学） 纠错

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL

AI总结 ERA-IT通过揭示的经济偏好对齐语义模型，实现实时且可解释的专利估值，提升预测准确性并增强决策透明度。

COMPASS: A Framework for Evaluating Organization-Specific Policy Alignment in LLMs

COMPASS：一个评估大语言模型在组织特定政策对齐性的框架

Dasol Choi, DongGeon Lee, Brigitta Jesica Kartono, Helena Berndt, Taeyoun Kwon, Joonwon Jang, Haon Park, Hwanjo Yu, Minsuk Kahng

机构 * AIM Intelligence（AIM智能科技） ； BMW Group（宝马集团） ； Yonsei University（延世大学） ； POSTECH ； Seoul National University（首尔国立大学） 纠错

专题命中 安全训练 ：alignment(title,abstract)；safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.CY

AI总结 COMPASS框架通过评估大语言模型在组织特定政策下的对齐性，揭示了模型在合规性与对抗性鲁棒性上的显著差异，为组织AI安全提供了关键评估工具。

AprielGuard

AprielGuard：一个统一安全与对抗防御的8B参数模型

Jaykumar Kasundra, Anjaneya Praharaj, Sourabh Surana, Lakshmi Sirisha Chodisetty, Sourav Sharma, Abhigya Verma, Abhishek Bhardwaj, Debasish Kanhar, Aakash Bhagat, Khalil Slimi, Seganrasan Subramanian, Sathwik Tejaswi Madhusudhan, Ranga Prasad Chenna, Srinivas Sunkara

机构 * AprielGuard 纠错

专题命中 安全训练 ：safety(abstract)；prompt injection(abstract)；分类 cs.CL

AI总结 AprielGuard是一个统一安全与对抗防御的8B参数模型，通过多任务训练在多步骤和推理场景中有效检测有害内容和对抗操纵。

Sparse Threats, Focused Defense: Criticality-Aware Robust Reinforcement Learning for Safe Autonomous Driving

稀疏威胁，聚焦防御：面向安全自动驾驶的关键性感知鲁棒强化学习

Qi Wei, Junchao Fan, Zhao Yang, Jianhua Wang, Jingkai Mao, Xiaolin Chang

机构 * Beijing Key Laboratory of Security and Privacy in Intelligent Transportation, Beijing Jiaotong University, P.R.China（北京智能交通安全与隐私重点实验室，北京交通大学，中华人民共和国） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CARRL方法，通过关键性感知的对抗训练，提升自动驾驶中稀疏安全关键风险的鲁棒性，实验显示碰撞率降低22.66%。

CEE: An Inference-Time Jailbreak Defense for Embodied Intelligence via Subspace Concept Rotation

CEE: 通过子空间概念旋转实现体智能中的推断时间劫持防御

Jirui Yang, Zheyu Lin, Zhihui Lu, Yinggui Wang, Lei Wang, Tao Wei, Qiang Duan, Xin Du, Shuhan Yang

机构 * Fudan University（复旦大学） ； Dalian University of Technology（大连理工大学） ； Ant Group（蚂蚁集团） ； Pennsylvania State University（宾夕法尼亚州立大学） ； Zhejiang University（浙江大学） 纠错

专题命中 越狱攻击 ：jailbreak(title,abstract)；safety(abstract)；分类 cs.LG

AI总结 CEE通过动态构建子空间并应用SLERP旋转，实现体智能系统中高效的推断时间劫持防御，提升安全性和实用性。

Emoji-Based Jailbreaking of Large Language Models

基于表情符号的大型语言模型劫持

M P V S Gopinadh, S Mahaboob Hussain

机构 * Vishnu Institute of Technology（维什努技术学院） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 本研究通过测试基于表情符号的提示揭示了大型语言模型在安全对齐方面的漏洞，发现不同模型对表情符号攻击的响应存在显著差异，强调了在提示层面加强安全机制的重要性。

Comments 7 pages, 2 figures

The Silicon Psyche: Anthropomorphic Vulnerabilities in Large Language Models

硅之心：大型语言模型中的人格化脆弱性

Giuseppe Canale, Kashyap Thimmaraju

机构 * CPF3.org（CPF3组织） ； Flowguard Institute（Flowguard研究所） 纠错

专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.AI、cs.CY

AI总结 本文提出LLMs继承人类心理脆弱性，通过心理测量框架揭示其对权威操纵等攻击的易受性，呼吁开发心理防火墙以保护AI安全。

Uncertainty Quantification of Surrogate Models using Conformal Prediction

利用符合预测对代理模型的不确定性量化

Vignesh Gopakumar, Ander Gray, Joel Oskarsson, Lorenzo Zanisi, Daniel Giles, Matt J. Kusner, Stanislas Pamela, Marc Peter Deisenroth

机构 * Centre for Artificial Intelligence Department of Computer Science University College London（人工智能中心 计算机科学系 伦敦大学学院） ； Heudiasyc Laboratory Université de Technologie de Compiègne（Heudiasyc实验室 技术大学Compiègne） ； Department of Computer and Information Science Linköping University（计算机与信息科学系 链接普大学） ； Computing Division UK Atomic Energy Authority（计算部门 英国原子能局） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出了一种基于符合预测的框架，用于对代理模型的不确定性进行统计保证的量化，适用于高维空间-时间问题，且计算成本低，能有效验证预训练模型。

An Explainable Agentic AI Framework for Uncertainty-Aware and Abstention-Enabled Acute Ischemic Stroke Imaging Decisions

可解释的代理AI框架：用于不确定性和可 abstention 的急性缺血性中风影像决策

Md Rashadul Islam

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Daffodil International University（达福尔国际大学） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出了一种可解释的代理AI框架，用于在急性缺血性中风影像学中实现不确定性意识和选择性退避，以提高临床决策的安全性和透明性。

Comments Preprint. Conceptual and exploratory framework focusing on uncertainty-aware and abstention-enabled decision support for acute ischemic stroke imaging

Hallucination to Truth: A Review of Fact-Checking and Factuality Evaluation in Large Language Models

幻觉与事实：大型语言模型中事实核查与事实性评估的综述

Subhey Sadi Rahman, Md. Adnanul Islam, Md. Mahbub Alam, Musarrat Zeba, Md. Abdur Rahman, Sadia Sultana Chowa, Mohaimenul Azam Khan Raiaan, Sami Azam

机构 * Department of Computer Science and Engineering, United International University, Dhaka 1212, Bangladesh（乌姆特国际大学计算机科学与工程系） ； Department of Computer Science and Engineering, Daffodil International University, Dhaka-1341, Bangladesh（达芙尼国际大学计算机科学与工程系） ； Faculty of Science and Technology, Charles Darwin University, Casuarina, NT 0909, Australia（查尔斯·达尔文大学科学与技术学院） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文综述了大型语言模型中事实核查与事实性评估的关键挑战及方法，强调了提升事实准确性的重要性。

Journal ref Artif. Intell. Rev. (2026)

Project Ariadne: A Structural Causal Framework for Auditing Faithfulness in LLM Agents

Project Ariadne: 一种用于审计大语言模型代理忠实性的结构因果框架

Sourena Khanzadeh

机构 * Sourena Khanzadeh（独立研究者） 纠错

专题命中 幻觉与事实性 ：safety(abstract)；分类 cs.AI

AI总结 Project Ariadne提出一种结构因果框架，通过因果干预评估大语言模型代理推理的忠实性，揭示代理推理与决策之间的因果脱节问题。

Empowering Small Language Models with Factual Hallucination-Aware Reasoning for Financial Classification

赋能小型语言模型以实现金融分类的事实幻觉感知推理

Han Yuan, Yilin Wu, Li Zhang, Zheng Ma

机构 * Decision Science Center of Excellence（决策科学中心卓越机构） ； American Express（美国运通） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI

AI总结 本文提出AAAI流程，通过缓解事实幻觉提升小型语言模型在金融分类中的性能。

Exploring Approaches for Detecting Memorization of Recommender System Data in Large Language Models

探索用于检测大型语言模型中推荐系统数据记忆的方法

Antonio Colacicco, Vito Guida, Dario Di Palma, Fedelucio Narducci, Tommaso Di Noia

机构 * Politecnico di Bari（巴里理工大学） 纠错

专题命中 隐私与版权 ：jailbreak(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出三种方法探索大型语言模型中推荐系统数据记忆的检测，发现自动优化提示是提取记忆样本最有效的方法。

Admissibility Alignment

可接受性对齐

Chris Duffey

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出MAP-AI架构，通过蒙特卡洛方法评估决策策略的可接受性，实现AI对齐的动态决策理论属性。

Comments 24 pages, 2 figures, 2 tables.. Decision-theoretic alignment under uncertainty

LLM-Empowered Functional Safety and Security by Design in Automotive Systems

基于大语言模型的汽车系统功能安全与安全设计

Nenad Petrovic, Vahid Zolfaghari, Fengjunjie Pan, Alois Knoll

机构 * European Chips Joint Undertaking（欧洲芯片联合计划） ； Federal Ministry of Research, Technology and Space of Germany（德国联邦科研、技术和空间 ministry） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出利用大语言模型提升汽车系统功能安全与安全设计的方法，通过事件链模型和MDE方法实现安全拓扑设计和代码分析。

ITSELF: Attention Guided Fine-Grained Alignment for Vision-Language Retrieval

ITSELF: 基于注意力引导的细粒度对齐用于视觉-语言检索

Tien-Huy Nguyen, Huu-Loc Tran, Thanh Duc Ngo

机构 * University of Information Technology（信息技术大学） ； Vietnam National University（越南国家大学） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.AI

AI总结 ITSELF通过基于注意力引导的细粒度对齐框架，在视觉-语言检索任务中实现最先进的性能和跨数据集泛化能力。

Comments Accepted at WACV Main Track 2026

MACA: A Framework for Distilling Trustworthy LLMs into Efficient Retrievers

MACA：一种将可信大语言模型提炼为高效检索器的框架

Satya Swaroop Gudipudi, Sahil Girhepuje, Ponnurangam Kumaraguru, Kristine Ma

机构 * JP Morgan Chase（摩根大通公司） ； IIIT Hyderabad（海得拉巴印度理工学院） 纠错

专题命中 安全评测 ：trustworthy(title)；alignment(abstract)；分类 cs.AI

AI总结 MACA通过提炼可信LLM为高效检索器，提升检索准确率并减少LLM调用成本

CSSBench: Evaluating the Safety of Lightweight LLMs against Chinese-Specific Adversarial Patterns

CSSBench: 评估轻量级大语言模型对中文特定对抗模式的安全性

Zhenhong Zhou, Shilinlu Yan, Chuanpu Liu, Qiankun Li, Kun Wang, Zhigang Zeng

机构 * Nanyang Technological University（南洋理工大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL

AI总结 CSSBench通过评估中文特定对抗模式，揭示轻量级大语言模型在中文环境下的安全挑战，为实际应用提供安全评估框架。

Comments 18 pages

SAMUeL: Efficient Vocal-Conditioned Music Generation via Soft Alignment Attention and Latent Diffusion

SAMUeL：通过软对齐注意力和潜在扩散实现高效的语音条件音乐生成

Hei Shing Cheung, Boya Zhang, Jonathan H. Chan

机构 * Division of Engineering Science University of Toronto（工程科学系 马尼托瓦大学） ； Innovative Cognitive Computing Center King Mongkut's University of Technology Thonburi（创新认知计算中心 王后大学技术吞武里） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.LG

AI总结 SAMUeL通过软对齐注意力和潜在扩散技术，实现高效的语音条件音乐生成，参数减少220倍，推理速度提升52倍，性能优于OpenAI Jukebox。

Comments 7 pages, 3 figures, accepted to IEEE/WIC WI-IAT

SDEval: Safety Dynamic Evaluation for Multimodal Large Language Models

SDEval: 多模态大语言模型的安全动态评估

Hanqing Wang, Yuan Tian, Mingyu Liu, Zhenhao Zhang, Xiangyang Zhu

专题命中 安全评测 ：safety(title,abstract)

AI总结 SDEval通过动态调整安全基准分布和复杂度，提升多模态大语言模型的安全评估效果，缓解数据污染并揭示模型安全局限。

Comments AAAI 2026 poster

Emotion-Coherent Reasoning for Multimodal LLMs via Emotional Rationale Verifier

通过情感推理验证器实现多模态大语言模型的情感一致性推理

Hyeongseop Rha, Jeong Hun Yeo, Yeonju Kim, Yong Man Ro

机构 * Corresponding author（通讯作者） 纠错

专题命中 安全评测 ：alignment(abstract)；trustworthy(abstract)；分类 cs.AI

AI总结 本文提出情感推理验证器和解释奖励，通过引导模型生成与目标情绪一致的推理，提升多模态大语言模型在情绪识别中的解释准确性与一致性。

Comments 15 pages, 11 figures

Aletheia: Quantifying Cognitive Conviction in Reasoning Models via Regularized Inverse Confusion Matrix

Aletheia: 通过正则化逆混淆矩阵量化推理模型中的认知信念

Fanzhe Fu

机构 * Zhejiang University（浙江大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Aletheia通过正则化逆混淆矩阵量化推理模型中的认知信念，探索AI科学诚信的测量方法。

Comments 6 pages, 2 figures

BiPrompt: Bilateral Prompt Optimization for Visual and Textual Debiasing in Vision-Language Models

BiPrompt：面向视觉与文本去偏的双重视觉语言模型双向提示优化

Sunny Gupta, Shounak Das, Amit Sethi

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 BiPrompt通过双重视觉语言模型双向提示优化，同时减轻视觉和文本中的非因果特征依赖，提升模型在分布偏移下的鲁棒性和因果推理能力。

Comments Accepted at the AAAI 2026 Workshop AIR-FM, Assessing and Improving Reliability of Foundation Models in the Real World

Refinement Provenance Inference: Detecting LLM-Refined Training Prompts from Model Behavior

细化溯源推断：从模型行为检测LLM细化训练提示

Bo Yin, Qi Li, Runpeng Yu, Xinchao Wang

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RePro框架，通过教师强制的似然特征与logit排名信号融合，实现对LLM细化训练提示的溯源推断，具有跨模型和训练设置的泛化能力。

Anytime-Valid Answer Sufficiency Certificates for LLM Generation via Sequential Information Lift

通过顺序信息提升实现LLM生成的任何时间有效性答案充分性证书

Sanjeda Akter, Ibne Farabi Shihab, Anuj Sharma

机构 * Department of Computer Science, Iowa State University（计算机科学系，爱荷华州立大学） ； Department of Civil, Construction & Environmental Engineering, Iowa State University（土木、建设与环境工程系，爱荷华州立大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 通过顺序信息提升实现LLM生成的任何时间有效性答案充分性证书，利用经验动态形式提升方法，在减少生成长度的同时保持delta级误差控制，并通过轻量级正确性门提升端任务正确性。

Autoregressive Semantic Visual Reconstruction Helps VLMs Understand Better

自回归语义视觉重建有助于VLMs更好地理解

Dianyi Wang, Wei Song, Yikun Wang, Siyuan Wang, Kaicheng Yu, Zhongyu Wei, Jiaqi Wang

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； AutoLab, Westlake University（西湖大学AutoLab） ； Zhejiang University（浙江大学） ； Shanghai AI Lab（上海人工智能实验室） ； University of Southern California（美国南加州大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 自回归语义视觉重建通过提升多模态理解能力，改进了VLMs对视觉信息的把握