大模型对齐与安全

VA-DPO: Valence-Arousal Direct Preference Optimization for Controllable Emotion Generation in Language Models

VA-DPO：用于语言模型可控情感生成的效价-唤醒直接偏好优化

Hyunwoo Kim

专题命中 偏好对齐 ：DPO(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对现有情感生成无法表达细粒度情感的问题，提出VA-DPO方法，通过效价-唤醒连续目标优化LoRA适配器，在多模型上实现细粒度情感生成且不损害通用性能。

Comments 9 pages, 1 figure, 5 tables

From Urban Mobility to Epidemic Dynamics: A Mixture-of-Experts Framework with Preference Alignment for Policy Scenario Simulation

从城市流动性到流行病动力学：用于政策情景模拟的带偏好对齐的混合专家框架

Yun Ye, Arsalan Dezhkam, Junyuan Liu, Xinglei Wang, Tao Cheng

专题命中 偏好对齐 ：alignment(title,abstract)；分类 cs.CY

AI总结 该研究提出带偏好对齐的混合专家框架UrbanShare-MoE-PA，通过智能体级流动性建模连接政策、行为与流行病模拟，评估了不同封锁政策的流行病-活动权衡，为NPI情景分析提供了可解释工具。

ReFrame: Evidence-Guided Test-Time Safety Alignment in Multimodal Large Language Models

ReFrame：多模态大语言模型中基于证据的测试时安全对齐

Wenzheng Jiang, Xuankun Rong, Yuanzhao Zhai, Dawei Feng, Huaimin Wang

机构 * College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机学院） ； State Key Laboratory of Complex & Critical Software Environment（复杂与关键软件环境国家重点实验室） ； School of Computer Science, Wuhan University（武汉大学计算机学院） 纠错

专题命中 安全训练 ：alignment(title,abstract)；safety(title,abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 该研究针对现有多模态安全对齐方法不适用于闭源模型的问题，提出无需训练的ReFrame框架，通过两个智能体协作实现测试时安全对齐，在提升安全性能的同时保留多模态效用。

Comments Accepted to EMNLP 2026. 22 pages, 7 figures, 5 tables

Making Deployments Safe at Meta: Health Checks for Continuous Change-Safety

在 Meta 保障部署安全：面向持续变更安全的健康检查

Prakash KL, Anton Korenkov, Uttam Thakore, Christopher Hegre

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI

AI总结 Meta 介绍其用于平衡持续部署速度与可靠性的 Service Health Checker 健康检查基础设施，阐述其架构、集成方式、解决的运营问题及未来 AI 辅助调优方向。

Comments 6 pages, 4 figures, Accepted to ISSRE 2026 Industry Track

Truth Lies Deep: Countering Semantic Camouflage via Latent Intent Verification

真相藏于深处：通过潜在意图验证对抗语义伪装

Md. Hasib Ur Rahman

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 针对大语言模型安全对齐的表面性问题，该研究提出潜在意图验证（LIV）方法，利用小型语言模型早期层的有害特征，在不重新训练的情况下，将语义伪装攻击的检测性能提升20%-50%。

Comments 5 pages, 3 figures. Accepted at the 2026 IEEE 2nd International Conference on Quantum Photonics, Artificial Intelligence, and Networking (QPAIN)

Spike-Killer: Evidence-Gated LLM Assistance for Safe Performance Diagnosis on a Real Windows Workstation

Spike-Killer：面向真实Windows工作站安全性能诊断的证据门控大语言模型辅助方案

Baocheng Zeng, Jinhao Yang

专题命中 安全训练 ：trustworthy(abstract)；safety(comments)

AI总结 该研究提出Spike-Killer，一种人在环的证据门控工作流，用于安全诊断Windows工作站的帧时间问题，以CS2为目标应用验证了其可审计性，为LLM辅助智能体提供了可信操作模式。

Comments 6 pages. Experience report; no causal CS2 frame-time improvement or autonomous-safety claim is made

Robust Validation to Geometric Perturbations for Autonomous Pose Estimation

面向自主位姿估计的几何扰动鲁棒性验证

Gregoire Theau, Melanie Ducoffe

机构 * Airbus SAS（空中客车公司） ； IRT Saint-Exupery（圣埃克苏佩里技术研究院） 纠错

专题命中 安全训练 ：safety(abstract)

AI总结 本文针对自主位姿估计的几何扰动鲁棒性验证问题，提出基于全局利普希茨优化（GLO）的方法，在YOLOv8-Pose模型上验证其可高效定位失效模式并剪枝80%以上搜索空间，为鲁棒自主感知验证提供了新途径。

Comments 15 pages, 7 figures

Certified Multi-Turn Robustness for LLM Safety via Compositional Bounds and Safety Persistence

通过组合边界与安全持久性实现大语言模型安全的多轮认证鲁棒性

Yang Liu, Bin Chong, Wenkai Yang, Shuai Zhang, Yancheng Chen, Feiyu Han, GuoZhen, Cheng Zhang, Huaibing Xie, Changze Lv, Shihan Dou, Pluto Zhou

机构 * Peking University（北京大学） ； Renmin University of China（中国人民大学） ； Tsinghua University（清华大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Tencent Hunyuan（腾讯混元） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；jailbreak(abstract)；分类 cs.AI

AI总结 针对LLMs易受多轮越狱攻击的问题，提出MTCR框架，通过状态对抗MDPs等方法实现多轮认证鲁棒性，实验表明其经验安全性能超认证边界。

Trojaning the Alignment: Stealthy Backdoor Attacks against Graph Foundation Models

对齐攻击：针对图基础模型的隐蔽后门攻击

Minhua Lin, Zhicheng Gao, Yilong Wang, Hanqing Lu, Xiang Zhang, Suhang Wang

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） ； Amazon（亚马逊） 纠错

专题命中 越狱攻击 ：alignment(title,abstract)；分类 cs.LG

AI总结 本文针对带文本属性图的图基础模型，提出STAG隐蔽特洛伊木马攻击框架，协调图触发器生成器与文本软提示实现后门攻击，经多数据集实验验证其有效性与隐蔽性。

Comments Accepted by ICDM 2026

Generating Multi-view Adversarial Examples for Visual Geometry Grounded Transformer

为视觉几何接地Transformer生成多视角对抗样本

Qi Song, Ziyuan Luo, Haoliang Han, Renjie Wan

机构 * Hong Kong Baptist University（香港浸会大学） 纠错

专题命中 越狱攻击 ：alignment(abstract)

AI总结 本研究针对3D基础模型VGGT的安全漏洞，提出MVAP-G多视角对抗扰动生成器，通过跨视角对抗对齐机制生成一致扰动，可无需迭代优化即可显著降低VGGT性能，为3D视觉系统鲁棒性研究提供了新方向。

Comments ECCV 2026

Utility Under Attack: Agent Memory Poisoning and the Limits of Content Screening and Provenance Ranking

受攻击下的效用：智能体记忆投毒及内容筛选与来源排序的局限性

Arulnidhi Karunanidhi

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.AI

AI总结 该研究针对智能体记忆投毒问题，测试了内容筛选和来源排序的防御效果，发现仅内容筛选无法抵御投毒，来源加权检索也存在局限，主张采用有限占用约束并发布了相关资源。

TraceGrant: A Contract-Governed Security Framework for the Task-Effect Lifecycle of Networked LLM Agents

TraceGrant：一种用于联网LLM智能体任务-效应生命周期的合约治理安全框架

Bohao Liao, Jingchao Wang, Qipeng Song, Jin Cao, Jieling Wang, Boyu Deng

专题命中 提示注入 ：prompt injection(abstract)

AI总结 TraceGrant是通过显式合约治理联网LLM智能体任务-效应生命周期的安全框架，在两类基准攻击案例中未出现攻击成功，且能关联用户意图、执行与任务完成。

COEC: Calibrated Orthogonal-Equivalence Compensation for Structured Pruning of Large Language Models

COEC：面向大语言模型结构化剪枝的校准正交等价补偿

Peiqi Yu, Nam Ling, Wei Wang, Wei Jiang

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.LG

AI总结 本研究提出无训练补偿框架COEC，将其应用于Llama-3等模型的结构化剪枝，可提升剪枝后模型的困惑度与零样本准确率，在高稀疏度下增益更显著。

CLEAR: Continuous Latent Adapter Routing for Utility-Preserving LLM Safety Alignment

CLEAR：用于保持效用的大语言模型安全对齐的连续潜在适配器路由

Chengxiao Wang, Enyi Jiang, Xiaojing Liao, Sanmi Koyejo

机构 * Stanford University（斯坦福大学） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Siebel School of Computing and Data Science, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校西贝尔计算与数据科学学院） ； Computer Science, Stanford University（斯坦福大学计算机科学系） 纠错

专题命中 安全评测 ：alignment(title,abstract)；safety(title,abstract)；分类 cs.AI

AI总结 本研究提出CLEAR框架，通过轻量型隐藏状态门控控制安全低秩适配器的激活强度，在降低LLM有害输出的同时，减少了全局安全调优带来的效用损失，实现了安全与效用的更好平衡。

aiXamine: Unified Black-Box Evaluation of Cross-Dimensional Trade-offs in LLM Safety, Security, and Privacy

aiXamine：针对大语言模型安全、安全与隐私的跨维度权衡的统一黑盒评估

Fatih Deniz, Yazan Boshmaf, Dorde Popovic, Issa Khalil

专题命中 安全评测 ：safety(title,abstract)；alignment(abstract)；分类 cs.LG

AI总结 该研究推出aiXamine统一黑盒平台，对超120个LLM开展大规模联合评估，发现安全、隐私等跨维度权衡现象，揭示当前对齐方法将多维度可信性视为单一目标的缺陷。

When Vocabulary Comprehension Fails Clinical Reasoning: Evaluating Therapy Bots' Safety Risks for Generation Alpha

当词汇理解失效于临床推理：评估面向阿尔法世代（Gen Alpha，2010-2024年出生）的治疗机器人的安全风险

Manisha Mehta, Virendra Mehta

机构 * Lynbrook High School（林布鲁克高中） ； University of Trento（特伦托大学） 纠错

专题命中 安全评测 ：safety(title,abstract)；分类 cs.CL、cs.AI、cs.CY

AI总结 本研究构建两个基准评估Claude、GPT-4o等LLM的治疗机器人安全风险，发现其存在10-14个百分点的词汇理解与临床风险校准差距，识别六种失败模式，提出四项监管与技术改进建议。

Comments 42 pages, 6 figures. Accepted at ACM FAccT '26

Designing a Robust LLM-Based Evaluation System for Agentic AI in Drug Discovery Through Human Alignment

通过人类对齐设计用于药物发现中智能体AI的鲁棒性大语言模型评估系统

Emma Granqvist, Rocío Mercado, Samuel Genheden

机构 * AstraZeneca（阿斯利康） ； Chalmers University of Technology（查尔姆斯理工大学） ； University of Gothenburg（哥德堡大学） ； Science for Life Laboratory (SciLifeLab)（生命科学实验室） 纠错

专题命中 安全评测 ：alignment(title,abstract)；分类 cs.LG

AI总结 本研究针对药物发现智能体AI，提出人类对齐的LLM作为评判者评估框架，优化后对齐度达0.86，为科学领域智能体系统评估提供可复用模板。

Trustworthy RAG: An Evaluation Agent for Detecting Misinformation and Knowledge Poisoning in Generative AI Systems

可信检索增强生成：用于检测生成式人工智能系统中错误信息和知识投毒的评估智能体

Balkrishna Giri, Md Toufique Hasan, Jussi Rasku, Muhammad Waseem, Pekka Abrahamsson

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL、cs.AI

AI总结 该研究针对RAG系统的安全-可靠性鸿沟，提出结合NLI验证、五信号投毒检测器及可信指数的评估智能体，在TruthfulQA等数据集上实现高检测性能，可阻止RAG系统的不安全指令注入。

Comments 7 pages, 1 figure. Accepted for publication in the Main Research Track of the Twenty-First International Conference on Software Engineering Advances (ICSEA 2026)

Auditable by Construction: An Ontology-Driven Framework for Trustworthy LLM Analytics in Enterprise Finance

可审计性原生：面向企业金融领域可信大语言模型分析的本体驱动框架

Sergiy Lunyakin

专题命中 安全评测 ：trustworthy(title)；分类 cs.CL、cs.AI

AI总结 本文针对企业金融大语言模型应用的信任问题，提出知识驱动分析框架KDAF，结合本体与CARP技术，在FinanceBench评估中，其可审计性优于基线方法，表明可审计性是该框架的核心优势。

Comments 20 pages, 1 figure, 4 tables, 1 algorithm. Artifact deposit with configurations, ontology schema, prompts, audit reports and reconstruction scripts: this https URL (https://doi.org/10.5281/zenodo.22022068)

Prediction certification cannot replace explanation certification: a competence envelope for trustworthy AI under compound stress

预测认证无法替代解释认证：复合压力下可信人工智能的能力边界

Nataliya Shakhovska, Ivan Izonin, Stergios-Aristoteles Mitoulis

专题命中 安全评测 ：trustworthy(title)；分类 cs.AI

AI总结 研究表明仅预测侧认证无法确保AI可信，提出结合预测与解释认证的能力边界框架，可捕捉预测侧认证遗漏的失效模式，为可信AI认证提供新方法。

Automated Trajectory Evaluation for Mobile Agents via Step-Level Consequence Reasoning and Aggregation

基于步骤级结果推理与聚合的移动智能体自动轨迹评估

Pengshuai Yang, Zijing Gao, Xue Yu, Benhui Zhuang, Bo Yuan, Junlan Feng

机构 * Jiutian Research（九天研究院） ； China Mobile（中国移动） 纠错

专题命中 安全评测 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 本研究提出CRATE（含安全评估扩展版CRATE-S）这一VLM-as-judge框架，通过步骤级推理解决移动智能体轨迹评估的上下文过载与安全缺失问题，在AndroidWorld、MobileRisk数据集上取得优于现有方法的性能。

PromptResponse: Optimizing Prompts for LLM Coding Tasks

PromptResponse：优化大语言模型编码任务的提示词

Erik Thureck, Robert Kühnen, Tim Jacobowitz

机构 * Humboldt-Universität zu Berlin（柏林洪堡大学） ； HU Berlin（柏林洪堡大学） 纠错

专题命中 安全评测 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出PromptResponse，通过对HumanEval数据集的5种变体让GPT-4o执行8200次编码任务，发现统一格式（尤其JSON）可提升代码效率与稳定性，LLM调优提示词会降低性能，还发布了相关数据集与评估流程。

Comments 22 pages, 7 figures, 10 listings

Knowledge-Graph-Gated Defactualization for Style-Controllable and Fact-Preserving Generation in Agentic Conversational AI

面向智能体对话AI的风格可控且事实保留生成的知识图谱门控去事实化方法

Tanmay Kumar Shrivastava, Darsh Rohit Nandu, Rajesh Kumar Mundotiya

机构 * Indian Institute of Technology (IIT) Bhilai（印度比莱印度理工学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 针对智能体对话AI的事实保留与风格可控生成需求，提出DSR知识工程框架，结合KG与激活引导，在LLaMA系列模型上验证其可提升实体恢复率并保持风格控制，无需微调。

$Z^2$-ACT: End-to-End Verifiable Agentic Intent Control for Open 6G RAN

$Z^2$-ACT：面向开放6G无线接入网的端到端可验证智能体意图控制

Sunder Ali Khowaja, Kapal Dev, George C. Alexandropoulos

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 针对开放6G RAN多厂商部署的安全可验证需求，提出$Z^2$-ACT架构，集成多类核心组件并经实验验证其执行过滤与攻击恢复能力提升。

Comments 12 pages, 2 figures, 6 tables

Evaluating Large Language Model Performance on International Maritime Dangerous Goods Code Compliance

评估大型语言模型在国际海运危险货物规则合规性上的性能

Alexander Thomas, Hubert P. H. Shum, Darren Nellis, Manli Zhu, Phatpicha Yochum, William Bartle, Daniel Wrightson

机构 * NCB Hazcheck Limited（NCB Hazcheck有限公司） ； Durham University（杜伦大学） 纠错

专题命中 安全评测 ：safety(abstract)；分类 cs.AI

AI总结 本研究构建首个IMDG规则合规性基准DGEval，评估13个LLM的性能，发现其在积载等安全关键领域表现弱，仅可辅助结构化查询，需人工监督。

Comments 28 pages, 2 figures

No Judgment Without a Reason: Counterfactual Receipts for Versioned AI Evaluators

无理由不判断：面向版本化AI评估器的反事实收据

Ye Chen, Weining Zhang

机构 * Alibaba Group（阿里巴巴集团） ； Cheung Kong Graduate School of Business（长江商学院） 纠错

专题命中 安全评测 ：trustworthy(abstract)；分类 cs.AI

AI总结 该研究针对AI评估器的推理问责问题，提出反事实收据方法与ReasonBench基准，发现模型标准准确率掩盖鲁棒性缺陷，需解耦预测与认证以实现可信审计。

Comments 26 pages, 11 tables, 7 figures

Beyond Truth Discovery: A Two-Stage Framework to Assess the Severity of False Claim during Disasters

超越真相发现：一种评估灾害期间虚假声明严重程度的两阶段框架

Ruichen Yao, Tejna Dasari, Gulshat Baispay, Aizhan Zaurbek, Yifan Liu, Yaokun Liu, Zelin Li, Dong Wang

专题命中 安全评测 ：alignment(abstract,comments)

AI总结 该研究针对灾害中社交媒体虚假声明严重程度评估问题，提出两阶段框架，结合可信度与危害性维度构建基准，发现LLMs及上下文学习与人工判断对齐度更强。

Comments The 2026 ACM Conference on Human-AI Complementarity and Alignment

When Adaptation Hurts: Connecting Representational Drift to OOD Failures in MedSAM Fine-Tuning

当适应适得其反：将表征漂移与MedSAM微调中的分布外故障关联起来

Marko Haralović, Sounic Akkaraju, Carlo Baretta, Vasil Zapryanov, Alexia Briassouli

机构 * University of Zagreb（萨格勒布大学） ； University of Twente（特温特大学） 纠错

专题命中 安全评测 ：alignment(abstract)

AI总结 本研究分析MedSAM的六种微调策略在不同医学图像数据集上的泛化表现，发现仅编码器LoRA等策略可缓解远分布外性能下降，提示随机抖动能提升模型鲁棒性。

Comments Accepted at the SAFER Workshop, MICCAI 2026

From Search Agents to Dissemination Interfaces: Understanding Human Trust in Health Information from Conversational Search

从搜索智能体到传播界面：理解人们对对话式搜索中健康信息的信任

Xin Sun, Rongjun Ma, Xiaochang Zhao, Janne Lindqvist, Jan de Wit, Zhuying Li, Abdallah El Ali, Jos A. Bosch

专题命中 安全评测 ：trustworthy(abstract)

AI总结 本研究通过两项混合方法研究，发现人们对ChatGPT提供的健康信息信任显著高于谷歌，且传播界面类型会显著影响这种信任，为开发可信的LLM驱动健康工具提供了关键见解。

Six misconceptions about large language models: A minimal model and diagnostic taxonomy

大型语言模型的六大误解：一个极简模型与诊断分类法

Zhicheng Lin

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.AI、cs.CY

AI总结 该研究提出以四组区分为核心的LLM极简模型，诊断六大误解，应用于出版商AI政策案例，为纠正民间理论错误提供诊断工具。

Comments 20 pages, 1 figure, 2 tables, and 2 boxes. Published in PNAS Nexus