大模型对齐与安全

Reliable LLM-Powered Decision Engines for Large-Scale Supply Chain Operations: Architecture, Safety, and Performance Guarantees

面向大规模供应链运营的可靠大语言模型驱动决策引擎：架构、安全性与性能保证

Nirmal Kumar Jingar

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI

AI总结 针对大规模供应链的不确定性等挑战，提出结合LLM与优化等的LLM-DE架构，实现更智能、安全、可扩展的供应链决策，为下一代智能供应链提供基础。

Mitigating Rubric Interference in LLM Judges via On-Policy Self-Distillation

通过策略内自蒸馏缓解大语言模型评审员中的评分标准干扰

Dingyao Yu, Tong Zhang, Yutao Mou, Yunxiao Zhang, Wei Ye, Shikun Zhang

机构 * Peking University（北京大学） ； Weixin Al, Tencent Inc（腾讯公司微信智能） 纠错

专题命中 安全训练 ：alignment(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本研究针对LLM评审员多评分标准评估时的干扰问题，提出SARA方法，通过策略内自蒸馏提升评估一致性，且该一致性可跨数据集迁移。

AOR-Bench: Do Large Audio Language Models Over-Refuse Pseudo-Harmful Queries?

AOR-Bench: 大型音频语言模型是否会过度拒绝伪有害查询？

Jiaxi Yang, Chaewan Chun, Jason Lucas, Yuchen Yang, Dongwon Lee

机构 * Penn State University（宾夕法尼亚州立大学） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.AI

AI总结 提出首个针对大型音频语言模型过度拒绝问题的基准AOR-Bench，包含3000个伪有害音频样本，评估12个模型发现过度拒绝普遍存在，并探索了两种轻量缓解策略。

Comments To appear in EMNLP 2026

Refusal geometry reflects refusal training: diverse refusal prefixes can raise stable rank and weaken refusal vector ablation attacks

弃权几何反映弃权训练：多样的弃权前缀可提升稳定秩并削弱弃权向量消融攻击

Andrey Labunets

机构 * UC San Diego（加州大学圣迭戈分校） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.LG

AI总结 本研究以OLMo-2-0425-1B-Instruct为对象，揭示弃权几何与弃权训练的关联，发现多样弃权起始可提升梯度稳定秩，削弱弃权向量消融攻击，为提升AI模型弃权鲁棒性提供新视角。

AERIS: Offline Policy Improvement for Multi-UAV Integrated Sensing and Communication

AERIS：面向多无人机集成感知与通信的离线策略改进

Ziyuan Wang, Yifan Sui, Wei Wei, Wenjie Xin, Zekai Zhang, Xiangwang Hou, Xiao-Ping (Steven) Zhang

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

AI总结 针对多无人机集成感知与通信的控制问题，提出离线策略改进框架AERIS及STAR-CRDT算法，在保障安全的同时显著提升ISAC性能与效率。

Auto-Policy, not Auto-Skill: Compiled Agent Skills for the Physical World

自动策略，而非自动技能：面向物理世界的编译智能体技能

Zhonghao Zhan, Hamed Haddadi

机构 * Imperial College London（帝国理工学院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 本文针对恶意智能体技能造成物理伤害的问题，提出位于技能制品内部的类型化权限层Edge Skillguard，可高效拒绝借用权限请求，验证了其在多场景下的防护效果。

Comments Presented at the 1st Workshop on Agent Skills (Agent Skills '26), ACM CAIS 2026, San Jose, May 26, 2026

Activating Latent Security Knowledge through LLM-Guided Risk Analysis for Secure Code Generation

SPARK: 基于安全知识引导与表示激活的LLM安全代码生成

Xiaoyun Xu, Lichao Wu, Jona te Lintelo, Siyu Zhang, Keke Gai, Stjepan Picek

机构 * Radboud University（拉德堡德大学） ； University of Bristol（布里斯托大学） ； University of Zagreb（扎格雷布大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

AI总结 提出SPARK方法，通过检索CWE条目并添加结构化提示激活模型内隐安全知识，结合预计算令牌偏置，无需重训练即可提升代码安全性。

Operational Agency: A Permeable Legal Fiction for Tracing Culpability in AI Systems

可操作代理：一种渗透性法律虚构，用于追踪AI系统中的过失

Anirban Mukherjee, Hannah Hanwen Chang

专题命中 安全训练 ：safety(abstract)；分类 cs.CY

AI总结 本文提出可操作代理（OA）和可操作代理图（OAG）作为追踪AI系统过失的法律框架，通过分析AI的操作特征和因果关系，为法院和立法提供证据方法，确保人类问责制与技术自主性同步。

AirMoE: Realizing Over-the-Air Distributed Mixture-of-Experts Inference at the Wireless Edge

AirMoE：在无线边缘实现无线分布式混合专家（Mixture-of-Experts，MoE）推理

Huiling Yang, Zhanwei Wang, Kaibin Huang

专题命中 安全训练 ：alignment(abstract)

AI总结 AirMoE是利用AirComp实现无线分布式MoE推理的框架，通过双时间尺度策略解决AirComp带来的挑战，在ARC-Easy基准上显著提升了E2E推理准确性，尤其适用于强设备异构场景。

Heimdall: Formally Verified Automated Migration of Legacy eBPF Programs to Rust

Heimdall: 形式化验证的遗留 eBPF 程序到 Rust 的自动迁移

Vishnu Asutosh Dasu, Monika Santra, Md Rafi Ur Rashid, Ashish Kumar, Saeid Tizpaz-Niari, Gang Tan

专题命中 安全训练 ：safety(abstract)

AI总结 本文提出 Heimdall，一个利用大语言模型将遗留 libbpf C 程序自动翻译为 Aya Rust 的管道，通过静态分析和符号执行确保迁移后程序行为等价，并修复了 eBPF 程序中六类源级漏洞，包括未报告的信息泄露。