大模型对齐与安全

From Prompts to Protection: Large Language Model-Enabled In-Context Learning for Smart Public Safety UAV

从提示到保护：基于大语言模型的上下文学习用于智能公共安全无人机

Yousef Emami, Hao Zhou, Miguel Gutierrez Gaitan, Kai Li, Luis Almeida, Zhu Han

机构 * Real-Time and Embedded Computing Systems Research Centre (CISTER)（实时嵌入式计算系统研究中心） ； Carnegie Mellon University（卡内基梅隆大学） ； Pontificia Universidad Católica de Chile（天主教大学） ； School of Computer Science, McGill University（麦吉尔大学计算机科学学院） ； Instituto de Telecomunicações, Faculdade de Engenharia, Universidade do Porto（电信研究所，工程学院，葡萄牙里斯本大学） ； University of Houston（休斯顿大学） 纠错

专题命中 越狱攻击 ：safety(title,abstract)；分类 cs.AI

AI总结 本文提出利用大语言模型的上下文学习提升公共安全无人机的自主决策能力，通过自然语言提示和示例指导实现路径规划和速度控制，减少数据丢失并缓解安全漏洞。

Toward Safer Diffusion Language Models: Discovery and Mitigation of Priming Vulnerability

迈向更安全的扩散语言模型：发现和缓解提示漏洞

Shojiro Yamabe, Jun Sakuma

机构 * Institute of Science Tokyo（东京科学研究所） ； RIKEN AIP（理化学研究所AIP） 纠错

专题命中 越狱攻击 ：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI、cs.LG

AI总结 本文发现扩散语言模型存在因迭代去噪过程导致的提示漏洞，并提出针对性的安全对齐方法以缓解该问题。

Comments Accepted at ICLR 2026