AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2025-12-03 至 2025-12-03 共收录 3 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 安全训练 3 篇

2512.02445 2025-12-03 cs.LG cs.AI cs.CL 82%

当拒绝失效时：长上下文LLM代理中的不稳定安全机制

Tsimur Hadeliya, Mohammad Ali Jauhar, Nidhi Sakpal, Diogo Cruz

专题命中安全训练：safety(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结研究发现长上下文LLM代理在性能和拒绝率上存在不稳定安全问题，揭示了评估长多步骤任务代理安全性的挑战。

Comments 12 pages, 11 figures. Accepted at AAAI 2026 TrustAgent Workshop

2512.02682 2025-12-03 cs.MA cs.AI 79%

超越单体安全：LLM到LLM交互中的风险分类

Piercosma Bisconti, Marcello Galisai, Federico Pierucci, Marcantonio Bracale, Matteo Prandi

机构 * icaro-lab（ICARO实验室）

专题命中安全训练：safety(title,abstract)；分类 cs.AI

AI总结本文提出从模型级安全向系统级安全的转变，引入ESRH框架，阐述LLM交互中的集体风险并提出InstitutionalAI架构。

2512.02306 2025-12-03 cs.AI cs.CL cs.CR cs.CV cs.LG 67%

OmniGuard：统一的多模态防护机制与刻意推理

Boyu Zhu, Xiaofei Wen, Wenjie Jacky Mo, Tinghui Zhu, Yanan Xie, Peng Qi, Muhao Chen

机构 * Fudan University（复旦大学）； University of California, Davis（加州大学戴维斯分校）

专题命中安全训练：safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 OmniGuard通过统一的多模态防护机制与刻意推理能力，有效提升多模态安全防护的鲁棒性和泛化能力。