AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2025-10-30 至 2025-10-30 共收录 2 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 安全训练 2 篇

2510.24820 2025-10-30 cs.CV cs.AI 83%

Ruiyang Zhang, Jiahao Luo, Xiaoru Feng, Qiufan Pang, Yaodong Yang, Juntao Dai

机构 * PKU Alignment Team, Peking University（北京大学对齐团队）； LLM Safety Centre, Beijing Academy of Artificial Intelligence（北京人工智能研究院大语言模型安全中心）

专题命中安全训练：safety(title,abstract)；alignment(abstract)；分类 cs.AI

2510.25179 2025-10-30 cs.AI 77%

Juan Ren, Mark Dras, Usman Naseem

机构 * School of Computing, Macquarie University, Australia（计算机学院，麦考瑞大学，澳大利亚）

专题命中安全训练：alignment(abstract)；safety(abstract)；jailbreak(abstract)；分类 cs.AI