AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2025-07-31 至 2025-07-31 共收录 1 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 安全训练 1 篇

2507.22358 2025-07-31 cs.AI cs.HC 57%

Magentic-UI: Towards Human-in-the-loop Agentic Systems

Hussein Mozannar, Gagan Bansal, Cheng Tan, Adam Fourney, Victor Dibia, Jingya Chen, Jack Gerrits, Tyler Payne, Matheus Kunzler Maldaner, Madeleine Grunde-McLaughlin, Eric Zhu, Griffin Bassman, Jacob Alber, Peter Chang, Ricky Loynd, Friederike Niedtner, Ece Kamar, Maya Murad, Rafah Hosn, Saleema Amershi

机构 * Microsoft Research AI Frontiers（微软研究院人工智能前沿）

专题命中安全训练：safety(abstract)；分类 cs.AI

↑