arXivDaily arXiv每日学术速递 周一至周五更新

高校专区

University of Washington(华盛顿大学)

2026-01-09 至 2026-01-09 共收录 2
2601.04736 2026-01-09 cs.CL

AM$^3$Safety: Towards Data Efficient Alignment of Multi-modal Multi-turn Safety for MLLMs

AM$^3$Safety: 向多模态多轮安全对齐的数据高效方法

Han Zhu, Jiale Chen, Chengkun Cai, Shengjie Sun, Haoran Li, Yujin Zhou, Chi-Min Chan, Pengcheng Wen, Lei Li, Sirui Han, Yike Guo

机构 * Hong Kong University of Science and Technology(香港科技大学) Zhongshan School of Medicine, SUN YAT-SEN UNIVERSITY(中山医学院,孙中山大学) University of Edinburgh(爱丁堡大学) University of Washington(华盛顿大学)

AI总结 AM$^3$Safety通过结合冷启动拒绝阶段和组相对策略优化,有效提升多模态多轮对话的安全性,降低攻击成功率并增强模型的无害与帮助维度。

详情

展开后加载摘要…

URL PDF HTML 收藏
2505.18773 2026-01-09 cs.CR cs.AI cs.LG

Exploring the limits of strong membership inference attacks on large language models

探索对大型语言模型的强大成员推断攻击的极限

Jamie Hayes, Ilia Shumailov, Christopher A. Choquette-Choo, Matthew Jagielski, George Kaissis, Milad Nasr, Sahra Ghalebikesabi, Meenatchi Sundaram Mutu Selva Annamalai, Niloofar Mireshghallah, Igor Shilov, Matthieu Meeus, Yves-Alexandre de Montjoye, Katherine Lee, Franziska Boenisch, Adam Dziedzic, A. Feder Cooper

机构 * Google DeepMind(谷歌DeepMind) University College London(伦敦大学学院) University of Washington(华盛顿大学) Imperial College London(伦敦帝国学院) CISPA Helmholtz Center for Information Security(信息安全赫尔姆霍兹中心) Stanford University(斯坦福大学) Microsoft Research(微软研究院)

AI总结 本研究通过扩展LiRA攻击至GPT-2模型,揭示了强成员推断攻击在大型语言模型上的有效性及局限性,发现其在实际应用中仍存在显著的AUC限制和决策不稳定问题。

Comments NeurIPS 2025

详情

展开后加载摘要…

URL PDF HTML 收藏