大模型对齐与安全

HumorReject: Decoupling LLM Safety from Refusal Prefix via A Little Humor

Zihui Wu, Haichang Gao, Jiacheng Luo, Zhaoxiang Liu

专题命中 安全训练 ：safety(title,abstract)；alignment(abstract)；分类 cs.LG

GAIA: A General Agency Interaction Architecture for LLM-Human B2B Negotiation & Screening

Siming Zhao, Qi Li

机构 * Alibaba.com US E-Commerce（阿里巴巴美国电子商务） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI、cs.CY

Guardian-regularized Safe Offline Reinforcement Learning for Smart Weaning of Mechanical Circulatory Devices

Aysin Tumay, Sophia Sun, Sonia Fereidooni, Aaron Dumas, Elise Jortberg, Rose Yu

机构 * University of California（加州大学） ； California Institute of Technology（加州理工学院） ； Abiomed（阿比omed） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

Approximating Shapley Explanations in Reinforcement Learning

Daniel Beechey, Özgür Şimşek

机构 * University of Bath（巴斯大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.LG

Comments Camera-ready version. Published at the Conference on Neural Information Processing Systems (NeurIPS 2025)

Journal ref Proceedings of the Conference on Neural Information Processing Systems (NeurIPS 2025)

Beyond One-Size-Fits-All: Personalized Harmful Content Detection with In-Context Learning

Rufan Zhang, Lin Zhang, Xianghang Mi

机构 * University of Science and Technology of China（科学技术大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.CL

Conceptual Belief-Informed Reinforcement Learning

Xingrui Gu, Chuyi Jiang, Laixi Shi

机构 * University of California, Berkeley（加州大学伯克利分校） ； Columbia University（哥伦比亚大学） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 安全训练 ：alignment(comments,journal_ref)；分类 cs.AI、cs.LG

Comments Accepted by ICML 2025 Workshop on Models of Human Feedback for AI Alignment

Journal ref ICML 2025 Workshop on Models of Human Feedback for AI Alignment