大模型对齐与安全

Dynamic Policy Fusion for User Alignment Without Re-Interaction

Ajsal Shereef Palattuparambil, Thommen George Karimpanal, Santu Rana

机构 * A2I2 ； Deakin University（德肯大学） ； School of IT（信息学院） 纠错

专题命中 安全训练 ：alignment(title,abstract)；分类 cs.AI、cs.LG

Explainable AI-Enhanced Supervisory Control for Robust Multi-Agent Robotic Systems

Reza Pirayeshshirazinezhad, Nima Fathi

机构 * Visual Computing and Computational Media, Texas A&M University（视觉计算与计算媒体，德克萨斯A&M大学） ； Mechanical Engineering Department, Texas A&M University（机械工程系，德克萨斯A&M大学） ； Department of Marine Engineering Technology, Texas A&M University（海洋工程技术系，德克萨斯A&M大学） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.AI

Activation Space Interventions Can Be Transferred Between Large Language Models

Narmeen Oozeer, Dhruv Nathawani, Nirmalendu Prakash, Michael Lan, Abir Harrasse, Amirali Abdullah

机构 * Nvidia ； Singapore University of Technology and Design（新加坡技术与设计大学） 纠错

专题命中 安全训练 ：safety(abstract)；AI safety(abstract)；分类 cs.AI

Comments 75 pages. Accepted to ICML 2025

Mind the Gap: Data Rewriting for Stable Off-Policy Supervised Fine-Tuning

Shiwan Zhao, Xuyang Zhao, Jiaming Zhou, Aobo Kong, Qicheng Li, Yong Qin

机构 * College of Computer Science, Nankai University（南开大学计算机科学学院） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.LG

Randomized Smoothing Meets Vision-Language Models

Emmanouil Seferis, Changshun Wu, Stefanos Kollias, Saddek Bensalem, Chih-Hong Cheng

机构 * National Technical University of Athens（希腊雅典国家技术大学） ； Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学） ； CSX-AI（CSX-AI公司） ； Carl von Ossietzky University of Oldenburg（奥尔登堡卡尔·冯·奥西特齐大学） ； Chalmers University of Technology（查尔姆斯理工大学） 纠错

专题命中 安全训练 ：jailbreak(abstract)；分类 cs.LG

Comments EMNLP'25 full version, including appendix (proofs, additional experiments)

Runtime Learning of Quadruped Robots in Wild Environments

Yihao Cai, Yanbing Mao, Lui Sha, Hongpeng Cao, Marco Caccamo

机构 * Engineering Technology Division, Wayne State University（韦恩州立大学工程技术系） ； Department of Computer Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校计算机科学系） ； School of Engineering and Design, Technical University of Munich（慕尼黑技术大学工程与设计学院） ； School of Electrical Engineering and Computer Science, Washington State University（华盛顿州立大学电气与计算机科学学院） 纠错

专题命中 安全训练 ：safety(abstract)