大模型对齐与安全

Rethinking Safety in LLM Fine-tuning: An Optimization Perspective

Minseon Kim, Jin Myung Kwak, Lama Alssum, Bernard Ghanem, Philip Torr, David Krueger, Fazl Barez, Adel Bibi

机构 * Microsoft Research（微软研究院） ； KAIST（韩国科学技术院） ； KAUST（韩国科学技术大学） ； Université de Montréal（蒙特利尔大学） ； Mila（蒙特利尔人工智能研究院） ； WhiteBox（WhiteBox公司） ； University of Oxford（牛津大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.LG

Hierarchical Multi-Agent Reinforcement Learning with Control Barrier Functions for Safety-Critical Autonomous Systems

H. M. Sabbir Ahmad, Ehsan Sabouni, Alexander Wasilkoff, Param Budhraja, Zijian Guo, Songyuan Zhang, Chuchu Fan, Christos Cassandras, Wenchao Li

机构 * Boston University（波士顿大学） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.LG

Do Large Language Model Agents Exhibit a Survival Instinct? An Empirical Study in a Sugarscape-Style Simulation

Atsushi Masumori, Takashi Ikegami

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.AI

Predicting Open-Hole Laminates Failure Using Support Vector Machines With Classical and Quantum Kernels

Giorgio Tosti Balducci, Boyang Chen, Matthias Möller, Marc Gerritsma, Roeland De Breuker

机构 * Delft University of Technology（代尔夫特理工大学） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.LG

Scaling Robust Optimization for Swarms: A Distributed Perspective

Arshiya Taj Abdul, Augustinos D. Saravanos, Evangelos A. Theodorou

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 安全训练 ：safety(abstract)