大模型对齐与安全

A Guardrail for Safety Preservation: When Safety-Sensitive Subspace Meets Harmful-Resistant Null-Space

Bingjie Zhang, Yibo Yang, Zhe Ren, Dandan Guo, Jindong Gu, Philip Torr, Bernard Ghanem

机构 * School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） ； King Abdullah University of Science and Technology（卡塔尔国王大学科学与技术研究院） ； University of Oxford（牛津大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；alignment(abstract)；分类 cs.AI

Reasoning as an Adaptive Defense for Safety

Taeyoun Kim, Fahim Tajwar, Aditi Raghunathan, Aviral Kumar

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 安全训练 ：safety(title,abstract)；分类 cs.AI、cs.LG

Comments 44 pages, 10 Figures, 7 Tables

SafeEraser: Enhancing Safety in Multimodal Large Language Models through Multimodal Machine Unlearning

Junkai Chen, Zhijie Deng, Kening Zheng, Yibo Yan, Shuliang Liu, PeiJun Wu, Peijie Jiang, Jia Liu, Xuming Hu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； Southeast University（东南大学） ； Ant Group, Alibaba（蚂蚁集团） 纠错

专题命中 安全训练 ：safety(title,abstract)

Aligning LLMs for Multilingual Consistency in Enterprise Applications

Amit Agarwal, Hansa Meghwani, Hitesh Laxmichand Patel, Tao Sheng, Sujith Ravi, Dan Roth

机构 * Oracle AI 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI

Comments Accepted at EMNLP 2025

MOOSE-Chem3: Toward Experiment-Guided Hypothesis Ranking via Simulated Experimental Feedback

Wanhao Liu, Zonglin Yang, Jue Wang, Lidong Bing, Di Zhang, Dongzhan Zhou, Yuqiang Li, Houqiang Li, Erik Cambria, Wanli Ouyang

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Nanyang Technological University（南洋理工大学） ； MiroMind 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL、cs.AI

GVPO: Group Variance Policy Optimization for Large Language Model Post-Training

Kaichen Zhang, Yuzhong Hong, Junwei Bao, Hongfei Jiang, Yang Song, Dingqian Hong, Hui Xiong

机构 * Thrust of Artificial Intelligence, Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）人工智能研究所） ； Zuoyebang Education Technology（佐业邦教育科技） ； Department of Computer Science and Engineering, HKUST（香港科技大学计算机科学与工程系） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.AI、cs.LG

Comments Accepted by NeurIPS 2025

Preventing Catastrophic Forgetting: Behavior-Aware Sampling for Safer Language Model Fine-Tuning

Anh Pham, Mihir Thalanki, Michael Sun, Aditya Chaloo, Ankita Gupta, Tian Xia, Aditya Mate, Ehimwenma Nosakhare, Soundararajan Srinivasan

专题命中 安全训练 ：safety(abstract)；分类 cs.CL、cs.AI

Depth-Constrained ASV Navigation with Deep RL and Limited Sensing

Amirhossein Zhalehmehrabi, Daniele Meli, Francesco Dal Santo, Francesco Trotti, Alessandro Farinelli

机构 * Department of Computer Science, University of Verona（计算机科学系，威尼斯大学） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

Comments 8 pages, 8 figures, Accepted to IEEE Robotics and Automation Letters (this is not the final version)

Policy Optimization Prefers The Path of Least Resistance

Debdeep Sanyal, Aakash Sen Sharma, Dhruv Kumar, Saurabh Deshpande, Murari Mandal

机构 * Birla AI Labs（Birla人工智能实验室） ； InvideoAI ； BITS Pilani（比斯·皮尔尼学院） ； Kalinga Institute of Industrial Technology（卡林加工业技术学院） 纠错

专题命中 安全训练 ：alignment(abstract)；分类 cs.CL

Comments 21 pages, 8 figures, 2 tables

E-bike agents: Large Language Model-Driven E-Bike Accident Analysis and Severity Prediction

Zhichao Yang, Jiashu He, Mohammad B. Al-Khasawneh, Darshan Pandit, Cirillo Cinzia

机构 * Civil and Environmental Engineering, University of Maryland（大学工程学院） ； Computer and Information Science, University of Pennsylvania（大学计算机与信息科学学院） 纠错

专题命中 安全训练 ：safety(abstract)；分类 cs.AI

Med-R1: Reinforcement Learning for Generalizable Medical Reasoning in Vision-Language Models

Yuxiang Lai, Jike Zhong, Ming Li, Shitian Zhao, Yuheng Li, Konstantinos Psounis, Xiaofeng Yang

机构 * Department of Computer Science and Informatics, Emory University（计算机科学与信息学系，埃默里大学） ； Department of Computer Science and Department of Electrical and Computer Engineering, University of Southern California（计算机科学系和电气与计算机工程系，南加州大学） ； Department of Computer Science, University of Tokyo（计算机科学系，东京大学） ； Department of Computer Science, Johns Hopkins University（计算机科学系，约翰霍普金斯大学） ； Department of Biomedical Engineering, Georgia Institute of Technology and Emory University（生物医学工程系，佐治亚理工学院和埃默里大学） 纠错

专题命中 安全训练 ：alignment(abstract)