大模型对齐与安全

Energy-Based Reward Models for Robust Language Model Alignment

Anamika Lochab, Ruqi Zhang

机构 * Department of Computer Science（计算机科学系） ； Purdue University（普渡大学） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；safety(abstract)；分类 cs.CL、cs.LG

Comments Accepted by COLM 2025

RIVAL: Reinforcement Learning with Iterative and Adversarial Optimization for Machine Translation

Tianjiao Li, Mengran Yu, Chenyu Shi, Yanjun Zhao, Xiaojing Liu, Qiang Zhang, Qi Zhang, Xuanjing Huang, Jiayin Wang

机构 * Bilibili Inc.（哔哩哔哩公司） ； Xi’an Jiaotong University（西安交通大学） ； School of Computer Science, Fudan University（复旦大学计算机科学学院） 纠错

专题命中 偏好对齐 ：RLHF(abstract)；分类 cs.CL