大模型对齐与安全

Alignment with Fill-In-the-Middle for Enhancing Code Generation

Houxing Ren, Zimu Lu, Weikang Shi, Haotian Hou, Yunqiao Yang, Ke Wang, Aojun Zhou, Junting Pan, Mingjie Zhan, Hongsheng Li

机构 * CUHK MMLab（CUHK语音实验室） ； SenseTime Research（商汤科技研究院） ； CPII under InnoHK（创新香港下的CPII） ； Shanghai AI Laboratory（上海人工智能实验室） ； Beihang University（北航） 纠错

专题命中 偏好对齐 ：alignment(title)；DPO(abstract)；分类 cs.CL

Comments Accepted to EMNLP 2025 (main conference)

HEAL: A Hypothesis-Based Preference-Aware Analysis Framework

Yifu Huo, Chenglong Wang, Qiren Zhu, Shunjie Xing, Tong Xiao, Chunliang Zhang, Tongran Liu, Jinbo Zhu

机构 * School of Computer Science and Engineering, Northeastern University（计算机科学与工程学院，东北大学） ； NiuTrans Research（NiuTrans研究院） ； CAS Key Laboratory of Behavioral Science, Institute of Psychology, CAS（行为科学重点实验室，心理学研究所） 纠错

专题命中 偏好对齐 ：alignment(abstract)；DPO(abstract)；分类 cs.CL

Comments Accepted by EMNLP 2025 Findings

Counterfactual Reward Model Training for Bias Mitigation in Multimodal Reinforcement Learning

Sheryl Mathew, N Harshit

专题命中 偏好对齐 ：RLHF(abstract)；分类 cs.LG