大模型对齐与安全

Improving LLM Safety and Helpfulness using SFT and DPO: A Study on OPT-350M

Piyush Pant

机构 * Saarland University（萨尔兰大学） 纠错

专题命中 偏好对齐 ：DPO(title,abstract)；safety(title,abstract)；alignment(abstract)；RLHF(abstract)

Comments 17 pages, 3 figures. Code and dataset available at https://github.com/PiyushWithPant/Improving-LLM-Safety-and-Helpfulness-using-SFT-and-DPO

Improving Alignment in LVLMs with Debiased Self-Judgment

Sihan Yang, Chenhang Cui, Zihao Zhao, Yiyang Zhou, Weilong Yan, Ying Wei, Huaxiu Yao

机构 * Nanyang Technological University（南洋理工大学） ； National University of Singapore（新加坡国立大学） ； UNC-Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；safety(abstract)；分类 cs.CL

Comments EMNLP 2025 Findings

RED: Unleashing Token-Level Rewards from Holistic Feedback via Reward Redistribution

Jiahui Li, Lin Li, Tai-wei Chang, Kun Kuang, Long Chen, Jun Zhou, Cheng Yang

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 偏好对齐 ：RLHF(abstract)；分类 cs.CL、cs.AI

Compass-v3: Scaling Domain-Specific LLMs for Multilingual E-Commerce in Southeast Asia

Sophia Maria

专题命中 偏好对齐 ：alignment(abstract)；分类 cs.CL

PersonaFuse: A Personality Activation-Driven Framework for Enhancing Human-LLM Interactions

Yixuan Tang, Yi Yang, Ahmed Abbasi

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； University of Notre Dame（诺丁汉大学） 纠错

专题命中 偏好对齐 ：safety(abstract)；分类 cs.CL