大模型对齐与安全

Cascade Reward Sampling for Efficient Decoding-Time Alignment

Bolian Li, Yifan Wang, Anamika Lochab, Ananth Grama, Ruqi Zhang

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；safety(abstract)；分类 cs.CL、cs.LG

Word Overuse and Alignment in Large Language Models: The Influence of Learning from Human Feedback

Tom S. Juzek, Zina B. Ward

机构 * Florida State University（佛罗里达州立大学） 纠错

专题命中 偏好对齐 ：alignment(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted for publication in the Proceedings of the 5th Workshop on Bias and Fairness in AI (BIAS 2025) at ECML PKDD

A Survey on Data Security in Large Language Models

Kang Chen, Xiuze Zhou, Yuanguo Lin, Jinhe Su, Yuanhui Yu, Li Shen, Fan Lin

机构 * School of Computer Engineering, Jimei University, Xiamen, 361021, China（厦门大学计算机工程学院） ； College of Science, Mathematics and Technology, Wenzhou-Kean University, Wenzhou, 325060, China（温州-凯恩大学科学、数学与技术学院） ； The Hong Kong University of Science and Technology (Guangzhou), Guangzhou, 511453, China（香港科学与技术大学（广州）） ； School of Professional Studies, New York University, New York, 10003, United States（纽约大学专业研究学院） ； School of Informatics, Xiamen University, Xiamen, 361102, China（厦门大学信息学院） 纠错

专题命中 偏好对齐 ：RLHF(abstract)；prompt injection(abstract)；分类 cs.AI

Mix-LN: Unleashing the Power of Deeper Layers by Combining Pre-LN and Post-LN

Pengxiang Li, Lu Yin, Shiwei Liu

机构 * Dalian University of Technology（大连理工大学） ； University of Surrey（Surrey大学） ； University of Oxford（牛津大学） 纠错

专题命中 偏好对齐 ：RLHF(abstract)；分类 cs.AI、cs.LG