AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-01-23 至 2026-01-23 共收录 2 篇信号源：cs.CL, cs.AI, cs.LG

1. 后训练与偏好优化 2 篇

2406.12205 2026-01-23 cs.LG cs.AI cs.IT math.IT math.ST stat.ML stat.TH 81%

On the Exponential Convergence for Offline RLHF with Pairwise Comparisons

关于通过成对比较进行离线RLHF的指数收敛性

Zhirui Chen, Vincent Y. F. Tan

专题命中后训练与偏好优化：RLHF(title,abstract)；分类 cs.AI、cs.LG

AI总结本文提出了一种在离线RLHF中通过成对比较实现指数收敛的算法RL-LOW，并推导了实例依赖的下界。

Comments Accepted as an oral presentation at AAAI 2026 (AI Alignment Track)

2601.08521 2026-01-23 cs.LG 77%

Your Group-Relative Advantage Is Biased

你的组相对优势存在偏差

Fengkai Yang, Zherui Chen, Xiaohan Wang, Xiaodong Lu, Jiajun Chai, Guojun Yin, Wei Lin, Shuai Ma, Fuzhen Zhuang, Deqing Wang, Yaodong Yang, Jianxin Li, Yikun Ban

机构 * Beihang University（北航大学）； University of California, Berkeley（加州大学伯克利分校）； Peking University（北京大学）； Meituan（美团）

专题命中后训练与偏好优化：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.LG

AI总结本文提出HA-DW方法，通过修正组相对优势估计的偏差，提升基于组的强化学习在数学推理任务中的性能。