Beihang University（北京航空航天大学）

Your Group-Relative Advantage Is Biased

你的组相对优势存在偏差

Fengkai Yang, Zherui Chen, Xiaohan Wang, Xiaodong Lu, Jiajun Chai, Guojun Yin, Wei Lin, Shuai Ma, Fuzhen Zhuang, Deqing Wang, Yaodong Yang, Jianxin Li, Yikun Ban

机构 * Beihang University（北航大学） ； University of California, Berkeley（加州大学伯克利分校） ； Peking University（北京大学） ； Meituan（美团） 纠错

AI总结 本文提出HA-DW方法，通过修正组相对优势估计的偏差，提升基于组的强化学习在数学推理任务中的性能。

UniAttn: Reducing Inference Costs via Softmax Unification for Post-Training LLMs

UniAttn: 通过Softmax统一降低推理成本以适应训练后的LLM

Yizhe Xiong, Wei Huang, Xin Ye, Hui Chen, Zijia Lin, Haoran Lian, Zhenpeng Su, Jungong Han, Guiguang Ding

机构 * School of Software, Tsinghua University（清华大学软件学院） ； School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院） ； Beihang University（北航） ； Department of Automation, Tsinghua University（清华大学自动化系） 纠错

AI总结 UniAttn通过统一Softmax操作降低训练后LLM的推理成本，同时保持性能。

Comments 8 pages, 6 figures. Preprint, under review