Meta

OmniOPD: Logit-Free On-Policy Distillation via Speculative Verification

OmniOPD：通过推测性验证实现无Logit的在线策略蒸馏

Yuhang Zhou, Lizhu Zhang, Yifan Wu, Mingyi Wang, Bo Peng, Jiayi Liu, Xiangjun Fan, Zhuokai Zhao

机构 * Meta AI 纠错

AI总结 提出OmniOPD框架，通过基于蒙特卡洛展开的块级语义相似度替代token级logit匹配，结合峰值熵调度器和贝叶斯先验，解决在线策略蒸馏中logit不可获取和信号脆弱问题，在数学任务上超越标准OPD达28.64%。

Comments 26 pages, 3 figures

MASLab: A Unified and Comprehensive Codebase for LLM-based Multi-Agent Systems

MASLab：基于LLM的多智能体系统的统一全面代码库

Rui Ye, Keduan Huang, Qimin Wu, Yuzhu Cai, Tian Jin, Xianghe Pang, Xiangrui Liu, Jiaqi Su, Chen Qian, Bohan Tang, Kaiqu Liang, Jiaao Chen, Yue Hu, Zhenfei Yin, Rongye Shi, Bo An, Yang Gao, Wenjun Wu, Lei Bai, Siheng Chen

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； University of Oxford（牛津大学） ； Princeton University（普林斯顿大学） ； Meta ； University of Michigan（密歇根大学） ； The University of Sydney（悉尼大学） ； Beihang University（北航） ； Nanyang Technological University（南洋理工大学） ； Nanjing University（南京大学） 纠错

AI总结 提出MASLab代码库，集成20余种方法，提供统一环境与标准化评估，降低研究门槛，覆盖10+基准测试和8种模型。

Comments 18 pages, 11 figures