Alibaba（阿里巴巴）

Marco-MoE: Open Multilingual Mixture-of-Expert Language Models with Efficient Upcycling

Marco-MoE：开放多语言稀疏专家混合语言模型的高效再利用

Fan Jiang, Yu Zhao, Chenyang Lyu, Tianqi Shi, Yichao Du, Feihu Jiang, Longyue Wang, Weihua Luo

机构 * Alibaba International Digital Commerce（阿里巴巴国际数字商业） 纠错

AI总结 Marco-MoE通过极稀疏设计和密集模型再利用，在5T tokens上高效预训练，实现多语言和英语基准的领先性能，同时支持可扩展的语言扩展。

DDA-Thinker: Decoupled Dual-Atomic Reinforcement Learning for Reasoning-Driven Image Editing

DDA-Thinker: 解耦双原子强化学习用于推理驱动的图像编辑

Hanqing Yang, Qiang Zhou, Yongchao Du, Sashuai Zhou, Zhibin Wang, Jun Song, Tiezheng Ge, Cheng Yu, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） ； Zhejiang University（浙江大学） 纠错

AI总结 本文提出DDA-Thinker框架，通过解耦的规划模块与固定生成模型，提升图像编辑中的推理能力，采用双原子强化学习分解反馈，结合可验证检查清单提升训练效果。

JURY-RL: Votes Propose, Proofs Dispose for Label-Free RLVR

JURY-RL: 选票提议，证明判定用于无标签的RLVR

Xinjie Chen, Biao Fu, Jing Wu, Guoxin Chen, Xinggao Liu, Dayiheng Liu, Minpeng Liao

机构 * Zhejiang University, Hangzhou, China（浙江大学，杭州，中国） ； Tongyi Lab, Alibaba Group, Hangzhou, China（通义实验室，阿里巴巴集团，杭州，中国） 纠错

AI总结 JURY-RL提出一种无标签RLVR框架，通过模型回放提议候选答案，形式验证器判定是否可获正奖，从而稳定训练并提升数学推理性能。

Comments Preprint. 32 pages, 9 figures

From Insight to Action: A Novel Framework for Interpretability-Guided Data Selection in Large Language Models

从洞察到行动：一种新的框架，用于基于可解释性指导的数据选择在大语言模型中

Ling Shi, Xinwei Wu, Xiaohu Zhao, Hao Wang, Heng Liu, Yangyang Liu, Linlong Xu, Longyue Wang, Deyi Xiong, Weihua Luo

机构 * TJUNLP Lab, School of Computer Science and Technology, Tianjin University, China（天津大学计算机科学与技术学院TJUNLP实验室，中国） ； Alibaba Group, China（阿里巴巴集团，中国） 纠错

AI总结 本文提出IGDS框架，通过内部任务特征识别和选择共振数据来提升大语言模型性能，实验显示在数学推理任务中数据效率提升显著。

On the Trainability of Masked Diffusion Language Models via Blockwise Locality

通过块级局部性训练掩码扩散语言模型

Yuxiang Wang, Yu Xiang, Baojian Zhou, Qifang Zhao, Keyue Jiang, Yanghua Xiao, Xiaoxiao Xu

机构 * Fudan University, Shanghai, China（复旦大学，上海，中国） ； Alibaba Group, China（阿里巴巴集团，中国） 纠错

AI总结 研究通过块级局部性改进掩码扩散语言模型，发现其在结构生成任务中稳定性不足，提出Jigsaw和Scatter模型提升性能。