Meta

When Helping Hurts and How to Fix It: Multi-Agent Debate for Data Cleaning

当帮助有害时以及如何修复：多智能体辩论用于数据清洗

Chirag Parmar, Akshat Mehta, Henglin Wu, Jagadish Ramamurthy, Shweta Medhekar

机构 * Meta Platforms, Inc.（Meta公司） 纠错

AI总结 研究多智能体辩论在数据清洗中的效果，发现其会降低生成性能但提升错误检测，通过推导辩论收益条件并采用对抗性分离的辩论配置，首次在生成任务上显著超越单智能体。

Comments 27 pages, 4 figures, 12 tables. Includes appendix with full experimental results, prompt templates, and dataset statistics

Toward Training Superintelligent Software Agents through Self-Play SWE-RL

通过自我对弈SWE-RL训练超级智能软件代理

Yuxiang Wei, Zhiqing Sun, Emily McMilin, Jonas Gehring, David Zhang, Gabriel Synnaeve, Daniel Fried, Lingming Zhang, Sida Wang

机构 * Meta FAIR ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Meta TBD Lab（Meta TBD 实验室） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 提出自我对弈SWE-RL（SSR）方法，通过强化学习在自对弈环境中训练单一LLM代理，使其在无需人工标注问题或测试的情况下，在真实代码库中迭代注入和修复软件缺陷，在SWE-bench基准上实现显著自我改进并超越人类数据基线。

Comments Accepted to ICML 2026

MuLoCo: Muon is a practical inner optimizer for DiLoCo

MuLoCo: Muon 是 DiLoCo 的实用内部优化器

Benjamin Thérien, Xiaolong Huang, Aaron Defazio, Irina Rish, Eugene Belilovsky

机构 * FAIR at Meta（Meta 的 FAIR 部门） ； Mila ； Université de Montréal（蒙特利尔大学） ； Concordia University（康科迪亚大学） 纠错

AI总结 本文提出 MuLoCo，将 Muon 作为 DiLoCo 的内部优化器，通过产生方向更准确的伪梯度，在多个工作节点下提升大语言模型训练性能，并兼容量化、流式处理和长同步间隔。

The Efficiency vs. Accuracy Trade-off: Optimizing RAG-Enhanced LLM Recommender Systems Using Multi-Head Early Exit

效率与准确性的权衡：使用多头早期退出优化RAG增强的LLM推荐系统

Huixue Zhou, Hengrui Gu, Xi Liu, Kaixiong Zhou, Mingfu Liang, Yongkang Xiao, Srinivas Govindan, Piyush Chawla, Jiyan Yang, Xiangfei Meng, Huayu Li, Buyun Zhang, Liang Luo, Wen-Yen Chen, Yiping Han, Bo Long, Rui Zhang, Tianlong Chen

机构 * Meta Platforms（Meta平台） ； University of Minnesota（明尼苏达大学） ； NCSU（北卡罗来纳州立大学） ； UNC at Chapel Hill（Chapel Hill分校，北卡罗来纳大学） 纠错

AI总结 提出结合检索增强生成（RAG）与多头早期退出架构的优化框架，通过图卷积网络（GCN）高效检索和动态推理终止，在降低计算时间的同时保持或提升点击率（CTR）预测准确性。