Meta

A Control System, a Dataset, and a Recipe for Making Frozen LLM Agents Learn a Domain

一种用于使冻结的语言模型智能体学习领域的控制系统、数据集和方法

Debjyoti Paul

机构 * Meta AI 纠错

AI总结 研究如何让冻结的语言模型智能体学习领域，核心方法是将框架视为特定动作空间，用经典强化学习在线学习策略并以多目标奖励评分，贡献包括用DSPy实例化系统并评估，还发布相关代码、任务套件、训练日志及部署方法。

Comments 8 pages, 1 figure, 3 tables. Code and dataset: https://github.com/dpaul0501/context-optimization-rl

On the Convergence Analysis of Muon

关于Muon的收敛性分析

Wei Shen, Ruichuan Huang, Minhui Huang, Cong Shen, Jiawei Zhang

机构 * University of Virginia（弗吉尼亚大学） ； University of British Columbia（不列颠哥伦比亚大学） ； Meta ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

AI总结 本文分析了Muon优化器的收敛性，对比了其与梯度下降法的性能，揭示了Muon在低秩Hessian结构下的优势。