arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

2026-07-31 至 2026-07-31 共收录 2
2607.27744 2026-07-31 cs.LG cs.AI cs.IR 新提交

ROCS: Request-Oriented Compute Sharing for Efficient Large-Scale Recommendation

ROCS:面向请求的计算共享,用于高效大规模推荐

Yuxin Chen, Liang Luo, Buyun Zhang, Jian Jiao, Boda Li, Haoyu Wang, Tongyi Tang, Ao Cai, Zijian Shen, Zhengkai Zhang, Wenyi Xie, Ryan Dick, Han Liu, Neng Shi, Bin Yu, Jianbo Xiao, Shuyao Bi, Hongtao Yu, Yuanwei Fang, Zhuoran Zhao, Sijia Chen, Yang Chen, Shuqi Yang, Qianru Li, Zikun Liu, Wei Ling, Sihan Zeng, Longhao Jin, Jiaxin Lu, Yinbin Ma, Jiawei Li, Yichen Ruan, Yong Ler Lee, Birmingham Guan, Zijian Li, Jianbo Sun, Zhengyu Zhang, Zeliang Chen, Xiaohan Wei, Yuchen Hao, GP Musumeci, Venkatesh Ranganathan, Yantao Yao, Chunqiang Tang, Wenlin Chen, Santanu Kolay, Ellie Dingqiao Wen

机构 * Meta AI

AI总结 本研究提出面向请求的计算共享(ROCS)范式,通过GLM、DCA、IKBO等技术优化推荐模型推理,在公开基准和生产 workload 中均实现效率提升且保持或改善预测质量,已大规模部署应用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.27731 2026-07-31 cs.LG cs.AI math.OC 新提交

Towards joint scaling laws with optimal batch size schedules

面向最优批量大小调度的联合缩放律研究

Jiaxiang Li, Zhiqi Bu, Shiyun Xu

机构 * Meta

AI总结 该研究从凸优化视角推导了适用于通用优化器和模型架构的损失联合表征,得到闭式最优批量大小调度与联合缩放律,其性能优于固定批量大小基线,凸显动态批量大小调度在大语言模型训练中的重要性。

详情

展开后加载摘要…

URL PDF HTML 收藏