大模型推理能力

MoEs Are Stronger than You Think: Hyper-Parallel Inference Scaling with RoE

Soheil Zibakhsh, Mohammad Samragh, Kumari Nishu, Lauren Hannah, Arnav Kundu, Minsik Cho

机构 * Apple（苹果公司） ； University of California San Diego（加州大学圣地亚哥分校） 纠错

专题命中 测试时计算 ：chain-of-thought(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Corrected typo in arxiv abstract