ThreadWeaver: Adaptive Threading for Efficient Parallel Reasoning in Language Models
ThreadWeaver:自适应线程化实现语言模型高效并行推理
机构 * UC Berkeley(伯克利大学) ; UCSF(旧金山大学)
AI总结 提出ThreadWeaver框架,通过两阶段并行轨迹生成、基于trie的展开设计和并行化感知强化学习,在保持与顺序推理模型相当准确率的同时,显著降低推理延迟。
Comments Accepted as an oral paper at ICML 2026