Multipole Attention for Efficient Long Context Reasoning
多重注意力机制用于高效长上下文推理
机构 * University of California, Berkeley(加州大学伯克利分校) ; ICSI ; LBNL(劳伦斯伯克利国家实验室)
专题命中 测试时计算 :reasoning(title,abstract);chain-of-thought(abstract);分类 cs.CL、cs.LG
AI总结 多重注意力机制通过精确计算重要标记的注意力并近似其余标记,提升长上下文推理效率。
Comments 15 pages
Journal ref NeurIPS 2025