Algorithmic Primitives and Compositional Geometry of Reasoning in Language Models
语言模型中推理的算法原语与组合几何
机构 * Microsoft Research NYC(微软研究院纽约分部) ; Center for Theoretical Neuroscience(理论神经科学中心) ; Department of Psychology(心理学系) ; University of California Los Angeles(加州大学洛杉矶分校) ; Institute for Pure and Applied Mathematics(纯粹与应用数学研究所) ; Emory University(埃默里大学) ; Rice University(里士满大学) ; Mount Holyoke College(马里兰霍克学院) ; Technische Universität Berlin(柏林技术大学) ; BIFOLD-Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所)
专题命中 推理与问题求解 :language model(title,abstract);LLM(abstract);large language model(abstract);分类 cs.AI、cs.LG
AI总结 研究通过分析语言模型中的算法原语,揭示其推理过程的组合几何结构,并展示原语在跨任务和跨模型中的可迁移性。