Planning with Transformers: Chain of Computation and Structured Context Windows
使用Transformer进行规划:计算链与结构化上下文窗口
机构 * Department of Computing Science, University of Alberta(阿尔伯塔大学计算科学系) ; Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所)
专题命中 具身推理 :world model(abstract);分类 cs.LG
AI总结 研究大语言模型解决规划问题的不足,提出计算链架构,利用结构化上下文窗口,让语言模型学习规划策略、预测世界模型并执行算术运算,在多个任务上取得高成功率,能解决复杂汉诺塔问题且减少训练数据。