最优控制作为图模型推理问题
Optimal control as a graphical model inference problem
AI总结:
将Todorov (2007)提出的非线性随机最优控制问题重新表述为KL最小化问题,从而将最优控制计算转化为推理计算,并利用近似推理方法高效计算近似最优控制。
摘要:
我们将Todorov (2007)提出的一类非线性随机最优控制问题重新表述为Kullback-Leibler (KL)最小化问题。因此,最优控制计算简化为推理计算,并且可以应用近似推理方法来高效计算近似最优控制。我们展示了该KL控制理论如何将路径积分控制方法作为特例包含在内。我们提供了一个块堆叠任务和多智能体合作游戏的示例,其中我们展示了近似推理如何成功应用于那些对于精确计算过于复杂的实例。我们讨论了KL控制方法与其他控制推理方法的关系。
英文摘要:
We reformulate a class of non-linear stochastic optimal control problems introduced by Todorov (2007) as a Kullback-Leibler (KL) minimization problem. As a result, the optimal control computation reduces to an inference computation and approximate inference methods can be applied to efficiently compute approximate optimal controls. We show how this KL control theory contains the path integral control method as a special case. We provide an example of a block stacking task and a multi-agent cooperative game where we demonstrate how approximate inference can be successfully applied to instances that are too complex for exact computation. We discuss the relation of the KL control approach to other inference approaches to control.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。