Hallucination in World Models is Predictable and Preventable
世界模型中的幻觉是可预测且可预防的
机构 * UC San Diego(加州大学圣迭戈分校)
专题命中 通用世界模型 :world model(title,abstract);world models(title,abstract);world model(title,abstract);world models(title,abstract)
AI总结 本文发现世界模型中的幻觉源于状态-动作空间的低覆盖区域,提出三种可预测幻觉的信号,并开发覆盖感知采样和好奇心奖励方法,仅需50条真实轨迹即可微调模型适应新环境。
Comments Interactive paper, live demo, code, dataset, and models: https://www.nicklashansen.com/mmbench2