INTENT-AS-A-TOOL Makes it Easy to Track Agentic Misalignment
意图作为工具:轻松追踪智能体失配问题
机构 * Tsinghua University(清华大学) ; MatrixOrigin(矩阵起源) ; SiliconProspect AI(硅景人工智能) ; Nanyang Technological University(南洋理工大学)
专题命中 其他推理 :CoT(summary_cn,abstract);reasoning(abstract);chain-of-thought(abstract);分类 cs.CL
AI总结 本研究针对智能体失配问题,提出INTENT-AS-A-TOOL方法,通过添加意图专用工具追踪智能体推理过程中的意图变化,补充CoT监控,为智能体安全追踪提供细粒度信号。