Safe Multi-Agent Behavior Must Be Maintained, Not Merely Asserted: Constraint Drift in LLM-Based Multi-Agent Systems
安全多智能体行为必须被维护,而非仅仅被断言:基于LLM的多智能体系统中的约束漂移
专题命中 长上下文与记忆 :LLM(title,title_cn)
AI总结 本文探讨了基于LLM的多智能体系统中约束漂移问题,指出安全约束在执行过程中可能丢失、扭曲或减弱,提出约束状态治理作为研究范式,以确保安全行为在轨迹中持续有效。
Comments 12 pages, 2 figures, 4 tables. Preprint