大模型对齐与安全

MemoryGraft: Persistent Compromise of LLM Agents via Poisoned Experience Retrieval

MemoryGraft: 通过中毒经验检索持续破坏LLM代理

Saksham Sahai Srivastava, Haoyu He

机构 * School of Computing University of Georgia（计算机学院 佐治亚大学） 纠错

专题命中 越狱攻击 ：prompt injection(abstract)；分类 cs.AI、cs.LG

AI总结 MemoryGraft 通过在LLM代理的长期记忆中植入恶意经验，实现对代理行为的持续破坏。

Comments 14 pages, 1 figure, includes appendix

Security Risks of Agentic Vehicles: A Systematic Analysis of Cognitive and Cross-Layer Threats

代理车辆的安全风险：对认知和跨层威胁的系统分析

Ali Eslami, Jiangbo Yu

专题命中 越狱攻击 ：safety(abstract)；分类 cs.AI

AI总结 本文提出基于角色的架构，分析代理车辆中认知和跨层安全威胁，提供首个结构化分析框架。