Learning to Inject: Automated Prompt Injection via Reinforcement Learning
学习注入:通过强化学习实现自动化提示注入
机构 * ETH Zürich(苏黎世联邦理工学院)
AI总结 提出AutoInject,一种基于强化学习的黑盒框架,自动学习对抗性后缀进行提示注入,在AgentDojo上优于模板攻击和多种自适应攻击,并突破专门防御模型。
高校专区
学习注入:通过强化学习实现自动化提示注入
机构 * ETH Zürich(苏黎世联邦理工学院)
AI总结 提出AutoInject,一种基于强化学习的黑盒框架,自动学习对抗性后缀进行提示注入,在AgentDojo上优于模板攻击和多种自适应攻击,并突破专门防御模型。
基于推理时间强化学习的开放材料生成
机构 * ETH Zurich(苏黎世联邦理工学院)
AI总结 提出OMatG-IRL框架,通过策略梯度强化学习直接作用于学习的速度场,无需显式计算得分,实现晶体结构预测中的能量目标强化,采样效率提升一个数量级。
Comments 25 pages, 12 figures, 6 tables