大模型对齐与安全

CourtGuard: A Local, Multiagent Prompt Injection Classifier

Isaac Wu, Michael Maslowski

机构 * Isaac Wu Research Fellow（Isaac Wu 研究员） ； Non-Trivial Ventures（非平凡企业） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

Comments 11 pages, 7 figures

The Lock-In Phase Hypothesis: Identity Consolidation as a Precursor to AGI

Marcelo Maciel Amaral, Raymond Aschheim

机构 * Gauge Freedom, Inc. (Public Benefit Corporation)（Gauge Freedom公司） 纠错

专题命中 提示注入 ：safety(abstract)；分类 cs.AI

PhantomLint: Principled Detection of Hidden LLM Prompts in Structured Documents

Toby Murray

专题命中 提示注入 ：prompt injection(abstract)