大模型对齐与安全

RedVisor: Reasoning-Aware Prompt Injection Defense via Zero-Copy KV Cache Reuse

RedVisor: 通过零拷贝KV缓存重用来实现推理感知的提示注入防御

Mingrui Liu, Sixiao Zhang, Cheng Long, Kwok-Yan Lam

机构 * Nanyang Technological University, Singapore（南洋理工大学） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；alignment(abstract)；分类 cs.AI、cs.LG

AI总结 RedVisor通过零拷贝KV缓存重用实现推理感知的提示注入防御，结合检测与预防策略，提升安全性和效率。

Comments under review

Context Dependence and Reliability in Autoregressive Language Models

自回归语言模型中的上下文依赖性与可靠性

Poushali Sengupta, Shashi Raj Pandey, Sabita Maharjan, Frank Eliassen

机构 * Department of Informatics, University of Oslo（信息学院，奥斯陆大学） ； Department of Electronic Systems, Aalborg University（电子系统系，奥胡斯大学） 纠错

专题命中 提示注入 ：prompt injection(abstract)；trustworthy(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出RISE方法，用于自回归语言模型中区分关键上下文元素与冗余信息，提升解释的可靠性和稳定性。