AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-01-21 至 2026-01-21 共收录 2 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 提示注入 2 篇

2601.13186 2026-01-21 cs.AI cs.MA 79%

Prompt Injection Mitigation with Agentic AI, Nested Learning, and AI Sustainability via Semantic Caching

通过语义缓存、嵌套学习和AI可持续性缓解提示注入

Diego Gosmar, Deborah A. Dahl

机构 * Head of AI, Tesisquare Member, Open Voice Interoperability Initiative Linux Foundation AI & Data Torino, Italy（AI负责人，Tesisquare成员，开放语音互操作性倡议Linux基金会AI与数据部门，意大利托里诺）； Principal, Conversational Technologies Member, Open Voice Interoperability Initiative Linux Foundation AI & Data Plymouth Meeting, PA, USA（首席科学家，对话技术成员，开放语音互操作性倡议Linux基金会AI与数据部门，美国普利茅斯会议）

专题命中提示注入：prompt injection(title,abstract)；分类 cs.AI

AI总结本文通过语义缓存、嵌套学习和AI可持续性方法，提出了一种缓解提示注入的系统，实现安全、高效且环保的LLM部署。

Comments 33 pages, 19 figures

2510.21057 2026-01-21 cs.CR cs.LG 57%

Soft Instruction De-escalation Defense

软指令缓解防御

Nils Philipp Walter, Chawin Sitawarin, Jamie Hayes, David Stutz, Ilia Shumailov

机构 * CISPA Helmholtz Center for Information Security（CISPA信息安全研究中心）； Google DeepMind（谷歌DeepMind）； AI Sequrity Company（AI安全公司）

专题命中提示注入：prompt injection(abstract)；分类 cs.LG

AI总结 SIC通过迭代提示净化循环，有效防御LLM在智能体系统中受到提示注入攻击，尽管存在局限性，但提升了系统安全性。