大模型对齐与安全 - arXivDaily 专题

2608.14876 2026-08-18 cs.CR cs.AI cs.CL cs.LG 新提交 67%

Workspace Topology as an Attack Vector in Agentic Coding Assistants

工作空间拓扑作为智能体代码助手的攻击向量

Alexandre G. R. Day, Pradeep Yadlapalli, Sriram Venkatapathy, Thomas Paniagua, Nick Raines, Sahil Wadhwa, Himanshu Kumar, Andy Luo, Sudeep Panyam, Rikhiya Ghosh, Pranab Mohanty, Giri Iyengar

专题命中提示注入：prompt injection(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结本文研究将工作空间拓扑作为攻击向量，发现其会影响智能体代码助手的间接提示注入攻击成功率，高度模块化环境及安全提示可降低攻击成功率，为代码智能体安全测试提供实用价值。

Comments 15 pages, 10 figures. Preprint of a paper accepted at the Conference on Applied Machine Learning in Information Security (CAMLIS 2026)

2608.16068 2026-08-18 cs.CL cs.AI 新提交 62%

CAPO: Constraint-Aware Prompt Optimization for LLM Agents

CAPO：面向大语言模型智能体的感知约束提示优化

Victor Ye Dong, Reid Pryzant, Yi Liu, Jian Jiao

机构 * Microsoft（微软）

专题命中提示注入：safety(abstract)；分类 cs.CL、cs.AI

AI总结本研究提出CAPO与DCAPO两种方法，通过原始对偶框架优化LLM智能体的系统提示，在智能体及助手式任务中均提升了可行性与性能。

2608.16178 2026-08-18 cs.DC cs.AI 新提交 57%

Agent-Native Telemetry: Verifiable State-Delta Evidence for Autonomous Operations

智能体原生遥测：面向自主操作的可验证状态增量证据

Jun He, Deying Yu

专题命中提示注入：prompt injection(abstract)；分类 cs.AI

AI总结该研究提出智能体原生遥测架构，基于ATP协议和状态增量证据账本，在微服务基准测试中大幅降低了数据开销、LLM资源消耗，且能检测对抗性突变、抵御提示注入攻击。

Comments 13 pages, 3 figures, 6 tables

2608.15888 2026-08-18 cs.AI cs.CR 新提交 57%

Bounded Agents: Delegation Security for Multi-Agent AI Systems

有界智能体：多智能体AI系统的委托安全

Xabier Muruaga

专题命中提示注入：prompt injection(abstract)；分类 cs.AI

AI总结该研究针对多智能体AI系统的委托安全问题，提出智能体委托链（APC）架构，经实验可有效阻止提示注入攻击，降低数据窃取、破坏及操纵风险，授权延迟低且效用损失可控。

Comments 14 pages, 4 figures, 18 tables. Code and data: https://github.com/xmuruaga/bounded-agents

2507.06850 2026-08-18 cs.CR cs.AI 57%

The Dark Side of LLMs: Agent-based Attack Vectors for System-level Compromise

大语言模型的阴暗面：基于代理的攻击向量用于系统级入侵

Matteo Lupinacci, Francesco Aurelio Pironti, Francesco Blefari, Francesco Romeo, Luigi Arena, Angelo Furfaro

机构 * DIMES , University of Calabria , P. Bucci , 87036 , Rende (CS) , Italy（DIMES，卡利博里大学，P. Bucci，87036，Rende（CS），意大利）； IMT School for Advanced Studies , Piazza San Francesco , 55100 , Lucca , Italy（IMT高级研究学院，圣弗朗西斯科广场，55100，卢卡，意大利）

专题命中提示注入：prompt injection(abstract)；分类 cs.AI

AI总结研究探讨了大语言模型作为推理引擎在自主代理中的安全漏洞，揭示其被用作攻击向量实现计算机入侵的机制，指出94.4%的模型易受直接提示注入攻击，83.3%易受RAG后门攻击，且多代理系统中100%的模型可通过代理信任利用攻击被入侵。

1. 提示注入 5 篇

Workspace Topology as an Attack Vector in Agentic Coding Assistants

CAPO: Constraint-Aware Prompt Optimization for LLM Agents

Agent-Native Telemetry: Verifiable State-Delta Evidence for Autonomous Operations

Bounded Agents: Delegation Security for Multi-Agent AI Systems

The Dark Side of LLMs: Agent-based Attack Vectors for System-level Compromise