智能体人工智能中的安全与隐私：重大挑战与未来方向

Security and Privacy in Agentic AI: Grand Challenges and Future Directions

Adam Jenkins, Agnieszka Kitkowska, Caterina Maidhof, Diego Paracuellos, Francesco Sovrano, Gonzalo Gabriel Mendez, Guillermo Suarez-Tangil, Hana Kopecka, Isabel Wagner, Isabel Barbera, Javier Carnerero-Cano, Jide Edu, Jose Luis Martin-Navarro, Jose Such, Josep Domingo-Ferrer, Juan Carlos Carrillo, Kopo Marvin Ramokapane, Mark Cote, Pablo Vellosillo, Ramon Ruiz-Dolz, Rongjun Ma, Ruba Abu-Salma, Sameer Patil, William Seymour, Xiao Zhan

arXiv 2607.06608首次发表：2026-07-29更新：2026-07-29

发表机构

King’s College London; Jönköping University; Universitat Politècnica de València; Inria; IBM Research; Aalto University; INGENIO (CSIC–Universitat Politècnica de València); IMDEA Networks; University of Basel; Dutch Data Protection Authority (AP); University of Strathclyde; Universitat Rovira i Virgili; University of Bristol; University of Dundee（伦敦国王学院; 琼斯平大学; 巴塞罗那理工大学; 法国国家信息与自动化技术研究所; IBM研究院; 阿尔托大学; INGENIO（西班牙国家科研委员会-巴塞罗那理工大学）; IMDEA网络研究所; 巴塞尔大学; 荷兰数据保护局; 斯特拉斯克莱德大学; 罗维拉-维古利大学; 布里斯托大学; 邓迪大学）

机构由 AI 辅助整理，请以论文原文为准。

AI 中文总结

探讨智能体人工智能安全与隐私关键挑战及未来方向，通过汇聚30位国际专家的视野扫描活动，针对人工智能增长带来的新风险展开讨论与协作。

AI 中文摘要

我们基于一项视野扫描活动，提出了智能体人工智能安全与隐私方面的关键挑战和未来研究方向。该活动汇聚了来自学术界、 industry和政府的30位国际顶尖专家，就与人工智能日益增长的智能相关的新出现风险进行了深入讨论和协作。

英文摘要

We present key challenges and future research directions in the security and privacy of agentic AI, based on a horizon-scanning exercise that brought together thirty leading international experts from academia, industry, and government to engage in focused discussions and collaborative exercises on the emerging risks associated with the growing agency of AI.

论文原文

arXiv 摘要页 · PDF 原文 · HTML 原文