SOK: A Taxonomy of Attack Vectors and Defense Strategies for Agentic Supply Chain Runtime
Independent Researcher(独立研究者)
本文系统化了现有研究,提出统一的运行时框架,区分数据和工具供应链攻击,并识别出病毒代理循环现象,主张采用零信任运行时架构。
2026-04-19 cs.AI cs.CR
Benchmarks are Not Enough: RAMP for Runtime Assessing of Agentic Models in Production Systems
School of Computer Science and Engineering, Sun Yat-sen University, Guangzhou, China(中山大学计算机科学与工程学院,广州,中国)
针对现有基准测试无法反映真实生产环境动态复杂性的问题,提出RAMP框架,通过统一运行时评估架构、编译器构建工作负载和多维效用指标,揭示模型在长序列工作流中的性能退化与资源效率差异。
2026-05-26 cs.AI cs.SE
Runtime-Structured Task Decomposition for Agentic Coding Systems
IBM Research(IBM研究院)
本文提出运行时结构化任务分解方法,通过可执行控制逻辑管理任务分解与执行流程,降低重试成本,提升代理编码系统的效率和可靠性。
2026-05-14 cs.AI cs.SE
A2AS: Agentic AI Runtime Security and Self-Defense
本文提出A2AS框架作为AI智能体的安全层,通过BASIC安全模型实现行为强制、上下文完整性和纵深防御,旨在建立行业标准。
2025-10-08 cs.AI cs.CR
MI9: An Integrated Runtime Governance Framework for Agentic AI
Barclays, Model Risk Management(巴克莱银行,模型风险管理部门);Columbia University(哥伦比亚大学)
针对智能体AI运行时突发行为带来的新型风险,提出首个全集成运行时治理框架MI9,通过六个组件实现实时控制,在异构架构中透明运行,可系统化覆盖现有方法未解决的治理挑战,为智能体AI安全部署奠定基础。
2025-11-18 cs.AI cs.ET cs.MA
From Governance Norms to Enforceable Controls: A Layered Translation Method for Runtime Guardrails in Agentic AI
Independent Researcher(独立研究员)
本文提出一种分层翻译方法,将治理标准转化为四层控制机制,通过采购代理案例展示如何将治理目标转化为可执行的运行时防护措施。
2026-04-06 cs.AI cs.HC cs.LG
CAVA: Canonical Action Verification and Attestation for Runtime Governance of Agentic AI Systems
Ond Holdings Inc(Ond控股公司)
研究智能代理人工智能系统异构运行时带来的治理问题。提出CAVA,将异构代理活动转换为规范动作对象。通过基准参考实现研究,为部署者端人工智能治理提供动作级规范化和语义模式的系统表述。
2026-07-16 cs.AI
Benchmarking Security Risk Detection and Verification in Open Agentic Skill Ecosystems
University of Texas at El Paso(德克萨斯理工大学);Southern Illinois University-Carbondale(南方伊利诺伊大学卡本代尔分校);Purdue University(普渡大学)
提出SkillVetBench,一个两阶段安全审查基准,通过语义审查和沙箱执行检测与验证开放智能体技能生态系统中的恶意技能。
2026-05-30 cs.AI cs.CR
SUDP: Secret-Use Delegation Protocol for Agentic Systems
Imperial College London(伦敦帝国学院);University of Oxford(牛津大学);Stanford University(斯坦福大学)
针对智能体系统中用户秘密被滥用的问题,提出秘密使用委托协议(SUDP),通过授权、委托和兑现机制实现一次性秘密使用,满足七项安全属性。
2026-10-22 cs.AI cs.CR
Execution-bound advisory automation for agentic AI: a reproducible AIBOM-driven CSAF-VEX framework
University of Oxford(牛津大学);Cisco Systems(思科系统);The Alan Turing Institute(艾伦·图灵研究所);University of Warwick – WMG(沃里克大学 – WMG);University of Hull(哈罗德大学)
提出一种协议驱动框架,通过绑定SBOM和AIBOM工件与确定性环境捕获及结构化运行时遥测,结合静态与运行时证据生成CSAF VEX公告,经密码签名和确定性重放验证,在合成自主AI工作负载上评估。
2026-06-19 cs.AI cs.SE
Runtime Governance for Agentic AI: Action-Boundary Control with Trusted Provenance and Fail-Closed Execution
SPQR Technologies Inc.(SPQR科技公司)
该研究提出Aegis运行时治理系统,通过可信决策层调解智能体AI的工具行动提案,在沙堡语料库评估中成功阻止风险提案转化为治理副作用。
2026-08-19 cs.AI cs.CE cs.CR
One Monitor Does Not Fit All: Formalism-Agnostic Runtime Verification for Agentic AI
University of Modena and Reggio Emilia(摩德纳和雷焦艾米利亚大学)
针对智能体AI系统,提出与监控形式主义无关的AgenticRV运行时验证架构,结合多监控器实现安全控制,支持多框架,实验验证其有效性与复用性。
2026-10-14 cs.AI
Fail Loudly: An Auditable Runtime for Agentic Data Analysis
RADAR是一个可审计运行时,通过保留证据的探索、类型化操作符记录和运行时验证,使智能体分析选择可检查并支持修订,实现大声失败,在KramaBench等基准上显著提升性能。
2026-09-29 cs.AI
SafeAgent: A Runtime Protection Architecture for Agentic Systems
Lomonosov Moscow State University(莫斯科罗蒙诺索夫国立大学)
本文提出SafeAgent,一种运行时安全架构,通过分离执行治理与语义风险推理,提升代理系统在多步骤流程中的安全性。
2026-04-19 cs.AI cs.MA
When Agentic Executions Fail: Detecting and Localizing Runtime Faults from Telemetry
University of Toronto(多伦多大学)
该研究提出 AGENTCHAOSBENCH 基准,在智能体系统遥测数据中检测定位运行时故障,实验显示现有 LLM 基线对该任务的解决效果仍远未达标。
2026-08-18 cs.AI cs.SE
Ethical Hyper-Velocity (EHV): A Hardware-Rooted Zero-Trust Runtime Enforcement Architecture for Agentic AI Systems
Senior Member, IEEE(IEEE高级会员)
提出伦理超高速 (EHV) 架构,通过结合语法约束解码、因果图CRDT、可信执行环境和OSCAL审计日志,实现硬件根的零信任运行时强制,将策略执行点嵌入推理管线,显著降低治理延迟并支持形式化验证。
2026-05-31 cs.AI cs.LO
Selective Agentic Recovery for UAV Autonomy with a Persistent Mission Runtime
Department of Electrical and Electronic Engineering, Korea University(高丽大学电气与电子工程系)
提出持久任务运行时(PMR)框架,通过选择性调用外部代理推理器实现无人机恢复,引入学习型调用认知价值(learned-CVI)门控机制,在Gazebo/PX4基准测试中将硬/模糊场景成功率从5.0%提升至95.0%,同时减少16.7%的远程调用和29.2%的令牌消耗。
2026-06-15 cs.AI cs.RO
Just-In-Time Agent Memory with Runtime Agentic Research
Beijing Academy of Artificial Intelligence(北京人工智能研究院);Peking University(北京大学);Hong Kong Polytechnic University(香港理工大学)
针对现有代理记忆系统提前构建记忆可能丢失重要信息的问题,本文提出即时代理记忆(JAM)框架,通过运行时查询条件化上下文构建,并在多个基准上实现优于AOT系统且更高效的任务性能。
2026-09-29 cs.AI cs.CL cs.IR
KP-A: A Unified Network Knowledge Plane for Catalyzing Agentic Network Intelligence
Cranfield University(克兰菲尔德大学);University of Leeds(利兹大学)
针对6G网络中孤立知识检索管道导致的数据冗余与解释不一致问题,提出统一网络知识平面KP-A,通过解耦知识获取与智能逻辑,提升互操作性并降低维护复杂性。
2025-07-10 cs.AI cs.NI cs.SE
AgenticRepair: Multi-Faceted Program Context Engineering for Agentic Vulnerability Repair
The University of Melbourne(墨尔本大学);Monash University(莫纳什大学)
针对现有智能体漏洞修复方法缺乏多维度程序上下文工程的问题,提出AgenticRepair框架,协调三个LLM子智能体构建三类上下文,在SEC-Bench上取得73%的修复成功率,显著优于基线。
2026-08-03 cs.AI cs.CR cs.SE
Runtime Burden Allocation for Structured LLM Routing in Agentic Expert Systems: A Full-Factorial Cross-Backend Methodology
School of Computer Sciences, Universiti Sains Malaysia (USM)(马来西亚理科大学计算机科学学院);Xiamen Software Vocational & Technical College(厦门软件职业技术学院)
本文探讨了结构化LLM路由在代理专家系统中的负担分配问题,提出了一种全因子跨后端方法论,通过全面评估不同后端配置下的性能,揭示了后端特定交互效应对性能的主导作用。
2026-03-26 cs.AI
SARC-DQ: Runtime Data-Quality Gating for Agentic AI: Silent Evidence Defects, the Incompetence Shield, and Downstream-Only Remediation
Universidad Torcuato Di Tella(托库阿托·迪·特拉大学)
该研究针对智能体AI的元数据缺陷问题,提出SARC-DQ运行时数据质量门控机制,实验显示模型能力未提升怀疑能力,所提门控结合下游修复可恢复部分损失,无模型预言机能精准跟踪缺陷率。
2026-07-30 cs.AI cs.CY cs.SE
Formal Policy Enforcement for Agentic Systems
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Cornell University(康奈尔大学);Langroid
本文提出基于面向切面编程的框架,通过Datalog语言实现跨代理系统的政策执行,解决传统方法无法保证正式执行的问题。
2026-10-14 cs.AI cs.CR cs.MA
Trustworthy Runtime Error Healing in Real-World Repositories: A Benchmark and Guardrail
Sun Yat-sen University(中山大学);Singapore Management University(新加坡管理大学);Monash University(莫纳什大学)
本文提出HealBench基准和HealGuard护栏,用于在真实仓库中安全地进行LLM运行时错误修复,实验显示现有智能体能修复部分崩溃,但HealGuard以较高误报率检测潜在风险。
2026-10-01 cs.AI cs.SE
Trustworthy AI in the Agentic Lakehouse: from Concurrency to Governance
本文提出Bauplan设计,通过事务机制实现湖仓中的数据和计算隔离,解决代理工作流的可信性问题,并提供自修复管道的实现。
2025-11-20 cs.AI cs.DB
A-JIT: Agentic Just-In-Time Software Construction
University of Kentucky(肯塔基大学);University College London(伦敦大学学院)
A-JIT提出以嵌入式AI智能体持续观察运行轨迹、动态构建缺失功能并适应终端用户行为的软件范式,取代静态二进制部署,支持自演化软件设计。
2026-09-10 cs.AI cs.SE
Towards Agentic Cloud Engineering: Graph and Loop Engineering with a Zero-Trust Agent Harness
Tata Research Development and Design Centre(塔塔研究开发设计中心)
该研究提出Agentic Cloud Workflow Engineering框架,将自然语言智能体云工程任务转为验证后的代码仓库与云部署,划分三类工程关注点并在Google Cloud验证,为多类智能体云工程领域提供统一架构。
2026-10-19 cs.AI cs.LG cs.SE
MANA: Towards Efficient Mobile Ad Detection via Multimodal Agentic UI Navigation
Department of Computer Science and Technology(计算机科学与技术系);University of Southern California(南加州大学);Shanghai Jiao Tong University(上海交通大学);State Key Laboratory of Internet Architecture(互联网架构国家重点实验室)
本文提出MANA框架,通过整合多种信号实现高效移动广告检测,提升准确率和效率,有效识别隐蔽恶意广告。
2026-03-20 cs.AI cs.CR
A Contract-Centered Architecture for Scalable and Manageable Agentic Runtimes
PwC China AI Center(普华永道中国AI中心);Tsinghua University(清华大学)
针对企业AI部署的协调问题,本文提出以契约为中心的智能体运行时架构,含Skill等四个责任对象及P1假设,还提出可证伪的测量协议,目前无已完成的实现、实验等结果。
2026-09-15 cs.AI cs.MA cs.SE
The Agent Operating System (AOS): A Reference Operating Architecture for Distributed Agentic Systems
本文提出智能体操作系统(AOS),作为分布式智能体系统的参考操作架构,用于管控异构组件以构建可管控、可靠、可观测且互操作的智能体系统。
2026-08-05 cs.AI
Multi-Perspective Agentic Program Repair via Code Property Graphs and Temporal Execution Graphs
研究针对大语言模型在自动程序修复中的局限,提出CT-Repair框架,通过代码属性图和时间执行图表示证据,利用三阶段过滤管道及多视角智能体分析错误并生成修复策略,实验证明该方法能有效提高修复有效性。
2026-07-15 cs.AI cs.SE
AstronOS: A Unified Execution Model and Runtime for Long-Horizon Agentic Systems
AstronOS是面向长周期智能体系统的统一执行模型与运行时,其介导的交接策略在三阶段任务中通过率远高于其他策略,虽时间成本更高但端到端表现更优。
2026-08-18 cs.AI
AgentGuard: Runtime Verification of AI Agents
JetBrains Research, The Netherlands(JetBrains研究院,荷兰)
针对自主智能体行为不可预测、传统验证失效的问题,本文提出 AgentGuard 运行时验证框架,通过 I/O 事件抽象、在线学习 MDP 与概率模型检查实现动态定量保证。
2025-09-28 cs.AI cs.SE
A Policy-Driven Runtime Layer for Agentic LLM Serving
University of California, Santa Cruz(加州大学圣克鲁兹分校)
针对多智能体LLM系统中跨层策略难以高效实现的问题,提出在框架与引擎之间插入智能体运行时层,通过四个原语支持任意智能体感知策略,并在KV缓存策略CacheSage上验证了有效性。
2026-07-31 cs.AI
Towards Robust Agentic CUDA Kernel Benchmarking, Verification, and Optimization
Sakana AI
本文提出 robust-kbench 基准和智能体框架,通过进化元生成与 LLM 验证器自动将 PyTorch 代码转换为并优化 CUDA 内核,在多种场景下实现超越 torch 的性能。
2025-09-16 cs.AI cs.LG cs.SE
Argus: A General-Purpose Agentic Reasoning Runtime for Long-Horizon Tasks
Microsoft(微软公司);Shanghai Jiao Tong University(上海交通大学);Fudan University(复旦大学);Nanjing University(南京大学);Tsinghua University(清华大学);The University of Hong Kong(香港大学);Peking University(北京大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Donghua University(东华大学)
Argus是面向长程推理的通用智能体运行时,通过多角色协作与自进化,在多个基准测试中表现优于同类方法,还完成了实际应用任务并产出结构化轨迹。
2026-08-11 cs.AI
Self-Healing by Means of Runtime Execution Profiling
自我修复应用程序在故障使软件进入不稳定状态之后使其自身进入稳态。对于这种自我修复的软件应用程序,为以前看不见的故障找到修复方法是一个巨大的挑战。要求用户为每个错误提供修复程序对生产力是不利的,特别是当用户在计算的技术方面不精通时。如果出现了失败场景,用户希望运行时环境能够自动处理这些情况。本文提出了一种新的技术,通过匹配故障场景已经建立的故障模型,找到自我修复的行动。通过分析和捕获运行时参数和执行路径,建立稳定的执行模型,并随后用于匹配不稳定的执行场景。实验和结果表明,即使有额外的开销,这种技术可以证明是有益的修复故障和缓解系统管理员从平凡的故障排除情况。
2012-03-26 cs.SE
The Cartesian Cut in Agentic AI
Harvard University(哈佛大学);Harvard Medical School(哈佛医学院)
本文探讨了代理AI中控制机制的设计,提出笛卡尔代理通过符号接口实现控制状态和策略的外部化,以实现自主性、鲁棒性和监督的平衡。
2026-04-09 cs.AI q-bio.NC
Evaluating Bounded Autonomy in Regulated Agentic AI: A Diagnostic Harness with Constitutional Rewards, Escalation Labels, and Runtime Governance
Skelf Research
提出RegLLM诊断工具,通过宪法奖励、升级标签和运行时治理评估受监管智能体AI的有界自主性,揭示配置差异对指标的影响,强调需更大规模评估。
2026-09-30 cs.AI cs.CL cs.LG
Authenticated Workflows: A Systems Approach to Protecting Agentic AI
本文提出认证工作流,通过密码学和运行时策略结合,实现企业代理AI的确定性安全,有效防护多种安全风险。
2026-02-11 cs.AI cs.CR cs.DC
Deontic Policies for Runtime Governance of Agentic AI Systems
CSEE Department UMBC Baltimore, MD, USA;Center for AI UMBC Baltimore, MD, USA;Information Systems Department UMBC Baltimore, MD, USA;CSAIL MIT Cambridge, MA, USA
针对大语言模型驱动的自主AI系统在安全、隐私和合规方面的治理挑战,提出AgenticRei框架,利用基于Rei的道义策略语言(OWL表示)在运行时通过逻辑引擎强制执行义务、豁免、冲突解决等治理约束,并兼容A2AS等标准。
2026-06-19 cs.AI cs.MA
Holmes: Multimodal Agentic Diagnosis for Mixed-Language Mobile Crashes at Industrial Scale
The Chinese University of Hong Kong(香港中文大学);Tencent Inc.(腾讯公司)
提出多智能体系统Holmes,通过多模态运行时信号合成重构崩溃上下文,采用层次化检索-探索-推理架构,在70M行代码中实现87.6%函数级定位准确率,将平均排查时间降低98%至约77秒。
2026-06-23 cs.AI cs.SE
Graph, Loop, and Harness Engineering for Zero-Trust Agentic Data Engineering and Analytical Processing
Tata Research Development and Design Centre(塔塔研发与设计中心)
针对云数据工程与分析中智能体协调可靠性问题,提出两个零信任框架,通过图、循环和智能体框架工程实现证据门控、有界恢复与零信任执行,实验验证了完成、恢复、授权及OLAP执行等指标。
2026-09-25 cs.AI cs.LG
GeoFlow: Agentic Workflow Automation for Geospatial Tasks
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
GeoFlow通过为每个智能体提供详细工具调用目标,自动生成地理空间任务的智能体工作流,将成功率提升6.8%,令牌使用量减少至四分之一。
2025-08-05 cs.AI cs.LG
Declarative Data Services: Structured Agentic Discovery for Composing Data Systems
Northeastern University(东北大学);Brown University(布朗大学)
提出声明式数据服务(DDS)架构,通过分层类型契约将全局搜索分解为有界子搜索,解决无界智能体发现无法稳定收敛的问题,并在交易后端工作负载上验证其有效性。
2026-05-26 cs.AI
Beyond Component Testing: Validating Agentic AI Systems
University of Messina(墨西拿大学)
该综述综合257篇相关文献,构建五维分类法分析智能体AI系统验证问题,指出现有方法的缺口,提出面向生命周期的研究议程,主张需在上下文中验证智能体轨迹以实现可信部署。
2026-10-09 cs.AI cs.MA cs.SE
CLI-Gym: Scalable CLI Task Generation via Agentic Environment Inversion
Huawei Technologies Co., Ltd(华为技术有限公司);Beijing Institute of Technology(北京理工大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
CLI-Gym通过代理环境反向工程生成大规模环境密集型任务,LiberCoder在Terminal-Bench上实现46.1%的提升。
2026-02-11 cs.AI
Sovereign Execution Broker: Enforcing Certificate-Bound Authority in Agentic Control Planes
针对自主代理在生产环境中执行变更时缺乏强制权限验证的问题,提出主权执行代理(SEB),通过证书验证、状态检查和范围身份实现运行时强制权限控制,并在AWS和Kubernetes上验证了其安全性和性能。
2026-06-23 cs.AI cs.CR cs.DC
Libra: Training the Environment for Agentic Information Retrieval
提出Libra框架,通过引入可变目录和LLM驱动优化循环,自动改进代码仓库的索引结构,提升代码定位准确率,并实现跨模型和问题的零样本迁移。
2026-07-02 cs.AI cs.IR
Agent Safety Should Be a Runtime Contract
Vast Intelligence Lab(星智实验室);Southwest University(西南大学);Sun Yat-sen University(中山大学)
该研究指出将AI安全仅在训练阶段植入的范式不足,提出智能体安全应是兼具预防与证据层面的运行时契约,通过四类公开证据支撑该立场并给出研究议程。
2026-08-13 cs.AI cs.CR
Specifying the Delegated-Autonomy Boundary: Requirements Engineering for Agentic AI
Faculty of IT, Monash University(莫纳什大学信息科技学院);University of Duisburg-Essen(杜伊斯堡-埃森大学)
研究智能体人工智能系统带来的需求工程问题,提出机构理由记录和智能体委托策略两个互补工件,通过分级建模权限,以医院出院协调智能体和自动代码审查智能体为例阐释框架,解决委托自治边界相关需求工程问题。
2026-07-21 cs.AI cs.SE
TriCEGAR: A Trace-Driven Abstraction Mechanism for Agentic AI
JetBrains Research(JetBrains研究)
TriCEGAR是一种基于跟踪的自动抽象机制,用于代理AI中在线构建MDP并进行概率模型检查,以提高验证效率和可靠性。
2026-01-30 cs.AI cs.SE
Sovereign Assurance Boundary: Certificate-Bound Admission for Agentic Infrastructure
OpenKedge.io(OpenKedge实验室)
针对智能体基础设施中非确定性推理系统对生产资源的高风险操作,提出主权保证边界(SAB),通过证书绑定的运行时准入层,将代理提案编译为执行合约并绑定加密证据,实现可验证、可撤销的授权控制。
2026-06-11 cs.AI cs.CR cs.DC
The Auton Agentic AI Framework
Auton框架通过分离认知蓝图与运行时引擎,实现自主代理系统的标准化创建、执行和治理,采用增强POMDP模型和三级自我进化框架提升安全性与效率。
2026-02-27 cs.AI