When Tool Outputs Become Commands: Separating Action Induction from Runtime Authorization in Tool-Augmented LLM Agents
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
该研究针对工具增强型LLM智能体中工具输出成为命令的风险,提出SARA框架分离动作诱导与执行授权,在AgentDojo等数据集上有效限制攻击成功率并保持任务效用。
2026-08-28 cs.AI cs.SE
DynaResize: Runtime GPU Reallocation for Disaggregated LLM Post-Training
SKLP, Institute of Computing Technology, CAS(中国科学院计算技术研究所智能处理器研究中心);Bytedance(字节跳动)
研究基于强化学习的语言模型训练后GPU资源分配问题,提出DynaResize运行时GPU重新分配系统,通过动态切换GPU平衡阶段执行时间,分解操作并去除关键路径非关键工作,实验显示可提高吞吐量、减少执行时间并隐藏部分开销。
2026-08-03 cs.AI
Debug like a Human: A Large Language Model Debugger via Verifying Runtime Execution Step-by-step
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文提出LDB调试框架,将程序分割为基本块并跟踪运行时中间变量值,使LLMs能逐块验证代码正确性并定位错误,在多个基准上提升调试性能最高达9.8%。
2024-06-06 cs.AI cs.CL cs.SE
REDO: Execution-Free Runtime Error Detection for COding Agents
University of Pennsylvania(宾夕法尼亚大学);AWS AI Labs(亚马逊云科技人工智能实验室)
本文提出免执行的运行时错误检测方法 REDO,结合 LLM 与静态分析工具在无需运行代码的情况下检测错误,并构建 SWEDE 基准,实验证明其准确率和加权 F1 分数分别提升 11.0% 和 9.1%。
2024-10-10 cs.AI cs.SE
Proof of Execution: Runtime Verification for Governed AI Agent Actions
AlphaBitCore, Inc.(AlphaBitCore公司)
研究人工智能代理行动正确性验证问题,提出运行时证明(PoE)方法构建执行三元组及相关谓词和保证,证明其合理性,通过原型测试验证效果,能将多方面绑定到可检查对象,使受治理执行可证。
2026-07-08 cs.AI cs.CR
FluxEDA: A Unified Execution Infrastructure for Stateful Agentic EDA
Zhejiang University(浙江大学)
本文提出FluxEDA,一种统一的状态性代理EDA基础设施,通过结构化请求响应和持久后端实例支持工具状态保留,实现异构EDA工具的多步分析与优化。
2026-03-26 cs.AI cs.AR
Insights into resource utilization of code small language models serving with runtime engines and execution providers
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
本研究针对代码生成小型语言模型的推理资源优化需求,通过多阶段实验测试12个模型在不同运行时引擎与执行提供方组合下的表现,发现TORCH+CUDA能效最优,为软件工程师选择服务配置提供参考。
2025-07-30 cs.AI cs.LG cs.SE
ARIA: Runtime Inspection and Amendment for Multi-Agent Systems
Florida State University(佛罗里达州立大学)
本研究提出ARIA框架,构建首个配对失败轨迹与验证修正的大规模数据集,训练模型实现多智能体系统运行时的高效修正,且能泛化到新框架与模型。
2026-10-16 cs.AI cs.CL
SPECTRA: Adaptive Execution of Speculative Decoding on a Runtime-Reconfigurable Tiled Architecture
Columbia University(哥伦比亚大学)
SPECTRA提出一种运行时可重构瓦片架构,通过瓦片内计算引擎切换和跨瓦片动态并行度调整,在投机解码的GEMV与GEMM操作间维持高利用率,在FPGA上实现最高2.09倍加速。
2026-09-22 cs.AI cs.AR cs.DC
Autonomous Action Runtime Management(AARM):A System Specification for Securing AI-Driven Actions at Runtime
Independent Researcher, IEEE Member(独立研究者,IEEE会员)
AARM提出了一种开放规范,旨在通过运行时安全机制保护AI驱动的动作,定义了拦截动作、评估策略和记录凭证等核心功能,以应对AI自主执行带来的安全挑战。
2026-02-10 cs.AI cs.CR
El Agente Gráfico: A Semantic Execution Runtime for Scientific Agents
School of Computer Science, McGill University(计算机科学学院,麦吉尔大学)
El Agente Gráfico通过结构化执行图和类型安全机制,实现科学代理的高效自动化,适用于复杂计算任务。
2026-08-11 cs.AI cs.MA cs.SE
Gistify! Codebase-Level Understanding via Runtime Execution
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Microsoft Research(微软研究院);Cornell University(康奈尔大学);University of California San Diego(加州大学圣地亚哥分校);University of Texas at Austin(德克萨斯大学奥斯汀分校)
提出Gistify任务,要求编程LLM生成最小自包含文件以复现代码库特定功能,评估模型在结构理解、执行流建模及代码补丁生成方面的能力,发现现有先进模型在长执行轨迹任务上表现不佳。
2025-10-30 cs.AI cs.CL
ResonAct: Streaming Metrics for Runtime Diagnosis and Self-Healing in Multi-Agent Systems
IBM
ResonAct通过流式指标实现多智能体系统的运行时诊断与自愈,无需修改应用即可提升任务完成率最多10个百分点。
2026-09-29 cs.AI cs.LG
LLMServingSim 2.0: A Unified Simulator for Heterogeneous and Disaggregated LLM Serving Infrastructure
本文提出LLMServingSim 2.0,通过统一运行时框架模拟异构和解耦LLM服务基础设施中的硬件软件交互,验证其在真实部署中具有高精度和高效能。
2026-03-23 cs.AI cs.DC
Zero-Trust Runtime Verification for Agentic Payment Protocols: Mitigating Replay and Context-Binding Failures in AP2
eBay Inc(eBay公司)
本文提出了一种零信任运行时验证框架,通过动态生成非ces强制显式上下文绑定和一次性使用命令语义,以缓解AP2中的重放和上下文重定向攻击。
2026-02-06 cs.AI cs.CR
Beyond Approved Actions: Runtime Validation of Persistent Outcomes in Agent Workflows
Harbin Institute of Technology(哈尔滨工业大学)
针对智能体执行产生未批准持久性结果的问题,提出EffectMatch运行时,通过边界内收集并比较持久性更改与批准内容,控制提交和依赖执行,实验验证其能阻止不一致结果的静默接受与传播。
2026-09-28 cs.AI cs.SE
Runtime Governance for Agentic AI: Action-Boundary Control with Trusted Provenance and Fail-Closed Execution
SPQR Technologies Inc.(SPQR科技公司)
该研究提出Aegis运行时治理系统,通过可信决策层调解智能体AI的工具行动提案,在沙堡语料库评估中成功阻止风险提案转化为治理副作用。
2026-08-19 cs.AI cs.CE cs.CR
Can AI Scientists Coordinate at Runtime?
University of Oxford(牛津大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);University of Sydney(悉尼大学);University of Cambridge(剑桥大学)
本研究探讨AI科学家能否在运行时协调,提出运行时智能体协调(RAC)方法,在ResearchClawBench上评估显示运行时选择提升性能,但额外协调机制在预算受限时效果有限。
2026-10-02 cs.AI cs.MA
Agentao: A Policy-Governed Runtime Harness for Embeddable Tool-Using LLM Agents
The Third Research Institute of the Ministry of Public Security(公安部第三研究所);Bureau of Science and Technology Information Ministry of Public Security of the People’s Republic of China(中华人民共和国公安部科技信息局);School of Information and Cyber Security People’s Public Security University of China(中国人民公安大学信息与网络安全学院)
针对工具使用型LLM智能体的安全管控需求,提出Agentao运行时,通过分层架构分离动作提案与授权执行,将权限等构建为显式抽象,提升智能体可管控性与可检查性。
2026-08-31 cs.AI cs.MA
Sovereign Assurance Boundary: Certificate-Bound Admission for Agentic Infrastructure
OpenKedge.io(OpenKedge实验室)
针对智能体基础设施中非确定性推理系统对生产资源的高风险操作,提出主权保证边界(SAB),通过证书绑定的运行时准入层,将代理提案编译为执行合约并绑定加密证据,实现可验证、可撤销的授权控制。
2026-06-11 cs.AI cs.CR cs.DC
When Agentic Executions Fail: Detecting and Localizing Runtime Faults from Telemetry
University of Toronto(多伦多大学)
该研究提出 AGENTCHAOSBENCH 基准,在智能体系统遥测数据中检测定位运行时故障,实验显示现有 LLM 基线对该任务的解决效果仍远未达标。
2026-08-18 cs.AI cs.SE
Verifiable Agentic Infrastructure: Proof-Derived Authorization for Sovereign AI Systems
本文提出Distributed Trust Framework,通过结构化可验证的艺术品计算执行权限,解决自主AI代理执行安全风险问题,实现授权过程的可验证、分布和可回放。
2026-05-13 cs.AI cs.LG
Runtime-Structured Task Decomposition for Agentic Coding Systems
IBM Research(IBM研究院)
本文提出运行时结构化任务分解方法,通过可执行控制逻辑管理任务分解与执行流程,降低重试成本,提升代理编码系统的效率和可靠性。
2026-05-14 cs.AI cs.SE
Reconstructive Authority Model: Runtime Execution Validity Under Partial Observability
Independent Research(独立研究)
本文提出重构权威模型(RAM),通过分离完整性与覆盖范围,解决部分可观测环境下执行有效性问题,证明其在覆盖充足时允许执行,不足时动态缩小权限或失败关闭,实验显示RAM在所有覆盖级别均无无效执行。
2026-04-24 cs.AI cs.CR cs.GT
Benchmarks are Not Enough: RAMP for Runtime Assessing of Agentic Models in Production Systems
School of Computer Science and Engineering, Sun Yat-sen University, Guangzhou, China(中山大学计算机科学与工程学院,广州,中国)
针对现有基准测试无法反映真实生产环境动态复杂性的问题,提出RAMP框架,通过统一运行时评估架构、编译器构建工作负载和多维效用指标,揭示模型在长序列工作流中的性能退化与资源效率差异。
2026-05-26 cs.AI cs.SE
Can LLMs Reason About Runtime Behavior? A Repository-Level Dynamic Benchmark
York University(约克大学);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文提出SWE-Flux,一个包含480个实例的仓库级动态执行推理基准,通过自动采集黄金答案评估五个LLM,最佳准确率仅37%,并展示输入扰动可生成更具挑战性的变体。
2026-09-24 cs.AI cs.CL cs.SE
Execution-bound advisory automation for agentic AI: a reproducible AIBOM-driven CSAF-VEX framework
University of Oxford(牛津大学);Cisco Systems(思科系统);The Alan Turing Institute(艾伦·图灵研究所);University of Warwick – WMG(沃里克大学 – WMG);University of Hull(哈罗德大学)
提出一种协议驱动框架,通过绑定SBOM和AIBOM工件与确定性环境捕获及结构化运行时遥测,结合静态与运行时证据生成CSAF VEX公告,经密码签名和确定性重放验证,在合成自主AI工作负载上评估。
2026-06-19 cs.AI cs.SE
Trustworthy Runtime Error Healing in Real-World Repositories: A Benchmark and Guardrail
Sun Yat-sen University(中山大学);Singapore Management University(新加坡管理大学);Monash University(莫纳什大学)
本文提出HealBench基准和HealGuard护栏,用于在真实仓库中安全地进行LLM运行时错误修复,实验显示现有智能体能修复部分崩溃,但HealGuard以较高误报率检测潜在风险。
2026-10-01 cs.AI cs.SE
Scalable Runtime Architecture for Data-driven, Hybrid HPC and ML Workflow Applications
Rutgers, the State University of New Jersey(罗格斯大学(新泽西州立大学));Brookhaven National Laboratory(布鲁克海文国家实验室);Princeton Plasma Physics Laboratory(普林斯顿等离子体物理实验室);Princeton University(普林斯顿大学)
本文扩展 RADICAL-Pilot,提出支持基于服务执行的可扩展运行时架构,以实现跨本地与远程 HPC/云资源的 HPC/ML 无缝耦合和低开销并发 ML 执行。
2025-03-17 cs.AI cs.DC
SKILL.state: Scalable Long-Horizon Agent Skills
Google LLC(谷歌公司);Purdue University(普渡大学)
针对现有智能体运行时的长程延迟与上下文污染问题,提出SKILL.state架构,用显式可变执行状态替代追加式对话历史,提升任务准确率并降低令牌消耗。
2026-09-03 cs.AI cs.MA
ProbGuard: Proactive Runtime Monitoring for LLM Agent Safety via Probabilistic Prediction
Singapore Management University(新加坡管理大学);Xi'an Jiaotong University(西安交通大学)
ProbGuard通过概率风险预测主动监控LLM代理安全,利用离散时间马尔可夫链建模行为动态,提前预警潜在危险,提升安全性和任务完成率。
2026-08-04 cs.AI cs.SE
Deep Research is the New Analytics System: Towards Building the Runtime for AI-Driven Analytics
MIT(麻省理工学院)
针对现有AI驱动分析系统的成本高、适配性差或查询计划未优化的问题,研究构建了融合语义算子优化执行与Deep Research动态特性的原型系统,在查询任务上实现了性能、成本与运行效率的显著提升。
2025-09-02 cs.AI cs.DB cs.LG
Evaluating Agents Across Runtime Contracts: When Mismatch Costs Efficiency or Quality
Ontocord;Carnegie Mellon University(卡内基梅隆大学);MPI-IS Tübingen(图宾根MPI研究所);Tübingen AI Center(图宾根人工智能中心);ELLIS Institute Tübingen(图宾根ELLIS研究所)
研究探讨解释器持久性对智能体学习的影响,发现其影响解决方案达成方式而非能否达成,且训练与运行时对齐可提升效率。
2026-10-01 cs.AI cs.LG
SOK: A Taxonomy of Attack Vectors and Defense Strategies for Agentic Supply Chain Runtime
Independent Researcher(独立研究者)
本文系统化了现有研究,提出统一的运行时框架,区分数据和工具供应链攻击,并识别出病毒代理循环现象,主张采用零信任运行时架构。
2026-04-19 cs.AI cs.CR
Ethical Hyper-Velocity (EHV): A Hardware-Rooted Zero-Trust Runtime Enforcement Architecture for Agentic AI Systems
Senior Member, IEEE(IEEE高级会员)
提出伦理超高速 (EHV) 架构,通过结合语法约束解码、因果图CRDT、可信执行环境和OSCAL审计日志,实现硬件根的零信任运行时强制,将策略执行点嵌入推理管线,显著降低治理延迟并支持形式化验证。
2026-05-31 cs.AI cs.LO
Dream2Discern: Learning from Hard Latent Variants for Runtime Failure Prediction in Multi-Agent Systems
Rutgers University(罗格斯大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
Dream2Discern是一种多智能体系统运行时故障预测审计器,通过自身预测损失生成困难潜在变体进行隐式增强训练,在AFTraj-2K和StepShield上实现90%以上轨迹级加权准确率,性能优于同类方法。
2026-10-14 cs.AI cs.CL cs.LG
From Task-Guided Conversational Graphs to Goal-Oriented Dialogue Runtimes
Independent Researcher(独立研究者)
提出目标导向对话运行时(GODR)设计模式,将目标、任务框架、生命周期状态等作为一等运行时对象,解决多目标中断对话中的连续性难题。
2026-06-24 cs.AI cs.CL cs.MA