ProbGuard: Proactive Runtime Monitoring for LLM Agent Safety via Probabilistic Prediction
ProbGuard:基于概率的运行时监控用于LLM代理安全
机构 * Singapore Management University(新加坡管理大学) ; Xi'an Jiaotong University(西安交通大学)
专题命中 规划决策 :agent(title,abstract);分类 cs.AI、cs.SE
AI总结 ProbGuard通过概率风险预测主动监控LLM代理安全,利用离散时间马尔可夫链建模行为动态,提前预警潜在危险,提升安全性和任务完成率。
Comments Accepted by the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE 2026)