AEC-Bench: A Multimodal Benchmark for Agentic Systems in Architecture, Engineering, and Construction
AEC-Bench旨在评估建筑、工程和施工领域代理系统在真实任务中的表现,涵盖图纸理解、跨表单推理和项目级协调任务,通过多模型基准测试提升基础模型性能。
2026-03-31 cs.AI
Human-Guided Agentic AI for Multimodal Clinical Prediction: Lessons from the AgentDS Healthcare Benchmark
University of California, Berkeley(加州大学伯克利分校);University of Washington(华盛顿大学);Stanford University(斯坦福大学)
通过人类引导智能体AI在多模态临床预测任务中取得领先性能,提炼出领域知识引导特征工程、任务特定多模态融合和临床动机模型集成三大通用经验。
2026-06-11 cs.AI cs.LG
FORCE-Bench: A Benchmark, Dataset, and Evaluation Harness for Agentic AI in Enterprise Finance
Microsoft Corporation(微软公司)
研究针对智能代理在企业金融领域应用,提出FORCE-Bench基准测试,含251个专家注释查询,从八个维度评估三种任务类型,在特定设置下评估通用和专用代理,结果显示专用代理更可靠,相关资源开源助力企业金融环境应用。
2026-07-23 cs.AI
AMIGO: Agentic Multi-Image Grounding Oracle Benchmark
Target Corporation(塔吉特公司)
AMIGO 评估基准通过长周期交互检测隐藏目标,要求模型在严格协议下通过属性问题逐步识别目标,强调不确定性下的问题选择、约束跟踪和细粒度区分能力。
2026-09-17 cs.AI cs.LG
A Closer Look at Agentic BBO: Benchmarking LLM Agents for Black-Box Optimization
State Key Laboratory of Novel Software Technology, Nanjing University(南京大学现代软件工程国家重点实验室);School of Artificial Intelligence, Nanjing University(南京大学人工智能学院)
该研究推出跨领域智能体BBO基准AgenticBBO-Bench,实验显示智能体BBO性能优于直接LLM方法及多数数值优化器,还分析了影响性能的因素并评估了多款LLM在前沿挑战中的表现。
2026-10-09 cs.AI cs.LG cs.NE
From paper to benchmark: agentic, framework-based reproduction of under-specified methods in machine health intelligence
EPFL(苏黎世联邦理工学院)
提出一种基于智能体和共享框架的方法,通过槽绑定接口将论文转化为可执行、可比较的基准测试实现,解决工业预测与健康管理中方法复现的困难。
2026-05-27 cs.AI cs.LG cs.SE
AgenticShop: Benchmarking Agentic Product Curation for Personalized Web Shopping
Department of Artificial Intelligence Yonsei University Seoul Republic of Korea(人工智能系 首尔国立庆尚大学 首尔 大韩民国);ParamitaAI Seoul Republic of Korea(ParamitaAI 首尔 大韩民国);Yonsei University(首尔国立庆尚大学);ParamitaAI
AgenticShop是首个评估智能代理系统在开放网络环境中进行个性化产品整理的基准测试,通过真实购物场景和多样用户资料,验证代理系统在复杂购物情境中的适应能力。
2026-02-12 cs.AI cs.IR
Towards Faithful Agentic XAI: A Verification Method and an Open-World Benchmark for Better Model Faithfulness
Graduate School of AI, POSTECH(POSTECH人工智能研究生院);Department of Computer Science and Engineering, POSTECH(POSTECH计算机科学与工程系);Krafton
提出FAX框架,通过显式验证分解解释声明并交叉检查忠实工具,以及CRAFTER-XAI-Bench开放世界基准,在强化学习环境中将模拟忠实度从0.20提升至0.46。
2026-05-27 cs.AI
SW-$A^2$-Bench: Benchmarking Autonomous Software Agent Generation for Agentic Web
Shanghai Jiao Tong University(上海交通大学);The University of Tokyo(东京大学);Huazhong University of Science and Technology(华中科技大学);Shanghai Innovation Institute(上海创新研究院);Nankai University(南开大学);Singapore University of Technology and Design(新加坡科技设计大学);Queen’s University(女王大学);Fudan University(复旦大学);Zhejiang University(浙江大学)
提出首个软件智能体生成基准SW-$A^2$-Bench,通过编码智能体自动将代码仓库转化为自主软件智能体,评估生成智能体的忠实性与互操作性,以扩展智能体网络规模。
2026-06-05 cs.AI cs.MA
Agent psychometrics: Task-level performance prediction in agentic coding benchmarks
Massachusetts Institute of Technology(麻省理工学院);Fulcrum;Carnegie Mellon University(卡内基梅隆大学)
本文提出了一种基于任务级性能预测的代理编码基准评估框架,结合IRT理论与任务特征,区分LLM和支架能力,以更准确预测未见基准和组合的性能。
2026-07-21 cs.AI
PolitNuggets: Benchmarking Agentic Discovery of Long-Tail Political Facts
The University of Hong Kong(香港大学)
PolitNuggets通过构建400位全球精英的政治传记,涵盖10000多个政治事实,评估代理信息合成能力,发现当前系统在细节处理和效率上存在显著差异。
2026-05-13 cs.AI
AgenticASR: Refining Speech Recognition in Real-World Scenarios via an Agentic Approach
该研究提出AgenticASR智能体语音识别框架,通过ASR-Refiner架构实现语音流的持续输出与修正,推出AASR-Bench双语基准,在多ASR前端上取得最优性能,可用于保留意图的实时干净转录。
2026-07-31 cs.AI
Embodied-BenchForge: A Closed-Loop Agentic Workflow for Embodied Benchmark Construction
QiYuan Lab(启元实验室);University of Electronic Science and Technology of China(电子科技大学);Beijing University of Posts and Telecommunications(北京邮电大学);Northeastern University(东北大学);Beihang University(北京航空航天大学);Tsinghua University(清华大学)
Embodied-BenchForge提出闭环智能体工作流,通过前向合成与后向验证修复构建具身基准,生成六个离线及一个含220任务的交互式基准,有效区分模型能力。
2026-09-14 cs.AI
APTBench: Benchmarking Agentic Potential of Base LLMs During Pre-Training
Tencent Youtu Lab(腾讯优图实验室);Shanghai Jiao Tong University(上海交通大学)
针对现有预训练基准无法评估基础LLM智能体潜力、智能体基准不适配基础模型的问题,提出APTBench框架,将真实智能体任务转为适配基础模型的题目,可高效预测模型下游智能体性能,指导预训练。
2025-10-28 cs.AI
MAVEN: Improving Generalization in Agentic Tool Calling
CoreThink AI, USA(CoreThink AI, 美国);Stanford University, Stanford, CA, USA(斯坦福大学, 加州斯坦福, 美国)
提出MAVEN框架,通过轻量级符号推理脚手架实现结构化分解、自适应工具编排和中间验证,在多个基准测试中显著提升模型性能,且成本仅为前沿专有模型的约1/10。
2026-05-29 cs.AI
Does AI Understand Imaging? A Systematic Benchmark of Agentic AI for Computational Imaging Tasks
University of Hawaii at Manoa(夏威夷大学马诺阿分校);Glass Imaging(玻璃成像公司)
研究人工智能在计算成像任务中的表现,提出ImagingBench基准测试,涵盖五类20个任务及三种评估设置,对多模态系统测试发现智能体模型比专门方法弱,该基准可测差距与跟踪进展。
2026-07-09 cs.AI
MCPVerse: An Expansive, Real-World Benchmark for Agentic Tool Use
SenseTime Research(商汤科技研究院)
针对现有基准依赖合成工具且动作空间受限的问题,提出真实世界基准MCPVerse,集成超550个工具和超14万token动作空间,评测发现智能体模型能利用扩展空间提升准确率。
2025-10-11 cs.AI cs.CL
Agentic self-driving microscopy benchmarks support qualification but do not necessarily generalize to unseen tasks
Carl Zeiss Research Microscopy Solutions(卡尔蔡司研究显微镜解决方案)
本研究开发基准框架评估显微镜智能体架构等因素的性能,发现其虽可用于验证比较,但现有基准无法预测智能体在未见显微镜任务上的表现。
2026-08-07 cond-mat.mtrl-sci cs.AI cs.LG
Detecting Silent Failures in Multi-Agentic AI Trajectories
IBM Research(IBM研究院);IIIT Bangalore(班加罗尔IIIT)
本文首次系统研究多智能体AI轨迹中的静默故障检测,提出数据集构建流程并构建两个基准数据集,实验表明XGBoost和SVDD分别达到98%和96%的准确率。
2025-11-06 cs.AI
Aggregation Queries over Unstructured Text: Benchmark and Agentic Method
Southeast University(东南大学);Imperial College London(伦敦帝国学院);The University of Manchester(曼彻斯特大学)
本文提出DFA方法,用于在无结构文本上进行完整性导向的聚合查询,通过模块化设计提升证据覆盖能力。
2026-02-03 cs.AI
A Cost-Aware Agentic Architecture for NL-to-SQL over Nested Enterprise Schemas, with a New Benchmark
University of Texas at Austin(德克萨斯大学奥斯汀分校);DevRev
本文针对现有NL-to-SQL基准未覆盖的企业模式嵌套结构问题,构建新基准并提出成本感知智能体架构,在新基准上正确率大幅领先,在公开数据集上性能与领先系统相当。
2026-09-07 cs.AI
BC-Bench: Evaluating Agentic Engineering in a Domain-Specific Language for ERP
Microsoft(微软公司)
该研究推出BC-Bench基准,评估智能体工程在ERP领域DSL(AL)上的表现,发现通用基准的改进未一致迁移到AL,凸显领域特定评估的必要性。
2026-08-24 cs.AI cs.SE
Do We Still Need GraphRAG? Benchmarking RAG and GraphRAG for Agentic Search Systems
New York University Shanghai(上海纽约大学)
本文通过RAGSearch基准测试,评估了代理搜索系统对密集RAG和代表性的GraphRAG方法的影响,发现代理搜索显著提升了密集RAG性能,但在复杂多跳推理中GraphRAG仍具优势。
2026-04-01 cs.AI cs.IR
DeepPlanning: Benchmarking Long-Horizon Agentic Planning with Verifiable Constraints
Alibaba Group(阿里巴巴集团)
DeepPlanning是一个针对长周期代理规划的基准测试,通过多日旅行和多产品购物任务,评估代理在全局约束优化和局部约束推理中的能力。
2026-01-26 cs.AI cs.CL
Evaluating Agentic AI in the Wild: Failure Modes, Drift Patterns, and a Production Evaluation Framework
Independent Researcher(独立研究者)
本文针对代理AI在生产环境中持续运行时的评估挑战,提出七种故障模式分类及PAEF框架,揭示传统指标在检测故障模式上的不足。
2026-05-02 cs.AI
Agentick: A Unified Benchmark for General Sequential Decision-Making Agents
Mila Quebec AI Institute(魁北克AI研究所);Université de Montréal(蒙特利尔大学);Google DeepMind(谷歌DeepMind)
Agentick是一个统一的连续决策制定代理基准测试,评估RL、LLM、VLM等代理在共同基础上的表现,揭示各方法的不足,为通用自主代理研究提供实验基础。
2026-09-28 cs.AI
On Generalization in Agentic Tool Calling: CoreThink Agentic Reasoner and MAVEN Dataset
CoreThink AI;University of California, San Diego(加州大学圣地亚哥分校)
针对智能体工具调用泛化难题,本文提出 CoreThink 推理器,以轻量符号推理层实现结构化分解与工具编排,无需训练即在多基准上以十分之一成本取得530%提升,并引入 MAVEN 基准揭示泛化差距。
2025-10-27 cs.AI cs.SE
AgenticCache: Cache-Driven Asynchronous Planning for Embodied AI Agents
Anonymous Institution, Anonymous City, Anonymous Region, Anonymous Country(匿名机构、匿名城市、匿名地区、匿名国家)
本文提出AgenticCache框架,利用缓存重用计划以减少LLM调用,提升任务成功率22%并降低延迟与成本。
2026-04-27 cs.AI cs.CL cs.LG
Beyond Black-Box Benchmarking: Observability, Analytics, and Optimization of Agentic Systems
IBM Research - Israel(IBM以色列研究院)
本文针对智能体AI系统非确定性和动态性带来的评估难题,提出基于运行时日志的可观测性分析与基准测试新方法,以超越传统黑盒评估,推动自适应、可解释且稳健的智能体系统发展。
2025-03-09 cs.AI cs.MA
Agentic SPARQL: Evaluating SPARQL-MCP-powered Intelligent Agents on the Federated KGQA Benchmark
WU Vienna(维也纳经济大学);Leuphana Universität Lüneburg(吕讷堡大学);Complexity Science Hub Vienna(维也纳复杂性科学中心)
本文探讨了基于SPARQL-MCP的智能代理在联邦SPARQL查询中的潜力,扩展了知识图谱问答基准,并评估了通过MCP集成SPARQL联邦与LLM代理的能力。
2026-04-09 cs.AI cs.IR cs.MA
Automated Transcript Analysis for Detecting Flaws in Agentic Benchmarks
UK AI Security Institute(英国人工智能安全研究所);Poznan University of Technology(波兹南理工大学);Generality Labs(Generality实验室)
本研究开发AI扫描器检测智能体基准中四类有效性问题,在Inspect Evals基准测试中识别出五个常用基准的多项质量问题,为自动审计基准质量提供了概念验证。
2026-07-31 cs.AI
ABC-Bench: An Agentic Bio-Capabilities Benchmark for Biosecurity
Andrew Bo Liu(安德鲁·刘);Samira Nedungadi(萨米拉·纳杜加迪);Bryce Cai(布莱斯·凯);Alex Kleinman(亚历克斯·克莱因曼);Harmon Bhasin(哈蒙·巴辛);Seth Donoughe(塞斯·多诺赫)
提出ABC-Bench基准,评估LLM主体在生物安全相关任务上的能力,包括液体处理机器人编程、DNA片段设计和合成筛选规避,所有测试主体均优于人类专家基线。
2026-06-09 cs.AI cs.CY
FieldWorkArena: Agentic AI Benchmark for Real Field Work Tasks
Fujitsu Limited(富士通株式会社);Fujitsu Research of America(富士通美国研究部);Carnegie Mellon University(卡内基梅隆大学);Master’s Student, The University of Tokyo(东京大学硕士研究生);Agent Research Collective(代理研究集体)
本文提出FieldWorkArena,用于评估代理AI在真实制造业和零售环境中的性能,通过现场采集的数据和实地访谈设计任务,验证多模态大语言模型的评估可行性。
2026-06-07 cs.AI cs.CV
RuleTrek: Benchmarking Agentic Rule Reasoning in Complex Scenarios
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
本文提出RuleTrek基准,针对复杂场景下智能体规则推理,评估LLM的规则识别、推演及端到端推理能力,实验显示前沿LLM在该任务上表现不佳,相关代码与数据集已公开。
2026-10-14 cs.AI
NetAgentBench: A State-Centric Benchmark for Evaluating Agentic Network Configuration
Hiroshima University(广岛大学)
NetAgentBench通过有限状态机形式化方法评估代理交互,揭示了当前LLM代理在复杂多轮网络配置任务中的缺陷,强调了系统性评估多轮行为稳定性的必要性。
2026-04-03 cs.AI cs.FL cs.NI
LiveAgentBench: Comprehensive Benchmarking of Agentic Systems Across 104 Real-World Challenges
Ant Group(蚂蚁集团)
LiveAgentBench通过104个现实挑战全面评估代理系统,采用社会感知驱动的数据生成方法,提供374个任务用于验证和测试,揭示模型实际性能并识别改进方向。
2026-03-03 cs.AI
Beyond single-channel agentic benchmarking
Florida State University(佛罗里达州立大学)
本文提出通过人类-人工智能双元组的可靠性评估代理安全性,强调不相关错误模式对风险降低的重要性,以改进AI安全性评估方法。
2026-02-05 cs.AI cs.CY cs.HC
ToolMisuseBench: An Offline Deterministic Benchmark for Tool Misuse and Recovery in Agentic Systems
Independent Researcher(独立研究员)
本文提出ToolMisuseBench,用于评估代理系统中工具误用和恢复的性能,包含6800个任务和可复现的评估流程,展示了基于模式意识方法的故障恢复优势。
2026-04-02 cs.AI cs.SE
Mine Odyssey: Benchmarking Spatial Agentic Intelligence in the Wild
The Hong Kong University of Science and Technology(香港科技大学)
该研究推出基于Minecraft真实地点重建的智能体空间智能基准Mine Odyssey,含180个任务,评估显示GPT-6 Astra成功率85.6%,开源模型DeepSeek-V4.1-Flash仅23.9%,为该领域发展提供了研究基础。
2026-10-09 cs.AI
Sola-Visibility-ISPM: Benchmarking Agentic AI for Identity Security Posture Management Visibility
Sola Security(Sola安全)
Sola-Visibility-ISPM基准测试通过代理AI系统评估身份安全态势管理的可见性任务,展示了其在AWS、Okta和Google Workspace等环境中的高准确率和实用性。
2026-01-11 cs.AI cs.CR
Agentic-SQL Revisited: Autonomy-Based Taxonomy and Empirical Benchmark Analysis for LLM Text-to-SQL
本研究针对LLM文本转SQL领域,构建基于自主性的分类框架,通过Spider案例研究分析8B开源模型与DeepSeek-V3等基线的表现,发布工具链用于构建可追溯的基准排行榜。
2026-08-25 cs.AI
OctoBench: Benchmarking Scaffold-Aware Instruction Following in Repository-Grounded Agentic Coding
Fudan University(复旦大学);MiniMax;Peking University(北京大学)
OctoBench通过评估仓库基础代理编程中的支架意识指令遵循能力,揭示了任务解决与合规性之间的差距,推动更高效的编码代理发展。
2026-01-16 cs.AI cs.CL
Act As a Real Researcher: A Suite of Benchmarks Evaluating Frontier LLMs and Agentic Harnesses in Research Lifecycle
Xi’an Jiaotong University(西安交通大学);Xidian University(西安电子科技大学)
提出AARR基准系列,通过AARRI-Bench评估智能体在细粒度研究场景中模拟人类研究者的专业性、全面性和细微推理能力,发现最佳配置成功率仅68.3%。
2026-06-05 cs.AI
PhysAI-Bench: A Benchmark for LLM-Based Agentic Decision-Making in Autonomous UAV-Centric Physical AI
United Arab Emirates University(阿联酋大学);Khalifa University(哈利法大学);Interuniversity Microelectronics Centre (IMEC)(校际微电子中心);Technology Innovation Institute(技术创新研究所)
提出PhysAI-Bench基准,含10,178个无人机任务决策实例,评估29个基础模型,GPT-5.3准确率最高52%,揭示物理AI智能体决策仍是开放挑战。
2026-09-22 cs.AI
StableEval Arena: A Cost-Aware Agentic Benchmark for Stablecoin Price Stability Prediction
Duke Kunshan University(昆山杜克大学);Tenorshare(天锐时空)
StableEval Arena是一个成本感知基准,用于评估LLM智能体在稳定币挂钩风险预测中的表现,揭示协议遵循与金融风险可靠性之间的差距,并发布数据集与代码。
2026-09-18 cs.AI cs.CE cs.LG
K-Bench: A Benchmark for LLM Unlearning in Agentic Deployments
University of Technology Sydney(悉尼科技大学);CSIRO(澳大利亚联邦科学与工业研究组织)
K-Bench提出在智能体部署下评估LLM遗忘的新基准,检查ReAct智能体的六个通道,发现现有基准低估泄露,且权重中的秘密难以移除。
2026-09-15 cs.AI
Position: Coding Benchmarks Are Misaligned with Agentic Software Engineering
Tessl
本文指出当前编程基准在智能体时代存在三大问题:混淆模型与系统框架、单一参考答案惩罚有效替代方案、缺乏组件级信号导致迭代困难,并提出应重新设计基准以对齐智能体软件工程。
2026-07-21 cs.AI cs.CL cs.SE
TRAJECT-Bench:A Trajectory-Aware Benchmark for Evaluating Agentic Tool Use
Michigan State University(密歇根州立大学);Amazon Inc.(亚马逊公司);Hippocratic AI;Penn State University(宾夕法尼亚州立大学)
本文提出TRAJECT-Bench,一个轨迹感知基准,通过细粒度指标全面评估LLM智能体的工具使用能力,揭示工具选择、参数化及顺序等失败模式与缩放行为,为改进提供指导。
2025-10-11 cs.AI
From Anomalies to Failures: Constructing Causal Error Graphs for Agentic Trace Diagnosis
针对智能体轨迹诊断中异常、错误与失败混淆及因果建模缺失的问题,提出CEG-Agent框架,通过构建因果错误图并配套CEG-Bench基准,实现高精度因果故障归因,达到最先进性能。
2026-09-29 cs.AI
POLARIS: Typed Planning and Governed Execution for Agentic AI in Back-Office Automation
University of California, Irvine(加州大学尔湾分校);Center for Advanced AI, Accenture(Accenture高级人工智能中心);University of California, San Diego(加州大学圣地亚哥分校)
POLARIS通过类型化规划和受控执行框架,提升后台自动化中代理AI的政策一致性与可预测性,实现高精度任务处理与审计追踪。
2026-01-16 cs.AI
Notation Matters: A Benchmark Study of Token-Optimized Formats in Agentic AI Systems
Know Center Research GmbH(知中心研究有限公司);Graz University of Technology(格拉茨技术大学);Graz Center for Machine Learning(格拉茨机器学习中心)
本研究在四个智能体基准上评估了两种令牌优化格式TOON和TRON,发现TRON在保持准确率的同时最多减少27%的令牌,而TOON虽减少18%但存在多轮解析失败和并行工具调用输出崩溃的问题。
2026-06-18 cs.AI cs.CL
Agentic Active Omni-Modal Perception for Multi-Hop Audio-Visual Reasoning
Shanghai Jiao Tong University(上海交通大学)
针对多跳音视频推理中证据稀疏且跨模态分布的问题,提出MOV-Bench基准和AOP-Agent代理框架,通过分层全模态记忆与观察-反思-重规划循环实现主动感知,显著提升开源全模态大模型在长视频和推理密集型问题上的性能。
2026-05-27 cs.AI
SastBench: A Benchmark for Testing Agentic SAST Triage
Rival Labs(Rival实验室)
SastBench是一个用于评估SAST分拣代理性能的基准,结合真实CVE和过滤后的SAST发现,提供性能比较和未来发展的讨论。
2026-01-06 cs.AI cs.CL cs.CR
Agentic Cognitive Depth: Operational Criteria for Evaluating LLM Agents
The University of Edinburgh(爱丁堡大学)
本文提出智能体认知深度概念,通过五个操作标准评估LLM智能体轨迹级性能,并提供扰动程序与基准扩展方案。
2026-10-06 cs.AI