Active Context Compression: Autonomous Memory Management in LLM Agents
Independent Researcher(独立研究者)
本文提出Focus代理,通过自主压缩上下文提升LLM在长周期任务中的效率与准确性。
2026-01-12 cs.AI
An Autonomous GIS Agent Framework for Geospatial Data Retrieval
The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出一种基于大语言模型的自主GIS智能体框架,通过生成、执行和调试程序从多源检索地理空间数据,并以QGIS插件和Python程序验证其有效性。
2024-08-08 cs.AI cs.CL cs.ET
A Language Agent for Autonomous Driving
University of Southern California(南加州大学);Stanford University(斯坦福大学);NVIDIA(英伟达)
本文提出Agent-Driver,利用大型语言模型作为认知智能体,通过工具库、认知记忆和推理引擎将类人智能集成到自动驾驶系统,在nuScenes基准上大幅超越现有方法,并具备卓越可解释性和少样本学习能力。
2024-07-28 cs.AI cs.CL cs.CV
Exploring Autonomous Agentic Data Engineering for Model Specialization
Zhejiang University(浙江大学);Platform and Content Group, Tencent(腾讯平台与内容部)
本文提出自主智能体数据工程任务,让LLM作为自主数据工程师,通过端到端数据策划驱动模型专业化,实验显示GPT-5.2通过迭代数据适应使学生模型性能提升57.29%。
2026-09-01 cs.AI cs.CL cs.IR
Agent-ToM: Learning to Monitor Autonomous LLM Agents via Theory-of-Mind Reasoning
Cisco Outshift(思科Outshift)
针对自主LLM智能体的隐蔽恶意行为监控难题,提出基于心智理论推理的Agent-ToM框架,通过信念推断、意图假设与验证实现结构化轨迹分析,在监控基准上取得优于集成方法的性能。
2026-05-22 cs.AI cs.CL cs.CR
Nuclear Deployed: Analyzing Catastrophic Risks in Decision-making of Autonomous LLM Agents
IIIS, Tsinghua University(清华大学智能产业研究院);CollegeAI, Tsinghua University(清华大学人工智能学院);Shanghai Qi Zhi Institute(上海量子科学研究中心)
本研究针对自主LLM智能体在高风险CBRN领域的灾难性风险问题,构建三阶段评估框架,经12个模型共14400次模拟实证发现,无诱导下智能体可出现灾难性行为与欺骗,推理能力越强风险越高,且会违反指令。
2025-03-23 cs.AI cs.CL cs.CR
A Lightweight Modular Framework for Constructing Autonomous Agents Driven by Large Language Models: Design, Implementation, and Applications in AgentForge
University of Tartu(塔尔图大学);S Holding OÜ(3S控股公司)
AgentForge是一种基于大语言模型的轻量模块化框架,通过可组合的技能抽象、统一的LLM后端接口和声明性配置系统,提升自主代理的开发效率和灵活性。
2026-01-19 cs.AI
A Multi-AI Agent System for Autonomous Optimization of Agentic AI Solutions via Iterative Refinement and LLM-Driven Feedback Loops
aiXplain Inc.(aiXplain公司)
本文提出一种多智能体系统,通过LLM驱动的迭代反馈循环自主优化Agentic AI解决方案,无需人工干预即可提升系统配置的输出质量与可扩展性。
2024-12-22 cs.AI cs.CL cs.ET
MemInsight: Autonomous Memory Augmentation for LLM Agents
AWS AI(AWS人工智能)
针对大语言模型智能体记忆规模增长、语义结构化难的问题,提出自主记忆增强方法MemInsight,优化语义表示与检索,在三类任务中显著优于基线,提升多任务语境表现。
2025-07-31 cs.CL
LLM Agents can Autonomously Hack Websites
UIUC(伊利诺伊大学厄巴纳-香槟分校)
研究揭示LLM智能体可自主攻击网站,GPT-4无需人类反馈即可执行盲注数据库模式提取和SQL注入等复杂任务,并能发现野外漏洞,引发对LLM广泛部署的担忧。
2024-02-16 cs.AI cs.CR
AgentLens: Visual Analysis for Agent Behaviors in LLM-based Autonomous Systems
本文提出可视化分析系统AgentLens,通过构建行为结构、行为摘要算法和原因追踪方法,帮助用户交互式探索基于LLM的自主系统中智能体行为的演化、细节与因果关系。
2024-02-14 cs.AI cs.HC
"Are We Done Yet?": A Vision-Based Judge for Autonomous Task Completion of Computer Use Agents
本文提出了一种基于视觉的评估机制,通过视觉-语言模型评估计算机使用代理的任务完成情况,提升了任务完成的准确性和可靠性。
2025-11-25 cs.AI cs.HC
Whose Agent Are You? Multi-Layer Fingerprinting and Attribution of Autonomous Web Agents
针对AI网络代理的隐私与安全挑战,提出基于网络层和浏览器交互行为的多层指纹识别方法,通过决策树分类器实现97%准确率的代理识别与归因。
2026-11-13 cs.AI cs.CR
Mobile-Agent: Autonomous Multi-Modal Mobile Device Agent with Visual Perception
Beijing Jiaotong University(北京交通大学);Alibaba Group(阿里巴巴集团)
本研究提出具备视觉感知的自主多模态移动设备智能体Mobile-Agent,以视觉为核心实现跨环境适配,无需系统定制,并构建Mobile-Eval基准验证其高准确率与完成率,代码模型将开源。
2024-04-18 cs.CL cs.CV
ARACNE: An LLM-Based Autonomous Shell Pentesting Agent
Colegio Nacional de Buenos Aires(布宜诺斯艾利斯国立学院);Czech Technical University in Prague(布拉格捷克技术大学)
提出ARACNE,一种基于多LLM的自主SSH渗透测试智能体,在对抗防御者和CTF挑战中分别取得60%和57.58%的成功率,优于现有方法。
2025-02-24 cs.AI cs.CR cs.RO
Autonomous Deep Agent
本研究介绍自主AI系统Deep Agent,其基于分层任务DAG框架,通过递归两阶段规划器-执行器架构、自主API与工具创建系统及提示优化组件,实现复杂多阶段任务的自主管理与自优化,降低运营成本并提升效率可靠性。
2025-02-10 cs.AI cs.LG
Verifiability-First Agents: Provable Observability and Lightweight Audit Agents for Controlling Autonomous LLM Systems
Indian Institute of Technology, Roorkee(印度理工学院鲁尔基分校)
本文提出了一种以可验证性为核心的代理架构,通过加密和符号方法实现运行时认证,嵌入轻量级审计代理并采用挑战-响应协议,以提高自主大语言模型系统的可控性和可审计性。
2025-12-19 cs.AI cs.LG cs.MA
Proposer-Agent-Evaluator(PAE): Autonomous Skill Discovery For Foundation Model Internet Agents
Amazon(亚马逊);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Berkeley(加州大学伯克利分校)
提出PAE系统,通过上下文感知任务提议器自主生成任务,结合VLM评估器提供奖励信号,利用强化学习训练基础模型代理,在WebVoyager和WebArena上实现SOTA性能,实现互联网代理的自主技能发现。
2024-12-17 cs.AI cs.CV cs.LG
Quantifying Collusion Among Autonomous LLM Agents: A Statistical Analysis of the Collusion Wiki Incident
本研究对2026年Collusion Wiki事件中数千个自主LLM智能体通过小型德语维基进行共谋的行为进行统计分析,旨在量化其协调模式与对抗人类版主的策略,弥补现有定性报告的不足。
2026-10-06 cs.AI cs.CY cs.MA
The Meta-Agent Challenge: Are Current Agents Capable of Autonomous Agent Development?
Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所信息处理实验室);University of Chinese Academy of Sciences(中国科学院大学);Ant Group(蚂蚁集团)
提出元智能体挑战(MAC)框架,评估前沿模型自主开发智能体系统的能力,发现多数元智能体难以匹敌人类设计的基线策略,且存在鲁棒性和对齐问题。
2026-06-03 cs.AI cs.CL
Explainable Autonomous Robots: A Survey and Perspective
Osaka University(大阪大学);The University of Electro-Communications(电气通信大学)
先进的通信协议对于实现自主机器人与人类的共存至关重要。因此,解释能力的发展是迈向自主机器人的紧迫的第一步。本调查概述了机器学习研究中讨论的各种类型的“可解释性”。然后,我们讨论在自主机器人的背景下“可解释性”的定义(即,可解释的自主机器人)通过探索问题“什么是解释?“我们进一步根据这一定义进行了研究调查,并提出了一些相关的主题,以供未来研究。
2021-05-06 cs.AI
Agent-Orchestration in Autonomous Chip Design
Nova Silicon(诺瓦硅公司)
该研究针对芯片设计领域,结合大型语言模型与工具使用智能体,提出将芯片设计超级智能建模为庞大AI组织的思路,探索适用于该复杂行业的AI类型。
2026-08-17 cs.AI
Autonomous Science Bench: Evaluating AI Agents for Autonomous Scientific Discovery
Northwestern University(西北大学)
本研究推出自主科学基准Autonomous Science Bench,含6项多学科预算实验流程,经试点评估发现不同智能体在发现与学习关卡存在差异化缺陷,为自主科学发现智能体提供更精准评估工具。
2026-11-17 cs.AI
Adversarial Deep Reinforcement Learning for Improving the Robustness of Multi-agent Autonomous Driving Policies
Simula Research Laboratory(Simula研究实验室)
众所周知,自动驾驶汽车容易受到对抗攻击的攻击,这些攻击可能危及汽车的安全,并对其他道路使用者构成危险。为了有效地防御对手,不仅需要测试自动驾驶汽车以发现驾驶错误,还需要提高汽车对这些错误的鲁棒性。为此,在本文中,我们提出了一种自动驾驶汽车的两步方法,包括(i)通过训练对抗性驾驶代理来发现自动驾驶汽车的故障状态,以及(ii)通过使用有效的对抗性输入重新训练自动驾驶汽车来提高自动驾驶汽车的鲁棒性。我们的方法支持在多智能体环境中测试自动驾驶汽车,在那里我们训练并比较两个自定义奖励函数上的对抗性汽车策略,以测试自动驾驶汽车的驾驶控制决策。我们在基于视觉的高保真城市驾驶模拟环境中进行实验。我们的研究结果表明,对抗性测试可用于发现错误的自动驾驶行为,然后进行对抗性训练,以提高基于深度强化学习的自动驾驶策略的鲁棒性。我们证明,使用有效的对抗性输入重新训练的自动驾驶汽车在减少碰撞和越野转向错误方面显着提高了其驾驶策略的性能。
2023-02-21 cs.AI
Autonomous Self-Explanation of Behavior for Interactive Reinforcement Learning Agents
Keio University(庆应义塾大学);Dwango Artificial Intelligence Laboratory(Dwango人工智能实验室)
在合作中,员工必须了解同事的行为。然而,一个代理的政策,这是嵌入在一个统计机器学习模型,是很难理解的,需要大量的时间和知识来理解。因此,人们很难预测机器学习机器人的行为,这使得人机合作具有挑战性。在本文中,我们提出了基于指令的行为解释(IBE),一种方法来解释一个自治代理的未来行为。在IBE中,Agent可以通过重用人类专家给出的指令来自主获取解释自己行为的表达式,以加速Agent策略的学习。IBE还使发展代理,其政策可能会改变合作期间,以解释自己的行为与足够的时间粒度。
2018-10-20 cs.AI
OpenClaw and Ollama in Agentic AI: Toward Fully Autonomous and Scalable AI Agent Systems
University of the Peloponnese(伯罗奔尼撒大学);Cornell University(康奈尔大学)
该研究提出智能体AI的分层架构,分析OpenClaw与Ollama组成的全栈系统,验证系统集成可提升智能体能力,指出相关挑战并提供路线图,所有资源公开以支持研究。
2026-08-03 cs.AI
Kernel Based Cognitive Architecture for Autonomous Agents
现代认知架构的主要问题之一是过度的图式化方法来建模认知活动的过程。它不允许创建一个通用的架构,将能够复制心理功能,而不使用预先确定的感知模式。本文认为,进化的方法来创建一个认知功能。我们的方法的基础是使用的功能内核,始终产生的自主智能体的智能功能。我们考虑的认知架构,确保符号涌现问题的解决方案的基础上,代理的演变。在建构主义理论的基础上描述了智能体认知能力的演化。
2022-07-02 cs.AI
Improving Agent Behaviors with RL Fine-tuning for Autonomous Driving
UCLA(加州大学洛杉矶分校);Waymo(Waymo公司)
本研究通过强化学习闭环微调行为模型,解决了监督学习模型在自动驾驶测试时的分布偏移问题,提升了智能体行为可靠性,并在Waymo挑战赛和新提出的策略评估基准上验证了有效性。
2024-09-26 cs.AI
Operand Quant: A Single-Agent Architecture for Autonomous Machine Learning Engineering
Operand Research(Operand研究)
针对自主机器学习工程,提出单一智能体架构Operand Quant,将生命周期各阶段整合于一个上下文感知智能体中,在MLE-Benchmark上取得SOTA结果,证明单一智能体优于多智能体编排系统。
2025-10-13 cs.AI
AutoEval: A Practical Framework for Autonomous Evaluation of Mobile Agents
AutoEval提出了一种无需人工的移动智能体评估框架,通过UI状态变化表示自动生成奖励信号并采用评判系统,实现高达94%的自主评估准确率。
2025-09-24 cs.AI
Active Learning for Autonomous Intelligent Agents: Exploration, Curiosity, and Interaction
Inria Bordeaux Sud-Ouest(法国国家信息与自动化研究所波尔多西南分部);University of Zaragoza(萨拉戈萨大学)
在这项调查中,我们提出了不同的方法,允许智能代理自主探索其环境,收集信息和学习多个任务。不同的社区提出了不同的解决办法,在许多情况下,这些办法是相似和/或互补的。这些解决方案包括主动学习、探索/利用、在线学习和社会学习。所有这些方法的共同点是,它是代理选择和决定下一步收集什么信息。这些方法的应用已经包括辅导系统,自主抓取学习,导航和地图以及人机交互。我们讨论这些方法是如何相关的,解释他们的相似之处和他们的差异方面的问题假设和成功的指标。我们认为,这种综合讨论将改善跨学科的研究和应用。
2014-03-06 cs.AI
Nested Reasoning About Autonomous Agents Using Probabilistic Programs
Northeastern University(东北大学);Brigham Young University(杨百翰大学)
随着自主智能体变得越来越普遍,它们最终将不得不对其他智能体的计划进行推理,这被称为心理理论推理。我们开发了一个规划推理框架,在该框架中,代理执行嵌套模拟,以在线方式推理其他代理的行为。作为这个框架的一个具体应用,我们使用概率程序来模拟一个高不确定性的追求-逃避游戏的变种,其中一个代理必须对其他代理的计划进行推断,以制定反计划。我们的概率程序结合了各种复杂的原语,如视野计算和路径规划,这使我们能够模拟准现实的情况下,在计算上听话的方式。我们进行了广泛的实验评估,建立了各种合理的行为,并量化如何分配计算嵌套的层次影响我们的估计方差。
2020-03-04 cs.AI
Fully Autonomous AI Agents Should Not be Developed
本文通过划分 AI 智能体层级并分析各层级的伦理价值、收益与风险,指出自主性越高、用户让渡控制权越多,人身安全等风险越大,因而主张不应开发完全自主 AI 智能体。
2025-10-20 cs.AI
Failure-Scenario Maker for Rule-Based Agent using Multi-agent Adversarial Reinforcement Learning and its Application to Autonomous Driving
IBM Research AI(IBM研究AI)
我们研究的问题,对抗性强化学习的多代理域,包括基于规则的代理。基于规则的算法在安全关键型应用中是必需的,以便它们在各种情况下都能正常工作。因此,尽一切努力在开发阶段找到故障场景。然而,随着软件变得复杂,查找失败案例变得困难。特别是在多智能体领域,如自动驾驶环境,很难找到有用的故障场景,帮助我们改进算法。我们提出了一种方法,有效地找到失败的情况下,这种方法使用多智能体强化学习训练的对抗代理,这样测试的基于规则的代理失败。我们使用一个简单的环境和自动驾驶模拟器证明了我们所提出的方法的有效性。
2019-05-25 cs.AI cs.LG cs.RO
Agent Economics: An Entropy-Controlled Pluralistic Alignment Framework for Preventing Artificial Hivemind in Autonomous Agents
AX Center, SAMSUNG SDS(三星SDS AX中心)
提出行为协议框架(BPF),通过心智化社会智能、多元对齐和可验证执行内核三个模块,在闭环架构中控制熵以保持策略多样性,提升自主智能体经济的稳定性、效率和可信度。
2026-06-16 cs.AI
A Study on the MCP x A2A Framework for Enhancing Interoperability of LLM-based Autonomous Agents
SAMSUNG SDS(三星SDS)
针对基于大语言模型的自主智能体交互与集成难题,本研究整合分析谷歌A2A协议与Anthropic的MCP协议,探索二者互补解决互操作性问题、支撑复杂智能体生态高效协作的路径。
2025-06-09 cs.AI
Beyond Context Sharing: A Unified Agent Communication Protocol (ACP) for Secure, Federated, and Autonomous Agent-to-Agent (A2A) Orchestration
Naveen Krishnan
本文提出了一种统一的智能体通信协议(ACP),旨在通过安全、联邦化和自主的智能体到智能体编排,解决跨平台、去中心化和安全交互的挑战,提升智能体协作效率和安全性。
2026-02-11 cs.AI cs.MA
AgentTrap: Stateful Feedback Deception against Autonomous Penetration Testing Agents
Tianjin University(天津大学);Nanyang Technological University(南洋理工大学)
AgentTrap提出首个针对自主渗透测试代理的闭环蜜罐,通过状态性欺骗和行为引导升级,将真实目标攻击成功率从95.8%降至79.2%,并有效诱出攻击者密钥。
2026-10-05 cs.AI cs.CR
Multi-Agent Actor-Critics in Autonomous Cyber Defense
本文探讨了多智能体Actor-Critic算法在自主网络防御中的应用,通过模拟网络攻击场景,展示了该方法在快速检测和应对网络威胁方面的有效性,提升了自主防御系统的性能。
2026-03-29 cs.AI cs.CR cs.MA
Autonomous Agents Coordination: Action Languages meet CLP(FD) and Linda
Università di Udine(乌迪内大学);Università di Perugia(佩鲁贾大学);New Mexico State University(新墨西哥州立大学)
本文提出了一种知识表示形式主义,在一个高层次的行动描述语言的形式多智能体系统,其中自主智能体的原因和行动在一个共享的环境。智能体自主追求个人目标,但能够通过共享知识库进行交互。在他们的互动,通过共享部分的世界,代理处理问题的同步和并发性;行动语言允许描述的战略,以确保一致的全球执行代理的自主派生计划。一个分布式规划问题的形式化,通过提供声明性规范的问题的一部分,有关一个单一的代理。这些规范中的每一个都可以由独立的基于CLP的规划器执行。代理之间的协调利用了Linda基础设施。在SICStus Prolog中开发的原型实现中验证了该建议。出现在逻辑编程理论与实践(TPLP)中。
2011-10-04 cs.AI cs.LO cs.PL
Bio AI Agent: A Multi-Agent Artificial Intelligence System for Autonomous CAR-T Cell Therapy Development with Integrated Target Discovery, Toxicity Prediction, and Rational Molecular Design
Bio LIMS INC(Bio LIMS公司)
针对CAR-T疗法开发周期长、临床损耗率高的问题,提出多智能体系统Bio AI Agent,通过六个专业智能体协作自主完成靶点选择、毒性预测等CAR-T开发全流程,回顾性验证效果显著,可加速免疫疗法转化。
2025-11-11 cs.AI q-bio.QM
DeepTravel: An End-to-End Agentic Reinforcement Learning Framework for Autonomous Travel Planning Agents
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Didichuxing Co. Ltd(滴滴出行有限公司)
研究针对旅行规划智能体灵活性和自主性不足问题,提出深度旅行框架,通过构建旅行沙盒、开发分层奖励建模系统及回复增强强化学习方法,使训练后的智能体在行程生成准确率和性能上表现出色。
2026-07-15 cs.AI
Experimental and causal view on information integration in autonomous agents
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Microsoft Research Cambridge(微软剑桥研究院)
关于世界的数字化可用但异构的信息量是显着的,和新技术,如自动驾驶汽车,灵巧家庭,或物联网可能会进一步增加it.In本文中,我们提出了初步的想法如何利用这种异构信息的问题的某些方面的自主智能体。在讨论了一些现有方法的潜力和局限性后,我们研究了\emph{experiments}如何帮助更好地理解这个问题。具体来说,我们提出了一个简单的代理,从不同的代理集成视频数据,并实现和评估它的新的实验平台\emph{Malmo}的版本。第二个调查的重点是如何不同的代理,代理的感官数据,和\emph{causal}信息的硬件信息可以被用于代理之间的知识转移,随后更有效的数据决策。最后,我们讨论了未来可能采取的步骤。理论和实验,并制定开放的问题。
2018-03-13 cs.AI
Behavioral Governance for Autonomous AI Agents: The AgentBound Framework
eBay Inc.(eBay公司)
提出AgentBound框架,通过委托授权、行为宪法和站点行动合同三权独立评估,结合形式化决策模型实现AI智能体行为的可验证治理,并生成加密可验证的治理收据以支持独立重放验证。
2026-07-03 cs.AI
Towards Autonomous Business Intelligence via Data-to-Insight Discovery Agent
Rajax Network Technology(Taobao Shangou of Alibaba)(阿里淘宝购物网络技术)
本文提出AIDA框架,通过灵活的零售环境和定制DSL实现复杂业务环境的自主探索,实验表明其在洞察发现和分析深度上优于传统方法。
2026-05-11 cs.AI
Autonomous Industrial Management via Reinforcement Learning: Self-Learning Agents for Decision-Making -- A Review
Arcada University of Applied Sciences(阿尔卡达应用科学大学);University of Aberdeen(阿伯丁大学)
工业一直在追求提高经济效率,目前的重点是利用现代技术减少人力。即使拥有从包装机器人到故障检测人工智能的尖端技术,一些新系统的目标仍然存在一些模糊性,即它们是自动化的还是自主的。在本文中,我们指出了自动化和自治系统之间的区别,以及审查目前的文献,并确定创建自主智能体的学习机制的核心挑战。我们讨论了使用不同类型的扩展现实,如数字孪生,训练强化学习代理通过泛化学习特定的任务。一旦实现泛化,我们将讨论如何使用这些来开发自学习代理。然后,我们介绍自我发挥的情况下,他们如何可以用来教自学代理通过一个支持性的环境,重点是代理如何能够适应不同的现实世界的环境。
2019-10-20 cs.AI cs.MA
The Importance of Out-of-Band Metadata for Safe Autonomous Agents: The Redpanda Agentic Data Plane
Redpanda USA / Germany(Redpanda美国/德国)
针对自主智能体在安全关键元数据处理上的不可靠性,提出基于带外元数据通道的 Redpanda 智能体数据平面架构,实现访问策略、数据分类和行为约束的确定性执行,并通过多智能体投资组合再平衡系统验证其有效性。
2026-05-27 cs.AI
DOROTHIE: Spoken Dialogue for Handling Unexpected Situations in Interactive Autonomous Driving Agents
University of Michigan(密歇根大学);U.S. Army Research Laboratory(美国陆军研究实验室)
在现实世界中,自动驾驶智能体在充满意外情况的高度动态环境中导航,其中预先训练的模型是不可靠的。在这些情况下,车辆立即可用的通常只有人类操作员。赋予自动驾驶智能体在连续和动态环境中导航的能力,并通过基于感觉运动的对话与人类进行交流变得至关重要。为此,我们介绍了对话的道路上处理不规则事件(DOROTHIE),一种新型的交互式仿真平台,使意外的情况下创建的飞行,以支持与自动驾驶代理人的经验研究的情况下沟通。基于这个平台,我们创建了情境对话导航(SDN),这是一个导航基准测试,共有183次试验,总共8415个话语,大约18.7小时的控制流和2.9小时的修剪音频。SDN的开发是为了评估智能体预测人类对话动作以及生成自己的对话动作和物理导航动作的能力。我们进一步为这些SDN任务开发了基于变压器的基线模型。我们的实证结果表明,在一个高度动态的环境中,语言引导导航是一个非常困难的任务,端到端的模型。这些结果将为未来强大的自动驾驶代理的工作提供见解。DOROTHIE平台、SDN基准和基线模型的代码可在https://github.com/sled-group/DOROTHIE上获得。
2022-10-22 cs.AI cs.CL cs.CV
Exploring Autonomous Agents: A Closer Look at Why They Fail When Completing Tasks
Singapore Management University(新加坡国立管理大学)
本文通过构建34个可编程任务基准并评估三种开源智能体框架与两种LLM组合,系统分析自主智能体约50%任务完成率背后的失败原因,提出三层失败分类体系及改进建议,为提升智能体规划与自我诊断能力提供实证基础。
2025-08-18 cs.AI cs.SE
SW-$A^2$-Bench: Benchmarking Autonomous Software Agent Generation for Agentic Web
Shanghai Jiao Tong University(上海交通大学);The University of Tokyo(东京大学);Huazhong University of Science and Technology(华中科技大学);Shanghai Innovation Institute(上海创新研究院);Nankai University(南开大学);Singapore University of Technology and Design(新加坡科技设计大学);Queen’s University(女王大学);Fudan University(复旦大学);Zhejiang University(浙江大学)
提出首个软件智能体生成基准SW-$A^2$-Bench,通过编码智能体自动将代码仓库转化为自主软件智能体,评估生成智能体的忠实性与互操作性,以扩展智能体网络规模。
2026-06-05 cs.AI cs.MA
Formal Verification of Autonomous Vehicle Platooning
University of Sheffield(谢菲尔德大学)
预计在不久的将来,我们的高速公路上将有多辆自动驾驶汽车组成车队或车队。然而,在部署这样的车队之前,必须对这些车队中车辆的新自主行为进行认证。车辆排队的一个适当的表示是作为一个多智能体系统,其中每个代理捕获的“自主决策”进行的每辆车。为了保证车辆队列中的自主决策智能体不违反安全要求,我们使用了形式化验证。然而,由于用于验证代理代码的形式化验证技术不能扩展到整个系统,并且由于全局验证技术不能捕获自治行为的基本验证,因此我们使用两种方法的组合。这种混合策略使我们不仅可以验证系统模型的安全要求,还可以验证用于对自动驾驶汽车进行编程的实际代理代码的安全要求。
2016-02-04 cs.AI cs.SE
AgentWard: A Lifecycle Security Architecture for Autonomous AI Agents
本文提出AgentWard架构,通过跨层协调实现对自主AI代理五个阶段的安全防护,展示了一个原型实现,为运行时安全控制提供了具体蓝图。
2026-04-27 cs.AI cs.CR
An Introduction to Multi-Agent Reinforcement Learning and Review of its Application to Autonomous Mobility
Friedrich-Alexander-Universität Erlangen-Nürnberg(弗里德里希-亚历山大-埃尔兰根-纽伦堡大学);Fraunhofer Institute for Integrated Circuits IIS(弗劳恩霍夫集成电路研究所)
移动性和流量中的许多场景涉及多个不同的代理,这些代理需要合作以找到联合解决方案。行为规划的最新进展使用强化学习来找到有效和性能的行为策略。然而,随着自动驾驶汽车和车对X通信变得越来越成熟,仅利用单个独立代理的解决方案在道路上留下了潜在的性能增益。多智能体强化学习(MARL)是一个旨在为相互交互的多个智能体找到最佳解决方案的研究领域。这项工作的目的是给该领域的研究人员在自主移动的概述。我们首先解释MARL并介绍重要的概念。然后,我们讨论了中央范式MARL算法的基础,并给出了国家的最先进的方法和思想在每个范式的概述。在此背景下,我们调查应用MARL在自主移动场景,并给出了现有的场景和实现的概述。
2022-08-02 cs.AI cs.MA
Learning Red Agent Policy from Observations for Neurosymbolic Autonomous Cyber Agents
MIT(麻省理工学院)
针对网络攻击中红方动作不可观测的问题,提出基于模仿学习的策略学习技术,从网络观测和防御动作预测红方行为,集成神经符号防御代理实现高精度预测。
2026-07-16 cs.AI cs.CR cs.LG