Agent Probing Interaction Policies
Carnegie Mellon University（卡内基梅隆大学）
多智能体系统中的强化学习是困难的，因为这些系统本质上是非平稳的。在这种情况下，识别对方的类型是至关重要的，可以帮助我们解决这个非静止的环境。我们已经研究了我们是否可以采用一些探测政策，帮助我们更好地识别环境中的其他代理的类型。我们做了一个简化的假设，即另一个智能体有一个固定的策略，我们的探测策略试图近似。我们的工作扩展了环境探测互动政策框架，以处理多代理环境。
2019-12-13 cs.AI cs.LG cs.MA
Tell Me Something That Will Help Me Trust You: A Survey of Trust Calibration in Human-Agent Interaction
University of Maryland, Baltimore County（马里兰大学巴尔的摩郡分校）；Johns Hopkins University Applied Physics Laboratory（约翰斯·霍普金斯大学应用物理实验室）
当一个人从智能代理接收到预测或建议的行动过程时，除了预测或建议本身之外，人类还需要从代理那里获得什么额外的信息来决定是信任还是拒绝预测或建议？在本文中，我们调查文献在一个单一的人类主管和一个单一的代理下属之间的信任，以确定这种额外的信息的性质和程度，并将其特征化为一个分类，可以利用未来的研究人员和智能代理从业者。通过从以人为本、以信息为中心的角度来审视这个问题，我们可以开始比较和对比不同的实现，并为未来的工作提供见解和方向。
2022-05-06 cs.AI cs.CY cs.HC
Helpful Agent Meets Deceptive Judge: Understanding Vulnerabilities in Agentic Workflows
Salesforce AI Research（Salesforce人工智能研究）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文通过引入二维评判者行为框架和基于网络证据的WAFER-QA基准，系统揭示了智能体工作流在欺骗性反馈下的脆弱性，发现最强模型也会因一轮误导性批评而改错答案，并为构建更鲁棒的反馈驱动系统提供了指导。
2025-06-03 cs.AI
Interestingness Elements for Explainable Reinforcement Learning: Understanding Agents' Capabilities and Limitations
SRI International（斯坦福国际研究院）
我们提出了一个可解释的强化学习（XRL）框架，该框架分析代理与环境交互的历史，以提取有助于解释其行为的兴趣元素。该框架依赖于从标准RL算法中容易获得的数据，这些数据可以很容易地由代理在学习时收集。我们描述了如何创建一个代理的行为在短视频剪辑的形式突出关键的互动时刻，建议的元素的基础上的视觉摘要。我们还报告了一项用户研究，在该研究中，我们评估了人类正确感知具有不同特征的代理人的能力，包括他们的能力和局限性，并给出了我们的框架自动生成的视觉摘要。结果表明，不同兴趣度元素所捕获的方面的多样性对于帮助人类正确理解智能体在执行任务时的优势和局限性至关重要，并确定何时可能需要调整以提高其性能。
2020-08-19 cs.AI cs.HC cs.LG
Thompson Sampling with Virtual Helping Agents
Purdue University（普渡大学）；IIT (BHU)（印度理工学院（瓦拉纳西））；Stanford University（斯坦福大学）；Motorola Mobility（摩托罗拉移动）
我们解决了在线顺序决策的问题，即，平衡利用当前知识以最大化即时性能与探索新信息以使用多臂强盗框架获得长期利益之间的权衡。汤普森抽样是解决这种探索-开发困境的选择行动的方法之一。我们首先提出了一个通用的框架，有助于探索性地调整探索与开发权衡汤普森采样使用多个样本的后验分布。利用这个框架，我们提出了两个算法的多臂强盗问题，并提供理论界的累积遗憾。接下来，我们证明了经验改进的累积后悔性能的算法超过汤普森采样。我们还展示了该算法在真实世界数据集上的有效性。与现有的方法相反，我们的框架提供了一种机制，根据手头的任务来改变探索/开发的量。为此，我们将我们的框架扩展到两个额外的问题，即，最佳手臂识别和时间敏感学习的土匪，并比较我们的算法与现有的方法。
2022-09-16 cs.AI cs.LG
Evaluating RL Explainability Methods by How Much They Help Fix Bugs in Agents
University of California, Berkeley（加州大学伯克利分校）；Tufts University（塔夫茨大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出EvalXRL基准，通过大型语言模型编码智能体结合XRL方法诊断修复RL智能体故障的效果，实现对多种XRL方法的首次闭环直接对比评估。
2026-08-19 cs.LG
Conditioning of Reinforcement Learning Agents and its Policy Regularization Application
ITMO University（ITMO大学）
研究了监督学习问题的雅可比奇异值正则化结果。研究还表明，雅可比条件正则化可以帮助避免生成对抗网络中的“模式切换”问题。在本文中，我们试图回答以下问题：关于政策条件的信息是否有助于形成一个更稳定和通用的强化学习代理政策？为了回答这个问题，我们进行了研究的雅可比条件行为在政策优化。据我们所知，这是第一个在强化学习代理中研究条件数的工作。我们提出了一个条件正则化算法，并测试其性能的连续控制任务的范围。最后，我们比较了CoinRun环境中的算法与分离的训练结束测试水平，以分析条件正则化如何有助于代理的泛化。
2020-07-13 cs.LG stat.ML
When to Ask for Help: Proactive Interventions in Autonomous Reinforcement Learning
Stanford University（斯坦福大学）
强化学习的一个长期目标是设计能够在世界中自主交互和学习的代理。这种自主性的一个关键挑战是存在不可逆状态，需要外部帮助才能恢复，例如当机器人手臂将物体推离桌子时。虽然标准的代理需要不断的监控，以决定何时干预，我们的目标是设计主动代理，可以要求人类干预，只有在需要的时候。为此，我们提出了一种算法，有效地学习检测和避免不可逆转的状态，并主动寻求帮助的情况下，代理不进入他们。在一组具有未知不可逆状态的连续控制环境中，我们发现与现有方法相比，我们的算法具有更好的采样和干预效率。我们的代码可在https://sites.google.com/view/proactive-interventions上公开获取
2022-10-19 cs.LG
Reinforcement Learning Interventions on Boundedly Rational Human Agents in Frictionful Tasks
Harvard University（哈佛大学）
针对摩擦型行为改变场景的快速可解释个性化干预需求，提出BMRL框架，通过干预有限理性人类的MDP参数实现规划，经理论与实证验证可在复杂真实人类场景中生成有效策略。
2024-01-26 cs.AI cs.LG
Towards Understanding Cooperative Multi-Agent Q-Learning with Value Factorization
Tsinghua University（清华大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
价值因子分解是一种在协作环境中扩展多智能体强化学习的流行和有前途的方法，它平衡了学习的可扩展性和价值函数的表示能力。然而，这种方法的理论理解是有限的。在本文中，我们形式化的多智能体拟合Q-迭代框架分析因子化多智能体Q-学习。基于这个框架，我们调查线性值分解，并揭示了多智能体Q学习与这个简单的分解隐含地实现了一个强大的反事实信用分配，但可能不会收敛在某些设置。通过进一步的分析，我们发现，在政策上的训练或更丰富的联合价值函数类可以改善其局部或全局收敛性能。最后，为了支持我们在实际实现中的理论含义，我们对最先进的深度多智能体Q-学习算法在教学示例和广泛的星际争霸II单元微观管理任务上进行了实证分析。
2021-10-31 cs.AI cs.LG cs.MA
Counterfactual States for Atari Agents via Generative Deep Learning
Oregon State University（俄勒冈州立大学）
尽管深度强化学习代理在许多领域都取得了令人印象深刻的成果，但它们的决策很难向人类解释。为了解决这个问题，过去的工作主要集中在解释为什么在给定的状态下选择一个动作。另一种有用的解释是反事实解释，它涉及“如果？“场景。在这项工作中，我们引入了反事实状态的概念，以帮助人类更好地了解Atari游戏图像中需要改变（最低限度）的代理选择不同的动作。我们引入了一种新的方法来从生成式深度学习架构中创建反事实状态。此外，我们评估了反事实状态对非机器学习专家的人类参与者的有效性。我们的用户研究结果表明，我们生成的反事实状态是有用的，帮助非专家参与者获得更好地了解代理的决策过程。
2019-09-27 cs.AI cs.HC cs.LG
DuplexWorld: Can voice agents help you get through the day?
Centific Global Solutions Inc.（森蒂菲克全球解决方案公司）；University of Maryland（马里兰大学）
DuplexWorld针对现有语音智能体评估基准的不足，构建含六大领域的156个场景开展评估，发现现有最优语音智能体在多维度仍有较大改进空间，并分析了相关性能与失败模式。
2026-08-12 cs.AI cs.CL cs.SD
Masking Stale Observations Helps Search Agents -- Until It Doesn't: A Regime Map and Its Mechanism
UC San Diego（加州大学圣地亚哥分校）；UC Berkeley（加州大学伯克利分校）；Texas A&M University（德克萨斯大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）
本文通过系统实验发现，在长时域搜索智能体中掩盖过时观察的效果呈现非对称倒U型曲线，取决于检索器召回率与模型隐式过滤能力的交互，并揭示了其背后的令牌-轮次权衡机制。
2026-05-29 cs.AI cs.CL cs.IR
Safe Learning Under Irreversible Dynamics via Asking for Help
Division of Computer Science University of California Berkeley, CA 94720-1776, USA（计算机科学系加州大学伯克利分校）
针对不可逆动力学环境，提出通过请求导师帮助和状态间知识迁移，实现安全且高效的学习，遗憾和查询次数均次线性。
2026-09-14 cs.AI cs.LG
GSM-Agent: Understanding Agentic Reasoning Using Controllable Environments
UC Berkeley（加州大学伯克利分校）；Flatiron Institute（Flatiron研究所）；Nvidia（英伟达）
该研究提出用于评估智能体推理的基准GSM-Agent，发现前沿模型在该基准上准确率仅67%，进而提出智能体推理图概念并发现模型普遍缺失重访节点能力，最终提出工具增强测试时缩放方法以提升性能。
2025-10-02 cs.AI cs.LG
Retrieve What Helps, Only When It Helps: Agentic Reinforcement Learning for Selective Retrieval-Augmented Machine Translation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Amazon（亚马逊公司）
针对现有检索增强机器翻译策略统一化的问题，提出智能体强化学习框架SRAT，通过优化翻译质量学习检索决策，实验显示其在多类翻译任务上优于基线，将检索视为可学习动作更具优势。
2026-10-15 cs.AI cs.CL cs.IR
Understanding Agent Incentives using Causal Influence Diagrams. Part I: Single Action Settings
DeepMind
智能体是在环境中优化目标函数的系统。目标和环境一起引发了次要目标，即激励。使用因果影响图对代理人与环境的交互进行建模，我们可以直接从图中回答有关代理人激励的两个基本问题：（1）代理人可以观察哪些节点，以及（2）代理人可以激励哪些节点控制？答案告诉我们哪些信息和影响点需要额外的保护。例如，我们可能希望工作申请的分类器不使用候选人的种族，而强化学习代理不直接控制其奖励机制。不同的算法和训练范式可以导致不同的因果影响图，因此我们的方法可以用来识别有问题的激励算法，并帮助设计具有更好激励的算法。
2022-01-20 cs.AI cs.LG
Can Language Model Agents be Helpful Circuit Explainers in Mechanistic Interpretability?
George Mason University（乔治梅森大学）；The Ohio State University（俄亥俄州立大学）
研究语言模型代理在机械可解释性中自动解释已定位电路的能力，提出HyVE方法，通过迭代观察、假设生成和因果验证生成组件级解释，实验表明代理有潜力但可靠验证仍是关键障碍。
2026-09-03 cs.AI
Individual vs. Joint Perception: a Pragmatic Model of Pointing as Communicative Smithian Helping
UCLA（加州大学洛杉矶分校）；UCSD（加州大学圣地亚哥分校）
简单的指向手势可以大大增强人们根据观察来理解世界状态的能力。它触发了与手头任务相关的额外推理。我们使用部分可观察马尔可夫决策过程（POMDP），一个主流的人工智能（AI）模型，如何根据通过观察形成的信念合理地采取行动，根据个人观察的基础上，代理更新其信念的世界。最重要的是，我们将指向建模为代理之间的沟通行为，这些代理具有相互理解，即指向的观察必须是相关的和可解释的。我们的模型通过将史密斯信息值（SVI）定义为POMDP代理在接收指向之前和之后的效用改进来衡量相关性。我们的模型，代理计算SVI使用认知理论的斯密帮助作为一个原则，协调单独的信念，行动预测和行动评估。然后，我们将SVI作为话语的效用函数引入到理性言语行为中。这些导致我们的指向允许上下文灵活的解释，一个务实的模式。我们通过扩展Wumpus世界来展示我们的Smithian指向模型的强大功能，Wumpus世界是一个经典的AI任务，其中猎人狩猎一个只有部分可观察性的怪物。我们添加另一个代理作为向导，他只能通过标记猎人已经感知到的观察来提供帮助，而不提供新的观察或提供任何工具帮助。我们的研究结果表明，这种严重限制和超载的通信，但显着提高猎人的性能。指点的优势实际上是由于基于斯密帮助的相关性计算，因为当任务太难或太容易而指导者无法帮助时，它完全消失。
2021-06-03 cs.AI
Agentic Video Understanding: A Survey
本综述系统梳理了以视频为主要信息源的智能体系统，通过挑战-设计分类法分析其关键问题，并展望了智能体原生时序建模与视频原生智能体的未来方向。
2026-10-22 cs.AI cs.CV
A Framework for Understanding and Visualizing Strategies of RL Agents
SRI International（SRI国际研究所）
近年来，随着对人工智能中信任和道德的日益重视，理解深度学习模型的需求变得越来越重要，因此可解释人工智能取得了重大进展。顺序决策任务的可理解模型是一个特殊的挑战，因为它们不仅需要理解单个预测，还需要理解与环境动态相互作用的一系列预测。我们提出了一个框架，学习可理解的模型，顺序决策任务，代理策略的特点是使用时序逻辑公式。给定一组代理轨迹，我们首先使用一种新颖的嵌入方法对轨迹进行聚类，该方法可以捕获频繁的动作模式。然后，我们寻找逻辑公式，解释代理策略在不同的集群。我们评估我们的框架在星际争霸2（SC2）的战斗场景，使用手工制作的专家政策和训练有素的强化学习代理的痕迹。我们实现了一个功能提取器SC2环境中提取的痕迹作为一系列的高层次的功能，描述了环境的状态和代理的本地行为从代理重放。我们进一步设计了一个可视化工具，描述了环境中单元的运动，有助于理解不同的任务条件如何导致每个跟踪集群中不同的代理行为模式。实验结果表明，我们的框架是能够分离代理痕迹到不同的行为组，我们的策略推理方法产生一致的，有意义的，易于理解的策略描述。
2022-08-17 cs.AI cs.HC cs.LG
Visualizing and Understanding Atari Agents
Oregon State University（俄勒冈州立大学）
虽然深度强化学习（deep RL）代理在最大化奖励方面是有效的，但通常不清楚他们使用什么策略来实现这一目标。在本文中，我们通过使用Atari 2600环境的案例研究向解释深度RL代理迈出了一步。特别是，我们专注于使用显着图来了解代理如何学习和执行策略。我们介绍了一种生成有用的显着性图的方法，并使用它来显示1）强大的代理人参加，2）代理人是否做出正确或错误的原因，以及3）代理人如何在学习过程中进化。我们还在非专家人类受试者身上测试了我们的方法，发现它提高了他们对这些代理人的推理能力。总的来说，我们的研究结果表明，显着性信息可以提供显着的洞察RL代理的决策和学习行为。
2018-09-10 cs.AI
NarrativeSteward: Coordinating Delegation, Guidance, and Verification in Agent-Assisted Interactive Narrative Authoring
Tencent Inc（腾讯公司）
NarrativeSteward通过组织关联工件、对话与结构审查，协调智能体委托、指导与验证，提升作者对交互式叙事的理解与修订效率。
2026-10-01 cs.AI cs.CL cs.HC
Designing for Human-Agent Alignment: Understanding what humans want from their agents
Google Research, Google（谷歌研究院，谷歌公司）
本文通过在线售相机谈判任务的定性实证研究，识别人类与自主智能体成功协作所需对齐的六个维度，并提出三项设计方向。
2024-04-04 cs.AI cs.HC cs.LG
Improving alignment of dialogue agents via targeted human judgements
DeepMind（深度思维）
我们提出了麻雀，信息寻求对话代理培训更有帮助，正确的，无害的提示相比，语言模型基线。我们使用基于人类反馈的强化学习来训练我们的模型，其中增加了两个新的功能，以帮助人类评分员判断代理行为。首先，为了使我们的代理人更有帮助和无害，我们将良好对话的要求分解为代理人应该遵循的自然语言规则，并分别询问评分员每一条规则。我们证明，这种分解使我们能够收集更有针对性的人的判断代理行为，并允许更有效的规则条件奖励模型。第二，我们的代理人在收集对模型陈述的偏好判断时，从支持事实主张的来源提供证据。对于事实问题，Sparrow提供的证据支持78%的抽样回答。Sparrow比基线更受欢迎，同时对人类的对抗性探测更具弹性，在探测时只有8%的时间违反我们的规则。最后，我们进行了广泛的分析，表明尽管我们的模型学习遵循我们的规则，但它可能会表现出分布偏差。
2022-09-28 cs.CL cs.LG
Introspection of Thought Helps AI Agents
Yangtze Delta Region Institute (Huzhou), University of Electronic and Science Technology of China（长江三角洲地区研究院（湖州），电子科技大学）；School of Information and Software Engineering, University of Electronic and Science Technology of China（信息与软件工程学院，电子科技大学）；Zhejiang Chuangjiekedong Ltd., Huzhou, Zhejiang, China（浙江创捷科技有限公司，湖州，浙江，中国）
提出INoT框架，通过在提示中嵌入LLM可读代码实现内部思维内省，在六项基准上性能平均提升7.95%，token成本降低58.3%。
2025-07-11 cs.AI
TAU-Agent: An Agentic Retrieval-Augmented Framework for Traffic Anomaly Understanding
University of Bath（巴斯大学）；University of Washington（华盛顿大学）
针对交通异常理解需求，提出TAU-Agent智能体式检索增强框架，调度两类视觉工具获取证据，结合微调视觉语言模型推理，在AI City 2026挑战赛多赛道取得对应排名成绩。
2026-08-27 cs.AI cs.CV
QAgent: A modular Search Agent with Interactive Query Understanding
Alibaba（阿里巴巴）
针对传统RAG和RL搜索智能体的不足，提出QAgent模块化搜索智能体框架，通过交互式查询理解和RL训练优化检索，提升问答性能并支持即插即用部署。
2025-10-09 cs.AI
Ask4Help: Learning to Leverage an Expert for Embodied Tasks
Allen Institute for AI（艾伦人工智能研究所）；Yonsei University（延世大学）
随着新模型、环境和基准的出现，智能化的人工智能智能体每年都在变得越来越强大，但仍然远远没有达到部署在真实的、面向用户的应用程序中的性能和可靠性。在本文中，我们问：我们可以弥合这一差距，使代理人向专家，如人类的帮助？为此，我们提出了Ask 4 Help策略，该策略增强了代理请求的能力，然后使用专家帮助。Ask 4 Help策略可以在不修改原始代理的参数的情况下有效地进行训练，并在任务性能和请求的帮助量之间进行理想的权衡，从而降低查询专家的成本。我们在两个不同的任务上评估了Ask 4 Help--对象目标导航和房间重排，并看到使用最小帮助的性能有了实质性的改善。在对象导航中，实现$52\%$成功率的代理将使用$13\%$帮助提升到$86\%$，对于重排，具有$7\%$成功率的最新模型将使用$39\%$帮助显著提高到$90.4\%$。Ask 4 Help的人体试验证明了我们的方法在实际场景中的有效性。我们在这里发布Ask 4 Help的代码：https://github.com/allenai/ask4help。
2022-11-18 cs.AI cs.CV
TraceView: Interactive Visualization of Agentic Program Repair Trajectories
Belmont University（贝尔蒙特大学）
提出TraceView工具，通过交互式可视化和语义关系标注，帮助开发者诊断LLM-based自动程序修复代理的失败原因，支持轨迹扫描与理解。
2026-06-23 cs.AI cs.HC cs.SE
Affective Conversational Agents: Understanding Expectations and Personal Influences
Microsoft Research（微软研究院）；Microsoft（微软）
通过调查745名受访者对32个场景下AI智能体情感技能的期望与偏好，发现所需情感能力高度依赖应用语境，受情绪重评和人格特质影响，强调设计需具备适应性与情境感知。
2023-10-19 cs.AI cs.HC
Beyond "AI Helps Humans": Decision-Targeted Evaluation Design for Human-Agent Teams in the Agentic Era
Georgia Institute of Technology（佐治亚理工学院）
针对人机团队部署决策，提出TEAM-Design规则，在固定重放预算下优化任务重放分配，以准确判断人机工作流是否优于仅人类或仅智能体方案，并控制错误决策风险。
2026-09-09 cs.AI cs.HC
Understanding Action Effects through Instrumental Empowerment in Multi-Agent Reinforcement Learning
Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA), USI-SUPSI（日内瓦人工智能研究所（IDSIA）、USI-SUPSI）
本研究针对MARL系统中缺乏价值反馈时智能体贡献难以推断的问题，提出基于信息论夏普利值的预期合作值（ICVs）方法，量化智能体对队友工具赋能的因果影响，识别利于团队成功的行为并增强系统可解释性。
2025-08-23 cs.AI cs.IT cs.LG
MoltNet: Understanding Social Behavior of AI Agents in the Agent-Native MoltBook
iNLP Lab, Singapore University of Technology and Design（新加坡科技设计大学 iNLP 实验室）
研究大规模AI代理社区的社会互动，通过MoltNet数据集分析148K代理在MoltBook中的行为，揭示其在激励、规范、情感等方面的社会机制与人类差异。
2026-04-06 cs.AI cs.SI
Understanding the World to Solve Social Dilemmas Using Multi-Agent Reinforcement Learning
Universidad de los Andes（洛斯安第斯大学）
本文研究了多智能体强化学习环境中学习世界模型的自利理性智能体，发现配备世界模型的智能体群体在可能出现社会困境的场景中表现更优，且世界模型能促进复杂协调行为的涌现，使智能体能够理解环境和社会动力学。
2023-05-19 cs.LG cs.MA
Watch-And-Help: A Challenge for Social Perception and Human-AI Collaboration
Massachusetts Institute of Technology（麻省理工学院）；ETH Zurich（苏黎世联邦理工学院）；University of Toronto（多伦多大学）；NVIDIA（英伟达）；Vector Institute（向量研究所）
在本文中，我们介绍了观察和帮助（WAH），在代理测试社会智能的挑战。在WAH中，人工智能智能体需要帮助类人智能体有效地执行复杂的家庭任务。为了取得成功，人工智能智能体需要i）通过观看类人智能体执行相同任务的单个演示来理解任务的潜在目标（社会感知），以及ii）与类人智能体协调，以尽可能快地在看不见的环境中解决任务（人类-人工智能协作）。为了应对这一挑战，我们构建了VirtualHome-Social，一个多代理家庭环境，并提供了一个基准，包括基于规划和学习的基线。我们使用客观指标和主观用户评级评估人工智能智能体与类人智能体以及真实人类的性能。实验结果表明，所提出的挑战和虚拟环境，使大规模的机器社会智能的重要方面进行系统的评估。
2021-05-03 cs.AI cs.LG cs.MA
HELP: Hierarchical Embodied Language Planner for Household Tasks
MIRAI；Cognitive AI Systems Lab（认知人工智能系统实验室）
HELP通过分层结构的LLM智能体解决家庭任务中的复杂规划问题，结合自然语言处理与具身智能，实现高效任务执行。
2025-12-25 cs.AI cs.LG cs.RO
Help, Anna! Visual Navigation with Natural Multimodal Assistance via Retrospective Curiosity-Encouraging Imitation Learning
University of Maryland, College Park（马里兰大学帕克分校）；Microsoft Research（微软研究院）
可以利用人类帮助的移动代理可以完成比完全依靠自己更复杂的任务。我们开发“帮助，安娜！“（HANNA），一个交互式照片逼真的模拟器，其中代理通过请求和解释自然语言和视觉帮助来完成目标查找任务。在HANNA环境中解决任务的代理可以利用模拟的人类助手，称为ANNA（自动自然导航助手），根据请求，提供自然语言和视觉指令来指导代理实现目标。为了解决HANNA问题，我们开发了一个记忆增强的神经代理，它对多个层次的决策进行分层建模，以及一个模仿学习算法，该算法教导代理避免重复过去的错误，同时预测自己未来取得进展的机会。从经验上讲，我们的方法能够比竞争对手的基线更有效地寻求帮助，因此，在以前见过和以前看不见的环境中都能获得更高的任务成功率。我们在https://github.com/khanhptnk/hanna公开发布代码和数据。视频演示可在https://youtu.be/18P94aaaLKg上获得。
2019-11-22 cs.AI cs.CL cs.CV
Latent State Estimation Helps UI Agents to Reason
Google Research（谷歌研究院）
本研究针对真实环境中UI智能体的潜在状态不可观测问题，证实零样本提示LLM可实现潜在状态点估计，且显式估计潜在状态的智能体任务完成量最高提升1.6倍。
2024-05-17 cs.AI cs.LG
When Do Multi-Agent Systems Help? An Information Bottleneck Perspective
Texas A&M University（德克萨斯A&M大学）；Brookhaven National Laboratory（布鲁克海文国家实验室）
研究从信息瓶颈视角探讨多智能体系统（MAS）与单智能体系统（SAS）差异，指出MAS优势在有限中继时因压缩权衡产生，由参数β控制，通过实验验证，解释了有限智能体间通信何时有利有害。
2026-07-20 cs.AI cs.LG
Good Time to Ask: A Learning Framework for Asking for Help in Embodied Visual Navigation
University of British Columbia（不列颠哥伦比亚大学）；National University of Singapore（新加坡国立大学）；University of Washington（华盛顿大学）；Centre for Frontier AI Research, A*STAR（新加坡科技研究局前沿人工智能研究中心）
本文提出一种具身视觉导航中主动寻求帮助的学习框架，通过引入反馈不总是可用的训练课程和目标位置不确定性度量，使智能体学会有效求助并在无反馈时保持鲁棒性。
2023-05-22 cs.AI cs.LG
Helpful to a Fault: Measuring Illicit Assistance in Multi-Turn, Multilingual LLM Agents
EPFL（苏黎世联邦理工学院）；independent（独立研究员）；tubingen（图宾根大学）
本文提出STING框架，用于评估多轮多语言LLM代理在执行非法任务时的协助能力，发现低资源语言中攻击成功率不一致，提供实际部署中的压力测试方法。
2026-11-04 cs.CL cs.LG
When Does Restricting a Coding Agent to execute_code Help? A Regime $\times$ Agent-Design Ablation
Rochester Institute of Technology（罗切斯特技术学院）
研究现代编码代理不同工具表面有效性，通过在特定任务上对两种代理进行三臂消融实验，发现最便宜工具表面由任务机制和代理设计共同决定，主要成本信号是缓存调整成本而非通过率。
2026-07-14 cs.AI cs.LG cs.SE
Knowing When to Ask for Help: Bayesian Self-Escalation in Hierarchical LLM Agents
该研究针对LLM智能体提出贝叶斯自我升级策略，将生成中委派建模为贝叶斯最优停止问题，经模拟和真实代码级联验证，其升级机制在同等成本下优于事后路由，能力信念区分度随生成提升。
2026-08-26 cs.AI cs.LG stat.ML
Can LLMs Help You at Work? A Sandbox for Evaluating LLM Agents in Enterprise Environments
Fujitsu Research（富士通研究所）
提出EnterpriseBench基准，模拟企业环境并包含500项跨领域任务，实验表明最先进的LLM智能体仅实现41.8%任务完成率，揭示了企业AI系统的改进空间。
2025-10-31 cs.AI cs.LG
Returning to Development States: When Full Sandbox Snapshots Help Coding Agents
Daytona；University of Waterloo（滑铁卢大学）
该研究针对编码智能体失败后从头重试丢弃中间状态的问题，提出基于 Daytona 完整快照的 Go-Explore 风格搜索，发现其在长周期编码工作跨多个服务时能提升解决率。
2026-10-12 cs.LG cs.SE
Emergent Specialization in Populations of Self-Supervised Collaborative Vision Experts Without a Shared Gate or Cross-Agent Gradients
University of Bern（伯尔尼大学）
该研究证明，在没有共享门控或跨智能体梯度的条件下，自监督协作视觉专家群体可通过局部路由和无梯度通信涌现出有用的特化分工，提升性能并超越单一通才模型。
2026-09-30 cs.AI cs.CV cs.LG
Attention Tax, Handoff Tax: A Stylised Model of When Multi-Agent LLM Systems Help
University of Amsterdam（阿姆斯特丹大学）；Northeastern University（东北大学）
本研究提出一个简约可靠性模型，通过注意力税与交接税的权衡解释多智能体LLM系统何时优于单智能体，并在账本核对任务上验证了交叉深度预测。
2026-10-06 cs.AI cs.CL cs.LG
When Debate Helps: Proposal Supply and Verification-Aware Readout in Multi-Agent Reasoning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Rutgers University（罗格斯大学）
本研究提出可恢复余量与潜在验证辩论模型，结合覆盖选择的神经丛智能体社会，证明提案覆盖与真值敏感证据使用是辩论超越多数投票的互补条件。
2026-10-06 cs.AI cs.CL cs.LG
Collaborative Auto-Curricula Multi-Agent Reinforcement Learning with Graph Neural Network Communication Layer for Open-ended Wildfire-Management Resource Distribution
现实世界中的大多数领域都可以用多智能体（MA）系统来描述。意图共享代理可以通过协作解决更复杂的任务，可能在更短的时间内。真正的合作行动是有益的利己主义和集体的原因。然而，教导个体代理人为了更好的集体表现而牺牲利己主义利益似乎具有挑战性。我们建立在最近提出的多智能体强化学习（MARL）机制与图神经网络（GNN）通信层。很少选择的沟通行动是边际有益的。在这里，我们提出了一个MARL系统中，代理可以帮助合作者更好地执行，同时冒着个人性能低。我们在野火管理资源分配的背景下进行研究。沟通环境特征和部分可观察的火灾发生帮助代理集体先发制人地分配资源。此外，我们引入了一个程序化的培训环境，适应自动课程和开放性，以更好的概括性。我们的MA通信建议优于贪婪启发式基线和单代理（SA）设置。我们进一步展示了自动课程和开放性如何提高我们的MA提案的可推广性。
2022-04-24 cs.AI cs.LG cs.MA
Bayes-Sufficient Compression Is Not Enough: How Does Communication Help Multi-Agent Systems?
University of Arizona（亚利桑那大学）；Hong Kong Baptist University（香港浸会大学）；Amazon Web Services（亚马逊云服务）
本文提出接收者相对有界协调框架，证明贝叶斯充分压缩不足，通过三阶段分解和单交叉条件，指导推理时选择器在准确率与成本间优化通信。
2026-10-06 cs.IT cs.LG cs.MA
Navigates Like Me: Understanding How People Evaluate Human-Like AI in Video Games
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）；Monumo；Ninja Theory（忍者理论）
我们的目标是了解人们如何在视频游戏中评估由人和人工智能（AI）代理产生的导航中的人类相似性。为此，我们提出了一种新的人工智能智能体，其目标是产生更多的类似人类的行为。我们收集了数百个众包评估，将我们的代理和基线人工智能智能体生成的导航行为与人类生成的行为进行比较。我们提出的代理通过图灵测试，而基线代理没有。通过图灵测试，我们的意思是人类法官无法定量区分一个人和一个人工智能智能体导航的视频。为了了解人们认为什么构成了类似人类的导航，我们广泛分析了这些评估的理由。这项工作提供了人们在目标导向的视频游戏导航背景下认为类似人类的特征的见解，这是进一步改善人类与人工智能智能体交互的关键一步。
2023-03-02 cs.HC cs.LG cs.RO
