LLM-Assisted Modeling of Semantic Web-Enabled Multi-Agents Systems with AJAN
Daimler Buses GmbH(戴姆勒巴士公司);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文提出一个集成开发环境,利用大型语言模型辅助建模AJAN框架中的语义Web多智能体系统,以降低RDF/RDFS和SPARQL行为定义的门槛,并扩展用户社区。
2025-10-08 cs.AI
AgentsEval: Clinically Faithful Evaluation of Medical Imaging Reports via Multi-Agent Reasoning
FNii-Shenzhen, The Chinese University of Hong Kong (Shenzhen) School of Science and Engineering(深圳FNii、香港中文大学(深圳)科学与工程学院)
AgentsEval通过多智能体推理框架,实现医学影像报告的临床可信评估,提供结构化反馈和稳健的评估结果。
2026-01-23 cs.AI
A Definition of Happiness for Reinforcement Learning Agents
什么是强化学习智能体的快乐?我们寻求一个正式的定义,满足一系列的必要条件。我们提出的幸福定义是时间差误差,即获得的奖励和观察值与代理对该值的期望值之间的差异。这个定义满足了我们的大多数要求,并且与人类的经验研究相一致。我们陈述几个含义并讨论例子。
2015-05-18 cs.AI
Discovering Agents
DeepMind(深度思维);University of Oxford(牛津大学);Imperial College London(帝国理工学院)
代理的因果模型已被用于分析机器学习系统的安全方面。但识别代理是不平凡的-通常因果模型只是假设建模没有太多的理由-和建模失败可能会导致错误的安全分析。本文提出了代理的第一个正式的因果定义-大致代理系统,如果他们的行为以不同的方式影响世界,将调整他们的政策。从这一点上,我们得出的第一个因果发现算法发现代理人的经验数据,并给出算法之间的因果模型和博弈论的影响图翻译。我们证明了我们的方法,解决了一些以前的混乱所造成的不正确的因果建模的代理。
2022-08-24 cs.AI cs.LG
Agyn: An Open-Source Platform for AI Agents with Scalable On-Demand Execution, Agent Definition as a Code, and Zero-Trust Access
Agyn, Inc.(Agyn公司);Mila AI e-Lab
提出Agyn开源平台,通过信号驱动的有状态无服务器运行时、Terraform代理定义和零信任安全模型,解决AI代理在生产中的隔离、治理和扩展问题。
2026-05-31 cs.AI
Blameworthiness in Multi-Agent Settings
Cornell University(康奈尔大学)
我们提供了一个正式的定义,在设置中,多个代理人可以合作,以避免负面的结果的责任。我们首先提供了一种方法,相对于一个认知状态(分布在因果模型,描述如何可能出现的结果)归咎于群体的罪责。然后,我们展示了我们如何可以从归咎于群体的归咎于个人使用合作博弈论的标准概念,Shapley值。我们相信,在群体环境中获得一个好的责任概念对于设计以道德方式行事的自主智能体至关重要。
2019-03-11 cs.AI cs.CY cs.MA
Extended Markov Games to Learn Multiple Tasks in Multi-Agent Reinforcement Learning
Imperial College London(帝国理工学院)
形式化方法与强化学习(RL)的结合最近引起了人们的兴趣,作为单智能体RL学习多任务规范的一种方式。在本文中,我们将这种收敛扩展到多智能体设置,并正式定义扩展马尔可夫博弈作为一个通用的数学模型,允许多个RL代理同时学习各种非马尔可夫规范。为了介绍这个新的模型,我们提供了正式的定义和证明,以及经验测试的RL算法运行在这个框架上。具体来说,我们使用我们的模型训练两个不同的基于逻辑的多智能体RL算法,以解决不同的设置非马尔可夫共同安全的LTL规范。
2020-02-14 cs.AI cs.LG cs.LO
Towards Adaptive IMFs -- Generalization of utility functions in Multi-Agent Frameworks
Ericsson Research(爱立信研究院);Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校);Synopsys Inc.(新思科技公司)
针对下一代网络中意图管理功能(IMF)需适配业务变化的需求,提出无需额外训练即可泛化不同效用函数、适配运行时意图优先级变更的机制,实验验证其有效性与可扩展性,优于需额外训练的现有方案。
2024-05-14 cs.AI cs.LG
Multi-Agent Only Knowing
莱韦斯克引入了“只知道”的概念,目的是捕捉某些类型的非单调推理。莱韦斯克的逻辑只处理单个代理人的情况。最近,Halpern和Lakemeyer都独立地试图将Levesque的逻辑扩展到多智能体的情况。虽然它们的方法有一些相似之处,但也有一些重大的差异。在本文中,我们重新审视的概念,只有知道,回到第一原则。在这个过程中,我们简化了Levesque的完备性证明,并指出了早期定义中的一些问题。这使我们重新思考什么是只知道的属性。我们提供了一个公理系统,捕捉我们的desiderata,并表明它有一个语义,对应于it. The公理系统有一个额外的功能的兴趣:它包括一个模态算子的可满足性,从而提供了一个完整的公理化的可满足性的逻辑K45。
2000-01-19 cs.AI cs.LO
Logic-Driven Semantic Communication for Resilient Multi-Agent Systems
Centre for Wireless Communication, University of Oulu, Finland(奥卢大学无线通信中心)
本文提出基于认知和行动韧性的多智能体系统韧性定义,通过形式化逻辑和验证方法实现鲁棒决策与持续运行。
2026-01-11 cs.AI cs.LG cs.LO
Embracing AWKWARD! Real-time Adjustment of Reactive Plans Using Social Norms
Umeå University(于默奥大学)
本文提出了AWKWARD体系结构的多Agent系统的混合代理的发展。AWKWARD代理可以实时的重新配置他们的计划,以在不断变化的环境和社会环境下与社会角色要求保持一致。建议的混合体系结构利用面向行为的设计(BOD)开发代理与反应式规划和完善的OperA框架,以提供组织,社会和互动的定义,以验证和调整代理的行为。OperA和BOD一起可以实现对智能体计划的实时的调整,以适应不断变化的社会角色,同时为推动个体智能体行为变化的交互提供透明度的额外好处。我们提出这种架构,以激励传统的符号和基于行为的人工智能社区之间的桥梁,在这种组合的解决方案可以帮助MAS研究人员在他们的追求建立更强大,更强大的智能代理团队。我们使用DOTA2,一个游戏的成功是严重依赖于社会互动,作为一种媒介来展示我们提出的混合架构的一个示例实现。
2022-07-21 cs.AI cs.MA
The Challenge of Believability in Video Games: Definitions, Agents Models and Imitation Learning
UEB(欧洲布列塔尼大学);ENIB(法国国立布雷斯特工程师学院);LISyC(LISyC实验室);Virtualys(Virtualys公司)
在本文中,我们解决了在视频游戏中创建可信代理(虚拟角色)的问题。我们只考虑可信度的一个含义,“给人一种被玩家控制的感觉”,并概述了它的评估问题。我们提出了几种模型,代理在游戏中,可以产生可信的行为,无论是从行业和研究。对于高水平的可信度,学习,特别是模仿学习似乎是要走的路。我们快速概述了不同的方法,使视频游戏的代理从玩家那里学习。最后,我们提出了一个两步的方法来开发新的可信代理模型。首先,我们必须为我们的应用程序找到可信度的标准,并定义一种评估方法。然后设计模型和学习算法。
2010-09-02 cs.AI
Dynamic Safe Interruptibility for Decentralized Multi-Agent Reinforcement Learning
EPFL(洛桑联邦理工学院)
在强化学习中,智能体通过执行动作并观察其结果来学习。有时,希望人类操作员\textit{interrupt}代理以防止危险情况发生。然而,作为学习过程的一部分,智能体可能会将这些影响其奖励的中断与特定状态联系起来,并故意避免它们。这种情况在多代理环境中尤其具有挑战性,因为代理不仅可以从自己过去的中断中学习,还可以从其他代理的中断中学习。Orseau和Armstrong为一个学习者定义了\emph{safe interruptibility},但他们的工作并没有自然地扩展到多智能体系统。本文介绍了\textit{dynamic safe interruptibility},一种更适合分散学习问题的替代定义,并在两个学习框架中研究了这个概念:\textit{joint action learners}和\textit{independent learners}。我们给现实的充分条件的学习算法,使动态安全中断的情况下,联合行动的学习者,但这些条件是不够的独立学习者。然而,我们表明,如果代理可以检测中断,它是可能的修剪观察,以确保动态安全中断,即使是独立的学习者。
2017-05-22 cs.AI cs.LG cs.MA
On the Definition of Robustness and Resilience of AI Agents for Real-time Congestion Management
Center for Power and Energy Systems INESC TEC Porto, Portugal(电力与能源系统中心 INESC TEC 里斯本,葡萄牙)
针对欧盟《人工智能法案》缺乏高风险AI系统鲁棒性与韧性评估方法的问题,本文提出基于Grid2Op环境的定量评估框架,通过扰动智能体模拟干扰,用特定指标衡量性能,有效识别漏洞并提升AI性能。
2025-04-17 cs.AI
The Reasons that Agents Act: Intention and Instrumental Goals
Imperial College London(帝国理工学院);Google DeepMind(谷歌DeepMind)
本文在结构因果影响模型中引入了适用于AI智能体的意图正式定义,将其与工具性目标等过往概念相联系,并展示了如何从强化学习智能体和语言模型的行为中推断其意图。
2024-02-15 cs.AI
Exploring Large Language Model based Intelligent Agents: Definitions, Methods, and Prospects
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));DeepWisdom(深度智慧);Peking University(北京大学);FiT, Tencent(腾讯FiT)
本文综述了基于大型语言模型的智能体在单智能体与多智能体系统中的定义、框架、核心组件及部署机制,并探讨其应用场景与未来展望。
2024-01-07 cs.AI cs.MA
A Definition of Continual Reinforcement Learning
Google DeepMind(谷歌DeepMind)
本文提出持续强化学习的正式定义,通过新的数学语言刻画永不停止学习的智能体,并将其与传统多任务强化学习和持续监督学习统一起来,为持续学习智能体研究开辟新方向。
2023-12-01 cs.AI cs.LG
Definitions of intent suitable for algorithms
University College London(伦敦大学学院)
意图改变了一个行为人在许多类型的不法行为中的罪责。自主智能体具有造成伤害的能力,虽然它们目前缺乏法律人格,使它们无法犯罪,但对于许多当事人来说,了解算法可能违反何种故意模式是有用的。从创建者或所有者的角度来看,他们希望确保他们的算法永远不会通过做一些如果由法人实施则会被标记为犯罪的事情来造成伤害。检察官可能有兴趣了解算法的行动是否是根据概念的透明定义而内在打算的。算法代理人的意图存在或不存在可以告知法院其所有者的同谋。本文介绍了直接,间接(或间接)和不可告人的意图的定义,可用于测试算法参与者的意图。
2021-06-08 cs.AI
Diagnostic reasoning with A-Prolog
在本文中,我们提出了一个软件代理的体系结构,它操作一个物理设备,并能够进行观察和测试和修复设备的组件。我们提出了简化的定义的概念的症状,候选诊断,诊断的基础上的理论的行动语言${\cal AL}$。定义允许一个简单的帐户代理的行为,其中许多代理的任务被减少到计算稳定的模型的逻辑程序。
2003-12-18 cs.AI
Test-Driven AI Agent Definition (TDAD): Compiling Tool-Using Agents from Behavioral Specifications
Fiverr Labs(Fiverr 实验室)
TDAD通过编译行为规范生成可执行测试,确保工具使用代理在生产环境中的行为合规性,提升测试质量和回归安全性。
2026-03-09 cs.AI cs.SE
Actual Causality and Responsibility Attribution in Decentralized Partially Observable Markov Decision Processes
Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
实际的因果关系和一个密切相关的责任归属概念是负责任的决策的核心。实际因果关系侧重于具体结果,旨在确定对实现感兴趣的结果至关重要的决策(行动)。责任归属是补充性的,旨在确定决策者(代理人)对这一结果负有责任的程度。在本文中,我们研究这些概念下,广泛使用的框架下的多智能体顺序决策的不确定性:分散部分可观察马尔可夫决策过程(Dec-POMDPs)。在RL最近的工作,显示POMDPs和结构因果模型(SCM)之间的对应关系,我们首先建立一个连接之间的Dec-POMDPs和SCM。这种联系使我们能够利用语言来描述实际的因果关系,从以前的工作和研究现有的定义,实际因果关系的Dec-POMDPs。鉴于一些众所周知的定义可能会导致反直觉的实际原因,我们引入了一个新的定义,更明确地占代理人的行动之间的因果依赖关系。然后,我们转向基于实际因果关系的责任归属,我们认为,在将责任归于代理时,重要的是要考虑代理参与的实际原因的数量,以及它操纵自己的责任程度的能力。出于这些论点,我们引入了一个家庭的责任归属方法,扩展了以前的工作,同时考虑到上述因素。最后,通过一个模拟实验,比较了不同的因果关系定义和责任归属方法。实证结果表明,考虑的实际因果关系的定义和它们对归因责任的影响之间的质的差异。
2022-08-09 cs.AI
Agents and Devices: A Relative Definition of Agency
DeepMind;University of Sussex(萨塞克斯大学)
根据丹尼特的说法,同一个系统可以用“物理”(机械)解释立场来描述,也可以用“意图”(基于信念和目标的)解释立场来描述。人类倾向于发现物理姿态对某些系统更有帮助,比如行星绕恒星运行,而故意姿态对其他系统更有帮助,比如活着的动物。我们在计算理论中定义了一个物理和意向立场的正式对应物:将系统描述为设备或代理,关键区别在于“设备”直接描述为输入-输出映射,而“代理”则描述为它们优化的功能。然后,贝叶斯规则可以应用于计算系统是设备或代理的主观概率,仅基于其行为。我们说明了这一点,使用一个玩具网格世界域中的对象的轨迹。
2018-05-31 cs.AI cs.LG stat.ML
A Definition of Open-Ended Learning Problems for Goal-Conditioned Agents
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);Institut des Systèmes Intelligents et de Robotique(智能系统与机器人研究所);INRIA Bordeaux Sud-Ouest(法国国家信息与自动化研究所波尔多南部-西部分部);Institute of Cognitive Sciences and Technologies(认知科学与技术研究所);CNR(意大利国家研究委员会);CITIC(信息与通信技术中心);Universidade da Coruña(拉科鲁尼亚大学);Massachusetts Institute of Technology(麻省理工学院)
本文针对开放式学习缺乏统一定义的问题,提出以“在无限时间范围内不断产生新颖元素”作为核心基本属性,并据此构建开放式目标条件强化学习问题框架。
2024-06-07 cs.AI
Honesty Is the Best Policy: Defining and Mitigating AI Deception
Imperial College London(帝国理工学院);DeepMind(深度思维)
本文在结构因果博弈中提出形式化欺骗定义并给出图形化判定准则,实验证明该方法能有效缓解强化学习智能体和语言模型中的欺骗行为。
2023-12-03 cs.AI
What makes a harness a harness: necessary and sufficient conditions for an agent harness
Federal Institute of Goiás(戈亚斯联邦理工学院)
本文通过概念分析,定义了智能体工具的必要和充分条件,并提供了包含/排除测试,以区分智能体工具与智能体框架、SDK、IDE插件等。
2026-06-08 cs.AI cs.SE
Agentic AI Process Observability: Discovering Behavioral Variability
IBM Research(IBM研究院)
本研究针对 LLM 智能体行为的非确定性问题,提出利用过程与因果发现分析执行轨迹,并结合基于 LLM 的静态分析技术区分预期与非预期行为变异性,以增强开发者的可观测性与控制力。
2025-07-03 cs.AI
On the Convergence of Bounded Agents
DeepMind(深度思维)
针对以有界智能体为中心的强化学习框架下收敛概念模糊的问题,提出两种互补的收敛定义,阐明其性质并论证二者关系,厘清了领域核心概念。
2023-07-20 cs.AI cs.LG
An argument for the impossibility of machine intelligence
University at Buffalo(纽约州立大学布法罗分校)
自从名词短语“人工智能”(AI)被创造出来以来,人们一直在争论人类是否能够利用技术创造智能。我们从热力学和数学的角度对这个问题进行了新的阐述。首先,我们定义什么是可以成为AI承载者的代理(设备)。然后,我们表明,由Hutter和其他人提出的,仍然被AI社区接受的“智能”的主流定义太弱了,甚至无法捕捉到当我们将智能归于昆虫时所涉及的内容。然后,我们总结了罗德尼·布鲁克斯提出的基本(节肢动物)智能的非常有用的定义,我们确定了一个人工智能智能体需要具备的属性,以便通过这个定义成为智能的承载者。最后,我们表明,从创建这样一个代理所需的学科的角度来看,即数学和物理学,这些属性既不是通过隐式或显式的数学设计也不是通过建立一个人工智能可以自发进化的环境来实现的。
2021-10-20 cs.AI
Formal approaches to a definition of agents
University of Hertfordshire(赫特福德大学)
本论文有助于形式化的概念内的一类有限多变量马尔可夫链的代理。智能体被视为行动、感知和目标导向的实体。我们提出了一种新的措施,可用于识别实体(称为$ι$ -实体),在多元马尔可夫链的实体,以及正式定义的行动和感知适合这样的实体的一些一般要求。$ι$ -实体背后的直觉是,实体是时空模式,其中每个部分都使其他部分更可能。在一般贝叶斯网络中,正式研究了完全局部积分(CLI)的测度。它基于相对于分区测量的特定局部积分(SLI)。CLI是所有分区上SLI的最小值。我们证明了$ι$ -实体块在特定分区的全球轨迹。这些分区是实现给定SLI值的最好分区。我们还建立了网络中的节点排列下的SLI的变换行为。我们接着提出关于实体的一般定义的三个条件。这些都不是由随机变量集,即满足。感知-行动循环经常被用来模拟代理人,它的限制性太强。我们建议,任何一般的实体定义实际上应该指定一个子集(称为一个实体集)的集合的所有时空模式的一个给定的多元马尔可夫链。$ι$实体的集合就是这样一个集合。重要的是,感知-动作循环也会导致实体集。然后,我们提出了正式的定义任意实体集的行动和看法。在感知-动作循环实体集的情况下,这些专门用于标准概念。最后,我们来看一些非常简单的例子。
2017-04-10 cs.AI cs.IT cs.MA
Cause, Responsibility, and Blame: oA Structural-Model Approach
Cornell University(康奈尔大学)
本文回顾了Halpern和Pearl提出的因果关系的定义,它使用了结构方程。一个更精确的定义,然后考虑,考虑到正常性和典型性,这是众所周知的影响因果归属的问题。因果关系通常是一个全有或全无的概念:要么A是B的原因,要么不是。扩展的因果关系的定义,以捕捉的责任程度和责任程度的概念,由于Chockler和Halpern,进行审查。例如,如果某人以11比0赢得选举,那么每个投票给他的人对胜利的责任要比他以6比5获胜的责任小。责任的程度考虑到代理人的认知状态。粗略地说,A对B的责备程度是A对B的预期责任程度,接管了一个代理人的认知状态。最后,结构方程定义的因果关系进行了比较赖特的NESS测试。
2014-12-09 cs.AI
"Dave...I can assure you...that it's going to be all right..." -- A definition, case for, and survey of algorithmic assurances in human-autonomy trust relationships
University of Colorado Boulder(科罗拉多大学博尔德分校);Cooperative Human-Robot Intelligence Laboratory(人机协作智能实验室);Research and Engineering Center for Unmanned Vehicles(无人驾驶车辆研究与工程中心)
设计、使用和受自主人工智能代理影响的人希望能够\emph{trust}这样的代理--也就是说,知道这些代理将正确执行,理解其行为背后的推理,并知道如何适当地使用它们。已经设计了许多技术来评估和影响人类对人工智能代理的信任。然而,这些方法通常是临时的,并且没有正式地相互关联或正式的信任模型。本文提出了一种调查\emph{algorithmic assurances},即程序组件的代理操作,明确设计用于校准用户的信任,在人工智能代理。首先,从正式建模的人-人工智能代理信任关系的角度,对信任保证进行了正式定义和分类。在这些定义的基础上,对机器学习、人机交互、机器人技术、电子商务等领域的综合研究表明,保证算法自然会对代理的核心功能产生影响,有七个显著的类别,从整体保证(影响代理人的核心功能)到补充保证(对代理人的绩效没有直接影响)。这些类中的每一个共同的方法进行了确定和讨论,不同的方法的优点和缺点也进行了研究。
2018-08-28 cs.AI cs.CY cs.HC
Evaluating Creativity and Deception in Large Language Models: A Simulation Framework for Multi-Agent Balderdash
University of Southern California(南加州大学)
本文提出一个基于Balderdash游戏的多智能体仿真框架,通过真实定义比率、欺骗比率和正确猜测比率等指标评估LLMs的创造力与逻辑推理能力,发现输入中的低频词汇会削弱其对规则与上下文的推理。
2024-11-15 cs.AI cs.MA
The AI Definition and a Program Which Satisfies this Definition
本文通过智能体全部策略中的最优不可计算策略及其邻近可计算策略定义AI,并提出一种先描述世界、再预测未来并选择最佳行动的满足该定义的程序框架。
2025-02-25 cs.AI cs.LG
Active Evaluation of General Agents: Problem Definition and Comparison of Baseline Algorithms
Google DeepMind(谷歌DeepMind);Google DeepMind, University of Waterloo(谷歌深Mind、滑铁卢大学)
本文提出通用智能体的主动评估框架,通过比较基线算法发现Elo系统在实践中可靠,而Soft Condorcet Optimization在真实评估中表现更优。
2026-02-10 cs.AI cs.GT cs.LG
An Information-Theoretic Definition for Open-Ended Learning
Stanford University(斯坦福大学)
提出基于比特等价的信息论定义开放环境,证明经典赌博机非开放,设计算法实现开放学习。
2026-06-06 cs.AI cs.LG
Definition and Complexity of Some Basic Metareasoning Problems
在大多数现实世界中,由于有限的时间或其他资源,代理不能执行所有潜在有用的审议和信息收集行动。这就导致了选择这些行为的元推理问题。在人工智能领域,元推理的决策论方法已经得到了研究,但是关于元推理的复杂性的理论结果还很少。我们得出硬度结果的三个设置,最真实的元推理系统将不得不包括特殊情况。在第一种情况下,代理必须决定如何在运行于不同问题实例上的任意时刻算法之间分配其审议时间。我们证明这是$\mathcal{NP}$ -完备的。在第二种情况下,智能体必须(动态地)在它必须选择的多个行动中分配其审议或信息收集资源。我们表明,这是$\mathcal{NP}$ -硬,即使评估每个单独的行动是非常简单的。在第三种情况下,智能体必须(动态地)选择有限数量的审议或信息收集行动来消除世界状态的歧义。我们表明,这是$\mathcal{NP}$ -硬下的自然限制,和$\mathcal{PSPACE}$ -硬一般。
2003-07-07 cs.AI cs.CC
ECOLANG - Communications Language for Ecological Simulations Network
Faculty of Engineering of University of Porto(波尔图大学工程学院);LIACC – Artificial Intelligence and Computer Science Laboratory(LIACC——人工智能与计算机科学实验室)
本文介绍了一个多智能体系统环境中使用的通信语言的生态模拟,基于EcoDynamo模拟器应用程序与几个智能代理和可视化应用程序,并扩展了语言的初始定义。代理的动作和感知被转换成与模拟器应用程序和其他代理交换的消息。所使用的概念和定义遵循BNF符号(Backus et al. 1960),并受到Coach Unilang语言(Reis and Lau 2002)的启发。
2008-09-09 cs.AI cs.MA
The formal-logical characterisation of lies, deception, and associated notions
King’s College London(伦敦国王学院)
以形式化的方式定义各种不诚实的概念是使智能代理能够在不可信的环境中行动的关键步骤。这篇评论评估了这一主题的文献,通过查看基于模态逻辑的正式定义以及其他正式的方法。哲学基础的标准被用来评估定义的正确性和完整性。这篇评论的主要贡献是表明只有少数定义完全符合这一黄金标准,并指出在实际代理环境中成功应用这些定义所缺少的步骤。
2016-12-28 cs.AI cs.LO cs.MA
Explainability in Human-Agent Systems
Jerusalem College of Technology(耶路撒冷理工学院)
本文提出了一个分类的可解释性在人类Agent系统。我们考虑关于为什么、谁、什么、何时和如何解释的基本问题。首先,我们定义了可解释性,以及它与可解释性、透明度、明确性和忠实性等相关术语的关系。这些定义使我们能够回答为什么在系统中需要可解释性,它是面向谁的,以及可以产生什么解释来满足这种需要。然后我们考虑何时应该向用户呈现这些信息。最后,我们考虑如何使用客观和主观的措施来评估整个系统。最后一个问题是最全面的,因为它需要评估所有其他关于可解释性的问题。
2019-04-17 cs.AI
Unraveling the Complexity of Memory in RL Agents: an Approach for Classification and Evaluation
AXXX;MIRIAI;ITMO University AI Talent Hub(ITMO大学AI人才中心);Mila – Quebec AI Institute(魁北克AI研究所);Polytechnique Montréal(蒙特利尔理工学院)
本文提出通过定义智能体记忆类型(如长期vs短期、陈述性vs程序性记忆)来简化强化学习中的记忆概念,并通过实验方法评估不同智能体的记忆能力。
2026-03-04 cs.AI cs.LG
Can an AI Agent Safely Run a Government? Existence of Probably Approximately Aligned Policies
ETH Zürich(苏黎世联邦理工学院)
针对自主智能体用于社会决策时缺乏安全保证的问题,本文基于效用与社会选择理论定义对齐,证明概率近似对齐策略存在的充分条件,并提出可验证防护任意黑盒策略的安全方法。
2024-11-21 cs.AI cs.CY
Single-agent Reinforcement Learning Model for Regional Adaptive Traffic Signal Control
本文提出一种基于单代理强化学习的区域自适应交通信号控制模型,利用探测车辆数据有效缓解区域拥堵。
2026-01-12 cs.AI cs.LG
Agent Manufacturing: Foundation-Model Agents as First-Class Industrial Entities
University of Canterbury(坎特伯雷大学)
本文提出Agent制造范式,即基础模型Agent通过解释开放目标、长程规划、调用工具和机器、与其他Agent及人类协商来协调生产,从而将工业中的人类协调认知工作自动化。
2026-05-24 cs.AI
Integrating Distributed Architectures in Highly Modular RL Libraries
Universitat Pompeu Fabra(庞培法布拉大学);ICREA(加泰罗尼亚研究与高级研究机构)
针对强化学习库中模块化与分布式扩展难以结合的问题,提出通过独立可复用组件定义不同规模RL智能体的通用方案,可复现基准、适配多类分布式架构并解决复杂环境任务,为下一代RL库提供参考。
2023-06-12 cs.AI cs.CV cs.LG
A Comprehensive Survey on Inverse Constrained Reinforcement Learning: Definitions, Progress and Challenges
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));University of Waterloo(滑铁卢大学);Pennsylvania State University(宾夕法尼亚州立大学);Vector Institute(向量研究所)
本文综述了逆向约束强化学习(ICRL)的定义、算法框架、应对各类环境挑战的方法及应用,并探讨了未决问题以促进理论与工业应用结合。
2025-02-01 cs.AI cs.LG
Agent Spaces
Massachusetts General Hospital(麻省总医院)
探索是强化学习中最重要的任务之一,但在动态规划范式中,它并没有很好地定义为有限问题(见2.4小节)。我们提供了一个可以应用于任何在线学习方法的探索的重新解释。我们从一个新的方向来探索这个定义。在发现探索的概念,以解决简单的马尔可夫决策过程与动态规划不再广泛适用,我们重新审视探索。我们不是扩展动态探索过程的目的,而是扩展它们的手段。也就是说,而不是重复采样每一个可能的状态动作对在一个过程中,我们定义的行为修改代理本身是探索性的。由此产生的探索定义可以应用于无限的问题和非动态学习方法,这是动态探索概念所不能容忍的。为了理解代理的修改影响学习的方式,我们描述了代理集合上的一种新结构:距离的集合(见脚注7)$d_{a} \in A$,它代表了过程中每个代理可能的视角。使用这些距离,我们定义了一个拓扑结构,并表明强化学习中的许多重要结构在智能体空间中的收敛引起的拓扑结构下表现良好。
2021-11-11 cs.AI cs.LG math.OC
A Deterministic Control Plane for LLM Coding Agents
Happiest Minds Technologies (AIP Centre of Excellence)(happiest minds technologies(aip中心卓越机构))
针对LLM编码代理配置缺乏管理的问题,提出确定性控制平面Rel(AI)Build,通过内容寻址、分层权限、阶段状态机等机制确保配置安全与一致性。
2026-06-26 cs.AI cs.CR cs.SE
Understanding Tool-Augmented Agents for Lean Formalization: A Factorial Analysis
University of California, Riverside(加州大学河滨分校)
本文通过因子分析评估三种工具类型在自然语言数学自动转换为Lean 4代码中的有效性,发现工具增强代理在编译成功率和语义等价性上有显著提升。
2026-04-16 cs.AI cs.LG cs.PL
DEPO: Dual-Efficiency Preference Optimization for LLM Agents
DEPO通过双效偏好优化方法提升LLM代理的效率和性能,减少token和步骤消耗,同时在多个基准测试中表现优异。
2025-11-19 cs.AI cs.CL
Knowledge Tagging with Large Language Model based Multi-Agent System
Squirrel AI Learning(松鼠AI智适应教育);Michigan State University(密歇根州立大学);Columbia University(哥伦比亚大学)
本文提出使用基于LLM的多智能体系统解决复杂知识标注问题,在MathKnowCT数据集上表现优于以往方法,展示了LLM在教育应用中的潜力。
2024-12-19 cs.AI cs.CL
Moral Responsibility for AI Systems
University of Amsterdam(阿姆斯特丹大学)
本文在因果模型框架下形式化定义了AI系统道德责任所需的因果条件与认知条件,并与BvH、HK方法比较,进而提出责任程度概念。
2023-10-27 cs.AI cs.CY cs.LO
TwoStep: Multi-agent Task Planning using Classical Planners and Large Language Models
University of Southern California(南加州大学)
本研究提出TwoStep方法,结合经典规划器与LLM,通过LLM进行多智能体目标分解,实现比直接求解多智能体PDDL更快的规划时间,同时减少执行步骤并保证执行成功,效果接近人类专家分解。
2025-03-25 cs.AI cs.CL cs.MA
Measuring and Characterizing Generalization in Deep Reinforcement Learning
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Brown University(布朗大学)
深度学习方法在具有挑战性的控制任务中取得了卓越的性能。对结果行为的观察给人的印象是,智能体已经构建了一个支持有见地的行动决策的广义表示。我们重新审视RL中的泛化意味着什么,并根据代理在策略上,策略外和不可达状态下的表现提出了几个定义。我们提出了一套实用的方法来评估这些定义的泛化代理。我们在深度强化学习的一个常见基准任务上演示了这些技术,并且我们表明,学习后的网络对于与策略状态仅略有不同的状态做出了糟糕的决策,即使这些状态没有被对抗性地选择。总之,这些结果对深度Q网络学习广义表征的程度提出了质疑,并表明在支持表示学习的主张之前,需要进行更多的实验和分析。
2018-12-11 cs.AI cs.LG stat.ML
Differentially Private Reinforcement Learning with Self-Play
UC Santa Barbara(加州大学圣巴巴拉分校)
该研究将联合与本地差分隐私定义扩展到两人零和马尔可夫博弈,提出基于乐观纳什值迭代的高效隐私强化学习算法,其遗憾界覆盖单智能体最优结果且无隐私时退化为多智能体最优水平,填补了多智能体轨迹级隐私研究空白。
2024-04-11 cs.AI cs.CR cs.LG