Artificial Immune Systems Metaphor for Agent Based Modeling of Crisis Response Operations
危机应对需要信息密集型的努力,用于减少不确定性,计算和比较成本和效益,并以超出常规的方式管理资源,以处理日常问题。本文提出了一种人工免疫系统(AIS)隐喻的危机应对行动的基于代理的建模。所提出的模型提出了一套混合方面(多智能体系统,内置的防御模型的AIS,情况管理,并基于强度的学习)的危机响应操作的集成。此外,建议的响应模型适用于大流行性流感在埃及的传播作为案例研究。
2010-04-21 cs.AI cs.CY cs.MA
Cooperative Artificial Intelligence
University College London(伦敦大学学院)
在未来,人工学习代理可能会在我们的社会中变得越来越普遍。他们将在各种复杂的环境中与其他学习代理和人类互动,包括社会困境。我们认为,有必要对博弈论和人工智能之间的交叉点进行研究,目标是实现合作的人工智能,可以很好地导航社会困境。我们考虑的问题是,外部代理如何通过观察学习者的行为来分配额外的奖励和惩罚,从而促进人工学习者之间的合作。我们提出了一个规则,自动学习如何通过考虑每个代理的预期参数更新创建正确的激励。使用这种学习规则导致在矩阵博弈中具有高社会福利的合作,否则代理将以高概率学习背叛。我们表明,即使在给定的情节数后关闭规划代理,在某些游戏中所产生的合作结果是稳定的,而其他游戏需要持续的干预,以保持相互合作。最后,我们首先反思了多智能体强化学习的目标,并讨论了构建合作AI目标的必要构建模块。
2022-02-20 cs.AI cs.GT cs.MA
Enhancing Lifelong Multi-Agent Path-finding by Using Artificial Potential Fields
Ben-Gurion University of the Negev(贝纳-戈里翁内盖夫大学)
本文探索将人工势场(APFs)整合到优先规划、MAPF-LNS2和PIBT等算法中,以解决多智能体路径规划(MAPF)和终身MAPF(LMAPF)问题,实验表明该方法虽未改善MAPF效果,但使LMAPF的系统吞吐量最高提升了7倍。
2025-05-28 cs.AI cs.MA cs.RO
MAgent: A Many-Agent Reinforcement Learning Platform for Artificial Collective Intelligence
Shanghai Jiao Tong University(上海交通大学);University College London(伦敦大学学院)
我们介绍了MAgent,一个支持多智能体强化学习研究和开发的平台。与以前的单智能体或多智能体强化学习研究平台不同,MAgent专注于支持需要数百万智能体的任务和应用。在一群智能体之间的交互中,它不仅可以研究智能体最优策略的学习算法,而且更重要的是,可以观察和理解人工智能社会中出现的个体智能体的行为和社会现象,包括通信语言,领导力,利他主义。MAgent具有高度可扩展性,可以在单个GPU服务器上托管多达100万个代理。MAgent还为AI研究人员提供灵活的配置,以设计他们的定制环境和代理。在这个演示中,我们展示了在MAgent上设计的三个环境,并展示了通过从头开始学习而形成的集体智慧。
2017-12-02 cs.AI cs.LG cs.MA
Do Artificial Reinforcement-Learning Agents Matter Morally?
人工强化学习(RL)是人工智能中广泛使用的技术,其提供用于训练代理执行各种各样的行为的通用方法。在计算机科学中使用的强化学习与动物和人类大脑中的奖励和惩罚学习有着惊人的相似之处。我认为,当今的人工RL代理具有非常小但非零的道德重要性。这对于那些认为感知力是基于心智的能力和复杂性的观点来说尤其合理,但即使是关于意识的二元观点也应该为具有道德相关经验的强化学习程序分配非零概率。虽然强化学习计划在今天并不是最重要的道德优先事项,但随着强化学习越来越多地应用于工业、机器人、视频游戏和其他领域,它们在未来几十年可能会变得更加重要。我鼓励科学家、哲学家和公民开始讨论我们的道德义务,以减少我们对无能为力、毫无责任感的RL代理人造成的伤害。
2014-10-30 cs.AI
Multiparty Dynamics and Failure Modes for Machine Learning and Artificial Intelligence
机器学习和人工智能系统的安全性面临的一个重要挑战是一组相关的故障,涉及规范游戏,奖励投机,脆弱性分布变化,古德哈特或坎贝尔定律。本文提出了其他故障模式的多智能体系统内的相互作用是密切相关的。这些多智能体故障模式比单智能体故障模式更复杂、更有问题、更不容易理解,并且已经发生,但基本上没有被注意到。在以扑克牌人工智能(AI)为例激发讨论之后,本文解释了为什么这些故障模式在某种意义上是不可避免的。在此之后,本文对故障模式进行了分类,提供了定义,并引用了每种模式的示例:意外转向,协调失败,对抗性未对准,输入欺骗和过滤,以及目标共同选择或直接黑客攻击。然后,本文讨论了现有的多智能体人工智能的文献如何未能解决这些故障模式,并确定了可能有助于缓解这些故障模式的工作。
2019-04-14 cs.AI cs.MA
Prosociality by Coupling, Not Mere Observation: Homeostatic Sharing in an Inspectable Recurrent Artificial Life Agent
Independent Research Engineer(独立研究工程师)
研究通过稳态耦合而非直接奖励或观察实现人工体的亲社会行为,发现耦合使智能体主动帮助同伴,而单纯观察无效。
2026-06-09 cs.AI cs.MA
Narrow Artificial Intelligence with Machine Learning for Real-Time Estimation of a Mobile Agents Location Using Hidden Markov Models
Université du Québec à Montréal(蒙特利尔魁北克大学)
我们建议使用有监督的机器学习技术来实时的跟踪移动代理的位置。隐马尔可夫模型用于构建人工智能,该智能估计在定义环境中移动的移动目标的未知位置。这种狭义的人工智能执行两个不同的任务。首先,它提供了实时的估计移动代理的位置使用的前向算法。其次,它使用Baum-Welch算法作为统计学习工具来获得移动目标的知识。最后,提出了一个实验环境,即一个视频游戏,我们用来测试我们的人工智能。我们提出的统计和图形结果来说明我们的方法的效率。
2018-02-09 cs.AI
Body-Grounded Perspective Formation and Conative Attunement in Artificial Agents
Active Inference Institute, CA, USA(主动推断研究所,加利福尼亚州,美国)
本文提出了一种最小架构,用于人工体中的具身视角形成,通过引入内感受性活力信号、Fisher式度量以及意图同调机制,展示了如何在无奖励的网格世界中将学习到的身体倾向转化为稳定的体定向行为。
2026-05-16 cs.AI
Minimal Computational Preconditions for Subjective Perspective in Artificial Agents
Hongju Pae 1
本文提出通过最小内部结构实现人工代理的主观视角,揭示了滞后效应作为衡量机器系统主观性的标志。
2026-03-03 cs.AI
Enhancing Evacuation Planning through Multi-Agent Simulation and Artificial Intelligence: Understanding Human Behavior in Hazardous Environments
King Abdul-Aziz University(阿卜杜勒阿齐兹国王大学)
本研究采用AI中的多智能体系统技术,基于NetLogo构建危险环境疏散仿真模型,以捕捉疏散场景复杂动态、深化人类危急行为理解,助力制定更高效的疏散策略,提升危险场所人员安全。
2023-06-11 cs.AI cs.MA
Coevo: a collaborative design platform with artificial agents
GTM-Grup de recerca en Tecnologies Mèdia(GTM-媒体技术研究小组);La Salle-Universitat Ramon Llull(拉蒙柳利大学拉萨尔学院)
我们提出Coevo,一个在线平台,允许人类和人工代理设计形状,解决不同的任务。我们的目标是探索共同的共享设计工具,可用于人类和人工智能体在创造的背景下。这种方法可以提供一个更好的知识传递和人工智能体的互动,因为一个共同的设计语言的定义。在本文中,我们概述了该平台的主要组件,并讨论了以人为本的语言的定义,以增强人类与人工智能在共同创造场景中的协作。
2019-04-30 cs.AI cs.HC cs.NE
Stoic Ethics for Artificial Agents
University of the Fraser Valley(菲沙河谷大学)
我们提出了一份立场文件,主张斯多葛哲学和伦理学可以为道德人工智能的发展提供信息。系统.这与大多数建立道德人工智能的工作形成鲜明对比,它主要关注功利主义或义务论的伦理理论。我们把道德人工智能斯多葛学派的几个核心概念,包括控制的二分法,四个基本美德,理想的圣人,斯多葛学派的做法,以及斯多葛学派对情感或影响的观点。更一般地说,我们提出了一个人工智能的伦理观。它更多地关注人工智能体的内部状态,而不是智能体的外部行为。我们提供了与近期A.I.相关的示例。系统以及假想的超级智能体。
2017-03-28 cs.AI
Perspective Taking in Deep Reinforcement Learning Agents
University of Tartu(塔尔图大学);Humboldt University of Berlin(柏林洪堡大学)
观点采择是一种从另一个主体的角度去看问题的能力。这种技能并不是人类独有的,其他动物如黑猩猩也有这种技能。它是社会交往的基本能力,包括有效的合作,竞争和沟通。在这里,我们提出了我们的进展,建设人工智能与这种能力。我们实施了一个观点转换任务,灵感来自黑猩猩实验。我们表明,人工神经网络控制的代理可以通过强化学习学习,以通过简单的测试,需要采取的观点能力。我们研究了这种能力是否更容易学习的代理与信息编码在allocentric或自我中心的形式,他们的视觉感知和运动动作。我们相信,从长远来看,构建更好的具有观点采择能力的人工智能体可以帮助我们开发更像人类、更容易沟通的人工智能。
2020-04-16 cs.AI cs.LG cs.MA
Legal Responsibilities Using Autonomous Agents For Artificial Intelligence
ChiTek-i AS
该研究针对AI智能体脱离管控引发的法律责任问题,采用承诺理论的下游原则提出系统性解决方法,可将责任扩展至AI智能体,并通过政策限制其行动自由。
2026-08-11 cs.AI cs.CY
Development of collective behavior in newborn artificial agents
Indiana University(印第安纳大学)
集体行为在动物王国中很普遍。然而,到目前为止,集体行为的发展和机械基础还没有正式建立。什么样的学习机制驱动新生动物集体行为的发展?在这里,我们使用了深度强化学习和好奇心驱动的学习--这两种学习机制深深植根于心理学和神经科学研究--来构建发展集体行为的新生人工代理。就像新生动物一样,我们的智能体从自然环境中的原始感官输入中学习集体行为。我们的智能体还可以在没有外部奖励的情况下学习集体行为,只使用内在动机(好奇心)来驱动学习。具体来说,当我们在自然视觉环境中与群体成员一起提高我们的人工智能体时,智能体自发地发展自我运动,物体识别和对群体成员的偏好,快速学习集体行为所需的所有核心技能。这项工作弥合了高维感官输入和集体行动之间的鸿沟,从而形成了集体动物行为的像素到行动模型。更一般地说,我们证明了两种通用的学习机制--深度强化学习和好奇心驱动学习--足以从无监督的自然经验中学习集体行为。
2021-11-06 cs.AI
Artificial virtuous agents in a multiagent tragedy of the commons
Lund University(隆德大学)
虽然美德伦理学已经多次被提出作为一个合适的框架,人工道德代理(AMAs)的发展,它已被证明是难以接近从计算的角度来看。在这项工作中,我们提出了人工良性代理(AVA)的道德模拟的第一个技术实现。首先,我们回顾了之前在人工美德伦理学方面的概念和技术工作,并描述了基于气质美德、自下而上的学习和自上而下的幸福奖励的AVA功能主义路径。然后,我们提供了一个技术实现的细节,在道德模拟的基础上的悲剧的公地的情况。实验结果表明,AVA如何学会解决合作问题,同时表现出他们的理论对应的核心特征,包括道德品质,气质美德,从经验中学习,追求幸福。最后,我们认为,美德伦理学提供了一个令人信服的道路,道德优秀的机器,我们的工作提供了一个重要的起点,这样的努力。
2022-10-06 cs.AI
Artificial intelligence is algorithmic mimicry: why artificial "agents" are not (and won't be) proper agents
University of Vienna(维也纳大学);Complexity Science Hub (CSH) Vienna(维也纳复杂科学中心);Ronin Institute(罗宁研究所)
本文通过比较生命系统与算法系统在自创生、具身性和问题世界三方面的根本差异,论证当前算法框架下不可能产生真正的 AGI 与能动性,主张聚焦窄 AI 的风险与机遇。
2024-02-22 cs.AI
Ontological Crises in Artificial Agents' Value Systems
The Singularity Institute for Artificial Intelligence(奇点人工智能研究所)
决策理论代理使用其环境的模型或本体来预测和评估其行为的结果。代理的目标或效用函数也可以根据其本体的状态或其本体内的实体来指定。如果代理可能会升级或更换其本体,它面临着一个危机:代理的原始目标可能无法很好地定义其新的本体。这个危机必须在代理人能够制定实现其目标的计划之前解决。在本文中,我们将讨论哪些类型的代理将经历本体论危机,以及为什么我们可能要创建这样的代理。我们提出了一些具体的例子,并认为,一个定义明确的程序来解决本体论的危机是必要的。我们指出一些可能的方法来解决这个问题,并评估这些方法对我们的例子。
2011-05-19 cs.AI
Cooperative control of environmental extremes by artificial intelligent agents
Universitat Pompeu Fabra(庞培法布拉大学);Inria(法国国家信息与自动化研究所);Université de Bordeaux(波尔多大学);ENSTA ParisTech(巴黎高等先进技术学院);Institució Catalana de Recerca i Estudis Avançats(加泰罗尼亚研究与高等研究院);Santa Fe Institute(圣塔菲研究所)
人类已经能够通过充当生态系统工程师来解决生物圈的复杂性,深刻地改变了物质,能量和信息的流动。这包括能够减少和控制极端事件影响的重大创新。鉴于可能涉及大量的个人和环境变量,对这种适应性动态的演变进行建模可能具有挑战性。本文展示了如何解决这个问题,通过使用火作为外部,突发和广泛的波动的来源。火在空间景观上传播,其中一组代理人收获和利用树木,同时避免火蔓延的破坏性影响。代理需要解决冲突,以达到组级的最佳状态:虽然树木采伐减少了火灾的传播,但它也减少了树木提供的资源的可用性。结果表明,该系统显示出两个主要的进化创新,最终在生态工程策略,有利于高生物量以及抑制大火。对潜在人工智能的影响。管理复杂的生态系统。
2022-12-05 cs.AI cs.MA
Minimum Levels of Interpretability for Artificial Moral Agents
Imperial College London(伦敦帝国学院)
本文针对人工道德智能体(AMA)的安全部署问题,引入最低可解释性水平(MLI)概念,概述AI可解释性子领域并为各类智能体推荐相应MLI,以促进其有效使用、错误纠正及安全部署。
2023-07-02 cs.AI cs.CY
Towards Artificial Virtuous Agents: Games, Dilemmas and Machine Learning
机器伦理在过去几年中受到越来越多的关注,因为需要确保安全可靠的人工智能(AI)。在机器伦理学中占主导地位的两个理论是义务论和功利主义伦理学。另一方面,美德伦理学经常被认为是一种替代性的伦理理论。虽然这种有趣的方法有一定的优势,流行的伦理理论,很少有人投入工程人工良性代理人,由于其形式化的挑战,编纂,并解决道德困境训练良性代理人。我们建议通过使用充满道德困境的角色扮演游戏来弥合这一差距。有几个这样的游戏存在,如论文,请和生活是奇怪的,其中主要人物遇到的情况下,他们必须选择正确的行动方针,放弃其他亲爱的他们。我们从这样的游戏中汲取灵感,展示如何设计一个系统性的角色扮演游戏,以发展人工代理人的美德。使用现代人工智能技术,如基于亲和力的强化学习和可解释的人工智能,我们激励实施玩这种角色扮演游戏的良性代理,并通过道德伦理镜头检查他们的决定。这种代理人和环境的发展是走向实际上正式化和证明美德伦理学在道德代理人发展中的价值的第一步。
2022-12-10 cs.AI
Guilty Artificial Minds
University of Tübingen, Carl Friedrich von Weizsäcker Center(图宾根大学,卡尔·弗里德里希·冯·魏茨泽克中心);University of Geneva, Department of Philosophy(日内瓦大学哲学系);University of Zurich, Department of Philosophy(苏黎世大学哲学系)
在人类的道德生活中,应受责备和错误的概念具有根本的重要性。但是,人类在多大程度上倾向于指责人工智能代理人,在多大程度上他们会判断自己的行为在道德上是错误的?为了在这些问题上取得进展,我们采用了两种新的策略。首先,我们打破了归咎和错误到更基本的判断的认知和意动状态的代理人,和代理人的行动的后果的归因。通过这种方式,我们能够根据这些更基本的判断的差异来检查参与者对待人工代理的方式之间的任何差异。我们的第二个策略是比较人类、人工和群体代理(公司)之间的责任和错误归因。其他人比较了人类和人工代理人之间的责备和错误的归因,但是群体代理人的加入是重要的,因为这些代理人似乎在人类代理人(为他们创造了责备和错误的概念)和人工代理人(对他们来说问题仍然是开放的)之间提供了一个明确的中间地带。
2021-01-24 cs.AI cs.CY cs.HC
Quasi-Dilemmas for Artificial Moral Agents
Tufts University(塔夫茨大学);Colorado School of Mines(科罗拉多矿业学院)
在本文中,我们描述了道德准困境(MQDs):类似于道德困境的情况下,但在其中的代理是不确定的探索计划空间或世界可能会揭示一个行动过程,满足所有的道德要求。我们认为,人工道德代理(AMA)应建立处理MQDs(特别是,通过探索计划空间,而不是立即接受不可避免的道德困境),MQDs可能是有用的评估AMA架构。
2018-07-06 cs.AI cs.CY
Dimensions of Disagreement: Unpacking Divergence and Misalignment in Cognitive Science and Artificial Intelligence
Princeton University(普林斯顿大学)
本文剖析了人类与AI间分歧的两大来源(评价分歧与表征错位),指出量化表征重叠并理解两者相互作用及解决策略,是促进多智能体有效协作的关键。
2023-10-03 cs.AI q-bio.NC
Building Socio-Affective Artificial Intelligence for Interactive Multi-Agent Simulations
Escola de Noves Tecnologies Interactives (ENTI), Universitat de Barcelona(巴塞罗那大学新交互技术学院(ENTI))
本文提出AGIMUD软件架构,整合社会情感推理、人类多模态交互和分布式AI处理,实现人类与多智能体在模拟动态世界中的实时交互。
2026-10-01 cs.AI cs.CY cs.GT
A Theoretical Framework of the Processes of Change in Psychotherapy Delivered by Artificial Agents
Department of Psychology and Behavioral Sciences(心理学与行为科学系)
本文针对人工智能体心理治疗改变过程研究不足的问题,首次提出相关理论框架,指出人类治疗师的存在论与社会文化地位的缺失会引致真实性和可信度差距,同时分析了智能体能动性的影响并给出研究与应用方向。
2025-09-02 cs.AI cs.HC
Natural Emergence of Heterogeneous Strategies in Artificially Intelligent Competitive Teams
Carnegie Mellon University(卡内基梅隆大学)
混合合作竞争环境中的多智能体策略很难手工制作,因为每个智能体在与对手竞争的同时需要与队友协调。基于学习的算法是有吸引力的,但许多情况下需要异构代理行为的团队的成功,这增加了学习算法的复杂性。在这项工作中,我们开发了一个有竞争力的多智能体环境称为FortAttack中,两个团队相互竞争。我们证实,用图神经网络对代理进行建模,并用强化学习对它们进行训练,会导致每个团队的策略越来越复杂。我们观察到一个自然出现的异构行为之间的同质代理时,这种行为可以导致团队的成功。来自同质代理的这种异质行为是有吸引力的,因为任何代理都可以在测试时替换另一个代理的角色。最后,我们提出了集成训练,在其中,我们利用进化的对手的战略,训练一个单一的政策,友好的代理。
2020-07-06 cs.AI
OpenLife: Toward Open-World Artificial Life with Autonomous LLM Agents
Alternative Machine Inc.(Alternative Machine公司);Their Inc.(Their公司);Atomi University(迹见学园女子大学);The University of Tokyo(东京大学)
提出开放世界人工生命范式,通过将无状态LLM与异步进程(记忆、感知、评估、预算代谢)结合,使代理在开放世界中涌现自发活动、个体化、社会结构和自创收入。
2026-07-01 cs.AI
Speculative Exploration on the Concept of Artificial Agents Conducting Autonomous Research
本文从概念上界定研究行为,分析问题提出、假说生成与验证等核心环节及机器自主执行的潜力与挑战,并探讨以原型构建推进研究型智能体开发。
2023-12-06 cs.AI cs.LG
Artificial Agents and Speculative Bubbles
本研究属于基于主体的计算经济学(ACE),提出了两个基于双重拍卖机制的交易所价格固定下投机泡沫的上升和下降模型。第一个模型是基于一个有限的时间范围内,预期的股息随着时间的推移而减少。第二个模型遵循{ \em更大的傻瓜}假设;代理人的行为取决于估计的风险与更大的傻瓜的比较。模拟揭示了在所考虑的框架内的资产市场中的投机泡沫的显形的影响参数和必要条件。
2005-11-28 cs.AI cs.GT
Universal Empathy and Ethical Bias for Artificial General Intelligence
AIDEUS;National Research University of Information Technology, Mechanics and Optics(国立信息技术、机械与光学大学);Aix Marseille Université(艾克斯-马赛大学);CNRS(法国国家科学研究中心)
理性代理通常是为了最大化回报而构建的。然而,AGI代理可以找到不受欢迎的方式来最大化任何先验奖励函数。因此,价值学习对于安全的AGI至关重要。我们假设世界的广义状态是有价值的-而不是奖励本身,并提出了AIXI的扩展,其中奖励仅用于引导分层值学习。修改后的AIXI代理被认为是在多代理环境中,其中其他代理可以是人类或其他“成熟”代理,这些值应该被“婴儿”AGI代理揭示和采用。作为通用智能模型的扩展,提出了设计这种具有道德偏见的移情代理的一般框架。此外,我们在简单的马尔可夫环境中进行了实验,证明了我们的方法在安全AGI中进行价值学习的可行性。
2013-08-03 cs.AI
An Approach to Joint Hybrid Decision Making between Humans and Artificial Intelligence
Human-Machine Systems, Fraunhofer FKIE(人机系统,弗劳恩霍夫 FKIE);Humanoid Robots Lab, University of Bonn(人形机器人实验室,波恩大学)
本文提出了一种联合混合智能框架,旨在整合人类与人工智能的异质能力,通过联合代理工程和设计模式实现决策代理的协同优化。
2025-11-29 cs.AI cs.HC cs.LG
Artificial Decision Making Under Uncertainty in Intelligent Buildings
Stockholm University(斯德哥尔摩大学);Royal Institute of Technology(皇家理工学院);University of Karlskrona/Ronneby(卡尔斯克鲁纳/罗内比大学)
我们的假设是,通过装备某些代理在多代理系统控制智能建筑与自动决策支持,两个重要因素将增加。第一是建筑节能。第二个是顾客价值-建筑物内的人如何体验代理人行为的效果。我们通过与人工决策工具相关的实验结果来证明这一假设的真实性。一些假设有关的代理控制,通过监测和委托任务的其他类型的代理,房间在测试现场放松。每个假设控制至少一个不确定性,相当复杂的程序选择行动的一部分,每个这样的代理。我们表明,在现实的决策情况下,房间控制代理可以作出有限的理性决策,即使在动态实时约束。这个结果可以,并已被推广到其他领域,甚至更苛刻的时间限制。
2013-01-23 cs.AI
Evaluating Empathy in Artificial Agents
Simon Fraser University(西蒙弗雷泽大学)
计算共情的新研究领域正处于起步阶段,并正在朝着开发方法和标准的方向发展。一个主要的问题是缺乏共识的评价共情在人工交互系统。尽管存在心理学、精神病学和神经科学的成熟方法,但这些方法与计算共情之间的转换并不简单。它需要集体努力来开发更适合交互式人工代理的指标。本文旨在尝试就这一重要问题展开对话。我们研究了人类同理心的评估方法,并为开发更好的指标来评估人工代理的同理心提供了建议。我们承认在一个单一的解决方案,在各种各样的交互式系统,并提出了一套系统的方法,可用于各种应用程序和系统的困难。
2019-08-14 cs.AI cs.HC
Polycraft World AI Lab (PAL): An Extensible Platform for Evaluating Artificial Intelligence Agents
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Georgia Institute of Technology and Emory University(佐治亚理工学院和埃默里大学)
随着人工智能研究的进步,用于评估人工智能智能体的平台需要适应和发展,以继续挑战它们。我们介绍了Polycraft World AI Lab(PAL),这是一个基于Minecraft mod Polycraft World的API任务模拟器。我们的平台旨在允许具有不同架构的人工智能智能体轻松地与Minecraft世界进行交互,训练并在多个任务中进行评估。PAL允许以灵活的方式创建任务,并能够在评估期间操纵任务的任何方面。人工智能智能体和外部参与者(非玩家角色,NPC)在开放世界环境中采取的所有行动都被记录下来,以简化评估。在这里,我们提出了两个自定义任务的PAL平台上,一个专注于多步规划和一个专注于导航,并评估代理解决这些问题。总之,我们报告了一个多功能和可扩展的人工智能评估平台,人工智能研究人员可以利用它的低门槛。
2023-01-27 cs.AI
NGENT: Next-Generation AI Agents Must Integrate Multi-Domain Abilities to Achieve Artificial General Intelligence
Renmin University(中国人民大学);Peking University(北京大学);College of Informatics, Huazhong Agricultural University(华中农业大学信息学院);Shandong University(山东大学)
本文提出下一代AI智能体(NGENT)应整合文本、视觉和强化学习等多领域能力至统一框架,以突破当前狭窄领域的局限,从而实现通用人工智能(AGI)所需的通用性与适应性。
2025-04-30 cs.AI
Designing a Safe Autonomous Artificial Intelligence Agent based on Human Self-Regulation
University at Albany(奥尔巴尼大学)
本文提出通过研究人类自我调节机制,设计安全的人工智能代理,以避免复杂系统中因目标不明确导致的有害后果。
2017-01-05 cs.AI cs.SY eess.SY
Artificial Utopia: Simulation and Intelligent Agents for a Democratised Future
University of Lausanne(洛桑大学)
本文提出Artificial Utopia研究议程,主张利用智能体建模、强化学习和大语言模型等计算与人工智能方法,在模拟环境中安全检验自下而上的民主化制度设计,并以公民大会和民主企业为例说明其研究潜力。
2025-03-10 cs.AI cs.CY cs.MA
Same World, Differently Given: History-Dependent Perceptual Reorganization in Artificial Agents
Active Inference Institute(主动推理研究所)
本文提出了一种最小架构,通过反馈的慢视角潜在变量g实现感知重组,使相同观察在不同历史下编码不同,验证了适应性自调节在代理历史依赖性视角组织中的作用。
2026-07-27 cs.AI
Environmental requirements for the use of social information by artificial life agents using evolved plastic artificial neural networks
Aston Centre for AI Research and Application, Aston University(阿斯顿大学阿斯顿人工智能研究与应用中心)
本研究通过进化可塑性人工神经网络智能体在觅食环境中的实验,探究社会信息使用进化的最小环境条件,发现环境复杂性是关键因素。
2026-09-29 cs.AI
Black Box Deployed -- Functional Criteria for Artificial Moral Agents in the LLM Era
针对LLM黑箱性使传统AMA伦理标准失效的问题,本文提出十项功能标准,并以自动驾驶公共汽车情境说明其评估SMA-LLS的适用性。
2025-07-25 cs.AI
MOD-X: A Modular Open Decentralized eXchange Framework proposal for Heterogeneous Interoperable Artificial Intelligence Agents
James Silberrad Brown Center for Artificial Intelligence(詹姆斯·西伯拉德·布朗人工智能中心);Carnegie Mellon University(卡内基梅隆大学);Amazon GenAI(亚马逊生成人工智能);University of Bristol(布里斯托大学)
MOD-X提出一种分层架构框架,通过通用消息总线、状态管理、翻译及区块链安全机制,实现异构智能体间的去中心化互操作,其核心创新包括发布-订阅通信、语义发现和动态工作流编排。
2025-07-08 cs.AI cs.DC cs.MA
Artificial Empathy: Towards a Framework for Unsupervised Agency Detection and Policy Reconstruction
Human Inductive Bias Project(人类归纳偏差项目)
该研究提出一种基于强化学习智能体先验的无监督框架,用于从观察中检测环境中的智能体并重构其策略,解决了仅通过观察建模环境智能体的问题。
2026-08-25 cs.AI
Ethical Artificial Intelligence
Machine Intelligence Research Institute(机器智能研究院)
这本书长的文章结合了几篇同行评议的论文和新材料,分析了伦理人工智能(AI)的问题。未来人工智能系统的行为可以通过数学方程来描述,这些方程适用于分析可能的非预期人工智能行为以及人工智能设计可以避免它们的方式。这篇文章提出了效用最大化代理和避免代理定义中的无限集的案例。它展示了如何使用基于模型的效用函数来避免智能体自我欺骗,以及如何使用效用函数来避免智能体破坏其奖励生成器(有时称为“反常实例化”),该效用函数从人类在不同时间点的角度评估在一个时间点的结果。它认为,智能体可以通过准确地学习人类价值观来避免无意的工具性行为(有时称为“基本人工智能驱动”或“工具性目标”)。本文定义了一个自建模代理框架,并展示了它如何避免资源限制的问题,被其他代理预测,以及代理的效用函数与其定义之间的不一致(这个问题的一个版本有时被称为“动机价值选择”)。本文还讨论了未来的人工智能将如何与当前的人工智能不同,人工智能的政治,以及人工智能的最终用途,以帮助理解宇宙的性质和我们在其中的位置。
2015-11-17 cs.AI
Can Artificial Intelligence Embody Moral Values?
Vlerick Business School(弗拉里克商学院);KU Leuven(鲁汶大学)
本文论证人工智能体通过整合道德价值观的计算模型挑战了技术中立性论点,提出概念框架并验证artificial conscience和ethical prompting两种方法能使智能体在文本游戏中表现得更合乎道德。
2024-08-22 cs.AI
Towards socially-competent and culturally-adaptive artificial agents Expressive order, interactional disruptions and recovery strategies
本文提出一个框架,通过区分表达秩序与功能秩序、分类互动中断并设计恢复策略,使智能体在多主体社会情境中具备超越个体个性化的文化适应能力,并评估不同架构的适用性。
2023-08-06 cs.AI cs.CY cs.HC
If our aim is to build morality into an artificial agent, how might we begin to go about doing so?
Imperial College London(帝国理工学院)
本文探讨了如何构建具有道德的人工智能体,分析了道德范式、设计方法及情感作用,并提出混合设计与分层结合道德范式的解决方案,强调治理与政策的关键性。
2023-10-12 cs.AI
Autonomy, Social Norms, and Alignment: Towards a Developmental Framework for Autonomous Artificial Agents
Institute of Cognitive Sciences and Technologies (ISTC-CNR)(认知科学与技术研究所(ISTC-CNR));Interdepartmental Center for Research Ethics and Integrity (CID Ethics)(跨部门研究伦理与诚信中心(CID Ethics))
针对大规模模型在动态环境中对齐不足的问题,提出基于内在动机、经验性规范学习及监管沙盒教学环境的发展性框架,以逐步塑造自主智能体的对齐行为。
2026-09-11 cs.AI
Contesting Artificial Moral Agents
IIIT-Delhi(德里印度理工学院)
本文提出了一种5E框架,用于挑战人工道德代理的道德性,涵盖伦理、认识论、可解释性、经验和评估五个方面,并提供时间线以指导价值对齐的AI发展。
2026-02-10 cs.AI cs.CY
Bio AI Agent: A Multi-Agent Artificial Intelligence System for Autonomous CAR-T Cell Therapy Development with Integrated Target Discovery, Toxicity Prediction, and Rational Molecular Design
Bio LIMS INC(Bio LIMS公司)
针对CAR-T疗法开发周期长、临床损耗率高的问题,提出多智能体系统Bio AI Agent,通过六个专业智能体协作自主完成靶点选择、毒性预测等CAR-T开发全流程,回顾性验证效果显著,可加速免疫疗法转化。
2025-11-11 cs.AI q-bio.QM
Why Specialist Models Still Matter: A Heterogeneous Multi-Agent Paradigm for Medical Artificial Intelligence
Fudan University(复旦大学)
提出HetMedAgent异构多智能体框架,通过冲突感知证据融合、不确定性驱动的临床医生干预触发和自适应阈值校准,实现通用大语言模型与领域专家模型的协同,在三个临床决策任务中验证了专家模型在模态特定分析中的不可替代价值。
2026-05-28 cs.AI cs.CL cs.LG
Bridging the Communication Gap: Artificial Agents Learning Sign Language through Imitation
University of Manchester(曼彻斯特大学);Manchester Centre for Robotics and AI(曼彻斯特机器人与人工智能中心);Department of Computer Science, University of Manchester(曼彻斯特大学计算机科学系)
本文提出融合计算机视觉、深度学习与强化学习的模仿学习框架,使模拟人形机器人仅依靠视频即可学会5种美国手语手势。
2024-06-14 cs.AI cs.GR cs.HC
Artificial Intelligence Agents in Music Analysis: An Integrative Perspective Based on Two Use Cases
Dpto. Ingeniería de Comunicaciones, Universidad de Málaga, Campus de Teatinos(通信工程系,马拉加大学,泰蒂诺校区);Universidad Rey Juan Carlos(雷乌安卡洛斯大学)
本文通过教育应用与符号音乐分析双案例,验证AI智能体在音乐领域的效果,构建兼顾技术、教学与伦理的统一框架,为相关场景的智能体设计部署提供指导。
2025-11-17 cs.AI