Playing a Strategy Game with Knowledge-Based Reinforcement Learning
arago GmbH(arago有限公司)
本文提出基于知识的强化学习KB-RL,融合多专家知识与强化学习冲突解决策略,在FreeCiv策略游戏中实现完整通关并战胜电脑玩家,且随经验增加持续缩短获胜回合数。
2019-08-15 cs.AI
Applying supervised and reinforcement learning methods to create neural-network-based agents for playing StarCraft II
近年来,人们提出了多种方法来创建用于玩各种复杂的实时计算机游戏(如星际争霸II或Dota 2)的代理,然而,它们要么将大量的专家知识嵌入到代理中,要么使用对大多数研究人员来说过于庞大的计算资源。我们提出了一个神经网络架构,用于玩星际争霸II的完整双人比赛,该架构采用通用监督和强化学习进行训练,可以在具有单个GPU的单个消费级PC上进行训练。我们还表明,我们的实现了一个不平凡的性能相比,在游戏中脚本机器人。除了在一张选定的地图上进行游戏外,我们对游戏没有任何简化的假设,而且我们使用很少的专业知识。原则上,我们的方法可以应用于任何RTS游戏的小修改。虽然我们的结果在最终性能方面远远落后于最先进的大规模方法,但我们相信我们的工作可以作为其他小规模实验的坚实基线。
2021-09-26 cs.AI
Hybrid Minimax-MCTS and Difficulty Adjustment for General Game Playing
Universidade Federal do Rio Grande do Sul(南里奥格兰德联邦大学)
提出一种适用于零和游戏的Minimax-MCTS混合算法与难度调整通用方法,在LoBoGames平台上验证了其在通用博弈中的有效性与可扩展性。
2023-10-25 cs.AI
Shallow decision-making analysis in General Video Game Playing
Queen Mary University of London(伦敦玛丽女王大学);Southern University of Science and Technology(南方科技大学)
通用视频游戏AI竞赛已经成为几种游戏技术的测试场,例如演化计算技术,树搜索算法,基于超启发式或基于知识的算法。到目前为止,用于评估代理人的性能的指标是胜率,游戏得分和游戏长度。在本文中,我们提供了一个更广泛的指标和比较方法,用于评估和比较代理。的指标和比较方法给浅反省到代理的决策过程中,它们可以应用于任何代理,无论其算法的性质。在这项工作中,指标和比较的方法来衡量的条款,构成一个基于MCTS的代理树策略的影响,与几个基线代理。结果清楚地表明,这种通用方法是多么有前途,以及它如何有助于理解人工智能智能体的行为,特别是与基线代理的比较如何有助于理解代理决策景观的形状。所提出的指标和比较方法代表了一个步骤,以更描述性的方式记录和分析代理的行为。
2018-06-04 cs.AI
Playing Atari Games with Deep Reinforcement Learning and Human Checkpoint Replay
University Politehnica of Bucharest(布加勒斯特理工大学)
本文介绍了一种使用深度强化学习从Arcade学习环境中学习如何玩最难的Atari 2600游戏的新方法。所提出的方法,人类检查点重放,包括使用从人类游戏中采样的检查点作为学习过程的起点。这是为了弥补当前探索策略的困难,例如ε贪婪,在稀疏奖励的游戏中找到成功的控制策略。与其他深度强化学习架构一样,我们的模型使用了一个卷积神经网络,它只接收原始像素输入来估计状态价值函数。我们在Atari平台上最具挑战性的两款游戏Montezuma's Revenge和Private Eye上测试了我们的方法。我们得到的结果显示了显着的改善相比,以前的学习方法,以及在一个随机的球员。我们还提出了一种使用人类游戏体验来训练深度强化学习代理的方法,我们称之为人类体验重播。
2016-07-18 cs.AI
Minibal: Balanced Game-Playing Without Opponent Modeling
LAMSADE, Université Paris-Dauphine, PSL, CNRS(巴黎第四大学LAMSADE研究所,巴黎法兰西理工大学,法国国家科学研究中心)
本文提出Minibal算法,通过改进极大极小算法实现平衡游戏策略,实验表明其在多种棋盘游戏中表现出接近完美平衡的性能,为设计兼具挑战性与趣味性的AI代理提供新方法。
2026-03-24 cs.AI
Thespian: Multi-Character Text Role-Playing Game Agents
Georgia Institute of Technology(佐治亚理工学院)
提出Thespian框架,通过软提示和注意力机制使智能体学习并扮演多个角色,在多角色与少样本学习上优于现有方法。
2023-08-03 cs.AI cs.CL
Playing Carcassonne with Monte Carlo Tree Search
Maynooth University(梅努斯大学);National Autonomous University of Mexico(墨西哥国立自治大学)
蒙特卡罗树搜索(MCTS)是文献中一种相对较新的多变量抽样方法。它们可以应用于各种具有挑战性的领域,包括棋盘游戏,视频游戏和基于能量的问题等等。在这项工作中,我们将探讨使用香草MCTS和MCTS与快速行动价值估计(MCTS-RAVE)在卡尔卡松,一个随机游戏的欺骗性评分系统,其中有限的研究已经进行了游戏。我们比较了基于MCTS的方法与Star2.5算法的优势,以前报道过在卡尔卡松游戏中产生竞争力的结果时,特定领域的启发式用于评估游戏状态。我们分析的特殊性时,他们共享一个共同的奖励系统的算法所采用的策略。基于MCTS的方法始终优于Star2.5算法,因为它们能够找到并遵循长期策略,其中香草MCTS表现出比MCTS-RAVE更强大的游戏性。
2020-10-04 cs.AI
Elastic Monte Carlo Tree Search with State Abstraction for Strategy Game Playing
Queen Mary University of London(伦敦玛丽女王大学);Leibniz University Hannover(汉诺威莱布尼茨大学)
战略视频游戏挑战人工智能智能体与他们的组合搜索空间所造成的复杂的游戏元素。状态抽象是一种降低状态空间复杂度的流行技术。然而,目前的游戏状态抽象方法依赖于领域知识,使其应用到新的游戏昂贵。不需要领域知识的状态抽象方法在规划领域得到了广泛的研究。然而,没有证据表明它们可以很好地适应策略游戏的复杂性。在本文中,我们提出了弹性MCTS,一个算法,使用状态抽象玩策略游戏。在Elastic MCTS中,树的节点是动态聚类的,首先通过状态抽象逐渐分组在一起,然后在达到迭代阈值时分离。这种弹性变化既得益于状态抽象带来的高效搜索,又避免了状态抽象对整个搜索的负面影响。为了评估我们的方法,我们利用通用策略游戏平台Stratega来生成不同复杂度的场景。结果表明,弹性MCTS优于MCTS基线有很大的利润,同时减少了$10$的一个因素的树的大小。代码可以在:https://github.com/egg-west/Stratega上找到
2022-05-30 cs.AI
Evaluating Generalisation in General Video Game Playing
Queen Mary University of London(伦敦玛丽女王大学)
通用视频游戏人工智能(GVGAI)竞赛已经运行了几年,有各种赛道。本文重点研究了GVGAI学习轨迹的挑战性,其中选择了3个游戏,并给出了2个级别用于训练,而3个隐藏级别用于评估。这种设置对当前的强化学习(RL)算法提出了困难的挑战,因为它们通常需要更多的数据。这项工作调查了3个版本的优势演员-评论家(A2 C)算法,从GVGAI框架中的5个可用级别中最多训练了2个级别,并比较了它们在所有级别上的性能。所选择的游戏子集具有不同的特征,如随机性,奖励分配和目标。我们发现,随机性提高了泛化能力,但太多的随机性会导致算法无法学习训练水平。培训级别的质量也很重要,不同的培训级别可以促进所有级别的泛化。在GVGAI比赛中,代理商根据他们的胜率和他们在比赛中的得分进行评分。我们发现,仅仅使用游戏提供的奖励可能不会鼓励获胜。
2020-05-22 cs.AI
Playing Atari Ball Games with Hierarchical Reinforcement Learning
Florida State University(佛罗里达州立大学)
人类特别擅长从几个例子中进行推理和推断。当面临新任务时,人类会利用以前学到的知识和技能,并迅速将它们与新任务结合起来。除了通过实验学习,人类还通过指导和榜样学习来学习社会文化。通过这种方式,在许多任务中,与当前大多数人工智能算法相比,人类可以更快地学习。在本文中,我们测试了通过社会学习加速机器学习的想法。我们认为,在解决现实世界中的问题,特别是当任务是由人类设计的,和/或为人类,通常有指示,从用户手册和/或人类专家,提供指导方针,如何更好地完成任务。我们认为,这些指令在设计一个可以以人类方式学习的强化学习系统方面具有巨大的价值,我们通过玩Atari游戏网球和乒乓来测试这个想法。我们的实验表明,指令提供了关键信息的任务,可用于分解的学习任务到子系统和构建选项的时间扩展的规划,并大大加快学习过程。
2019-09-27 cs.AI
Learning Game-Playing Agents with Generative Code Optimization
stanford(斯坦福大学)
本文提出用大语言模型将游戏策略表示为可自我演化的 Python 代码,通过执行轨迹与自然语言反馈优化智能体,在 Atari 游戏上以更少训练时间和环境交互达到与深度强化学习基线相当的性能。
2025-08-27 cs.AI cs.LG
On Measuring the Impact of Human Actions in the Machine Learning of a Board Game's Playing Policies
我们系统地研究了人工干预对策略棋盘游戏中计算机玩家训练的影响。在该游戏中,计算机玩家利用神经网络的强化学习来发展他们的游戏策略,并表现出缓慢的学习速度。人工干预可以显著提高学习性能,但系统地进行它似乎是一个集成的游戏开发环境,而不是自动进化学习的问题。
2006-11-30 cs.AI cs.GT cs.NE
Understanding Game-Playing Agents with Natural Language Annotations
University of California, Berkeley(加州大学伯克利分校)
我们提供了一个包含10 K人类注释的围棋游戏的新数据集,并展示了如何将这些自然语言注释用作模型可解释性的工具。给定一个董事会状态及其相关评论,我们的方法使用线性探测来预测特定领域术语的提及(例如,ko,atari)从像AlphaGo Zero这样的游戏代理的中间状态表示。我们发现这些游戏概念被非平凡地编码在两个不同的策略网络中,一个通过模仿学习训练,另一个通过强化学习训练。此外,提到的领域特定的条款最容易预测从这两个模型的后面几层,这表明这些政策网络编码的高层次的抽象类似于那些使用的自然语言注释。
2022-04-15 cs.AI cs.CL
Static Vs. Agentic Game Master AI for Facilitating Solo Role-Playing Experiences
Aalborg University(奥尔堡大学)
本文比较了两种单人角色扮演游戏主持人AI:基于简化提示工程的v1与采用多智能体架构和ReAct框架的v2,实验证明v2在保持可玩性的同时显著提升了模块化、沉浸感和好奇心。
2025-03-06 cs.AI cs.HC
General Board Game Playing for Education and Research in Generic AI Game Learning
Computer Science Institute TH K \"o ln -- Cologne University of Applied Sciences Gummersbach, Germany
我们提出了一个新的通用棋盘游戏(GBG)玩和学习框架。GBG定义了棋盘游戏、游戏状态及其人工智能智能体的通用接口。它允许人们在不同的游戏上运行不同代理的比赛。它简化了棋盘游戏的那些部分,否则将是编码中乏味和重复的部分。GBG适用于任意的1-,2-,.,N人棋盘游戏它使一个通用的TD($λ$)-n元组代理的第一次可用于任意游戏。在各种游戏中,TD($λ$)-n-tuple被发现优于其他通用代理,如MCTS。利标品牌旨在从教育角度帮助学生更快地开始游戏学习。利标品牌亦致力从研究角度出发,收集越来越多的游戏及人工智能智能体,以评估其在有意义的比赛中的优势及推广能力。报告了初步成功的教育和研究成果。
2019-07-11 cs.AI cs.LG stat.ML
Playing Large Games with Oracles and AI Debate
Google DeepMind(谷歌DeepMind);Princeton University(普林斯顿大学);New York University(纽约大学);Amazon Research(亚马逊研究)
针对大规模重复博弈的遗憾最小化问题,提出基于预言机的高效算法,可同时实现内外遗憾最小化且遗憾与行动数对数相关,在AI安全辩论场景实验中验证了有效性。
2024-07-10 cs.AI cs.GT
AlphaViT: A flexible game-playing AI for multiple games and variable board sizes
Komatsu University(komatsu大学)
AlphaViT通过融合Vision Transformers开发出灵活的游戏AI,能适应多种游戏和可变棋盘大小,优于传统算法并接近AlphaZero性能。
2025-08-03 cs.AI cs.LG
Towards Playing Full MOBA Games with Deep Reinforcement Learning
Tencent AI Lab(腾讯人工智能实验室);Tencent TiMi L1 Studio(腾讯天美L1工作室)
MOBA游戏,例如,《王者荣耀》、《英雄联盟》、《Dota 2》等游戏对人工智能系统提出了多智能体、巨大的状态-动作空间、复杂的动作控制等巨大挑战,开发MOBA游戏的人工智能也因此备受关注。然而,现有的工作在处理由代理组合的爆炸引起的原始游戏复杂性方面存在不足,即,阵容,当扩大英雄池的情况下,OpenAI的Dota AI限制发挥只有17个英雄池.因此,没有限制的完整MOBA游戏远远不是任何现有AI系统所能掌握的。在本文中,我们提出了一种MOBA AI学习范式,该范式在方法论上可以通过深度强化学习玩完整的MOBA游戏。具体来说,我们开发了一个新的和现有的学习技术相结合,包括课程自我发挥学习,政策蒸馏,政策外的适应,多头价值估计,和蒙特卡罗树搜索,在训练和发挥了大量的英雄,同时巧妙地解决了可扩展性问题。在流行的MOBA游戏《王者荣耀》上进行测试,我们展示了如何构建能够击败顶级电竞选手的超人人工智能智能体。MOBA人工智能智能体在文献中的首次大规模性能测试证明了我们的AI的优越性。
2020-12-31 cs.AI cs.LG
Deep Reinforcement Learning for Playing 2.5D Fighting Games
National Taiwan University(台湾大学)
深度强化学习已经在游戏中取得了成功。然而,2.5D格斗游戏将是一项具有挑战性的任务,因为视觉外观的模糊性,如人物的高度或深度。此外,此类游戏中的动作通常涉及特定的连续动作顺序,这也使得网络设计非常困难。基于异步优势演员-评论家(A3 C)网络,我们创建了一个OpenAI健身房般的游戏环境与游戏的小战士2(LF 2),并提出了一种新的A3 C+网络学习RL代理。引入的模型包括一个循环信息网络,它利用游戏相关的信息功能与循环层观察战斗的组合技能。在实验中,我们在不同的设置中考虑LF 2,这成功地证明了我们提出的模型用于学习2.5D格斗游戏。
2018-05-05 cs.AI cs.LG stat.ML
Playing SNES in the Retro Learning Environment
Technion, Israel Institute of Technology(以色列理工学院)
掌握一个视频游戏需要技巧,战术和战略。虽然这些属性可以由人类玩家自然地获得,但将它们教授给计算机程序是一项更具挑战性的任务。近年来,在强化学习领域进行了广泛的研究,并引入了许多算法,旨在学习如何执行人类任务,如玩视频游戏。因此,Arcade学习环境(ALE)(Bellemare等人,2013)已经成为一个常用的基准测试环境,允许算法在各种Atari 2600游戏上进行训练。在许多游戏中,最先进的算法都胜过人类。本文介绍了一种新的学习环境,复古学习环境- RLE,它可以运行在超级任天堂娱乐系统(SNES),世嘉创世纪和其他几个游戏机的游戏。该环境是可扩展的,允许更多的视频游戏和控制台轻松添加到环境中,同时保持与ALE相同的界面。此外,RLE与Python和Torch兼容。SNES游戏由于其更高的复杂性和多功能性,对当前的算法构成了重大挑战。
2017-02-07 cs.AI cs.LG
Playing FPS Games with Deep Reinforcement Learning
School of Computer Science(计算机科学学院);Carnegie Mellon University(卡内基梅隆大学)
深度强化学习的进步使自主智能体在Atari游戏中表现出色,往往优于人类,只使用原始像素来做出决定。然而,这些游戏中的大多数都发生在智能体完全可观察的2D环境中。在本文中,我们提出了第一个架构,以解决第一人称射击游戏中的3D环境,涉及部分可观察的状态。通常,深度强化学习方法仅利用视觉输入进行训练。我们提出了一种方法来增强这些模型,以利用游戏特征信息,如敌人或项目的存在,在训练阶段。我们的模型经过训练,可以同时学习这些特征以及最小化Q学习目标,这可以显着提高我们代理的训练速度和性能。我们的架构也是模块化的,允许不同的模型在游戏的不同阶段进行独立训练。我们表明,所提出的架构大大优于内置的人工智能智能体的游戏,以及人类在死亡竞赛的情况下。
2018-01-29 cs.AI cs.LG
Interactive Fiction Game Playing as Multi-Paragraph Reading Comprehension with Reinforcement Learning
IBM Research(IBM研究院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
具有真实人类书写的自然语言文本的交互式小说(IF)游戏为语言理解技术提供了一种新的自然评价。与以前的文本游戏主要是合成文本相比,IF游戏对人类书写的文本描述提出了语言理解的挑战,复杂的游戏世界和语言生成的挑战,从限制较少的组合空间的动作命令生成。我们从一个新的角度来看待IF游戏的解决,并将其重新表述为多段落阅读理解(MPRC)任务。我们的方法利用上下文查询注意力机制和结构化预测MPRC有效地产生和评估行动输出,并应用以对象为中心的历史观察检索策略,以减轻部分可观察性的文本观察。在最近的IF基准测试(杰里科)上进行的大量实验表明,与以前的所有方法相比,我们的方法具有明显的优势,可以实现高胜率和低数据要求。我们的源代码可以在https://github.com/XiaoxiaoGuo/rcdqn上找到。
2020-10-05 cs.AI cs.CL
Social Learning Methods in Board Games
本文讨论了社会学习在训练博弈智能体中的作用。在社会背景下,而不是一个自我发挥的环境中的代理人的培训进行了调查。使用强化学习算法的代理在社交环境中进行训练。这模仿了拼字游戏和国际象棋等棋盘游戏的玩家在俱乐部中相互指导的方式。循环赛和修改后的瑞士锦标赛设置用于训练。使用社会环境训练的代理相比,自我发挥代理和结果表明,更强大的代理出现从社会培训设置。更高的状态空间游戏可以从这样的设置中受益,因为不同的代理集将具有多种策略,这些策略增加了在训练结束时获得更有经验的玩家的机会。经过社会学习训练的智能体表现出比自我游戏智能体更好的游戏体验。随着人口规模的增加,修改后的瑞士游戏风格产生了更多更好的游戏代理。
2008-10-20 cs.AI cs.MA
Playing Text-Based Games with Common Sense
Georgia Institute of Technology(佐治亚理工学院)
基于文本的游戏是一种模拟,其中代理纯粹通过自然语言与世界交互。它们通常由许多谜题组成,其中穿插着与常见的日常物品和地点的互动。深度强化学习代理可以学习解决这些难题。然而,与环境的日常互动,虽然对人类玩家来说微不足道,但对智能体来说却是额外的难题。我们探讨两种技术,将常识知识代理。用常识推理模型COMET或语言模型BERT来推断世界状态的可能隐藏方面。根据由语言模型识别的公共模式来偏置代理探索。我们在9to05游戏中测试了我们的技术,这是一个基于文本的游戏的极端版本,需要与常见的日常物品在常见的日常场景中进行多次交互。我们的结论是,代理人,增加他们的信念与常识推断的世界国家更强大的观察错误和遗漏的共同元素的文本描述。
2020-12-04 cs.AI cs.CL
Playing Go without Game Tree Search Using Convolutional Neural Networks
Stanford University(斯坦福大学)
围棋在东亚国家有着悠久的历史,但计算机围棋领域直到最近几年才赶上人类。虽然围棋的规则很简单,但游戏的策略和组合学非常复杂。即使在过去的几年里,依靠神经网络来评估董事会位置的新程序仍然比专业人士每秒能探索出多出许多数量级的董事会位置。我们试图通过创建一个卷积神经策略网络来模仿人类在游戏中的直觉,该网络在没有任何树搜索的情况下,应该以或高于大多数人类的水平玩游戏。我们介绍了三种结构和训练方法,旨在创建一个强大的围棋选手:非矩形卷积,这将更好地学习棋盘上的形状,监督学习,在53,000场专业比赛的数据集上进行训练,以及强化学习,在不同版本的网络之间进行比赛的训练。我们的网络已经超越了仅仅使用监督学习的中级业余爱好者的技能水平。非矩形卷积和强化学习的进一步训练和实现可能会进一步提高这种技能水平。
2019-07-02 cs.AI cs.LG
Reuse of Neural Modules for General Video Game Playing
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
知识转移的一般方法介绍了一个代理控制的神经网络适应它如何重用现有的网络,因为它在一个新的领域学习。为新领域训练的网络可以通过选择性地通过先前学习的神经结构来路由激活,从而提高其性能,而不管它是如何学习的或为了什么学习的。这种方法的神经进化实现与应用程序的高维顺序决策域。这种方法比以前用于强化学习的神经传递方法更通用。它是领域不可知的,不需要事先假设任务相关性或映射的性质。该方法在随机版本的街机学习环境中进行了分析,表明它提高了一些更复杂的Atari 2600游戏的性能,并且可以根据游戏动态的高级特性预测转移的成功。
2015-12-04 cs.AI cs.NE
Playing Games in the Dark: An approach for cross-modality transfer in reinforcement learning
INESC-ID(INESC-ID(葡萄牙国家系统与计算机工程研究所));Instituto Superior Técnico, University of Lisbon(里斯本大学高等理工学院);Carnegie Mellon University(卡内基梅隆大学)
在这项工作中,我们探索使用的潜在表示从多个输入感官模态(如图像或声音),允许代理学习和利用政策的不同子集的输入模态。我们提出了一个三阶段的体系结构,允许一个强化学习代理在一个给定的感官模态训练,执行其任务的不同的感官模态,例如,学习视觉策略的图像输入,然后执行这样的政策时,只有声音输入可用。我们表明,广义的政策实现更好的开箱即用的性能相比,不同的基线。此外,我们在不同的OpenAI健身房和视频游戏环境中证明了这一点,即使使用不同的多模态生成模型和强化学习算法。
2019-11-28 cs.AI cs.LG
Playing Text-Adventure Games with Graph-Based Deep Reinforcement Learning
School of Interactive Computing(交互式计算学院);Georgia Institute of Technology(佐治亚理工学院)
基于文本的冒险游戏提供了一个在组合动作空间(如自然语言)的背景下探索强化学习的平台。我们提出了一个深度强化学习架构,将游戏状态表示为在探索过程中学习的知识图谱。此图用于修剪动作空间,从而实现更有效的探索。采取哪种行动的问题可以简化为一个问答任务,这是一种迁移学习的形式,可以预先训练我们架构的某些部分。在使用TextWorld框架的实验中,我们表明,我们提出的技术可以比基线替代品更快地学习控制策略。我们还在https://github.com/rajammanabrolu/KG-DQN上开源了我们的代码。
2019-03-25 cs.AI cs.CL cs.LG
Playing the Werewolf game with artificial intelligence for language understanding
The University of Tokyo Hospital(东京大学医院);The University of Tokyo(东京大学)
《狼人》游戏是一款基于自由自然语言交流的社交演绎游戏,玩家为了生存,试图欺骗他人。这个游戏的一个重要特点是,很大一部分对话都是虚假信息,而人工智能(AI)在这种情况下的行为还没有得到广泛的调查。本研究的目的是开发一个能够通过自然语言对话扮演狼人的人工智能智能体。首先,我们收集了15名人类玩家的游戏日志。接下来,我们微调了一个基于transformer的预训练语言模型,以构建一个价值网络,该网络可以预测在游戏的任何给定阶段赢得游戏的后验概率,并给出下一个动作的候选者。然后,我们开发了一个人工智能智能体,它可以与人类交互,并根据其概率从价值网络中选择最佳投票目标。最后,我们通过让智能体与人类玩家一起玩游戏来评估智能体的性能。我们发现,我们的人工智能智能体Deep Wolf在扮演村民或背叛者角色时,可以像普通人类玩家一样有竞争力地扮演狼人,而Deep Wolf在扮演狼人或先知角色时不如人类玩家。这些结果表明,目前的语言模型有能力怀疑别人在说什么,说谎,或检测谎言的对话。
2023-02-21 cs.AI cs.CL
Deep Apprenticeship Learning for Playing Games
University of Oxford(牛津大学)
在过去的十年中,深度学习在机器学习任务中取得了巨大的成功,其中输入数据用不同级别的抽象表示。在最近使用深度神经网络的强化学习研究的推动下,我们探索了基于专家行为设计学习模型的可行性,用于复杂的多维任务,其中奖励功能不可用。在前人对强化学习中监督学习技术研究的基础上,提出了一种新的学徒学习方法。我们的方法被应用到Atari游戏的视频帧,以教一个人工代理玩这些游戏。尽管所报道的结果与强化学习中最先进的结果不具有可比性,但我们证明了这种方法有可能在未来实现强大的性能,值得进一步研究。
2022-05-16 cs.AI cs.CV cs.LG
Playing hard exploration games by watching YouTube
DeepMind(深度思维)
深度强化学习方法传统上难以处理环境奖励特别稀疏的任务。在这些领域引导探索的一种成功方法是模仿人类演示者提供的轨迹。然而,这些演示通常是在人工条件下收集的,即可以访问代理的确切环境设置以及演示者的动作和奖励轨迹。在这里,我们提出了一个两阶段的方法,克服了这些限制,依靠嘈杂的,不对齐的镜头,而无需访问这些数据。首先,我们学习使用在时间和模态(即视觉和声音)上构建的自监督目标将来自多个源的未对齐视频映射到一个共同的表示。其次,我们在这个表示中嵌入一个YouTube视频,以构建一个奖励函数,鼓励代理模仿人类游戏。这种一次性模仿的方法使我们的智能体在臭名昭著的硬探索游戏Montezuma's Revenge,Pitfall上令人信服地超过人类水平的表现!和私家侦探第一次,即使代理没有任何环境奖励。
2018-11-30 cs.AI cs.CV cs.LG
Towards Game-Playing AI Benchmarks via Performance Reporting Standards
TH Cologne University(TH Cologne大学)
虽然游戏已被广泛用作评估游戏AI的里程碑,但目前还没有标准化的框架来报告所获得的观察结果。因此,仍然很难对不同的游戏AI算法的优势和劣势得出一般性的结论。在本文中,我们提出了AI游戏性能的报告准则,如果遵循这些准则,可以提供适合于不同AI方法之间无偏比较的信息。我们描述的愿景是基于这些指导方针建立基准和竞赛,以便能够对不同AI算法的行为以及不同游戏构成的挑战类型得出更一般的结论。
2020-07-06 cs.AI
Deep Learning for Video Game Playing
IT University of Copenhagen(哥本哈根信息技术大学);New York University(纽约大学)
在本文中,我们回顾了深度学习的最新进展,以及它们如何应用于玩不同类型的视频游戏,如第一人称射击游戏,街机游戏和实时战略游戏。我们分析了不同游戏类型对深度学习系统的独特要求,并强调了将这些机器学习方法应用于视频游戏的重要挑战,例如一般游戏,处理超大决策空间和稀疏奖励。
2019-02-18 cs.AI
A Taxonomy of Collectible Card Games from a Game-Playing AI Perspective
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Universidade Federal do Rio Grande do Sul(南里奥格兰德联邦大学)
本文从博弈AI研究视角出发,分析多款流行集换式卡牌游戏的规则、机制与模式,提出分类体系以梳理未决挑战并支持后续研究。
2024-10-08 cs.AI
Fast and Knowledge-Free Deep Learning for General Game Playing (Student Abstract)
University of Wrocław(弗罗茨瓦夫大学)
本研究提出一种适配AlphaZero至通用游戏玩法的方法,通过MCTS对弈生成数据、仅用价值网络和注意力层,无需游戏规则知识,在Regular Boardgames系统中高效构建模型,多数游戏超越UCT基线。
2023-12-21 cs.AI
Rinascimento: Optimising Statistical Forward Planning Agents for Playing Splendor
Queen Mary University of London(伦敦玛丽女王大学);Southern University of Science and Technology(南方科技大学)
基于游戏的基准测试在人工智能(AI)技术的发展中发挥着至关重要的作用。提供多样化的挑战对于推动研究创新和理解现代技术至关重要。Rinascimento提供了一个参数化的部分可观察的多人纸牌游戏,这些参数可以很容易地修改游戏中的规则,目标和物品。我们描述了框架的所有功能和游戏挑战,提供基线游戏AI和分析他们的技能。我们保留代理的超参数调整在实验中的核心作用,突出它如何可以严重影响性能。基线代理包含对统计正向规划算法的几个附加贡献。
2019-04-03 cs.AI
Analysis of Vanilla Rolling Horizon Evolution Parameters in General Video Game Playing
University of Essex(埃塞克斯大学)
蒙特卡罗树搜索技术通常主导一般视频游戏,但最近的研究已经开始关注进化算法及其在匹配树搜索游戏水平甚至优于这些方法的潜力。在线或滚动地平线进化是可用于在一般视频游戏中进化计划动作序列的选项之一,但迄今为止还没有研究探索该算法的香草版本在多个游戏中的功能。本研究旨在批判性地分析来自通用视频游戏AI语料库的一组20个游戏中关于人口规模和个体长度的不同配置。确定性和随机游戏之间的区别,并使用优越的时间预算的影响进行了研究。结果表明,有使用这些技术的范围,在某些配置优于蒙特卡罗树搜索,也表明,在这些方法的进一步研究可以提高他们的性能。
2017-04-24 cs.AI
Outer-Learning Framework for Playing Multi-Player Trick-Taking Card Games: A Case Study in Skat
Charles University Prague(查尔斯大学普拉格)
本文提出了一种外学习框架,通过扩展人类游戏数据库与自我玩AI游戏的数据,提升卡牌游戏预测准确性,并在斯卡特游戏中验证了其在决策支持方面的有效性。
2025-12-17 cs.AI
CriticaLLM: Using LLMs as Autonomous Game Master for Tabletop Role-Playing Games
UCLouvain(天主教鲁汶大学)
本研究提出了一款名为CriticaLLM的全自动游戏主持人框架,通过四种不同规模的LLM评估其运行桌面角色扮演游戏的能力,结果显示该框架是运行此类游戏的有前景方案。
2026-10-16 cs.AI
CogniPlay: a work-in-progress Human-like model for General Game Playing
École Normale Supérieure de Rennes(里昂大学);ICTEAM Université Catholique de Louvain(列日大学)
本文提出进行中的类人通用游戏博弈模型CogniPlay,基于认知心理学发现,旨在复制人类模式化直觉决策,弥补现有AI在类人行为上的不足。
2025-07-08 cs.AI
Regular Games -- an Automata-Based General Game Playing Language
提出兼具计算效率与设计便利性的通用游戏博弈系统正则游戏(RG),以有限自动机定义规则的低级语言为核心,生成前向模型速度快于现有系统,还含高级设计语言及配套生态工具。
2025-11-13 cs.AI
Deep Learning for General Game Playing with Ludii and Polygames
Maastricht University(马斯特里赫特大学);Facebook AI Research(Facebook AI研究院)
结合蒙特卡罗树搜索和深度神经网络,通过自我游戏训练,在许多棋盘游戏中产生了最先进的自动游戏结果。训练和搜索算法不是特定于游戏的,但这些方法应用于的每个游戏仍然需要领域知识来实现游戏规则,并构建神经网络的架构-特别是其输入和输出张量的形状。Ludii是一个通用的游戏系统,已经包含超过500种不同的游戏,由于其强大和用户友好的游戏描述语言,它可以快速增长。Polygames是一个具有训练和搜索算法的框架,它已经为几款棋盘游戏产生了超人玩家。本文描述了Ludii和Polygames之间的桥梁的实现,它使Polygames能够训练和评估通过Ludii实现和运行的游戏模型。我们不再需要任何特定于游戏的领域知识,而是利用我们对Ludii系统及其抽象状态和移动表示的领域知识来编写函数,这些函数可以自动确定在Ludii中实现的任何游戏的输入和输出张量的适当形状。我们描述了在各种不同的棋盘游戏中进行短期训练的实验结果,并讨论了几个开放的问题和未来研究的途径。
2021-01-23 cs.AI
Portfolio Search and Optimization for General Strategy Game-Playing
Queen Mary University of London(伦敦玛丽女王大学)
投资组合方法代表了一种简单但有效的动作抽象类型,它已被证明可以提高基于搜索的代理在一系列策略游戏中的性能。我们首先回顾现有的投资组合技术,并提出了一个新的算法的基础上滚动地平线进化算法的优化和行动选择。此外,开发了一系列变体来解决不同方面的问题。我们进一步分析了讨论的代理在一般策略游戏任务的性能。为此,我们运行三个不同的游戏模式的策略框架的实验。对于代理参数和投资组合的优化,我们研究了使用N元组Bandit进化算法。由此产生的投资组合集表明,在发挥风格的高度多样性,同时能够一贯击败样本代理。代理的性能分析表明,所提出的算法推广到所有的游戏模式,能够优于其他投资组合方法。
2021-04-21 cs.AI
Experimental Studies in General Game Playing: An Experience Report
University of Wrocław(弗罗茨瓦夫大学);Poland(波兰(注:原文本中“Poland”为国家名,此处按要求提取机构,原“University of Wrocław”已包含机构核心,“Poland”为国家,非机构,可能为原文本排版问题,正确机构仅“University of Wrocław”)}],修正后应为:{)
我们描述了近15年的一般游戏的实验研究历史的背景下,再现性和公平性的各种GGP代理和系统之间的比较,旨在发挥不同的形式主义所描述的游戏。我们认为我们的调查可能提供了一个有趣的视角,即当没有更好的方法时,混乱的方法是如何被允许的。最后,从我们的经验为基础的观点,我们想提出一些建议,如何在未来适当处理这种特定的异质分支的研究。本文的目的是指出该领域实验研究中的共同困难和问题。我们希望我们的建议将有助于避免他们在未来的工作,并允许更公平和可重复的比较。
2020-03-06 cs.AI
Leveling the Playing Field -- Fairness in AI Versus Human Game Benchmarks
New York University(纽约大学);University of Hertfordshire(赫特福德大学);University of Southern California(南加利福尼亚大学)
从一开始,如果人工智能的历史,一直有兴趣在游戏作为一个平台的研究。随着该领域的发展,人类在复杂游戏中的能力成为研究人员努力达到的目标。直到最近,传统桌面游戏,如西洋双陆棋、国际象棋和围棋才最终实现了这一目标。目前的研究重点已经转移到电子游戏,这提供了独特的挑战。与人工智能研究的情况一样,这些结果很容易被作者或第三方夸大或歪曲。这些游戏基准在多大程度上包括人类和人工智能之间的公平竞争也是一个有争议的问题。在这项工作中,我们回顾了作者和第三方在一般媒体和学术界对这些游戏基准结果的声明,并讨论了在人类和机器之间的竞赛中可能影响公平感的因素
2019-08-29 cs.AI
Rinascimento: using event-value functions for playing Splendor
Queen Mary University of London(伦敦玛丽女王大学)
在游戏研究领域,通用人工智能算法通常使用分数作为学习或游戏动作的主要奖励信号。然而,这已经显示出其严重的局限性时,积分奖励是非常罕见的或缺席,直到游戏结束。本文提出了一种基于事件日志的新方法:每当游戏状态的一个特征发生变化时,它就会触发一个事件。这些事件由事件-价值函数(EF)处理,该函数将值分配给单个动作或序列。实验表明,这种方法可以缓解积分奖励不足的问题,提高人工智能的性能。此外,这代表着在控制人工代理所采用的策略方面向前迈出了一步,通过EF描述了一个更丰富和可控的行为空间。调谐EF能够巧妙地合成游戏中事件的相关性。使用EF的代理在与多个对手进行游戏时表现出更强的鲁棒性。
2020-06-10 cs.AI
lmgame-Bench: How Good are LLMs at Playing Games?
UC San Diego(加州大学圣地亚哥分校);MBZUAI(穆桑贝斯人工智能研究院);UC Berkeley(加州大学伯克利分校)
本文提出lmgame-Bench基准,通过统一API和感知记忆支架将平台跳跃、解谜与叙事游戏转化为可靠的LLM评估,并在13个模型上验证其区分度及跨任务迁移能力。
2025-06-03 cs.AI
Very simple statistical evidence that AlphaGo has exceeded human limits in playing GO game
National Institute for Mathematical Sciences(韩国数学科学研究所)
深度学习技术在解决人工智能的挑战性问题方面取得了巨大进展,因此基于人工神经网络的机器学习再次成为人们关注的焦点。在某些领域,基于深度学习的人工智能已经超出了人类的能力。机器在围棋比赛中击败人类似乎非常困难,但AlphaGo已经在比赛中击败了职业选手。通过观察连续放置棋子的距离的统计分布,我们发现了一个清晰的痕迹,即Alphago已经超越了人类的能力。而AlphaGo比职业棋手和职业棋手比普通棋手在距离上的落子显示变得更加频繁。此外,AlphaGo表现出了比普通棋手和职业棋手明显得多的差异。
2020-02-25 cs.AI
Scaling Behavior Cloning Improves Causal Reasoning: An Open Model for Real-Time Video Game Playing
本研究提出了一种开放的训练方法,通过扩大模型和数据规模提升因果推理能力,展示了在实时视频游戏中的高性能表现。
2026-01-28 cs.AI
Skill Check: Some Considerations on the Evaluation of Gamemastering Models for Role-playing Games
Universidad de la República(共和国大学);Universidad Complutense de Madrid(马德里康普顿斯大学)
本文针对角色扮演游戏城主建模难题,提出三类评估测试,并据此检验ChatGPT、Bard与OpenAssistant作为开箱即用城主的能力。
2023-09-30 cs.AI cs.CL
Ensemble Decision Systems for General Video Game Playing
University of Strathclyde(思克莱德大学);Queen Mary University of London(伦敦玛丽女王大学)
联合决策系统提供了一种独特的决策形式,允许一组算法一起推理一个问题。每个算法都有其固有的优点和缺点,并且通常很难在保留优点的同时克服缺点。而不是改变算法的属性,包围决策系统增强了性能与其他算法,具有互补的优势。这项工作概述了不同的选择,建立一个Ensemble决策系统,以及提供分析其性能相比,系统的各个组件与有趣的结果,显示了增加的算法的一般性,而不会显着阻碍性能。
2019-05-26 cs.AI
Strategy Game-Playing with Size-Constrained State Abstraction
Faculty of EECS Leibniz University Hannover, Hannover, Germany
针对策略游戏搜索空间庞大且状态抽象质量难评估的问题,本文提出限制最大聚合节点数的SCSA,无需中途放弃抽象,并在3款游戏中验证其更优且稳健。
2025-02-15 cs.AI
TiKick: Towards Playing Multi-agent Football Full Games from Single-agent Demonstrations
Tsinghua University(清华大学);National University of Defense Technology(国防科技大学);RealAI(瑞莱智慧);Tencent AI Lab(腾讯人工智能实验室)
深度强化学习(DRL)在复杂的视频游戏上实现了超人的性能(例如,星际争霸II和Dota II)。然而,目前的DRL系统仍然受到多智能体协调,稀疏奖励,随机环境等的挑战。为了解决这些挑战,我们采用了足球视频游戏,例如,Google Research Football(GRF)作为我们的测试平台,开发了一个端到端的基于学习的AI系统(表示为TiKick)来完成这项具有挑战性的任务。在这项工作中,我们首先从联盟训练中获得的单智能体专家的自我比赛中生成了一个大型重放数据集。然后,我们开发了一个分布式学习系统和新的离线算法,从固定的单智能体数据集中学习强大的多智能体AI。据我们所知,Tikick是第一个基于学习的人工智能系统,可以接管多智能体谷歌研究足球完整游戏,而以前的工作可以控制单个智能体或在玩具学术场景上进行实验。大量的实验进一步表明,我们的预训练模型可以加速现代多智能体算法的训练过程,我们的方法在各种学术场景中达到了最先进的性能。
2021-11-30 cs.AI