Can Agents Deceive? Evaluating Reasoning and Deception in ParliamentBench using a Social Deduction Game
University of Göttingen(哥廷根大学);National Institute of Informatics(信息学研究所);University of Tokyo(东京大学)
该研究基于《Secret Hitler》游戏构建ParliamentBench基准,评估16个LLM的欺骗与推理能力,发现前沿模型表现优异,多数LLM难以维持一致的欺骗人设。
2026-07-31 cs.AI cs.CL
Revac: A Social Deduction Reasoning Agent
Department of Computer Science and Engineering(计算机科学与工程系);RV College of Engineering(RV 工程学院);Department of Information Science and Engineering(信息科学与工程系);Department of Artificial Intelligence and Machine Learning(人工智能与机器学习系)
Revac-8通过整合记忆玩家分析、社交图分析和动态语气选择,解决了社交推理解谜中的不确定性推理与欺骗适应问题,实现了在高风险社交环境中的卓越表现。
2026-04-21 cs.AI
CSP4SDG: Constraint and Information-Theory Based Role Identification in Social Deduction Games with LLM-Enhanced Inference
针对社会推理游戏中隐藏角色推理难题,提出CSP4SDG概率约束满足框架,通过四类语言无关约束分析游戏事件与对话,结合信息增益加权提升推理准确性,实验证明其优于LLM基线且可增强LLM性能。
2025-11-09 cs.AI cs.GT
Fine-Grained and Thematic Evaluation of LLMs in Social Deduction Game
Department of Artificial Intelligence, Chung-Ang University, Seoul, Republic of Korea(人工智能系, Chung-Ang大学,首尔,韩国)
针对社交推理游戏中LLM评估的粗粒度和缺乏结构化错误分析问题,提出六个细粒度指标和主题分析,识别出四大推理失败类型。
2025-10-07 cs.AI cs.CL
Playing social deduction games with reinforcement fine-tuned large language models
Peking University(北京大学);Alibaba Group(阿里巴巴集团);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本研究通过社交推理游戏,发现强化微调虽不能直接提升胜负结果,但能有效改善LLM的社交阅读与社交影响力,多智能体社会认知微调可进一步增强其社交能力。
2026-10-06 cs.AI cs.CL cs.MA
Werewolf Arena: A Case Study in LLM Evaluation via Social Deduction
Google Research(谷歌研究院)
本文提出狼人竞技场,一种基于狼人杀社交推理游戏的LLM评估框架,通过竞价式轮流发言模拟真实讨论,并在Gemini与GPT模型锦标赛中揭示其策略推理与沟通能力的差异。
2024-07-18 cs.AI cs.CL
Hidden in Plain Text: Measuring LLM Deception Quality Against Human Baselines Using Social Deduction Games
SPARX Studio, Inc.(77SPARX工作室公司);University of California, Santa Cruz(加州大学圣克鲁兹分校)
本文通过社会推断游戏测量 LLM 欺骗能力,发现 LLM 在欺骗人类时表现更优,但其欺骗质量低于人类。
2026-01-20 cs.AI cs.CL cs.CY
Auditing Belief-Conditioned LLM Agents in Hidden-Information Social Deduction Games
University of Melbourne(墨尔本大学)
研究在9人狼人杀环境中评估大语言模型智能体的难题,构建可审计框架,通过1080场游戏实验发现主动信念条件下好人方结果更好,虽未明确信念内容作用机制,但框架有使效应可测等贡献,将外部信念定位为可审计认知基线。
2026-07-14 cs.AI cs.MA
QUACK: Questioning, Understanding, and Auditing Communicated Knowledge in Multimodal Social Deduction Agents
McGill University(麦吉尔大学);Mila - Quebec AI Institute(魁北克人工智能研究所);University of Cambridge(剑桥大学);MBZUAI - Mohamed bin Zayed University of Artificial Intelligence(MBZUAI - 摩苏尔·本·扎耶德人工智能大学);University of Toronto(多伦多大学);Salesforce
提出QUACK框架,通过游戏结果、行为轨迹和话语一致性三级评估,自动审计多模态社交推理智能体语言与感知行为的一致性,发现最强智能体仍有15.1%的空间幻觉和过半无据指控。
2026-09-01 cs.AI cs.CL cs.MA
Entropy Non-increasing Games for the Improvement of Dataflow Programming
University of Debrecen(德布勒森大学)
在这篇文章中,我们引入了一个名为Samu Entropy的电子竞技游戏家族的新概念,试图改进基于Google TensorFlow的程序图。目前,Samu Entropy项目仅规定了新电子竞技游戏的开发要求,特别关注电子竞技与人工智能之间的关系。很明显,电竞游戏和人工智能之间有着非常密切和天然的关系。此外,Samu Entropy项目不仅关注使用人工智能,还关注以新的方式创建人工智能。我们提出了一个参考游戏称为脸战,实现了萨穆熵的要求。
2017-02-14 cs.AI
Verbal Werewolf: Engage Users with Verbalized Agentic Werewolf Game Framework
Northeastern University(东北大学)
提出Verbal Werewolf框架,通过LLM推理与微调TTS双流水线实现近实时无外部模块的语音狼人杀,显著提升用户参与度。
2025-08-10 cs.AI cs.CL cs.LG
Competing in a Complex Hidden Role Game with Information Set Monte Carlo Tree Search
University of Minnesota(明尼苏达大学)
智能博弈代理的进步导致了像围棋这样的完全信息博弈和像扑克这样的不完全信息博弈的成功。信息集蒙特卡罗树搜索(ISMCTS)系列算法在不完全信息博弈中优于以前使用蒙特卡罗方法的算法。在本文中,单观察者信息集蒙特卡罗树搜索(SO-ISMCTS)被应用到秘密希特勒,一个流行的社会推理棋盘游戏,结合了传统的隐藏角色机制与随机性的卡甲板。这种组合导致了一个比隐藏角色和卡片组机制更复杂的信息模型。在10108个模拟游戏中,SO-ISMCTS和基于规则的智能体一样有效,证明了ISMCTS算法在复杂信息集领域的潜力。
2020-05-14 cs.AI cs.MA
Solving Atari Games Using Fractals And Entropy
HCSoft Programación, S.L.(HCSoft编程有限公司)
在本文中,我们介绍了一种新的MCTS为基础的方法,是来自热力学定律。该算法被称为分形蒙特卡罗(FMC),它允许我们创建一个在连续和离散环境中采取智能行动的代理,同时提供对代理行为各个方面的控制。结果表明,FMC是几个数量级的效率比类似的技术,如MCTS,在雅达利游戏测试。
2018-07-03 cs.AI
Triadic Werewolf: A Jester Role for Multi-Hop Theory of Mind in LLMs
通过引入第三阵营“丑角”(Jester),将狼人杀游戏扩展为三方博弈,测试LLM的多跳心智理论能力。实验表明,模型常做出自毁行为,而自我学习能帮助部分模型学会微妙策略。
2026-06-29 cs.AI cs.CL cs.GT
Cross-Entropy Games and Frost Training
Xent Labs(Xent实验室);Université Lyon 1(里昂1大学)
提出Frost训练方法,利用奖励函数在嵌入空间中的梯度改进基于蒙特卡洛的策略优化,用于解决一类称为交叉熵博弈的LLM-as-a-judge任务,在最佳k选择中实现更高最大分数并加速训练。
2026-05-30 cs.AI
Mastering Da Vinci Code: A Comparative Study of Transformer, LLM, and PPO-based Agents
Westlake College, Westlake University(西lake学院,西lake大学)
针对《达芬奇密码》不完全信息逻辑推理博弈的挑战,该研究对比了Transformer基线、结构化提示引导的LLM及带Transformer编码器的PPO三类智能体,发现PPO智能体胜率达58.5%±1.0%最优,揭示了深度强化学习在复杂推理任务中的优势及现有LLM的局限。
2025-06-15 cs.AI
Trajectory Entropy: Modeling Game State Stability from Multimodality Trajectory Prediction
Department of Automation, Shanghai Jiao Tong University(上海交通大学自动化系);SAIC-ZONE Technology Co. Ltd.(SAIC-ZONE技术有限公司)
本文提出轨迹熵度量,从多模态轨迹预测中提取不确定性信号并利用信噪比量化 level-k 博弈中智能体状态,再通过门控机制改进框架,在 Waymo 和 nuPlan 上显著提升预测与规划精度并降低成本。
2025-06-06 cs.AI cs.RO
Training Language Models for Social Deduction with Multi-Agent Reinforcement Learning
Stanford University(斯坦福大学)
针对现有多智能体自然语言交流研究依赖人类演示或缺乏有效策略的局限,本研究将交流分解为倾听与表达,以环境信息预测为奖励信号,结合多智能体强化学习训练模型,在《Among Us》类社交推理游戏中实现高质量讨论,胜率翻倍。
2025-02-09 cs.AI cs.CL cs.LG
Mitigating the Curse of Correlation in Security Games by Entropy Maximization
University of Southern California(南加州大学)
在Stackelberg安全游戏中,防御者试图随机分配有限的安全资源,以保护关键目标免受攻击。在本文中,我们研究了一个基本的,但未被探索的,在安全游戏,我们称之为\emph{Curse of Correlation}(CoC)的现象。具体而言,我们观察到不同目标的保护状况之间存在着不可避免的相关性。这种相关性是一个至关重要的问题,特别是在保护区巡逻等\emph{spatio-temporal}领域,攻击者可以监视某些区域的巡逻人员,然后使用这种相关性推断他们的巡逻路线。为了缓解这个问题,我们建议设计熵最大化防御策略的时空安全游戏,经常遭受CoC。我们证明了该问题一般是P-困难的.然而,它承认有效的算法在动机良好的特殊设置。我们的实验表明,最大熵算法比以前的算法显着的优势。一个可扩展的实现我们的算法目前正在部署前测试集成到FAMS软件,以改善美国联邦空警的调度。
2018-01-03 cs.AI cs.CR cs.GT
Maximum Entropy and the Glasses You Are Looking Through
EURANDOM;CWI(荷兰数学与计算机科学研究中心);Stanford University(斯坦福大学)
我们给出了一个解释的最大熵(MaxEnt)原则在博弈论的条款。基于这种解释,我们对{em应用/}最大熵分布的不同方式进行了正式区分。MaxEnt经常受到批评,因为它导致高度依赖于表示的结果。我们的区别使我们能够在许多情况下避免这个问题。
2013-01-16 cs.AI
Cross-Entropy Games for Language Models: From Implicit Knowledge to General Capability Measures
EPFL(苏黎世联邦理工学院)
本文提出交叉熵(Xent)博弈框架,将LLM的隐式知识转化为一系列可计算任务,用于度量语言模型的通用能力,并借助进化动力学思想探索该空间。
2025-06-22 cs.AI cs.CL cs.GT
Cognitive Training for Language Models: Towards General Capabilities via Cross-Entropy Games
Xent Labs;EPFL(瑞士联邦理工学院洛桑);Université Lyon 1(里昂第一大学)
本文提出通过交叉熵游戏构建语言模型通用能力的框架,探讨了基于贪心优化算法的课程学习方法,并认为认知训练是发现相关技能的有效途径。
2026-04-12 cs.AI math.OC
Language Agents with Reinforcement Learning for Strategic Play in the Werewolf Game
Zelai Xu(泽来许);Chao Yu(姚朝);Fei Fang(方飞);Yu Wang(王宇);Yi Wu(吴毅)
针对LLM智能体在复杂决策中因训练数据导致动作选择偏差的问题,提出用强化学习赋能LLM智能体的新框架,在狼人杀游戏中生成多样化候选动作并经RL策略择优,实验证明其克服了内在偏差并达到人类水平的策略博弈能力。
2025-05-29 cs.AI cs.LG cs.MA
Uncertainty measurement with belief entropy on interference effect in Quantum-Like Bayesian Networks
Northwestern Polytechnical University(西北工业大学);China Equipment System Engineering Company(中国装备系统工程公司)
社会困境一直被认为是进化博弈论的精髓,其中囚徒困境博弈是对合作问题最著名的隐喻。最近的研究发现,人们的行为违反了这类游戏中的“确定性原则”。经典的概率方法很难解释人们行为的潜在机制。本文提出了一种新的类量子贝叶斯网络来适应这一悖论现象。这种特殊的网络可以考虑干扰,这可能是一种有效的方式来描述底层机制。在此基础上,引入了信度熵,即邓熵,并提出了信度距离的概念。通过实证数据的检验,证明了该模型的预测性和有效性。
2017-09-08 cs.AI math.PR
Approximately Solving Mean Field Games via Entropy-Regularized Deep Reinforcement Learning
Technische Universität Darmstadt(达姆施塔特工业大学)
最近的平均场博弈(MFG)的形式主义,否则难以计算的近似纳什均衡在许多代理设置。在本文中,我们考虑离散时间有限MFG有限时域目标。我们发现,所有的离散时间有限MFG与非常数不动点算子未能压缩通常假设在现有的MFG文献,除非通过不动点迭代收敛。相反,我们将熵正则化和玻尔兹曼政策到不动点迭代。结果,我们获得了可证明的收敛到现有方法失败的近似不动点,并达到了近似纳什均衡的原始目标。所有提出的方法进行评估,就其可利用性,在两个有指导意义的例子与易于处理的精确解和高维问题的精确方法变得棘手。在高维场景中,我们应用已建立的深度强化学习方法,并根据经验将虚拟游戏与我们的近似值结合起来。
2022-07-08 cs.AI cs.LG cs.MA
Policy Optimization finds Nash Equilibrium in Regularized General-Sum LQ Games
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Coordinated Science Laboratory(协调科学实验室)
该研究探究相对熵正则化对一般和N智能体博弈纳什均衡的影响,证明满足熵正则化条件时策略优化算法可线性收敛到纳什均衡,还提出δ增强技术在正则化不足时实现ε-纳什均衡。
2024-09-13 cs.AI cs.GT cs.LG
Multi-agent KTO: Reinforcing Strategic Interactions of Large Language Model in Language Game
Fudan University(复旦大学);Bytedance Research(字节跳动研究院)
本文提出 MaKTO 框架,让多模型在《狼人杀》语言游戏中通过互动生成偏好数据并用 KTO 优化决策,显著提升胜率并表现出接近人类的隐蔽性。
2025-03-13 cs.AI cs.CL cs.HC
What does Newcomb's paradox teach us?
NASA Ames Research Center(美国航空航天局艾姆斯研究中心)
在纽科姆悖论中,你要么选择接收某个封闭盒子的内容,要么选择同时接收这个封闭盒子和另一个盒子的内容。在你选择之前,预测算法会推断出你的选择,并根据这个推断填充两个框。纽科姆悖论是,博弈论似乎为你在这种情况下应该做出什么选择提供了两种相互矛盾的建议。我们分析纽科姆悖论使用最近扩展的博弈论中的球员设置条件概率分布在贝叶斯网。我们表明,在纽科姆的情况下,两个博弈论的建议有不同的假设贝叶斯网与您的选择和算法的预测。我们通过证明这两个贝叶斯网是不相容的来解决这个悖论。我们还表明,算法的预测,以前的工作的重点,准确性是无关紧要的。此外,我们表明,纽科姆的情况下,只提供了一个博弈论的预期效用和优势原则之间的矛盾,如果一个是草率指定的底层贝叶斯网。我们还表明,纽科姆悖论是时间反演不变的,无论是悖论和它的决议是不变的,如果算法使其“预测”后,你做出选择,而不是之前。
2010-03-06 cs.AI cs.GT math.OC
A Regularized Opponent Model with Maximum Entropy Objective
University College London(伦敦大学学院);University of Alberta(阿尔伯塔大学)
在单智能体环境中,强化学习(RL)任务可以通过引入代表“最优性”的二进制随机变量o来转换为推理问题。在本文中,我们重新定义了二进制随机变量o的多智能体设置和形式化的多智能体强化学习(MARL)的概率推理。我们推导出一个变分下界的可能性达到最优,并将其命名为正则化的对手模型与最大熵目标(ROMMEO)。从ROMMEO,我们提出了一个新的角度对对手建模,并显示它如何可以提高性能的训练代理的理论和经验合作游戏。为了优化ROMMEO,我们首先介绍了一个表格Q迭代方法ROMMEO-Q的收敛性证明。我们提出了一个近似的版本,ROMMEO-AC的精确算法扩展到复杂的环境。我们分别在具有挑战性的迭代矩阵博弈和微分博弈上对这两种算法进行了评估,并表明它们的性能优于强MARL基线。
2019-08-19 cs.AI cs.LG cs.MA
Better Regularization for Sequential Decision Spaces: Fast Convergence Rates for Nash, Correlated, and Team Equilibria
Carnegie Mellon University(卡内基梅隆大学);Columbia University(哥伦比亚大学)
本文研究了迭代一阶方法在求解大规模两人扩展型对策平衡点问题中的应用。一阶方法通常必须用正则化器实例化,正则化器作为参与者决策集的距离生成函数。对于二人零和博弈的情形,利用扩张熵函数得到了纳什均衡的理论收敛速度。在本文中,我们引入了一个新的基于熵的距离生成函数的两人零和游戏,并表明,该函数实现了显着更好的强凸性比扩张熵,同时保持相同的易于实现的封闭形式的邻近映射。大量的数值模拟表明,这些优越的理论性能转化为更好的数值性能。然后,我们推广我们的新的熵距离函数,以及一般的扩张距离函数,缩放扩展算子。标度扩张算子是一种递归构造凸集的方法,它推广了扩张型博弈的决策多面体,以及对应于相关和团队均衡的凸多面体。通过实例化一阶方法与我们的正则化,我们开发了第一个加速的一阶方法计算相关的平衡和事先协调的团队平衡。我们的方法有保证的$1/T$收敛速度,以及线性时间邻近更新。
2021-10-12 cs.AI cs.GT
The Curvature Shadow: An Apparent Failure of Maximum-Entropy Equilibrium Selection is a Removable Artifact
研究两人零和博弈中R-NaD选择均衡时出现的差距问题,通过量化分析表明该差距可分解为与熵不足和曲率相关的形式,经实验验证此关系,发现库恩博弈的差距是可消除熵不足的曲率阴影,支持I-投影解释。
2026-07-21 cs.AI cs.GT cs.LG
A Variational Framework for LLM Generator-Regulator Games
Department of Electrical and Computer Engineering, Tandon School of Engineering, New York University, Brooklyn, NY, USA(电气工程系,工程学院,纽约大学,布鲁克林,纽约,美国)
提出一个变分框架,将语言生成建模为熵正则化吉布斯分布,将调节建模为最优判别器,通过鞍点问题平衡效用、熵、调节一致性和有限长度可检测性,并通过审查过滤和钓鱼防御案例验证。
2026-06-18 cs.AI cs.IT math.IT
InfoChess: A Game of Adversarial Inference and a Laboratory for Quantifiable Information Control
New Jersey Institute of Technology(新泽西理工学院)
InfoChess通过对抗性推理游戏探索信息控制策略,采用强化学习 agent 实现信息推断优化,分析信息理论特征以研究多智能体部分可观测环境下的推理。
2026-04-15 cs.AI cs.IT cs.LG
Which Nash Equilibrium? Solver-Dependent Selection on Zero-Sum Nash Polytopes
研究零和博弈中不同算法如何从纳什均衡多面体中选择特定均衡,发现正则化最后迭代方法选择最大熵成员,而遗憾平均方法漂移到低熵面,且选择影响对次优对手的表现。
2026-06-29 cs.AI cs.GT cs.LG