By Fair Means or Foul: Quantifying Collusion in a Market Simulation with Deep Reinforcement Learning
University of Mannheim(曼海姆大学)
本研究通过实验性寡头垄断模型和需求框架,调查了基于强化学习的AI定价智能体在市场模拟中无需通信即可达成合谋的策略与模式,并提供了全面的法律分析。
2024-06-04 cs.AI cs.LG
One Goal, Many Commands: Characterizing Denylist Fragility in AI Agents
The Ohio State University(俄亥俄州立大学)
针对终端AI智能体命令黑名单的脆弱性问题,提出LLM驱动的检测流水线CmdNeedle,发现69.0-98.6%的黑名单存在可绕过漏洞。
2026-06-23 cs.AI cs.CR
TraceGuard: Structured Multi-Dimensional Monitoring as a Collusion-Resistant Control Protocol
Independent Researchers(独立研究人员);Apart Research
本文提出TraceGuard,一种结构化多维监控协议,通过五个维度评估代理行为,结合LLM调用和启发式检测器,有效区分攻击与诚实行为,防止合谋攻击。
2026-04-05 cs.AI cs.CR
Can Agents Generalize to the Open World? Unveiling the Fragility of Static Training in Tool Use
针对LLM智能体在真实场景中因查询、工具集和交互动态变化而性能下降的问题,形式化定义了开放世界工具使用问题,构建了四层层次的环境偏移框架,并通过实验揭示了监督微调和强化学习训练智能体在面对开放环境偏移时的脆弱性,提出了扰动增强微调策略以提升鲁棒性。
2026-07-02 cs.AI
Steganalysis of Adaptive Covert Collusion in Tool-Using Agent Populations: A Black-Box, Cross-Principal Approach
Keele University(基尔大学)
本研究针对使用工具的LLM智能体群体的自适应隐式合谋,构建结合多类方法的黑盒隐写分析检测器,开展红蓝对抗实验,绘制检测容量边界并发现新的规避手段。
2026-08-05 cs.AI cs.CR
Winning at Any Cost -- Infringing the Cartel Prohibition With Reinforcement Learning
University of Mannheim(曼海姆大学)
定价决策越来越多地由AI做出。由于它们能够在动态决策的同时使用实时市场数据进行训练,深度强化学习算法在做出此类定价决策时特别有效。在电子商务场景中,多个强化学习代理可以根据竞争对手的价格设定价格。因此,研究表明,从长远来看,代理人可能最终处于共谋状态。为了进一步分析这个问题,我们建立了一个场景,是基于一个囚犯的困境,其中三个代理人玩石头剪刀布游戏的修改版本。我们的研究结果表明,行动选择可以被分解成特定的阶段,建立可能性,以开发能够识别的情况下,可能导致竞争对手之间的勾结预防系统。我们还提供了证据的情况下,代理人能够执行一个默契的合作策略,而没有明确的训练这样做。
2021-07-05 cs.AI cs.LG cs.MA
Coordination in Adversarial Sequential Team Games via Multi-Agent Deep Reinforcement Learning
Politecnico di Milano(米兰理工大学)
许多现实世界的应用程序涉及代理团队,他们必须协调行动,以达到共同的目标,对抗潜在的对手。本文主要研究一组玩家面对一个对手的零和博弈,例如桥牌、扑克牌中的共谋和投标中的共谋。团队成员在玩游戏之前进行沟通的可能性-也就是说,事先协调他们的策略-使得行为策略的使用不能令人满意。我们引入软团队演员批评(STAC)作为一个解决方案,团队的协调问题,不需要任何先验领域的知识。STAC允许团队成员通过团队之间共享的外源信号有效地利用事前沟通。STAC在完全可观察和部分可观察的游戏中都达到了接近最优的协调策略,而之前的深度RL算法无法达到最优的协调行为。
2019-12-16 cs.AI cs.NE
Tacit algorithmic collusion in deep reinforcement learning guided price competition: A study using EV charge pricing game
University of South Florida(南佛罗里达大学)
针对电动汽车充电枢纽动态定价竞争,本文提出随机优化与MADRL相结合的两步方法,并用合谋指数量化发现AI定价仅呈现低至中等水平的隐性算法合谋。
2024-05-10 cs.AI cs.LG cs.SY
Institutional AI: Governing LLM Collusion in Multi-Agent Cournot Markets via Public Governance Graphs
DEXAI – Icaro Lab(DEXAI–Icaro实验室);Sapienza University of Rome(罗马大学萨皮恩扎分校);Sant’Anna School of Advanced Studies(圣安娜高级研究学校);VU Amsterdam(阿姆斯特丹自由大学)
本文提出通过公共治理图治理多智能体Cournot市场合谋问题,展示机构AI框架在减少合谋行为方面的有效性。
2026-01-20 cs.AI cs.GT
Collusion in Unrepeated, First-Price Auctions with an Uncertain Number of Participants
我们考虑的问题,投标人之间的共谋(“投标环”)可以支持在均衡的无重复的第一价格拍卖。与McAfee和McMillan [1992]以及Marshall和Marx [2007]等先前关于该主题的工作不同,我们不假设非串通代理人完全了解其出价被竞标环压制的串通代理人的数量,甚至允许存在多个卡特尔。此外,虽然我们把投标人与投标环的关联视为外生的,但我们允许投标人在受邀时做出是否加入投标环的战略决策。我们确定了一个投标环协议,结果在贝叶斯{纳什均衡,在此条件下,非串通代理直接投标,串通代理加入投标环时,邀请和如实申报他们的估值环中心的有效分配。我们发现,投标环有利于环中心和所有代理人,成员和非成员的投标环,在拍卖人的费用。我们在本文中介绍的技术也可能是有用的推理其他问题中,代理人有关于设置的信息不对称。
2012-08-23 cs.AI cs.GT
Collusion-proof And Sybil-proof Reward Mechanisms For Query Incentive Networks
本文探讨了一个查询激励网络的奖励机制,在该网络中,智能体从社交网络中寻找信息。在任务所有者发布的查询树中,每个Agent都因对解决方案的贡献而受到所有者的奖励,例如解决任务或邀请其他人解决任务。奖励机制决定了每个Agent的奖励,并激励所有Agent如实传播和报告他们的信息。特别是,奖励不能超过任务所有者设定的预算。然而,我们的不可能性结果表明,奖励机制不能同时实现Sybil-proof(代理人从操纵多个假身份中受益),串通证明(多个代理人假装为单个代理人以提高奖励)和其他基本属性。为了解决这些问题,我们提出了两个新的奖励机制。第一种机制分别实现了防Sybil和防共谋;第二种机制牺牲了防Sybil的功能,实现了防Sybil和防共谋的近似版本。此外,我们的实验表明,我们的第二个奖励机制优于现有的。
2023-02-13 cs.GT
Manipulating Scrip Systems: Sybils and Collusion
分布式和对等系统的博弈论分析通常使用纳什均衡解决方案的概念,但这明确排除了涉及多个代理的战略行为的可能性。我们研究的影响,两种类型的战略行为,涉及一个以上的代理商,sybils和共谋,在代理商相互提供服务,以换取代币的代币系统的背景下。Sybils使代理人更有可能被选中提供服务,这通常使没有sybils的代理人更难赚钱,并降低了社会福利。令人惊讶的是,在某些情况下,sybils有可能使所有代理人都变得更好。虽然共谋通常是不好的,但在代币系统的背景下,它实际上倾向于使所有代理人都变得更好,而不仅仅是那些共谋者。这些结果也提供了洞察允许代理人做广告和贷款的影响。虽然许多扩展的纳什均衡已被提出,解决共谋和其他相关的分布式和对等系统的问题,我们的研究结果表明,他们都没有充分解决的问题所提出的sybils和共谋在代币系统。
2009-03-12 cs.GT
The Illusion of Collusion
研究发现算法代理在特定策略下可能产生看似合谋的行为,揭示了算法合谋的机制及政策影响。
2026-03-09 cs.AI cs.GT cs.MA
Strategic Collusion of LLM Agents: Market Division in Multi-Commodity Competitions
California Institute of Technology(加州理工学院)
本研究探讨古诺竞争框架下大语言模型智能体在多商品市场的策略行为,发现其无需明确指令即可通过动态调整策略垄断特定商品实现利润最大化,为企业AI应用和市场监管提供参考,也为相关后续研究奠定基础。
2025-05-16 cs.AI cs.CL cs.GT
Evaluating LLM Agent Collusion in Double Auctions
stanford(斯坦福大学);caltech(加州理工学院);yale(耶鲁大学);cmu(卡内基梅隆大学);arb(Arb研究)
本文通过模拟连续双拍卖市场实验,研究LLM智能体作为卖方时的合谋行为,发现直接通信、模型选择和环境压力均会影响合谋倾向,为部署LLM市场智能体提供了经济与伦理方面的启示。
2025-07-02 cs.AI cs.GT cs.LG
Learning to Charge More: How Q-Learning Firms Lock In Supracompetitive Prices
School of Mathematics, University of Minnesota(数学系,明尼苏达大学)
本文为无限重复博弈中Q-Learning智能体收取超竞争价格的现象提供了首个理论解释,证明在特定条件下企业会学会持续合谋定价,并引入新子博弈完美均衡类别分析了朴素合谋与冷酷触发策略的支持条件。
2026-11-03 cs.AI cs.GT econ.GN
Hypothesis Testing Approach to Detecting Collusion in Competitive Environments
人们越来越担心使用算法定价的默契勾结,监管机构需要工具来帮助检测这种勾结的可能性。本文研究如何设计一个假设检验框架,以确定是否代理人的行为竞争或没有。在我们的环境中,代理商是效用最大化和竞争的项目价格。监管者不知道代理人的效用函数,只能访问代理人的策略(即,定价决策)和外部冲击值,以确定代理人是否根据某些均衡问题在竞争中表现。我们利用制定这样的问题作为一个逆变分不等式和设计一个假设检验下的最小假设。我们证明了我们的方法与计算实验的Bertrand竞争游戏(有和没有勾结),并显示我们的方法如何执行。
2020-03-28 cs.GT math.OC stat.AP
Impact of Price Inflation on Algorithmic Collusion Through Reinforcement Learning Agents
Center for Artificial Intelligence (CENIA)(人工智能中心(CENIA));University of Chile(智利大学);Advanced Mining Technology Center (AMTC)(先进采矿技术中心(AMTC))
本文研究通胀冲击对强化学习定价智能体合谋行为的影响,发现通胀会促进隐性协调、降低市场竞争性,但智能体缺乏稳健惩罚机制,凸显监管必要性。
2025-04-05 cs.GT cs.LG
Breaking Algorithmic Collusion in Human-AI Ecosystems
University of Pennsylvania(宾夕法尼亚大学);Stanford University(斯坦福大学)
本文研究了人类-人工智能生态系统中算法合谋的稳定性,发现单个或多个人类的背叛行为能破坏合谋并降低价格,揭示了合谋在混合生态系统中的脆弱性。
2025-11-26 cs.GT cs.LG
DarwinNet: An Evolutionary Network Architecture for Agent-Driven Protocol Synthesis
China Academy of Information and Communications Technology(信息与通信技术研究院)
DarwinNet通过生物启发的自进化架构,将通信协议从设计时静态模式转向运行时增长模式,利用三层次框架和双循环机制合成业务意图,通过协议固结指数量化系统进化成熟度,实验表明其具备抗脆弱性。
2026-04-14 cs.AI cs.DC cs.MA
Cooperation Enforcement and Collusion Resistance in Repeated Public Goods Games
多智能体系统的主要目标之一是加强实体间的合作。然而,由于在许多情况下存在固有的社会困境,搭便车的问题可能会出现在代理人的长期互动和事情变得更加复杂时,自利的代理人相互勾结,以获得额外的利益。人们普遍认为,在这样的社会困境中,不存在简单的策略,一个代理人,她可以同时操纵她的每个对手的效用,并进一步促进所有代理人之间的相互合作。在这里,我们证明了这样的策略确实存在。在传统的重复公共产品博弈下,我们对它们进行了新的识别,发现在面对这种策略时,单个对手只有通过全球合作才能实现效用最大化,而任何合谋的联盟都无法占据上风。由于完全合作对于任何单个对手都是最优的,因此可以实现所有玩家之间的稳定合作。此外,我们的实验表明,这些策略仍然可以促进合作,即使对手是自我学习和合谋。
2018-11-15 cs.GT math.OC
Algorithmic collusion under asynchronous price updating
Centre Borelli, ENS Paris Saclay(博尔利中心,巴黎萨克雷高等师范学院);CAMS, EHESS(CAMs,社会科学高等学院)
本文针对伯特兰双头垄断中异步设定价格的Q-learning算法,通过大量数值实验探究异步性对算法合谋的影响,发现异步性会阻碍合谋,相关结果对算法定价监管具有意义。
2026-08-04 cs.GT econ.TH
Mitigating Emergent Collusion in LLM Pricing Agents
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本研究通过实验比较三种监管干预措施,发现改变激励或市场参与度(如Harrington监管器和主动随机进入者)比仅提示警告更能有效缓解LLM定价智能体的涌现性合谋,降低超竞争性定价。
2026-09-14 cs.GT
Learning Collusion in Episodic, Inventory-Constrained Markets
本文研究库存受限易腐商品市场中定价算法的隐性合谋,提出计算价格水平的方法,并证明深度强化学习智能体可学习合谋,分析其策略机制。
2025-02-25 cs.GT cs.MA
Algorithmic Collusion by Large Language Models
a pawfessor of economics and of computer science(经济与计算机科学教授);OpenAI’s Researcher Access Program(OpenAI研究员访问计划);Google’s Gemini Academic Program(Google的Gemini学术计划);Cloud Research Credits Program(云研究信用计划);Anthropic;NSF Graduate Research Fellowship(NSF研究生研究 fellowship);Kempner Institute Graduate Fellowship(Kempner研究所研究生 fellowship);National Science Foundation (NSF-BSF grant No. 2343922)(国家科学基金会(NSF-BSF grant No. 2343922));Harvard FAS Dean’s Competitive Fund for Promising Scholarship(哈佛大学哈佛大学教务处有前途的学术研究竞争基金);Harvard FAS Inequality in America Initiative(哈佛大学哈佛大学美国不平等倡议);United States–Israel Binational Science Foundation (BSF grant 2022417)(美国-以色列双边科学基金会(BSF grant 2022417))
研究发现大语言模型在寡头市场中因指令变化导致超竞争性定价,揭示了AI定价代理监管的挑战。
2026-08-31 cs.AI cs.GT econ.GN
A Theory of Least Autonomy in AI
研究智能代理人工智能系统权限控制问题,提出最小自主性理论,通过定义组合爆炸半径、有向代理影响图及勾结谓词,实现对系统中行动结构分离、代理影响及授权组合等的衡量与检测。
2026-07-14 cs.AI cs.CR
Notarized Agents: Receiver-Attested Confidential Receipts for AI Agent Actions
Independent Researcher, Sello Project(独立研究者,Sello项目)
针对AI代理日志自审计的信任缺陷,提出接收方签名收据协议Sello,通过HPKE加密、JWS绑定和Merkle日志实现防篡改追踪。
2026-06-02 cs.AI cs.CR cs.DC
Algorithmic Pricing and Algorithmic Collusion
本文研究在线零售中算法定价可能导致的算法合谋现象,结合在线学习与博弈论,探讨超竞争价格的形成条件,并为BISE领域指明研究机会。
2025-04-23 cs.GT
Optimizing Scrip Systems: Crashes, Altruists, Hoarders, Sybils and Collusion
代币或人工货币是一种有用的工具,用于设计对用户自私行为具有鲁棒性的系统。然而,它也给系统设计者带来了问题,例如应该如何设置系统中的金额。在这篇论文中,在一个代币系统中改变货币总量对效率的影响(即,社会福利--系统中所有代理人的总效用)进行了分析,并表明,通过保持货币总量与代理人数量之间的适当比例,效率最大化。这一比率可以通过增加货币供应量到刚好低于系统将经历“货币崩溃”的点来找到,在这种情况下,货币充分贬值,没有代理人愿意提供服务。利他主义者,囤积者,sybils,和勾结系统的性能的存在的影响进行了研究。方法进行了讨论,以确定的策略和类型的代理。
2012-04-16 cs.DC cs.GT
Incentive Analysis of Collusion in Fair Division
HKUST(香港科技大学);Shanghai Jiao Tong University(上海交通大学);Stanford University(斯坦福大学);University of Macau(澳门大学)
本研究针对公平分配中智能体合谋操纵的研究空白,定义强群体激励比与群体激励比衡量合谋收益,刻画了MNW、PS、RR三种机制的合谋激励边界,揭示了三者合谋脆弱性的本质差异。
2025-10-02 cs.GT
Algorithmic Collusion at Test Time: A Meta-game Design and Evaluation
Rutgers University(罗格斯大学);DIMACS, Rutgers University(DIMACS,罗格斯大学)
本文提出了一种元游戏设计,研究在测试时间限制下算法合谋的风险,通过模拟不同策略的智能体行为,评估合谋的可能性及定价策略的有效性。
2026-03-09 cs.GT cs.MA
Cognitive Debt: AI as Intellectual Leverage and the Dynamics of Systemic Fragility
New York University(纽约大学)
本文提出认知债务的形式化理论,通过建立包含认知资本和认知债务的状态变量模型,证明理性代理人会积累认知债务,并导致认知明斯基时刻和系统性脆弱性。
2026-06-16 cs.AI cs.GT physics.soc-ph
Autonomous Agents on Blockchains: Standards, Execution Models, and Trust Boundaries
Saad Alqithami(萨德·阿利萨米)
本文系统梳理了区块链与自主代理的互操作性领域,提出了五类整合模式、定制化的威胁模型和能力矩阵,并提出了研究路线图和评估套件,旨在提升链上执行的安全性和可靠性。
2026-01-08 cs.AI cs.MA
Relational Multi-Agent Reinforcement Learning for Dynamic Pricing in High-Speed Railway Markets
Department of Technologies and Information Systems, Universidad de Castilla-La Mancha(卡斯蒂利亚-拉曼恰大学技术与信息系统系);Warwick Manufacturing Group, University of Warwick(华威大学华威制造集团)
针对高铁市场部分可观测、禁直接通信的动态定价难题,提出实体图建模与改进多智能体强化学习算法,较基线方法提升收益与稳定性。
2026-07-07 cs.AI cs.LG cs.MA
Algorithmic Collusion And The Minimum Price Markov Game
本文提出最低价格 Markov 博弈模型,并用多智能体强化学习实验检验最低价格规则下的默契合谋,说明该规则总体稳健且协调依赖自我强化趋势。
2025-03-19 cs.GT econ.GN q-fin.EC
Market efficiency, informational asymmetry and pseudo-collusion of adaptively learning agents
本研究探讨信息不对称市场中自适应学习交易者的信息效率动态,发现策略性交易在低成本信息下降低价格效率,在高成本下提高效率,且伪合谋行为在大量代理下仍具鲁棒性。
2024-11-06 cs.GT econ.TH q-fin.CP
The Bounds of Algorithmic Collusion; $Q$-learning, Gradient Learning, and the Folk Theorem
University of Waterloo(滑铁卢大学);London School of Economics(伦敦政治经济学院)
本文研究了重复游戏中学习动态对算法合谋的影响,首次为多代理$Q$-学习算法提供了收敛性结果。
2026-03-03 cs.GT econ.TH stat.ML
Domination-Avoiding Learning Agents Cannot Collude
Hebrew University of Jerusalem(耶路撒冷希伯来大学)
本文证明避免支配的代理(包括基于均值和内部遗憾最小化代理)在市场中不会合谋,并保证几乎从不玩被重复消除纯支配策略消除的策略。
2026-11-04 cs.GT
The Fragility of Strategic Thinking in Large Language Models
IESE(IESE商学院)
该研究开发框架拆解博弈中信念形成等环节,发现前沿LLMs的战略思维存在但具脆弱性,随复杂性提升会出现逻辑转变与启发式规则,警示其作为战略主体应用需谨慎。
2026-08-18 cs.AI cs.GT
Collusion with Competitive Marginals: Price-Level Audits Are Blind by Construction
Carnegie Mellon University(卡内基梅隆大学);Zhejiang University(浙江大学)
该研究指出价格水平审计天生对特定算法合谋盲目,通过理论分析、语言模型智能体实验及以太坊拍卖数据验证,提出监管应转向竞价身份计数而非检测。
2026-07-30 cs.AI cs.CR cs.GT
On the Fragility of Worst-Case Nash Equilibria in Atomic Congestion Games
University of Colorado at Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校);Politecnico di Torino(都灵理工大学);Thayer School of Engineering, Dartmouth College(达特茅斯学院塔克工程学院)
本研究证明原子拥塞博弈中,智能体在均衡时的满意度与系统效率正相关,且最坏情况纳什均衡具有脆弱性,即智能体在均衡与最优行动间无差异,满意度与低效不可兼得。
2026-09-14 cs.GT
Is Thompson Sampling Susceptible to Algorithmic Collusion?
School of Information Management and Engineering, Shanghai University of Finance and Economics(上海财经大学信息管理与工程学院);The Rotman School of Management, University of Toronto(多伦多大学罗特曼管理学院);Department of Systems Engineering and Engineering Management, The Chinese University of Hong Kong(香港中文大学系统工程与工程管理学系)
研究两人未知收益矩阵重复博弈中 Thompson sampling 是否导致算法共谋,提出样本路径收敛分析,证明在温和收益条件下动态收敛至 Nash 均衡而非共谋。
2025-09-28 cs.GT cs.LG
Online Optimization Algorithms in Repeated Price Competition: Equilibrium Learning and Algorithmic Collusion
Technical University of Munich(慕尼黑工业大学)
研究在线学习算法在重复定价中产生竞争性结果还是隐性合谋,发现均值基算法收敛到纳什均衡,仅特定对称算法(如UCB)导致超竞争价格,且随竞争者增加而减弱。
2026-06-15 cs.GT
Algorithmic Collusion of Pricing and Advertising on E-commerce Platforms
Rutgers Business School(罗杰斯商学院);The Wharton School of the University of Pennsylvania(宾夕法尼亚大学沃顿商学院)
研究多智能体强化学习下卖家同时进行定价与广告的二维决策,发现高搜索成本时算法会协调降低广告出价和价格,实现三方共赢,且平台可通过调整佣金增加利润。
2025-10-31 cs.AI cs.CE cs.GT
An Incentive Mechanism for Crowd Sensing with Colluding Agents
车辆移动人群感知是一种快速发展的范例,通过在出租车等车辆上安装传感器来收集有关环境的数据。车辆人群感知中的一个重要问题是设计支付机制来激励驾驶员(代理)收集数据,总体目标是在给定预算的情况下获得最大量的数据(跨多辆车)。过去的作品在这个问题上考虑的设置,每个代理人在隔离操作-这是在实践中经常违反的假设。在本文中,我们设计了一个激励机制,以激励代理人谁可以从事任意合谋。然后,我们表明,在一个“同质”的设置,我们的机制是最佳的,可以做任何机制,知道代理人的偏好先验。此外,如果代理人是非共谋的,那么我们的机制自动地做得和任何其他非共谋机制一样好。我们还表明,我们提出的机制具有较强的(渐近最优)保证更一般的“异构”设置。基于合成数据和真实数据的实验表明,与过去的文献相比,我们的机制获得了超过30%的收益。
2018-09-13 cs.GT
Algorithmic pricing with independent learners and relative experience replay
Thrust of Financial Technology, The Hong Kong University of Science and Technology (Guangzhou)(金融科技研究所,香港科学与技术大学(广州))
该研究针对无限重复定价博弈中独立强化学习者的算法合谋问题,引入结合相对表现的经验回放技术,发现不同表现容忍度的智能体收敛结果不同,且该方法可缓解过拟合,其效果受智能体数量和算法选择影响。
2025-10-05 cs.AI cs.GT econ.GN