Discovering Differences in Strategic Behavior Between Humans and LLMs
Department of Computer Science, University of Texas at Austin. Work performed as a student researcher at Google DeepMind(德克萨斯大学计算机科学系。作为谷歌DeepMind的学生研究员进行的工作);Google DeepMind(谷歌DeepMind)
使用AlphaEvolve程序发现工具,从数据中直接发现可解释的人类和LLM行为模型,揭示在迭代石头剪刀布中前沿LLM比人类具有更深层次的战略行为。
2026-05-29 cs.AI cs.CL cs.CY
Strategic Algorithmic Monoculture: Experimental Evidence from Coordination Games
Pennsylvania State University(宾夕法尼亚州立大学)
研究通过实验设计区分算法单一性与战略算法单一性,发现LLM在协调任务中表现优异,但在奖励分歧时难以维持多样性。
2026-04-13 cs.AI cs.GT cs.MA
MARBO: Relational Belief Grounding for LLM Agents in Social Deduction Games
Graduate School of Artificial Intelligence, UNIST(蔚山国家科学技术研究院人工智能研究生院)
MARBO提出基于关系信念的偏好优化框架,使紧凑LLM智能体在社交推理游戏中通过信念引导决策与言语,实现更一致学习并持续超越现有基线。
2026-09-23 cs.AI cs.LG
What Counts as Strategic Reasoning? A Systematic Mapping of Chess Research on Humans, Engines, and Language Models
University of Bologna(博洛尼亚大学);University of Molise(莫利塞大学)
本研究系统映射84个国际象棋研究家族,发现文献集中于评估与行动选择,而规划、解释、元认知和人机协作不足,提出混合系统差异及人机协同评估问题,并指明未来研究方向。
2026-09-17 cs.AI
Can LLMs Help Improve Analogical Reasoning For Strategic Decisions? Experimental Evidence from Humans and GPT-4
INSEAD Singapore(欧洲工商管理学院新加坡分校);Indian School of Business(印度商学院);ESSEC Business School(埃塞克商学院)
本研究通过源到目标匹配实验发现,GPT-4在战略决策类比推理中召回率高但精确率低,人类则反之,表明LLM宜作类比生成器而人类宜作评估者。
2025-05-01 cs.AI cs.HC
When Human Preferences Flip: An Instance-Dependent Robust Loss for RLHF
本文提出了一种面向RLHF的实例依赖性鲁棒损失算法,通过建模偏好翻转机制和引入实例依赖的翻转概率,提升对齐算法的鲁棒性。
2025-11-30 cs.AI
Decoding the Human Factor: High Fidelity Behavioral Prediction for Strategic Foresight
OMGene AI Lab(OMGene AI实验室)
本文提出LBM模型,通过高维特质轮廓预测个体战略选择,提升高保真行为模拟能力,应用于战略预见等领域。
2026-02-19 cs.AI
A Dataset for Dynamic Human Preferences for Vision Language Models
Massachusetts Institute of Technology(麻省理工学院)
提出一个评估视觉语言模型理解动态人类偏好能力的基准,通过自动化管道生成包含图像依赖变化的数据集,并评估了现有模型。
2026-06-02 cs.AI cs.CV
RLHF from Heterogeneous Feedback via Personalization and Preference Aggregation
MIT(麻省理工学院);University of Maryland, College Park(马里兰大学学院公园分校)
针对RLHF中人类偏好异构及策略性反馈问题,提出基于个性化(表示学习与聚类)和聚合(奖励与偏好聚合)两种框架,兼顾偏差方差权衡,并设计机制确保真实反馈,最大化社会福利。
2024-05-27 cs.AI cs.LG
DIAL: Position-Debiased LLM Judges with Adaptive Human Preference Calibration
The University of Hong Kong(香港大学);Sun Yat-sen University(中山大学)
DIAL提出统一框架,结合LLM与人类比较,分离位置效应并自适应校准偏好,在模拟和基准上验证了稳健性与人类对齐,并贡献了大规模真实数据。
2026-09-28 cs.AI stat.AP stat.ME
LLMs as Strategic Actors: Behavioral Alignment, Risk Calibration, and Argumentation Framing in Geopolitical Simulations
Mantisanalytics
本文研究了大语言模型在地缘政治模拟中的行为表现,发现其在初期能模拟人类决策,但随时间推移表现出不同的策略特征,且在论证框架上偏向规范性与合作性。
2026-03-02 cs.AI cs.CL cs.CY
Two-Stage Stochastic Capacity Expansion in Stable Matching under Truthful or Strategic Preference Uncertainty
Polytechnique Montréal(蒙特利尔理工学院);CIRRELT(加拿大运输与物流研究中心);Université de Montréal(蒙特利尔大学);DIRO, Université de Montréal(蒙特利尔大学计算机科学与运筹学研究中心)
本文提出了一种在真实或战略偏好不确定性下的双重随机容量扩展机制,通过学校选择案例研究,探讨了在容量规划中考虑学生偏好不确定性的方法,并开发了基于行为的启发式算法以优化匹配结果。
2026-03-09 cs.GT math.OC
Non-strategic Econometrics (for Initial Play)
代理偏好建模在包括经济学和越来越多的人工智能在内的一系列领域都有应用。这些偏好并不总是已知的,因此可能需要从观察到的行为中进行估计,在这种情况下,需要一个模型来将代理偏好映射到行为,也称为结构估计。传统的模型是基于这样的假设,即代理人是完全理性的:也就是说,他们完全按照自己的利益进行优化和行为。然而,行为博弈论领域的工作表明,人类代理人经常做出不完全理性的决策,该领域已经开发出放松完美理性假设的模型。我们应用模型预测行为对估计偏好,并表明他们优于传统和常用的基准模型从人类受试者收集的数据。事实上,纳什均衡及其放松,量子响应均衡(QRE),可以导致一个不准确的估计代理偏好时,与地面真相。一个关键发现是,对非战略行为(通常被认为是均匀噪音)进行建模对于估计偏好非常重要。为此,我们引入了quantal-linear 4,一个丰富的非战略模型。我们还提出了一个增强流行的量子响应均衡与非战略性的组成部分。我们称之为增强模型QRE+L0,并发现在标准QRE的估计值的改进。QRE+L0允许非战略行为的替代模型,除了量化线性4。
2023-03-01 cs.GT
Investigating the Impact of Subgraph Social Structure Preference on the Strategic Behavior of Networked Mixed-Motive Learning Agents
Purdue University(普渡大学)
本文研究了子图社会结构偏好对网络混合动机学习代理在序列社会困境中的战略决策影响,提出SRIM方法,通过不同子图结构偏好展示代理奖励获取和战略行为的差异,验证了子图结构影响的鲁棒性。
2026-04-04 cs.GT cs.MA
How does uncertainty about other voters determine a strategic vote?
我们提出了一个框架,当一个选民可能缺乏其他选民的偏好知识,或其他选民对她自己的偏好知识的战略投票。在这种情况下,我们定义的概念操纵,均衡和优势,在不确定性。我们提供的情况下,真正的偏好的配置文件是相同的,但均衡配置文件是不同的,因为选民有不同的知识,其他选民。我们还对改变这种偏好不确定性的行为进行了建模,例如选民透露了她的偏好。我们表明,某些形式的操纵和平衡保持在这样的不确定性更新和其他人没有。然后,我们形式化的认知投票术语的逻辑。我们的目标是提供认识论背景的分析和设计的投票规则,包括不确定性。
2019-05-11 cs.GT
Strategic Classification from Revealed Preferences
我们研究了一个在线线性分类问题,其中的数据是由战略代理谁操纵他们的功能,努力改变分类结果。在回合中,学习者部署一个分类器,一个对立选择的代理到达,可能操纵她的功能,以最佳方式响应学习者。学习者不知道代理的效用函数或“真实”特征,这些特征在代理之间可能会有很大的差异。相反,学习者只能观察他们的“显示偏好”-即他们提供的实际操作特征向量。代理成本函数的一个广泛的家庭,我们给出了一个计算效率高的学习算法,能够获得减少“Stackelberg遗憾”-一种形式的政策遗憾,保证学习者获得的损失几乎一样小的最佳分类器在事后,甚至允许的事实,代理将最好的响应不同的最佳分类器。
2017-10-22 cs.DS cs.GT cs.LG
Strategic information disclosure with communication constraints and private preferences
本文将平台与用户的内容交互建模为不对称信息信号博弈,研究双方最优披露策略,并给出贝叶斯纳什均衡的结构、存在性及计算所需的最优性条件。
2024-10-01 cs.GT cs.SY eess.SY
An Enriched Model of Strategic Voting under Uncertainty
Sorbonne University(索邦大学);CNRS - Heudiasyc, UTC(法国国家科学研究中心 - Heudiasyc实验室,技术大学)
本文提出一个基于不确定性表示的战略投票模型,利用概率集和期望效用来决策,并展示了该模型能涵盖多种现有概率、集合或不完全偏好模型,同时扩展了收敛结果并揭示了实际应用中的挑战。
2026-05-15 cs.GT
Beyond Nash Equilibrium: Bounded Rationality of LLMs and humans in Strategic Decision-making
Tsinghua University(清华大学)
本研究通过石头剪刀布、囚徒困境博弈实验对比大语言模型与人类的战略决策行为,发现大语言模型仅复现部分人类有限理性特征,应用策略更僵化、环境敏感性弱,需优化训练以提升灵活建模与情境感知能力。
2025-06-11 cs.AI cs.GT
A taxonomy of strategic human interactions in traffic conflicts
University of Waterloo(滑铁卢大学)
为了使自动驾驶汽车(AV)能够在繁忙的交通状况下导航,近年来,人们一直关注用于自动驾驶汽车战略行为规划的博弈论模型。然而,缺乏共同的分类阻碍了更广泛的理解模型生成的策略,以及安全规范的发展,以确定什么策略是安全的AV执行。基于交通冲突中常见的互动模式,我们开发了一个分类的战略互动沿代理的初始响应权的方式规则和随后的响应其他代理的行为的维度。此外,我们展示了自动映射的过程中产生的战略规划师的分类类别,车辆和车辆-行人的互动模拟的基础上,我们评估两个流行的解决方案的概念,用于战略规划中的AV,QLk和子游戏完美$ε$ -纳什均衡,相对于这些类别。
2021-09-29 cs.AI cs.GT
Structure from Strategic Interaction & Uncertainty: Risk Sensitive Games for Robust Preference Learning
University of Washington(华盛顿大学);California Institute of Technology(加州理工学院)
本文提出风险敏感偏好游戏,通过优化凸风险度量来提升鲁棒性,建立稳定算法并控制偏置,实验证明其在不同数据层的鲁棒性。
2026-05-12 cs.GT
Conditions for Stability in Strategic Matching
我们考虑的稳定性匹配时,个人战略提交偏好信息的一个公开的算法。接下来的博弈中,大多数纯纳什均衡都产生了一种匹配,这种匹配对于个人的真诚偏好来说是不稳定的。我们引入了一个良好的支持最小不诚实的约束,并获得条件下,每一个纯纳什均衡产生一个匹配,是稳定的真诚的喜好。匹配算法的条件是完全随机化的,或者是单调的和独立于非配偶(INS)的,这是一个类似IIA的属性。这些条件是重要的,因为它们支持使用除Gale-Shapley(人类最优)算法之外的算法进行肾脏交换和其他应用。我们证明了Gale-Shapley算法总是会产生女性最优匹配时,个人是最小的不诚实。然而,我们给出了一个否定的答案Gusfield和欧文的开放问题之一:有没有单调的INS或完全随机的稳定匹配算法,是一定要产生平等的最佳匹配时,个人的战略和最小的不诚实。最后,我们表明,这些结果延伸到学生安置问题,妇女是一妻多夫,但必须诚实,但不延伸到招生问题,妇女是一妻多夫和战略。
2021-08-09 cs.GT cs.MA
Mining Determinism in Human Strategic Behavior
TU Bergakademie Freiberg(弗赖贝格工业大学)
这项工作的关键在于实验经济学和数据采掘的融合。它延续了作者以前的工作,从实验数据中挖掘人类受试者的行为规则,其中博弈论预测部分失败。博弈论的预测,也就是均衡,只有在有经验的受试者参与特定的博弈时才有可能成功,而这一点很少被给出。除了博弈论之外,当代实验经济学还提供了许多可供选择的模型。在相关文献中,这些模型总是带有心理学和近心理学理论的偏见,并声称得到了数据的证明。这项工作介绍了一个数据采掘的方法来解决这个问题,而不使用庞大的心理背景。除了决定论,没有其他偏见被视为。采用来自不同人类受试者实验的两个数据集进行评估。第一个是重复混合策略零和博弈,第二个是重复最后通牒博弈.最后,对人类战略行为中确定性风险的挖掘方法进行了描述和评价。作为未来的工作,一个新的表示形式主义的设计进行了讨论。
2012-11-11 cs.AI cs.GT
Approximating Human Strategic Reasoning with LLM-Enhanced Recursive Reasoners Leveraging Multi-agent Hypergames
Royal Holloway University of London(伦敦皇家霍洛威大学)
本文提出了一种基于LLM增强的递归推理器框架,通过多智能体超游戏模型评估LLM的递归推理能力,并展示了其在近似人类行为和最优解达成方面的优势。
2025-02-11 cs.AI cs.GT
Equilibria of Plurality Voting: Lazy and Truth-biased Voters
我们提出了一个系统的研究,多元化的选举与战略选民,除了对选举获胜者的偏好,有次要的偏好,这决定了他们的行为时,他们的投票不能影响选举结果。具体来说,我们研究了两个模型,最近被认为是在文献中:懒惰的选民,谁喜欢弃权时,他们不是关键的,和真理偏见的选民,谁喜欢如实投票时,他们不是关键的。我们扩展以前的工作,调查懒惰和真理偏见的选民在不同的平局打破规则(词典规则,随机选民规则,随机候选人规则)的行为。在先前的工作中,已经研究了这六种次要偏好和平局打破规则的组合中的两种。为了了解不同的次要偏好和平局打破规则对选举结果的影响,我们研究了其余四种组合。我们刻画了纯纳什均衡(PNE)的战略游戏,并研究了相关的计算问题的复杂性。我们的结果扩展到一些选民可能非战略性的环境。
2014-09-15 cs.GT
Strategic Learning Approach for Deploying UAV-provided Wireless Services
无人机(UAV)是一种能够同时向多个移动用户快速提供无线服务的技术。本文旨在解决一个具有挑战性的问题,每个用户是自私的,可能会误报他的位置或偏好改变最佳无人机位置接近自己。利用算法博弈论,研究了如何在保证所有自私用户真实报告位置的前提下,确定无人机在三维空间中的最终位置。为了最大限度地减少无人机放置游戏中的社会服务成本,我们设计了与社会最优值相比具有近似比的防策略机制。我们还研究了令人讨厌的无人机放置游戏,以最大限度地保持他们的社会效用,其中每个现任用户可能会误报他的位置,以保持无人机远离他。此外,我们提出了双偏好的无人机放置游戏,通过考虑上述两组用户的共存,其中用户可以误报他们的位置和偏好类型(有利或讨厌)对无人机。最后,我们将上述三个游戏扩展到包括多个无人机,并设计具有可证明近似比的防策略机制。
2019-10-06 cs.GT
ElementaryNet: A Non-Strategic Neural Network for Predicting Human Behavior in Normal-Form Games
针对现有GameNet的level-0模型可能模拟策略推理的问题,本文提出无法表达策略行为的ElementaryNet,其预测性能与GameNet无显著差异,还可用于挖掘人类行为推理相关洞见。
2025-11-18 cs.AI cs.GT cs.LG
Preference-CFR$\:$ Beyond Nash Equilibrium for Better Game Strategies
提出 Preference-CFR 方法,通过引入偏好度和脆弱度参数在可接受性能损失内调整策略分布,在德州扑克中成功训练出性能相当且风格多样的策略,为职业玩家提供新见解。
2025-05-28 cs.GT cs.MA
Strategic Voting in the Context of Stable-Matching of Teams
本文研究团队稳定匹配场景下的策略性投票问题,采用Borda规则聚合团队偏好、Gale-Shapley算法求稳定匹配,证明单投票者操纵可多项式时间求解,联盟操纵计算困难但可近似求解。
2023-06-29 cs.GT cs.MA
Recommending to Strategic Users
推荐系统在数字经济中无处不在。在许多部署的系统中,一个重要的假设是用户消费反映了静态意义上的用户偏好:用户消费他们喜欢的内容,没有其他考虑。然而,正如我们在一项大规模在线调查中所记录的那样,用户确实会有策略地选择内容,以影响他们未来获得推荐的内容类型。我们将这种用户行为建模为推荐系统和用户之间的两阶段噪声信号博弈:推荐系统最初承诺推荐策略,在冷启动阶段向用户呈现内容,用户选择战略性消费以影响他们将在推荐阶段推荐的内容类型。我们表明,在平衡,用户从事的行为,强调他们的差异,不同的偏好配置文件的用户。此外,(统计上的)少数群体由于担心失去他们的少数群体内容展示,可能不会消费主流用户喜欢的内容。接下来,我们提出三种可能提高推荐质量的干预措施(平均和少数群体)在考虑战略消费时:(1)采用一种推荐系统策略,该策略使用来自先验的偏好,(2)与普遍喜欢的用户进行通信,(“主流”)内容将不被用作推荐的基础,以及(3)提供足够个性化但期望在开始时被喜欢的内容。最后,我们描述了一种方法,通知应用理论建模与调查结果。
2023-02-13 cs.CY cs.GT cs.IR
Human strategic decision making in parametrized games
Ganzfried Research(甘兹弗里德研究)
本文提出一种框架,使人类能在无需实时求解器的情况下快速做出决策,适用于多玩家和不完全信息环境。
2026-03-24 cs.AI cs.GT cs.LG
ALYMPICS: LLM Agents Meet Game Theory -- Exploring Strategic Decision-Making with AI Agents
Microsoft Research Asia(微软亚洲研究院)
本文提出Alympics仿真框架,利用LLM智能体研究博弈论问题,并通过水资源分配挑战验证其在战略决策分析中的有效性。
2024-01-16 cs.AI cs.CL cs.GT
Aggregating Information and Preferences with Bounded-Size Deviations
本文研究含不可观测基础事实的两组智能体投票博弈,利用事前贝叶斯 k-强均衡刻画多数派偏好结果稳定存在的参数边界。
2025-05-15 cs.GT
Rational Miner Behaviour, Protocol Stability, and Time Preference: An Austrian and Game-Theoretic Analysis of Bitcoin's Incentive Environment
本文结合奥地利资本理论与重复博弈论,分析区块链中矿工的战略行为,指出协议规则可变性会提高时间偏好并破坏合作均衡,论证了协议不可变性作为制度锚对恢复战略一致性与网络可持续均衡的必要性。
2025-06-26 cs.CR cs.GT cs.NI
Bounded Incentives in Manipulating the Probabilistic Serial Rule
Shanghai University of Finance and Economics(上海财经大学);Peking University(北京大学);University of Southampton(南安普顿大学)
概率序列机制以其令人满意的公平性和效率特性而闻名。它是解决随机分配问题最重要的协议之一。然而,ProbabilitySerial不是激励相容的,因此这些理想的属性只适用于代理人的声明偏好,而不是他们真正的偏好。通过策略行为获得的大量效用收益会引发自利主体操纵机制,并会破坏在实践中采用机制的基础。在本文中,我们的特点,在何种程度上可以提高其效用的个人代理的战略操纵。我们证明了该机制的激励比为$\frac{3}{2}$。也就是说,没有一个智能体可以误报其偏好,从而使其效用超过如实报告时的1.5倍。该比率是最坏情况下的保证,允许代理具有关于其他代理的报告的完整信息,并找出最佳响应策略,即使它通常在计算上是难以处理的。为了补充这个最坏的情况下的研究,我们进一步评估代理的效用增益平均通过实验。实验表明,代理人操纵规则的动机是非常有限的。这些结果揭示了概率序列对策略操纵的鲁棒性,这比知道它不是激励相容的更进一步。
2020-01-28 cs.AI cs.GT cs.MA
A Revealed Preference Framework for AI Alignment
Department of Economics, Mitch Daniels School of Business, Purdue University(普渡大学米奇·丹尼尔斯商学院经济系)
本文提出Luca对齐模型,通过揭示偏好技术研究AI是否实现人类偏好,证明在实验室和实地设置中可识别对齐程度。
2026-03-29 cs.AI cs.GT econ.TH
Strategic Tradeoffs Between Humans and AI in Multi-Agent Bargaining
Google DeepMind Mountain View CA USA(谷歌DeepMind);Harvard University Cambridge MA USA;MIT \& NBER Cambridge MA USA;MIT Cambridge MA USA;Google DeepMind;Harvard University;MIT \& NBER;MIT
本研究通过实证分析比较了人类、前沿LLMs和定制化贝叶斯代理在动态多玩家协商游戏中的表现,揭示了LLMs在复杂多代理互动中与人类行为的差异及性能平局的局限性。
2026-01-24 cs.AI cs.GT cs.HC
Strategic Partitioning and Manipulability in Two-Round Elections
Università di Roma La Sapienza(罗马第一大学);Università degli Studi di Salerno(萨莱诺大学)
研究两轮选举中通过划分候选人集合A和B来最大化特定候选人获胜概率的方法,发现随着候选人数增加,主离散聚类的相对宽度趋于总候选人数的五分之一。
2026-03-16 cs.GT math.OC math.PR
The Double-Edged Sword of Behavioral Responses in Strategic Classification: Theory and User Studies
UC San Diego(加州大学圣地亚哥分校)
本文构建纳入行为偏差的策略分类模型,分析特征权重误感知导致的投资差异及对企业的双向影响,并通过用户研究验证偏差存在。
2024-10-25 cs.GT cs.HC cs.LG
If more than Analytical Modeling is Needed to Predict Real Agents' Strategic Interaction
本文介绍了跨学科的研究基础设施,了解人类的推理博弈论的条款。战略推理被认为影响人类在社会、经济和竞争互动中的决策。提供的介绍解释并连接了人工智能、博弈论和心理学的概念。第一个结果是跨学科游戏描述语言的概念,作为重点跨学科研究基础设施的一部分。这种特定领域语言的需求是有动机的,旨在加速当前的发展。第二部分总结了目前的研究现状及其意义。
2011-05-03 cs.GT
LSTM model predicting outcome of strategic thinking task exhibits representations of level-k thinking
本文用LSTM模型在石头剪刀布博弈中学习策略行为,发现其隐藏激活中形成了经济学层级k推理的隐式表示,揭示了循环神经网络机制与策略思维理论模型之间的可能联系。
2023-11-28 cs.GT
Capturing the Complexity of Human Strategic Decision-Making with Machine Learning
Princeton University(普林斯顿大学);Boston University(波士顿大学);Harvard University(哈佛大学);NBER(美国国家经济研究局)
本研究通过大规模双人矩阵博弈决策数据训练深度神经网络,发现其预测人类策略决策效果优于现有理论,改造出的可解释模型揭示了博弈复杂度对人类决策能力的影响,证明了机器学习可用于生成人类行为新解释。
2024-08-15 cs.GT cs.LG econ.GN
PreferenceNet: Encoding Human Preferences in Auction Design with Deep Learning
Center for Machine Learning, University of Maryland(马里兰大学机器学习中心)
最优拍卖的设计是经济学、博弈论和计算机科学中的一个重要问题。尽管经过几十年的努力,在受限环境之外,防策略的、收入最大化的拍卖设计仍然是未知的。然而,最近使用深度学习的方法在近似最优拍卖、恢复几个已知解决方案以及在最优拍卖未知时优于强基线方面取得了一些成功。除了收入最大化之外,拍卖机制还可能寻求鼓励社会所希望的约束,如分配公平性或多样性。然而,这些哲学概念既没有标准化,也没有被广泛接受的正式定义。在本文中,我们提出了PreferenceNet,现有的基于神经网络的拍卖机制的扩展编码的限制使用(潜在的人类提供的)样本的理想的分配。此外,我们引入了一个新的指标来评估拍卖分配的遵守这样的社会理想的约束,并证明我们提出的方法是有竞争力的,与目前国家的最先进的基于神经网络的拍卖设计。我们通过人类受试者研究验证了我们的方法,并表明我们能够有效地捕捉真实的人类偏好。我们的代码可在https://github.com/neeharperi/PreferenceNet上获得
2021-10-17 cs.AI cs.GT cs.LG
Strategic Mitigation of Agent Inattention in Drivers with Open-Quantum Cognition Models
Missouri Univ. of Science and Technology(密苏里科技大学);Indiana University Bloomington(印第安纳大学伯明顿分校)
最先进的驾驶员辅助系统未能有效缓解驾驶员注意力不集中,并且对不断增加的道路事故(例如,由于导致驾驶员注意力不集中的各种因素引起的事故而造成的生命损失和身体伤害)的影响很小。这是因为传统的人机交互设置是在经典和行为博弈论域中建模的,这些域在技术上适合于表征两个效用最大化代理或人类决策者之间的策略交互。因此,在试图提高驾驶员辅助系统的说服效果,我们开发了一种新的战略和个性化的驾驶员辅助系统,适应驾驶员的心理状态和选择行为。首先,我们提出了一个新的平衡概念,在人与系统的互动游戏,系统最大化其预期效用和人类的决策可以使用任何一般的决策模型。然后,我们使用这个新的均衡概念来研究战略驾驶员-车辆交互游戏,其中汽车提出了一个有说服力的建议,引导司机走向更安全的驾驶决策。我们假设驾驶员采用开放量子系统认知模型,该模型捕捉了人类决策的复杂方面,例如违反经典的全概率定律和某些心理表征信息的不相容性。我们提出了封闭形式的表达球员的最终反应,对方的策略,使我们可以数值计算纯和混合均衡。数值结果来说明这两种平衡。
2021-07-21 cs.AI cs.GT cs.MA
Statistical Impossibility and Possibility of Aligning LLMs with Human Preferences: From Condorcet Paradox to Nash Equilibrium
Massachusetts Institute of Technology(麻省理工学院);University of Pennsylvania(宾夕法尼亚大学);Princeton University(普林斯顿大学)
本文探讨了对齐大语言模型与人类偏好的统计限制,证明在一般概率偏好模型下,康德斯循环几乎必然存在,从而表明基于奖励的方法无法完全对齐偏好。同时,研究了非奖励方法下LLM采用混合策略的条件,证明在Luce模型下,少数群体偏好得以保留的统计可能性。
2026-04-30 cs.GT cs.LG econ.TH