Metric Policy Representations for Opponent Modeling
Peking University(北京大学)
在多智能体强化学习中,由于其他智能体的行为所导致的环境固有的非平稳性,使得智能体很难独立地学习到一个好的策略。处理非平稳性的一种方法是对手建模,通过这种方法,代理考虑到其他代理策略的影响。大多数现有的工作依赖于预测其他代理的行动或目标,或区分不同的政策。然而,这样的建模无法同时捕捉政策之间的相似性和差异性,从而无法提供足够的有用信息时,推广到看不见的代理。为了解决这个问题,我们提出了一个通用的方法来学习其他代理的政策表示,这样的政策之间的距离是故意反映的距离表示之间的距离,而政策的距离是从训练过程中的采样联合行动分布推断。我们的经验表明,代理条件的学习政策表示可以很好地推广到看不见的代理在三个多智能体任务。
2022-06-21 cs.AI cs.LG cs.MA
LLMs as Deceptive Agents: How Role-Based Prompting Induces Semantic Ambiguity in Puzzle Tasks
本研究探讨了LLM作为自主智能体如何通过角色注入的对抗性提示利用语义歧义生成欺骗性谜题,发现其显著加剧语义歧义并降低求解公平性,为安全部署自主语言系统提供了伦理见解。
2025-04-03 cs.AI cs.CL
VAIN: Attentional Multi-agent Predictive Modeling
Facebook AI Research(脸书人工智能研究院)
多智能体预测建模是理解物理,社会和团队游戏系统的重要一步。最近,交互网络(INs)被提出用于建模多智能体物理系统的任务,INs的规模与系统中的交互数量(通常是二次或更高阶的智能体数量)。在本文中,我们介绍了VAIN,一种新的注意力架构的多代理预测建模,规模与代理的数量呈线性关系。我们表明,VAIN是有效的多智能体预测建模。我们的方法进行评估的任务,从具有挑战性的多智能体预测领域:国际象棋和足球,并优于竞争的多智能体方法。
2018-09-28 cs.AI cs.LG
Fact-based Agent modeling for Multi-Agent Reinforcement Learning
Hefei University of Technology(合肥工业大学)
针对未知场景下智能体建模的难题,提出基于事实的智能体建模方法FAM,仅利用局部信息通过变分自编码器重构其他智能体策略,有效提升了多智能体强化学习的策略学习效率与回报。
2023-10-18 cs.AI
Double Deep Q-Learning in Opponent Modeling
Tsinghua University(清华大学)
在多智能体系统中,次级智能体与冲突的议程也改变他们的方法需要对手建模。在这项研究中,我们模拟主代理和二级代理的策略,使用双深Q网络(DDQN)与优先经验重放机制。然后,在对手建模设置下,使用专家混合体系结构来识别各种对手策略模式。最后,我们分析了我们的模型在两个环境中有几个代理。研究结果表明,混合的专家模型,这是基于对手建模,比DDQN表现更好。
2022-11-24 cs.AI
From Idea to Co-Creation: A Planner-Actor-Critic Framework for Agent Augmented 3D Modeling
Massachusetts Institute of Technology(麻省理工学院);Northeastern University(东北大学)
本文提出一种规划-执行-批评框架,通过多代理自我反思和人类监督提升3D建模的几何精度、审美质量和任务完成率。
2026-01-08 cs.AI cs.GR cs.HC
Degrees of individual and groupwise backward and forward responsibility in extensive-form games with ambiguity, and their application to social choice problems
Potsdam Institute for Climate Impact Research(波茨坦气候影响研究所);Free University Berlin(柏林自由大学)
许多现实世界中与伦理相关的情况,特别是那些大规模的社会选择,如减缓气候变化,不仅涉及许多代理人的决定以复杂的方式相互作用,而且还涉及各种形式的不确定性,包括可量化的风险和不可量化的模糊性。在这些问题中,评估个人和群体对道德上不受欢迎的结果的道德责任或他们避免这种结果的责任是具有挑战性的,并且容易产生责任确定不足或过度的风险。在现有的方法的基础上严格的因果关系或某些道义逻辑,专注于一个二元分类的“负责任”与“不负责”,我们在这里提出了几个不同的定量责任度量,评估责任程度的概率单位。为此,我们使用一个框架的基础上的一个适应版本的广泛形式的博弈树和公理的方法,指定了一些潜在的理想属性,这样的指标,然后测试开发的候选指标,他们的应用到一些典型的社会选择的情况。我们发现,虽然人们可能希望此类责任指标的大多数属性都可以通过某种变体来实现,但尚未找到明显优于其他指标的最佳指标。
2020-07-09 cs.AI econ.TH
Modeling Others using Oneself in Multi-Agent Reinforcement Learning
New York University(纽约大学);Facebook AI Research(脸书人工智能研究院)
我们考虑多智能体强化学习设置不完美的信息,其中每个代理都试图最大化自己的效用。奖励函数取决于两个智能体的隐藏状态(或目标),因此智能体必须从观察到的行为中推断出其他参与者的隐藏目标,以便解决任务。我们提出了一种新的学习方法,在这些领域:自学习建模(SOM),其中一个代理使用自己的政策来预测其他代理的行动,并更新其信念的隐藏状态在一个在线的方式。我们在三个不同的任务上评估了这种方法,并表明在合作和对抗环境中,代理能够使用对其他参与者隐藏状态的估计来学习更好的策略。
2018-03-23 cs.AI cs.LG
ShareVerse: Multi-Agent Consistent Video Generation for Shared World Modeling
Shanghai Jiao Tong University China(上海交通大学中国);Fudan University China(复旦大学中国);StepFun China(StepFun中国)
提出ShareVerse框架,通过构建多智能体交互数据集、空间拼接策略和跨智能体注意力机制,实现多智能体共享世界的一致视频生成。
2026-06-03 cs.AI cs.CV
Policy Loopholes in Agent Evaluation: When Policy Ambiguity Masquerades as Agent Error
Amadeus SAS(艾玛迪斯公司)
本研究揭示自然语言策略的模糊性可导致智能体评估分数不可靠,提出策略漏洞分类法,并强调策略规范质量决定评估质量上限,建议基准开发者在收集注释前审计策略。
2026-09-15 cs.CL
Inter(sectional) Alia(s): Ambiguity in Voice Agent Identity via Intersectional Japanese Self-Referents
Institute of Science(科学研究所);University College Dublin(都柏林大学学院);AIST
本文通过众包实验研究日语非代词性自称词与ChatGPT语音的交互,发现交叉性自称词可制造身份模糊性以规避语音性别化,为语音代理身份设计提供文化敏感的新视角。
2025-05-20 cs.AI cs.CL cs.CY
When Search Agents Should Ask: DiscoBench for Clarification-Aware Deep Search
Hunyuan, Tencent(腾讯混元);Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
提出DiscoBench基准,评估大语言模型搜索代理在深度搜索中主动识别歧义、提出有效澄清问题并恢复正确推理路径的能力,实验表明歧义检测与有效澄清是不同能力,且盲目搜索不如直接猜测。
2026-07-02 cs.CL
Dual-Cluster Memory Agent: Resolving Multi-Paradigm Ambiguity in Optimization Problem Solving
School of Computer Science and Technology, Xi’an Jiaotong University(西安交通大学计算机科学与技术学院);Ministry of Education Key Laboratory of Intelligent Networks and Network Security, China(教育部智能网络与网络security重点实验室);Shaanxi Province Key Laboratory of Big Data Knowledge Engineering, China(陕西省大数据知识工程重点实验室)
提出双簇记忆智能体(DCM-Agent),通过无训练方式利用历史解决方案构建双簇记忆,并采用记忆增强推理动态导航解路径,在七个优化基准上平均性能提升11%-21%。
2026-06-02 cs.CL
Deciding Whether to Ask Clarifying Questions in Large-Scale Spoken Language Understanding
Amazon Alexa AI(亚马逊Alexa人工智能部门)
一个大规模的会话代理可能会遭受理解用户话语与各种歧义,如ASR歧义,意图歧义,和假设歧义。当检测到歧义时,代理应该在提交操作之前进行澄清对话以解决歧义。然而,针对所有歧义事件提出澄清性问题可能导致提出太多问题,从而实质上妨碍了用户体验。为了仅在用户满意度需要时触发澄清问题,我们提出了一个神经自我注意模型,该模型利用具有模糊性和上下文信号的假设。我们进行了广泛的实验,五个常见的歧义类型,使用真实的数据,从一个大规模的商业会话代理,并证明了显着的改善一组基线方法。
2021-09-25 cs.CL
We're Afraid Language Models Aren't Modeling Ambiguity
Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院);Allen Institute for AI(艾伦人工智能研究所);University of Southern California(南加州大学);UC Berkeley(加州大学伯克利分校);Saarland University(萨尔大学);New York University(纽约大学);Massachusetts Institute of Technology(麻省理工学院)
本文构建了包含1,645个示例的歧义基准AmbiEnt,首次评估预训练语言模型识别歧义和理清含义的能力,发现GPT-4消歧正确率仅32%,并证明对歧义敏感的NLI模型可标记误导性政治主张。
2023-10-20 cs.CL
Overcoming Referential Ambiguity in Language-Guided Goal-Conditioned Reinforcement Learning
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);Institut des Systèmes Intelligents et de Robotique (ISIR)(智能系统与机器人研究所(ISIR))
针对语言指令中的指称歧义,本文在教师/学习者积木堆叠任务中结合教学法与实用主义推理,提升了目标条件强化学习学习者的样本效率。
2023-09-27 cs.CL cs.LG
Jam or Cream First? Modeling Ambiguity in Neural Machine Translation with SCONES
Google Research(谷歌研究院)
神经机器翻译中的softmax层旨在对互斥令牌的分布进行建模。然而,机器翻译本质上是不确定的:同一个源语句可以有多个语义等价的翻译。因此,我们建议用多标签分类层代替softmax激活,这样可以更有效地对模糊性进行建模。我们称我们的损失函数为非排他性序列的单标签对比目标(SCONES)。我们表明,多标签输出层仍然可以使用SCONES损失函数在单个参考训练数据上进行训练。SCONES在六个翻译方向上产生一致的BLEU分数增益,特别是对于中等资源语言对和小波束大小。通过使用更小的光束尺寸,我们可以将推理速度提高3.9倍,并且仍然匹配或提高使用softmax获得的BLEU分数。此外,我们证明了SCONES可以用于训练NMT模型,该模型将最高概率分配给适当的翻译,从而减轻“束搜索诅咒”。对具有不同不确定性水平的合成语言对的额外实验表明,SCONES的改进可以归因于更好地处理歧义。
2022-05-02 cs.CL
DRIP-R: A Benchmark for Decision-Making and Reasoning Under Real-World Policy Ambiguity in the Retail Domain
Interdisciplinary Transformation University Austria(跨学科转型大学奥地利);Amazon Berlin(亚马逊柏林)
DRIP-R基准测试通过现实零售政策模糊性构建无唯一正确解决方案的场景,评估LLM在模糊政策下的决策与推理能力,揭示其固有的系统性挑战。
2026-09-01 cs.AI cs.CL
Agent-Based Detection and Resolution of Incompleteness and Ambiguity in Interactions with Large Language Models
BITS Pilani, K K Birla Goa Campus(比特学院,KK Birla Goa校区);PandaByte Innovations Pvt Ltd(PandaByte创新私人有限公司);RMIT University(皇家墨尔本理工学院)
本文提出用零样本 ReAct 智能体作为转换器,在大语言模型问答中自动检测并消解问题的不完整性与歧义,通过分类-消解-回答三动作机制缩短交互、提升答案质量并实现可解释消解。
2025-07-04 cs.AI cs.CL cs.IR
Persona2Web: Benchmarking Personalized Web Agents for Contextual Reasoning with User History
Department of Artificial Intelligence, Yonsei University, Seoul, Republic of Korea(人工智能系,延世大学,首尔,大韩民国)
提出Persona2Web基准,通过澄清-个性化原则评估Web智能体在真实开放网络中利用用户历史解决模糊查询的个性化能力,并引入推理感知评估框架。
2026-05-27 cs.AI cs.CL
Disambiguation in Conversational Question Answering in the Era of LLMs and Agents: A Survey
Adobe Research(Adobe研究部);KAIST(韩国科学技术院);Adobe Inc.(Adobe公司)
本文综述了LLM和智能体时代下对话式问答中的歧义问题,系统梳理了歧义定义、消解方法分类、优缺点比较、基准数据集及未来研究方向,旨在推动更稳健可靠的LLM系统发展。
2025-09-22 cs.CL
MARCH: Evaluating the Intersection of Ambiguity Interpretation and Multi-hop Inference
Chung-Ang University(Chung-Ang 大学);Adobe Research(Adobe 研究)
本文提出MARCH基准,通过多LLM验证和人工标注,包含2209个多跳歧义问题,揭示了当前模型在结合歧义解决与多步推理上的挑战,并提出CLARION框架提升推理系统鲁棒性。
2026-04-15 cs.AI cs.CL
Ambiguity in LLMs is a concept missing problem
The University of New South Wales(新南威尔士大学);CSIRO Data61(澳大利亚联邦科学与工业研究组织数据61)
针对大语言模型文本到结构化数据映射受歧义干扰的问题,该研究提出基于概念路径核的距离度量识别歧义,并通过缺失概念预测提升歧义场景下智能体工具调用性能,两项成果均达SOTA。
2025-10-01 cs.CL cs.LG
Modeling ASR Ambiguity for Dialogue State Tracking Using Word Confusion Networks
Naver Labs Europe(欧洲Naver实验室);International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术研究所)
口语对话系统通常使用前N个ASR假设的列表来推断语义含义并跟踪对话的状态。然而,诸如混淆网络(confnet)的ASR图提供了比前N个ASR列表更丰富的假设空间的紧凑表示。在本文中,我们研究了使用混淆网络与最先进的神经对话状态跟踪器(DST)的好处。我们使用可用于任何DST系统的注意力混淆网络编码器将2维confnet编码成1维嵌入序列。我们的confnet编码器被插入到最先进的DST的“全局-局部自注意对话状态跟踪器”(GLAD)模型中,与使用前N个ASR假设相比,在准确性和推理时间方面都有了显着的改进。
2020-08-01 cs.CL cs.LG cs.SD
Aligning Language Models to Explicitly Handle Ambiguity
Seoul National University(首尔大学);NAVER Cloud(NAVER云);KAIST AI(KAIST人工智能);NAVER AI LAB(NAVER人工智能实验室);Hanyang University(汉阳大学)
针对大语言模型未显式训练处理歧义、感知歧义程度受知识影响的问题,提出感知歧义对齐(APA)流程,利用模型自身歧义评估对齐处理歧义查询,实验显示其效果优于金标准标签训练,尤其在分布外场景表现更优。
2024-10-04 cs.CL
Same Claim, Different Interpretations: How LLM Agents Resolve Ambiguity in Scientific Claims
University of Pennsylvania(宾夕法尼亚大学)
该研究引入Claim Cards明确科学主张验证的解读,通过GPT-5.4智能体实验发现解读变化可显著改变判定结果,主张判定结果需附带解读。
2026-10-15 cs.CL
Decision-Theoretic Question Generation for Situated Reference Resolution: An Empirical Study and Computational Model
DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室);U.S. Naval Research Laboratory(美国海军研究实验室);Tufts University(塔夫茨大学)
在情境环境中与人类交互的对话代理需要管理跨多种模态的指称歧义,并在需要时寻求帮助。然而,不清楚这些代理人应该问什么样的问题,也不清楚这些问题的答案如何用于解决歧义。为了解决这个问题,我们分析了一项互动研究中的对话数据,在这项研究中,参与者控制一个虚拟机器人,负责组织一套工具,同时与一个现场的远程实验者进行对话。我们发现了一些新的结果,包括用于解决歧义的问题类型的分布和对话水平的因素对参考解决过程的影响。基于这些实证研究结果,我们:(1)使用决策网络开发了用于澄清请求的计算模型,该决策网络具有跨模态操作的基于熵的效用分配方法,(2)评估了该模型,表明其在具有变化的模糊性的环境中优于时隙填充基线,以及(3)解释结果以提供对代理人可以提出问题以促进情境参考解决的方式的洞察。
2021-10-12 cs.CL
Act-Adaptive Margin: Dynamically Calibrating Reward Models for Subjective Ambiguity
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(深圳先进技术研究院,中国科学院);University of New South Wales(新南威尔士大学);Tongyi Lab, Alibaba Group(通义实验室,阿里巴巴集团)
本文提出AAM方法,通过动态校准奖励模型偏好边际,提升主观任务中的奖励建模性能,实验显示在角色扮演任务中性能提升显著。
2026-01-08 cs.AI cs.CL
Lexicalized Stochastic Modeling of Constraint-Based Grammars using Log-Linear Measures and EM Training
我们提出了一种新的方法来随机建模的约束为基础的语法,是基于对数线性模型,并使用EM估计从未注释的数据。该技术适用于德语的LFG语法。在精确匹配任务上的评估对于5.4的模糊率产生86%的精度,并且对于25的模糊率在子猫帧匹配上产生90%的精度。与来自语法库的训练的实验比较显示,EM训练的增益为10%。此外,一个新的类为基础的语法词汇化,表现出10%的增益unexicalized模型。
2000-08-30 cs.CL
Modeling Ambiguity, Subjectivity, and Diverging Viewpoints in Opinion Question Answering Systems
University of California, San Diego(加州大学圣地亚哥分校)
产品评论网站提供了一个令人难以置信的镜头到各种各样的意见和不同的人的经验,并发挥关键作用,帮助用户发现符合他们的个人需求和偏好的产品。为了帮助解决那些无法通过阅读他人评论轻松回答的问题,一些评论网站还允许用户通过问答系统向社区提出问题。正如人们所预料的那样,正如不同的评论者之间的意见分歧一样,对这些问题的回答也可能是主观的、固执己见的和有分歧的。这意味着自动回答这些问题与传统的QA任务有很大的不同,传统的QA任务假设只有一个“正确”答案。虽然最近的工作引入了使用产品评论进行问答的想法,但它没有考虑我们在本文中考虑的两个方面:(1)问题有多个,通常是不同的答案,并且这种全方位的答案应该以某种方式用于训练系统;(2)什么是“好”答案取决于提问者和回答者,为了使系统更加个性化,应该纳入这些因素。在这里,我们建立了一个新的QA数据集,其中包含80万个问题和超过310万个答案,并表明明确考虑个性化和模糊性会导致定量更好的答案,而且对支持范围的更细致入微的看法,但主观的意见。
2016-10-25 cs.CL cs.IR
Only One Relation Possible? Modeling the Ambiguity in Event Temporal Relation Extraction
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院)
针对事件时序关系抽取中模糊标签的歧义问题,提出多标签分类方案METRE及推测机制,利用模糊实例提升识别效果,在多个基准上超越多数现有最优方法。
2024-08-14 cs.CL
LLM-MC-Affect: LLM-Based Monte Carlo Modeling of Affective Trajectories and Latent Ambiguity for Interpersonal Dynamic Insight
University of Arizona(亚利桑那大学);Pennsylvania State University(宾夕法尼亚州立大学);Universidad de Sonora(索尔纳大学);University of North Dakota(北达科他大学)
本文提出LLM-MC-Affect框架,通过概率建模方法,将情感视为连续的潜在概率分布,从而捕捉人际互动中的情感轨迹和潜在模糊性,为动态分析提供新的视角和方法。
2026-05-19 cs.CL cs.CY
Large Language Models Empowered Agent-based Modeling and Simulation: A Survey and Perspectives
Tsinghua University(清华大学)
该综述梳理了大语言模型赋能的基于智能体的建模与仿真的研究背景、应用动因、核心挑战、多场景研究进展及未来方向,覆盖赛博、物理、社会、混合四大领域。
2023-12-19 cs.AI cs.CL cs.CY
AutoGRAMS: Autonomous Graphical Agent Modeling Software
Autograms AI(奥图格拉姆斯人工智能公司)
本研究提出AutoGRAMS框架,以图结构表示AI智能体,支持节点执行语言指令或代码、转移由语言决策或分支逻辑控制,可设计复杂自指智能体,提升可解释性等,已开源。
2024-07-14 cs.AI cs.CL
InteractComp: Evaluating Search Agents With Ambiguous Queries
DeepWisdom(深智科技);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Renmin University of China(中国人民大学);University of California, Los Angeles(加州大学洛杉矶分校);Agent Universe(智能体宇宙);McGill University(麦吉尔大学);Yale University(耶鲁大学)
研究针对搜索代理缺乏处理模糊查询及交互能力的问题,引入InteractComp基准,通过目标-干扰物方法构建问题评估17个模型,发现模型存在过度自信问题,强制交互有提升,揭示交互能力停滞,该基准对评估和训练搜索代理交互能力有重要价值。
2026-07-27 cs.AI cs.CL
Clarify Before Executing: A Self-Evolving Agent for Resolving Intent Asymmetry in 3D Tool Orchestration
研究3D资产创建中用户指令模糊与工具要求精确的意图不对称问题,提出自进化智能体CLARE,通过解耦生成管道、模拟多轮交互自我进化澄清策略,在新基准测试中取得领先性能,证明主动澄清对3D执行的关键作用。
2026-07-21 cs.AI cs.CL cs.CV
MALTopic: Multi-Agent LLM Topic Modeling Framework
MALTopic通过多智能体框架整合结构化数据,提升调查数据的主题连贯性、多样性和可解释性。
2026-01-07 cs.CL cs.IR cs.MA
The Illusion of Certainty: Uncertainty Quantification for LLMs Fails under Ambiguity
School of Computation, Information;Technology \& Munich Data Science Institute - Technical University of Munich
本研究揭示了在歧义环境下LLM的不确定性量化方法存在缺陷,提出了MAQA*和AmbigQA*数据集以评估模型在歧义数据上的表现。
2026-01-29 cs.CL cs.LG
Agentic AI Systems Applied to tasks in Financial Services: Modeling and model risk management crews
Emerging Capabilities Research Group, Discover Financial Services Inc.(新兴能力研究小组,发现金融服务公司)
本文针对金融服务行业,构建了带 human-in-the-loop 模块的 modeling 和 MRM agentic crews,通过多智能体协作执行建模与模型风险管理任务,并在信用卡欺诈检测等数据集上验证了其有效性与稳健性。
2025-04-29 cs.AI cs.CE cs.CL