Knowing the User Is Not Knowing What We Established: Grounding Awareness in Personal Agents
Carnegie Mellon University(卡内基梅隆大学);New York University(纽约大学);NYU Shanghai(上海纽约大学)
该研究针对个人智能体记忆无法区分用户与智能体共同确立的约定状态的问题,提出基础感知能力,开发基准测试并引入轻量的基础层模块,显著改善智能体行为。
2026-10-14 cs.AI cs.HC cs.LG
Strategically knowing how
CONICET(国家科学与技术研究理事会);University of Toulouse(图卢兹大学);IRIT(图卢兹计算机科学研究所);University of Groningen(格罗宁根大学);Peking University(北京大学)
在本文中,我们提出了一个单智能体逻辑的目标导向知道如何扩展的标准认知逻辑知道,一个新的知道如何运营商。新算子的语义基于这样的思想,即知道如何实现$ϕ$意味着存在一个(统一的)策略,使得代理知道它可以确保$ϕ$。我们给出了一个直观的公理化我们的逻辑和证明的可靠性,完整性和可判定性的逻辑。与“知道”和“知道如何”相关的关键公理说明了我们在这种情况下对“知道如何”的理解。这种逻辑可以用来表示知识-that和知识-how。
2017-05-15 cs.AI cs.LO
Characterising Interventions in Causal Games
University of Oxford(牛津大学);London Initiative for Safe AI (LISA)(伦敦安全人工智能倡议(LISA))
本文提出一组完备且可靠的基本因果干预,放宽了因果博弈中对干预的时间顺序约束,使任意复杂干预查询可在多智能体环境中研究,并展示了其在安全AI系统设计中的应用。
2024-06-13 cs.AI cs.GT cs.MA
Multi-agent reinforcement learning for intent-based service assurance in cellular networks
Ericsson Research(爱立信研究院)
最近,基于意图的管理在电信网络中受到了很好的关注,这是由于许多用例的严格性能要求。文献中的几种方法采用传统的闭环驱动方法来实现KPI的意图。然而,这些方法考虑每个闭环彼此独立,这降低了组合性能。而且,这种现有方法不容易扩展。多智能体强化学习(MARL)技术在传统闭环控制不足的许多领域显示出了重要的前景,通常用于循环之间的复杂协调和冲突管理。在这项工作中,我们提出了一种基于MARL的方法来实现基于意图的管理,而不需要知道一个模型的底层系统。此外,当存在相互冲突的意图时,MARL代理可以通过优先考虑重要的KPI来隐式地激励循环进行合作并促进权衡,而无需人工交互。在网络仿真器上进行了三种服务的KPI优化实验。结果表明,该系统性能良好,能够满足所有现有的意图时,有足够的资源或优先级的KPI时,资源稀缺。
2022-08-26 cs.AI cs.LG
A Logic of Knowing How
Peking University(北京大学)
在本文中,我们提出了一个单智能体模态逻辑框架推理目标直接的“知道如何”的基础上,从语言学,哲学,模态逻辑和自动规划的想法。我们首先定义一个模态语言来表达“我知道如何保证phi给定psi”的语义不是基于标准的认识模型,但标记的过渡系统,代表代理的知识,他自己的能力。一个健全和完整的证明系统,以捕捉有效的推理模式“知道如何”的最重要的公理表明其组成性质。
2015-07-09 cs.AI cs.LO
Agentic Self-Awareness: Aligning Knowing, Acting, and Holding
Salesforce AI Research
本研究提出智能体自我意识(ASA)概念,构建相关基准与评估标准,通过搜索方法提升智能体受阻任务的严格自我意识,同时指出仅优化弃权会降低可行任务成功率。
2026-10-13 cs.AI
Measuring the intelligence of an idealized mechanical knowing agent
The U.S. Securities and Exchange Commission(美国证券交易委员会)
该研究定义了理想化机械认知智能体的智能层级为其已知编码的可计算序数的上确界,证明知晓他者属性的智能体智能层级更高,并以此为依据提出反对智能爆炸可能性的证据。
2019-12-03 cs.AI cs.LO math.LO
From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents
The Chinese University of Hong Kong(香港中文大学);Fudan University(复旦大学);University of Edinburgh(爱丁堡大学);Tencent(腾讯);University of Bristol(布里斯托大学)
提出KAPRO框架和KAware数据集,通过解耦元认知判断与自主执行,评估LLM代理的自我意识能力,发现其与任务成功强相关但在内部能力场景中下降,开源模型易过度使用工具。
2026-06-23 cs.AI cs.CL cs.LG
Better Understanding, Understanding Better
提出一种比较认知逻辑,通过层级索引理解模态和比较连接词,建模不同智能体对命题的理解程度差异,并给出语义框架和完备性结果。
2026-07-01 cs.AI cs.LO
On Convergence and Optimality of Best-Response Learning with Policy Types in Multiagent Systems
University of Edinburgh(爱丁堡大学)
虽然许多多智能体算法是为同构系统(即所有代理都是相同的)而设计的,但也有一些重要的应用程序需要代理协调其行动,而无需事先知道其他代理的行为。使这个问题可行的一种方法是假设其他代理从特定集合中提取其潜在策略(或类型),并且领域专家可以提供该集合的规范,尽管只是部分正确的。一些研究人员已经提出了算法来计算这些政策库的后验信念,然后可以用来确定最佳行动。在本文中,我们提供了两个中心的设计参数,这种方法的理论指导:首先,重要的是,用户选择一个后验可以学习的潜在类型的真实分布,否则次优的行动可能会被选择。我们分析了两个现有的后验公式的收敛性,并提出了一个新的后验,可以学习相关分布。其次,由于类型是由专家提供的,它们可能是不准确的,因为它们不能预测代理的观察到的动作。我们提供了一个新的最优性,它允许专家使用有效的模型检验算法来验证类型的最优性的表征。
2019-07-15 cs.AI cs.MA
Multi-Vehicle Trajectory Prediction at Intersections using State and Intention Information
Technical University of Munich(慕尼黑工业大学)
传统的方法来预测未来的轨迹的道路代理依赖于知道他们的过去轨迹的信息。这项工作只依赖于了解当前状态和预期方向,以预测交叉口处的多辆车。此外,车辆之间的信息传递为每个车辆提供了环境的更全面的概览,从而允许更明智的预测。这是通过训练一个神经网络来完成的,该神经网络采用多个车辆的状态和意图来预测它们的未来轨迹。使用意图作为输入允许我们的方法扩展到另外控制多个车辆朝向期望路径行驶。实验结果表明,我们的方法在轨迹预测和交叉口车辆控制方面的鲁棒性。此工作的完整培训和评估代码可在此处获得:\url{https://github.com/Dekai21/Multi_Agent_Intersection}。
2023-01-06 cs.AI cs.RO
Lessons Learned: A Multi-Agent Framework for Code LLMs to Learn and Improve
Rensselaer Polytechnic Institute(拉特兰理工学院);Massachusetts Institute of Technology(麻省理工学院);Michigan State University(密歇根州立大学);MIT-IBM Watson AI Lab, IBM Research(MIT-IBM沃森人工智能实验室,IBM研究院)
针对代码大语言模型性能互补问题,提出基于经验教训的多智能体协作框架,通过征集、存储与选择机制,使小型模型团队超越大型模型。
2025-10-23 cs.AI cs.LG cs.MA
Dealing with incomplete agents' preferences and an uncertain agenda in group decision making via sequential majority voting
University of Padova(帕多瓦大学);NICTA(国家信息与通信技术研究院);UNSW Sydney(悉尼新南威尔士大学)
我们考虑多代理系统,其中代理的偏好通过顺序多数表决聚合:每个决定是通过执行一系列成对比较,其中每个比较是代理之间的加权多数表决。由于隐私问题或正在进行的启发过程,代理偏好的不完整性在许多现实生活中很常见。此外,如何汇总偏好可能存在不确定性。例如,议程(一棵树,其叶子被标记为正在比较的决定)可能还不知道或固定。因此,我们研究如何确定集体最优决策(也称为赢家)时,偏好可能是不完整的,当议程可能是不确定的。我们表明,它是计算上很容易确定,如果一个候选人的决定总是赢,或可能会赢,无论议程。另一方面,在计算上很难知道候选决策是否在至少一个议程中获胜,至少一个完成代理的偏好。即使议程必须平衡,以便每个候选人的决定都面临相同数量的多数票,这些结果也是有效的。这样的结果是有用的推理偏好诱导。它们有助于理解任务的复杂性,例如确定是否可以集体做出决定,以及了解是否可以通过适当安排议程来操纵获胜者。
2009-09-24 cs.AI cs.GT cs.MA
Paying for Honesty Without Knowing the Truth: Reputation-Penalty Design for LLM Marketplace Agents
Univ. of Illinois Chicago(伊利诺伊大学芝加哥分校);Springbrand Inc.(春品牌公司);Beijing University of Posts and Telecommunications(北京邮电大学);Beihang University(北京航空航天大学);Hangzhou Innovation Institute of BUAA(北京航空航天大学杭州创新研究院);Microsoft(微软公司)
针对LLM智能体商家伪造属性的问题,设计无需真实情况的CARP声誉惩罚机制,搭配SPARC机制可保护消费者、提升福利,且在多模型中具有约束力。
2026-07-31 cs.AI
From Knowing to Doing: A Memory-Controlled Benchmark for LLM Trading Agents on Stock Markets
Tsinghua University(清华大学);Stepfun;FinStep;Shanghai Jiao Tong University(上海交通大学);Adelaide University(阿德莱德大学)
针对LLM交易智能体评估中的知识泄露和收益归因问题,提出KTD-Fin基准,通过数据掩码和Barra风格归因框架,分离市场记忆与投资决策,并揭示收益主要来自被动市场暴露而非选股能力。
2026-05-27 cs.AI q-fin.TR
Knowing When to Yield: Grounded Arbitration of User Corrections in Text-Based Embodied Agents
University of Wisconsin - Madison(威斯康星大学麦迪逊分校);Brown University(布朗大学);Pinterest Inc(Pinterest 公司)
针对用户纠正可能错误的问题,提出GAVA框架,通过接受、拒绝、检查世界和询问的仲裁机制,利用观察受限证据和期望损失规则,在ALFWorld中实现高准确率并降低交互成本。
2026-10-02 cs.AI
Knowing When to Ask: Self-Gated Clarification for Hierarchical Language Agents
Amazon Web Services(亚马逊云科技)
提出ACTION-RATING框架,将澄清请求纳入代理的动作空间,与导航共享序数尺度,在分层推理中实现自门控澄清,通过强制性和机会性两种信息寻求模式提升决策准确性。
2026-06-16 cs.AI cs.HC
The Cost of Knowing: A Resource-Aware Protocol for Benchmarking Hallucination Beyond Static Leaderboards
研究前沿模型事实性与计算成本的权衡问题,提出资源感知评估协议MAS-HQ,通过包装事实性检测器、归一化成本并让系统竞争,能衡量事实性答案成本,使单代理基线更具资源效率,收益稳定。
2026-07-30 cs.AI
Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks
University of Washington(华盛顿大学);Georgetown University(乔治敦大学)
本研究将汤普森编译器后门攻击推广至自我修改AI编码智能体,证明投毒基准可诱导其演化出编写漏洞代码的指令,且污染常持续存在,需增强此类智能体的韧性。
2026-09-17 cs.AI cs.CR
LLMs are Greedy Agents: Effects of RL Fine-tuning on Decision-Making Abilities
ELLIS Unit, LIT AI Lab, Institute for Machine Learning, JKU Linz(ELLIS单元、LIT人工智能实验室、机器学习研究所、JKU林茨);Google DeepMind(谷歌DeepMind)
本研究系统分析LLM智能体在决策中的贪婪性、频率偏差和知行差距等失败模式,提出通过基于自生成CoT理由的强化学习微调来增强探索能力并缩小知行差距,实验验证了其有效性。
2025-04-22 cs.AI cs.LG
Knowing Isn't Understanding: Re-grounding Generative Proactivity with Epistemic and Behavioral Insight
University of California, Berkeley(加州大学伯克利分校);University of Toronto(多伦多大学);University of Waterloo(滑铁卢大学)
针对用户无法明确表达需求时的认知不完整问题,提出生成式主动性需要基于认知和行为双重约束来设计负责任的主动代理。
2026-05-31 cs.AI cs.CY cs.LG
Knowing the Store: What a Memory Backend Must Write Down Before an Agent Can Read It
Bilkent University(比尔肯大学)
本研究探讨记忆后端需暴露何种信息(如生命周期计数和属性列表)使智能体在检索前识别过时记录,通过元记忆监控实验发现,存储写入的内容限制了所有测试模型的表现。
2026-10-06 cs.AI
Knowing When to Ask for Help: Bayesian Self-Escalation in Hierarchical LLM Agents
该研究针对LLM智能体提出贝叶斯自我升级策略,将生成中委派建模为贝叶斯最优停止问题,经模拟和真实代码级联验证,其升级机制在同等成本下优于事后路由,能力信念区分度随生成提升。
2026-08-26 cs.AI cs.LG stat.ML
K^2-Agent: Co-Evolving Know-What and Know-How for Hierarchical Mobile Device Control
Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系);Huawei Noah’s Ark Lab(华为诺亚实验室);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
K2-Agent通过分层框架共进化声明性与程序性知识,提升复杂移动设备任务的规划与执行能力,实现76.1%的成功率和跨任务的强泛化能力。
2026-02-28 cs.AI
WorkBench Revisited: Workplace Agents Two Years On
Independent researcher(独立研究者)
本文重新评估2024至2026年间WorkBench基准上智能体的进展,发现前沿模型在能力和安全性上均有显著提升,但开放权重模型降低了高性能门槛。
2026-07-02 cs.AI cs.CL cs.MA
Latent Bandits Revisited
Google Research(谷歌研究院)
一个潜在的强盗问题是一个学习代理知道的手臂奖励分布的条件下,一个未知的离散的潜在状态。智能体的主要目标是识别潜在状态,之后它可以采取最佳行动。这种设置是在线和离线学习之间的自然中点-复杂的模型可以离线学习,代理在线识别潜在状态-在推荐系统中具有实际意义。在这项工作中,我们提出了一般的算法,这种设置的基础上,置信上限(UCB)和汤普森采样。我们的方法是上下文和模型的不确定性和错误的意识。我们提供了一个统一的理论分析,我们的算法,它有较低的遗憾比经典的强盗政策时,潜在状态的数量小于行动。一个全面的实证研究展示了我们的方法的优势。
2020-06-15 cs.AI cs.LG stat.ML
Learning without Knowing: Unobserved Context in Continuous Transfer Reinforcement Learning
Duke University(杜克大学)
在本文中,我们考虑了一个转移强化学习(RL)问题,在连续的状态和动作空间,在不可观察的上下文信息。例如,上下文可以表示专家代理通过过去与这个世界的交互而形成的世界的心理视图。我们假设,这种情况下是无法访问的学习者代理谁只能观察专家数据。然后,我们的目标是使用上下文感知的专家数据,学习一个最佳的上下文不知道的政策,学习器只使用一些新的数据样本。这些问题通常使用模仿学习来解决,该学习假设专家和学习者代理都可以访问相同的信息。然而,如果学习者不知道专家上下文,单独使用专家数据将导致有偏见的学习者策略,并且将需要许多新的数据样本来改进。为了解决这一挑战,在本文中,我们将学习问题表示为因果约束的多臂强盗(MAB)问题。该MAB的臂对应于可以使用专家数据以无监督方式初始化的一组基础策略函数,并且表示受未观察到的上下文影响的不同专家行为。另一方面,MAB约束对应于我们也从专家数据计算的这些基本策略函数的累积奖励的因果界限。该MAB的解决方案允许学习者代理选择最佳的基本策略并在线改进。因果界限的使用降低了探索方差,因此提高了学习率。我们提供了一个自动驾驶的例子,表明我们提出的转移RL方法提高学习者的政策比现有的模仿学习方法更快,并享有更低的方差在训练过程中的数值实验。
2021-06-07 cs.AI cs.LG
VLAA-GUI: Knowing When to Stop, Recover, and Search, A Modular Framework for GUI Automation
UC Santa Cruz;CMU(卡内基梅隆大学);UNC-Chapel Hill(北卡罗来纳大学教堂山分校);Salesforce;UC Berkeley(伯克利加州大学)
VLAA-GUI通过模块化框架解决GUI代理的早期停止和重复循环问题,引入完整性验证器、循环打破器和搜索代理,提升自动化性能。
2026-09-28 cs.AI cs.CL cs.SE
Common Belief Revisited
University of Bergen and Shanxi University(卑尔根大学和山西大学)
本文重新审视共同信念,发现其逻辑需额外公理并依赖代理数量,推翻了KD4的完整刻画假设。
2026-02-17 cs.AI
Reasoning About Knowledge of Unawareness Revisited
Cornell University(康奈尔大学);Federal University of Pernambuco(伯南布哥联邦大学)
在早期的工作中,我们提出了一种逻辑,它通过允许对原始命题进行量化来扩展Fagin和Halpern [1988]的一般意识逻辑。这使得有可能表达这样一个事实,即一个代理人知道有一些他不知道的事实。在这种逻辑中,不可能对一个不确定自己是否知道所有公式的智能体进行建模。为了克服这个问题,我们保留了早期论文的语法,但允许模型与每个世界相关联,可能是不同的语言。我们为这个逻辑提供了一个健全而完整的公理化,并表明,在自然假设下,这个逻辑的无量词片段的特征在于与Heifetz,Meier和Schipper [2008]的逻辑完全相同的公理。
2009-06-23 cs.AI cs.GT cs.LO
Knowing You Is Everything: LLM Agents Achieve Near-Perfect Profile-Consistent Reaction Prediction in Social Media Simulation
Institute for Artificial Intelligence Research and Development of Serbia(塞尔维亚人工智能研发研究所);University of Belgrade(贝尔格莱德大学);Institute for Philosophy and Social Theory(哲学与社会理论研究所);Complexity Science Hub(维也纳复杂性科学中心);University of Kragujevac(克拉古耶瓦茨大学);Faculty of Economics(经济学院);University of Vienna(维也纳大学);Faculty of Social Sciences(社会科学学院);Faculty of Engineering(工程学院);University of Novi Sad(诺维萨德大学);Faculty of Philosophy(哲学院);Nanyang Technological University(南洋理工大学);School of Social Sciences(社会科学学院)
本研究通过基准测试12种LLM配置,发现其在社交媒体反应预测中表现优异,可用于推荐系统压力测试,同时也揭示了大规模合成智能体群对公众意见的潜在威胁。
2026-08-11 cs.AI cs.HC cs.LG
Memorizing Who, Knowing How: Benchmarking Personal and Procedural Memory for Persistent Assistants
Zhejiang University(浙江大学);Ant Group(蚂蚁集团)
本研究推出PraxisMemBench基准,发现现有方法难以协同维护个人与程序记忆,进而提出PraxisMem模型,其会话成功率达40.78%,显著优于Claude Code原生记忆。
2026-10-21 cs.AI
Coagent Networks Revisited
Purdue University(普渡大学);IBM Research AI(IBM研究院人工智能部门);University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校)
本文通过引入执行路径概念统一协同智能体网络理论,简化了策略梯度定理证明并推广至异步场景,提出了更准确高效的算法,并通过非平稳实验评估了选项-评论家模型的泛化性能。
2023-08-30 cs.AI cs.LG stat.ML
DART: Leveraging Multi-Agent Disagreement for Tool Recruitment in Multimodal Reasoning
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Nanyang Technological University(南洋理工大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
DART通过多智能体分歧识别有用视觉工具,提升多模态推理中的工具调用效果。
2025-12-08 cs.AI cs.CL cs.CV