AgentCDM: Enhancing Multi-Agent Collaborative Decision-Making via ACH-Inspired Structured Reasoning
针对多智能体协作决策中独裁式与投票式方法的不足,本文提出受 ACH 启发的 AgentCDM 框架,通过两阶段训练实现结构化推理与自主泛化,在多个基准上取得最先进性能。
2025-08-16 cs.AI cs.MA
Attention Based Feature Fusion For Multi-Agent Collaborative Perception
University of Antwerp(安特卫普大学);imec(imec(比利时微电子研究中心))
针对智能交通系统中协同感知受网络资源限制的问题,提出基于图注意力网络的中间层协同感知方案,通过通道与空间层面的注意力特征融合提升检测精度,经V2XSim数据集验证可在降低资源消耗的同时提高平均精度。
2023-05-03 cs.AI cs.MA
Trust-aware Control for Intelligent Transportation Systems
University of Southern California(南加州大学)
许多智能交通系统是多智能体系统,即,交通基础设施内的交通参与者和子系统都可以被建模为交互代理。使用基于人工智能的方法来实现不同代理系统之间的协调,可以提供比仅包含人工操作车辆的运输系统更高的安全性,并且还可以在交通吞吐量,感测范围和实现协作任务方面提高系统效率。然而,增加的自主性使得运输基础设施容易受到车辆代理或基础设施的损害。本文提出了一个新的框架,通过嵌入到交通基础设施的信任权威系统量化的代理人的可信度使用认知逻辑称为主观逻辑。在本文中,我们做出了以下新的贡献:(一)我们提出了一个框架,使用量化的可信代理,使信任意识的协调和控制。(ii)我们演示了如何使用基于强化学习的方法来合成信任感知控制器。(iii)我们全面分析了一个自主交叉口管理(AIM)的案例研究,并开发了一个信任感知的版本称为AIM信任,导致事故率较低的情况下,由信任和不信任的代理的混合物。
2021-11-08 cs.AI cs.MA
How Can Robots Trust Each Other For Better Cooperation? A Relative Needs Entropy Based Robot-Robot Trust Assessment Model
University of Georgia(佐治亚大学)
多智能体和多机器人系统中的协作可以帮助智能体构建各种队形、形状和图案,以适应不同的情况,呈现相应的功能和目的。代理之间的关系,如他们的空间接近和功能相似性可以发挥至关重要的作用,代理之间的合作。代理之间的信任水平是评估其关系可靠性和稳定性的重要因素,就像人一样。本文提出了一种新的模型称为相对需求熵(RNE)来评估机器人代理之间的信任。RNE测量个体代理或代理组之间的需求分布距离。为了验证其效用,我们实现和证明我们的信任模型,通过实验模拟一个异构的多机器人分组任务,在一个持久的城市搜索和救援任务组成的任务,在两个级别的难度。结果表明,RNE基于信任的机器人分组可以实现更好的性能和适应性不同的任务执行相比,最先进的基于能量或基于距离的分组模型。
2021-08-31 cs.AI cs.MA cs.RO
A biologically inspired computational trust model for open multi-agent systems which is resilient to trustor population changes
Hellenic Open University(希腊开放大学)
本文针对开放多智能体系统中智能体持续进出与行为变化问题,评估受生物启发的 CA 模型,并与 FIRE 对比,揭示二者分别适应委托方与受托方群体变化。
2024-04-13 cs.AI cs.MA
Collaborative AI Teaming in Unknown Environments via Active Goal Deduction
The George Washington University(乔治·华盛顿大学);Northeastern University(东北大学)
针对与目标未知的智能体协作的挑战,提出利用核密度贝叶斯逆向学习进行主动目标推导并结合预训练策略实现零样本适应的组队框架,显著提升了协作性能。
2024-03-22 cs.AI cs.MA
AgenticSciML: Collaborative Multi-Agent Systems for Emergent Discovery in Scientific Machine Learning
Brown University(布朗大学)
AgenticSciML通过协作多智能体系统实现科学机器学习中的涌现发现,生成超越单智能体和人类设计基线的高效方法。
2026-02-15 cs.AI cs.CE cs.LG
A Privacy-Preserving and Trustable Multi-agent Learning Framework
Bennett University(贝内特大学);Syracuse University(雪城大学)
分布式多智能体学习使智能体能够合作训练模型,而不需要共享它们的数据集。虽然这种设置确保了一定程度的隐私,但已经表明,即使当数据不直接共享时,训练过程也容易受到隐私攻击,包括数据重建和模型反演攻击。此外,在反向标签或随机数据上进行训练的恶意代理可能会任意削弱全局模型的准确性。本文解决了这些挑战,并提出了隐私保护和可信赖的分布式学习(PT-DL),这是一个完全分散的框架,依赖于差分隐私来保证代理数据的强大隐私保护,以及以太坊智能合约来确保可信赖性。本文表明,PT-DL是弹性高达50%的共谋攻击,具有很高的概率,在恶意的信任模型和实验评估说明了所提出的模型的好处,作为一个隐私保护和可信的分布式多智能体学习系统的几个分类任务。
2021-06-02 cs.AI cs.CR cs.LG
MASCOT: Multi-Agent Socio-Collaborative Companion Systems
Georgia Institute of Technology(佐治亚理工学院)
针对多智能体系统中的人格崩溃和社会谄媚问题,提出MASCOT框架,通过双层优化策略(人格感知行为对齐与协作对话优化)提升角色一致性和对话贡献。
2026-09-16 cs.AI cs.CL cs.HC
From Cloud-Native to Trust-Native: A Protocol for Verifiable Multi-Agent Systems
针对大语言模型驱动的自主智能体在高风险领域的可验证性难题,提出嵌入结构性保障的TrustTrack协议,构建信任原生自主范式,为自主系统提供新的架构演进方向。
2025-07-25 cs.AI cs.CR cs.MA
A Game-Theoretic Approach to Multi-Agent Trust Region Optimization
Shanghai Jiao Tong University(上海交通大学);University College London(伦敦大学学院);Renmin University(中国人民大学)
信赖域方法由于其在每次迭代时都能保证单调的性能改进而被广泛应用于单智能体强化学习问题。然而,当应用于多智能体环境中时,信任域方法的保证不再成立,因为一个智能体的收益也受到其他智能体的适应行为的影响。为了解决这个问题,我们进行了博弈理论分析的政策空间,并提出了一个多智能体的信任域学习方法(MATRL),使信任域优化多智能体学习。具体而言,MATRL在元博弈层面找到了以纳什均衡解概念为指导的稳定改进方向。我们推导出单调改善保证在多智能体设置和经验表明,局部收敛的MATRL稳定不动点在两个球员的旋转微分游戏。为了测试我们的方法,我们评估MATRL在离散和连续多人一般和游戏,包括检查和开关网格世界,多智能体MuJoCo和雅达利游戏。结果表明,MATRL显着优于强大的多智能体强化学习基线。
2021-06-12 cs.AI cs.LG cs.MA
Agentic-ZTA: A Multi-Agent Architecture for Autonomous Zero Trust Enforcement
Tennessee Tech University(田纳西理工大学);University of North Carolina Pembroke(北卡罗来纳大学彭布罗克分校);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
提出Agentic-ZTA多智能体架构,通过检索增强生成和策略引擎智能体实现NIST零信任控制循环,在测试平台上达到95.0%准确率、93.9%精确率和96.3%召回率,验证了AI智能体实施零信任的可行性。
2026-10-06 cs.AI cs.CR cs.ET
Training Generalizable Collaborative Agents via Strategic Risk Aversion
Caltech Department of Computing and Mathematical Sciences, California Institute of Technology, Pasadena, CA, USA(加州理工学院计算机与数学科学系);Caltech(加州理工学院)
本文提出了一种基于战略风险规避的多智能体强化学习算法,通过增强协作鲁棒性,实现与未见过的合作伙伴的可靠协作。
2026-02-27 cs.AI cs.LG cs.MA
Trust Between AI Agents: Measuring Formation, Breakage, and Recovery, with Implications for Governing Multi-Agent Systems
Massachusetts Institute of Technology(麻省理工学院)
提出基于代价验证的行为信任度量,通过合作生存游戏研究六个前沿模型快照的信任形成、破裂与恢复,发现信任形成可减少验证,恢复慢于形成,且集群失败延长怀疑,建议校准而非最大怀疑作为治理核心。
2026-06-16 cs.AI cs.CY cs.MA
Ensuring trustworthy and ethical behaviour in intelligent logical agents
Università degli Studi di L’Aquila(拉奎拉大学)
本文针对会演化及开放的Multi-Agent Systems中先验认证技术的不足,提出并扩展了动态运行时基于逻辑的自检技术,以确保智能逻辑智能体的可信与伦理行为。
2024-02-12 cs.AI cs.LO cs.MA
Dynamic Collaborative Multi-Agent Reinforcement Learning Communication for Autonomous Drone Reforestation
Aleph Alpha
我们采用协作式多智能体强化学习(MARL)设置来实现基于无人机的自主重新造林。代理可以作为动态变化的网络的一部分进行通信。我们在一个高影响力的问题背后探索协作和沟通。森林是控制二氧化碳上升的主要资源。不幸的是,全球森林体积正在以前所未有的速度减少。许多地区太大,很难穿越种植新的树木。为了有效地覆盖尽可能多的区域,在这里,我们提出了一个基于图神经网络(GNN)的通信机制,使合作。代理可以共享需要重新造林的区域的位置信息,这增加了查看的区域和种植的树木数量。我们比较我们提出的通信机制与多代理基线没有能力进行通信。结果表明,沟通如何实现协作,提高集体绩效,种植精度和个人代理的冒险倾向。
2022-11-14 cs.AI cs.LG cs.MA
NomicLaw: Emergent Trust and Strategic Argumentation in LLMs During Collaborative Law-Making
本文提出NomicLaw多智能体模拟框架,研究LLM在协作立法中的信任、互惠与策略性论证行为,实验显示智能体自发结盟、背叛并调整言辞影响决策,揭示其社交推理与说服潜力。
2025-08-07 cs.AI
Real-Time Trust Verification for Safe Agentic Actions using TrustBench
TrustBench通过双模式框架在代理行动前验证安全性,有效减少有害行为,提升自主代理的可信度
2026-03-10 cs.AI
Adversarial Trust Poisoning in Vehicular Collaborative Perception
Connected and Autonomous Vehicles(连接与自动驾驶车辆);Collaborative Perception(协同感知)
该研究提出TrustFlip攻击,利用一致性防御机制污染对良性车辆的信任评分,导致系统感知能力下降甚至安全故障,同时提出TrustReflect作为缓解措施。
2026-09-01 cs.AI cs.CR
Trustworthy Agent Network: Trust in Agent Networks Must Be Baked In, Not Bolted On
University of Southern California(南加州大学);Carnegie Mellon University(卡内基梅隆大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Stanford University(斯坦福大学)
本文探讨了在代理网络中信任必须被内置而非事后添加的问题,提出了一个综合的概念框架,通过四个设计支柱来建立代理网络中的信任。
2026-08-10 cs.AI
A Robust Model for Trust Evaluation during Interactions between Agents in a Sociable Environment
University of Wollongong(伍伦贡大学);Nagoya Institute of Technology(名古屋工业大学)
信任评估是社会环境中的一个重要研究和应用课题。本文提出了一个模型,代理之间的信任评估相结合的直接信任,间接信任通过相邻的链接和环境(即社会网络)中的代理的声誉,以提供强大的评估。我们的方法是独立于社会网络结构的类型学,并且以分散的方式没有中央控制器,因此它可以在广泛的领域中使用。
2021-04-17 cs.AI
Online Multi-Agent Forecasting with Interpretable Collaborative Graph Neural Network
Shanghai Jiao Tong University(上海交通大学);University of California Irvine(加州大学欧文分校);University of Technology Sydney(悉尼科技大学);Australian Artificial Intelligence Institute(澳大利亚人工智能研究所)
本文考虑预测未来的状态,多个代理在网上的方式,利用系统中的动态交互。我们提出了一种新的协作预测单元(CoPU),它根据协作图聚合来自多个协作预测器的预测。每个协作预测器都经过训练,通过考虑另一个代理的影响来预测代理的状态。协作图的边权重反映了每个预测器的重要性。协同图的在线调整乘法更新,这可以通过最小化一个显式目标的动机。为了实现这一目标,我们还进行了遗憾分析,以表明随着训练的进行,我们的CoPU在事后与最佳个人协作预测器实现了类似的性能。这种理论上的可解释性将我们的方法与许多其他图网络区分开来。为了逐步完善预测,多个CoPU被堆叠以形成协作图神经网络。在三个任务上进行了大量的实验:在线模拟轨迹预测,在线人体运动预测和在线交通速度预测,我们的方法在这三个任务上的平均性能分别超过最先进的作品28.6%,17.4%和21.0%。
2021-07-02 cs.AI
Trust in Construction AI-Powered Collaborative Robots: A Qualitative Empirical Analysis
San Diego State University(圣地亚哥州立大学)
本研究通过扎根理论分析建筑从业者半结构化访谈结果,探究建筑领域AI驱动协作机器人的可信特征,发现除文献综述识别的关键信任因素外,财务考量、变革不确定性也是信任的重大障碍。
2023-08-28 cs.AI cs.HC cs.RO
Belief Revision and Trust
British Columbia Institute of Technology(不列颠哥伦比亚理工学院)
信念修正是一个过程,在这个过程中,一个代理将一条新的信息与一组预先存在的信念结合在一起。当新信息以另一个代理的报告形式出现时,很明显,我们必须首先确定该代理是否应该信任。在本文中,我们提供了一个正式的方法来建模信任的信念修订前的预处理步骤。我们强调,信任不仅仅是代理人之间的关系;一个代理人对另一个代理人的信任往往局限于特定的专业领域。我们证明,这种形式的信任可以通过关联的状态分区与每个代理,然后相对化所有的报告,这个状态分区之前执行信念修订。通过这种方式,我们仅纳入报告中属于报告代理人所认为的专门知识领域的部分。不幸的是,基于专业知识的状态分区不允许我们比较相对于不同代理人的相对信任强度。为了解决这个问题,我们引入了伪度量状态来表示不同程度的信任。这使我们能够合并来自多个代理的同时报告,以确保最可信的报告被相信。
2014-04-30 cs.AI
Trust Semantics Distillation for Collaborator Selection via Memory-Augmented Agentic AI
Western University(西方大学);University of Toronto(多伦多大学);Nanyang Technological University(南洋理工大学)
本文提出基于记忆增强代理AI的任务特定信任语义蒸馏模型,通过教师-学生架构实现高效协作者选择,提升信任评估的准确性和效率。
2025-12-22 cs.AI
Robust Federated Training via Collaborative Machine Teaching using Trusted Instances
Symantec Research Labs(赛门铁克研究实验室);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
联邦学习使用代理托管的本地数据执行分布式模型训练。它只共享模型参数更新,以便在服务器上进行迭代聚合。虽然它是隐私保护的设计,联邦学习是容易受到本地代理的噪音腐败,如在以前的研究对抗数据投毒威胁联邦学习系统。即使是一个噪声破坏的代理也会使模型训练产生偏差。在我们的工作中,我们提出了一个具有多个分布式教师的协作和隐私保护的机器教学范例,以提高联邦训练过程对本地数据损坏的鲁棒性。我们假设每个本地代理(教师)都有资源来验证一小部分可信实例,但这本身可能不足以进行学习。在建议的协作机器教学方法中,这些可信的实例指导分布式代理共同选择一个紧凑的,而信息丰富的训练子集,从他们自己托管的数据。同时,智能体学习将有限幅度的变化添加到所选择的数据实例中,以提高联邦训练模型的测试性能,尽管训练数据损坏。玩具和真实数据上的实验表明,我们的方法可以有效地识别训练集错误,并建议适当的修改标签。我们的算法是迈向可信的机器学习的一步。
2019-05-08 cs.AI cs.LG stat.ML
Reinforcement Learning-Augmented LLM Agents for Collaborative Decision Making and Performance Optimization
New England College(新英格兰学院);Northeastern University(东北大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本研究提出强化学习增强的LLM代理框架,通过GRPO和联合奖励优化,提升多智能体协作任务的效率与一致性。
2025-12-31 cs.AI
Collaborative Agent Reasoning Engineering (CARE): A Three-Party Design Methodology for Systematically Engineering AI Agents with Subject Matter Experts, Developers, and Helper Agents
CARE提出一种系统化方法论,通过可重用的artifacts和阶段化流程,结合领域专家、开发者和辅助智能体,提升AI智能体的开发效率和复杂查询性能。
2026-04-30 cs.AI
Agyn: An Open-Source Platform for AI Agents with Scalable On-Demand Execution, Agent Definition as a Code, and Zero-Trust Access
Agyn, Inc.(Agyn公司);Mila AI e-Lab
提出Agyn开源平台,通过信号驱动的有状态无服务器运行时、Terraform代理定义和零信任安全模型,解决AI代理在生产中的隔离、治理和扩展问题。
2026-05-31 cs.AI
MAPoRL: Multi-Agent Post-Co-Training for Collaborative Large Language Models with Reinforcement Learning
MIT(麻省理工学院);Stanford(斯坦福大学);Amazon(亚马逊);UMD(大学公园大学)
提出MAPoRL多智能体联合后训练范式,通过强化学习共同训练多个LLM并利用验证器奖励机制,显著提升了模型跨基准的协作性能与泛化能力。
2025-07-12 cs.AI
Enhancing Worker Recruitment in Collaborative Mobile Crowdsourcing: A Graph Neural Network Trust Evaluation Approach
School of Computer and Control Engineering, Yantai University(烟台大学计算机与控制工程学院);Georgia State University(佐治亚州立大学)
针对协作式移动众包中的工人招募问题,提出基于图卷积神经网络的信任强化评估框架TREF,结合禁忌搜索算法与边缘计算实现分布式招募,在五个真实数据集上验证了其优于基线方法的性能。
2024-03-22 cs.AI cs.HC cs.LG
Trust and ethical considerations in a multi-modal, explainable AI-driven chatbot tutoring system: The case of collaboratively solving Rubik's Cube
University of South Carolina(南卡罗来纳大学);Cisco Research(思科研究)
本文针对高中AI教育中的数据隐私、信息泄露等伦理问题,介绍了多模态协作平台ALLURE聊天机器人的技术组件,以确保数据知情同意、交互安全及防止跨组信息泄露。
2024-08-27 cs.AI cs.CY
Assessing Trust in Construction AI-Powered Collaborative Robots using Structural Equation Modeling
San Diego State University(圣地亚哥州立大学)
本研究通过对600名AEC从业者的全国性调查与结构方程模型分析,明确了影响建筑领域AI协作机器人信任度的技术与心理因素,为相关技术落地与从业者福祉保障提供参考。
2023-08-28 cs.AI cs.HC cs.RO
Towards Machines that Trust: AI Agents Learn to Trust in the Trust Game
Mila – Quebec AI Institute(Mila——魁北克人工智能研究所);McGill University(麦吉尔大学)
本文通过强化学习训练AI智能体,在信任博弈中系统研究信任学习,理论分析与仿真结果共同为信任涌现提供了数学基础。
2023-12-20 cs.AI q-bio.NC
Agentic AI with Orchestrator-Agent Trust: A Modular Visual Classification Framework with Trust-Aware Orchestration and RAG-Based Reasoning
University of the Peloponnese, Department of Informatics and Telecommunications(希腊皮埃蒙特大学信息与电信系);Cornell University, Department of Biological and Environmental Engineering(康奈尔大学生物与环境工程系)
本文提出一种模块化智能体AI视觉分类框架,通过信任感知编排器与RAG推理在零样本苹果叶片病害诊断中实现85.63%准确率,较基线提升77.94%,展示了可信多智能体AI的构建范式。
2025-09-21 cs.AI cs.CL
Completion $\neq$ Collaboration: Scaling Collaborative Effort with Agents
Massachusetts Institute of Technology(麻省理工学院);Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学);Stanford University(斯坦福大学)
目前对智能体的评估仍然集中在一次性任务完成上,未能考虑到许多现实世界问题固有的迭代和协作性质,在这些问题中,人类的目标往往是不够明确和不断发展的。我们主张从建立和评估任务完成代理到开发协作代理的转变,不仅通过其最终输出的质量进行评估,而且还通过他们在整个解决问题的过程中如何参与和增强人类的努力来评估。为了支持这一转变,我们引入了协作努力扩展,一个框架,捕捉代理的效用如何随着用户参与的增加而增长。通过案例研究和模拟评估,我们表明,国家的最先进的代理往往表现不佳,在多回合,现实世界的情况下,揭示了代理设计中缺失的成分:维持参与和支架用户理解的能力。协作努力缩放提供了一个诊断代理行为和指导开发更有效的交互的镜头。
2025-10-30 cs.AI cs.CL
Can Agents Trust Their Skills? Uncovering Unsafe Chains of Trust in Skill-Based LLM Agents
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);Worcester Polytechnic Institute(伍斯特理工学院);School of Cyberspace Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
本研究提出TrustProbe框架,通过分析源代码和演化测试,在11个开源LLM代理中发现104个污点式漏洞,表明技能内容可突破信任链危害安全敏感操作。
2026-10-01 cs.AI cs.CR
More Similar Values, More Trust? -- the Effect of Value Similarity on Trust in Human-Agent Interaction
Delft University of Technology(代尔夫特理工大学);Leiden University(莱顿大学)
随着人工智能系统越来越多地参与决策,它们从用户那里获得适当程度的信任也变得非常重要。为了实现这一目标,首先要了解哪些因素会影响对AI的信任。我们发现,关于个人价值观在人工智能信任中的作用存在研究空白。因此,本文研究了人与代理人的价值相似性(VS)如何影响人对代理人的信任。为了探索这一点,89名参与者与5个不同的代理人合作,这些代理人的设计与参与者的价值相似程度不同。在一项以阿基诺为基础的受试者内实验中,特工们给出了进入大楼拯救人质时应该做些什么的建议。我们分析了主体在主观价值相似度、信任度和开放式问题定性数据上的得分。我们的研究结果表明,被评为具有更相似价值观的代理人在信任方面的得分也更高,这表明两者之间存在积极的影响。有了这个结果,我们增加了现有的理解,人类代理信任的价值相似性的作用提供洞察。
2021-05-19 cs.AI cs.HC
TrustedARI: Towards Trust-Native Agentic Routing Infrastructure for Agentic AI
Tsinghua University(清华大学)
针对代理路由基础设施(ARI)中查询和响应被明文访问、无法验证路由完整性的信任风险,提出TrustedARI,通过三方TLS握手、隐私保护查询构建和可验证计费协议实现信任原生路由,实验表明高效且无需修改服务提供商。
2026-06-16 cs.AI cs.CR
Adapting Behaviour Based On Trust In Human-Agent Ad Hoc Teamwork
INESC-ID(INESC-ID(葡萄牙国家系统与计算机工程研究所));Instituto Superior Técnico(高等技术学院);University of Lisbon(里斯本大学)
这项工作提出了一个框架,将信任与人类代理团队的特设团队合作的情况下,代理必须与人类合作执行任务。在执行任务期间,智能体必须通过交互和观察来推断人类对它的信任程度,并调整其行为以最大限度地提高团队的绩效。为了实现这一目标,我们建议从实验中的人类参与者那里收集数据,以定义不同的设置(基于信任级别),并为每个设置学习最佳策略。然后,我们创建一个模块来推断当前的设置(取决于信任度)。最后,我们在现实世界的场景中验证了这个框架,并分析了这种适应性的行为如何影响信任。
2022-10-13 cs.AI cs.HC
Zero-Trust Foundation Models: A New Paradigm for Secure and Collaborative Artificial Intelligence for Internet of Things
School of Electrical Engineering and Computer Science, TU Berlin(柏林技术大学电气与计算机工程学院);Real-Time and Embedded Computing Systems Research Centre (CISTER)(实时与嵌入式计算系统研究中心);Data61, CSIRO(数据61,澳大利亚联邦科学与工业研究组织);School of Computer Science and Engineering, the University of New South Wales(新南威尔士大学计算机科学与工程学院);State Key Laboratory of Public Big Data, College of Big Data and Information Engineering, Guizhou University(公共大数据国家重点实验室,贵州大学大数据与信息工程学院);Department of Computer Engineering, Qassim University(科威特大学计算机工程系);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);Division of Electrical Engineering, Department of Engineering, University of Cambridge(剑桥大学工程系电子工程系);Center for NeXt-Generation Communications (CXC), Koç University(下一代通信中心(CXC),科隆大学)
本文提出零信任基础模型(ZTFMs)范式,将零信任原则嵌入物联网基础模型全生命周期,并构建结合联邦学习与区块链等技术的综合框架,为安全可信的IoT基础设施奠定路线图。
2025-05-26 cs.AI cs.CR
Understanding Perspectives of Patients, Caregivers and Clinicians towards Emerging Collaborative-decision Making Technologies
University of Washington(华盛顿大学);Johns Hopkins University(约翰霍普金斯大学)
研究探讨了患者、护理人员和临床医生对协作决策技术的态度差异,发现技术接受度与用户对技术的信任有关,需探索建立或促进用户与技术之间信任的设计和实施策略。
2026-05-20 cs.AI cs.HC
A Scalable Trust Discovery Architecture for the Internet of Agents
China Internet Network Information Center(中国互联网络信息中心);Alibaba Cloud Intelligence Group(阿里云智能集团);National Engineering Laboratory of Internet Domain Name Management Technology(互联网域名管理技术国家工程实验室);Computer Network Information Center, Chinese Academy of Sciences(中国科学院计算机网络信息中心)
针对智能体互联网中注册、身份信任与能力发现缺失的问题,提出分层分布式信任发现架构,实现可扩展注册与解析,实验验证其低延迟和高吞吐性能。
2026-09-18 cs.AI cs.CR
Trusting Your AI Agent Emotionally and Cognitively: Development and Validation of a Semantic Differential Scale for AI Trust
University of Washington(华盛顿大学)
本研究针对AI信任中情感与认知维度缺乏有效测量工具的问题,开发并验证了27项语义差异量表,通过调查和实验揭示了两维度互动及其对整体信任的影响,并为LLM培养信任提供了见解。
2024-11-07 cs.AI cs.HC
Exploiting Agent and Type Independence in Collaborative Graphical Bayesian Games
Massachusetts Institute of Technology(麻省理工学院);University of Amsterdam(阿姆斯特丹大学);Instituto Superior Técnico(高等技术学院)
有效的协同决策是多智能体系统面临的一个重要挑战。当每个智能体只有关于其环境状态的不完全信息时,寻找最佳联合行动尤其具有挑战性。这样的问题可以建模为协作贝叶斯游戏,其中每个代理接收其类型形式的私人信息。然而,代表和解决这样的游戏需要空间和计算时间指数的代理人的数量。本文介绍了协作图贝叶斯博弈(CGBG),它通过将全局支付函数分解为仅依赖于少数代理的局部支付函数之和来促进更有效的协作决策。我们提出了一个框架的有效解决方案的CGBG的基础上的洞察力,他们拥有两种不同类型的独立性,我们称之为代理独立性和类型独立性。特别是,我们提出了一个因子图表示,捕捉两种形式的独立性,从而实现有效的解决方案。此外,我们展示了这种表示如何在顺序任务中提供杠杆作用,通过使用它来构建一种新的方法,分散的部分可观察马尔可夫决策过程。在随机和基准任务的实验结果表明,我们的方法相比,现有的几种替代品的可扩展性提高。
2014-04-25 cs.AI cs.GT
PeerGPT: Probing the Roles of LLM-based Peer Agents as Team Moderators and Participants in Children's Collaborative Learning
Tongji University(同济大学);Southern University of Science and Technology(南方科技大学)
本研究探究基于LLM的同伴智能体在儿童协作学习中作为团队协调者与参与者的角色,发现其能有效管理讨论并激发创造力,但存在指令被无视和反馈不及时的问题,为未来设计改进提供了依据。
2024-03-21 cs.AI cs.HC
Trust model of privacy-concerned, emotionally-aware agents in a cooperative logistics problem
Univ. Carlos III de Madrid(卡洛斯三世大学)
本研究提出一种融合情绪与隐私考量的BDI范式信任模型,在GAMA平台实现并经协作物流仿真验证,可同时提升智能体作业效率与隐私保护水平。
2024-01-25 cs.AI cs.MA
Reflections on Trusting Trust, Revisited: Contaminating Self-Modifying AI Coding Agents with Poisoned Benchmarks
University of Washington(华盛顿大学);Georgetown University(乔治敦大学)
本研究将汤普森编译器后门攻击推广至自我修改AI编码智能体,证明投毒基准可诱导其演化出编写漏洞代码的指令,且污染常持续存在,需增强此类智能体的韧性。
2026-09-17 cs.AI cs.CR
K-nearest Multi-agent Deep Reinforcement Learning for Collaborative Tasks with a Variable Number of Agents
Hitachi Industrial AI Lab(日立工业人工智能实验室)
传统上,多智能体深度强化学习算法的性能是在游戏环境中展示和验证的,在游戏环境中,我们通常有固定数量的智能体。在许多工业应用中,可用试剂的数量可以在任何给定的一天改变,并且即使当试剂的数量提前已知时,试剂在操作期间中断并且在一段时间内变得不可用也是常见的。在本文中,我们提出了一种新的深度强化学习算法的多智能体协作任务与可变数量的代理。我们演示了我们的算法使用日立开发的车队管理模拟器在生产现场生成逼真的场景中的应用。
2022-01-18 cs.AI cs.LG cs.MA
Can Large Language Model Agents Simulate Human Trust Behavior?
KAUST(阿卜杜拉国王科技大学);Illinois Institute of Technology(伊利诺伊理工大学);Pennsylvania State University(宾夕法尼亚州立大学);University of Chicago(芝加哥大学);Emory(埃默里大学);University of Oxford(牛津大学);California Institute of Technology(加州理工学院);University of Michigan(密歇根大学);Santa Fe Institute(圣达菲研究所);Google(谷歌公司)
该研究聚焦人类信任行为,在信任博弈框架下验证LLM智能体可模拟人类信任,GPT-4与人类行为高度一致,还探究了信任偏差、不同信任对象及外部条件下的信任特性,为LLM行为研究及相关应用提供新方向。
2024-11-01 cs.AI cs.CL cs.HC
Tell Me Something That Will Help Me Trust You: A Survey of Trust Calibration in Human-Agent Interaction
University of Maryland, Baltimore County(马里兰大学巴尔的摩郡分校);Johns Hopkins University Applied Physics Laboratory(约翰斯·霍普金斯大学应用物理实验室)
当一个人从智能代理接收到预测或建议的行动过程时,除了预测或建议本身之外,人类还需要从代理那里获得什么额外的信息来决定是信任还是拒绝预测或建议?在本文中,我们调查文献在一个单一的人类主管和一个单一的代理下属之间的信任,以确定这种额外的信息的性质和程度,并将其特征化为一个分类,可以利用未来的研究人员和智能代理从业者。通过从以人为本、以信息为中心的角度来审视这个问题,我们可以开始比较和对比不同的实现,并为未来的工作提供见解和方向。
2022-05-06 cs.AI cs.CY cs.HC
Position: Collaborative Agentic AI Needs Interoperability Across Ecosystems
EPFL, Lausanne, Switzerland(瑞士洛桑联邦理工学院)
本文提出通过采用最小标准实现互操作性,以构建开放、安全、可扩展的自主代理生态系统,并设计了名为“代理网络”的架构基础。
2026-07-01 cs.AI cs.MA cs.NI
Quantifying Trust: Financial Risk Management for Trustworthy AI Agents
Microsoft Research(微软研究院);Columbia University(哥伦比亚大学);Google DeepMind(谷歌DeepMind);Stanford University(斯坦福大学);t54.ai;Virtuals ACP;University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
本文提出基于金融风险管理的Agentic Risk Standard框架,通过整合风险评估与补偿机制,将信任从隐含期望转为可衡量的产品保证,提升AI代理在开放环境中的可靠性。
2026-04-05 cs.AI cs.CE
AI Agents with Human-Like Collaborative Tools: Adaptive Strategies for Enhanced Problem-Solving
Research(2389研究机构);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
研究赋予LLM智能体类人协作工具与自主权,发现这些工具在难题上显著降低成本和轮次并提升速度,且不同模型自然采用不同协作策略,表明自适应协作界面可作为推理增强器。
2025-09-16 cs.AI cs.HC