arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

AI Agent

智能体、工具调用、规划、工作流、多智能体和自主任务执行。

2026-08-11 至 2026-08-11 共收录 429 信号源:cs.AI, cs.CL, cs.LG, cs.SE

1. 多智能体 62 篇

2608.08516 2026-08-11 cs.MA 新提交 88%

Fluid Structure, Rigid Record: A Layered Organizational Design Framework for Agent-Native Organizations

流体结构,刚性记录:面向智能体原生组织的分层组织设计框架

Lucian Zhu

专题命中 多智能体 :agent(title,abstract);workflow(abstract,abstract_cn);agentic(abstract)

AI总结 本文提出一种分层框架,分离智能体原生组织的持久与动态层,通过多类智能体与角色组实现灵活执行与刚性底层,已实现原型并完成小样本实验,贡献为可证伪的组织设计治理框架。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07583 2026-08-11 stat.ML cs.LG 新提交 88%

RouteGuard: Certifying Routing Gain in LLM Multi-Agent Systems When Complementarity Is Not Enough

RouteGuard:当互补性不足时,对LLM多智能体系统中的路由增益进行认证

Anchen Sun, Kaiqi Yang

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract);分类 cs.LG

AI总结 针对LLM多智能体路由的部署问题,提出RouteGuard框架,通过分解增益、结合Le Cam下界等实现认证,在两个基准中验证了其有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08604 2026-08-11 cs.LG 新提交 88%

Multi-Agent Reinforcement Learning via Agent-Specific Preference

基于智能体特定偏好的多智能体强化学习

Ni Mu, Yao Luan, Yiqin Yang, Qing-Shan Jia

机构 * Tsinghua University(清华大学) Chinese Academy of Sciences(中国科学院) CFINS BNRist Institute for Embodied Intelligence and Robotics(嵌入式智能与机器人研究所) Institute of Automation(自动化研究所)

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract);分类 cs.LG

AI总结 本文提出多智能体偏好集成学习(MAGPIE),通过智能体特定偏好建模解决多智能体强化学习中全局奖励设计难题,经理论证明与实验验证,其性能可媲美奖励工程基线,为奖励工程不适用场景提供有效策略学习方案。

Comments This article has been accepted for publication in IEEE Transactions on Automation Science and Engineering. This is the author's version, which has not been fully edited, and the content may change prior to final publication. \c{opyright} 2026 IEEE. All rights reserved, including rights for text and data mining and training of artificial intelligence and similar technologies

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08045 2026-08-11 cs.AI 新提交 88%

Lingjing: A Simulation Testbed for Multi-Agent Embodied Tasks in Open-Ended Cities

Lingjing:面向开放城市多智能体具身任务的仿真测试平台

Xiaohe Li, Yiru Wang, Junhao Fan, Mingyuan Liu, Jie Huang, Kaixin Zhang, Jiahao Li, Chen Qian, Zide Fan

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract);分类 cs.AI

AI总结 Lingjing 是一款面向开放城市异构多智能体具身任务的仿真测试平台,支持城市多智能体协同的可复现评估与故障诊断,通过评估视觉语言模型等揭示了环境感知等瓶颈。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19430 2026-08-11 cs.CR cs.AI cs.MA 版本更新 88%

ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems

通道卫士:安全模型无法组合成安全的多智能体系统

Elias Hossain, Md Mehedi Hasan Nipu, Fatema Tuj Johora Faria, Tasfia Nuzhat Ornee, Maleeha Sheikh

机构 * College of Engineering and Computer Science, University of Central Florida(工程与计算机科学学院,中央佛罗里达大学) Department of Computer Science and Engineering, North South University(计算机科学与工程系,北南大学) Computer Science and Engineering, Ahsanullah University of Science and Technology(计算机科学与工程,阿沙努拉科学与技术大学) Department of Electrical and Computer Engineering, Purdue University Fort Wayne(电气与计算机工程系,普渡大学弗拉特沃恩分校)

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract);分类 cs.AI

AI总结 研究多智能体大语言模型应用程序中智能体间通道安全问题,提出ChannelGuard深度防御框架,在通道设信息瓶颈门,通过文本与对抗短语库评分处理信息,能有效阻止工具中毒攻击,降低提示注入攻击成功率,保持准确率,白盒自适应释义可规避嵌入门。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08704 2026-08-11 cs.AI 版本更新 88%

AgentPSO: Evolving Agent Reasoning Skill via Multi-agent Particle Swarm Optimization

AgentPSO: 通过多智能体粒子群优化进化智能体推理能力

Hyunmin Hwang, Jaemin Kim, Choonghan Kim, Hangeol Chang, Jong Chul Ye

机构 * Korea Advanced Institute of Science and Technology(韩国科学技术院)

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract);分类 cs.AI

AI总结 AgentPSO通过多智能体粒子群优化框架,使智能体在任务中进化推理能力,通过结合自身经验与群体最优技能,提升个体与集体推理性能,实验证明其优于静态单智能体和测试时多智能体方法。

Comments The 3rd AI for Math Workshop at the 43rd International Conference on Machine Learning (ICML), Seoul, South Korea, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.11741 2026-08-11 cs.AI 版本更新 88%

Collaborative Multi-Agent Scripts Generation for Enhancing Imperfect-Information Reasoning in Murder Mystery Games

协作多智能体脚本生成以增强谋杀谜游戏中的不完全信息推理

Keyang Zhong, Junlin Xie, Hefeng Wu, Haofeng Li, Guanbin Li

机构 * Sun Yat-sen University(中山大学) The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract);分类 cs.AI

AI总结 本文提出协作多智能体框架,通过生成丰富多模态上下文提升VLMs在叙事推理和欺骗鲁棒性中的表现,解决多玩家游戏中不完全信息下的复杂推理问题。

Comments 9 pages, 5 figures, Findings of ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.19969 2026-08-11 cs.AI 版本更新 88%

M$^3$Prune: Hierarchical Communication Graph Pruning for Efficient Multi-Modal Multi-Agent Retrieval-Augmented Generation

M$^3$Prune: 多模态多智能体分层通信图剪枝用于高效多模态多智能体检索增强生成

Weizi Shao, Taolin Zhang, Zijie Zhou, Chen Chen, Chengyu Wang, Xiaofeng He

机构 * East China Normal University(东华大学) Hefei University of Technology(合肥工业大学) China University of Petroleum(中国石油大学) Guangdong university of Finance & Economics(广东财经大学) Alibaba Group(阿里巴巴集团)

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract);分类 cs.AI

AI总结 M$^3$Prune通过分层通信图剪枝提升多模态多智能体检索增强生成的效率和性能。

Comments Critical flaw in Eq.(5)/Alg.1 (Sec 3.2): scoring fails Lipschitz continuity in multi-modal spaces, causing invalid hierarchy. Thus, latency/FLOPs in Tables 2&3 are overestimated & irreproducible. Core defect unfixable by minor update. Withdraw to avoid misleading; will revise theory & experiments

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08330 2026-08-11 eess.SP 新提交 88%

Uplink-Completion-Triggered Edge-GPU Inference for Multi-Agent Cooperative Perception

上行完成触发的边缘GPU多智能体协同感知推理

Sai Xu, Yanan Du, Chong Tang, Gaojie Chen

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract)

AI总结 本文提出释放触发通信计算耦合(RTCC)方法,在物理GPU上实现多智能体协同感知DNN的上行完成触发推理,可降低检测延迟且保持检测性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07824 2026-08-11 cs.MA 新提交 88%

Per-Shipment Multi-Agent Reinforcement Learning for Intermodal Freight Routing Under Hurricane Disruption

飓风中断下的分货多智能体强化学习联运货运路径规划

Aliza Sharmin, Xudong Wang, Mustafa Can Camur, Xueping Li

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract)

AI总结 针对飓风破坏下的联运货运路径规划问题,研究将其建模为Dec-POMDP,训练IPPO并与启发式方法对比,发现IPPO在吞吐量和交付率上占优,在需求激增时优势更显著,MAPPO则存在队列不匹配的局限性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.16139 2026-08-11 eess.SY cs.SY 版本更新 88%

Consensus Tracking of Perturbed Open Multi-Agent Systems with Repelling Antagonistic Interactions

受扰开放多智能体系统在排斥对抗交互下的一致性跟踪

Mengqi Xue, Yuchao Xiong, Yue Song

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract)

AI总结 针对开放多智能体系统在迁移引起的非消失扰动和排斥对抗交互下的一致性跟踪问题,通过将系统建模为受扰多模式多维系统并扩展其稳定性理论,证明了在满足分段平均驻留时间和激活时间比条件下可实现最终有界一致性跟踪。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.11503 2026-08-11 cs.MA 版本更新 88%

Distance-Constrained Unlabeled Multi-Agent Pathfinding

具有距离约束的无标签多智能体路径寻找

Takahiro Suzuki, Yuma Tamura, Keisuke Okumura

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract)

AI总结 本文研究了具有距离约束的无标签多智能体路径寻找问题,提出两种互补方法解决该问题,证明该问题的可行性为PSPACE难,但算法在实际时间内可处理数百个智能体。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.17695 2026-08-11 eess.SP 版本更新 88%

Semantic Joint Source Channel Coding for Distributed Subsurface Imaging in Multi-Agent Systems

多智能体系统中分布式地下成像的语义联合信源信道编码

Maximilian H. V. Tillmann, Ban-Sok Shin, Dmitriy Shutin, Armin Dekorsy

专题命中 多智能体 :agent(title,abstract);multi-agent(title,abstract)

AI总结 本研究针对多智能体系统中分布式地下成像问题,提出将语义联合信源信道编码与空中计算结合的方法,经地下异常检测用例验证,其成像性能优于传统通信方案。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07532 2026-08-11 cs.AI cs.LG econ.TH 新提交 86%

Dynamic Coalition Formation and Communication Pricing in Skill-Based Agentic AI Systems

基于技能的智能体人工智能系统中的动态联盟形成与通信定价

Mojtaba Eslami

机构 * University of Calgary(卡尔加里大学)

专题命中 多智能体 :agentic(title,abstract);agent(abstract);multi-agent(abstract);分类 cs.AI、cs.LG

AI总结 针对技能型智能体 AI 系统通信低效问题,提出基于夏普利值的边际值激活与贪心路由方法,在合成实验中其效用达蛮力最优的 99.5%,激活智能体数远少于全广播。

详情

展开后加载摘要…

URL PDF HTML 收藏
2412.15701 2026-08-11 cs.AI cs.CL cs.HC 86%

Collaborative Gym: A Framework for Enabling and Evaluating Human-Agent Collaboration

协作健身房:一种促进和评估人机协作的框架

Yijia Shao, Vinay Samuel, Yucheng Jiang, John Yang, Diyi Yang

专题命中 多智能体 :agent(title,abstract);AI agent(abstract);planning(abstract);分类 cs.AI、cs.CL

AI总结 Co-Gym框架通过模拟和真实环境支持人机协作研究,展示协作代理在任务性能上的优势,同时揭示当前语言模型的局限性。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.02637 2026-08-11 cs.MA cs.CL cs.PL 版本更新 85%

StitchCUDA: An Automated Multi-Agents End-to-End GPU Programing Framework with Rubric-based Agentic Reinforcement Learning

StitchCUDA:一种基于规则的多智能体端到端GPU编程框架与基于代理的强化学习

Shiyang Li, Zijian Zhang, Winson Chen, Yuebo Luo, Mingyi Hong, Caiwen Ding

机构 * Department of Computer Science\&Engineering, University of Minnesota-Twin Cities, Minnesota, USA Department of Electrical Engineering, University of Minnesota-Twin Cities, Minnesota, USA

专题命中 多智能体 :agentic(title,abstract);agent(abstract);multi-agent(abstract);分类 cs.CL

AI总结 StitchCUDA通过基于规则的多智能体强化学习,实现了端到端GPU编程的高效生成与验证,显著提升了性能和准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.07195 2026-08-11 cs.CL cs.AI cs.CY cs.MA cs.SI 版本更新 84%

Multilingual Agent-Based World Modeling for Social Science

MASim:面向社会科学的多语言代理模拟

Xuan Zhang, Wenxuan Zhang, Anxu Wang, See-Kiong Ng, Yang Deng

专题命中 多智能体 :agent(title,abstract);multi-agent(abstract);分类 cs.AI、cs.CL

AI总结 MASim是一种多语言代理模拟框架,用于研究社会行为,通过多语言代理模拟公众意见和媒体影响,展现多语言模拟在社会科学中的重要性。

Comments Accepted at COLM 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08497 2026-08-11 cs.HC cs.MA cs.SI 新提交 83%

SocialFiVis: A Visual Analytics Sandbox for LLM-Grounded Multi-Agent Simulation in Social Finance

SocialFiVis:面向社会金融中基于大语言模型的多智能体模拟的可视分析沙箱

Yi-Fan Cao, Qing Shi, Liangwei Wang, Leo Yu-Ho Lo, Lin Chen, Yuzi Han, Yang Wang, Kani Chen

专题命中 多智能体 :agent(title);multi-agent(title)

AI总结 该研究提出嵌入IAD框架的可视分析沙箱SocialFiVis,结合LLM与PRA引擎模拟多智能体,支持探索社会金融领域反事实政策并解释相关涌现现象。

Comments 11 pages, 7 figures, 2 tables. Accepted to IEEE VIS 2026; to appear in IEEE Transactions on Visualization and Computer Graphics

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08417 2026-08-11 cs.IR 新提交 82%

Personalized Communication Skills for Agentic Recommender Systems

面向智能体推荐系统的个性化沟通技能

Zongwei Wang, Min Gao, Guangyu Hu, Xinyi Gao, Junliang Yu

专题命中 多智能体 :agentic(title,abstract);agent(abstract)

AI总结 针对现有智能体推荐系统用户智能体视角狭窄的问题,提出AgentCom个性化沟通技能框架,通过「为什么-是什么-如何-谁」技能库及两种机制提升推荐性能,在三类推荐器中均有效。

Comments 11 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09087 2026-08-11 math.NA cs.CR cs.NA q-fin.RM 新提交 82%

Joint Lyapunov Certificates for K-Agent Generative AI Governance: Stochastic Stability, Emergent Ensemble Risk, and Zero-Knowledge Governance Attestation

K智能体生成式AI治理的联合李雅普诺夫证明:随机稳定性、涌现集成风险与零知识治理证明

Sriram Nagaraj

专题命中 多智能体 :agent(title,abstract);multi-agent(abstract)

AI总结 该研究针对K个耦合自适应生成式AI模型系统,提出联合李雅普诺夫证明(JLP)框架,推导临界耦合阈值等理论结果,结合SNARK实现零知识治理证明,经多智能体softmax系统数值研究验证。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07520 2026-08-11 cs.CY cs.AI 新提交 77%

KumbhDoot: A Scale-Ready, LLM-Bounded Architecture for Mass-Gathering Public-Service Assistants

KumbhDoot:面向大规模集会公共服务助手的可扩展、大语言模型(LLM)限定架构

Saurabh Sakalkar, Abhishek Singh, Ramesh Raskar

专题命中 多智能体 :agent(abstract);agentic(abstract);multi-agent(abstract);分类 cs.AI

AI总结 针对大壶节这类高风险低连接性的大规模集会,提出KumbhDoot架构,以相似度优先、LLM限定为核心,解决默认LLM助手成本高、易幻觉等问题,适配公共服务场景。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.21165 2026-08-11 cs.RO cs.AI 版本更新 77%

OmniV2X: A Generative Foundation Planner for Efficient End-to-End Cooperative Driving

OmniV2X:一种用于高效端到端协同驾驶的生成式基础规划器

Juntong Peng, Juanwu Lu, Yupeng Zhou, Can Cui, Yaobin Chen, Ziran Wang

机构 * Purdue University(普渡大学)

专题命中 多智能体 :agent(abstract);planning(abstract);multi-agent(abstract);分类 cs.AI

AI总结 提出OmniV2X生成式基础模型,通过端到端监督训练和交叉注意力注入,利用多模态多智能体上下文实现高效协同驾驶,在DAIR-V2X-Seq数据集上以少于10%微调数据和1%通信带宽达到最优性能。

Comments Accepted to IROS 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09861 2026-08-11 cs.AI cs.CL cs.CV 新提交 73%

Towards Expert-level Medical AI for Real-time Video Consultations

面向专家级的实时视频问诊医疗AI

Mahvish Nagda, Jihyeon Lee, Matthew Thompson, Chunjong Park, Tim Strother, Valentin Liévin, Roma Ruparel, Akshay Goel, Teya Bergamaschi, Suhana Bedi, Meet Shah, Pavel Dubov, Liviu Panait, Toshiyuki Fukuzawa, Sam Schmidgall, Craig Schiff, Joseph Xu, Aliya Rysbek, Yana Lunts, Jan Freyberg, Rebecca Hemengway, Sunny Virmani, David Racz, Carey Radebaugh, Joëlle Barral, Kavi Goel, Dale R. Webster, Katherine Chou, Avinatan Hassidim, Yossi Matias, James Manyika, Gregory Wayne, Tao Tu, Yun Liu, Ethan Goh, Christina Chen, Ryutaro Tanno, Po-Hsuan Cameron Chen, Mike Schaekermann, Anil Palepu

机构 * Google Research(谷歌研究院) Google DeepMind(谷歌DeepMind)

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI、cs.CL

AI总结 本研究开发了基于Gemini的多智能体系统AMIE(视频版),在随机OSCE研究中其临床问诊表现与初级保健医生相当或更优,为专家级实时视频问诊医疗AI的发展奠定了重要基础。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08100 2026-08-11 cs.CR cs.AI cs.LG 新提交 73%

Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection

防御检索增强型入侵检测系统免受知识投毒与提示注入攻击

Kaysarul Anas Apurba, Md. Hasibul Hasan, Mahedee Zaman Moon, Sk. Md. Mizanur Rahman, Atsuo Inomata

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI、cs.LG

AI总结 本文提出RAG-IDS三层多智能体入侵检测框架,通过软信任评分、LECC和提示净化的检索边界防御,可在知识投毒与提示注入攻击下恢复分类质量,在CIC-UNSW-NB15数据集上表现出良好的防御效果。

Comments 14 pages with Appnedix, 11 figures. Submitted to IEEE CIC 2026, Research Track (double-blind review)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07688 2026-08-11 cs.AI cs.CL cs.CR cs.HC cs.MA 新提交 73%

IntelliAudit: Using Large Language Models to Evaluate Audit Controls

IntelliAudit:使用大语言模型评估审计控制

Allison Wilson, Sina Moradi Sabet, Diar Shakimov, Panteha Shahrivar, Mohammad Reza Bagheri, Dean Konenkamp, Mohammad A. Tayebi

机构 * Coca-Cola(可口可乐公司) Telus(德达斯电信公司)

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI、cs.CL

AI总结 本文提出基于检索的多智能体系统IntelliAudit,用于辅助IT审计证据评估,在ISO/IEC 27001上的评估显示其可支持审计工作,需作为决策支持工具使用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07642 2026-08-11 cs.AI cs.LG cs.MA 新提交 73%

Contextual Value Alignment via Multilayer Combinatorial Fusion

基于多层组合融合的上下文价值对齐

Yuanhong Wu, Djallel Bouneffouf, D. Frank Hsu

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI、cs.LG

AI总结 本研究提出MCF-CVA框架,通过多层组合融合及EAR算法,结合多道德智能体的认知多样性缓解冲突冗余,在标准指标上优于单智能体等基线,提升LLM的上下文价值对齐能力。

Comments 12 pages, 5 figures, 5 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2406.14373 2026-08-11 cs.AI cs.CL cs.CY cs.HC cs.MA 版本更新 73%

Artificial Leviathan: Exploring Social Evolution of LLM Agents Through the Lens of Hobbesian Social Contract Theory

人工智能利维坦:通过霍布斯社会契约理论视角探索大语言模型智能体的社会演化

Gordon Dai, Weijia Zhang, Jinhan Li, Siqi Yang, Chidera Onochie lbe, Srihas Rao, Arthur Caetano, Misha Sra

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI、cs.CL

AI总结 本研究基于LLM智能体构建模拟社会,通过霍布斯社会契约理论验证其演化契合该理论,证实LLMs可模拟复杂社会动态,有望助力人类对社会系统的理解。

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.07901 2026-08-11 cs.GT cs.AI cs.CY cs.MA econ.TH 版本更新 72%

The Theory of Strategic Evolution: Games with Endogenous Players and the Seven Laws of Strategic Replicators

战略进化理论:具有内生参与者和战略复制者的博弈

Kevin Vallier

机构 * Institute of American Constitutional Thought and Leadership(美国宪法思想与领导力研究所) University of Toledo(托莱多大学)

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI;agentic(comments)

AI总结 本文提出战略进化理论,引入具有内生参与者的博弈,定义进化稳定智能分布,通过跨层增益矩阵构建战略层层次结构,证明相关封闭性及定理,可用于分析人工智能部署动态等,揭示人格工程问题及稳定多智能体系统的宪法约束。

Comments 171 pages. Formalized in Lean 4 with Mathlib: 240 theorems in the elaborated environment, 141 audited headline results, cold-compiling from a clean checkout with zero custom axioms. Source, theorem-by-theorem contract, and reproducible axiom audit: https://github.com/selfreferencing/TSE_Formal. Companion to Agentic Capital

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08471 2026-08-11 cs.AI 新提交 70%

Yesterday's Shield, Today's Spear: A Self-Evolving Safety Guardrail in Production

昨日之盾,今日之矛:生产环境中的自演进安全护栏

Cong Ming, Jingyi Chen, Bin Liu, Qi Chu, Tao Gong, Nenghai Yu, Yingfei Xiang

机构 * University of Science and Technology of China(中国科学技术大学) Shenzhen University(深圳大学) Sangfor Technologies(深信服科技)

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI

AI总结 针对静态LLM安全护栏无法应对新威胁的问题,提出自演进安全护栏SESG多智能体系统,可快速适配新威胁,性能优于静态护栏及自适应基线,已应用于深信服护栏并取得良好效果。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08210 2026-08-11 cs.AI 新提交 70%

Illusion of Alignment: Detecting Hidden Disagreement in Collaborative Dialogue

对齐的错觉:检测协同对话中的隐藏分歧

Kaiming Liu, Fuwen Luo, Ziyue Wang, Jinrui Ju, Yuxuan Liu, Xuanyu Lei, Yunghwei Lai, Peng Li, Yang Liu

机构 * College of AI, Tsinghua University(清华大学人工智能学院) Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院) Institute for AI, Tsinghua University(清华大学人工智能研究院)

专题命中 多智能体 :agent(abstract);multi-agent(abstract);分类 cs.AI

AI总结 本研究针对协同对话中存在的对齐的错觉(IoA)问题,构建IoA-Suite数据集,训练IoA-Prober-8B模型检测隐藏分歧,该模型可揭示真人会议中未表达的分歧,还能提升多智能体协作的下游任务性能。

详情

展开后加载摘要…

URL PDF HTML 收藏