arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

AI Agent

智能体、工具调用、规划、工作流、多智能体和自主任务执行。

共收录 93793 信号源:cs.AI, cs.CL, cs.LG, cs.SE

1. 工具调用 5118 篇

2601.18747 2026-08-19 cs.IR cs.AI cs.CC cs.CL cs.DB 版本更新 62%

The $\mathbf{P}$-Completeness of Inverted Index Traversal: On the Complexity of Evaluating Boolean Query DAGs

倒排索引遍历的$\mathbf{P}$-完备性:关于布尔查询DAG评估的复杂性

Amir Aavani

机构 * Apple Inc.(苹果公司)

专题命中 工具调用 :AI agent(abstract);分类 cs.AI、cs.CL

AI总结 本文证明基于DAG的布尔查询评估问题是$\mathbf{P}$-完备的,并提出一种稀疏感知算法ComputePN,通过正负对偶表示和DAG记忆化,将评估时间严格限制在$O(|Q| \cdot |U_{\mathit{active}}|)$,避免指数爆炸和全量扫描。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14963 2026-08-18 cs.LG cs.AI cs.HC 新提交 62%

Command-Space Counterfactual Explanations for Pareto-Conditioned Reinforcement Learning

帕累托条件强化学习的命令空间反事实解释

Joanikij Chulev, Hendrik Baier

机构 * Centrum Wiskunde & Informatica (CWI)(数学和计算机科学中心(CWI)) Eindhoven University of Technology(埃因霍温理工大学)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.LG

AI总结 该研究针对帕累托条件强化学习的帕累托条件网络,提出命令空间反事实解释方法CF-ZOO,通过边界种子方向搜索生成可操作的直观解释。

Comments 11 pages, 3 figures

Journal ref Proceedings of the IJCAI-ECAI 2026 Workshop on Explainable Artificial Intelligence (XAI), Bremen, Germany, August 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.14742 2026-08-18 cs.SE cs.LG 新提交 62%

PandasCorpus: A Resource of Real-World Pandas Workflows and Usage Patterns

PandasCorpus:真实世界Pandas工作流与使用模式资源

Syrym Abdikhan, Mazhar Hameed

专题命中 工具调用 :workflow(abstract);分类 cs.LG、cs.SE

AI总结 该研究构建了包含13.9万个Jupyter笔记本的PandasCorpus数据集,分析2015-2025年Pandas工作流特征,为相关研究提供公开资源。

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.16697 2026-08-18 cs.CY cs.AI cs.CL cs.HC 版本更新 62%

From Prompts to Constructs: A Dual-Validity Framework for Large Language Model Research in Psychology

从提示到构念:面向心理学研究的大语言模型双效度框架

Zhicheng Lin

专题命中 工具调用 :tool use(abstract);分类 cs.AI、cs.CL

AI总结 本研究针对大语言模型应用于心理学研究时的测量幻影问题,构建了双效度框架,明确不同研究目标对应的证据要求,强调需开发心理构念的计算类似物而非直接套用人类测量工具。

Journal ref Annu. Rev. Psychol. 2027. 78:2.1-2.26

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.12336 2026-08-14 cs.CL cs.AI 新提交 62%

StorySpark: Module-wise Evolutionary Search for Story Premise Generation

StorySpark:面向故事前提生成的模块级进化搜索

Yang Yang, Zining Zhong, Qian Cao, Jindong Li, Boyun Xu, Kaishen Yuan, Menglin Yang, Yutao Yue

机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) Renmin University of China(中国人民大学) Shandong University(山东大学) Institute of Deep Perception Technology, JITRI(JITRI深度感知技术研究院)

专题命中 工具调用 :planning(abstract);分类 cs.AI、cs.CL

AI总结 针对LLM故事生成中前提构思不足的问题,提出StorySpark模块级进化搜索框架,通过优化叙事模块生成更优质的故事前提,提升下游故事质量与创意性。

Comments 26 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.26998 2026-08-12 cs.CR cs.CL cs.LG 版本更新 62%

AgentSnare: Learning to Delay, Divert, and Defuse Autonomous Penetration Agents

AgentSnare:学习延迟、转移和瓦解自主渗透智能体

Ruoyu Wang, Heng Zhao, Renjie Wu, Mengnan Zhao, Zhixuan Chu, Wanyu Lin, Tianhang Zheng

专题命中 工具调用 :agent(abstract);分类 cs.CL、cs.LG

AI总结 AgentSnare是一种轨迹自适应欺骗系统,通过动态构建诱饵环境,吸收渗透智能体工具调用、转移其轨迹并瓦解攻击,在CVE-Bench实验中成功阻止了所有真实目标被利用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09867 2026-08-11 cs.CR cs.AI cs.LG 新提交 62%

Stealing Reasoning Traces from Proprietary LLM APIs

从专有大语言模型API窃取推理轨迹

Alexander Panfilov, David Schmotz, Ilia Shumailov, Luca Beurer-Kellner, Joachim Schaeffer, Ameya Prabhu, Jonas Geiping, Maksym Andriushchenko

专题命中 工具调用 :agentic(abstract);分类 cs.AI、cs.LG

AI总结 该研究发现专有LLM API的加密推理轨迹存在跨会话、用户及模型的兼容性漏洞,开发了可扩展解密越狱方法,能提取模型推理、窃取PII等,还提出了对应缓解措施。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.23426 2026-08-11 cs.AI cs.LG 版本更新 62%

ToolUniverse: An open platform for democratizing AI scientists

ToolUniverse:一个让AI科学家开发民主化的开放平台

Shanghua Gao, Richard Zhu, Pengwei Sui, Zhenglun Kong, Sufian Aldogom, Yepeng Huang, Ayush Noori, Reza Shamji, Krishna Parvataneni, Theodoros Tsiligkaridis, Marinka Zitnik

机构 * Department of Biomedical Informatics, Harvard Medical School(哈佛医学院生物医学信息学系) Harvard College, Harvard University(哈佛大学哈佛学院) Massachusetts Institute of Technology(麻省理工学院) MIT Lincoln Laboratory(MIT林肯实验室) Kempner Institute for the Study of Natural and Artificial Intelligence, Harvard University(哈佛大学自然与人工智能研究学院) Broad Institute of MIT and Harvard(MIT与哈佛联合广谱研究所) Harvard Data Science Initiative(哈佛数据科学计划)

专题命中 工具调用 :agentic(abstract);分类 cs.AI、cs.LG

AI总结 ToolUniverse是支持从各类模型构建AI科学家的开放平台,通过AI-工具交互标准规范工具调用,已应用于大量科学工具,案例中可完成多领域端到端分析。

Comments https://aiscientist.tools

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.28566 2026-08-06 cs.AI cs.LG 版本更新 62%

Tree of Thoughts as a Classical Heuristic Search Problem: Formal Foundations and Design Patterns

思维树作为经典启发式搜索问题:形式化基础与设计模式

Guni Sharon

机构 * Guni Sharon

专题命中 工具调用 :planning(abstract);分类 cs.AI、cs.LG

AI总结 本文通过经典启发式搜索术语统一分类法,将基于LLM的推理映射到搜索组件,并识别出系统搜索和前瞻性策略两种设计模式。

Comments Extended version of the SoCS 2026 paper. Includes appendices omitted from the proceedings version

Journal ref Proceedings of the Nineteenth International Symposium on Combinatorial Search (SoCS 2026), AAAI Press, 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.27882 2026-08-06 cs.CL cs.AI 版本更新 62%

VibeSearchBench: Benchmarking Long-horizon Proactive Search in the Wild

VibeSearchBench:野外长期主动搜索的基准测试

Xiaohongshu Inc

机构 * Xiaohongshu Dots Studio & Unipat AI(小红书 dots 飞 studios 与 Unipat AI)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 针对现有搜索基准中查询过于明确、单轮交互和固定模式评估导致用户体验与评估结果差距的问题,提出VibeSearch范式并构建VibeSearchBench基准,通过渐进式用户模拟和图匹配评估框架测试前沿模型,发现所有模型在长期上下文推理、主动意图激发和结构化知识构建方面仍存在显著不足。

详情

展开后加载摘要…

URL PDF HTML 收藏
2504.14636 2026-08-05 cs.LG cs.AI 版本更新 62%

When Search Teaches Style: Causal Internalization of Tactical Priors in AlphaZero

AlphaZero-Edu:普及AlphaZero的访问

Ruitong Li, Binjie Guo, Aisheng Mo, Guowei Su, Han Wang, Jie Li, Ru Zhang

机构 * Department of Communication Studies, School of Communication, Hong Kong Baptist University(通讯学院传播研究系,香港 Baptist 大学) Department of Neurobiology and Department of Rehabilitation Medicine, First Affiliated Hospital, Zhejiang University School of Medicine(神经生物学系和康复医学系,浙江大学医学院第一附属医院) Personal participation(个人参与)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.LG

AI总结 本文提出AlphaZero-Edu,一种轻量级教育导向的实现,通过模块化架构和高效训练,提升AlphaZero的可访问性和可重复性,实现单GPU训练和并行自对弈加速。

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.20381 2026-08-05 cs.CL cs.AI cs.HC 版本更新 62%

The production of meaning in the processing of natural language

自然语言处理中意义产生的机制

Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

机构 * Department of Physics, Indiana University(印第安纳大学物理系) Department of Linguistics, Indiana University(印第安纳大学语言学系) Imperial College London(伦敦帝国学院)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 研究自然语言处理中意义产生的机制,探讨量子逻辑与经典布尔理论在语义处理中的差异,分析模型在不同参数下的表现及对安全交互的影响。

Comments Accepted to QNLP 2026, 9 pages, 3 figures, 2 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2311.11482 2026-08-05 cs.AI cs.CL 62%

Meta Prompting for AI Systems

为AI系统引入元提示

Yifan Zhang, Yang Yuan, Andrew Chi-Chih Yao

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 通过元提示框架提升大语言模型的推理能力,实现高效的问题解决与自我优化。

Comments Project Page: https://github.com/meta-prompting/meta-prompting

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.02583 2026-08-04 cs.CV cs.AI cs.CL cs.IR 新提交 62%

UEmbed: Unified Sparse and Dense Multimodal Embeddings

UEmbed:统一稀疏与稠密多模态嵌入

Tingyu Song, Mingxin Li, Yanzhao Zhang, Dingkun Long, Pengjun Xie, Zhijie Nie, Yilun Zhao, Shu Wu

机构 * CASIA(中国科学院自动化研究所) Alibaba Group(阿里巴巴集团) University of Chinese Academy of Sciences(中国科学院大学) Yale University(耶鲁大学)

专题命中 工具调用 :agentic(abstract);分类 cs.AI、cs.CL

AI总结 UEmbed是一种仅解码器的多模态嵌入模型,可单次前向传播生成稀疏与稠密表示,在MMEB-v2和BEIR上表现优异,统一了两类嵌入并支持多模态智能体应用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.01913 2026-08-04 cs.AI cs.CL cs.IR 新提交 62%

Diagnosing Search Behavior and Failure Modes in Long-Horizon Search Agents

长视野搜索智能体的搜索行为与失败模式诊断

Qi Liu, Jiaxin Mao, Fengbin Zhu, Tat-Seng Chua

机构 * Renmin University of China(中国人民大学) National University of Singapore(新加坡国立大学)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 本研究通过轨迹级诊断区分长视野搜索智能体的检索与利用差距,发现搜索努力与答案质量弱相关,为优化深度研究系统提供了查询构建、证据管理等方向。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.01056 2026-08-04 cs.AI cs.CL 新提交 62%

Control Under Compression: Reliability Frontiers for Tool-Using Agents

压缩下的控制:使用工具的智能体的可靠性边界

Yinghan Hou, Zongyou Yang

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 研究针对工具使用智能体的控制上下文压缩,提出CompressAgent基准,揭示压缩的非线性可靠性边界,发现压缩会引发工具执行等错误,需以可执行结果评估压缩效果。

Comments 12 pages, 5 figures; includes an appendix

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07050 2026-08-04 cs.CL cs.LG 版本更新 62%

When Top-K Misses the Decision: Tool-Call Drift in Multi-Teacher On-Policy Distillation

多教师在线策略蒸馏中的行为杠杆不平衡

Jiabin Shen, Guang Chen, Chengjun Mao

机构 * AntGroup(蚂蚁集团)

专题命中 工具调用 :tool-use(abstract);分类 cs.CL、cs.LG

AI总结 研究多教师在线策略蒸馏中行为杠杆不平衡问题,提出Soft Clamp方法,通过校准令牌级散度,减少模型过度调用工具情况,在保持决策准确率的同时,降低工具调用循环和重复调用,提升多教师OPD效果。

Comments 33 pages, 5 figures. Code and aggregate artifacts: https://github.com/shen-jiabin/topk-support-opd

详情

展开后加载摘要…

URL PDF HTML 收藏
2603.24925 2026-08-04 cs.LG cs.CL cs.IR 版本更新 62%

GraphER: An Efficient Graph-Based Enrichment and Reranking Method for Retrieval-Augmented Generation

GraphER: 一种高效的基于图的增强和重排序方法用于检索增强生成

Ruizhong Miao, Yuying Wang, Rongguang Wang, Chenyang Li, Tao Sheng, Sujith Ravi, Dan Roth

机构 * Oracle AI

专题命中 工具调用 :agentic(abstract);分类 cs.CL、cs.LG

AI总结 GraphER通过利用数据组织结构捕捉超越语义相似性的接近关系,构建查询时的图结构并应用图排序技术,提升检索完整性,无需额外图基础设施,兼容标准向量存储。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.26358 2026-07-30 cs.LG cs.AI cs.GT 新提交 62%

Post-Training at the Edge of Detectability: A Game-Theoretic Approach to Fine-Tuning

可检测边界处的后训练:一种用于微调的博弈论方法

Keegan Harris, Brian W. Lee, Ian Waudby-Smith, Philip Amortila, Nika Haghtalab, Michael I. Jordan

机构 * University of California, Berkeley(加州大学伯克利分校) Inria(法国国家信息与自动化研究所) École Normale Supérieure(巴黎高等师范学院)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.LG

AI总结 该研究提出博弈论框架解决RL微调中KL正则化系数设置问题,将均衡系数归约为KL正则化RL目标,在Qwen3-8B等模型实验中实现良好奖励-保留权衡,可用于审计开源模型API提供商。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.25718 2026-07-30 cs.LG cs.AI cs.IR 版本更新 62%

Tools Are Not Islands: Set-Level Tool Retrieval for LLM Agents via Query-Conditioned Hyperedge Prediction

工具并非孤岛:通过查询条件超边预测为语言模型智能体进行集合级工具检索

Xinyi Hong, Pinjun Dong, Xinyang Yu, Binyan Jiang

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.LG

AI总结 研究LLM智能体的工具检索问题,提出HYSET方法,将其表述为查询条件超边预测,通过特定基数交互捕捉工具兼容性,设计为预选择模块,实验证明该方法在工具检索性能及任务成功率上优于基线,还支持零样本/少样本迁移。

Comments 9 pages, 2 figures, 3 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.17100 2026-07-30 cs.MA cs.AI cs.SE 版本更新 62%

Auto Research for Materials: Auditable AI-Scientist Workflows with Held-Out Transfer

材料的自动研究:具有留出转移的可审计人工智能科学家工作流程

Jingjie Ning, Xiaochuan Li, Shanshan Zhong, Ji Zeng, Guolin Ke

机构 * School of Computer Science, Carnegie Mellon University(计算机科学系,卡内基梅隆大学) DP Technology(DP科技)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.SE

AI总结 研究材料预测中人工智能代理的工作流程,通过多方面搜索产生评估更改,经留出数据测试,发现不同建模机制下的有效变化,证明闭环代理决策及代码可复用组合,还提供了评估设计。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.18037 2026-07-28 cs.AI cs.CL cs.MA 版本更新 62%

ProvenanceGuard: Source-Aware Factuality Verification for MCP-Based LLM Agents

ProvenanceGuard: 基于MCP的LLM智能体的源感知事实性验证

Ander Alvarez, Santhiya Rajan, Samuel Mugel, Román Orús

机构 * Multiverse Computing Parque Cientifico y Tecnológico de Gipuzkoa(吉普斯夸科技园) Centre for Social Innovation(社会创新中心) Donostia International Physics Center(多诺斯蒂亚国际物理中心) Ikerbasque Foundation for Science(伊克尔巴斯克科学基金会)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 提出ProvenanceGuard,一种源感知验证器,通过追踪MCP工具调用、分解声明并路由到特定源,检测跨源混淆错误,在医疗领域数据集上优于源无关基线。

Comments 20 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.24668 2026-07-27 cs.CL cs.AI 版本更新 62%

InteractComp: Evaluating Search Agents With Ambiguous Queries

InteractComp:使用模糊查询评估搜索代理

Mingyi Deng, Lijun Huang, Yani Fan, Fanqi Kong, Jiayi Zhang, Fashen Ren, Jinyi Bai, Fuzhen Yang, Dayi Miao, Zhaoyang Yu, Yifan Wu, Yanfei Zhang, Fengwei Teng, Yingjia Wan, Song Hu, Yude Li, Xin Jin, Conghao Hu, Haoyu Li, Qirui Fu, Tai Zhong, Xinyu Wang, Xiangru Tang, Nan Tang, Chenglin Wu, Yuyu Luo

机构 * DeepWisdom(深智科技) The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)) Renmin University of China(中国人民大学) University of California, Los Angeles(加州大学洛杉矶分校) Agent Universe(智能体宇宙) McGill University(麦吉尔大学) Yale University(耶鲁大学)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 研究针对搜索代理缺乏处理模糊查询及交互能力的问题,引入InteractComp基准,通过目标-干扰物方法构建问题评估17个模型,发现模型存在过度自信问题,强制交互有提升,揭示交互能力停滞,该基准对评估和训练搜索代理交互能力有重要价值。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026), Seoul, South Korea. 9 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.20430 2026-07-24 cs.CL cs.AI 新提交 62%

LLM-INSTRUCT at UZH Shared Task 2026: Constraint-Aware Retrieval and Selective Debate for Paragraph-Level Argument Mining

LLM-INSTRUCT在UZH 2026共享任务中的应用:用于段落级论证挖掘的约束感知检索和选择性辩论

Phuong Huu Vu Tran, Long Minh Vo, Son Nguyen Minh Le, Hoang Van

机构 * Vietnamese-German University(越南-德国大学) RMIT University Vietnam(皇家墨尔本理工大学越南分校) VANGIA INNOVATIONS(VANGIA创新公司)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.CL

AI总结 本文介绍了在UZH 2026共享任务中用于段落级论证挖掘的获胜系统LLM-INSTRUCT,通过元数据感知检索、约束解码等方法缩小决策空间,提高了准确性和提交稳健性,在官方排行榜上取得优异成绩。

Comments Accepted to the 13th Workshop on Argument Mining (ArgMining 2026) at ACL 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19453 2026-07-23 cs.LG cs.AI q-fin.ST q-fin.TR 新提交 62%

Predictive Extrema, Unprofitable Policies: An AI-Assisted Audit of Candle-Based Binance Spot Timing Models

预测极值、无利可图的策略:基于蜡烛图的币安现货时机模型的人工智能辅助审计

Ayoub Jadouli

机构 * Abdelmalek Essaâdi University(阿卜杜勒马莱克·埃萨阿迪大学)

专题命中 工具调用 :AI agent(abstract);分类 cs.AI、cs.LG

AI总结 研究基于蜡烛图的机器学习模型能否将加密货币极值预测转化为币安现货正向策略,通过模型运行和模拟器获取数值结果,经人工监督的AI代理辅助审计,结果显示多数测试协议未确立正向可执行策略价值,操作决策应为不交易。

Comments 23 pages, 5 figures, 8 tables. Simulation-only negative empirical study and human-supervised AI-assisted evidence audit. No live trading or investment advice. Code and available artifacts: https://github.com/AyoubJadouli/Quantbot-Research-Framework

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.05901 2026-07-23 cs.CL cs.AI 版本更新 62%

Reducing Hallucinations in Complex Question Answering using Simple Graph-based Retrieval-Augmented Generation (long version)

减少复杂问答中的幻觉:使用基于简单图的检索增强生成(长版)

Christopher J. Wedge, Joshua Stutter, Danny Dixon, Jacek Cała

机构 * National Innovation Centre for Data(数据创新研究中心)

专题命中 工具调用 :agentic(abstract);分类 cs.AI、cs.CL

AI总结 本研究提出一种轻量级图结构支持的检索增强生成系统,通过结合向量搜索和图查询工具,在复杂问答任务中将幻觉答案数量减半,并显著提升事实正确性的精确率和召回率。

Comments 25 pages; expanded limitations section, corrected typos throughout and missing values in appendix table 1

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18433 2026-07-22 cs.LG cs.AI nlin.AO 新提交 62%

Intelligence from Learnable Novelty

可学习新奇性中的智能

Yanbo Zhang, Michael Levin

机构 * Allen Discovery Center at Tufts University(塔夫茨大学艾伦发现中心) Wyss Institute for Biologically Inspired Engineering at Harvard University(哈佛大学威斯生物启发工程研究所)

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.LG

AI总结 研究表明可学习新奇性产生智能不同投影,基于廉价可微储层计算机给出闭式估计器。此估计器无监督可恢复复杂度分类,作目标能推动神经细胞自动机发展,作奖励可提升强化学习智能体表现,让智能相关研究有了共同定量基础。

Comments 24 pages, 10 figures, 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.17641 2026-07-21 cs.AI cs.SE 新提交 62%

Verify, Repair, Repeat, or Stop? Robust Stopping for Noisy Verify-Repair Loops in LLM Agents

验证、修复、重复还是停止?大语言模型代理中用于有噪声验证-修复循环的稳健停止方法

Yitao Wu, Si Shen, Rui Yang, Hong Peng, Bin Hu

专题命中 工具调用 :tool use(abstract);分类 cs.AI、cs.SE

AI总结 研究大语言模型代理中验证-修复循环有噪声时缺乏停止原则的问题,提出VRR-Stop框架,通过四参数噪声模型和信念过滤估计有效性,依真实边际增益符号决策,配对VRR-Guard,提升了停止可靠性与真实有效性。

Comments 18 pages, 10 figures, 10 tables. Under review

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.02240 2026-07-20 cs.CR cs.AI cs.CL cs.ET 版本更新 62%

AgentRedBench: Dynamic Redteaming and Integration-Aware Defense for LLM Agents over SaaS Integrations

AgentRedBench: 针对SaaS集成的LLM代理的动态红队测试与集成感知防御

Hiskias Dingeto, William Leeney

机构 * StackOne Technologies(StackOne技术公司)

专题命中 工具调用 :tool-use(abstract);分类 cs.AI、cs.CL

AI总结 针对LLM代理在工具使用中面临的间接提示注入威胁,提出动态红队基准AGENTREDBENCH(覆盖24个企业集成、5种攻击类型)和基于集成多样语料训练的防御模型AGENTREDGUARD,将攻击成功率从69.9%降至2.4%,误报率仅0.37%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.14285 2026-07-17 cs.SE cs.AI 新提交 62%

ToolAlignBench: Investigating Alignment Conflicts in Tool-Calling Enabled LLMs

ToolAlignBench:研究启用工具调用的大语言模型中的对齐冲突

Aryan Keluskar, Amrita Bhattacharjee, Huan Liu

机构 * School of Computing \& AI, Arizona State University, Tempe, AZ, USA

专题命中 工具调用 :agent(abstract);分类 cs.AI、cs.SE

AI总结 研究受监管行业中工具调用大语言模型智能体的安全对齐冲突,构建含128个场景的基准测试,发现安全对齐开源模型有时会违背部署指令,擦除可降低举报率,揭示多元对齐矛盾,发布基准测试框架。

Comments Accepted to the Pluralistic Alignment Workshop at ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏