CARE: Coherent Actionable Recourse based on Sound Counterfactual Explanations
University of Oslo(奥斯陆大学)
反事实解释方法以“假设情景”的形式解释机器学习模型的输出,而不损害真实性-可解释性权衡。他们解释了如何通过建议对输入特征进行小的更改来从模型中获得所需的预测,也就是资源。我们认为,应根据源于地面实况数据分布并与领域知识相关联的合理反事实解释,创建可诉追索权。此外,它需要保持变化/不变的功能之间的一致性,同时满足用户/域指定的约束。本文介绍了关怀,一个模块化的解释框架,解决了模型和用户级的desiderata连续和结构化的方式。我们通过提出在多目标优化框架中制定的新颖有效的解决方案来解决现有的要求。所设计的框架,使包括任意的要求,并产生反事实的解释和可采取行动的追索权的选择。作为一种与模型无关的方法,CARE为表格分类和回归设置中的任何黑盒模型生成多种多样的解释。在标准数据集和黑盒模型上的几个实验证明了我们的模块化框架的有效性及其与基线相比的优越性能。
2021-08-18 cs.AI cs.LG
Counterfactual-based Agent Influence Ranker for Agentic AI Workflows
Fujitsu Research of Europe, UK(富士通欧洲研究中心)
针对现有方法无法评估智能体AI工作流中各智能体对最终输出影响力的问题,提出首个基于反事实的智能体影响力排序器CAIR,支持离线和推理时的任务无关分析,在自建数据集上表现优于基线方法。
2025-10-29 cs.AI cs.MA
Localizing Emergent Failures in Agentic AI: Recovering Minimal Repair Families via Counterfactual Replay
Northeastern University(东北大学);Aalborg University(奥尔堡大学);Zhejiang University(浙江大学)
本研究针对智能体AI中LLM智能体交互引发的涌现故障,提出GCJR方法恢复最小修复族,在基准和试点案例中实现1.000族精确匹配,显著减少回放或模型调用次数。
2026-09-09 cs.AI cs.MA
Algorithmic Recourse: from Counterfactual Explanations to Interventions
MPI-IS(马克斯·普朗克智能系统研究所);ETH Zürich(苏黎世联邦理工学院);Saarland University(萨尔兰大学)
随着机器学习越来越多地用于为后续决策提供信息(例如,审前保释和贷款批准),就必须解释该制度是如何作出决定的,并建议采取行动以作出有利的决定。反事实的解释-“为了实现理想的结果,世界必须(必须)如何不同”-旨在满足这些标准。现有的作品主要集中在设计算法,以获得反事实的解释范围广泛的设置。然而,“解释作为帮助数据主体采取行动而不仅仅是理解的手段”的主要目标之一被忽视了。用外行人的话来说,反事实解释告诉一个人他们需要去哪里,但不是如何去那里。在这项工作中,我们依赖于因果推理,以告诫不要使用反事实的解释作为一个合理的一套追索行动。相反,我们提出了一个范式的转变,从追索权通过最接近的反事实的解释,追索权通过最小的干预,将重点从解释的建议。最后,我们为读者提供了一个广泛的讨论,如何切实实现追索权超越结构性干预。
2020-10-08 cs.AI cs.LG stat.ML
CARLA: A Python Library to Benchmark Algorithmic Recourse and Counterfactual Explanation Algorithms
University of Tübingen(图宾根大学);CarePay International(CarePay国际公司)
反事实解释通过建议可操作的特征改变(例如,增加收入),使个人在未来取得有利的结果(例如,保险审批)。选择合适的方法是有意义的反事实解释的一个关键方面。正如最近的综述中所记载的那样,有一个快速增长的文献与可用的方法。然而,在缺乏广泛可用的开源实现的情况下,支持某些模型的决定主要是基于什么是现成的。展望未来-为了保证解释方法之间有意义的比较-我们提出了CARLA(反事实和追索权库),这是一个Python库,用于在不同的数据集和不同的机器学习模型上对反事实解释方法进行基准测试。总之,我们的工作提供了以下贡献:(i)11种流行的反事实解释方法的广泛基准,(ii)未来反事实解释方法研究的基准框架,以及(iii)一套标准化的综合评估措施和数据集,用于这些方法的透明和广泛的比较。我们在Github上开源了CARLA和我们的实验结果,使它们可以作为竞争基线。我们欢迎其他研究团体和从业人员的贡献。
2021-08-02 cs.AI cs.LG
Algorithmic Recourse in Partially and Fully Confounded Settings Through Bounding Counterfactual Effects
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);University of Tübingen(蒂宾根大学);University College London(伦敦大学学院)
民事追索权旨在向个人提供可采取行动的建议,以便从自动决策系统中获得更有利的结果。由于它涉及对物质世界中进行的干预进行推理,追索权从根本上说是一个因果问题。现有的方法计算追索行动的影响,使用因果模型从数据中学习的假设下,没有隐藏的混杂和建模假设,如加性噪声。基于Balke和Pearl(1994)的开创性工作,我们提出了一种离散随机变量的替代方法,该方法放松了这些假设,并允许未观察到的混杂和任意结构方程。所提出的方法只需要规范的因果图和混淆结构和边界的预期反事实效果的追索行动。如果下限高于某个阈值,即,在决策边界的另一侧,追索权在预期中得到保证。
2021-06-22 cs.AI cs.LG stat.ML
Target-confidence Recourse Using tSeTlin machines: TRUST
Group Research and Development Det Norske Veritas (DNV)(挪威船级社(DNV)集团研发部)
提出TRUST框架,通过概率Tsetlin机器和贝叶斯优化直接搜索满足用户指定置信度目标的最小输入变化,生成更稳健和可解释的反事实解释。
2026-06-18 cs.AI cs.LG
Endogenous Macrodynamics in Algorithmic Recourse
Delft University of Technology(代尔夫特理工大学)
本文提出统一的算法追索框架,揭示群体层面追索实施引发的内生域漂移与模型漂移,并通过仿真验证其影响及缓解策略。
2023-08-16 cs.AI cs.LG
When Bits Break Recourse: Counterfactual-Faithful Quantization
Mohammed First University(穆罕默德第一大学)
本文研究了量化过程中反事实可解释性的问题,提出反事实忠实量化方法,通过定义有效性下降和反事实可逆差距两个指标来评估量化对反事实可解释性的影响,并在多个数据集上验证了该方法在保持准确性的同时提升了反事实稳定性。
2026-08-06 cs.AI cs.CV cs.LG
How do features act in an individual prediction? Separating standalone and interaction effects with a case-based taxonomy
Dankook University(檀国大学)
该研究提出A-CBFI框架,结合结构分解与因果反事实追索,在金融、医疗领域可降低76.9%主动干预负担,保持因果有效性与追索成本,实现针对性可操作的反事实追索。
2026-11-19 cs.AI cs.LG
Decomposing Counterfactual Explanations for Consequential Decision Making
University of Tübingen(图宾根大学);University of Amsterdam(阿姆斯特丹大学)
算法追索的目标是扭转不利的决定(例如,从贷款拒绝到批准)通过建议可操作的特征改变(例如,减少信用卡的数量)。为了生成低成本的追索权,大多数方法都是在假设特征是可独立操作的(IMF)的情况下工作的。为了解决特征依赖性问题,通常通过因果追索范式来研究追索问题。然而,众所周知,强假设,编码在因果模型和结构方程,阻碍了这些方法的适用性在复杂的领域,因果依赖结构是模糊的。在这项工作中,我们开发了\texttt{DEAR}(解开因果关系追索权),一个新颖而实用的追索框架,弥补了国际货币基金组织和强因果假设之间的差距。\texttt{DEAR}通过从有希望的追索权特征的子集中分离出共变特征的潜在表示来生成追索权,以捕获主要的实际追索权需求。我们对真实世界数据的实验证实了我们的理论动机的追索权模型,并强调了我们的框架的能力,提供可靠的,低成本的追索权存在的功能依赖。
2022-11-03 cs.AI cs.CY cs.LG
AgentBoundary: Counterfactual Evaluation of Safety in Tool-Using LLM Agents
Peking University(北京大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院)
针对工具使用型LLM智能体安全评估中过度拒绝与任务失败混淆的问题,提出四路反事实框架AgentBound,通过区分表面风险与行动许可性,诊断过度拒绝和不安全合规,并训练校准模块提升授权任务完成率。
2026-09-29 cs.AI
COMRECGC: Global Graph Counterfactual Explainer through Common Recourse
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文形式化GNN全局反事实解释中的共同追索问题,提出COMRECGC算法,并在四个真实图数据集上验证其优于强基线。
2025-05-13 cs.LG stat.ML
Counterfactual Shapley Additive Explanations
J.P. Morgan AI Research(摩根大通人工智能研究院)
特征属性是模型解释的常见范例,因为它们简单地为模型的每个输入特征分配单个数值分数。在可操作的追索设置中,解释的目标是改善模型消费者的结果,通常不清楚如何正确使用特征属性。通过这项工作,我们的目标是加强和澄清可诉追索权和特征属性之间的联系。具体地说,我们提出了SHAP的一个变体,反事实SHAP(CF-SHAP),它结合了反事实信息来产生一个背景数据集,用于在边缘(也称为Shapley值框架。我们激励需要在可操作的追索权设置仔细考虑背景数据集时,使用Shapley值的特征属性与众多的合成的例子。此外,我们证明了CF-SHAP的有效性,提出并证明了一个定量分数的特征属性,反事实能力,表明通过这种度量,CF-SHAP是优于现有的方法时,公共数据集使用树集成进行评估。
2022-05-16 cs.AI cs.LG
Play Like Champions: Counterfactual Feedback Generation in Latent Space
Warsaw University of Technology(华沙理工大学);Silesian University of Technology(西里西亚理工大学);University of British Columbia(不列颠哥伦比亚大学)
提出Latent Maps of Performance框架,通过引导变分自编码器在星际争霸II职业比赛数据中学习潜在空间,生成反事实路径以提供多粒度反馈,帮助业余玩家提升至获胜配置。
2026-07-02 cs.AI cs.LG
KTCF: Actionable Recourse in Knowledge Tracing via Counterfactual Explanations for Education
KTCF通过反事实解释为教育中的知识追踪提供可操作的救济,提升教育AI的实用性和责任性。
2026-01-14 cs.AI cs.CY cs.LG
Longitudinal Counterfactuals: Constraints and Opportunities
University of California, Berkeley(加利福尼亚大学伯克利分校);University of Pennsylvania(宾夕法尼亚大学)
针对反事实解释可能不可实现、合理性难以量化的问题,本文提出利用纵向数据构建比较纵向变化与反事实差异的指标,并据此生成更合理的算法救济反事实。
2024-02-29 cs.CY cs.LG
Counterfactual Explanations via Locally-guided Sequential Algorithmic Recourse
Royal Melbourne Institute of Technology(皇家墨尔本理工大学);University of Bristol(布里斯托大学);University of New South Wales(新南威尔士大学)
提出模型无关的 LocalFACE 技术,通过局部信息构建可行且可操作的反事实解释,在保护隐私与模型安全的同时解决现有方法在可行性与鲁棒性上的不足。
2023-09-08 cs.CY cs.LG
Algorithmic Recourse in Abnormal Multivariate Time Series
Utah State University(犹他州立大学);University of Arkansas(阿肯色大学);Clemson University(克莱姆森大学)
本文提出RecAD框架,通过回溯反事实推理为多元时间序列异常提供算法补救,端到端训练补救函数,实验验证其有效性。
2025-08-01 cs.LG
Counterfactual Explanations Can Be Manipulated
UC Irvine(加州大学欧文分校);Harvard University(哈佛大学)
反事实解释正在成为一个有吸引力的选择,为受到算法决策不利影响的个人提供追索权。由于它们被部署在关键应用程序中(例如执法,金融贷款),因此确保我们清楚地了解这些方法的脆弱性并找到解决这些问题的方法变得非常重要。然而,人们对反事实解释的脆弱性和缺点了解甚少。在这项工作中,我们介绍了第一个框架,描述了反事实解释的漏洞,并显示了它们可以被操纵。更具体地说,我们表明反事实的解释可能会收敛到显着不同的反事实下,一个小的扰动表明他们是不稳健的。利用这一洞察力,我们引入了一个新的目标,训练看似公平的模型,其中反事实的解释发现成本低得多的资源下轻微的扰动。我们描述了这些模型如何不公平地为数据中的特定子组提供低成本的追索权,同时对审计师来说是公平的。我们对贷款和暴力犯罪预测数据集进行了实验,其中某些子组在扰动下实现了高达20倍的低成本追索权。这些结果引起了人们对当前反事实解释技术的可靠性的关注,我们希望这将激发强有力的反事实解释的调查。
2021-11-03 cs.LG
Local and Regional Counterfactual Rules: Summarized and Robust Recourses
University Paris Saclay(巴黎萨克雷大学);Stellantis(斯泰兰蒂斯集团);Quantmetry(坤比测科技);ENSIIE(法国国立信息与图书馆技术学院)
提出基于随机森林的概率框架,生成稀疏局部与区域反事实规则,提供稳健且高概率的决策改变补救措施,并验证其有效性。
2024-03-18 cs.LG stat.ML
Towards Non-Adversarial Algorithmic Recourse
University of Tübingen(蒂宾根大学);Technical University of Munich(慕尼黑工业大学);Harvard University(哈佛大学)
本研究引入非对抗性算法救济概念,通过分析目标函数组件和模型选择,证明设计选择比算法本身更决定救济的非对抗性,并推荐鲁棒模型以减少对抗性。
2024-03-15 cs.LG
Counterfactual Explanations and Algorithmic Recourses for Machine Learning: A Review
University of Washington(华盛顿大学);Arthur AI(亚瑟人工智能公司)
机器学习在许多已部署的决策系统中发挥作用,通常以人类利益相关者难以或不可能理解的方式发挥作用。以人类可理解的方式解释机器学习模型的输入和输出之间的关系对于开发基于可信机器学习的系统至关重要。一个新兴的研究主体试图定义机器学习中可解释性的目标和方法。在本文中,我们试图对反事实解释的研究进行回顾和分类,反事实解释是一种特定的解释,它提供了一种联系,如果模型的输入以特定的方式改变,可能会发生什么。机器学习中的反事实可解释性的现代方法与许多国家的既定法律原则相联系,使它们对金融和医疗保健等高影响领域的现场系统具有吸引力。因此,我们设计了一个具有理想特性的反事实解释算法的量规,并对该量规全面评估了目前提出的所有算法。我们的标题提供了不同方法的优点和缺点的简单比较和理解,并作为该领域主要研究主题的介绍。我们还确定了差距,并讨论了有前途的研究方向,在空间的反事实的可解释性。
2022-11-15 cs.AI cs.LG stat.ML
Synthesizing explainable counterfactual policies for algorithmic recourse with program synthesis
Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Trento(特伦托大学)
能够提供反事实干预-我们必须采取的一系列行动才能产生理想的结果-对于解释如何通过黑箱机器学习模型改变不利的决定至关重要(例如,申请贷款被拒)。现有的解决办法主要侧重于制定可行的干预措施,而不解释其理由。此外,他们需要为每个用户解决单独的优化问题。在本文中,我们采取了不同的方法,学习一个程序,输出一系列可解释的反事实行为,给出用户描述和因果关系图。我们利用程序合成技术、强化学习结合蒙特卡罗树搜索进行有效探索,并利用规则学习为每个推荐操作提取解释。对合成和真实世界数据集的实验评估显示,我们的方法如何通过对黑盒分类器进行数量级更少的查询来生成有效的干预措施,并通过可解释的解释来补充它们。
2022-10-12 cs.LG
Global Counterfactual Explanations: Investigations, Implementations and Improvements
J.P. Morgan AI Research(摩根大通人工智能研究院)
反事实解释在可解释性方面得到了广泛的研究,在公平性、追索权和模型理解方面出现了一系列依赖于应用的方法。然而,与这些方法相关的主要缺点是它们无法提供超出局部或实例级别的解释。虽然有些作品触及了全局解释的概念,通常建议聚合大量的局部解释,希望确定全局属性,但很少有人提供可靠或计算上易于处理的框架。与此同时,从业者要求更有效和互动的解释工具。我们借此机会调查现有的全球方法,重点是实施和改进可诉追索摘要(AReS),这是唯一已知的全球追索反事实解释框架。
2022-04-14 cs.AI cs.CY cs.LG
CounteRGAN: Generating Realistic Counterfactuals with Residual Generative Adversarial Nets
Amazon(亚马逊);Hired;Facebook(脸书)
机器学习模型在各个行业中的流行已经导致对模型可解释性以及对向用户提供有意义的求助的能力的需求不断增长。例如,希望改善诊断的患者或寻求增加批准机会的贷款申请人。在这方面,反事实可以通过识别输入扰动来提供帮助,这些扰动将导致更理想的预测结果。有意义的反事实应该能够实现预期的结果,但也是现实的,可操作的,有效的计算。目前的方法实现了预期的结果,具有适度的可操作性,但在现实性和延迟方面受到严重限制。为了解决这些限制,我们将生成对抗网络(GANs)应用于反事实搜索。我们还介绍了一种新的残差GAN(RGAN),与常规GANs相比,它有助于提高反事实现实主义和可操作性。所提出的CounteRGAN方法利用RGAN和目标分类器来产生能够提供有意义的追索权的反事实。对两个流行数据集的评估突出了CounteRGAN如何能够克服现有方法的局限性,包括延迟改善> 50倍至> 90,000倍,使有意义的追索权实时可用并适用于广泛的领域。
2021-05-27 cs.AI cs.LG stat.ML
Perfect Counterfactuals in Imperfect Worlds: Modelling Noisy Implementation of Actions in Sequential Algorithmic Recourse
ARC Centre of Excellence for Automated Decision-Making and Society(自动化决策与社会卓越中心);School of Computing Technologies, RMIT University(计算技术学院,拉筹纳斯大学);Department of Computer Science, ETH Zurich(计算机科学系,苏黎世联邦理工学院)
针对序列算法追索中多步骤累积噪声导致实施不完美的问题,提出基于马尔可夫决策过程的ROSE追索生成器,在保证稀疏性和计算效率的同时有效平衡鲁棒性与成本。
2025-08-15 cs.LG
ElliCE: Efficient and Provably Robust Algorithmic Recourse via the Rashomon Sets
Princeton University(普林斯顿大学);Ukrainian Catholic University(乌克兰天主教大学);Rutgers University(罗格斯大学);Taras Shevchenko National University of Kyiv(塔拉斯·谢甫琴科基斯林国立大学);Microsoft Research NYC(微软研究院纽约)
ElliCE通过椭球近似Rashomon集,提供高效且可证明稳健的算法补救方法,提升反事实解释的鲁棒性和灵活性。
2026-02-07 cs.LG
Actionable Recourse via GANs for Mobile Health
UC San Diego(加州大学圣地亚哥分校);Maternity Foundation(产妇基金会)
移动健康应用程序提供了一种独特的数据收集手段,可用于提供适应性干预措施。预测结果在很大程度上影响了此类干预措施的选择。通过反事实的追索权提供了修改用户预测的有形机制。通过确定增加预期预测可能性的合理行动,利益相关者可以对他们的预测进行代理。此外,追索机制使反事实推理,可以帮助提供洞察候选人的因果干预功能。我们证明了GAN生成的移动健康应用程序的可行性,基于整体生存分析预测安全交付应用程序的中期参与,这是一种熟练助产士的数字培训工具。
2022-11-12 cs.LG
Neuro-Agentic Control: A Deep Learning-based LLM-Powered Agentic AI Framework for Controlling Security Controls
Texas Tech University(德克萨斯理工大学);Cumberland University(坎伯兰大学);Advanced Academic Programs Science(高级学术项目科学部);Johns Hopkins University(约翰·霍普金斯大学)
针对运营技术网络攻击问题,提出神经代理控制框架,结合基于LLM的规划器与预训练的TimesFM,并引入“反事实物理注入”机制,在工业数据集评估中表现优于基线,能有效保障关键基础设施中代理人工智能。
2026-07-13 cs.AI
The Case for Negative Data: From Crash Reports to Counterfactuals for Reasonable Driving
Field AI;NVIDIA;Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学)
本文提出利用事故报告构建统一场景-动作索引,通过先例检索与反事实推理提升自动驾驶系统在安全边界附近的决策校准能力,在nuScenes上将偏好动作召回率从24%提升至53%。
2025-09-23 cs.AI cs.RO
Algorithmic recourse under imperfect causal knowledge: a probabilistic approach
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Max Planck ETH Center for Learning Systems(马克斯·普朗克-ETH学习系统中心);University of Cambridge(剑桥大学);Saarland University(萨尔兰大学)
最近的工作讨论了反事实解释的局限性,以推荐算法追索权的行动,并认为需要考虑特征之间的因果关系。不幸的是,在实践中,真正的基础结构因果模型通常是未知的。在这项工作中,我们首先表明,这是不可能的,以保证追索权,而不进入真正的结构方程。为了解决这一限制,我们提出了两种概率方法来选择最佳行动,在有限的因果知识(例如,只有因果图)。第一个捕获加性高斯噪声下的结构方程的不确定性,并使用贝叶斯模型平均来估计反事实分布。第二个删除任何假设的结构方程,而不是计算的平均影响追索行动的个人类似的人寻求追索权,导致一种新的基于亚群的干预概念的追索权。然后,我们推导出一个基于梯度的程序,选择最佳的追索行动,并实证表明,所提出的方法导致更可靠的建议下不完善的因果知识比非概率基线。
2020-10-23 cs.AI cs.LG stat.ML
The Effect of Data Poisoning on Counterfactual Explanations
Bielefeld University(比勒菲尔德大学);University of Cyprus(塞浦路斯大学);J.P. Morgan AI Research(摩根大通AI研究);Inria, Sophia Antipolis(法国国家信息与自动化研究所,索菲亚安蒂波利斯)
本文形式化反事实解释中的数据投毒问题,提出通用投毒机制,并在配水管网事件检测及多种先进方法上验证其可提高追索成本且现有防御难以检测。
2025-07-28 cs.AI cs.LG
Building Trustworthy Graph-Agentic RAG for Social Good: Architectures, Failure Propagation, and Assurance by Construction
IIITDM Kancheepuram(印度信息技术与设计制造学院坎奇普拉姆校区)
本文针对社会公益场景,提出图智能体RAG的故障链分析及含五接口契约的构造即保证框架,并给出评估议程。
2026-09-09 cs.AI cs.CL
Global Counterfactual Explainer for Graph Neural Networks
University of California(加利福尼亚大学);University of Illinois(伊利诺伊大学);Indian Institute of Technology(印度理工学院)
图神经网络(GNN)在诸如计算生物学、自然语言处理和计算机安全的各种领域中找到应用。由于它们的流行,越来越需要解释GNN预测,因为GNN是黑箱机器学习模型。解决这个问题的一种方法是反事实推理,其目标是通过输入图中的最小变化来改变GNN预测。现有的GNN反事实解释方法仅限于实例特定的局部推理。这种方法有两个主要的局限性,不能提供全球追索权政策和超载人类认知能力与太多的信息。在这项工作中,我们通过全局反事实推理来研究GNNs的全局可解释性。具体来说,我们想找到一小部分有代表性的反事实图来解释所有输入图。为了实现这一目标,我们提出了GCFExplainer,这是一种新的算法,由顶点增强的随机游走在具有贪婪摘要的图的编辑地图上提供动力。在真实图数据集上进行的大量实验表明,GCFExplainer的全局解释提供了对模型行为的重要高层见解,与最先进的本地反事实解释器相比,资源覆盖率提高了46.9%,资源成本降低了9.5%。
2022-11-11 cs.LG
DecisionBench: A Benchmark for Emergent Delegation in Long-Horizon Agentic Workflows
OpenMesh AI;University of Pennsylvania(宾夕法尼亚大学);Columbia University(哥伦比亚大学);Stanford University(斯坦福大学);MIT(麻省理工学院)
本文提出DecisionBench基准测试,用于评估长周期代理工作流中涌现的委托机制,通过五个条件参考扫描发现委托质量、路由保真度和潜在性能上限等核心发现。
2026-05-18 cs.AI cs.CL cs.MA
When Failures Propagate: Causal Failure Attribution in Agentic Retrieval-Augmented Generation
Anote(阿诺特)
本文提出AgenticRAG-FP基准,针对智能体RAG的因果故障归因开展实验,发现基于覆盖率的诊断在第1轮表现较好,第2、3轮较差,明确将传播深度作为相关评估维度。
2026-11-13 cs.AI cs.CL
Zephyrus: An Agentic Framework for Weather Science
UC San Diego(加州大学圣地亚哥分校)
本文提出Zephyrus框架,结合大语言模型与天气数据交互,解决传统模型缺乏语言推理的问题,通过新基准测试展示其在天气任务中的优越性能。
2026-03-16 cs.AI cs.LG physics.ao-ph
No Judgment Without a Reason: Counterfactual Receipts for Versioned AI Evaluators
Alibaba Group(阿里巴巴集团);Cheung Kong Graduate School of Business(长江商学院)
该研究针对AI评估器的推理问责问题,提出反事实收据方法与ReasonBench基准,发现模型标准准确率掩盖鲁棒性缺陷,需解耦预测与认证以实现可信审计。
2026-08-24 cs.AI
Vision: Data-Centric Anchoring for Robust and Interpretable Agentic AI
School of Computing and Augmented Intelligence, Arizona State University(亚利桑那州立大学计算与增强智能学院)
针对智能体AI在分布偏移下失效且不可解释的问题,提出数据中心锚定框架,通过策展、增强、约束、归因四阶段循环,将鲁棒性与可解释性设计进数据环境,实现自我纠正。
2026-09-09 cs.AI cs.ET cs.LG
CASI: Credit Assignment via Set Intervention for Agentic Retrieval
Xiaohongshu Inc.(小红书)
该研究针对智能体检索的信用分配问题,提出CASI方法,通过集合干预与Shapley聚合分配信用,经实验验证其在策略优化及生产场景中可提升广告商价值指标。
2026-10-14 cs.AI cs.IR cs.LG
Learning to Compose for Cross-domain Agentic Workflow Generation
Hong Kong University of Science and Technology(香港理工大学);Hong Kong University of Science and Technology (Guangzhou)(香港理工大学(广州));Southeast University(东南大学);University of Tsukuba(茨口大学)
本文提出了一种基于分解-重组-决策机制的跨领域代理工作流生成方法,通过学习可重用能力实现单次生成,提升效率并减少迭代成本。
2026-02-11 cs.AI cs.LG cs.MA
FLEX: Feature Importance from Layered Counterfactual Explanations
University of Bristol(布里斯托大学)
针对现有反事实解释仅适配单实例、无法支撑多尺度特征重要性量化的问题,提出模型无关的FLEX框架,可生成本地、区域、全局三级特征重要性排名,兼顾适配性与解释全面性。
2025-11-14 cs.AI cs.LG
Autoreflection: How Agentic Strange Loops Turn Human Culture into AI Infrastructure
Southern Illinois University Carbondale(南伊利诺伊大学卡本代尔分校)
本文提出自反概念,以LLM智能体为研究对象,通过Moltbook平台案例验证其行为标准,发现智能体将人类文化转化为自身AI基础设施。
2026-08-05 cs.AI cs.CY cs.SI
LongDS-Bench: On the Failure of Long-Horizon Agentic Data Analysis
Zhejiang University(浙江大学);Ant Group(蚂蚁集团);Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph(知识图谱联合实验室)
提出LongDS基准,用于评估长周期多轮数据分析中智能体维护和更新分析状态的能力,发现最佳模型平均准确率仅48.45%,且长周期错误占失败原因的52%-69%。
2026-09-09 cs.AI cs.CL cs.LG
When Agents Act Unwatched: The Reduced-Supervision Paradox in Agentic AI
Lehigh University(理海大学)
本研究揭示智能体AI中监督减少导致责任倒置的悖论,通过63个工件审计发现行动可观测性远超问责机制,并提出行动路径诊断以强化问责基础设施。
2026-09-25 cs.AI cs.CY
Explaining Black-Box Algorithms Using Probabilistic Contrastive Counterfactuals
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of California, San Diego(加州大学圣迭戈分校)
最近,人们对可解释人工智能(XAI)的兴趣重新抬头,XAI旨在减少基于AI的决策系统的不透明性,使人类能够仔细检查并信任它们。在这种情况下,以前的工作集中在算法的决策,其输入的责任,其中的责任通常是作为一个纯粹的联想概念接近的属性。在本文中,我们提出了一个原则性的基于能力的方法来解释黑盒决策系统,解决现有的方法在XAI的局限性。我们框架的核心是概率对比反事实,这个概念可以追溯到人类如何产生和选择解释的理论的哲学,认知和社会基础。我们展示了这样的反事实可以量化的直接和间接的影响,一个变量的算法所作出的决定,并提供可操作的追索权的算法的决定产生负面影响的个人。与以前的工作不同,我们的系统,LEWIS:(1)可以计算可证明有效的解释和追索权在本地,全球和上下文水平(2)的设计与用户的基础因果模型的不同水平的背景知识和(3)除了其输入-输出数据的可用性算法系统的内部不作任何假设。我们在三个真实世界的数据集上对LEWIS进行了经验评估,并表明它生成了人类可以理解的解释,这些解释改进了XAI中最先进的方法,包括流行的LIME和SHAP。在合成数据上的实验进一步证明了LEWIS解释的正确性和补偿算法的可扩展性。
2021-06-23 cs.AI cs.DB cs.LG
General Agentic Planning Through Simulative Reasoning with World Models
Institute of Foundation Models (IFM)(基础模型研究所);Carnegie Mellon University(卡内基梅隆大学);UC San Diego(南加州大学)
本文提出通过模拟推理实现通用代理规划,利用世界模型进行未来状态预测,提升决策能力,通过SiRA架构在不同任务中取得更高任务完成率。
2026-05-21 cs.AI cs.CL cs.LG
Recourse under Model Multiplicity via Argumentative Ensembling (Technical Report)
Imperial College London(伦敦帝国理工学院)
本文针对模型多重性导致反事实解释不一致的问题,提出名为“论证集成”的方法,利用计算论证保证反事实解释的鲁棒性并满足用户偏好,在准确率上权衡极小。
2024-01-03 cs.AI cs.LG
Counterfactual Evaluation Reveals Hidden Capability Profiles in Clinical LLMs and Agents
Protege Data Lab(Protege数据实验室)
提出因果敏感性评分(CSS),通过沿五个临床维度变异肿瘤病例来评估模型是否按预期方向更新推荐,发现与覆盖度指标排名相反,并揭示所有前沿模型在手术状态干预上的安全盲点。
2026-05-28 cs.AI cs.CL cs.LG
Getting Space Right: Agentic Rewards for Image Generation
Southeast University(东南大学);Tencent HY(腾讯HY);UC Merced(加州大学默塞德分校);Tsinghua University(清华大学)
针对空间文本到图像生成中RL方法的域内增益、域外退化问题,提出含SpatialCritic与课程学习的框架,在SpaRW-Eval上以小模型实现超越大模型的验证准确率,提升了两类基准的图像生成性能
2026-10-14 cs.AI cs.CV
PersonalHomeBench: Evaluating Agents in Personalized Smart Homes
LG Toronto AI Lab(LG多伦多人工智能实验室)
本文提出PersonalHomeBench,用于评估代理在个性化智能家庭中的表现,通过迭代构建家庭状态生成任务,结合工具箱支持真实交互,揭示任务复杂度增加时代理能力下降的问题。
2026-05-13 cs.AI cs.CL cs.DB
Evidence-Grounded Verified Agentic Reasoning: A Path Toward Eliminating LLM Hallucination in Empirical Inference via Tool-Attested Kernel Proofs
研究旨在消除语言模型经验推理中的幻觉,提出基于Lean 4的EG-VAR工具调用架构,通过工具验证公理等生成可验证声明,经实验在数值推理等测试中表现良好,定位为高风险经验声明的技术治理接口,可审计相关条件并转化错误为审计目标。
2026-07-15 cs.AI cs.CY cs.LG
Two Black Boxes, One Solver: Encoder Probing and Decoder Attribution for Neural Multi-Attribute VRP under Hard-Mask and Recourse Decoders
Univ. Artois, UR 3926, Laboratoire de Génie Informatique et d’Automatique de l’Artois (LGI2A)(阿图瓦大学,UR 3926,阿图瓦信息工程与自动化实验室(LGI2A))
研究神经自回归求解器解决多属性车辆路径规划问题,通过线性探测等方法打开编码器黑箱,用三种归因方法打开解码器黑箱,从多方面对解释进行评分,发现多种影响及特性。
2026-07-07 cs.AI cs.LG math.OC