Learning Decision Trees and Forests with Algorithmic Recourse
Fujitsu Limited（富士通株式会社）；Tokyo Institute of Technology（东京工业大学）；Kyushu University（九州大学）
本文提出一种基于对抗训练的高效自顶向下贪婪算法，在确保追索行动存在的前提下学习准确的决策树与随机森林，在不显著降低准确性和计算效率的同时为更多实例提供合理行动。
2024-06-03 cs.LG stat.ML
Amortized Generation of Sequential Algorithmic Recourses for Black-box Models
Arthur AI；University of Washington（华盛顿大学）；University of Maryland（马里兰大学）
可解释的机器学习（ML）近年来由于许多领域越来越多地采用基于ML的系统而获得了吸引力。数学资源（AR）提供“如果”形式的反馈“如果输入数据点是x'而不是x，那么基于ML的系统的输出将是y'而不是y。AR之所以具有吸引力，是因为它们具有可操作的反馈、对现有法律框架的顺从性以及对底层ML模型的忠实性。然而，目前的AR方法是Single Shot -也就是说，它们假设x可以在单个时间段内改变为x'。我们提出了一种新的随机控制为基础的方法，产生顺序AR，即AR，允许x随机移动，并顺序地跨越中间状态到最终状态x '。我们的方法是模型不可知论和黑盒。此外，AR的计算是分期的，因此一旦训练好，它就可以应用于多个数据点，而不需要重新优化。除了这些主要特征，我们的方法承认可选的desiderata，如坚持数据流形，尊重因果关系，和稀疏性-由过去的研究确定为可取的属性AR。我们使用三个真实世界的数据集来评估我们的方法，并成功地生成了尊重其他资源的序列AR。
2021-12-17 cs.AI cs.LG
Learning Models for Actionable Recourse
Harvard University（哈佛大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Pennsylvania（宾夕法尼亚大学）
随着机器学习模型越来越多地部署在法律和金融决策等高风险领域，人们对用于生成反事实解释的事后方法越来越感兴趣。这些解释为受到预测结果不利影响的个人提供了帮助（例如，申请人拒绝贷款）有追索权--即，描述他们如何改变自己的特征以获得积极的结果。我们提出了一种新的算法，该算法利用对抗训练和PAC置信集来学习模型，理论上保证在不牺牲准确性的情况下以高概率求助于受影响的个体。我们证明了我们的方法的有效性，通过大量的实验真实数据。
2022-03-19 cs.AI cs.LG
Adaptive Adversarial Training Does Not Increase Recourse Costs
University of California, Santa Cruz（加州大学圣克鲁兹分校）
本研究探讨自适应对抗训练对算法追索成本的影响，发现其鲁棒性提升几乎不增加追索成本，为追索关键领域提供了经济可行的鲁棒性方案。
2023-09-05 cs.CR cs.LG
Algorithmic Recourse: from Counterfactual Explanations to Interventions
MPI-IS（马克斯·普朗克智能系统研究所）；ETH Zürich（苏黎世联邦理工学院）；Saarland University（萨尔兰大学）
随着机器学习越来越多地用于为后续决策提供信息（例如，审前保释和贷款批准），就必须解释该制度是如何作出决定的，并建议采取行动以作出有利的决定。反事实的解释-“为了实现理想的结果，世界必须（必须）如何不同”-旨在满足这些标准。现有的作品主要集中在设计算法，以获得反事实的解释范围广泛的设置。然而，“解释作为帮助数据主体采取行动而不仅仅是理解的手段”的主要目标之一被忽视了。用外行人的话来说，反事实解释告诉一个人他们需要去哪里，但不是如何去那里。在这项工作中，我们依赖于因果推理，以告诫不要使用反事实的解释作为一个合理的一套追索行动。相反，我们提出了一个范式的转变，从追索权通过最接近的反事实的解释，追索权通过最小的干预，将重点从解释的建议。最后，我们为读者提供了一个广泛的讨论，如何切实实现追索权超越结构性干预。
2020-10-08 cs.AI cs.LG stat.ML
Algorithmic Recourse in Partially and Fully Confounded Settings Through Bounding Counterfactual Effects
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；University of Tübingen（蒂宾根大学）；University College London（伦敦大学学院）
民事追索权旨在向个人提供可采取行动的建议，以便从自动决策系统中获得更有利的结果。由于它涉及对物质世界中进行的干预进行推理，追索权从根本上说是一个因果问题。现有的方法计算追索行动的影响，使用因果模型从数据中学习的假设下，没有隐藏的混杂和建模假设，如加性噪声。基于Balke和Pearl（1994）的开创性工作，我们提出了一种离散随机变量的替代方法，该方法放松了这些假设，并允许未观察到的混杂和任意结构方程。所提出的方法只需要规范的因果图和混淆结构和边界的预期反事实效果的追索行动。如果下限高于某个阈值，即，在决策边界的另一侧，追索权在预期中得到保证。
2021-06-22 cs.AI cs.LG stat.ML
COMRECGC: Global Graph Counterfactual Explainer through Common Recourse
University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文形式化GNN全局反事实解释中的共同追索问题，提出COMRECGC算法，并在四个真实图数据集上验证其优于强基线。
2025-05-13 cs.LG stat.ML
CARE: Coherent Actionable Recourse based on Sound Counterfactual Explanations
University of Oslo（奥斯陆大学）
反事实解释方法以“假设情景”的形式解释机器学习模型的输出，而不损害真实性-可解释性权衡。他们解释了如何通过建议对输入特征进行小的更改来从模型中获得所需的预测，也就是资源。我们认为，应根据源于地面实况数据分布并与领域知识相关联的合理反事实解释，创建可诉追索权。此外，它需要保持变化/不变的功能之间的一致性，同时满足用户/域指定的约束。本文介绍了关怀，一个模块化的解释框架，解决了模型和用户级的desiderata连续和结构化的方式。我们通过提出在多目标优化框架中制定的新颖有效的解决方案来解决现有的要求。所设计的框架，使包括任意的要求，并产生反事实的解释和可采取行动的追索权的选择。作为一种与模型无关的方法，CARE为表格分类和回归设置中的任何黑盒模型生成多种多样的解释。在标准数据集和黑盒模型上的几个实验证明了我们的模块化框架的有效性及其与基线相比的优越性能。
2021-08-18 cs.AI cs.LG
Agentic Search for Counterfactual Recourse under Fixed LLM Budgets
RIKEN Center for Advanced Intelligence Project（日本RIKEN高级智能项目中心）
提出Comp-MCTS框架，在固定LLM调用预算下，通过树搜索最大化生成唯一且经oracle验证的反事实，平衡数量与质量。
2026-09-29 cs.AI cs.LG
Local and Regional Counterfactual Rules: Summarized and Robust Recourses
University Paris Saclay（巴黎萨克雷大学）；Stellantis（斯泰兰蒂斯集团）；Quantmetry（坤比测科技）；ENSIIE（法国国立信息与图书馆技术学院）
提出基于随机森林的概率框架，生成稀疏局部与区域反事实规则，提供稳健且高概率的决策改变补救措施，并验证其有效性。
2024-03-18 cs.LG stat.ML
CARLA: A Python Library to Benchmark Algorithmic Recourse and Counterfactual Explanation Algorithms
University of Tübingen（图宾根大学）；CarePay International（CarePay国际公司）
反事实解释通过建议可操作的特征改变（例如，增加收入），使个人在未来取得有利的结果（例如，保险审批）。选择合适的方法是有意义的反事实解释的一个关键方面。正如最近的综述中所记载的那样，有一个快速增长的文献与可用的方法。然而，在缺乏广泛可用的开源实现的情况下，支持某些模型的决定主要是基于什么是现成的。展望未来-为了保证解释方法之间有意义的比较-我们提出了CARLA（反事实和追索权库），这是一个Python库，用于在不同的数据集和不同的机器学习模型上对反事实解释方法进行基准测试。总之，我们的工作提供了以下贡献：（i）11种流行的反事实解释方法的广泛基准，（ii）未来反事实解释方法研究的基准框架，以及（iii）一套标准化的综合评估措施和数据集，用于这些方法的透明和广泛的比较。我们在Github上开源了CARLA和我们的实验结果，使它们可以作为竞争基线。我们欢迎其他研究团体和从业人员的贡献。
2021-08-02 cs.AI cs.LG
RoCourseNet: Distributionally Robust Training of a Prediction Aware Recourse Model
The Pennsylvania State University（宾夕法尼亚州立大学）
针对 ML 模型更新导致反事实补救失效的问题，本文提出 RoCourseNet，通过三层优化、VDS 对抗训练和分块坐标下降联合学习预测与鲁棒补救，并在三个真实数据集上显著优于基线。
2023-08-18 cs.LG
Causal Algorithmic Recourse: Foundations and Methods
Department of Statistics & Data Science（统计与数据科学系）；UCLA（加州大学洛杉矶分校）；Department of Computer Science（计算机科学系）；Columbia University（哥伦比亚大学）
本文提出因果框架，通过预后干预结果建模算法补救过程，引入后补救稳定性条件，开发基于copula的算法推断补救效果，并提供分布自由方法学习补救效果。
2026-05-12 cs.AI cs.LG stat.ML
When Bits Break Recourse: Counterfactual-Faithful Quantization
Mohammed First University（穆罕默德第一大学）
本文研究了量化过程中反事实可解释性的问题，提出反事实忠实量化方法，通过定义有效性下降和反事实可逆差距两个指标来评估量化对反事实可解释性的影响，并在多个数据集上验证了该方法在保持准确性的同时提升了反事实稳定性。
2026-08-06 cs.AI cs.CV cs.LG
CounteRGAN: Generating Realistic Counterfactuals with Residual Generative Adversarial Nets
Amazon（亚马逊）；Hired；Facebook（脸书）
机器学习模型在各个行业中的流行已经导致对模型可解释性以及对向用户提供有意义的求助的能力的需求不断增长。例如，希望改善诊断的患者或寻求增加批准机会的贷款申请人。在这方面，反事实可以通过识别输入扰动来提供帮助，这些扰动将导致更理想的预测结果。有意义的反事实应该能够实现预期的结果，但也是现实的，可操作的，有效的计算。目前的方法实现了预期的结果，具有适度的可操作性，但在现实性和延迟方面受到严重限制。为了解决这些限制，我们将生成对抗网络（GANs）应用于反事实搜索。我们还介绍了一种新的残差GAN（RGAN），与常规GANs相比，它有助于提高反事实现实主义和可操作性。所提出的CounteRGAN方法利用RGAN和目标分类器来产生能够提供有意义的追索权的反事实。对两个流行数据集的评估突出了CounteRGAN如何能够克服现有方法的局限性，包括延迟改善> 50倍至> 90，000倍，使有意义的追索权实时可用并适用于广泛的领域。
2021-05-27 cs.AI cs.LG stat.ML
Decomposing Counterfactual Explanations for Consequential Decision Making
University of Tübingen（图宾根大学）；University of Amsterdam（阿姆斯特丹大学）
算法追索的目标是扭转不利的决定（例如，从贷款拒绝到批准）通过建议可操作的特征改变（例如，减少信用卡的数量）。为了生成低成本的追索权，大多数方法都是在假设特征是可独立操作的（IMF）的情况下工作的。为了解决特征依赖性问题，通常通过因果追索范式来研究追索问题。然而，众所周知，强假设，编码在因果模型和结构方程，阻碍了这些方法的适用性在复杂的领域，因果依赖结构是模糊的。在这项工作中，我们开发了\texttt{DEAR}（解开因果关系追索权），一个新颖而实用的追索框架，弥补了国际货币基金组织和强因果假设之间的差距。\texttt{DEAR}通过从有希望的追索权特征的子集中分离出共变特征的潜在表示来生成追索权，以捕获主要的实际追索权需求。我们对真实世界数据的实验证实了我们的理论动机的追索权模型，并强调了我们的框架的能力，提供可靠的，低成本的追索权存在的功能依赖。
2022-11-03 cs.AI cs.CY cs.LG
CONFEX: Uncertainty-Aware Counterfactual Explanations with Conformal Guarantees
Department of Informatics, King’s College London（伦敦国王学院信息学院）；Department of Computer Science, University of Manchester（曼彻斯特大学计算机科学系）
CONFEX提出一种结合保形预测与混合整数线性规划的方法，生成具有局部覆盖保证的不确定性感知反事实解释，在预测不确定性和最优性上提供严格保证，并验证其稳健性与合理性。
2025-10-23 cs.LG
Algorithmic recourse under imperfect causal knowledge: a probabilistic approach
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-ETH学习系统中心）；University of Cambridge（剑桥大学）；Saarland University（萨尔兰大学）
最近的工作讨论了反事实解释的局限性，以推荐算法追索权的行动，并认为需要考虑特征之间的因果关系。不幸的是，在实践中，真正的基础结构因果模型通常是未知的。在这项工作中，我们首先表明，这是不可能的，以保证追索权，而不进入真正的结构方程。为了解决这一限制，我们提出了两种概率方法来选择最佳行动，在有限的因果知识（例如，只有因果图）。第一个捕获加性高斯噪声下的结构方程的不确定性，并使用贝叶斯模型平均来估计反事实分布。第二个删除任何假设的结构方程，而不是计算的平均影响追索行动的个人类似的人寻求追索权，导致一种新的基于亚群的干预概念的追索权。然后，我们推导出一个基于梯度的程序，选择最佳的追索行动，并实证表明，所提出的方法导致更可靠的建议下不完善的因果知识比非概率基线。
2020-10-23 cs.AI cs.LG stat.ML
Global Counterfactual Explanations: Investigations, Implementations and Improvements
J.P. Morgan AI Research（摩根大通人工智能研究院）
反事实解释在可解释性方面得到了广泛的研究，在公平性、追索权和模型理解方面出现了一系列依赖于应用的方法。然而，与这些方法相关的主要缺点是它们无法提供超出局部或实例级别的解释。虽然有些作品触及了全局解释的概念，通常建议聚合大量的局部解释，希望确定全局属性，但很少有人提供可靠或计算上易于处理的框架。与此同时，从业者要求更有效和互动的解释工具。我们借此机会调查现有的全球方法，重点是实施和改进可诉追索摘要（AReS），这是唯一已知的全球追索反事实解释框架。
2022-04-14 cs.AI cs.CY cs.LG
Target-confidence Recourse Using tSeTlin machines: TRUST
Group Research and Development Det Norske Veritas (DNV)（挪威船级社（DNV）集团研发部）
提出TRUST框架，通过概率Tsetlin机器和贝叶斯优化直接搜索满足用户指定置信度目标的最小输入变化，生成更稳健和可解释的反事实解释。
2026-06-18 cs.AI cs.LG
Endogenous Macrodynamics in Algorithmic Recourse
Delft University of Technology（代尔夫特理工大学）
本文提出统一的算法追索框架，揭示群体层面追索实施引发的内生域漂移与模型漂移，并通过仿真验证其影响及缓解策略。
2023-08-16 cs.AI cs.LG
A Causal Perspective on Meaningful and Robust Algorithmic Recourse
Institute for Statistics, LMU Munich（慕尼黑大学统计研究所）；Research Group Neuroinformatics, University of Vienna（维也纳大学神经信息学研究组）；Munich Center for Mathematical Philosophy, LMU Munich（慕尼黑大学慕尼黑数学哲学中心）
决策追索解释告知利益相关者如何采取行动来扭转不利的预测。然而，一般来说，ML模型不能很好地预测干预分布。因此，以期望的方式改变预测的动作可能不会导致潜在目标的改进。这种追索权对模型改装既无意义，也不可靠。扩展Karimi等人的工作。（2021），我们提出了有意义的算法追索权（MAR），只建议改善预测和目标的行动。我们证明这种选择约束突出模型审计和有意义的，可操作的追索权解释之间的差异。此外，我们引入了一种称为有效算法追索权（effective algorithmic recourse，缩写为MAR）的放松方法，在某些假设下，它只允许对目标的原因进行干预，从而产生有意义的追索权。
2021-07-16 cs.LG stat.ML
On the Fairness of Causal Algorithmic Recourse
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Saarland University（萨尔大学）；The Alan Turing Institute（艾伦·图灵研究所）
算法公平性通常从预测的角度来研究。相反，在这里，我们调查的公平性的角度，追索权行动建议个人补救不利的分类。我们提出了两个新的公平标准，在组和个人层面上，这-不像以前的工作均衡的平均组明智的距离从决策边界-明确占功能之间的因果关系，从而捕捉下游的影响，在物理世界中进行追索行动。我们探讨了我们的标准如何与其他人，如反事实的公平，并表明，公平的追索权是补充公平的预测。我们从理论上和经验上研究如何通过改变分类器来执行公平的因果追索权，并在Adult数据集上进行案例研究。最后，我们讨论了我们的标准所揭示的数据生成过程中的公平违规行为是否可以通过社会干预而不是对分类器的限制来更好地解决。
2022-03-06 cs.AI cs.LG stat.ML
Counterfactual Maps: What They Are and How to Find Them
Polytechnique Montréal（蒙特利尔理工学院）
本文提出反事实地图，通过最近区域搜索方法为树集成提供全局 recourse 表示，利用树集成可压缩为等效标记超矩形分区的特性，提出基于体积 k 维 kd 树的精确算法，实现子线性平均查询时间。
2026-05-07 cs.LG
A survey of algorithmic recourse: definitions, formulations, solutions, and prospects
MPI for Intelligent Systems（智能系统MPI研究所）；ETH Zürich（苏黎世联邦理工学院）；MPI for Security and Privacy（安全与隐私MPI研究所）；Saarland University（萨尔大学）
机器学习越来越多地用于在敏感情况下为决策提供信息，这些情况下的决策会对个人的生活产生重大影响。在这些环境中，除了要求模型准确和稳健外，公平、隐私、问责制和可解释性等社会相关价值观对上述技术的采用和影响也起着重要作用。在这项工作中，我们专注于算法追索权，它涉及向那些受到自动决策系统不利对待的个人提供解释和建议。我们首先进行了广泛的文献综述，并通过提出统一的定义，配方和解决方案，以追索权的许多作者的努力。然后，我们提供了一个前瞻性的研究方向，对社会可能从事的概述，挑战现有的假设，并明确连接到其他道德挑战，如安全，隐私和公平。
2021-03-01 cs.AI cs.LG stat.ML
Actionable CBFI: Prescriptive Interventional Diagnosis and Interaction-Aware Escalation for Sparse Causal Algorithmic Recourse
Dankook University（檀国大学）
该研究提出A-CBFI框架，结合结构分解与因果反事实追索，在金融、医疗领域可降低76.9%主动干预负担，保持因果有效性与追索成本，实现针对性可操作的反事实追索。
2026-10-28 cs.AI cs.LG
Longitudinal Counterfactuals: Constraints and Opportunities
University of California, Berkeley（加利福尼亚大学伯克利分校）；University of Pennsylvania（宾夕法尼亚大学）
针对反事实解释可能不可实现、合理性难以量化的问题，本文提出利用纵向数据构建比较纵向变化与反事实差异的指标，并据此生成更合理的算法救济反事实。
2024-02-29 cs.CY cs.LG
KTCF: Actionable Recourse in Knowledge Tracing via Counterfactual Explanations for Education
KTCF通过反事实解释为教育中的知识追踪提供可操作的救济，提升教育AI的实用性和责任性。
2026-01-14 cs.AI cs.CY cs.LG
Algorithmic Recourse in Abnormal Multivariate Time Series
Utah State University（犹他州立大学）；University of Arkansas（阿肯色大学）；Clemson University（克莱姆森大学）
本文提出RecAD框架，通过回溯反事实推理为多元时间序列异常提供算法补救，端到端训练补救函数，实验验证其有效性。
2025-08-01 cs.LG
RecourseBench: A Modular Framework for Reproducible Algorithmic Recourse Evaluation
University of Waterloo（滑铁卢大学）
提出RecourseBench框架，通过模块化、可复现性和交互性三大承诺，实现追责方法的统一评估，并集成28种方法，首次通过自动化定量测试强制方法级可复现性。
2026-08-31 cs.AI cs.LG
Reassessing Evaluation Functions in Algorithmic Recourse: An Empirical Study from a Human-Centered Perspective
NTT Corporation（NTT公司）；NTT Human Informatics Laboratories（NTT人类信息学研究所）；NTT Communication Science Laboratories（NTT通信科学研究所）
本文通过 362 名参与者的用户研究检验算法追索的距离最小化假设，发现接受度与追索距离无关、行动意愿仅在最小距离处达到峰值，呼吁重思评估函数。
2024-08-03 cs.AI cs.HC cs.LG
Counterfactual Explanations Can Be Manipulated
UC Irvine（加州大学欧文分校）；Harvard University（哈佛大学）
反事实解释正在成为一个有吸引力的选择，为受到算法决策不利影响的个人提供追索权。由于它们被部署在关键应用程序中（例如执法，金融贷款），因此确保我们清楚地了解这些方法的脆弱性并找到解决这些问题的方法变得非常重要。然而，人们对反事实解释的脆弱性和缺点了解甚少。在这项工作中，我们介绍了第一个框架，描述了反事实解释的漏洞，并显示了它们可以被操纵。更具体地说，我们表明反事实的解释可能会收敛到显着不同的反事实下，一个小的扰动表明他们是不稳健的。利用这一洞察力，我们引入了一个新的目标，训练看似公平的模型，其中反事实的解释发现成本低得多的资源下轻微的扰动。我们描述了这些模型如何不公平地为数据中的特定子组提供低成本的追索权，同时对审计师来说是公平的。我们对贷款和暴力犯罪预测数据集进行了实验，其中某些子组在扰动下实现了高达20倍的低成本追索权。这些结果引起了人们对当前反事实解释技术的可靠性的关注，我们希望这将激发强有力的反事实解释的调查。
2021-11-03 cs.LG
Setting the Right Expectations: Algorithmic Recourse Over Time
NOVA University Lisbon（里斯本新大学）；New York University（纽约大学）；CENTAI（CENTAI研究所）；Eurecat（Eurecat技术中心）
本文提出基于智能体的仿真框架研究持续变化环境对算法追索的影响，发现仅少数特定参数化设置能使追索随时间保持可靠，强调需进一步理解追索可靠性并开发奖励智能体努力的方法。
2023-09-13 cs.AI cs.CY cs.LG
The Importance of Time in Causal Algorithmic Recourse
University of Pisa（比萨大学）
本文指出现有因果算法追索方法未纳入时间维度的局限，提出将时间维度整合到因果算法追索中以增强建议的合理性与可靠性，并通过实验验证了时间在该领域的重要作用。
2023-06-08 cs.AI cs.LG
Algorithmic Recourse Under Competition
Drexel University（德雷塞尔大学）
针对竞争环境下补救建议可能失效的问题，提出联合优化接收者与分数目标的框架，平衡成本与有效性，实验表明个性化目标有效性高但成本高，常见目标在低中有效性下权衡更优。
2026-10-01 cs.AI cs.LG
Counterfactual Shapley Additive Explanations
J.P. Morgan AI Research（摩根大通人工智能研究院）
特征属性是模型解释的常见范例，因为它们简单地为模型的每个输入特征分配单个数值分数。在可操作的追索设置中，解释的目标是改善模型消费者的结果，通常不清楚如何正确使用特征属性。通过这项工作，我们的目标是加强和澄清可诉追索权和特征属性之间的联系。具体地说，我们提出了SHAP的一个变体，反事实SHAP（CF-SHAP），它结合了反事实信息来产生一个背景数据集，用于在边缘（也称为Shapley值框架。我们激励需要在可操作的追索权设置仔细考虑背景数据集时，使用Shapley值的特征属性与众多的合成的例子。此外，我们证明了CF-SHAP的有效性，提出并证明了一个定量分数的特征属性，反事实能力，表明通过这种度量，CF-SHAP是优于现有的方法时，公共数据集使用树集成进行评估。
2022-05-16 cs.AI cs.LG
SafeAR: Safe Algorithmic Recourse by Risk-Aware Policies
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；J.P. Morgan AI Research（摩根大通人工智能研究院）
SafeAR针对算法救济中成本不确定性和高成本风险问题，提出结合风险敏感强化学习与金融风险度量的救济策略计算方法，使个人能按风险承受能力选择救济方案。
2024-02-12 cs.AI cs.LG
From Universal to Individualized Actionability: Revisiting Personalization in Algorithmic Recourse
Saarland Informatics Campus, Saarland University（萨尔大学萨尔兰信息学园区）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Institute for Psychology, University of Freiburg（弗莱堡大学心理学研究所）
本文重新审视算法救济中的个性化，提出将个性化定义为个体可执行性，通过硬约束和软约束分析其对救济关键指标的影响，揭示个性化对可执行性、成本和合理性的影响及潜在偏见。
2026-04-09 cs.AI cs.LG
Towards Non-Adversarial Algorithmic Recourse
University of Tübingen（蒂宾根大学）；Technical University of Munich（慕尼黑工业大学）；Harvard University（哈佛大学）
本研究引入非对抗性算法救济概念，通过分析目标函数组件和模型选择，证明设计选择比算法本身更决定救济的非对抗性，并推荐鲁棒模型以减少对抗性。
2024-03-15 cs.LG
Explanations-Driven Active Feature Acquisition for Algorithmic Recourse
Western University（西安大略大学）
本研究提出解释驱动的特征获取（EDFA）方法，联合优化算法补救与特征获取，利用马尔可夫毯统一多种解释，按解释价值选择特征，在7个数据集上以更少特征实现同等准确率并保证补救有效性。
2026-09-14 cs.AI cs.LG
Relevance-aware Algorithmic Recourse
University of Notre Dame（圣母大学）
本文提出相关性感知的算法补救框架（RAAR），利用相关性概念改进回归任务的算法补救，在15个数据集上实验表明其效率更高、成本更低且效果与基线相当。
2024-05-29 cs.LG
On the Privacy Risks of Algorithmic Recourse
University of Tübingen（图宾根大学）；Harvard University（哈佛大学）
本文研究算法追索可能泄露模型训练数据隐私的问题，提出利用实例与反事实距离的新型成员推理攻击，并通过真实与合成数据集实验验证显著隐私风险。
2022-11-10 cs.AI cs.CR cs.CY
Framing Algorithmic Recourse for Anomaly Detection
Virginia Tech（弗吉尼亚理工大学）；University of Texas, Dallas（德克萨斯大学达拉斯分校）
算法追索权的问题已经被探索用于监督机器学习模型，以从决策支持系统提供更可解释、透明和鲁棒的结果。一个未探索的领域是异常检测的算法资源，特别是对于只有离散特征值的表格数据。这里的问题是提出一组被底层异常检测模型视为正常的反事实，以便应用程序可以利用此信息进行解释或推荐对策。本文提出了一种有效的、可扩展的、对底层异常检测模型不可知的方法--表数据中异常的上下文保持查询追索权（CARAT）。CARAT使用基于Transformer的编码器-解码器模型，通过查找具有低可能性的特征来解释异常。随后，通过修改突出显示的特征，使用异常实例中特征的整体上下文来生成语义上连贯的反事实。大量的实验有助于证明CARAT的功效。
2022-06-29 cs.AI cs.LG stat.ME
Equality of Effort via Algorithmic Recourse
causaLens（causaLens公司）；King’s College London（伦敦国王学院）
本文提出了一种方法，通过公平的努力，通过最小的干预应用算法追索权来衡量公平性。努力的平等性是一种可以在个人和群体层面上量化的属性。它回答了一个反事实的问题：一个受保护的个人或一组受保护的个人的最小成本是多少，以扭转自动化系统计算的结果？医疗追索权增加了同等努力概念的灵活性和适用性：它克服了以前的局限性，调和了多种治疗变量，引入了可行性和可承受性限制，并整合了干预措施的实际相对成本。我们扩展了现有的平等的努力的定义，并提出了一个算法，其评估通过算法追索权。我们验证了我们的方法在合成数据和德国信用数据集。
2022-11-25 cs.LG stat.AP stat.ML
Reinforcement Learning for Durable Algorithmic Recourse
University of Padova（帕多瓦大学）；Univesity of Trieste（特伦蒂诺大学）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所）
本文提出一种基于强化学习的耐用算法救济框架，通过建模候选人群体的适应性动态，生成可行且长期有效的建议，以提升自动化决策系统的救济效果。
2026-02-02 cs.AI cs.LG
Fair Recourse for All: Ensuring Individual and Group Fairness in Counterfactual Explanations
University of Applied Sciences and Arts of Southern Switzerland（瑞士南方应用科学与艺术大学）；Università della Svizzera italiana（瑞士意大利大学）
本文提出了一种基于强化学习的方法，生成同时满足个体和群体公平性的反事实解释，以提升XAI的公平性和透明度。
2026-01-28 cs.AI cs.LG
Synthesizing explainable counterfactual policies for algorithmic recourse with program synthesis
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）
能够提供反事实干预-我们必须采取的一系列行动才能产生理想的结果-对于解释如何通过黑箱机器学习模型改变不利的决定至关重要（例如，申请贷款被拒）。现有的解决办法主要侧重于制定可行的干预措施，而不解释其理由。此外，他们需要为每个用户解决单独的优化问题。在本文中，我们采取了不同的方法，学习一个程序，输出一系列可解释的反事实行为，给出用户描述和因果关系图。我们利用程序合成技术、强化学习结合蒙特卡罗树搜索进行有效探索，并利用规则学习为每个推荐操作提取解释。对合成和真实世界数据集的实验评估显示，我们的方法如何通过对黑盒分类器进行数量级更少的查询来生成有效的干预措施，并通过可解释的解释来补充它们。
2022-10-12 cs.LG
Perfect Counterfactuals in Imperfect Worlds: Modelling Noisy Implementation of Actions in Sequential Algorithmic Recourse
ARC Centre of Excellence for Automated Decision-Making and Society（自动化决策与社会卓越中心）；School of Computing Technologies, RMIT University（计算技术学院，拉筹纳斯大学）；Department of Computer Science, ETH Zurich（计算机科学系，苏黎世联邦理工学院）
针对序列算法追索中多步骤累积噪声导致实施不完美的问题，提出基于马尔可夫决策过程的ROSE追索生成器，在保证稀疏性和计算效率的同时有效平衡鲁棒性与成本。
2025-08-15 cs.LG
ElliCE: Efficient and Provably Robust Algorithmic Recourse via the Rashomon Sets
Princeton University（普林斯顿大学）；Ukrainian Catholic University（乌克兰天主教大学）；Rutgers University（罗格斯大学）；Taras Shevchenko National University of Kyiv（塔拉斯·谢甫琴科基斯林国立大学）；Microsoft Research NYC（微软研究院纽约）
ElliCE通过椭球近似Rashomon集，提供高效且可证明稳健的算法补救方法，提升反事实解释的鲁棒性和灵活性。
2026-02-07 cs.LG
Personalized Algorithmic Recourse with Preference Elicitation
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Trento（特伦托大学）；CNRS（法国国家科学研究中心）；Université Paris-Dauphine（巴黎第九大学）
针对算法追索中行动成本“一刀切”导致方案对部分用户过贵的问题，提出人在回路方法PEAR，通过贝叶斯偏好诱导和强化学习结合MCTS，仅需少量查询即可生成高质量个性化追索方案。
2024-01-23 cs.AI cs.LG
Learning-Augmented Robust Algorithmic Recourse
Department of Computer Science（计算机科学系）；Drexel University（德雷塞尔大学）；Archimedes Athena Research Center（阿奇米德·阿特拉研究中心）
本文研究了在预测未来模型准确性的前提下，如何通过学习增强的算法救济减少救济成本，并分析预测准确性对性能的影响。
2026-04-25 cs.LG
Actionable Recourse via GANs for Mobile Health
UC San Diego（加州大学圣地亚哥分校）；Maternity Foundation（产妇基金会）
移动健康应用程序提供了一种独特的数据收集手段，可用于提供适应性干预措施。预测结果在很大程度上影响了此类干预措施的选择。通过反事实的追索权提供了修改用户预测的有形机制。通过确定增加预期预测可能性的合理行动，利益相关者可以对他们的预测进行代理。此外，追索机制使反事实推理，可以帮助提供洞察候选人的因果干预功能。我们证明了GAN生成的移动健康应用程序的可行性，基于整体生存分析预测安全交付应用程序的中期参与，这是一种熟练助产士的数字培训工具。
2022-11-12 cs.LG
Online Algorithmic Recourse by Collective Action
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
本文研究在线算法救济设定，提出用户通过集体行动联合计算特征扰动以动态影响系统参数更新，实验证明该方法能有效改善救济效果并缓解不利自动化决策。
2023-12-29 cs.LG
Pareto Optimal Algorithmic Recourse in Multi-cost Function
University（大学）
针对决策系统中多成本函数下算法追索的次优问题，提出处理不可微分离散多成本函数的帕累托最优框架，通过多目标优化和ε-网提升可扩展性与理论基础，实验验证其在标准权衡和大图场景的优势。
2025-02-11 cs.AI cs.DS cs.LG
