Semantics and explanation: why counterfactual explanations produce adversarial examples in deep neural networks
Australian National University（澳大利亚国立大学）
最近关于可解释人工智能的论文为反事实的解释模式提供了令人信服的理由。虽然反事实解释在某些情况下似乎非常有效，但它们在形式上等同于对抗性例子。这为可解释性研究者提出了一个明显的悖论：如果这两个程序在形式上是等价的，那么是什么解释了反事实解释和对抗性例子之间明显的解释性分歧？我们解决这个悖论，把重点放在反事实表达的语义。为深度学习系统提供令人满意的解释将要求我们找到解释深度神经网络中隐藏层表示的语义的方法。
2020-12-18 cs.AI cs.CY cs.LG
Command-Space Counterfactual Explanations for Pareto-Conditioned Reinforcement Learning
Centrum Wiskunde & Informatica (CWI)（数学和计算机科学中心（CWI））；Eindhoven University of Technology（埃因霍温理工大学）
该研究针对帕累托条件强化学习的帕累托条件网络，提出命令空间反事实解释方法CF-ZOO，通过边界种子方向搜索生成可操作的直观解释。
2026-08-18 cs.AI cs.HC cs.LG
Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization
TECNALIA, Basque Research and Technology Alliance (BRTA)（TECNALIA，巴斯克研究与技术联盟）；University of the Basque Country (UPV/EHU)（巴斯克大学）；University of Granada（格拉纳达大学）；DaSCI Andalusian Institute of Data Science and Computational Intelligence（DaSCI安达卢西亚数据科学与计算智能研究所）；Medical University of Graz（格拉茨医科大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）；University of Alberta（阿尔伯塔大学）
对于深度学习模型在涉及复杂数据的任务中的重要性，人们达成了广泛的共识。通常，在关注对人类至关重要的应用程序中的决策透明度时，需要充分理解这些模型。除了其他可解释性技术，可信度可以通过使用反事实来实现，就像人类熟悉未知过程的方式一样：通过理解输出变化的假设环境。在这项工作中，我们认为，自动反事实生成应该考虑几个方面的对抗性实例，而不仅仅是他们的对抗能力。为此，我们提出了一种新的框架，用于生成反事实示例，该框架将其目标制定为平衡三个不同目标的多目标优化问题：1）可扩展性，即，根据输入数据的分布，反事实的可能性; 2）原始输入的变化强度;以及3）对抗能力，即由反事实引起的模型输出的可变性。该框架从要审计的目标模型出发，并使用生成对抗网络来对输入数据的分布进行建模，以及用于发现这些目标之间的反事实平衡的多目标求解器。该框架的效用是展示了六个分类任务，包括图像和三维数据。实验证明，该框架揭示了符合直觉的反事实，增加了用户的可信度，并导致进一步的见解，如检测偏见和数据误报。
2022-05-20 cs.AI cs.LG
Causal Discovery and Counterfactual Reasoning to Optimize Persuasive Dialogue Policies
KDDI Research, Inc.（KDDI研究所）；Carnegie Mellon University（卡内基梅隆大学）
针对现有说服性对话系统难适配动态用户状态的问题，提出结合因果发现、反事实推理与强化学习的方法，在PersuasionForGood数据集上实现了说服效果的提升。
2025-03-19 cs.AI cs.CL cs.HC
Risk-Aware Algorithms for Adversarial Contextual Bandits
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
在这项工作中，我们考虑了对抗性的上下文土匪与风险约束。在每一轮中，大自然都准备了一个上下文，每个手臂的成本，以及每个手臂的风险。学习者利用上下文来拉动手臂，然后接收与被拉动的手臂相关联的相应成本和风险。除了最小化累积成本之外，学习者还需要满足长期风险约束--所有被拉手臂的累积风险的平均值不应大于预先设定的风险。定义阈值。为了解决这个问题，我们首先研究了全信息设置，在每一轮中，学习者都会收到一个对抗性凸损失和一个凸约束。我们开发了一个Meta算法，利用在线镜像下降的充分信息设置，并将其扩展到上下文的强盗与风险约束设置使用专家的意见。我们的算法可以实现接近最优的遗憾方面的总成本最小化，同时成功地保持了次线性增长的累积风险约束违反。
2016-10-17 cs.LG stat.ML
ATEX-CF: Attack-Informed Counterfactual Explanations for Graph Neural Networks
Aalborg University（奥尔堡大学）；Bowling Green State University（伯灵顿州立大学）；University of Central Florida（佛罗里达中央大学）
ATEX-CF通过整合对抗攻击与反事实解释，为图神经网络生成忠实且合理的实例级解释，提升模型可解释性。
2026-02-05 cs.AI cs.LG
Counterfactual Adversarial Learning with Representation Interpolation
Alibaba Group（阿里巴巴集团）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
与逻辑推理相比，深度学习模型更倾向于统计拟合。当训练数据中存在统计偏差时，可能会记忆虚假的相关性，这严重限制了模型的性能，特别是在小数据场景中。在这项工作中，我们引入了反事实对抗训练框架（CAT），从因果关系的角度来解决这个问题。特别地，对于特定样本，CAT首先以对抗的方式通过潜在空间插值生成反事实表示，然后对每个原始-反事实对执行反事实风险最小化（CRM），以动态调整样本损失权重，这鼓励模型探索真实的因果效应。大量的实验表明，CAT在不同的下游任务，包括句子分类，自然语言推理和问答，实现了显着的性能改善SOTA。
2021-09-10 cs.LG
Counterfactual Reasoning Using Predicted Latent Personality Dimensions for Optimizing Persuasion Outcome
KDDI Research, Inc.（KDDI研究所）；Carnegie Mellon University（卡内基梅隆大学）
提出基于潜在人格维度（LPDs）和反事实推理的新方法，利用BiCoGAN与DPPR生成反事实数据，并用D3QN学习话语选择策略，在PersuasionForGood数据集上验证了其优化说服结果的有效性。
2024-04-21 cs.AI cs.CL cs.HC
CounteRGAN: Generating Realistic Counterfactuals with Residual Generative Adversarial Nets
Amazon（亚马逊）；Hired；Facebook（脸书）
机器学习模型在各个行业中的流行已经导致对模型可解释性以及对向用户提供有意义的求助的能力的需求不断增长。例如，希望改善诊断的患者或寻求增加批准机会的贷款申请人。在这方面，反事实可以通过识别输入扰动来提供帮助，这些扰动将导致更理想的预测结果。有意义的反事实应该能够实现预期的结果，但也是现实的，可操作的，有效的计算。目前的方法实现了预期的结果，具有适度的可操作性，但在现实性和延迟方面受到严重限制。为了解决这些限制，我们将生成对抗网络（GANs）应用于反事实搜索。我们还介绍了一种新的残差GAN（RGAN），与常规GANs相比，它有助于提高反事实现实主义和可操作性。所提出的CounteRGAN方法利用RGAN和目标分类器来产生能够提供有意义的追索权的反事实。对两个流行数据集的评估突出了CounteRGAN如何能够克服现有方法的局限性，包括延迟改善> 50倍至> 90，000倍，使有意义的追索权实时可用并适用于广泛的领域。
2021-05-27 cs.AI cs.LG stat.ML
Adversarial Robustness of Deep Reinforcement Learning based Dynamic Recommender Systems
University of New South Wales（新南威尔士大学）；University of Technology Sydney（悉尼科技大学）；Macquarie University（麦考瑞大学）
对抗攻击，例如，输入和对抗样本的对抗性扰动对包括交互式推荐系统在内的机器学习和深度学习技术提出了重大挑战。这些技术的潜在嵌入空间使得对抗攻击难以在早期阶段检测到。因果关系研究的最新进展表明，反事实也可以被认为是生成来自不同分布的对抗样本作为训练样本的方法之一。我们建议在基于强化学习的交互式推荐系统上探索对抗性示例和攻击不可知检测。我们首先通过向输入中添加扰动并干预偶然因素来制作不同类型的对抗性示例。然后，我们通过基于精心制作的数据的基于深度学习的分类器检测潜在的攻击来增强推荐系统。最后，我们研究了对抗性示例的攻击强度和频率，并使用多种制作方法在标准数据集上评估我们的模型。实验结果表明，大多数对抗攻击都是有效的，攻击强度和攻击频率对攻击性能都有影响。策略定时攻击仅需1/3 ~ 1/2的攻击频率就能达到相当的攻击性能。此外，我们的黑盒检测器训练与一个手工方法具有泛化能力超过其他几个手工方法。
2021-12-02 cs.IR cs.LG
Adversarial Counterfactual Environment Model Learning
Nanjing University（南京大学）；Meituan（美团）；Tsinghua University（清华大学）
针对标准数据拟合技术得到的环境模型泛化能力不足的问题，提出对抗性反事实查询风险最小化目标及可处理方案GALILEO，可准确预测反事实数据，显著提升真实场景下的策略表现。
2023-10-09 cs.LG
Minimizing Weighted Counterfactual Regret with Optimistic Online Mirror Descent
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Tencent AI Lab（腾讯AI实验室）；Tsinghua University（清华大学）；School of Future Technology, University of Chinese Academy of Sciences（中国科学院大学未来技术学院）
针对PCFR+面对占优行动时遗憾较大的问题，提出整合PCFR+与DCFR的新型CFR变体PDCFR+，经理论和实验验证其在不完美信息博弈中收敛更快且能达到纳什均衡。
2024-05-14 cs.AI cs.GT cs.LG
Unifying Image Counterfactuals and Feature Attributions with Latent-Space Adversarial Attacks
Department of Statistics, University of California, Berkeley（加州大学伯克利分校统计学系）；Department of Statistics and Data Science, University of Pennsylvania（宾夕法尼亚大学统计学与数据科学系）
本文提出反事实攻击方法，通过在潜在空间进行对抗攻击生成反事实图像，并结合特征归因提供全局解释，在MNIST和CelebA数据集上验证了其有效性。
2025-04-21 cs.CV cs.LG
Adversarial Distribution Balancing for Counterfactual Reasoning
University Medical Center Göttingen（哥廷根大学医学中心）；University of Göttingen（哥廷根大学）
本文提出ADBCR方法，通过对抗分布平衡直接利用反事实潜在结果估计消除虚假因果关联，在三个基准数据集上优于现有方法，并验证了未标记验证数据可进一步提升性能。
2023-11-28 cs.LG
Adversarial Learning for Counterfactual Fairness
Sorbonne Université（索邦大学）；LIP6/CNRS（法国国家科学研究中心计算机科学实验室）；AXA REV Research（安盛研究）
近年来，公平性已经成为机器学习研究界的一个重要话题。特别是，反事实公平的目的是建立预测模型，确保在最个人的水平公平。这个想法不是从全局上考虑整个人口的公平性，而是想象任何一个人在给定的兴趣属性（例如不同的性别或种族）变化的情况下会是什么样子。现有的方法依赖于个体的变分自动编码，使用最大平均离散（MMD）惩罚来限制推断表示与其相应的敏感属性的统计依赖性。这使得能够模拟用于训练目标公平模型的反事实样本，目标是为任何个体的每个替代版本产生类似的结果。在这项工作中，我们建议依赖于一种对抗性神经学习方法，这种方法可以实现比MMD惩罚更强大的推理，并且特别适合连续设置，其中敏感属性的值不能被穷举。实验表明，显着的改善，无论是离散和连续设置的反事实的公平性。
2020-08-30 cs.AI cs.CY cs.LG
GANterfactual - Counterfactual Explanations for Medical Non-Experts using Generative Adversarial Learning
Augsburg University（奥格斯堡大学）
随着机器学习的不断兴起，对解释由人工智能系统做出的决策的方法的需求正在成为一个越来越重要的话题。特别是对于图像分类任务，解释这种分类器的许多现有技术工具依赖于输入数据的重要区域的视觉突出显示。相反，反事实解释系统试图通过以分类器会做出不同预测的方式修改输入图像来实现反事实推理。通过这样做，反事实解释系统的用户配备了一种完全不同的解释信息。然而，为图像分类器生成逼真的反事实解释的方法仍然很少。特别是在医疗环境中，相关信息通常由纹理和结构信息组成，高质量的反事实图像有可能为决策过程提供有意义的见解。在这项工作中，我们提出了GANterfactual，一种基于对抗性图像到图像翻译技术生成这种反事实图像解释的方法。此外，我们还进行了一项用户研究，以评估我们在示例性医疗用例中的方法。我们的研究结果表明，在所选的医疗用例中，反事实解释在心理模型、解释满意度、信任、情绪和自我效能方面的结果明显优于两个使用显着性图的最先进系统，即LIME和LRP。
2021-08-05 cs.AI cs.CV cs.HC
Towards Non-Adversarial Algorithmic Recourse
University of Tübingen（蒂宾根大学）；Technical University of Munich（慕尼黑工业大学）；Harvard University（哈佛大学）
本研究引入非对抗性算法救济概念，通过分析目标函数组件和模型选择，证明设计选择比算法本身更决定救济的非对抗性，并推荐鲁棒模型以减少对抗性。
2024-03-15 cs.LG
Counterfactual Off-Policy Training for Neural Response Generation
Harbin Institute of Technology（哈尔滨工业大学）；University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
开放域对话生成由于潜在响应的巨大规模而遭受数据不足的问题。在本文中，我们建议通过反事实推理来探索潜在的反应。给定观察到的响应，反事实推理模型自动推断可能已经采取的替代策略的结果。事后合成的反事实反应比从头开始合成的反应质量更高。对抗性学习框架下的反事实反应训练有助于探索潜在反应空间的高回报区域。对DailyDialog数据集的实证研究表明，我们的方法显著优于HRED模型和传统的对抗性学习方法。
2020-10-09 cs.AI cs.CL cs.LG
CountARFactuals -- Generating plausible model-agnostic counterfactual explanations with adversarial random forests
Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；LMU Munich（慕尼黑大学）；Leibniz Institute for Prevention Research & Epidemiology – BIPS（莱布尼茨预防研究与流行病学研究所）；University of Bremen（不来梅大学）；University of Tübingen（蒂宾根大学）；University of Copenhagen（哥本哈根大学）
本文提出CountARFactuals，利用对抗随机森林以模型无关方式高效生成数据流形内的合理反事实解释，并自然支持混合数据与稀疏性约束。
2024-04-04 cs.LG stat.ML
Latent Diffusion Counterfactual Explanations
University of Freiburg（弗赖堡大学）
针对反事实生成中噪声梯度问题，提出基于潜在扩散模型的LDCE方法，利用共识引导机制过滤对抗性梯度，提升生成质量并洞察模型错误。
2023-10-10 cs.CV cs.LG
De-confounding Representation Learning for Counterfactual Inference on Continuous Treatment via Generative Adversarial Network
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；Baidu（百度）
针对连续处理反事实推理中现有方法依赖参数模型、仅消除线性混杂的问题，提出基于生成对抗的DRL去混杂表示框架，可消除非线性依赖，在合成和真实医学数据集上表现优于前沿模型。
2023-07-24 cs.AI cs.LG stat.ME
Motif-Consistent Counterfactuals with Adversarial Refinement for Graph-Level Anomaly Detection
Henan University（河南大学）；University of Electronic Science and Technology of China（电子科技大学）；Iowa State University（爱荷华州立大学）
针对图级异常检测，提出MotifCAR方法，融合基序与上下文子图生成反事实图，并利用GAN优化器及多种损失约束满足真实性、有效性、邻近性和稀疏性，提升检测性能。
2024-07-18 cs.LG cs.SI
Counterfactual Image Generation for adversarially robust and interpretable Classifiers
IBM Research（IBM研究院）；ETH Zürich（苏黎世联邦理工学院）
针对神经图像分类器可解释性差与易受对抗攻击的问题，提出基于图像翻译GAN的统一框架，生成兼具可解释性与对抗增强作用的反事实样本，在分割与鲁棒性任务上均取得良好效果，还可利用判别器输出衡量预测不确定性。
2023-10-01 cs.CV cs.LG eess.IV
Adversarial Counterfactual Learning and Evaluation for Recommender System
Walmart Labs（沃尔玛实验室）
推荐系统的反馈数据往往受到什么是暴露给用户，然而，大多数学习和评价方法不占潜在的曝光机制。我们首先在理论上表明，应用监督学习来检测用户的偏好可能最终与曝光信息的情况下不一致的结果。来自因果推理的反事实倾向加权方法可以解释暴露机制;然而，反馈数据的部分观察性质可能导致可识别性问题。我们提出了一个原则性的解决方案，通过引入极大极小经验风险公式。我们表明，放松的对偶问题可以转换为两个推荐模型之间的对抗性游戏，其中候选模型的对手表征了潜在的曝光机制。我们提供了学习范围，并进行了广泛的模拟研究，以说明和证明所提出的方法在广泛的推荐设置，从而阐明了所提出的方法的各种好处的见解。
2020-11-08 cs.IR cs.LG stat.ML
Do Counterfactual Examples Complicate Adversarial Training?
Duke University（杜克大学）；Arizona State University（亚利桑那州立大学）；Old Dominion University（奥尔德姆大学）
该研究用预训练扩散模型生成低范数反事实样本，探究鲁棒分类器的鲁棒性-性能权衡，发现鲁棒模型对反事实样本表现差，非鲁棒特征与语义特征显著重叠，挑战了既有假设。
2024-04-17 cs.CV cs.LG
Towards Explainable Land Cover Mapping: a Counterfactual-based Strategy
INRAE（法国国家农业食品与环境研究院）；Inria（法国国家信息与自动化研究所）；University of Montpellier（蒙彼利埃大学）
针对多类别土地覆盖分类，提出用于卫星图像时间序列的生成式对抗反事实方法，无需预设目标类别，并以紧凑时间扰动和对抗学习提升可解释性与真实性。
2023-08-20 cs.AI cs.CV cs.LG
Counterfactual Explanation of Brain Activity Classifiers using Image-to-Image Transfer by Generative Adversarial Network
Okayama University（冈山大学）；Japan Science and Technology Agency（日本科学技术振兴机构）；Rikkyo University（立教大学）；National Institute for Physiological Sciences（生理学研究所）；Araya Inc.（Araya 公司）；Keio University（庆应义塾大学）
深度神经网络（DNN）可以从大脑激活中准确解码与任务相关的信息。然而，由于DNN的非线性，DNN做出的决策很难解释。解释这种黑箱系统的一个有希望的方法是反事实解释。在这个框架中，一个黑盒系统的行为是通过比较真实的数据和现实的合成数据，特别是生成，使得黑盒系统输出一个不真实的结果来解释。在这里，我们介绍了一种新的生成DNN（反事实激活生成器，CAG），可以为基于DNN的大脑激活分类器提供反事实解释。重要的是，CAG可以同时处理与不同行为任务相关的多个类之间的图像转换。使用CAG，我们展示了基于DNN的分类器的反事实解释，这些分类器学会了区分七个行为任务的大脑激活。此外，通过CAG的迭代应用，我们能够增强和提取影响分类器决策的细微空间大脑活动模式。总之，这些结果表明，基于图像到图像变换的反事实解释将是一种很有前途的方法来理解和扩展DNN在fMRI分析中的当前应用。
2021-10-28 cs.CV cs.LG q-bio.NC
Counterfactual Explanations for Oblique Decision Trees: Exact, Efficient Algorithms
University of California, Merced（加州大学默塞德分校）
我们考虑反事实的解释，最低限度地调整源输入实例中的功能，使其被归类为一个给定的分类器下的目标类的问题。这已经成为最近感兴趣的话题，作为查询训练模型并建议可能的行动来推翻其决定的一种方式。从数学上讲，这个问题在形式上等价于寻找对抗性例子，这也是最近引起广泛关注的问题。大多数关于反事实解释或对抗性例子的工作都集中在可区分的分类器上，比如神经网络。我们专注于分类树，轴对齐和倾斜（有超平面分裂）。虽然这里的反事实优化问题是非凸和不可微的，我们表明，精确的解决方案可以非常有效地计算，即使是高维特征向量和连续和分类特征，并证明它在不同的数据集和设置。这些结果与金融、医学或法律应用特别相关，在这些领域，可解释性和反事实解释尤为重要。
2021-03-01 cs.LG
Adversarial Counterfactual Augmentation: Application in Alzheimer's Disease Classification
University of Edinburgh（爱丁堡大学）；The Alan Turing Institute（艾伦·图灵研究所）
由于医学数据的可用性有限，用于医学图像分析的深度学习方法往往难以推广到看不见的数据。在训练过程中使用随机变换来增强数据已被证明是有帮助的，并成为训练神经网络的普遍技术。在这里，我们提出了一种新的对抗性反事实增强方案，旨在找到最\textit{effective}合成的图像，以改善下游任务，给定一个预先训练的生成模型。具体来说，我们构建了一个对抗游戏，我们更新的输入\textit{conditional factor}的生成器和下游\textit{classifier}梯度反向传播交替和迭代。这可以被看作是找到分类器的“\textit{weakness}”，并通过生成模型故意迫使它\textit{overcome}它的弱点。为了证明所提出的方法的有效性，我们验证了阿尔茨海默病（AD）的分类作为下游任务的方法。预训练的生成模型使用年龄作为条件因素来合成大脑图像。大量的实验和消融研究表明，所提出的方法提高了分类性能，并有可能减轻虚假的相关性和灾难性的遗忘。代码将在接受后发布。
2022-10-01 cs.CV cs.LG eess.IV
Adversary-Free Counterfactual Prediction via Information-Regularized Representations
CAIR-CAS（中国科学院自动化研究所）；CityUHK（香港城市大学）；HKUST（香港理工大学）
本文提出一种基于信息正则化表示的无对抗因果预测方法，通过减少处理-协变量依赖性来提升预测性能，适用于动态场景并优于现有平衡、重加权和对抗方法。
2026-04-27 cs.LG stat.ML
PermuteAttack: Counterfactual Explanation of Machine Learning Credit Scorecards
Borealis AI（北极光人工智能研究院）；Royal Bank of Canada (RBC)（加拿大皇家银行）
本文是关于金融零售信用评分所采用的机器学习（ML）模型的验证和解释的新方向和方法的说明。我们提出的框架从人工智能（AI）安全和对抗性ML领域汲取了动力，在这些领域中，面对ML算法压倒性的复杂性，需要验证ML算法的性能，需要重新思考模型架构选择，敏感性分析和压力测试的传统概念。我们的观点是，当脱离人工智能安全领域时，对抗性扰动的现象具有纯粹的算法根源，并属于模型风险评估的范围。我们提出了一个模型的批评和解释框架的基础上对抗生成的反事实的例子，表格数据。在这种情况下，给定实例的反事实示例被定义为从估计数据分布中采样的合成生成的数据点，该估计数据分布被模型不同地处理。反事实示例可用于提供模型行为的黑盒实例级解释，以及研究输入空间中模型性能恶化的区域。对抗性示例生成算法在图像和自然语言处理（NLP）领域得到了广泛的研究。然而，大多数金融数据都是以表格形式出现的，在这类数据集上简单地应用现有技术会产生不切实际的样本。在本文中，我们提出了一个反事实的例子生成方法，能够处理表格数据，包括离散和分类变量。我们提出的算法使用了基于遗传算法的无梯度优化，因此适用于任何分类模型。
2020-08-28 cs.LG stat.ML
Where and How to Attack? A Causality-Inspired Recipe for Generating Counterfactual Adversarial Examples
Guangdong University of Technology（广东工业大学）；Peng Cheng Laboratory（鹏城实验室）；Zhejiang Lab（之江实验室）；Shantou University（汕头大学）
针对现有对抗样本生成方法忽略数据因果生成过程的问题，该研究从因果视角定位DNN脆弱性并提出CADE框架生成反事实对抗样本，在多攻击场景下取得了有竞争力的效果。
2024-01-26 cs.LG
Demystifying Causal Features on Adversarial Examples and Causal Inoculation for Robust Network by Adversarial Instrumental Variable Regression
KAIST（韩国科学技术院）
对抗性例证的起源在研究领域中仍然是一个谜，尽管有广泛的研究，但它引起了各种观点的争论。在本文中，我们提出了一种从因果角度深入研究对抗训练网络中意外脆弱性的方法，即对抗工具变量（IV）回归。通过部署它，我们估计的因果关系的对抗性预测在一个无偏的环境下分离未知的混杂因素。我们的方法旨在通过利用休闲特征估计器（即，假设模型）和最坏情况的反事实（即，测试功能）干扰寻找因果特征。通过广泛的分析，我们证明了估计的因果特征与对抗鲁棒性的正确预测高度相关，并且反事实表现出严重偏离正确预测的极端特征。此外，我们提出了如何有效地将因果特征（CAFE）引入防御网络，以提高对抗鲁棒性。
2023-03-02 cs.AI cs.CV cs.LG
Explaining Classifiers using Adversarial Perturbations on the Perceptual Ball
Uni. of Glasgow/Turing Institute（格拉斯哥大学/图灵研究所）；UCL/Turing Institute（伦敦大学学院/图灵研究所）；Amazon Tübingen（亚马逊图宾根）
我们提出了一个简单的正则化的对抗扰动的感知损失的基础上。虽然所产生的扰动对人眼来说仍然是不可感知的，但它们与现有的对抗性扰动的不同之处在于它们是半稀疏的改变，突出显示感兴趣的对象和区域，同时保持背景不变。作为一种语义上有意义的逆扰动，它在意象空间的反事实解释和逆扰动之间架起了一座桥梁。我们评估我们的方法在几个标准的可解释性基准，即，弱本地化，插入删除，和指向游戏证明，感知正则化的反事实是一个有效的解释基于图像的分类。
2021-03-30 cs.CV cs.LG
Plausible Counterfactuals: Auditing Deep Learning Classifiers with Realistic Adversarial Examples
TECNALIA, Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟（BRTA）泰克纳利亚研究院）；University of the Basque Country (UPV/EHU)（巴斯克地区大学（UPV/EHU））
在过去的十年里，深度学习模型在许多应用中得到了广泛的应用，实现了无与伦比的预测性能。不幸的是，深度学习模型的黑盒性质提出了关于它们从数据中学习到什么的未回答的问题。某些应用场景强调了评估深度学习模型运行边界的重要性，通过使用针对不同领域受众的各种方法来解决这个问题。然而，由于应用程序的重点更多地放在非专家用户上，因此必须为他/她提供信任模型的方法，就像人类熟悉系统或流程一样：通过了解它失败的假设情况。这确实是这项研究工作的基石：对深度学习模型进行对抗性分析。所提出的框架通过确保它们的可解释性来构造反事实示例，例如，人类可以在不诉诸计算机程序的情况下生成它们的合理概率。因此，这项工作必须被视为有价值的审计工作的可用范围内的某个模型的约束，从而允许更深入地了解在实际应用程序中使用的模型的能力和陷阱。为此，使用生成对抗网络（GAN）和多目标推理来为审计模型提供合理的攻击，有效地在该模型的混乱、所生成的反事实的强度和合理性之间进行交易。它的实用性在人脸分类任务中得到了展示，揭示了所提出的框架的巨大潜力。
2020-03-25 cs.CR cs.LG cs.NE
DR-VIDAL -- Doubly Robust Variational Information-theoretic Deep Adversarial Learning for Counterfactual Prediction and Treatment Effect Estimation on Real World Data
University of Pittsburgh（匹兹堡大学）；University of Florida（佛罗里达大学）
针对真实世界观察数据的个体治疗效应估计偏差问题，提出融合VAE、Info-GAN与双重鲁棒模块的DR-VIDAL生成框架，在多数据集上性能优于现有方法。
2025-10-21 cs.LG stat.ME
ACAT: Adversarial Counterfactual Attention for Classification and Detection in Medical Imaging
University of Edinburgh（爱丁堡大学）；University of Dundee（邓迪大学）
本文提出 ACAT 框架，利用对抗反事实图像生成显著图和多尺度空间注意力，在无需人工 ROI 标注的情况下提升脑与肺部 CT 的分类及病灶定位性能。
2023-08-11 cs.CV cs.LG eess.IV
Counterfactual Explanations on Robust Perceptual Geodesics
ARC Training Centre for Information Resilience (CIRES)（信息弹性培训中心（CIRES））；School of Mathematics and Physics, University of Queensland（昆士兰大学数学与物理学院）；Institute for Molecular Bioscience, University of Queensland（昆士兰大学分子生物学研究院）；Profenso；QIMR Berghofer Medical Research Institute（QIMR伯格霍夫医学研究机构）
本文提出感知反事实测地线方法，通过鲁棒视觉特征构建语义有效的反事实解释，提升模型鲁棒性并揭示隐藏的失败模式。
2026-03-01 cs.CV cs.HC cs.LG
Outsmarting the Chameleon: Counterfactual Decoupling for Tactical OOD Shifts in Live Streaming Risk Assessment
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；ByteDance China（字节跳动中国）
针对直播中恶意行为者通过战术性分布偏移（Tactical OOD Shift）规避检测的问题，提出基于潜在因果的反事实解耦框架LPCD，通过潜在层建模意图与叙事变化并强制潜在反事实一致性，实现鲁棒的风险评估。
2026-06-01 cs.CR cs.LG
Robust Unlearnable Examples: Protecting Data Against Adversarial Learning
JD Explore Academy, JD.com Inc（京东集团京东探索研究院）；Institute for AI Industry Research, Tsinghua University（清华大学人工智能产业研究院）
网络空间中大量可访问的数据面临着被未经授权用于训练深度学习模型的风险。为了解决这个问题，提出了通过添加一种误差最小化噪声来使数据对于深度学习模型不可学习的方法。然而，这种赋予的不可学性被发现是脆弱的对抗性训练。在本文中，我们设计了新的方法来生成鲁棒的不可学习的示例，这些示例受到对抗性训练的保护。我们首先发现，香草误差最小化噪声通过最小化相应的训练损失来抑制数据的信息性知识，但不能有效地最小化对抗性训练损失。这解释了对抗训练中误差最小化噪声的脆弱性。在此基础上，引入鲁棒误差最小化噪声来减少对抗训练损失。实验表明，鲁棒误差最小化噪声带来的不可学习性可以有效地保护数据免受各种场景下的对抗性训练。代码可在\url{https://github.com/fshp971/robust-unlearnable-examples}上获得。
2022-03-28 cs.CR cs.CV cs.LG
Estimating the Effects of Continuous-valued Interventions using Generative Adversarial Networks
University of Oxford（牛津大学）；The Alan Turing Institute（艾伦·图灵研究所）；University of Cambridge（剑桥大学）；University of California, Los Angeles（加州大学洛杉矶分校）
虽然已经给予了很多关注的问题，估计离散的干预措施的效果，从观察数据，相对较少的工作已经做了设置连续值的干预措施，如治疗与剂量参数。在本文中，我们通过修改生成对抗网络（GANs）框架来解决这个问题。我们的模型，SCIGAN，是灵活的，能够同时估计几个不同的连续干预的反事实的结果。其关键思想是使用经过显著修改的GAN模型来学习生成反事实结果，然后可以使用标准的监督方法来学习推理模型，从而能够为新样本估计这些反事实。为了解决转移到持续干预所带来的挑战，我们提出了一个新的架构，我们的网络-我们建立了一个层次化的网络，利用结构的持续干预设置。此外，我们提供的理论结果，以支持我们使用的GAN框架和层次的神经网络。在实验部分，我们介绍了一种新的半合成数据模拟用于连续干预设置，并证明了现有的基准模型的改进。
2020-11-22 cs.LG stat.ML
Exogenous Matching: Learning Good Proposals for Tractable Counterfactual Estimation
East China Normal University（华东师范大学）
针对一般设置中反事实估计的可处理性与高效性问题，提出外生匹配重要性抽样方法，通过转化方差最小化问题并结合结构先验知识，在多种SCM场景下验证其优于现有方法且无偏，可应用于实际场景。
2025-02-13 cs.LG stat.ML
Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning
University of Pennsylvania（宾夕法尼亚大学）
以置信区间或概率分布的形式表示的预测可信度度量是统计学和机器学习的基础，用于表征模型的鲁棒性，检测分布外的样本（离群值），并防止对抗攻击。为了有效，这些措施应该（i）考虑到实践中使用的各种模型，（ii）对于训练模型是可计算的，或者至少避免修改已建立的训练程序，（iii）放弃使用数据，这可能会使它们面临与基础模型相同的鲁棒性问题和攻击，以及（iv）遵循理论保证。这些原则是本工作中开发的框架的基础，该框架将可信度表达为风险适合权衡，即，在通过扰动模型输入可以改进多少拟合和该扰动的幅度（风险）之间的折衷。使用约束优化配方和对偶理论，我们分析了这种妥协，并表明，这种平衡可以确定反事实，而不必测试多个扰动。这导致了一种无监督的后验方法，该方法为任何（可能非凸）可微模型分配预测可信度，从基于RKHS的解决方案到任何（前馈，卷积，图形）神经网络架构。它的使用说明在数据过滤和防御对抗攻击。
2020-11-24 cs.LG math.OC
AReS and MaRS - Adversarial and MMD-Minimizing Regression for SDEs
University of Oxford（牛津大学）；ETH Zürich（苏黎世联邦理工学院）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-苏黎世联邦理工学习系统中心）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
随机微分方程是许多学科中一个重要的建模类。因此，存在许多依赖于各种离散化和数值积分方案的方法。在本文中，我们提出了一种新的，概率模型估计的漂移和扩散噪声观测的基础随机系统。使用最先进的对抗和矩匹配推理技术，我们避免了经典方法的离散化方案。这导致了随机初始猜测的参数精度和鲁棒性的显着改善。在四个已建立的基准系统，我们比较我们的算法的性能，最先进的解决方案的基础上扩展卡尔曼滤波和高斯过程。
2019-05-28 cs.LG math.DS stat.ML
Adversarial Surrogate Risk Bounds for Binary Classification
针对二分类中对抗训练的一致性结果未给出收敛速率的问题，本文提出了量化对抗分类风险收敛速率的替代风险界。
2025-10-07 cs.LG math.ST stat.ML
Adversarial Consistency and the Uniqueness of the Adversarial Bayes Classifier
Mathematics, Courant Institute, New York, USA（数学，Courant研究所，纽约，美国）
本文研究对抗学习中的凸替代损失一致性，发现其等价于对抗贝叶斯分类器的唯一性，为鲁棒分类器设计提供理论指导。
2024-10-21 cs.LG math.ST stat.ML
EMAP: Explanation by Minimal Adversarial Perturbation
Edinburgh University（爱丁堡大学）；RWTH Aachen University（亚琛工业大学）；QuantumBlack（昆腾布莱克）
现代基于实例的模型不可知解释方法（LIME，SHAP，L2X）在数据密集型行业中非常有用，用于模型诊断和最终用户解释。这些方法通常返回输入特征的权重或子集作为实例分类的解释。另一种文献认为，相反，反事实的情况下提供了一个更有用的表征黑盒分类器的决定。我们提出了EMAP，一个基于神经网络的方法，返回解释的最小对抗扰动的一个实例，导致底层的黑盒模型misclassify。我们表明，这种方法结合了这两种范式，恢复输出的特征加权方法在连续的特征空间，同时也表明了方向，其中最近的反事实可以找到我们的方法还提供了一个隐含的信心估计在自己的解释，增加了清晰的模型诊断其他方法缺乏。此外，EMAP将基于采样的方法（如LIME）的速度提高了一个数量级，允许在时间关键型应用程序中或在数据集级别进行模型解释，其中基于采样的方法是不可行的。我们使用分区Gumbel层扩展我们的方法到分类特征，并在几个标准数据集上证明了其有效性。
2019-12-02 cs.LG stat.ML
A mean curvature flow arising in adversarial training
Center for Artificial Intelligence and Data Science (CAIDAS), University of Würzburg（维尔茨堡大学人工智能与数据科学中心（CAIDAS））；Faculty of Mathematics, University of Regensburg（雷根斯堡大学数学学院）；Hausdorff Center for Mathematics, University of Bonn（波恩大学豪斯多夫数学中心）
本文将二元分类对抗训练与决策边界几何演化方程关联，提出一种逼近加权平均曲率流的非局部周长泛函最小化运动方案，并证明其单调性与一致性，揭示对抗训练有效性源于局部最小化决策边界长度。
2024-04-22 cs.LG math.AP
Image Hashing by Minimizing Discrete Component-wise Wasserstein Distance
Virginia Tech（弗吉尼亚理工大学）；University of Minnesota（明尼苏达大学）；Purdue University（普渡大学）
图像散列是一个基本问题，需要高效和有效的解决方案，为各种实际情况。对抗性自动编码器能够隐式地学习一个鲁棒的、保持局部性的哈希函数，该函数可以生成平衡的、高质量的哈希码。然而，现有的对抗性哈希方法对于大规模图像检索应用是低效的。具体地，它们需要指数数量的样本以能够生成最佳散列码，并且需要显著高的计算成本来进行训练。在本文中，我们表明，高样本复杂度的要求往往会导致次优检索性能的对抗哈希方法。为了解决这一挑战，我们提出了一种新的adversarial-autoencoder哈希方法，该方法具有更低的样本要求和计算成本。具体而言，通过利用低维离散空间中散列函数的所需属性，我们的方法通过平均一组易于计算的一维Wasserstein距离来有效地估计Wasserstein距离的更好变体。与其他对抗性哈希方法相比，所得到的哈希方法具有数量级更好的样本复杂度，因此具有更好的泛化性能。此外，计算成本显着降低使用我们的方法。我们在几个真实世界的数据集上进行了实验，结果表明，该方法优于竞争散列方法，比当前最先进的图像散列方法提高了10%。本文附带的代码可以在Github上找到（https：//github.com/khoadoan/adversarial-hashing）。
2020-05-26 cs.CV cs.IR cs.LG
Toward Adversarial Robustness via Semi-supervised Robust Training
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Tencent AI Lab（腾讯人工智能实验室）
对抗性示例已被证明是对深度神经网络（DNN）的严重威胁。最有效的对抗性防御方法之一是通过最小化对抗性风险$R_{adv}$的对抗性训练（AT），其鼓励将$\ell_{p}$球内的良性示例$x$及其对抗性扰动邻域预测为地面事实标签。在这项工作中，我们提出了一种新的防御方法，鲁棒训练（RT），通过联合最小化两个独立的风险（$R_{stand}$和$R_{rob}$），这是相对于良性的例子和它的邻域分别。其动机是显式地联合提高准确性和对抗鲁棒性。我们证明了$R_{adv}$的上界是由$R_{stand} + R_{rob}$，这意味着RT有类似的效果AT。直观地说，最小化标准风险强制良性示例被正确预测，并且鲁棒风险最小化鼓励相邻示例的预测与良性示例的预测一致。此外，由于$R_{rob}$独立于地面真实标签，RT自然扩展到半监督模式（$i.e.$，SRT），以进一步增强对抗鲁棒性。此外，我们扩展了$\ell_{p}$有界邻域的一般情况下，它涵盖了不同类型的扰动，如像素（$i.e.$，$x + δ$）或空间扰动（$i.e.$，$ AX + b$）。在基准数据集上的大量实验不仅验证了所提出的SRT方法相对于分别防御像素或空间扰动的最先进方法的优越性，而且还证明了其对两种扰动的鲁棒性。用于再现主要结果的代码可在\url{https://github.com/THUYimingLi/Semi-su…
2020-06-16 cs.CR cs.CV cs.LG
Generating Bearing Vibration Signals at User-Specified Fault Probabilities Using PR-GAN and Counterfactual Methods
University of Tehran（德黑兰大学）；University of Victoria（维多利亚大学）；Tampere University（坦佩雷大学）；Aalto University（阿尔托大学）；Khatam University（哈塔姆大学）
研究轴承振动数据集临界样本稀缺问题，提出基于训练的PR-GAN和无训练的CF方法生成指定故障概率信号，在CWRU和帕德博恩轴承数据集上评估，CF控制概率更可靠，PR-GAN运行时间更低。
2026-07-28 cs.LG
Continuous-Time Modeling of Counterfactual Outcomes Using Neural Controlled Differential Equations
University of Cambridge（剑桥大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Columbia University（哥伦比亚大学）；The Alan Turing Institute（艾伦·图灵研究所）
随着时间的推移，估计反事实结果有可能通过帮助决策者回答“what-if”问题来解锁个性化医疗保健。现有的因果推理方法通常考虑观察和治疗决策之间的规则的离散时间间隔，因此无法自然地对不规则采样数据进行建模，这是实践中的常见设置。为了处理任意观测模式，我们将数据解释为来自底层连续时间过程的样本，并建议使用控制微分方程的数学来明确地建模其潜在轨迹。这导致了一种新的方法，治疗效果神经控制微分方程（TE-CDE），允许在任何时间点评估潜在的结果。此外，对抗性训练用于调整时间依赖性混杂，这在纵向设置中至关重要，并且是传统时间序列中没有遇到的额外挑战。为了评估这个问题的解决方案，我们提出了一个可控的模拟环境的基础上的肿瘤生长模型的一系列的情况下，不规则的采样反映了各种临床情况。TE-CDE始终优于现有的方法，在所有模拟的情况下，不规则采样。
2022-06-16 cs.LG stat.ML
Why GANs are overkill for NLP
Microsoft Research（微软研究院）；Aalto University（阿尔托大学）；YaiYai Ltd（YaiYai有限公司）
这项工作提供了一个新的理论视角，说明为什么尽管有许多尝试，生成建模的对抗方法（例如，GANs）对于某些生成任务，特别是顺序任务（如自然语言生成）并不像在其他任务（如计算机视觉）中那样受欢迎。特别是，在文本等连续数据上，最大似然方法的使用率明显高于GANs。我们表明，虽然它可能看起来，最大化的可能性是本质上不同于最小化的可验证性，这种区别在很大程度上是人为的，只适用于有限的模型。我们认为，最小化KL分歧（即，最大化可能性）是一种更有效的方法，可以有效地最小化对抗模型寻求优化的相同可验证性标准。约简表明，最小化可扩展性可以被视为简单地提高某些模型家族的可能性，包括n-gram模型和具有softmax输出层的神经网络。为了实现一个完整的多项式时间的减少，一个新的下一个令牌可扩展性模型被认为是。
2022-05-19 cs.LG stat.ML
Stable Unlearnable Example: Enhancing the Robustness of Unlearnable Examples via Stable Error-Minimizing Noise
Lehigh University（利哈伊大学）；Drexel University（德雷塞尔大学）；Samsung Research America（三星美国研究院）
针对不可学习示例鲁棒性来源不明及防御噪声不稳定的问题，提出稳定误差最小化噪声（SEM），用随机扰动训练防御噪声，在多个数据集上实现更优的保护效果与效率。
2023-12-31 cs.CR cs.CV cs.LG
