Counterfactual Explanations for Deep Learning-Based Traffic Forecasting
ETH Zurich(苏黎世联邦理工学院);WSL Institute for Snow and Avalanche Research SLF(WSL雪与雪崩研究所SLF)
本研究提出了一种基于反事实解释的框架,用于提升深度学习交通预测模型的可解释性,通过场景驱动的约束生成定制化解释,以揭示模型学习的交通模式。
2024-05-01 cs.AI cs.LG
On Generating Plausible Counterfactual and Semi-Factual Explanations for Deep Learning
University College Dublin(都柏林大学学院);Insight Centre for Data Analytics(数据分析洞察中心);VistaMilk SFI Research Centre(VistaMilk SFI研究中心)
人们越来越担心,人工智能领域最近取得的进展,特别是关于深度学习模型的预测能力,将因未能正确解释其操作和输出而受到破坏。为了应对这种不安,反事实解释在可解释人工智能(XAI)中变得非常流行,因为它们提出了计算心理和法律上的好处。然而,相比之下,半事实,这是一个类似的方式,人类通常解释他们的推理,令人惊讶的是没有得到关注。大多数反事实方法处理的是表格数据而不是图像数据,部分原因是后者的非离散性使得很难定义好的反事实。此外,生成躺在数据流形上的看似合理的解释是阻碍进展的另一个问题。本文提出了一种新的方法来产生合理的反事实(和半事实)的黑盒CNN分类器做计算机视觉。目前的方法,称为PlausIble基于异常的对比解释(PIECE),修改测试图像中的所有异常特征,使其从反事实类的角度来看是正常的(因此具体定义了反事实)。两个对照实验比较这种方法与文献中的其他方法,表明PIECE不仅在几个措施上产生最合理的反事实,而且还产生最好的半事实。
2020-09-10 cs.AI cs.LG
Exploratory Not Explanatory: Counterfactual Analysis of Saliency Maps for Deep Reinforcement Learning
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
显着图经常被用来支持解释深度强化学习(RL)代理的行为。然而,对显着图在实践中如何使用的回顾表明,所得出的解释往往是不可证伪的,并且可能是高度主观的。我们引入了一种基于反事实推理的实证方法来测试显着性图产生的假设,并评估它们与RL环境的语义相对应的程度。我们使用Atari游戏,深度RL的常见基准,来评估三种类型的显着性图。我们的研究结果表明,在何种程度上可以评估现有的雅达利游戏的索赔,并建议显着图最好被视为一种探索性的工具,而不是一个解释性的工具。
2020-02-20 cs.AI cs.LG
Causal Inference in Non-linear Time-series using Deep Networks and Knockoff Counterfactuals
Friedrich Schiller University Jena(弗里德里希席勒耶拿大学);German Aerospace Center (DLR)(德国航空航天中心(DLR))
估计因果关系对于理解多变量时间序列中复杂的相互作用至关重要。变量的非线性耦合是因果关系估计不准确的主要挑战之一。在本文中,我们提出使用深度自回归网络(DeepAR)与反事实分析相结合来推断多变量时间序列中的非线性因果关系。我们使用DeepAR的概率预测扩展了Granger因果关系的概念。由于深度网络既不能处理缺失的输入,也不能处理分布外的干预,我们建议使用Knockoffs框架(Barberand Cand`es,2015)来生成干预变量,从而进行反事实的概率预测。敲除样本与给定观测变量的输出无关,并且可以与对应变量交换,而不会改变数据的基本分布。我们在合成和真实世界的时间序列数据集上测试我们的方法。总的来说,我们的方法优于广泛使用的向量自回归格兰杰因果关系和PCMCI检测非线性因果关系的依赖性在多变量时间序列。
2021-10-18 cs.AI cs.LG
Semantics and explanation: why counterfactual explanations produce adversarial examples in deep neural networks
Australian National University(澳大利亚国立大学)
最近关于可解释人工智能的论文为反事实的解释模式提供了令人信服的理由。虽然反事实解释在某些情况下似乎非常有效,但它们在形式上等同于对抗性例子。这为可解释性研究者提出了一个明显的悖论:如果这两个程序在形式上是等价的,那么是什么解释了反事实解释和对抗性例子之间明显的解释性分歧?我们解决这个悖论,把重点放在反事实表达的语义。为深度学习系统提供令人满意的解释将要求我们找到解释深度神经网络中隐藏层表示的语义的方法。
2020-12-18 cs.AI cs.CY cs.LG
Unlocking the Potential of Federated Learning for Deeper Models
Beihang University(北京航空航天大学);Zhongguancun Laboratory(中关村实验室);Zhengzhou University(郑州大学);University of Texas at Dallas(德克萨斯大学达拉斯分校);Lingnan University(岭南大学)
本文揭示联邦学习在深层模型中的“差异累积”问题,并从理论与实验上验证其放大效应,提出加宽模型、减小感受野等准则,显著提升深层FL性能。
2023-06-05 cs.AI cs.LG
Deep Backtracking Counterfactuals for Causally Compliant Explanations
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);ETH Zurich(苏黎世联邦理工学院)
本文提出DeepBC方法,通过Langevin Monte Carlo采样或约束优化在深度生成结构因果模型中计算回溯反事实,实现因果合规、通用且模块化的高维数据解释。
2024-08-10 cs.AI cs.LG stat.ML
Counterfactual State Explanations for Reinforcement Learning Agents via Generative Deep Learning
Oregon State University(俄勒冈州立大学)
反事实的解释,处理“为什么不呢?“场景,可以为AI代理的行为提供有见地的解释。在这项工作中,我们专注于为在Atari等视觉输入环境中运行的深度强化学习(RL)代理生成反事实解释。我们介绍了反事实状态解释,这是一种基于生成式深度学习的基于示例的反事实解释新方法。具体地说,反事实状态说明了Atari游戏图像需要什么样的最小变化,以使智能体选择不同的动作。我们还评估了反事实状态对非机器学习专家的人类参与者的有效性。我们的第一个用户研究调查了人类是否可以辨别反事实状态解释是由实际游戏产生的还是由生成式深度学习方法产生的。我们的第二个用户研究调查,如果反事实状态的解释可以帮助非专家参与者确定一个有缺陷的代理人,我们比较与基线方法的基础上最近的邻居解释,使用图像从实际的游戏。我们的研究结果表明,反事实状态的解释有足够的保真度,以实际的游戏图像,使非专家更有效地确定一个有缺陷的RL代理相比,最近的邻居基线和根本没有解释。
2021-01-29 cs.AI cs.HC cs.LG
Deep Counterfactual Estimation with Categorical Background Variables
KU Leuven(鲁汶大学)
反事实查询被称为因果推理阶梯的第三级,通常会问“如果?“回顾性提问。估计反事实的标准方法在于使用结构方程模型,该模型准确地反映了底层数据生成过程。然而,这样的模型很少在实践中,人们通常希望推断他们从观测数据。不幸的是,正确的结构方程模型通常无法从观察到的实际分布中识别出来。然而,在这项工作中,我们表明,在假设的主要潜在贡献者的治疗反应是分类的,反事实仍然可以可靠地预测。在此假设的基础上,我们引入了反事实查询预测(CFQP),一种新的方法来推断反事实连续观测时,背景变量是分类的。我们表明,无论是在理论上还是在经验上,我们的方法在时间序列和图像数据上都明显优于以前可用的基于深度学习的反事实方法。我们的代码可在https://github.com/edebrouwer/cfqp上获得。
2023-01-16 cs.AI cs.LG stat.ME
Ensuring Equitable Financial Decisions: Leveraging Counterfactual Fairness and Deep Learning for Bias
Nihilent Technologies Ltd.(Nihilent科技有限公司)
本文针对机器学习模型在贷款审批等关键决策中的性别偏见问题,提出结合反事实公平与数据增强的偏见缓解技术,并在偏斜金融数据集上验证了其能有效实现更公平的决策结果。
2024-08-27 cs.AI cs.LG
Learning impartial policies for sequential counterfactual explanations using Deep Reinforcement Learning
Freie Universität Berlin(柏林自由大学);Universität der Bundeswehr München(慕尼黑联邦国防军大学)
本文针对序列反事实解释中强化学习策略存在动作偏置的问题,提出利用分类器输出概率设计更具信息量的奖励函数,以学习更公正的策略。
2023-11-01 cs.AI cs.LG
Counterfactual States for Atari Agents via Generative Deep Learning
Oregon State University(俄勒冈州立大学)
尽管深度强化学习代理在许多领域都取得了令人印象深刻的成果,但它们的决策很难向人类解释。为了解决这个问题,过去的工作主要集中在解释为什么在给定的状态下选择一个动作。另一种有用的解释是反事实解释,它涉及“如果?“场景。在这项工作中,我们引入了反事实状态的概念,以帮助人类更好地了解Atari游戏图像中需要改变(最低限度)的代理选择不同的动作。我们引入了一种新的方法来从生成式深度学习架构中创建反事实状态。此外,我们评估了反事实状态对非机器学习专家的人类参与者的有效性。我们的用户研究结果表明,我们生成的反事实状态是有用的,帮助非专家参与者获得更好地了解代理的决策过程。
2019-09-27 cs.AI cs.HC cs.LG
Analysis and Optimization of Deep Counterfactual Value Networks
Technische Universität Darmstadt(达姆施塔特工业大学)
最近发布了一种名为DeepStack的强大扑克算法,该算法能够通过使用深度神经网络预测的未来状态的启发式值来在游戏过程中找到近似的纳什均衡。本文分析了基于传统抽象技术对DeepStack深度反事实价值网络的输入和输出进行编码的新方法,以及能够提高网络准确性的非抽象编码。
2018-10-12 cs.AI
Unlocking the Potential of Federated Learning: The Symphony of Dataset Distillation via Deep Generative Latents
Duke University(杜克大学);Czech Technical University(捷克技术大学)
本文提出一种服务器端联邦学习数据集蒸馏框架,利用预训练深度生成模型合成数据表示,在降低设备资源消耗的同时提升准确率并加快收敛。
2023-12-03 cs.AI cs.LG
Deep Counterfactual Regret Minimization
Facebook AI Research(Facebook人工智能研究院);Carnegie Mellon University(卡内基梅隆大学)
反事实遗憾最小化(CFR)是解决大型非对称信息博弈的主要框架。它通过迭代遍历博弈树收敛到一个均衡。为了处理非常大的游戏,通常在运行CFR之前应用抽象。抽象的游戏是解决与表CFR,其解决方案被映射回完整的游戏。这个过程可能是有问题的,因为抽象的方面通常是手动的和特定于领域的,抽象算法可能会错过游戏的重要战略细微差别,并且存在鸡和蛋的问题,因为确定一个好的抽象需要了解游戏的均衡。本文介绍了深度反事实遗憾最小化,CFR的一种形式,避免了抽象的需要,而是使用深度神经网络近似CFR在整个游戏中的行为。我们表明,深CFR是原则性的,并在大型扑克游戏中取得了很好的表现。这是CFR的第一个非表格变体在大型游戏中获得成功。
2019-05-22 cs.AI cs.GT cs.LG
The Digital Twin Counterfactual Framework: A Validation Architecture for Simulated Potential Outcomes
本文提出数字双胞胎反事实框架,通过模拟而非统计估计反事实,建立分层验证体系,区分可验证的边际因果量与依赖不可观测结构的copula依赖量,提升因果推断的可检验性。
2026-04-01 cs.AI stat.ME
Generative Counterfactual Introspection for Explainable Deep Learning
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
在这项工作中,我们提出了一种用于深度神经网络的内省技术,该技术依赖于生成模型来煽动对输入图像进行显着编辑以进行模型解释。这种修改提供了基本的干预操作,使我们能够获得反事实调查的答案,即,可以对输入图像进行什么有意义的改变以改变预测。我们演示了如何通过利用MNIST和CelebA数据集上提出的内省方法来揭示给定分类器的有趣特性。
2019-07-06 cs.AI cs.CV cs.LG
Unlocking the potential of deep learning for marine ecology: overview, applications, and outlook
Centre for Artificial Intelligence Research, University of Agder(Agder大学人工智能研究中心);Institute of Marine Research(海洋研究所);Top Research Centre Mechatronics, University of Agder(Agder大学顶级机电一体化研究中心);Center for Coastal Research, University of Agder(Agder大学海岸研究中心);Center for Ecological and Evolutionary Synthesis, University of Oslo(奥斯陆大学生态与进化综合中心)
深度学习革命正在触及所有科学学科和我们生活的角落,作为利用大数据力量的一种手段。海洋生态也不例外。这些新方法提供了对来自传感器、摄像机和声学记录器的数据的分析,即使是实时的,也是以可再现和快速的方式。现成的算法可以从数字图像或视频中找到,计数和分类物种,并检测噪声数据中的隐藏模式。利用这些机会需要跨生态和数据科学学科的合作,这可能具有挑战性。为了促进这些合作,并促进使用深度学习对基于生态系统的海洋管理,本文旨在弥合海洋生态学家和计算机科学家之间的差距。我们提供了流行的生态数据分析的深度学习方法的见解,重点是监督学习与深度神经网络的技术,并通过深度学习海洋生态学的既定和新兴应用说明挑战和机遇。我们使用的浮游生物,鱼类,海洋哺乳动物,污染和营养循环,涉及目标检测,分类,跟踪和分割的可视化数据建立和前瞻性的案例研究。最后,我们展望了该领域的机遇和挑战,包括潜在的技术进步和管理复杂数据集的问题。
2021-09-29 cs.AI cs.CV cs.LG
Tabular Diffusion based Actionable Counterfactual Explanations for Network Intrusion Detection
University of Western Ontario(西安大略大学)
针对网络入侵检测中黑箱模型解释难以转化为对策的问题,提出基于表格扩散的反事实解释框架,可高效生成最小、多样且可归纳为全局防御规则的可行动解释。
2025-07-23 cs.AI cs.LG
Counterfactual Explanations for Deep Two-Sample Testing
Hasso-Plattner-Institute, University of Potsdam(波茨坦大学洪堡-劳恩堡研究所);Hasso Plattner Institute for Digital Health at Mount Sinai Icahn School of Medicine at Mount Sinai(辛辛那提医学院洪堡数字健康研究所)
针对深度双样本检验,提出基于扩散自编码器和MMD优化的反事实解释框架,生成样本级编辑以揭示驱动假设拒绝的特征。
2026-06-12 cs.AI cs.LG stat.ML
SAFE-RL: Saliency-Aware Counterfactual Explainer for Deep Reinforcement Learning Policies
WMG at the University of Warwick(华威大学WMG学院)
针对深度强化学习策略在高维视觉输入和时间依赖性下难以生成反事实解释的问题,提出SAFE-RL框架,利用显著性图识别关键像素并驱动深度生成模型,生成更合理且信息丰富的反事实解释。
2024-04-28 cs.AI cs.LG
Single Deep Counterfactual Regret Minimization
University of Cambridge(剑桥大学)
反事实后悔最小化(CFR)算法是求解不完全信息博弈近似纳什均衡的最成功的算法。然而,CFR对完整游戏树遍历的依赖限制了其可扩展性。出于这个原因,游戏的状态和动作空间通常被抽象(即简化)为CFR,然后将所产生的策略转换回完整的游戏,这需要广泛的专业知识,并且通常会收敛到高度可利用的策略。最近提出的一种方法,深度CFR,将深度学习直接应用于CFR,允许代理从样本中内在地抽象和概括状态空间,而不需要专业知识。在本文中,我们介绍了单深度CFR(SD-CFR),这是深度CFR的简化变体,通过避免训练平均策略网络,具有较低的总体近似误差。我们表明,SD-CFR是更有吸引力的从理论的角度来看,经验上优于深CFR方面的可利用性和一对一的发挥扑克。
2019-10-04 cs.AI cs.GT cs.LG
Marco DeepResearch: Unlocking Efficient Deep Research Agents via Verification-Centric Design
Alibaba International Digital Commerce(阿里巴巴国际数字商业集团)
本文提出Marco DeepResearch,通过在问题生成、轨迹构建和测试阶段引入验证机制,提升深度研究代理在长周期任务中的性能,实验表明其在BrowseComp等基准测试中表现优异。
2026-03-30 cs.AI cs.CL
Deep (Predictive) Discounted Counterfactual Regret Minimization
针对现有方法难以整合先进CFR变体的问题,提出一种无模型神经CFR算法,通过方差降低采样、引导拟合累积优势及模拟先进变体更新机制,实现更快收敛与更强对抗性能。
2025-11-11 cs.AI cs.GT cs.LG
Benchmarking Counterfactual Interpretability in Deep Learning Models for Time Series Classification
University of California, Davis(加州大学戴维斯分校)
本研究针对时间序列领域反事实(CF)解释方法缺乏基准测试的问题,重新设计稀疏性与合理性等定量指标并引入一致性新指标,在20个单变量和10个多变量数据集上系统评估6种CF方法,揭示了性能差异并提供了实用指南。
2024-10-10 cs.AI cs.LG stat.ML
Competitive Multi-Agent Deep Reinforcement Learning with Counterfactual Thinking
Central University of Finance and Economics(中央财经大学);iFLYTEK(科大讯飞);Zhejiang University(浙江大学);Amazon(亚马逊);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
反事实思维是指人们对已经发生的事情用不同的解决方案重新推断可能的结果的心理现象。它帮助人们从错误中获得更多的经验,从而在未来类似的任务中表现得更好。本文研究了在多智能体强化学习环境中智能体寻找最优决策策略的反事实思维。特别是,我们提出了一个多智能体深度强化学习模型,其结构模仿人类心理的反事实思维过程,以提高智能体的竞争能力。为此,我们的模型生成了几个可能的行动(意图行动)与一个并行的政策结构,并估计这些意图行动的奖励和遗憾的基础上,其当前的理解环境。我们的模型采用了一个基于ESTA的框架,将估计的遗憾与其内部政策联系起来。在迭代过程中,我们的模型更新的并行策略和相应的基于代理的遗憾。为了验证我们提出的模型的有效性,我们进行了广泛的实验,在两个不同的环境与现实世界的应用程序。实验结果表明,反事实思维实际上可以使智能体在保持高执行效率的同时,通过与对手进行比较,从公平信息的环境中获得更多的累积奖励。
2019-08-16 cs.AI cs.LG cs.MA
Strategic Counterfactual Modeling of Deep-Target Airstrike Systems via Intervention-Aware Spatio-Causal Graph Networks
Dhurakij Pundit University(泰国易三仓大学);The University of Western Australia(西澳大利亚大学);Association for Computing Machinery(美国计算机协会);Royal Anthropological Institute(皇家人类学学会)
本文提出IA-STGNN框架,通过图注意力、反事实仿真和空间干预节点重构闭合战术打击到战略延迟的因果回路,在MAE和Top-5%准确率上显著优于基线模型,为高层政策建模提供可解释的AI决策支持。
2025-06-30 cs.AI cs.LG
D2CFR: Minimize Counterfactual Regret with Deep Dueling Neural Network
Harbin Institute of Technology(哈尔滨工业大学)
反事实后悔最小化(CFR)是求解不完全信息下二人零和博弈近似纳什均衡的一种常用方法。CFR通过迭代遍历整个游戏树来解决游戏,这限制了其在大型游戏中的可扩展性。以往将CFR用于求解大型对策时,都是先将大型对策抽象为小规模对策。其次,采用CFR算法求解抽象博弈。最后,将求解策略映射回原大规模博弈。然而,这个过程需要相当多的专家知识,抽象的准确性与专家知识密切相关。此外,抽象也丢失了某些信息,这最终会影响求解策略的准确性。针对这个问题,最近的方法,\textit{Deep CFR}通过将深度神经网络直接应用于完整游戏中的CFR来简化对抽象和专家知识的需求。在本文中,我们介绍了\textit{Neural Network Counterfactual Regret Minimization (NNCFR)},一个改进的变体\textit{Deep CFR},具有更快的收敛速度,通过构建一个决斗的网络作为价值网络。同时,将价值网络与蒙特卡罗方法相结合,设计了评价模块,减小了价值网络的近似误差。另外,在\textit{NNCFR}中,在策略网络的训练过程中设计了一个新的损失函数,使策略网络更加稳定。大量的实验测试表明,\textit{NNCFR}比\textit{Deep CFR}收敛更快,性能更稳定,在测试游戏的可利用性和头对头性能方面优于\textit{Deep CFR}。
2022-01-03 cs.AI
Born Identity Network: Multi-way Counterfactual Map Generation to Explain a Classifier's Decision
Korea University(高丽大学)
深度学习模型的性能和可解释性之间存在明显的负相关。为了减少这种负相关性,我们提出了一个天生的身份网络(BIN),这是一个事后的方法来产生多路反事实地图。反事实映射将输入样本转换为条件并分类为目标标签,这类似于人类如何通过反事实思维处理知识。例如,反事实映射可以从正常的大脑图像中定位假设的异常,这可能导致它被诊断患有疾病。具体来说,我们提出的BIN由两个核心组件组成:反事实地图生成器和目标归因网络。反事实地图生成器是条件GAN的一个变体,它可以合成一个以任意目标标签为条件的反事实地图。目标属性网络通过将目标标签调节到反事实地图生成器中来为生成合成地图提供足够的帮助。我们已经验证了我们提出的BIN在定性和定量分析MNIST,3D EQUIPMENT,和ADNI数据集,并显示了我们的方法从各种消融研究的可理解性和保真度。
2021-04-08 cs.AI cs.CV cs.LG
Unlocking Feature Visualization for Deeper Networks with MAgnitude Constrained Optimization
Artificial and Natural Intelligence Toulouse Institute(图卢兹人工与自然智能研究所);Innovation & Research Division, SNCF(法国国家铁路公司创新与研究部);Institut de Recherche Technologique Saint-Exupery(圣埃克苏佩里技术研究院);Carney Institute for Brain Science, Brown University(布朗大学卡尼脑科学研究所);ELLIS Alicante(欧洲学习与智能系统研究所阿利坎特分部)
针对特征可视化因依赖生成技巧和难扩展至深层网络而受限的问题,提出MACO方法,通过固定幅度谱优化相位谱生成自然图像空间的解释,在新基准上验证其定性定量效果更优,还能通过归因机制增强空间重要性,首次解锁大型先进深层网络的特征可视化。
2024-12-10 cs.AI cs.CV
CausaLM: Causal Model Explanation Through Counterfactual Language Models
Technion(以色列理工学院)
众所周知,理解深度神经网络做出的预测是非常困难的,但对它们的传播也至关重要。与所有基于机器学习的方法一样,它们与它们的训练数据一样好,并且还可以捕获不必要的偏差。虽然有一些工具可以帮助理解这种偏见是否存在,但它们不能区分相关性和因果关系,并且可能不适合基于文本的模型和关于高级语言概念的推理。一个关键的问题,估计的因果关系的一个给定的模型上的概念的兴趣是,这种估计需要生成反事实的例子,这是具有挑战性的与现有的生成技术。为了弥合这一差距,我们提出了CausaLM,一个框架,用于使用反事实语言表示模型产生因果模型解释。我们的方法是基于对深度情境化嵌入模型的微调,其中辅助对抗任务来自问题的因果图。具体地说,我们表明,通过仔细选择辅助对抗性预训练任务,语言表示模型,如BERT,可以有效地学习一个反事实表示为一个给定的概念的兴趣,并用于估计其真正的因果关系对模型性能的影响。我们方法的副产品是一个不受测试概念影响的语言表示模型,这对于减轻数据中根深蒂固的不必要的偏见很有用。
2022-11-12 cs.AI cs.CL cs.LG
Unlocking Telemetry Potential: Self-Supervised Learning for Continuous Clinical Electrocardiogram Monitoring
Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院)
本文提出利用自监督学习在约147,000小时ECG遥测数据上预训练深度网络,显著提升了四个下游任务性能,并实现对连续ECG信号的自动标注,克服了标签稀缺与专业标注耗时的限制。
2024-06-07 cs.AI cs.CY cs.LG
Zero Token-Driven Deep Thinking in LLMs: Unlocking the Full Potential of Existing Parameters via Cyclic Refinement
Tsinghua University(清华大学);Southern University of Science and Technology(南方科技大学);Sun Yat-sen University(中山大学)
针对资源限制下LLM参数量不足的问题,提出零标记Transformer(ZTT),通过头尾解耦的参数循环与零标记机制优化中间层计算并实现动态提前退出,在有限参数预算下提升性能、降低开销且增强适应性。
2025-02-17 cs.AI cs.CL
A Quantitatively Interpretable Model for Alzheimer's Disease Prediction Using Deep Counterfactuals
Korea University(高丽大学);Chosun University(朝鲜大学);Korea Brain Research Institute(韩国脑研究院)
该研究提出一种基于深度反事实的阿尔茨海默病预测定量可解释框架,通过合成反事实结构MRI、构建灰质密度图谱量化ROI体积变化,结合轻量线性分类器实现与深度学习相当的性能并输出ROI的AD相关性指数。
2023-10-05 cs.AI eess.IV
Generating Plausible Counterfactual Explanations for Deep Transformers in Financial Text Classification
Insight Centre ,University College Dublin(都柏林大学洞察中心);University of Wollongong(卧龙岗大学);The Hong Kong University of Science and Technology(香港科技大学)
企业并购(M&A)每年在全球范围内占数十亿美元的投资,并为人工智能提供了一个有趣且具有挑战性的领域。然而,在这些高度敏感的领域,不仅要有一个高度鲁棒和准确的模型,而且要能够生成有用的解释,以获得用户对自动化系统的信任,这一点至关重要。令人遗憾的是,最近关于金融文本分类中的可解释AI(XAI)的研究几乎没有受到关注,并且许多当前用于生成基于文本的解释的方法导致非常不可信的解释,这损害了用户对系统的信任。为了解决这些问题,本文提出了一种新的方法,用于产生合理的反事实解释,同时探索在金融科技领域对语言模型进行对抗性训练的正则化好处。详尽的定量实验表明,这种方法不仅提高了模型的准确性相比,目前的最先进的和人类的表现,但它也产生反事实的解释,这是显着更合理的基础上,人体试验。
2020-10-23 cs.AI cs.CL
From Identifiable Causal Representations to Controllable Counterfactual Generation: A Survey on Causal Generative Modeling
University of Arkansas(阿肯色大学);Clemson University(克莱姆森大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本综述系统梳理因果生成建模,涵盖因果表征学习与可控反事实生成,并探讨其理论、方法、应用及未来方向。
2024-05-23 cs.AI cs.LG stat.ML
A generalizable framework for unlocking missing reactions in genome-scale metabolic networks using deep learning
University of South Carolina(南卡罗来纳大学);Central South University(中南大学);Peking University(北京大学);Yangtze Delta Region Institute, University of Electronic Science and Technology of China(电子科技大学长三角研究院);National Technology Innovation Center of Synthetic Biology(国家合成生物技术创新中心);Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
研究提出深度学习工具CLOSEgaps,将补缺问题建模为超图中的超边预测问题,通过学习超拓扑特征识别缺失反应,在多种GEMs中准确填补超96%缺口并显著提升表型预测和代谢物生产能力。
2024-09-20 cs.AI q-bio.MN
Unlocking Visual Secrets: Inverting Features with Diffusion Priors for Image Reconstruction
New York University(纽约大学);Meta Research(元研究部门);NVidia Research(英伟达研究部门)
本研究利用扩散模型作为先验,结合文本提示与跨帧相关性,提升DNN特征反演质量,实现更优的图像重建,为隐私安全提供新思路。
2024-12-11 cs.AI cs.CV
From Intrinsic to Counterfactual: On the Explainability of Contextualized Recommender Systems
University of Illinois Urbana Champaign(伊利诺伊大学香槟分校);Instacart
随着基于深度学习的嵌入方法的流行,推荐系统已经成为各种信息过滤应用中被证明的和不可或缺的工具。然而,他们中的许多人仍然很难诊断深层模型输入的哪些方面驱动最终的排名决定,因此,他们通常不能被人类利益相关者理解。在本文中,我们研究了推荐和可解释性之间的困境,并表明通过利用上下文特征(例如,用户的项目评论),我们可以设计一系列可解释的推荐系统,而不会牺牲它们的性能。特别是,我们提出了三种类型的可解释的推荐策略模型的透明度逐渐变化:白盒,灰盒和黑盒。每种策略都通过不同的机制来解释其排名决策:注意力权重,对抗性扰动和反事实扰动。我们将这些可解释的模型应用于五个真实世界的数据集的上下文环境下,用户和项目有明确的互动。实证结果表明,我们的模型实现了极具竞争力的排名性能,并在众多的定量指标和定性可视化方面产生了准确有效的解释。
2021-10-28 cs.AI cs.IR
AI-Driven Sentiment Analytics: Unlocking Business Value in the E-Commerce Landscape
University of California, Santa Cruz, CA, USA(加州大学圣克鲁兹分校)
本文提出一种结合传统机器学习与深度学习的AI驱动电子商务情感分析系统,在准确性与可解释性间取得平衡,实验准确率达89.7%,实际部署有效提升了客户参与度与运营效率。
2025-06-25 cs.AI cs.IR
Robust Deep Monte Carlo Counterfactual Regret Minimization: Addressing Theoretical Risks in Neural Fictitious Self-Play
本文提出鲁棒深度MCCFR框架,通过自适应组件部署提升大规模博弈的对抗性能,实验显示在Kuhn和Leduc扑克中取得显著改进。
2026-01-28 cs.AI cs.GT stat.ML
Unlocking the Potential of Metaverse in Innovative and Immersive Digital Health
Ayandegan Institute of Higher Education(阿扬德甘高等教育学院)
本文介绍元宇宙在数字健康中的基础概念与技术,分析其在医疗场景中的优缺点,并探讨机器学习、区块链及隐私问题对未来医疗服务交付的变革潜力。
2024-07-04 cs.AI cs.CY cs.IR