Explainable Fraud Detection with GNNExplainer and Shapley Values
National University of Singapore（新加坡国立大学）
本文针对金融欺诈风险增加及AI欺诈检测系统透明度标准提高的挑战，提出开发一种可解释的欺诈检测器，以提供简洁易懂的解释辅助欺诈调查。
2025-09-12 cs.LG
SEFraud: Graph-based Self-Explainable Fraud Detection via Interpretative Mask Learning
Huawei Inc（华为公司）；Peking University（北京大学）；ICBC Limited（中国工商银行股份有限公司）
本文提出SEFraud框架，通过带可学习特征与边掩码的异构图Transformer及三元组损失，同时实现欺诈检测与自解释，并在多数据集和工商银行生产环境验证有效。
2024-06-17 cs.LG
Financial Fraud Detection Using Explainable AI and Stacking Ensemble Methods
Computer Science Department, College of Computers and Information Technology, Taif University（计算机科学系，计算机与信息科技学院，泰夫大学）；Department of Computer Science, Taif University（计算机科学系，泰夫大学）
本文提出融合 XGBoost、LightGBM、CatBoost 的堆叠集成框架，并结合 SHAP、LIME、PDP 和 PFI 提升可解释性，在 IEEE-CIS 数据集上实现99%准确率与0.99 AUC-ROC。
2025-05-15 cs.AI cs.LG
Operational Evidence Gaps for LLMs in Fraud Detection and Trust-and-Safety Workflows
研究LLMs用于欺诈检测等信任与安全工作流程时的操作证据差距。通过对相关操作源编码调查发现证据失衡，欺诈任务部分大但缺乏关键证据。贡献了FORTE框架和部署证据清单，确定支持LLMs部署所需研究。
2026-07-16 cs.AI cs.CR cs.LG
Evaluating the Efficacy of Instance Incremental vs. Batch Learning in Delayed Label Environments: An Empirical Study on Tabular Data Streaming for Fraud Detection
Sorbonne Paris Nord University（巴黎北大学）；Paris-Saclay University（巴黎萨克雷大学）；Groupe BPCE（BPCE集团）
针对延迟标签场景下实例增量学习是否最优的未深入研究问题，基于真实欺诈检测任务与生成数据集开展实证评估，发现实例增量学习在性能上不及批量学习模型，且批量增量方案可解释性更优。
2024-09-16 cs.CE cs.LG cs.NE
Financial Fraud Identification and Interpretability Study for Listed Companies Based on Convolutional Neural Network
本文提出基于CNN的上市公司财务欺诈检测框架，通过图像化特征工程提升预测准确性和可解释性，实验表明其在准确率和预警性能上优于传统方法。
2025-12-10 cs.AI cs.CV cs.LG
TimeTrail: Unveiling Financial Fraud Patterns through Temporal Correlation Analysis
本研究提出金融欺诈检测技术TimeTrail，通过时间数据丰富化、动态相关性分析、可解释可视化三阶段，挖掘欺诈的时间关联模式，在准确性和可解释性上优于传统方法，具备实际应用价值。
2023-08-27 cs.LG q-fin.ST
SCFCRC: Simultaneously Counteract Feature Camouflage and Relation Camouflage for Fraud Detection
Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；Zhengzhou Esunny Information Technology Co., Ltd.（郑州易阳信息技术有限公司）；MeiTuan（美团）
针对欺诈检测中特征与关系伪装问题，提出基于Transformer的SCFCRC方法，通过特征伪装过滤器与关系伪装精炼器同时对抗两类伪装，并在两个基准数据集上超越现有最先进方法。
2025-01-21 cs.AI cs.LG
Utilizing GANs for Fraud Detection: Model Training with Synthetic Transaction Data
Miami University（迈阿密大学）；Northern Arizona University（北亚利桑那大学）；Northeastern University（东北大学）；University of Southern California（南加州大学）；Virginia Tech（弗吉尼亚理工大学）
本文探讨了生成对抗网络（GANs）在欺诈检测中的应用，通过构建对抗性验证图和虚假人脸验证码系统，有效防止自动化欺诈并增强交易过程的安全性。
2024-02-15 cs.AI cs.CE cs.LG
Weakly Supervised Multi-task Learning for Concept-based Explainability
Feedzai
在ML辅助决策任务中，例如欺诈检测或医疗诊断，通常是没有技术ML知识的领域专家，更喜欢基于概念的高级解释，而不是基于模型特征的低级解释。为了获得忠实的基于概念的解释，我们利用多任务学习来训练一个神经网络，该神经网络联合学习以基于先前可解释性任务的预测来预测决策任务（即，多标签概念）。有两个主要的挑战需要克服：概念标签稀缺和联合学习。为了解决这两个问题，我们建议：i）使用专家规则来生成一个大型的噪声概念标签数据集，ii）应用两种不同的多任务学习策略，结合噪声和黄金标签。我们将这些策略与现实世界中的欺诈检测应用程序中的完全监督方法进行比较，其中很少有可用于可解释性任务的黄金标签。在可解释性和决策任务分别提高了9.26%和417.8%，我们的研究结果表明，通过结合异质质量的标签，可以提高这两项任务的性能。
2021-04-26 cs.AI cs.LG
Shapley Value-Guided Adaptive Ensemble Learning for Explainable Financial Fraud Detection with U.S. Regulatory Compliance Validation
Westcliff University（韦斯特克莱夫大学）
本文提出Shapley值引导的自适应集成学习方法，通过评估解释质量与稳定性，提升金融欺诈检测的可解释性并满足监管要求。
2026-04-14 cs.AI cs.LG cs.NE
Understanding Structured Financial Data with LLMs: A Case Study on Fraud Detection
The Ohio State University（俄亥俄州立大学）；Coinbase, Inc.（Coinbase公司）
本文提出FinFRE-RAG方法，通过特征缩减和检索增强学习提升欺诈检测性能，优于直接提示方法并在某些设置中与传统模型竞争。
2026-04-08 cs.CL cs.LG
ChequeMark: An Ensemble Machine Learning Framework for After-Hours Business Deposit Fraud Detection
Royal Bank of Canada（加拿大皇家银行）
针对非工作时段商业存款的支票欺诈风险，ChequeMark多视图集成ML框架结合XGBoost、Isolation Forest与GraphSAGE生成客户风险评分，在分布偏移场景下性能优于单一模型，提升了鲁棒性与可解释性。
2026-08-25 cs.LG
Modeling the Field Value Variations and Field Interactions Simultaneously for Fraud Detection
University of Chinese Academy of Sciences（中国科学院大学）；Alipay (Hangzhou) Information & Technology Co., Ltd.（支付宝（杭州）信息技术有限公司）
随着电子商务的爆发式增长，网络交易欺诈已成为电商平台面临的最大挑战之一。用户的历史行为为挖掘用户的欺诈风险提供了丰富的信息。虽然在这方面已经做出了相当大的努力，但长期存在的挑战是如何有效地利用内部用户信息并提供可解释的预测结果。事实上，不同事件中同一字段的值变化以及同一事件中不同字段的相互作用已被证明是欺诈行为的强指标。在本文中，我们提出了双重重要性意识的因式分解机（DIFM），它从双重角度利用用户行为序列中的内部字段信息，即，字段值变化和字段交互同时用于欺诈检测。该模型被部署在世界上最大的电子商务平台之一的风险管理系统中，利用它来提供实时交易欺诈检测。在该平台上对来自不同地区的真实工业数据进行的实验结果清楚地表明，与各种最先进的基线模型相比，我们的模型实现了显着的改进。此外，DIFM还可以从双重角度对预测结果进行解释。
2021-05-20 cs.CR cs.LG
A Case Study on Designing Evaluations of ML Explanations with Simulated User Studies
Carnegie Mellon University（卡内基梅隆大学）；Feedzai
在进行用户研究以确定模型解释在帮助人类决策方面的有用性时，使用真实世界的用例、数据和用户是很重要的。然而，这一过程可能是资源密集型的，只允许有限数量的解释方法进行评估。模拟用户评估（SimEvals），它使用机器学习模型作为人类用户的代理，已被提出作为一个中间步骤，以选择有前途的解释方法。在这项工作中，我们进行了第一个SimEvals的真实世界的用例，以评估是否解释可以更好地支持ML辅助决策的电子商务欺诈检测。我们研究SimEvals是否可以证实在这种欺诈检测背景下进行的用户研究的结果。特别是，我们发现SimEvals表明，所有考虑的解释者都是同样的表现，没有人在没有解释的情况下击败基线-这与原始用户研究的结论相匹配。我们的结果和原始用户研究之间的这种对应关系为在运行用户研究之前使用SimEvals提供了初步证据。我们还探讨了使用SimEvals作为一个廉价的代理，探索一种替代的用户研究设置。我们希望这项工作能够推动进一步研究何时以及如何使用SimEvals来帮助设计真实世界的评估。
2023-03-20 cs.HC cs.LG
AuditCopilot: Leveraging LLMs for Fraud Detection in Double-Entry Bookkeeping
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Oldenburg University（奥尔登堡大学）；Saarland University（萨尔兰州立大学）
AuditCopilot利用大语言模型在复式记账中检测欺诈，优于传统方法并提供自然语言解释，提升审计的可解释性和效率。
2025-12-02 cs.AI
A Dual-Path Generative Framework for Zero-Day Fraud Detection in Banking Systems
Mugla Sitki Kocman University（穆尔加-西提-科曼大学）
本文提出双路径生成框架，结合VAE和WGAN-GP处理银行系统中低延迟欺诈检测与GDPR解释性的矛盾，通过生成真实交易曼 folds 和高熵欺诈场景提升检测性能。
2026-02-17 cs.AI cs.CR
Deep Semi-Supervised Anomaly Detection for Finding Fraud in the Futures Market
Université de Montréal（蒙特利尔大学）；TMX Group（TMX集团）
本研究评估深度半监督异常检测方法Deep SAD在期货市场高频数据欺诈检测中的效果，利用TMX交易所专有数据，证明少量标记数据能显著提升无监督异常检测的准确性。
2023-08-31 cs.LG q-fin.RM
Automatic Model Monitoring for Data Streams
Feedzai（Feedzai公司）
检测概念漂移是影响生产系统的一个众所周知的问题。然而，文献中经常没有解决的两个重要问题是：1）当标签不能立即获得时检测漂移;以及2）自动生成解释以识别漂移的可能原因。例如，在线支付中的欺诈检测模型可能会在标签可用之前显示出由于热销商品（误报增加）或由于真正的欺诈攻击（误报增加）而导致的漂移。在本文中，我们提出了SAMM，自动模型监测系统的数据流。SAMM使用时空高效的无监督流算法检测概念漂移，并生成警报报告，其中包含对解释它很重要的事件和特征的摘要。SAMM在五个真实世界的欺诈检测数据集中进行了评估，每个数据集的时间跨度长达八个月，总计超过2200万笔在线交易。我们通过向领域专家发送100份系统生成的报告，使用领域专家的人工反馈对SAMM进行了评估。我们的研究结果表明，SAMM是能够检测异常事件的模型生存周期，被认为是有用的领域专家。鉴于这些结果，SAMM将在Feedzai的欺诈检测解决方案的下一个版本中推出。
2019-08-12 cs.LG stat.ML
Inductive inference of gradient-boosted decision trees on graphs for insurance fraud detection
Data Office, Allianz Benelux（Allianz Benelux 数据办公室）；KU Leuven University of Antwerp-imec（安特卫普-imec 联合大学KU Leuven）；KU Leuven；University of Antwerp-imec（安特卫普-imec 大学）
本文提出一种新型的归纳图梯度提升机G-GBM，用于处理异构和动态图的监督学习，通过结合梯度提升的类别不平衡鲁棒性和可解释的路径级特征拼接，提升保险欺诈检测性能。
2026-05-15 cs.LG cs.SI
HitFraud: A Broad Learning Approach for Collective Fraud Detection in Heterogeneous Information Networks
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Electronic Arts（艺电公司）；Tsinghua University（清华大学）
在电子游戏平台上，不同的支付交易具有不同的风险水平。电子商务中的数字商品风险通常较高。然而，它根据产品及其受欢迎程度，提供类型（打包游戏，游戏或订阅服务的虚拟货币），店面和地理位置而有所不同。现有的欺诈策略和模型根据交易属性、支付速度、用户特征和其他相关信息为每笔交易独立做出决策。然而，可疑交易仍然可能逃避检测，因此我们提出了一种广泛的学习方法，利用基于图的视角来揭示可疑交易之间的关系，即，事务间依赖性。我们的重点是通过捕捉孤立考虑时不会被视为可疑的常见欺诈行为来检测可疑交易。在本文中，我们提出了HitFraud，利用异构信息网络的集体欺诈检测，探索相关的和快速发展的欺诈行为。首先，设计了一个异构信息网络，通过不同的语义将事务数据库中感兴趣的实体链接起来。然后，图为基础的功能，有效地发现从网络利用元路径的概念，并作出集体对欺诈的测试实例的决定。在Electronic Arts真实支付交易数据上的实验表明，HitFraud具有快速收敛性，有效地提高了预测性能，其中基于元路径的特征的计算得到了极大的优化。值得注意的是，与基线相比，召回率可以提高7.93%，F分数提高4.62%。
2017-09-19 cs.CR cs.LG
Who Audits the Auditor? Tamper-Proof Fraud Detection with Blockchain-Anchored Explainable ML
Viterbi School of Engineering（维特比工程学院）；University of Southern California（南加州大学）；Los Angeles, CA, USA（美国加利福尼亚州洛杉矶）
本文提出一种基于区块链的欺诈检测系统，通过智能合约确保审批流程的不可篡改性，提升审计可追溯性与监管合规性。
2026-04-23 cs.CR cs.LG cs.SE
DTOR: Decision Tree Outlier Regressor to explain anomalies
Intesa Sanpaolo（裕信银行）
针对复杂机器学习异常检测模型解释难的问题，提出决策树异常值回归器DTOR，通过决策树回归估计异常分数并提取路径生成规则解释，鲁棒性强、规则匹配度高，性能与Anchors相当且速度更快。
2024-05-12 cs.AI cs.LG stat.ML
Sequential Feature Explanations for Anomaly Detection
Oregon State University（俄勒冈州立大学）
在许多应用中，异常检测系统将最异常的数据实例呈现给人类分析师，然后人类分析师必须确定该实例是否真正感兴趣（例如，安全设置中的威胁）。不幸的是，大多数异常检测器都没有解释为什么一个实例被认为是异常的，这使得分析师无法指导从哪里开始调查。为了解决这个问题，我们研究了计算和评估异常检测器的序列特征解释（SFE）的问题。异常的SFE是一系列特征，这些特征一次一个地（按顺序）呈现给分析员，直到突出显示的特征中包含的信息足以让分析员对异常做出有信心的判断。由于分析师的努力与他们在调查中考虑的信息量有关，因此解释的质量与必须揭示以获得信心的特征的数量有关。我们的主要贡献之一是提出了一个新的框架，大规模的定量评估的SFE，质量措施是基于分析师的努力。为此，我们根据真实数据集以及可以模拟进行评估的人工专家构建异常检测基准。我们的第二个贡献是评估框架内的几种新的解释方法和传统的异常检测基准，提供了一些见解的方法。
2015-02-28 cs.AI cs.LG stat.ML
Explainable AI for Fraud Detection: An Attention-Based Ensemble of CNNs, GNNs, and A Confidence-Driven Gating Mechanism
University of Tehran（德黑兰大学）；University of Waterloo（滑铁卢大学）；Sejong University（世宗大学）
针对信用卡欺诈检测，提出一种结合CNN、RNN、GNN、LSTM的注意力集成与置信度门控机制，并用SHAP提升可解释性，在三个数据集上取得高准确率与稳健泛化。
2025-02-22 cs.LG q-fin.RM
ATM Fraud Detection using Streaming Data Analytics
Institute for Development and Research in Banking Technology（银行技术发展研究院）；Center for Development of Advanced Computing（先进计算发展中心）
赢得客户的信任和信心是金融机构和组织成长和成功的关键。最近，金融业受到许多欺诈活动的严重影响。此外，由于大量数据集的生成，底层框架是可扩展的并且满足实时的需求是非常必要的。为了解决这个问题，在研究中，我们分别提出了静态和流媒体背景下的ATM欺诈检测。在静态环境中，我们研究了一种用于ATM欺诈检测的并行和可扩展的机器学习算法，该算法构建在Spark上，并使用各种机器学习（ML）模型进行训练，包括朴素贝叶斯（NB），逻辑回归（LR），支持向量机（SVM），决策树（DT），随机森林（RF），梯度提升树（GBT）和多层感知器（MLP）。我们还采用了几种平衡技术，如合成少数过采样技术（SMOTE）及其变体，生成对抗网络（GAN），以解决数据集中的稀有性。此外，我们提出了一种基于流媒体的ATM欺诈检测方法。我们的基于滑动窗口的方法收集在指定时间间隔内执行的ATM交易，然后利用训练几个ML模型，包括NB，RF，DT和K-最近邻（KNN）。我们选择这些模型是基于它们较低的模型复杂性和较快的响应时间。在这两种情况下，RF被证明是最好的模式。RF在静态环境中获得了0.975的最佳平均AUC，在流式环境中获得了0.910的平均AUC。RF也被经验证明比下一个最佳性能模型具有统计学显著性。
2023-03-08 cs.DC cs.LG
A Workflow for Visual Diagnostics of Binary Classifiers using Instance-Level Explanations
NYU Tandon School of Engineering（纽约大学坦登工程学院）；Pacific Northwest National Laboratory（太平洋西北国家实验室）；NYU School of Medicine（纽约大学医学院）
人在环数据分析应用程序需要机器学习模型具有更高的透明度，以便专家理解和信任他们的决策。为此，我们提出了一个可视化分析工作流程，以帮助数据科学家和领域专家探索、诊断和理解二元分类器做出的决策。该方法利用“实例级解释”，解释单个实例的本地功能相关性的措施，并使用它们来构建一组视觉表示，引导用户在他们的调查。该工作流程基于三个主要的可视化表示和步骤：一个基于汇总统计数据，以查看数据如何分布在正确/不正确的决策中;一个基于解释，以了解哪些特征用于做出这些决策;一个基于原始数据，以获得对观察到的模式的潜在根本原因的见解。该工作流程源自与一组机器学习和医疗保健专业人员的长期合作，他们使用我们的方法来理解他们开发的机器学习模型。该合作的案例研究表明，所提出的工作流程可以帮助专家获得有关模型及其所描述的现象的有用知识，从而专家可以生成有关如何改进模型的有用假设。
2017-10-01 cs.AI stat.ML
FRACTION: Fraud Explanation Generation via Agentic Graph Context Navigation
ByteDance Inc.（字节跳动公司）
本文提出FRACTION框架，通过配备图工具的智能体结合rubric引导的轨迹蒸馏策略，解决图欺诈解释生成的评估与信息粒度问题，在三个欺诈数据集上优于现有最优基线。
2026-10-14 cs.LG
From Accuracy to Auditability: A Survey of Determinism in Financial AI Systems
本文从系统视角综述了金融AI中表格模型、图网络和基于LLM的智能体工作流三种模态的不可重现性问题，通过实验量化了确定性指标并提出了分层评估框架。
2026-08-28 cs.AI cs.DC cs.LG
Local Multi-Label Explanations for Random Forest
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
多标签分类是一项具有挑战性的任务，特别是在要预测的标签数量很大的领域。深度神经网络通常在图像和文本数据的多标签分类方面是有效的。然而，在处理表格数据时，传统的机器学习算法（如树集成）似乎优于竞争对手。随机森林作为一种流行的集成算法，已被广泛应用于现实世界的问题。这些问题包括金融领域的欺诈检测，法律领域的犯罪热点检测，以及在生物医学领域，当患者记录可访问时的疾病概率预测。由于它们对人们的生活产生影响，这些领域通常要求决策系统是可解释的。随机森林在此属性上有所欠缺，特别是当使用大量树预测器时。这个问题在最近一项名为LionForests的研究中得到了解决，该研究涉及单标签分类和回归。在这项工作中，我们适应这种技术的多标签分类问题，通过采用三种不同的策略，解释涵盖的标签。最后，我们提供了一组定性和定量的实验来评估这种方法的有效性。
2022-07-05 cs.AI cs.LG
Does Explainability Survive Data Drift?
本文研究数据漂移下解释保真度是否衰减，发现协变量漂移存在但概念漂移不显著，旧解释不如新解释忠实，需单独监控解释保真度。
2026-10-06 cs.AI cs.LG
Detecting Fraud in Financial Networks: A Semi-Supervised GNN Approach with Granger-Causal Explanations
University of Amsterdam（阿姆斯特丹大学）；KPMG Netherlands（荷兰德勤）
本文提出半监督图神经网络方法SAGE-FIN，利用弱标记数据检测金融网络欺诈，并通过格兰杰因果关系提供可解释性，在Elliptic++数据集上验证了其有效性。
2025-06-25 cs.LG q-fin.ST stat.ML
A new perspective on classification: optimally allocating limited resources to uncertain tasks
KU Leuven（鲁汶大学）；University of Antwerp（安特卫普大学）；University of Southampton（南安普顿大学）
商业中的一个核心问题是如何将有限的资源最优地分配给一组可用的任务，而这些任务的回报本质上是不确定的。例如，在信用卡欺诈检测中，银行只能将一小部分交易分配给其欺诈调查团队。通常，这些问题是使用分类框架来解决的，其中重点是在给定一组特征的情况下预测任务结果。然后将资源分配给预测最有可能成功的任务。然而，我们认为，使用分类来解决任务的不确定性是固有的次优，因为它没有考虑到可用的容量。因此，我们首先将该问题框定为一类指派问题。然后，我们提出了一种新的解决方案，使用学习排序直接优化分配的预期利润有限，随机容量。这是通过优化净折扣累积增益的特定实例来实现的，净折扣累积增益是学习排序中常用的一类度量。经验上，我们证明，我们的新方法实现了更高的预期利润和预期精度相比，分类方法的各种应用领域和数据集。这说明了集成方法和在学习预测模型时明确考虑可用资源的好处。
2022-02-09 cs.LG stat.ML
Challenging Gradient Boosted Decision Trees with Tabular Transformers for Fraud Detection at Booking.com
Maastricht University（马斯特里赫特大学）
针对欺诈检测中的选择偏差问题，提出利用自监督学习预训练表格Transformer并微调的方法，在离线与在线A/B实验中均显著优于调优后的GBDT。
2025-06-30 cs.LG
Teaching the Machine to Explain Itself using Domain Knowledge
Feedzai；Universidade Nova FCT（新里斯本大学科技学院）
机器学习（ML）越来越多地用于帮助人类做出更好、更快的决策。然而，非技术人员很难理解模型预测背后的原理，这阻碍了对算法决策系统的信任。关于人工智能可解释性的大量研究工作试图通过开发解释方法来赢回对人工智能系统的信任，但仍然没有重大突破。与此同时，流行的解释方法（例如，LIME和SHAP）产生的解释对于非数据科学家角色来说非常难以理解。为了解决这个问题，我们提出了JOEL，一个基于神经网络的框架，共同学习决策任务和相关的解释，传达领域知识。JOEL是为缺乏深度技术ML知识的人在回路领域专家量身定制的，提供了关于模型预测的高级见解，这些预测非常类似于专家自己的推理。此外，我们从一群经过认证的专家那里收集领域反馈，并使用它来改进模型（人类教学），从而促进无缝和更适合的解释。最后，我们诉诸传统的专家系统和领域分类之间的语义映射，自动注释引导训练集，克服了基于概念的人类注释的情况。我们在真实世界的欺诈检测数据集上实证验证了JOEL。我们证明了JOEL可以从bootstrap数据集中概括解释。此外，所获得的结果表明，人工教学可以进一步提高解释预测质量约$13.57\%$。
2020-11-27 cs.AI cs.LG
MixBoost: Synthetic Oversampling with Boosted Mixup for Handling Extreme Imbalance
Media and Data Science Research Lab, Adobe（Adobe 媒体与数据科学研究实验室）；Massachusetts Institute of Technology（麻省理工学院）；Delhi Technological University（德里理工大学）
在一个数据集上训练分类模型，其中一类的实例数量超过另一类的实例数量是一个具有挑战性的问题。这种不平衡的数据集在真实世界的情况下是标准的，例如欺诈检测，医疗诊断和计算广告。我们提出了一个迭代的数据增强方法，MixBoost，智能地选择（Boost），然后结合（混合）的实例，从多数和少数类，以生成合成的混合实例，具有这两个类的特点。我们在20个基准数据集上评估了MixBoost，表明它优于现有方法，并通过显著性测试测试了其有效性。我们还介绍了消融研究，以分析MixBoost不同组件的影响。
2020-09-03 cs.LG stat.ML
Adversarial Explanations for Understanding Image Classification Decisions and Improved Neural Network Robustness
Portland State University（波特兰州立大学）
对于敏感问题，如医学成像或欺诈检测，神经网络（NN）的采用一直很慢，由于其可靠性的关注，导致一些算法来解释他们的决定。神经网络也被发现容易受到一类不可感知的攻击，称为对抗性示例，它可以任意改变网络的输出。在这里，我们证明了这些攻击可以使先前解释NN决策的尝试无效，并且对于非常强大的网络，攻击本身可以作为对模型更忠实的解释。我们表明，引入一种新的正则化技术的启发Lipschitz约束，以及其他提出的改进，大大提高了NN的抵抗对抗性的例子。在ImageNet分类任务中，我们展示了一个准确性-鲁棒性区域（ARA）为0.0053的网络，ARA比以前的最新技术水平高2.4倍。改进NN决策的理解机制是在敏感领域建立信任和更多地了解NN响应的刺激的重要方向。
2019-08-06 cs.CR cs.LG stat.ML
TimeSHAP: Explaining Recurrent Models through Sequence Perturbations
Feedzai（Feedzai公司）；Instituto Superior Técnico, ULisboa（里斯本大学高等技术学院）；Instituto de Telecomunicações（电信研究所）
虽然递归神经网络（RNN）在许多顺序决策任务中是最先进的，但很少有研究解释它们的预测。在这项工作中，我们提出了TimeSHAP，一个模型不可知的经常性解释器，建立在KernelSHAP的基础上，并将其扩展到顺序域。TimeSHAP计算特征、时间步长和单元格级别的属性。由于序列可以是任意长的，我们进一步提出了一种修剪方法，显着降低其计算成本和方差的属性。我们使用TimeSHAP来解释真实世界的银行账户接管欺诈检测RNN模型的预测，并从其解释中得出关键见解：i）该模型识别与欺诈分析师认为的账户接管线索相一致的重要特征和事件; ii）积极预测序列可以被修剪到原始长度的10%，因为较旧的事件具有剩余的归因值; iii）最近的积极预测输入事件平均仅占模型得分的41%; iv）对客户年龄的归因明显较高，表明潜在的歧视性推理，后来证实老年客户的假阳性率较高。
2021-06-26 cs.AI cs.LG
PARs: Predicate-based Association Rules for Efficient and Accurate Model-Agnostic Anomaly Explanation
Siemens Technology China（西门子中国技术）
针对现有异常检测研究重检测轻解释的问题，提出基于谓词的关联规则PARs模型无关异常解释方法，经用户研究和多基准实验验证，其解释更易被用户理解，且计算效率与准确性优于现有先进方法。
2023-12-18 cs.AI cs.IR cs.LG
Confronting Discrimination in Classification: Smote Based on Marginalized Minorities in the Kernel Space for Imbalanced Data
University of Michigan（密歇根大学）
针对金融欺诈检测中类别不平衡导致主流分类器对少数类“隐性歧视”的问题，提出基于决策边界和样本邻近关系的核空间自适应过采样方法，有效提升了少数类的分类准确率。
2024-02-13 cs.LG
Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective
针对银行交易异常检测传统方法的局限，本文提出可解释人工智能框架，用隔离森林模型评分，SHAP层提供解释，通过Streamlit仪表板呈现结果，经实验评估性能良好，能提升审计人员信心与决策质量，推动AI在金融环境的实际部署。
2026-07-16 cs.AI cs.LG
Amortised Post-Hoc Explanation with Exact Preservation for Dynamic Graph Anomaly Detectors
National higher School of Computer Science (ESI)（国家计算机科学高等学校（ESI））；Université Claude Bernard Lyon（里昂第一大学（克洛德·贝尔纳里昂大学））
本文针对动态图异常检测器StrGNN缺乏解释的问题，提出X-StrGNN事后解释层，可精确保留检测性能且成本低，通过对比归因策略验证了其稳定性与效果。
2026-08-18 cs.AI cs.LG
Multi-Head Spectral-Adaptive Graph Anomaly Detection
People's Public Security University of China（中国人民公安大学）；Shanghai Police College（上海公安学院）
本文提出多头谱适应图神经网络，通过动态生成滤波器参数提升图异常检测的鲁棒性与精度。
2025-12-25 cs.AI cs.LG
Machine Learning based Enterprise Financial Audit Framework and High Risk Identification
Shanghai Ocean University（上海海洋大学）；University of Chicago（芝加哥大学）；Columbia University（哥伦比亚大学）
本研究提出基于机器学习的企业财务审计框架，利用随机森林算法实现高风险识别，提升审计效率和准确性。
2025-07-08 cs.AI cs.LG q-fin.RM
From Explanation to Action: An End-to-End Human-in-the-loop Framework for Anomaly Reasoning and Management
Carnegie Mellon University（卡内基梅隆大学）；Capital One（第一资本金融公司）
本文提出ALARM端到端人在回路框架，支持从无监督异常检测、解释到通过设计新规则采取行动的完整挖掘周期，弥补了自主检测在现实高风险场景中难以落地的不足。
2023-04-06 cs.HC cs.LG
Utilizing XAI technique to improve autoencoder based model for computer network anomaly detection with shapley additive explanation(SHAP)
Aligarh Muslim University（阿里格尔穆斯林大学）
机器学习（ML）和深度学习（DL）方法正在迅速被采用，特别是在计算机网络安全领域，如欺诈检测、网络异常检测、入侵检测等。然而，基于ML和DL的模型缺乏透明度是其实施的主要障碍，并因其黑箱性质而受到批评，即使有如此巨大的结果。可解释人工智能（XAI）是一个很有前途的领域，可以通过给出解释和解释其输出来提高这些模型的可信度。如果基于ML和DL的模型的内部工作是可以理解的，那么它可以进一步帮助提高其性能。本文的目的是展示如何使用XAI来解释DL模型的结果，在这种情况下是自动编码器。并在此基础上改进了其在计算机网络异常检测中的性能。基于Shapley值的核SHAP方法是一种新的特征选择方法。此方法用于仅识别实际上导致攻击/异常实例集合的异常行为的那些特征。稍后，这些特征集用于训练和验证自动编码器，但仅在良性数据上。最后，通过与基于特征选择方法的两种模型的比较，验证了所建模型的有效性。整个实验是在最新的CICIDS 2017网络数据集的子集上进行的。SHAP_Model的总体准确度和AUC分别为94%和0.969。
2021-12-14 cs.AI cs.CR cs.LG
xFraud: Explainable Fraud Transaction Detection
ETH Zurich（苏黎世联邦理工学院）；eBay China（亿贝中国）
在网上零售平台，积极检测交易风险以改善客户体验并尽量减少财务损失至关重要。在这项工作中，我们提出了xFraud，一个可解释的欺诈交易预测框架，主要由一个检测器和一个解释器。xFraud检测器可以有效地预测传入交易的合法性。具体来说，它利用一个异构的图神经网络学习表达的表示，从信息的异构类型的实体在事务日志。xFraud中的解释器可以从图表生成有意义且人类可理解的解释，以促进业务部门的进一步流程。在我们使用xFraud对具有多达11亿个节点和37亿条边的真实交易网络进行的实验中，xFraud能够在许多评估指标上优于各种基线模型，同时在分布式设置中保持可扩展性。此外，我们表明，xFraud解释器可以生成合理的解释，以显着帮助业务分析，通过定量和定性评估。
2022-05-25 cs.AI cs.LG cs.SI
Case-Based Reasoning for Assisting Domain Experts in Processing Fraud Alerts of Black-Box Machine Learning Models
Eindhoven University of Technology（埃因霍温理工大学）；Rabobank Nederland（荷兰合作银行）
在许多情况下，领域专家了解机器学习模型做出的预测在多大程度上可以信任是有用的。特别地，可信度的估计对于处理机器学习生成的欺诈交易警报的欺诈分析师可能是有用的。在这项工作中，我们提出了一个基于案例的推理（CBR）的方法，提供证据的可信度的预测的形式，类似的以前的实例的可视化。与以往的作品不同，我们认为相似的本地事后解释的预测和经验表明，我们的可视化可以用于处理警报。此外，我们的方法被认为是有用的，易于使用的欺诈分析师在一家大型荷兰银行。
2019-07-07 cs.HC cs.LG stat.ML
A Model Explanation System: Latest Updates and Extensions
Northrop Grumman Corporation（诺斯罗普·格鲁曼公司）
我们提出了一个通用的模型解释系统（MES）的“解释”的黑盒分类器的输出。本文描述了Turner（2015）的扩展，该扩展在文中经常提到。我们使用一个激励性的例子，训练分类器来检测信用卡交易历史中的欺诈行为。关键的一点是，我们提供了适用于单个预测的解释，而不是提供一组可解释的参数。我们专注于解释积极的预测（警报）。然而，所提出的方法是对称地适用于负面的预测。
2016-06-30 cs.LG stat.ML
A Two-Stage Algorithm for Cost-Efficient Multi-instance Counterfactual Explanations
Bielefeld University（比勒费尔德大学）；University of Cyprus（塞浦路斯大学）；Cyprus University of Technology（塞浦路斯理工大学）
针对现有反事实解释多仅支持单实例、难以满足多实例同时适配需求的问题，提出一种灵活的两阶段算法，可查找实例组并生成成本高效的多实例反事实解释，经对比验证性能优于主流方法。
2024-05-21 cs.AI cs.LG
Explaining Groups of Instances Counterfactually for XAI: A Use Case, Algorithm and User Study for Group-Counterfactuals
University College Dublin（都柏林大学学院）；Accenture Labs（埃森哲实验室）；Insight Centre for Data Analytics（洞察数据分析中心）；VistaMilk SFI Research Centre（VistaMilk SFI研究中心）
反事实解释是一种越来越受欢迎的事后解释形式，这是由于它们（i）跨问题领域的适用性，（ii）建议的法律合规性（例如，与GDPR），以及（iii）依赖于人类解释的对比性质。虽然反事实解释通常用于解释单个预测实例，但我们探索了一种新的用例，其中使用“组反事实”（例如，以突出显示一组患者中的疾病的重复模式）。这些群体反事实符合人类对涵盖多个事件/实例的连贯、广泛解释的偏好。提出了一种新的，组反事实算法，以产生高覆盖率的解释，是忠实于被解释的模型。该解释策略也在一项大型对照用户研究（N=207）中进行了评估，使用客观（即，准确性）和主观性（即，信心、解释满意度和信任）心理测量。结果表明，群体反事实在人们对人工智能系统的理解方面引起了适度但明确的改善。反事实的方法和XAI这些研究结果的影响进行了讨论。
2023-03-16 cs.AI cs.LG
L2GTX: From Local to Global Time Series Explanations
School of Computer Science, Technological University Dublin（技术大学都柏林计算机科学学院）；Artificial Intelligence and Cognitive Load Research Lab, University College Cork（人工智能与认知负荷研究实验室，科尔克大学）；School of Computer Science and Information Technology, University College Cork（计算机科学与信息科技学院，科尔克大学）；School of Computing, Dublin City University（都柏林城市大学计算机学院）
本文提出L2GTX框架，通过聚合代表性实例的局部解释生成全局时间序列解释，解决现有方法在时间序列全局解释上的不足，实验表明其生成的解释简洁且具有稳定性。
2026-07-21 cs.AI cs.LG
Instance-based Counterfactual Explanations for Time Series Classification
University College Dublin（都柏林大学）；Insight Centre for Data Analytics（洞察数据分析中心）；VistaMilk SFI Research Centre（VistaMilk 科学基金会爱尔兰研究中心）
近年来，人们对解释处理图像和表格数据的黑盒人工智能系统所做的预测的关注迅速扩大。然而，很少有人关注解释处理时间序列数据的不透明人工智能系统的预测。在本文中，我们提出了一种新的模型不可知的，基于案例的技术-本地指南-生成反事实的解释时间序列分类。给定查询时间序列$T_{q}$，黑盒分类系统预测类$c$，反事实时间序列解释显示$T_{q}$如何改变，使得系统预测替代类$c'$。所提出的基于实例的技术适应现有的反事实的情况下，通过突出显示和修改的时间序列的歧视性领域的分类基础的实例库。两个比较实验的定量和定性结果表明，本机指南产生合理的，近端的，稀疏和多样化的解释，比那些产生的关键基准反事实的方法。
2021-06-24 cs.LG stat.ML
Do Not Trust Additive Explanations
Warsaw University of Technology（华沙理工大学）；University of Warsaw（华沙大学）
可解释的人工智能（XAI）最近受到了极大的关注。可解释性被认为是对复杂和不透明模型的不信任的补救措施。与模型无关的方法，如LIME、SHAP或Break Down，可以为任何复杂的机器学习模型提供实例级的可解释性。但这些附加解释的可信度有多高呢？我们可以依赖于非加性模型的加性解释吗？在本文中，我们（1）检查最流行的实例级解释在交互存在下的行为，（2）介绍一种新的方法，检测实例级解释的交互，（3）执行大规模基准测试，看看添加剂解释可能会误导的频率。
2020-05-08 cs.LG stat.ML
