On the Need and Applicability of Causality for Fairness: A Unified Framework for AI Auditing and Legal Analysis
CISPA, Helmholtz Center for Information Security(亥姆霍兹信息安全中心CISPA);University of Liège(列日大学);INRIA, Saclay Ile-de-France(法国国家信息与自动化研究所萨克雷-法兰西岛分部)
本文聚焦AI公平性评估中的因果关系需求,结合法律与社会视角,分析欧盟相关案例与监管下证明AI决策因果性的挑战及方法局限,提出提升算法透明度、问责制与公平性的可行方案。
2025-03-19 cs.AI cs.CY cs.LG
Interpretable Decision Trees Through MaxSAT
Universitat de Lleida(莱里达大学)
我们提出了一种方法来提高机器学习(ML)决策树(DT)的准确性和可解释性的权衡。特别是,我们应用最大可满足性技术来计算最小纯DT(MPDT)。我们改进了以前方法的运行时间,并表明这些MPDT可以优于使用ML框架sklearn生成的DT的准确性。
2022-07-14 cs.AI cs.LG
Use of Artificial Intelligence to Analyse Risk in Legal Documents for a Better Decision Support
PricewaterhouseCoopers Pvt Ltd.(普华永道私人有限公司)
评估大量法律文件的风险,如征求建议书;合同是繁琐和容易出错的。我们开发了一个基于机器学习和自然语言处理的框架“risk-o-meter”,以审查和评估任何法律文件的风险。我们的框架使用段落向量,一个无监督的模型来生成文本的向量表示。这使得框架能够学习法律术语的上下文关系,并生成合理的上下文感知嵌入。然后,该框架将向量空间馈送到监督分类算法中,以预测段落是否属于预先定义的风险类别。因此,该框架提取了容易产生风险的段落。该技术有效地克服了基于关键字的搜索的局限性。对于具有最大训练数据集的风险类别,我们实现了91%的准确率。该框架将帮助组织优化工作,以最少的人为干预从大型文档库中识别风险,从而有助于降低风险的可持续增长。它的机器学习能力使其可扩展,以发现除法律文档外的任何类型的文档中的相关信息,前提是库是按人口填充的和丰富的。
2019-11-22 cs.AI cs.CL cs.IR
Identifying biases in legal data: An algorithmic fairness perspective
University of Michigan(密歇根大学);Princeton University(普林斯顿大学);Claudius Legal Intelligence(克劳迪乌斯法律智能公司)
解决法律案件数据中的代表偏见和量刑差异的必要性早已得到承认。在这里,我们从算法公平性的角度研究了识别和测量大规模法律案件数据中的偏差的问题。我们的方法利用两个回归模型:一个基线,代表了一个“典型”的判断,由数据和“公平”的判断,适用于三个公平的概念之一。比较“典型”法官和“公正”法官的决定可以量化人口群体之间的偏见,正如我们在库克县(伊利诺伊州)的犯罪数据的四个案例研究中所证明的那样。
2021-09-21 cs.AI cs.CY cs.LG
Segmentation and Processing of German Court Decisions from Open Legal Data
Hasso-Plattner Institute / University of Potsdam, Germany(哈索-普拉特纳研究所 / 波茨坦大学)
本研究提出了一种从开放法律数据中清洗并分节德国法院判决的方法,提取了三个关键部分并公开了数据集,为法律NLP研究提供支持。
2026-01-04 cs.CL cs.IR cs.LG
Automatic explanation of the classification of Spanish legal judgments in jurisdiction-dependent law categories with tree estimators
University of Vigo(维戈大学)
本文提出结合NLP、ML与可解释AI的法律文本分类系统,通过分析树模型决策特征和阈值并以自然语言解释,在西班牙法律判决分类中准确率超90%,且解释易于理解。
2024-03-30 cs.AI cs.CL cs.LG
Iterative Bounding MDPs: Learning Interpretable Policies via Non-Interpretable Methods
Carnegie Mellon University(卡内基梅隆大学)
当前在可解释强化学习中的工作通常以状态空间上的决策树的形式产生策略。这些策略可用于正式的安全验证、代理行为预测和重要功能的手动检查。然而,现有的方法在训练之后拟合决策树,或者使用与新的学习技术(诸如使用神经网络的那些学习技术)不兼容的定制学习过程。为了解决这个问题,我们提出了一种新的马尔可夫决策过程(MDP)类型的学习决策树政策:迭代边界MDP(IBMDP)。IBMDP是围绕基本MDP构建的,因此在使用与方法无关的掩码过程时,保证每个IBMDP策略对应于基本MDP的决策树策略。由于这种决策树等价性,在训练期间可以使用任何函数近似器,包括神经网络,同时产生用于基本MDP的决策树策略。我们提出了所需的掩蔽过程,以及修改后的值更新步骤,允许IBMDP使用现有的算法来解决。我们应用这个过程来产生最近的强化学习方法的IBMDP变体。我们的经验表明,我们的方法的好处,通过解决IBMDP产生决策树政策的基础MDP。
2021-02-25 cs.AI cs.LG
Performance in the Courtroom: Automated Processing and Visualization of Appeal Court Decisions in France
École Polytechnique(巴黎综合理工学院);HEC Paris(巴黎高等商学院)
人工智能技术在法律领域已经很受欢迎和重要。我们从司法判决中提取法律指标,以减少法律制度的信息不对称和接近司法的差距。我们使用NLP方法从判决中提取有趣的实体/数据,以构建律师和判决的网络。我们提出的指标排名律师的基础上,他们的经验,赢/输比和他们的网络中的律师的重要性。我们还执行社区发现的判断网络,并提出指标,以代表利用社区功能的情况下的困难。
2020-07-09 cs.AI cs.CL cs.IR
Optimal Decision Trees For Interpretable Clustering with Constraints (Extended Version)
University of Toronto(多伦多大学);Vector Institute(向量研究所)
本文提出首个基于SAT的带约束可解释聚类框架,利用决策树在满足聚类约束的同时提供强理论保证,并揭示了可解释性与约束满足之间的权衡。
2023-05-16 cs.AI cs.LG
From Citations to Criticality: Predicting Legal Decision Influence in the Multilingual Swiss Jurisprudence
University of Bern(伯尔尼大学);Bern University of Applied Sciences(伯尔尼应用科学大学);Stanford University(斯坦福大学);University of Copenhagen(哥本哈根大学)
针对法院案件积压问题,研究提出Criticality Prediction数据集,通过算法生成双层标签评估案件优先级,并证明在特定领域任务中,拥有大型训练集的微调模型优于大型语言模型。
2025-05-30 cs.AI cs.CL cs.LG
Prediction of Arabic Legal Rulings using Large Language Models
Prince Sultan University(苏丹王子大学)
本研究利用大型语言模型对阿拉伯商业法院判决进行预测分析,评估多种模型与训练范式,发现GPT-3.5性能最佳,并指出非人工评估指标不可靠。
2023-10-16 cs.AI cs.CL cs.LG
Unlocking Legal Knowledge: A Multilingual Dataset for Judicial Summarization in Switzerland
University of Bern(伯尔尼大学);Bern University of Applied Sciences(伯尔尼应用科学大学);Stanford University(斯坦福大学);University of Fribourg(弗里堡大学)
本文提出包含瑞士联邦最高法院2万份多语言裁决摘要的SLDS数据集,通过微调开源模型并与大型LLM对比发现,事实准确性比深度推理更能决定法律摘要的质量。
2025-09-18 cs.AI cs.CL cs.LG
CLAIM: An Intent-Driven Multi-Agent Framework for Analyzing Manipulation in Courtroom Dialogues
Manipal University Jaipur(Manipal大学贾ipur)
本文提出 LegalCon 法庭对话数据集和两阶段意图驱动多智能体框架 CLAIM,用于检测操纵、识别操纵者并分类操纵技术,以提升司法公平性与透明度。
2025-06-04 cs.AI cs.CL cs.LG
When Fairness Isn't Statistical: The Limits of Machine Learning in Evaluating Legal Reasoning
The University of Edinburgh(爱丁堡大学)
本文在59,000余份加拿大难民裁决数据集上实证评估三类ML方法,揭示统计公平性评估在法律裁量领域的局限,主张公平性评估须结合法律推理与制度语境。
2025-06-04 cs.CL cs.LG
DANLIP: Deep Autoregressive Networks for Locally Interpretable Probabilistic Forecasting
Toronto Metropolitan University(多伦多都会大学);University of Toronto(多伦多大学)
尽管基于神经网络的时间序列预测方法具有高性能,但解释其预测的固有挑战限制了其在某些应用领域的适用性。由于难以确定这种黑箱方法的输入和输出之间的因果关系,它们很少被采用在法律和医学领域,其中结果的可靠性和可解释性可能是必不可少的。在本文中,我们提出了\model,这是一种新颖的基于深度学习的概率时间序列预测架构,本质上是可解释的。我们使用多个数据集和性能指标进行实验,并根据经验表明,我们的模型不仅是可解释的,而且还提供了与最先进的概率时间序列预测方法相当的性能。此外,我们表明,解释的参数的随机过程的兴趣可以提供有用的见解到几个应用领域。
2023-01-05 cs.AI cs.LG stat.ML
Mixture of Decision Trees for Interpretable Machine Learning
University of Münster(明斯特大学);Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所IPA);Dresden University of Technology(德累斯顿工业大学);University of Stuttgart(斯图加特大学)
本文介绍了一种新的可解释的机器学习方法--混合决策树(MoDT)。它构成了混合专家模型集成体系结构的一个特殊情况,它利用线性模型作为门函数和决策树作为专家。我们提出的方法是理想的适合于问题,不能令人满意地学习由一个单一的决策树,但可以分为子问题。每个子问题都可以从单个决策树中很好地学习。因此,MoDT可以被认为是一种提高性能的方法,同时通过使每个决策都可以被人类理解和追踪来保持可解释性。我们的工作是伴随着一个Python的实现,它使用了一个可解释的门控功能,一个快速的学习算法,和一个直接的接口微调可解释的可视化方法。实验证实,实施工作,更重要的是,显示我们的方法相比,单一的决策树和随机森林类似的复杂性的优越性。
2022-11-26 cs.LG
Locally Interpretable Individualized Treatment Rules for Black-Box Decision Models
Department of Epidemiology & Biostatistics, Memorial Sloan Kettering Cancer Center(流行病学与生物统计学系,纪念斯隆-凯特琳癌症中心)
本文提出LI-ITR方法,结合灵活机器学习模型与局部可解释近似,实现可解释的个性化治疗规则,用于医疗决策优化。
2026-02-12 cs.AI cs.LG stat.ME
Learning Accurate and Interpretable Decision Rule Sets from Neural Networks
University of California San Diego(加州大学圣迭戈分校)
本文提出了一种新的范式,用于学习一组独立的逻辑规则的析取范式作为一个可解释的分类模型。我们认为学习一个可解释的决策规则集的问题是训练一个神经网络在一个特定的,但非常简单的两层架构。第一层中的每个神经元在训练后直接映射到可解释的“若-则”规则,第二层中的输出神经元直接映射到第一层规则的析取以形成决策规则集。我们在第一个规则层中对神经元的表示使我们能够在决策规则中对特征的正关联和负关联进行编码。可以利用最先进的神经网络训练方法来学习高度准确的分类模型。此外,我们提出了一种基于稀疏性的正则化方法,以平衡分类精度和简单性之间的派生规则。我们的实验结果表明,我们的方法可以产生更准确的决策规则集比其他国家的最先进的规则-学习算法具有更好的准确性和简单性的权衡。此外,与随机森林和全精度深度神经网络等不可解释的黑箱机器学习方法相比,我们的方法可以轻松找到具有可比预测性能的可解释决策规则集。
2021-03-12 cs.LG
Optimizing Interpretable Decision Tree Policies for Reinforcement Learning
Delft University of Technology(代尔夫特理工大学)
针对强化学习中神经网络策略缺乏可解释性的问题,提出决策树策略优化(DTPO)算法,利用策略梯度直接优化完整决策树,实验证明其性能优于模仿学习等基线方法。
2024-08-21 cs.LG
Identifying Decision Points for Safe and Interpretable Reinforcement Learning in Hypotension Treatment
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院);Massachusetts General Hospital(麻省总医院)
许多批处理RL健康应用程序首先将时间离散化为固定的时间间隔。然而,这种离散化既失去了分辨率,又迫使在每个(潜在的精细)间隔进行策略计算。在这项工作中,我们开发了一个新的框架,将连续的轨迹压缩成几个可解释的决策点-批量数据支持多个备选方案的地方。我们应用我们的方法从一组肥胖患者数据集创建推荐。我们减少了状态空间,从而加快了规划速度,并允许临床专家轻松检查。
2021-01-09 cs.LG
Using Decision Trees for Interpretable Supervised Clustering
University of Amsterdam(阿姆斯特丹大学);Brest State Technical University(布列斯特国立技术大学)
针对带标签数据中类别一致且可解释的高密度簇发现问题,提出利用决策树分类器迭代提取簇并优化节点选择的监督聚类方法。
2023-07-16 cs.LG
Learning Ensembles of Interpretable Simple Structure
Iowa State University(爱荷华州立大学)
提出自底向上的简单结构识别算法,将数据划分为可解释子组以最小化特征交互,在子组内训练简单模型,提高可解释性与预测精度,为透明决策支持提供框架。
2025-02-26 cs.LG
Interpretable Quantile Regression by Optimal Decision Trees
Euranova(埃鲁诺瓦);Université Catholique de Louvain(列日天主大学)
本文提出一种新的方法,通过最优决策树学习完整条件分布预测,无需假设分布,并提供可解释的预测结果,同时保持算法效率。
2026-04-22 cs.LG
POETREE: Interpretable Policy Learning with Adaptive Decision Trees
ETH AI Center(ETH人工智能中心);ETH Zürich(苏黎世联邦理工学院);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);Cambridge Centre for AI in Medicine(剑桥人工智能医学中心);The Alan Turing Institute(艾伦·图灵研究所)
根据观察到的行为建立人类决策模型对于更好地理解、诊断和支持临床护理等现实政策至关重要。由于既定的策略学习方法仍然侧重于模仿绩效,它们无法解释演示的决策过程。通过决策树进行策略提取(POETREE)是一种用于可解释策略学习的新框架,与完全离线和部分可观察的临床决策环境兼容-并基于患者的观察和病史构建确定医生行为的概率树策略。完全可微的树架构在优化期间递增地增长,以使其复杂性适应建模任务,并通过递归学习患者历史的表示,从而产生随着时间的推移适应患者信息的决策树策略。这种策略学习方法在理解、量化和评估观察到的行为以及准确复制方面,都优于真实和合成医疗数据集的最新技术水平,并有可能改善未来的决策支持系统。
2022-09-30 cs.LG
Using Decision Tree as Local Interpretable Model in Autoencoder-based LIME
Amirkabir University of Technology(阿米尔卡比尔理工大学);Persian Gulf University(波斯湾大学)
如今,深度神经网络由于其高精度的结果而被用于许多领域。然而,它们被认为是“黑匣子”,意味着它们对人类来说是无法解释的。另一方面,在医疗、经济和自动驾驶汽车等任务中,用户希望模型具有可解释性,以决定他们是否可以信任这些结果。在这项工作中,我们提出了一个修改后的版本的自动编码器为基础的方法,称为ALIME的本地可解释性。ALIME本身的灵感来自于一个著名的方法,称为局部可解释模型不可知解释(LIME)。LIME通过在实例周围生成新数据并训练局部线性可解释模型来生成单个实例级解释。ALIME使用自动编码器来衡量样本周围的新数据。然而,ALIME使用线性模型作为本地训练的可解释模型,就像LIME一样。本文提出了一种新的方法,它使用一个决策树代替线性模型,作为可解释的模型。我们评估所提出的模型的情况下,稳定性,局部保真度和可解释性不同的数据集。实验结果表明,与ALIME相比,该算法在稳定性和局部保真度方面有显著的提高,在可解释性方面有明显的改善。
2022-04-07 cs.LG
Modular Clinical Decision Support Networks (MoDN) -- Updatable, Interpretable, and Portable Predictions for Evolving Clinical Environments
Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
数据驱动的临床决策支持系统(CDSS)有可能通过个性化的概率指导来改善和简化护理。然而,所需数据的大小需要从类似的CDSS中进行协作学习,这些CDSS通常是不可共享或不完全互操作的(IIO),这意味着它们的特征集并不完全重叠。我们提出了模块化临床决策支持网络(MoDN),它允许跨IIO数据集进行灵活的、隐私保护的学习,同时为临床医生提供可解释的、连续的预测反馈。MoDN是一种由特定特征的神经网络模块组成的新型决策树。它创建了患者的动态个性化表示,并可以对诊断进行多种预测,在咨询的每个步骤都可以更新。模块化设计允许它将训练更新划分为特定功能,并在IIO数据集之间协作学习,而无需共享任何数据。
2022-11-12 cs.LG
Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead
Duke University(杜克大学)
黑盒机器学习模型目前正用于整个社会的高风险决策,在医疗保健、刑事司法和其他领域造成问题。人们希望创建解释这些黑盒模型的方法可以缓解其中的一些问题,但是试图\textit{explain}黑盒模型,而不是首先创建\textit{interpretable}模型,很可能会延续不良做法,并可能对社会造成灾难性的危害。有一条前进的道路-设计出内在可解释的模型。这份手稿澄清了解释黑盒和使用固有的可解释模型之间的鸿沟,概述了在高风险决策中应避免可解释黑盒的几个关键原因,确定了可解释机器学习的挑战,并提供了几个示例应用程序,其中可解释模型可能会在刑事司法,医疗保健和计算机视觉中取代黑盒模型。
2019-09-22 cs.LG stat.ML
The Judge Variable: Challenging Judge-Agnostic Legal Judgment Prediction
Nîmes University(尼姆大学)
该研究通过机器学习预测法国上诉法院儿童监护权裁决,证明个体法官身份显著影响案件结果,专家模型预测准确率优于法官无关的通用模型,为法律现实主义提供了实证支持。
2025-07-18 cs.CL cs.LG
MAVIPER: Learning Decision Tree Policies for Interpretable Multi-Agent Reinforcement Learning
Carnegie Mellon University(卡内基梅隆大学);Shanghai Jiao Tong University(上海交通大学);Army Research Lab(陆军研究实验室);University of California, Riverside(加州大学河滨分校)
多智能体强化学习(MARL)的许多最新突破需要使用深度神经网络,这对人类专家来说是一个解释和理解的挑战。另一方面,现有的可解释的强化学习(RL)的工作已经显示出从神经网络中提取更多的可解释的基于决策树的策略的希望,但仅在单代理设置。为了填补这一空白,我们提出了第一套算法,从用MARL训练的神经网络中提取可解释的决策树策略。第一个算法,IVIPER,扩展VIPER,最近的方法单代理可解释的RL,多代理设置。我们证明了IVIPER学习高质量的决策树政策,为每个代理。为了更好地捕捉代理之间的协调,我们提出了一种新的集中式决策树训练算法,MAVIPER。MAVIPER通过使用预期的树预测其他代理的行为来共同增长每个代理的树,并使用resception来关注对其与其他代理的交互至关重要的状态。我们表明,这两种算法通常优于基线和MAVIPER训练的代理实现更好的协调性能比IVIPER训练的代理在三个不同的多代理粒子世界环境。
2022-07-11 cs.LG cs.MA
JNLP Team: Deep Learning for Legal Processing in COLIEE 2020
Japan Advanced Institute of Science and Technology(北陆先端科学技术大学院大学);VNU University of Engineering and Technology(河内国家大学工程技术大学);Banking Academy of Vietnam(越南银行学院);National Institute of Informatics(国立信息学研究所)
我们提出了基于深度学习的方法,用于COLIEE 2020中的自动法律检索和法律问答系统。这些系统的特点都是在针对指定任务进行微调之前,对大量数据进行预训练。这种方法有助于克服数据稀缺性并获得良好的性能,因此可以用于解决信息检索中的相关问题,以及法律领域的决策支持。此外,该方法可以探索处理其他领域的具体问题。
2020-11-04 cs.CL cs.IR cs.LG
What is Interpretable? Using Machine Learning to Design Interpretable Decision-Support Systems
University of Oxford(牛津大学);University at Buffalo(布法罗大学)
最近在机器学习(ML)可解释性方面的努力集中在创建解释黑盒ML模型的方法上。然而,这些方法依赖于简单近似的假设,如线性模型或决策树,本质上是人类可解释的,这还没有经过经验检验。此外,过去的努力只集中在理解上,而忽略了探索说服非技术专家(如临床医生)在实践中使用ML模型所需的信任组件。在本文中,我们认为强化学习(RL)可以用来学习不同用户可以解释的内容,从而建立他们对ML模型的信任。为了验证这个想法,我们首先训练一个神经网络,为心力衰竭患者提供风险评估。然后,我们围绕神经网络模型设计了一个基于RL的临床决策支持系统(DSS),该系统可以从与用户的交互中学习。我们进行了一项实验,涉及来自三个不同国家的多个机构的不同临床医生。我们的研究结果表明,ML专家无法准确预测哪些系统输出将最大限度地提高临床医生对底层神经网络模型的信心,并提出了其他发现,这些发现对ML可解释性的未来研究和ML在医学中的使用具有广泛的影响。
2019-06-11 cs.LG stat.ML
Interpretable Machine Learning for Self-Service High-Risk Decision-Making
Central Washington University(中央华盛顿大学)
本文通过一般线坐标(GLC)的视觉知识发现,可解释的机器学习。超块作为可解释的数据集单元和一般线坐标的概念相结合,以创建一个可视化的自助机器学习模型。提出了DSC1和DSC2无损多维坐标系。DSC1和DSC2可以使用图形构造算法将多个数据集属性映射到单个二维(X,Y)笛卡尔平面。超块分析用于确定视觉上吸引人的数据集属性顺序并减少线遮挡。结果表明,超块可以推广决策树规则,一系列的DSC1或DSC2图可以可视化一棵决策树。DSC1和DSC2图在UCI ML存储库的基准数据集上进行了测试。它们允许对数据进行视觉分类。此外,还发现了超块杂质区域,并用于建立数据集分割,突出最坏情况下模型准确性的上限估计,以指导高风险决策的模型选择。DSC1和DSC2的主要优点是它们的高度可解释性。它们允许领域专家通过视觉模式发现来控制或建立新的机器学习模型。
2022-05-09 cs.GR cs.LG
Learning Interpretable Models with Causal Guarantees
Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学)
机器学习在帮助提高医疗、法律和金融决策质量方面表现出了很大的潜力。在这些应用中,机器学习模型必须满足两个重要标准:(i)它们必须是因果关系,因为目标通常是预测个体治疗效果,(ii)它们必须是可解释的,以便人类决策者可以验证和信任模型预测。最近在每个方向上都取得了很大的进展,但最先进的方法从根本上是不相容的。我们提出了一个框架,从观察数据中学习可解释的模型,可用于预测个体治疗效果(ITE)。特别是,我们的框架将任何监督学习算法转换为估计ITE的算法。此外,我们证明了我们的模型预测的治疗效果的误差界。最后,在对真实世界数据的实验中,我们表明使用我们的框架训练的模型显著优于一些基线。
2021-10-11 cs.LG stat.ML
Extracting Interpretable Concept-Based Decision Trees from CNNs
University of Southern California(南加州大学)
为了更深入地了解卷积神经网络(CNN)如何对人类可理解的概念进行推理,我们提出了一种从隐藏层激活中推断标记概念数据并通过浅层决策树解释概念的方法。决策树可以提供关于模型认为哪些概念重要的信息,以及提供对概念如何彼此交互的理解。实验表明,所提取的决策树能够准确地表示原始CNN的分类在低树深度,从而鼓励人类在回路中的歧视性概念的理解。
2019-06-16 cs.LG stat.ML
Concept Tree: High-Level Representation of Variables for More Interpretable Surrogate Decision Trees
AXA(安盛集团);OECD(经济合作与发展组织);Sorbonne Universite(索邦大学);CNRS(法国国家科学研究中心);Polish Academy of Science(波兰科学院)
在高维表格数据集上训练的黑盒预测器的可解释的代理人在相关变量存在的情况下很难生成可理解的解释。我们提出了一个模型不可知的可解释的代理,提供全球和本地的黑盒分类器的解释,以解决这个问题。我们引入的概念,直观的变量,要么是由一个领域的专家定义或自动发现使用相关系数分组的想法。概念被嵌入到一个代理决策树,以提高其可理解性。第一个实验FRED-MD,一个宏观经济数据库,134个变量,显示在人类的可解释性的改善,而准确性和保真度的代理模型被保留。
2019-06-04 cs.LG stat.ML
Optimization Methods for Interpretable Differentiable Decision Trees in Reinforcement Learning
Georgia Institute of Technology(佐治亚理工学院);University of Toronto(多伦多大学);MIT Lincoln Laboratory(麻省理工学院林肯实验室)
决策树因其易用性和可解释性而在机器学习中无处不在。然而,这些模型通常不用于强化学习,因为它们不能通过随机梯度下降在线更新。我们克服了这一限制,允许在整个树,提高样本的复杂性,提供可解释的政策提取梯度更新。首先,我们包括政策梯度学习的需要,通过检查梯度下降的性质可微决策树的理论动机。其次,我们证明了我们的方法在所有领域都等同于或优于神经网络,并且可以在线学习离散的决策树,其平均奖励比批量训练的决策树高出7倍。第三,我们进行了一项用户研究,以量化决策树,规则列表和神经网络的可解释性与统计上显着的结果($p < 0.001$)。
2020-06-25 cs.LG stat.ML
MIXRTs: Toward Interpretable Multi-Agent Reinforcement Learning via Mixing Recurrent Soft Decision Trees
Nanjing University(南京大学)
针对多智能体强化学习黑盒模型不可解释且现有可解释方法性能弱的问题,提出MIXRTs架构,利用循环软决策树显式表示决策过程并结合价值分解框架进行信用分配,在复杂任务中实现了高性能与可解释性。
2025-03-04 cs.LG cs.MA
The Engineer's Dilemma: A Review of Establishing a Legal Framework for Integrating Machine Learning in Construction by Navigating Precedents and Industry Expectations
Clemson University(克莱姆森大学)
本文探讨了工程行业整合机器学习面临的法律与监管不确定性,提出通过类比推理将ML嵌入现有工程规范,并基于责任原则与判例构建法律框架,以帮助利益相关者评估ML驱动方案的责任与收益。
2025-07-11 cs.CY cs.ET cs.LG
GENESIM: genetic extraction of a single, interpretable model
Ghent University - imec, IDLab(根特大学 - imec, IDLab)
通过决策树归纳技术获得的模型具有很好的可解释性,但它们容易出现过拟合,从而导致预测性能低下。包围盒技术能够达到更高的精度。然而,这是以失去结果模型的可解释性为代价的。这使得集成技术在决策支持而不是决策制定至关重要的应用中不切实际。为了弥补这一差距,我们提出了GENESIM算法,通过使用遗传算法将决策树的集合转换为具有增强预测性能的单个决策树。我们比较GENESIM流行的决策树归纳和集成技术,使用12个公开的数据集。结果表明,GENESIM实现了更好的预测性能比决策树归纳技术和集成技术在同一数量级的预测性能在大多数这些数据集。此外,GENESIM产生的模型具有非常低的复杂性,使其非常可解释,与集成技术相比。
2016-11-17 cs.LG stat.ML
Augmented Fairness: An Interpretable Model Augmenting Decision-Makers' Fairness
University of Iowa(爱荷华大学);University of Texas at Austin(得克萨斯大学奥斯汀分校)
我们提出了一种模型不可知的方法,用于减轻黑盒决策者,特别是人类决策者的预测偏差。我们的方法在特征空间中检测黑盒决策者有偏见的地方,并用一些简短的决策规则代替它,充当“公平代理”。基于规则的代理模型在两个目标下训练,预测性能和公平性。我们的模型侧重于一个设置,在实践中是常见的,但不同于其他文献的公平性。我们只能黑盒访问模型,并且在预算约束下只能查询有限的真标签集。我们制定了一个多目标优化建立一个代理模型,我们同时优化预测性能和偏差。为了训练模型,我们提出了一种新的训练算法,结合非支配排序遗传算法与主动学习。我们在公共数据集上测试我们的模型,在那里我们模拟各种有偏见的“黑盒”分类器(决策者),并将我们的方法应用于可解释的增强公平性。
2020-11-17 cs.HC cs.LG