首页/论文/1508.07643

arXiv 1508.076432015-08stat.MLcs.LGstat.CO

定向决策表

Directional Decision Lists

University of Chicago（芝加哥大学）；Robert Bosch LLC（罗伯特·博世有限责任公司）

Marc Goessling, Shan Kang

备注：: IEEE Big Data for Advanced Manufacturing

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

在本文中，我们介绍了一系列新颖的决策列表，这些决策列表由高度可解释的模型组成，可以以贪婪的方式有效地学习。定义属性是所有规则都指向同一个方向。这个家族的特定例子是具有单调递减（或递增）概率的决策列表。在模拟数据上，我们根据经验证实，所提出的模型族比一般的决策表更容易训练。我们通过识别制造过程中的问题症状来验证我们方法的实际可用性。

英文摘要：

In this paper we introduce a novel family of decision lists consisting of highly interpretable models which can be learned efficiently in a greedy manner. The defining property is that all rules are oriented in the same direction. Particular examples of this family are decision lists with monotonically decreasing (or increasing) probabilities. On simulated data we empirically confirm that the proposed model family is easier to train than general decision lists. We exemplify the practical usability of our approach by identifying problem symptoms in a manufacturing process.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

决策导向的顺序实验设计：一种方向性不确定性引导方法

Decision-Focused Sequential Experimental Design: A Directional Uncertainty-Guided Approach

Department of Statistics and Operations Research, University of North Carolina（统计与运筹学系，北卡罗来纳大学）；Department of Industrial Engineering and Operations Research, University of California, Berkeley（工业工程与运筹学系，加州大学伯克利分校）

本文提出一种基于方向性的不确定性度量，用于改进顺序实验设计，以更有效地优化决策损失。

2026-02-05cs.LGstat.ML

基于方向梯度的决策聚焦学习

Decision-Focused Learning with Directional Gradients

USC Marshall School of Business（南加州大学马歇尔商学院）；CUNY Baruch Zicklin School of Business（纽约城市大学巴鲁克学院齐克林商学院）

该研究提出一类扰动梯度（PG）决策感知代理损失，通过零阶梯度近似即插即用目标的方向导数，具备利普希茨连续性且近似误差随样本量趋于零，在模型误设场景下也能渐近得到最优策略，性能优于现有方案。

2024-10-30cs.LGmath.OCstat.ML

私密学习决策列表和差分隐私Winnow

Privately Learning Decision Lists and a Differentially Private Winnow

Boston University（波士顿大学）

本文提出差分隐私算法，用于在PAC和在线模型中高效学习决策列表和半空间，实现隐私保护下的高质量学习保证。

2026-02-07cs.CRcs.LGstat.ML

鲁棒学习决策表抗规避攻击的复杂性界

Sample Complexity Bounds for Robustly Learning Decision Lists against Evasion Attacks

University of Oxford（牛津大学）

对抗性机器学习中的一个基本问题是量化在存在规避攻击的情况下需要多少训练数据。在本文中，我们解决这个问题的PAC学习的框架内，专注于类的决策列表。鉴于分布假设在对抗环境中是必不可少的，我们使用满足Lipschitz条件的输入数据的概率分布：附近的点具有相似的概率。我们的关键结果表明，对手的预算（即，它可以扰乱每个输入的位数）是一个基本的数量在确定样本的复杂性的鲁棒学习。我们的第一个主要结果是一个样本复杂性下限：类单调合取（本质上是最简单的非平凡的假设类的布尔超立方体）和任何超类的样本复杂性至少指数在对手的预算。我们的第二个主要结果是一个相应的上界：对于每个固定的$k$类的$k$决策列表有多项式样本复杂性对$\log(n)$有界的对手。这进一步阐明了在均匀分布下有效的PAC学习算法是否总是可以用作有效的$\log(n)$ -鲁棒学习算法的问题。

2022-05-12cs.LGstat.ML

将神经网络提取为跳图级决策表

Distilling neural networks into skipgram-level decision lists

Computational Linguistics and Psycholinguistics Research Center (CLiPS)（计算语言学与心理语言学研究中心（CLiPS））；University of Antwerp（安特卫普大学）；School of Computing and Information Systems, University of Melbourne（墨尔本大学计算与信息系统学院）

以往关于递归神经网络解释的研究主要集中在寻找网络最重要输入段作为解释的方法上。在这种情况下，这些输入片段相互结合以形成解释性模式的方式仍然未知。为了克服这一点，以前的一些工作试图在数据中找到解释神经输出的模式（称为规则）。然而，它们的解释往往对模型参数不敏感，这限制了文本解释的可扩展性。为了克服这些限制，我们提出了一个管道，通过skipgram上的决策列表（也称为规则）来解释RNN。为了评估解释，我们创建了一个合成的脓毒症识别数据集，并将我们的技术应用于其他临床和情感分析数据集。我们发现，我们的技术持续实现高解释保真度和定性可解释的规则。

2020-05-18cs.CLcs.LGstat.ML

使用马尔可夫决策过程学习具有成本效益的治疗方案

Learning Cost-Effective Treatment Regimes using Markov Decision Processes

Stanford University（斯坦福大学）；Duke University（杜克大学）

决策者，如医生和法官，每天都要做出重要决定，如向患者推荐治疗方法，以及向被告提供保释。这类决策通常涉及权衡采取行动的潜在收益与所涉成本。在这项工作中，我们的目标是自动学习\emph{cost-effective, interpretable and actionable treatment regimes}的任务。我们将其表述为学习决策列表的问题--一系列if-then-else规则--它映射了主题的特征（例如，患者的诊断测试结果）到治疗。我们提出了一个新的目标，以构建一个决策列表，最大限度地提高人口的成果，并最大限度地减少总成本。我们模型的问题，学习这样一个列表的马尔可夫决策过程（MDP），并采用了一个变种的上界树（UCT）的策略，利用定制的检查修剪搜索空间有效。对真实世界的观察数据捕获司法保释决定和哮喘患者的治疗建议的实验结果证明了我们的方法的有效性。

2016-10-21cs.AIcs.LGstat.ML

更多相关论文收起更多论文

学习成本效益和可解释的治疗方案建议

Learning Cost-Effective and Interpretable Regimes for Treatment Recommendation

决策者，如医生和法官，每天都要做出重要决定，如向患者推荐治疗方法，以及向被告提供保释。这类决策通常涉及权衡采取行动的潜在收益与所涉成本。在这项工作中，我们的目标是自动化这项任务的学习{成本效益，可解释和可操作的治疗方案。我们将其表述为学习决策列表的问题--一系列if-then-else规则--它映射了主题的特征（例如，患者的诊断测试结果）到治疗。我们提出了一个新的目标，以构建一个决策列表，最大限度地提高人口的成果，并最大限度地减少总成本。我们模型的问题，学习这样的列表作为一个马尔可夫决策过程（MDP），并采用了一个变种的上界树（UCT）的策略，利用定制的检查修剪搜索空间有效。对真实世界的观察数据捕获哮喘患者的治疗建议的实验结果证明了我们的方法的有效性。

2016-11-23stat.ML

学习分类数据的可证明最优规则列表

Learning Certifiably Optimal Rule Lists for Categorical Data

University of California, Berkeley（加州大学伯克利分校）；Harvard University（哈佛大学）；Duke University（杜克大学）

我们提出了一个自定义的离散优化技术的设计和实现，用于在分类特征空间上构建规则列表。我们的算法产生具有最佳训练性能的规则列表，根据正则化的经验风险，具有最优性证书。通过利用算法边界，高效的数据结构和计算重用，我们实现了几个数量级的时间加速和大量减少内存消耗。我们证明了我们的方法在几秒钟内就能产生实际问题的最佳规则列表。我们的研究结果表明，这是可能的，以构建最佳的稀疏规则列表，大约是准确的COMPAS专有的风险预测工具的数据从布劳沃德县，佛罗里达州，但完全可以解释。这个框架是一个新的替代CART和其他决策树方法的可解释的建模。

2018-08-03cs.LGstat.ML

使用规则和贝叶斯分析的可解释分类器：构建更好的中风预测模型

Interpretable classifiers using rules and Bayesian analysis: Building a better stroke prediction model

Massachusetts Institute of Technology（麻省理工学院）；University of Washington（华盛顿大学）；Columbia University（哥伦比亚大学）

我们的目标是生成不仅准确，而且可由人类专家解释的预测模型。我们的模型是决策列表，其中包括一系列的如果...然后...语句（例如，如果是高血压，则是中风），其将高维、多变量特征空间离散化为一系列简单、易于解释的决策语句。我们引入了一个生成模型称为贝叶斯规则列表，产生一个后验分布可能的决策列表。它采用了一种新的先验结构，以鼓励稀疏。我们的实验表明，贝叶斯规则列表的预测精度与当前机器学习中的顶级预测算法相当。我们的方法是由个性化医疗的最新发展，并可用于产生高度准确和可解释的医疗评分系统的动机。我们通过产生CHADS $_2$评分的替代方案来证明这一点，该评分在临床实践中被积极用于估计房颤患者的卒中风险。我们的模型与CHADS $_2$一样可解释，但更准确。

2015-11-05cs.LGstat.APstat.ML

学习公平规则列表

Learning Fair Rule Lists

Université du Québec à Montréal（蒙特利尔魁北克大学）；LAAS-CNRS（法国国家科学研究中心自动化、计算机工程与信号实验室）；Université de Toulouse（图卢兹大学）

随着黑箱模型在高风险决策系统中的普遍使用，对公平和可解释模型的需求正在增加。虽然已经表明，可解释的模型可以在几个关键领域的黑箱模型一样准确，现有的公平分类技术，可解释的设计往往显示较差的准确性/公平性权衡与他们的非可解释的同行。在本文中，我们提出了FairCORELS，一个公平的分类技术解释的设计，其目标是学习公平的规则列表。我们的解决方案是一个多目标的变体CORELS，分支定界算法学习规则列表，支持几个统计公平的概念。这类措施的例子包括统计上的均等、机会均等和机会均等。FairCORELS在真实世界数据集上的实证评估表明，它优于最先进的公平分类技术，这些技术通过设计可解释，同时与不可解释的技术竞争。

2020-02-18cs.LGstat.ML

基于MDL规则列表的可解释多类分类

Interpretable multiclass classification by MDL-based rule lists

Leiden University（莱顿大学）

最近，可解释分类器受到了数据采掘界越来越多的关注，因为它们本质上比更复杂的分类器更容易理解和解释。可解释的分类模型的示例包括决策树、规则集和规则列表。学习这样的模型通常涉及优化超参数，这通常需要大量的数据，并可能导致相对较大的模型。在本文中，我们考虑的问题，学习紧凑而准确的概率规则列表的多类分类。具体来说，我们提出了一种新的形式化的基础上概率规则列表和最小描述长度（MDL）的原则。这导致了几乎无参数的模型选择，自然允许权衡模型复杂性与拟合优度，从而有效地避免了过度拟合和超参数调整的需要。最后，我们介绍了Classy算法，该算法根据所提出的标准，greetly发现规则列表。我们的经验表明，Classy选择的小概率规则列表在预测性能和可解释性的结合方面优于最先进的分类器。我们表明，Classy是不敏感的唯一参数，即，候选集，以及训练集上的压缩与分类性能相关，验证了我们基于MDL的选择标准。

2019-10-31cs.AIcs.LGstat.ML

结合逻辑回归的K-近邻算法在医学案例推理系统中的应用。应用于预测进入布列塔尼的肾移植等待名单

K-Nearest Neighbour algorithm coupled with logistic regression in medical case-based reasoning systems. Application to prediction of access to the renal transplant waiting list in Brittany

Inserm（法国国家健康与医学研究院）

导论.基于案例的推理（CBR）是医学研究中一种新兴的决策模式，它依赖于以前解决的相似案例来解决新的案例。通常，提供已解决案例的数据库，并且通过一组属性（输入）和标签（输出）来描述每个案例。从这个数据库中提取有用的信息，可以帮助CBR系统提供更可靠的结果，尚未解决的情况下。objective.为此，我们提出了一个通用的框架，其中CBR系统，即K-最近邻（K-NN）算法，结合从逻辑回归（LR）模型获得的各种信息。方法. LR应用，在案例数据库中，分配权重的属性以及解决的情况下。因此，基于K-NN和/或LR的五种可能的决策系统被确定：独立的K-NN，独立的LR和三种软K-NN算法，它们依赖于基于LR结果的权重。所述方法的评价是在肾移植进入等待名单领域进行的。结果和结论。结果表明，我们建议的方法，其中K-NN算法依赖于加权属性和情况下，可以有效地处理不相关的属性，而其他四种方法遭受这种噪声设置。这种方法的鲁棒性表明了使用CBR方法的医疗问题解决工具的有趣前景。

2013-03-07cs.AIstat.ML