Closed-Form Interpretation of Neural Network Classifiers with Symbolic Gradients
University of Waterloo（滑铁卢大学）；Perimeter Institute for Theoretical Physics（周界理论物理研究所）；Homes Plus Magazine Inc.（Homes Plus杂志公司）
本文提出一种统一框架，通过将训练后的神经网络嵌入等价函数类并与符号搜索空间求交，为分类器及任意神经元寻找决策边界概念的闭式人类可读解释。
2024-10-01 cs.AI cs.LG
An Active Approach for Model Interpretation
School of Computing Science（计算科学学院）；Simon Fraser University（西蒙弗雷泽大学）
模型解释，或机器学习分类器的解释，旨在从训练的分类器中提取可概括的知识到人类可理解的格式，用于各种目的，例如模型评估，调试和信任。从计算的角度来看，它被公式化为使用更简单的可解释模型来近似目标分类器，例如决策集/列表/树等规则模型。通常，这种近似被处理为标准的监督学习，唯一的区别是标签由目标分类器提供，而不是地面实况。这种范式特别受欢迎，因为存在各种研究良好的监督算法来学习可解释的分类器。然而，我们认为，这种范式是次优的，因为它没有利用模型解释问题的独特属性，即生成合成实例并查询目标分类器的标签的能力。我们称之为主动查询属性，这表明我们应该从主动学习的角度来考虑模型解释。根据这一见解，我们认为，主动查询属性时，应采用设计模型解释算法，合成实例的生成应无缝集成的算法，学习模型解释。在本文中，我们证明，通过这样做，有可能实现更忠实的解释与更简单的模型复杂性。作为技术贡献，我们提出了一个主动算法主动决策集归纳（ADS）学习决策集，一组如果-否则规则，模型解释。ADS在所有决策集的空间上执行局部搜索。在每次迭代中，ADS计算所有局部动作的目标函数值的置信区间，并利用主动查询来确定最佳的一个。
2019-10-27 cs.AI cs.LG
Multi-stage Dynamic Selection for Cross-Project Defect Prediction
École de Technologie Supérieure, University of Quebec, Montreal, Canada（魁北克大学高级技术学院，蒙特利尔，加拿大）
针对跨项目缺陷预测中训练与目标项目分布差异问题，提出两阶段多分类器系统选择方案进行模块级模型选择，实验证明该方法在多数场景下优于现有方法。
2026-07-24 cs.LG cs.SE
Rethinking interpretation: Input-agnostic saliency mapping of deep visual classifiers
The University of Western Australia（西澳大学）
提出输入无关显著性映射新视角，通过累积模型梯度信息计算高级特征并转化为可解释可视化，不仅为大规模模型提供独立定性解释，还能识别受损分类器中的后门签名。
2023-03-31 cs.AI cs.CV cs.LG
AutoSpearman: Automatically Mitigating Correlated Metrics for Interpreting Defect Models
The University of Adelaide（阿德莱德大学）
缺陷模型的解释在很大程度上依赖于用于构建它们的软件度量。然而，这样的软件度量通常与缺陷模型相关。为了提高缺陷模型的性能，以前的工作通常使用特征选择技术来去除相关的度量。然而，如果特征选择技术产生不一致和相关度量的子集，则缺陷模型的解释可能是误导性的。在本文中，我们调查的一致性和相关性的度量的子集产生的九个常用的特征选择技术。通过对13个公开的缺陷数据集的案例研究，我们发现特征选择技术产生了不一致的度量子集，并且没有减轻相关度量，这表明当目标是模型解释时，不应该使用特征选择技术，并且必须应用相关性分析。由于相关性分析往往涉及手动选择的指标领域的专家，我们介绍AutoSpearman，一个自动化的指标选择方法的基础上相关性分析。我们的评估表明，AutoSpearman在训练样本中产生了最高的度量子集一致性，并减轻了相关度量，同时影响模型性能1-2%pts。因此，为了在解释缺陷模型时自动减轻相关度量，我们建议未来的研究使用AutoSpearman代替常用的特征选择技术。
2018-06-26 cs.LG cs.SE
TransferD2: Automated Defect Detection Approach in Smart Manufacturing using Transfer Learning Techniques
University of New Brunswick（新不伦瑞克大学）；Eigen Innovation Inc.（Eigen创新公司）；RMIT University（皇家墨尔本理工大学）
质量保证在智能制造行业中至关重要，因为它在成品出厂前就能识别出成品中存在的缺陷。可以利用现代机器学习技术来提供对这些缺陷的快速且准确的检测。因此，我们提出了一种迁移学习方法，即TransferD2，以正确识别源对象数据集上的缺陷，并将其应用扩展到新的不可见目标对象。我们提出了一种数据增强技术，从小的源数据集生成一个大的数据集，用于建立一个分类器。然后，我们将三种不同的预训练模型（Xception，ResNet101V2和InceptionResNetV2）集成到分类器网络中，并比较它们在源数据和目标数据上的性能。我们使用分类器来检测使用伪边界框的看不见的目标数据上的缺陷的存在。我们的结果表明，ResNet101 V2在源数据上表现最好，准确率为95.72%。Xception在目标数据上的表现最好，准确率为91.00%，并且还可以更准确地预测目标图像上的缺陷。在整个实验中，结果还表明，预训练模型的选择不依赖于网络的深度。我们提出的方法可以应用在缺陷检测应用程序中，其中没有足够的数据可用于训练模型，并且可以扩展到识别新的不可见数据中的缺陷。
2023-02-26 cs.AI cs.CV cs.LG
Listenable Maps for Audio Classifiers
Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）；Mila-Québec AI Institute（米拉-魁北克人工智能研究所）；Concordia University（康考迪亚大学）；Laval University（拉瓦尔大学）
针对音频分类器解释难的问题，提出事后解释方法L-MAC，通过解码器生成二值掩码高亮音频相关部分，实验证明其解释忠实度优于现有方法且更受用户偏好。
2024-06-19 cs.LG cs.SD eess.AS
Effective degrees of freedom for surface finish defect detection and classification
Umeå University（于默奥大学）；Volvo Group Truck Operations (GTO)（沃尔沃集团卡车运营部（GTO））
汽车工业中产品质量控制的主要关注点之一是镜面车身表面上小尺寸缺陷的自动检测。提出了一种新的基于样条平滑的表面缺陷特征提取方法和$k$ -最近邻概率分类器的统计学习方法。由于表面是镜面的，结构闪电反射技术被应用于图像采集。降秩三次回归样条用于平滑像素值，而所获得的平滑的有效自由度用作特征向量的分量。该方法的一个关键优点是，当应用标准学习分类器时，它允许达到接近零的误分类出错率。我们还提出了基于概率的性能评估指标作为传统指标的替代品。这些的使用提供了用于分类器的预测性能的不确定性估计的手段。实验分类结果表明，所提出的方法比比较方法更有效，从试点系统位于沃尔沃GTO驾驶室工厂在瑞典乌梅内斯，从图像。
2019-06-20 cs.CV cs.LG stat.AP
The Integrity of Machine Learning Algorithms against Software Defect Prediction
针对软件缺陷预测中数据高度不平衡的问题，本报告分析了在线序贯极限学习机（OS-ELM）结合基于聚类的过采样技术在NASA项目上的表现，发现其召回率和平衡准确率均优于多种传统分类器。
2020-09-05 cs.LG cs.SE stat.ML
Impact of Discretization Noise of the Dependent variable on Machine Learning Classifiers in Software Engineering
Kyushu University（九州大学）
研究人员通常通过引入人工离散化阈值（例如，中位数）。然而，这种离散化可能引入噪声（即，离散化噪声），这是由于接近人工阈值的数据点的模糊类忠诚度。以往的研究并没有提供一个明确的指导离散化噪声的分类器上的影响，以及如何处理这样的噪声。在本文中，我们提出了一个框架，以帮助研究人员和从业者系统地估计离散化噪声对分类器的影响，其对各种性能指标和分类器的解释的影响。通过对7个软件工程数据集的实例研究，发现：1）离散化噪声对分类器性能指标的影响程度因数据集而异; 2）分类器的解释能力总体上受到离散化噪声的影响，但前3个最重要的特征不受离散化噪声的影响。因此，我们建议从业者和研究人员使用我们的框架来了解离散化噪声对其构建的分类器性能的影响，并估计从数据集中丢弃的离散化噪声的确切数量，以避免此类噪声的负面影响。
2022-02-12 cs.LG cs.SE
On the Lack of Robust Interpretability of Neural Text Classifiers
Amazon（亚马逊）；University of California, Irvine（加州大学欧文分校）；Santa Clara University（圣克拉拉大学）
随着神经语言模型的复杂性不断增加，从业者已经转向用于理解这些模型的预测的方法。模型可解释性最常用的方法之一是基于特征的可解释性，即，根据特征对模型预测的影响对特征进行排序。一些先前的研究集中在评估基于特征的可解释性方法的保真度，即，测量丢弃排名靠前的特征对模型输出的影响。然而，在量化解释的稳健性方面开展的工作相对较少。在这项工作中，我们使用两个随机化测试来评估神经文本分类器的解释的鲁棒性，特别是那些基于预训练的Transformer编码器的文本分类器。第一个比较了两个模型的解释，这两个模型除了初始化之外是相同的。第二种方法测量具有训练参数的模型和具有随机参数的模型之间的解释是否不同。这两个测试都显示出与预期行为的惊人偏差，这就对从业者从解释中得出的见解程度提出了质疑。
2021-06-08 cs.CL cs.LG
Deep Networks as Logical Circuits: Generalization and Interpretation
The University of Texas at Austin（得克萨斯大学奥斯汀分校）
深度神经网络（DNN）不仅是黑箱模型，而且我们经常将其概念化。我们对投入与产出之间的联系机制缺乏良好的解释。因此，我们发现很难用人类有意义的术语来分析（1）网络学到了什么，（2）网络是否学到了什么。我们将DNN离散分类映射分层分解为输入的中间（真/假）分类器的逻辑（AND/OR）组合。那些不能进一步分解的分类器，称为原子，是（可解释的）线性分类器。总之，我们得到了一个具有线性分类器输入的逻辑电路，它计算与DNN相同的标签。该电路在结构上不类似于网络架构，并且它可能需要少得多的参数，这取决于权重的配置。在这些情况下，我们同时获得了解释和泛化界（对于原始DNN），连接了历史上分别研究的两个方面。与压缩技术不同，我们的表示是。我们通过在简单的受控环境中研究DNN来激发这种观点的实用性，在这种环境中，尽管只使用组合信息（例如，没有边缘信息），我们仍然获得了优越的泛化边界。我们演示了如何在MNIST数据集上“打开黑盒”。我们表明，学习，内部，逻辑计算对应于语义有意义的（无标签）类别，允许DNN的描述在平原英语。我们通过解释、诊断和替换逻辑电路（即DNN）的组件来提高已经训练好的网络的泛化能力。
2020-06-26 cs.AI cs.LG stat.ML
Posthoc Interpretation via Quantization
University of Trento（特伦托大学）；Université Laval（拉瓦尔大学）；Concordia University（康考迪亚大学）；Mila, Québec AI Institute（米拉魁北克人工智能研究所）
本文提出PIQ方法，利用向量量化和类别特定码本将分类器表示离散化，以突出分类器关注的关键输入部分，并通过图像与音频实验证明其解释更易被用户理解。
2023-05-27 cs.AI cs.LG cs.SD
Detecting Concept Drift for the reliability prediction of Software Defects using Instance Interpretation
Faculty of Computer Engineering, K.N. Toosi University of Technology（K.N.图西工业大学计算机工程学院）
本文提出通过识别无标签简化和重采样数据解释中的变化来直接检测概念漂移点，以构建可靠的JIT-SDP模型，并在重平衡数据和简单数据上分别与阈值无关和阈值依赖基线方法表现出更高兼容性。
2023-05-06 cs.LG cs.SE
Contrastive Classification and Representation Learning with Probabilistic Interpretation
Toyota Motor Europe（丰田汽车欧洲公司）；Czech Technical University in Prague（捷克布拉格技术大学）
交叉熵损失已经作为基于分类的任务的主要目标函数。广泛用于学习神经网络分类器，它显示了有效性和概率解释。最近，在自监督对比表示学习方法取得成功之后，已经提出了监督对比方法来学习表示，并且与具有交叉熵损失的单独训练相比，监督对比方法已经显示出优越且更鲁棒的性能。然而，交叉熵损失仍然需要训练最终的分类层。在这项工作中，我们研究学习的表示和分类器使用一个目标函数，结合了对比学习的鲁棒性和交叉熵损失的概率解释的可能性。首先，我们重新审视了以前提出的基于对比度的目标函数，该目标函数近似交叉熵损失，并提出了一个简单的扩展来共同学习分类器。其次，我们提出了一个新版本的监督对比训练，它联合学习分类器和网络骨干的参数。我们的经验表明，我们提出的目标函数在各种具有挑战性的设置中具有更高的训练稳定性和鲁棒性，比标准交叉熵损失有显着改善。
2022-11-07 cs.CV cs.LG
Learning from Higher-Layer Feature Visualizations
University of Oslo（奥斯陆大学）
在使用小型移动设备在家中实现睡眠呼吸暂停监测和基于机器学习的检测的目标的驱动下，我们研究基于解释的间接知识转移是否可以用于创建具有可接受性能的分类器。基于解释的间接知识转移意味着分类器（学生）基于来自已训练的深度网络（教师）的知识表示从合成数据集学习。我们使用激活最大化生成可视化，并创建一个合成数据集训练学生分类器。这种方法的优点在于，学生分类器可以在不访问原始训练数据的情况下被训练。通过实验研究了基于解释的间接知识转移的可行性及其局限性。学生在MNIST上实现了97.8%的准确度（教师准确度：99.3%），其架构与教师的架构相似。学生分类器对于呼吸暂停ECG数据集的子集实现了86.1%和89.5%的准确度（教师：分别为89.5%和91.1%）。
2019-03-06 cs.LG stat.ML
Who supervises the supervisor? Model monitoring in production using deep feature embeddings with applications to workpiece inspection
Fabforce GmbH & Co. KG（Fabforce 有限两合公司）
状态监测和工件检测的自动化在保持制造过程的高质量和高产量方面起着至关重要的作用。为此，最近机器学习发展的兴起导致了自主过程监督领域的巨大改进。然而，这些模型变得越复杂和强大，它们通常也就越不透明和不可解释。主要挑战之一是监控这些机器学习系统的实时部署，并在遇到可能影响模型性能的事件时发出警报。特别地，监督分类器通常是在底层数据分布的平稳性假设下构建的。例如，在一组材料表面缺陷上训练的视觉检测系统通常不适应或甚至不识别数据分布的逐渐变化-被称为"数据漂移"的问题-例如新类型的表面缺陷的出现。这又可能导致有害的误预测，例如，来自新缺陷类别的样本被分类为无缺陷。为此，期望提供分类器性能的实时跟踪，以告知关于附加错误类别的推定开始以及关于分类器重新训练的人工干预的必要性。在这里，我们提出了一个无监督的框架，它作用于有监督的分类系统之上，从而利用其内部的深度特征表示作为代理来跟踪部署过程中数据分布的变化，从而预测分类器性能的下降。
2022-01-17 cs.CV cs.LG
Anomaly Detection in Additive Manufacturing Processes using Supervised Classification with Imbalanced Sensor Data based on Generative Adversarial Network
Virginia Tech（弗吉尼亚理工大学）；NJIT（新泽西理工学院）
监督分类方法已被广泛用于先进制造过程的质量保证，例如用于异常（缺陷）检测的增材制造（AM）。然而，由于在制造过程中异常状态（有缺陷）比正常状态（无缺陷）发生的频率低得多，因此从正常状态收集的传感器数据样本的数量通常比从异常状态收集的传感器数据样本的数量多得多。这个问题导致分类分析的训练数据不平衡，从而降低了过程中检测异常状态的性能。为异常状态生成有效的人工样本数据有利于训练集的均衡。为了实现这一目标，本文提出了一种新的数据增强方法的基础上生成对抗网络（GAN）使用增材制造过程图像传感器数据。我们的方法的新颖之处在于，一个标准的GAN和分类器的技术，以稳定的标准GAN的学习过程进行了联合优化。所生成的多样且高质量的样本为分类器提供了平衡的训练数据。GAN和分类器之间的迭代优化提供了高性能的分类器。通过聚合物和金属AM过程的公开源数据和实际案例研究，验证了所提出方法的有效性。
2022-11-25 cs.LG stat.AP
Thoughts on a Recursive Classifier Graph: a Multiclass Network for Deep Object Recognition
Institute of Mathematics of the Romanian Academy（罗马尼亚科学院数学研究所）；Google Research（谷歌研究院）；Carnegie Mellon University（卡内基梅隆大学）
我们提出了一个通用的多类视觉识别模型，称为分类器图，其目的是概括和整合的想法，从今天的许多成功的分层识别方法。我们的基于图的模型的优势在于，能够在不同层次的解释和抽象的类之间实现丰富的交互。建议的多类系统是有效地学习使用逐步更新。该结构由简单的逻辑线性层组成，输入来自自动从大型池中选择的特征。每个新学习的分类器都成为一个潜在的新特征。因此，我们的特征池可以由初始手动设计的特征以及从先前步骤（图节点）中学习的分类器组成，每个分类器在不同的尺度和位置复制多次。通过这种方式，我们可以学习和发展一个深度的、复杂的分类器图，以及不同抽象和解释级别的丰富特征池。我们提出的分类器图成为一个具有递归结构的多类系统，适合同时对多个类进行深度检测和识别。
2014-04-02 cs.CV cs.LG cs.NE
Application of Context-dependent Interpretation of Biosignals Recognition to Control a Bionic Multifunctional Hand Prosthesis
Wroclaw University of Science and Technology（弗罗茨瓦夫科技大学）
提出一种sEMG情境相关识别系统，通过隔离“盒子”赋予同类信号不同含义并优化分类器，实验证明其可提升多功能假手控制的分类质量。
2025-02-18 cs.LG
A Deep Learning Interpretable Classifier for Diabetic Retinopathy Disease Grading
Universitat Rovira i Virgili（罗维拉-威尔吉利大学）
深度神经网络模型已被证明在图像分类任务中非常成功，也适用于医疗诊断，但其主要问题是缺乏可解释性。它们曾经作为直觉机器工作，具有很高的统计置信度，但无法对报告的结果给出可解释的解释。这些模型的参数数量庞大，很难从中推断出合理的解释。在本文中，我们提出了一种糖尿病视网膜病变可解释的分类器，能够将视网膜图像分类到不同的疾病严重程度，并通过为隐藏空间和输入空间中的每个点分配一个分数来解释其结果，以线性方式评估其对最终分类的贡献。生成的可视化地图可以由专家进行解释，以便将自己的知识与模型给出的解释进行比较。
2017-12-21 cs.CV cs.LG stat.ML
Learning-From-Disagreement: A Model Comparison and Visual Analytics Framework
Visa Research（Visa研究院）
随着每天产生的分类模型数量的快速增长，也引入了许多模型解释和比较解决方案。例如，LIME和SHAP可以解释哪些输入特征对分类器的输出预测贡献更大。不同的数值度量（例如，准确度）可以用于容易地比较两个分类器。然而，很少有作品可以解释的贡献，一个数据特征的分类器相比，它的贡献，另一个分类器。这种比较解释有助于揭示两种分类器之间的根本差异，选择不同特征条件下的分类器，更好地集成两种分类器。为了实现这一点，我们提出了一个从分歧中学习（LFD）框架来直观地比较两个分类模型。具体来说，LFD识别来自两个比较分类器的预测不一致的数据实例，并训练一个学习器从不一致的实例中学习。由于这两个分类器的训练特征可能不可用，我们通过基于分类器的某些假设提出的一组元特征来训练分类器，以探测它们的行为。通过使用不同元特征的SHAP值解释训练的分类器，我们为比较的分类器提供了可操作的见解。此外，我们引入了多个指标，从不同的角度来分析元功能的重要性。有了这些指标，人们可以很容易地识别出两个分类器中具有最互补行为的元特征，并使用它们来更好地集成分类器。我们专注于金融服务和广告行业的二进制分类模型，以证明我们提出的框架和可视化的有效性。
2022-01-19 cs.HC cs.LG
The Importance of Image Interpretation: Patterns of Semantic Misclassification in Real-World Adversarial Images
Radboud University（拉德堡德大学）
创建对抗图像的目的是使图像分类器产生错误分类。在本文中，我们建议对抗图像应该基于语义不匹配进行评估，而不是像当前工作中使用的标签不匹配。换句话说，我们建议，如果将“马克杯”的图像分类为“萝卜”，则将其视为对抗性的，而不是像当前系统所假设的那样被分类为“杯子”。我们在评估对抗性图像时考虑语义误分类的新想法提供了两个好处。首先，它是一个更现实的概念化是什么使图像具有对抗性，这对于充分理解对抗性图像对安全和隐私的影响很重要。其次，它可以评估对抗图像到真实世界分类器的可转移性，而不需要分类器的标签集在图像创建期间可用。本文进行了一个真实世界的图像分类，这是可能的，我们的语义误分类方法的转移攻击的评估。该攻击揭示了对抗性错误分类的语义模式，这些模式无法使用传统的标签不匹配进行调查。
2022-12-13 cs.CR cs.CV cs.LG
Bayesian SegNet for Semantic Segmentation with Improved Interpretation of Microstructural Evolution During Irradiation of Materials
Pacific Northwest National Laboratory（太平洋西北国家实验室）；North Carolina State University（北卡罗来纳州立大学）
本文提出基于贝叶斯SegNet的语义分割方法，通过结合元数据与不确定性量化，对辐照LiAlO2芯块微观结构图像进行缺陷、晶粒和晶界分割，证明神经网络可有效替代专家标注。
2025-02-20 cs.CV cs.LG
Attacking interpretable NLP systems
Department of Computer Science and Engineering, Sungkyunkwan University（顺天大学计算机科学与工程系）；Department of Computer Science and Engineering, University of Notre Dame（圣母大学计算机科学与工程系）；Department of Computer Science, Loyola University（洛约拉大学计算机科学系）
本文提出黑盒攻击方法 AdvChar，通过字符级修改关键分词，在保持解释相似性的同时误导可解释 NLP 系统，实验表明平均仅改两个字符即可显著降低模型准确率。
2025-07-22 cs.AI cs.CR cs.LG
Domain aware medical image classifier interpretation by counterfactual impact analysis
VRVis Zentrum für Virtual Reality und Visualisierung Forschungs-GmbH（VRVis虚拟现实与可视化研究有限公司）
计算机视觉任务的机器学习方法的成功推动了医学和生物学计算机辅助预测的激增。基于输入图像和病理分类之间的数据驱动关系，这些预测器提供了前所未有的准确性。然而，试图解释这种学习关系的因果关系的许多方法都有不足之处：时间限制，粗糙，分散，有时误导性的结果，由高斯噪声和模糊等启发式技术的使用引起，阻碍了它们的临床应用。在这项工作中，我们讨论和克服这些障碍，引入一个基于神经网络的归因方法，适用于任何训练的预测。我们的解决方案通过测量局部图像扰动对预测器分数的影响，在单个前向传递中识别输入图像的显著区域。我们用一个强邻域条件修复方法取代启发式技术，避免解剖学上不可信的，因此对抗性的文物。我们对公开的乳腺X线摄影数据进行了评估，并与现有的最先进的方法进行了比较。此外，我们通过展示胸部X光片的结果来验证该方法的普遍性。我们的解决方案表明，无论是定量和定性，显着减少定位模糊和更清晰的传达结果，而不牺牲时间效率。
2020-10-01 cs.CV cs.LG
Fast Multi-Class Probabilistic Classifier by Sparse Non-parametric Density Estimation
Institute of Statistical Science, Academia Sinica（中央研究院统计科学研究所）
在许多应用场景中，模型解释是必不可少的，建立一个易于模型解释的分类模型可以为进一步的研究和改进提供有用的信息。在现代数据分析中，经常会遇到一组冗长的变量，特别是当数据以某些自动方式收集时。这类数据集可能没有收集特定的分析目标，并且通常包含冗余特征，这些特征对当前感兴趣的分析任务没有贡献。变量选择是提高模型解释能力的一种常用方法，在一些参数分类模型中得到广泛应用。在基于密度估计的非参数分类模型中，特别是在多类分类的情况下，缺乏对变量选择的研究。在这项研究中，我们研究了多类分类问题，使用稀疏非参数密度估计的思想，并提出了一种方法来确定每个类的高影响变量。我们提出了所提出的方法的渐近性质和计算过程以及一些建议的样本量。我们还重新发布了使用合成数据集和一些真实数据集的数值结果。
2019-01-04 cs.LG stat.ML
Image Embedding and Model Ensembling for Automated Chest X-Ray Interpretation
Politecnico di Milano（米兰理工大学）
胸部X线检查（CXR）可能是全球最常进行的放射学检查。在这项工作中，我们提出并研究了几种机器学习方法来开发自动化CXR诊断模型。特别是，我们在CheXpert数据集上训练了几个卷积神经网络（CNN），CheXpert数据集是一个超过20万CXR标记图像的大型集合。然后，我们使用经过训练的CNN来计算CXR图像的嵌入，以便从它们中训练两组基于树的分类器。最后，我们描述和比较了三种集成策略，将训练好的分类器组合在一起。我们在这项工作中的目标不是期望一些性能方面的好处，而是表明上述两种方法，即，图像嵌入和模型集成的提取可以有效且可行地解决需要医学成像理解的任务。我们在这方面的结果令人鼓舞，值得进一步研究。
2021-05-05 cs.CV cs.LG
Self-Supervised Pretraining Improves Performance and Inference Efficiency in Multiple Lung Ultrasound Interpretation Tasks
University of Waterloo（滑铁卢大学）
本研究验证了自监督预训练能提升多任务肺部超声分类的AUC并显著降低推理时间，尤其在低标签场景下优势明显。
2023-09-05 cs.CV cs.LG
Using a Classifier Ensemble for Proactive Quality Monitoring and Control: the impact of the choice of classifiers types, selection criterion, and fusion process
Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；ACTA Mobilier
近年来，制造过程面临许多外部或内部的问题（定制产品重新安排、工艺可靠性的增加等）变化因此，这些制造过程的监测和质量管理活动是困难的。因此，管理人员需要更积极主动的方法来处理这种变化。在这项研究中，提出了一种主动的质量监测和控制方法的基础上分类预测缺陷的发生，并提供最佳值的质量过程的关键因素。在之前的工作中（Noyel等人，2013年），分类方法已被用于提高公司工厂的涂漆工艺质量;所获得的结果是有希望的，但所使用的分类模型的准确性需要提高。实现这一点的一种方法是构建一个分类器委员会（称为集成），以获得比其组成模型更好的预测模型。然而，最佳分类方法的选择和最终集成的构建仍然是一个具有挑战性的问题。在这项研究中，我们重点分析了分类器类型的选择对分类器集成精度的影响，此外，我们还探讨了选择标准和融合过程对集成精度的影响。基于一个实际案例，对几种融合方案进行了测试和比较。我们的研究结果表明，使用集成分类导致分类器模型的准确性增加。因此，可以改进对所考虑的真实世界情况的监测和控制。
2018-04-05 cs.LG stat.ML
Machine-Learning-Based Diagnostic Framework for Passive Ultrasonic Detection of Railway Wheel Defects
本研究提出基于机器学习的铁路车轮缺陷被动超声检测框架，结合统计特征选择与随机森林分类器，实现9类车轮缺陷的非接触式识别，为现场检测系统奠定基础。
2026-08-11 cs.LG cs.RO eess.SP
