Shuffle Augmentation of Features from Unlabeled Data for Unsupervised Domain Adaptation
Xpeng motors（小鹏汽车）；Nanyang Technological University（南洋理工大学）；University of Pennsylvania（宾夕法尼亚大学）；Microsoft（微软）
无监督领域自适应（UDA）是迁移学习的一个分支，在目标样本的标签不可用的情况下，近年来在对抗训练模型的帮助下得到了广泛的研究和发展。虽然现有的UDA算法能够引导神经网络提取可转移的和有区别的特征，但分类器仅仅是在标记的源数据的监督下训练的。由于源域和目标域之间不可避免的差异，分类器很难知道目标分类边界。在本文中，洗牌增强功能（SAF），一种新的UDA框架，提出了解决这个问题，通过提供监督信号的分类器从目标特征表示。SAF从目标样本中学习，自适应地提取类别感知的目标特征，并隐式引导分类器找到全面的类别边界。大量实验表明，SAF模块可以集成到任何现有的对抗UDA模型，以实现性能改进。
2022-01-28 cs.CV cs.LG
Unsupervised Supervised Learning II: Training Margin Based Classifiers without Labels
School of Computational Science and Engineering（计算科学与工程学院）；College of Computing（计算学院）；Georgia Institute of Technology（佐治亚理工学院）；Yahoo! Labs（雅虎实验室）
许多流行的线性分类器，如逻辑回归、boosting或SVM，都是通过优化基于边缘的风险函数来训练的。传统上，这些风险函数是基于标记数据集计算的。我们开发了一种新的技术来估计这种风险，只使用未标记的数据和边缘标签分布。我们证明了所提出的风险估计器在高维数据集上是一致的，并在合成数据和真实数据上进行了证明。特别是，我们展示了如何在迁移学习中使用估计来评估分类器，以及如何在没有标记数据的情况下训练分类器。
2010-07-21 cs.LG
Unsupervised Domain Adaptation in the Absence of Source Data
CSAIL, MIT（麻省理工学院计算机科学与人工智能实验室）
当前的无监督领域自适应方法可以解决许多类型的分布偏移，但它们假设来自源域的数据是免费可用的。随着预训练模型的使用变得越来越普遍，假设源数据不可用是合理的。我们提出了一种无监督的方法，用于使源分类器适应于从源域沿自然轴（例如亮度和对比度）变化的目标域。我们的方法只需要访问未标记的目标实例和源分类器。我们验证了我们的方法在场景中的分布偏移涉及亮度，对比度和旋转，并表明它优于微调基线的情况下，有限的标记数据。
2020-07-20 cs.CV cs.LG
CS-AF: A Cost-sensitive Multi-classifier Active Fusion Framework for Skin Lesion Classification
University of South Florida（南佛罗里达大学）
卷积神经网络（CNN）在皮肤病变分析中已经达到了最先进的性能。与单个CNN分类器相比，通过融合方法将多个分类器的结果相结合，显示出更有效和鲁棒性。由于皮肤病变数据集通常是有限的并且在统计上有偏差，因此在设计有效的融合方法时，重要的是不仅要考虑每个分类器在训练/验证数据集上的性能，而且要考虑相对区分能力（例如，置信度），这需要主动融合方法。此外，在皮肤病变分析中，某些类别的数据（例如，良性病变）通常是丰富的，使得它们成为过度代表的大多数，而一些其它类别的数据（例如，癌症病变）是缺乏的，使他们成为代表性不足的少数群体。更重要的是精确地识别来自代表性不足的样本（即，就数据量而言）但是更重要的少数类（例如，某些癌性病变）。换句话说，将更严重的病变错误分类为良性或不太严重的病变应该具有相对更多的成本（例如，金钱、时间甚至生命）。为了解决这些挑战，我们提出了CS-AF，一个成本敏感的多分类器主动融合框架的皮肤病变分类。在实验评估中，我们在ISIC研究数据集上准备了96个基础分类器（12个CNN架构）。我们的实验结果表明，我们的框架始终优于静态融合的竞争对手。
2020-09-09 cs.CV cs.LG eess.IV
Unsupervised Ensemble Learning with Dependent Classifiers
Weizmann Institute of Science（魏茨曼科学研究所）；Yale University（耶鲁大学）；Yale University School of Medicine（耶鲁大学医学院）
在无监督集成学习中，人们从多个源或分类器获得预测，但不知道每个源的可靠性和专业知识，也没有标记数据来评估它。任务是将这些可能相互冲突的预测组合成一个准确的元学习者。迄今为止，大多数作品都假设不同来源之间存在完美的多样性，这种特性被称为条件独立性。然而，在现实场景中，这一假设往往被违反，基于它的集成学习器可能是严重的次优。我们在本文中解决的关键挑战是：\（i）如何检测，在无监督的方式，强烈违反条件独立性;和（ii）构建一个合适的元学习器。为此，我们引入了一个统计模型，允许分类器之间的依赖关系。我们的主要贡献是开发新的无监督方法来检测强依赖分类器，更好地估计其准确性，并构建一个改进的元学习器。使用人工和真实数据集，我们展示了考虑分类器依赖关系的重要性以及我们方法的竞争性能。
2016-02-23 cs.LG stat.ML
Joint Semantic Domain Alignment and Target Classifier Learning for Unsupervised Domain Adaptation
JD AI Research（京东人工智能研究院）；University of Science and Technology of China（中国科学技术大学）；Nanjing University（南京大学）
无监督领域自适应的目的是以无监督的方式将从源域学习到的分类器转移到目标域。在目标伪标签的帮助下，对齐类级分布和学习目标域中的分类器是两个广泛使用的目标。现有的方法往往分别优化这两个单独的目标，这使得他们遭受的忽视其他。然而，将这两个方面一起优化并不是微不足道的。为了缓解上述问题，我们提出了一种新的方法，以整体的方式联合优化语义域对齐和目标分类器学习。联合优化机制既可以消除它们的弱点，又可以实现它们的优势互补。理论分析也验证了联合优化机制的优越性。在基准数据集上的大量实验表明，与现有的无监督领域自适应方法相比，该方法具有最好的性能。
2019-06-10 cs.LG stat.ML
FUSION: Fully Unsupervised Test-Time Stain Adaptation via Fused Normalization Statistics
AIRA MATRIX（AIRA矩阵公司）
染色显示抽吸物的微观结构，同时创建组织病理学载玻片。染色变化，定义为源和目标之间的色差，是由染色过程中不同的特性引起的，导致分布偏移和目标上的性能差。染色归一化的目标是使目标的色度分布与源的色度分布相匹配。然而，染色标准化导致潜在的形态扭曲，导致错误的诊断。我们提出了FUSION，这是一种通过在无监督的测试时间场景中将模型调整到目标来促进染色适应的新方法，消除了在目标端进行显著标记的必要性。FUSION通过改变目标的批量标准化统计数据并使用加权因子将它们与源统计数据融合来工作。该算法基于加权因子减少到两个极端之一。尽管缺乏训练或监督，但FUSION在分类和密集预测（分割）方面超越了现有的等效算法，这一点在两个公共数据集上的综合实验中得到了证明。
2022-08-30 cs.CV cs.LG eess.IV
DeConFuse : A Deep Convolutional Transform based Unsupervised Fusion Framework
Indraprastha Institute of Information Technology, Delhi（德里英德拉普拉斯塔信息技术学院）；TCS Research（塔塔咨询服务研究院）；Université Paris-Saclay（巴黎-萨克雷大学）；CentraleSupélec（高等电力学院）；Inria（法国国家信息与自动化研究所）；LIGM（LIGM实验室）；Université Gustave Eiffel（古斯塔夫·埃菲尔大学）；CNRS（法国国家科学研究中心）；ESIEE Paris（巴黎高等电子工程师学院）
这项工作提出了一种基于深度卷积变换学习的无监督融合框架。卷积滤波器用于数据分析的强大学习能力是众所周知的。卷积特征的成功归功于卷积神经网络（CNN）。然而，CNN不能以无监督的方式执行学习任务。在最近的一项工作中，我们证明了这种缺点可以通过采用卷积变换学习（CTL）方法来解决，其中卷积滤波器以无监督的方式学习。本论文的目的是（i）提出一个深度版本的CTL;（ii）提出一个无监督的融合公式，利用所提出的深度CTL表示;（iii）开发一个数学上健全的优化策略来执行学习任务。我们应用所提出的技术，名为DeConclusion，股票预测和交易的问题。与最先进的方法（基于CNN和长短期记忆网络）的比较表明，我们的方法进行可靠的特征提取的优越性。
2020-11-09 cs.LG
Lp-Norm Constrained One-Class Classifier Combination
Bilkent University（比尔肯大学）
本研究提出一种基于Lp-范数约束的单类分类器融合方法，通过凸优化学习权重并利用Frank-Wolfe算法求解，在多个数据集上验证了其优于现有方法。
2023-12-25 cs.CV cs.LG
Identification of Protein Coding Regions in Genomic DNA Using Unsupervised FMACA Based Pattern Classifier
S.R.K Institute of Technology（S.R.K理工学院）；Acharya Nagarjuna University（阿查里亚龙树大学）
基因携带着制造蛋白质的指令，蛋白质在细胞中以DNA分子中发现的特定核苷酸序列的形式存在。但是，这些基因编码蛋白质的区域可能只占据序列的一小部分。识别编码区在理解这些基因中起着至关重要的作用。在本文中，我们提出了一个无监督的模糊多吸引子元胞自动机（FMCA）的模式分类识别的DNA序列的编码区。我们提出了一个独特的K-Means算法设计FMACA分类器，这是简单的，高效的，并产生更准确的分类器比以前已经获得了一系列不同的序列长度。实验结果证实了所提出的无监督FCA分类器的可扩展性，以处理大量的数据集，而不管类，元组和属性的数量。已经建立了良好的分类精度。
2014-01-25 cs.CE cs.LG
Bayesian Classifier Fusion with an Explicit Model of Correlation
TU Darmstadt（达姆施塔特工业大学）；Frankfurt Institute for Advanced Studies（法兰克福高等研究院）；Goethe University Frankfurt（法兰克福歌德大学）
将多个分类器或专家的输出组合成单个概率分类是机器学习中的基本任务，具有从分类器融合到专家意见池的广泛应用。在这里，我们提出了一个分层贝叶斯模型的概率分类器融合的基础上，一个新的相关Dirichlet分布。该分布明确地对边缘狄利克雷分布的随机向量之间的正相关性进行建模，从而允许对基础分类器或专家之间的相关性进行明确建模。所提出的模型自然容纳经典的独立意见池和其他独立的融合算法的特殊情况。它是由不确定性减少和正确性的合成和真实世界的数据集融合评估。我们表明，由于不确定性降低的融合分类器的性能的变化可以是贝叶斯最优的，即使是高度相关的基础分类器。
2021-11-22 cs.AI cs.LG stat.ML
An Unsupervised Learning Classifier with Competitive Error Performance
本文提出一种基于判别超平面增量平移与旋转的无监督学习分类器，在ImageNet子集上取得6.2%的Top 3错误率，性能接近监督kNN并远超k-Means。
2024-09-30 cs.LG stat.ML
PAC-Bayesian Majority Vote for Late Classifier Fusion
Aix-Marseille Univ（艾克斯-马赛大学）；CNRS（法国国家科学研究中心）；Univ. of St-Etienne（圣艾蒂安大学）
在过去的几年里，人们对多媒体索引给予了大量的关注。在文献中，我们经常考虑两种融合方案：早期融合和晚期融合。在本文中，我们专注于后期分类器融合，其中一个相结合的分数，每一个模态的决策层。为了解决这个问题，我们研究了一个最近的和优雅的有理有据的二次规划名为MinCq来自机器学习PAC-Bayes理论。MinCq在一组被视为选民的实值函数上寻找加权组合，从而导致最低的误分类率，同时利用选民的多样性。我们提供的证据表明，这种方法是自然适应于后期融合程序。我们提出了MinCq的扩展，通过添加保留顺序的成对损失来进行排名，从而帮助改进平均精度度量。我们证实了良好的行为的MinCq为基础的融合方法与实验上的真实图像基准。
2012-07-04 cs.CV cs.LG cs.MM
Enhancing Precision of Automated Teller Machines Network Quality Assessment: Machine Learning and Multi Classifier Fusion Approaches
University of Tehran（德黑兰大学）；Pulseware Company（Pulseware公司）；University of Waterloo（滑铁卢大学）
本文提出基于堆叠分类器融合随机森林、LightGBM和CatBoost并结合SMOTE的ATM网络质量评估方法，将误报率从3.56%降至0.71%，准确率达99.29%。
2025-01-02 cs.LG
Classifier-to-Bias: Toward Unsupervised Automatic Bias Detection for Visual Classifiers
University of Trento（特伦托大学）；Fondazione Bruno Kessler（布鲁诺·凯塞勒基金会）
提出首个无需标注数据的偏见发现框架 Classifier-to-Bias (C2B)，利用大语言模型和图像检索，仅凭任务文本描述即可自动检测预训练视觉分类模型中的偏见，且在实验中优于依赖标注的基线方法。
2025-04-29 cs.AI cs.CV cs.LG
Unsupervised Domain Adaptation via Regularized Conditional Alignment
University of California, Los Angeles（加州大学洛杉矶分校）
我们提出了一种无监督的领域自适应方法，该方法训练共享嵌入来对齐输入（域）和输出（类）的联合分布，使任何分类器对域不可知。联合对齐确保不仅域的边缘分布对齐，而且标签也对齐。我们提出了一个新的目标函数，鼓励类条件分布在特征空间中有不相交的支持。我们进一步利用对抗正则化来提高分类器在没有注释数据的域上的性能。
2019-05-26 cs.CV cs.LG stat.ML
Unsupervised feature selection algorithm framework based on neighborhood interval disturbance fusion
Shanxi University（山西大学）；Anhui University（安徽大学）
本文提出基于邻域区间扰动融合的无监督特征选择算法NIDF，通过区间近似数据集并联合学习特征得分与数据区间，以提升算法稳定性，实验验证了其优越性。
2024-10-20 cs.LG
Unsupervised Ranking and Aggregation of Label Descriptions for Zero-Shot Classifiers
Symanto Research（Symanto研究院）；Universitat Politècnica de València（瓦伦西亚理工大学）；PRHLT Research Center（PRHLT研究中心）
基于标签描述的Zero-shot文本分类器将输入文本和一组标签嵌入到同一空间中：然后可以使用余弦相似度等度量来选择与输入文本最相似的标签描述作为预测标签。在真正的zero-shot设置中，设计良好的标签描述是具有挑战性的，因为没有可用的开发集。受《带分歧学习》文献的启发，我们研究了重复评级分析的概率模型如何用于以无监督的方式选择最佳标签描述。我们在一组不同的数据集和任务（情感，主题和立场）上评估我们的方法。此外，我们表明，多个，嘈杂的标签描述可以聚合，以提高性能。
2022-05-24 cs.CL cs.LG
On Spectrogram Analysis in a Multiple Classifier Fusion Framework for Power Grid Classification Using Electric Network Frequency
Aristotle University of Thessaloniki（亚里士多德大学）
本文提出一种基于电网频率（ENF）的电网分类新方法，通过频谱图分析与多分类器融合框架（含传统机器学习与NAS优化的CNN），利用浅层多标签神经网络融合预测结果，在验证和测试准确率上超越现有最先进分类器。
2024-03-27 cs.LG
Unsupervised Real Time Prediction of Faults Using the Support Vector Machine
为了提高支持向量机（SVM）分类器的分类精度，采用序贯最小优化（SMO）训练算法对油气设备数据进行故障和正常分类。最近的应用程序的故障分析利用SVM技术，而不实施SMO训练算法，而在我们的研究中，我们表明，所提出的解决方案可以更好地执行时，使用SMO训练算法。此外，我们实现了集成方法，这是一个混合的基于规则和神经网络分类器，以提高性能的SVM分类器（SMO训练算法）。优化研究是由于分类器在处理不平衡数据集时性能不佳。通过使用堆叠集成方法将所选择的最佳性能分类器与SVM分类器（具有SMO训练算法）结合在一起，以创建可以处理不平衡数据问题的高效集成预测模型。该预测模型的分类性能明显优于支持向量机与SMO训练算法和许多其他传统的分类器。
2020-12-30 cs.LG
Designing Kernel Scheme for Classifiers Fusion
Ferdowsi University of Mashhad（费尔道斯大学马什哈德分校）
在本文中，我们提出了一种特殊的融合方法，利用新的神经网络，以提高整体分类效率的基础分类器组合。虽然集成的设计，使每个分类器独立训练，而决策融合作为一个最终的过程中，在这种方法中，我们将有兴趣使融合过程更具适应性和效率。这种新的组合器，称为神经网络核最小均方，试图融合分类器的集合的输出。提出的神经网络具有一些特殊的性质，如核能力，最小均方功能，易于学习的模式变体和传统的神经元能力。神经网络核最小均方是一种特殊的神经元，它是利用核最小均方性质训练的。这种新的神经元被用来作为一个分类器组合器融合输出的基础神经网络分类器。分析了该方法的性能，并与其他融合方法进行了比较。该分析代表了我们的新方法与其他方法相比具有更高的性能。
2009-12-05 cs.LG cs.NE
Scheduling to Learn In An Unsupervised Online Streaming Model
TIFR, Mumbai（孟买塔塔基础研究院）；IIT-Bombay（印度理工学院孟买分校）
一个无监督的在线流模型被认为是在$T$插槽的样本到达在线的方式。存在$M$分类器，其混淆矩阵先验未知。在每个槽中，最多一个样本可以由任何分类器标记。样本的准确性是从各种分类器中为其获得的标签集的函数。样本的效用是其精度减去响应时间（离开时隙和到达时隙的差）的标量倍数，其中离开时隙也由算法决定。由于每个分类器每个时隙最多可以标记一个样本，因此在为特定样本获得更大的标签集合以提高其准确性与其响应时间之间存在折衷。最大化所有样本的效用之和的问题被认为是，学习混淆矩阵，样本分类器匹配分配，和样本离开槽决定相互依赖。该算法首先学习混淆矩阵，然后使用贪心算法进行样本分类器匹配。一旦样本的增量效用变为非正，样本就会离开。我们证明了该算法的竞争比是$\frac{1}{2}-{\mathcal O}\left(\frac{\log T}{T}\right)$。
2021-12-02 cs.LG
DAugNet: Unsupervised, Multi-source, Multi-target, and Life-long Domain Adaptation for Semantic Segmentation of Satellite Images
Université Côte d’Azur（蔚蓝海岸大学）；Inria（法国国家信息与自动化研究所）；Centre National d’Études Spatiales（法国国家空间研究中心）；LuxCarta Technology（LuxCarta科技公司）；ACRI-ST（ACRI-ST公司）
卫星图像的领域自适应在分割大尺度卫星图像时克服了机器学习模型泛化能力的局限性，近年来得到了越来越多的关注。大多数现有的方法寻求适应模型从一个域到另一个域。然而，这样的单源和单目标设置阻止了方法成为可扩展的解决方案，因为如今具有不同数据分布的多个源和目标域通常是可用的。此外，卫星图像的不断扩散需要分类器，以适应不断增加的数据。我们提出了一种新的方法，创造DAugNet，无监督，多源，多目标，和终身的领域自适应的卫星图像。它由一个分类器和一个数据扩充器组成。数据增强器是一个浅层网络，能够以无监督的方式在多个卫星图像之间进行风格转换，即使随着时间的推移添加了新的数据。在每次训练迭代中，它为分类器提供了多样化的数据，这使得分类器对领域之间的大数据分布差异具有鲁棒性。我们广泛的实验证明，DAugNet比现有方法更好地推广到新的地理位置。
2020-06-07 cs.CV cs.LG eess.IV
From Caesar Cipher to Unsupervised Learning: A New Method for Classifier Parameter Estimation
Citadel LLC（Citadel有限责任公司）；Tencent（腾讯）；University at Buffalo, SUNY（纽约州立大学布法罗分校）
许多重要的分类问题，如对象分类，语音识别，和机器翻译，已经解决了监督学习范式在过去，其中训练语料库的并行输入输出对需要高成本。消除对并行训练语料库的需求对于实际应用具有重要的现实意义，也是无监督学习的主要目标之一。最近，令人鼓舞的进展，无监督学习解决这样的分类问题已经取得了进展，并澄清了挑战的性质。在这篇文章中，我们回顾了这一进展，并传播了一类有前途的新方法，以促进机器学习研究人员理解的方法。特别是，我们强调的关键信息，使无监督学习的成功-顺序统计作为分布先验的标签。利用这种顺序统计使得有可能估计分类器的参数而不需要成对的输入-输出数据。在本文中，我们首先介绍了凯撒密码及其解密的概念，这激发了我们在整个论文中使用的无监督学习的新损失函数的构造。然后，我们使用一个简单但有代表性的二进制分类任务作为一个例子，推导和描述的无监督学习算法，一步一步，易于理解的方式。我们包括两种情况，一种是使用Bigram语言模型作为无监督参数估计中使用的顺序统计，另一种是使用更简单的Unigram语言模型。对于这两种情况，包括学习算法的详细推导步骤。此外，汇总表比较了在执行用于学习二进制分类器的无监督学习算法时两种情况的计算步骤。
2019-06-06 cs.LG stat.ML
A novel multi-classifier information fusion based on Dempster-Shafer theory: application to vibration-based fault detection
Ghent University（根特大学）
实现高的预测率是故障检测的关键任务。虽然有各种分类方法，但没有一种方法在所有应用中都能给出高精度。因此，在本文中，一种新的多分类器融合方法的发展，以提高个人分类器的性能。这是通过使用Dempster-Shafer理论（DST）获得的。然而，在证据相互冲突的情况下，DST可能会给出反直观的结果。在这方面，一个预处理技术的基础上设计了一个新的度量，以衡量和减轻证据之间的冲突。为了评估和验证所提出的方法的有效性，该方法被应用到15个基准数据集从UCI和KEEL。此外，它被应用于分类多晶镍合金第一级涡轮叶片的基础上，他们的宽带振动响应。通过对不同噪声水平的统计分析，并与四种最新融合技术进行比较，结果表明，该方法提高了分类精度，优于单个分类器。
2021-06-23 cs.LG
Finding the Needle in a Haystack: Unsupervised Rationale Extraction from Long Text Classifiers
Imperial College London（帝国理工学院）；University of Cambridge（剑桥大学）；King’s College London（伦敦国王学院）
长序列Transformers的设计是为了提高语言模型对较长文本的表示，以及它们在下游文档级任务上的性能。然而，人们对长模型中标记级预测的质量了解不多。我们研究了这种架构的性能在无监督的理由提取的文档分类的上下文中。我们发现，标准的软注意力方法与Longformer语言模型结合使用时，表现明显更差。我们提出了一个组成的软注意力架构，适用于Roberta明智的提取合理的理由在令牌级。我们发现这种方法在情感分类数据集上的表现明显优于Longformer驱动的基线，同时还表现出显着更低的运行时间。
2023-03-14 cs.CL cs.LG
Unsupervised Fuzzy eIX: Evolving Internal-eXternal Fuzzy Clustering
Federal University of Lavras (UFLA)（拉夫拉斯联邦大学（UFLA））
时变分类器，即进化分类器，在信息作为永无止境的在线数据流提供的场景中发挥着重要作用。提出了一种新的数值型数据无监督学习方法--进化内外模糊聚类方法（Fuzzy eIX）。我们发展了双边界模糊粒的概念，并阐述了它的含义。第1型和第2型模糊推理系统可以由Fuzzy eIX粒的投影得到。我们在模糊eIX分类器中执行平衡信息粒度的原则，以实现更高级别的模型可理解性。内部和外部颗粒更新的数值数据流的同时，全球的颗粒结构的分类器是自主发展的。一个称为双高斯旋转的合成非平稳问题显示了分类器的行为。在离线训练的分类器的准确性明显下降的情况下，模糊eIX分类器可以保持其准确性。
2020-03-25 cs.AI cs.LG stat.ML
Finding Bottlenecks: Predicting Student Attrition with Unsupervised Classifier
California State University, Northridge（加州州立大学北岭分校）
随着提高毕业率和减少高等教育学位时间的压力，及早识别有风险的学生非常重要。因此，非常需要自动化预警系统。在本文中，我们使用无监督聚类技术来预测在加州州立大学北岭分校（CSUN）的五个部门宣布的专业的毕业状态，在每个专业的最小数量的低分工课程的基础上。此外，我们使用检测到的集群，以确定隐藏的瓶颈课程。
2017-05-07 cs.AI cs.CY cs.LG
CD-GAN: a robust fusion-based generative adversarial network for unsupervised remote sensing change detection with heterogeneous sensors
Southwest Minzu University（西南民族大学）；University of Toulouse（图卢兹大学）；University of Electronic Science and Technology of China（电子科技大学）
本文提出CD-GAN，将异构光学传感器变化检测转化为鲁棒融合问题，通过把预训练融合网络嵌入对抗框架实现无监督变化检测，实验证明其通用有效。
2023-11-29 cs.CV cs.LG eess.IV
Unsupervised Domain Adaptation with Residual Transfer Networks
Tsinghua University（清华大学）；University of California, Berkeley（加州大学伯克利分校）
深度神经网络最近的成功依赖于大量的标记数据。对于标记数据不可用的目标任务，领域自适应可以将学习器从不同的源域转移。在本文中，我们提出了一种在深度网络中进行领域自适应的新方法，该方法可以从源域中的标记数据和目标域中的未标记数据中联合学习自适应分类器和可转移特征。我们放松了以前的方法所做的共享分类器的假设，并假设源分类器和目标分类器的残差函数不同。我们通过将几个层插入深度网络来实现分类器自适应，以参考目标分类器显式学习残差函数。我们用张量积融合多层特征，并将其嵌入到再生核希尔伯特空间中，以匹配特征自适应的分布。在大多数前馈模型中，可以通过用新的剩余层和损失函数来扩展它们来实现自适应，所述新的剩余层和损失函数可以经由反向传播来有效地训练。经验证据表明，新的方法优于国家的最先进的方法标准领域自适应基准。
2017-02-16 cs.LG
Probability-driven scoring functions in combining linear classifiers
Wroclaw University of Science and Technology（弗罗茨瓦夫理工大学）
虽然线性分类器是机器学习中最古老的方法之一，但它们在机器学习社区中仍然非常流行。这是由于它们的低计算复杂性和对过拟合的鲁棒性。因此，线性分类器经常被用作多集成分类系统的基分类器。本研究旨在建立一种新的融合方法，致力于集成的线性分类器。融合方案使用测量空间和几何空间。也就是说，我们提出了一个概率驱动的评分函数，其形状取决于基分类器生成的决策超平面的方向。所提出的融合方法进行了比较与参考方法使用多个基准数据集从KEEL库。使用多个质量标准进行比较。对所得结果进行了统计分析。实验研究表明，在一定条件下，可以得到一定的改善。
2021-09-16 cs.LG
Unsupervised Evaluation and Weighted Aggregation of Ranked Predictions
Icahn School of Medicine at Mount Sinai（西奈山伊坎医学院）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）
从不同基础分类器的集合中聚合预测的学习算法始终优于单个方法。这些策略中的许多已经在监督设置中开发，其中每个基础分类器的准确性可以凭经验测量，并且这些信息被纳入训练过程中。然而，对标记数据的依赖排除了集成方法应用于许多现实世界的问题，标记数据尚未策划。为此，我们开发了一个新的理论框架，二进制分类，无监督的多方法聚合（SUMMA）的战略，估计性能的基础分类器和集成学习的最佳策略，从未标记的数据。
2018-02-13 cs.LG stat.ML
Unsupervised Causal Binary Concepts Discovery with VAE for Black-box Model Explanation
University of Tsukuba（筑波大学）；Riken AIP（日本理化学研究所革新智能综合研究中心）
我们的目的是解释一个黑盒分类器的形式：“数据X被归类为类Y，因为X \textit{has} A，B和\textit{does not have} C”，其中A，B和C是高级概念。挑战在于，我们必须以无监督的方式发现一组概念，即，A、B和C，这对解释分类器很有用。我们首先介绍了一个结构生成模型，适合表达和发现这样的概念。然后，我们提出了一个学习过程，同时学习的数据分布，并鼓励某些概念有一个很大的因果关系的分类器输出的影响。我们的方法还允许用户的先验知识，以诱导高的概念的可解释性容易集成。使用多个数据集，我们证明了我们的方法可以发现有用的二进制概念进行解释。
2021-09-09 cs.LG
Cross-Domain Gradient Discrepancy Minimization for Unsupervised Domain Adaptation
University of Electronic Science and Technology of China（电子科技大学）
无监督领域自适应（UDA）旨在将从标记良好的源领域学习到的知识推广到未标记的目标领域。最近，具有两个不同分类器（双分类器）的对抗性领域自适应已被引入到UDA中，其有效地对齐不同领域之间的分布。以前的双分类器对抗学习方法只关注两个不同分类器输出之间的相似性。然而，输出的相似性不能保证目标样本的准确性，即，即使两个分类器之间的差异很小，目标样本也可能匹配到错误的类别。为了挑战这个问题，在本文中，我们提出了一个跨域梯度差异最小化（CGDM）方法，显式地最小化由源样本和目标样本产生的梯度的差异。具体地说，梯度给出了目标样本的语义信息的线索，因此它可以作为一个很好的监督，以提高目标样本的准确性。为了计算目标样本的梯度信号，我们进一步通过基于聚类的自监督学习获得目标伪标签。在三个广泛使用的UDA数据集上进行的大量实验表明，我们的方法超越了许多以前的最先进的方法。代码可在https://github.com/lijin118/CGDM上获得。
2021-06-08 cs.AI cs.CV cs.LG
Constructing multi-modality and multi-classifier radiomics predictive models through reliable classifier fusion
UT Southwestern Medical Center（德克萨斯大学西南医学中心）；Xidian University（西安电子科技大学）
放射组学旨在从医学图像中提取和分析大量的定量特征，并且在癌症治疗的分期，诊断和预测结果方面具有很大的前景。然而，需要解决几个挑战，以构建最佳的放射组学预测模型。首先，当从个体成像模态提取的特征被盲组合到单个预测模型中时，模型的预测性能可能降低。其次，由于许多不同类型的分类器可用于构建预测模型，因此为特定应用选择最佳分类器仍然具有挑战性。在这项工作中，我们开发了多模态和多分类器放射组学预测模型，解决了目前可用模型中的上述问题。具体而言，提出了一种新的可靠的分类器融合策略，以最佳地组合来自不同模态和分类器的输出。在该策略中，首先训练特定于模态的分类器，并开发分析证据推理（ER）规则来融合每个模态的输出分数以构建最佳预测模型。一个公共数据集和两个临床病例研究进行了验证模型的性能。实验结果表明，所提出的ER规则为基础的放射组学模型优于传统的模型，依赖于一个单一的分类器或简单地使用组合的功能，从不同的方式。
2017-10-05 cs.LG physics.med-ph stat.ML
Co-training an Unsupervised Constituency Parser with Weak Supervision
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
我们介绍了一种无监督的解析方法，依赖于引导分类器来确定一个节点是否占主导地位的一个句子中的特定跨度。有两种类型的分类器，一种是作用于跨度的内部分类器，另一种是作用于给定跨度之外的所有内容的外部分类器。通过两个分类器的自我训练和联合训练，我们表明它们之间的相互作用有助于提高两者的准确性，从而有效地解析。种子自举技术准备数据来训练这些分类器。我们的分析进一步验证了这种方法结合弱监督使用已知语言的先验分支知识（左/右分支）和最小的语法分析注入强归纳偏见的分析器，实现63.1 F $_1$的英语（PTB）测试集。此外，我们通过对中文树库（CTB）和日文树库（KTB）的评估，展示了我们的架构的有效性，并取得了新的最先进的结果。我们的代码和预培训模型可在https://github.com/Nickil21/weakly-supervised-parsing上获得。
2022-03-18 cs.AI cs.CL cs.LG
SOUL: An Energy-Efficient Unsupervised Online Learning Seizure Detection Classifier
University of California at Berkeley（加州大学伯克利分校）；University of the Philippines Diliman（菲律宾大学迪利曼分校）；Chan-Zuckerberg Biohub（陈-扎克伯格生物中心）
记录神经活动和检测癫痫发作的植入式装置已被采用来发出警告或触发神经刺激以抑制癫痫发作。典型的癫痫发作检测系统依赖于高精度离线训练的机器学习分类器，当癫痫发作模式在长时间内发生变化时，这些分类器需要手动重新训练。对于可植入的癫痫发作检测系统，可以采用低功率、在边缘的在线学习算法来动态地适应神经信号漂移，从而在没有外部干预的情况下保持高精度。本文提出了SOUL：基于随机梯度下降的在线无监督Logistic回归分类器。在初始离线训练阶段之后，原位应用连续在线无监督分类器更新，这提高了具有漂移癫痫发作特征的患者的灵敏度。SOUL在两个人类脑电图（EEG）数据集上进行了测试：CHB-MIT头皮EEG数据集和长（>100小时）NeuroVista颅内EEG数据集。两个数据集的平均灵敏度分别为97.5%和97.9%，特异性>95%。与典型的癫痫发作检测分类器相比，长期数据的灵敏度最多提高8.2%。SOUL是在台积电的28纳米工艺中制造的，占地0.1 mm 2，并实现了1.5 nJ/分类的能效，比最先进的能效至少高出24倍。
2022-05-17 cs.LG eess.SP
Towards Improved Human Action Recognition Using Convolutional Neural Networks and Multimodal Fusion of Depth and Inertial Sensor Data
Ryerson University（瑞尔森大学）
本文试图通过融合深度和惯性传感器数据来提高人体动作识别（HAR）的准确性。首先，我们将深度数据转换为序列前视图图像（SFI），并在这些图像上微调预训练的AlexNet。然后，惯性数据被转换为信号图像（SI），并在这些图像上训练另一个卷积神经网络（CNN）。最后，从两个CNN中提取学习的特征，融合在一起以形成共享特征层，并将这些特征馈送到分类器。我们用两种分类器，即支持向量机（SVM）和softmax分类器进行实验，并比较它们的性能。还计算每个模态、单独的深度数据和单独的传感器数据的识别精度，并将其与基于融合的精度进行比较，以突出模态的融合产生比单个模态更好的结果的事实。在UTD-MHAD和Kinect 2D数据集上的实验结果表明，与最近提出的其他视觉惯性动作识别方法相比，该方法达到了最先进的效果。
2020-08-22 cs.AI cs.CV cs.LG
Using a Classifier Ensemble for Proactive Quality Monitoring and Control: the impact of the choice of classifiers types, selection criterion, and fusion process
Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；ACTA Mobilier
近年来，制造过程面临许多外部或内部的问题（定制产品重新安排、工艺可靠性的增加等）变化因此，这些制造过程的监测和质量管理活动是困难的。因此，管理人员需要更积极主动的方法来处理这种变化。在这项研究中，提出了一种主动的质量监测和控制方法的基础上分类预测缺陷的发生，并提供最佳值的质量过程的关键因素。在之前的工作中（Noyel等人，2013年），分类方法已被用于提高公司工厂的涂漆工艺质量;所获得的结果是有希望的，但所使用的分类模型的准确性需要提高。实现这一点的一种方法是构建一个分类器委员会（称为集成），以获得比其组成模型更好的预测模型。然而，最佳分类方法的选择和最终集成的构建仍然是一个具有挑战性的问题。在这项研究中，我们重点分析了分类器类型的选择对分类器集成精度的影响，此外，我们还探讨了选择标准和融合过程对集成精度的影响。基于一个实际案例，对几种融合方案进行了测试和比较。我们的研究结果表明，使用集成分类导致分类器模型的准确性增加。因此，可以改进对所考虑的真实世界情况的监测和控制。
2018-04-05 cs.LG stat.ML
Light-weight Calibrator: a Separable Component for Unsupervised Domain Adaptation
Institute for interdisciplinary information core technology(IIISCT)（跨学科信息核心技术研究所(IIISCT)）；Tsinghua University（清华大学）；University of Tsukuba（筑波大学）；Northeastern University（东北大学）
现有的领域自适应方法旨在学习可以在领域之间推广的特征。这些方法通常需要更新源分类器以适应目标域，并且没有正确处理源域和目标域之间的权衡。在这项工作中，而不是训练一个分类器，以适应目标域，我们使用一个可分离的组件称为数据校准器，以帮助固定的源分类器恢复在目标域的歧视权力，同时保持源域的性能。当两个域之间的差异很小时，源分类器的表示足以在目标域中表现良好，并且在数字上优于基于GAN的方法。另外，该方法可以利用GANs生成的合成图像来提高性能，并在数字数据集和驾驶场景语义分割方面实现最先进的性能。我们的方法经验表明，某些有趣的提示，这可以减轻对抗攻击域鉴别器，是域转移下的性能下降的来源之一。
2020-02-28 cs.CV cs.LG eess.IV
Unsupervised Time-Series Representation Learning with Iterative Bilinear Temporal-Spectral Fusion
National Institute of Health Data Science, Peking University（北京大学健康医疗大数据国家研究院）；Institute of Medical Technology, Health Science Center of Peking University（北京大学医学部医学技术研究院）
无监督/自监督时间序列表示学习是一个具有挑战性的问题，因为它的复杂的动力学和稀疏的注释。现有的工作主要采用对比学习的框架与基于时间的增强技术，样本的积极和消极的对比训练。然而，它们大多使用源自时间分片的段级增强，这可能会由于全局上下文的丢失而带来采样偏差和具有假阴性的不正确优化。此外，它们都没有注意在特征表示中加入光谱信息。在本文中，我们提出了一个统一的框架，即双线性时间谱融合（BTSF）。具体来说，我们首先利用实例级增强，对整个时间序列进行简单的丢弃，以最大限度地捕获长期依赖关系。我们设计了一种新的迭代双线性时间谱融合显式编码丰富的时间频率对的亲和力，并迭代细化表示的融合和挤压的方式与频谱到时间（S2 T）和时间到频谱（T2 S）聚合模块。我们首先对时间序列的三个主要任务进行下游评估，包括分类，预测和异常检测。实验结果表明，我们的BTSF一贯显着优于国家的最先进的方法。
2022-05-30 cs.AI cs.LG
EEGFuseNet: Hybrid Unsupervised Deep Feature Characterization and Fusion for High-Dimensional EEG with An Application to Emotion Recognition
Shenzhen University（深圳大学）；Kyoto University（京都大学）；Peng Cheng Laboratory（鹏城实验室）；ATR Neural Information Analysis Laboratories（ATR神经信息分析实验室）
如何有效地从高维脑电信号中提取有效、可靠的特征，特别是如何将脑的时空动态信息融合到更好的特征表示中，是脑数据分析中的关键问题。目前的脑电研究大多采用任务驱动的方式，利用有监督的模型来探索有效的脑电特征，这在很大程度上会受到给定标签的限制。在本文中，我们提出了一个实用的混合无监督深度卷积递归生成对抗网络的EEG特征表征和融合模型，这被称为EEGFuseNet。EEGFuseNet以无监督的方式进行训练，并自动表征涵盖空间和时间动态的深层EEG特征。与现有特征相比，表征的深度EEG特征可以被认为是更通用的，并且独立于任何特定的EEG任务。EEGFuseNet提取的深度和低维特征的性能进行了仔细评估，在一个无监督的情感识别应用程序的基础上，三个公共情感数据库。实验结果表明，EEGFuseNet是一种鲁棒、可靠的模型，易于训练，能够有效地表示和融合动态脑电特征。特别是，EEGFuseNet被建立为一个最佳的无监督融合模型，具有良好的跨学科情感识别性能。实验证明，EEGFuseNet能够表征和融合不同情绪状态变化所对应的具有比较皮层动力学意义的深层特征，并证明了在纯无监督的情况下实现基于脑电的跨主体情绪识别的可能性。
2021-08-27 cs.HC cs.LG eess.SP
RankSum An unsupervised extractive text summarization based on rank fusion
Universidad de León（莱昂大学）；INCIBE (Spanish National Cybersecurity Institute)（西班牙国家网络安全研究所（INCIBE））；Centre for Development of Advanced Computing（先进计算发展中心）
本文提出RankSum，一种基于四种句子特征排名融合的无监督抽取式摘要方法，在CNN/DailyMail和DUC 2002数据集上优于现有最先进方法。
2024-02-07 cs.AI cs.LG
Unsupervised Ensemble Learning via Ising Model Approximation with Application to Phenotyping Prediction
Harvard T.H. Chan School of Public Health（哈佛陈曾熙公共卫生学院）；Brigham and Women’s Hospital（布莱根妇女医院）
无监督集成学习一直是一个有趣但具有挑战性的问题，近年来随着各种应用中众包需求的增加而变得突出。在本文中，我们提出了一种新的方法-无监督集成学习通过伊辛模型近似（unElisa），结合了修剪步骤和预测步骤。我们专注于二进制的情况下，并使用伊辛模型来表征集成和底层的真实分类器之间的相互作用。在观察到的分类器和真实分类器之间存在边缘指示直接依赖性，而不存在边缘指示相应的边缘不提供额外的信息并且应当被消除。这种观察导致修剪步骤，其中关键是恢复真实分类器的邻域。我们表明，通过执行逐节点的$\ell_1$ -正则化的逻辑斯谛回归，可以在高维环境中以指数衰减的误差成功恢复它。修剪的集成允许我们得到用于预测的贝叶斯分类器的相合估计。我们还提出了一个增强版本的多数表决反转所有标签的一个子组的修剪合奏。我们证明了我们的方法的有效性，通过广泛的数值实验，并通过应用EHR为基础的表型预测风湿性关节炎（RA）使用的数据从合作伙伴医疗系统。
2018-10-15 cs.LG stat.ML
Unsupervised Discovery of Inertial-Fusion Plasma Physics using Differentiable Kinetic Simulations and a Maximum Entropy Loss Function
Ergodic LLC（Ergodic有限责任公司）；University of Michigan（密歇根大学）
等离子体支持集体模式和粒子波相互作用，导致惯性聚变能量应用中的复杂行为。虽然等离子体有时可以被建模为带电流体，动力学描述是有用的对非线性效应的研究在更高维的动量位置相空间，描述了等离子体动力学的全部复杂性。我们创建了一个可微求解器的等离子体动力学三维偏微分方程，并引入了特定领域的目标函数。使用这个框架，我们执行基于梯度的优化神经网络，提供强制函数参数的微分求解器给定一组初始条件。我们将其应用于惯性融合相关的配置，并发现优化过程利用了一种新的物理效应，以前一直未被发现。
2022-07-27 cs.LG physics.comp-ph physics.plasm-ph
Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks
University of Freiburg（弗赖堡大学）
在本文中，我们提出了一种方法来学习一个判别分类器从未标记或部分标记的数据。我们的方法基于一个目标函数，该目标函数权衡了观察到的示例及其预测的分类类分布之间的互信息，以及分类器对对抗生成模型的鲁棒性。由此产生的算法可以被解释为生成对抗网络（GAN）框架的自然推广，或者作为正则化信息最大化（RIM）框架的扩展，以针对最佳对手进行鲁棒分类。我们根据经验评估了我们的方法-我们称之为分类生成对抗网络（或CatGAN）-在合成数据以及具有挑战性的图像分类任务上，证明了学习分类器的鲁棒性。我们进一步定性地评估了与判别分类器一起学习的对抗生成器生成的样本的保真度，并确定了CatGAN目标和判别聚类算法（如RIM）之间的联系。
2016-04-30 cs.LG stat.ML
Exploring label correlations using decision templates for ensemble of classifier chains
Victor F. Rocha Department of Computer Science, Federal University of Esp\' rito Santo, Vit\' o ria, Esp\' rito Santo, 29075-910, Brazil Alexandre L. Rodrigues Department of Statistics, Federal University of Esp\' rito Santo, Vit\' o ria, Esp\' rito Santo, 29075-910, Brazil Thiago Oliveira-Santos Department of Computer Science, Federal University of Esp\' rito Santo, Vit\' o ria, Esp\' rito Santo, 29075-910, Brazil Fl\' a vio M. Varej\ a o Department of Computer Science, Federal University of Esp\' rito Santo, Vit\' o ria, Esp\' rito Santo, 29075-910, Brazil Corresponding author: Victor F. Rocha
本文提出UDDTECC方法，利用决策模板挖掘标签相关性，改进多标签分类性能，实验表明其优于传统融合策略。
2026-03-13 cs.LG
Data Augmentation by AutoEncoders for Unsupervised Anomaly Detection
本文提出了一种自动编码器（AE），用于提高一次类分类器的性能，以检测异常。传统的一类分类器（OCC）在高维和稀疏等特定条件下表现不佳。此外，训练集的大小对单类分类器的性能起着重要的作用。自编码器已被广泛用于从高维数据集获取有用的潜在变量。在所提出的方法中，AE能够从高维数据集中获得有意义的特征，同时进行数据增强。增广的数据用于训练OCC算法。实验结果表明，该方法提高了OCC算法的性能，也优于其他知名的方法。
2019-12-21 cs.LG stat.ML
Transfer Learning via Unsupervised Task Discovery for Visual Question Answering
POSTECH（浦项科技大学）；OpenAI；Seoul National University（首尔国立大学）
本文研究了在视觉问答任务中，如何利用现成的视觉和语言数据来处理词汇外答案。现有的大规模视觉数据集与注释，如图像类标签，边界框和区域描述是学习丰富多样的视觉概念的良好来源。然而，由于问题相关回答模型和没有问题的视觉数据之间的链接缺失，如何捕获视觉概念并将其转移到视觉问答模型并不简单。我们通过两个步骤来解决这个问题：1）学习任务条件视觉分类器，它能够解决各种特定于问题的视觉识别任务，基于无监督任务发现和2）将任务条件视觉分类器转移到视觉问答模型。具体来说，我们采用语言知识源，如结构化的词汇数据库（如WordNet）和视觉描述的无监督任务发现，并转移学习任务条件视觉分类器作为一个回答单元的视觉问答模型。我们的经验表明，该算法推广到词汇表外的答案成功地使用从视觉数据集转移的知识。
2019-04-07 cs.CL cs.CV cs.LG
Improving Sickle Cell Disease Classification: A Fusion of Conventional Classifiers, Segmented Images, and Convolutional Neural Networks
Institute of Exacts and Technological Sciences -- Federal University of Viçosa (UFV)（维索萨联邦大学精确与技术科学学院）；School of Computer Science -- Federal University of Uberlândia (UFU)（乌贝兰迪亚联邦大学计算机科学学院）
针对CNN训练资源开销高的问题，本文提出融合传统分类器、分割图像与CNN特征的镰状细胞病自动分类方法，利用SVM实现了96.80%的准确率，为高效医学图像分析提供了新方案。
2024-12-23 cs.AI cs.CV cs.LG
Majority Vote of Diverse Classifiers for Late Fusion
Institute of Science and Technology (IST) Austria（奥地利科学技术研究所）；Université de Saint-Etienne（圣艾蒂安大学）；CNRS（法国国家科学研究中心）；Aix-Marseille Université（艾克斯-马赛大学）
在过去的几年里，通过融合多模态信息的多媒体索引受到了广泛的关注。通常认为有两种融合方案：早期融合和晚期融合。我们专注于后期分类器融合，其中一个结合了决策层的每种模态的分数。为了解决这个问题，我们研究了一个最近的和优雅的有理有据的二次规划名为MinCq来自机器学习PAC贝叶斯理论。MinCq在一组被视为选民的实值函数上寻找加权组合，从而导致最低的错误分类率，同时最大化选民的多样性。我们提出了一个扩展的MinCq量身定制的多媒体索引。我们的方法是基于顺序保持成对损失适应排名，使我们能够提高平均精度的措施，同时考虑到我们要融合的选民的多样性。我们提供的证据表明，这种方法是自然适应于后期融合程序，并确认我们的方法在具有挑战性的PASCAL VOC '07基准的良好行为。
2014-06-19 cs.LG cs.MM stat.ML
Autoencoding Binary Classifiers for Supervised Anomaly Detection
NTT Secure Platform Laboratories（NTT安全平台实验室）；NTT Communication Science Laboratories（NTT通信科学实验室）；NTT Software Innovation Center（NTT软件创新中心）
我们提出了自动编码二进制分类器（ABC），一种新的监督异常检测器的基础上的自动编码器（AE）。异常检测主要有两种方法：有监督的和无监督的。监督方法可以准确地检测训练数据中包含的已知异常，但无法检测未知异常。同时，无监督方法可以检测远离正常数据点的已知和未知异常。然而，它不能像监督方法那样准确地检测已知的异常。此外，即使我们标记了正常数据点和异常数据点，无监督方法也无法利用这些标签。ABC是一种概率二元分类器，它有效地利用了标签信息，其中使用AE作为组件对正常数据点进行建模。通过最大化可能性，所提出的ABC中的AE被训练以最小化正常数据点的重建误差，并最大化已知异常的重建误差。由于我们的方法能够准确地重建正常数据点，而无法重建已知和未知的异常，因此它可以准确地将已知和未知的异常与正常数据点区分开来。实验结果表明，该算法比已有的监督和非监督方法具有更高的检测性能.
2019-03-26 cs.LG stat.ML
Bayesian Uncertainty Matching for Unsupervised Domain Adaptation
Qiushi Academy for Advanced Studies, Zhejiang University（浙江大学求是高等研究院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；State University of New York at Buffalo（纽约州立大学布法罗分校）；Zhejiang University School of Medicine（浙江大学医学院）
领域自适应是一种重要的技术，用于减轻由领域移位引起的性能下降，当训练和测试数据来自不同的域时。由于目标域标签的不可用，大多数现有的深度自适应方法都集中在通过对输入特征进行深度变换来匹配边缘特征分布来减少域偏移。我们表明，域移位可能仍然存在通过标签分布偏移在分类器，从而恶化模型的性能。为了缓解这个问题，我们提出了一个近似的联合分布匹配方案，利用预测的不确定性。具体来说，我们使用贝叶斯神经网络来量化分类器的预测不确定性。通过对特征和标签（通过不确定性）进行分布匹配，有效地缓解了源数据和目标数据中的标签分布不匹配，鼓励分类器跨域产生一致的预测。我们还提出了一些技术来改进我们的方法，通过自适应重新加权领域自适应损失，以实现非平凡的分布匹配和稳定的训练。在三个流行的基准数据集上与最先进的无监督领域自适应方法的比较表明了我们的方法的优越性，特别是在减轻负迁移的有效性。
2019-06-24 cs.CV cs.LG stat.ML
Locally Adaptive One-Class Classifier Fusion with Dynamic $\ell$p-Norm Constraints for Robust Anomaly Detection
Bilkent University（毕尔肯大学）
本文提出一种基于动态$\ell_p$范数约束的局部自适应单类分类器融合框架，通过内点优化实现最高19倍加速，并在UCI及时序数据集上验证了其在多种异常检测场景中的优越性能。
2024-11-20 cs.LG stat.ML
