Towards Adaptive Unknown Authentication for Universal Domain Adaptation by Classifier Paradox
Nanjing University of Posts and Telecommunications(南京邮电大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
通用领域自适应(UniDA)是一种通用的无监督领域自适应设置,其解决自适应中的领域和标签偏移。它的主要挑战在于如何识别非共享或未知类中的目标样本。以前的方法通常致力于描述样本的“置信度”以及用于拒绝未知的阈值,并跨域对齐共享类的特征分布。然而,它仍然很难预先指定一个“信心”的标准和阈值,这是适应各种真实的任务,和未知数的错误预测进一步招致的不对齐的功能在共享类。在本文中,我们提出了一种新的UniDA方法与自适应未知认证的分类器paradigm(UACP),考虑到样本与矛盾的预测可能是未知的不属于源类。在UACP中,复合分类器是由两种类型的预测器联合设计的。也就是说,多类(MC)预测器将样本分类到多个源类中的一个,而二进制一对全(OVA)预测器进一步验证MC预测器的预测。验证失败或悖论的样本被识别为未知数。此外,代替共享类的特征对齐,在输出空间中进行隐式域对齐,使得跨域的样本共享相同的决策边界,尽管具有特征差异。实证结果验证了UACP在开集和通用UDA设置。
2022-07-10 cs.CV cs.LG
A Post-processing Method for Detecting Unknown Intent of Dialogue System via Pre-trained Deep Neural Network Classifier
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
随着对话系统的成熟和普及,在对话系统中检测用户的未知意图成为一项重要的任务。这也是最具挑战性的任务之一,因为我们很难获得示例,先验知识或未知意图的确切数量。在本文中,我们提出了SofterMax和深度新奇检测(SMDN),这是一种简单而有效的后处理方法,用于基于预训练的深度神经网络分类器检测对话系统中的未知意图。我们的方法可以灵活地应用于在深度神经网络中训练的任何分类器,而无需改变模型架构。我们校准softmax输出的置信度以计算校准的置信度分数(即,SofterMax)并使用它来计算未知意图检测的决策边界。此外,我们将深度神经网络学习的特征表示输入到传统的新颖性检测算法中,从不同的角度检测未知意图。最后,我们结合上述方法进行联合预测。我们的方法将与已知意图不同的示例分类为未知,并且不需要任何示例或先验知识。我们在三个基准对话数据集上进行了广泛的实验。结果表明,我们的方法可以产生显着的改善相比,国家的最先进的基线
2020-03-07 cs.CL cs.LG
An adaptive multiclass nearest neighbor classifier
Institute for Information Transmission Problems RAS(俄罗斯科学院信息传输问题研究所)
考虑一个多类分类问题,训练样本$S_n = \{(X_i, Y_i)\}_{i=1}^n$由模型$\mathbb P(Y = m | X = x) = η_m(x)$生成,$1 \leq m \leq M$和$η_1(x), \dots, η_M(x)$是未知的$α$ -Holder连续函数,给定一个测试点$X$,我们的目标是预测它的标签.广泛使用的$\mathsf k$ -最近邻分类器构造$η_1(X), \dots, η_M(X)$的估计并使用插件规则进行预测。然而,它需要适当地选择平滑参数$\mathsf k$,这在某些情况下可能变得棘手。在我们的解决方案中,我们固定几个整数$n_1, \dots, n_K$,计算相应的$n_k$ -最近邻估计每个$m$和每个$n_k$,并应用聚合过程。我们研究了一个算法,它构造了这些估计的凸组合,使聚合估计的行为近似以及一个预言机的选择。我们还提供了一个非渐近分析的过程中,证明其适应未知的平滑参数$α$和利润率,并建立温和的假设下的收敛速度。
2019-11-03 cs.LG stat.ML
Detecting Unknown DGAs without Context Information
RWTH Aachen University(亚琛工业大学)
新的恶意软件以快速的速度出现,并且通常结合域生成算法(DGAs)以避免阻止恶意软件与命令和控制(C2)服务器的连接。当前最先进的分类器能够将良性域与恶意域分开(二进制分类),并以高概率将它们归因于生成它们的DGA(多类分类)。虽然二进制分类器可以将未知的DGA的域标记为恶意的,但多类分类器只能将域分配给在训练时已知的DGA,从而限制了发现新恶意软件家族的能力。在这项工作中,我们对新DGAs的检测进行了全面的研究,其中包括对59,690个分类器的评估。我们研究了15种不同配置中的四种不同方法,并提出了一种简单而有效的方法,该方法基于softmax分类器和正则表达式(regexes)的组合,以高概率检测多个未知的DGA。同时,我们的方法保留了已知DGA的最先进的分类性能。我们的评估是基于留一组交叉验证,共有94个DGA家庭。通过使用最大数量的已知DGAs,我们的评估方案是特别困难的,接近现实世界。所有研究的方法都是保护隐私的,因为它们在没有上下文的情况下运行,并且只在要分类的单个域上运行。我们通过对类增量学习策略的深入讨论来总结我们的研究,这些策略可以使现有的分类器适应新发现的类。
2022-05-30 cs.CR cs.LG
Discover and Mitigate Unknown Biases with Debiasing Alternate Networks
University of Rochester(罗切斯特大学);Kitware, Inc.(Kitware公司)
已经发现深度图像分类器可以从数据集中学习偏差。为了减轻偏差,大多数先前的方法需要受保护属性的标签(例如,年龄,肤色)作为全面监督,这有两个局限性:1)当标签不可用时,这是不可行的; 2)它们无法减轻未知的偏见-人类不会预先设想的偏见。为了解决这些问题,我们提出了去偏置交替网络(DebiAN),它包括两个网络-发现者和分类器。通过以替代方式进行训练,发现者尝试在没有任何偏差注释的情况下找到分类器的多个未知偏差,并且分类器旨在消除发现者识别的偏差。虽然以前的工作是根据单个偏差来评估去偏置结果,但我们创建了Multi-Color MNIST数据集,以更好地在多偏差设置中对多个偏差进行基准缓解,这不仅揭示了以前方法中的问题,而且还展示了DebiAN在同时识别和缓解多个偏差方面的优势。我们进一步在真实世界的数据集上进行了广泛的实验,表明DebiAN中的发现者可以识别人类可能难以发现的未知偏差。关于去偏置,DebiAN实现了强大的偏置缓解性能。
2022-09-07 cs.CV cs.CY cs.LG
LORD: Leveraging Open-Set Recognition with Unknown Data
e.solutions GmbH(e.solutions有限责任公司);Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学)
针对现有开集识别方法依赖闭集分类器、难以应对分布外数据的问题,提出LORD框架,通过三种模型无关策略利用未知数据训练并显式建模开放空间,还验证了mixup可替代背景数据集提升性能。
2023-08-24 cs.CV cs.LG
Open-set Classification of Common Waveforms Using A Deep Feed-forward Network and Binary Isolation Forest Models
Virginia Tech(弗吉尼亚理工大学);US Army Research Laboratory(美国陆军研究实验室)
在本文中,我们研究了使用深层多层感知器架构将接收到的信号分类为七种常见波形之一,单载波(SC),单载波频分多址(SC-FDMA),正交频分复用(OFDM),线性调频(LFM),调幅(AM),调频(FM),以及用于通信和雷达网络的相位编码脉冲调制。不需要信号的同步,因为我们假设存在未知且未补偿的时间和频率偏移。分类器是开集的,这意味着它假设可能出现未知波形。充当二元分类器的隔离森林(IF)模型用于每个已知信号类别,以执行可能的未知信号的检测。这是使用来自密集层的32长度特征向量作为IF模型的输入来实现的。分类器和IF模型一起工作以监测频谱并识别波形以及检测未知波形。结果表明,该分类器对0 dB以上的信号分类正确率为100%,在-10dB和-5dB时,分类正确率分别为83.2%和94.7%。IF模型的结果显示,在检测存在信号损伤的已知和未知信号时,总体准确率为98%。IF模型能够拒绝所有未知信号,而由于训练期间使用的污染率,与已知信号类似的信号能够通过2%的时间。总体而言,整个系统可以在开集模式下正确分类,在SNR大于0 dB时准确率为98%。
2021-10-01 cs.LG
Into the Unknown: Active Monitoring of Neural Networks
Institute of Science and Technology Austria(奥地利科学技术研究所);University of Konstanz(康斯坦茨大学)
神经网络分类器在预测它们被训练来识别的输入的类别时实现了高精度。在动态环境中保持这种准确性仍然是一个挑战,在动态环境中,输入经常落在最初已知类别的固定集合之外。典型的方法是检测来自新类的输入,并在增强数据集上重新训练分类器。然而,不仅分类器而且检测机制都需要适应,以便区分新学习的和未知的输入类别。为了解决这一挑战,我们引入了一个算法框架的神经网络的主动监测。在我们的框架中包装的监视器与神经网络并行操作,并通过一系列可解释的标签查询增量适应与人类用户进行交互。此外,我们提出了一个自适应的定量监测,以提高精度。一组不同数量的类的基准测试的实验评估证实了我们的主动监测框架在动态场景中的好处。
2021-11-12 cs.AI cs.LG cs.LO
CNS-Net: Conservative Novelty Synthesizing Network for Malware Recognition in an Open-set Scenario
The Hong Kong Polytechnic University(香港理工大学);Shanghai Jiao Tong University(上海交通大学);Jinan University(暨南大学);University of Electronic Science and Technology of China(电子科技大学)
针对开放集场景下恶意软件识别的挑战,提出保守合成未知家族样本的CNS-Net模型以提升分类鲁棒性,同时构建大规模基准数据集MAL-100,实验验证其效果优于现有代表性方法。
2023-05-02 cs.CR cs.LG
Image-based Novel Fault Detection with Deep Learning Classifiers using Hierarchical Labels
School of Computing and Augmented Intelligence, Arizona State University(亚利桑那州立大学计算与增强智能学院);OG Technology(OG科技公司)
本研究提出利用故障分类体系的分层标签和软标签技术,改进深度神经网络在在线故障检测中对未知新型故障的检测能力,并在热轧钢检测图像中验证了性能提升。
2024-03-26 cs.AI cs.LG
Unknown-Traffic Detection, Calibration and Shortcut Reliance in Distilled Encrypted-Traffic Classifiers over One Year
University of Salamanca(萨拉曼卡大学);AIR Institute(AIR研究院)
本研究通过一年真实TLS流量上的预注册实验,发现知识蒸馏主要传递教师模型的捷径依赖和过度自信,而非未知流量检测能力,后者可通过标签平滑获得。
2026-09-28 cs.LG cs.NI
Detecting Unknown Attacks in IoT Environments: An Open Set Classifier for Enhanced Network Intrusion Detection
Texas A&M University(德克萨斯农工大学);United States Military Academy(美国军事学院)
针对 IoT 网络入侵检测中的未知攻击识别问题,提出结合流量图像表示、stacking 与子聚类的开放集识别框架,未见攻击检测率达 88%。
2023-09-28 cs.AI cs.CR cs.CV
Strategic Classification under Unknown Personalized Manipulation
Toyota Technological Institute of Chicago(芝加哥丰田技术学院)
本文研究个性化且未知的球操纵下的策略分类,在多种信息场景中给出在线错误界与PAC样本复杂度,并证明非球操纵下即使完全观测也存在$Ω(|H|)$下界。
2024-01-15 cs.GT cs.LG
Distilling the Unknown to Unveil Certainty
School of Computer Science and Engineering, Key Laboratory of Machine Intelligence and Advanced Computing, Ministry of Education, Sun Yat-sen University(计算机科学与工程学院,人工智能与先进计算重点实验室,教育部,中山大学);School of Computing, Macquarie University(计算学院,麦考瑞大学);Statistics and Data Science, Southeast University(统计与数据科学,东南大学);School of Computer Science and Engineering, Sun Yat-sen University(计算机科学与工程学院,中山大学)
本文提出一种灵活的OOD知识蒸馏框架,通过引入Confidence Amendment方法逐步修正预测置信度并合成样本,训练出在有无训练数据场景下均能有效区分ID与OOD样本的二分类器。
2025-06-27 cs.LG
Open-Set Recognition with Gaussian Mixture Variational Autoencoders
Northwestern University(西北大学)
在推理中,开集分类是将样本分类到训练中的已知类或将其拒绝为未知类。现有的深度开集分类器训练显式闭集分类器,在某些情况下,分离地利用重建,我们发现稀释了潜在的表示的能力,以区分未知的类。相比之下,我们训练我们的模型来合作学习重建,并在潜在空间中执行基于类的聚类。有了这个,我们的高斯混合变分自编码器(GMVAE)实现了更准确和更强大的开集分类结果,平均F1提高了29.5%,通过大量的实验分析结果的帮助。
2020-06-03 cs.CV cs.LG cs.NE
Conditional Variational Capsule Network for Open Set Recognition
University of Padova(帕多瓦大学);National University of Defense Technology(国防科技大学)
在开集识别中,分类器必须检测在训练时未知的未知类。为了识别新的类别,分类器必须将已知类别的输入样本投影到特征空间的非常紧凑和分离的区域中,以区分未知类别的样本。最近提出的胶囊网络在许多领域都表现出优于替代品的性能,特别是在图像识别方面,但它们尚未完全应用于开集识别。在胶囊网络中,标量神经元被胶囊向量或矩阵取代,其条目代表对象的不同属性。在我们的建议中,在训练期间,鼓励相同已知类别的胶囊特征匹配预定义的高斯,每个类别一个。为此,我们使用变分自编码器框架,与一组高斯先验作为后验分布的近似。通过这种方式,我们能够控制高斯中心周围同类特征的紧密性,从而控制分类器检测未知类样本的能力。我们对我们的模型进行了几次实验和消融,在开集识别和未知检测任务中的不同数据集上获得了最先进的结果。
2021-08-17 cs.AI cs.CV cs.LG
Multi-Agent VLMs Guided Self-Training with PNU Loss for Low-Resource Offensive Content Detection
针对社交媒体低资源攻击性内容检测缺乏高质量标注数据的问题,提出多智能体视觉语言模型引导的自训练框架,通过协作伪标注和PNU损失优化,显著提升低监督场景下的检测性能,接近大规模模型水平。
2025-11-14 cs.AI cs.LG
Derivation of Information-Theoretically Optimal Adversarial Attacks with Applications to Robust Machine Learning
University of Iowa(爱荷华大学)
我们考虑的理论问题,设计一个最佳的对抗攻击的决策系统,最大限度地降低了系统的可实现的性能,作为衡量退化的信号和标签之间的互信息的兴趣。这个问题是由机器学习分类器的对抗性示例的存在引起的。通过采用信息论的观点,我们试图确定对抗脆弱性是不可避免的条件,即即使是最佳设计的分类器也容易受到小的对抗扰动。我们提出了离散和连续信号的最佳对抗攻击的推导,即,找到最佳扰动分布以最小化所述退化信号与遵循连续或离散分布的信号之间的互信息。此外,我们表明,这是很难实现对抗攻击最小化互信息时,输入信号的多个冗余副本可用。这为最近提出的"特征压缩”假设提供了额外的支持,该假设解释了深度学习分类器的对抗性脆弱性。我们还报告了计算实验的结果来说明我们的理论结果。
2020-07-28 cs.IT cs.LG math.IT
Best Transition Matrix Esitimation or Best Label Noise Robustness Classifier? Two Possible Methods to Enhance the Performance of T-revision
The University of Sydney(悉尼大学)
本文研究标签噪声下的转移矩阵估计与鲁棒分类器构建,提出 T-Revision-Alpha 和 T-Revision-Softmax 改进方法,并在 FashionMINIST 和 CIFAR-10 上验证其性能。
2025-01-02 cs.LG
CoLoC: Conditioned Localizer and Classifier for Sound Event Localization and Detection
Samsung R\&D Institute Poland Warsaw, Poland
在这篇文章中,我们描述了条件定位器和分类器(CoLoC),这是一种新的解决方案的声音事件定位和检测(SELD)。该解决方案由两个阶段组成:首先进行定位,然后根据定位器的输出进行分类。为了解决未知源数目的问题,我们采用了借用顺序集生成(SSG)的思想。这两个阶段的模型都是SELDnet类CRNN,但具有单一输出。推理表明,这两个单输出模型都适用于SELD任务。我们证明了我们的解决方案在STARSS22数据集的大多数指标上都比基线系统有所改进。
2022-10-25 cs.LG cs.SD eess.AS
Resilience to the Flowing Unknown: an Open Set Recognition Framework for Data Streams
TECNALIA(泰克纳利亚(西班牙技术研究中心));University of Deusto(德乌斯托大学);University of the Basque Country (UPV/EHU)(巴斯克大学(UPV/EHU))
针对流式数据中未知类别导致的过度占用空间问题,提出结合分类与聚类的开放集识别框架,在多种已知未知类比基准上优于增量分类器。
2024-10-31 cs.AI cs.LG
Online Learning of Quantum States
UT Austin(得克萨斯大学奥斯汀分校);Princeton University(普林斯顿大学);Google AI Princeton(谷歌人工智能普林斯顿分部);Google AI, New York(谷歌人工智能纽约分部);University of Waterloo(滑铁卢大学)
假设我们有一个未知的$n$ -量子位态$ρ$的许多副本。我们使用已知的双结果测量$E_{1}$测量$ρ$的一些拷贝,然后使用测量$E_{2}$测量其他拷贝,等等。在每个阶段$t$,我们使用先前测量的结果生成关于状态$ρ$的当前假设$σ_{t}$。我们表明,这是可能做到这一点的方式,保证$|\operatorname{Tr}(E_{i} σ_{t}) - \operatorname{Tr}(E_{i}ρ) |$,在我们的预测下一个测量的错误,是至少$\varepsilon$在最多$\operatorname{O}\!\left(n / \varepsilon^2 \right) $倍。即使在“不可实现”的设置-在测量结果中可能存在任意噪声-我们展示了如何输出假设状态,这些假设状态在第一次$T$测量时最多$\operatorname{O}\!\left(\sqrt {Tn}\right) $次明显比最佳可能状态差。这些结果将Aaronson在2007年提出的关于量子态的PAC可学习性的定理推广到在线和遗憾最小化设置。我们给出了三种不同的方法来证明我们的结果-使用凸优化,量子后选择,和顺序脂肪粉碎尺寸-这在参数和可移植性方面有不同的优势。
2019-12-06 cs.LG quant-ph
Emotion Recognition Using Speaker Cues
University of Sharjah(沙迦大学)
本研究旨在利用说话人的线索来识别未知情绪。在这项研究中,我们使用两个阶段的框架来识别未知的情绪。第一阶段的重点是识别说话人谁说出了未知的情绪,而下一个阶段的重点是识别未知的情绪所发出的识别发言人在前一阶段。这一拟议的框架进行了评估,阿拉伯语的阿拉伯语口音的语音数据库发出的15个发言者每性别。梅尔频率倒谱系数(MFCC)已被用作提取的功能和隐马尔可夫模型(HMM)已被用作在这项工作中的分类。我们的研究结果表明,基于两阶段框架的情感识别准确率高于基于一阶段方法和最先进的分类器和模型,如高斯混合模型(GMM),支持向量机(SVM)和矢量量化(VQ)。基于两阶段方法的平均情感识别准确率为67.5%,而基于一阶段方法,GMM,SVM和VQ的准确率分别达到61.4%,63.3%,64.5%和61.5%。两阶段框架的基础上取得的结果是非常接近人类听众的主观评价。
2020-02-04 cs.LG cs.SD eess.AS
A Novel Machine Learning Classifier Based on Genetic Algorithms and Data Importance Reformatting
University of Bahrain(巴林大学)
提出基于数据重要性重格式化和遗传算法的GADIC分类算法,通过三阶段流程优化现有ML分类器,在多个数据集上显著提升准确率,最高平均提升达16.79%。
2024-12-17 cs.AI cs.LG cs.NE
Principal eigenstate classical shadows
University of California, San Diego(加利福尼亚大学圣迭戈分校);Freie Universität Berlin(柏林自由大学);University of Maryland, College Park(马里兰大学帕克分校)
针对未知混合量子态主本征态的经典描述学习问题,提出利用多副本联合测量的经典阴影协议,并证明其自然最优性及近纯态时的最优样本复杂度。
2024-05-22 cs.IT cs.LG math.IT