HybridNet: Classification and Reconstruction Cooperation for Semi-Supervised Learning
Sorbonne Université（索邦大学）；Conservatoire National des Arts et Métiers（法国国立工艺学院）
在本文中，我们介绍了一个新的模型，利用未标记的数据，以提高图像分类器的泛化性能：一个两个分支的编码器-解码器架构称为HybridNet。第一分支接收监督信号，并致力于提取不变的类相关表示。第二分支是完全无监督的，并且专用于由第一分支丢弃的模型信息以重建输入数据。为了进一步支持我们模型的预期行为，我们提出了一个原始的训练目标。它有利于判别分支的稳定性和两个分支中学习表示之间的互补性。HybridNet能够在各种半监督设置中在CIFAR-10，SVHN和STL-10上获得最先进的结果。此外，可视化和消融研究验证了我们的贡献和模型在CIFAR-10和STL-10数据集上的行为。
2018-07-30 cs.LG stat.ML
MELODY: Robust Semi-Supervised Hybrid Model for Entity-Level Online Anomaly Detection with Multivariate Time Series
AWS AI Labs（亚马逊人工智能实验室）
针对软件部署实体级异常检测中异构性、低延迟、定义模糊和标注有限等挑战，本文提出半监督混合模型MELODY，通过在线特征提取与深度单类模型实现异常检测，在真实云数据上F1相对提升7.6%至56.5%。
2024-06-06 cs.LG
A Hybrid Self-Supervised Learning Framework for Vertical Federated Learning
针对纵向联邦学习中未对齐、无标签数据未被利用的问题，提出FedHSSL混合自监督框架，融合跨方视图与局部增强视图并进行部分聚合，显著提升性能且实现更优隐私-效用权衡。
2023-06-08 cs.LG
Semi-Supervised Collective Classification via Hybrid Label Regularization
U.S. Naval Academy（美国海军学院）；Naval Research Laboratory（海军研究实验室）
许多分类问题涉及相互链接的数据实例，例如通过超链接连接的网页。用于“集体分类”（CC）的技术通常会提高此类数据图的准确性，但通常需要完全标记的训练图。相比之下，我们研究如何提高CC模型的半监督学习时，只有一个稀疏标记的图，一种常见的情况。我们首先描述如何使用分类器的新组合来利用关系特征与非关系特征的不同特性。我们还将“标签正则化”的思想扩展到这种混合分类器，使它们能够利用未标记的数据来偏置学习过程。我们发现，这些技术，这是有效的，易于实现，显着提高三个真实数据集的准确性。此外，我们的研究结果解释了先前相关研究中相互矛盾的发现。
2012-06-27 cs.LG stat.ML
Synergizing Unsupervised and Supervised Learning: A Hybrid Approach for Accurate Natural Language Task Modeling
Amazon Web Services（亚马逊云科技）；IEEE CIS（IEEE 计算智能学会）
本文提出一种协同无监督与监督学习的混合方法，利用无监督模块学习表示并增强监督任务模型，在文本分类和NER任务上取得SOTA结果，提升了NLP系统的数据效率与鲁棒性。
2024-06-03 cs.CL cs.LG
Hybrid Transformer and Spatial-Temporal Self-Supervised Learning for Long-term Traffic Prediction
University of Shanghai for Science and Technology（上海理工大学）；Capital One（第一资本）
针对长期交通预测中动态时空依赖难捕捉的问题，提出融合混合Transformer、切比雪夫图卷积与两项时空自监督学习任务的模型，经自适应数据增强提升鲁棒性，在PeMS04、PeMS08数据集上表现更优。
2024-01-29 cs.AI cs.LG
A Hybrid Supervised and Self-Supervised Graph Neural Network for Edge-Centric Applications
Research institute for signals, systems and computational intelligence (sinc(i))（信号、系统与计算智能研究机构）
本文提出一种混合监督与自监督学习的图神经网络，结合节点与边特征的注意力机制，用于边中心任务，在蛋白质相互作用和基因本体预测中达到或超过现有方法，并解决了未知结构化合物相似性预测问题。
2025-07-04 cs.LG q-bio.MN
A supervised hybrid quantum machine learning solution to the emergency escape routing problem
Terra Quantum AG（特拉量子股份公司）；Honda Research Institute Europe GmbH（本田欧洲研究院有限公司）
本研究提出一种基于量子FiLM与经典FiLM网络并行的有监督混合量子机器学习方法，用于优化地震等自然灾害中的汽车应急疏散路由问题，在准确率上较纯经典方法提升7%。
2023-07-28 cs.AI cs.LG quant-ph
Deep Low-Density Separation for Semi-Supervised Classification
Adobe Inc.（奥多比公司）；Stanford University（斯坦福大学）
给定一个小的标记数据集和一个大的未标记数据集，半监督学习（SSL）试图利用未标记数据点的位置，以创建一个更好的分类器，而不是单独应用于标记训练集的监督方法。有效的SSL对数据施加结构性假设，例如，邻居更有可能共享一个分类，或者决策边界位于低密度区域。对于复杂的高维数据，神经网络可以学习特征嵌入，然后将传统的SSL方法应用于我们所谓的混合方法。以前开发的混合方法介于细化潜在表示和对该表示执行基于图的SSL之间。在本文中，我们介绍了一种新的混合方法，而不是适用于低密度分离的嵌入式功能。我们详细描述了它，并讨论了为什么低密度分离可能更适合SSL的神经网络为基础的嵌入比基于图形的算法。我们使用内部客户调查数据验证我们的方法，并将其与其他最先进的学习方法进行比较。我们的方法有效地分类数以千计的未标记的用户从一个相对较少的手分类的例子。
2022-05-22 cs.LG
A Width-Matched Comparison of Hybrid Quantum-Classical Self-Supervised Learning for Fingerprint Recognition
National Dong Hwa University（国立东华大学）；National Chiayi University（国立嘉义大学）
本研究在匹配宽度下比较混合量子-经典SSL与经典SSL在指纹识别中的表现，发现对比目标下量子特征提取有优势，但该优势依赖SSL目标且非量子电路本身所致。
2026-10-05 cs.LG quant-ph
Hybrid Supervised and Reinforcement Learning for the Design and Optimization of Nanophotonic Structures
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Northrop Grumman Corporation（诺斯罗普·格鲁曼公司）；California NanoSystems Institute（加州纳米系统研究所）
从更高的计算效率到能够发现新颖复杂的结构，深度学习已经成为设计和优化纳米光子电路和组件的强大框架。然而，数据驱动和基于探索的机器学习策略对于纳米光子逆设计的有效性都有局限性。受监督的机器学习方法需要大量的训练数据来产生高性能模型，并且由于设计空间的复杂性，难以推广到训练数据之外。另一方面，无监督和基于强化学习的方法可能会有非常长的训练或优化时间。在这里，我们展示了一种混合监督学习和强化学习的方法来逆向设计纳米光子结构，并表明这种方法可以减少训练数据的依赖性，提高模型预测的泛化能力，并缩短探索性训练时间的数量级。因此，所提出的策略解决了许多当代基于深度学习的挑战，同时为新的设计方法打开了大门，这些方法利用多类机器学习算法为光子设计产生更有效和实用的解决方案。
2022-09-08 cs.LG physics.optics
Hybrid Approach for Inductive Semi Supervised Learning using Label Propagation and Support Vector Machine
BITS, Pilani（皮拉尼伯拉技术与科学学院）
半监督学习方法在当今世界已经获得了重要性，因为人类专家标记未标记数据所涉及的大量费用和时间。提出的混合方法使用SVM和标签传播标记的未标记的数据。在这个过程中，在每一步SVM的训练，以尽量减少误差，从而提高预测质量。实验采用支持向量机（SVM）和逻辑回归（Logreg）进行。结果表明，SVM的性能大大优于Logreg。该方法使用12个不同大小的数据集进行测试，范围从1000到10000的顺序。结果表明，该方法优于标签传播的一个很大的保证金与F-措施的平均几乎两倍。设计并实现了该方法的并行版本，分析表明，并行版本的训练时间大大减少。
2015-12-02 cs.DC cs.LG
Label-efficient Hybrid-supervised Learning for Medical Image Segmentation
ByteDance Inc.（字节跳动公司）
由于缺乏医学图像标注方面的专业知识，研究标记有效的医学图像分割方法成为一个热门话题。最近的进展集中在弱注释的有效利用以及一些强注释的标签，以便在许多非专业场景中实现相当的分割性能。然而，这些方法只关注强注释和弱注释实例之间的监督不一致性，而忽略了弱注释实例内部的监督不一致性，这必然导致性能下降。为了解决这个问题，我们提出了一种新的标签有效的混合监督框架，该框架单独考虑每个弱注释实例，并根据强注释实例的梯度方向学习其权重，从而更好地利用强注释实例中的高质量先验，更精确地描述弱注释实例。特别是，我们设计的动态实例指示器（DII）实现了上述目标，并适应我们的动态共正则化（DCR）框架，进一步减轻错误的积累从扭曲的弱注释。在两个混合监督医学分割数据集上的大量实验表明，仅使用10%的强标签，所提出的框架可以有效地利用弱标签，并在100%强标签监督的情况下实现具有竞争力的性能。
2022-03-10 cs.CV cs.LG eess.IV
Semi-Supervised Few-Shot Classification with Deep Invertible Hybrid Models
Kyushu University（九州大学）
在本文中，我们提出了一个深度可逆的混合模型，它集成了半监督Few-Shot分类在潜在空间水平的判别和生成学习。从图像数据中分类新物种的各种任务可以建模为半监督的Few-Shot分类，其假设标记和未标记的训练样本和目标类的小支持集。预测目标类与几个支持的例子，每个类使得学习任务困难的现有的半监督分类方法，包括自训练，迭代地估计类标签的未标记的训练样本学习分类器的训练类。为了有效地利用未标记的训练样本，我们采用复合似然作为目标函数，它集成了判别式和生成式学习，比参数耦合先验更适合深度神经网络，另一种流行的集成学习方法。在我们提出的模型中，判别模型和生成模型分别是原型网络，它们在各种少样本学习中表现出出色的性能，而Normalizing Flow是一种深度可逆模型，它与其他三种主要方法不同，返回精确的边际似然，即，VAE、GAN和自回归模型。我们的主要创意在于我们在潜在的空间水平，这是有效地防止过度拟合这些组件的集成。使用mini-ImageNet和VGG-Face数据集的实验表明，我们的方法优于基于自训练的原型网络。
2021-05-22 cs.CV cs.LG
Exploring a Hybrid Deep Learning Approach for Anomaly Detection in Mental Healthcare Provider Billing: Addressing Label Scarcity through Semi-Supervised Anomaly Detection
Informatics Institute, University of Amsterdam（阿姆斯特丹大学信息学院）；Department of Computer Science and Technology, SUNY Empire State University（SUNY埃默里州立大学计算机科学与技术系）
本文针对心理健康医疗账单异常检测中标签稀缺和类别不平衡问题，提出结合LSTM与Transformer的混合深度学习方法，并利用孤立森林和自编码器生成伪标签，在真实账单数据集上验证了该方法在召回率方面的有效性。
2025-07-02 cs.AI cs.LG
Deep Q-Network-Driven Catheter Segmentation in 3D US by Hybrid Constrained Semi-Supervised Learning and Dual-UNet
Eindhoven University of Technology（埃因霍温理工大学）；Shandong University of Science and Technology（山东科技大学）；Philips Research（飞利浦研究院）
三维超声中的导管分割对于计算机辅助心脏介入治疗非常重要。然而，需要大量的标记图像来训练成功的深度卷积神经网络（CNN）以分割导管，这是昂贵且耗时的。在本文中，我们提出了一种新的导管分割方法，它要求比监督学习方法更少的注释，但仍然实现了更好的性能。我们的方案将深度Q学习视为预定位步骤，这避免了体素级注释，并且可以有效地定位目标导管。利用检测到的导管，应用基于块的Dual-UNet在3D体积数据中分割导管。为了用有限的标记图像训练Dual-UNet并利用未标记图像的信息，我们提出了一种新的半监督方案，该方案基于预测的混合约束来利用未标记图像。实验结果表明，该方案实现了更高的性能比国家的最先进的半监督方法，同时它表明，我们的方法是能够从大规模的未标记图像的学习。
2020-06-25 cs.CV cs.LG eess.IV
Robust and sparse support vector machine via hybrid truncated loss for supervised classification
School of Science, Beijing Forestry University（北京林业大学理学院）；Translational Cancer Research Center, Peking University First Hospital（北京大学第一医院转化肿瘤研究中心）
提出一种稀疏且有界的混合截断损失函数L_ht，构建L_ht-SVM模型用于单视图分类，并扩展为多视图MvL_ht-SVM，通过P-平稳点和交替方向乘子法实现高效优化，实验表明在准确率、稀疏性和鲁棒性上优于对比方法。
2026-06-04 cs.LG
BossNAS: Exploring Hybrid CNN-transformers with Block-wisely Self-supervised Neural Architecture Search
Monash University（莫纳什大学）；Sun Yat-sen University（中山大学）；DarkMatter AI Research（DarkMatter AI研究院）；University of Oxford（牛津大学）；Alibaba Group（阿里巴巴集团）；RMIT University（皇家墨尔本理工大学）
最近在手工制作的视觉识别神经架构方面的无数突破突出了探索由多样化构建块组成的混合架构的迫切需要。与此同时，神经结构搜索方法正在激增，期望减少人类的努力。然而，NAS方法是否能够高效且有效地处理具有不同候选者（例如CNN和Transformers）的多样化搜索空间仍然是一个悬而未决的问题。在这项工作中，我们提出了块智能自监督神经架构搜索（BossNAS），一种无监督的NAS方法，解决了以前的方法中由于大的权重共享空间和有偏见的监督而导致的架构评级不准确的问题。更具体地说，我们分解成块的搜索空间，并利用一种新的自我监督的训练计划，命名为合奏自举，训练每个块单独搜索他们作为一个整体的人口中心。此外，我们提出了HyTra搜索空间，一个类似于织物的混合CNN变换器搜索空间，具有可搜索的下采样位置。在这个具有挑战性的搜索空间上，我们的搜索模型BossNet-T在ImageNet上的准确率高达82.5%，在计算时间相当的情况下超过EfficientNet 2.4%。此外，我们的方法在ImageNet的规范MBConv搜索空间和CIFAR-100的NATS-Bench大小搜索空间上分别实现了0.78和0.76 Spearman相关性的卓越架构评级准确性，超过了最先进的NAS方法。代码：https://github.com/changlin31/BossNAS
2021-08-19 cs.CV cs.LG
Swarm Intelligence in Semi-supervised Classification
本文综述了群体智能算法在半监督分类领域的研究进展。在机器学习领域，有许多关于应用群体智能算法的研究论文。SI中的一些算法单独或与其他ML算法混合应用于ML领域。SI算法也可用于ML算法的参数调整，或作为ML算法的骨干。本文简要介绍了群体智能算法在半监督学习领域中的应用
2017-06-03 cs.LG
Non-Differentiable Supervised Learning with Evolution Strategies and Hybrid Methods
DeepMind（深度思维）
在这项工作中，我们表明，演化策略（ES）是一个可行的方法学习大型监督模型的不可微参数。ES是黑盒优化算法，估计模型参数的分布，但他们只被用于相对较小的问题。我们表明，它是可能的规模ES更复杂的任务和模型与数以百万计的参数。虽然使用ES的可微参数是计算上不切实际的（虽然可能），我们表明，一个混合的方法是实际可行的情况下，该模型具有可微和不可微的参数。在这种方法中，我们使用标准的基于梯度的方法来学习可微权重，同时使用ES来学习不可微参数-在我们的情况下，权重的稀疏掩码。所提出的方法具有令人惊讶的竞争力，并且当在多个设备上并行化时，与使用梯度下降的训练相比，训练时间开销可以忽略不计。此外，该方法允许从第一个训练步骤开始训练稀疏模型，因此它们可以比使用需要首先训练密集模型的方法时大得多。我们给出了监督前馈模型（如MNIST和CIFAR-10分类）以及递归模型（如用于文本到语音的SparseWaveRNN）的结果和分析。
2019-06-07 cs.LG cs.NE stat.ML
Self-Supervised Learning for Robotic Leaf Manipulation: A Hybrid Geometric-Neural Approach
Robotics Institute, Carnegie Mellon University（机器人研究所，卡内基梅隆大学）
针对农业叶片操作自动化的挑战，提出结合几何方法与神经网络的自监督叶片抓取方案，通过置信度加权融合平衡两者贡献，在受控和真实温室环境下均显著优于单一方法，为农业机器人提供新范式。
2025-05-16 cs.CV cs.LG cs.RO
Robust Millimeter Beamforming via Self-Supervised Hybrid Deep Learning
College of Information Science and Electronic Engineering, Zhejiang University（浙江大学信息科学与电子工程学院）；National and Kapodistrian University of Athens（雅典国立卡波迪斯特里亚大学）；School of Electrical and Electronics Engineering, Nanyang Technological University（南洋理工大学电气与电子工程学院）；Khalifa University of Science and Technology（哈利法科技大学）
针对波束赋形网络在环境和数据集变化时性能骤降的问题，本文提出一种自监督混合深度学习网络，在DeepMIMO和WAIR-D数据集上验证了其强鲁棒性，并阐释了混合学习原理。
2024-08-02 cs.IT cs.LG math.IT
Hybrid-AIRL: Enhancing Inverse Reinforcement Learning with Supervised Expert Guidance
Artificial Intelligence Lab — Vrije Universiteit Brussel（自由大学布鲁塞尔人工智能实验室）；College of Science and Engineering — University of Galway（盖尔威大学科学与工程学院）；Family Medicine and Population Health — University of Antwerp（安特卫普大学家庭医学与人口健康）
本文提出Hybrid-AIRL，通过结合监督损失和随机正则化机制改进逆强化学习，在高复杂度的 imperfect-information 环境中提升奖励推断和策略学习效率。
2026-04-21 cs.AI cs.LG
Semi-Supervised Kernel PCA
Technical University of Denmark（丹麦技术大学）
我们提出了三个概括的核主成分分析（KPCA），其中包括知识的一个子集的数据点的类标签。第一种是MV-KPCA，惩罚类内方差，类似于Fisher判别分析。第二种是LSKPCA，它是最小二乘回归和核PCA的混合。最终的LR-KPCA是前一个的迭代重新加权版本，其在标记点上实现S形损失函数。我们提供了一个理论上的风险界限，以及说明性的实验真实和玩具数据集。
2010-08-08 cs.LG
Semi-Supervised Hybrid Spine Network for Segmentation of Spine MR Images
三维磁共振图像中椎体和椎间盘的自动分割在脊柱疾病的诊断和治疗中具有重要意义。然而，同时分割VB和IVD并不简单。此外，存在的问题，包括模糊分割所造成的各向异性分辨率，高计算成本，类间相似性和类内的变化，和数据不平衡。我们提出了一个两阶段的算法，称为半监督混合脊柱网络（SSHSNet），以解决这些问题，实现准确的同时VB和IVD分割。在第一阶段，我们通过使用交叉伪监督来获得切片内特征和粗分割，构建了一个2D半监督DeepLabv3+。在第二阶段，构建了基于3D全分辨率补丁的DeepLabv3+。该模型可用于提取切片间信息，并结合粗分割和第一阶段提供的切片内特征。此外，采用交叉三重注意模块来补偿由二维和三维网络分别生成的层间和层内信息的丢失，从而提高了特征表示能力，获得了满意的分割结果。建议SSHSNet上公开可用的脊柱MR图像数据集进行了验证，并取得了显着的分割性能。此外，实验结果表明，该方法在处理数据不平衡问题上具有很大的潜力。根据以前的报告，很少有研究将半监督学习策略与交叉注意机制结合起来用于脊柱分割。因此，所提出的方法可以提供一个有用的工具，脊柱分割和辅助临床脊柱疾病的诊断和治疗。代码可在https://github.com/Meiyan88/SSHSNet上公开获取。
2022-03-23 cs.CV cs.LG eess.IV
Extended Hybrid Timed Petri Nets with Semi-Supervised Anomaly Detection for Switched Systems, Modelling and Fault Detection
Batna 2 University（巴特纳2大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
本文提出一种统一的故障检测框架，结合扩展时序连续Petri网与半监督异常检测，用于混合动态系统，通过离线LMI设计实现实时部署的高效计算。
2026-04-05 cs.LG cs.SY eess.SY
Rhamba: Region-Aware Hybrid Attention-Mamba Framework for Self-Supervised Learning in Resting-State fMRI
St. Jude Children’s Research Hospital（圣犹大儿童研究医院）；The University of Memphis（孟菲斯大学）
Rhamba结合解剖引导的掩码与混合注意力-马尔可夫架构，通过ABIDE数据集预训练，利用不同掩码策略提升静息态fMRI分析性能，最终在COBRE和ADHD-200数据集上实现优于现有方法的性能。
2026-09-21 cs.AI cs.LG
Hybrid Quantum-Classical NLP Classification with Compact Semantic Representations: An Experimental Analysis of Representation Compression
German University in Cairo（开罗德国大学）；University of Melbourne（墨尔本大学）；High Performance Computing Lab, Electronics Research Institute（高性能计算实验室，电子研究所）
本文提出混合量子-经典NLP分类流水线，比较PCA、NCA和LDA降维方法，发现监督降维在低维度下保留任务信息更有效，LDA和NCA在5维时接近经典基线性能。
2026-09-10 cs.LG
Hybrid diffusion models: combining supervised and generative pretraining for label-efficient fine-tuning of segmentation models
Mines Paris（巴黎矿业学院）；PSL University（巴黎文理研究大学）；EPFL（洛桑联邦理工学院）；Swiss Data Science Center（瑞士数据科学中心）
本文提出一种混合预训练方法，通过同时进行图像去噪和掩码预测的代理任务，融合监督与生成式预训练，在多个数据集上验证其能提升分割模型在少样本领域的标签高效微调性能。
2024-08-06 cs.CV cs.LG
Hybrid Discriminative-Generative Training via Contrastive Learning
University of California, Berkeley（加州大学伯克利分校）
对比学习和监督学习都取得了重大进展和成功。然而，到目前为止，它们在很大程度上被视为两个独立的目标，只有通过共享神经网络才能结合在一起。在本文中，我们表明，通过基于能量的模型的混合判别生成训练的角度，我们可以直接连接对比学习和监督学习。除了呈现这种统一的观点之外，我们还展示了我们对基于能量的损失的近似的具体选择在CIFAR-10和CIFAR-100上的WideResNet分类准确性方面优于现有实践。它还提高了鲁棒性、分布外检测和校准性能。
2020-08-10 cs.CV cs.LG stat.ML
Hybrid Orthogonal Projection and Estimation (HOPE): A New Framework to Probe and Learn Neural Networks
在本文中，我们提出了一种新的模型高维数据，称为混合正交投影和估计（HOPE）模型，它结合了线性正交投影和有限混合模型下的一个统一的生成建模框架。HOPE模型本身可以基于最大似然估计从未标记的数据中无监督地学习，也可以从标记的数据中有区别地学习。更有趣的是，我们已经证明了所提出的HOPE模型与神经网络（NN）密切相关，在某种意义上，每个隐藏层都可以重新表示为HOPE模型。因此，HOPE框架可以作为一种新的工具来探索神经网络为什么和如何工作，更重要的是，以监督或无监督的方式学习神经网络。在这项工作中，我们已经研究了希望框架学习神经网络的几个标准的任务，包括图像识别MNIST和语音识别TIMIT。实验结果表明，HOPE框架在各种类型的NN学习问题中，包括无监督特征学习，监督或半监督学习，产生了显着的性能增益。
2015-06-06 cs.LG cs.NE
Accelerated nonlinear primal-dual hybrid gradient methods with applications to supervised machine learning
Brown University（布朗大学）
线性原-对偶混合梯度法（PDHG）是一种将具有鞍点结构的凸优化问题分解为更小的子问题的一阶方法。与大多数分裂方法不同，这些子问题通常可以有效地解决，因为它们涉及简单的操作，如矩阵向量乘法或邻近映射，这些操作可以快速进行数值计算。这一优点的代价是，线性PDHG方法需要精确的步长参数的问题在手边，以实现最佳的收敛速度。不幸的是，这些步长参数对于计算大规模最优化问题（例如机器学习中的那些）来说通常是非常昂贵的。这个问题使得简单的线性PDHG方法不适合于此类问题，并且它也被大多数一阶最优化方法所共享。为了解决这个问题，我们介绍了加速非线性PDHG方法，实现了最佳的收敛速度与步长参数，是简单而有效的计算。我们证明了严格的收敛结果，包括结果的强凸或光滑的问题上的无限维自反巴拿赫空间。我们说明了我们的方法的效率上$\ell_{1}$约束逻辑斯谛回归和熵正则化矩阵对策。我们的数值实验表明，非线性PDHG方法是相当快的竞争方法。
2022-04-03 cs.LG math.OC math.ST
MUSCLE: Strengthening Semi-Supervised Learning Via Concurrent Unsupervised Learning Using Mutual Information Maximization
USC Information Sciences Institute（南加州大学信息科学研究所）；Alexandria University（亚历山大大学）
深度神经网络是强大的、大规模参数化的机器学习模型，已被证明在监督学习任务中表现良好。然而，通常需要非常大量的标记数据来训练深度神经网络。已经提出了几种半监督学习方法来使用少量的标记数据和大量的未标记数据来训练神经网络。这些半监督方法的性能显着降低标记数据的大小减少。我们介绍了基于互信息的无监督和半监督并行学习（MUSCLE），一种混合学习方法，使用互信息结合无监督和半监督学习。MUSCLE可以用作神经网络的独立训练方案，也可以并入其他学习方法。我们表明，所提出的混合模型优于几个标准的基准，包括CIFAR-10，CIFAR-100和Mini-Imagenet的最先进的。此外，性能增益始终随着标记数据量的减少以及存在偏差而增加。我们还表明，MUSCLE有可能提高分类性能时，用于微调阶段的模型预训练只在未标记的数据。
2020-11-30 cs.CV cs.LG
Hybrid Adaptive Kalman Filtering for Data-Efficient Joint Tracking and Classification
Charles Stark Draper Laboratory, Inc.（查尔斯·斯泰克·德帕尔实验室，Inc.）；Ann and H. J. Smead Department of Aerospace Engineering Sciences（安与H.J.斯梅德航空航天工程科学系）
提出一种自监督混合自适应卡尔曼滤波器，通过仅从测量中学习系统动力学和过程噪声协方差的结构化校正，同时保持滤波器的概率结构，实现低数据和大数据场景下的高精度估计与鲁棒分类。
2026-06-01 cs.LG cs.RO
Cost-sensitive Semi-supervised Classification for Fraud Applications
University of Regina（里贾纳大学）
本研究探讨成本敏感学习（CSL）在欺诈检测领域，以减少欺诈类的不正确的预测，并提高其准确性。值得注意的是，我们专注于具有挑战性的检测，因为骗子和合法投标人的行为是相似的。我们在半监督分类（SSC）框架内调查CSL，以解决标记欺诈数据的稀缺性。本文首次尝试将CSL与SSC相结合用于欺诈检测。我们采用元CSL方法来管理误分类错误的成本，而SSC算法是用不平衡数据训练的。使用一个实际的shill投标数据集，我们评估了CSL和SSC的几个混合模型的性能，然后统计比较它们的误分类错误率和准确率。最有效的CSL+SSC模式能够检测到99%的欺诈者，并且总成本最低。
2020-12-21 cs.LG
Hybrid Low-order and Higher-order Graph Convolutional Networks
Guangdong Polytechnic Normal University（广东技术师范大学）；Guangdong University of Technology（广东工业大学）
利用图网络的高阶邻域信息，可以显著提高图表示学习分类的准确率。然而，目前的高阶图卷积网络具有大量的参数和高的计算复杂性。为此，我们提出了一种混合低阶和高阶图卷积网络（HLHG）学习模型，该模型采用权值共享机制来减少网络参数的数目。为了降低计算复杂性，我们提出了一种新的融合池层，结合的邻域信息的高阶和低阶。理论上，我们比较了模型的复杂性，提出的模型与其他国家的最先进的模型。实验上，我们通过监督学习在大规模文本网络数据集上验证了所提出的模型，并通过半监督学习在引文网络数据集上验证了所提出的模型。实验结果表明，该模型具有最高的分类精度与一组小的可训练的权重参数。
2019-08-02 cs.LG stat.ML
NeuroNet: A Novel Hybrid Self-Supervised Learning Framework for Sleep Stage Classification Using Single-Channel EEG
Korea University（高丽大学）；University of Cambridge（剑桥大学）；Stanford University School of Medicine（斯坦福大学医学院）；VA Palo Alto Health Care System（帕洛阿尔托退伍军人事务医疗系统）；Korea University College of Medicine（高丽大学医学院）
针对睡眠分期分类依赖大量标注数据、人工标注有偏差的问题，提出融合对比学习与掩码预测的自监督框架NeuroNet，搭配基于Mamba的时序上下文模块，在少量标注下性能超越现有监督方法，为睡眠分析提供新基准。
2024-05-13 cs.AI cs.HC cs.LG
Hybrid Classical-Quantum (HCQ) Alzheimer's Classification via Supervised $β$-VAE and Quantum Kernels
Centre for Brain Research, Indian Institute of Science（印度科学研究所脑研究中心）；Vision and AI Lab (VAL), Indian Institute of Science（印度科学研究所视觉与人工智能实验室）
提出两阶段混合经典-量子流水线，通过监督3D β-VAE压缩MRI为64维潜码，经PLS选择6个成分编码为6量子比特态，利用量子核SVM实现AD分类，在ADNI-1上达72.1%准确率与0.799 AUC。
2026-06-15 cs.CV cs.LG
Toward Foundational Model for Sleep Analysis Using a Multimodal Hybrid Self-Supervised Learning Framework
Department of Brain and Cognitive Engineering, Korea University（脑科学与认知工程系，韩国大学）；Interdisciplinary Program in Precision Public Health, Korea University（精准公共卫生跨学科项目，韩国大学）；Department of Radiology, Stanford University School of Medicine（放射科，斯坦福大学医学院）；VA Palo Alto Health Care System（帕洛阿尔托医疗系统）；Department of Neurology, Korea University College of Medicine（神经病学系，韩国大学医学院）
针对睡眠分析依赖大规模标注数据的问题，本研究提出多模态混合自监督学习框架SynthSleepNet，融合掩码预测与对比学习，搭配Mamba时序模块，在多项睡眠分析任务上取得优于现有方法的性能，可作为睡眠分析基础模型。
2025-10-01 cs.AI cs.LG eess.SP
Step-wise Adaptive Integration of Supervised Fine-tuning and Reinforcement Learning for Task-Specific LLMs
针对SFT过拟合与RL模式崩溃问题，提出逐步自适应混合训练框架SASR，统一SFT与RL并动态平衡，实验证明其优于单一及静态混合方法。
2025-08-04 cs.AI cs.LG
GraphVICRegHSIC: Towards improved self-supervised representation learning for graphs with a hyrbid loss function
University of Toronto（多伦多大学）
自监督学习和预训练策略在过去的几年里得到了发展，特别是对于卷积神经网络（CNN）。近年来，这些方法在图神经网络（GNNs）中也得到了广泛的应用。在本文中，我们使用了一种基于图的具有不同损失函数的自监督学习策略（Bar-low Twins [Zbontaret等人，2021]，HSIC [Tsaiet al.，2021]，VICReg [Bardeset等人，2021]）与CNN结合应用，取得了良好的效果。我们还提出了一种结合VICReg和HSIC优点的混合损失函数，称之为VICRegHSIC。在MUTAG、PROTEINS、IMDB-Binary等7个数据集上比较了上述方法的性能。实验表明，在7个数据集中，我们的混合损失函数的性能优于其他方法。此外，还探讨了不同批量、投影仪尺寸和数据扩充策略的影响。
2021-11-26 cs.AI cs.CG cs.CV
ActNetFormer: Transformer-ResNet Hybrid Method for Semi-Supervised Action Recognition in Videos
School of Information Technology, Monash University（莫纳什大学信息技术学院）；TCS Research（塔塔咨询服务研究中心）
本文提出ActNetFormer框架，通过跨架构伪标签与对比学习融合3D CNN和视频Transformer，仅用少量标注数据即在半监督视频动作识别中取得最先进性能。
2024-04-09 cs.AI cs.CV cs.HC
Hybrid Reward Normalization for Process-supervised Non-verifiable Agentic Tasks
Accio Team, Alibaba Group（阿里集团阿西莫团队）；University of California, Los Angeles (UCLA)（加州大学洛杉矶分校）
针对不可验证智能体任务中过程奖励难标注且易偏离最终结果的问题，提出 PPR 强化学习方法与 ReNorm 校准策略，在多类基准上达到最先进性能。
2025-09-29 cs.AI cs.LG
A Semi-Supervised Framework for Speech Confidence Detection using Whisper
Department of Computer Science（计算机科学系）
本文提出一种半监督框架，结合Whisper编码器的深度语义嵌入与可解释的声学特征向量，通过不确定性感知伪标签策略提升语音自信度检测性能，实验显示在少数类上提升3%。
2026-05-12 cs.LG cs.SD
Supervised and Unsupervised End-to-End Deep Learning for Gene Ontology Classification of Neural In Situ Hybridization Images
Bar-Ilan University（巴伊兰大学）
近年来，高分辨率哺乳动物神经图像的大数据集已经可用，这促使了对基因表达数据分析的积极研究。传统的图像处理方法通常应用于基于基因在这些脑图像中的表达来学习基因的功能表示。在本文中，我们描述了一种新的基于端到端深度学习的方法，用于生成原位杂交（ISH）图像的紧凑表示，这些图像是平移不变的。与传统的图像处理方法相比，我们的方法依赖于深度卷积去噪自动编码器（CDAE）来处理原始像素输入，并生成所需的紧凑图像表示。我们提供了我们的基于深度学习的方法的深入描述，并提出了广泛的实验结果，证明CDAE提取的表示可以帮助学习功能基因本体类别的功能，以高度准确的方式进行分类。我们的方法提高了以前的最先进的分类率（Liscovitch等人）。从0.92至0.997的平均AUC，即，它实现了出错率96%的降低。此外，由于我们的方法生成的表示向量比以前的最先进的方法更紧凑，允许更有效的高级别的图像表示。这些结果是通过与原始高分辨率图像相比显着降低采样的图像获得的，进一步强调了我们所提出的方法的鲁棒性。
2019-11-30 cs.CV cs.LG cs.NE
Semi-Supervised Translation with MMD Networks
Yale University（耶鲁大学）
本文通过引入一种混合监督和无监督代价函数来改进神经网络结构中的半监督学习。无监督组件使用网络输出和目标数据集之间的最大平均离散（MMD）距离的可微估计器进行训练。我们介绍了一个$n$通道网络的概念和几种方法来提高这些网络的性能的基础上监督预初始化，多尺度内核。这项工作调查的有效性，这些方法对语言翻译的质量很少是已知的\textit{a priori}。我们还提出了一个彻底的调查超参数空间的这种方法的合成数据。
2018-10-28 cs.CL cs.LG stat.ML
BYOL-S: Learning Self-supervised Speech Representations by Bootstrapping
Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Imperial College London（帝国理工学院）；Université de Lausanne（洛桑大学）；Logitech Europe S.A.（罗技欧洲公司）
自从几十年前频谱分析的开创性工作以来，已经研究了用于提取音频和语音特征的方法。最近的努力是由开发通用音频表示的雄心指导的。例如，深度神经网络如果在大型音频数据集上进行训练，则可以提取最佳嵌入。这项工作扩展了现有的基于自举的自监督学习的方法，提出了各种编码器架构，并探讨了使用不同的预训练数据集的影响。最后，我们提出了一个新的训练框架来提出一个混合音频表示，它结合了手工制作和数据驱动的学习音频功能。所有提出的表示都在HEAR NeurIPS 2021挑战中进行了评估，用于听觉场景分类和时间戳检测任务。我们的研究结果表明，卷积Transformer作为编码器的混合模型在大多数HEAR挑战任务中具有优异的性能。
2022-10-25 cs.AI cs.LG cs.SD
Learning Generalized Hybrid Proximity Representation for Image Recognition
University of Cincinnati（辛辛那提大学）
本文提出监督式GHM-Loss，在几何与概率空间联合学习混合邻近表示，并通过理论证明和两个公开数据集实验验证其图像识别优势。
2023-04-16 cs.CV cs.LG math.PR
HiCat: A Semi-Supervised Approach for Cell Type Annotation
University of Victoria（维多利亚大学）；University of Saskatchewan（萨斯喀彻温大学）
针对单细胞RNA测序数据的细胞类型注释问题，本文提出半监督流程HiCat，融合监督与无监督学习优势，整合参考与查询数据优化特征工程，经10个数据集测试，在区分识别新型细胞类型上优于其他方法。
2024-11-25 cs.LG q-bio.BM
A Hybrid Deep Learning Anomaly Detection Framework for Intrusion Detection
ST Engineering（新加坡科技工程有限公司）
网络入侵攻击危及用户的关键和敏感数据的数量和强度不断上升，特别是随着我们的日常生活与互联网之间的联系越来越多。这种入侵攻击的数量之大和复杂性之高阻碍了大多数传统防御技术的有效性。与此同时，机器学习方法，特别是深度学习在计算机视觉中的出色表现，引起了网络安全界的研究兴趣，以进一步增强和自动化入侵检测。然而，昂贵的数据标记和异常数据的限制使得以完全监督的方式训练入侵检测器具有挑战性。因此，基于无监督异常检测的入侵检测也是一个重要的特征。提出了一种基于三阶段深度学习异常检测的网络入侵攻击检测框架。该框架包括无监督（K均值聚类），半监督（GANomaly）和监督学习（CNN）算法的集成。然后，我们在三个基准数据集上评估并展示了我们实现的框架的性能：NSL-KDD，CIC-IDS 2018和TON_IoT。
2022-12-02 cs.AI cs.CR cs.LG
Hybrid Models with Deep and Invertible Features
DeepMind（深度思维）
我们提出了一种神经混合模型，该模型由一组通过深度可逆变换（即归一化流）计算的特征上定义的线性模型组成。我们的模型的一个有吸引力的性质是，p（特征），特征的密度，和p（目标）|特征），即预测分布，可以在单个前馈过程中精确计算。我们表明，我们的混合模型，尽管可逆性的限制，实现了类似的准确性，纯粹的预测模型。此外，尽管混合优化目标，生成组件仍然是输入特征的良好模型。这提供了额外的功能，例如检测分布外输入和启用半监督学习。精确的联合密度p（目标，特征）的可用性也使我们能够轻松计算许多数量，使我们的混合模型成为概率深度学习下游应用的有用构建块。
2019-05-29 cs.LG stat.ML
Intelligent Task Offloading in VANETs: A Hybrid AI-Driven Approach for Low-Latency and Energy Efficiency
College of Information Technology, United Arab Emirates University（阿联酋大学信息科技学院）；Department of Computer Science, SCIT, Beaconhouse National University（贝鲁特国家大学计算机科学系）；College of Computing and Informatics, University of Sharjah（沙迦大学计算科学学院）；Department of Mathematics, University of Barcelona（巴塞罗那大学数学系）
针对VANETs中高动态网络导致的延迟高、能效低和任务失败问题，提出整合监督学习、强化学习与PSO的混合AI框架，实现智能任务卸载与资源分配，显著降低延迟和能耗并提升任务成功率。
2025-04-29 cs.DC cs.LG
Granularity at Scale: Estimating Neighborhood Socioeconomic Indicators from High-Resolution Orthographic Imagery and Hybrid Learning
Spectral Sciences, Inc.（光谱科学公司）；Fundação Getúlio Vargas（热图里奥·瓦加斯基金会）；New York University（纽约大学）；William & Mary（威廉玛丽学院）
本研究利用高分辨率正射影像，通过监督CNN与半监督视觉词袋聚类混合方法，估计美国社区人口密度、收入和教育水平，密度预测R²达0.81，半监督方法为无标签细粒度估计奠定基础。
2024-02-18 cs.CV cs.CY cs.LG
Private-Shared Disentangled Multimodal VAE for Learning of Hybrid Latent Representations
Rutgers University（罗格斯大学）
多模态生成模型代表了一个重要的深度模型家族，其目标是促进对具有多个视图或模态的数据的表示学习。然而，目前的深度多模态模型专注于共享表示的推理，而忽略了单个模态中数据的重要私有方面。在本文中，我们介绍了一个解纠缠多模态变分自编码器（DMVAE），利用解纠缠VAE策略分离的私人和共享的潜在空间的多模态。我们特别考虑的情况下，潜在的因素可能是连续和离散的性质，导致家庭的一般混合DMVAE模型。我们证明了DMVAE在半监督学习任务上的实用性，其中一种方式包含部分数据标签，与其他方式相关和不相关。我们在几个基准上的实验表明了私有共享解纠缠和混合潜在表示的重要性。
2020-12-23 cs.CV cs.LG
