DynLP: Parallel Dynamic Batch Update for Label Propagation in Semi-Supervised Learning
Missouri University of Science and Technology(密苏里科技大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
本文提出DynLP算法,通过仅更新必要的子图实现高效标签传播,提升大规模数据集处理效率,实现13至102倍的速度提升。
2026-04-08 cs.DC cs.LG
Split Batch Normalization: Improving Semi-Supervised Learning under Domain Shift
Jagiellonian University(雅盖隆大学);Nomagic;New York University(纽约大学)
最近的研究表明,在半监督学习中使用未标记的数据并不总是有益的,甚至可能损害泛化,特别是当未标记和标记的示例之间存在类别不匹配时。我们在CIFAR-10和ImageNet数据集上研究了图像分类的这种现象,并应用了许多其他形式的域偏移(例如盐和胡椒噪声)。我们的主要贡献是分裂批量归一化(Split-BN),一种当额外的未标记数据来自移位分布时改善SSL的技术。我们实现它通过使用单独的批量归一化统计未标记的例子。由于其简单性,我们建议将其作为标准实践。最后,我们分析了域转移如何影响SSL训练过程。特别是,我们发现,在训练过程中,在未标记和标记的示例之间,后期层中隐藏激活的统计数据变得明显不同。
2019-04-06 cs.LG stat.ML
Supervised Batch Normalization
针对批量归一化在多样数据分布下失效的问题,提出监督批量归一化,通过预识别数据模式实现有效归一化,在CIFAR-100上提升15.13%准确率,并在域适应中优于BN。
2024-05-27 cs.LG
RelationMatch: Matching In-batch Relationships for Semi-supervised Learning
IIIS, Tsinghua University(清华大学智能产业研究院(注:IIIS为Institute for Interdisciplinary Information Sciences的缩写,常见译名为交叉信息研究院));Department of Math, Tsinghua University(清华大学数学系)
本文提出RelationMatch框架,通过矩阵交叉熵损失显式建模小批量样本间关系一致性,在半监督学习中取得领先性能,并在STL-10上比FlexMatch准确率提升15.21%。
2025-03-12 cs.CV cs.LG
Reliable Off-policy Evaluation for Reinforcement Learning
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));The University of Texas at Austin(德克萨斯大学奥斯汀分校);Shenzhen Institute of Artificial Intelligence and Robotics for Society(深圳市人工智能与机器人研究院)
在顺序决策问题中,脱离策略评估使用从不同行为策略生成的记录轨迹数据来估计目标策略的预期累积回报,而不执行目标策略。高风险环境中的强化学习,如医疗保健和教育,由于安全或道德问题,或无法探索,通常仅限于非政策设置。因此,在部署目标策略之前,必须量化策略外估计的不确定性。在本文中,我们提出了一个新的框架,提供强大的和乐观的累积奖励估计使用一个或多个记录的轨迹数据。利用分布鲁棒优化的方法,我们表明,适当选择的分布不确定性集的大小,这些估计作为随机或对抗环境下的非渐近和渐近保证的置信区间。我们的研究结果也推广到批量强化学习,并通过实证分析支持。
2022-11-03 cs.LG stat.ML
Knowledge Transfer from Teachers to Learners in Growing-Batch Reinforcement Learning
Harvard University(哈佛大学);DeepMind(深度思维)
本文研究增长批次强化学习中教师知识(示范、专家动作、梯度)的迁移,以缓解演员-评论家方法的样本复杂度和覆盖要求,并在DeepMind控制套件上验证。
2023-05-09 cs.LG
Utility-Diversity Aware Online Batch Selection for LLM Supervised Fine-tuning
University of Science and Technology of China(中国科学技术大学)
提出UDS框架,利用logits矩阵核范数和轻量记忆缓冲实现高效在线批次选择,兼顾数据效用与多样性,无需外部资源,在多个基准上优于现有方法并降低训练时间。
2026-06-16 cs.AI cs.CL cs.LG
The Effect of Batch Size on Contrastive Self-Supervised Speech Representation Learning
Institute of Computing and Information Science, Radboud University(拉德堡德大学计算与信息科学学院)
本文研究批量大小对 wav2vec 2.0 自监督语音预训练的影响,发现固定迭代下大批量效果更好但存在稳定性下限与有效性上限,并指出模型质量主要取决于所见语音数据总量。
2024-02-21 cs.LG cs.SD eess.AS
Stackelberg Batch Policy Learning
University of California Irvine(加州大学欧文分校)
针对批量强化学习现有最坏情况最优算法忽略分层决策结构的问题,提出基于Stackelberg博弈的StackelLearner算法,具备理论收敛与遗憾界保证,实验性能优于或持平现有最优方法。
2023-10-02 cs.LG stat.ML
Symmetric Neural-Collapse Representations with Supervised Contrastive Loss: The Impact of ReLU and Batching
University of California, Santa Barbara(加州大学圣巴巴拉分校);University of British Columbia(不列颠哥伦比亚大学)
本文发现,在SCL的最终层引入ReLU激活,可在不损害测试准确性的情况下,有效恢复类别不平衡下学习表示的对称性,并提出了批绑定策略以确保该对称性。
2023-10-18 cs.LG stat.ML
Fast FixMatch: Faster Semi-Supervised Learning with Curriculum Batch Size
Rice University(莱斯大学)
提出课程批大小(CBS)利用训练动态减少半监督学习计算开销,结合强标签增强与CPL构建Fast FixMatch,在保持同等错误率下实现2.1-3.4倍训练加速并提升数据利用率。
2023-09-07 cs.AI cs.CV cs.LG
A-SFS: Semi-supervised Feature Selection based on Multi-task Self-supervision
Central South University(中南大学)
特征选择是机器学习中的一个重要过程。它通过选择对预测目标贡献最大的特征来构建一个可解释的和鲁棒的模型。然而,大多数成熟的特征选择算法,包括监督和半监督,未能充分利用特征之间的复杂潜在结构。我们相信这些结构对于特征选择过程是非常重要的,特别是当标签缺乏并且数据有噪声时。为此,我们创新性地将基于深度学习的自监督机制引入到特征选择问题中,即基于批量注意力的自监督特征选择(A-SFS)。首先,设计了一个多任务自监督自动编码器,在两个托词任务的支持下,揭示特征之间的隐藏结构。在多自监督学习模型的综合信息指导下,设计了一种批量注意力机制,根据批量特征选择模式生成特征权重,以减轻少量噪声数据带来的影响。该方法与14个主要的强大基准进行了比较,包括LightGBM和XGBoost。实验结果表明,A-SFS在大多数数据集上都达到了最高的准确率。此外,这种设计大大降低了对标签的依赖,仅需1/10的标记数据即可实现与最新基线相同的性能。结果表明,A-SFS对噪声和缺失数据也具有很强的鲁棒性。
2022-07-19 cs.AI cs.LG
Exponential Moving Average Normalization for Self-supervised and Semi-supervised Learning
Amazon Web Services(亚马逊云科技)
我们提出了一个插件替代批量归一化(BN)称为指数移动平均归一化(EMAN),它提高了现有的基于学生-教师的自我和半监督学习技术的性能。与标准BN不同,在每个批次中计算统计数据,教师中使用的EMAN通过学生BN统计数据的指数移动平均来更新其统计数据。这种设计降低了BN固有的交叉样本依赖性,增强了教师的泛化能力。当ImageNet上有1%/10%的监督标签时,EMAN将自监督学习的强基线提高了4-6/1-2个点,半监督学习提高了约7/2个点。这些改进在方法、网络架构、训练持续时间和数据集上是一致的,证明了这种技术的普遍有效性。该代码可在https://github.com/amazon-research/exponential-moving-average-normalization上获得。
2021-06-18 cs.AI cs.CV cs.LG
Iterative Policy Optimization: Batch-Online Multi-Turn RL via Single-Turn RL
Meta;FAIR at Meta(Meta的FAIR)
本文提出Iterative PPO方法,通过迭代优化多轮对话中的Q函数和策略,实现更稳定的对话生成。
2026-11-09 cs.LG
Momentum^2 Teacher: Momentum Teacher with Momentum Statistics for Self-Supervised Learning
MEGVII Technology(旷视科技)
在本文中,我们提出了一种新的方法,动量$^2$教师,学生-教师为基础的自监督学习。该方法对网络权值和批量归一化(BN)统计量进行动量更新。教师的权重是学生的动量更新,而教师的BN统计是历史上那些的动量更新。Momentum $^2$ Teacher简单高效。它可以在使用小批量(\eg,128)的ImageNet线性评估协议下实现最先进的结果(74.5%),而不需要在TPU等特殊硬件上进行大批量训练或低效的跨GPU操作(\eg,洗牌BN,同步BN)。我们的实现和预训练模型将在GitHub \footnote{https://github.com/zengarden/momentum2-teacher}上提供。
2021-01-19 cs.CV cs.LG
Deep Categorization with Semi-Supervised Self-Organizing Maps
Universidade Federal de Pernambuco(伯南布哥联邦大学);Center of Informatics - CIn(信息中心)
如今,随着技术的进步,每天都会产生越来越多的非结构化数据。然而,这是一个痛苦的工作,标签和组织。标签是一个昂贵的,耗时的,困难的任务。它通常是手动完成的,这与数据中的噪声和错误相结合。因此,开发可以从标记和未标记数据中受益的智能模型非常重要。目前,无监督学习和半监督学习的研究工作仍然被纯监督学习的成功所掩盖。然而,预计从长远来看,它们将变得更加重要。本文提出了一种半监督模型,称为批处理半监督自组织映射(Batch SS-SOM),它是SOM的扩展,结合了深度学习兴起时的一些进步,如批处理训练。实验结果表明,Batch SS-SOM是一种很好的半监督分类和聚类方法。它在准确性和聚类误差方面表现良好,即使是少量的标记样本,以及当呈现给无监督数据时,并且在传统图像分类基准数据集中的迁移学习场景中显示出竞争力。
2020-06-17 cs.LG cs.NE stat.ML
Combining X-Vectors and Bayesian Batch Active Learning: Two-Stage Active Learning Pipeline for Speech Recognition
本文提出一种结合X向量和贝叶斯批量主动学习的两阶段流程,用于优化语音识别中的主动学习效率与数据利用。
2025-04-25 cs.AI cs.CL cs.LG
Semi-supervised reward learning for offline reinforcement learning
DeepMind(深度思维)
在离线强化学习(RL)中,使用记录的数据集来训练代理。这似乎是攻击现实生活中应用程序的最自然的途径,因为在医疗保健和机器人等领域,与环境的交互要么昂贵,要么不道德。训练代理通常需要奖励功能,但不幸的是,奖励很少在实践中,他们的工程是具有挑战性和费力。为了克服这一点,我们研究奖励学习的约束下,最大限度地减少人类奖励注释。我们考虑两种类型的监督:时间步长注释和演示。我们提出了半监督学习算法,从有限的注释中学习,并将未标记的数据。在我们对模拟机器人手臂的实验中,我们大大改进了行为克隆,并接近了地面真实奖励所实现的性能。我们进一步研究了奖励模型的质量与最终策略之间的关系。例如,我们注意到,奖励模型不需要完美才能产生有用的政策。
2020-12-12 cs.AI cs.LG cs.RO
FastBUS: A Fast Bayesian Framework for Unified Weakly-Supervised Learning
School of Software Technology, Zhejiang University(浙江大学软件学院);State Key Laboratory of Blockchain and Data Security, Zhejiang University(浙江大学区块链与数据安全国家重点实验室);School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院)
FastBUS提出了一种高效贝叶斯框架,通过概率转移和低秩假设加速弱监督学习,实现多类别批量处理和显著提升运行效率。
2026-02-28 cs.AI cs.LG
Enhanced semi-supervised stamping process monitoring with physically-informed feature extraction
Sun Yat-sen University(中山大学)
本文针对高速冲压过程批次异常问题,提出融合物理信息与数据驱动的半监督异常监控框架,仅用正常样本建模并设计偏差分数,在真实冲压数据上验证了其优越性。
2025-05-09 cs.LG
Distilling Reinforcement Learning into Single-Batch Datasets
Brigham Young University
本文提出将强化学习环境蒸馏为单批次监督学习数据集的方法,通过扩展近端策略优化进行元学习,验证了该方法在多种环境中的压缩能力与跨架构泛化性。
2025-08-12 cs.LG
Model Selection in Batch Policy Optimization
Stanford University(斯坦福大学);Google Research, Brain Team(谷歌研究院 Brain 团队)
我们研究了批量策略优化中的模型选择问题:给定一个固定的部分反馈数据集和$M$模型类,学习一个性能与来自最佳模型类的策略具有竞争力的策略。我们通过识别任何模型选择算法都应该最佳权衡以具有竞争力的三个错误来源,在具有线性模型类的上下文Bandit设置中将问题形式化:(1)近似误差,(2)统计复杂性和(3)覆盖范围。前两个来源在监督学习的模型选择中是常见的,其中最佳地权衡这些属性是很好的研究。相比之下,第三个源是批处理策略优化所特有的,并且是由于设置所固有的数据集偏移。我们首先表明,没有批处理策略优化算法可以实现同时解决所有三个保证,揭示了批处理策略优化的困难和监督学习的积极成果之间的鲜明对比。尽管这个负面的结果,我们表明,放宽任何一个三个错误源,使算法的设计实现近预言的不平等的其余两个。我们的结论与实验证明这些算法的有效性。
2021-12-23 cs.LG stat.ML
Investigating a Baseline Of Self Supervised Learning Towards Reducing Labeling Costs For Image Classification
监督学习中的数据标注被认为是一种昂贵的工具,在某些情况下是不可行的。提出了自监督学习方法来解决具有较少标记数据的学习有效性,然而,对实现足够结果所需的标记数据的大小缺乏信心。这项研究的目的是绘制一个基线的标记数据的比例,模型可以欣赏,以产生合格的准确性相比,训练与额外的标签。该研究实现了www.example.com 'cats-vs-dogs数据集Mnist和Fashion-Mnist,通过在原始数据集上实现随机旋转增强来研究自监督学习任务。为了揭示自监督学习中借口过程的真实有效性,原始数据集被分成较小的批次,并且在每个批次上重复学习,有和没有借口预训练。结果表明,与普通监督学习相比,自监督学习中的借口过程在下游分类任务中提高了约15%的准确率。
2021-08-17 cs.CV cs.LG
Multi-Agent Reinforcement Learning from Delayed Marketplace Feedback for Objective-Weight Adaptation in Three-Sided Dispatch
DoorDash
提出在DoorDash部署的强化学习系统,利用延迟信号自适应调整调度目标权重,通过离线策略学习在噪声和耦合反馈下优化配送质量与批处理效率的权衡。
2026-06-12 cs.AI cs.LG cs.MA
Sequential Off-Policy Learning with Logarithmic Smoothing
INRIA - CNRS, École Normale Supérieure, PSL University, France(INRIA-国家科学研究中心、巴黎高等师范学院、巴黎综合理工学院、法国);Criteo AI Lab Paris, France(Criteo巴黎人工智能实验室、法国)
本文提出一种序贯非策略学习算法,结合对数平滑估计与在线PAC-Bayesian工具,改进性能并加速收敛。算法在批量和序贯场景中均表现优异。
2026-05-12 cs.LG stat.ML
On the Out-of-Distribution Generalization of Self-Supervised Learning
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所)
本文分析自监督学习中的分布外泛化问题,指出其因学习虚假相关性而降低,提出基于结构因果模型的后干预分布及批量采样策略,实现最优最坏情况OOD性能。
2025-05-22 cs.LG
Semi-supervised Development of ASR Systems for Multilingual Code-switched Speech in Under-resourced Languages
Stellenbosch University(斯泰伦博斯大学);National University of Singapore(新加坡国立大学)
本文报道了半监督开发的声学和语言模型资源不足,代码转换语音在五种南非语言。考虑两种方法。第一个构造四个独立的双语自动语音识别器(ASR)对应于四个不同的语言对之间的扬声器切换频繁。第二个系统使用一个单一的、统一的、五种语言的ASR系统,代表所有的语言(英语、祖鲁语、科萨语、塞萨语和西语)。我们评估了这两种方法在用于将额外数据添加到极其稀疏的训练集时的有效性。结果表明,分批半监督训练比非分批方法产生更好的结果。此外,虽然单独的双语系统实现了更好的识别性能比统一的系统,他们受益于伪标签产生的五种语言的系统比那些产生的双语系统。
2020-03-06 cs.LG cs.SD eess.AS
Instances and Labels: Hierarchy-aware Joint Supervised Contrastive Learning for Hierarchical Multi-Label Text Classification
University of Edinburgh(爱丁堡大学);Cardiff University(卡迪夫大学)
针对现有层次多标签文本分类(HMTC)对比学习方法易引入噪声、监督对比学习因标签结构复杂在该领域探索不足的问题,提出融合实例级与标签级对比学习的层次感知联合监督对比学习方法HJCL,在四个数据集上取得了良好效果。
2024-06-19 cs.AI cs.CL cs.LG
Diverse mini-batch Active Learning
Amazon Research(亚马逊研究院)
我们研究了如何减少训练监督分类模型所需的标记训练数据量的问题。我们通过利用主动学习,通过顺序选择最有利于模型的例子来接近它。对于现代深度学习模型所需的训练样本数量来说,逐个选择样本是不切实际的。我们考虑小批量主动学习设置,其中一次选择多个示例。我们提出了一种方法,既考虑到模型的例子的信息量,以及在一个小批量的例子的多样性。通过使用研究良好的K-means聚类算法,这种方法比以前提出的方法更好地扩展,并实现可比或更好的性能。
2019-01-17 cs.LG stat.ML
AAG: Self-Supervised Representation Learning by Auxiliary Augmentation with GNT-Xent Loss
Shanghai Jiao Tong University(上海交通大学);Haohua Technology Co., Ltd(浩华科技有限公司)
自监督表示学习是一个新兴的研究课题,它具有强大的学习能力与未标记的数据。作为一种主流的自监督学习方法,基于增强的对比学习在各种缺乏人工标注的计算机视觉任务中取得了巨大的成功。尽管目前的进展,现有的方法往往受到额外的内存或存储成本的限制,其性能仍然有很大的改进空间。在这里,我们提出了一种自监督的表示学习方法,即AAG,其特点是辅助增强策略和GNT-Xent损失。辅助增强能够通过增加图像的多样性来提高对比学习的性能。所提出的GNT-Xent损失能够实现稳定和快速的训练过程,并产生有竞争力的准确性。在CIFAR 10、CIFAR 100和SVHN上的实验结果证明了AAG方法的优越性。特别是,AAG在CIFAR 10上达到了94.5%的top-1准确率,批量为64,比Simplified在批量为1024时的最佳结果高出0.5%。
2020-10-20 cs.CV cs.LG
Semi-Supervised Phone Classification using Deep Neural Networks and Stochastic Graph-Based Entropic Regularization
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);University of Washington(华盛顿大学)
我们在深度神经网络的背景下描述了一个基于图的半监督学习框架,该框架使用基于图的熵正则化器来支持由数据诱导的图上的平滑解。这项工作的主要贡献是一个计算效率高,随机图形正则化技术,使用小批量是一致的图形结构,但也提供了足够的随机性(在小批量数据的多样性)的随机梯度下降方法收敛到好的解决方案。在这项工作中,我们专注于TIMIT语音语料库上的帧级电话分类精度的结果,但我们的方法是通用的,可扩展到更大的数据集。实验结果表明,当标记数据比例较低时,该方法与全监督方法相比,分类精度有了显著提高,在全标记情况下,该方法与其他方法相比具有较强的竞争力。
2018-05-30 cs.LG stat.ML
Determinantal Point Processes for Mini-Batch Diversification
Disney Research(迪士尼研究院);KTH Royal Institute of Technology(瑞典皇家理工学院)
研究了随机梯度下降(SGD)的小批量多样化方案。传统的SGD依赖于均匀采样数据点来形成一个小批量,我们提出了一个非均匀采样方案的基础上的决定性点过程(DPP)。DPP依赖于数据点之间的相似性度量,并为包含冗余数据的小批量提供低概率,为具有更多样化数据的小批量提供更高概率。这同时平衡了数据,并导致具有较低方差的随机梯度。我们将这种方法称为多样化小批量SGD(DM-SGD)。我们发现,定期SGD和有偏见的版本分层抽样出现的特殊情况。此外,DM-SGD将分层抽样推广到不存在离散特征以将数据分组的情况。我们的实验表明,我们的方法在无监督设置中产生更多的可解释性和多样性的功能,并在监督设置中获得更好的分类精度。
2017-08-23 cs.LG stat.ML
Universal Supervised Learning for Individual Data
School of Electrical Engineering, Tel Aviv University(特拉维夫大学电气工程学院)
通用监督学习是从信息理论的角度考虑的,遵循通用预测方法,参见Merhav和Feder(1998)。我们考虑标准的监督“批”学习,其中一旦观察到整个训练数据,就对测试样本进行预测,以及单独设置,其中训练和测试中的特征和标签都是特定的个体量。信息论方法自然使用自信息损失或对数损失。我们的研究结果提供了通用的学习方案,与“精灵”(或参考),知道真正的测试标签竞争。特别是,它表明,主要提出的计划,称为预测归一化最大似然(pNML),是一个强大的学习解决方案,优于目前领先的方法的基础上经验风险最小化(ERM)。此外,pNML构造提供了针对特定测试挑战的可学习性的逐点指示,该特定测试挑战具有给定的训练样本
2018-12-22 cs.IT cs.LG math.IT
Supervised Contrastive Learning
Google Research(谷歌研究院);Boston University(波士顿大学);Snap Inc.(森宝公司);MIT(麻省理工学院)
近年来,应用于自监督表示学习的对比学习已经出现了复苏,导致了深度图像模型的无监督训练的最新表现。现代批量对比方法的性能优于或显著优于传统的对比损失,如三重,最大余量和N对损失。在这项工作中,我们将自监督批量对比方法扩展到完全监督设置,使我们能够有效地利用标签信息。属于同一类的点簇在嵌入空间中被拉到一起,同时将来自不同类的样本簇推开。我们分析了两种可能的版本的监督对比(SupCon)损失,确定性能最好的制定的损失。在ResNet-200上,我们在ImageNet数据集上实现了81.4%的top-1准确率,比该架构报告的最佳数字高出0.8%。我们在其他数据集和两个ResNet变体上显示出一致的优于交叉熵的性能。损失显示出对自然损坏的鲁棒性的益处,并且对超参数设置(例如优化器和数据增强)更稳定。我们的损失函数易于实现,参考TensorFlow代码在https://t.ly/supcon上发布。
2021-03-10 cs.CV cs.LG stat.ML
Meta-Learning Mini-Batch Risk Functionals
Carnegie Mellon University(卡内基梅隆大学);DEVCOM Army Research Laboratory(美国陆军作战能力发展司令部陆军研究实验室)
Supervised learning typically optimizes the expected value risk functional of the loss, but in many cases, we want to optimize for other risk functionals. In full-batch gradient descent , this is done by taking gradients of a risk functional of interest, such as the Conditional Value at Risk (CVaR) which ignores some quantile of extreme losses. However, deep learning must almost always use mini-batch gradient descent , and lack of unbiased estimators of various risk functionals make the right optimization procedure unclear. In this work, we introduce a meta-learning-based method of learning an…
2023-01-27 cs.LG
Adaptive Batch-Wise Sample Scheduling for Direct Preference Optimization
Beihang University(北京航空航天大学);Bytedance China(字节跳动中国);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本文提出SamS算法,通过动态调度训练样本提升DPO性能,无需修改核心算法,有效提高LLM对齐效果。
2026-03-09 cs.AI cs.LG
Bayesian Batch Active Learning as Sparse Subset Approximation
University of Cambridge(剑桥大学)
利用近年来产生的大量未标记数据为改进监督模型提供了巨大的潜力。当获取标签的成本很高时,可以使用概率主动学习方法来选择要标记的信息量最大的数据点。然而,对于许多大规模的问题,标准的贪婪程序在计算上变得不可行,并且遭受可以忽略不计的模型变化。在本文中,我们介绍了一种新的贝叶斯批量主动学习方法,减轻这些问题。我们的方法的动机是近似模型参数的完整数据后验。虽然朴素的批处理构造方法会导致相关查询,但我们的算法会产生不同的批处理,从而实现大规模的有效主动学习。我们推导出类似于现有的线性模型的主动学习程序的可解释的封闭形式的解决方案,并推广到任意模型使用随机投影。我们证明了我们的方法在几个大规模的回归和分类任务的好处。
2021-02-08 cs.LG stat.ML
An Empirical Model of Large-Batch Training
OpenAI;Johns Hopkins University(约翰斯·霍普金斯大学)
在越来越多的领域中,已经证明深度学习模型可以使用相对较大的批量大小进行训练,而不会牺牲数据效率。然而,这种大规模数据并行的限制似乎因域而异,从ImageNet中的数万批到玩Dota 2游戏的RL代理中的数百万批。据我们所知,对于为什么这些批量大小的限制不同,或者我们如何在新的领域中选择正确的批量大小,概念上的理解有限。在本文中,我们证明了一个简单且易于测量的统计量,称为梯度噪声尺度,可以预测许多领域和应用程序中最大的有用批量大小,包括许多监督学习数据集(MNIST,SVHN,CIFAR-10,ImageNet,Billion Word),强化学习领域(Atari和Dota),甚至生成模型训练(SVHN上的自动编码器)。我们发现,噪声尺度随着训练运行中损失的减少而增加,并且主要通过改进模型性能来依赖于模型大小。我们的理论还描述了计算效率和时间效率之间的权衡,并提供了自适应批量训练的好处的粗略模型。
2018-12-14 cs.LG stat.ML
DSSLP: A Distributed Framework for Semi-supervised Link Prediction
Ant Financial Services Group(蚂蚁金融服务集团)
链接预测广泛应用于商家推荐、欺诈交易检测等工业应用中,然而在具有数十亿节点和边的工业规模图上训练和部署链接预测模型是一个巨大的挑战。在这项工作中,我们提出了一个用于半监督链接预测问题的可扩展和分布式框架(名为DSSLP),该框架能够处理工业规模的图。DSSLP不是在整个图上训练模型,而是在小批量环境下对节点的\emph{$k$-hops neighborhood}进行训练,这有助于减少输入图的规模并分布训练过程。为了有效地生成反例,DSSLP包含分布式批处理运行时采样模块。它实现了统一和动态的采样方法,并能够自适应地构建正面和负面的例子来指导训练过程。此外,DSSLP提出了一种模型分裂策略,以加快链接预测任务的推理过程的速度。实验结果表明,DSSLP的有效性和效率在几个公共数据集以及真实世界的数据集的工业规模的图。
2020-03-10 cs.LG cs.SI
Minimum-Margin Active Learning
Google Research(谷歌研究院)
我们提出了一种新的主动采样方法,我们称之为min-margin,它在bootstrap样本上训练多个学习器,然后根据候选者的最小margin在bootstrap模型中选择要标记的示例。这扩展了标准保证金采样的方式,增加其多样性的监督方式,因为它来自模型的不确定性。我们专注于一次性批量主动学习设置,并在理论上和广泛的问题,最小利润率优于其他方法,特别是随着批量大小的增长,通过广泛的实验。
2019-05-31 cs.AI cs.LG stat.ML
Improve SGD Training via Aligning Mini-batches
Computer Science, Wayne State University(韦恩州立大学计算机科学(系))
用于监督学习的深度神经网络(DNN)可以被视为特征提取器(即最后隐藏层)和线性分类器(即输出层)的流水线,其与随机梯度下降(SGD)联合训练。在SGD的每次迭代中,对来自训练数据的小批量进行采样,并且将损失函数的真实梯度估计为在该小批量上计算的噪声梯度。从特征学习的角度来看,特征提取器应该被更新以学习关于整个数据的有意义的特征,并减少对小批量中的噪声的适应。出于这个动机,我们提出了训练中分布匹配(ITDM)来改进DNN训练并减少过拟合。具体地,连同损失函数,ITDM通过匹配SGD的每次迭代中的不同小批次的分布的矩来正则化特征提取器,这通过最小化最大均值差异来实现。因此,ITDM不假设潜在特征空间中数据分布的任何显式参数形式。大量的实验证明了我们提出的策略的有效性。
2020-02-27 cs.LG stat.ML
An analysis of over-sampling labeled data in semi-supervised learning with FixMatch
KTH Royal Institute of Technology(KTH皇家理工学院);Univrses AB(Univrses公司)
大多数半监督学习方法在构建训练小批量时对标记数据进行过采样。本文研究了这种常见的做法是否能提高学习效果以及如何提高学习效果。我们将其与另一种设置进行比较,其中每个小批量都是从所有训练数据中均匀采样的,无论是否标记,这大大减少了典型低标签制度中真实标签的直接监督。然而,这种更简单的设置也可以被视为更通用,甚至在多任务问题中是必要的,在这些问题中,过采样标记数据将变得难以处理。我们使用FixMatch对半监督CIFAR-10图像分类进行的实验表明,当使用均匀采样方法时,性能下降,当标记数据量或训练时间增加时,性能下降。此外,我们还分析了训练动态,以了解标记数据的过采样与均匀采样相比如何。我们的主要发现是,过采样在训练的早期特别有益,但在后期阶段,当更多的伪标签变得正确时,它就不那么重要了。然而,我们也发现,保持一些真正的标签仍然很重要,以避免积累的确认错误不正确的伪标签。
2022-04-08 cs.CV cs.LG
Boosted Off-Policy Learning
Amazon(亚马逊)
该研究提出首个日志老虎机反馈下的离策略提升算法,直接优化策略期望回报估计,证明弱学习条件下超额经验风险可快速下降,可复用决策树等监督学习基学习器,实验显示其性能优于深度神经网络离策略学习及简单回报回归方法。
2023-05-02 cs.IR cs.LG stat.ML
An Investigation into Whitening Loss for Self-supervised Learning
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Beihang University(北京航空航天大学)
自监督学习(SSL)的一个理想目标是避免特征崩溃。白化损失通过在白化来自不同视图的嵌入的条件下最小化正对嵌入之间的距离来保证崩溃避免。在本文中,我们提出了一个框架,一个信息指标来分析白化损失,这提供了一个线索,以解开几个有趣的现象,以及连接到其他SSL方法的枢轴点。我们发现,批白化(BW)为基础的方法不施加白化约束的嵌入,但他们只需要嵌入满秩。这种满秩约束也足以避免维度崩溃。基于我们的分析,我们提出了信道白化与随机组分区(CW-RGP),它利用了BW为基础的方法在防止崩溃的优势,并避免了他们的缺点,需要大批量。ImageNet分类和COCO目标检测的实验结果表明,所提出的CW-RGP具有很好的潜力学习良好的表示。该代码可在https://github.com/winci-ai/CW-RGP上获得。
2022-10-07 cs.CV cs.LG
Enhancing ALS Progression Tracking with Semi-Supervised ALSFRS-R Scores Estimated from Ambient Home Health Monitoring
Institute for Data Science and Informatics(数据科学与信息学研究所);Department of Occupational Therapy(职业治疗系);Department of Biomedical Informatics, Biostatistics, and Medical Epidemiology(生物医学信息学、生物统计学和医学流行病学系);University of Missouri(密苏里大学)
本研究提出半监督回归模型,利用家庭传感器数据估计 ALS 患者的 ALSFRS-R 量表衰退轨迹,发现将学习与伪标签技术匹配至功能领域特定的同质-异质特征可显著提升进展追踪的预测准确性。
2025-07-13 cs.AI cs.LG
scSSL-Bench: Benchmarking Self-Supervised Learning for Single-Cell Data
本研究提出单细胞数据自监督学习基准scSSL-Bench,评估19种SSL方法在9个数据集的三类下游任务及多种增强策略的表现,揭示任务特异性权衡并给出应用建议。
2025-06-10 cs.LG q-bio.QM
Semi-supervised Learning with Sparse Autoencoders in Phone Classification
KTH Royal Institute of Technology(KTH皇家理工学院);School of Computer Science(计算机科学学院)
我们提出了一种半监督学习方法的应用,以提高基于深度神经网络的自动语音识别声学建模的性能。与监督微调后的无监督初始化相反,我们的方法通过小批量随机梯度下降同时利用未标记和标记数据。我们测试的方法与不同比例的标记与未标记的意见,基于帧的音素分类的TIMIT数据库。我们的实验表明,该方法优于标准的监督训练等量的标记数据,并提供有竞争力的错误率相比,最先进的基于图的半监督学习技术。
2016-10-03 cs.CL cs.LG stat.ML
Online Nonparametric Supervised Learning for Massive Data
Statistics Program, Department of Mathematics and Statistics, College of Arts and Sciences, Qatar University(统计学项目,数学与统计学系,艺术与科学学院,卡塔尔大学)
针对参数化算法缺陷与批量非参数分类器的“维度诅咒”及大规模数据挑战,提出含在线主成分分析降维与随机近似算法的在线非参数分类器,在胎儿健康监测中准确性可与随机森林竞争且实现准确性与计算成本最佳权衡。
2024-05-29 cs.LG stat.ML
Semi-Supervised Learning with IPM-based GANs: an Empirical Study
IBM Research(IBM研究院);IBM T.J Watson Research Center(IBM托马斯·J·沃森研究中心)
我们提出了一个实证调查的最新类生成对抗网络(GANs)使用积分概率(IPM)和他们的性能半监督学习。基于IPM的GANs,如Wasserstein GAN、Fisher GAN和Sobolev GAN,在理论理解、训练稳定性和有意义的损失方面具有理想的特性。在这项工作中,我们研究如何设计的评论家(或评论家)影响性能的半监督学习。我们提炼出三个关键的要点,这对良好的SSL性能很重要:(1)K+1公式,(2)避免在批评中的批量归一化和(3)避免对分类层的梯度惩罚约束。
2017-12-07 cs.LG
Similarities between policy gradient methods (PGM) in Reinforcement learning (RL) and supervised learning (SL)
A.I Square Connect;Lamsade PSL(巴黎文理研究大学Lamsade实验室)
强化学习(RL)是关于顺序决策的,传统上与监督学习(SL)和无监督学习(USL)相反。在RL中,给定当前状态,代理做出可能影响下一状态的决策,而不是SL(和USL),其中下一状态保持不变,无论在批处理或在线学习中做出的决策如何。虽然SL和RL之间的这种差异是根本性的,但也有一些联系被忽视了。特别地,我们证明了在本文中,梯度策略方法可以被转换为一个监督学习的问题,真正的标签被替换为折扣奖励。我们提供了一个新的证明策略梯度方法(PGM),强调了紧密联系的交叉熵和监督学习。我们提供了一个简单的实验,我们交换标签和伪奖励。我们的结论是,如果我们明智地修改奖励函数,可以与SL的其他关系。
2019-05-02 cs.AI cs.LG stat.ML
A Log-linear Gradient Descent Algorithm for Unbalanced Binary Classification using the All Pairs Squared Hinge Loss
Northern Arizona University(北亚利桑那大学)
受试者工作特征(ROC)曲线是真阳性率与假阳性率的曲线图,用于评估二元分类算法。因为曲线下面积(AUC)是预测值的恒定函数,所以学习算法反而优化凸松弛,其涉及对所有对标记的正和负示例的求和。朴素的学习算法以二次时间计算梯度,这对于使用大批量的学习来说太慢了。我们提出了一种新的平方损失和平方铰链损失的函数表示,这导致在线性或对数线性时间内计算梯度的算法,并使得可以使用大批量的梯度下降学习。在我们的监督二进制分类问题的实证研究中,我们表明,我们的新算法可以实现更高的测试AUC值的不平衡数据集比以前的算法,并利用更大的批量比以前可行的。
2023-02-21 cs.AI cs.LG
Contextual Bandits in Payment Processing: Non-uniform Exploration and Supervised Learning
Adyen
本文在Adyen支付处理的真实工业背景下,分析了结合非均匀探索与监督学习的回归预言机方法,发现其虽能提升性能,但会因奖励分布偏移和类别不平衡引发策略迭代的振荡效应,强调需开发更稳定的自适应算法。
2025-07-10 cs.IR cs.LG
Model adaptation and unsupervised learning with non-stationary batch data under smooth concept drift
IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心);Robert Bosch LLC(罗伯特·博世有限责任公司)
大多数预测模型假设训练和测试数据是从一个平稳的过程中生成的。然而,这一假设在实践中并不成立。在本文中,我们考虑的情况下,逐渐的概念漂移由于潜在的非平稳的数据源。虽然以前的工作已经在监督学习和适应条件下研究了这种情况,但很少有人解决标签仅在训练期间可用的常见现实情况。我们提出了一种新的,迭代算法的预测模型的无监督适应。我们表明,我们的批适应预测算法的性能优于其相应的非适应版本。所提出的算法提供了类似的(或更好的,在大多数情况下)的性能显着更少的运行时间相比,其他国家的最先进的方法。我们验证了我们的主张,通过广泛的数值模拟的合成和真实数据。
2020-02-10 cs.LG stat.AP stat.ML
The Hidden Uniform Cluster Prior in Self-Supervised Learning
Meta AI (FAIR)(Meta人工智能(基础人工智能研究));McGill University(麦吉尔大学);Mila, Quebec AI Institute(米拉-魁北克人工智能研究所);Universite de Montreal(蒙特利尔大学)
表示学习中的一个成功范例是使用基于小批量统计的任务(例如,Simplified、VICReg、SwAV、MSN)。我们表明,在制定所有这些方法是一个被忽视的学习功能,使统一的数据聚类。虽然这种先验在对类平衡数据(如ImageNet)进行预训练时导致了显着的语义表示,但我们证明了在对类不平衡数据进行预训练时,它会妨碍性能。通过远离传统的一致性先验,而不是更喜欢幂律分布的特征集群,我们表明,可以提高真实世界的类不平衡数据集上的学习表示的质量。为了证明这一点,我们开发了一个扩展的屏蔽暹罗网络(MSN)的方法,以支持使用任意功能先验。
2022-10-13 cs.AI cs.CV cs.LG