Introducing New Node Prediction in Graph Mining: Predicting All Links from Isolated Nodes with Graph Neural Networks
Universidad Politécnica de Madrid（马德里理工大学）
本文提出图挖掘中的新节点预测问题，即零样本图外全链接预测，并验证基于深度图神经网络的架构可在文献引用网络中预测孤立节点的全部链接。
2024-01-10 cs.AI cs.LG cs.SI
SHaSaM: Submodular Hard Sample Mining for Fair Facial Attribute Recognition
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
SHaSaM通过子模函数硬样本挖掘方法，有效提升面部属性识别的公平性，同时提高模型准确性。
2026-02-05 cs.CV cs.LG
Hard Sample Mining Enabled Supervised Contrastive Feature Learning for Wind Turbine Pitch System Fault Diagnosis
Zhejiang University（浙江大学）；University of Illinois Urbana–Champaign Institute（伊利诺伊大学厄巴纳-香槟分校研究院）
本文提出HSMSCL方法，通过余弦相似度识别难样本并结合监督对比学习与难样本训练MLP，在变桨系统故障诊断中取得优于现有方法的性能。
2023-08-11 cs.AI cs.LG
AgMTR: Agent Mining Transformer for Few-shot Segmentation in Remote Sensing
Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院空天信息创新研究院）；School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences（中国科学院大学电子电气与通信工程学院）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Electronics, Chinese Academy of Sciences（中国科学院电子学研究所）；Tsinghua University（清华大学）
针对遥感场景中像素级少样本分割易产生语义模糊的问题，提出AgMTR，通过挖掘局部感知智能体构建智能体级语义关联，有效提升前景与背景的语义清晰度并达到SOTA性能。
2024-09-26 cs.CV
NV-Retriever: Improving text embedding models with effective hard-negative mining
NVIDIA（英伟达）
本文提出正样本感知的难负样本挖掘方法，以正相关分数为锚点去除假负样本，提升对比学习训练效率与检索精度，并通过NV-Retriever-v1在MTEB Retrieval（BEIR）上取得60.9分、排名第一验证其有效性。
2025-02-07 cs.AI cs.IR
End-to-end losses based on speaker basis vectors and all-speaker hard negative mining for speaker verification
University of Seoul（首尔大学）
近年来，说话人验证主要使用深度神经网络进行，这些网络经过训练，可以从输入特征（如频谱图或Mel滤波器组能量）中输出嵌入。设计各种损失函数的研究，包括度量学习已经被广泛探索。在这项研究中，我们提出了两个端到端的损失函数的说话人确认使用的概念，说话人基地，这是可训练的参数。一个损失函数被设计为进一步增加说话人间的变化，另一个被设计为与硬否定挖掘相同的概念。每个说话人基础被设计为在训练深度神经网络的过程中代表相应的说话人。与传统的损失函数只能考虑小批量中包含的有限数量的扬声器相比，所提出的损失函数可以考虑训练集中的所有扬声器，而不管小批量的组成。特别是，建议的损失函数，使硬负挖掘和计算扬声器之间的变化与所有扬声器的考虑。通过在VoxCeleb1和VoxCeleb2数据集上的实验，我们证实了所提出的损失函数可以补充传统的softmax和中心损失函数。
2019-07-17 cs.LG cs.SD eess.AS
Structure-Aware Hard Negative Mining for Heterogeneous Graph Contrastive Learning
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Emory University（埃默里大学）
近年来，异构图神经网络（GNN）已成为分析HGs的事实模型，但它们中的大多数依赖于相对大量的标记数据。在这项工作中，我们调查对比学习（CL），在自我监督的方法，对HG的关键组成部分，以减轻标签稀缺的问题。我们首先根据元路径和网络模式生成多个语义视图。然后，通过将对应于不同语义视图的节点嵌入推到彼此接近（正面）并将其他嵌入拉开（负面），可以在没有人类注释的情况下获得信息表示。然而，这种CL方法忽略了阴性样本的相对硬度，这可能导致次优性能。考虑到复杂的图结构和GNN的平滑性质，我们提出了一个结构感知的硬负挖掘方案，通过结构特征来衡量HGs的硬度。通过合成更多的负节点，我们以有限的计算开销为更硬的负节点赋予更大的权重，以进一步提高性能。在三个真实数据集上的实验结果表明了该方法的有效性。所提出的方法始终优于现有的最先进的方法，值得注意的是，甚至超过了几个监督同行。
2021-08-31 cs.LG cs.SI
Hierarchical Skeleton Meta-Prototype Contrastive Learning with Hard Skeleton Mining for Unsupervised Person Re-Identification
Nanyang Technological University（南洋理工大学）；The University of British Columbia（不列颠哥伦比亚大学）
本文提出无监督分层骨架元原型对比学习方法Hi-MPC，结合困难骨架挖掘HSM，通过关节、部件、肢体分层建模与元原型一致性学习，在多个数据集上超越现有骨架行人重识别方法。
2023-09-19 cs.AI cs.CV
Aligning Implied Statements for Implicit Hate Speech Generalizability with Context-Bounded Semi-hard Negative Mining
Mantera Studio（Mantera工作室）；Universitas Gadjah Mada（加雅玛大学）
提出ImpSH三元组框架，通过将帖子与隐含陈述对齐并使用上下文边界半硬负样本聚焦学习，提升隐式仇恨言论的跨域泛化能力，在多个数据集上优于对比基线。
2026-06-18 cs.AI cs.CL
ProGCL: Rethinking Hard Negative Mining in Graph Contrastive Learning
Westlake University（西湖大学）；Westlake Institute for Advanced Study（西湖高等研究院）；Zhejiang University（浙江大学）
对比学习（CL）已经成为无监督表示学习的主导技术，其嵌入彼此靠近的锚点的增强版本（正样本）并将其他样本的嵌入（负样本）推开。正如最近的研究所揭示的，CL可以从硬阴性（与锚钉最相似的阴性）中受益。然而，我们观察到有限的好处，当我们采用现有的硬负面挖掘技术的其他领域的图对比学习（GCL）。我们对这一现象进行了实验和理论分析，发现它可以归因于图神经网络（GNNs）的消息传递。与其他领域中的CL不同，如果仅根据锚点与自身之间的相似性来选择大多数硬阴性，则它们可能是假阴性（与锚点共享同一类的阴性），这将不期望地推开同一类的样本。为了弥补这一不足，我们提出了一种有效的方法，称为\textbf{ProGCL}，估计一个否定是真的概率，这构成了一个更合适的措施，否定的硬度与相似性。此外，我们设计了两个方案（即，\textbf{ProGCL-weight}和\textbf{ProGCL-mix}），以提高GCL的性能。大量的实验表明，ProGCL带来了显着的和一致的改进基础GCL方法，并产生多个国家的最先进的结果在几个无监督的基准，甚至超过监督的性能。此外，ProGCL很容易插入到各种基于否定的GCL方法中，以提高性能。我们在\textcolor{magenta}{\url{https://github.com/junxia97/ProGCL}}发布代码。
2022-06-14 cs.AI
Unsupervised Contrastive Learning of Image Representations from Ultrasound Videos with Hard Negative Mining
Indian Institute of Technology, Delhi（德里印度理工学院）；Postgraduate Institute of Medical Education and Research（医学教育与研究研究生院）
丰富的时间信息和视点的变化使得视频数据成为使用无监督对比学习（UCL）技术学习图像表示的有吸引力的选择。最先进的（SOTA）对比学习技术将视频中的帧视为嵌入空间中的正帧，而来自其他视频的帧则被视为负帧。我们观察到，与自然场景视频中对象的多个视图不同，超声（US）视频捕获器官的不同2D切片。因此，即使是相同的US视频的时间上远离的帧之间也几乎没有相似性。在本文中，我们建议使用这种框架作为硬底片。我们提倡在UCL框架中的硬度敏感负面挖掘课程中挖掘视频内和跨视频负面，以学习丰富的图像表示。我们部署我们的框架来学习表示胆囊（GB）恶性肿瘤从美国的视频。我们还构建了第一个包含64个视频和15，800帧的大规模美国视频数据集，用于学习GB表示。我们表明，使用我们的框架训练的标准ResNet 50骨干可以将使用SOTA UCL技术预训练的模型以及ImageNet上用于GB恶性肿瘤检测任务的监督预训练模型的准确性提高2- 6%。我们进一步验证了我们的方法在公开可用的COVID-19病理肺部US图像数据集上的通用性，并显示出与SOTA相比1.5%的改进。源代码、数据集和模型可在https://gbc-iitd.github.io/usucl上获得。
2022-07-26 cs.CV eess.IV
Multi-Scale Self-Contrastive Learning with Hard Negative Mining for Weakly-Supervised Query-based Video Grounding
Carnegie Mellon University（卡内基梅隆大学）；Peking University（北京大学）
基于查询的视频基础是视频理解中一项重要而又具有挑战性的任务，其目的是根据句子查询定位未经裁剪的视频中的目标片段。大多数以前的工作取得了显着的进展，通过解决这个任务在一个完全监督的方式与段级标签，这需要高的标签成本。尽管最近的一些努力开发了只需要视频级知识的弱监督方法，但它们通常将多个预定义的片段建议与查询匹配并选择最佳片段，这缺乏细粒度的帧级细节以区分整个视频中具有高重复性和相似性的帧。为了缓解上述限制，我们提出了一个自我对比学习框架，以解决弱监督设置下的基于查询的视频接地任务。首先，而不是利用冗余段的建议，我们提出了一个新的接地方案，学习帧匹配分数参考查询语义预测可能的前景帧，只使用视频级注释。其次，由于一些预测帧（即，边界帧）是相对粗糙的，并且表现出与它们的相邻帧相似的外观，我们提出了一种从粗到细的对比学习范例，以学习更多的区分性逐帧表示，用于区分假阳性帧。特别是，我们迭代地探索多尺度硬负样本，这些样本接近表示空间中的正样本，以区分细粒度的帧细节，从而实施更准确的分段接地。在两个具有挑战性的基准上进行的大量实验表明，与最先进的方法相比，我们所提出的方法具有优越性。
2022-03-08 cs.AI cs.CV cs.LG
DDS-NAS: Dynamic Data Selection within Neural Architecture Search via On-line Hard Example Mining applied to Image Classification
Department of Computer Science, Durham University, UK（计算机科学系，杜伦大学）；Department of Engineering, Durham University, UK（工程系，杜伦大学）
针对神经架构搜索的可扩展性挑战，提出DDS-NAS框架，利用自编码器和kd-tree在课程学习框架内进行动态难样本挖掘，加速NAS训练高达27倍且无性能损失。
2025-06-24 cs.CV
PVSNet: Palm Vein Authentication Siamese Network Trained using Triplet Loss and Adaptive Hard Mining by Learning Enforced Domain Specific Features
Indian Institute of Technology Mandi（印度理工学院曼迪分校）；Indian Institute of Technology Indore（印度理工学院印多尔分校）
设计一个端到端的深度学习网络来匹配具有有限训练样本的生物特征是一项极具挑战性的任务。为了解决这个问题，我们提出了一种设计端到端深度CNN框架的新方法，即，PVSNet分为两个主要步骤：首先，编码器-解码器网络用于学习生成域特定特征，然后是Siamese网络，其中卷积层以无监督方式预先训练为自动编码器。所提出的模型是通过三重损失函数，调整学习特征嵌入的方式，最大限度地减少嵌入对之间的距离，从同一主题和最大限度地提高与来自不同主题的距离，与利润。特别地，已经提出了使用基于自适应余量的硬否定挖掘的三重连体匹配网络。与训练策略相关的超参数（如自适应裕度）已被调整，以使学习在生物特征数据集上更有效。在广泛的实验中，所提出的网络在三种类型的典型静脉数据集上的性能优于大多数现有的深度学习解决方案，这清楚地证明了我们所提出的方法的有效性。
2018-12-15 cs.CV
SeMi: When Imbalanced Semi-Supervised Learning Meets Mining Hard Examples
Zhejiang University（浙江大学）；The Hong Kong University of Science and Technology（香港科技大学）；Central South University（中南大学）；Zhejiang Gongshang University（浙江工商大学）
针对类别不平衡半监督学习忽视难例价值的问题，提出 SeMi，通过 logits 熵差异识别难例并结合带置信度衰减的类别平衡记忆库，在多个基准上取得最优性能。
2025-01-10 cs.CV
Hardness-Aware Deep Metric Learning
Tsinghua University（清华大学）；State Key Lab of Intelligent Technologies and Systems（智能技术与系统国家重点实验室）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
本文提出了一种基于硬度感知的深度度量学习（HDML）框架。大多数以前的深度度量学习方法采用硬否定挖掘策略来缓解训练样本的缺乏。然而，这种挖掘策略仅利用训练数据的一个子集，这可能不足以全面地表征嵌入空间的全局几何形状。为了解决这个问题，我们对嵌入进行线性插值，以自适应地操纵它们的硬水平，并生成相应的标签保留合成用于循环训练，以便可以充分利用隐藏在所有样本中的信息，并且始终以适当的难度挑战度量。我们的方法在广泛使用的CUB-200-2011，Cars 196和Stanford Online Products数据集上实现了非常有竞争力的性能。
2019-12-04 cs.CV cs.LG
Rethinking Samples Selection for Contrastive Learning: Mining of Potential Samples
Nanjing University of Posts and Telecommunications（南京邮电大学）
本文提出一种更全面的对比学习样本挖掘方法，同时优化正负样本选择，通过加权组合增强与挖掘视图并筛选难度适中的潜在负样本，在多个数据集上取得显著提升。
2023-11-01 cs.AI cs.CV
Neural Computing for Online Arabic Handwriting Character Recognition using Hard Stroke Features Mining
Prince Sultan University（苏丹亲王大学）；Universiti Teknologi Malaysia（马来西亚理工大学）
由于阿拉伯草书的书写风格、书写速度、书写者心情等因素的影响，在线阿拉伯草书字符识别仍然是一个很大的挑战。由于这些不可避免的限制，在线阿拉伯字符识别的准确率仍然很低，还有改进的空间。本研究提出一种从手写笔长特征的纵横方向上提取在线阿拉伯文字识别中所需关键点的改进方法。每个提取的笔画特征将每个孤立的字符划分为一些有意义的模式，称为标记。从这些标记中提取最小特征集，使用多层感知器与反向传播学习算法和修改的基于S形函数的激活函数进行字符分类。在这项工作中，实现了两个里程碑;首先，获得固定数量的令牌，其次，最小化最重复的令牌的数量。实验中，手写体阿拉伯字符从OHASD基准数据集选择测试和评估所提出的方法。所提出的方法达到了98.6%的平均准确率在最先进的字符识别技术。
2021-01-15 cs.CL cs.CV
Hierarchical Dense Correlation Distillation for Few-Shot Segmentation
The Chinese University of Hong Kong（香港中文大学）；SmartMore（思谋科技）；The University of Hong Kong（香港大学）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
Few-Shot语义分割（FSS）旨在形成与类别无关的模型，该模型仅使用少量注释来分割不可见的类别。以前的方法局限于语义特征和原型表示，存在分割粒度粗和训练集过拟合的问题。本文基于Transformer架构设计了分层解耦匹配网络（HDMNet）挖掘像素级支持度相关。自注意模块用于辅助建立层次密集特征，作为完成查询和支持特征之间级联匹配的一种手段。此外，我们提出了一个匹配模块，以减少训练集过拟合，并引入相关性蒸馏，利用粗分辨率的语义对应来提高细粒度分割。我们的方法在实验中表现得很好。我们实现了$50.0\%$ mIoU上的\coco ~数据集一杆设置和$56.0\%$上的五杆分割，分别。
2023-03-26 cs.AI cs.CV
Affinity Uncertainty-based Hard Negative Mining in Graph Contrastive Learning
Australian Artificial Intelligence Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究院）；School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算与信息系统学院）
针对图对比学习中因过平滑和非独立同分布导致的假负样本问题，提出基于亲和度不确定性构建判别模型挖掘困难负样本，通过加权项增强现有GCL损失，显著提升了分类性能与对抗鲁棒性。
2024-01-07 cs.LG cs.SI
AANet: Aggregation and Alignment Network with Semi-hard Positive Sample Mining for Hierarchical Place Recognition
Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Peng Cheng Laboratory（鹏城实验室）；Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究院）；Central South University（中南大学）
针对层级化两阶段视觉地点识别重排序耗时、训练正样本简单导致性能受限的问题，提出AANet网络与半硬正样本挖掘策略，在四个基准数据集上实现了更优性能与更低耗时。
2023-10-08 cs.CV
Similarity-based data mining for online domain adaptation of a sonar ATR system
Seebyte Ltd（Seebyte有限公司）；University of Edinburgh（爱丁堡大学）
由于现场数据采集的昂贵性，训练数据的缺乏往往限制了自动目标识别（ATR）系统的性能。通常采用领域自适应技术来解决这一问题，但现有的方法不能满足水下系统资源和时间的限制。我们建议通过使用一种新的数据选择方法在线微调ATR算法来解决这个问题。我们提出的数据挖掘方法依赖于视觉相似性，优于传统的硬挖掘方法。我们提出了一个比较性能分析，在广泛的模拟环境中，并强调使用我们的方法快速适应以前看不见的环境的好处。
2020-09-16 cs.CV cs.LG cs.SD
Mining Contextualized Visual Associations from Images for Creativity Understanding
Columbia University（哥伦比亚大学）
本文提出可扩展至未标注图像的情境化视觉关联挖掘方法，据此为 MSCOCO 构建170万条分层抽象的创意描述，并提升创意领域零样本图文检索性能。
2025-07-25 cs.CL cs.CV
Don't Prompt, Search! Mining-based Zero-Shot Learning with Language Models
University of Amsterdam（阿姆斯特丹大学）；Princeton University（普林斯顿大学）；Meta AI
像BERT这样的掩蔽语言模型可以通过将下游任务重新定义为文本填充来以zero-shot方式执行文本分类。然而，这种方法对用于提示模型的模板高度敏感，然而从业者在严格的zero-shot设置中设计它们时是盲目的。在本文中，我们提出了另一种基于挖掘的零样本学习方法。我们不使用提示语言模型，而是使用正则表达式从未标记的语料库中挖掘标记的示例，这些语料库可以通过提示进行过滤，并用于微调预训练模型。我们的方法比提示更灵活，更易于解释，并且在使用可比模板时，在广泛的任务上优于它。我们的研究结果表明，提示的成功可以部分解释为模型在预训练期间暴露于类似的示例，这些示例可以通过正则表达式直接检索。
2022-10-26 cs.AI cs.CL cs.LG
Semi Supervised Learning For Few-shot Audio Classification By Episodic Triplet Mining
TCS Research（塔塔咨询服务公司研究院）
少样本学习的目标是推广在测试期间出现但在训练期间不可用的不可见类。原型网络结合了Few-Shot度量学习，通过以类内嵌入的支持点的平均向量的形式构建类原型。原型网络在极端的Few-Shot场景（如one-shot）中的性能急剧下降，主要是由于在构建原型时簇内的变化被浪费。在本文中，我们建议取代典型的原型损失函数的情节三重挖掘（ETM）技术。传统的三元组选择导致过拟合，因为在训练期间使用了所有可能的组合。我们将情节训练用于挖掘半硬正和半硬负三元组以克服过拟合。我们还提出了一种自适应方法，利用未标记的训练样本进行更好的建模。实验两个不同的音频处理任务，即说话人识别和音频事件检测，显示改进的性能，因此ETM的功效超过原型损失函数和其他元学习框架。此外，当使用未标记的训练样本时，我们表现出更好的性能。
2021-02-16 cs.LG cs.SD eess.AS
Hard-Mining Loss based Convolutional Neural Network for Face Recognition
Indian Institute of Information Technology（印度信息技术学院）
人脸识别是计算机视觉领域的一个突出问题。随着深度学习的进步，在人脸识别方面已经有了重要的工作，涉及到了识别框架的各个部分，如卷积神经网络（CNN），层，损失函数等。各种损失函数，如交叉熵，Angular-Softmax和ArcFace已经被引入来学习人脸识别网络的权重。然而，与容易样本相比，这些损失函数不给予硬样本高优先级。此外，他们的学习过程是有偏见的，由于一些简单的例子相比，硬的例子。在本文中，我们通过考虑更优先的硬例子来解决这个问题。为了做到这一点，我们提出了一个硬挖掘损失，增加损失的困难的例子和减少损失的简单的例子。所提出的概念是通用的，可以与任何现有的损失函数。我们测试了不同的损失，如交叉熵，Angular-Softmax和ArcFace的硬挖掘损失。在广泛使用的Labeled Faces in the Wild（LFW）和YouTube Faces（YTF）数据集上测试了所提出的硬挖掘损失。训练在CASIA-WebFace和MS-Celeb-1 M数据集上进行。我们使用残差网络（即，ResNet 18）进行实验分析。实验结果表明，现有的损失函数的性能得到提升时，在建议的硬挖掘损失的框架。
2020-12-23 cs.CV cs.LG
Few-Shot Resampling for Scalable Statistically-Sound Data Mining
Department of Information Engineering, University of Padova（帕多瓦大学信息工程系）
提出FewRS方法，基于重采样评估数据挖掘结果的统计显著性，通过推导新的上界偏差界，仅需极少量重采样数据集即可保证假发现概率，显著提升可扩展性。
2026-06-11 cs.DB cs.LG stat.ME
Few-Shot Network Intrusion Detection Using Online Triplet Mining
Department of Electronics and Electrical Engineering, University of Strathclyde（斯特拉斯克莱德大学电子与电气工程系）；Faculty of Computer and Information Sciences, Ain Shams University（爱思曼大学计算机与信息科学学院）；Faculty of Electrical Engineering, Czech Technical University（捷克技术大学电气工程学院）
本文提出利用在线三元组挖掘和KNN分类器的三元组网络，实现少样本下的有效网络入侵检测，通过对比不同三元组挖掘算法和模型设计，验证了在少量恶意样本下该方法的竞争力。
2026-05-17 cs.AI cs.CR cs.LG
Augmented Hard Example Mining for Generalizable Person Re-Identification
Hitachi, Ltd.（株式会社日立制作所）
虽然通过使用复杂的训练方法和大规模标记数据集，人员重新识别（Re-ID）的性能已经得到了很大的改善，但许多现有方法都假设在训练期间可以利用目标域的信息。在实践中，Re-ID系统通常在部署后立即开始运行，因此使用来自目标域的数据进行训练是不现实的。为了使Re-ID系统更实用，已经提出了在没有目标域的信息的情况下实现高性能的方法。然而，他们需要繁琐的调整训练和不寻常的操作测试。在本文中，我们提出了增强的硬示例挖掘，它可以很容易地集成到一个常见的Re-ID训练过程中，并且可以利用复杂的模型，而无需任何网络修改。该方法基于分类概率发现难样本，并对样本进行各种类型的增强，以使样本更难。在这些例子中，过度扩增的那些被基于分类的选择过程所消除。广泛的分析表明，我们的方法成功地选择了有效的例子，并在公开的基准数据集上实现了最先进的性能。
2019-10-11 cs.CV cs.LG
Training Region-based Object Detectors with Online Hard Example Mining
Carnegie Mellon University（卡内基梅隆大学）；Facebook AI Research（脸书人工智能研究院）
目标检测领域在基于区域的ConvNets浪潮中取得了重大进展，但它们的训练过程仍然包括许多优化成本高昂的算法和超参数。我们提出了一个简单但令人惊讶的有效的在线硬示例挖掘（OHEM）算法，用于训练基于区域的ConvNet检测器。我们的动机和以往一样--检测数据集包含大量简单的示例和少量困难的示例。自动选择这些困难的例子可以使训练更加有效和高效。OHEM是一种简单直观的算法，它消除了几种常用的算法和超参数。但更重要的是，它在PASCAL VOC 2007和2012等基准测试中的检测性能得到了一致和显著的提升。它的有效性随着数据集变得更大和更困难而增加，正如MS COCO数据集上的结果所证明的那样。此外，结合该领域的互补性进展，OHEM在PASCAL VOC 2007和2012上分别获得了78.9%和76.3%的最新结果。
2016-04-12 cs.CV cs.LG
Improving memory banks for unsupervised learning with large mini-batch, consistency and hard negative mining
Samsung AI Cambridge（三星AI剑桥）
通过基于实例的判别的无监督学习的一个重要组成部分是用于存储数据集中每个训练样本的特征表示的存储体。在本文中，我们介绍了3个改进的香草存储体为基础的配方，带来了巨大的准确性增益：（a）大的小批量：我们拉多个扩增的每个样本在同一批，并表明，这导致更好的模型和增强的存储体更新。(b)一致性：我们强制通过相同样本的不同扩增获得的logit接近，而不试图强制如先前方法所提出的关于负样本的区分。(c)硬负面挖矿：由于实例鉴别对于在视觉上太相似的样本没有意义，我们设计了一种新的最近邻方法，用于改进存储体，该方法逐渐合并先前由于实例级分类丢失而被迫分开的极其相似的数据样本。总的来说，我们的方法大大提高了香草内存银行为基础的实例歧视和优于所有现有的方法，可见和不可见的测试类别与余弦相似性。
2021-02-08 cs.CV cs.LG
Hard Adversarial Example Mining for Improving Robust Fairness
Xi’an Jiaotong University（西安交通大学）；Wuhan University（武汉大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
针对对抗训练模型因对抗置信度过拟合导致的鲁棒不公平问题，提出自适应困难对抗样本挖掘框架HAM，通过步长识别困难样本并引入提前丢弃机制，在提升鲁棒公平性的同时降低计算成本。
2023-08-03 cs.AI cs.CY cs.LG
Hard Negative Mining for Domain-Specific Retrieval in Enterprise Systems
Oracle AI
针对企业搜索中的语义不匹配问题，提出可扩展的困难负样本挖掘框架，集成多种嵌入模型并动态选择困难负样本，在专有语料库上显著提升MRR，并在公共数据集上验证了泛化性。
2025-05-23 cs.AI cs.CL cs.IR
Dictionary-based Pathology Mining with Hard-instance-assisted Classifier Debiasing for Genetic Biomarker Prediction from WSIs
Shanghai Key Laboratory of Multidimensional Information Processing, East China Normal University（华东师范大学上海市多维度信息处理重点实验室）；Department of General Surgery, Tongji Hospital, Tongji University School of Medicine（同济大学医学院附属同济医院普外科）
本文提出D2Bio框架，通过字典-based层级病理挖掘和硬实例辅助分类器去偏方法，解决病理表示构建和WSI中无关区域导致的过拟合问题，实验显示在五个队列中AUROC提升超4%。
2026-03-26 cs.CV cs.LG q-bio.QM
DoPAMine: Domain-specific Pre-training Adaptation from seed-guided data Mining
AWS AI（亚马逊人工智能部门）
针对大语言模型在专业低资源领域表现不佳、合成数据真实性不足等问题，提出DoPAMine框架，通过种子引导从大型语料挖掘真实领域数据用于预训练适配，在医疗和金融领域任务上显著提升模型性能。
2024-10-09 cs.AI cs.CL cs.LG
Hard Sample Mining for the Improved Retraining of Automatic Speech Recognition
Harbin Institute of Technology（哈尔滨工业大学）
利用目标域中越来越多的新训练数据进行再训练是提高现有自动语音识别（ASR）系统性能的有效途径。近年来，深度神经网络（DNN）已经成为ASR领域的成功模型。在基于DNN的方法的训练过程中，使用转录和相应的注释文本之间的误差的反向传播来更新和优化参数。因此，传播误差大的训练样本对参数的影响要大于传播误差小的样本。在本文中，我们定义的样本有显着的错误作为硬样本，并试图通过增加他们的ASR系统的性能提高。不幸的是，硬样本在目标域的训练数据中是稀疏的，并且手动标记它们是昂贵的。为此，本文提出了一种基于增强型深度多示例学习的硬样本挖掘方法，该方法通过在目标域中使用一小部分带有人工标注的数据集，从未标注的训练数据中发现硬样本。我们将我们的方法应用于End2End ASR任务，并获得了最佳性能。
2019-04-17 cs.LG cs.SD eess.AS
Efficient Discovery of Significant Patterns with Few-Shot Resampling
University of Padova（帕多瓦大学）
针对统计显著模式挖掘计算昂贵、复杂子群缺乏高效方案的问题，提出FSR算法，用少量重采样数据集和紧界严格控制错误发现，并在真实数据上验证其有效性。
2024-06-17 cs.DB cs.LG stat.ML
From Generator to Embedder: Harnessing Innate Abilities of Multimodal LLMs via Building Zero-Shot Discriminative Embedding Model
Department of Artificial Intelligence（人工智能系）
本文提出一种高效框架，通过构建零样本判别嵌入模型，利用多模态大语言模型的固有能力，提升多模态表示空间的鲁棒性和零样本嵌入能力。
2026-08-05 cs.AI cs.IR cs.LG
Expert Training: Task Hardness Aware Meta-Learning for Few-Shot Classification
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Tianjin University（天津大学）；Monash University（莫纳什大学）
当有大量标记样本可用但无法完成Few-Shot分类任务时，深度神经网络非常有效。近年来，元学习方法受到了广泛的关注，它通过对大量附加任务的训练来获得指导Few-Shot分类的知识。通常，训练任务是随机采样的，并且不加选择地执行，这通常会使元学习器陷入糟糕的局部最优。深度神经网络优化方面的一些工作已经表明，更好地安排训练数据可以使分类器收敛更快，性能更好。受此思想的启发，本文提出了一种由易到难的专家元训练策略，以合理安排训练任务，在第一阶段优先考虑简单任务，在第二阶段重点考虑困难任务。设计了一个任务难度感知模块，并将其集成到训练过程中，以根据任务类别的可分类性来估计任务的难度。此外，我们还探索了多个硬度测量，包括语义关系，两两欧几里德距离，Hausdorff距离和希尔伯特施密特独立性标准。在miniImageNet和tieredImageNet Sketch数据集上的实验结果表明，采用本文的专家训练策略，元学习器可以获得更好的学习效果。
2020-07-13 cs.CV cs.LG stat.ML
Enhancing Retrieval Performance: An Ensemble Approach For Hard Negative Mining
本研究针对信息检索中难负例筛选的难题，提出适用于企业领域数据集的鲁棒难负例挖掘技术，通过交叉编码器同时学习相似性与差异性提升检索性能，为优化RAG、ReAct等大模型系统提供新视角。
2024-10-18 cs.AI cs.CL cs.IR
PseudoCell: Hard Negative Mining as Pseudo Labeling for Deep Learning-Based Centroblast Cell Detection
Vidyasirimedhi Institute of Science & Technology（威达西里梅迪科学技术研究所）；Mahidol University（玛希隆大学）
本文提出PseudoCell目标检测框架，利用病理医生标签与基于形态学特征的伪负样本自动检测中心母细胞，可消除WSI上58.18%至99.35%的非目标区域，从而减轻病理医生工作负担。
2023-07-06 cs.CV cs.LG eess.IV
