Reverse Engineering Financial Markets with Majority and Minority Games using Genetic Algorithms
使用虚拟股票市场与人工互动的软件投资者，又名基于代理的模型（ABMs），我们提出了一种方法来逆向工程现实世界的金融时间序列。我们将金融市场建模为由大量相互作用的有限理性主体组成。通过优化实际数据与重建的虚拟股票市场产生的数据之间的相似性，我们得到的参数和策略，揭示了一些内部运作的目标股票市场。我们验证了我们的方法的样本外预测纳斯达克综合指数的方向移动。
2010-02-10 cs.LG cs.MA q-fin.TR
Don't Play Favorites: Minority Guidance for Diffusion Models
KAIST（韩国科学技术院）
本文提出minority guidance采样技术，通过度量样本独特性并引导扩散模型生成过程聚焦低密度区域，从而高效生成高质量少数样本，并在医学成像等真实场景中验证了其有效性。
2024-02-26 cs.AI cs.CV cs.LG
Two-phase training mitigates class imbalance for camera trap image classification with CNNs
KU Leuven（鲁汶大学）
通过利用深度学习自动分类相机陷阱图像，生态学家可以更有效地监测生物多样性保护工作和气候变化对生态系统的影响。由于相机陷阱数据集的类分布不平衡，当前的模型偏向于大多数类。因此，他们获得了良好的性能为少数多数类，但许多少数民族的表现不佳。我们使用两阶段培训来提高这些少数民族班的表现。在基线模型旁边，我们训练了四个模型，这些模型在高度不平衡的快照塞伦盖蒂数据集的一个子集上实现了不同版本的两阶段训练。我们的研究结果表明，两阶段训练可以提高许多少数民族班的成绩，而其他班的成绩损失有限。我们发现，基于多数欠采样的两阶段训练将类特定的F1分数提高了3.0%。我们还发现，两阶段训练在F1分数上平均优于仅使用过采样或欠采样的6.1%。最后，我们发现，过采样和欠采样的组合导致更好的性能比单独使用它们。
2021-12-29 cs.CV cs.LG
An Investigation of Why Overparameterization Exacerbates Spurious Correlations
Stanford University（斯坦福大学）
我们研究了为什么过度参数化-增加模型大小远远超过零训练误差点-可以伤害少数群体的测试误差，尽管提高了平均测试误差时，有虚假的相关性的数据。通过对两个图像数据集的模拟和实验，我们确定了驱动这种行为的训练数据的两个关键属性：多数与少数群体的比例，以及虚假相关性的信噪比。然后，我们分析了一个线性设置，并从理论上展示了如何对“记忆”更少的例子模型的归纳偏见可能会导致overparameterization伤害。我们的分析导致了一种违反直觉的方法，即对多数群体进行二次抽样，这种方法在过度参数化的制度中根据经验实现了较低的少数群体误差，即使增加少数群体权重的标准方法失败了。总的来说，我们的研究结果表明，使用过参数化模型与使用所有训练数据以实现低最差组误差之间存在紧张关系。
2020-08-26 cs.CV cs.LG stat.ML
Mitigating Shortcut Learning with InterpoLated Learning
Department of Computer Science and Technology, University of Cambridge（计算机科学与技术系，剑桥大学）；Department of Engineering, University of Cambridge（工程系，剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）
提出InterpoLL方法，通过插值多数类与少数类样本表示来削弱捷径影响，提升少数类泛化，且不损害多数类性能，在多种架构上均有效。
2025-07-07 cs.AI cs.LG
Learning under Localized Minority Imbalance
Warrington College of Business（沃灵顿商学院）；University of Florida（佛罗里达大学）
针对局部少数类不平衡问题，提出基于树的分层集成方法，减少层内失真，实验证明优于现有技术，并引入无偏评估协议。
2026-10-06 cs.LG
Skew Class-balanced Re-weighting for Unbiased Scene Graph Generation
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
针对长尾分布导致的无偏谓词预测问题，提出了一种无偏场景图生成算法（Skew Class-balanced Re-weighting，SCR）.先前的工作主要集中在减轻少数谓词预测的性能恶化，显示出急剧下降的召回分数，即，失去了大多数同品种器械的性能。它尚未正确分析有限SGG数据集中多数和少数谓词性能之间的权衡。为了解决这一问题，本文考虑了无偏SGG模型的偏斜类平衡重加权（SCR）损失函数。利用有偏谓词预测的偏度，SCR估计目标谓词权重系数，然后重新加权更多的有偏谓词，以更好地权衡多数谓词和少数谓词。在标准的Visual Genome数据集和Open Image V4和V6上进行的大量实验表明，SCR与传统的SGG模型的性能和通用性。
2023-03-14 cs.LG
CIGAN: A Python Package for Handling Class Imbalance using Generative Adversarial Networks
George Washington University（乔治华盛顿大学）
机器学习中的一个关键挑战是类不平衡，其中某些类（多数类）的样本量远远高于其他类（少数类）。如果我们直接在不平衡数据上训练分类器，则分类器更有可能将新样本预测为多数类之一。在极端情况下，分类器可以完全忽略少数类。这可能对医疗保健产生严重的社会学影响，因为少数群体通常是疾病群体（例如，死亡或阳性临床试验结果）。在本文中，我们介绍了一个软件，使用生成对抗网络过采样少数类，以改善下游分类。据我们所知，这是第一个允许多类分类的工具（目标可以有任意数量的类）。该工具的代码在我们的github存储库（https：//github.com/yuxiaohuang/research/tree/master/gwu/working/cigan/code）中公开提供。
2022-08-04 cs.LG
AnyThreat: An Opportunistic Knowledge Discovery Approach to Insider Threat Detection
由于越来越多的恶意内部事件，内部威胁检测越来越受到学术界、工业界和政府的关注。现有的方法提出的检测内部威胁仍然有一个共同的缺点，这是大量的误报（误报）。这些方法面临的挑战是，必须检测属于特定威胁的所有异常行为。为了解决这个缺点，我们提出了一个机会主义的知识发现系统，即AnyThreat，目的是检测所有恶意内部威胁中的任何异常行为。我们设计的AnyThreat系统有四个组件。(1)一个功能工程组件，它从具有相同角色的一组用户的活动日志中构造社区数据集。(2)在过采样部分，我们提出了一种新的过采样技术，称为人工少数过采样和捕获器REMOVAL（AMOTRE）。AMOTRE首先去除与正常（多数）实例相似度高的少数（异常）实例，以减少虚警数量，然后通过屏蔽多数类的边界对少数类进行综合过采样。(3)引入类分解组件，将多数类的实例聚类为子类，在不损失信息的情况下削弱多数类的影响。(4)分类组件，它对子类应用分类方法，以实现多数类和少数类之间更好的分离。AnyThreat基于卡内基梅隆大学生成的合成数据集进行评估。它检测到大约87.5%的恶意内部威胁，并实现最低误报率= 3.36%。
2018-12-01 cs.CR cs.LG stat.ML
Analyzing decision tree bias towards the minority class
University of Western Ontario（西安大略大学）
本文分析了决策树对少数类的偏见问题，指出在特定条件下决策树可能偏向少数类，并提出通过正则化方法减少偏见，对随机森林等树基模型的应用有启示。
2026-01-28 cs.LG stat.ML
Adversarial Reweighting Guided by Wasserstein Distance for Bias Mitigation
SCHUFA Holding AG（舒法控股公司）；The Open University（开放大学）；L3S research center Hannover（汉诺威L3S研究中心）；University of Stuttgart（斯图加特大学）；Technical University of Munich（慕尼黑工业大学）
针对机器学习中少数群体代表性不足导致的偏见问题，提出一种由Wasserstein距离引导的对抗性重加权方法，通过降低多数群体样本权重并优先选择靠近少数群体的样本，在不牺牲准确率的前提下有效缓解偏见。
2023-11-21 cs.LG
How does overparametrization affect performance on minority groups?
University of Michigan（密歇根大学）；IBM Research（IBM研究院）；MIT-IBM Watson AI lab（麻省理工学院-IBM沃森人工智能实验室）
过度参数化对现代机器学习（ML）模型整体性能的好处是众所周知的。然而，在更细粒度的数据子组的overparameterization的效果是不太了解。最近的实证研究表明令人鼓舞的结果：（i）当群体未知时，用经验风险最小化（ERM）训练的过参数化模型在少数群体上表现更好;（ii）当群体已知时，对二次采样数据进行ERM以均衡群体大小，在过参数化制度中产生最差的群体准确性。在本文中，我们补充了这些实证研究与理论研究的风险过度参数化的随机特征模型对少数群体。在设置中，大多数和少数群体的回归函数是不同的，我们表明，overparameterization总是提高少数群体的表现。
2022-06-07 cs.LG math.ST stat.TH
Sampling Imbalanced Data with Multi-objective Bilevel Optimization
Department of Mathematics University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校数学系）；Mathematics and Computer Sciences Division Argonne National Laboratory（阿贡国家实验室数学与计算机科学 division）
针对二分类数据不平衡问题，提出多目标双层优化框架MOODS指导过采样与欠采样，并引入非重叠多样化指标量化采样优劣，使F1分数提升1-15%。
2025-07-10 cs.LG
Enhancement Encoding: A Novel Imbalanced Classification Approach via Encoding the Training Labels
School of Information Science and Engineering（信息科学与工程学院）；Shandong University（山东大学）
类不平衡，也称为长尾分布，是基于机器学习的分类任务中常见的问题。如果发生这种情况，少数数据将被大多数数据淹没，这对数据科学提出了相当大的挑战。为了解决类不平衡问题，研究人员提出了很多方法：一些人使数据集平衡（SMOTE），一些人改进损失函数（Focal Loss），甚至有人注意到标签的值影响类不平衡学习（Yang和Xu）。重新思考标签对改善班级不平衡学习的价值。在NeurIPS 2020中），但还没有人改变对数据标签进行编码的方式。目前，最流行的标签编码技术是独热编码，因为它在一般情况下具有良好的性能。然而，对于不平衡的数据，它不是一个好的选择，因为分类器将平等地对待多数和少数样本。本文创新性地提出了针对非平衡分类的增强编码技术。增强编码结合了重加权和成本敏感性，可以反映硬类和易类（或少数类和多数类）之间的差异。为了减少验证样本的数量和计算成本，我们还将混淆矩阵替换为一种新的软混淆矩阵，该矩阵在较小的验证集下效果更好。在实验中，我们评估了增强编码与三种不同类型的损失。结果表明，增强编码对提高非平衡数据训练网络的性能是非常有效的。特别是在少数民族班级的表现更好。
2023-03-28 cs.LG
Continual Rare-Class Recognition with Emerging Novel Subclasses
Carnegie Mellon University（卡内基梅隆大学）
给定一个包含罕见（或少数）感兴趣实例的标记数据集，以及大量不感兴趣的实例，我们如何学习识别连续流中未来感兴趣的实例？我们引入RaRecognize，它（i）估计稀有和多数类之间的一般决策边界，（ii）学会识别训练数据中存在的单个稀有子类，以及（iii）将以前看不见的稀有子类的实例标记为新出现的。（i）中的学习者是一般的，在这个意义上，通过构造，它与（ii）中的专门学习者不同，从而将少数与多数区分开来，而不过度调谐到训练数据中所看到的。由于这种普遍性，RaRecognize忽略了所有未来的实例，它标记为大多数，并只识别经常性和新兴的罕见子类。这节省了测试时的工作量，并确保模型大小随着时间的推移适度增长，因为它只维护专门的少数学习者。通过广泛的实验，我们表明RaRecognize在三个真实世界的数据集上的表现优于最先进的基线，这些数据集包含公司风险和灾难文档作为稀有类。
2019-06-28 cs.LG stat.ML
Discrimination and Class Imbalance Aware Online Naive Bayes
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）
大规模数据流的公平意识挖掘是当代机器学习领域日益增长且具有挑战性的问题。许多流学习算法用于在关键决策点代替人类，招聘员工、评估信用风险等。这就要求以最小的响应延迟处理大量传入的信息，同时确保公平和高质量的决策。最近的区分感知学习方法基于整体准确性进行优化。然而，总体准确性偏向于多数类;因此，最先进的方法主要通过部分或完全忽略少数类来减少歧视。在这种情况下，我们提出了一种新的适应朴素贝叶斯，以减轻歧视嵌入在流中，同时保持高预测性能的多数和少数类。该算法简单、快速，可实现多目标优化。为了处理类不平衡和概念漂移问题，提出了一种动态实例加权模块，根据实例在少数类或多数类中的隶属度，赋予新实例更高的重要性，而对过时实例的重要性降低。我们在一系列流数据集和静态数据集上进行了实验，并推断我们提出的方法在区分分数和平衡准确性方面优于现有的最先进的公平性感知方法。
2022-11-09 cs.CY cs.LG
Overcoming Class Imbalance: Unified GNN Learning with Structural and Semantic Connectivity Representations
School of Computer Science, Carleton University（卡尔顿大学计算机科学学院）
本文提出统一图神经网络学习框架Uni-GNN，通过融合结构与语义连接表示并利用平衡伪标签机制扩充少数类标注节点，有效缓解图节点分类中的类别不平衡问题，并在多个基准数据集上取得优于现有方法的性能。
2024-12-30 cs.AI cs.LG
Detecting and Mitigating the Correct-Answer Extinction Window in Test-Time Reinforcement Learning with Majority Voting
Meituan（美团）
本文提出TTRL-Guard框架，通过翻转率感知奖励缩放、少数保留采样和风险条件稀疏更新三种机制，检测并缓解测试时强化学习中多数投票导致的正确答案信号永久抑制问题。
2026-05-27 cs.AI cs.LG
FairDropout: Using Example-Tied Dropout to Enhance Generalization of Minority Groups
Concordia University（康考迪亚大学）；Mila – Quebec AI Institute（米拉-魁北克人工智能研究所）
针对深度学习模型在少数群体泛化能力差的问题，提出FairDropout方法，通过示例绑定的Dropout将少数群体实例的记忆重定向到特定神经元并在推理时丢弃，显著降低对虚假相关性的依赖，优于现有方法。
2025-02-10 cs.LG
Cluster-guided Contrastive Class-imbalanced Graph Classification
Sichuan University（四川大学）；Peking University（北京大学）；University of Washington（华盛顿大学）；Huawei Hisilicon（华为海思）；Great Bay University（大湾区大学）
本文提出C$^3$GNN方法，通过将多数类聚类为多个子类并结合Mixup与有监督对比学习，缓解类别不平衡并充分挖掘多数类语义子结构，从而提升图分类性能。
2024-12-30 cs.AI cs.IR cs.LG
RoBell-RVFL: A Robust Generalized Bell Random Vector Functional Link Network
Indian Institute of Technology Indore（印度印多尔印度理工学院）
针对类别不平衡与噪声数据问题，提出RoBell-RVFL模型，采用双策略样本级加权机制，在UCI、KEEL数据集及40%标签噪声下表现优于现有RVFL变体。
2026-08-19 cs.LG
Introducing DeepBalance: Random Deep Belief Network Ensembles to Address Class Imbalance
Pomona College（波莫纳学院）
类不平衡问题在金融欺诈检测或网络入侵分析等领域表现出来，其中一类的流行率远远高于另一类。通常，从业者对预测少数类比多数类更感兴趣，因为少数类可能具有更高的误分类成本。然而，分类器的性能恶化，在面对类的不平衡，因为通常分类器可以预测每个点作为多数类。处理阶级不平衡的方法包括成本敏感的学习或reservation技术。在本文中，我们介绍了DeepBalance，这是一个使用平衡自举和随机特征选择训练的深度信念网络集合。我们证明，我们提出的方法优于基线reservation方法，如SMOTE和下和过采样的指标，如AUC和灵敏度时，应用到一个高度不平衡的金融交易数据。此外，我们还探讨了各种模型参数对性能和训练时间的影响。此外，我们还证明了我们的模型很容易并行化，这可以减少训练时间。最后，我们给出了DeepBalance在R中的实现。
2017-11-15 cs.LG stat.ML
