Constraint-Based Clustering Selection
KU Leuven（鲁汶大学）
半监督聚类方法在聚类过程中加入了有限的监督。通常，这种监督由用户以成对约束的形式提供。现有的方法使用这样的约束在以下方式之一：他们适应他们的聚类过程，他们的相似性度量，或两者兼而有之。所有这些方法都在各个聚类算法的范围内运行。相比之下，我们建议使用约束条件来选择非常不同的无监督聚类算法生成的聚类，运行不同的参数设置。我们的经验表明，这种简单的方法往往优于现有的半监督聚类方法。
2016-09-23 cs.LG stat.ML
Variable Metric Proximal Gradient Method with Diagonal Barzilai-Borwein Stepsize
Stanford University（斯坦福大学）；LG Sillicon Valley Lab（LG硅谷实验室）
变尺度邻近梯度法（VM-PG）是一类应用广泛的凸优化方法。近年来，人们对VM-PG在不同度量选择下的理论保证进行了大量的研究。然而，大多数这样的度量选择依赖于（昂贵的）Hessian，或限于标量步长，如具有大量保护的Barzilai-Borwein（BB）步长。相反，在本文中，我们提出了一种自适应度量选择策略，称为对角Barzilai-Borwein（BB）步长。所提出的对角线选择更好地捕获问题的局部几何结构，同时保持每步计算成本类似于标量BB步长，即$O(n)$。在此度量选择下，分析了VM-PG算法的理论收敛性。我们的实证研究说明了在所提出的对角BB步长下改进的收敛结果，特别是对于合成和真实世界数据集的病态机器学习问题。
2019-10-15 cs.LG math.OC stat.ML
Metric Design != Metric Behavior: Improving Metric Selection for the Unbiased Evaluation of Dimensionality Reduction
Seoul National University（首尔国立大学）
本文提出了一种基于度量相关性聚类的工作流程，以减少降维评估中的偏差，提高评估的稳定性。
2025-07-03 cs.LG
Fast greedy algorithms for dictionary selection with generalized sparsity constraints
Graduate School of Information Sciences and Technology（信息科学技术研究生院）；The University of Tokyo（东京大学）
在字典选择中，从有限的候选中选择几个原子，这些原子成功地近似稀疏表示中的给定数据点。我们提出了一种新的有效的贪心算法的字典选择。我们的算法不仅工作速度比已知的方法，但它也可以处理更复杂的稀疏约束，如平均稀疏。使用数值实验，我们表明，我们的算法优于已知的方法的字典选择，实现竞争力的表现与字典学习算法在一个较小的运行时间。
2018-09-07 cs.DS cs.LG stat.ML
Cluster Representatives Selection in Non-Metric Spaces for Nearest Prototype Classification
Cisco Systems（思科系统公司）；Czech Technical University in Prague（布拉格捷克理工大学）
最近的原型分类是一个计算密集度较低的替代$k$ -NN方法，特别是当考虑大数据集。在度量空间中，质心通常被用作表示整个簇的原型。在非度量空间中选择集群原型更具挑战性，因为计算质心的想法并不直接适用。在本文中，我们提出了CRS，一种新的方法，用于选择一个小而有代表性的对象子集作为集群原型。通过利用由NN-下降算法创建的每个聚类的相似性图表示来实现代表的存储器和计算高效的选择。CRS可以用于任意度量或非度量空间，因为基于图的方法，它只需要一个成对的相似性度量。正如我们在实验评估中所证明的那样，我们的方法在来自不同领域的多个数据集上的表现优于最先进的技术。
2021-07-03 cs.LG
AutoSpearman: Automatically Mitigating Correlated Metrics for Interpreting Defect Models
The University of Adelaide（阿德莱德大学）
缺陷模型的解释在很大程度上依赖于用于构建它们的软件度量。然而，这样的软件度量通常与缺陷模型相关。为了提高缺陷模型的性能，以前的工作通常使用特征选择技术来去除相关的度量。然而，如果特征选择技术产生不一致和相关度量的子集，则缺陷模型的解释可能是误导性的。在本文中，我们调查的一致性和相关性的度量的子集产生的九个常用的特征选择技术。通过对13个公开的缺陷数据集的案例研究，我们发现特征选择技术产生了不一致的度量子集，并且没有减轻相关度量，这表明当目标是模型解释时，不应该使用特征选择技术，并且必须应用相关性分析。由于相关性分析往往涉及手动选择的指标领域的专家，我们介绍AutoSpearman，一个自动化的指标选择方法的基础上相关性分析。我们的评估表明，AutoSpearman在训练样本中产生了最高的度量子集一致性，并减轻了相关度量，同时影响模型性能1-2%pts。因此，为了在解释缺陷模型时自动减轻相关度量，我们建议未来的研究使用AutoSpearman代替常用的特征选择技术。
2018-06-26 cs.LG cs.SE
Random Subspace with Trees for Feature Selection Under Memory Constraints
University of Liège（列日大学）；Aix-Marseille University（艾克斯-马赛大学）；New York University（纽约大学）
处理高维数据集是机器学习的一个主要挑战。在本文中，我们考虑的问题，在内存不够大，包含所有功能的应用程序中的功能选择。在这种情况下，我们提出了一种新的基于树的特征选择方法，建立一个序列的随机树上的小样本的变量混合两个变量已经确定为相关的以前的模型和变量随机选择的其他变量。作为我们的主要贡献，我们提供了一个深入的理论分析，这种方法在无限样本设置。特别是，我们研究其合理性方面的常见定义的功能相关性和收敛速度在各种变量依赖的情况下。我们还提供了一些初步的实证结果，突出了这种方法的潜力。
2017-09-06 cs.LG stat.ML
A Constraint-Based Algorithm For Causal Discovery with Cycles, Latent Variables and Selection Bias
自然界中的因果过程可能包含循环，而真实数据集可能违反因果充分性并包含选择偏差。目前没有基于约束的因果发现算法可以同时处理周期、潜变量和选择偏差（CLS）。因此，我介绍了一种算法，称为循环因果推断（CCI），使健全的推论与条件独立的预言CLS下，只要我们可以表示为一个非递归的线性结构方程模型的非递归的因果过程的独立错误。实证结果表明，CCI优于CCD在循环的情况下，以及竞争对手的FCI和RFCI在非循环的情况下。
2018-05-05 cs.LG stat.ME stat.ML
BeST -- A Novel Source Selection Metric for Transfer Learning
The Ohio State University（俄亥俄州立大学）；University of Kentucky（肯塔基大学）
本文提出一种新颖的源选择度量BeST，通过量化级优化和早停概念快速评估任务相似性，以高效选择迁移学习的最佳源模型，节省计算资源并在多数据集上验证有效性。
2025-01-19 cs.LG stat.ML
Automated Hyperparameter Selection for the PC Algorithm
PC算法使用需要预先指定的I类$α$水平的条件独立性检验推断因果关系。然而，PC是无监督的，所以我们不能使用传统的交叉验证来调优$α$。因此，我们提出AutoPC，一个快速的程序，优化$α$直接为用户选择的度量。我们特别强制PC通过在恢复的图形上执行第二次运行来仔细检查其输出。我们选择最终输出作为两次运行之间最大化稳定性的输出。AutoPC在多个指标上始终优于最先进的技术。
2020-12-22 cs.LG stat.ML
Local Constraint-Based Causal Discovery under Selection Bias
University of Amsterdam（阿姆斯特丹大学）；Microsoft Research Cambridge（微软剑桥研究院）
我们认为，除了混杂的问题，发现因果关系的独立性约束的选择偏差。虽然开创性的FCI算法是健全和完整的，在这种设置下，没有标准的因果关系的解释，其输出下的选择偏见是目前已知的。相反，我们专注于本地模式的独立关系，在那里我们找到没有声音的方法，只有三个变量，可以包括背景知识。Y-结构模式被证明是合理的选择偏差下的数据，其中可能存在周期预测因果关系。我们引入了一个有限样本评分规则的Y结构，成功地预测因果关系的模拟实验，包括选择机制。在真实世界的微阵列数据上，我们表明Y结构变体在不同的数据集上表现良好，可能会避免由于选择偏差而导致的虚假相关性。
2022-03-03 cs.AI cs.LG stat.ML
Metrics for Inter-Dataset Similarity with Example Applications in Synthetic Data and Feature Selection Evaluation -- Extended Version
University of Southern Denmark（南方丹麦大学）
本文针对现有数据集间相似性度量计算昂贵、参数敏感且缺乏整体视角的问题，提出两种新度量指标，并在合成数据与特征选择评估中验证其有效性。
2025-01-16 cs.LG
On the Laplace Approximation as Model Selection Criterion for Gaussian Processes
University of Applied Sciences and Arts（应用科学与艺术大学）；University of Hagen（哈根大学）
本文针对高斯过程模型选择，提出基于拉普拉斯近似的多种度量，克服了朴素应用的严重不一致性，在保证质量与动态嵌套采样相当的同时显著提升计算速度。
2024-03-14 cs.AI cs.LG stat.ML
Test Selection for Deep Learning Systems
University of Luxembourg（卢森堡大学）
测试深度学习模型是具有挑战性的，因为涉及的计算数量过多且复杂。因此，手动地并且以特别的方式执行测试数据选择。这就提出了一个问题，即我们如何自动选择候选测试数据来测试深度学习模型。最近的研究集中在从基于代码的软件测试（如覆盖率）到深度学习的测试选择度量。然而，深度学习模型具有与代码不同的属性，例如在整个网络上的计算分布，反映训练数据属性，神经元权重的平衡和冗余（使用比所需更多的神经元）。这种差异使得基于代码的度量不适合选择可能挑战模型（可能触发错误分类）的数据。因此，我们提出了一套测试选择度量模型的不确定性（特定输入的模型置信度）的概念的基础上。直觉上，我们对一个候选样本的不确定性越大，这个样本就越有可能触发错误分类。同样，我们最不确定的样本是最具信息性的，应该通过再训练来改进模型。我们评估这些指标上两个广泛使用的图像分类问题，涉及真实和人工（对抗）数据。我们发现，基于不确定性的度量有很强的能力来选择被错误分类的数据，并在再训练过程中导致分类准确性的重大提高：在一个数据集上比随机选择和其他最先进的度量多获得80%的增益，在另一个数据集上高达29%。
2019-04-30 cs.LG cs.SE stat.ML
Uncertainty Profiles for LLMs: Uncertainty Source Decomposition and Adaptive Model-Metric Selection
National Taiwan University（国立台湾大学）
本文将 LLM 不确定性分解为四类来源，分析指标、任务与模型的不确定性特征差异，并提出不确定性感知的自适应指标/模型选择方法，实验证明其稳定优于基线。
2025-05-12 cs.LG
Affinity and Diversity: A Unified Metric for Demonstration Selection via Internal Representations
Japan Advanced Institute of Science and Technology（日本先进科学技术学院）；RIKEN（理化学研究所）
针对上下文学习示例选择方法目标不一、结果不一致的问题，提出基于模型内部表示的亲和性与多样性统一度量，实验验证其与测试准确率强相关且能统一现有方法的不一致性。
2025-02-20 cs.AI cs.CL cs.LG
Siamese Meta-Learning and Algorithm Selection with 'Algorithm-Performance Personas' [Proposal]
Trinity College Dublin（都柏林大学学院）；The University of Siegen（锡根大学）
自动化的每实例算法选择通常优于单个学习器。通过元学习进行算法选择的关键通常是（Meta）特征，但有时不能提供足够的信息来有效地训练元学习者。我们提出了一个连体神经网络架构的自动算法选择，更侧重于“类似执行”的实例比元功能。我们的工作包括一个新的性能指标和方法选择训练样本。我们进一步介绍了“算法性能人物角色”的概念，它描述了单个算法执行相似的实例。我们相信，将“相似的执行算法”作为选择训练样本的基础事实的概念是新颖的，并提供了巨大的潜力。在这个提案中，我们详细概述了我们的想法，并提供了第一个证据，证明我们提出的指标更适合于训练样本选择，标准的性能指标，如绝对误差。
2020-06-23 cs.AI cs.LG stat.ML
Automated Model Selection for Generalized Linear Models
Institute of Computer Technology, TU Wien（维也纳技术大学计算机技术研究所）；Department of Statistics, University of Klagenfurt（克雷格弗特大学统计学系）；Institute of Statistics and Mathematical Methods in Economics, TU Wien（维也纳技术大学统计学与经济学数学方法研究所）
本文提出了一种基于混合整数锥优化的自动化模型选择方法，结合特征子集选择与通用线性模型，通过优化信息准则和处理多重共线性来提升模型选择效率。
2024-04-25 cs.LG math.OC stat.ML
Action Shapley: A Training Data Selection Metric for World Model in Reinforcement Learning
Nutanix Inc.（Nutanix公司）
本文提出动作夏普利度量，用于高效选择强化学习世界模型的训练数据，通过随机动态算法提升计算效率并改进数据选择性能。
2026-01-15 cs.LG stat.ME
Flatness-Aware Prompt Selection Improves Accuracy and Sample Efficiency
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出 prompt flatness 指标量化语言提示预期效用，结合现有指标提升了性能与样本效率，在 6 个分类基准上平均准确率提升 5%，Pearson correlation 提升 10%。
2023-10-23 cs.CL cs.LG
Diversity-Based Active Learning: An Evaluation of Metric Spaces for Active Learning Selection
University of California, Berkeley（加州大学伯克利分校）
该研究评估贪心K中心在多种度量空间中用于主动学习选择的性能，发现将未标注实例映射到带熵加权的预测概率空间时效果最优。
2026-08-25 cs.LG
Designing Informative Metrics for Few-Shot Example Selection
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；New York University（纽约大学）
本文提出一种基于句法-语义复杂度的少样本示例选择方法，通过句子级和词级度量匹配测试句与示例，无需训练专用选择模型，在CoNLL2003少样本NER上为GPT-4带来5%的F1绝对提升，并在较小模型上取得高达28.85分的增益。
2024-07-30 cs.CL cs.LG
Feature Selection Based on Orthogonal Constraints and Polygon Area
Ludong University（鲁东大学）；Qufu Normal University（曲阜师范大学）
本文提出一种结合多边形面积的正交回归模型，用于捕捉特征与标签间的判别依赖关系，并采用混合非单调线性搜索解决非凸优化问题，在降维和分类性能上优于传统方法。
2024-02-25 cs.LG
A new selection strategy for selective cluster ensemble based on Diversity and Independency
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；University of Tabriz（大不里士大学）；Iran University of Science and Technology（伊朗科技大学）
提出了一种基于独立性和多样性度量的聚类集成选择策略。近年来，多样性和质量，这两个指标的评价过程中，已被用来选择基本聚类结果的聚类集成选择。质量虽然可以改善聚类集成的最终结果，但它不能控制基本结果的生成过程，这导致对生成的基本结果的准确性的预测存在差距。代替质量，本文引入独立性作为与多样性结合使用的补充方法。因此，本文采用一种启发式度量，这是基于软件测试中的代码转换为图的过程，以计算两个基本的聚类算法的独立性。此外，一种新的建模语言，我们称之为“聚类算法独立语言”（CAIL），介绍了为了生成图，描绘算法的独立性。此外，均匀性，这是一个新的相似性度量，已被引入到评估的基本结果的多样性。在不同标准数据集上的实验结果表明，与其他聚类集成方法相比，该框架显著提高了最终结果的准确性。
2016-10-09 cs.AI cs.LG stat.ML
Feature selection with test cost constraint
Zhangzhou Normal University（漳州师范学院）；Tianjin University（天津大学）
特征选择是机器学习和数据采掘中重要的预处理步骤。在现实世界的应用程序中，需要成本，包括金钱，时间和其他资源，以获得功能。在某些情况下，由于资源有限，存在测试成本约束。我们将故意选择一个信息丰富且廉价的特征子集进行分类。针对这一问题，提出了带测试成本约束的特征选择问题.新问题具有简单的形式，同时描述为一个约束满足问题（CSP）。回溯算法是求解CSP问题的一种通用算法，对于中等规模的数据，回溯算法是解决新问题的有效方法。由于回溯算法不适用于大型数据集，还开发了一种启发式算法。实验结果表明，该启发式算法在大多数情况下都能找到最优解。我们还重新定义了一些现有的特征选择问题的粗糙集，特别是决策理论粗糙集，从CSP的观点。这些新的定义提供了一些新的研究方向的见解。
2012-09-25 cs.AI cs.LG
Comprehensive Benchmarking of Entropy and Margin Based Scoring Metrics for Data Selection
Alexa AI (Amazon)（亚马逊Alexa人工智能部门）
本文针对低资源语言工业场景，提出用熵和EL2N分数评估样本难度与有用性，从弱信号标注数据中筛选高质量训练集，实验表明相比随机选择可显著降低语义错误率和领域分类错误率。
2023-11-27 cs.CL cs.LG
Learnability in Online Kernel Selection with Memory Constraint via Data-dependent Regret Analysis
College of Intelligence and Computing, Tianjin University（天津大学智能与计算学部）
针对带内存约束的在线核选择问题，提出依赖核对齐和竞争假设累积损失的数据依赖上界，构建基于新型缓冲区与专家建议预测归约的算法框架，证明小内存下次线性数据复杂度下可学习，并经实验验证性能。
2025-03-24 cs.LG
PACTran: PAC-Bayesian Metrics for Estimating the Transferability of Pretrained Models to Classification Tasks
Google Research（谷歌研究院）
近年来，随着预训练模型的日益丰富，为特定的下游分类任务选择最佳预训练检查点的问题越来越受到关注。虽然最近已经提出了几种方法来解决选择问题（例如LEEP，H-评分），这些方法诉诸于应用学习理论没有很好的动机。在本文中，我们提出了PACTran，这是一个用于预训练模型选择和可移植性测量的理论基础指标家族。我们首先展示了如何在迁移学习设置下从最佳PAC-Bayesian界导出PACTran度量。然后，我们凭经验评估PACTran的三个度量实例的视觉任务（VTAB）以及语言和视觉（OKVQA）的任务。结果分析表明，PACTran是一个更一致和有效的可转移性措施相比，现有的选择方法。
2022-07-19 cs.LG
Identification of relevant diffusion MRI metrics impacting cognitive functions using a novel feature selection method
New York University（纽约大学）；New York University Shanghai（上海纽约大学）
轻度创伤性脑损伤（mTBI）是一个重要的公共卫生问题。mTBI后最令人不安的症状是认知投诉。研究显示，使用扩散MRI，mTBI患者和健康对照组在组织微结构方面存在可测量的差异。然而，目前还不清楚哪些扩散措施是最有益的认知功能在健康状态以及受伤后。在这项研究中，我们使用扩散MRI制定一个预测模型的基础上最相关的MRI功能的工作记忆的性能。关键的挑战是以高效的方式在大特征空间中以高精度识别相关特征。为了解决这个问题，我们提出了一种新的改进的最佳优先搜索方法的交叉算子的启发遗传算法。与其他启发式特征选择算法相比，所提出的方法实现了更准确的预测，并产生临床上可解释的选择功能。
2019-11-11 cs.LG eess.IV q-bio.QM
Latent Variable Causal Discovery under Selection Bias
Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出了一种基于排名约束的方法，用于在存在选择偏差的情况下识别潜在变量模型中的因果结构。
2025-12-12 cs.LG
Feature Selection Based on Sparse Neural Network Layer with Normalizing Constraints
Technical University of Košice（科希策技术大学）
特征选择是机器学习中的一个重要步骤，因为它可以提高预测精度，同时降低高维数据的维数灾难。神经网络在解决许多非线性学习问题方面取得了巨大的成功。在这里，我们提出了新的基于神经网络的特征选择方法，该方法引入了两个约束，满足这两个约束会导致稀疏FS层。我们已经进行了广泛的实验，合成和真实世界的数据，以评估性能的建议FS。在实验中，我们专注于高维，低样本量的数据，因为这些代表了特征选择的主要挑战。实验结果表明，提出的基于规范化约束稀疏神经网络层的特征选择方法（SNEL-FS）能够有效地选择重要特征，并且与其他传统的FS方法相比具有更好的性能。
2021-07-12 cs.CV cs.LG cs.NE
D2ACE: Multi-Label Batch Selection Guided by Dual Dynamics and Adaptive Correlation Enhancement
Key Laboratory of DECV, Chongqing University of Posts and Telecommunications（重庆邮电大学信息与通信工程重点实验室）；School of Computer Science and Technology, Chongqing University of Posts and Telecommunications（重庆邮电大学计算机科学与技术学院）；School of Informatics, Aristotle University of Thessaloniki（希腊塞萨洛尼基阿里斯托芬大学信息学院）
D2ACE通过双动态和自适应相关增强方法，提升多标签分类的训练效率和预测性能，通过动态标签权重和局部上下文相关增强，优化标签重要性与相关性建模。
2026-05-10 cs.LG
Growth-Optimal Portfolio Selection under CVaR Constraints
Technion – Israel Institute of Technology（以色列理工学院）
到目前为止，在线投资组合选择研究主要集中在最大限度地减少财富增长方面的遗憾。然而，实际的财务决策与财富和风险密切相关。我们考虑在线学习的股票投资组合的价格是由任意（未知）平稳和遍历过程，其目标是最大化财富，同时保持条件风险价值（CVaR）低于所需的阈值。我们描述了渐近最优的风险调整后的性能，并提出了一种投资策略，其投资组合是保证达到渐近最优解，同时满足所需的风险约束。我们还数值证明和验证我们的方法在标准数据集上的可行性。
2017-05-27 cs.LG q-fin.MF
Phase-Localized Curation Does Not Help: A Negative Result on Per-Phase Metric Selection for Demonstration Filtering
Department of Mechanical Engineering, University of California, Berkeley（加州大学伯克利分校机械工程系）
本文通过LIBERO任务实验证明，按阶段局部应用度量进行演示筛选不如全局或统一度量，原因是缺陷信号被稀释且阶段度量不可迁移。
2026-06-16 cs.LG cs.RO
Metric Hub: A metric library and practical selection workflow for use-case-driven data quality assessment in medical AI
Physikalisch-Technische Bundesanstalt（联邦物理技术研究院）；Fraunhofer Institute for Integrated Circuits IIS（弗劳恩霍夫集成电路研究所）；Friedrich-Alexander-University Erlangen Nuremberg（弗里德里希-亚历山大-埃尔兰根-纽伦堡大学）；Univ Rennes（雷恩大学）；Inserm（法国国家健康与医学研究院）；Politecnico di Milano（米兰理工大学）；Fondazione IRCCS Istituto Nazionale dei Tumori di Milano（米兰国家肿瘤研究所IRCCS基金会）；Masaryk University（马萨里克大学）；Berlin Institute of Health (BIH)（柏林健康研究所）；RISE Research Institutes of Sweden（瑞典RISE研究院）；CETIC Centre d’excellence en technologies de l’information et de la communication（CETIC信息与通信技术卓越中心）；Fraunhofer Institute for Telecommunications Heinrich-Hertz-Institute HHI（弗劳恩霍夫电信研究所海因里希·赫兹研究所）；Multitel Research Center（Multitel研究中心）；Technical University Berlin（柏林工业大学）；Einstein Centre for Digital Future（爱因斯坦数字未来中心）
Metric Hub提出一个医疗AI中以用例为导向的数据质量评估度量库和选择流程，通过度量卡片和决策树提升数据质量评估的实用性与可信度。
2026-01-30 cs.LG
Subjectivity in Unsupervised Machine Learning Model Selection
Duke University（杜克大学）；George Mason University（乔治梅森大学）
本研究以Hidden Markov Model为例，通过33名参与者和三个LLMs在三种场景下的模型选择实验，揭示了无监督学习中模型选择的主观性、变异性和不一致性，强调需建立标准化记录方法。
2024-01-05 cs.AI cs.LG
Refined Coreset Selection: Towards Minimal Coreset Size under Model Performance Constraints
The University of Sydney（悉尼大学）；Xidian University（西安电子科技大学）；Penn State University（宾夕法尼亚州立大学）；Southern University of Science and Technology（南方科技大学）
本文提出精炼核心集选择问题，通过保持模型性能优先于核心集大小的优化方法，在性能约束下寻找最小核心集，并给出收敛保证与实验验证。
2024-02-29 cs.LG
Evaluating Supervised Machine Learning Models: Principles, Pitfalls, and Metric Selection
Jiangsu Key Laboratory of Big Data Security and Intelligent Processing, Nanjing University of Posts and Telecommunications（江苏大数据安全与智能处理重点实验室，南京邮电大学）；University of Brighton（布莱顿大学）；University of Lancashire（兰开夏大学）；School of Cyber Science and Engineering, Southeast University（东南大学信息科学与工程学院）
本文探讨监督学习模型评估的原则、挑战及实践考虑，分析数据集特性、验证设计、类别不平衡等因素对评估结果的影响，指出常见陷阱并强调选择合适度量标准的重要性。
2026-04-15 cs.AI cs.LG
Evaluating Fair Feature Selection in Machine Learning for Healthcare
University of Hawaii at Manoa（夏威夷大学马诺阿分校）
本文针对医疗机器学习中特征选择可能加剧健康差异的问题，提出一种联合公平性与误差指标的公平特征选择方法，在三个医疗数据集上验证了其能在几乎不损失准确率的情况下提升公平性。
2024-04-01 cs.CY cs.LG
Fast Feature Selection with Fairness Constraints
KTH Royal Institute of Technology（KTH皇家理工学院）；Purdue University（普渡大学）；IBM Research（IBM研究院）；Hasso Plattner Institute（哈索·普拉特纳研究院）；ICSI（国际计算机科学研究所）；UC Berkeley（加州大学伯克利分校）
我们研究的基本问题，选择最佳功能的模型构建。即使使用贪心算法变体，这个问题在大型数据集上也具有计算挑战性。为了解决这一挑战，我们扩展了自适应查询模型，最近提出的贪婪的子模块化功能的前向选择，更快的范式正交匹配追踪非子模块化功能。该算法在自适应查询模型中实现了指数级快速并行运行时间，比以前的工作有更好的扩展性。此外，我们的扩展允许使用向下封闭的约束，它可以用来编码到特征选择过程中的某些公平标准。我们证明强近似保证算法的基础上，标准的假设。这些保证适用于许多参数模型，包括广义线性模型。最后，我们证明了经验，该算法的竞争有利的特征选择的最先进的技术，在现实世界和合成数据集。
2023-02-03 cs.CY cs.LG
The Price equation reveals a universal force-metric-bias law of algorithmic learning and natural selection
Department of Ecology and Evolutionary Biology, University of California, Irvine（生态与进化生物学系，加州大学伊文斯顿分校）
本文通过对Price方程的符号划分，揭示了算法学习与自然选择共享的普适力-度量-偏差定律，将多种优化与学习算法统一为同一底层过程的特例，为跨学科算法设计提供了原则性基础。
2025-10-29 cs.LG q-bio.PE
A Framework for Selection of Machine Learning Algorithms Based on Performance Metrices and Akaike Information Criteria in Healthcare, Telecommunication, and Marketing Sector
本研究针对医疗、电信、营销领域的机器学习应用需求，提出一种基于数据集属性、性能指标与AIC得分的算法选择推荐框架，平衡性能与复杂度，提升真实场景应用效率与准确率，填补自动化模型选择空白。
2025-09-30 cs.AI cs.LG
VTruST: Controllable value function based subset selection for Data-Centric Trustworthy AI
Hewlett Packard Labs（惠普实验室）
针对数据中心型可信AI的多指标权衡需求，提出基于在线价值函数的可控框架VTruST，通过在线正交匹配追踪算法实现训练数据子集选择，在多类数据集上性能优于现有基线，还可提供数据层面的可信性解释。
2024-03-08 cs.LG
Selection of the Best Policy under Fairness Constraints for Subpopulations
Department of Industrial Engineering and Operations Research（工业工程与运营管理系）；Berkeley Artificial Intelligence Research Lab（伯克利人工智能研究实验室）；University of California Berkeley（加州大学伯克利分校）
本文提出在公平性约束下选择最佳政策的问题，设计了满足子群体阈值的算法，并通过实验验证了其效率优势。
2026-05-11 cs.LG
Selection in the Presence of Implicit Bias: The Advantage of Intersectional Constraints
Yale University（耶鲁大学）；CNRS（法国国家科学研究中心）
在招聘、晋升和大学录取等选拔过程中，对候选人的种族、性别或性取向等社会显著属性的隐性偏见会产生持续的不平等，降低决策者的总体效用。干预措施，如鲁尼规则及其推广，这要求决策者选择至少指定数量的个人从每个受影响的群体，已被提出，以减轻在选择隐式偏见的不利影响。最近的工作已经确定，这样的下限约束可以非常有效地提高总效用的情况下，每个人属于最多一个受影响的群体。然而，在一些情况下，个人可能属于多个受影响的群体，因此，由于这种交叉性，面临更极端的隐性偏见。我们考虑独立绘制的效用，并表明，在交叉的情况下，上述非交叉约束只能恢复部分的总效用实现在没有隐含的偏见。另一方面，我们表明，如果一个包括适当的下限约束的交叉点，几乎所有的实用程序实现的情况下，隐式偏差可以恢复。因此，在减少不平等方面，交叉约束可以提供比逐维简化的非交叉方法更大的优势。
2022-06-07 cs.AI cs.CY cs.LG
Empirical Analysis of Model Selection for Heterogeneous Causal Effect Estimation
Mila, Université de Montréal（蒙特利尔大学Mila研究所）；Stanford University（斯坦福大学）
本文针对条件平均处理效应（CATE）估计的模型选择问题，通过AutoML调参和生成式建模引入真实数据集，对多种替代指标进行广泛基准测试，提出了基于超参数选择和因果集成的新策略。
2024-04-29 cs.AI cs.LG stat.ME
Data Selection Strategies for Multi-Domain Sentiment Analysis
Aylien Ltd.（Aylien有限公司）；National University of Ireland, Galway（爱尔兰国立大学戈尔韦分校）
领域自适应在情感分析中是重要的，因为情感指示词在领域之间是变化的。近来，多领域自适应已经变得更加普遍，但是现有的方法训练所有可用的源域，包括不同的源域。然而，选择合适的训练数据与选择算法同样重要。我们进行-我们的知识第一次-广泛的研究领域相似性指标的背景下，情感分析，并提出了新的表示，指标，和一个新的数据选择范围。我们评估了两个大规模的多领域自适应设置的推文和评论，并证明他们一贯优于强随机和平衡的基线，而我们提出的选择策略优于实例级的选择，并产生最好的分数在一个大型的评论语料库。
2017-02-08 cs.CL cs.LG
Joint Selection for Large-Scale Pre-Training Data via Policy Gradient-based Mask Learning
Shanghai Jiao Tong University（上海交通大学）；University of Sydney（悉尼大学）；Sun Yat-sen University Shenzhen Campus（中山大学深圳校区）
DATAMASK通过联合学习优化质量和多样性度量，显著提升大规模预训练数据选择效率和模型性能
2025-12-30 cs.CL cs.LG
Learning a Generic Value-Selection Heuristic Inside a Constraint Programming Solver
Polytechnique Montréal（蒙特利尔理工学院）；Ecole Polytechnique（巴黎综合理工学院）
针对约束规划中通用值选择启发式稀缺的问题，提出结合深度 Q-learning、定制奖励与异构图神经网络的学习流程，在多类图问题上以较少回溯获得接近最优的解。
2023-10-02 cs.AI cs.LG
Subset Selection for Fine-Tuning: A Utility-Diversity Balanced Approach for Mathematical Domain Adaptation
Department of Computer Science and Engineering IIT Bombay（印度理工学院班加罗尔计算机科学与工程系）；Koita Centre for Digital Health IIT Bombay（IIT班加罗尔数字健康中心）
本文提出一种效用-多样性平衡的预算子集选择方法，通过结合困惑度与思维链损失筛选高价值样本并保证数学子领域覆盖，在LLaMA-3 8B和Phi-3上以更低成本实现接近全数据集的微调性能。
2025-05-02 cs.AI cs.LG
Analyzing Similarity Metrics for Data Selection for Language Model Pretraining
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究）
该研究提出评估框架验证了通用现成嵌入模型不适配预训练数据构建场景，其表现弱于同语料训练模型提取的极简嵌入，为预训练专用嵌入设计奠定基础。
2025-10-21 cs.CL cs.LG
Coverage-centric Coreset Selection for High Pruning Rates
University of Michigan（密歇根大学）
一次性核心集选择的目的是选择一个有代表性的子集的训练数据，给定的修剪率，可以稍后用于训练未来的模型，同时保持高精度。国家的最先进的核心选择方法挑选最高的重要性的例子的基础上的重要性度量，并发现在低修剪率表现良好。然而，在高修剪率下，它们遭受灾难性的准确性下降，甚至比随机抽样更糟糕。本文从理论和实证两个方面探讨了这种准确性下降背后的原因。我们首先通过将经典的几何集合覆盖问题扩展为分布覆盖问题，提出了一种新的度量标准来衡量数据集在特定分布上的覆盖。这个度量有助于解释为什么SOTA方法在高修剪率下选择的核心集与随机抽样相比表现不佳，因为数据覆盖率更差。然后，我们提出了一种新的一杆核心选择方法，覆盖率为中心的核心选择（CCS），共同考虑整体数据覆盖率的分布以及每个例子的重要性。我们在五个数据集上评估了CCS，结果表明，在高修剪率下（例如，90%），它实现了比以前的SOTA方法（例如，在CIFAR10上至少高19.56%）以及随机选择（例如，在CIFAR10上高出7.04%），并且在低修剪率下具有相当的准确性。我们在https://github.com/haizhongzheng/Coverage-centric-coreset-selection上公开发布我们的代码。
2023-03-06 cs.AI cs.LG
Subset Selection Based On Multiple Rankings in the Presence of Bias: Effectiveness of Fairness Constraints for Multiwinner Voting Score Functions
TU Berlin（柏林工业大学）；Yale University（耶鲁大学）；Nanjing University（南京大学）
本文研究存在偏差的多排名子集选择问题，证明群体公平性约束可提升选择质量，发现不同多胜者得分函数对排名数量的依赖存在指数与多项式级差异，提出子模函数平滑度概念，可为得分函数选择提供指导和实证工具。
2023-06-16 cs.AI cs.CY cs.DS
Selection as Power: Constrained Reinforcement for Bounded Decision Authority
AI Lab, Grupo Santander Madrid, Spain（Grupo Santander 马德里实验室）
本文提出了一种动态激励性选择治理框架，通过受约束的强化学习方法，在保持有限决策权的同时实现适应性改进。
2026-03-02 cs.AI cs.CE cs.LG
