Feature Selection Methods for Cost-Constrained Classification in Random Forests
TU Dortmund（多特蒙德工业大学）；LMU Munich（慕尼黑大学）
成本敏感的特征选择描述了一个特征选择问题，其中特征提高了包含在模型中的个体成本。这些成本允许在模型选择过程中纳入不受欢迎的特征方面，例如测量器械的故障率或患者伤害。随机森林定义了特征选择的一个特别具有挑战性的问题，因为特征通常纠缠在多棵树的集合中，这使得事后删除特征是不可行的。因此，特征选择方法通常要么专注于简单的预过滤方法，要么需要沿着其优化路径进行许多随机森林评估，这大大增加了计算复杂度。为了解决这两个问题，我们提出了浅树选择，一种新的快速和多变量的特征选择方法，从小树结构中选择特征。此外，我们还通过为每种方法引入超参数控制的效益成本比标准（BCR），将三种标准特征选择算法用于成本敏感学习。在一个广泛的模拟研究中，我们评估这一标准，并比较所提出的方法，以多个基于性能的基线替代四个人工数据设置和七个真实世界的数据设置。我们表明，所有的方法使用超参数化的BCR标准优于基线的替代品。在所提出的方法之间的直接比较中，每种方法都表明了某些设置中的优势，但不存在一刀切的解决方案。在全球平均水平上，我们可以在基于BCR的方法中确定更好的选择。尽管如此，我们得出的结论是，实用分析永远不应仅依赖单一方法，而应始终比较不同的方法以获得最佳结果。
2020-08-17 cs.LG stat.ML
Unsupervised Online Feature Selection for Cost-Sensitive Medical Diagnosis
Indian Institute of Technology Bombay（印度理工学院孟买分校）
在医学诊断中，医生通过检查从一系列测试获得的测量结果（特征）来预测患者的状态，例如，验血验尿然后是侵入性检查由于检验往往费用高昂，人们希望只获得那些能够最终确定国家存在或不存在的特征（检验）。医学诊断的另一个方面是，我们经常面临无监督的预测任务，因为患者的真实状态可能不知道。受这些医疗诊断问题的启发，我们考虑了{ \it成本敏感医疗诊断}（CSMD）问题，其中患者的真实状态是未知的。我们制定的CSMD问题作为一个特征选择的问题，每个测试给出了一个功能，可用于预测模型。我们的目标是学习策略，选择的功能，使准确性和成本之间的最佳权衡。我们利用问题的“弱主导”属性来开发在线算法，这些算法可以识别一组特征，从而在预测成本和准确性之间提供“最佳”权衡，而无需知道医疗状况的真实状态。我们的实证结果验证了我们的算法对现实世界的数据集生成的问题实例的性能。
2019-12-25 cs.AI cs.LG stat.AP
P-CAFE: Personalized Cost-Aware Incremental Feature Selection For Electronic Health Records
Bar-Ilan University（巴伊兰大学）
针对电子健康记录数据稀疏异质及特征成本问题，提出个人化在线成本感知特征选择框架P-CAFE，在预算约束下增量获取最具信息特征，提升诊断置信度并优化资源利用。
2025-08-12 cs.AI
Cost-Sensitive Online Window Size Selection for Portfolio Management
National Tsing Hua University（国立清华大学）
本文提出一个两层框架，通过在线学习动态聚合候选窗口大小的投资组合，并推导成本敏感跟踪遗憾界，以应对市场变化。
2026-09-29 cs.LG math.OC q-fin.PM
Embedded Federated Feature Selection with Dynamic Sparse Training: Balancing Accuracy-Cost Tradeoffs
University of Kentucky（肯塔基大学）
本文提出动态稀疏联邦特征选择（DSFFS），首次将特征选择嵌入联邦学习训练过程，通过动态剪枝与再生长消除无用特征，在九个真实数据集上验证其能更好平衡精度与通信、计算成本。
2025-04-07 cs.LG
Cost-sensitive Feature Selection for Support Vector Machines
Universidad de Sevilla（塞维利亚大学）
本文针对支持向量机提出一种基于数学优化的成本敏感特征选择方法，通过最小化所选特征数量并对假阳性和假阴性率施加约束，在基准数据集上实现了特征数量大幅减少的同时保持期望的误分类权衡。
2024-01-15 cs.LG stat.ML
Cost-constrained multi-label group feature selection using shadow features
Institute of Computer Science - Polish Academy of Sciences（波兰科学院计算机科学研究所）；Department of Artificial Intelligence - Chung-Ang University（中央大学人工智能系）
针对多标签分类中带预算约束的特征组选择问题，提出基于条件互信息与影子特征停止规则的两阶段信息论方法，在 MIMIC 上验证了低预算场景的有效性。
2024-08-03 cs.LG stat.ML
Efficient Test Selection in Active Diagnosis via Entropy Approximation
IBM T.J. Watson Research Center（IBM T.J. Watson研究中心）；U. C. Berkeley（加州大学伯克利分校）
我们考虑的问题，诊断故障的贝叶斯网络表示的系统中，诊断对应于恢复最有可能的状态的未观察到的节点的测试结果（观察到的节点）。在这种情况下，找到一个最佳的测试子集通常是棘手的。我们表明，它是困难的，甚至计算下一个信息量最大的测试使用贪婪的测试选择，因为它涉及到几个熵项的精确计算是棘手的。我们提出了一种近似的方法，利用循环的信念传播基础设施，同时计算近似的边缘和条件熵的多个子集的节点。我们应用我们的方法在计算机网络的故障诊断，并显示该算法是非常有效的现实的互联网拓扑结构。我们还提供了贪婪的测试选择方法的理论依据，以及一些性能保证。
2012-07-04 cs.AI
Statistical Test for Feature Selection Pipelines by Selective Inference
RIKEN（理化学研究所）；Nagoya University（名古屋大学）
本文提出基于选择性推断的统计检验方法，用于评估特征选择流水线的显著性，理论上可控制错误选择概率，并在合成与真实数据上验证了有效性。
2024-10-13 cs.LG stat.ML
A branch-and-bound feature selection algorithm for U-shaped cost functions
本文提出了一个具有下列特征的组合优化问题的公式：（1）搜索空间是布尔格结构的有限集的幂集;（2）当应用于任意格链时，代价函数形成U形曲线。该公式适用于模式识别背景下的特征选择。已知的解决这个问题的方法是分支定界算法和启发式算法，它们部分地探索搜索空间。分支定界算法等价于全搜索，而启发式算法则不是。本文提出了一种分枝定界算法，它通过探索搜索空间的格结构和U形链曲线而不同于其他已知算法。本文的主要贡献是该算法的架构，是基于表示和探索的搜索空间的新格属性证明这里。几个实验，众所周知的公共数据，表明该方法的优越性SFFS，这是一个流行的启发式，在很短的计算时间内给出了良好的结果。在所有的实验中，所提出的方法得到了更好的或相同的结果在相似的或更小的计算时间。
2008-10-30 cs.CV cs.DS cs.LG
Cost-aware Feature Selection for IoT Device Classification
Georgia Institute of Technology（佐治亚理工学院）；Trustwave (Singapore)（Trustwave（新加坡））；TUMCREATE (Singapore)（TUMCREATE（新加坡））；Heriot-Watt University（赫瑞-瓦特大学）；National University of Singapore（新加坡国立大学）
从多个角度来看，将物联网设备分类为不同类型至关重要，包括安全和隐私方面。最近的工作探索了用于对物联网设备进行指纹识别（或分类）的机器学习技术，并取得了可喜的成果。然而，现有的工作已经假设用于构建机器学习模型的特征是容易获得的或者可以容易地从网络流量中提取;换句话说，它们没有考虑与特征提取相关联的成本。在这项工作中，我们采取了一个更现实的方法，并认为特征提取有成本，成本是不同的功能。我们还从当前将误分类损失视为二进制值的做法向前迈出了一步，并根据误分类性能对不同的损失进行论证。因此，更重要的是，我们引入了物联网设备分类风险的概念。我们定义并制定了成本感知物联网设备分类的问题。这是一个组合优化问题，我们开发了一种新的算法来解决它在一个快速和有效的方式使用交叉熵（CE）为基础的随机优化技术。使用真实设备的流量，我们证明了基于CE的算法在选择具有最小误分类风险的特征的同时保持特征提取的成本在指定限制内的能力。
2021-04-21 cs.CR cs.LG cs.NI
Cost-sensitive Hierarchical Clustering for Dynamic Classifier Selection
GE Global Research（通用电气全球研究中心）
我们考虑动态分类器选择（DCS）问题：给定一个分类器集合，我们要根据要分类的特定输入向量选择使用哪个分类器。这个问题是一般算法选择问题的一个特例，在这个问题中，我们有多个不同的算法可以用来处理给定的输入。我们调查，如果开发的一般算法选择命名为成本敏感的层次聚类（CSHC）的方法是适合DCS。我们介绍了一些额外的原始CSHC方法的特殊情况下，选择一个分类算法，并评估其对性能的影响。然后，我们比较了一些国家的最先进的动态分类器选择方法。我们的实验结果表明，我们的修改CSHC算法相比，
2020-12-18 cs.AI cs.LG
AdaStop: Cost-Aware Early Stopping for DNN Test Selection
Independent Researcher（独立研究者）
研究DNN测试中停止问题，提出AdaStop框架，将测试视为成本效益决策过程，通过估计边际故障发现率并与阈值比较决定是否停止标注，实验表明该方法能以较少标注预算发现较多故障。
2026-07-08 cs.AI cs.LG
VOILA: Value-of-Information Guided Fidelity Selection for Cost-Aware Multimodal Question Answering
VOILA通过基于信息价值的自适应保真度选择，在多模态问答中实现成本优化与高精度的平衡。
2026-02-03 cs.AI cs.CV cs.LG
System-Anchored Knee Estimation for Low-Cost Context Window Selection in PDE Forecasting
School of Future Technology, South China University of Technology（华南理工大学未来技术学院）；State Key Laboratory of Ocean Sensing & Ocean College, Zhejiang University（浙江大学海洋学院海洋传感国家重点实验室）；Kavli Institute for Astrophysics and Space Research, Massachusetts Institute of Technology（麻省理工学院卡弗里天体物理与空间研究所）
本文提出SAKE方法，通过系统锚点识别和膝点感知选择，实现低成本上下文窗口选择，提升PDE预测性能。
2026-03-26 cs.AI
Learning to Grade Efficiently: A Bandit-Driven Prompt-Selection Framework for Low-Cost LLM Essay Scoring
Carleton University（卡尔顿大学）
本研究针对自动作文评分的固定提示选择策略成本高的问题，提出多臂老虎机驱动的自适应提示选择框架，在保证准确率的同时减少78.4%的LLM调用，生成成本-可靠性学习曲线，为教育技术平台提供平衡成本与有效性的方案。
2026-08-26 cs.AI cs.CL cs.LG
Compute-Constrained Data Selection
Johns Hopkins University（约翰斯·霍普金斯大学）；Cornell University（康奈尔大学）
本文研究计算预算约束下的数据选择问题，通过成本感知效用函数建模选择与训练的权衡，实验发现廉价数据选择方法通常比昂贵方法更具计算最优性，并给出了困惑度和梯度方法的模型规模比阈值。
2025-04-07 cs.AI cs.CL cs.LG
Hardware Aware Ensemble Selection for Balancing Predictive Accuracy and Cost
Helmholtz-Zentrum Berlin（柏林亥姆霍兹中心）；Humboldt University Berlin（柏林洪堡大学）；University of Freiburg（弗莱堡大学）
针对表格 AutoML 事后集成推理成本高的问题，本文提出硬件感知集成选择方法，在质量多样性优化中同时评估精度与推理效率，并在 83 个分类数据集上验证其可保持竞争力并提升运行效率。
2024-08-05 cs.AI cs.LG
Are Coreset Selection Methods Worth Their Cost?
Shandong University（山东大学）
本研究通过端到端基准测试和预算审计，证明核心集选择方法在固定墙钟时间预算下不优于随机采样或全数据训练，其选择成本无法摊销，评估时忽略选择时间会误导结论。
2026-09-30 cs.AI cs.CV cs.LG
Supervised Learning for Coverage-Directed Test Selection in Simulation-Based Verification
University of Bristol（布里斯托大学）；Infineon Technologies（英飞凌科技）
约束随机测试生成是仿真验证中最常用的激励生成方法之一。随机性导致测试多样性，但测试往往会重复执行相同的设计逻辑。约束被编写（通常是手动编写的）以使随机测试偏向于有趣的、难以达到的和尚未测试的逻辑。然而，随着验证的进展，大多数约束随机测试对功能覆盖率几乎没有影响。如果刺激生成消耗的资源比模拟少得多，那么更好的方法是随机生成大量测试，选择最有效的子集，然后只模拟该子集。本文介绍了一种自动约束提取和测试选择的新方法。这种方法，我们称之为覆盖导向测试选择，是基于覆盖反馈的监督学习。我们的方法偏向于选择具有高概率增加功能覆盖率的测试，并优先考虑它们进行模拟。我们展示了如何覆盖导向的测试选择可以减少手动约束编写，优先有效的测试，减少验证资源消耗，并加速覆盖关闭一个大型的，现实生活中的工业硬件设计。
2022-10-16 cs.AI cs.AR cs.LG
Cost-Effective Online Multi-LLM Selection with Versatile Reward Models
The Chinese University of Hong Kong（香港中文大学）；Southeast University（东南大学）；Carnegie Mellon University（卡内基梅隆大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）
本文提出C2MAB-V在线组合多臂老虎机框架，利用反馈、置信界与松弛舍入方法，在多LLM组合选择中平衡奖励、成本和约束，并给出理论保证与实验验证。
2024-10-02 cs.AI cs.HC cs.LG
Prediction of Construction Cost for Field Canals Improvement Projects in Egypt
Zagazig University（宰加济格大学）
农田运河改善项目（FCIP）是为节约淡水而建造的雄心勃勃的项目之一。为了为该项目融资，概念成本模型对于在项目早期准确预测初步成本非常重要。第一步是建立一个概念性的成本模型，以确定影响项目的主要成本驱动因素。因此，输入变量的选择仍然是模型开发的重要组成部分，因为糟糕的变量选择会降低模型的精度。该研究发现了基于定性方法和定量方法的FCIP最重要的驱动因素。随后，本研究发展了一个基于机器学习方法的参数成本模型，如回归方法，人工神经网络，模糊模型和基于案例的推理。
2019-05-20 cs.AI cs.LG stat.ML
A Portfolio Approach to Algorithm Selection for Discrete Time-Cost Trade-off Problem
University of Arizona（亚利桑那大学）
这是一个众所周知的事实，优化算法的性能NP难问题的不同实例。我们观察到同样的趋势时，我们全面研究了多目标进化算法（MOEAs）的六个基准实例的离散时间成本权衡问题（DTCTP）的建设项目。在本文中，而不是使用一个单一的算法来解决DTCTP，我们使用的组合方法，需要多个算法作为其组成部分。我们提出了四个MOEA的组合，非支配排序遗传算法II（NSGA-II），强度Pareto进化算法II（SPEA-II），Pareto存档进化策略（PAES）和小生境Pareto遗传算法II（NPGA-II）来解决DTCTP。结果表明，投资组合的方法是计算速度快，定性优于其组成算法的所有基准实例。此外，投资组合的方法提供了一个洞察力，在选择最好的算法的所有基准实例的DTCTP。
2017-08-10 cs.AI
Cost-efficient Crowdsourcing for Span-based Sequence Labeling: Worker Selection and Data Augmentation
School of Computer and Information Technology, Beijing Jiaotong University（北京交通大学计算机与信息技术学院）；Institute for Interdisciplinary Information Sciences, Tsinghua University（清华大学交叉信息研究院）；School of Information Science, Beijing Language and Culture University（北京语言大学信息科学学院）；Department of Computer Science, The University of California, Davis（加州大学戴维斯分校计算机科学系）
本文提出一种基于CMAB的众包工作者选择算法及SES数据增强方法，有效应对序列标注中的标签依赖问题，在提升F1分数的同时大幅降低成本，并可无缝集成至RLHF系统。
2024-07-27 cs.AI cs.CL
Handoff Curves: Initial Selection, Later Handoff, and Supervision Targets in Multi-turn LLM Routing
Huawei Technologies（华为技术有限公司）
该研究针对多轮LLM路由，通过切换曲线分析初始选择、后续切换及监督目标的影响，发现调整监督目标可提升路由性能，在线部署的路由解决了79%的实例且成本可控。
2026-10-14 cs.AI
Unit Selection: Case Study and Comparison with A/B Test Heuristic
University of California Los Angeles（加州大学洛杉矶分校）
Li和Pearl定义的单位选择问题确定了具有期望的反事实行为模式的个体，例如，如果受到鼓励，个体会积极响应，否则不会。Li和Pearl通过实例说明了他们的单元选择模型是超越A/B检验的。本文揭示了A/B检验算法的本质，它是Li和Pearl定义的效益函数的特例。此外，我们提供了更多的模拟使用情况下，李珍珠的单元选择模型，以帮助决策者正确地应用他们的模型，说明A/B测试的技巧，通常是有问题的。
2022-10-10 cs.AI cs.DM
MetaNet: Automated Dynamic Selection of Scheduling Policies in Cloud Environments
Imperial College London（伦敦帝国理工学院）；Loughborough University（拉夫堡大学）
在优化云计算环境的服务质量（QoS）的背景下，任务调度是被充分研究的问题。为了维持计算需求的快速增长，云计算器最重要的QoS指标之一是执行成本。在这方面，近年来已经提出了几种基于数据驱动的深度神经网络（DNN）的调度器，以允许在动态工作负载设置中进行可扩展和有效的资源管理。然而，最佳调度通常依赖于复杂的DNN，其具有高计算需求，这意味着更高的执行成本。此外，即使在非静止环境中，也可能不总是需要复杂的过滤器，为了成本效益，我们可以暂时依靠低成本的过滤器。因此，这项工作的目的是解决非平凡的Meta问题的调度策略的在线动态选择使用一个代理模型称为MetaNet。与具有固定调度策略的传统解决方案不同，MetaNet在运行中从大量基于DNN的方法中选择调度器，以同时优化任务调度和执行成本。与最先进的DNN路由器相比，这使得执行成本、能耗、响应时间和违反服务级别协议的情况分别降低了11%、43%、8%和13%。
2022-05-21 cs.AI cs.DC
Adaptive Learn-then-Test: Statistically Valid and Efficient Hyperparameter Selection
King’s College London（伦敦国王学院）
提出自适应先学习后测试（aLTT）方法，利用e-processes实现序列数据依赖型多重假设检验与提前终止，在保证统计有效性的同时大幅减少测试轮数，有效降低AI模型超参数选择的成本与安全风险。
2025-01-31 cs.AI cs.IT cs.LG
Reinforcement Learning for Automatic Test Case Prioritization and Selection in Continuous Integration
Simula Research Laboratory（西姆拉研究实验室）；University of Stavanger（斯塔万格大学）；ABB Robotics（ABB机器人公司）
持续集成（CI）中的测试包括测试用例的优先级排序、选择和每个周期的执行。如果对提交的代码更改的影响存在不确定性，或者如果代码和测试之间的可跟踪性链接不可用，则很难选择最有希望的测试用例来检测错误。本文介绍了Retecs，一种自动学习CI中测试用例选择和优先级排序的新方法，其目标是最大限度地减少代码提交和开发人员对失败测试用例的反馈之间的往返时间。Retecs方法使用强化学习来根据测试用例的持续时间、前一次执行和失败历史来选择测试用例并对其进行优先级排序。在一个不断变化的环境中，新的测试用例被创建，过时的测试用例被删除，Retecs方法学会优先考虑容易出错的测试用例更高的奖励功能的指导下，并通过观察以前的CI周期。通过将Retecs应用于从三个工业案例研究中提取的数据，我们首次证明了强化学习能够在CI和回归测试中实现富有成效的自动自适应测试用例选择和优先级排序。
2018-11-09 cs.AI cs.NE cs.SE
Who Benefits from AI? Self-Selection, Skill Gap, and the Hidden Costs of AI Feedback
D'Amore-McKim School of Business, Northeastern University（德阿莫-麦克金商学院，东北大学）
研究探讨了个体在AI反馈中的自我选择行为如何影响学习效果和群体结果，发现高技能个体更倾向于使用AI反馈，导致技能差距扩大和智力多样性下降。
2026-04-20 cs.AI cs.HC econ.GN
