Adaptive Sampling for Heterogeneous Rank Aggregation from Noisy Pairwise Comparisons
University of Virginia(弗吉尼亚大学);University of California, Los Angeles(加州大学洛杉矶分校);California Institute of Technology(加州理工学院)
在异质等级聚合问题中,用户在比较项目对时往往表现出不同的准确度水平。因此,对用户的统一查询策略可能不是最佳的。为了解决这个问题,我们提出了一个基于淘汰的主动抽样策略,估计排名的项目,通过嘈杂的成对比较,从用户和提高用户的平均精度,通过保持一个活跃的用户集。我们证明了我们的算法可以返回的真实排名的项目以高概率。我们还提供了一个样本的复杂性界所提出的算法,这是优于文献中的非主动策略。实验表明,所提出的方法的经验优势,在国家的最先进的基线。
2021-10-08 cs.LG
AI-Assisted Tumor-Growth Law Discovery from Sparse Data: Refitting and LLM-Based Ranking
University of Oklahoma(俄克拉荷马大学)
本研究提出含符号回归、系数重拟合及LLM排序的AI辅助工作流,用合成Gompertz数据验证,发现经典非线性最小二乘重拟合可减小生长规律误差,LLM排序无一致改进且存数学推理错误,强调需结合数学有效性与预测性能评估生长规律。
2026-10-14 cs.LG
Top $K$ Ranking for Multi-Armed Bandit with Noisy Evaluations
Meta AI;CREST, ENSAE(法国国立统计与经济管理学院经济与统计研究中心);Core Data Science, Meta(Meta核心数据科学部)
我们考虑一个多臂的强盗设置,在每一轮开始时,学习者收到嘈杂的独立,并可能有偏见,\emph{evaluations}的真实奖励的每个手臂,它选择$K$武器的目标是积累尽可能多的奖励超过$T$轮。假设在每一轮,每个手臂的真正奖励是从一个固定的分布,我们得出不同的算法方法和理论保证,这取决于如何产生的评价。首先,我们显示了$\widetilde{O}(T^{2/3})$遗憾在一般情况下,当观察功能是一个genearized的线性函数的真实回报。另一方面,我们表明,一个改进的$\widetilde{O}(\sqrt{T})$遗憾时,观察功能是噪声的线性函数的真实回报。最后,我们报告了一个实证验证,证实了我们的理论研究结果,提供了一个彻底的比较替代方法,并进一步支持这种设置在实践中的利益。
2022-04-12 cs.LG stat.ML
Learning from Long-Tailed Noisy Data with Sample Selection and Balanced Loss
National Key Laboratory for Novel Software Technology(新型软件技术国家重点实验室);Nanjing University(南京大学)
本文针对现实数据中长尾分布与标签噪声并存的问题,提出一种结合样本选择和基于模型偏差的平衡损失的半监督学习方法,在多个基准上取得优于现有方法的性能。
2023-05-28 cs.LG
Supervised Feature Subset Selection and Feature Ranking for Multivariate Time Series without Feature Extraction
NEC Laboratories America(美国NEC实验室)
我们介绍了多变量时间序列(MTS)分类的监督特征排序和特征子集选择算法。与大多数现有的监督/无监督MTS的特征选择算法,我们的技术不需要一个特征提取步骤,从时间序列生成一个一维的特征向量。相反,它是基于直接计算单个时间序列之间的相似性,并评估产生的聚类结构与标签的匹配程度。该技术适用于异构MTS数据,其中时间序列测量可能具有不同的采样分辨率,以及多模态数据。
2020-05-01 cs.LG stat.ML
Ranking and Selection as Stochastic Control
Peking University(北京大学);Colorado State University(科罗拉多州立大学);George Mason University(乔治梅森大学);University of Maryland(马里兰大学)
在贝叶斯框架下,我们制定了完全序贯抽样和选择决策的统计排名和选择作为一个随机控制问题,并推导出相关的贝尔曼方程。利用价值函数近似,我们得到了一个近似最优分配策略。我们证明了这种策略不仅计算效率高,而且对于独立正态抽样分布具有一步前进性和渐近最优性。此外,建议的分配政策是很容易推广的近似动态规划范例。
2017-10-07 cs.LG stat.ML
Mitigating Memorization in Sample Selection for Learning with Noisy Labels
Pohang University of Science and Technology(浦项科技大学);Seoul National University of Science and Technology (SeoulTech)(首尔国立科技大学(首尔科技大学))
由于深度学习容易受到噪声标签的影响,因此仅使用干净标记数据训练网络的样本选择技术引起了极大的关注。然而,如果标签被少数类别占主导地位,这些噪声样本被称为显性噪声标记样本,网络也通过内容感知优化快速学习显性噪声标记样本。在这项研究中,我们提出了一个令人信服的标准,惩罚显性噪声标记的样本集中通过类明智的惩罚标签。通过对每个观察到的标签的预测置信度进行平均,我们获得了合适的惩罚标签,如果标签在很大程度上被某些类别损坏,则这些标签具有较高的值。使用基准测试(CIFAR-10,CIFAR-100,Tiny-ImageNet)和真实世界的数据集(ANIMAL-10 N,Clothing 1 M)进行实验,以评估在不同噪声率的各种场景下提出的标准。使用所提出的样本选择,网络的学习过程变得显着鲁棒的噪声标签相比,现有的方法在几种噪声类型。
2021-07-08 cs.LG
Fair Ranking with Noisy Protected Attributes
Yale University(耶鲁大学)
公平排序问题,要求排序一组给定的项目,以最大限度地提高效用受组公平性约束,已受到关注的公平性,信息检索,和机器学习文献。然而,最近的作品,观察到社会显着(包括受保护)的项目属性的错误可以显着破坏现有的公平排名算法的公平性保证,并提出减轻这种错误的影响的问题。我们研究了一个模型下的公平排名问题,其中项目的社会显着属性是随机和独立扰动。我们提出了一个公平的排名框架,它结合了群体公平性的要求,以及社会显着的属性扰动的概率信息。我们提供可证明的保证,我们的框架实现的公平性和效用,并表明这是信息理论上不可能显着击败这些保证。我们的框架适用于多个非不相交的属性和一般类的公平性约束,包括比例和平等的代表性。从经验上讲,我们观察到,与基线相比,我们的算法输出具有更高公平性的排名,并且与基线相比具有类似或更好的公平性-效用权衡。
2022-11-30 cs.CY cs.DS cs.IR
Minimax Rates and Efficient Algorithms for Noisy Sorting
Massachusetts Institute of Technology(麻省理工学院)
最近,人们对研究基于排列的模型的兴趣激增,用于从成对比较数据中进行排名。尽管基于置换的模型在结构上比参数排名模型更丰富和更鲁棒,但在统计学上理解得不太好,并且通常缺乏有效的学习算法。在这项工作中,我们研究了一个原型的置换为基础的排名模型,即噪声排序模型。我们建立了两种抽样程序下模型的最优学习率。此外,我们提供了一个快速算法,以达到接近最佳的利率,如果观察独立采样。一路上,我们发现了对称群的性质,这是理论上的兴趣。
2017-10-28 cs.LG math.ST stat.ML
Inferring object rankings based on noisy pairwise comparisons from multiple annotators
对一组对象进行排序涉及建立允许在该组中的任何一对对象之间进行比较的顺序。通常情况下,由于排名顺序的基础事实不可用,研究人员求助于从多个注释者获得判断,然后基于人群的集体知识推断基础事实。然而,聚合通常是特设的,并且涉及在推断基本事实(例如,多数票)时强加严格的假设。在这项工作中,我们提出了基于期望最大化(EM)的算法,该算法依赖于多个注释者和对象属性的判断来推断潜在的地面真相。该算法学习潜在的地面实况和对象属性之间的关系,以及注释器特定的翻转概率,这是评估注释器质量的一个指标。我们进一步扩展了期望最大化算法,以允许基于手头的对象对的可变翻转概率。我们测试我们的算法在两个数据集与合成注释和研究的影响,注释质量和数量的推断地面真相。我们还获得了其他两个数据集上的结果,并根据数据特征解释了输出趋势。
2016-12-13 cs.LG stat.ML
SPSA-FSR: Simultaneous Perturbation Stochastic Approximation for Feature Selection and Ranking
RMIT University(皇家墨尔本理工大学);Yildiz Technical University(耶尔德兹技术大学)
这份手稿介绍了以下内容:(1)用于机器学习中特征选择的二元同时扰动随机逼近(SPSA)方法的改进版本(Aksakalli和Malekipirbazari,Pattern Recognition Letters,第75卷,2016年)基于通过Barzilai和Borwein(BB)方法计算的非单调迭代增益,(2)其对特征排序的适应,以及(3)在公共基准数据集上与流行方法的比较。改进的方法,我们称之为SPSA-FSR,大大减少了收敛所需的迭代次数,而不影响解决方案的质量。SPSA-FSR可用于分类和回归问题的特征排序和特征选择。在回顾了当前最先进的技术之后,我们详细讨论了我们的改进,并提出了三组计算实验:(1)SPSA-FS作为(包装器)特征选择方法与顺序方法以及遗传算法的比较,(2)SPSA-FS作为分类设置中的特征排序方法与随机森林重要性、卡方和信息主方法的比较,以及(3)SPSA-FS作为回归设置中的特征排序方法与最小冗余最大相关(MRMR)、RELIEF和线性相关方法的比较。我们使用的数据集中的特征数量从几十到几千不等。我们的研究结果表明,SPSA-FS收敛到一个很好的功能集在不超过100次迭代,因此它是相当快的包装方法。在大多数测试用例中,SPSA-FS的性能也优于流行的特征选择和特征排序方法,有时甚至是大幅度的,它是一种有前途的新特征选择和排序方法。
2018-04-16 cs.LG stat.ML
Benchmarking on Tasks That Matter: Dataset Selection for Preserving Model Rankings
Applied AI Institute Moscow(莫斯科应用人工智能研究所)
提出一个框架,通过评估不同选择策略如何保持全局模型排名,从大量数据集中选择代表性子集,并利用自举聚合提供置信区间。在时间序列分类和NLP基准上,简单策略如FAFI优于随机选择;在推荐系统中改进不显著。
2026-06-29 cs.LG stat.ML
Copula for Instance-wise Feature Selection and Ranking
Baidu Research(百度研究院)
针对现有实例级特征选择方法忽略特征间依赖性的问题,提出将Gaussian copula融入当前框架以捕获变量相关性,实验证明该方法能有效捕获有意义的相关性并提升性能与可解释性。
2023-08-01 cs.AI cs.CV cs.LG
Ranking-and-Selection with Multiple Correct Answers and Non-Answerable Estimates
Dept. of Industrial Engineering and Decision Analytics, The Hong Kong University of Science and Technology(香港科技大学工业工程与决策分析系)
针对答案可能不唯一且噪声估计可能暂时无有效答案的结构化排序与选择问题,提出基于答案接受集、受限广义似然比停止和答案陷阱分解的统一框架,并设计ENDS算法,通过数值实验验证其有效性。
2026-06-23 cs.LG stat.ML
Non-convex Regularizations for Feature Selection in Ranking With Sparse SVM
Institut de Recherche en Informatique de Toulouse(图卢兹计算机科学研究所);CNRS(法国国家科学研究中心);Université de Toulouse(图卢兹大学);Nomao SA(Nomao公司);Laboratoire Lagrange(拉格朗日实验室);Université de Nice-Sophia Antipolis(尼斯-索菲亚·安提波利斯大学);INSA de Rouen(鲁昂国立应用科学学院);Institut de Mathématiques de Toulouse(图卢兹数学研究所);Institut Universitaire de Formation de Maîtres(大学教师培训学院)
学习排序中的特征选择是一个重要的问题。虽然已经提出了几种预处理方法,但只有少数作品专注于将特征选择集成到学习过程中。在这项工作中,我们提出了一个通用的框架,特征选择在学习排序使用SVM与稀疏正则项。我们研究了经典的凸正则化,如$\ell\_1$或加权$\ell\_1$和非凸正则化项,如对数罚,极小极大凹罚(MCP)或$\ell\_p$伪范数与$p\textless{}1$。提出了两种算法,第一种是求解凸问题的加速近似方法,第二种是求解非凸正则化问题的加权$\ell\_1$方法。我们从Letor 3.0和Letor 4.0语料库的九个数据集进行密集的实验。数值结果表明,使用非凸正则化,我们建议导致更稀疏的模型,同时保持预测性能。与$\ell\_1$正则化相比,特征的数量减少了六倍。此外,该软件在网上公开提供。
2015-07-02 cs.LG
Optimal Decision Tree and Adaptive Submodular Ranking with Noisy Outcomes
Cornell University(康奈尔大学);Midpoint Markets(中点市场公司);University of Michigan(密歇根大学);Carnegie Mellon University(卡内基梅隆大学)
本文研究带噪声结果的最优决策树问题,提出近似算法处理持续性噪声,保证几乎最优,并在有毒化学物质识别和线性分类器学习实验中验证其成本接近信息论下界。
2024-07-31 cs.LG stat.ML
Bipartite ranking algorithm for classification and survival analysis
MetaPattern
独立构建的单变量预测器的无监督聚合被探索作为噪声,稀疏数据集的另一种正则化方法。介绍了实现该方法的二分排序算法Smooth Rank。该算法的优点证明了两种类型的问题。首先,平滑排序被应用于生物医学领域的两类问题,其中排序往往比分类更可取。与具有径向和线性内核的SVM相比,Smooth Rank在12个基准测试中的8个上具有最佳性能。第二个应用领域是生存分析,这是减少在这里的方式,允许一个使用普遍接受的方法性能的措施,以二分排名。在将Smooth Rank与Cox PH回归和CoxPath方法进行比较时,Smooth Rank在10个基准数据集中的9个上被证明是最好的。
2011-12-08 cs.LG
Online Multi-Label Classification under Noisy and Changing Label Distribution
School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机与信息工程学院);School of Computing, National University of Singapore(新加坡国立大学计算学院)
针对多标签数据流中噪声标签与标签分布变化问题,提出NCLD算法,通过局部特征图重建标签评分、无偏排序损失和分布变化检测实现鲁棒的在线多标签分类。
2024-10-03 cs.AI cs.LG
Ranking to Learn: Feature Ranking and Selection via Eigenvector Centrality
University of Glasgow(格拉斯哥大学);University of Verona(维罗纳大学)
在一个积累数据很容易,存储数据也很便宜的时代,特征选择在帮助减少大量无意义数据的高维性方面起着核心作用。在本文中,我们提出了一个基于图的方法特征选择,排名功能,确定最重要的到任意一组线索。将问题映射到亲和图上-其中特征是节点-通过一些中心性指标,特别是特征向量中心性(EC)来评估节点的重要性,从而给出解决方案。EC的要点是估计作为其邻居的重要性的函数的特征的重要性。排名中心节点个性化的候选功能,这是从分类的角度来看,证明了一个彻底的实验部分是有效的。我们的方法已经在最近文献中的7个不同数据集上进行了测试(例如,生物数据和对象识别等),并与过滤器、嵌入式和包装器方法进行比较。结果是显着的准确性,稳定性和低执行时间。
2017-04-18 cs.CV cs.LG stat.ML
Improving random walk rankings with feature selection and imputation
University of Texas at Austin(德克萨斯大学奥斯汀分校)
Science 4cast竞赛包括预测语义网络中的新链接,每个节点代表一个概念,每个边代表一个链接,该链接由一篇涉及两个概念的论文提出。该网络包含1994-2017年的信息,并以天数(代表基础论文的出版日期)进行离散化。团队Hash Brown的最终提交,\emph{ee5a},在测试集上获得了0.92738的分数。我们队的分数排名\emph{second place},比冠军的分数低0.01。本文详细介绍了我们的模型、它的直觉以及它的变体在测试集中的性能。
2021-11-29 cs.LG cs.SI
Subset Selection Based On Multiple Rankings in the Presence of Bias: Effectiveness of Fairness Constraints for Multiwinner Voting Score Functions
TU Berlin(柏林工业大学);Yale University(耶鲁大学);Nanjing University(南京大学)
本文研究存在偏差的多排名子集选择问题,证明群体公平性约束可提升选择质量,发现不同多胜者得分函数对排名数量的依赖存在指数与多项式级差异,提出子模函数平滑度概念,可为得分函数选择提供指导和实证工具。
2023-06-16 cs.AI cs.CY cs.DS
Accelerating Benchmarking of Functional Connectivity Modeling via Structure-aware Core-set Selection
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院);Chongqing Key Laboratory of Brain-Inspired Cognitive Computing and Educational Rehabilitation for Children with Special Needs, Chongqing Normal University(重庆脑启发认知计算与特殊需要儿童教育康复重点实验室,重庆师范大学);College of Computer and Information Science, Chongqing Normal University(重庆师范大学计算机与信息科学学院)
本文提出SCLCS方法,通过结构感知对比学习选择核心集,提升大规模功能连接建模方法的基准测试效率。
2026-02-05 cs.LG
Decoy Selection for Protein Structure Prediction Via Extreme Gradient Boosting and Ranking
George Mason University(乔治梅森大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
从数以百万计的非天然诱饵中识别一个或多个生物活性/天然诱饵是计算结构生物学中的主要挑战之一。诱饵集合中的阳性和阴性样本(原生和非原生诱饵)的极度缺乏平衡使得问题更加复杂。共识方法在处理诱饵选择的挑战方面取得了不同的成功,尽管与聚类大诱饵集和没有显示出太多结构相似性的诱饵集相关的一些问题。最近的调查显示,基于能量消耗的诱饵选择方法的承诺。然而,缺乏泛化能力的各种测试用例仍然是这些方法的瓶颈。我们提出了一种新的诱饵选择方法,ML-Select,一个机器学习框架,利用与结构空间相关的能量景观探测通过无模板诱饵生成。所提出的方法优于聚类和基于能量排名的方法,同时始终提供更好的性能在不同的测试用例。此外,ML-Select显示出有前途的结果,即使是诱饵集组成的大多是低质量的诱饵。ML-Select是一种有效的诱饵选择方法。这项工作建议进一步研究,以寻找更有效的方法来采用机器学习框架,在无模板蛋白质结构预测中实现诱饵选择的鲁棒性能。
2020-10-03 cs.LG q-bio.BM
Variable Selection Using Relative Importance Rankings
Institute of Industrial Engineering, National Taiwan University(国立台湾大学工业工程研究所)
本文探讨了利用相对重要性分析进行变量或特征排名及过滤式选择的方法,提出改进的CRI.Z指标,通过模拟和基因表达数据验证其在高相关预测器簇中的有效性,展示了其在变量选择中的竞争力。
2026-04-12 cs.LG stat.ML
Ranking-based Client Selection with Imitation Learning for Efficient Federated Learning
University of Macau(澳门大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Electronic Science and Technology of China(电子科技大学)
本文提出 FedRank,将联邦学习客户端选择建模为排序问题,利用成对训练和模仿学习预训练,在数据与系统异构环境下提升准确率、收敛速度并降低能耗。
2024-05-07 cs.DC cs.LG
No Regret Sample Selection with Noisy Labels
RIKEN AIP(日本理化学研究所革新智能统合研究中心);Kyushu University(九州大学)
深度神经网络(DNN)由于过度拟合的风险而受到噪声标记数据的影响。为了避免这种风险,本文提出了一种新的DNN训练方法,该方法基于自适应k集选择,从每个时期的全部n个噪声训练样本中选择k(< n)个干净的样本候选。它具有很强的优势,从理论上保证了选择的性能。粗略地说,一个遗憾,这是由实际选择和最佳选择之间的差异,所提出的方法是理论上有界的,即使最佳选择是未知的,直到所有的时代结束。在多个噪声标记数据集上的实验结果表明,我们的样本选择策略在DNN训练中有效;事实上,所提出的方法在最先进的方法中实现了最佳或第二佳性能,同时需要显着降低计算成本。该代码可在https://github.com/songheony/TAkS上获得。
2021-04-04 cs.LG stat.ML
Top-K Ranking Deep Contextual Bandits for Information Selection Systems
DEVCOM Army Research Laboratory(美国陆军研究实验室);University of Maryland(马里兰大学)
在当今的技术环境中,信息是丰富的,动态的,和异构的性质。信息的自动过滤和优先级排序是基于信息是否为目标增加了实质性价值之间的区别。上下文多臂强盗已被广泛用于学习根据用户兴趣或相关性过滤内容和优先级。学习排名技术优化了项目的相关性排名,允许相应地选择内容。我们提出了一种新的方法,top-K排名的上下文多臂强盗框架下。我们用神经网络对随机奖励函数进行建模,以允许非线性近似来学习奖励和上下文之间的关系。我们展示了这种方法,并评估了在模拟场景中使用真实世界数据集从实验中学习的性能。实验结果表明,该方法在复杂的奖励结构和高维的上下文特征下表现良好。
2022-01-28 cs.IR cs.LG
Bi-objective Ranking and Selection Using Stochastic Kriging
Ghent University(根特大学);Hasselt University(哈塞尔特大学);Warwick University(华威大学)
本文针对双目标排序与选择问题,提出一种基于随机克里金的贝叶斯顺序采样方法,通过可靠预测目标结果并智能分配额外样本,显著降低帕累托最优解识别中的误分类错误,实验证明其优于标准方法和现有最先进算法。
2024-03-28 cs.LG stat.ML
Towards Feature Selection for Ranking and Classification Exploiting Quantum Annealers
Politecnico di Milano(米兰理工大学);ContentWise;Università degli Studi di Padova(帕多瓦大学)
特征选择是许多排序、分类或预测任务中的常见步骤,并且用于许多目的。通过去除冗余或噪声特征,可以提高排名或分类的准确性,并且可以降低后续学习步骤的计算成本。然而,特征选择本身可能是计算上昂贵的过程。虽然几十年来量子计算仅限于理论算法论文,但现在量子计算正成为解决现实问题的可行工具,特别是基于量子退火范式的专用求解器。本文旨在探索使用当前可用的量子计算架构来解决一些用于排序和分类的二次特征选择算法的可行性。实验分析包括15个最先进的数据集。量子计算硬件获得的有效性与经典求解器相当,这表明量子计算机现在足够可靠,可以解决有趣的问题。在可扩展性方面,当前一代量子计算机能够提供比某些经典算法有限的加速,并且混合量子-经典策略对于超过一千个特征的问题显示出较低的计算成本。
2022-05-09 cs.IR cs.LG quant-ph
Multipartite Ranking-Selection of Low-Dimensional Instances by Supervised Projection to High-Dimensional Space
Australian National University(澳大利亚国立大学);Commonwealth Scientific and Industrial Research Organisation(联邦科学与工业研究组织)
删除冗余或不相关的数据实例是模式识别每个成功解决方案的关键。在本文中,我们提出了一种新的排序选择框架的长度短,但高度相关的情况下。我们不是在低维实例空间中工作,而是学习到由所研究的数据集中的类数量所跨越的高维空间的监督投影。通过将标签的概念暴露给实例来施加更高的区别,让我们为每个单独的类部署一个与所有的排名,并通过对整体分数的自适应阈值来选择质量实例。为了证明我们的范例的效率,我们采用它的纹理理解的目的,这是一个很难识别的挑战,由于纹理像素的高相似性和低维度的颜色特征。我们的实验表明,在几个公开的数据集上,识别性能比其他本地描述符有相当大的提高。
2016-06-24 cs.CV cs.LG stat.ML
Ranking and Selection with Simultaneous Input Data Collection
School of Industrial and Systems Engineering(工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院)
针对流式输入数据下的排序与选择问题,提出聚合异构仿真输出的性能估计量与多阶段同步预算分配程序,并证明其统计保证和优良数值表现。
2025-03-14 cs.LG math.OC stat.ML
Sample-Efficient "Clustering and Conquer" Procedures for Parallel Large-Scale Ranking and Selection
Guanghua School of Management, Peking University, Beijing 100871, China(北京大学光华管理学院)
本文提出一种高效的并行大规模排序与选择方法,通过引入聚类步骤提升样本效率,适用于大规模AI应用。
2026-10-08 cs.LG stat.ME
AlphaRank: An Artificial Intelligence Approach for Ranking and Selection Problems
Wuhan Institute of Artificial Intelligence(武汉人工智能研究院);Peking University(北京大学);Xiangjiang Laboratory(湘江实验室);Fudan University(复旦大学)
针对固定预算排序与选择问题,研究提出AlphaRank方法,结合蒙特卡洛rollout策略、深度强化学习预训练及并行分治递归框架,实现了优于经典基础策略的性能。
2024-02-01 cs.LG stat.ME
Refining Alignment Framework for Diffusion Models with Intermediate-Step Preference Ranking
Shanghai Jiao Tong University(上海交通大学);Huawei Inc(华为公司)
本文针对扩散模型偏好对齐中中间步骤标签一致假设的问题,提出TailorPO框架,通过逐步奖励排序和梯度引导提升对齐效果,显著改善生成图像质量。
2025-02-01 cs.AI cs.LG
When to Truncate a Feature Ranking: A Residual-Overlap Stopping Rule for Subset Selection
School of Engineering Pablo de Olavide University(巴勃罗·德·奥拉维德大学工程学院)
提出一种基于残差重叠的停止规则,通过Bhattacharyya系数衡量类别分离,自动确定特征排序的截断点,在保持预测性能的同时大幅减少特征数量。
2026-07-01 cs.AI cs.LG
Noisy Nonreciprocal Pairwise Comparisons: Scale Variation, Noise Calibration, and Admissible Ranking Regions
本文研究非互易成对比较中的尺度变化与噪声影响,提出加法模型以估计噪声水平并评估可接受排名区域,与传统投影方法对比。
2026-04-06 cs.IT cs.LG math.IT
An information theoretic approach to quantify the stability of feature selection and ranking algorithms
Maynooth University(梅努斯大学)
本文提出基于Jensen Shannon散度的信息论度量,用于量化特征选择与排序算法的稳定性,支持完整、部分排序及子集结果,并在真实食品质量数据上验证其有效性。
2024-02-07 cs.AI cs.LG
Elastic Net based Feature Ranking and Selection
Communication University of China(中国传媒大学);Guangzhou First People’s Hospital(广州市第一人民医院);South China University of Technology(华南理工大学);Xidian University(西安电子科技大学);Stanford University(斯坦福大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
特征选择在数据表示和智能诊断中具有重要意义。弹性网络是使用最广泛的特征选择器之一。然而,所选择的特征依赖于训练数据,并且如果用于特征排名,则专用于正则化回归的特征的权重与其重要性无关,这降低了模型的可解释性和可扩展性。本文在多次数据分裂和基于弹性网的特征选择的基础上,提出了一种直观的思想。它关注所选特征的频率,并使用频率作为特征重要性的指标。在特征根据其频率排序之后,线性支持向量机以增量方式执行分类。最后,通过比较预测性能,选择一个紧凑的区分性特征子集。在乳腺癌数据集(BCDR-F03,WDBC,GSE 10810和GSE 15852)上的实验结果表明,所提出的框架实现了与弹性网络竞争或优于弹性网络的性能,并且具有一致的较少特征选择。如何进一步提高其在高维小样本数据集上的一致性,是今后工作中值得关注的问题。拟议框架可在线查阅(https://github.com/NicoYuCN/elasticnetFR)。
2020-12-30 cs.LG eess.SP
Series Expansion of Probability of Correct Selection for Improved Finite Budget Allocation in Ranking and Selection
PKU-Wuhan Institute for Artificial Intelligence(北大-武汉人工智能研究院);Guanghua School of Management, Peking University(北京大学光华管理学院);Xiangjiang Laboratory(湘江实验室);Inria(法国国家信息与自动化研究所);Univ Rennes(雷恩大学);CNRS(法国国家科学研究中心);IRISA(法国信息与随机系统研究所)
本文通过开发Bahadur-Rao型展开改进了排序与选择中有限样本下的正确选择概率(PCS)近似,提出了序贯估计最优性条件的有限预算分配(FCBA)策略,并解决了低置信度场景下PCS非单调性问题。
2024-11-16 cs.LG math.OC stat.ML
Drug Selection via Joint Push and Learning to Rank
Georgia Institute of Technology(佐治亚理工学院);Twentieth Century Fox(二十世纪福克斯公司);Starfleet Academy(星际舰队学院);Indiana University - Purdue University Indianapolis(印第安纳大学-普渡大学印第安纳波利斯分校)
针对精准医学中的癌症药物选择问题,提出结合推送约束与基因组信息的排序学习方法pLETORg,在基准数据集上的敏感药物优先级排序性能优于现有最优方法。
2018-05-18 cs.LG stat.ML
Robust Checkpoint Selection for Multimodal LLMs via Agentic Evaluation and Stability-Aware Ranking
Meta AI
本文提出了一种多阶段框架,结合了精心挑选的现实世界数据、结构化的LLM判断和多阶段排名协议,以解决多模态大语言模型检查点选择中的鲁棒决策问题,强调数据质量(特别是OCR可读性)对评估有效性的重要性。
2026-08-14 cs.AI cs.CL cs.LG
Counterfactual Cross-Validation: Stable Model Selection Procedure for Causal Inference Models
Tokyo Institute of Technology(东京工业大学);CyberAgent, Inc(CyAgent公司)
研究条件平均处理效应(CATE)预测中的模型选择问题。与以前的作品在这个主题上,我们专注于保持候选CATE预测的性能的排名顺序,使准确和稳定的模型选择。为此,我们分析了模型性能排名问题,并制定准则,以获得更好的评价指标。然后,我们提出了一种新的度量,可以识别CATE预测器的性能具有高置信度的排名。实证评估表明,我们的度量优于现有的度量在模型选择和超参数调整任务。
2020-07-16 cs.LG stat.ML
Geometry-Aware Active Learning of Pattern Rankings via Choquet-Based Aggregation
IMT Atlantique, LS2N, UMR CNRS 6004, F-44307 Nantes France(IMT Atlantique)
本文提出一种结合Choquet积分非线性聚合与版本空间几何感知查询选择的交互式学习框架,通过分支定界策略高效定位决策边界附近的比较查询,在UCI数据集上以更少用户交互超越ChoquetRank等现有方法。
2025-07-16 cs.HC cs.LG
Beyond Labels: Information-Efficient Human-in-the-Loop Learning using Ranking and Selection Queries
Georgia Institute of Technology(佐治亚理工学院)
本文提出一种人机协同学习框架,通过排序和选择查询提升信息效率,显著降低样本复杂度,提升学习效率。
2026-02-17 cs.HC cs.LG
Ranking over Regression for Bayesian Optimization and Molecule Selection
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究所);CIFAR Lebovic Fellow(CIFAR 莱博维奇 Fellow);Canada(加拿大);Chair, Director of Acceleration Consortium(150 职位,加速联盟主任)
本文提出基于排序的贝叶斯优化(RBO),用排序模型替代回归代理,在化学数据集上取得相似或更优的优化性能,尤其适用于结构-性质景观粗糙和存在活性悬崖的分子优化任务。
2024-10-11 cs.AI cs.LG stat.ML
Asymptotic Optimality of Myopic Ranking and Selection Procedures
Nanyang Technological University(南洋理工大学);City University of Hong Kong(香港城市大学);University of Tennessee-Knoxville(田纳西大学诺克斯维尔分校)
排序和选择(R&S)是研究离散事件动态系统的一个流行模型。它的目的是从有限集合中选择最佳设计(具有最大平均性能的设计),其中每个设计的平均值是未知的,并且必须通过样本学习。大量的研究工作已经致力于这个问题在文献中开发的程序具有优越的经验性能,并显示其最优性。在这些努力中,近视手术很受欢迎。他们选择最好的设计使用一个“天真”的机制,迭代和近视改善的近似的客观措施。虽然他们是基于简单的数学和缺乏理论支持,他们被证明是非常有效的,往往取得了竞争力的经验表现相比,后来提出的程序,并被证明是渐近最优的。在本文中,我们从理论上分析了这些短视的程序,并证明了他们也满足R&S的最优性条件,就像其他流行的R&S方法。它解释了近视程序在各种数值测试中的良好性能,并提供了对高效R&S程序的结构和理论发展的深入了解。
2022-11-27 cs.LG math.OC stat.ML
On Top-$k$ Selection from $m$-wise Partial Rankings via Borda Counting
Texas A&M University(德州农工大学);University of Virginia(弗吉尼亚大学)
我们分析了Borda计数算法在非参数模型中的性能。该算法需要利用$m$大小的子集内的项目的概率排名来准确地确定哪些项目是总共$n$项目中的总体顶部$k$项目。Borda计数算法只是从这些部分排名观察中计算每个项目的累积分数。这推广了Shah等人以前的类似性质的工作。使用概率成对比较数据。Borda计数算法的性能关键取决于第$k$项和第$(k+1)$项之间的相关分数分离$Δ_k$。具体地说,我们证明了如果$Δ_k$大于某个值,则算法选择的前$k$项几乎肯定是渐近准确的;如果$Δ_k$小于某个值,则结果将以恒定的概率不准确。在$m=2$的特殊情况下,即,两两比较,所得的界限比Shah等人给出的更紧,导致误差概率上限和下限之间的间隙减小。这些结果进一步扩展到近似的顶部- $k$选择设置。数值实验证明了Borda计数算法的有效性和准确性,与基于谱MLE的算法相比,特别是当数据不一定遵循假设的参数模型时。
2022-04-11 cs.DS cs.LG eess.SP
On the Noise Robustness of In-Context Learning for Text Generation
Southern University of Science and Technology(南方科技大学);Nanjing University(南京大学)
针对文本生成中噪声标注损害ICL性能的问题,本文提出LPR方法,通过语义近邻局部困惑度排序替换噪声候选,最高将EM分数提升18.75。
2024-10-24 cs.CL cs.LG
Duality Diagram Similarity: a generic framework for initialization selection in task transfer learning
Goethe University Frankfurt(法兰克福歌德大学);Free University Berlin(柏林自由大学);Singapore University of Technology and Design(新加坡科技设计大学)
在本文中,我们解决了迁移学习中的一个开放性研究问题,即在给定几个预训练模型的情况下,选择模型初始化以在新任务上实现高性能。提出了一种基于深度神经网络(DNN)之间的对偶图相似性(DDS)的高效、准确的新方法。DDS是一个通用的框架来表示和比较不同特征维度的数据。我们通过测量17个taskonomy任务的实际迁移学习性能排名与预测排名之间的对应关系,在Taskonomy数据集上验证了我们的方法。计算$17\times17$传输的基于DDS的排名需要不到2分钟,并且显示出与实际迁移学习排名的高度相关性($0.86$),在Taskonomy基准测试中,其表现远远优于最先进的方法($10\%$)。我们还证明了我们的模型选择方法的鲁棒性的一个新的任务,即Pascal VOC语义分割。此外,我们表明,我们的方法可以应用于选择DNN内的最佳层位置,用于NYUv2和Pascal VOC数据集上的2D,3D和语义任务的迁移学习。
2020-08-05 cs.CV cs.LG
Optimizing Feature Selection for Binary Classification with Noisy Labels: A Genetic Algorithm Approach
A. I. Virtanen Institute for Molecular Sciences, University of Eastern Finland(A.I. Virtanen分子科学研究所,东芬兰大学);Department of Computer Science, Aalto University(计算机科学系,艾尔托大学);Institute of Biomedicine, University of Eastern Finland(生物医学研究所,东芬兰大学)
针对含噪声标签二分类中的特征选择难题,提出NMFS-GA多目标遗传算法,在合成、乳腺癌及ADNI数据集上验证其可提升分类准确性与可解释性。
2024-01-12 cs.CV cs.LG cs.NE
Query-driven Segment Selection for Ranking Long Documents
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
基于transformer的排名显示出最先进的性能。然而,他们的自我注意操作大多无法处理长序列。训练这些排序器的常用方法之一是以启发式方式选择每个文档的某些段(例如第一段)作为训练数据。但是,这些段可能不包含文档中与查询相关的部分。为了解决这个问题,我们提出了查询驱动的段选择从长文档建立训练数据。段选择器为相关样本提供更准确的标签,为不相关样本提供更难预测的标签。实验结果表明,与建议的段选择器训练的基本BERT的排序器显着优于训练的启发式选择的段,并表现出等同于最先进的模型与本地化的自我注意,可以处理更长的输入序列。我们的研究结果开辟了新的方向,设计高效的变压器为基础的排名。
2021-09-10 cs.CL cs.IR cs.LG
Precision Anti-Cancer Drug Selection via Neural Ranking
The Ohio State University(俄亥俄州立大学)
针对抗癌药物选择问题,提出将药物优先排序表述为列表排序问题,开发了 List-One 和 List-All 两种神经列表排序方法,其中 List-All 在 50% 测试细胞系中 hit@20 提升达 8.6%。
2023-06-30 cs.IR cs.LG q-bio.QM
Learning with Imbalanced Noisy Data by Preventing Bias in Sample Selection
School of Computer Science and Engineering, Nanjing University of Science and Technology(南京理工大学计算机科学与工程学院);Terminus Group(特步集团);School of Electronic and Information Engineering, Tongji University(同济大学电子与信息工程学院)
针对类别不平衡数据集中噪声标签导致基于损失的样本选择失效的问题,提出CBS、CSA方法并结合预测历史纠正标签与ACM指标,有效提升了模型在不平衡噪声场景下的性能。
2024-02-17 cs.AI cs.LG
Simple Question Answering with Subgraph Ranking and Joint-Scoring
Carnegie Mellon University(卡内基梅隆大学);Amazon Alexa AI(亚马逊 Alexa 人工智能)
基于知识图谱的简单问答(KBSQA)是问答的一个重要研究领域。虽然只处理简单的问题,即,事实上,这个任务既不简单,也不接近解决。针对两个主要步骤,子图选择和事实选择,研究界已经开发了复杂的方法。然而,子图排名和利用的主题-关系依赖的知识库事实的重要性还没有得到充分的探讨。出于这一动机,我们提出了一个统一的框架来描述和分析现有的方法。使用这个框架作为出发点,我们专注于两个方面:通过一种新的排名方法,提高子图的选择和利用的主题-关系依赖,提出了一个联合评分CNN模型与一个新的损失函数,强制执行良好的秩序的分数。我们的方法在SimpleQuestions数据集上达到了最新的水平(准确率为85.44%)。
2019-04-04 cs.CL cs.LG stat.ML