BPR: Bayesian Personalized Ranking from Implicit Feedback
University of Hildesheim(希尔德斯海姆大学)
项目推荐是预测一组项目(例如网站,电影,产品)的个性化排名的任务。在本文中,我们调查了最常见的情况下,隐式反馈(例如,点击,购买)。基于隐式反馈的项目推荐方法有很多,如矩阵分解(MF)和自适应knearest-neighbor(kNN)。尽管这些方法是为个性化排名的项目预测任务而设计的,但它们都没有直接针对排名进行优化。在本文中,我们提出了一个通用的优化标准BPR-Opt的个性化排名,这是来自贝叶斯分析的问题的最大后验估计。我们还提供了一个通用的学习算法优化模型的BPR-Opt。学习方法是基于自举抽样的随机梯度下降。我们展示了如何将我们的方法应用于两个最先进的推荐模型:矩阵分解和自适应kNN。我们的实验表明,对于个性化排名的任务,我们的优化方法优于MF和kNN的标准学习技术。结果表明,优化模型的正确标准的重要性。
2012-05-09 cs.IR cs.LG stat.ML
Inductive Pairwise Ranking: Going Beyond the n log(n) Barrier
University of California Irvine(加州大学欧文分校);Xerox Research Centre India(施乐印度研究中心)
我们研究了从非主动选择的成对偏好中对一组项目进行排序的问题,其中每个项目都有特征信息,我们提出并描述了一类非常广泛的偏好矩阵,从而产生了特征低秩(FLR)模型,它包含了从经典的布拉德利-特里-卢斯(BTL)(Bradley和Terry 1952)和Thurstone(Thurstone 1927)模型到最近提出的叶片胸部(Chen和Joachims 2016)和通用低等级偏好(Rajkumar和Agarwal 2016)模型。我们使用的技术矩阵完成边信息的存在下开发的归纳成对排名(IPR)算法,可证明学习一个良好的排名下的FLR模型,在一个样本有效的方式。在实践中,通过系统的合成模拟,我们证实了我们的理论研究结果,由于使用的特征信息的样本复杂性的改善。此外,在流行的现实世界偏好学习数据集上,只需对成对比较进行10%的采样,我们的方法就可以恢复良好的排名。
2017-02-09 cs.IT cs.LG math.IT
NDCG-Consistent Softmax Approximation with Accelerated Convergence
School of Artificial Intelligence & Data Science University of Science and Technology of China(人工智能与数据科学学院 中国科学技术大学);School of Computer Science & Technology University of Science and Technology of China(计算机科学与技术学院 中国科学技术大学);School of Business & Management Hong Kong University of Science and Technology(管理学院 香港科学与技术大学)
本文通过 Taylor 展开提出与排序指标对齐的 RG² 与 RG^× 损失,并结合 ALS 优化,在保证排序性能的同时显著提升大规模相似度学习的收敛效率。
2025-06-11 cs.LG
PA&DA: Jointly Sampling PAth and DAta for Consistent NAS
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);School of Computer Science and Technology, University of Chinese Academy of Sciences(中国科学院大学计算机科学与技术学院);Kuaishou Technology(快手科技)
基于权值共享机制,one-shot NAS方法训练一个超网,然后继承预先训练好的权值来评估子模型,大大降低了搜索成本。然而,一些工作已经指出,共享权重在训练期间遭受不同的梯度下降方向。我们进一步发现,在超网训练过程中会出现较大的梯度方差,从而降低了超网的排序一致性。为了缓解这个问题,我们建议通过联合优化PATh和DAta(PA&DA)的采样分布来显式地最小化超网训练的梯度方差。从理论上推导了梯度方差与采样分布之间的关系,揭示了最优采样概率与路径和训练数据的归一化梯度范数成正比。因此,我们使用归一化梯度范数作为路径和训练数据的重要性指标,并采用重要性采样策略进行超网训练。我们的方法只需要微不足道的计算成本优化路径和数据的采样分布,但实现了更低的梯度方差在超网训练和更好的泛化性能的超网,从而导致更一致的NAS。在不同的搜索空间中,我们与其他改进方法进行了全面的比较。实验结果表明,该方法具有更可靠的排序性能和更高的搜索精度,显示了该方法的有效性。代码可在https://github.com/ShunLu91/PA-DA上获得。
2023-02-28 cs.CV cs.LG
A Case Study on Sampling Strategies for Evaluating Neural Sequential Item Recommendation Models
University of Würzburg(维尔茨堡大学)
目前,顺序项目推荐模型通过计算小项目子集(目标集)上的度量来进行比较,以加快计算速度。目标集包含相关项和从完整项集中采样的一组负项。两种众所周知的对负项进行抽样的策略是均匀随机抽样和按流行度抽样,以更好地逼近数据集中的项频率分布。最近发表的论文顺序项目推荐依赖于抽样的流行程度比较评估模型。然而,最近的工作已经表明,均匀随机抽样的评估可能与完整排名不一致,即,通过使用完整的项目集作为目标集评估度量获得的模型排名,这就提出了通过流行度抽样获得的排名是否等于完整排名的问题。在这项工作中,我们重新评估当前国家的最先进的顺序推荐模型的角度来看,这些采样策略是否有影响的模型的最终排名。因此,我们训练四个最近提出的顺序推荐模型在五个众所周知的数据集。对于每个数据集和模型,我们采用三种评估策略。首先,我们计算完整的模型排名。然后,我们评估所有的模型在两个不同的抽样策略,均匀随机抽样和流行度抽样的目标集上,常用的目标集大小为100,计算每个策略的模型排名,并相互比较。此外,我们改变采样目标集的大小。总体而言,我们发现,这两种抽样策略可以产生不一致的排名相比,完整的排名模型。此外,受欢迎程度抽样和均匀随机抽样并不总是产生相同的排名。
2021-07-27 cs.IR cs.LG
Ranking and Selection as Stochastic Control
Peking University(北京大学);Colorado State University(科罗拉多州立大学);George Mason University(乔治梅森大学);University of Maryland(马里兰大学)
在贝叶斯框架下,我们制定了完全序贯抽样和选择决策的统计排名和选择作为一个随机控制问题,并推导出相关的贝尔曼方程。利用价值函数近似,我们得到了一个近似最优分配策略。我们证明了这种策略不仅计算效率高,而且对于独立正态抽样分布具有一步前进性和渐近最优性。此外,建议的分配政策是很容易推广的近似动态规划范例。
2017-10-07 cs.LG stat.ML
Active Sampling of Pairs and Points for Large-scale Linear Bipartite Ranking
National Taiwan University(国立台湾大学)
二分排序是一个基本的排序问题,它学习将相关的实例排在不相关的实例之前。二分排序的逐对方法构造了二次数量的对来解决问题,这对于大规模数据集是不可行的。逐点方法虽然更有效,但通常会导致较差的性能。也就是说,很难同时准确和有效地进行双方排名。在本文中,我们开发了一种新的主动抽样方案内的成对的方法进行有效的二分排名。该方案的灵感来自于主动学习,可以达到一个有竞争力的排名性能,而在训练过程中只关注许多对的一个小子集。此外,我们提出了一个通用的组合排名和分类(CRC)框架,以准确地进行二分排名。该框架统一了逐点和逐对方法,并且简单地基于将每个实例点视为伪对的想法。在14个真实大规模数据集上的实验表明,该算法与线性支持向量机相结合,在精度和效率上均优于现有的逐点排序和逐对排序方法.
2017-08-24 cs.IR cs.LG
Coarse-to-Fine Q-attention with Learned Path Ranking
UC Berkeley(加州大学伯克利分校)
我们提出了学习路径排名(LPR),一种方法,接受一个末端执行器的目标构成,并学会排名的一组目标达到路径生成方法,包括:路径规划,贝塞尔曲线采样,和学习策略的阵列生成的路径。其核心思想是,每个路径生成模块将在不同的任务,或在任务的不同阶段是有用的。当LPR作为C2F-ARM的扩展添加时,我们的新系统C2F-ARM+LPR保留了其前身的样本效率,同时还能够完成更大的任务集;特别是需要非常特定的动作(例如打开马桶座圈)的任务,这些动作需要从演示和探索数据中推断出来。除了在16个RLBench任务中对我们的方法进行基准测试外,我们还在10-15分钟内学习了真实世界的任务,tabula rasa,只有3个演示。
2022-04-04 cs.AI cs.CV cs.LG
MaxGap Bandit: Adaptive Algorithms for Approximate Ranking
University of Wisconsin(威斯康星大学)
本文研究了从K个分布(臂)中自适应采样以确定任意两个相邻均值之间的最大间隔的问题。我们称之为MaxGap-bandit问题。这个问题自然会出现在近似排名,噪声排序,离群点检测,并在土匪顶臂识别。MaxGap-bandit问题的关键新颖性在于,它的目的是自适应地确定将分布自然划分为具有较大均值的子集和具有较小均值的子集,其中分割由最大间隙而不是预先指定的秩或阈值确定。估计一个手臂的差距需要采样其相邻的武器,除了自己,这种依赖性的结果在一个新的硬度参数,表征样本的复杂性的问题。我们提出了消除和UCB风格的算法,并表明它们是最小最大的。我们的实验表明,UCB风格的算法需要比非自适应采样少6- 8倍的样本,以实现相同的错误。
2019-06-03 cs.LG stat.ML
Hierarchical Multi-Interest Co-Network For Coarse-Grained Ranking
Alibaba Group(阿里巴巴集团)
针对现有多兴趣推荐方法向量冗余、长短期行为建模混淆的问题,提出层次化多兴趣协同网络HCN,通过迭代更新兴趣中心与长短期兴趣融合提升粗排效果,在工业电商场景实现GMV 2.5%的额外提升。
2025-09-03 cs.IR cs.LG
CoRA-NAS: Coarse Ranking and Anchor-Residual Refinement for Neural Architecture Search
University of New South Wales(新南威尔士大学);Korea Advanced Institute of Science and Technology(韩国科学技术院)
CoRA-NAS 提出两阶段框架,结合静态排序先验与低成本学习曲线细化,实现跨空间鲁棒且低成本的架构选择,在多个基准上取得高排序相关性。
2026-09-11 cs.CV cs.LG
Sampling Ex-Post Group-Fair Rankings
Indian Institute of Science(印度科学学院);Microsoft Research(微软研究院)
本文提出随机化群体公平排名的公理化定义,并设计两种采样算法,在保证事后群体公平约束的同时提升采样效率和排名效用。
2023-05-29 cs.DS cs.LG
Ranking Items from Discrete Ratings: The Cost of Unknown User Thresholds
EPFL(瑞士联邦理工学院)
该研究针对从粗粒度离散评分恢复细粒度物品排序的问题,构建含隐式物品分数和用户阈值的模型,证明近完美排序需Θ(n²)次查询,提出匹配该界的算法,揭示阈值多样性的利弊。
2025-10-02 cs.IR cs.LG
Unbiased Comparative Evaluation of Ranking Functions
Cornell University(康奈尔大学)
引发相关性判断的排名评估是劳动密集型和昂贵的,激励仔细选择哪些文件来判断。与传统的方法,使这种选择确定性,概率抽样显示出有趣的承诺,因为它使设计的估计,证明是无偏的,即使在重复使用数据与缺失的判断。在本文中,我们首先统一和扩展这些采样方法,通过查看评估问题的蒙特卡罗估计任务,适用于大量的常见IR指标。借鉴理论上的清晰度,这一观点提供,我们解决三个实际的评估方案:比较两个系统,比较$k$系统对基线,排名$k$系统。对于每种情况下,我们得到一个估计量和方差优化抽样分布,同时保留基于抽样的评估,包括无偏性,可重用性,尽管缺失的数据,并在实践中易于使用的优势。除了理论上的贡献,我们经验性地评估我们的方法对以前使用的抽样算法,并发现他们一般削减所需的相关性判断的数量至少一半。
2016-04-25 cs.IR cs.LG
Sampling Individually-Fair Rankings that are Always Group Fair
IISc(印度科学学院);Yale University(耶鲁大学);MSR India(微软研究院印度分院)
针对排名中的公平性问题,提出一种高效算法,从个体公平分布中采样排名,确保每个输出排名满足群体公平,且期望效用接近最优公平解,实验证明其优于现有基线。
2023-06-21 cs.CY cs.DS cs.IR
Coarse-to-Fine Contrastive Learning on Graphs
Beijing Institute of Technology(北京理工大学);A*STAR Centre for Frontier AI Research(新加坡科技研究局前沿人工智能研究中心);Australian Artificial Intelligence Institute, University of Technology Sydney(悉尼科技大学澳大利亚人工智能研究所);Alibaba group(阿里巴巴集团)
受对比学习(CL)令人印象深刻的成功的启发,各种图增强策略已被用于以自监督的方式学习节点表示。现有的方法通过对图的结构或节点属性进行扰动来构造对比样本。虽然取得了令人印象深刻的结果,它是相当盲目的丰富的先验信息假设:随着施加在原始图上的扰动程度的增加,1)原始图和生成的增强图之间的相似性逐渐降低; 2)每个增强视图内的所有节点之间的区分度逐渐增加。在本文中,我们认为,这两个先验信息可以被纳入(不同)的对比学习范式,我们的一般排名框架。特别是,我们首先解释CL作为一个特殊的情况下,学习排序(L2 R),这启发我们利用积极的增强意见之间的排名顺序。同时,我们引入了一个自排序的范例,以确保不同的节点之间的歧视性信息可以保持,也很少改变不同程度的扰动。在多个基准数据集上的实验结果表明,与有监督模型和无监督模型相比,该算法是有效的。
2022-12-13 cs.LG
Statistical Significance of Feature Importance Rankings
Department of Statistics University of California, Berkeley(统计学系加州大学伯克利分校);Department of Statistics and Data Science University of Pennsylvania(统计学与数据科学系宾夕法尼亚大学)
本文针对特征重要性排名因随机采样而不稳定的问题,提出基于假设检验的验证方法和两种高效采样算法,能以超过 1-α 的概率正确识别前 K 个重要特征及其顺序,并在 SHAP 和 LIME 上验证了有效性。
2025-07-03 cs.LG stat.ML
Coarse-Grained Boltzmann Generators
Professorship of Multiscale Modeling of Fluid Materials, Department of Engineering Physics and Computation, TUM School of Engineering and Design, Technical University of Munich, Germany(多尺度流体材料建模教授职位,工程物理与计算系,TUM工程与设计学院,慕尼黑技术大学,德国);Atomistic Modeling Center, Munich Data Science Institute, Technical University of Munich, Germany(原子建模中心,慕尼黑数据科学研究所,慕尼黑技术大学,德国)
提出粗粒度玻尔兹曼生成器(CG-BGs)框架,结合基于流的生成模型与重要性采样,利用学习到的平均力势(PMF)进行重加权,在降低计算成本的同时实现大分子系统的平衡采样。
2026-05-28 cond-mat.stat-mech cs.LG physics.chem-ph
Bayesian Decision Process for Cost-Efficient Dynamic Ranking via Crowdsourcing
New York University(纽约大学);University of Iowa(爱荷华大学)
基于两两比较的排序聚合有着广泛的应用。虽然相当多的研究已经致力于发展的排名聚合算法,一个基本的问题是如何有效地收集大量的高质量的成对比较的排名的目的。由于许多众包服务的出现,一群工人经常被雇佣来进行成对比较,每对他们比较一个小的金钱奖励。由于不同的工作者具有不同的可靠性水平,并且不同的对具有不同的模糊性水平,因此希望明智地分配有限的预算用于在项目和工作者对之间进行比较,使得可以从比较结果准确地推断全局排名。为此,我们将众包排名中的主动抽样问题建模为贝叶斯马尔可夫决策过程,该过程在预算约束下动态选择项目对和工人以提高排名精度。我们进一步开发了一个计算效率高的采样政策的基础上的知识梯度以及矩匹配技术的后验近似。在合成数据和真实数据上的实验结果表明,该策略以较低的标记代价实现了较高的排序精度。
2016-12-21 cs.LG stat.ME stat.ML
Dirichlet Process Mixtures of Generalized Mallows Models
University of Washington(华盛顿大学);Massachusetts Institute of Technology(麻省理工学院)
提出了离散不完全排序下的Dirichlet过程混合模型,研究了两种估计后验聚类的Gibbs抽样推断技术。第一种方法使用切片采样子分量来估计聚类参数。第二种方法利用条件后验的近似来边缘化几个聚类参数。我们实证证明了(1)这种近似方法在提高收敛性方面的有效性,(2)Dirichlet过程模型在排名数据的其他聚类技术上的优势,以及(3)该方法在探索大型现实世界排名数据集方面的适用性。
2012-03-15 cs.LG stat.ML
Learning-to-Rank at the Speed of Sampling: Plackett-Luce Gradient Estimation With Minimal Computational Complexity
Radboud University(拉德堡德大学)
Plackett-Luce梯度估计使得通过采样技术在可行的时间约束内优化随机排序模型成为可能。不幸的是,现有方法的计算复杂性不能很好地与排名的长度(即,排名截止)以及项目集合大小成比例。在本文中,我们介绍了新的PL-秩3算法,执行无偏梯度估计的计算复杂性可比的最佳排序算法。因此,我们的新的学习排序方法适用于任何情况下,标准排序是可行的,在合理的时间。我们的实验结果表明,优化所需的时间有很大的增益,而性能没有任何损失。对于该领域,我们的贡献可能会允许最先进的学习排序方法应用于比以前可行的更大的规模。
2022-04-28 cs.IR cs.LG
Better than Random: Reliable NLG Human Evaluation with Constrained Active Sampling
Peking University(北京大学)
针对NLG人工评估中采样子集导致系统排名不稳的问题,提出CASF约束主动采样框架,通过学习器、系统采样器和约束控制器选择代表性样本,在137个真实评估设置中显著提升排名可靠性。
2024-06-12 cs.CL cs.LG
Evaluation Metrics for Item Recommendation under Sampling
Google Research(谷歌研究院)
项目推荐的任务需要在给定上下文的情况下对大量项目进行排序。项目推荐算法使用依赖于相关项目位置的排名度量进行评估。为了加速度量的计算,最近的工作通常使用采样度量,其中仅对较小的随机项和相关项进行排名。本文研究采样度量更详细,并表明,采样度量与其确切的版本是不一致的。采样度量不持久化相对语句,例如,“算法A比B更好”,甚至出乎意料。此外,采样大小越小,度量之间的差异越小,并且对于非常小的采样大小,所有度量都收缩到AUC度量。
2019-12-04 cs.IR cs.LG
Active Bipartite Ranking with Smooth Posterior Distributions
Telecom Paris(电信巴黎学院)
本文提出了一种针对连续条件分布的主动双部排序算法smooth-rank,通过最小化ROC曲线距离来优化排序性能,并证明其在PAC学习框架下的有效性。
2026-02-27 cs.LG stat.ML
Sequential Additivity in Distributionally Robust Ranking and Selection
本文针对分布鲁棒排序与选择问题,提出序列可加性,建立采样下界,研究可加分配(AA)过程并提出通用可加分配(GAA)框架,证明其错误选择概率指数衰减且可达到采样下界。
2026-08-28 cs.LG stat.ME stat.ML
Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo sampling
Amazon Music ML(亚马逊音乐机器学习部门)
Plackett-Luce(PL)模型在学习排名(LTR)中无处不在,因为它提供了一个有用且直观的概率模型来对排名列表进行采样。反事实离线评估和优化排名指标是在生产中使用LTR方法的关键。当采用PL模型作为排名策略时,这两个任务都需要计算模型的期望值。这些通常是近似通过蒙特卡洛(MC)抽样,因为组合缩放的项目数量进行排名,使他们的分析计算棘手。尽管最近在通过Gumbel top-k技巧提高采样过程的计算效率方面取得了进展,但MC估计可能会受到高方差的影响。我们开发了一种新的方法,以产生更多的样本有效的期望在PL模型的估计相结合的Gumbel top-k技巧与准蒙特卡罗(QMC)抽样,一个行之有效的技术减少方差。我们从理论上和经验上使用来自亚马逊音乐和雅虎学习排名挑战的真实推荐数据来说明我们的发现。
2022-05-12 cs.IR cs.LG stat.CO
LightXML: Transformer with Dynamic Negative Sampling for High-Performance Extreme Multi-label Text Classification
Beihang University(北京航空航天大学);Capital Normal University(首都师范大学)
极端多标签文本分类(XMC)是从一个大的标签集中找到最相关的标签的任务。如今,基于深度学习的方法已经在XMC中取得了显著的成功。然而,现有的方法(例如,AttentionXML和X-Transformer等)仍然存在1)将多个模型结合起来对一个数据集进行训练和预测; 2)在训练标签排序模型的过程中静态地抽取负标签,这降低了模型的效率和准确性。为了解决上述问题,我们提出了LightXML,它采用端到端训练和动态负标签采样。在LightXML中,我们使用生成式协作网络来召回和排名标签,其中标签召回部分生成否定和肯定标签,标签排名部分从这些标签中区分肯定标签。通过这些网络,在标签排名部分训练期间,通过馈送相同的文本表示来动态地对负面标签进行采样。大量的实验表明,LightXML在五个极端的多标签数据集上的性能优于最先进的方法,具有更小的模型大小和更低的计算复杂性。特别是,在具有670 K标签的Amazon数据集上,与AttentionXML相比,LightXML可以将模型大小减少72%。
2021-01-09 cs.CL cs.LG
Enhanced Sampling for Efficient Learning of Coarse-Grained Machine Learning Potentials
Professorship of Multiscale Modeling of Fluid Materials, Department of Engineering Physics and Computation, TUM School of Engineering and Design, Technical University of Munich(多尺度流体材料建模教授职位,工程物理与计算系,技术大学慕尼黑工程与设计学院)
本研究通过增强采样改进粗粒化机器学习势的训练方法,提高其准确性和可靠性。
2025-11-27 cs.LG physics.chem-ph physics.comp-ph
GitRanking: A Ranking of GitHub Topics for Software Classification using Active Sampling
University of Groningen(格罗宁根大学);University of L’Aquila(拉奎拉大学)
本文提出GitRanking框架,利用主动采样和Wikidata链接,根据含义通用性对GitHub主题进行分层排名,解决软件分类体系缺乏明确定义的问题,帮助开发者更精确地标注和发现项目。
2022-05-19 cs.IR cs.LG cs.SE
Addressing Class-Imbalance Problem in Personalized Ranking
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Brandeis University(布兰迪斯大学);Sun Yat-Sen University(中山大学);Yahoo Research(雅虎研究院);University of Notre Dame(圣母大学)
成对排序模型已被广泛用于解决推荐问题。其基本思想是通过将项目分为\emph{positive}样本(如果存在用户-项目交互)和\emph{negative}样本(否则)来学习用户偏好项目的排名。由于可观察的相互作用数量有限,成对排序模型面临严重的\emph{class-imbalance}问题。我们的理论分析表明,目前基于采样的方法会导致顶点级别的不平衡问题,这使得学习项目嵌入的范数在一定的训练迭代后趋于无穷大,从而导致梯度消失,影响模型推理结果。因此,我们提出了一种高效的\emph{\underline{Vi}tal \underline{N}egative \underline{S}ampler}(VINS)来缓解成对排名模型的类不平衡问题,特别是对于通过梯度方法优化的深度学习模型。VINS的核心是一个具有拒绝概率的偏差采样器,它倾向于接受具有比给定正项更大程度权重的负候选项。在实际数据集上的测试结果表明,该方法在保持甚至提高top-N项目推荐中排序结果质量的同时,对于由浅入深的排序模型,可以将训练速度提高30%~ 50%.
2020-09-08 cs.IR cs.LG
Noise Contrastive Estimation and Negative Sampling for Conditional Models: Consistency and Statistical Efficiency
University of Pennsylvania(宾夕法尼亚大学);Google AI Language(谷歌人工智能语言团队);Columbia University(哥伦比亚大学)
噪声对比估计(NCE)是对数线性模型的一种强大的参数估计方法,它避免了在每个训练步骤中计算配分函数或其导数,这在许多情况下是一个计算量很大的步骤。它与现在广泛用于NLP的负采样方法密切相关。本文考虑了条件模型的基于NCE的估计。条件模型在实践中经常遇到,但是在这种情况下,还没有一个严格的理论分析NCE,我们将认为有微妙的,但重要的问题时,一般NCE的条件的情况。特别是,我们分析了条件模型的NCE的两个变体:一个基于分类目标,另一个基于排名目标。我们表明,排名为基础的变体NCE提供一致的参数估计比基于分类的方法在较弱的假设下,我们分析了排名为基础的和基于分类的变体NCE的统计效率,最后,我们描述了实验合成数据和语言建模显示的有效性和权衡这两种方法。
2018-09-06 cs.CL cs.LG stat.ME
Mallows Model with Learned Distance Metrics: Sampling and Maximum Likelihood Estimation
University of Southern California(南加州大学);Stanford University(斯坦福大学)
针对Mallows模型固定距离度量的局限,提出从数据中学习L_α距离度量的泛化模型,开发了FPTAS采样算法和联合极大似然估计算法,并证明了强一致性且经实证验证。
2025-07-10 cs.DS cs.LG math.PR
Responsible Scoring Mechanisms Through Function Sampling
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of Michigan(密歇根大学)
人类决策者经常从数据驱动的算法系统中获得帮助,这些系统为评估对象(包括个人)提供分数。分数是由一个函数(机制)生成的,该函数将一组特征作为输入并生成分数。评分函数可以是机器学习的,也可以是人工设计的,可以用于不同的决策目的,如排名或分类。考虑到这些评分机制对个人生活和社会的潜在影响,确保这些分数的计算是负责任的是很重要的。因此,我们需要负责任的评分机制设计的工具。在本文中,专注于线性评分函数,我们强调的重要性,无偏函数采样和扰动的功能空间设计这样的工具。我们为整个函数空间提供无偏采样器,以及给定函数周围的$θ$ -邻域。然后,我们说明了这些采样器对于在排名背景下的三个不同问题场景中设计有效算法的价值。最后,作为设计负责任的评分机制的基本方法,我们提出了一种新的方法来近似超平面的安排的建设。尽管在维度的数量的安排的指数复杂性,使用函数采样,我们的算法是线性的样本和超平面的数量,和独立的维度的数量。
2019-11-22 cs.AI cs.LG stat.ML
Multi-FinGAN: Generative Coarse-To-Fine Sampling of Multi-Finger Grasps
School of Electrical Engineering, Aalto University(阿尔托大学电气工程学院);NAVER LABS Europe(NAVER欧洲实验室)
本文提出 Multi-FinGAN,通过端到端由粗到精网络从 RGB-D 图像快速生成多指抓取,在仿真和真实机器人上显著提升质量、成功率并实现20–30倍加速。
2021-03-15 cs.LG cs.RO
Attention Down-Sampling Transformer, Relative Ranking and Self-Consistency for Blind Image Quality Assessment
King Fahd University of Petroleum and Minerals(法赫德国王石油与矿业大学);SDAIA-KFUPM Joint Research Center for Artificial Intelligence(沙特数据与人工智能局-法赫德国王石油与矿业大学人工智能联合研究中心)
该研究针对无参考图像质量评估任务,结合注意力下采样Transformer与CNN提取多尺度特征,引入相对排序强化主客观评估关联,提出自一致性自监督方法提升模型鲁棒性,在多个数据集上取得SOTA性能,小数据集优势更明显。
2024-09-11 cs.AI cs.CV cs.LG
Ranking Reasoning LLMs under Test-Time Scaling
Department of Computer and Data Sciences(计算机与数据科学系);Department of Physics(物理系);Case Western Reserve University(凯斯西储大学)
本文提出Scorio库,通过统计排名方法评估推理模型,在20个数学竞赛基准上验证了多种排名方法的有效性,并展示了在不同测试时间扩展下的性能。
2026-03-11 cs.LG math.ST stat.TH
Ranking In Generalized Linear Bandits
University of Oxford(牛津大学)
研究广义线性bandit中的排序问题,考虑位置和物品依赖性对奖励的影响,设计了UCB和Thompson Sampling算法,推广现有研究并连接图论。
2024-01-01 cs.IR cs.LG math.OC
F$^3$low: Frame-to-Frame Coarse-grained Molecular Dynamics with SE(3) Guided Flow Matching
Mila - Québec AI Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);Microsoft Research AI4Science(微软研究院AI4科学部门);Xi’an Jiaotong University(西安交通大学);Shanghai Jiao Tong University School of Medicine(上海交通大学医学院);HEC Montréal(蒙特利尔高等商学院);Canadian Institute for Advanced Research (CIFAR)(加拿大高级研究院)
本文提出F$^3$low模型,将粗粒化分子动力学扩展到SE(3)流形,利用流匹配实现帧到帧自回归采样,从而高效探索蛋白质构象空间。
2024-05-01 cs.AI cs.LG q-bio.QM
Loading history and window geometry bound compact-state slip ranking during granular shear startup
Shanghai Jiao Tong University(上海交通大学)
本研究通过紧凑神经评分分离颗粒剪切中的材料状态与加载历史,发现加载历史坐标预测更强,但窗口几何限制证据,不支持特定状态短时前兆。
2026-10-02 cond-mat.soft cond-mat.stat-mech cs.LG
Estimation of Fair Ranking Metrics with Incomplete Judgments
University College London(伦敦大学学院);Microsoft Research(微软研究院);Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所);Boise State University(博伊西州立大学);Spotify Research(Spotify研究院)
评价搜索系统排序决策的公平性越来越受到人们的关注。这些指标通常考虑项目对特定组的成员关系,通常使用受保护的属性(如性别或种族)进行识别。迄今为止,这些度量通常假设项目的受保护属性标签的可用性和完整性。然而,受保护的个人属性很少出现,限制了公平排名度量在大规模系统中的应用。为了解决这个问题,我们提出了一个抽样策略和估计技术的四个公平的排名指标。我们制定了一个强大的和无偏的估计,甚至可以与非常有限的数量的标记项目。我们使用模拟和真实世界的数据来评估我们的方法。我们的实验结果表明,我们的方法可以估计这个家庭的公平排名指标,并提供了一个强大的,可靠的替代穷举或随机数据注释。
2021-08-11 cs.CY cs.IR cs.LG
Approximate sampling and estimation of partition functions using neural networks
Santa Fe Institute(圣塔菲研究所)
我们认为密切相关的问题,从一个已知的分布采样到一个归一化常数,并估计说归一化常数。我们展示了如何变分自编码器(VAE)可以应用到这个任务。在其标准应用中,VAE经过训练以拟合从棘手分布中提取的数据。我们反转的逻辑和训练VAE,以适应一个简单的和易于处理的分布,假设一个复杂的和棘手的潜在的分布,指定的归一化。该过程在不使用训练数据或马尔可夫链蒙特卡罗采样的情况下构造近似。我们说明我们的方法上三个例子:伊辛模型,图聚类和排名。
2022-09-21 cs.LG stat.ME