Inference of rankings planted in random tournaments
本文研究从随机竞赛图中推断隐藏排序的问题,确立了检测与恢复的计算统计阈值,发现检测-恢复差距,并提出达到最优性能的简单多项式与出度算法。
2024-07-23 cs.CC cs.DS math.CO
Estimation of partial rankings from sparse, noisy comparisons
Institute of Data Science, University of Hong Kong(香港大学数据科学研究所);Department of Urban Planning and Design, University of Hong Kong(香港大学城市规划与设计系);Urban Systems Institute, University of Hong Kong(香港大学城市系统研究所)
本文提出了一种非参数贝叶斯方法,用于在稀疏和噪声数据中学习部分排名,通过快速聚类算法实现MAP推断,提升了稀疏数据下的排名效率。
2026-01-08 cs.SI physics.soc-ph stat.ML
Inference on Consensus Ranking of Distributions
本文提出统计推断方法,通过反演多重检验程序构建置信集,学习支持一种分布期望效用优于另一种的效用函数集合,并基于经验过程理论提供证明与示例。
2024-08-25 econ.EM math.ST stat.ME
Prompt-Dependent Ranking of Large Language Models with Uncertainty Quantification
Department of Statistics and Data Science, UCLA(统计与数据科学系,加州大学洛杉矶分校);Department of Statistics, University of Michigan(统计系,密歇根大学);Department of Statistics and Data Science, and of Biostatistics, UCLA(统计与数据科学系及生物统计学系,加州大学洛杉矶分校)
本文提出了一种基于提示依赖的排名推断框架,通过统计有效的不确定性保证,改进大语言模型的排名决策。
2026-02-11 cs.CL cs.LG
Transductive Conformal Inference for Full Ranking
IMAG(蒙彼埃亚历山大格罗滕迪克研究所);IROKO;Univ. Montpellier(蒙彼利埃大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);LPSM(皮埃尔与玛丽·居里概率统计实验室);Sorbonne Université(索邦大学);Université Paris Saclay(巴黎-萨克雷大学);Institut Mathématique d’Orsay(奥赛数学研究所)
本文提出基于符合预测的方法,用于量化全排序算法在未知排名中的不确定性,并通过实验验证其有效性。
2025-12-03 cs.LG stat.ME stat.ML
CaliCausalRank: Calibrated Multi-Objective Ad Ranking with Robust Counterfactual Utility Optimization
Columbia University(哥伦比亚大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Carnegie Mellon University(卡内基梅隆大学);University of Pennsylvania(宾夕法尼亚大学);Trine University(特莱恩大学);University of Michigan(密歇根大学)
CaliCausalRank通过整合训练时的尺度校准、约束多目标优化和鲁棒反事实效用估计,提升了广告排序的多目标优化性能。
2026-02-21 cs.IR cs.LG
Confidence Diagram of Nonparametric Ranking for Uncertainty Assessment in Large Language Models Evaluation
Harvard Chan School of Public Health(哈佛陈曾熙公共卫生学院);Columbia University(哥伦比亚大学);Duke University(杜克大学);University of Miami(迈阿密大学)
本文针对大语言模型排序评估问题,提出基于非参数上下文排序的假设检验框架,并引入置信图概念以有向图形式刻画排序置信集,通过推广高斯乘子自助法证明其有效性,实验表明该方法能为不同医学领域中大语言模型的性能评估提供可靠洞见。
2025-02-10 cs.LG stat.ME stat.ML
Absolute Ranking: An Essential Normalization for Benchmarking Optimization Algorithms
针对传统排名归一化会因新算法加入而改变原有排名的问题,本文提出 absolute ranking 数学模型及基于采样的计算方法,以提升跨算法、跨问题性能评估的稳健性。
2024-09-06 math.OC stat.ML
Ranking with Confidence: A Probabilistic Framework for Deterministic Ranking Methods
University of Central Florida(中佛罗里达大学)
提出一个概率框架,将真实排名视为潜在随机变量,基于成对优势概率引入新排名准则,并开发最坏最优排名方法构建置信区间,首次为经典确定性排名提供形式化不确定性量化。
2026-06-02 stat.ME
Modelling Time-Varying Rankings with Autoregressive and Score-Driven Dynamics
我们开发了一个新的统计模型来分析时变排序数据。该模型可用于大量的排名项目,适应外生随时间变化的协变量和部分排名,并估计通过极大似然在一个简单的方式。排名建模使用Plackett-Luce分布与随时间变化的价值参数,遵循均值回复时间序列过程。为了捕捉价值参数对过去排名的依赖性,我们以广义自回归得分(GAS)模型的方式利用条件得分。仿真实验表明,小样本性质的最大似然估计的时间序列的长度迅速提高,并建议统计推断依赖于传统的海森基于标准误是可用的,即使是中等规模的样本。在实证研究中,我们将该模型的结果的冰球世界锦标赛。我们还讨论了应用排名的基础上的指数,重复调查和非参数效率分析。
2022-07-27 stat.ME
Inference on a Distribution Function from Ranked Set Samples
考虑独立观测值$(X_1,R_1)$、$(X_2,R_2)$、\ldots、$(X_n,R_n)$和随机秩或固定秩$R_i \in \{1,2,\ldots,k\}$,当以$R_i = r$为条件时,随机变量$X_i$具有与来自未知连续分布函数$F$的大小为$k$的随机样本内的$r$阶统计量相同的分布。这样的观测方案被用于对观测值进行排序比获得其精确值容易得多的情况。两个著名的特例是排序集抽样(McIntyre 1952)和判断后分层(MacEachern et al. 2004)。在包括不平衡秩集抽样的一般设置中,我们推导并比较了分布函数$F$为$n \to \infty$和固定$k$的三种不同估计量的渐近分布:Stokes和Sager(1988)的分层估计量,Kvam和Samaniego(1994)的非参数最大似然估计量和Chen(2001)的基于矩的估计量。我们的功能中心极限定理推广和完善以前的渐近分析。此外,我们简要地讨论了逐点和同时的分布函数$F$的置信区间,保证覆盖概率有限的样本量。一个真实的数据的例子说明了该方法,并在一个小型的模拟实验的潜在影响的不完美的排名进行了研究。总而言之,除了计算效率之外,基于矩的估计器似乎在效率和鲁棒性与不完美的排名之间提供了一个很好的折衷。
2018-07-02 stat.ME
Skeptical inferences in multi-label ranking with sets of probabilities
Eindhoven University of Technology(埃因霍温理工大学)
在本文中,我们考虑了多标签排序问题的怀疑推理问题。我们假设我们的不确定性是由一个凸概率集(即一个置信集)描述的,定义在标签集上。因此,我们不是学习一个单例预测(或者一个完整的标签排名),而是根据由完整排名组成的集值预测来寻求怀疑性推理。
2022-10-16 cs.LG math.CO stat.ML
Statistical Inference on the Cumulative Distribution Function using Judgment Post Stratification
本文研究基于判断后分层抽样的累积分布函数估计方法,提出包含经验与核分布函数的一类估计量,证明其渐近无偏性、一致性和正态性,并通过模拟与医学真实数据验证其相比简单随机抽样显著提高效率。
2024-05-02 stat.ME
Efficient Probabilistic Inference with Partial Ranking Queries
School of Computer Science(计算机科学学院);Microsoft Research(微软研究院);Carnegie Mellon University(卡内基梅隆大学)
排名上的分布被用于在各种设置中对数据进行建模,例如偏好分析和政治选举。然而,排名空间的阶乘大小通常迫使人们做出结构性假设,例如平滑性,稀疏性或这些潜在分布的概率独立性。我们接近建模问题的计算原则,应该作出结构性假设,允许典型的概率查询的有效计算。对于排名模型,“典型”查询主要采取部分排名查询的形式(例如,给定用户的前k个最喜欢的电影,他对剩余电影的偏好是什么?)。在本文中,我们认为,在最近的文献[7,8]中提出的随机独立因子分解是一个自然的结构假设的排名分布,允许特别有效的处理部分排名查询。
2012-02-14 cs.AI cs.LG stat.ML
Model inference for ranking from pairwise comparisons
Department of Engineering, University of Cambridge, CB2 1PZ, United Kingdom(剑桥大学工程系)
本文提出了一种高效算法,用于从噪声的成对比较中推断对象的强度及概率映射函数,通过实验验证了贝叶斯方法的鲁棒性。
2025-12-17 cs.LG cs.SI stat.ML
Bayesian inference for bivariate ranks
Université du Québec à Montréal(蒙特利尔魁北克大学);Université de Montréal(蒙特利尔大学);Université catholique de Louvain(天主教鲁汶大学)
提出了一种基于排名的推荐系统,其中专家对一组对象的排名和用户对这些对象的子集的排名相结合,以预测用户对所有对象的排名。排名被认为是由潜在的连续变量对应的专家和用户的对象分配的等级诱导。专家和用户的等级之间的依赖关系是由一个Copula在一些参数的家庭。给定copula参数的先验分布,在专家完全排序和用户不完全排序的条件下,通过用户完全排序的后验预测分布模型预测用户的完全排序.提出了各种马尔可夫链蒙特卡罗算法来近似预测分布或仅近似其模式。通过对Farlie-Gumbel-Morgenstern Copula函数族的分析,得到了精确的预测分布,为算法的逼近精度提供了一个基准。该方法应用于MovieLens 100 k数据集,专家和用户的等级之间具有高斯copula建模依赖性。
2018-02-09 cs.LG stat.ML
Ranking Clarification Questions via Natural Language Inference
Carnegie Mellon University(卡内基梅隆大学)
给定一个自然语言查询,教机器提出澄清问题在实际的自然语言处理系统中具有巨大的效用。这种交互可以帮助填补信息空白,以便更好地理解查询。对于对澄清问题进行排名的任务,我们假设确定澄清问题是否与给定帖子(在StackExchange等QA论坛上)中的缺失条目有关可以被视为自然语言推理(NLI)的特殊情况,其中帖子和最相关的澄清问题都指向共享的潜在信息或上下文。我们通过将在NLI和多NLI数据集上微调的Siamese BERT模型的表示合并到我们的模型中来验证这一假设,并证明我们的最佳性能模型分别获得了40%和60%的相对性能提高(在关键指标Precision@1上),在StackExchange数据集的两个评估集的最新基线上,因此,远远超过了最先进的技术。
2020-08-18 cs.AI cs.IR cs.LG
A Unified Causal Inference Framework for the Desirability of Outcome Ranking Paradigm in Benefit-Risk Evaluation
The George Washington University(乔治·华盛顿大学);The Biostatistics Center, The George Washington University(乔治·华盛顿大学生物统计中心);AbbVie Inc.(艾伯维公司)
本研究提出统一协变量调整因果推断框架,用于估计DOOR概率,通过模拟比较多种方法后发现CVTMLE-SL在DOOR相关指标上整体性能最优,并结合多重耐药菌网络数据验证方法。
2026-08-07 cs.LG stat.ME stat.ML
Pentagon at MEDIQA 2019: Multi-task Learning for Filtering and Re-ranking Answers using Language Inference and Question Entailment
Carnegie Mellon University(卡内基梅隆大学)
像微调的BERT和MT-DNN这样的并行深度学习架构已经迅速成为最先进的技术,大大绕过了以前的深度和浅层学习方法。最近,来自大型相关数据集的预训练模型已经能够在许多下游任务上表现良好,只需对特定领域的数据集进行微调。然而,由于并行架构的输入大小限制和极小的数据集(不足以进行微调),在非平凡任务(如排名和大型文档分类)上使用强大的模型仍然是一个挑战。在这项工作中,我们引入了一个端到端的系统,在多任务设置中进行训练,以过滤和重新排列医疗领域的答案。我们使用特定于任务的预训练模型作为深度特征提取器。在ACL-BioNLP研讨会MediQA问答共享任务上,我们的模型达到了最高的Spearman的Rho和平均倒数秩分别为0.338和0.9622。
2019-07-01 cs.CL cs.IR cs.LG
Accelerated MM Algorithms for Ranking Scores Inference from Comparison Data
London School of Economics(伦敦政治经济学院);KAIST(韩国科学技术院)
本文研究了Bradley-Terry模型参数推断的一种流行方法,即MM算法,用于极大似然估计和最大后验概率估计。这类模型包括Bradley-Terry配对比较模型、允许平局结果的Rao-Kupper配对比较模型、Luce选择模型和Plackett-Luce排名模型。我们建立了MM算法的收敛速度的严格特征,并表明它本质上是等价的梯度下降算法。对于极大似然估计,收敛速度与观测比较数据中项目对同现矩阵的代数连通性密切相关。对于贝叶斯推断,收敛速度也被证明是线性的,由先验分布的一个参数确定的速度的方式,可以使收敛任意慢,这个参数的小值。我们提出了一个简单的修改经典MM算法,避免了观察到的缓慢收敛问题,加快收敛。加速MM算法的关键组成部分是在每个迭代步骤中执行的参数重新缩放,该参数重新缩放是根据理论分析和收敛速度的表征来仔细选择的。我们的实验结果,在合成和真实世界的数据上进行,证明了经典MM算法的收敛速度慢的问题,并表明我们提出的新方法可以获得显着的效率增益。
2020-12-26 cs.LG math.OC stat.ML
Counterfactual Cross-Validation: Stable Model Selection Procedure for Causal Inference Models
Tokyo Institute of Technology(东京工业大学);CyberAgent, Inc(CyAgent公司)
研究条件平均处理效应(CATE)预测中的模型选择问题。与以前的作品在这个主题上,我们专注于保持候选CATE预测的性能的排名顺序,使准确和稳定的模型选择。为此,我们分析了模型性能排名问题,并制定准则,以获得更好的评价指标。然后,我们提出了一种新的度量,可以识别CATE预测器的性能具有高置信度的排名。实证评估表明,我们的度量优于现有的度量在模型选择和超参数调整任务。
2020-07-16 cs.LG stat.ML
Production Ranking Systems: A Review
排名问题是一个数十亿美元的问题。在本文中,我们提出了几个产品质量排名系统的概述。我们表明,由于采用最有效的机器学习模型和实时的响应用户的目标相冲突,排名系统已经演变成一个系统的系统,其中每个子系统可以被视为一个组件层。我们认为这些层是数据处理,表示学习,候选人选择和在线推理。每一层都采用不同的算法和工具,每个端到端排名系统都跨越多个架构。我们的目标是让普通观众熟悉大规模排名的工作知识,所采用的工具和算法以及采用分层方法所带来的挑战。
2019-07-24 cs.IR cs.LG stat.ML
Ranking Distillation: Learning Compact Ranking Models With High Performance for Recommender System
Simon Fraser University(西蒙弗雷泽大学)
我们提出了一种新的方法来训练排名模型,如推荐系统,这是有效的和高效的。知识蒸馏(KD)被证明是成功的图像识别,以实现有效性和效率。我们提出了一个KD技术学习排序的问题,称为\emph{ranking distillation (RD)}。具体来说,我们训练一个较小的学生模型,以学习从训练数据和较大教师模型的监督中对文档/项进行排名。学生模型实现了与大型教师模型相似的排名性能,但其较小的模型大小使在线推理更有效。RD是灵活的,因为它是正交的排名模型的教师和学生的选择。我们解决的排名问题的RD的挑战。在公共数据集和最先进的推荐模型上的实验表明,RD达到了其设计目的:使用RD学习的学生模型的模型大小不到教师模型的一半,同时实现了与教师模型相似的排名性能,并且比没有RD学习的学生模型要好得多。
2018-09-19 cs.IR cs.LG stat.ML
Latent Structured Ranking
Google(谷歌)
许多潜在的(因子分解)模型已经被提出用于推荐任务,如协同过滤和排名任务,如文档或图像检索和注释。所有这些方法的共同点是,在推理过程中,项目通过其与潜在嵌入空间中的查询的相似性来独立评分。排名列表的结构(即考虑作为整体返回的项目集)不被考虑。这可能是一个问题,因为顶级预测集可能过于多样化(包含相互矛盾的结果)或不够多样化。在本文中,我们介绍了一种用于学习潜在结构化排名的方法,该方法通过在排名列表的顶部提供正确的预测组合来改进现有方法。特别强调的是,使这种方法可扩展。在大规模图像标注和音乐推荐任务上的实验结果显示了对现有方法的改进。
2012-10-16 cs.IR cs.LG stat.ML
Temporal Collaborative Ranking Via Personalized Transformer
University of California, Davis(加州大学戴维斯分校);University of California, Los Angles(加州大学洛杉矶分校)
协同排名问题一直是一个重要的开放式研究问题,因为大多数推荐问题可以自然地表示为排名问题。虽然大部分的协同排名方法假设静态的排名数据,时间信息,以提高排名性能的重要性越来越明显。深度学习的最新进展,特别是除了在自然语言处理中广泛使用的RNN和CNN之外,还发现了各种注意力机制和更新的架构,使我们能够更好地利用每个用户参与的项目的时间排序。特别是,SASRec模型受到自然语言处理中流行的Transformer模型的启发,在时间协作排名问题上取得了最先进的结果,并且与早期的CNN相比,速度提高了10倍以上/基于RNN的方法。然而,SASRec本质上是一个非个性化的模型,不包括个性化的用户嵌入。为了克服这一限制,我们提出了一个个性化的Transformer(SSE-PT)模型,在5个真实世界的数据集上,NDCG@10方面的性能比SASRec高出近5%。此外,在检查了一些随机用户的参与历史和相应的注意力热图在推理阶段使用,我们发现我们的模型不仅是更可解释的,而且能够集中在最近的参与模式为每个用户。此外,我们的SSE-PT模型稍加修改,我们称之为SSE-PT++,可以处理极长的序列,并在训练速度相当的情况下在排名结果方面优于SASRec,在性能和速度要求之间取得平衡。代码和数据在https://github.com/wuliwei9278/SSE-PT上开源。
2019-08-15 cs.IR cs.LG stat.ML
Expected free energy as an information constraint on the Bethe Lagrangian
TU Eindhoven(埃因霍温理工大学)
该研究提出受信息约束的Bethe拉格朗日量,可恢复主动推理的期望自由能解,经实验验证其在三个任务上的性能可与EFE和Q-MDP相媲美。
2026-08-19 cs.AI cs.IT cs.SY