Inductive Pairwise Ranking: Going Beyond the n log(n) Barrier
University of California Irvine(加州大学欧文分校);Xerox Research Centre India(施乐印度研究中心)
我们研究了从非主动选择的成对偏好中对一组项目进行排序的问题,其中每个项目都有特征信息,我们提出并描述了一类非常广泛的偏好矩阵,从而产生了特征低秩(FLR)模型,它包含了从经典的布拉德利-特里-卢斯(BTL)(Bradley和Terry 1952)和Thurstone(Thurstone 1927)模型到最近提出的叶片胸部(Chen和Joachims 2016)和通用低等级偏好(Rajkumar和Agarwal 2016)模型。我们使用的技术矩阵完成边信息的存在下开发的归纳成对排名(IPR)算法,可证明学习一个良好的排名下的FLR模型,在一个样本有效的方式。在实践中,通过系统的合成模拟,我们证实了我们的理论研究结果,由于使用的特征信息的样本复杂性的改善。此外,在流行的现实世界偏好学习数据集上,只需对成对比较进行10%的采样,我们的方法就可以恢复良好的排名。
2017-02-09 cs.IT cs.LG math.IT
Approximate Ranking from Pairwise Comparisons
Rice University(莱斯大学);University of California, Berkeley(加州大学伯克利分校)
机器学习中的一个常见问题是基于成对比较对一组n个项目进行排名。这里的排序是指根据项目的分数将项目划分为预先指定大小的集合,其中包括将前k个项目识别为最突出的特殊情况。给定项目的得分被定义为它击败随机选择的其他项目的概率。找到一个确切的排名通常需要大量的比较,但在实践中,近似的排名往往是足够的。因此,我们研究了从成对比较中找到近似排名的问题。我们分析了一个主动排名算法,该算法计算赢得的比较次数,并根据从先前步骤中收集的数据计算的置信区间来决定是否停止或下一步比较哪对项目。我们表明,该算法成功地恢复近似排名使用的比较,接近最佳的对数因子。我们还提出了数值结果,表明在实践中,近似可以大大减少估计排名所需的比较次数。
2018-01-04 cs.AI cs.IT cs.LG
Pairwise Learning to Rank by Neural Networks Revisited: Reconstruction, Theoretical Analysis and Practical Performance
Johannes Gutenberg-Universität Mainz(美因茨约翰内斯·古腾堡大学);University of Birmingham(伯明翰大学)
我们提出了一个成对的学习排序方法的基础上的神经网络,称为DirectRanker,概括的RankNet架构。我们在数学上证明了我们的模型是自反的,反对称的,并且是传递的,允许简化训练和提高性能。在LETOR MSLR-WEB 10 K、MQ 2007和MQ 2008数据集上的实验结果表明,我们的模型优于许多最先进的方法,同时在结构上更简单,并且只使用成对方法。
2019-09-06 cs.IR cs.LG stat.ML
On the Sample Complexity of Rank Regression from Pairwise Comparisons
Northeastern University(东北大学)
我们考虑秩回归设置,其中具有$\mathbb{R}^d$中的特征的$N$样本的数据集由Oracle通过$M$成对比较进行排名。具体来说,存在一个潜在的总排序的样本;当一对样本,一个嘈杂的预言机识别排名较高的一个相对于底层的总排序。学习者观察这种比较的数据集,并希望从它们的特征回归样本排名。我们表明,学习模型参数与$ε> 0$的准确性,它足以进行$M \in Ω(dN\log^3 N/ε^2)$比较均匀随机$N$时,$Ω(d/ε^2)$。
2021-05-04 cs.LG stat.ML
Achievability and Impossibility of Exact Pairwise Ranking
Courant Institute, NYU(纽约大学柯朗数学科学研究所)
我们考虑的问题,恢复的一组$n$项目的基础上嘈杂的成对比较的排名。我们假设SST类是生成模型的家族。我们的分析给出了尖锐的信息理论的上限和下限的确切要求,这完全匹配的参数限制。通过对矩方法引入的算法的深入分析,我们得到了比~ \citet{shah2017simple}更好的Minimax最优率常数,并对它们的公开问题做出了贡献。我们在这项工作中使用的策略,以获得信息理论界是基于组合参数,是独立的利益。
2021-11-19 cs.LG stat.ML
Deep Pairwise Learning To Rank For Search Autocomplete
Amazon Search(亚马逊搜索)
自动完成(又名“查询自动完成”,“AC”)建议根据客户键入的前缀进行完整查询。自动补全已经成为商业搜索引擎的核心功能。在本文中,我们提出了一种新的上下文感知的神经网络为基础的成对排序器(DeepPLTR),以提高AC排名,DeepPLTR利用上下文和行为特征,排名查询,通过最小化成对损失,基于一个完全连接的神经网络结构。与LambdaMART排名器相比,DeepPLTR在离线评估中显示出+3.90%的平均倒数排名(MRR)提升,并在亚马逊的在线A/B实验中产生了+0.06%(p < 0.1)的总销售价值(GMV)提升。
2021-12-22 cs.IR cs.LG
Rate-Optimal Rank Aggregation with Private Pairwise Rankings
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Purdue University(普渡大学)
本文解决私有成对排名聚合中的隐私与效用平衡问题,提出自适应去偏方法纠正随机响应机制引入的偏差,实现真实偏好的一致估计,并建立极小化极大速率以确定最优隐私保证。
2025-04-02 cs.CR cs.LG stat.ML
Randomized Kaczmarz for Rank Aggregation from Pairwise Comparisons
IIT Bombay(印度理工学院孟买分校)
我们重新审视的问题,推断的整体排名实体之间的布拉德利-特里-卢斯(BTL)模型的框架内,根据现有的经验数据对成对的偏好。通过一个简单的变换,我们可以将问题转化为求解一个有噪声的线性系统,对于这个系统,一个现成的算法是以随机Kaczmarz方法的形式提供的。该方案是可证明收敛的,具有良好的经验性能,并适合在线,分布式和异步的变种。给出了算法的收敛性、收敛速度和误差分析,并进行了数值实验,实验结果验证了理论分析的正确性。
2016-05-09 cs.LG stat.ML
Pareto Pairwise Ranking for Fairness Enhancement of Recommender Systems
学习排序自2010年左右引入以来,是一种有效的推荐方式。著名的算法,如贝叶斯个性化排名和协作少即是多过滤,在学术界和工业界都留下了深刻的影响。然而,大多数学习排序方法专注于提高技术准确性指标,如AUC,MRR和NDCG。推荐系统的其他评价指标,如公平性,直到最近几年才在很大程度上被忽视。本文提出了一种新的学习排序算法Pareto Pairwise Ranking。我们的灵感来自贝叶斯个性化排名和幂律分布的想法。我们表明,我们的算法是有竞争力的技术精度指标评估时,与其他算法。更重要的是,在我们的实验部分中,我们证明了Pareto Pairwise Ranking是最公平的算法,与其他9个当代算法相比。
2022-12-06 cs.AI cs.IR cs.LG
Pairwise Reference Alignment as a Model-Level Ordinal Observable
Independent Researcher(独立研究者)
本文定义成对参考对齐为模型评分函数诱导的序数可观测量,提出中心化序参数统计量和基于边界的扩展,并给出有限样本估计和浓度界,通过Qwen2.5和RewardBench实验验证。
2026-05-29 cs.CL cs.LG
PairRank: Online Pairwise Learning to Rank by Divide-and-Conquer
University of Virginia(弗吉尼亚大学);Walmart Labs(沃尔玛实验室)
在线学习排序(OL2R)通过直接优化排名器与用户的交互,消除了显式相关性注释的需要。然而,所需的探索驱使它远离离线学习排序的成功实践,这限制了OL2R的经验性能和实际适用性。在这项工作中,我们提出了估计成对学习排序模型在线。在每一轮中,根据模型对估计的成对排序顺序的置信度对候选文档进行划分和排序,并且仅对不确定的文档对执行探索,即,\emph{divide-and-conquer}。证明了直接定义在错序对数量上的后悔,它将在线解的理论收敛性与其预期的排序性能联系起来。在两个公共学习排序基准数据集上对大量OL2R基线进行比较,证明了所提出的解决方案的有效性。
2021-06-01 cs.IR cs.LG
Learning to Rank For Push Notifications Using Pairwise Expected Regret
Twitter(推特)
列表排序损失在推荐系统中得到了广泛的研究。然而,新的内容消费模式对排名方法提出了新的挑战。在这项工作中,我们有助于分析学习排序个性化的移动推送通知,并讨论了独特的挑战,这提出了传统的排名问题相比。为了解决这些挑战,我们引入了一种新的排名损失的基础上加权候选人之间的成对损失的预期遗憾误排序对。我们证明了所提出的方法可以优于以前的方法,无论是在模拟环境中,并在一个主要的社会网络的生产实验。
2022-01-19 cs.IR cs.LG
PARSE: Pairwise Alignment of Representations in Semi-Supervised EEG Learning for Emotion Recognition
Queen’s University(女王大学);Ingenuity Labs Research Institute(英格纽蒂实验室研究院)
我们提出了PARSE,一种新的半监督架构,用于学习情绪识别的强EEG表示。为了减少大量未标记数据和有限标记数据之间的潜在分布不匹配,PARSE使用成对表示对齐。首先,我们的模型执行数据增强,然后对大量原始和增强的未标记数据进行标签猜测。然后,对猜测的标签进行锐化,并对未标记数据和标记数据进行凸组合。最后,表示对齐和情感分类。为了严格测试我们的模型,我们将PARSE与我们实现并适应EEG学习的几种最先进的半监督方法进行了比较。我们在四个公开的基于EEG的情感识别数据集上进行了这些实验,这些数据集是SEED,SEED-IV,SEED-V和AMIGOS(效价和唤醒)。实验表明,我们提出的框架在SEED、SEED-IV和AMIGOS(效价)中使用不同数量的有限标记样本实现了总体最佳结果,同时在SEED-V和AMIGOS(唤醒)中接近总体最佳结果(达到第二好)。分析表明,我们的成对表示对齐大大提高了性能,通过减少未标记和标记数据之间的分布对齐,特别是当每个类只有1个样本被标记。
2022-09-26 cs.LG
The Projected Power Method: An Efficient Algorithm for Joint Alignment from Pairwise Differences
Stanford University(斯坦福大学);Princeton University(普林斯顿大学)
各种应用涉及基于一些成对噪声数据将离散标签值分配给对象集合。由于问题的离散-因此非凸-结构,计算最优分配(例如~最大似然分配)乍一看变得难以处理。本文通过研究一个具体的联合对准问题-即在给定模差$\{x_i - x_j~\mathsf{mod}~m\}$的噪声观测值的情况下,恢复$n$离散变量$x_i \in \{1,\cdots, m\}$,$1\leq i\leq n$的问题,取得了有效计算的进展。我们提出了一个低复杂度和无模型的过程,它在提升的空间中操作,通过在正交方向上表示不同的标签值,并试图优化超立方体上的二次函数。从通过谱方法计算的第一个猜测开始,该算法通过投影幂迭代连续细化迭代。我们证明,对于广泛的一类统计模型,建议的投影功率方法没有错误-因此收敛到最大似然估计-在一个合适的制度。数值实验已经进行了合成和真实数据,以证明我们的算法的实用性。我们希望这个算法框架是有效的广泛的离散分配问题。
2017-12-07 cs.CV cs.IT cs.LG
Rank-smoothed Pairwise Learning In Perceptual Quality Assessment
Google Research(谷歌研究院)
进行成对比较是管理人类感知偏好数据的一种广泛使用的方法。通常情况下,评分员被指示根据一组特定的规则来做出选择,这些规则涉及图像质量和美学的某些方面。这个过程的结果是采样图像对的数据集,以及它们相关的经验偏好概率。根据这些成对偏好训练模型是一种常见的深度学习方法。然而,通过小批量学习通过梯度下降进行优化意味着图像的“全局”排名没有被明确考虑。换句话说,梯度下降的每个步骤仅依赖于有限数量的成对比较。在这项工作中,我们证明了用聚合的秩向概率正则化成对经验概率会导致更可靠的训练损失。我们表明,用我们的秩平滑损失训练深度图像质量评估模型,可以持续提高预测人类偏好的准确性。
2020-11-21 cs.CV cs.LG
Learning Latent Features with Pairwise Penalties in Low-Rank Matrix Completion
The Ohio State University(俄亥俄州立大学);The University of Hong Kong(香港大学);Carnegie Mellon University(卡内基梅隆大学)
低秩矩阵完备化在实际数据处理中取得了巨大的成功。通常采用学习潜在特征的矩阵分解模型,为了提高预测性能,可以使用图正则化矩阵分解(GRMF)方法通过成对学习来利用潜在变量之间的相似性。然而,现有的GRMF方法通常使用平方损失来衡量两两差异,这可能会受到不同对的过度影响,导致较差的预测。为了充分授权成对学习矩阵完成,我们提出了一个通用的优化框架,允许丰富的(非)凸成对惩罚函数。一个新的和有效的算法来解决所提出的优化问题,在温和的假设下,理论上的收敛性保证。在潜变量形成少量子群的重要情况下,也充分考虑了其统计保证。特别是,我们从理论上表征的复杂性正则化的极大似然估计的性能,作为我们的框架的一个特殊情况下,这是有较小的误差相比,标准的矩阵完成框架没有成对的处罚。我们在合成和真实数据集上进行了大量的实验,以证明这个通用框架的优越性能。
2020-01-26 cs.LG stat.ML
Top-$K$ Ranking from Pairwise Comparisons: When Spectral Ranking is Optimal
KAIST(韩国科学技术院);Electronics and Telecommunications Research Institute(电子与电信研究所);UIUC(伊利诺伊大学厄巴纳-香槟分校)
我们探讨了顶- $K$秩聚合问题。假设一个项目的集合被重复地成对比较,我们的目标是恢复一个一致的排序,集中在顶部的$K$排名的项目的基础上部分显示的偏好信息。我们调查布拉德利-特里-卢斯模型,其中一个排名项目,根据他们的感知效用建模为嘈杂的意见,他们的潜在的真实效用。我们的主要贡献有两方面。首先,在一个一般的比较模型中,项目对进行比较的先验,我们获得了可靠的恢复的顶部$K$排名项目的样本量的上限和下限。其次,更重要的是,扩展的结果,以一个随机比较模型,项目对比较独立地选择与一定的概率,我们表明,在略有限制的制度,推导出的界限之间的差距减少到一个常数的因素,因此揭示了谱方法可以实现最小最大最优的(顺序明智的)样本大小所需的顶部- $K$排名。也就是说,我们证明了一个谱方法单独足以实现最优性和有利的计算复杂性方面,因为它不需要一个额外的阶段的最大似然估计,一个国家的最先进的计划采用实现最优性。我们证实了我们的主要结果的数值实验。
2016-03-14 cs.IT cs.LG cs.SI
Pairwise Calibrated Rewards for Pluralistic Alignment
Harvard University(哈佛大学);University of Southern California(南加州大学)
针对人类偏好分歧在对齐中被多数信号吞没的问题,提出从成对偏好学习多奖励函数分布并满足成对校准,无需标注者身份或预定义群体。
2025-05-17 cs.AI cs.LG
Beyond Pairwise: Empowering LLM Alignment With Ranked Choice Modeling
Institute of Operations Research and Analytics(运营研究与分析研究所);National University of Singapore(新加坡国立大学);Department of Analytics and Operations(分析与运营系);NUS Business School(新加坡国立大学商学院)
本文提出RCPO框架,通过最大似然估计结合排名选择建模,提升大语言模型对齐效果,实验显示其在多种模型和设置中均优于基线方法。
2026-02-10 cs.AI cs.LG stat.ME
Spectral Ranking using Seriation
École Polytechnique(巴黎综合理工学院);CNRS(法国国家科学研究中心);École Normale Supérieure(巴黎高等师范学院);Microsoft Research(微软研究院)
我们描述了一个序列化算法,用于对一组项目进行排序,这些项目之间进行成对比较。直观地说,该算法将类似的排名分配给与所有其他项目进行类似比较的项目。它通过从成对比较中构建相似性矩阵,使用序列化方法对该矩阵进行重新排序并构建排名来实现。我们首先表明,这种光谱序列化算法恢复真实的排名时,所有成对的比较观察和一致的总顺序。然后,我们表明,排名重建仍然是准确的,当一些成对的比较损坏或丢失,序列化的频谱排名是更强大的噪声比经典的评分方法。最后,当只观察到比较的随机子集时,我们限制了排名误差。序列化公式的另一个好处是它允许我们解决半监督排名问题。在合成数据集和真实数据集上的实验表明,与经典的排序方法相比,基于序列化的光谱排序具有竞争力,在某些情况下具有优越的性能。
2016-03-10 cs.AI cs.LG stat.ML
Adaptive Sampling for Heterogeneous Rank Aggregation from Noisy Pairwise Comparisons
University of Virginia(弗吉尼亚大学);University of California, Los Angeles(加州大学洛杉矶分校);California Institute of Technology(加州理工学院)
在异质等级聚合问题中,用户在比较项目对时往往表现出不同的准确度水平。因此,对用户的统一查询策略可能不是最佳的。为了解决这个问题,我们提出了一个基于淘汰的主动抽样策略,估计排名的项目,通过嘈杂的成对比较,从用户和提高用户的平均精度,通过保持一个活跃的用户集。我们证明了我们的算法可以返回的真实排名的项目以高概率。我们还提供了一个样本的复杂性界所提出的算法,这是优于文献中的非主动策略。实验表明,所提出的方法的经验优势,在国家的最先进的基线。
2021-10-08 cs.LG
Efficient Pointwise-Pairwise Learning-to-Rank for News Recommendation
Amazon(亚马逊);Zalando SE(扎兰多SE公司)
针对新闻推荐中逐点方法缺乏比较信息、成对方法计算昂贵的问题,提出一种整合逐点相关性预测与成对比较的可扩展框架,理论分析证明其性能提升条件,并在MIND和Adressa数据集上超越现有方法。
2024-09-26 cs.IR cs.LG
Evaluating Artificial Systems for Pairwise Ranking Tasks Sensitive to Individual Differences
Graduate School of Information Sciences, Tohoku University(东北大学信息科学研究科);RIKEN Center for AIP(理化学研究所人工智能研究中心)
由于深度学习的进步,人工系统现在在几个模式识别任务中与人类竞争,例如对象类别的视觉识别。然而,这只是正确答案独立于人类感知存在的任务的情况。还有另一种类型的任务,预测的是人类的感知本身,其中通常存在个体差异。然后,不再有单一的“正确”答案来预测,这使得评估人工系统变得困难。针对对个体差异敏感的两两排序任务,提出了一种评价方法。给定由人工系统生成的多个项目对的排名结果,我们的方法量化了人类生成相同排名结果的概率,并判断它是否与人类生成的结果区分开来。我们引入了人类排序行为的概率模型,并提出了一种有效的计算方法的判断。为了从小样本中准确地估计模型参数,我们提出了一种方法,该方法使用注释者给出的置信度得分来对每个项目对进行排名。以一个根据物体的材料属性对图像对进行排序的任务为例,我们演示了所提出的方法是如何工作的。
2019-05-30 cs.AI cs.CV cs.LG
Robust low-rank estimation with multiple binary responses using pairwise AUC loss
Norwegian Institute of Public Health(挪威公共卫生研究院)
本文提出了一种基于成对AUC损失的鲁棒低秩估计框架,用于处理多个二元响应问题,通过低秩约束和高效算法提升了模型的判别性能和鲁棒性。
2026-01-13 cs.LG stat.ME stat.ML
SafetyRepro: Configuration-Conditional Rank Instability on Alignment Benchmarks
Northeastern University, Boston, MA, USA(东北大学);University of Illinois Urbana-Champaign, Urbana, IL, USA(伊利诺伊大学厄巴纳-香槟分校);Southern Methodist University, Dallas, TX, USA(南方 Methodist 大学)
本文通过理论命题和提交戳评估协议,证明对齐基准上的成对模型比较结果(如“A比B更安全”)会因未指定的配置选择而发生严格反转。
2026-05-25 cs.LG
Spectral MLE: Top-$K$ Rank Aggregation from Pairwise Comparisons
Stanford University(斯坦福大学);Korea Advanced Institute of Science and Technology(韩国科学技术院)
本文探讨了基于偏好的顶$K$秩聚合问题。假设一个项目集合被成对地重复比较,并且人们希望基于部分显示的偏好恢复强调排名最高的$K$项目的一致排序。我们专注于布拉德利-特里-卢斯(BTL)模型,假设一组潜在的偏好分数的基础上的所有项目,配对比较的几率只取决于所涉及的项目的相对分数。在随机和非自适应抽样的情况下,我们描述了最大极小值限制的可识别性的顶部$K$排名项目。我们的研究结果突出了一个分离的措施,量化的$K^{\text{th}}$和$(K+1)^{\text{th}}$排名项目之间的偏好得分的差距。可靠的顶级$K$排名所需的最小样本复杂性与分离度量成反比,而与其他偏好分布度量无关。为了接近这个极大极小的限制,我们提出了一个近线性时间的排名计划,称为\emph{Spectral MLE},返回的指数的顶部$K$项目按照一个仔细的分数估计。简而言之,谱MLE从具有最小平方损失的初始得分估计(通过谱方法获得)开始,然后在坐标方向MLE的帮助下连续地细化每个分量。令人鼓舞的是,光谱MLE允许在最小的样本复杂性下完美地识别顶部$K$项目。数值实验进一步证实了谱极大似然估计的实用性。
2015-05-28 cs.DS cs.IT cs.LG
Bounded-Abstention Pairwise Learning to Rank
Intesa Sanpaolo AI Research(Intesa Sanpaolo AI研究中心);University of Trento(特伦托大学);University of Pisa(比萨大学)
提出一种基于条件风险阈值的成对排序弃权方法,理论刻画最优策略,设计模型无关的插件算法,实验验证有效性。
2026-06-05 cs.AI cs.IR cs.LG
How Many Pairwise Preferences Do We Need to Rank A Graph Consistently?
Indian Institute of Science, Bangalore(印度科学学院,班加罗尔);Google Inc., Mountain View(谷歌公司,山景城)
我们考虑的问题,从随机选择的子集,他们的成对偏好的$n$项目的真实排名的最佳恢复。众所周知,在没有任何进一步假设的情况下,需要$Ω(n^2)$的样本量。我们分析的问题与一个额外的结构的关系图$G([n],E)$的$n$项目添加了一个假设的\emph{locality}:相邻的项目是相似的,在他们的排名。注意到数据的优先性质,我们选择不嵌入图,而是嵌入其\emph{strong product}来捕获成对节点关系。此外,与现有的文献中使用拉普拉斯嵌入基于图的学习问题,我们使用更丰富的一类图嵌入- \emph{orthonormal representations} -其中包括(规范化)拉普拉斯作为其特殊情况。我们提出的算法,{ \it Pref-Rank},预测潜在的排名使用基于SVM的方法在选择的嵌入的产品图,是第一个提供\emph{statistical consistency}上的两个排名损失:\emph{Kendall's tau}和\emph{Spearman's footrule},所需的样本复杂度的$O(n^2 χ(\bar{G}))^{\frac{2}{3}}$对,$χ(\bar{G})$是\emph{chromatic number}的补充图$\bar{G}$。显然,对于密集图,我们的样本复杂度较小,$χ(\bar G)$表征节点连通性的程度,由于局部性假设,这也是…
2019-02-11 cs.LG stat.ML
Semi-supervised Symmetric Non-negative Matrix Factorization with Low-Rank Tensor Representation
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);School of Mathematical Sciences, Shenzhen University(深圳大学数学科学学院)
针对半监督 SNMF 中成对约束利用缺乏全局视角的问题,本文提出基于成对约束矩阵与相似矩阵合成张量的低秩表示及迭代增强框架,显著提升聚类性能。
2024-10-27 cs.LG
Pairwise Alignment Improves Graph Domain Adaptation
Georgia Institute of Technology(佐治亚理工学院);University of Science and Technology of China(中国科学技术大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对图数据分布偏移问题,提出成对对齐方法,通过边权重缓解条件结构偏移和标签权重处理标签偏移,显著提升了图域适应在节点分类等任务中的性能。
2024-06-05 cs.LG
Motif Identification using CNN-based Pairwise Subsequence Alignment Score Prediction
Drexel University(德雷塞尔大学)
生物信息学中的一个常见问题是识别基因调控区域,这些区域由相对高频率的基序或脱氧核糖核酸序列标记,这些序列通常编码转录和增强子蛋白。预测子序列k-mer和给定基序之间的比对分数使得能够识别基因中的候选调控区域,其对应于这些蛋白质的转录。我们提出了一个一维(1-D)卷积神经网络训练的k-mer格式的序列间隔与给定的基序模式预测成对的一致性基序和子序列k-mer之间的比对得分。我们的模型由15层组成,其中包括三轮一维卷积层,批量归一化层,密集层和一维最大池化层。我们训练模型使用均方误差损失在四个不同的数据集上,每个数据集具有随机插入DNA序列中的不同基序模式:前三个数据集具有应用于每个插入基序的零个、一个和两个突变,第四个数据集将插入基序表示为位置特定的概率矩阵。我们使用一种新的建议度量,以评估模型的性能,$S_α$,这是基于Jaccard指数。我们使用10折交叉验证来评估我们的模型。使用$S_α$,我们通过识别与所选$α$区域内的实际得分一致的预测得分的15个最高得分的15聚体指数来测量模型的准确性。对于表现最好的数据集,我们的结果表明,平均99.3%的前15个基序被正确地确定在一个碱基对步幅($α= 1$)的样本数据。据我们所知,这是一种新颖的方法,说明了如何使用机器学习来推断以智能方式格式化的数据。
2021-01-21 cs.LG q-bio.GN
Ranking from Pairwise Comparisons in General Graphs and Graphs with Locality
Princeton University(普林斯顿大学)
本文研究BTL模型中基于成对比较的分数估计问题,证明MLE在一般图上达到Cramér-Rao下界,并刻画了局部性不损害估计难度的条件,提出具有计算优势的分治算法。
2023-04-13 cs.LG math.ST stat.ML
Beyond Pairwise Preferences: Listwise Reward-Aware Alignment for Diffusion Models
Caltech(加州理工学院);Stanford University(斯坦福大学)
提出Diffusion LAIR方法,通过列表级奖励感知优化,利用连续奖励分数和所有候选图像同时优化扩散模型,在文本到图像生成等任务上超越成对偏好基线。
2026-09-07 cs.CV cs.LG
A Markov Chain Approach to Preference Alignment
提出MCHF方法,通过直接利用成对偏好定义马尔可夫核实现生成模型对齐,理论证明其几何收敛速度由非传递结构量决定,并与NLHF和RLHF方法建立统一视角。
2026-06-23 cs.LG stat.ML
Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation
Southeast University(东南大学);Caritas Institute of Higher Education(明爱专上学院);City University of Hong Kong(香港城市大学)
在这封信中,我们提出了一种新的半监督子空间聚类方法,它能够同时增加初始监督信息和构造一个有区别的亲和矩阵。通过将有限数量的监督信息表示为成对约束矩阵,我们观察到用于聚类的理想亲和力矩阵与理想成对约束矩阵具有相同的低秩结构。因此,我们将这两个矩阵堆叠成一个3-D张量,其中施加全局低秩约束以促进亲和矩阵的构建并同步地增加初始成对约束。此外,我们使用输入样本的局部几何结构来补充全局低秩先验,以实现更好的亲和矩阵学习。该模型被配制成一个拉普拉斯图正则化凸低秩张量表示问题,这是进一步解决了一个替代的迭代算法。此外,我们提出了改进的亲和矩阵与增强的成对约束。在8个常用的基准数据集上的综合实验结果表明,我们的方法优于最先进的方法。该代码可在https://github.com/GuanxingLu/Subspace-Clustering上公开获取。
2023-01-04 cs.CV cs.LG
Few-shot Prompting for Pairwise Ranking: An Effective Non-Parametric Retrieval Model
University of Glasgow(格拉斯哥大学);IIT Kharagpur(印度理工学院卡拉格普尔分校)
本研究针对零样本排序模型性能弱于有监督模型的问题,提出成对少样本排序方法,通过补充相似查询偏好示例提升效果,在多基准上优于零样本基线,性能接近有监督模型且无需复杂训练流程。
2024-10-04 cs.CL cs.IR cs.LG
Decipher the Modality Gap in Multimodal Contrastive Learning: From Convergent Representations to Pairwise Alignment
Stony Brook University(史坦尼·布鲁克大学);University Paris 1 Pantheon-Sorbonne(巴黎第一大学)
本文首次提出理论框架,证明维度坍缩是模态差距的根本原因,并揭示通过超平面旋转和共享空间投影可在子空间约束下实现完美对齐。
2025-10-07 cs.AI cs.LG
Ranking Before Serving: Low-Latency LLM Serving via Pairwise Learning-to-Rank
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Argonne National Laboratory(阿贡国家实验室)
提出PARS调度器,通过成对排序预测任务响应长度,近似最短作业优先调度,减少队头阻塞,在vLLM上实现高达15.7倍延迟降低。
2026-06-29 cs.AI cs.DC cs.LG
Scalable Personalised Item Ranking through Parametric Density Estimation
CyberAgent, Inc.(赛博特工公司);Waseda University(早稻田大学)
从内隐反馈中学习是具有挑战性的,因为一类问题的困难性质:我们只能观察到积极的例子。大多数传统的方法使用成对排序方法和负采样器来处理一类问题。然而,这种方法有两个主要缺点,特别是在大规模应用中;(1)由于二次计算成本,成对方法效率非常低;(2)由于训练额外的模型,即使是最近的基于模型的采样器(例如IRGAN)也无法实现实际效率。在本文中,我们提出了一种学习排名的方法,它实现了收敛速度相媲美的逐点对应,同时执行类似的成对对应的排名有效性。我们的方法估计的概率密度的积极项目为每个用户在一个丰富的类的分布,即。\emph{exponential family}。在我们的公式中,我们推导出一个损失函数和适当的负抽样分布的基础上最大似然估计。我们还开发了一个实用的技术风险近似和正规化计划。然后,我们讨论了我们的单模型方法是等价的一个IRGAN变种在一定的条件下。通过在真实数据集上的实验,我们的方法在有效性和效率方面优于逐点和逐对的方法。
2021-05-11 cs.IR cs.LG
Aligning with Human Judgement: The Role of Pairwise Preference in Large Language Model Evaluators
University of Cambridge(剑桥大学);Monash University(莫纳什大学)
针对大语言模型评估器存在偏差、与人类评估对齐度不足的问题,本研究提出基于不确定性引导的成对偏好搜索排序聚合方法,在长文本生成评估任务上取得最优性能,并揭示了成对偏好在量化模型传递性中的作用。
2025-01-17 cs.AI cs.CL cs.LG
Spectrum-enhanced Pairwise Learning to Rank
Tsinghua University(清华大学)
为了增强推荐系统的性能,边信息被广泛地利用各种特征(例如,视觉特征和文本特征)。然而,边信息也存在一些不足:(1)在所有推荐任务中,边信息并不总是可用的;(2)边信息只针对项目,很少有描述用户的高层次特征。为了解决这些差距,我们引入了光谱特征提取的两个超图结构的购买记录。谱特征描述了图空间中用户/项目的\textit{similarity},这对于推荐至关重要。我们利用频谱特征来建模用户的偏好和项目的属性,将它们纳入矩阵分解(MF)模型。除了建模,我们还使用光谱特征进行优化。贝叶斯个性化排名(BPR)被广泛用于优化隐式反馈数据中的模型。然而,在BPR中,所有缺失值都被视为负样本,而其中许多确实是不可见的正样本。我们丰富的积极的样本,通过计算用户/项目之间的相似度的频谱特征。其核心思想是:(1)相似的用户应该对相同的项目有相似的偏好;(2)用户应该对相似的项目有相似的感知。在两个真实数据集上的大量实验证明了谱特征的有用性和我们的谱增强成对优化的有效性。我们的模型明显优于几种最先进的模型。
2019-05-02 cs.IR cs.LG