Ranking-aware Reinforcement Learning for Ordinal Ranking
AMAP, Alibaba Group（阿里集团AMAP）
RARL通过整合回归和学习到排名任务，利用排名-aware奖励和响应突变操作提升有序排名性能。
2026-01-28 cs.AI cs.LG
Pairwise Reference Alignment as a Model-Level Ordinal Observable
Independent Researcher（独立研究者）
本文定义成对参考对齐为模型评分函数诱导的序数可观测量，提出中心化序参数统计量和基于边界的扩展，并给出有限样本估计和浓度界，通过Qwen2.5和RewardBench实验验证。
2026-05-29 cs.CL cs.LG
When Less Is More: Binary Feedback Can Outperform Ordinal Comparisons in Ranking Recovery
Xiamen University（厦门大学）；University of Science and Technology of China（中国科学技术大学）；The Chinese University of Hong Kong（香港中文大学）
本文提出了一种通用框架，证明在特定算法下，二元反馈在排名恢复中优于序数比较，通过分析信噪比和收敛率展示了二元化的优势。
2026-01-11 cs.LG stat.ML
Ordinal Distance Metric Learning with MDS for Image Ranking
Beijing Institute of Technology（北京理工大学）
图像排序是指在已知排序图像的基础上对图像进行排序。本文在线性距离度量学习模型的基础上，提出了一种改进的线性有序距离度量学习方法。通过将距离度量$A$分解为$L^TL$，问题可以转换为在不同空间中的两组点之间寻找线性映射，同时保持一些数据结构。标签的顺序关系可以通过经典的多维标度来维护，这是统计学中降维的一种流行工具。然后将最小二乘拟合项引入到成本函数，其也可以保持局部数据结构。所得到的模型是一个无约束的问题，并且能够更好地拟合数据结构。大量的数值结果表明，改进的线性距离度量学习模型的新方法在速度和排名性能。
2019-02-27 cs.LG math.OC stat.ML
Algorithms for item categorization based on ordinal ranking data
Tufts University（塔夫茨大学）
我们提出了一种新的方法来确定潜在的分类项目的基础上，他们的排名。补充最近的工作，使用狄利克雷先验的偏好向量和变分推理，我们表明，这个问题可以有效地处理使用现有的社区发现算法，与社区对应的项目类别。特别是，我们转换的二分排名数据的项目亲和力的单分图，并应用社区发现算法。在这种情况下，我们修改现有的算法-即标签传播算法的变体，使用节点之间的距离加权标签传播-以确定类别。我们提出并分析了一个综合的顺序排序模型，并显示其关系到最近研究的随机块模型。我们测试我们的算法在合成数据和比较性能与几个流行的社区发现算法。我们还测试了电影镜头数据库的电影分类的真实数据集的方法。在所有的情况下，我们的算法是能够识别的类别，一个合适的选择调整参数。
2016-09-29 cs.LG cs.SI
Monocular 3D Human Pose Estimation by Generation and Ordinal Ranking
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Indian Institute of Technology（印度理工学院）；Axogyan AI（Axogyan人工智能公司）
从静态图像估计单目三维人体姿态是一个具有挑战性的问题，由于维数灾难和不适定的性质提升2D到3D。在本文中，我们提出了一种基于深度条件变分自编码器的模型，该模型以估计的2D姿态为条件，合成各种解剖学上合理的3D姿态样本。我们表明，基于CVAE的3D姿态样本集与2D姿态一致，有助于解决2D到3D提升中固有的模糊性。我们提出了两种策略来获得最终的3D姿态-（a）深度排序/序数关系得分和加权平均的候选3D姿态，被称为OrdinalScore，和（b）与监督从Oracle。我们报告了使用OrdinalScore的两个基准数据集的最新结果，以及使用Oracle的最新结果。我们还表明，我们的管道产生竞争力的结果，没有配对的图像到3D注释。培训和评估代码可在www.example.com上获得。
2019-08-21 cs.CV cs.LG
SurvCORN: Survival Analysis with Conditional Ordinal Ranking Neural Network
Mohamed Bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文提出SurvCORN方法，利用条件序数排序网络直接预测生存曲线，并引入SurvMAE指标评估时间-事件预测准确性，在两个癌症数据集上验证了其在保持患者结果排序的同时改进个体预测的能力。
2024-09-30 cs.LG stat.ML
A neural network approach to ordinal regression
University of Central Florida（中佛罗里达大学）
有序回归是一种重要的学习类型，它同时具有分类和回归的性质。在这里，我们描述了一个简单而有效的方法来适应传统的神经网络学习序数类别。我们的方法是有序回归的感知器方法的推广。在几个基准数据集上，我们的方法（NNRank）优于神经网络分类方法。与使用高斯过程和支持向量机的有序回归方法相比，NNRank实现了相当的性能。此外，NNRank具有传统神经网络的优势：在线和批量模式学习，处理非常大的训练数据集，并进行快速预测。这些功能使NNRank成为大规模数据处理任务的有用和补充工具，如生物信息学中的信息检索，网页排名，协同过滤和蛋白质排名。
2007-04-08 cs.AI cs.LG cs.NE
Likert or Not: LLM Absolute Relevance Judgments on Fine-Grained Ordinal Scales
本研究挑战“列表式排序优于点式评分”的共识，发现采用足够大的有序标签空间时，点式评分与列表式排序的差距缩小至统计不显著，涵盖四个 LLM 和多个基准数据集。
2025-05-25 cs.IR cs.LG
Continuously Generalized Ordinal Regression for Linear and Deep Models
Booz Allen Hamilton（博思艾伦汉密尔顿）；Univ. of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
有序回归是一种分类任务，其中类具有顺序，并且预测类离真实类越远，预测误差就越大。用于建模有序数据的标准方法涉及拟合优化某个损失函数的平行分离超平面。这种假设通过归纳偏差提供了样本有效学习，但在现实世界的数据集中往往限制性太强，其中特征可能对不同类别产生不同的影响。允许类特定的超平面斜率创建广义逻辑顺序回归，以样本效率为代价增加模型的灵活性。我们探索了广义模型的扩展到所有阈值的逻辑损失，并提出了一个正则化方法，这两个极端之间的插值。我们的方法，我们称之为连续广义有序逻辑，在一组完整的有序回归基准数据集上显着优于标准有序逻辑模型。我们进一步将这种方法扩展到深度学习，并表明它在一系列数据集和模态上与以前的模型相比具有竞争力或更低的预测误差。此外，深度学习有序回归的两个主要替代模型被证明是我们框架的特殊情况。
2022-02-14 cs.LG
Robust Deep Ordinal Regression Under Label Noise
IIIT Hyderabad（印度理工学院海得拉巴分校）
真实世界的数据往往容易受到标签噪声的影响，这可能会限制现有的有序回归算法的有效性。现有的有序回归工作不考虑标签噪声。我们提出了一个理论上接地的方法，类条件标签噪声在有序回归问题。我们提出了一个深度学习实现，用于顺序回归的两个常用损失函数，它既对标签噪声具有鲁棒性，又对良好的排名规则具有排名一致性。我们验证了这些属性的算法经验和鲁棒性标签噪声的真实数据和排名的一致性。据我们所知，这是稳健有序回归模型的第一种方法。
2020-01-27 cs.LG stat.ML
Cumulative Sum Ranking
Pontifícia Univesidade Católica do Rio de Janeiro（里约热内卢天主教大学）
有序回归的目标是找到一个规则，从给定的集合中排列项目。几个学习算法来解决这个预测问题，建立一个二进制分类器的集成。投影排名使用相互依赖的二进制感知器。这些感知器共享相同的方向向量，但使用不同的偏置值。类似的方法使用独立的方向向量和偏置。为了组合二进制预测，大多数采用简单的计数算法。在这里，我们引入了一种新的累积和评分函数来组合二进制预测。建议的得分值聚合了每个相关二元分类的强度，即项目的排名有多大。我们表明，我们的建模铸造有序回归作为一个结构化的感知器问题。因此，我们简化了它的制定和描述，这导致两个简单的在线学习算法。第二个算法是第一个算法的被动攻击版本。我们证明了在一定的秩可分性条件下，这两种算法收敛。此外，我们提供的错误界的两个在线算法。对于被动-攻击版本，我们假设分离裕度的知识，这显着提高了相应的错误界。此外，我们表明，投影排名是我们的预测算法的一个特殊情况。从神经网络架构的角度来看，我们的实证研究结果表明，有序回归的cusum单元层，而不是通常的softmax层的多类问题。
2019-11-25 cs.LG stat.ML
Pairwise Fairness for Ordinal Regression
MPI-IS Tübingen（马克斯·普朗克智能系统研究所图宾根分所）；Amazon（亚马逊）；Fiddler AI（Fiddler人工智能公司）
本文首先研究了有序回归的公平性问题。我们适应两个公平的概念，以前认为在公平的排名，并提出了一个战略，训练的预测，这是近似公平的根据任何一个概念。我们的预测器具有阈值模型的形式，由一个评分函数和一组阈值组成，我们的策略是基于减少到公平的二进制分类学习的评分函数和本地搜索选择的阈值。我们提供泛化保证我们的预测的错误和公平违反，我们说明了我们的方法在广泛的实验中的有效性。
2022-02-11 cs.LG stat.ML
A Unified Causal Inference Framework for the Desirability of Outcome Ranking Paradigm in Benefit-Risk Evaluation
The George Washington University（乔治·华盛顿大学）；The Biostatistics Center, The George Washington University（乔治·华盛顿大学生物统计中心）；AbbVie Inc.（艾伯维公司）
本研究提出统一协变量调整因果推断框架，用于估计DOOR概率，通过模拟比较多种方法后发现CVTMLE-SL在DOOR相关指标上整体性能最优，并结合多重耐药菌网络数据验证方法。
2026-08-07 cs.LG stat.ME stat.ML
How effective can simple ordinal peer grading be?
University of Patras（帕特雷大学）；University of Essex（埃塞克斯大学）
有序同行评分已被提出作为一个简单的和可扩展的解决方案，计算可靠的信息，学生的表现在大规模的开放式在线课程。这个想法是外包给学生自己的评分任务如下。考试结束后，每个学生都被要求根据质量对同学的一堆试卷进行排名。然后，聚合规则将各个排名组合成包含所有学生的全局排名。我们定义了一个广泛的类简单的聚合规则，我们称之为类型排序聚合规则，并提出了一个理论框架来评估其有效性。当关于学生的评分行为的统计信息可用时（根据表征来自学生群体的平均学生的评分行为的噪声矩阵），框架可以用于计算关于一系列性能目标的来自该类的最优规则，所述性能目标将由聚合规则返回的排名与底层的真实排名进行比较。例如，当学生正确评分时，被称为Borda的自然规则被证明是最优的。此外，我们提出了广泛的模拟，验证我们的理论，并证明它是非常准确的预测性能的聚合规则，即使只有粗略的信息分级行为（即，噪声矩阵的近似）是可用的。无论是在我们的理论框架的应用，并在我们的模拟，我们利用数据的学生，已被提取的两个实地实验在帕特雷大学的分级行为。
2020-04-08 cs.AI cs.DS cs.LG
Fenton-Wilkinson Order Statistics and German Tanks: A Case Study of an Orienteering Relay Race
有序回归介于离散值分类和连续值回归之间。有序目标变量可以与排序的随机变量相关联。这些随机变量被称为顺序统计量，它们与有序回归密切相关。然而，使用顺序统计量进行有序回归预测的挑战是找到合适的父分布。在这项工作中，我们提供了一个真实世界的定向越野接力赛的案例研究，将其视为一个随机过程。对于这个过程中，我们表明，准确的顺序统计有序回归预测的最终团队排名，或地方，可以通过假设一个对数正态分布的个人腿时间。此外，我们应用芬顿-威尔金森近似中间转换时间旁边的估计队的总人数在臭名昭著的德国坦克问题。这项工作的目的是，在某种程度上，引发兴趣，在有序回归问题的适用性研究顺序统计量。
2019-12-10 cs.LG stat.ML
SPD: Single Pass Decoding for Generative Reranking
Meta Platforms, Inc.（元平台公司）
该研究提出hLLM，一种O(1)解码的格式专用策略，结合LoRA微调与教师排序蒸馏，使生成式重排序速度提升64倍，保持质量并连接组合优化，开辟实时排序新路径。
2026-09-07 cs.AI cs.IR cs.LG
Learning Probabilistic Ordinal Embeddings for Uncertainty-Aware Regression
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Beijing Normal University（北京师范大学）
不确定性是唯一的确定性。建模数据不确定性对于回归是必不可少的，特别是在无约束的设置中。传统的直接回归公式被认为是通过修改输出空间的概率分布的某个家庭的不确定性建模。另一方面，基于分类的回归和基于排序的解决方案在实践中更受欢迎，而直接回归方法则受到性能的限制。如何在当今的回归技术中对不确定性进行建模仍然是一个悬而未决的问题。在本文中，我们建议学习概率序数嵌入，它将每个数据表示为多变量高斯分布，而不是潜在空间中的确定性点。提出了一个有序分布约束，以利用回归的有序性。我们的概率序嵌入可以集成到流行的回归方法，并赋予他们的不确定性估计的能力。实验结果表明，我们的方法取得了竞争力的性能。代码可在https://github.com/Li-Wanhua/POEs上获得。
2021-03-25 cs.CV cs.LG
R2VF: A Two-Step Regularization Algorithm to Cluster Categories in GLMs
Earnix Ltd.（Earnix有限公司）
本文提出两步正则化算法 R2VF，先将名义特征转换为有序表示再进行变量融合，以低成本实现 GLM 类别聚类，并在缓解过拟合和协变量选择上表现良好。
2025-05-15 cs.LG
Quadruply Stochastic Gradient Method for Large Scale Nonlinear Semi-Supervised Ordinal Regression AUC Optimization
Nanjing University of Information Science & Technology（南京信息工程大学）；JD Finance America Corporation（京东金融美国公司）；University of Western Ontario（西安大略大学）；University of Pittsburgh（匹兹堡大学）
半监督有序回归（S $^2$ OR）问题在实际应用中普遍存在，其中只有少数有序样本被标记，而大量样本未被标记.最近的研究表明，在有序回归（OR）问题中，直接优化一致性指数（AUC）比优化传统的出错率可以对数据进行更好的排序。在本文中，我们提出了一个无偏的目标函数的S $^2$或AUC优化的基础上，有序二元分解方法。此外，为了处理大规模的核学习问题，我们提出了一个可扩展的算法称为QS $^3$ ORAO使用双随机梯度（DSG）框架的功能优化。从理论上证明了该方法可以以$O(1/t)$的速度收敛到最优解，其中$t$是随机数据采样的迭代次数。在各种基准数据集和真实世界数据集上的大量实验结果也表明，我们的方法是高效和有效的，同时保持类似的泛化性能。
2019-12-24 cs.LG stat.ML
Teach CLIP to Develop a Number Sense for Ordinal Regression
The Hong Kong University of Science and Technology（香港科技大学）；HKUST Shenzhen-Hong Kong Collaborative Innovation Research Institute（香港科技大学深圳香港协同创新研究院）
针对CLIP缺乏数字感而无法处理序数回归的问题，本文提出NumCLIP方法，通过粗分类与细预测两阶段设计及细粒度跨模态排序正则化损失，在三个序数回归任务上显著提升准确率。
2024-08-07 cs.CL cs.CV cs.LG
Insights into Ordinal Embedding Algorithms: A Systematic Evaluation
University of Tübingen（图宾根大学）
序数嵌入的目的是找到一组抽象项目的欧几里得表示，只使用形式为“项目$i$更接近项目$j$还是项目$k$？".近年来，已经提出了许多算法来解决这个问题。然而，并不存在一个公平和彻底的评估，这些嵌入方法，因此有几个关键的问题仍然没有答案：哪些算法表现更好时，嵌入尺寸的限制或几个三元比较可用？哪一个随着样本量或维度的增加而更好地扩展？在我们的论文中，我们解决这些问题，并提供了第一个全面和系统的经验评估现有的算法，以及一个新的神经网络的方法。我们发现，简单的，相对未知的，非凸的方法始终优于所有其他算法，包括精心设计的方法，基于神经网络或地标的方法。这一发现可以解释我们的洞察力，许多非凸优化方法不受局部最优。我们的全面评估由我们的流行嵌入算法的统一库实现，这些算法利用GPU资源，可以快速准确地嵌入数百万个数据点。
2021-10-21 cs.LG stat.ML
NDCG-Consistent Softmax Approximation with Accelerated Convergence
School of Artificial Intelligence & Data Science University of Science and Technology of China（人工智能与数据科学学院 中国科学技术大学）；School of Computer Science & Technology University of Science and Technology of China（计算机科学与技术学院 中国科学技术大学）；School of Business & Management Hong Kong University of Science and Technology（管理学院 香港科学与技术大学）
本文通过 Taylor 展开提出与排序指标对齐的 RG² 与 RG^× 损失，并结合 ALS 优化，在保证排序性能的同时显著提升大规模相似度学习的收敛效率。
2025-06-11 cs.LG
Which Tricks Are Important for Learning to Rank?
Yandex（扬德克斯）；ShareChat；Yandex Research（扬德克斯研究院）
本文在统一框架下对比多种基于GBDT的学习排序算法，探讨排序损失优化的关键问题，提出YetiRank的改进方案，获得新的最先进排序算法。
2023-10-06 cs.LG
A physical model for efficient ranking in networks
Columbia University（哥伦比亚大学）；Santa Fe Institute（圣塔菲研究所）；University of Colorado（科罗拉多大学）
我们提出了一个物理启发的模型和一个有效的算法来推断有向网络中节点的层次排序。它将实值秩分配给节点，而不是简单的序数秩，并且它形式化了这样一个假设，即具有相似秩的个体之间更有可能发生交互。它为推断的层次结构提供了自然的统计显著性测试，并且可以用于执行推断任务，例如预测边的存在或方向。排名是通过求解线性方程组获得的，如果网络是稀疏的，则该线性方程组是稀疏的;因此所产生的算法是非常有效和可扩展的。我们通过分析真实和合成数据来说明这些发现，包括来自动物行为，教师招聘，社会支持网络和体育比赛的数据集。我们表明，我们的方法往往优于各种其他人，在速度和准确性，在恢复底层的排名和预测边缘方向。
2018-06-13 cs.LG cs.SI physics.data-an
Sampling Ex-Post Group-Fair Rankings
Indian Institute of Science（印度科学学院）；Microsoft Research（微软研究院）
本文提出随机化群体公平排名的公理化定义，并设计两种采样算法，在保证事后群体公平约束的同时提升采样效率和排名效用。
2023-05-29 cs.DS cs.LG
Bayesian Deck-of-cards-based Ordinal Regression with Sequential Preference Elicitation
Poznań University of Technology（波兹南理工大学）；University of Catania（卡塔尼亚大学）
提出B-DOR，一种基于扑克牌式排序的贝叶斯序数回归方法，通过累积链接似然建模偏好强度，采用两种贝叶斯推断算法并支持多步诱导，实验证明其优于现有方法并适用于综合指标构建。
2026-09-30 cs.LG math.OC stat.ML
Reward Learning through Ranking Mean Squared Error
Calarina Muslimani（卡拉里娜·穆斯林尼）；Matthew E. Taylor（马修·E·泰勒）
本文提出了一种基于排名的强化学习方法R4，通过引入新的排名均方误差损失函数，从轨迹-评分对数据中学习奖励函数，并在机器人基准测试中表现出色。
2026-06-03 cs.AI cs.LG
Simple and Scalable Sparse k-means Clustering via Feature Ranking
Department of Statistical Science, Duke University（杜克大学统计科学系）；Departments of Computational Medicine, Statistics, and Human Genetics, UCLA（加州大学洛杉矶分校计算医学、统计与人类遗传学系）
聚类是无监督学习中的一项基本活动，当特征空间是高维时，聚类是非常困难的。幸运的是，在许多现实场景中，只有少数特征与区分聚类相关。这激发了稀疏聚类技术的发展，这种技术通常依赖于高计算复杂度的外部算法中的k均值。目前的技术还需要仔细调整收缩参数，进一步限制了它们的可扩展性。在本文中，我们提出了一个新的框架，稀疏k均值聚类，是直观的，简单的实现，并具有竞争力的国家的最先进的算法。我们表明，我们的算法享有一致性和收敛性的保证。我们的核心方法很容易推广到几个特定于任务的算法，如聚类属性的子集和部分观察到的数据设置。我们通过模拟实验和真实数据基准，包括三体小鼠蛋白质表达的案例研究，彻底展示了这些贡献。
2020-10-22 cs.LG stat.ML
On Evaluating Loss Functions for Stock Ranking: An Empirical Analysis With Transformer Model
Institute of Computer Science, Warsaw University of Technology（计算机科学学院，华沙技术大学）
本文系统评估了逐点、成对和列表式损失函数对Transformer模型在标普500股票排序任务中的影响，揭示了不同损失函数对学习横截面与时间模式的作用，为优化排序交易策略提供基准与指导。
2025-10-15 cs.LG q-fin.PM
Supervised Learning with Similarity Functions
Indian Institute of Technology（印度理工学院）；Microsoft Research Lab（微软研究院）
我们解决了一般的监督学习的问题时，数据只能通过一个（不确定的）数据点之间的相似性函数。现有的工作学习不确定的内核只集中在二进制/多类分类问题。我们提出了一个模型，是通用的，足以处理任何监督学习任务，也包括以前提出的分类模型。我们给出了相似性函数的一个“优度”准则。给定的监督学习任务，然后采用公知的标记技术，以使用“好的”相似性函数为监督学习提供有效的算法。我们证明了我们的模型在三个重要的监督学习问题上的有效性：a）实值回归，b）有序回归和c）排名，我们表明我们的方法保证有界泛化误差。此外，对于实值回归的情况下，我们给出了一个自然善良的定义，当与最近的结果在稀疏向量恢复结合使用时，保证稀疏预测有界泛化误差。最后，我们报告的结果，我们的学习算法回归和有序回归任务，使用非PSD相似性函数，并证明我们的算法的有效性，特别是稀疏地标选择算法，实现显着更高的精度比基线方法，同时提供降低计算成本。
2012-10-22 cs.LG stat.ML
