Order-Disorder: Imitation Adversarial Attacks for Black-box Neural Ranking Models
Wuhan University(武汉大学);Alibaba Group(阿里巴巴集团);Indiana University Bloomington(印第安纳大学伯明顿分校);Northeastern University(东北大学);Worcester Polytechnic Institute(伍斯特理工学院)
本文提出针对黑盒神经排序模型的模仿对抗攻击方法,通过训练排序模仿模型并生成带伪装的对抗触发器,以极少词元实现排序操纵,并验证其对多种SOTA模型的有效性。
2023-04-18 cs.CL cs.CR cs.IR
Topic-oriented Adversarial Attacks against Black-box Neural Ranking Models
该研究提出面向主题的黑盒神经排序模型对抗攻击任务,构建基于代理排序模型、强化学习与主题导向奖励的攻击框架,实验证明其性能优于现有策略,凸显NRMs的实际应用风险。
2023-04-28 cs.IR
RobustMask: Certified Robustness against Adversarial Neural Ranking Attack via Randomized Masking
Wuhan University(武汉大学);Yale University(耶鲁大学);Nanyang Technological University(南洋理工大学)
RobustMask通过结合预训练语言模型和随机掩码机制,提升神经排序模型对对抗扰动的鲁棒性,认证top-K鲁棒性并有效增强实际检索系统的安全性。
2025-12-29 cs.CR cs.IR
Adversarial Attacks against Neural Ranking Models via In-Context Learning
University of Waterloo(多伦多大学);University of California, Berkeley(加州大学伯克利分校);University of Toronto(多伦多大学)
本文提出少样本对抗提示(FSAP)黑盒攻击框架,利用LLM上下文学习生成高排名对抗文档,实验证明其能持续超越可信文档并具有低可检测性。
2025-08-21 cs.CL cs.IR
Multi-granular Adversarial Attacks against Black-box Neural Ranking Models
ICT, CAS(中国科学院信息技术研究所);University of Chinese Academy of Sciences(中国科学院大学);University of Amsterdam(阿姆斯特丹大学)
针对传统单粒度对抗排序攻击灵活性不足的问题,提出将多粒度攻击转化为序列决策过程,用双智能体强化学习实现黑盒神经排序模型的多粒度对抗攻击,在有效性和隐蔽性上均优于主流基线。
2024-04-11 cs.CR cs.IR cs.LG
Defense of Adversarial Ranking Attack in Text Retrieval: Benchmark and Baseline via Detection
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文针对神经排序模型的对抗性文档篡改攻击,构建了防御基准数据集并引入两类检测任务,实验发现有监督分类器对已知攻击有效但对未知攻击表现差,且应避免使用查询文本以防误弃相关文档。
2023-07-31 cs.CL cs.IR
One Word is Enough: Minimal Adversarial Perturbations for Neural Text Ranking
Indian Statistical Institute, Kolkata, India(印度统计研究院,加尔各答,印度)
本文提出了一种通过插入或替换一个语义对齐的词来提升目标文档排名的最小对抗扰动方法,并展示了其在神经文本排序中的有效性。
2026-01-28 cs.CL cs.IR cs.LG
One word at a time: adversarial attacks on retrieval models
对抗性样本,通过对输入特征施加小扰动而生成,被广泛用于欺骗分类器并测量其对噪声输入的鲁棒性。然而,很少有人通过对抗性的例子来评估排名模型的鲁棒性。在这项工作中,我们提出了一种系统的方法,利用对抗性的例子来衡量流行的排名模型的鲁棒性。我们探索了一种简单的方法来生成对抗性示例,迫使排名器错误地对文档进行排名。使用这种方法,我们分析了各种排名模型的鲁棒性以及对抗性攻击者在两个数据集上产生的扰动的质量。我们的研究结果表明,只有很少的标记变化(1-3),攻击者可以产生语义相似的扰动文档,可以欺骗不同的排名改变文档的分数,降低其排名的几个位置。
2020-08-05 cs.IR
Led to Mislead: Adversarial Content Injection for Attacks on Neural Ranking Models
University of Waterloo(滑铁卢大学);University of Toronto(多伦多大学);Mila – Quebec AI Institute(魁北克AI研究院);Toronto Metropolitan University(多伦多 Metropolitan 大学)
本文提出CRAFT框架,通过生成对抗性数据集、监督微调和偏好引导优化,提升对抗性攻击效果,验证了生成式AI在排序操纵中的风险。
2026-05-02 cs.CL cs.IR
Understanding the Effects of Adversarial Personalized Ranking Optimization Method on Recommendation Quality
Polytechnic University of Bari(巴里理工大学)
推荐系统(RS)采用用户项目反馈,例如,评级,以匹配客户的个性化产品列表。top-k推荐的方法主要依赖于学习排名算法,其中,最广泛采用的是贝叶斯个性化排名(BPR),它基于成对优化方法。最近,BPR已被发现易受其模型参数的对抗性扰动。对抗性个性化排名(APR)通过对抗性训练过程增强BPR来缓解这个问题。APR在BPR上的准确性性能的经验改进导致其在几个推荐模型中的广泛使用。然而,一个被忽视的关键方面是APR的超精度性能,即,新颖性,覆盖率和放大的流行偏见,考虑到最近的结果表明,业务流程再造,APR的基石,是敏感的偏见和减少的建议新颖性的加剧。在这项工作中,我们建模的BPR和APR优化框架的学习特性,给出数学证据,当反馈数据有一个尾部分布,APR放大的流行偏见比BPR由于收到的正面更新短标题项目的数量不平衡。使用矩阵分解(MF),我们通过在两个公共数据集上进行初步实验来实证验证理论结果,以比较BPR-MF和APR-MF在准确度和超准确度指标上的性能。实验结果一致表明,新颖性和覆盖率的措施和令人担忧的放大偏见的退化。
2021-07-29 cs.AI cs.CR cs.IR
Fairness-aware Personalized Ranking Recommendation via Adversarial Learning
推荐算法通常基于历史用户-项目交互(例如,点击、喜欢或评级)以提供个性化的项目排名列表。由于用户偏好不同,这些交互通常不均匀地分布在不同的项目组上。然而,我们发现,推荐算法可以继承甚至放大这种不平衡的分布,导致不公平的项目组的建议。具体地说,我们形式化的概念排名为基础的统计奇偶性和机会均等的两个公平性措施的个性化排名推荐项目组。然后,我们实证表明,最广泛采用的算法之一-贝叶斯个性化排名-产生不公平的建议,这促使我们努力提出新的公平意识的个性化排名模型。去偏置模型能够在保持推荐性能的同时改进两个提出的公平性指标。在三个公共数据集上的实验表明,与最先进的替代方案相比,所提出的模型具有很强的公平性。本文是SIGIR 2020~ \cite{zhu2020measuring}论文的扩展和重组版本。在本文中,我们重新框架的个性化排名推荐系统中的“项目推荐公平性”的研究问题,并提供了更多的细节所提出的模型的训练过程和实验设置的细节。
2021-03-14 cs.IR
EMPRA: Embedding Perturbation Rank Attack against Neural Ranking Models
本文提出EMPRA方法,通过操纵句子级嵌入对黑盒神经排序模型进行对抗性攻击,在MS MARCO V1上实现近96%目标文档从51-100名提升至前十,且无需替代模型。
2025-02-26 cs.IR
Societal Biases in Retrieved Contents: Measurement Framework and Adversarial Mitigation for BERT Rankers
Johannes Kepler University Linz(约翰内斯·开普勒林茨大学);Know-Center GmbH(知识中心有限公司)
社会偏见的共鸣,在信息检索(IR)系统检索的内容,从而加强现有的刻板印象。解决这个问题需要针对检索结果中各种社会群体的代表性制定公平性措施,以及减轻此类偏见的方法,特别是考虑到深度排名模型的进步。在这项工作中,我们首先提供了一个新的框架来衡量的公平性检索的文本内容的排名模型。引入一个排名不可知的测量,该框架还可以从排名的公平性收集的影响解开。为了减轻这些偏见,我们提出了AdvBert,这是一种通过适应对抗性偏见减轻IR来实现的排名模型,它联合学习预测相关性并删除受保护的属性。我们对两个段落检索集合(MSMARCO Passage Re-ranking和TREC深度学习2019 Passage Re-ranking)进行了实验,我们通过对有关性别属性的选定查询子集的公平注释进行了扩展。我们在MSMARCO基准测试上的结果表明,(1)与排名不可知的基线相比,所有排名模型都不太公平,(2)当使用建议的AdvBert模型时,BERT排名的公平性显着提高。最后,我们研究了公平和效用之间的权衡,表明我们可以保持公平的显着改善,而不会有任何显着的效用损失。
2021-05-11 cs.AI cs.IR cs.LG
VerTox: Verifiable Reward-Guided Corpus Poisoning Against Neural Ranking Models
Capital One;University of Utah(犹他大学);Snowflake Inc.(Snowflake公司)
本研究提出VerTox框架,将语料库污染转化为可验证奖励引导强化学习问题,微调LLM生成高流畅度低困惑度的对抗文档,可高效污染神经排序模型并损害下游RAG应用性能。
2026-09-02 cs.CL cs.IR
BERT Rankers are Brittle: a Study using Adversarial Document Perturbations
L3S Research Center(L3S研究中心)
基于BERT的上下文排序模型现在已经很好地建立了广泛的段落和文档排序任务。然而,基于BERT的排名模型在对抗性输入下的鲁棒性尚未得到充分研究。在本文中,我们认为,BERT排名不能免疫对抗攻击针对检索到的文档查询。首先,我们提出了使用基于梯度的优化方法对高度相关和非相关文档进行对抗性扰动的算法。我们的算法的目的是向高度相关或不相关的文档添加/替换少量令牌,以引起大的排名降级或提升。我们的实验表明,少量的令牌已经可以导致文档排名的大幅变化。此外,我们发现BERT排名严重依赖于文件的开始/头部的相关性预测,使文件的初始部分更容易受到对抗攻击。更有趣的是,我们发现了一小部分反复出现的对抗性单词,当它们被添加到文档中时,会分别导致任何相关/不相关文档的成功排名降级/提升。最后,我们的对抗令牌还显示了数据集内和数据集之间的特定主题偏好,暴露了BERT预训练或下游数据集的潜在偏见。
2022-06-23 cs.AI cs.IR
SentAttack: A Sentence-Level Black-Box Adversarial Attack Method for Dense Retrieval Models
School of Computer Science and Technology, Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳)计算机科学与技术学院)
针对密集检索模型对抗攻击问题,提出SentAttack句子级黑盒攻击方法。先通过与黑盒系统交互收集训练代理模型数据,再用代理模型聚类相关文档生成对抗候选句,经优化提升攻击效果。
2026-07-07 cs.IR
Top-N-Rank: A Scalable List-wise Ranking Method for Recommender Systems
Pennsylvania State University(宾夕法尼亚州立大学);South China University of Technology(华南理工大学)
我们提出了Top-N-Rank,一种新颖的列表式学习排名模型,用于可靠地推荐N个排名靠前的项目。所提出的模型优化了广泛使用的折扣累积增益(DCG)目标函数的变体,其在两个重要方面不同于DCG:(i)它将DCG的评估仅限于排名列表中的前N个项目,从而消除了低排名项目对学习的排名函数的影响;以及(ii)它结合了允许模型利用具有不同可靠性或可信度级别的多种类型的隐式反馈的权重。由于得到的目标函数是非光滑的,因此优化具有挑战性,我们考虑使用传统的S形函数和校正线性单元(ReLU)对目标函数进行两个光滑近似。我们提出了一个家庭的学习排名算法(Top-N-Rank),工作与任何光滑的目标函数。然后,引入了一个更有效的变体Top-N-Rank.ReLU,该变体有效地利用了ReLU函数的性质,将Top-N-Rank的计算复杂性从用户评分的平均项目数的二次降低到线性。我们使用两个广泛使用的基准测试,即MovieLens数据集和Amazon Video Games数据集的实验结果表明:(i)目标函数的“top-N截断”大大提高了前N个推荐的排名质量;(ii)与使用sigmoid相比,使用ReLU来平滑目标函数在排名质量和运行时间方面都有显着改善;以及(iii)Top-N-Rank.ReLU在排名质量方面大大优于表现良好的列表式排名方法。
2018-12-19 cs.IR cs.LG stat.ML
Certified Robustness to Word Substitution Ranking Attack for Neural Ranking Models
神经排序模型在信息检索中取得了可喜的成果。非国家机制也被证明容易受到敌对性例子的影响。最近提出了一种典型的针对NRM的单词替换排名攻击(WSRA),攻击者通过向其文本添加人类无法感知的扰动来提升目标文档的排名。这在现实世界的应用中部署NRM时引起了关注。因此,重要的是要开发技术,抵御这种攻击的NRM。在经验防御中,对抗性的例子在训练过程中被发现,并被用来增强训练集。然而,这样的方法并不能保证模型的鲁棒性,最终可能会被其他复杂的WSRA打破。为了避免这种军备竞赛,需要严格和可证明的NRM认证防御方法。为此,我们首先为排名模型定义了\textit{Certified Top-$K$ Robustness},因为用户主要关心现实场景中排名靠前的结果。当保证在任何攻击下都能使不在顶部$K$的文档远离顶部$K$时,排名模型在排名列表上被称为Certified Top- $K$ Robust。然后,我们介绍了一个认证的防御方法,命名为CertDR,以实现认证的顶级$K$对WSRA的鲁棒性,基于随机平滑的思想。具体来说,我们首先构建一个平滑的排名应用随机字替换的文件,然后利用排名属性与统计属性的合奏证明顶级$K$的鲁棒性。在两个有代表性的网络搜索数据集上进行的大量实验表明,CertDR可以显着优于最先进的排名模型经验防御方法。
2022-09-14 cs.IR
Personalization in E-Grocery: Top-N versus Top-k Rankings
电子商务的成功取决于客户感知价值。感知价值高的顾客会购买、退货并推荐商品。当信息负载损害用户的购物体验时,感知价值就处于风险之中。在电子杂货店,购物者面对大量的商品,其中大多数与购物者无关。推荐系统(RS)通过向用户提供根据相关性的项目排名,使企业能够掌握信息过载(IO)。先前的工作提出了RS与短个性化排名(top-k)。考虑到电子杂货的大订单规模和高用户异质性,top-k RS不足以减少该领域的IO。为了填补这一空白,提高业务绩效,本文介绍了一个RS与个性化的长排名(前N)。进行随机现场实验,本文建立了从top-k到top-N的排名转移的优点。具体来说,建议的RS减少了29.4%的IO和减少用户的搜索时间由3.3秒每个项目。现场实验还显示,由于前N排名,收入增长了7%。对客户和公司的实质性好处突出了前N排名作为电子杂货推荐系统的新设计要求的商业价值。
2021-05-30 cs.IR
CIDS country rankings: comparing documents and citations of USA, UK and China top researchers
本技术报告对来自美国、英国和中国的前30位被引用研究人员进行了文献计量分析。该分析基于使用CIDS的Google Scholar数据。研究人员的电子邮件后缀是edu,uk和cn。这种简单的方法能够以完全自动化的方式使用最小资源产生与SCImago国家排名一致的排名。
2013-10-25 cs.DL cs.IR
Policy-Aware Unbiased Learning to Rank for Top-k Rankings
反事实学习排序(LTR)方法使用包含交互偏差的记录的用户交互来优化排序系统。现有的方法是公正的,如果用户与所有相关的项目在每个排名。目前没有现有的反事实无偏LTR方法用于top-k排名。我们介绍了一种新的政策意识的反事实估计LTR指标,可以考虑随机日志记录政策的影响。我们证明了政策意识估计是无偏的,如果每个相关的项目有一个非零的概率出现在前k排名。我们的实验结果表明,我们的估计器的性能不受k的大小的影响:对于任何k,策略感知估计器达到相同的检索性能,而从前k反馈学习时,从反馈的完整排名。最后,我们介绍了传统LTR方法的新扩展,以执行反事实LTR和优化top-k度量。总之,我们的贡献引入了第一个策略感知的无偏LTR方法,该方法从top-k反馈中学习并优化top-k指标。因此,反事实LTR现在适用于搜索和推荐中非常流行的前k排名设置。
2021-04-09 cs.IR
Towards Imperceptible Document Manipulations against Neural Ranking Models
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);South-Central University for Nationalities(中南民族大学)
针对现有神经排序模型对抗攻击易被检测、依赖高质量替代模型的问题,提出IDEM框架,通过生成式模型生成衔接句加逐位置合并策略生成难察觉对抗文档,在MS MARCO上效果优于基线且鲁棒性更强。
2023-05-03 cs.CL cs.IR
Top Rank Optimization in Linear Time
Nanjing University(南京大学);Michigan State University(密歇根州立大学)
二分排名的目的是学习一个实值排名函数,该函数将正面实例排序在负面实例之前。最近的努力,二分排名的重点是优化排名列表的顶部的排名精度。大多数现有的方法要么是优化任务特定的指标,要么是通过更多地强调与排名靠前的实例相关联的错误来扩展排名损失,从而导致在训练实例的数量上超线性的高计算成本。我们提出了一种高效的方法,名为TopPush,用于优化在顶部的准确性,具有计算复杂性线性的训练实例的数量。我们提出了一种新的分析,边界的泛化误差的排名最高的情况下,所提出的方法。实证研究表明,所提出的方法是非常有竞争力的国家的最先进的方法,是10-100倍的速度。
2014-10-06 cs.AI cs.IR cs.LG
Dynamics of Adversarial Attacks on Large Language Model-Based Search Engines
Arizona State University(亚利桑那州立大学)
本文将排名操纵攻击建模为无限重复囚徒困境,分析合作维持条件,发现降低攻击成功率可能反而激励攻击,防御措施在某些情况下无效。
2026-06-09 cs.AI cs.CL cs.GT
Top-K Ranking Deep Contextual Bandits for Information Selection Systems
DEVCOM Army Research Laboratory(美国陆军研究实验室);University of Maryland(马里兰大学)
在当今的技术环境中,信息是丰富的,动态的,和异构的性质。信息的自动过滤和优先级排序是基于信息是否为目标增加了实质性价值之间的区别。上下文多臂强盗已被广泛用于学习根据用户兴趣或相关性过滤内容和优先级。学习排名技术优化了项目的相关性排名,允许相应地选择内容。我们提出了一种新的方法,top-K排名的上下文多臂强盗框架下。我们用神经网络对随机奖励函数进行建模,以允许非线性近似来学习奖励和上下文之间的关系。我们展示了这种方法,并评估了在模拟场景中使用真实世界数据集从实验中学习的性能。实验结果表明,该方法在复杂的奖励结构和高维的上下文特征下表现良好。
2022-01-28 cs.IR cs.LG
A Differentiable Ranking Metric Using Relaxed Sorting Operation for Top-K Recommender Systems
Sungkyunkwan University(成均馆大学)
推荐系统通过计算项目的偏好分数、根据分数对项目进行排序以及过滤具有高分数的前K个项目来为用户生成个性化推荐。虽然对项目进行排序和排名是这个推荐过程不可或缺的一部分,但将它们纳入端到端模型训练的过程并非易事,因为排序是不可微的,并且难以用梯度下降进行优化。这导致了现有的学习目标和排名指标之间的不一致性问题。在这项工作中,我们提出了DRM(微分排名度量),减轻了不一致性,并通过采用微分放松排名度量,提高推荐性能。通过与几个真实世界的数据集的实验,我们证明了DRM目标的联合学习现有的基于因子的推荐器显着提高了推荐的质量,与其他国家的最先进的推荐方法相比。
2020-12-05 cs.AI cs.IR
Semi-supervised Collaborative Ranking with Push at Top
Michigan State University(密歇根州立大学)
现有的基于协作排名的推荐系统往往表现最好时,有足够的观察到的评级为每个用户和观察是完全随机的。在此设置下,推荐系统可以根据用户的兴趣适当地建议推荐列表。然而,当观察到的评级是非常稀疏的(例如,在没有评级数据可用的冷启动用户的情况下),并且不是随机均匀采样的,现有的排名方法无法有效地利用边信息来将知识从现有的评级转换为未观察到的评级。我们提出了一个半监督的协作排名模型,称为\texttt{S$^2$COR},以提高冷启动推荐的质量。\texttt{S$^2$COR}通过协作学习排名模型,利用关于观察到的和缺失的评级的边信息,减轻稀疏性问题。这使得它能够处理丢失数据的情况下,不是随机的,但也有效地将可用的边信息纳入转导。我们在一些具有挑战性的现实世界数据集上对我们提出的算法进行了实验评估,并与最先进的冷启动推荐模型进行了比较。与最先进的算法相比,我们报告了更高质量的推荐。
2015-11-17 cs.IR cs.LG
K-order Ranking Preference Optimization for Large Language Models
针对现有列表式方法优化偏序或全序的局限性,提出K阶排序偏好优化(KPO),通过扩展Plackett-Luce模型适应top-K排序,并支持动态确定K值与课程学习,显著提升了样本效率与噪声鲁棒性。
2025-05-31 cs.IR
FA*IR: A Fair Top-k Ranking Algorithm
在这项工作中,我们定义并解决了公平Top-k排名问题,其中我们想要从n >> k个候选者的大池中确定k个候选者的子集,最大化效用(即,选择“最佳”候选者)。我们的排名组公平性定义使用受保护组的标准概念扩展组公平性,并且基于确保前k排名的每个前缀中受保护候选者的比例在统计上保持高于给定的最小值或与给定的最小值不可区分。效用以两种方式操作:(i)包括在前$k$中的每个候选者应该比未包括的每个候选者更合格;以及(ii)对于前k中的每对候选者,更合格的候选者应该排名在上面。提出了一种有效的算法来产生公平的Top-k排名,并在现有的数据集以及本文发布的新数据集上进行了实验测试,结果表明,我们的方法在不考虑公平性标准的情况下,对效用最大化的排名产生了小的失真。据我们所知,这是第一个基于统计测试的算法,可以减轻排名列表中代表性不足的群体的代表性偏差。
2018-07-02 cs.CY cs.IR
Incremental Improvement of a Question Answering System by Re-ranking Answer Candidates using Machine Learning
German Research Center for Artificial Intelligence(德国人工智能研究中心)
我们实现了一种方法,重新排名的前10名的结果,一个国家的最先进的问答(QA)系统。我们重新排序方法的目标是在给定用户问题和前10名候选人的情况下改进答案选择。我们专注于改进已部署的QA系统,这些系统不允许重新培训或重新培训的成本很高。我们的重新排名方法使用基于n-gram的特征,使用查询,答案和初始系统置信度作为输入来学习相似性函数。我们的贡献是:(1)我们从T-Mobile奥地利客户服务领域的877个答案开始生成QA训练语料库,(2)我们使用神经句子嵌入实现了最先进的QA管道,这些句子嵌入在与答案索引相同的空间中对查询进行编码,以及(3)我们使用单独提供的测试集评估QA管道和我们的重新排名方法。测试集可以被认为是在系统部署之后可用的,例如,根据用户的反馈。我们的研究结果表明,系统的性能,在前n精度和平均倒数排名,受益于使用梯度提升回归树重新排名。平均而言,平均倒数排名提高了9.15%。
2019-08-27 cs.CL cs.IR cs.LG
CoRanking: Collaborative Ranking with Small and Large Ranking Agents
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院);Baidu Inc.(百度公司)
针对大语言模型列表式排序效率低的问题,提出结合小型预排序与LLM重排的CoRanking框架,辅以强化学习训练的顺序调整器缓解位置偏差,在降70%延迟的同时效果更优。
2025-08-30 cs.CL cs.IR
Towards Principled Learning for Re-ranking in Recommender Systems
Institute for Clarity in Documentation(清晰度文献研究所);The Thørväld Group(索沃尔德集团);Inria Paris-Rocquencourt(法国国家信息与自动化研究所巴黎-罗康库尔中心);Rajiv Gandhi University(拉吉夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕尔默研究实验室);The Kumquat Consortium(金桔联盟)
本文针对推荐系统重排序阶段缺乏指导学习与输出质量衡量原则的问题,提出了收敛一致性与对抗一致性两项原则,有效提升了通用重排序器的性能。
2025-04-05 cs.IR cs.LG
Dual Correction Strategy for Ranking Distillation in Top-N Recommender System
School of Computing, KAIST(韩国科学技术院计算机学院);Graduate School of AI, KAIST(韩国科学技术院人工智能研究生院)
针对现有排序蒸馏方法效率不足、视角单一的问题,提出基于师生预测差异筛选蒸馏知识、同时迁移用户侧与物品侧排序信息的双重校正策略,性能优于SOTA基线。
2024-05-15 cs.IR cs.LG
The Opposite of Smoothing: A Language Model Approach to Ranking Query-Specific Document Clusters
利用信息引起的(查询特定)聚类的顶部检索的文件一直被提出作为一种手段,以提高精度的最高排名的返回结果。我们提出了一种新的语言模型的方法来排名查询特定的集群的假设百分比的相关文件,他们包含。虽然大多数以前的集群排名方法集中在集群作为一个整体,我们的模型还利用信息诱导与集群相关的文件。我们的模型大大优于以前的方法,用于识别包含高相关文档百分比的聚类。此外,使用该模型来产生文档排序,产生的精度在顶级的性能,始终优于初始的排名上进行聚类。性能也有利地比较与一个国家的最先进的伪反馈为基础的检索方法。
2014-01-16 cs.IR
Practical Relative Order Attack in Deep Ranking
Xi’an Jiaotong University(西安交通大学);Alibaba Group(阿里巴巴集团);HERE Technologies(HERE科技公司);Wormpex AI Research(Wormpex人工智能研究院)
最近的研究揭示了深度排名模型的漏洞,其中一个不可察觉的扰动可能会引发排名结果的巨大变化。虽然以前的尝试侧重于操纵某些候选人的绝对排名,但调整其相对顺序的可能性仍然没有得到充分探讨。在本文中,我们提出了一种针对深度排名系统的新的对抗攻击,即,顺序攻击,根据攻击者指定的排列,秘密地改变一组选定的候选者之间的相对顺序,对其他不相关的候选者的干扰有限。具体来说,它被制定为一个三重式的损失强加一个不平等链反映指定的排列。然而,由于各种黑盒限制,这种白盒目标的直接优化在现实世界的攻击场景中是不可行的。为了应对这些问题,我们提出了一个短程排名相关性度量作为黑盒顺序攻击的替代目标,以近似白盒方法。订单攻击在Fashion-MNIST和Stanford-Online-Products数据集上进行评估,包括白盒和黑盒威胁模型。黑盒攻击也在一个主要的电子商务平台上成功实施。综合实验评估表明,所提出的方法的有效性,揭示了一种新的排序模型的脆弱性。
2021-08-09 cs.CV cs.IR cs.LG
Adversarial Item Promotion: Vulnerabilities at the Core of Top-N Recommenders that Use Images to Address Cold Start
Radboud University(拉德堡德大学)
电子商务平台向其客户提供匹配客户偏好的推荐物品的排名列表。电子商务平台上的商家希望他们的商品尽可能出现在这些排名列表的前N位。在本文中,我们展示了无良商家如何创建物品图像,人为地推广他们的产品,提高他们的排名。使用图像来解决冷启动问题的推荐系统容易受到这种安全风险的影响。我们描述了一种新型的攻击,对抗性项目推广(AIP),直接打击前N名的核心:排名机制本身。推荐系统中对抗图像的现有工作研究了传统攻击的影响,这些攻击针对深度学习分类器。相比之下,我们的AIP攻击是嵌入式攻击,试图以欺骗排名器(而不是分类器)的方式推送特征表示,并直接导致项目提升。我们介绍了三个AIP攻击内幕攻击,专家攻击和语义攻击,这是相对于三个连续更现实的攻击模型定义。我们的实验评估了这些攻击的危险时,安装对三个代表性的视觉感知推荐算法的框架,使用图像来解决冷启动。我们还评估了潜在的防御措施,包括对抗性训练,并发现目前常见的技术并不能消除AIP攻击的危险。总之,我们表明,使用图像来解决冷启动打开推荐系统的潜在威胁具有明确的实际意义。
2020-10-20 cs.CR cs.CV cs.IR
Ranking with Diverse Intents and Correlated Contents
我们考虑以下文档排序问题:我们有一个文档集合,每个文档包含一些主题(例如体育,政治,经济)。我们也有一组具有不同兴趣的用户。假设用户u对主题的子集I_u感兴趣。每个用户u还与正整数K_u相关联,这指示u可以被I_u中的任何K_u个主题满足。每个文档s包含主题子集C_s的信息。目标是每次挑选一个文档,使得平均满意时间最小化,其中用户的满意时间是第一次在I_u中至少K_u个主题被覆盖在迄今为止所选择的文档中。我们的主要结果是该问题的一个O(ρ)-近似算法,其中ρ是文献和主题定义的集合覆盖实例的线性规划松弛的算法完整性间隙。这一结果推广了广义最小和集覆盖和排序问题的常数近似和子模赋值排序问题的对数近似(当子模函数是覆盖函数时),并且可以看作是这些结果之间的插值。我们进一步扩展我们的模型的情况下,每个用户可能会感兴趣的多套主题,当用户的估值函数是XOS,并获得类似的结果,这些模型。
2013-07-18 cs.DS cs.IR
More Efficient LLM Reranking with Whole-Pool, Setwise, Long-Context Language Models
The University of Queensland(昆士兰大学)
提出整池集合重排序方法,利用长上下文语言模型一次性处理所有候选段落,并通过DualEnd方法从两端同时排序,减少模型调用次数,提升效率。
2026-10-07 cs.IR
Top-Down Partitioning for Efficient List-Wise Ranking
针对滑动窗口在列表式重排序中无法并行、冗余计算及自底向上偏差的问题,提出自顶向下划分算法,利用枢轴元素实现并行,在深度100下减少约33%推理调用且性能不变。
2024-05-23 cs.IR
Learning a Deep Listwise Context Model for Ranking Refinement
学习排序在信息检索中得到了广泛的研究和应用。通常,全局排名函数是从一组标记数据中学习的,其平均可以实现良好的性能,但由于忽略了不同查询的相关文档在特征空间中可能具有不同分布的事实,因此对于单个查询可能是次优的。受伪相关反馈的想法,排名靠前的文件,我们称之为\textit{local ranking context},可以提供重要的信息查询的特点,我们建议使用固有的功能分布的顶部结果来学习一个深Listwise上下文模型,帮助我们微调初始排名列表。具体来说,我们采用了一个递归神经网络,使用它们的特征向量顺序编码顶部结果,学习局部上下文模型,并使用它来重新排名顶部结果。我们的模型有三个优点:(1)我们的模型可以使用深度神经网络基于顶部结果之间的复杂交互来捕获局部排名上下文;(2)我们的模型可以通过直接使用现有的学习排名方法提取的特征向量来构建;(3)我们的模型使用基于注意力的损失函数进行训练,这比许多现有的列表方法更有效和高效。实验结果表明,该模型可以显着改善最先进的学习排序方法在基准检索语料库。
2018-04-23 cs.IR
Personalized Re-ranking for Improving Diversity in Live Recommender Systems
工业推荐系统的用户通常一次被推荐一个项目列表。理想情况下,这种列表式的解释应该为用户提供多样化和相关的选项。然而,在实践中,列表式推荐被实现为top-N推荐。Top-N推荐从候选项中选择前N个项目进行显示。该列表由排名函数生成,该排名函数从标记数据中学习以优化准确性。然而,top-N推荐可能会导致次优,因为它单独关注每个项目的准确性,而忽略了项目之间的相互影响。因此,我们提出了一个个性化的重新排序模型,以提高实际推荐系统中的推荐列表的多样性。建议的重新排名模型可以很容易地部署为后续组件后,任何现有的排名功能。重排序模型采用个性化的决定点过程(DPP),提高了多样性。DPP已经被应用于一些推荐系统中以提高多样性和用户参与度,但是DPP没有考虑到用户对多样性可能具有个体倾向的事实。为了克服这种限制,我们的重新排名模型提出了一个个性化的DPP模型的准确性和多样性之间的权衡为每个单独的用户。我们在一个大型的工业推荐系统中实现并部署了个性化DPP模型。离线和在线的实验结果表明,我们提出的重新排序模型的效率。
2020-04-21 cs.IR cs.SI
A Boring-yet-effective Approach for the Product Ranking Task of the Amazon KDD Cup 2022
在这项工作中,我们描述了我们对Amazon KDD Cup 2022的产品排名任务的提交。我们依赖于在之前的比赛中表现出有效性的收据:我们专注于有效地训练和部署大型语言odel,如mT5,同时将特定任务的适应数量减少到最低限度。尽管我们的方法很简单,但我们的最佳模型比最高提交值低不到0.004 nDCG@20。由于前20名团队的nDCG@20接近0.90,我们认为我们需要更困难的电子商务评估数据集来区分检索方法。
2022-08-09 cs.IR
Understanding and Mitigating the Effect of Outliers in Fair Ranking
传统的排名系统预计将排序项目的顺序,其相关性,从而最大限度地提高其效用。在公平排序中,效用与公平作为优化目标相补充。最近的工作公平排名的重点是开发算法,以优化公平性,给定的位置为基础的曝光。相比之下,我们发现排名中的离群值可能会影响曝光率,从而对公平性产生负面影响。与基于位置的暴露相比,项目列表中的离群值可以改变检查概率,这可以导致不同的注意力分布。我们正式离群的排名,表明离群值存在于现实的数据集,并提出了眼动跟踪研究的结果,显示用户扫描顺序和项目的曝光的影响,离群值的存在。然后,我们介绍了OMIT,一种在离群值存在的情况下进行公平排名的方法。给定一个离群值检测方法,OMIT通过抑制top-k排名中的离群值来提高风险的公平分配。使用学术搜索数据集,我们表明,离群优化导致一个更公平的政策,显示更少的离群值在前k,同时保持公平和效用之间的合理权衡。
2022-01-03 cs.IR
Harmonizing Generative Retrieval and Ranking in Chain-of-Recommendation
NJUST(南京理工大学);Kuaishou Technology(快手科技)
本文提出RecoChain框架,整合生成与排序流程,通过层次语义ID预测生成候选项并基于SIM进行排序,提升推荐性能。
2026-04-28 cs.IR
Maximizing Marginal Fairness for Dynamic Learning to Rank
排名,特别是搜索和推荐系统中的排名,通常决定人们如何访问信息以及信息如何暴露给人们。因此,如何平衡信息披露的相关性和公平性,是现代信息披露制度的关键问题之一。由于传统的排名框架近视地将文档与其相关性进行排序将不可避免地引入不公平的结果暴露,因此最近关于排名公平性的研究主要集中在动态排名范例上,其中结果排名可以实时调整以支持组中的公平性(即,种族、性别等)。然而,现有的研究动态学习排序的公平性,往往实现整体公平的文件曝光排名列表显着牺牲的性能,结果的相关性和公平性的顶部结果。为了解决这个问题,我们提出了一个公平和公正的排名方法命名为最大边际公平(MMF)。该算法集成了无偏估计的相关性和基于价值的公平性,同时提供了一个明确的控制器,平衡选择的文件,以最大限度地提高边际相关性和公平性的前k个结果。理论和实证分析表明,与最先进的算法相比,我们的方法在相关性和公平性方面都具有优越的效率和有效性,并且在长列表公平性上有很小的妥协。
2021-02-18 cs.IR
Structure-aware Relative Policy Optimization for Ranking
Tsinghua University(清华大学);Renmin University of China(中国人民大学)
研究排序问题,提出结构感知相对策略优化框架SRPO,通过顶部加权肯德尔-陶距离测量排列差异并归一化奖励差异,强调高效局部优化,实验证明该方法能提高列表排序的有效性和稳定性。
2026-07-29 cs.AI cs.IR