Fairness-aware Personalized Ranking Recommendation via Adversarial Learning
推荐算法通常基于历史用户-项目交互(例如,点击、喜欢或评级)以提供个性化的项目排名列表。由于用户偏好不同,这些交互通常不均匀地分布在不同的项目组上。然而,我们发现,推荐算法可以继承甚至放大这种不平衡的分布,导致不公平的项目组的建议。具体地说,我们形式化的概念排名为基础的统计奇偶性和机会均等的两个公平性措施的个性化排名推荐项目组。然后,我们实证表明,最广泛采用的算法之一-贝叶斯个性化排名-产生不公平的建议,这促使我们努力提出新的公平意识的个性化排名模型。去偏置模型能够在保持推荐性能的同时改进两个提出的公平性指标。在三个公共数据集上的实验表明,与最先进的替代方案相比,所提出的模型具有很强的公平性。本文是SIGIR 2020~ \cite{zhu2020measuring}论文的扩展和重组版本。在本文中,我们重新框架的个性化排名推荐系统中的“项目推荐公平性”的研究问题,并提供了更多的细节所提出的模型的训练过程和实验设置的细节。
2021-03-14 cs.IR
Transferable Fairness for Cold-Start Recommendation
随着推荐系统在日常生活中的应用和影响越来越大,如何实现推荐的公平性成为一个重要的问题。以往的公平性推荐工作主要集中在一个预定义的(通常是热启动)用户集。然而,由于新用户或冷启动用户的交互量不足,推荐系统通常面临更具挑战性的公平性问题。因此,研究训练后的模型是否仍然适用于一组新的冷启动用户是至关重要的。本文考虑的情况下,推荐系统满足新用户只有有限的,甚至没有互动的平台,并旨在提供高质量的和公平的建议,有效地给这样的用户。该算法将来自活跃用户的足够多的交互数据作为源用户域,将来自新用户的交互数据作为目标用户域,并考虑将反事实公平性从源用户转移到目标用户。为此,我们引入了一个框架,以实现可转移的反事实公平的建议。该方法能够将从源用户学习到的公平模型知识传递给目标用户,从而提高推荐性能并保持对目标用户的公平性。在两个具有代表性的推荐算法的真实数据集上的实验表明,该方法不仅提高了对目标用户的公平性,而且在推荐性能方面优于比较模型。
2023-01-25 cs.IR
Counterfactual Explanation for Fairness in Recommendation
本文提出CFairER模型,利用异质信息网络和离策略强化学习生成属性级反事实解释,通过注意力动作剪枝缩小搜索空间,在保持推荐性能的同时实现公平性诊断。
2023-07-10 cs.IR
Fairness-aware Cross-Domain Recommendation
本文提出FairCDR模型,通过公平感知的映射函数和基于影响函数的重加权方法,在跨域推荐中实现用户群体公平,同时保持推荐准确性。
2023-05-15 cs.IR
Robustness in Fairness against Edge-level Perturbations in GNN-based Recommendation
该研究聚焦基于图的推荐系统在边级扰动攻击下的公平性鲁棒性,从消费者与供给侧视角设置四种公平性定义,经三个数据集实验发现扰动对消费者公平性影响更大,指出现有鲁棒性评估协议存在缺陷。
2024-01-26 cs.IR
Multi-FR: A Multi-objective Optimization Framework for Multi-stakeholder Fairness-aware Recommendation
如今,大多数在线服务都托管在多利益攸关方市场上,消费者和生产者可能有不同的目标。然而,传统的推荐系统主要关注于通过向每个个体推荐最相关的项目来最大化消费者的满意度。这可能导致项目的不公平暴露,从而损害生产者的利益。此外,他们并不关心来自不同人口群体的消费者是否同样满意。为了解决这些限制,我们提出了一个多目标优化框架的公平意识的建议,多FR,自适应平衡的准确性和公平性与帕累托最优保证的各个利益相关者。首先,我们提出了四个公平约束的消费者和生产者。为了以端到端的方式对整个框架进行训练,我们利用平滑排序和随机排序策略使这些公平性准则可微并且对反向传播友好。然后,我们采用多重梯度下降算法来产生一个Pareto集合的解决方案,从最小痛苦的策略选择最合适的一个。实验结果表明,多FR大大提高了多个利益相关者的最先进的方法,同时保持几乎相同的推荐精度的推荐公平性。培训效率的研究证实了我们的模型的能力,同时优化不同的公平性约束,许多利益相关者有效。
2022-08-09 cs.IR
Toward Pareto Efficient Fairness-Utility Trade-off inRecommendation through Reinforcement Learning
随着推荐系统在日常生活中接触和影响越来越多的人,推荐的公平性问题变得越来越重要。在公平性感知推荐中,大多数现有的算法方法主要旨在通过在优化主要推荐目标的同时对公平性水平施加约束来解决约束优化问题,例如,CTR.虽然这减轻了不公平推荐的影响,但由于公平性和实用性之间固有的权衡,方法的预期回报可能会显着损害推荐准确性。这促使我们处理这些相互冲突的目标,并探索它们之间的最佳权衡推荐。一个突出的方法是寻求一个帕累托有效的解决方案,以保证效用和公平之间的最佳妥协。此外,考虑到现实世界的电子商务平台的需求,如果我们能够概括整个帕累托边界,那么决策者可以根据他们当前的业务需求指定一个目标相对于另一个目标的任何偏好,这将是更可取的。因此,在这项工作中,我们提出了一个公平意识的推荐框架,使用多目标强化学习,称为MoFIR,这是能够学习一个单一的参数表示的最佳推荐策略在所有可能的偏好空间。特别地,我们对传统的DDPG进行了改进,引入了条件网络,它直接根据这些偏好对网络进行条件化,并输出Q值向量。在几个真实世界的推荐数据集上的实验验证了我们的框架在公平性度量和推荐度量方面的优越性。我们还提取了MoFIR生成的真实世界数据集的近似Pareto边界,并与最先进的公平方法进行比较。
2022-01-01 cs.IR
Measuring Fairness in Large-Scale Recommendation Systems with Missing Labels
本文针对大规模推荐系统中标签缺失导致的公平性度量偏差问题,提出利用少量随机流量准确估计公平性指标的方法,并通过理论分析和TikTok真实数据实验验证其有效性。
2024-06-07 cs.IR
Item-side Fairness of Large Language Model-based Recommendation System
本文针对基于大语言模型的推荐系统在物品侧公平性方面研究不足的问题,提出IFairLRS框架,通过在LLaMA上的微调实验验证其能显著提升物品侧公平性。
2024-02-23 cs.IR
The Impact of Popularity Bias on Fairness and Calibration in Recommendation
最近,人们对公平性感知推荐系统的兴趣越来越大,包括在不同用户或用户组之间提供一致性能的公平性。如果推荐系统不能公平地代表某组用户的口味,而其他组收到的推荐与他们的偏好一致,那么推荐系统可能被认为是不公平的。在本文中,我们使用一个度量称为误校准测量推荐算法是如何响应用户的真实偏好,我们认为各种算法可能会导致不同程度的误校准。推荐中的一种众所周知的偏见是流行偏见,其中很少有受欢迎的项目在推荐中被过度代表,而大多数其他项目没有得到显着的曝光。我们推测,流行性偏见是一个重要的因素,导致误校准的建议。我们使用两个真实世界数据集的实验结果表明,不同的用户组如何受到算法流行度偏差的影响与他们对流行项目的兴趣水平之间存在很强的相关性。此外,我们表明,具有更大的流行度偏置放大的算法往往有更大的误校准。
2019-10-16 cs.IR
CAPRI-FAIR: Integration of Multi-sided Fairness in Contextual POI Recommendation Framework
针对POI推荐中不活跃用户推荐不准、小众POI曝光不足的多视角公平性问题,本文提出纳入供需双方公平性的后过滤方法,实验验证了线性打分模型的平衡效果及公平性权衡对模型与数据集的依赖性。
2024-08-14 cs.IR
Improving Recommendation Fairness via Graph Structure and Representation Augmentation
本文提出一种基于双重数据增强的公平推荐框架,通过识别敏感交互与敏感特征生成公平增强图和表示,并结合去偏学习在保持推荐效用的同时提升公平性。
2025-08-27 cs.IR
Fairness of Exposure in Dynamic Recommendation
本文研究动态推荐中的曝光偏差,指出现有静态缓解方法无法实现长期公平,并提出一种适应动态环境的方法,在真实数据上验证了其长期公平性与准确性优势。
2023-09-05 cs.IR
Understanding the Information Cocoon: A Multidimensional Assessment and Analysis of News Recommendation Systems
针对新闻推荐系统导致的信息茧房问题,提出首个多维度统一评估指标框架,从个体同质化与群体极化双视角对七种算法进行基准测试,并设计五种轻量级缓解策略以提供可部署的伦理解决方案。
2025-09-14 cs.IR
The Connection Between Popularity Bias, Calibration, and Fairness in Recommendation
最近,人们越来越关注公平性感知推荐系统,包括在不同用户或用户组之间提供一致性能的公平性。如果推荐系统不能公平地代表某组用户的口味,而其他组收到的推荐与他们的偏好一致,那么推荐系统可能被认为是不公平的。在本文中,我们使用一个度量称为误校准测量推荐算法是如何响应用户的真实偏好,我们考虑如何不同的算法可能会导致不同程度的误校准不同的用户。特别是,我们推测,流行偏见,这是一个众所周知的现象,在推荐是一个重要因素,导致误校准的建议。我们使用两个真实世界数据集的实验结果表明,不同的用户组如何受到算法流行度偏差的影响与他们对流行项目的兴趣水平之间存在联系。此外,我们发现,一个群体受算法流行度偏差的影响越大,他们的推荐就越被错误校准。
2020-08-21 cs.IR
FairRec: Fairness-aware News Recommendation with Decomposed Adversarial Learning
新闻推荐是在线新闻服务的重要组成部分。现有的新闻推荐模型通常从用户的新闻点击行为中学习。通常具有相同敏感属性的用户的行为(例如,性别)具有相似的模式,并且新闻推荐模型可以容易地捕获这些模式。这可能导致推荐结果中与敏感用户属性相关的一些偏差,例如,总是向男性用户推荐体育新闻,这是不公平的,因为用户可能无法接收到多样化的新闻信息。本文提出了一种基于分解对抗学习和正交正则化的公平性新闻推荐方法,该方法可以有效地降低用户敏感属性的偏差所带来的新闻推荐不公平性。在我们的方法中,我们建议将用户兴趣模型分解为两个组件。一个组件的目的是学习一个偏见意识的用户嵌入,捕捉敏感的用户属性上的偏见信息,和其他的目的是学习一个无偏见的用户嵌入,只编码属性无关的用户兴趣信息的公平意识的新闻推荐。此外,我们提出将属性预测任务应用于偏差感知的用户嵌入,以增强其偏差建模能力,并且我们将对抗学习应用于无偏差的用户嵌入,以去除其中的偏差信息。此外,我们提出了一种正交正则化方法,以鼓励无偏置用户嵌入正交于有偏置的用户嵌入,以更好地区分偏置。将用户嵌入从偏置感知中解放出来。对于具有公平意识的新闻排名,我们只使用无偏见的用户嵌入。在基准数据集上的大量实验表明,该方法可以有效地提高新闻推荐的公平性,而性能损失较小。
2021-04-15 cs.IR
Multisided Fairness for Recommendation
最近关于机器学习的工作已经开始考虑公平性问题。在本文中,我们将公平性的概念扩展到推荐。特别是,我们表明,在某些推荐的情况下,公平性可能是一个多方面的概念,其中需要考虑多个人的公平结果。基于这些考虑,我们提出了一个公平意识推荐系统的分类,并建议可能的公平意识推荐架构。
2017-07-08 cs.CY cs.IR
Adaptive Fair Representation Learning for Personalized Fairness in Recommendations via Information Alignment
针对推荐系统个性化公平现有方法训练成本高、公平与准确性权衡次优的问题,提出仅需训练一个模型、推理时自适应满足不同公平要求的AFRL模型,通过信息对齐机制兼顾公平性与推荐准确性,经实验和理论分析验证了其优越性。
2024-04-13 cs.IR
What Price Fairness? Evaluating Energy - Fairness - Accuracy Trade-off in Recommender Systems
Johannes Kepler University Linz(林茨约翰内斯·开普勒大学);ISISTAN, CONICET-UNCPBA(ISISTAN,阿根廷国家科学研究委员会-内乌肯国立大学)
本研究评估推荐系统中公平性干预的能耗成本,比较多种方法,发现公平性的绿色成本不统一,呼吁以准确性、公平性和计算成本三方权衡来评估公平感知推荐。
2026-09-09 cs.IR
Balancing Accuracy and Fairness for Interactive Recommendation with Reinforcement Learning
由于传统推荐人可能造成的偏见和歧视,推荐的公平性越来越受到人们的关注。在交互式推荐系统(IRS)中,用户偏好和系统的公平性状态会随着时间的推移而不断变化。现有的公平感知决策器主要考虑静态环境下的公平性。直接将现有方法应用于IRS将导致不良推荐。为了解决这个问题,我们提出了一个基于强化学习的框架,FairRec,动态地保持IRS的准确性和公平性之间的长期平衡。用户偏好和系统的公平性状态被联合压缩到状态表示中以生成推荐。FairRec旨在最大限度地提高我们设计的累积奖励,将准确性和公平性相结合。大量的实验证明,FairRec可以提高公平性,同时保持良好的推荐质量。
2021-06-25 cs.CY cs.IR
Using Image Fairness Representations in Diversity-Based Re-ranking for Recommendations
在最近的工作中,已经探索了个性化推荐中的相关性和公平性之间的权衡,目标是最小化对某些人口统计学的学习歧视,同时仍然产生相关的结果。我们提出了一个公平意识的变化的最大边缘相关性(MMR)重新排名的方法,它使用的表示使用标记的数据集计算的人口统计组。这一方法旨在体现对这些人口群体的公平性。我们在一个股票照片数据集上进行实验,并通过使用人类判断来检查使用标记数据集的不同部分时重新排名的结果,并通过对一组查询图像的排名结果进行定量分析,来检查相关性和公平性之间的权衡。我们表明,我们提出的方法可以在排名结果中包含公平性,同时获得比基线更高的精度,而我们的案例研究表明,即使是有限数量的标记数据也可以用于计算表示以获得公平性。该方法可用作推荐系统和搜索的后处理步骤。
2018-09-10 cs.IR
FAST: A Fairness Assured Service Recommendation Strategy Considering Service Capacity Constraint
Shanghai Jiao Tong University(上海交通大学);University of Technology Sydney(悉尼科技大学)
过多的客户往往导致服务质量下降。然而,推荐系统忽略了服务的容量限制,这可能导致不满意的推荐。这个问题可以通过限制接收服务推荐的用户数量来解决,但这可能被视为不公平。在本文中,我们提出了一种新的度量Top-N公平性来衡量个人的公平性多轮推荐服务的容量限制。考虑到用户通常只受推荐中排名靠前的项目的影响,Top-N Fairness只考虑由前N个服务组成的子列表。在此基础上,设计了一种公平保证服务推荐策略FAST。FAST调整原有推荐列表,为用户提供推荐结果,保证多轮推荐的长期公平性。从理论上证明了FAST算法的Top-N公平性方差的收敛性。FAST在Yelp数据集和合成数据集上进行了测试。实验结果表明,FAST在保持较高推荐质量的同时,实现了较好的推荐公平性.
2020-12-02 cs.IR cs.LG
ProFairRec: Provider Fairness-aware News Recommendation
新闻推荐旨在帮助在线新闻平台用户找到自己喜欢的新闻文章。现有的新闻推荐方法通常从用户对新闻的历史行为中学习模型。然而,这些行为通常对新闻提供者有偏见。在有偏见的用户数据上训练的模型可能会捕捉甚至放大对新闻提供者的偏见,这对一些少数新闻提供者来说是不公平的。在本文中,我们提出了一个供应商公平意识的新闻推荐框架(命名为ProFairRec),它可以学习新闻推荐模型公平不同的新闻提供商从偏见的用户数据。ProFairRec的核心思想是学习提供者公平的新闻表示和提供者公平的用户表示,以实现提供者公平。为了从有偏见的数据中学习提供者公平的表示,我们采用提供者偏见的表示来从数据中继承提供者偏见。分别从新闻内容和提供商ID学习提供商公平和有偏见的新闻表示,其进一步聚合以基于用户点击历史构建公平和有偏见的用户表示。所有这些表示都用于模型训练,而只有公平表示用于用户-新闻匹配,以实现公平新闻推荐。此外,我们提出了一个对抗性的学习任务,新闻提供者的歧视,以防止供应商公平的新闻表示编码供应商偏见。我们还提出了一个正交正则化提供者公平和偏见的表示,以更好地减少提供者公平表示的偏见。此外,ProFairRec是一个通用的框架,可以应用于不同的新闻推荐方法。在公开数据集上的大量实验表明,该方法可以有效地提高现有方法的公平性,同时保持推荐的准确性.
2022-04-10 cs.IR
Improving Recommendation Fairness without Sensitive Attributes Using Multi-Persona LLMs
针对推荐系统在无敏感属性场景下的公平性问题,提出LLMFOSA框架,利用多角色大语言模型推断敏感信息并学习鲁棒表示,通过互信息目标优化,在公开数据集上验证了提升公平性的有效性。
2025-05-26 cs.IR
EEG-SVRec: An EEG Dataset with User Multidimensional Affective Engagement Labels in Short Video Recommendation
本文提出首个带有用户多维情感参与标签的短视频推荐EEG数据集EEG-SVRec,通过融合EEG信号与自我评估,建立评分预测基准并验证其对推荐性能的提升,为理解用户情感与认知机制及改进短视频推荐提供了新视角。
2024-04-01 cs.IR
Understanding and Mitigating Multi-Sided Exposure Bias in Recommender Systems
公平性是推荐系统中一个重要的系统级目标,是最近广泛研究的主题。这在多边推荐平台中尤其重要,在多边推荐平台中,优化效用不仅对于最终用户至关重要,而且对于其他参与者(例如希望公平表示其物品的物品卖家或生产者)也至关重要。现有的解决方案没有适当地解决建议中的多边公平性的各个方面,因为它们可能仅仅具有片面的观点(即,仅改善一方的公平性),或者没有适当地测量系统中涉及的每个参与者的公平性。在这篇论文中,我的目的是首先调查不公平的建议对系统的影响,以及这些不公平的建议如何对系统中的主要参与者产生负面影响。然后,我试图提出解决建议不公平的方法。我提出了一种评级转换技术,该技术作为构建推荐模型之前的预处理步骤,以减轻输入数据中固有的受欢迎程度偏差,从而减轻推荐列表中商品和供应商的暴露不公平性。此外,作为另一种解决方案,我提出了一个通用的基于图的解决方案,作为推荐生成后的后处理方法,以减轻推荐结果中的多边暴露偏差。对于评估,我介绍了几个度量的项目和供应商的曝光公平性,并表明这些指标更好地捕捉公平性的推荐结果。我进行了大量的实验,以评估所提出的解决方案的有效性。在不同公开数据集上的实验以及与各种基线的比较证实了所提出的解决方案在提高物品和供应商的曝光公平性方面的优越性。
2021-11-10 cs.IR
Aligning Performance with Contribution: Towards Contribution-Aware Fair Recommendation
Shanghai University of Finance and Economics(上海财经大学);Singapore University of Technology and Design(新加坡科技设计大学)
本文提出贡献-性能公平性及CPFR框架,通过对齐用户贡献与推荐性能,在保持公平的同时激励参与,实验证明其实现了强准确性-公平性权衡。
2026-10-07 cs.IR
FairRank: Fairness-aware Single-tower Ranking Framework for News Recommendation
单塔模型被广泛应用于新闻推荐的排序阶段,根据用户行为所指示的用户兴趣与候选新闻的细粒度相关性来准确地对候选新闻进行排序。然而,这些模型可以容易地继承与用户的敏感属性(例如,人口统计学),并且可能生成对具有某些属性的用户不公平的推荐结果。在本文中,我们提出了FairRank,这是一个公平意识的新闻推荐单塔排名框架。由于候选新闻的选择可能是有偏见的,我们建议使用一个共享的候选感知用户模型,以匹配用户的兴趣与一个真实的显示候选新闻和一个随机的新闻,分别学习候选感知用户嵌入,反映用户的兴趣在候选新闻和候选不变的用户嵌入,表明用户的内在兴趣。我们将对抗学习应用于这两种方法,以减少敏感用户属性带来的偏见。此外,我们使用KL损失来正则化从两个用户嵌入中推断出的属性标签,使其相似,这可以使模型捕获更少的候选人感知偏差信息。在两个数据集上的大量实验表明,FairRank可以提高各种单塔新闻排名模型的公平性,而性能损失较小。
2022-04-01 cs.IR
Provider Fairness and Beyond-Accuracy Trade-offs in Recommender Systems
本文提出一种后处理重排序模型以提升推荐系统中提供者公平性,同时在多数据集和模型上评估其对准确性与超越准确性指标的影响及权衡。
2023-09-08 cs.IR
Leveraging Opposite Gender Interaction Ratio as a Path towards Fairness in Online Dating Recommendations Based on User Sexual Orientation
针对在线约会推荐中用户性取向公平性研究不足的问题,提出异性交互比例(OGIR)指标量化群体不公平,并设计基于重新加权和重新排序的公平推荐系统,有效缓解群体数量与校准不平衡,在维持模型效用的同时显著提升公平性。
2024-02-19 cs.IR
Can Fairness Be Prompted? Prompt-Based Debiasing Strategies in High-Stakes Recommendations
University of Copenhagen(哥本哈根大学)
本文提出三种基于提示的去偏策略,旨在通过轻量级方法提升推荐系统的公平性,实验表明该方法能提升公平性达74%,但可能过度促进某些群体。
2026-03-13 cs.IR
User-item fairness tradeoffs in recommendations
本文构建用户与物品公平性联合优化模型,刻画公平约束下的最优权衡,并通过 arXiv 预印本推荐原型验证多样偏好带来“免费”公平及偏好误估用户受损等现象。
2024-12-05 cs.CY cs.IR
The Double-Edged Sword of Knowledge Transfer: Diagnosing and Curing Fairness Pathologies in Cross-Domain Recommendation
Hong Kong Baptist University(香港浸会大学);Shenzhen University(深圳大学)
本文提出CDFA框架,通过自适应整合未标记数据和信息论方法,解决跨领域推荐中的公平性问题,减少不公平性并提升推荐性能。
2026-01-29 cs.IR
User and Recommender Behavior Over Time: Contextualizing Activity, Effectiveness, Diversity, and Fairness in Book Recommendation
本文对Goodreads的UCSD Book Graph数据集进行时间解释性分析,结合活动、多样性与公平性指标及滚动窗口协同过滤训练,揭示用户与推荐系统行为随时间的演变,并考察2011年引入算法推荐后的行为变化。
2025-05-07 cs.IR
Equality of Learning Opportunity via Individual Fairness in Personalized Recommendations
在线教育平台在促进个人职业成功方面发挥着主要作用。因此,在构建覆盖式内容推荐服务的同时,必须根据平台价值观、背景和教学方法,确保为学习者提供平等的推荐学习机会。虽然确保学习机会平等的重要性在传统机构中得到了很好的研究,但如何通过推荐系统在在线学习生态系统中实现这种平等仍然没有得到充分的探讨。在本文中,我们形式化的教育原则,模型建议的学习属性,和一个新的公平性度量,将它们结合起来,以监测平等的学习者之间的推荐学习机会。然后,我们设想一个场景,其中教育平台应该以这样一种方式进行安排,即生成的建议在一定程度上满足所有学习者的每个原则,并限制到他们的个人偏好。在这种观点下,我们探讨了在一个大规模的课程平台推荐系统提供的学习机会,发现系统的不平等。为了减少这种影响,我们提出了一种新型的后处理方法,可以平衡个性化和推荐机会的平等性。实验表明,我们的方法导致更高的平等,在个性化的损失可以忽略不计。我们的研究在将人类学习的道德规范应用于建议方面向前迈进了一步,建议是智能教育系统的核心单元。
2020-10-27 cs.IR
Personalized Counterfactual Fairness in Recommendation
Rutgers University(罗格斯大学)
随着越来越多的用户使用推荐系统进行信息搜索和决策,推荐系统对人类和社会产生了越来越重要的影响。因此,解决推荐中潜在的不公平问题至关重要。就像用户对物品有个性化偏好一样,用户对公平性的诉求在很多场景下也是个性化的。因此,为用户提供个性化的公平推荐,以满足其个性化的公平需求是非常重要的。此外,以往的公平推荐工作主要集中在基于关联的公平性。然而,重要的是要从关联公平的概念,因果公平的概念,更恰当地评估公平的推荐系统。基于上述考虑,本文重点研究了在推荐系统中实现个性化的反事实公平性。为此,我们引入了一个框架,通过生成功能独立的用户嵌入推荐,通过对手学习实现反事实公平的建议。该框架允许推荐系统实现个性化的公平性,同时也涵盖非个性化的情况下,用户。在两个真实数据集上使用浅层和深层推荐算法进行的实验表明,该方法可以为用户生成更公平的推荐,并具有理想的推荐性能。
2021-11-05 cs.AI cs.IR cs.LG
GNNUERS: Fairness Explanation in GNNs for Recommendation via Counterfactual Reasoning
本文提出GNNUERS算法,通过反事实推理和二分图拓扑扰动最小化群体效用差异,系统解释GNN推荐模型中的用户不公平性。
2024-03-25 cs.IR
Generating with Fairness: A Modality-Diffused Counterfactual Framework for Incomplete Multimodal Recommendations
针对不完备多模态推荐中缺失数据生成难、可见性偏差致物品不公平的问题,提出含模态扩散补全和反事实推荐模块的MoDiCF框架,在准确率和公平性上均优于现有方法。
2025-02-22 cs.IR
A Preliminary Study of ChatGPT on News Recommendation: Personalization, Provider Fairness, Fake News
本研究初步评估ChatGPT在个性化新闻推荐、提供者公平性和假新闻检测三方面的表现,探索提示格式对输出约束的影响,并开发网页进行持续监控。
2023-06-19 cs.IR
Improving Recommendation Fairness via Data Augmentation
Hefei University of Technology(合肥工业大学);University of Science and Technology of China(中国科学技术大学);Ant Group(蚂蚁集团);Hefei Comprehensive National Science Center(合肥综合性国家科学中心)
基于协同过滤的推荐技术从用户的历史行为数据中学习用户的偏好,以帮助用户进行决策。近年来,推荐的公平性问题变得越来越重要。当推荐系统不能根据用户的敏感属性对不同的用户组表现得同样好时,它被认为是不公平的(例如,性别、种族)。已经提出了许多方法来通过优化预定义的公平性目标或改变不平衡的训练数据的分布来减轻不公平。然而,它们要么受到特定公平性优化指标的影响,要么依赖于重新设计当前的推荐架构。本文从数据增强的角度研究如何提高推荐公平性。推荐模型放大了不平衡的训练数据固有的不公平性。我们将不平衡的训练数据增加到平衡的数据分布,以提高公平性。所提出的框架通常适用于任何基于嵌入的推荐,并且不需要预先定义公平性度量。在两个真实数据集上的大量实验清楚地表明了我们所提出的框架的优越性。我们在https://github.com/newlei/FDA上发布源代码。
2023-02-21 cs.IR cs.LG
It's Not You, It's Me: The Impact of Choice Models and Ranking Strategies on Gender Imbalance in Music Recommendation
本研究通过模拟用户交互与模型反复重训练,比较排序策略和用户选择模型对音乐推荐中艺术家性别公平反馈回路的影响,发现重排序策略的作用更大。
2024-08-22 cs.IR
Give the Long-tail More SPACE: Promoting Provider Fairness in Next POI Recommendation
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);Department of Computer Science, Hong Kong Baptist University(香港浸会大学计算机科学系)
本研究针对下一个POI推荐中主流模型曝光集中于热门POI、长尾商家曝光不足的问题,提出模型无关框架SPACE,通过三阶段方法提升长尾POI曝光,在保证推荐准确性的同时改善提供者公平性。
2026-08-11 cs.IR
Producer-Fairness in Sequential Bundle Recommendation
Huawei Noah's Ark Lab(华为诺亚实验室);Université d'Orléans(奥尔良大学);Université Grenoble-Alpes(格勒诺布尔阿尔卑斯大学)
针对序列化捆绑推荐场景,本文形式化了生产者公平性问题,并提出精确求解、启发式及自适应方法,在保证推荐质量的同时实现物品组的公平曝光。
2025-06-25 cs.IR cs.LG
Track2Vec: fairness music recommendation with a GPU-free customizable-driven framework
National Yang Ming Chiao Tung University(国立阳明交通大学)
推荐系统已经说明了在基于用户过去的行为来描述用户偏好方面所取得的重大进展。尽管准确推荐的有效性,但存在几个因素对于评估推荐系统的各个方面来说是必不可少的,但尚未探索,例如,公平性、多样性和有限的资源。为了解决这些问题,我们提出了Track 2 Vec,一个免费的GPU可定制驱动的公平音乐推荐框架。为了兼顾准确性和公平性,我们的解决方案由三个模块组成,一个定制的公平性感知组,用于根据可配置的设置建模不同的功能,一个跟踪表示学习模块,用于学习更好的用户嵌入,和一个集成模块,用于排名不同的跟踪表示学习模块的推荐结果。此外,受自然语言处理中广泛使用的TF-IDF的启发,我们引入了一个称为Miss Rate - Inverse Ground Truth Frequency(MR-ITF)的度量来衡量公平性。大量的实验表明,我们的模型在EvalRS @ CIKM 2022挑战赛的排行榜上在无GPU环境中获得了第四名的价格排名,就官方分数而言,这比官方基线高出约200%。此外,消融研究表明,有必要将每组进行整合,以获得准确和公平的建议。
2022-10-29 cs.IR cs.LG
Fairness for All: Investigating Harms to Within-Group Individuals in Producer Fairness Re-ranking Optimization -- A Reproducibility Study
本文复现生产者公平重排序方法,发现其损害群体内冷动物品,提出调节冷动物品推荐数量的修正方案,在几乎不损失准确率的同时提升子群体与群体公平性及新颖性。
2023-09-30 cs.IR
Facets of Fairness in Search and Recommendation
最近的几项工作突出了搜索和推荐系统如何沿着不同的维度表现出偏见。抵制这种偏见并在搜索中引入一定程度的公平性,不仅对于创造一个考虑相关性和多样性的更平衡的环境至关重要,而且对于为内容消费者和内容生产者提供一个更可持续的前进方向也至关重要。这篇简短的论文探讨了最近的一些作品,以定义相关性,多样性和相关概念。然后,它着重于解释在各种推荐设置中新兴的公平性概念。在这样做的时候,本文提出了比较,并强调各种措施之间的合同,在我们的概念和评估框架的差距。
2020-07-16 cs.CY cs.IR
"And the Winner Is...": Dynamic Lotteries for Multi-group Fairness-Aware Recommendation
University of Colorado, Boulder(科罗拉多大学博尔德分校);Tulane University(杜兰大学);DePaul University(德保罗大学);IBM Watson Research Center(IBM沃森研究中心)
随着推荐系统的设计和部署越来越多的社会后果的应用程序,它已成为重要的是要考虑这些系统的公平性。关于推荐的公平性已经有了相当多的研究。然而,我们认为,以前的文献一直是基于简单的,统一的,往往是一维的公平假设的概念,不承认现实世界的复杂性,公平意识的应用程序。在本文中,我们明确表示的设计决策,进入多个定义和交叉保护组的准确性和公平性之间的权衡,支持多个公平性指标。该框架还允许推荐器调整其性能的基础上,已交付的建议,在一个时间范围内的历史视图,动态重新平衡公平性的关注。在这个框架内,我们制定了基于彩票的公平性问题之间的选择机制,并证明了他们的性能在两个推荐域。
2020-09-05 cs.AI cs.IR cs.LG
LTP-MMF: Towards Long-term Provider Max-min Fairness Under Recommendation Feedback Loops
针对推荐反馈循环下供给方最大最小公平性难以长期保障的问题,提出在线排序模型LTP-MMF,经理论验证其长期遗憾值有次线性界,且在三个公开基准上长期表现优于基线。
2024-09-14 cs.IR
Exploring Social Choice Mechanisms for Recommendation Fairness in SCRUF
University of Colorado, Boulder(科罗拉多大学博尔德分校);Comenius University Bratislava(布拉迪斯拉发考门斯基大学);Tulane University(杜兰大学)
本文提出在SCRUF多智能体架构中利用社会选择机制处理推荐系统多方面公平性问题,并通过真实与合成数据实验揭示了不同选择与分配机制下公平性与准确性权衡的差异及一致性。
2023-10-05 cs.AI cs.IR
Fairness in Recommendation: Foundations, Methods and Applications
Rutgers University(罗格斯大学)
该综述系统梳理了推荐系统中公平性研究的基础、定义分类、典型技术、数据集及未来挑战,旨在为新研究者提供全面参考并推动该领域发展。
2023-07-27 cs.AI cs.IR cs.LG
User Fairness in Recommender Systems
推荐系统中最近的工作集中在推荐的多样性作为推荐质量的一个重要方面。在这项工作中,我们认为,后处理算法的目的只是提高多样性的建议导致歧视的用户之间。我们引入了用户公平性的概念,这在文献中被忽视了,到目前为止,并提出了措施来量化它。我们的实验上的两个多样化算法表明,增加聚合多样性的结果在用户之间的差距增加。
2018-07-17 cs.CY cs.IR
Recommendation Fairness in Social Networks Over Time
Nanjing University(南京大学);TU Graz(格拉茨工业大学);Know-Center GmbH(Know-Center有限公司);L3S Research Center(L3S研究中心);Modul University Vienna(维也纳模组大学);University of Mannheim(曼海姆大学);GESIS - Leibniz Institute for the Social Sciences(GESIS-莱布尼茨社会科学研究所)
本文研究了社交网络中随时间变化的推荐公平性,发现公平性随时间提高,且少数族裔比例和同质化比例与公平性存在稳定关联。
2024-05-07 cs.CY cs.IR cs.SI
Unfair Exposure of Artists in Music Recommendation
机器学习中的公平性已经被许多研究者所研究。特别是,在推荐系统的公平性进行了调查,以确保建议符合某些标准,就某些敏感的功能,如种族,性别等,但是,往往推荐系统是多利益相关者的环境中,对所有利益相关者的公平性应该得到照顾。众所周知,推荐算法存在受欢迎程度偏差;很少有受欢迎的项目被过度推荐,这导致大多数其他项目没有得到相应的关注。这种偏见已经从用户的角度进行了调查,以及它如何使最终的建议倾向于流行的项目一般。然而,在本文中,我们调查的影响,在推荐算法中的流行偏见的项目的提供者(即实体背后的推荐项目)。使用音乐数据集进行实验,我们表明,由于算法中的一些偏见,不同受欢迎程度的艺术家群体受到系统性和一致性的不同对待。
2020-03-25 cs.IR
The Unfairness of Multifactorial Bias in Recommendation
Delft University of Technology(代尔夫特理工大学);University of Cambridge(剑桥大学);Eindhoven University of Technology(埃因霍温理工大学);University of Amsterdam(阿姆斯特丹大学)
本文研究了多因素偏见对推荐系统公平性的影响,提出基于百分位数的评分转换预处理方法,有效提升曝光公平性并减少计算成本。
2026-01-19 cs.IR