A Reproducibility Study of Product-side Fairness in Bundle Recommendation
Delft University of Technology（代尔夫特理工大学）；University of Amsterdam（阿姆斯特丹大学）
本文通过三个数据集和四种先进捆绑推荐方法复现研究产品侧公平性，发现捆绑与商品层面曝光模式差异显著，且用户行为会显著影响公平性，为构建更公平的捆绑推荐系统提供依据。
2025-07-18 cs.AI cs.IR
TFROM: A Two-sided Fairness-Aware Recommendation Model for Both Customers and Providers
Shanghai Jiao Tong University（上海交通大学）；University of Technology Sydney（悉尼科技大学）；Ctrip.com International Ltd（携程国际有限公司）
目前，大多数关于推荐系统公平性的研究都是从消费者的角度或者从产品（或服务）提供商的角度进行的。但是，这种做法忽略了一个事实，即当一方的公平得到保证时，另一方的公平和权利很可能会减少。在本文中，我们考虑推荐场景的角度来看，双方（客户和供应商）。从供应商的角度考虑推荐系统中供应商曝光的公平性。对于客户，我们考虑由于引入公平性措施而导致的推荐结果质量降低的公平性。从理论上分析了推荐质量、用户公平性和提供商公平性之间的关系，并设计了一个面向用户和提供商的双边公平性感知推荐模型（TFROM）。具体来说，我们设计了两个版本的TFROM离线和在线推荐。在三个真实数据集上验证了该模型的有效性。实验结果表明，TFROM提供了更好的双边公平性，同时仍然保持了更高水平的个性化比基线算法。
2021-04-19 cs.AI
A General Framework for Fairness in Multistakeholder Recommendations
Boston University（波士顿大学）；Zillow Group（Zillow集团）
当代推荐系统充当多边平台上的中介，从卖家向买家提供高效用的推荐。这样的系统试图平衡多个利益相关者的目标，包括卖家，买家和平台本身。在为买家提供最大化效用的推荐的同时，同时代表平台上的所有卖家的困难导致了许多有趣的研究问题。传统上，它们被公式化为整数线性规划，其以\emph{offline}方式一起计算所有买家的推荐，通过结合覆盖约束，使得各个卖家在所有推荐项目上按比例地表示。这种方法可能会导致不可预见的偏见，其中某些买家始终收到低效用的建议，以满足全球卖方覆盖范围的限制。为了弥补这种情况，我们提出了一个通用的配方，结合卖方覆盖目标，同时在一个实时个性化推荐系统的个人买家的目标。此外，我们利用高度可扩展的子模块优化算法，为每个买家提供可证明的理论质量界限的建议。此外，我们使用来自在线房地产市场的数据实证评估我们的方法的有效性。
2020-09-04 cs.AI cs.IR
Alleviating User-Sensitive bias with Fair Generative Sequential Recommendation Model
School of Information Management Nanjing University（信息管理学院 南京大学）
本文提出基于扩散模型的公平生成式序列推荐模型FairGENRec，通过在训练阶段注入随机噪声与消除敏感特征偏差的多兴趣表示，并在推理阶段反向重构目标物品，实现了推荐准确性与公平性的双重提升。
2025-07-15 cs.AI cs.IR
A Graph-based Approach for Mitigating Multi-sided Exposure Bias in Recommender Systems
Eindhoven University of Technology（埃因霍温理工大学）；Northwestern University（西北大学）；DePaul University（德保罗大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）
公平性是推荐系统中一个重要的系统级目标，是最近广泛研究的主题。公平性的一种具体形式是供应商暴露公平性，其目标是确保在向用户提供的建议中公平地覆盖所有供应商的项目。这在多利益相关者推荐场景中尤其重要，在这些场景中，不仅为最终用户优化效用，而且为其他利益相关者（例如希望公平表示其物品的物品销售商或生产商）优化效用也很重要。这种类型的供应商公平性有时是通过尝试增加聚合多样性来实现的，以减轻受欢迎的偏见，并提高推荐中长尾项目的覆盖率。在本文中，我们介绍了FairMatch，一个通用的基于图的算法，作为推荐生成后的后处理方法，以提高项目和供应商的曝光公平性。该算法迭代地将具有低可见性的高质量项目或来自具有低曝光度的供应商的项目添加到用户的最终推荐列表。在两个数据集上进行的一组全面的实验以及与最先进基线的比较表明，FairMatch在显着提高曝光公平性和总体多样性的同时，保持了可接受的建议相关性水平。
2021-07-07 cs.AI cs.IR
Opportunistic Multi-aspect Fairness through Personalized Re-ranking
University of Colorado, Boulder（科罗拉多大学博尔德分校）；DePaul University（德保罗大学）；The Chinese University of Hong Kong（香港中文大学）
随着推荐系统变得越来越普遍，并进入了就业和住房等具有更大社会影响的领域，研究人员已经开始寻求确保此类系统产生的结果公平的方法。这项工作主要集中在开发推荐方法，其中公平性指标与推荐准确性一起被联合优化。然而，以前的工作在很大程度上忽略了个人偏好如何限制算法产生公平建议的能力。此外，除了少数例外，研究人员只考虑了相对于单一敏感特征或属性（如种族或性别）衡量公平性的场景。在本文中，我们提出了一个重新排名的方法，公平意识的建议，学习个人偏好在多个公平性的维度，并使用它们来提高提供商的公平性的推荐结果。具体来说，我们表明，我们的机会主义和度量不可知的方法实现了更好的权衡准确性和公平性比以前的重新排名的方法，并在多个公平性方面。
2020-05-21 cs.AI cs.IR cs.LG
Post-Training Fairness Control: A Single-Train Framework for Dynamic Fairness in Recommendation
Hong Kong Baptist University（香港 Baptist 大学）
Cofair提出一个单一训练框架，通过共享表示层和公平性条件适配器模块，在推荐系统中实现动态公平性控制，无需重新训练即可适应不同公平性需求。
2026-01-28 cs.AI cs.CY cs.IR
Unmasking Gender Bias in Recommendation Systems and Enhancing Category-Aware Fairness
Deakin University（迪肯大学）
本文提出一套细粒度类别感知指标量化推荐系统性别偏见，并用作正则化项训练，在三个数据集上验证其能显著提升公平性且不损性能。
2025-02-25 cs.AI cs.CY cs.HC
Joint Multisided Exposure Fairness for Recommendation
McGill University（麦吉尔大学）；Microsoft（微软）；City University of Hong Kong（香港城市大学）；Google（谷歌）
在推荐系统的背景下，曝光公平性的先前研究主要集中在个人或群体的项目暴露给系统的个人用户的差异。单个项目或项目组如何系统地暴露于用户组或甚至所有用户的问题受到的关注相对较少。然而，这种信息披露方面的系统性差异可能导致明显的社会危害，例如剥夺历史上被边缘化群体的经济机会（分配性危害）或放大性别和种族化的陈规定型观念（代表性危害）。此前，Diaz等人开发了预期曝光度量--它结合了先前为信息检索开发的现有用户浏览模型--以研究内容曝光对个人用户的公平性。我们扩展了他们提出的框架，正式形成了一个家庭的曝光公平性指标，模型的问题，共同从消费者和生产者的角度来看。具体来说，我们考虑这两种类型的利益相关者的群体属性，以识别和减轻超越个人用户和项目的公平性问题，以更系统的偏见推荐。此外，我们研究和讨论了本文提出的不同曝光公平性维度之间的关系，以及演示如何随机排名策略可以优化到所述公平性目标。
2022-04-29 cs.AI cs.IR cs.LG
New Fairness Metrics for Recommendation that Embrace Differences
Department of Computer Science Blacksburg Virginia 24060；Department of Computer Science
我们研究了协同过滤推荐系统的公平性，该系统对历史数据中存在的歧视很敏感。有偏见的数据会导致协同过滤方法对少数用户群体做出不公平的预测。我们确定现有的公平性指标的不足，并提出了四个新的指标，解决不同形式的不公平。这些公平性度量可以通过向学习目标添加公平性项来优化。在合成数据和真实数据上的实验表明，我们的新指标可以更好地衡量公平性比基线，公平性目标有效地帮助减少不公平。
2017-12-13 cs.AI cs.CY
Discussion about Attacks and Defenses for Fair and Robust Recommendation System Design
Sungkyunkwan University（成均馆大学）
随着大数据时代的到来，信息在互联网和移动端呈现爆炸式增长。特别是，推荐系统被广泛用于帮助消费者在如此大量的信息中努力选择最好的产品。然而，推荐系统很容易受到恶意用户偏见的影响，例如虚假评论以推广或降级特定产品，以及窃取个人信息的攻击。这种偏见和攻击损害了推荐模型的公平性，并通过扭曲数据侵犯了用户和系统的隐私。最近，深度学习协同过滤推荐系统更容易受到这种偏见的影响。在这份立场文件中，我们研究了导致各种道德和社会问题的偏见的影响，并讨论了设计公平和稳定的鲁棒推荐系统的必要性。
2022-09-28 cs.AI cs.IR
User-oriented Fairness in Recommendation
Rutgers University（罗格斯大学）
作为一个高度数据驱动的应用，推荐系统可能会受到数据偏差的影响，导致对不同数据组的结果不公平，这可能是影响系统性能的一个原因。因此，识别和解决推荐场景中的不公平问题非常重要。在本文中，我们从用户的角度来解决推荐系统中的不公平问题。我们根据用户的活跃程度将其分为弱势群体和弱势群体，并进行实验，以表明目前的推荐系统将表现出不公平的两组用户之间。具体而言，在数据中只占很小比例的弱势用户（活跃）比弱势用户（不活跃）享有更高的推荐质量。这种偏见也会影响整体性能，因为弱势用户占大多数。为了解决这个问题，我们提供了一个重新排名的方法，以减轻这种不公平的问题，通过增加约束的评估指标。我们在几个真实世界的数据集上进行了各种推荐算法的实验表明，我们的方法不仅可以提高用户在推荐系统中的群体公平性，但也取得了更好的整体推荐性能。
2021-04-21 cs.AI cs.HC cs.IR
Uncertainty and Fairness Awareness in LLM-Based Recommendation Systems
Beihang University（北京航空航天大学）；McGill University（麦吉尔大学）
本文研究了大语言模型推荐系统中不确定性与公平性的影响，提出了一种新的评估方法并揭示了个性化与公平性之间的权衡。
2026-01-31 cs.AI cs.CL cs.CY
DeepFair: Deep Learning for Improving Fairness in Recommender Systems
Universidad Politécnica de Madrid（马德里理工大学）
推荐系统中缺乏偏见管理导致少数群体收到不公平的推荐。此外，公平与精确之间的权衡使得很难获得同时符合这两项标准的建议。在这里，我们提出了一种基于深度学习的协同过滤算法，该算法在不知道用户的人口统计信息的情况下，提供了公平性和准确性之间的最佳平衡的推荐。实验结果表明，它是可能的，使公平的建议，而不会失去一个显着比例的准确性。
2020-06-09 cs.AI cs.LG stat.ML
FACTER: Fairness-Aware Conformal Thresholding and Prompt Engineering for Enabling Fair LLM-Based Recommender Systems
University of Southern California（南加州大学）
本文提出公平性感知框架 FACTER，通过共形预测、自适应语义方差阈值和对抗性提示生成，在不重训大语言模型的情况下将推荐系统公平性违规最高降低95.5%，同时保持推荐准确性。
2025-02-05 cs.AI cs.CY cs.IR
Online certification of preference-based fairness for personalized recommender systems
Meta AI
推荐系统正面临审查，因为它们对我们所能获得的机会的影响越来越大。目前对公平性的审计仅限于敏感群体级别的粗粒度奇偶性评估。我们建议审计无嫉妒性，这是一个与个人偏好相一致的更细粒度的标准：每个用户都应该喜欢他们的推荐。由于审计嫉妒需要估计用户的偏好超出他们现有的建议，我们投审计作为一个新的纯探索多武装土匪的问题。我们提出了一个样本效率的算法，理论上保证它不会恶化用户体验。我们还研究了在现实世界的推荐数据集上实现的权衡。
2023-03-06 cs.AI cs.CY cs.LG
Exploring Social Choice Mechanisms for Recommendation Fairness in SCRUF
University of Colorado, Boulder（科罗拉多大学博尔德分校）；Comenius University Bratislava（布拉迪斯拉发考门斯基大学）；Tulane University（杜兰大学）
本文提出在SCRUF多智能体架构中利用社会选择机制处理推荐系统多方面公平性问题，并通过真实与合成数据实验揭示了不同选择与分配机制下公平性与准确性权衡的差异及一致性。
2023-10-05 cs.AI cs.IR
Proactive Guiding Strategy for Item-side Fairness in Interactive Recommendation
Chinese Academy of Sciences（中国科学院）；University of Technology Sydney（悉尼科技大学）；University of Science and Technology of China（中国科学技术大学）
HRL4PFG通过分层强化学习引导用户偏好向长尾物品倾斜，提升交互推荐的公平性和用户参与度。
2026-03-03 cs.AI cs.IR
Explainable Fairness in Recommendation
现有的公平性推荐研究主要集中在公平性的量化和公平推荐模型的开发上，而没有研究更实质性的问题--确定推荐模型差异的根本原因。这些信息对于推荐系统设计者理解内在的推荐机制至关重要，并为决策者提供了如何提高模型公平性的见解。幸运的是，随着可解释人工智能的快速发展，我们可以使用模型的可解释性来深入了解模型的公平性。在本文中，我们研究了可解释的公平性问题，这有助于深入了解为什么一个系统是公平或不公平的，并指导公平推荐系统的设计与更明智和统一的方法。特别是，我们专注于一个共同的设置与功能感知推荐和曝光不公平，但建议的可解释的公平性框架是一般的，可以应用到其他推荐设置和公平性定义。我们提出了一个反事实的可解释的公平性框架，称为CEF，它产生的解释模型的公平性，可以提高公平性，而不会显着损害performance. CEF框架制定了一个优化问题，学习的“最小”的输入功能的变化，改变推荐结果到一定程度的公平性。基于每个特征的反事实推荐结果，我们根据公平性-效用权衡来计算可解释性得分，以对所有基于特征的解释进行排名，并选择最高的作为公平性解释。
2022-06-06 cs.IR
Towards Long-term Fairness in Recommendation
随着推荐系统对人们生活的影响越来越大，推荐的公平性问题也越来越重要。现有的公平性推荐方法大多数都是静态或一次性的，其中受保护的项目组是固定的，该模型提供了一个基于公平性约束优化的一次性公平性解决方案。这没有考虑推荐系统的动态性质，其中诸如项目流行度之类的属性可能由于推荐策略和用户参与而随着时间而改变。例如，曾经流行的产品可能不再流行，反之亦然。因此，旨在保持不同流行度组中的项目曝光的长期公平性的系统必须及时地适应这种变化。新颖的这项工作，我们探讨了长期的公平性推荐的问题，并通过动态公平性学习来完成这个问题。我们关注的是项目在不同群体中曝光的公平性，而群体的划分是基于项目的受欢迎程度，这在推荐过程中会随着时间的推移而动态变化。针对这一问题，提出了一种基于公平性约束的强化学习推荐算法，该算法将推荐问题建模为约束马尔可夫决策过程（CMDP），使得模型能够动态调整推荐策略，以确保在环境变化时始终满足公平性要求.在几个真实数据集上的实验验证了该框架在推荐性能、短期公平性和长期公平性方面的优越性。
2021-01-10 cs.IR
Selective Fairness in Recommendation via Prompts
推荐公平性近来引起了人们的极大关注。在现实系统中，用户通常具有多个敏感属性（例如年龄、性别和职业），并且用户可能不希望他们的推荐结果受到这些属性的影响。此外，这些用户属性中的哪些以及何时应该被考虑在公平性感知建模中应该取决于用户的特定需求。在这项工作中，我们定义了选择性的公平性任务，用户可以灵活地选择哪些敏感属性的推荐模型是无偏的。我们提出了一种新的参数有效的基于偏好的公平性感知推荐（PFRec）框架，它依赖于属性特定的基于偏好的偏见消除器与对抗训练，使选择性公平性与不同的属性组合的顺序推荐。任务特定和用户特定的提示都被考虑。我们进行了广泛的评估，以验证PFRec的选择性公平的优越性。源代码在\url{https://github.com/wyqing20/PFRec}中发布。
2022-07-05 cs.IR
Multi-stakeholder Recommendation and its Connection to Multi-sided Fairness
推荐作为一个多利益相关者的问题，应该考虑多方的利益，有越来越多的研究兴趣。这一类别包含了一些现有的推荐研究领域，包括互惠和群体推荐，但仍然缺乏对不同类别的多利益相关者推荐系统的详细分类。公平感知推荐也逐渐成为一个研究领域，但其与多利益相关者推荐的密切联系并不总是被认识到。在本文中，我们定义了最常见的多利益相关者推荐系统的类，并讨论了不同的公平性问题可能会在这样的系统中发挥作用。
2019-07-30 cs.IR
Knowledge is Power, Understanding is Impact: Utility and Beyond Goals, Explanation Quality, and Fairness in Path Reasoning Recommendation
University of Cagliari（卡利亚里大学）；Polytechnic University of Turin（都灵理工大学）
路径推理是基于知识图谱（KG）对高阶用户-产品关系建模的著名推荐方法。这种方法可以提取推荐产品和已经体验过的产品之间的推理路径，然后将这些路径转化为用户的文本解释。不幸的是，在这一领域的评估协议出现异构和有限的，很难上下文的影响，现有的方法。在本文中，我们复制了三个国家的最先进的相关路径推理推荐方法提出的顶级会议。在一个共同的评估协议下，基于两个公共数据集，并与其他知识感知的方法相比，我们研究了它们在多大程度上满足推荐效用和超越目标，解释质量，消费者和提供者的公平性。我们的研究提供了在这一领域的进展情况，突出开放的问题和未来的方向。源代码：\url{https://github.com/giacoballoccu/rep-path-reasoning-recsys}。
2023-01-14 cs.AI cs.IR
Fairness-Aware Recommendation of Information Curators
本文重点介绍了我们正在努力创建有效的信息策展人推荐模型，可以为个人用户个性化，同时保持重要的公平性。具体地说，我们介绍了信息策展人推荐的问题，提供了一个高层次的公平意识的推荐概述，并介绍了一些初步的实验证据在现实世界的Twitter数据集。最后，我们对未来的方向提出一些想法。
2018-10-03 cs.IR
Multisided Fairness for Recommendation
最近关于机器学习的工作已经开始考虑公平性问题。在本文中，我们将公平性的概念扩展到推荐。特别是，我们表明，在某些推荐的情况下，公平性可能是一个多方面的概念，其中需要考虑多个人的公平结果。基于这些考虑，我们提出了一个公平意识推荐系统的分类，并建议可能的公平意识推荐架构。
2017-07-08 cs.CY cs.IR
Unveiling Bias in Fairness Evaluations of Large Language Models: A Critical Literature Review of Music and Movie Recommendation Systems
School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机学院）
本文通过文献综述揭示了当前大型语言模型在推荐系统公平性评估中普遍忽视个性化的问题，强调亟需将个性化纳入评估框架以促进AI的公平发展。
2024-01-08 cs.AI cs.IR cs.SE
Recommendation Fairness: From Static to Dynamic
Birkbeck, University of London（伦敦大学伯贝克学院）；ByteDance AI Lab（字节跳动人工智能实验室）；University College London（伦敦大学学院）
由于需要捕捉用户不断变化的兴趣并优化他们的长期体验，越来越多的推荐系统开始将推荐建模为马尔可夫决策过程，并采用强化学习来解决这个问题。推荐系统公平性的研究不也应该从静态的评价和一次性的干预走向动态的监控和不间断的控制吗？在本文中，我们描绘了最近的发展，在推荐系统，然后讨论如何公平可以融入强化学习技术的推荐。此外，我们认为，为了在推荐公平性方面取得进一步的进展，我们可能要考虑多代理（博弈论）优化，多目标（帕累托）优化和基于模拟的优化，在随机博弈的一般框架。
2021-11-01 cs.AI cs.IR cs.LG
Balancing Accuracy and Fairness for Interactive Recommendation with Reinforcement Learning
由于传统推荐人可能造成的偏见和歧视，推荐的公平性越来越受到人们的关注。在交互式推荐系统（IRS）中，用户偏好和系统的公平性状态会随着时间的推移而不断变化。现有的公平感知决策器主要考虑静态环境下的公平性。直接将现有方法应用于IRS将导致不良推荐。为了解决这个问题，我们提出了一个基于强化学习的框架，FairRec，动态地保持IRS的准确性和公平性之间的长期平衡。用户偏好和系统的公平性状态被联合压缩到状态表示中以生成推荐。FairRec旨在最大限度地提高我们设计的累积奖励，将准确性和公平性相结合。大量的实验证明，FairRec可以提高公平性，同时保持良好的推荐质量。
2021-06-25 cs.CY cs.IR
A Survey on the Fairness of Recommender Systems
推荐系统是缓解信息过载的重要工具，在人们的日常生活中扮演着重要的角色。由于建议涉及社会资源的分配（例如，工作推荐），一个重要的问题是推荐是否公平。不公正的推荐不仅不道德，而且损害了推荐人制度本身的长远利益。因此，推荐系统中的公平性问题最近引起了越来越多的关注。然而，由于多个复杂的资源分配过程和各种各样的公平性定义，对推荐中公平性的研究比较分散。为了填补这一空白，我们回顾了在顶级会议/期刊上发表的60多篇论文，包括TOIS，SIGIR和WWW。首先，我们总结了建议中的公平性定义，并提供了几种观点来分类公平性问题。然后，我们回顾了公平性研究中的推荐数据集和测量，并提供了一个详细的分类公平性方法的建议。最后，我们通过概述一些有希望的未来方向来结束这项调查。
2022-06-19 cs.IR
FAST: A Fairness Assured Service Recommendation Strategy Considering Service Capacity Constraint
Shanghai Jiao Tong University（上海交通大学）；University of Technology Sydney（悉尼科技大学）
过多的客户往往导致服务质量下降。然而，推荐系统忽略了服务的容量限制，这可能导致不满意的推荐。这个问题可以通过限制接收服务推荐的用户数量来解决，但这可能被视为不公平。在本文中，我们提出了一种新的度量Top-N公平性来衡量个人的公平性多轮推荐服务的容量限制。考虑到用户通常只受推荐中排名靠前的项目的影响，Top-N Fairness只考虑由前N个服务组成的子列表。在此基础上，设计了一种公平保证服务推荐策略FAST。FAST调整原有推荐列表，为用户提供推荐结果，保证多轮推荐的长期公平性。从理论上证明了FAST算法的Top-N公平性方差的收敛性。FAST在Yelp数据集和合成数据集上进行了测试。实验结果表明，FAST在保持较高推荐质量的同时，实现了较好的推荐公平性.
2020-12-02 cs.IR cs.LG
Fairness-aware Personalized Ranking Recommendation via Adversarial Learning
推荐算法通常基于历史用户-项目交互（例如，点击、喜欢或评级）以提供个性化的项目排名列表。由于用户偏好不同，这些交互通常不均匀地分布在不同的项目组上。然而，我们发现，推荐算法可以继承甚至放大这种不平衡的分布，导致不公平的项目组的建议。具体地说，我们形式化的概念排名为基础的统计奇偶性和机会均等的两个公平性措施的个性化排名推荐项目组。然后，我们实证表明，最广泛采用的算法之一-贝叶斯个性化排名-产生不公平的建议，这促使我们努力提出新的公平意识的个性化排名模型。去偏置模型能够在保持推荐性能的同时改进两个提出的公平性指标。在三个公共数据集上的实验表明，与最先进的替代方案相比，所提出的模型具有很强的公平性。本文是SIGIR 2020~ \cite{zhu2020measuring}论文的扩展和重组版本。在本文中，我们重新框架的个性化排名推荐系统中的“项目推荐公平性”的研究问题，并提供了更多的细节所提出的模型的训练过程和实验设置的细节。
2021-03-14 cs.IR
Fairness-Aware Explainable Recommendation over Knowledge Graphs
Rutgers University（罗格斯大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of Washington（华盛顿大学）
最近，人们越来越关注公平性的考虑，特别是在智能决策系统的背景下。特别是可解释的推荐系统，可能会受到解释偏差和性能差异的影响。在本文中，我们分析了不同群体的用户，根据他们的活动水平，发现不同群体之间的推荐性能存在偏见。我们表明，不活跃的用户可能更容易收到不满意的建议，由于不活跃的用户的训练数据不足，他们的建议可能会有偏见的培训记录更活跃的用户，由于协同过滤的性质，这导致系统的不公平待遇。我们提出了一个公平性约束的方法，通过启发式重新排名，以减轻这种不公平的问题，在知识图谱的背景下，可解释的建议。我们在几个真实世界的数据集上进行实验，使用最先进的基于知识图谱的可解释推荐算法。实验结果表明，该算法不仅能够提供高质量的可解释推荐，而且在多个方面降低了推荐的不公平性。
2020-06-28 cs.AI cs.IR cs.SI
Transferable Fairness for Cold-Start Recommendation
随着推荐系统在日常生活中的应用和影响越来越大，如何实现推荐的公平性成为一个重要的问题。以往的公平性推荐工作主要集中在一个预定义的（通常是热启动）用户集。然而，由于新用户或冷启动用户的交互量不足，推荐系统通常面临更具挑战性的公平性问题。因此，研究训练后的模型是否仍然适用于一组新的冷启动用户是至关重要的。本文考虑的情况下，推荐系统满足新用户只有有限的，甚至没有互动的平台，并旨在提供高质量的和公平的建议，有效地给这样的用户。该算法将来自活跃用户的足够多的交互数据作为源用户域，将来自新用户的交互数据作为目标用户域，并考虑将反事实公平性从源用户转移到目标用户。为此，我们引入了一个框架，以实现可转移的反事实公平的建议。该方法能够将从源用户学习到的公平模型知识传递给目标用户，从而提高推荐性能并保持对目标用户的公平性。在两个具有代表性的推荐算法的真实数据集上的实验表明，该方法不仅提高了对目标用户的公平性，而且在推荐性能方面优于比较模型。
2023-01-25 cs.IR
Counterfactual Explanation for Fairness in Recommendation
本文提出CFairER模型，利用异质信息网络和离策略强化学习生成属性级反事实解释，通过注意力动作剪枝缩小搜索空间，在保持推荐性能的同时实现公平性诊断。
2023-07-10 cs.IR
Fairness-aware Cross-Domain Recommendation
本文提出FairCDR模型，通过公平感知的映射函数和基于影响函数的重加权方法，在跨域推荐中实现用户群体公平，同时保持推荐准确性。
2023-05-15 cs.IR
Robustness in Fairness against Edge-level Perturbations in GNN-based Recommendation
该研究聚焦基于图的推荐系统在边级扰动攻击下的公平性鲁棒性，从消费者与供给侧视角设置四种公平性定义，经三个数据集实验发现扰动对消费者公平性影响更大，指出现有鲁棒性评估协议存在缺陷。
2024-01-26 cs.IR
FairEval: Evaluating Fairness in LLM-Based Recommendations with Personality Awareness
Beihang University（北京航空航天大学）；McGill University（麦吉尔大学）
本文提出FairEval框架，融合人格特质与八项敏感人口属性，系统评估LLM推荐公平性，并通过PAFS指标揭示ChatGPT 4o与Gemini 1.5 Flash在音乐和电影推荐中的偏差，强调提示鲁棒性对构建包容性推荐系统的重要性。
2025-04-10 cs.AI cs.HC cs.IR
Multi-FR: A Multi-objective Optimization Framework for Multi-stakeholder Fairness-aware Recommendation
如今，大多数在线服务都托管在多利益攸关方市场上，消费者和生产者可能有不同的目标。然而，传统的推荐系统主要关注于通过向每个个体推荐最相关的项目来最大化消费者的满意度。这可能导致项目的不公平暴露，从而损害生产者的利益。此外，他们并不关心来自不同人口群体的消费者是否同样满意。为了解决这些限制，我们提出了一个多目标优化框架的公平意识的建议，多FR，自适应平衡的准确性和公平性与帕累托最优保证的各个利益相关者。首先，我们提出了四个公平约束的消费者和生产者。为了以端到端的方式对整个框架进行训练，我们利用平滑排序和随机排序策略使这些公平性准则可微并且对反向传播友好。然后，我们采用多重梯度下降算法来产生一个Pareto集合的解决方案，从最小痛苦的策略选择最合适的一个。实验结果表明，多FR大大提高了多个利益相关者的最先进的方法，同时保持几乎相同的推荐精度的推荐公平性。培训效率的研究证实了我们的模型的能力，同时优化不同的公平性约束，许多利益相关者有效。
2022-08-09 cs.IR
Toward Pareto Efficient Fairness-Utility Trade-off inRecommendation through Reinforcement Learning
随着推荐系统在日常生活中接触和影响越来越多的人，推荐的公平性问题变得越来越重要。在公平性感知推荐中，大多数现有的算法方法主要旨在通过在优化主要推荐目标的同时对公平性水平施加约束来解决约束优化问题，例如，CTR.虽然这减轻了不公平推荐的影响，但由于公平性和实用性之间固有的权衡，方法的预期回报可能会显着损害推荐准确性。这促使我们处理这些相互冲突的目标，并探索它们之间的最佳权衡推荐。一个突出的方法是寻求一个帕累托有效的解决方案，以保证效用和公平之间的最佳妥协。此外，考虑到现实世界的电子商务平台的需求，如果我们能够概括整个帕累托边界，那么决策者可以根据他们当前的业务需求指定一个目标相对于另一个目标的任何偏好，这将是更可取的。因此，在这项工作中，我们提出了一个公平意识的推荐框架，使用多目标强化学习，称为MoFIR，这是能够学习一个单一的参数表示的最佳推荐策略在所有可能的偏好空间。特别地，我们对传统的DDPG进行了改进，引入了条件网络，它直接根据这些偏好对网络进行条件化，并输出Q值向量。在几个真实世界的推荐数据集上的实验验证了我们的框架在公平性度量和推荐度量方面的优越性。我们还提取了MoFIR生成的真实世界数据集的近似Pareto边界，并与最先进的公平方法进行比较。
2022-01-01 cs.IR
Measuring Fairness in Large-Scale Recommendation Systems with Missing Labels
本文针对大规模推荐系统中标签缺失导致的公平性度量偏差问题，提出利用少量随机流量准确估计公平性指标的方法，并通过理论分析和TikTok真实数据实验验证其有效性。
2024-06-07 cs.IR
UP5: Unbiased Foundation Model for Fairness-aware Recommendation
Rutgers University（罗格斯大学）
本文提出反事实公平提示（CFP）方法，构建无偏基础模型（UFO），以缓解LLM推荐中的用户侧不公平，实验证明其在MovieLens-1M和Insurance数据集上兼顾公平与性能。
2024-05-29 cs.AI cs.CL cs.IR
Item-side Fairness of Large Language Model-based Recommendation System
本文针对基于大语言模型的推荐系统在物品侧公平性方面研究不足的问题，提出IFairLRS框架，通过在LLaMA上的微调实验验证其能显著提升物品侧公平性。
2024-02-23 cs.IR
User-item fairness tradeoffs in recommendations
本文构建用户与物品公平性联合优化模型，刻画公平约束下的最优权衡，并通过 arXiv 预印本推荐原型验证多样偏好带来“免费”公平及偏好误估用户受损等现象。
2024-12-05 cs.CY cs.IR
The Impact of Popularity Bias on Fairness and Calibration in Recommendation
最近，人们对公平性感知推荐系统的兴趣越来越大，包括在不同用户或用户组之间提供一致性能的公平性。如果推荐系统不能公平地代表某组用户的口味，而其他组收到的推荐与他们的偏好一致，那么推荐系统可能被认为是不公平的。在本文中，我们使用一个度量称为误校准测量推荐算法是如何响应用户的真实偏好，我们认为各种算法可能会导致不同程度的误校准。推荐中的一种众所周知的偏见是流行偏见，其中很少有受欢迎的项目在推荐中被过度代表，而大多数其他项目没有得到显着的曝光。我们推测，流行性偏见是一个重要的因素，导致误校准的建议。我们使用两个真实世界数据集的实验结果表明，不同的用户组如何受到算法流行度偏差的影响与他们对流行项目的兴趣水平之间存在很强的相关性。此外，我们表明，具有更大的流行度偏置放大的算法往往有更大的误校准。
2019-10-16 cs.IR
CAPRI-FAIR: Integration of Multi-sided Fairness in Contextual POI Recommendation Framework
针对POI推荐中不活跃用户推荐不准、小众POI曝光不足的多视角公平性问题，本文提出纳入供需双方公平性的后过滤方法，实验验证了线性打分模型的平衡效果及公平性权衡对模型与数据集的依赖性。
2024-08-14 cs.IR
Improving Recommendation Fairness via Graph Structure and Representation Augmentation
本文提出一种基于双重数据增强的公平推荐框架，通过识别敏感交互与敏感特征生成公平增强图和表示，并结合去偏学习在保持推荐效用的同时提升公平性。
2025-08-27 cs.IR
Fairness of Exposure in Dynamic Recommendation
本文研究动态推荐中的曝光偏差，指出现有静态缓解方法无法实现长期公平，并提出一种适应动态环境的方法，在真实数据上验证了其长期公平性与准确性优势。
2023-09-05 cs.IR
Improving Recommendation Fairness via Data Augmentation
Hefei University of Technology（合肥工业大学）；University of Science and Technology of China（中国科学技术大学）；Ant Group（蚂蚁集团）；Hefei Comprehensive National Science Center（合肥综合性国家科学中心）
基于协同过滤的推荐技术从用户的历史行为数据中学习用户的偏好，以帮助用户进行决策。近年来，推荐的公平性问题变得越来越重要。当推荐系统不能根据用户的敏感属性对不同的用户组表现得同样好时，它被认为是不公平的（例如，性别、种族）。已经提出了许多方法来通过优化预定义的公平性目标或改变不平衡的训练数据的分布来减轻不公平。然而，它们要么受到特定公平性优化指标的影响，要么依赖于重新设计当前的推荐架构。本文从数据增强的角度研究如何提高推荐公平性。推荐模型放大了不平衡的训练数据固有的不公平性。我们将不平衡的训练数据增加到平衡的数据分布，以提高公平性。所提出的框架通常适用于任何基于嵌入的推荐，并且不需要预先定义公平性度量。在两个真实数据集上的大量实验清楚地表明了我们所提出的框架的优越性。我们在https://github.com/newlei/FDA上发布源代码。
2023-02-21 cs.IR cs.LG
The Connection Between Popularity Bias, Calibration, and Fairness in Recommendation
最近，人们越来越关注公平性感知推荐系统，包括在不同用户或用户组之间提供一致性能的公平性。如果推荐系统不能公平地代表某组用户的口味，而其他组收到的推荐与他们的偏好一致，那么推荐系统可能被认为是不公平的。在本文中，我们使用一个度量称为误校准测量推荐算法是如何响应用户的真实偏好，我们考虑如何不同的算法可能会导致不同程度的误校准不同的用户。特别是，我们推测，流行偏见，这是一个众所周知的现象，在推荐是一个重要因素，导致误校准的建议。我们使用两个真实世界数据集的实验结果表明，不同的用户组如何受到算法流行度偏差的影响与他们对流行项目的兴趣水平之间存在联系。此外，我们发现，一个群体受算法流行度偏差的影响越大，他们的推荐就越被错误校准。
2020-08-21 cs.IR
FairRec: Fairness-aware News Recommendation with Decomposed Adversarial Learning
新闻推荐是在线新闻服务的重要组成部分。现有的新闻推荐模型通常从用户的新闻点击行为中学习。通常具有相同敏感属性的用户的行为（例如，性别）具有相似的模式，并且新闻推荐模型可以容易地捕获这些模式。这可能导致推荐结果中与敏感用户属性相关的一些偏差，例如，总是向男性用户推荐体育新闻，这是不公平的，因为用户可能无法接收到多样化的新闻信息。本文提出了一种基于分解对抗学习和正交正则化的公平性新闻推荐方法，该方法可以有效地降低用户敏感属性的偏差所带来的新闻推荐不公平性。在我们的方法中，我们建议将用户兴趣模型分解为两个组件。一个组件的目的是学习一个偏见意识的用户嵌入，捕捉敏感的用户属性上的偏见信息，和其他的目的是学习一个无偏见的用户嵌入，只编码属性无关的用户兴趣信息的公平意识的新闻推荐。此外，我们提出将属性预测任务应用于偏差感知的用户嵌入，以增强其偏差建模能力，并且我们将对抗学习应用于无偏差的用户嵌入，以去除其中的偏差信息。此外，我们提出了一种正交正则化方法，以鼓励无偏置用户嵌入正交于有偏置的用户嵌入，以更好地区分偏置。将用户嵌入从偏置感知中解放出来。对于具有公平意识的新闻排名，我们只使用无偏见的用户嵌入。在基准数据集上的大量实验表明，该方法可以有效地提高新闻推荐的公平性，而性能损失较小。
2021-04-15 cs.IR
Recommendation Fairness in Social Networks Over Time
Nanjing University（南京大学）；TU Graz（格拉茨工业大学）；Know-Center GmbH（Know-Center有限公司）；L3S Research Center（L3S研究中心）；Modul University Vienna（维也纳模组大学）；University of Mannheim（曼海姆大学）；GESIS - Leibniz Institute for the Social Sciences（GESIS-莱布尼茨社会科学研究所）
本文研究了社交网络中随时间变化的推荐公平性，发现公平性随时间提高，且少数族裔比例和同质化比例与公平性存在稳定关联。
2024-05-07 cs.CY cs.IR cs.SI
Adaptive Fair Representation Learning for Personalized Fairness in Recommendations via Information Alignment
针对推荐系统个性化公平现有方法训练成本高、公平与准确性权衡次优的问题，提出仅需训练一个模型、推理时自适应满足不同公平要求的AFRL模型，通过信息对齐机制兼顾公平性与推荐准确性，经实验和理论分析验证了其优越性。
2024-04-13 cs.IR
Producer-Fairness in Sequential Bundle Recommendation
Huawei Noah's Ark Lab（华为诺亚实验室）；Université d'Orléans（奥尔良大学）；Université Grenoble-Alpes（格勒诺布尔阿尔卑斯大学）
针对序列化捆绑推荐场景，本文形式化了生产者公平性问题，并提出精确求解、启发式及自适应方法，在保证推荐质量的同时实现物品组的公平曝光。
2025-06-25 cs.IR cs.LG
Track2Vec: fairness music recommendation with a GPU-free customizable-driven framework
National Yang Ming Chiao Tung University（国立阳明交通大学）
推荐系统已经说明了在基于用户过去的行为来描述用户偏好方面所取得的重大进展。尽管准确推荐的有效性，但存在几个因素对于评估推荐系统的各个方面来说是必不可少的，但尚未探索，例如，公平性、多样性和有限的资源。为了解决这些问题，我们提出了Track 2 Vec，一个免费的GPU可定制驱动的公平音乐推荐框架。为了兼顾准确性和公平性，我们的解决方案由三个模块组成，一个定制的公平性感知组，用于根据可配置的设置建模不同的功能，一个跟踪表示学习模块，用于学习更好的用户嵌入，和一个集成模块，用于排名不同的跟踪表示学习模块的推荐结果。此外，受自然语言处理中广泛使用的TF-IDF的启发，我们引入了一个称为Miss Rate - Inverse Ground Truth Frequency（MR-ITF）的度量来衡量公平性。大量的实验表明，我们的模型在EvalRS @ CIKM 2022挑战赛的排行榜上在无GPU环境中获得了第四名的价格排名，就官方分数而言，这比官方基线高出约200%。此外，消融研究表明，有必要将每组进行整合，以获得准确和公平的建议。
2022-10-29 cs.IR cs.LG
