Exploring Author Gender in Book Rating and Recommendation
协同过滤算法在评级和消费数据中发现有用的模式，并利用这些模式来引导用户选择好的项目。评级数据集中的许多模式反映了数据中不同用户和项目之间的重要现实差异;其他模式可能与社会或道德原因无关或可能不受欢迎，特别是如果它们反映了不受欢迎的歧视，例如出版或购买时对女性或少数民族作者的歧视。在这项工作中，我们研究了协同过滤推荐算法的响应，他们的输入数据的分布方面的社会关注的一个方面，即内容创建者的性别。使用公开的图书评级数据，我们测量了用户评级配置文件和推荐列表中图书作者的性别分布。我们发现，常见的协同过滤算法不同的性别分布的推荐列表，并在输出分布的关系，用户简档分布。
2020-07-25 cs.HC cs.IR
Pink for Princesses, Blue for Superheroes: The Need to Examine Gender Stereotypes in Kid's Products in Search and Recommendations
在这份立场文件中，我们认为有必要调查性别刻板印象是否以及如何在搜索和推荐系统中表现出来。作为一个出发点，我们特别关注这些系统如何通过其在学习环境中的结果传播和加强性别刻板印象，这是一个教师和儿童在形成阶段经常与这些系统互动的环境。我们提供了激励的例子来支持我们的关注，并概述了一个议程，以支持未来的研究解决的现象。
2021-05-13 cs.HC cs.IR
Leveraging Opposite Gender Interaction Ratio as a Path towards Fairness in Online Dating Recommendations Based on User Sexual Orientation
针对在线约会推荐中用户性取向公平性研究不足的问题，提出异性交互比例（OGIR）指标量化群体不公平，并设计基于重新加权和重新排序的公平推荐系统，有效缓解群体数量与校准不平衡，在维持模型效用的同时显著提升公平性。
2024-02-19 cs.IR
Questioning causality on sex, gender and COVID-19, and identifying bias in large-scale data-driven analyses: the Bias Priority Recommendations and Bias Catalog for Pandemics
COVID-19大流行促使大量观察性研究报告了患上严重COVID-19或死于COVID-19的风险与性和性别之间的联系。通过回顾大量相关文献，并基于横跨五大洲的61个国家的性别分类数据进行细粒度分析，我们发现了几个可能解释男性对COVID-19易感性的混杂因素。因此，我们强调了基于现有数据做出因果关系声明的挑战，因为缺乏统计意义和潜在的偏见。根据我们对潜在变量作为混杂因素的研究结果，我们对数据驱动分析中的偏见，可解释性和公平性问题进行了广泛的概述。因此，我们概述了一套歧视性的政策后果，根据这些结果，可能会导致意外的歧视。为提高对该等可预见影响的认识，我们编制了一份类似百科全书的参考指南《流行病偏见目录》（BCP），以提供定义并强调一般偏见的现实例子，以及在COVID-19流行病背景下的偏见。这些被归类在偏见家庭和2级优先级范围内，以及预防步骤。此外，我们促进了关于如何最好地使用和应用该目录的偏见优先建议，并提供指导方针，以解决现实世界的研究问题。目标是通过考虑因果关系、可解释性、偏见和减轻歧视的技术，预测和避免不同的影响和歧视。通过这些，我们希望1）有助于设计和进行公平公正的数据驱动的研究和调查; 2）解释并从中得出有意义和可操作的结论。
2021-04-29 cs.CY cs.IR
Exploring and Mitigating Gender Bias in Recommender Systems with Explicit Feedback
推荐系统是必不可少的，因为它们通过给我们个性化的建议来影响我们的日常行为和决策。Kindle、Youtube和Netflix等服务严重依赖其推荐系统的性能，以确保用户获得良好的体验并增加收入。尽管它们很受欢迎，但已经表明推荐系统复制并放大了现实世界中存在的偏见。由此产生的反馈创建了一个自我延续的循环，该循环恶化了用户体验，并导致随着时间的推移推荐被删除。此外，有偏见的建议也会强化基于性别或种族的刻板印象，从而强化我们生活的过滤气泡。在本文中，我们解决的问题，性别偏见的推荐系统与显式反馈。我们提出了一个模型来量化图书评级数据集和推荐系统产生的推荐中存在的性别偏见。我们的主要贡献是提供一个原则性的方法，以减轻建议中产生的偏见。我们从理论上表明，所提出的方法提供了公正的建议，尽管有偏见的数据。通过对公开图书评级数据集的实证评估，我们进一步表明，所提出的模型可以显着减少偏差，而不会对准确性产生显着影响。我们的方法是模型不可知的，可以应用于任何推荐系统。为了证明我们的模型的性能，我们提出了四个推荐算法的结果，两个从K-最近邻家庭，UserKNN和ItemKNN，和其他两个从矩阵分解家庭，交替最小二乘和奇异值分解。
2021-12-05 cs.IR
Evaluation Framework for Understanding Sensitive Attribute Association Bias in Latent Factor Recommendation Algorithms
本文提出一个评估隐因子推荐算法中敏感属性关联偏见的框架，通过四种评估策略揭示推荐模型如何捕获或放大性别等敏感属性偏见，并在工业播客推荐模型中验证了系统性偏见风险。
2023-10-30 cs.IR
Analyzing Item Popularity Bias of Music Recommender Systems: Are Different Genders Equally Affected?
几项研究已经发现了用户简档中的项目受欢迎程度与相应的推荐列表之间的差异。这种行为涉及到各种推荐算法，被称为流行性偏见。现有的工作主要采用简单的统计措施，如平均值或中位数的差异，以量化的流行偏见。此外，它这样做与用户特性无关，而不是倾向于流行内容。在这项工作中，相比之下，我们建议调查受欢迎程度的差异（之间的用户简档和推荐列表）的中位数，各种统计矩，以及相似性的措施，考虑整个流行度分布（Kullback-Leibler分歧和肯德尔的tau秩序相关性）。这导致了对流行性偏见特征的更详细的描述。此外，我们调查这种算法的流行性偏见是否以同样的方式影响不同性别的用户。我们专注于音乐推荐，并在最近发布的标准化LFM-2b数据集上进行实验，该数据集包含Last.fm用户的收听配置文件。我们研究了七种常见推荐算法（五种协同过滤和两种基线）的算法流行度偏差。我们的实验表明，（1）研究的指标提供了新的见解流行偏见相比，只有使用平均差异，（2）算法不太倾向于流行偏见放大不一定表现更差的效用（NDCG），（3）大多数调查的评论家加强了女性用户的流行偏见。
2021-08-16 cs.IR
Fine-Tuning Strategy, Not Just Data: A Statistically Rigorous Audit of Gender and Stereotypical Bias in Embedding Models for HR Recommendation Systems
Randstad N.V.（兰仕德有限公司）
该研究审计六种嵌入模型，发现E5-Base的知识蒸馏微调会显著增加人力资源推荐系统的偏差，二分类微调则无显著变化，指出微调策略是控制偏差的关键设计杠杆。
2026-10-14 cs.CL cs.CY cs.IR
A Case Study of Balanced Query Recommendation on Wikipedia
本文通过扩展 BalancedQR 框架，利用帕累托前沿方法在多维度上优化性别偏见、区域偏见与结果相关性，并在维基百科数据集上验证了平衡查询推荐的有效性及其对检索的显著影响。
2025-08-28 cs.IR
LLM-Derived Priors for Thompson Sampling in Cold-Start Comment Recommendation
NAVER WEBTOON
该研究提出用大语言模型（LLM）从评论文本提取语义信号生成贝叶斯先验，用于冷启动评论推荐的汤普森采样，经在线A/B/C测试验证其在稀疏反馈场景中效果显著。
2026-08-05 cs.IR cs.LG
A Closer Look on Gender Stereotypes in Movie Recommender Systems and Their Implications with Privacy
本文通过630人用户研究与四种推理算法，结合MovieLens 1M和Yahoo!Movie数据集，揭示电影推荐中的性别刻板印象可被用于隐私推断。
2025-01-08 cs.IR
Revisiting Popularity and Demographic Biases in Recommender Evaluation and Effectiveness
The University of Manchester（曼彻斯特大学）；Microsoft（微软公司）
推荐算法容易受到流行偏见的影响：即使不能满足用户需求，也倾向于推荐流行的项目。一个相关的问题是，推荐质量可能因人口统计组而异。边缘化的组或在训练数据中代表不足的组可能从这些算法接收到与其他算法相比不太相关的推荐。在最近的一项研究中，Ekstrand等人调查了推荐器的性能如何根据流行度和人口统计数据而变化，并发现两个数据集上的二元性别之间的推荐效用存在统计学显著差异，并且基于年龄对一个数据集产生显著影响。在这里，我们重现这些结果，并扩展他们与其他分析。我们发现，年龄和性别的推荐性能的统计显着差异。我们观察到，老年用户的推荐效用稳步下降，女性的推荐效用低于男性。我们还发现，对于来自数据集中具有更多代表性的国家的用户，效用更高。此外，我们发现，消费内容的总使用量和受欢迎程度是推荐性能的强预测因子，并且在不同的人口统计群体中也有显着差异。
2021-10-15 cs.AI cs.IR cs.LG
Selective Fairness in Recommendation via Prompts
推荐公平性近来引起了人们的极大关注。在现实系统中，用户通常具有多个敏感属性（例如年龄、性别和职业），并且用户可能不希望他们的推荐结果受到这些属性的影响。此外，这些用户属性中的哪些以及何时应该被考虑在公平性感知建模中应该取决于用户的特定需求。在这项工作中，我们定义了选择性的公平性任务，用户可以灵活地选择哪些敏感属性的推荐模型是无偏的。我们提出了一种新的参数有效的基于偏好的公平性感知推荐（PFRec）框架，它依赖于属性特定的基于偏好的偏见消除器与对抗训练，使选择性公平性与不同的属性组合的顺序推荐。任务特定和用户特定的提示都被考虑。我们进行了广泛的评估，以验证PFRec的选择性公平的优越性。源代码在\url{https://github.com/wyqing20/PFRec}中发布。
2022-07-05 cs.IR
Unlearning Protected User Attributes in Recommendations with Adversarial Training
Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）；TU Wien（维也纳工业大学）；Linz Institute of Technology（林茨技术研究所）
协同过滤算法捕获潜在的消费模式，包括特定于特定人口统计或受保护的用户信息（例如性别、种族和位置）的消费模式。这些编码的偏见可能会影响推荐系统（RS）的决策，进一步分离提供给各种人口统计子组的内容，并提出关于用户受保护属性的公开的隐私问题。在这项工作中，我们调查的可能性和挑战，删除特定的保护信息的用户从学习的交互表示的RS算法，同时保持其有效性。具体来说，我们将对抗训练纳入最先进的MultVAE架构，从而产生一种新的模型，具有多项似然的对抗变分自动编码器（Adv-MultVAE），其目的是在保留推荐性能的同时去除受保护属性的隐式信息。我们在MovieLens-1 M和LFM-2b-DemoBias数据集上进行了实验，并基于外部攻击者无法从模型中揭示用户性别信息的情况评估了偏见缓解方法的有效性。与基线MultVAE相比，结果表明，Adv-MultVAE，性能略有恶化（w.r.t. NDCG和召回），在很大程度上减轻了模型在两个数据集上的固有偏差。
2022-06-09 cs.AI cs.CR cs.IR
Tracing Affordance and Item Adoption on Music Streaming Platforms
本文基于 Deezer 用户两年数据，考察自然、算法与编辑三类平台可供性及推荐采纳行为，揭示用户实践高度异质、不存在统一采纳模式。
2025-01-17 cs.IR
Online Music Listening Culture of Kids and Adolescents: Listening Analysis and Music Recommendation Tailored to the Young
在本文中，我们分析了来自Last.fm的用户生成的音乐收听事件的大型数据集，重点关注6至18岁的用户。我们的贡献是双重的。首先，我们研究这个年轻的用户组的音乐类型的偏好，并分析这些偏好的同质性更细粒度的年龄组和性别和国家。第二，我们研究了一个协同过滤推荐器的性能时，定制的音乐推荐，以不同的年龄组。我们发现，这样做可以提高18岁以下所有用户组的性能，但会降低19岁及以上成年用户的性能。
2019-12-24 cs.IR
Providing Previously Unseen Users Fair Recommendations Using Variational Autoencoders
Norwegian University of Science and Technology（挪威科技大学）
针对推荐系统因用户建模而违反公平性且无法服务新用户的问题，提出限制变分自编码器中人口信息编码的方法，实现为未见用户提供公平推荐。
2023-08-29 cs.AI cs.IR cs.LG
A Large-Scale Rich Context Query and Recommendation Dataset in Online Knowledge-Sharing
数据在机器学习研究中起着至关重要的作用。在推荐研究中，用户行为和边信息都有助于对用户进行建模。因此，具有丰富用户行为的大规模真实场景数据集将做出很大贡献。然而，要获得这样的数据集并不容易，因为它们中的大多数只由公司持有和保护。本文提出了一个新的大规模数据集，该数据集收集自一个知识共享平台，由10天内收集的约1亿次交互、798 K用户、165 K问题、554 K答案、240 K作者、70 K主题和超过501 K用户查询关键字组成。还有对用户、答案、问题、作者和主题的描述，这些都是匿名的。请注意，每个用户的最新查询关键字尚未包含在以前的开放数据集中，这些数据集揭示了用户的明确信息需求。我们的数据集的特点，并展示其潜在的应用推荐研究。实验结果表明，该数据集可用于评价一般的top-N推荐算法、顺序推荐算法和上下文感知推荐算法。该数据集还可以用于集成搜索和推荐以及带有负面反馈的推荐。此外，推荐之外的任务，如用户性别预测，最有价值的回答者识别和高质量答案识别，也可以使用该数据集。据我们所知，这是用于个性化推荐的最大的真实交互数据集。
2021-06-11 cs.IR
PriCoRec: A Privacy-Aware Cloud-Device Collaborative Framework for Ad Recommendation under Feature Constraints
University College Dublin（都柏林大学）；Huawei Ireland Research Center（华为爱尔兰研究中心）
针对敏感用户数据云处理受隐私法规限制的问题，提出PriCoRec框架，通过云预排序加设备排序的协同结构，结合多样性正则化和云引导训练，实现隐私保护下的高效个性化广告推荐。
2026-08-17 cs.IR
Recommendation or Discrimination?: Quantifying Distribution Parity in Information Retrieval Systems
True Fit Corporation（True Fit公司）
信息检索（IR）系统通常利用查询数据向用户建议相关项目。这引入了不公平的可能性，如果查询（即，输入）并且所得到的推荐无意中与作为受保护变量的潜在因素相关（例如，种族、性别和年龄）。例如，用于时尚推荐的视觉搜索系统可以在生成推荐时拾取人体模型的特征而不是时尚服装。在这项工作中，我们在前K IR结果中引入了“分布平价”的统计测试，该测试评估给定的一组建议对于特定的受保护变量是否公平。我们评估我们的测试使用模拟和实证结果。首先，使用人工偏见的建议，我们证明了统计检测偏差和搜索目录的大小之间的权衡。其次，我们将我们的测试应用于时尚服装的视觉搜索系统，特别是测试基于时尚模特肤色的推荐偏差。我们的分布奇偶性测试可以帮助确保IR系统的结果是公平的，并为所有用户提供良好的体验。
2019-09-13 cs.IR cs.LG stat.ML
Can Fairness Be Prompted? Prompt-Based Debiasing Strategies in High-Stakes Recommendations
University of Copenhagen（哥本哈根大学）
本文提出三种基于提示的去偏策略，旨在通过轻量级方法提升推荐系统的公平性，实验表明该方法能提升公平性达74%，但可能过度促进某些群体。
2026-03-13 cs.IR
Augmenting Recurrent Neural Networks with High-Order User-Contextual Preference for Session-Based Recommendation
KAIST（韩国科学技术院）
与以前的方法相比，最近采用循环神经网络（RNN）进行会话建模已经产生了大量的性能提升。然而，在上下文感知会话建模方面，现有的基于RNN的模型受到限制，因为它们没有被设计为显式地对丰富的静态用户侧上下文（例如，年龄、性别、地点）。因此，在本文中，我们探索了RNN会话模型的显式用户端上下文建模的实用性。具体来说，我们提出了一个增强的RNN（ARNN）模型，提取高阶用户上下文偏好使用基于产品的神经网络（PNN），以增强任何现有的RNN会话模型。评估结果表明，当用户端上下文丰富时，我们提出的模型的性能大大优于基线RNN会话模型。
2018-05-08 cs.IR cs.LG stat.ML
A Practical Two-stage Ranking Framework for Cross-market Recommendation
跨市场推荐是指在资源稀缺的目标市场中，利用用户在资源丰富的目标市场中的行为向用户推荐产品，这对于电子商务企业来说是至关重要的，但目前研究较少。在本文中，我们提出了我们在跨市场推荐竞赛中采用的详细解决方案，即，第2022章.为了更好地利用目标市场和源市场之间的协作信号和相似性，我们仔细考虑了多个特征以及由深度图推荐模型（图神经网络，DeepWalk等）组成的堆叠学习模型。和传统推荐模型（ItemCF、UserCF、Swing等）。此外，我们采用基于树的集成方法，例如，LightGBM在预测任务中显示出优越的性能，以生成最终结果。我们在XMRec数据集上进行了全面的实验，验证了我们的模型的有效性。我们团队WSDM_Coggle_提出的解决方案被选为第二名。
2022-04-27 cs.IR
Improving Recommendation Fairness via Data Augmentation
Hefei University of Technology（合肥工业大学）；University of Science and Technology of China（中国科学技术大学）；Ant Group（蚂蚁集团）；Hefei Comprehensive National Science Center（合肥综合性国家科学中心）
基于协同过滤的推荐技术从用户的历史行为数据中学习用户的偏好，以帮助用户进行决策。近年来，推荐的公平性问题变得越来越重要。当推荐系统不能根据用户的敏感属性对不同的用户组表现得同样好时，它被认为是不公平的（例如，性别、种族）。已经提出了许多方法来通过优化预定义的公平性目标或改变不平衡的训练数据的分布来减轻不公平。然而，它们要么受到特定公平性优化指标的影响，要么依赖于重新设计当前的推荐架构。本文从数据增强的角度研究如何提高推荐公平性。推荐模型放大了不平衡的训练数据固有的不公平性。我们将不平衡的训练数据增加到平衡的数据分布，以提高公平性。所提出的框架通常适用于任何基于嵌入的推荐，并且不需要预先定义公平性度量。在两个真实数据集上的大量实验清楚地表明了我们所提出的框架的优越性。我们在https://github.com/newlei/FDA上发布源代码。
2023-02-21 cs.IR cs.LG
FairRec: Fairness-aware News Recommendation with Decomposed Adversarial Learning
新闻推荐是在线新闻服务的重要组成部分。现有的新闻推荐模型通常从用户的新闻点击行为中学习。通常具有相同敏感属性的用户的行为（例如，性别）具有相似的模式，并且新闻推荐模型可以容易地捕获这些模式。这可能导致推荐结果中与敏感用户属性相关的一些偏差，例如，总是向男性用户推荐体育新闻，这是不公平的，因为用户可能无法接收到多样化的新闻信息。本文提出了一种基于分解对抗学习和正交正则化的公平性新闻推荐方法，该方法可以有效地降低用户敏感属性的偏差所带来的新闻推荐不公平性。在我们的方法中，我们建议将用户兴趣模型分解为两个组件。一个组件的目的是学习一个偏见意识的用户嵌入，捕捉敏感的用户属性上的偏见信息，和其他的目的是学习一个无偏见的用户嵌入，只编码属性无关的用户兴趣信息的公平意识的新闻推荐。此外，我们提出将属性预测任务应用于偏差感知的用户嵌入，以增强其偏差建模能力，并且我们将对抗学习应用于无偏差的用户嵌入，以去除其中的偏差信息。此外，我们提出了一种正交正则化方法，以鼓励无偏置用户嵌入正交于有偏置的用户嵌入，以更好地区分偏置。将用户嵌入从偏置感知中解放出来。对于具有公平意识的新闻排名，我们只使用无偏见的用户嵌入。在基准数据集上的大量实验表明，该方法可以有效地提高新闻推荐的公平性，而性能损失较小。
2021-04-15 cs.IR
Making Alice Appear Like Bob: A Probabilistic Preference Obfuscation Method For Implicit Feedback Recommendation Models
本文提出概率偏好混淆方法 SBO，在保持推荐准确率的同时降低用户受保护属性泄露风险，并在多个主流模型和数据集上验证了其更优的准确率—隐私权衡。
2024-06-17 cs.IR
Improving Recommendation Quality by Merging Collaborative Filtering and Social Relationships
矩阵分解技术已经成功地应用于提高协同过滤系统（CFS）产生的建议的质量。基于矩阵分解的传统CFS基于用户提供的评级进行操作，最近已扩展到包括年龄和性别等人口统计方面。在本文中，我们建议合并CFS的基础上矩阵分解和信息的社会友谊，以提供用户更准确的建议和排名的项目，他们感兴趣的。所提出的方法已在现实生活中的在线社交网络上进行了评估，实验结果表明，对现有的CFS的改进。并与相关文献进行了详细的比较。
2011-09-30 cs.IR cs.SI physics.soc-ph
FairEval: Evaluating Fairness in LLM-Based Recommendations with Personality Awareness
Beihang University（北京航空航天大学）；McGill University（麦吉尔大学）
本文提出FairEval框架，融合人格特质与八项敏感人口属性，系统评估LLM推荐公平性，并通过PAFS指标揭示ChatGPT 4o与Gemini 1.5 Flash在音乐和电影推荐中的偏差，强调提示鲁棒性对构建包容性推荐系统的重要性。
2025-04-10 cs.AI cs.HC cs.IR
Contextual Font Recommendations based on User Intent
Adobe Inc.（奥多比公司）
针对Adobe字体库庞大导致用户选字困难、多使用默认字体的问题，研究提出意图驱动的上下文字体推荐系统，支持多语言输入、按权限调整免费付费字体组合，已在数百万Adobe Express用户中实现超25%的点击率。
2023-06-14 cs.HC cs.IR cs.LG
Pseudo Session-Based Recommendation with Hierarchical Embedding and Session Attributes
The University of Electro-Communications（电气通信大学）；The Japan Research Institute Limited（日本综合研究所）
针对无用户ID和会话ID的电商购买数据，本文定义伪会话并提出CoHHGN+模型，利用协同引导异构图与全局图网络提升会话推荐性能。
2023-08-06 cs.IR cs.LG
Alleviating User-Sensitive bias with Fair Generative Sequential Recommendation Model
School of Information Management Nanjing University（信息管理学院 南京大学）
本文提出基于扩散模型的公平生成式序列推荐模型FairGENRec，通过在训练阶段注入随机噪声与消除敏感特征偏差的多兴趣表示，并在推理阶段反向重构目标物品，实现了推荐准确性与公平性的双重提升。
2025-07-15 cs.AI cs.IR
Opportunistic Multi-aspect Fairness through Personalized Re-ranking
University of Colorado, Boulder（科罗拉多大学博尔德分校）；DePaul University（德保罗大学）；The Chinese University of Hong Kong（香港中文大学）
随着推荐系统变得越来越普遍，并进入了就业和住房等具有更大社会影响的领域，研究人员已经开始寻求确保此类系统产生的结果公平的方法。这项工作主要集中在开发推荐方法，其中公平性指标与推荐准确性一起被联合优化。然而，以前的工作在很大程度上忽略了个人偏好如何限制算法产生公平建议的能力。此外，除了少数例外，研究人员只考虑了相对于单一敏感特征或属性（如种族或性别）衡量公平性的场景。在本文中，我们提出了一个重新排名的方法，公平意识的建议，学习个人偏好在多个公平性的维度，并使用它们来提高提供商的公平性的推荐结果。具体来说，我们表明，我们的机会主义和度量不可知的方法实现了更好的权衡准确性和公平性比以前的重新排名的方法，并在多个公平性方面。
2020-05-21 cs.AI cs.IR cs.LG
UP5: Unbiased Foundation Model for Fairness-aware Recommendation
Rutgers University（罗格斯大学）
本文提出反事实公平提示（CFP）方法，构建无偏基础模型（UFO），以缓解LLM推荐中的用户侧不公平，实验证明其在MovieLens-1M和Insurance数据集上兼顾公平与性能。
2024-05-29 cs.AI cs.CL cs.IR
