在本工作中，我们发现了图表示学习中的一种社区偏差放大现象，它指的是图表示学习加剧不同类别之间性能偏差的情况。我们从一个新颖的谱视角对该现象进行了深入的理论研究。我们的分析表明，社区之间的结构偏差会导致节点嵌入具有不同的局部收敛速度。这一现象会导致下游任务分类结果中的偏差放大。基于这些理论洞见，我们提出了随机图粗化，该方法被证明可有效处理上述问题。最后，我们提出了一种名为 Random Graph Coarsening Contrastive Learning（RGCCL，随机图粗化对比学习）的新型图对比学习模型，该模型利用随机粗化作为数据增强，并通过将粗化图与原始图进行对比来缓解社区偏差。在多个数据集上的大量实验证明了我们的方法在处理社区偏差放大时的优势。
英文摘要：
In this work, we discover a phenomenon of community bias amplification in graph representation learning, which refers to the exacerbation of performance bias between different classes by graph representation learning. We conduct an in-depth theoretical study of this phenomenon from a novel spectral perspective. Our analysis suggests that structural bias between communities results in varying local convergence speeds for node embeddings. This phenomenon leads to bias amplification in the classification results of downstream tasks. Based on the theoretical insights, we propose random graph coarsening, which is proved to be effective in dealing with the above issue. Finally, we propose a novel graph contrastive learning model called Random Graph Coarsening Contrastive Learning (RGCCL), which utilizes random coarsening as data augmentation and mitigates community bias by contrasting the coarsened graph with the original graph. Extensive experiments on various datasets demonstrate the advantage of our method when dealing with community bias amplification.
减轻机器学习系统中的偏见需要完善我们对偏见传播途径的理解：从社会结构到大规模数据，再到经过训练的模型对社会的影响。在这项工作中，我们专注于问题的一个方面，即偏差放大：模型放大其训练数据中存在的偏差的趋势。Zhao et al.（2017）在开创性的工作中引入了一种衡量偏差放大的指标。然而，正如我们所证明，该度量具有许多缺点，包括合并不同类型的偏置放大以及不能考虑受保护属性的变化的基本速率。我们介绍和分析了一种新的，去耦度量测量偏置放大，$\text{BiasAmp}_{\rightarrow}$（定向偏置放大）。我们彻底分析和讨论这一指标的技术假设和规范的影响。我们提供了有关其测量的建议，警告不要预测敏感属性，鼓励使用置信区间，由于在运行中的模型的公平性波动，并讨论了这个度量捕获的局限性。在本文中，我们的工作提供了一个疑问看技术测量的偏见放大，我们希望它包括我们的规范性思想的指导下。代码位于https://github.com/princetonvisualai/directional-bias-amp
How I Met Your Bias: Investigating Bias Amplification in Diffusion Models
LTCI, Télécom Paris, Institut Polytechnique de Paris（LTCI、 Télécom Paris、 Institut Polytechnique de Paris）；MaLGa-DIBRIS, University of Genova（MaLGa-DIBRIS、乌尔比诺大学）；AIGO, Istituto Italiano di Tecnologia（AIGO、意大利技术研究所）
Mitigating Gender Bias Amplification in Distribution by Posterior Regularization
Tsinghua University（清华大学）；University of California, Los Angeles（加州大学洛杉矶分校）
先进的机器学习技术提高了自然语言处理的性能。然而，最近的研究，例如，Zhao et al.（2017）表明，这些技术无意中捕获了隐藏在语料库中的社会偏见，并进一步放大了它。然而，他们的分析仅针对模型的最佳预测。在本文中，我们从分布的角度研究了性别偏见放大问题，并证明了偏见是放大的标签上的预测概率分布的观点。我们进一步提出了一种基于后验正则化的偏差缓解方法。在性能损失很小的情况下，我们的方法几乎可以消除分布中的偏置放大。我们的研究有助于理解偏差放大效应。
When majority rules, minority loses: bias amplification of gradient descent
University of Lille（里尔大学）；Toulouse School of Economics（图卢兹经济学院）；Institut Universitaire de France (IUF)（法国大学研究院（IUF））；ANITI；Université de Toulouse（图卢兹大学）；INRIA（法国国家信息与自动化研究所）
Diffusing DeBias: Synthetic Bias Amplification for Model Debiasing
MaLGa-DIBRIS, University of Genoa, Italy（热那亚大学MaLGa-DIBRIS研究所）；AI for Good (AIGO), Istituto Italiano di Tecnologia, Genova, Italy（意大利技术研究院AI for Good（AIGO））；Telècom-Paris, Ecole Polytechnique Superior, France（巴黎电信高等学院）；Department of Computer Science, University of Verona, Italy（威尼斯大学计算机科学系）
Bias Amplification in RAG: Poisoning Knowledge Retrieval to Steer LLMs
Faculty of Data Science, City University of Macau（数据科学学院，澳门城市大学）；Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center, Qilu University of Technology (Shandong Academy of Sciences)（计算能力网络与信息安全重点实验室，教育部，山东计算机科学中心，齐鲁工业大学（山东科学院））；Shandong Provincial Key Laboratory of Computing Power Internet and Service Computing, Shandong Fundamental Research Center for Computer Science（山东省计算能力互联网与服务计算重点实验室，山东省计算机科学基础研究中心）
Addressing Bias in Visualization Recommenders by Identifying Trends in Training Data: Improving VizML Through a Statistical Analysis of the Plotly Community Feed
