Token Homogenization under Positional Bias
HSE University（俄罗斯国立高等经济大学）；Lomonosov Moscow State University（莫斯科国立大学）；Harbin Institute of Technology（哈尔滨工业大学）；ISP RAS（俄罗斯科学院系统编程研究所）；RANEPA（俄罗斯总统国民经济与公共管理学院）；ITMO University（圣彼得堡国立信息技术机械与光学大学）；Skoltech（斯科尔科沃科学技术研究院）
本文研究大语言模型中Token同质化现象与位置偏差的关系，通过分层相似度分析和控制实验，证实Token处理中会系统性失去独特性且受极端位置偏差影响，揭示同质化的存在及其对位置注意力机制的依赖。
2025-08-23 cs.AI cs.CL cs.LG
More Thinking, More Bias: Length-Driven Position Bias in Reasoning Models
研究发现推理模型中位置偏见随推理轨迹长度增加而增强，指出不应默认认为推理模型在多项选择评估中具有顺序鲁棒性，并提供诊断工具用于审计位置偏见。
2026-04-21 cs.AI cs.CL cs.LG
Towards Implicit Bias Detection and Mitigation in Multi-Agent LLM Interactions
University of Michigan（密歇根大学）
该研究针对多智能体大语言模型交互中的隐性性别偏见，构建场景数据集和评估指标，并提出基于上下文示例的自我反思与监督微调两种缓解策略，实验证明二者结合效果最佳。
2024-10-03 cs.CL cs.CY
CalibraEval: Calibrating Prediction Distribution to Mitigate Selection Bias in LLMs-as-Judges
Tsinghua University（清华大学）；Quan Cheng Laboratory（泉城实验室）；Zhongguancun Laboratory（中关村实验室）
针对LLMs-as-Judges在成对比较中的选择偏差问题，本文提出无标签推理期去偏方法CalibraEval，通过非参数保序算法NOA校准预测分布，在多个基准上有效缓解偏差并提升评估性能。
2024-10-20 cs.CL
Self-Blinding and Counterfactual Self-Simulation Mitigate Biases and Sycophancy in Large Language Models
University of Oxford（牛津大学）
通过自我屏蔽和反事实自我模拟，大语言模型能够减少偏见和趋炎附势，提高决策公平性和透明度。
2026-01-21 cs.AI cs.CL cs.CY
Can We Trust LLMs? Mitigate Overconfidence Bias in LLMs through Knowledge Transfer
Center for Data Science, New York University（纽约大学数据科学中心）
本研究提出基于思维链的知识迁移方法，利用大模型推理微调小模型，以缓解过度自信偏差，实验显示相比普通和QA微调，关键指标平均提升55.3%和43.1%，增强了模型可信度与准确性。
2024-05-27 cs.CL
Self-Supervised Position Debiasing for Large Language Models
School of Computer Science and Technology, Shandong University（山东大学计算机科学与技术学院）；Leiden University（莱顿大学）
本文提出自监督位置去偏框架SOD，利用预训练LLM的无监督响应并引入目标对齐模块修剪响应，在不依赖外部知识的情况下有效减轻LLM的三类位置偏差，并在多个数据集和任务上验证其通用性与有效性。
2024-06-29 cs.AI cs.CL cs.LG
Mitigating the Bias of Large Language Model Evaluation
School of Architecture and Design, Harbin Institute of Technology（哈尔滨工业大学建筑与设计学院）；Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）；University of Essex（埃塞克斯大学）
本研究针对LLM-as-a-Judge评估中偏好表面质量而忽略指令遵循的偏差，分别通过校准（闭源模型）和对比训练（开源模型）进行缓解，实验证明在保持准确率的同时大幅降低了偏差。
2024-09-25 cs.CL
Judging the Judges: A Systematic Study of Position Bias in LLM-as-a-Judge
Dartmouth College（达特茅斯学院）
本研究针对LLM作为评判者的位置偏差展开系统分析，在成对与列表式比较场景引入三项评估指标，通过大规模实验识别多层面影响因素，揭示偏差非随机性及关键影响因子，为提升LLM评判可靠性提供依据。
2025-11-11 cs.AI cs.CL
Revisiting Zero-Shot Abstractive Summarization in the Era of Large Language Models from the Perspective of Position Bias
University of California, Davis（加州大学戴维斯分校）
本文提出位置偏差概念以刻画大语言模型在零样本抽象摘要中的不公平信息偏好，通过多模型多数据集实验揭示其影响，为理解模型性能提供新视角。
2024-03-18 cs.AI cs.CL
Am I More Pointwise or Pairwise? Revealing Position Bias in Rubric-Based LLM-as-a-Judge
OMRON SINIC X；NexaScience
研究基于评分标准的LLM评估中的位置偏差，发现其类似多项选择，模型倾向于选择特定位置的选项，偏差方向因模型而异，且评分标准顺序也会影响结果。
2026-09-10 cs.CL
Prompt Tuning Pushes Farther, Contrastive Learning Pulls Closer: A Two-Stage Approach to Mitigate Social Biases
Jilin University（吉林大学）；New Jersey Institute of Technology（新泽西理工学院）
本文提出CCPA二阶段去偏方法，通过连续提示增强推远群体表示距离，再用对比学习拉近增强样本对距离，以提升预训练语言模型的社会偏见缓解效果并保持语言建模能力。
2023-07-04 cs.AI cs.CL
Beyond Position Bias: Shifting Context Compression from Position-Driven to Semantic-Driven
Sun Yat-sen University（中山大学）；Hong Kong Polytechnic University（香港理工大学）；Beijing Normal–Hong Kong Baptist University（北京师范大学-香港 Baptist大学）
本文提出语义一致性上下文压缩方法，通过语义空间动态锚定替代位置驱动，解决位置偏差问题，提升下游任务性能、推理延迟和领域外鲁棒性。
2026-05-10 cs.CL
On Positional Bias of Faithfulness for Long-form Summarization
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Salesforce AI Research（Salesforce人工智能研究）
本文研究长文本摘要中LLM的位置偏差，发现忠实性呈U形趋势，并验证提示技术可有效引导注意力以缓解该偏差。
2025-07-06 cs.CL
From Word to World: Evaluate and Mitigate Culture Bias in LLMs via Word Association Test
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）
本研究将词语联想测试扩展为适配LLM的任务以评估其文化偏见，提出CultureSteer方法将文化语义关联嵌入模型内部空间，有效提升跨文化认知对齐，为构建更具包容性的语言技术提供新范式。
2025-10-06 cs.AI cs.CL
Mitigating Position Bias in Transformers via Layer-Specific Positional Embedding Scaling
Fudan University（复旦大学）；Westlake University（西湖大学）；Shanghai Key Laboratory of Intelligent Information Processing（上海市智能信息处理重点实验室）
提出层特定位置嵌入缩放方法，通过遗传算法优化各层缩放因子，无需微调或增加延迟，有效缓解长上下文中的位置偏差，在关键值检索任务上准确率提升11.2%。
2026-06-29 cs.CL
Mitigating Translationese Bias in Multilingual LLM-as-a-Judge via Disentangled Information Bottleneck
本文提出DIBJudge框架，通过解耦信息瓶颈缓解多语言LLM的翻译偏差问题，有效提升多语言评估的公平性和准确性。
2026-03-11 cs.AI cs.CL
Where to show Demos in Your Prompt: A Positional Bias of In-Context Learning
University of Maryland, College Park（马里兰大学 College Park分校）
该研究首次发现大语言模型上下文学习存在提示词中示例位置（DPP）偏差，通过多任务多模型实验验证了示例放提示词开头效果最优，小模型受该偏差影响更显著。
2025-07-30 cs.AI cs.CL
Likelihood-based Mitigation of Evaluation Bias in Large Language Models
Tokyo Institute of Technology（东京技术大学）；MBZUAI
本文研究大语言模型评估中的似然偏差问题，提出利用高偏差实例作为少样本示例进行上下文学习来缓解偏差，实验证明该方法能有效减少偏差并显著提升评估性能。
2025-11-10 cs.AI cs.CL
MoESD: Mixture of Experts Stable Diffusion to Mitigate Gender Bias
Imperial College London（伦敦帝国学院）
针对文本到图像模型的性别偏见，本文提出带偏见适配器与偏见识别门的 MoESD，在潜在空间识别文本编码偏见并借助特殊提示标记缓解偏见，且保持图像质量。
2024-10-24 cs.AI cs.CL cs.LG
A Contrastive Learning Approach to Mitigate Bias in Speech Models
Politecnico di Torino（都灵理工大学）
针对语音模型在不同人群子群体中性能失衡的偏差问题，提出一种采用三级学习技术的对比学习方法，经两个口语理解数据集、两种语言验证，可改善子群体内部表征、减少偏差并提升性能。
2024-06-20 cs.CL cs.LG eess.AS
Position Bias Mitigates Position Bias:Mitigate Position Bias Through Inter-Position Knowledge Distillation
MAIS, Institute of Automation, Chinese Academy of Sciences（信息与自动化研究所，中国科学院）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；AMAP, Alibaba Group（AMAP，阿里巴巴集团）
针对大模型长上下文处理中的位置偏差问题，提出位置间知识蒸馏框架Pos2Distill，将优势位置能力迁移至劣势位置，有效缩小性能差距并提升检索与推理任务的均匀性及跨任务泛化能力。
2025-09-17 cs.CL
Does Context Help Mitigate Gender Bias in Neural Machine Translation?
Vicomtech Foundation（维康科技基金会）；Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟（BRTA））；University of the Basque Country UPV/EHU（巴斯克大学（UPV/EHU））
该研究检验上下文感知模型能否缓解神经机器翻译的性别偏见，通过英德刻板职业翻译、巴斯克语到西班牙语无信息上下文翻译实验，发现这类模型虽提升阴性术语准确率，却仍可能维持甚至放大偏见，凸显需更细粒度的偏见缓解方案。
2024-06-18 cs.CL
Easy Adaptation to Mitigate Gender Bias in Multilingual Text Classification
University of Memphis（孟菲斯大学）
现有的方法，以减轻人口偏见的单语数据进行评估，但是，多语种数据尚未进行检查。在这项工作中，我们将性别视为域（例如，男性与女性）的区别，并提出了一个标准的领域自适应模型，以减少性别偏见，提高文本分类器在多语言环境下的性能。我们评估我们的方法在两个文本分类任务，仇恨言论检测和评级预测，并证明我们的方法的有效性与三个公平意识的基线。
2022-04-12 cs.CL cs.SI
Causal ATE Mitigates Unintended Bias in Controlled Text Generation
IISc（印度科学学院）；IBM Research（IBM研究院）
本文提出利用因果平均处理效应（Causal ATE）方法消除语言模型属性控制中由伪相关引起的非预期偏差，并证明其在毒性缓解任务中能有效解决去毒后针对受保护群体的无意识偏差问题。
2024-02-16 cs.CL
Exploiting Position Bias for Robust Aspect Sentiment Classification
Beijing Institute of Technology（北京理工大学）
体情感分类（ASC）的目的是确定对句子中不同方面表达的情感。虽然最先进的ASC模型已经取得了显着的性能，他们最近被证明遭受鲁棒性的问题。特别是在两种常见的场景中：当测试和训练数据的域不同（域外场景）或测试数据受到对抗性干扰（对抗性场景）时，ASC模型可能会关注不相关的词，而忽略真正描述不同方面的意见表达。为了应对这一挑战，在本文中，我们假设位置偏差（即，更接近关注方面的词将具有更高的重要性程度）对于通过降低误关注的概率来构建更鲁棒的ASC模型是至关重要的。因此，我们提出了两种捕获位置偏差的机制，即位置偏置权重和位置偏置丢弃，它们可以灵活地注入到现有模型中，以增强分类的表示。在域外和对抗性数据集上进行的实验表明，我们提出的方法大大提高了当前模型的鲁棒性和有效性。
2021-05-29 cs.CL cs.LG
Eliminating Position Bias of Language Models: A Mechanistic Approach
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Harvard University（哈佛大学）；Texas A&M University（德克萨斯农工大学）
本文通过机制分析将语言模型的位置偏差归因于因果注意力和相对位置编码，提出无需训练的零样本方法PINE，将文档间因果注意力改为双向注意力并利用注意力值决定文档顺序，实现文档级位置不变推理，在多项下游任务中显著提升性能与可靠性。
2025-03-31 cs.CL cs.LG
Hi, my name is Martha: Using names to measure and mitigate bias in generative dialogue models
Facebook AI Research（Facebook AI研究院）
所有人工智能模型都容易受到训练数据的学习偏差的影响。对于生成对话模型，在包含不平衡性别和种族/民族参考的真实人类对话中进行训练可能会导致模型显示出学习偏差，我们在这里将其广义地定义为基于人口统计组的对话中单词或语义内容分布的任何可测量差异。我们通过在对话模型的两个副本之间产生人工对话来测量这种偏见的强度，调节一个对话伙伴说出通常与特定性别和/或种族/民族相关的名字。我们发现，更大的容量模型往往表现出更多的性别偏见和更大的性别职业刻板印象。我们发现，调整这些对话模型的几种方法，特别是名称加扰，控制生成，和不可能的训练，是有效的减少偏见的对话，包括在下游的会话任务。名称加扰也可以有效地降低对话中令牌使用的差异，其中合作伙伴的名称与不同性别或种族/民族相关。
2021-09-07 cs.CL
Look at the First Sentence: Position Bias in Question Answering
Korea University（高丽大学）
许多提取问答模型被训练来预测答案的开始和结束位置。选择预测答案作为立场主要是因为它的简单性和有效性。在这项研究中，我们假设当答案位置的分布在训练集中高度偏斜时（例如，答案仅存在于每个段落的第k个句子中），将答案预测为位置的QA模型可以学习虚假的位置线索，并且无法在不同的位置给出答案。我们首先在流行的提取QA模型（如Biobox和BERT）中说明这种位置偏差，并彻底研究位置偏差如何通过BERT的每一层传播。为了安全地传递位置信息而没有位置偏差，我们用各种去偏差方法包括熵正则化和偏差集成来训练模型。其中，我们发现使用答案位置的先验分布作为偏差模型在减少位置偏差方面非常有效，当在有偏差的SQuAD数据集上训练时，BERT的性能从37.48%恢复到81.64%。
2021-03-08 cs.CL
Filtering Context Mitigates Scarcity and Selection Bias in Political Ideology Prediction
Chinese University of Hongkong (Shenzhen)（香港中文大学（深圳））；Chapman University（查普曼大学）；Boston University（波士顿大学）
我们提出了一种新的监督学习方法的政治意识形态预测（PIP），是能够预测出的分布输入。这个问题的动机是这样一个事实，即手动数据标签是昂贵的，而自我报告的标签往往是稀缺的，并表现出显着的选择偏差。我们提出了一种新的统计模型，分解成两个向量的线性叠加的文档嵌入;一个潜在的中性\emph{context}向量独立的意识形态，和一个潜在的\emph{position}向量对齐的意识形态。我们训练了一个端到端模型，该模型具有中间上下文和位置向量作为输出。在部署时，我们的模型通过专门利用预测的位置向量来预测输入文档的标签。在两个基准数据集上，我们证明了我们的模型即使在使用低至5%的偏差数据进行训练时也能够输出预测，并且比最先进的模型更准确。通过众包，我们验证了上下文向量的中立性，并表明上下文过滤导致意识形态集中，允许对分布外的示例进行预测。
2023-02-01 cs.CL cs.LG stat.ML
Position-Aware Parameter Efficient Fine-Tuning Approach for Reducing Positional Bias in LLMs
Amazon（亚马逊）；Emory University（埃默里大学）
本文针对大语言模型处理长上下文时的位置偏差问题，提出位置感知的参数高效微调方法PAPEFT，通过数据增强和参数高效适配器促进均匀注意力分布，实验证明其能有效减少位置偏差并提升外部知识检索任务性能。
2024-04-01 cs.AI cs.CL cs.LG
BLIND: Bias Removal With No Demographics
Technion – Israel Institute of Technology（以色列理工学院）
针对现有偏差缓解方法依赖人口统计标注的问题，提出无人口统计信息的偏差消除方法BLIND，通过辅助模型检测偏差样本并降权，性能媲美甚至优于需人口信息的方法。
2023-06-12 cs.CL
Logic Against Bias: Textual Entailment Mitigates Stereotypical Sentence Reasoning
MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）
由于其基于相似性的学习目标，预先训练的句子编码器经常内化反映其训练语料库中存在的社会偏见的刻板假设。在本文中，我们描述了流行的句子表示模型中存在的关于不同社区的几种刻板印象，包括预训练的下一句预测和对比句子表示模型。我们比较这样的模型文本蕴涵模型，学习语言逻辑的各种下游语言理解任务。通过比较基于文本相似度的强预训练模型和文本蕴涵学习，我们得出结论，具有文本蕴涵的显式逻辑学习可以显著减少偏见，提高社会社区的识别，而无需显式的去偏见过程
2023-03-10 cs.AI cs.CL cs.CY
Mitigating Label Bias via Decoupled Confident Learning
University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对训练标签中普遍存在的社会偏差，本文提出剪枝方法 DeCoLe，以识别并缓解仇恨言论检测等任务中的偏差标签，且效果优于现有方法。
2023-09-29 cs.CL cs.LG
Investigating Societal Biases in a Poetry Composition System
USC Information Sciences Institute（南加州大学信息科学研究所）；Google Research（谷歌研究院）
有越来越多的工作分析和减轻社会偏见的语言理解，生成和检索任务，虽然检查偏见的创造性任务仍然没有得到充分的探索。创造性语言应用程序旨在与用户直接交互，因此量化和减轻这些应用程序中的社会偏见非常重要。我们介绍了一种新的研究管道，以减轻社会偏见时，检索下一节诗的建议，在诗歌创作系统。我们的研究结果表明，通过情感风格转移的数据增强具有减轻社会偏见的潜力。
2020-11-05 cs.CL
Developing Linguistic Patterns to Mitigate Inherent Human Bias in Offensive Language Detection
Yildiz Technical University（耶尔德兹技术大学）；Istanbul Technical University（伊斯坦布尔技术大学）；University of Southern Denmark（南丹麦大学）
本文提出一种语言数据增强方法，利用机器辅助标注来减少冒犯性语言数据集中的人类偏见，从而提升多语言冒犯性语言分类的准确性与公平性。
2023-12-04 cs.AI cs.CL
Gender Bias in Contextualized Word Embeddings
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of California, Los Angeles（加州大学洛杉矶分校）；University of Virginia（弗吉尼亚大学）；University of Cambridge（剑桥大学）
在本文中，我们量化，分析和减轻ELMo的语境化词向量中表现出的性别偏见。首先，我们进行了几个内在的分析，发现（1）训练数据ELMo包含显着更多的男性比女性实体，（2）训练ELMo嵌入系统编码性别信息和（3）ELMo不平等地编码性别信息的男性和女性实体。然后，我们表明，一个国家的最先进的共指系统，依赖于ELMo继承其偏见，并表现出显着的偏见WinoBias探测语料库。最后，我们探索了两种方法来减轻这种性别偏见，并表明WinoBias上的偏见可以消除。
2019-04-05 cs.CL
Single-Sentence Reader: A Novel Approach for Addressing Answer Position Bias
Denison University（丹尼森大学）
针对机器阅读理解中答案位置偏差问题，提出单句阅读器方法，在六个模型上实验证明其效果接近正常数据集训练的模型，并讨论了挑战与解决方案。
2023-09-06 cs.CL
Look to the Right: Mitigating Relative Position Bias in Extractive Question Answering
The University of Tokyo（东京大学）；National Institute of Informatics（国立信息学研究所）
当训练集存在非预期偏差时，提取式问答（QA）模型倾向于利用虚假相关性进行预测。这种倾向导致模型不能推广到相关性不成立的例子。确定QA模型可以利用的虚假相关性对于在现实应用中构建可推广的QA模型至关重要;此外，需要开发一种方法，即使在训练集有偏差时，也可以防止这些模型学习虚假相关性。在这项研究中，我们发现，答案的相对位置，这是定义为相对距离从答案跨度最接近的问题上下文重叠字，可以利用QA模型作为表面线索进行预测。具体来说，我们发现，当训练集中的相对位置有偏差时，在训练过程中看不到相对位置的例子的性能会显着下降。为了减轻看不见的相对位置的性能下降，我们提出了一个基于集合的去偏置方法，不需要先验知识的相对位置的分布。我们证明了所提出的方法减轻了模型对使用有偏和完整SQuAD数据集的相对位置的依赖。我们希望这项研究可以帮助提高QA模型在实际应用中的泛化能力。
2022-10-26 cs.CL
Layer-wise Positional Bias in Short-Context Language Modeling
Tehran Institute for Advanced Studies, Khatam University, Iran（德黑兰高级研究院，卡坦大学，伊朗）；School of Electrical and Computer Engineering, University of Tehran, Iran（德黑兰理工大学电气与计算机工程学院，伊朗）
本研究提出一种基于归因的框架，分析短上下文语言建模中各层的位置偏倚，发现深度增加时近期偏倚增强，首次偏倚减弱，且早期层更倾向内容词。
2026-08-07 cs.AI cs.CL
Mitigating the Position Bias of Transformer Models in Passage Re-Ranking
TU Wien（维也纳工业大学）；University College London（伦敦大学学院）
受监督的机器学习模型及其评估在很大程度上取决于底层数据集的质量。当我们搜索一条相关的信息时，它可能出现在给定段落的任何地方。然而，我们观察到一个偏见的正确答案在文本中的位置在两个流行的问答数据集用于通道重新排名。过度偏爱通道内的较早位置是不想要的人工制品。这导致了三种常见的基于transformer的重新排序模型，以忽略未看到的段落中的相关部分。更令人担忧的是，由于评估集来自相同的偏置分布，因此过拟合该偏置的模型高估了它们的真实有效性。在这项工作中，我们分析了数据集上的位置偏差，上下文表示，以及它们对检索结果的影响。我们提出了一个去偏方法检索数据集。我们的研究结果表明，在位置偏置数据集上训练的模型在去偏置数据集上进行评估时，重新排名的有效性显着降低。我们证明，通过减轻位置偏差，基于transformer的重新排序模型在有偏和去偏数据集上同样有效，并且在两个不同偏数据集之间的迁移学习设置中更有效。
2021-01-18 cs.CL cs.IR
OBJECTION! Lawyer Agents Mitigate Guilty Bias in Legal Judgment Prediction
Seoul National University（首尔大学）；Korean National Police Agency（韩国警察厅）
本文提出整合对抗性律师智能体的OBJECTION推理流水线，结合含3400个真实案例的新“自然无罪”数据集，大幅降低法律判决预测模型的假有罪率，缓解有罪偏见，推进法律AI符合无罪推定原则。
2026-09-03 cs.AI cs.CL
A Systematic Evaluation of Positional Bias in Multi-Video Summarization with MLLMs
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；Engineering Research Center of Knowledge-Driven Human-Machine Intelligence, Jilin University（知识驱动人机智能工程研究中心）；International Center of Future Science, Jilin University（未来科学国际中心）
本研究系统评估了多模态大语言模型在多视频摘要任务中的位置偏差，通过构建基准和三种互补指标揭示了领域与模型依赖的偏差特性，并分析了提示级缓解方法。
2026-06-03 cs.CL
Synthetic Prefixes to Mitigate Bias in Real-Time Neural Query Autocomplete
Walmart Global Technology（沃尔玛全球技术）
本研究提出一种基于合成前缀的数据驱动方法，缓解实时神经查询自动补全的呈现偏差，同时简化列表式损失优化训练效率，在电商场景中显著提升用户参与度，还可推广至其他低延迟排序任务的偏差缓解。
2025-10-02 cs.AI cs.CL cs.IR
Positional Bias in Binary Question Answering: How Uncertainty Shapes Model Preferences
University of Padova（帕多瓦大学）；CNR-ISTI（意大利国家研究委员会-ISTI研究所）
研究了二元问答中模型位置偏差随答案不确定性增加呈指数级增长的现象，通过在 SQuAD-it、WebGPT 和 Winning Arguments 数据集上翻转选项顺序评估五个大模型，发现低不确定性下偏差几乎消失。
2025-07-01 cs.CL
Gender Bias in Neural Natural Language Processing
Carnegie Mellon University（卡内基梅隆大学）
我们研究神经自然语言处理（NLP）系统是否反映了训练数据中的历史偏差。我们定义了一个通用的基准来量化各种神经NLP任务中的性别偏见。我们使用最先进的神经共指消解和在基准数据集上训练的基于RNN的语言模型进行的实证评估发现，模型如何看待职业存在显著的性别偏见。然后，我们减轻偏见与CDA：一个通用的方法，语料库增强通过因果干预，打破性别和性别中性词之间的关联。我们的经验表明，CDA有效地减少性别偏见，同时保持准确性。我们还探讨了空间的缓解策略与CDA，一个事先的方法，词嵌入去偏置（WED），和他们的组合。我们表明，CDA优于WED，大大，所以当词嵌入的训练。对于预训练的嵌入，这两种方法可以有效地组合。我们还发现，随着对原始数据集进行梯度下降训练，性别偏见随着损失的减少而增加，这表明优化鼓励偏见; CDA减轻了这种行为。
2019-05-30 cs.CL
Position Bias Correction is Insufficient for One-Pass Attention Sorting
Analemma
针对长上下文语言模型的位置偏差问题，提出去偏单遍注意力排序方法，通过估计位置偏差曲线校正注意力分数，实验表明校正效果有限，无法替代迭代排序。
2026-06-29 cs.AI cs.CL
Reducing Position Bias in Simultaneous Machine Translation with Length-Aware Framework
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
同步机器翻译（SiMT）在接收流式源输入的同时开始翻译，因此源句子在翻译期间总是不完整的。与使用传统seq-to-seq架构的整句MT不同，SiMT通常应用前缀到前缀架构，其强制每个目标词仅与部分源前缀对齐以适应流输入中的不完整源。然而，由于词头中出现的词头较多，处于词头前位置的源词往往被错误地认为更重要，从而产生了位置偏向，使得模型在测试时更加关注词头前位置。本文首先分析了SiMT中的位置偏差现象，并提出了一个长度感知框架，通过弥合SiMT和整句MT之间的结构鸿沟来减少位置偏差。具体来说，给定流输入，我们首先预测整句长度，然后用位置编码填充未来的源位置，从而将流输入变成伪整句。所提出的框架可以集成到大多数现有的SiMT方法，以进一步提高性能。两个具有代表性的SiMT方法，包括国家的最先进的自适应政策的实验表明，我们的方法成功地减少了位置偏差，从而实现更好的SiMT性能。
2022-03-23 cs.AI cs.CL
Technical Report: Impact of Position Bias on Language Models in Token Classification
University of Passau（帕绍大学）
本研究针对令牌分类任务中语言模型的正例位置偏差问题，提出评估方法验证了3%-9%的性能下降，还提出随机位置偏移和上下文扰动两种缓解方法，实现约2%的性能提升。
2024-04-11 cs.AI cs.CL
An Experimental Study of The Effects of Position Bias on Emotion CauseExtraction
VMware（威睿）；Information Sciences Institute（信息科学研究所）；University of Southern California（南加州大学）
情感原因提取（ECE）的目的是在标注情感关键字后，从文档中识别情感原因。已经提出了一些基线来解决这个问题，例如基于规则的方法、基于常识的方法和机器学习方法。然而，我们发现，一个简单的随机选择方法对ECE，不需要观察文本实现类似的性能相比，基线。我们只利用相对于情绪原因的位置信息来实现这一目标。由于位置信息单独没有观察到的文本导致更高的F-措施，因此，我们发现在欧洲经委会单一体裁新浪新闻基准的偏见。进一步的分析表明，情感原因位置的不平衡存在的基准，与大部分的原因子句紧接在中央情感子句。我们从语言学的角度研究了这种偏差，并表明利用位置信息的当前最先进的深度学习模型的高准确率仅在包含这种位置偏差的数据集中是明显的。当引入具有平衡位置分布的数据集时，准确性急剧降低。因此，我们得出结论，正是这个基准测试中的固有偏差导致了ECE中这些深度学习模型的高准确率。我们希望本文中的案例研究既能提供警示性的教训，也能为进一步的研究提供模板，以解释深度学习模型的卓越拟合，而无需检查偏见。
2020-07-16 cs.CL
Information Representation Fairness in Long-Document Embeddings: The Peculiar Interaction of Positional and Language Bias
Department of Computational Linguistics（计算语言学系）
研究提出基于排列的评估框架，发现长文档嵌入模型存在系统性位置和语言偏见，早期段落和高资源语言段落被过度表示，而后期段落和低资源语言段落被边缘化，提出注意力校准方法缓解此问题。
2026-04-20 cs.AI cs.CL
PosIR: Position-Aware Heterogeneous Information Retrieval Benchmark
PosIR是一个标准化的异构信息检索基准，通过长度控制分桶策略系统诊断位置偏差，揭示了检索模型在长文档中存在优先偏差及近期偏差，暴露了短文本评估的局限性。
2026-03-12 cs.CL cs.IR
Explanation Bias is a Product: Revealing the Hidden Lexical and Position Preferences in Post-Hoc Feature Attribution
Computational Linguistics and Text Mining Lab, Vrije Universiteit Amsterdam（计算语言学与文本挖掘实验室，荷兰自由大学）；TNO–The Netherlands Organization for Applied Scientific Research, The Hague（荷兰应用科学研究院（TNO），海牙）；Leiden University Centre for Linguistics (LUCL), Leiden University, Leiden（莱顿大学语言中心（LUCL），莱顿大学，莱顿）
本文通过构建无模型和方法依赖的评估框架，系统评估了两种transformer模型的词汇和位置偏差，发现模型在词汇偏差和位置偏差之间存在权衡，并发现异常解释更可能带有偏差。
2026-04-20 cs.AI cs.CL
