Fairness Definitions in Language Models Explained
Florida International University(佛罗里达国际大学)
本文系统解析了语言模型中公平性定义的分类与应用,介绍了现有公平性概念及新分类方法,通过实验探讨其实际影响,旨在推动公平性研究的发展。
2026-10-28 cs.AI cs.CL cs.LG
The Democratic Paradox in Large Language Models' Underestimation of Press Freedom
本研究揭示六种主流大型语言模型在评估180国新闻自由时普遍低估,且在新闻自由最强国家偏差更大,并存在本土偏见,威胁民主信息准确性。
2025-06-22 cs.AI cs.CL cs.CY
The Alignment Paradox: How Post-Training Amplifies Confident Hallucinations in Language Models
研究发现后训练对齐本身是放大语言模型高置信幻觉的主因,提出在DPO中引入熵依赖边际界,将Mistral-7B的高置信错误减少达35.3%。
2026-09-29 cs.AI cs.CL
Your fairness may vary: Pretrained language model fairness in toxic text classification
IBM Research(IBM研究院)
预训练语言模型在自然语言处理系统中的普及要求在下游任务中仔细评估此类模型,这些模型具有更高的社会影响潜力。对这种系统的评价通常侧重于准确性措施。我们在本文中的研究结果呼吁重视公平措施以及。通过对两个有毒文本分类任务(英语)的十几个不同大小的预训练语言模型的分析,我们证明了仅关注准确性度量可以导致模型在公平性特征方面存在很大差异。具体来说,我们观察到,公平性的变化甚至超过准确性与增加训练数据大小和不同的随机初始化。与此同时,我们发现,公平性的变化是由模型的大小来解释的,尽管在文献中的索赔。为了提高模型的公平性,无需再训练,我们表明,两个后处理方法开发的结构化,表格数据可以成功地应用到一系列的预训练语言模型。警告:本文包含冒犯性文本的示例。
2022-04-14 cs.CL cs.LG
The Paradox of Poetic Intent in Back-Translation: Evaluating the Quality of Large Language Models in Chinese Translation
Computer Science Department University of Brasilia(布拉兹利亚大学计算机科学系);Math Department Federal Institute of Brasilia(布拉兹利亚联邦学院数学系)
本研究构建多样化语料库,利用BT-Fried评估系统对比大语言模型与传统翻译工具在中英翻译中的表现,揭示了“诗意意图悖论”并提出改进的BLEU变体,推进了对AI翻译文化保真度的理解。
2025-04-28 cs.CL
Fairness Certification for Natural Language Processing and Large Language Models
Leipzig University(莱比锡大学);Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) Dresden/Leipzig(可扩展数据分析与人工智能中心(ScaDS.AI)德累斯顿/莱比锡)
本文针对自然语言处理和大型语言模型中的公平性问题,采用定性研究方法,通过文献回顾和专家访谈,系统提出了六项可细分为18个子类别的公平性标准,为公平性认证流程的操作化和测试奠定了基础。
2024-01-03 cs.AI cs.CL cs.CY
The Alignment Paradox of Medical Large Language Models in Infertility Care: Decoupling Algorithmic Improvement from Clinical Decision-making Quality
Department of Obstetrics and Gynecology, West China Second University Hospital(妇产科部门,西昌第二大学医院);Reproductive Medical Center, Department of Obstetrics and Gynecology, West China Second University Hospital(生殖医学中心,妇产科部门,西昌第二大学医院)
本研究发现,尽管GRPO在算法准确性上表现最佳,但临床医生更偏好SFT模型,因其推理更清晰且治疗可行性更高,揭示了算法改进与临床信任之间的对齐悖论。
2025-11-22 cs.AI cs.LG
The Imperfective Paradox in Large Language Models
LMU Munich(慕尼黑大学);The University of Tokyo(东京大学)
研究揭示大型语言模型在事件复合语义理解上的局限性,发现其依赖表面概率启发式而非逻辑推理,提出ImperfectiveNLI数据集揭示目标导向事件的预测偏差。
2026-10-23 cs.CL
The Persona Paradox: Medical Personas as Behavioral Priors in Clinical Language Models
Brown University(布朗大学);University of Tuebingen(图宾根大学)
研究揭示医疗人设在临床语言模型中产生上下文依赖的性能权衡,显示其在重症护理任务中提升表现,但在初级护理中降低性能,且互动风格影响风险倾向。
2026-01-08 cs.AI cs.CL
Information Abundance Paradox: Long-Context Training Undermines Parametric Knowledge
Johns Hopkins University(约翰斯·霍普金斯大学)
该研究提出信息丰度悖论,发现长上下文训练会使模型减少参数化知识编码、增加对上下文的依赖,预训练和微调中均存在性能先升后降或鲁棒性降低的现象,表明近无穷大上下文缩放并非仅靠更多数据。
2026-08-14 cs.AI cs.CL
Reasoning Towards Fairness: Mitigating Bias in Language Models through Reasoning-Guided Fine-Tuning
Virginia Tech(弗吉尼亚理工大学)
本文研究推理能力与模型公平性的关系,提出 ReGiFT 方法,通过将先进模型的推理轨迹注入弱推理模型,在不使用公平性特定监督的情况下有效降低刻板印象偏见并超越先进推理模型。
2025-06-05 cs.AI cs.CL cs.LG
The Self-Improvement Paradox: Can Language Models Bootstrap Reasoning Capabilities without External Scaffolding?
Zhejiang University(浙江大学);Binjiang Institute of Zhejiang University(浙江大学滨江研究院);Om AI Research(Om AI研究院)
针对现有LLM自我提升依赖外部监督的问题,本文提出完全自主的合成问答数据生成框架Crescent,通过诱饵提示生成问题、拒绝采样去重、多数投票收集答案,实现零外部监督下数学推理能力提升及更高效的知识蒸馏。
2025-02-19 cs.AI cs.CL
Fairness in Large Language Models in Three Hours
Florida International University(佛罗里达国际大学)
本教程系统梳理了大语言模型公平性的研究进展,涵盖偏见成因、评估策略、公平性算法及相关资源,并指出当前挑战与开放问题。
2024-08-08 cs.CL cs.LG
The Catastrophic Paradox of Human Cognitive Frameworks in Large Language Model Evaluation: A Comprehensive Empirical Analysis of the CHC-LLM Incompatibility
Stanford University(斯坦福大学)
本研究揭示了人类认知框架与大语言模型评估之间的不兼容性悖论,指出模型在结晶知识任务上的低准确率与高IQ评分的矛盾,提出发展原生机器认知评估框架的必要性。
2025-11-23 cs.AI
Ask Twice, Look Twice: Prompt Echoing Resolves the Question-First Paradox in Vision-Language Models
Carnegie Mellon University(卡内基梅隆大学)
研究视觉语言模型中问题优先提示的悖论,发现问题前置虽能引导感知但后续答案生成阶段难关注到问题。提出问题回声方法,即在图像两侧重复问题,解决了悖论,在多基准测试中表现出色且无需训练等。
2026-09-04 cs.AI cs.CV cs.LG
Metamorphic Testing for Fairness Evaluation in Large Language Models: Identifying Intersectional Bias in LLaMA and GPT
East Carolina University(东卡罗来纳大学);University of North Florida(北佛罗里达大学)
本文提出一种基于蜕变测试的方法,通过定义面向公平性的蜕变关系,系统性地检测LLaMA和GPT模型中的交叉偏见,尤其在语气与情感方面,为公平性敏感应用中的偏见检测与缓解提供了结构化方案。
2025-04-04 cs.AI cs.CL
FairLMs: A Turnkey Library for Fairness in Language Models
Indiana University(印第安纳大学);Carnegie Mellon University(卡内基梅隆大学);Florida International University(佛罗里达国际大学)
FairLMs是一个Python库,通过声明模型能力与输入要求,整合偏见衡量、缓解与证据检查,提供33个指标、14个缓解组件及诊断工具,支持多种架构与API,便于方法比较与工作流扩展。
2026-09-21 cs.CL cs.LG
Fairness in Large Language Models: A Taxonomic Survey
Florida International University(佛罗里达国际大学)
本综述全面回顾了大型语言模型(LLMs)公平性研究的最新进展,系统分析了偏见来源、公平性概念分类、评估指标与算法,并总结了相关工具包、数据集及未来研究挑战。
2024-12-19 cs.AI cs.CL
Role-Play Paradox in Large Language Models: Reasoning Performance Gains and Ethical Dilemmas
University of Toronto(多伦多大学);University of Alberta(阿尔伯塔大学);University of Waterloo(滑铁卢大学);Mcgill University(麦吉尔大学);Renmin University of China(中国人民大学);The Australian National University(澳大利亚国立大学)
该研究揭示了大语言模型角色扮演技术的伦理风险,发现自动调优和不同角色均会放大有害与偏见输出的风险,强调在敏感场景部署时需谨慎处理角色模拟与调优过程。
2025-02-03 cs.CL
A Survey on Bias and Fairness in Natural Language Processing
Stanford University(斯坦福大学)
随着NLP模型与人们的日常生活越来越紧密地结合在一起,研究这些系统的使用所产生的社会影响变得非常重要。虽然这些模型能够理解语言,并在困难的下游任务上提高了准确性,但有证据表明,这些模型放大了性别、种族和文化陈规定型观念,并在许多情况下导致恶性循环。在这项调查中,我们分析了偏见的起源,公平的定义,以及NLP的不同子领域如何减轻偏见。最后,我们将讨论未来的研究如何消除NLP算法中的有害偏见。
2022-03-06 cs.AI cs.CL
FairDistillation: Mitigating Stereotyping in Language Models
KU Leuven(鲁汶大学);Leuven.AI institute(鲁汶人工智能研究所);TU Berlin(柏林工业大学);Weizenbaum Institute(魏泽鲍姆研究所)
大型预训练的语言模型正成功地用于多种语言的各种任务中。随着这种使用的不断增加,有害副作用的风险也在增加,例如通过复制和加强陈规定型观念。然而,检测和减轻这些危害通常很难做到,并且在处理多种语言或考虑不同偏见时会变得计算昂贵。为了解决这个问题,我们提出了FairDistillation:一种基于知识蒸馏的跨语言方法,在控制特定偏差的同时构建较小的语言模型。我们发现,我们的蒸馏方法不会对大多数任务的下游性能产生负面影响,并成功地减轻了刻板印象和代表性伤害。我们证明,FairDistillation可以创建更公平的语言模型在一个相当低的成本比其他方法。
2022-09-16 cs.CL cs.CY cs.LG
Measuring Fairness with Biased Rulers: A Survey on Quantifying Biases in Pretrained Language Models
KU Leuven(鲁汶大学);University of Antwerp(安特卫普大学);TU Berlin(柏林工业大学)
随着人们对自然语言处理资源(如BERT)中有偏模式的认识不断提高,许多度量标准开始量化“偏”和“公平”。但是,比较不同指标的结果和用这些指标评估的作品仍然很困难,如果不是完全不可能的话。我们调查了现有的文献公平性指标的预训练语言模型和实验评估兼容性,包括在语言模型的偏见,在他们的下游任务。我们采用传统的文献调查和相关分析相结合的方法,并进行了实证评估。我们发现,许多指标是不兼容的,高度依赖于(i)模板,(ii)属性和目标种子和(iii)嵌入的选择。这些结果表明,公平性或偏见评估仍然具有挑战性的上下文语言模型,如果不是至少高度主观。为了改善未来的比较和公平性评估,我们建议避免基于嵌入的度量,并专注于下游任务中的公平性评估。
2021-12-14 cs.CL cs.CY cs.LG
Student Data Paradox and Curious Case of Single Student-Tutor Model: Regressive Side Effects of Training LLMs for Personalized Learning
Rice University(莱斯大学)
本研究揭示了为个性化学习训练LLM时出现的“学生数据悖论”——在学生对话数据上训练会损害模型的事实知识与推理能力,通过多基准测试验证了该现象,并提出幻觉令牌缓解策略,指出需平衡学生行为建模与模型教育完整性。
2024-10-05 cs.CL
Making Metadata More FAIR Using Large Language Models
Stanford University(斯坦福大学)
本文提出FAIRMetaText应用,利用NLP和多种大型语言模型分析元数据自然语言描述并计算术语相似度,以改善元数据FAIR合规性并大幅减少人工筛选工作。
2023-07-24 cs.AI cs.CL
The Imperfective Paradox Is Not Necessarily in Large Language Models: A Benchmark Failure Before a Model Failure
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
该研究发现进行体悖论相关的基准失效,构建词汇匹配最小对并评估多步推理,揭示模型的充分性偏差等失效模式,表明部分大模型体分类性能可媲美人类标注者。
2026-11-10 cs.CL cs.LG
The Reasoning Boundary Paradox: How Reinforcement Learning Constrains Language Models
College of Engineering and Computer Science, VinUniversity(Vin大学工程与计算机科学学院);Center for Environmental Intelligence, VinUniversity(Vin大学环境智能中心);University of Stuttgart(斯图加特大学);University of Notre Dame(诺特难大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Max Planck Research School for Intelligent Systems (IMPRS-IS)(马克斯·普朗克智能系统研究学校)
本文针对RLVR提升大语言模型推理时反而缩小推理边界的悖论,揭示了负干扰与赢者通吃两大成因,提出聚焦低概率问题的数据筛选算法,有效提升Pass@k性能。
2025-10-02 cs.AI cs.CL cs.CV
Unveiling Performance Challenges of Large Language Models in Low-Resource Healthcare: A Demographic Fairness Perspective
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
该研究从人口统计公平性视角,评估了多种主流框架下的前沿大语言模型在低资源医疗任务中的表现,发现其存在性能挑战与公平性问题,且相关优化手段效果有限,凸显了该领域专项研究的紧迫性。
2024-12-07 cs.AI cs.CL
Your Large Language Model is Secretly a Fairness Proponent and You Should Prompt it Like One
Nanyang Technological University(南洋理工大学);Sea AI Lab(Sea AI实验室);Xi’an Jiaotong University(西安交通大学);Centre for Frontier AI Research (CFAR), A*STAR(新加坡科技研究局前沿人工智能研究中心)
针对LLMs在观点表达中偏向多数群体而忽视少数群体的问题,提出FairThinking流水线,通过自动生成特定角色提示LLMs以表达多样观点,并在多个模型上验证了其优越性能。
2024-02-19 cs.AI cs.CL
Demystifying the Visual Quality Paradox in Multimodal Large Language Models
Texas A&M University(德克萨斯大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Toronto(多伦多大学);Nanyang Technological University(南洋理工大学)
本研究揭示多模态大语言模型存在视觉质量悖论,即低感知质量图像可能提升性能,并提出VQ-TTT轻量级自适应模块,通过低秩核与LoRA微调动态调整输入,显著提升模型准确率。
2025-06-18 cs.AI cs.CV
FLEX: A Benchmark for Evaluating Robustness of Fairness in Large Language Models
Korea University(高丽大学)
针对现有基准忽视LLM在对抗性指令下产生偏见响应的问题,提出FLEX基准,通过整合放大偏见的提示评估公平性鲁棒性,实验表明传统评估低估了模型风险。
2025-03-25 cs.AI cs.CL
Fairer Preferences Elicit Improved Human-Aligned Large Language Model Judgments
University of Cambridge(剑桥大学);University of Oxford(牛津大学)
本文揭示LLM评估器的偏好脆弱性,并提出零样本提示优化框架ZEPO,通过优化偏好决策公平性,在无标注数据下显著提升了LLM评估器与人类评判的对齐度。
2024-10-12 cs.AI cs.CL cs.CY
FairCoT: Enhancing Fairness in Text-to-Image Generation via Chain of Thought Reasoning with Multimodal Large Language Models
School of Electronic Engineering and Computer Science, Queen Mary University of London(伦敦女王学院电子工程与计算机科学学院);Department of Knowledge Technologies, Jožef Stefan Institute(Jožef Stefan研究所知识技术系)
本文提出FairCoT框架,通过多模态大语言模型中的迭代思维链推理动态调整文本提示,有效减轻文本到图像生成中的偏见,在DALLE和Stable Diffusion等模型上显著提升了公平性与多样性,且不牺牲图像质量。
2025-09-12 cs.AI cs.CV cs.LG
Perturbation Augmentation for Fairer NLP
Facebook AI Research(脸书人工智能研究院);Hugging Face(抱抱脸)
在NLP研究中,不必要的、往往是有害的社会偏见变得越来越突出,影响了模型和数据集。在这项工作中,我们要问的是,对人口统计学扰动数据的训练是否会导致更公平的语言模型。我们收集了大量的人类注释文本扰动数据集,并训练了一个神经扰动模型,我们显示它优于启发式替代方案。我们发现,(i)在人口统计学扰动语料库上预训练的语言模型(LM)通常更公平,(ii)在扰动GLUE数据集上微调的LM在下游任务上表现出更少的人口统计学偏见,(iii)公平性的改善不会以牺牲下游任务的性能为代价。最后,我们讨论了如何最好地评估(不)公平的大语言模型的突出问题。我们希望这种对神经人口扰动的探索将有助于推动更公平的NLP。
2022-10-12 cs.AI cs.CL
A Survey on Fairness in Large Language Models
Jilin University(吉林大学);New Jersey Institute of Technology(新泽西理工学院)
本文综述了大语言模型中的公平性研究,按模型规模与训练范式分类梳理了偏见评估指标与去偏方法,并探讨了当前挑战与未来方向。
2024-02-21 cs.AI cs.CL
The Generator-Eraser Paradox: Community Guidelines for Responsible LLM-Assisted Dialect Resource Creation
Northwestern University in Qatar(卡塔尔西北大学)
本文提出生成器-擦除器悖论理论框架,推导出12条社区指南,并通过阿拉伯方言案例展示如何在大语言模型辅助方言资源创建中平衡效率与语言多样性保护。
2026-06-04 cs.CL
Measuring Fairness in Large Audio Language Models via Semantic-Aware Bias Estimation
Meta Platforms, Inc.(元平台公司)
针对大音频语言模型公平性评估中语义与说话人混淆因素的问题,提出语义感知混合效应回归框架,经实验验证可减少虚假结论,得到更稳健的子群体性能差异估计。
2026-08-17 cs.AI cs.CL cs.SD
Unveiling the "Fairness Seesaw": Discovering and Mitigating Gender and Race Bias in Vision-Language Models
LMU Munich(慕尼黑莱布尼茨大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出RES-FAIR框架,通过调整隐藏状态缓解视觉-语言模型中的性别和种族偏见,提升响应公平性和置信度校准。
2026-02-11 cs.AI cs.CL cs.CV
Collapsed Language Models Promote Fairness
Beijing Jiaotong University(北京交通大学);Simon Fraser University(西蒙菲莎大学)
本文通过评估公平性相关词汇上的神经坍缩现象,发现去偏语言模型在词元表示和词嵌入间存在坍缩对齐,并据此提出一种原理性微调方法,能在保持标准任务性能的同时广泛提升去偏方法的公平性。
2025-01-29 cs.CL cs.CY
Selecting Shots for Demographic Fairness in Few-Shot Learning with Large Language Models
Center for Language and Speech Processing(语言与语音处理中心);Johns Hopkins University(约翰霍普金斯大学)
本研究探讨少样本学习中大语言模型作为NLP分类系统的公平性,分析不同样本选择策略(含人口统计敏感方法)对三个标准数据集上模型公平性的影响,并提出未来公平性评估方向。
2023-11-14 cs.CL
FairLLaVA: Fairness-Aware Parameter-Efficient Fine-Tuning for Large Vision-Language Assistants
University at Buffalo(布法罗大学);University of Kashmir(克什米尔大学);Accenture(埃森哲);Harvard Medical School(哈佛医学院)
FairLLaVA通过减少目标属性间的互信息,实现视觉指令微调中的公平性改进,提升医疗影像生成的公平性和自然语言生成质量。
2026-03-27 cs.AI cs.CV
Do Large Language Models Rank Fairly? An Empirical Study on the Fairness of LLMs as Rankers
Santa Clara University(圣克拉拉大学);DOCOMO Innovations, Inc.(docomo创新公司);Rochester Institute of Technology(罗切斯特理工学院)
本研究实证评估LLM排序器的公平性,利用TREC公平排序数据集分析性别和地理位置等受保护属性,从用户和内容角度揭示偏见,提供公平性基准。
2024-06-25 cs.CL cs.IR
Equinox: Holistic Fair Scheduling in Serving Large Language Models
Shanghai Jiao Tong University(上海交通大学);Cloud Computing Research Institute, China Telecom(云计算研究所,中国电信);Stevens Institute of Technology(史蒂文斯理工学院)
Equinox通过双计数器框架和预测专家混合(MoPE)实现大语言模型服务的整体公平调度,在提升吞吐量、降低延迟的同时保持高GPU利用率和公平性。
2025-08-19 cs.AI cs.DC
Intersectional Fairness in Large Language Models
University of Calgary(卡尔加里大学)
本文评估了六个大语言模型在交叉人口属性上的公平性,发现模型在模糊情境中表现良好,但在解歧情境中受刻板印象影响,且跨群体结果分布不均。
2026-09-15 cs.CL
The Open-domain Paradox for Chatbots: Common Ground as the Basis for Human-like Dialogue
KTH(瑞典皇家理工学院);Universiteit Gent(根特大学)
本文提出“开放域悖论”,指出要求用户随意聊天反而导致对话狭窄,并基于共同背景理论解释该现象,探讨在人机对话中实现共同背景的路径。
2023-07-28 cs.CL
Language Models That Walk the Talk: A Framework for Formal Fairness Certificates
Technical University of Munich, Germany(慕尼黑技术大学)
本文提出一个框架,用于验证大语言模型的鲁棒性和公平性,特别是在性别公平和毒性检测中的应用。
2026-01-29 cs.AI
Improving Fairness of Large Language Models in Multi-document Summarization
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Pennsylvania State University(宾夕法尼亚州立大学)
针对多文档摘要现有公平性方法多聚焦摘要层面的问题,提出兼顾摘要与语料层面公平性的FairPO偏好调优方法,通过扰动文档集生成偏好对、动态调整偏好对权重分别优化两层公平性,在保持摘要质量的同时优于强基线。
2025-06-12 cs.CL
Fair-GPTQ: Bias-Aware Quantization for Large Language Models
Université Claude Bernard Lyon 1(克莱尔伯恩大学里昂1分校);Université Lumière Lyon 2(里昂2大学);ERIC;École Centrale de Lyon(里昂中央理工学院);LIRIS;CNRS UMR 5205(国家科学研究中心UMR 5205)
研究针对生成式语言模型高内存需求的量化问题,通过在量化目标中添加显式组公平约束建立与模型公平的新联系,引入Fair-GPTQ减少大语言模型不公平性,性能影响小且保留量化优势。
2026-10-09 cs.CL
Efficient Fairness Testing in Large Language Models: Prioritizing Metamorphic Relations for Bias Detection
Computer Science Department East Carolina University(东卡罗来纳大学计算机科学系);Computer Science Department University of North Florida(北佛罗里达大学计算机科学系)
本文提出基于句子多样性的蜕变关系优先排序方法,以提升大型语言模型公平性测试效率,实验表明其显著提高故障检测率并降低计算成本。
2025-05-09 cs.AI cs.CL cs.SE
Towards Enabling FAIR Dataspaces Using Large Language Models
Fraunhofer Institute for Applied Information Technology FIT(弗劳恩霍夫应用信息技术研究所);RWTH Aachen University(亚琛工业大学);University of Galway(戈尔韦大学)
本研究探讨大型语言模型如何支持FAIR数据空间的采用,通过具体示例展示LLMs在数据空间中的潜力,并提出未来研究议程。
2024-03-18 cs.CL
The Generative AI Paradox on Evaluation: What It Can Solve, It May Not Evaluate
School of Computing, KAIST Daejeon, Republic of Korea(韩国釜山国立大学计算机学院);Georgia Institute of Technology(佐治亚理工学院)
本文研究了生成AI在评估任务中的局限性,发现LLMs在生成任务中表现优异,但在评估任务中却存在不忠实的问题,揭示了生成能力与评估能力之间的悖论。
2024-02-09 cs.AI cs.CL cs.HC
Scaling Truth: The Confidence Paradox in AI Fact-Checking
本研究系统评估九个大型语言模型在47种语言、5000条声明上的事实核查表现,发现小模型高信心低准确率、大模型高准确率低信心的邓宁-克鲁格式悖论,且非英语和全球南方声明差距最大,为多语言基准和政策提供依据。
2025-09-10 cs.AI cs.CL cs.CY
TriCon-Fair: Triplet Contrastive Learning for Mitigating Social Bias in Pre-trained Language Models
School of Computer Science(计算机科学学院);Artificial Intelligence, Wuhan University of Technology, Wuhan, China(武汉理工大学人工智能学院);Faculty of Data Science, City University of Macau, Macau, China(澳门城市大学数据科学学院)
针对现有去偏见方法忽略样本间关系导致正负耦合的问题,提出对比学习框架TriCon-Fair,通过结合Triplet和语言建模项的解耦损失消除正负耦合,在减少歧视性输出的同时保持下游性能。
2025-11-02 cs.CL
FAIR Enough: How Can We Develop and Assess a FAIR-Compliant Dataset for Large Language Models' Training?
Vector Institute for Artificial Intelligence(人工智能矢量研究所);Toronto Metropolitan University(多伦多都会大学);York University(约克大学)
本文提出将 FAIR 原则融入 LLM 开发生命周期的框架与实施清单,并通过偏见检测与缓解数据集案例验证其有效性。
2024-04-03 cs.CL
On the Independence of Association Bias and Empirical Fairness in Language Models
University of Copenhagen(哥本哈根大学)
本文区分语言模型的关联偏差与经验公平性,通过思想实验、跨主流模型的指标分析及文献综述,证明二者彼此独立且不存在相关性。
2023-04-20 cs.CL cs.HC