FairI Tales: Evaluation of Fairness in Indian Contexts with a Focus on Bias and Stereotypes
Nilekani Centre at AI4Bharat(AI4Bharat 奈尔肯中心);Indian Institute of Technology, Madras(印度理工学院马德拉斯分校);Indian Institute of Science, Bangalore(印度科学研究所班加罗尔)
针对现有公平性研究西方中心化问题,提出印度语境基准INDIC-BIAS,包含85个身份群体与2万个场景模板,评估14个LLM发现其存在强烈偏见与刻板印象,呼吁实际应用中谨慎使用。
2025-06-29 cs.CL
Can We Locate and Prevent Stereotypes in LLMs?
UC Davis(加州大学戴维斯分校)
研究通过分析GPT 2 Small和Llama 3.2内部机制,探索刻板印象相关的激活模式,旨在定位偏见并提供缓解刻板印象的初步见解。
2026-03-26 cs.AI cs.CL
Angry Men, Sad Women: Large Language Models Reflect Gendered Stereotypes in Emotion Attribution
Bocconi University(博科尼大学);University of Leeds(利兹大学);Heriot-Watt University(赫瑞瓦特大学)
本研究首次系统评估五种大型语言模型在情绪归因中的性别刻板印象,发现模型一致反映性别化情绪,与心理学研究一致,并探讨了其社会影响及预测性应用的局限。
2024-05-28 cs.CL
Biased or Flawed? Mitigating Stereotypes in Generative Language Models by Addressing Task-Specific Flaws
Virginia Tech(弗吉尼亚理工大学)
本文提出通过指令微调解决理解缺陷,在不使用显式去偏技术的情况下,将生成模型在国籍、年龄等维度上的刻板印象输出减少超过60%,并强调区分偏见与任务缺陷的重要性。
2024-12-16 cs.CL cs.LG
Profiling Bias in LLMs: Stereotype Dimensions in Contextual Word Embeddings
TUM School of Computation, Information and Technology(慕尼黑工业大学计算、信息与技术学院);Technical University of Munich(慕尼黑工业大学)
该研究针对大语言模型存在偏见的问题,提出基于社会心理学词典的刻板印象维度偏见剖析方法,分析12种大模型上下文嵌入的跨层跨语境性别偏见,可直观揭示和可视化模型偏见。
2025-01-11 cs.CL
Probing Gender Bias in Multilingual LLMs: A Case Study of Stereotypes in Persian
University of Tehran(德黑兰大学);Tehran Institute for Advanced Studies(德黑兰高等研究院)
本研究提出基于模板的探测方法和DS-GSI指标,评估四个多语言大模型在波斯语中的性别刻板印象,发现所有模型均存在偏见且波斯语差异大于英语,体育领域最严重。
2025-09-24 cs.CL
Hire Me or Not? Examining Language Model's Behavior with Occupation Attributes
Purdue University(普渡大学)
本文通过多轮问答框架考察了三个大型语言模型在职业决策中的性别刻板印象行为,发现所有模型均表现出类似人类偏见的刻板印象,且现有校准方法可能引入新偏见。
2025-01-21 cs.CL
Multilingual large language models leak human stereotypes across language boundaries
University of Maryland(马里兰大学);University of Southern California(南加州大学);Microsoft Research(微软研究院)
本文提出“刻板印象泄漏”测量框架,研究多语言大模型中一种语言的刻板印象如何影响其他语言行为,并发现GPT-3.5泄漏最严重、印地语最易受影响。
2024-11-19 cs.CL
Revisiting The Classics: A Study on Identifying and Rectifying Gender Stereotypes in Rhymes and Poems
Sri Sathya Sai Institute of Higher Learning(斯里·萨蒂亚·赛高等学习学院);GESIS - Leibniz Institute for the Social Sciences(莱布尼茨社会科学研究所(GESIS));Citridot Solutions(西特里多特解决方案公司);University of Tartu(塔尔图大学);IIT Ropar(罗帕尔印度理工学院)
本研究收集童谣和诗歌数据集,提出准确率97%的模型识别性别偏见,并利用LLM纠正刻板印象,揭示其在促进性别平等与包容性方面的潜力。
2024-03-25 cs.CL
LLMs Reproduce Stereotypes of Sexual and Gender Minorities
University of Edinburgh(爱丁堡大学)
本研究基于刻板印象内容模型,发现LLMs在调查问答和文本生成中均会复现对性与性别少数群体更负面的刻板印象,加剧创意写作中的表征性伤害。
2025-09-24 cs.CL
More Women, Same Stereotypes: Unpacking the Gender Bias Paradox in Large Language Models
Computer Science and Information Engineering(计算机科学与信息工程系)
本研究通过自由叙事揭示大型语言模型中的性别偏见,发现其在职业性别分布上更接近人类刻板印象,而非现实数据,强调了平衡缓解措施的重要性。
2026-03-09 cs.AI cs.CL
Acmite: Mitigating Gender Bias in LLMs through Concept-Guided Mutual Information
Kyoto University(京都大学);Zhejiang University(浙江大学);Shanghai Jiao Tong University(上海交通大学);Inner Mongolia University(内蒙古大学)
提出Acmite框架,通过概念引导和互信息最小化,实现对大语言模型性别偏见的选择性去偏,在保持通用能力的同时有效降低偏见。
2026-10-02 cs.CL
Explicit vs. Implicit: Investigating Social Bias in Large Language Models through Self-Reflection
College of Intelligence and Computing, Tianjin University(智能与计算学院,天津大学);AI Lab, China Mobile Communication Group Tianjin Co., Ltd.(中国移动通信集团天津有限公司人工智能实验室)
本文通过自反思框架系统比较LLMs的显式与隐式社会偏见,发现二者存在显著不一致,且对齐技术对隐式偏见效果有限。
2025-06-03 cs.CL
REFINE-LM: Mitigating Language Model Stereotypes via Reinforcement Learning
ADAPT Centre, Trinity College Dublin(都柏林圣三一学院ADAPT中心);CRIL CNRS, Univ Artois(阿尔图瓦大学CRIL法国国家科学研究中心);INRIA/IRISA Rennes(雷恩INRIA/IRISA研究所);U. Lorraine, CNRS, LORIA(洛林大学法国国家科学研究中心LORIA研究所);U. Lisboa, INESC-I(里斯本大学INESC-I研究所)
针对语言模型存在的多类刻板印象偏差问题,提出无需微调、标注少、成本低的REFINE-LM强化学习去偏方法,可在保留模型性能的同时有效降低多类偏差。
2024-08-18 cs.AI cs.CL
Veracity Bias and Beyond: Uncovering LLMs' Hidden Beliefs in Problem-Solving Reasoning
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本研究通过实验揭示大语言模型在问题求解中表现出归因偏见和评估偏见,即对特定人口群体(如非裔美国人)的解决方案真实性判断存在系统性偏差,且该偏见深植于推理过程,影响其教育评估应用。
2025-05-25 cs.CL
StereoMap: Quantifying the Awareness of Human-like Stereotypes in Large Language Models
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出基于刻板印象内容模型的StereoMap框架,从温暖度与能力两维度量化LLMs对社会群体的感知,并分析其推理过程,揭示LLMs存在多样化感知、社会差异意识及潜在偏见。
2023-10-31 cs.CL
Uncovering and Categorizing Social Biases in Text-to-SQL
Carnegie Mellon University(卡内基梅隆大学);Peking University(北京大学);ETH Zurich(苏黎世联邦理工学院);Microsoft Research(微软研究院)
针对 Text-to-SQL 模型在中立数据集上训练可能掩盖社会偏见的问题,本文构建测试基准并分类结构化数据中的偏见,揭示准确率相近模型的偏见率差异。
2023-06-07 cs.CL
IndiCASA: A Dataset and Bias Evaluation Framework in LLMs Using Contrastive Embedding Similarity in the Indian Context
针对现有大语言模型偏见评估方法在印度多元文化语境下难以捕捉细微刻板印象的问题,本研究提出基于对比学习编码器的细粒度偏见评估框架,发布含2575条人工验证句子的IndiCASA数据集,覆盖五个人口维度,评估发现开源大模型均存在偏见,残障类偏见最突出。
2025-10-03 cs.CL
On The Role of Reasoning in the Identification of Subtle Stereotypes in Natural Language
Vector Institute(向量研究所)
本文研究推理在开源大语言模型零样本细微刻板印象识别中的作用,证明多步推理能显著提升检测准确率和决策可解释性,为构建更强的刻板印象缓解流程奠定基础。
2024-09-28 cs.AI cs.CL cs.CY
Investigating Gender Bias in LLM-Generated Stories via Psychological Stereotypes
Johannes Kepler University (JKU)(约翰内斯·开普勒大学);Linz Institute of Technology (LIT)(林茨技术研究所);University of Innsbruck(因斯布鲁克大学)
本研究通过心理刻板印象在叙事生成中探究大语言模型的性别偏见,提出StereoBias-Stories数据集,发现属性条件化可缓解偏见,组合属性加剧或缓解偏见,且模型偏见与心理真实情况一致。
2025-08-05 cs.AI cs.CL
Seeds of Stereotypes: A Large-Scale Textual Analysis of Race and Gender Associations with Diseases in Online Sources
Aarhus University(奥胡斯大学);Massachusetts Institute of Technology(麻省理工学院);University of Alberta(阿尔伯塔大学);University of Manitoba(曼尼托巴大学);Mbarara University of Science and Technology(姆巴拉拉科技大学);Fundacion Arturo Lopez Perez(阿图罗·洛佩斯·佩雷斯基金会);Mass General Brigham(麻省总医院布里格姆);Harvard Medical School(哈佛医学院);Dana-Farber Cancer Institute(丹娜-法伯癌症研究所);Emory University School of Medicine(埃默里大学医学院);Beth Israel Deaconess Medical Center(贝斯以色列女执事医疗中心);Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院)
本文通过分析 Arxiv、Wikipedia 和 Common Crawl 中18种疾病与种族、性别术语的共现,并对比患病率与 GPT-4 输出,揭示在线文本及 LLM 预训练数据中的人口统计学偏见。
2024-05-08 cs.CL
Worst of Both Worlds: Biases Compound in Pre-trained Vision-and-Language Models
University of Southern California(南加州大学);Carnegie Mellon University(卡内基梅隆大学)
许多作品已经分析了视觉和预训练语言模型中的偏见-然而,很少关注这些偏见如何在多模态环境中相互作用。本文将基于文本的偏差分析方法扩展到多模态语言模型的研究中,分析了模态内和模态间的关联和偏差。具体来说,我们证明了VL-BERT(Su等人,2020年)表现出性别偏见,往往倾向于强化刻板印象,而不是忠实地描述视觉场景。我们证明了这些研究结果的对照病例研究,并将其扩展到一个更大的一组刻板性别的实体。
2022-05-20 cs.CL
Disclosure and Mitigation of Gender Bias in LLMs
Texas A&M University(得克萨斯农工大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
提出基于条件生成的间接探测框架,揭示LLMs中无显式性别提及时的显式与隐式偏见,并通过超参数调整、指令引导和去偏调整三种方法有效缓解偏见。
2024-02-17 cs.CL
Addressing Stereotypes in Large Language Models: A Critical Examination and Mitigation
UNIVERSITY OF CALIFORNIA DAVIS(加州大学戴维斯分校)
本文探讨了大型语言模型中的刻板印象问题,通过评估不同模型的偏见表现,提出增强学习策略以提升模型性能和减少偏见输出。
2025-11-18 cs.CL cs.CY cs.LG
Investigating Gender Stereotypes in Large Language Models via Social Determinants of Health
Nantes Université, École Centrale Nantes, CNRS, LS2N, UMR 6004(南特大学,中央理工学院,国家科学研究中心,LS2N,UMR 6004);Nantes Université, CHU Nantes, Clinique des données, INSERM, CIC 1413(南特大学,南特大学医院,数据诊所,国家健康与医学研究院,CIC 1413)
本研究通过分析法语患者记录中的性别与社会健康决定因素的关系,揭示了LLM在性别决策中依赖嵌入刻板印象的现象,并提出评估SDoH因素相互作用以补充现有偏见评估方法。
2026-03-10 cs.AI cs.CL
Talent or Luck? Evaluating Attribution Bias in Large Language Models
George Mason University(乔治·马歇尔大学);Thomas Jefferson High School For Science and Technology(托马斯·杰斐逊科学与技术高中);University of Washington(华盛顿大学)
研究探讨大语言模型在事件归因中的偏差,提出基于认知的评估框架,识别模型推理差异如何放大群体偏见。
2026-04-28 cs.CL
Unveiling Gender Bias in Large Language Models: Using Teacher's Evaluation in Higher Education As an Example
本研究以GPT-4生成的六学科高等教育教师评价为对象,通过多维度分析框架揭示LLM文本中存在符合社会刻板印象的性别语言关联模式,验证了其生成内容会反映现有社会偏见。
2024-09-15 cs.CL
"Im not Racist but...": Discovering Bias in the Internal Knowledge of Large Language Models
USC Information Sciences Institute(南加州大学信息科学研究所);Aptima, Inc(Aptima公司)
本文提出一种纯提示方法,动态生成知识表示以揭示任意大型语言模型中的隐藏刻板印象,促进NLP系统的透明与公平。
2023-10-13 cs.AI cs.CL
Semantic and Structural Analysis of Implicit Biases in Large Language Models: An Interpretable Approach
University of Michigan(密歇根大学);University of Southern California(南加州大学);Northeastern University(东北大学);San Francisco State University(旧金山州立大学)
本文提出一种可解释的偏见检测方法,结合嵌套语义表示与上下文对比机制,通过提取潜在特征和注意力权重扰动揭示大型语言模型中的隐性刻板印象,在 StereoSet 数据集上展现出高检测准确性与可解释性。
2025-08-08 cs.CL
Analyzing the Safety of Japanese Large Language Models in Stereotype-Triggering Prompts
Graduate School of Science and Technology, University of Tsukuba(筑波大学科学技术研究科);Institute of Systems and Information Engineering, University of Tsukuba(筑波大学系统与信息工程学院);Department of Electronics, Information and Bioengineering, Politecnico di Milano(米兰理工大学电子、信息与生物工程系)
本研究构建了3,612个刻板印象触发提示,对比分析日语、英语和中文基础模型在直接评估下的安全性,发现日语原生模型LLM-jp拒绝率最低且更易生成有毒响应,揭示了日语LLM伦理安全机制的不足。
2025-03-05 cs.CL cs.CY
Evaluating Large Language Models through Gender and Racial Stereotypes
Georgia Institute of Technology(佐治亚理工学院)
本研究建立评估框架,在专业背景下对比分析大型语言模型的性别和种族偏见,发现新模型中性别偏见大幅减少但种族偏见依然存在。
2023-11-24 cs.AI cs.CL cs.CY
Politeness Stereotypes and Attack Vectors: Gender Stereotypes in Japanese and Korean Language Models
Center for Information and Language Processing (CIS), LMU Munich(慕尼黑大学信息与语言处理中心(CIS));Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
该研究针对日语和韩语语言模型,探究礼貌层级相关的语法性别偏见,发现礼貌层级是网络欺凌检测模型的性别偏见攻击向量,并构建攻击数据集以识别偏见、展示攻击方式及缓解分配式偏见,呼吁偏见研究突破英语中心局限。
2023-06-16 cs.AI cs.CL cs.CY
The LLM Wears Prada: Analysing Gender Bias and Stereotypes through Online Shopping Data
University of Trento(特伦托大学)
本研究通过在线购物数据分析大语言模型中的性别偏见,发现模型在性别预测中受刻板印象影响,且减少偏见指令只能降低预测确定性,无法消除刻板印象模式。
2025-12-11 cs.AI cs.CL cs.CY
Stereotype Detection in LLMs: A Multiclass, Explainable, and Benchmark-Driven Approach
Holistic AI(霍利斯提克人工智能公司);University College London(伦敦大学学院)
本文针对LLMs中的刻板印象检测问题,构建了包含51,867个实例的多类MGS数据集,训练并评估了多种规模与架构的微调语言模型分类器,同时结合SHAP、LIME等可解释AI工具验证模型模式,并利用最优分类器对主流LLMs文本生成中的刻板印象进行了基准测试。
2024-11-16 cs.AI cs.CL
An Empirical Study of Gendered Stereotypes in Emotional Attributes for Bangla in Multilingual Large Language Models
Bangladesh University of Engineering and Technology (BUET)(孟加拉工程技术大学)
本研究首次针对闭源与开源大语言模型,全面调查孟加拉语语境下的性别情感归因偏见,证实该类偏见存在并揭示其随性别角色选择的变化规律,公开相关资源以支持孟加拉语NLP研究。
2024-07-08 cs.CL
Can Small-Scale Data Poisoning Exacerbate Dialect-Linked Biases in Large Language Models?
Department of Electrical and Computer Engineering, Maroun Semaan Faculty of Engineering and Architecture(电气与计算机工程系,马鲁恩·塞马安工程与建筑学院);American University of Beirut(贝鲁特美国大学)
本研究通过小规模风格条件数据投毒,发现其能加剧大语言模型对方言输入的偏见,尤其是AAVE,并导致越狱行为,凸显了方言感知评估与风格-毒性解耦训练的必要性。
2025-10-09 cs.AI cs.CL cs.LG
DECASTE: Unveiling Caste Stereotypes in Large Language Models through Multi-Dimensional Bias Analysis
IBM Research, San Jose, CA, USA(IBM研究院,美国加利福尼亚州圣何塞);Dartmouth College, Hanover, NH, USA(达特茅斯学院,美国新罕布什尔州汉诺威);IBM Research, Hursley, Winchester, UK(IBM研究院,英国赫里福德郡温切斯特);IBM Thomas J. Watson Research Center, Yorktown Heights, NY, USA(IBM托马斯·J·沃森研究中心,美国纽约州亚当斯);IBM Research, Sao Paulo, Brazil(IBM研究院,巴西圣保罗)
本文提出DECASTE多维度框架,从社会文化、经济、教育和政治四个维度检测大语言模型中针对印度边缘化种姓的隐性与显性偏见,并通过基准测试揭示现有LLMs系统性强化种姓偏见的问题。
2025-06-05 cs.CL cs.CY
Evaluation of Large Language Models: STEM education and Gender Stereotypes
Technical University of Denmark(丹麦技术大学);High5Girls;Danish Data Science Academy(丹麦数据科学学院)
本文采用贴近真实场景的开放式提示与定量分析,在四种语言文化背景下评估ChatGPT面向10至16岁学生的教育建议,发现其STEM职业推荐存在显著性别偏见。
2024-06-14 cs.AI cs.CL
Surfacing Subtle Stereotypes: A Multilingual, Debate-Oriented Evaluation of Modern LLMs
The University of British Columbia(不列颠哥伦比亚大学);University of Waterloo(滑铁卢大学)
本文提出多语言辩论基准测试,揭示生成模型中叙事偏见。通过8400个跨语言辩论提示,评估模型对敏感领域刻板印象的再现,发现所有模型均存在偏见,且低资源语言中偏见更严重。
2026-03-30 cs.CL cs.CY
Divine LLaMAs: Bias, Stereotypes, Stigmatization, and Emotion Representation of Religion in Large Language Models
Bocconi University(博科尼大学);University of Leeds(利兹大学)
本研究通过情感归因探究大语言模型中的宗教表征,发现欧美宗教表征更细致、东方宗教存刻板印象、犹太教与伊斯兰教遭污名化,归因于文化偏见与相关NLP研究匮乏,凸显纠正偏见的紧迫性。
2024-07-09 cs.CL cs.CY
HESEIA: A community-based dataset for evaluating social biases in large language models, co-designed in real school settings in Latin America
First Author Affiliation(第一作者机构);Second Author Affiliation(第二作者机构)
本文提出HESEIA数据集,由拉丁美洲学校师生共同设计,包含46,499个句子,用于评估大型语言模型中的交叉社会偏见,发现其包含更多现有LLM未识别的刻板印象。
2025-05-30 cs.CL cs.CY
Measuring Implicit Bias in Explicitly Unbiased Large Language Models
Princeton University(普林斯顿大学)
本研究提出两种基于提示的偏见测量方法(LLM隐式偏见与LLM决策偏见),揭示8个价值对齐模型在21个刻板印象中的隐式偏见,并证明其能更好预测下游决策行为。
2024-05-23 cs.CL cs.CY
Queer People are People First: Deconstructing Sexual Identity Stereotypes in Large Language Models
Carnegie Mellon University(卡内基梅隆大学)
本文研究了LLMs生成文本中对不同性身份人群的偏见,发现存在对queer people的可测量偏见,并提出一种基于chain-of-thought prompting和SHAP分析的事后方法来提高regard score,以减少LLM输出偏见。
2023-06-30 cs.AI cs.CL
Bias and Volatility: A Statistical Framework for Evaluating Large Language Model's Stereotypes and the Associated Generation Inconsistency
Tsinghua University(清华大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);China University of Petroleum (Beijing)(中国石油大学(北京))
提出偏见-波动性框架(BVF),通过分解偏见风险与波动性风险,量化评估大型语言模型生成中的刻板印象及其不一致性,发现偏见风险主导歧视且RLHF降低偏见但增加波动。
2025-05-26 cs.CL cs.CY
Are Models Biased on Text without Gender-related Language?
University of California Irvine(加州大学欧文分校)
本文提出 UnStereoEval 框架,在无性别相关语言的场景中评估模型性别偏见,发现 28 个模型仅在 9%-41% 的句子中表现公平,表明偏见并非仅源于性别词汇。
2024-05-01 cs.AI cs.CL cs.CV
Detecting Linguistic Indicators for Stereotype Assessment with Large Language Models
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Lamarr Germany(德国拉马尔研究所)
提出基于SCSC框架的语言学指标检测方法,利用大语言模型上下文学习自动评估句子中的刻板印象,并通过评分函数量化其强度,实验验证了模型性能与规模的关系。
2025-02-26 cs.AI cs.CL
Are Stereotypes Leading LLMs' Zero-Shot Stance Detection ?
Laboratoire Hubert Curien, UMR CNRS 5516(Hubert Curien实验室,CNRS UMR 5516);Department of Computer Science, Université de Sherbrooke(计算机科学系,Sherbrooke大学)
本文研究大语言模型在零样本立场检测中的刻板印象偏差,通过标注方言和文本复杂度属性,发现模型存在显著偏见,如将支持大麻与低复杂度、非裔方言与反对特朗普错误关联。
2025-10-23 cs.AI cs.CL
Can we Debias Social Stereotypes in AI-Generated Images? Examining Text-to-Image Outputs and User Perceptions
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Seattle University(西雅图大学)
本研究提出偏见检测规则和SSI指数,审计三个T2I模型,发现初始输出含刻板印象,通过LLM提示优化显著降低偏见,但用户偏好刻板印象图像,需平衡伦理去偏见与上下文相关性。
2025-05-27 cs.AI cs.CL cs.HC
A methodology to characterize bias and harmful stereotypes in natural language processing in Latin America
Universidad Nacional de Córdoba(国立科尔多瓦大学);Fundación Via Libre(自由之路基金会);Consejo Nacional de Investigaciones Científicas y Técnicas(国家科学技术研究委员会)
自动决策系统,特别是那些基于自然语言处理的系统,在我们的生活中无处不在。它们不仅是我们日常使用的互联网搜索引擎的幕后推手,而且还扮演着更重要的角色:选择工作候选人,确定犯罪嫌疑人,诊断自闭症等等。这种自动化系统会产生错误,这在许多方面可能是有害的,无论是因为后果的严重性(如健康问题)还是因为它们影响的人数众多。当一个自动化系统所犯的错误对一个群体的影响大于其他群体时,我们称这个系统为\textit{biased}。大多数现代自然语言技术都是基于使用机器学习从大量文本中获得的工件,即语言模型和词嵌入。由于它们是通过应用子符号机器学习(主要是人工神经网络)创建的,它们是不透明的,实际上无法通过直接检查来解释,因此很难对其进行审计。在本文中,我们提出了一种方法,阐明了社会科学家,领域专家和机器学习专家如何合作探索词嵌入和大语言模型中的偏见和有害的刻板印象。我们的方法基于以下原则:* 关注歧视在词嵌入和语言模型上的语言表现,而不是模型的数学特性 * 减少歧视专家的技术障碍,无论是社会科学家,领域专家或其他 * 除了基于度量的方法外,还通过定性探索过程进行表征 * 将缓解作为培训过程的一部分,而不是事后的想法
2023-03-28 cs.AI cs.CL
Multilingual Text-to-Image Generation Magnifies Gender Stereotypes and Prompt Engineering May Not Help You
TU Darmstadt(图宾根大学);Ontocord(Ontocord公司);Technical University of Munich (TUM)(慕尼黑技术大学);Munich Center for Machine Learning(慕尼黑机器学习中心);CERTAIN(CERTAIN公司);DFKI(德意志联邦防务研究院);Charles University Prague(布拉格查理大学);Centre for Cognitive Science, Darmstadt(达姆施塔特认知科学中心);Munich Data Science Institute(慕尼黑数据科学研究所)
本文提出多语言性别偏见基准MAGBIG,发现多语言文本到图像模型不仅存在显著的性别刻板印象,且不同语言间表现差异显著,而提示工程策略缓解偏见效果有限并损害文本对齐。
2025-06-02 cs.CL cs.CY cs.LG
Investigating Thinking Behaviours of Reasoning-Based Language Models for Social Bias Mitigation
本文研究了基于推理的语言模型在缓解社会偏见中的思维机制,发现两种导致偏见累积的失败模式,并提出轻量级提示方法减少偏见同时保持准确性。
2026-05-12 cs.AI cs.CL
Evaluating Implicit Biases in LLM Reasoning through Logic Grid Puzzles
Rutgers University(罗格斯大学);Johns Hopkins University(约翰霍普金斯大学)
提出PRIME框架,利用逻辑网格谜题系统探测LLM在复杂推理中受社会刻板印象的影响,发现模型在解与刻板印象一致时推理更准确。
2026-07-02 cs.AI cs.CL cs.CY
BiasGym: A Simple and Generalizable Framework for Analyzing and Removing Biases through Injection
University of Copenhagen(哥本哈根大学)
BiasGym通过安全注入和分析偏见,提供了一种简单且通用的方法来减少大语言模型中的偏见和刻板印象。
2026-09-02 cs.AI cs.CL cs.LG
Social Debiasing for Fair Multi-modal LLMs
National University of Singapore(新加坡国立大学);University of Warwick(华威大学);Ant Group(蚂蚁集团);Shandong University(山东大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
针对多模态大语言模型(MLLMs)的社会偏见问题,本文构建含18种平衡社会概念的综合反事实数据集(CMSC),提出结合偏见感知采样与损失重缩放的反刻板印象去偏(CSD)策略,在不降低通用性能的前提下有效减少偏见。
2025-08-20 cs.AI cs.CL