Who Are You Behind the Screen? Implicit MBTI and Gender Detection Using Artificial Intelligence
Sharif University of Technology(谢里夫理工大学)
本文利用 Telegram 对话数据微调 RoBERTa,从语言模式隐式识别 MBTI 与性别,人格分类准确率达 86.16%,性别分类达 74.4%。
2025-03-14 cs.AI cs.CL
Mitigating Gender Bias for Neural Dialogue Generation with Adversarial Learning
Michigan State University(密歇根州立大学);TAL Education Group(好未来教育集团)
对话系统在我们日常生活的各个方面发挥着越来越重要的作用。从最近的研究中可以明显看出,在人类对话数据上训练的对话系统是有偏见的。特别是,它们可以产生反映人们性别偏见的反应。已经为各种NLP任务开发了许多去偏置方法,例如词嵌入。但是,它们并不直接适用于对话系统,因为它们可能会迫使对话模型为不同性别产生类似的响应。这大大降低了生成的响应的多样性,并极大地损害了对话模型的性能。在本文中,我们提出了一个新的对抗性学习框架Debiased-Chat训练对话模型,不受性别偏见,同时保持其性能。在两个真实世界的会话数据集上进行的大量实验表明,我们的框架在保持响应质量的同时显著降低了对话模型中的性别偏见。发布了拟议框架的实施情况。
2020-10-31 cs.AI cs.CL cs.LG
'Since Lawyers are Males..': Examining Implicit Gender Bias in Hindi Language Generation by LLMs
Indraprastha Institute of Information Technology(英德拉普拉斯塔信息技术学院);Graphic Era University(图形时代大学);Jadavpur University(贾达普大学);Cornell Tech(康奈尔理工学院)
本研究探讨了 LLM 在印地语文本生成中的隐性性别偏见,开发了受 WinoBias 启发的印地语数据集测试 GPT-4o 和 Claude-3 sonnet,发现印地语性别偏见高达 87.8%,远超英语的 33.4%,揭示了跨语言偏见差异及应对考量。
2024-09-20 cs.AI cs.CL cs.HC
Bias Mitigation in Audio-Enabled LLMs through Adversarial Training and Distillation Methods
Charles University(查理大学);Faculty of Mathematics and Physics(数学与物理学院);University of Hamburg(汉堡大学)
本研究针对音频赋能大语言模型的性别偏见问题,提出对抗训练与蒸馏方法,在三种模型上实现了满意的性别去学习效果及部分满意的蒸馏效果。
2026-10-16 cs.CL cs.SD
Unsupervised Adversarial Domain Adaptation for Implicit Discourse Relation Classification
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
隐性话语关系比显性话语关系更难分类,也更难诠释。我们解决了缺乏隐式关系训练数据的情况,并从显式关系中利用领域自适应(Ji et al.,2015年)。我们提出了一个无监督的对抗域自适应网络,配备了重建组件。我们的系统优于以前的作品和其他对抗基准的无监督领域自适应。此外,我们扩展我们的系统,以利用标记的数据,如果有的话。
2020-04-15 cs.CL
Transcending the "Male Code": Implicit Masculine Biases in NLP Contexts
Tokyo Institute of Technology(东京工业大学);University of Waterloo(滑铁卢大学);The University of Tokyo(东京大学)
本文考察两个NLP数据集,揭示性别化语言中普遍存在且随语境变化的隐性男性偏见,并发布AVA词典以刻画虚拟助手语言中的性别化模糊关联。
2023-04-22 cs.CL cs.CY cs.HC
MoRoVoc: A Large Dataset for Geographical Variation Identification of the Spoken Romanian Language
National University of Science and Technology POLITEHNICA Bucharest(波兰亚技术大学布加勒斯特分校);Paris 1 Panthéon-Sorbonne University(巴黎第一大学);University of Bucharest(布加勒斯特大学)
本文构建了罗马尼亚口语地理变异识别的大型数据集MoRoVoc,提出多目标对抗训练框架并通过元学习动态调整对抗系数,提升了相关任务的识别准确率。
2025-09-20 cs.CL
Gender Biases Unexpectedly Fluctuate in the Pre-training Stage of Masked Language Models
University of Chicago(芝加哥大学)
掩蔽的语言模型在预训练期间会出现性别偏见。这种偏差通常归因于某种模型架构及其预训练语料库,并隐含假设预训练过程中的其他变化,例如随机种子或停止点的选择,对测量的偏差没有影响。然而,我们发现,严重的波动存在于个别模板的基本水平,使假设无效。与人类如何获得偏见的直觉相反,这些波动与预测代词的确定性或预训练语料库中的专业频率无关。我们发布我们的代码和数据,以利于未来的研究。
2022-11-26 cs.CL
Theories of "Gender" in NLP Bias Research
Umeå University(于默奥大学);Uppsala University(乌普萨拉大学)
人们对自然语言处理(NLP)技术包含和延续社会偏见的担忧日益增加,导致了一个丰富且快速增长的研究领域。性别偏见是正在分析的中心偏见之一,但迄今为止,还没有全面分析“性别”在该领域的理论化。我们调查了近200篇关于NLP中性别偏见的文章,以发现该领域如何明确地(例如通过术语的定义)和隐含地(例如通过性别如何在实践中运作)将性别概念化。为了更好地了解新兴的思想轨迹,我们将这些文章按时间分为两个部分。我们发现,大多数的文章并没有使他们的性别理论明确,即使他们明确定义了“偏见”。几乎没有人使用交叉或包含非二元性别的性别模型;许多人将性别特征,社会性别和语言性别混为一谈,无视跨性别,非二元和双性人的存在和经验。在承认性别是一个复杂现实的声明中,这两个时间段之间的声明有所增加,但是,很少有文章能够将这种承认付诸实践。除了分析这些发现,我们提供了具体的建议,以促进跨学科的工作,并纳入性别研究的理论和方法。我们希望这将在NLP中产生更具包容性的性别偏见研究。
2022-05-05 cs.CL
Gender Disambiguation in Machine Translation: Diagnostic Evaluation in Decoder-Only Architectures
Research Center for Cognitive Science and Artificial Intelligence(认知科学与人工智能研究中心);Tilburg School of Humanities and Digital Sciences(蒂尔堡人文与数字科学学院);Tilburg University(蒂尔堡大学)
本文针对机器翻译中性别偏见问题,提出新的评估框架,揭示解码器-only模型在性别特定指标上的表现及后训练对偏见的缓解作用。
2026-03-18 cs.CL
MABR: Multilayer Adversarial Bias Removal Without Prior Bias Knowledge
Western University(西安大略大学)
针对偏见缓解依赖偏见类型与人口统计标签的问题,本文提出MABR多层对抗训练框架,利用无任务标签的辅助模型在主模型多层特征图中识别偏见,并在情感与职业分类任务上取得优于需人口统计信息方法的去偏效果。
2025-05-10 cs.CL
Evaluating Bias in LLMs for Job-Resume Matching: Gender, Race, and Education
Megagon Labs(美嘉岗实验室)
本研究评估大语言模型在职位-简历匹配中的公平性,发现近期模型虽减少性别和种族偏见,但教育背景的隐性偏见仍显著,需持续评估和开发缓解策略。
2025-03-24 cs.CL
Alignment Reduces Expressed but Not Encoded Gender Bias: A Unified Framework and Study
Sorbonne Université, CNRS, LIP6(索邦大学、国家科学研究中心、LIP6实验室);AXA(安盛);Polish Academy of Science, IBS PAN(波兰科学院、IBS PAN)
本文提出统一框架分析LLM中的内在和外在性别偏见,发现对齐减少表达偏见但内部表示仍存在关联,且在对抗性提示下可被激活。
2026-09-11 cs.CL
Gender Bias and Universal Substitution Adversarial Attacks on Grammatical Error Correction Systems for Automated Assessment
University of Cambridge(剑桥大学)
语法错误纠正(GEC)系统执行序列到序列任务,其中包含语法错误的输入词序列由GEC系统纠正这些错误,以输出语法正确的词序列。随着深度学习方法的出现,自动化GEC系统变得越来越流行。例如,GEC系统通常用于英语学习者的语音翻译,作为评估和反馈的一种形式-这些功能强大的GEC系统可以用于自动测量候选人流利程度的一个方面。从候选人的输入句子(或文章)到GEC系统的语法校正的输出句子的\textit{edits}的计数指示候选人的语言能力,其中较少的编辑表明更好的流利性。因此,编辑的计数可以被视为\textit{fluency score},其中零表示完美的流畅性。然而,尽管基于深度学习的GEC系统非常强大和准确,但它们容易受到对抗攻击的影响:对手可以在系统的输入处引入小的特定变化,从而在输出处引起大的不期望的变化。当考虑将GEC系统应用于自动语言评估时,对手的目的可能是通过对语法不正确的输入句子进行小的更改来欺骗,从而隐藏GEC系统的错误,这样就不会发现编辑,并且候选人被不公正地授予完美的流利度分数。这项工作研究了一个简单的通用替代对抗攻击,非英语母语的人可以实际上采用欺骗GEC系统用于评估。
2022-08-19 cs.CL cs.CY cs.LG
ImplicitBBQ: Benchmarking Implicit Bias in Large Language Models through Characteristic Based Cues
International Institute of Information Technology, Hyderabad(国际信息技术学院海得拉巴);Indian Institute of Technology, Kharagpur(印度理工学院克勒格布尔分校)
本文提出ImplicitBBQ基准测试,通过基于特征的提示评估大语言模型中的隐性偏见,发现隐性偏见在模糊情境中比显性偏见高六倍,现有方法难以有效缓解。
2026-11-10 cs.AI cs.CL
ToxiGen: A Large-Scale Machine-Generated Dataset for Adversarial and Implicit Hate Speech Detection
Massachusetts Institute of Technology(麻省理工学院);University of Washington(华盛顿大学);Microsoft Research(微软研究院);Allen Institute for AI(艾伦人工智能研究所);Carnegie Mellon University(卡内基梅隆大学);Microsoft(微软)
有毒语言检测系统通常会错误地将包含少数群体的文本标记为有毒,因为这些群体通常是在线仇恨的目标。这种对虚假相关性的过度依赖也导致系统难以检测隐含的有毒语言。为了帮助缓解这些问题,我们创建了ToxiGen,这是一个新的大规模机器生成的数据集,包含关于13个少数群体的274k有毒和良性声明。我们开发了一个基于演示的提示框架和一个对抗性的分类器在循环解码方法,用一个大规模的预训练语言模型生成微妙的有毒和良性的文本。以这种方式控制机器生成允许ToxiGen以更大的规模覆盖隐含的有毒文本,并且比以前的人类书面文本资源覆盖更多的人口统计群体。我们对ToxiGen的一个具有挑战性的子集进行了人类评估,发现注释者很难区分机器生成的文本和人类书写的语言。我们还发现,94.5%的有毒示例被人类注释者标记为仇恨言论。使用三个公开的数据集,我们表明,对我们的数据进行微调的毒性分类器大大提高了其对人类书面数据的性能。我们还证明了ToxiGen可用于对抗机器产生的毒性,因为微调在我们的评估子集上显着改进了分类器。我们的代码和数据可以在https://github.com/microsoft/ToxiGen上找到。
2022-07-14 cs.CL
Who Gets the Mic? Investigating Gender Bias in the Speaker Assignment of a Speech-LLM
Department of Linguistics(语言学系);Department of Speech, Music, and Hearing(语音、音乐与听觉系)
本研究通过分析语音大语言模型Bark的说话人分配来探究性别偏见,构建职业和性别色彩词语两个数据集,发现Bark虽无系统性偏见但具有性别意识和一定倾向。
2025-08-19 cs.AI cs.CL
The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models
FAIR, Meta(FAIR与Meta);Meta United States(Meta美国分公司);Meta France(Meta法国分公司);Gen AI, Meta(Meta生成式人工智能部门);UCLA United States(加州大学洛杉矶分校)
本文研究对齐是否延续基础模型的性别多元偏见,评估16个DPO阶段模型,发现SFT会放大污名化和不肯定性别语言,并提出隐式奖励偏见测量框架。
2025-05-12 cs.CL
Towards Implicit Bias Detection and Mitigation in Multi-Agent LLM Interactions
University of Michigan(密歇根大学)
该研究针对多智能体大语言模型交互中的隐性性别偏见,构建场景数据集和评估指标,并提出基于上下文示例的自我反思与监督微调两种缓解策略,实验证明二者结合效果最佳。
2024-10-03 cs.CL cs.CY
Adversarial Connective-exploiting Networks for Implicit Discourse Relation Classification
Shanghai Jiao Tong University(上海交通大学);Carnegie Mellon University(卡内基梅隆大学)
隐性话语关系分类由于缺乏强有力的语言线索--连接词而面临巨大挑战,这促使人们使用带注释的隐性连接词来提高识别率。我们提出了一个特征模仿框架,在该框架中,隐式关系网络被驱动从另一个具有连接词的神经网络学习,从而鼓励提取类似的显著特征以进行准确的分类。我们开发了一个对抗性模型,通过隐式网络和竞争对手的特征网络之间的竞争来实现自适应模仿方案。我们的方法有效地将连接词的可辨别性转移到隐式特征上,并在PDTB基准测试中达到了最先进的性能。
2017-04-01 cs.AI cs.CL cs.LG
Argument Quality Annotation and Gender Bias Detection in Financial Communication through Large Language Models
First Author Affiliation(第一作者机构);Second Author Affiliation(第二作者机构)
本文探讨了GPT-4o、Llama 3.1和Gemma 2在金融交流中标注论点质量的能力,评估了其标注一致性并引入对抗性攻击检测性别偏见,发现LLM标注一致性高于人类但存在偏见,为未来更可靠的标注方法提供了建议。
2025-07-22 cs.CL
Measuring Gender Bias in Word Embeddings of Gendered Languages Requires Disentangling Grammatical Gender Signals
George Washington University(乔治华盛顿大学);University of Washington(华盛顿大学)
当衡量一种语言的词嵌入所捕获的语义性别信息时,语言的语法性别是否会产生干扰?一些在性别语言嵌入中的异常性别偏见测量表明了这种可能性。我们证明,词嵌入学习语法性别的语言,这可能会扭曲社会性别偏见的测量名词和它的语法性别之间的关联。因此,词嵌入后处理方法被引入到量化,解开,和评估语法性别信号。该评估是在印欧语系的日耳曼语、罗曼语和斯拉夫语分支的五种性别语言上进行的。我们的方法降低了语法性别信号的强度,这是衡量的效果大小(科恩的d),由一个显着的平均值d = 1.3为法语,德语和意大利语,和d = 0.56为波兰语和西班牙语。一旦语法性别被解开,超过90%的10,000无生命名词和他们的语法性别之间的关联减弱,跨语言的偏见结果从词嵌入协会测试(WEAT)变得更加符合国家级的内隐偏见测量。结果进一步表明,从词嵌入中解开语法性别信号可能会导致语义机器学习任务的改进。
2022-06-03 cs.AI cs.CL cs.CY
A General Framework for Implicit and Explicit Debiasing of Distributional Word Vector Spaces
University of Mannheim(曼海姆大学);University of Cambridge(剑桥大学)
最近的研究表明,分布词向量编码了许多人类偏见,最明显的是性别和种族偏见,因此提出了减弱这种偏见的模型。然而,现有的模型和研究(1)在规定不足和相互不同的偏倚定义上操作,(2)针对特定偏倚(例如,性别偏见)和(3)的评价不一致和不严格。在这项工作中,我们介绍了一个通用的框架去偏置词嵌入。我们通过辨别两种类型的偏见规范:明确的和隐含的偏见的定义操作。然后,我们提出了三个去偏置模型,操作显式或隐式偏置规范,可以组成更强大的去偏置。最后,我们设计了一个成熟的评估框架,在其中我们耦合现有的偏见指标与新提出的。三种嵌入方法的实验结果表明,所提出的去偏置模型是鲁棒的和广泛适用的:它们通常完全消除隐式和显式的偏见,而不会降低任何输入分布空间中编码的语义信息。此外,我们成功地转移去偏置模型,通过跨语言的嵌入空间,并删除或减弱偏见的语言,缺乏现成的偏见规范的分布词向量空间。
2020-01-03 cs.AI cs.CL
Word Embeddings via Causal Inference: Gender Bias Reducing and Semantic Information Preserving
University of Alberta(阿尔伯塔大学);University of Essex(埃塞克斯大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
随着自然语言处理(NLP)在日常生活中的广泛应用,NLP模型中继承的社会偏见变得更加严重和成问题。先前的研究表明,在人类生成的语料库上训练的词嵌入具有强烈的性别偏见,可以在下游任务中产生歧视性结果。以前的去偏见方法主要集中在对偏见进行建模,只隐含地考虑语义信息,而完全忽视了偏见和语义成分之间复杂的潜在因果结构。为了解决这些问题,我们提出了一种新的方法,利用因果推理框架,以有效地消除性别偏见。所提出的方法使我们能够构建和分析复杂的因果机制,促进性别信息流,同时保留词嵌入内的甲骨文语义信息。我们的综合实验表明,该方法在性别去偏见任务中取得了最先进的结果。此外,我们的方法在单词相似性评估和各种外部下游NLP任务中具有更好的性能。
2021-12-09 cs.CL cs.CY
MORPHOGEN: A Multilingual Benchmark for Evaluating Gender-Aware Morphological Generation
SBILab, Indraprastha Institute of Information Technology Delhi(SBILab,印度理工学院信息技术研究所德里)
MORPHOGEN通过构建三门语法有性语言的合成数据集,评估15种多语言大模型在性别意识形态生成任务中的表现,揭示当前模型在处理形态性别时的不足。
2026-04-20 cs.AI cs.CL cs.LG
White-Box Attacks on Hate-speech BERT Classifiers in German with Explicit and Implicit Character Level Defense
在这项工作中,我们评估了在德国仇恨语音数据集上训练的BERT模型的对抗鲁棒性。我们还补充了我们的评估与两个新的白盒字符和单词级攻击,从而有助于攻击的范围。此外,我们还进行了两个新的字符级防御策略的比较,并评估其鲁棒性与彼此。
2022-02-14 cs.CL
Measuring Implicit Bias in Explicitly Unbiased Large Language Models
Princeton University(普林斯顿大学)
本研究提出两种基于提示的偏见测量方法(LLM隐式偏见与LLM决策偏见),揭示8个价值对齐模型在21个刻板印象中的隐式偏见,并证明其能更好预测下游决策行为。
2024-05-23 cs.CL cs.CY
Benchmarking Educational LLMs with Analytics: A Case Study on Gender Bias in Feedback
University College London, UCL Knowledge Lab(伦敦大学学院,UCL知识实验室);Carnegie Mellon University(卡内基梅隆大学)
本文通过600篇真实学生作文,利用嵌入式基准框架检测LLM在形成性反馈中的偏见,发现隐性性别提示比显性提示更易引发语义偏移,揭示了LLM在反馈中持续存在的性别偏见。
2026-04-01 cs.AI cs.CL cs.CY
Don't Judge Me by My Face : An Indirect Adversarial Approach to Remove Sensitive Information From Multimodal Neural Representation in Asynchronous Job Video Interviews
EASYRECRUE;LIMSI-LISN;CNRS(法国国家科学研究中心);Paris-Sud University(巴黎南大学);Paris-Saclay University(巴黎萨克雷大学);Télécom-Paris(巴黎电信学院);IP-Paris(巴黎理工学院)
用于自动分析求职面试视频的机器学习的SE最近引起了越来越多的兴趣。尽管关于候选人的性别或种族等敏感信息的输出公平,但目前的方法很少提供无偏见决策的证据,或者没有使用敏感信息。最近,对抗方法已被证明可以有效地从神经网络的潜在表示中去除敏感信息。然而,这些方法依赖于使用明确标记的受保护变量(例如性别),在某些国家(例如法国)的招募背景下无法收集这些变量。在这篇文章中,我们提出了一种新的对抗性方法,从神经网络的潜在表示中删除敏感信息,而不需要收集任何敏感变量。只使用几帧面试,我们训练我们的模型,使其无法在模型的内层中找到与工作面试相关的候选人的面孔。这反过来又允许我们从这些层中删除相关的私人信息。将我们的方法与带有性别和种族注释的公共数据集上的标准基线进行比较,我们表明它有效地从主网络中删除了敏感信息。此外,据我们所知,这是对抗技术在视频面试中获得多模态公平表示的第一次应用。总之,我们的贡献旨在提高即将推出的自动系统处理求职面试视频的公平性,以实现就业选择的平等。
2021-10-18 cs.CL cs.CV cs.HC
Decoding Biases: Automated Methods and LLM Judges for Gender Bias Detection in Language Models
Intel Labs(英特尔实验室);National Taiwan University(国立台湾大学)
针对LLM性别偏见评估缺乏标准且依赖人工的问题,本文训练模型自动生成对抗性提示以诱发偏见回复,并提出基于LLM的评估指标,验证LLM-as-a-Judge与人类判断一致。
2024-08-07 cs.AI cs.CL
Investigating Gender Bias in LLM-Generated Stories via Psychological Stereotypes
Johannes Kepler University (JKU)(约翰内斯·开普勒大学);Linz Institute of Technology (LIT)(林茨技术研究所);University of Innsbruck(因斯布鲁克大学)
本研究通过心理刻板印象在叙事生成中探究大语言模型的性别偏见,提出StereoBias-Stories数据集,发现属性条件化可缓解偏见,组合属性加剧或缓解偏见,且模型偏见与心理真实情况一致。
2025-08-05 cs.AI cs.CL
Evaluating Gender Bias in Large Language Models via Chain-of-Thought Prompting
MBZUAI(穆罕默德·本·扎耶德人工智能大学);Tokyo Institute of Technology(东京工业大学);University of Liverpool(利物浦大学);Amazon(亚马逊)
本研究针对不可扩展任务中CoT提示对大语言模型性别偏见的影响展开探究,构建了兼具算术与符号推理特征的词汇计数基准,发现CoT提示可减轻大语言模型的无意识社会偏见,促进公平预测。
2024-01-28 cs.CL
Exploring the Linear Subspace Hypothesis in Gender Bias Mitigation
University of Cambridge(剑桥大学);ETH Zürich(苏黎世联邦理工学院)
本文推广Bolukbasi等人(2016)的线性性别偏见缓解方法至核化非线性版本,并实证验证了偏见子空间确为线性,支持原假设。
2024-05-22 cs.CL cs.CY cs.LG
Evaluating Gender Bias in Hindi-English Machine Translation
Manipal Institute of Technology(马尼帕尔理工学院);MAHE(马尼帕尔高等教育学院)
随着语言模型在现实世界中的部署越来越多,解决其输出的公平性问题至关重要。这些语言模型的词嵌入表示通常隐含地绘制不需要的关联,从而在模型内形成社会偏见。像印地语这样的性别语言的性质给量化和减轻偏见带来了另一个问题,因为句子中的单词形式会根据主语的性别发生变化。此外,在印度语的测量和去偏置系统领域也做了一些工作。在我们的工作中,我们试图评估和量化的印地语-英语机器翻译系统中的性别偏见。我们实现了一个修改后的版本,现有的TGBI指标的基础上,印地语的语法考虑。我们还比较和对比了预训练嵌入的多个指标和通过我们的机器翻译模型学习的多个指标的偏差测量。
2021-06-16 cs.AI cs.CL cs.CY
Quantifying Gender Biases Towards Politicians on Reddit
University of Copenhagen(哥本哈根大学)
本研究通过分析Reddit上千万条政治讨论评论,评估了5种性别偏见,发现公众对女性政治家虽有同等兴趣,但表达方式不如对男性专业尊重,且在极右翼社区中差异最显著。
2025-08-12 cs.CL cs.CY
Mining Implicit Entity Preference from User-Item Interaction Data for Knowledge Graph Completion via Adversarial Learning
Renmin University of China(中国人民大学);Peking University(北京大学)
知识图谱补全(KGC)任务旨在自动推断知识图谱(KG)中缺失的事实信息。在本文中,我们采取了一个新的视角,旨在利用丰富的用户-项目交互数据(简称用户交互数据),以改善KGC任务。我们的工作的灵感来自观察,许多KG实体对应于应用系统中的在线项目。然而,这两种数据源有很大的不同的内在特性,它很可能会伤害原来的性能,使用简单的融合策略。为了应对这一挑战,我们提出了一种新的对抗性学习方法,利用用户交互数据进行KGC任务。我们的生成器是从用户交互数据隔离,并用于提高性能的测试。该算法将用户交互数据中学习到的有用信息作为输入,逐步增强评估能力,以识别生成器生成的虚假样本。为了发现用户隐含的实体偏好,设计了一种基于图神经网络的协同学习算法,并与学习算法进行联合优化。这种方法有效地缓解了KGC任务的数据异构性和语义复杂性问题。在三个真实世界数据集上的大量实验证明了我们的方法在KGC任务上的有效性。
2020-04-26 cs.AI cs.CL
Men Are Elected, Women Are Married: Events Gender Bias on Wikipedia
University of Southern California(南加利福尼亚大学);Information Sciences Institute, University of Southern California(南加利福尼亚大学信息科学研究所);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
人类活动可以被视为一系列事件,这对理解社会至关重要。不同人口群体的不成比例的事件分布可以表现和放大社会陈规定型观念,并可能危及某些群体成员追求某些目标的能力。在本文中,我们提出了第一个以事件为中心的研究性别偏见的维基百科语料库。为了便于研究,我们策划了一个职业和个人生活描述的语料库,其中包含来自10,412位名人的7,854个片段。然后,我们用最先进的事件检测模型检测事件,使用策略生成的模板校准结果,并提取与性别有不对称关联的事件。我们的研究发现,维基百科的页面往往会将个人生活事件与女性的专业事件相结合,而不是男性,这需要维基百科社区的意识,以正式制定指导方针,并训练编辑注意贡献者所携带的隐性偏见。我们的工作也奠定了基础,为未来的工作量化和发现事件的偏见在语料库的水平。
2021-06-03 cs.AI cs.CL cs.CY
Implicit Strategic Optimization: Rethinking Long-Horizon Decision-Making in Adversarial Poker Environments
Gradient
本文提出隐式策略优化(ISO)框架,通过预测战略环境和结合战略奖励模型与乐观学习规则,提升对抗性扑克环境中的长 horizon 决策性能。
2026-02-08 cs.AI cs.CL cs.LG
Cross-Lingual Probing and Community-Grounded Analysis of Gender Bias in Low-Resource Bengali
Department of Computer Science(计算机科学系);AIUB, Dhaka, Bangladesh;Department of Information Technology(信息科技系);Wilmington University, Delaware, USA;WUST, Virginia, USA;Faculty of Information Science(信息科学系);Technology Multimedia University, Melaka, Malaysia(技术多媒体大学, Melaka, Malaysia);Centre for Intelligent Cloud Computing(智能云计算中心)
本研究通过跨语言探测和社区导向分析,揭示了孟加拉语中性别偏见的特征,强调需本地化方法和社区参与以减少偏见。
2026-01-25 cs.AI cs.CL
On Adversarial Robustness of Language Models in Transfer Learning
Taras Shevchenko National University of Kyiv(基辅塔拉斯·谢甫琴科国立大学);Eindhoven University of Technology(埃因霍温理工大学)
本文通过多数据集、多架构实验考察 LLM 迁移学习中的对抗鲁棒性,发现迁移提升标准性能却可能增加攻击脆弱性,而较大模型通常更具韧性。
2025-06-07 cs.AI cs.CL cs.CR
Do Bias Benchmarks Generalise? Evidence from Voice-based Evaluation of Gender Bias in SpeechLLMs
Department of Speech, Music and Hearing(语音、音乐与听觉系)
本文通过微调SpeechLLMs测试MCQA偏见基准的推广能力,发现其在不同任务间的泛化效果有限,并提出新的评估方法。
2026-02-01 cs.AI cs.CL cs.SD