Attention at SemEval-2023 Task 10: Explainable Detection of Online Sexism (EDOS)
IIIT Hyderabad（海得拉巴国际信息技术研究所）
本文通过微调基于transformer的架构解决在线性别歧视检测的分类问题，结合多transformer组合、领域自适应预训练和联合学习等方法，在SemEval-2023任务10的三个子任务上取得显著成果。
2023-04-10 cs.CL
Tell Me What You Know About Sexism: Expert-LLM Interaction Strategies and Co-Created Definitions for Zero-Shot Sexism Detection
First Author Affiliation（第一作者机构）；Second Author Affiliation（第二作者机构）
本研究通过四组件流水线探索性别歧视专家与LLM的协作，发现共创定义能提升零样本性别歧视检测性能，即使对LLM不熟悉的专家也能受益。
2025-04-21 cs.CL cs.CY
Explaining Matters: Leveraging Definitions and Semantic Expansion for Sexism Detection
Department of Computer Science, University of Warwick（沃里克大学计算机科学系）；School of Computing, University of Leeds（利兹大学计算机学院）
本文针对在线性别歧视检测中的数据稀疏和类别不平衡问题，提出基于定义的数据增强和上下文语义扩展两种提示增强方法，并结合多模型集成策略，在 EDOS 数据集上取得最优性能。
2025-06-06 cs.CL
Dataset Creation and Baseline Models for Sexism Detection in Hausa
Federal University Dutse（达图塞联邦大学）；Imperial College London（伦敦帝国学院）；University of Huddersfield（赫德舍菲尔德大学）
本研究通过社区参与和数据增强构建了首个豪萨语性别歧视检测数据集，并使用传统机器学习、多语言预训练模型及少样本学习建立基线，揭示了跨文化语境下检测性别歧视的挑战与误报问题。
2025-10-30 cs.AI cs.CL
Counterfactually Augmented Data and Unintended Bias: The Case of Sexism and Hate Speech Detection
GESIS – Leibniz Institute for the Social Sciences（GESIS—莱布尼茨社会科学研究所）；RWTH Aachen University（亚琛工业大学）；University of Copenhagen（哥本哈根大学）
反事实增强数据（CAD）旨在提高域外泛化能力，这是模型鲁棒性的一个指标。这种改进被认为是促进了结构的核心特征，而不是碰巧与之相关的虚假工件。然而，过度依赖核心特征可能会导致意外的模型偏差。特别是，结构驱动的CAD -核心特征的扰动-可能会导致模型忽略使用核心特征的上下文。在这里，我们在具有挑战性的数据上测试性别歧视和仇恨言论检测模型：身份和性别术语的非仇恨和非性别歧视使用。在这些困难的情况下，在CAD上训练的模型，特别是构造驱动的CAD，比在原始的未扰动数据上训练的模型显示出更高的误报率。使用一组不同的CAD --结构驱动的和结构不可知的--减少了这种意外的偏差。
2022-05-09 cs.CL
An Adaptive Supervised Contrastive Learning Framework for Implicit Sexism Detection in Digital Social Networks
提出ASCEND框架，利用阈值对比学习与多特征融合，在EXIST2021和MLSC数据集上显著提升隐性性别歧视检测性能。
2025-07-03 cs.CL
SemEval-2023 Task 10: Explainable Detection of Online Sexism
Rewire；University of Oxford（牛津大学）；Queen Mary University of London（伦敦玛丽女王大学）
针对在线性别歧视检测缺乏可解释性的问题，本文提出SemEval任务10，构建了性别歧视内容分层分类体系、含2万条细粒度标签的数据集及基线模型，并分析参与者方法、结果与错误。
2023-05-08 cs.CL cs.CY
Mario at EXIST 2025: A Simple Gateway to Effective Multilingual Sexism Detection
University of Technology Sydney（悉尼技术大学）；RMIT University（皇家墨尔本理工大学）
本文提出基于Llama 3.1 8B的分层LoRA与条件适配器路由方法，应用于EXIST 2025多语言性别歧视检测，仅用1.67%参数即实现跨语言迁移提升并大幅降低训练与存储成本。
2025-07-15 cs.CL
Multi-label Categorization of Accounts of Sexism using a Neural Framework
IIIT-Hyderabad（海得拉巴国际信息技术学院）；Adobe Research（奥多比研究院）
性别歧视是一种不公正现象，使妇女和女孩遭受巨大痛苦，其表现形式既明显又微妙。随着网络上关于性别歧视经历的文件越来越多，对性别歧视叙述的自动分类有可能帮助社会科学家和决策者更好地研究和打击性别歧视。现有的性别歧视分类工作不同于性别歧视检测，在性别歧视的类别和/或它们是否可以共存方面存在一定的局限性。据我们所知，这是第一个对任何类型的性别歧视进行多标签分类的工作，我们为性别歧视分类贡献了最大的数据集。我们为这种多标签分类开发了一种神经解决方案，该解决方案可以使用涉及循环组件和可选卷积组件的灵活分层架构，将使用BERT等模型获得的句子表示与分布式和语言学词嵌入相结合。此外，我们利用性别歧视的未标记的帐户注入特定领域的元素到我们的框架。最好的方法优于几种深度学习以及传统的机器学习基线。
2019-11-18 cs.CL
AdamR at SemEval-2023 Task 10: Solving the Class Imbalance Problem in Sexism Detection with Ensemble Learning
TU Munich（慕尼黑工业大学）
针对在线性别歧视检测中的类别不平衡问题，本文提出使用数据增强、损失修改及Transformer集成方法，在SemEval-2023任务10的三个子任务中均取得前40%的成绩。
2023-05-15 cs.AI cs.CL
SexWEs: Domain-Aware Word Embeddings via Cross-lingual Semantic Specialisation for Chinese Sexism Detection in Social Media
Queen Mary University of London（伦敦玛丽女王大学）
针对中文性别歧视检测数据稀缺问题，提出跨语言领域感知语义特化框架，利用英语语义资源改造中文预训练词向量以注入领域知识，生成的SexWEs在内外评估中均显著提升性能。
2023-03-30 cs.CL cs.SI
Demographic Biases and Gaps in the Perception of Sexism in Large Language Models
Computer Science Department, Mathematics Research Center (CIMAT)（计算机科学系，数学研究中心（CIMAT））
针对LLMs在性别歧视检测中的人口统计偏见问题，本研究利用EXIST 2024数据集评估不同LLMs的检测能力，分析人口统计特征影响，发现其无法复制群体感知多样性，强调需开发兼顾观点多样性的校准模型。
2025-08-25 cs.CL
Sexism detection: The first corpus in Algerian dialect with a code-switching in Arabic/ French and English
Aston University（阿斯顿大学）；Folding Space（Folding Space公司）；University of Wolverhampton（伍尔弗汉普顿大学）
在本文中，仇恨言论检测对妇女在阿拉伯社区的社交媒体（如Youtube）的方法。在文献中，类似的作品已经为其他语言，如英语。然而，据我们所知，用阿拉伯文进行的工作不多。使用三种不同的注释器开发了一个新的仇恨言论语料库（阿拉伯语fr en）。对于语料验证，使用了三种不同的机器学习算法，包括深度卷积神经网络（CNN）、长短期记忆（LSTM）网络和双向LSTM（Bi-LSTM）网络。仿真结果表明，CNN模型的最佳性能，与LSTM和Bi-LSTM相比，对于不平衡语料库，其F1得分高达86\%。
2021-04-03 cs.CL
"Call me sexist, but...": Revisiting Sexism Detection Using Psychological Scales and Adversarial Samples
GESIS（GESIS莱布尼茨社会科学研究所）
研究集中在有效检测在线性别歧视的自动化方法上。虽然公开的性别歧视似乎很容易发现，但其微妙的形式和多种表现却不是。在本文中，我们概述了不同层面的性别歧视接地他们在其实施的心理量表。从这些量表中，我们得出了一个社交媒体中性别歧视的密码本，我们用它来注释现有的和新的数据集，暴露出它们在性别歧视结构的广度和有效性方面的局限性。接下来，我们利用带注释的数据集生成对抗性示例，并测试性别歧视检测方法的可靠性。结果表明，目前的机器学习模型只关注一组非常狭窄的性别歧视语言标记，并且不能很好地推广到域外的例子。然而，在训练时包括不同的数据和对抗性的示例，会导致模型更好地泛化，并且对数据汇集的工件更鲁棒。通过提供一个基于规模的码本和关于最先进的缺点的见解，我们希望有助于更好和更广泛的性别歧视检测模型的发展，包括对理论驱动的数据汇集方法的反思。
2021-06-02 cs.CL cs.CY cs.SI
Beyond Binary Classification: Detecting Fine-Grained Sexism in Social Media Videos
CLiC – Language and Computing Center, University of Barcelona（巴塞罗那大学语言与计算中心）；Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系）
本文提出FineMuSe数据集和层级分类法，评估LLM在细粒度性别歧视检测中的表现，发现多模态LLM在识别细微性别歧视方面表现优异，但在捕捉视觉线索中的多重歧视类型时存在困难。
2026-02-17 cs.AI cs.CL
Reliability-Aware Sexism Detection: Combining DPO with Annotator Agreement and Token-Level Confidence Scoring
Utrecht University（乌得勒支大学）；Wageningen University & Research（瓦赫宁根大学及研究中心）
该研究针对在线性别歧视检测的主观性问题，提出RA-DPO方法，结合标注者一致性等信号，在EXIST 2023数据集上验证其可降低训练成本并提升推理准确率。
2026-08-14 cs.CL
MuSeD: A Multimodal Spanish Dataset for Sexism Detection in Social Media Videos
University of Barcelona, CLiC-Language and Computing Center（巴塞罗那大学，CLiC语言与计算中心）；University of Copenhagen, Department of Computer Science（哥本哈根大学，计算机科学系）
本文提出多模态西班牙语数据集MuSeD（约11小时TikTok和BitChute视频）及标注框架，用于检测视频中的性别歧视，并评估多种大语言模型，发现视觉信息对识别性别歧视至关重要，但模型在隐性性别歧视上表现较差。
2025-08-21 cs.AI cs.CL
Automatic Sexism Detection with Multilingual Transformer Models
Austrian Institute of Technology GmbH（奥地利技术研究所股份公司）；St. Pölten University of Applied Sciences（圣珀尔滕应用科技大学）
在过去的几年里，性别歧视已经成为社交网络上日益严重的问题。IberLEF 2021上的第一个关于社交网络中的性别歧视识别（EXIST）的共享任务是自然语言处理（NLP）领域的国际竞赛，旨在通过应用机器学习方法自动识别社交媒体内容中的性别歧视。因此，性别歧视检测被公式化为粗（二元）分类问题和细粒度分类任务，该细粒度分类任务区分多种类型的性别歧视内容（例如，支配、刻板印象和客观化）。本文介绍了AIT_FHSTP团队在EXIST 2021基准测试中对这两项任务的贡献。为了解决这些问题，我们应用了两种多语言的Transformer模型，一种基于多语言的BERT，另一种基于XLM-R。我们的方法使用两种不同的策略来适应Transformers的检测性别歧视的内容：第一，无监督的预训练与额外的数据和第二，监督微调与额外的和增强的数据。对于这两项任务，我们的最佳模型是XLM-R，对EXIST数据和其他数据集进行无监督预训练，并对提供的数据集进行微调。二元分类（任务1）的最佳运行达到了0.7752的宏观F1分数，在基准测试中排名第5;对于多类分类（任务2），我们的最佳提交分数排名第6，宏观F1分数为0.5589。
2022-02-08 cs.AI cs.CL
HausaNLP at SemEval-2023 Task 10: Transfer Learning, Synthetic Data and Side-Information for Multi-Level Sexism Classification
Universiti Teknologi PETRONAS（马来西亚石油科技大学）；Bayero University, Kano（卡诺贝罗大学）；Ahmad Bello University, Zaria（扎里亚艾哈迈德·贝洛大学）；Kaduna State University（卡杜纳州立大学）；HausaNLP（豪萨语自然语言处理研究组）
本研究参与SemEval-2023任务10的在线性别歧视检测，通过迁移XLM-T与HateBERT模型、结合合成分类与中间类信息优化多层次分类，在任务A中获0.82的F1值，排名第49，性能接近最优系统。
2023-04-28 cs.CL
Stanford MLab at SemEval-2023 Task 10: Exploring GloVe- and Transformer-Based Methods for the Explainable Detection of Online Sexism
Stanford University（斯坦福大学）
本研究探索了多种模型（包括GloVe、BERT、RoBERTa、DeBERTa及集成方法）用于在线性别歧视的可解释检测，通过三个分类任务预测性别歧视并分类子类别，发现预训练Transformer显著提升性能，集成和混合增强了鲁棒性。
2023-05-07 cs.CL cs.LG
Sexism in the Judiciary
我们分析了670万份判例法文件，以确定我们的司法系统中存在性别偏见。我们发现，目前的偏见检测方法在自然语言处理是不够的，以确定性别偏见在我们的案例法数据库，并提出了一种替代方法。我们发现，现有算法的不一致的结果是先前研究的偏见定义本身的后果。偏置检测算法依赖于字组来表示偏置（例如，"工资"、"工作"和"老板"代表就业，作为文本中对妇女有潜在偏见的主题）。然而，建立这些单词组的方法有几个缺点，主要是单词列表是基于研究人员自己的直觉。我们提出了两种新的方法来自动创建单词列表来表示偏见。我们发现，我们的方法优于目前的NLP偏见检测方法。我们的研究提高了NLP技术检测偏见的能力，并突出了有影响力的判例法中存在的性别偏见。为了测试我们的NLP偏见检测方法的性能，我们回归我们的偏见的结果，在判例法对美国人口普查数据的妇女参与劳动力在过去的100年。
2021-06-29 cs.CL
HULAT at SemEval-2023 Task 10: Data augmentation for pre-trained transformers applied to the detection of sexism in social media
本文介绍了我们参与SemEval-2023任务10，其目标是检测社交媒体中的性别歧视。我们将探讨一些最流行的Transformer模型，如BERT、DistilBERT、RoBERTa和XLNet。我们还研究了不同的数据增强技术来增加训练数据集。在开发阶段，我们通过对任务B和C使用RoBERTa和数据增强获得了最佳结果。然而，使用合成数据并不能改善任务C的结果。我们参与了三个子任务。我们的方法仍然有很大的改进空间，特别是在两个细粒度的分类。我们所有的代码都可以在存储库https://github.com/isegura/hulat_edos中找到。
2023-03-01 cs.AI cs.CL cs.LG
SSS at SemEval-2023 Task 10: Explainable Detection of Online Sexism using Majority Voted Fine-Tuned Transformers
Manipal Institute of Technology（马尼帕尔理工学院）；Manipal Academy of Higher Education（马尼帕尔高等教育学院）
该研究面向 SemEval-2023 EDOS 三个子任务，提出微调 BERT 模型并结合多数投票集成的在线性别歧视可解释检测方法，性能优于单一基线。
2023-04-23 cs.AI cs.CL cs.CY
IUST_NLP at SemEval-2023 Task 10: Explainable Detecting Sexism with Transformers and Task-adaptive Pretraining
Iran University of Science and Technology（伊朗科技大学）
本研究针对 SemEval-2023 任务 10，提出基于 Transformer 的预训练模型，结合任务自适应预训练与集成学习，用于在线性别歧视检测，在子任务 A、B、C 上分别获得 83%、64%、47% 的 F1 分数。
2023-05-11 cs.CL
Automatic Detection of Sexist Statements Commonly Used at the Workplace
Stanford University（斯坦福大学）；ISEP (Institut supérieur d’électronique de Paris)（巴黎高等电子学院）
检测工作场所的仇恨言论是一项独特的分类任务，因为潜在的社会背景意味着传统仇恨言论的微妙版本。关于最先进的工作场所性别歧视检测模型的应用包括人力资源部门的辅助工具，人工智能聊天机器人和情感分析。大多数现有的仇恨言论检测方法，虽然强大和准确，专注于社交媒体上发现的仇恨言论，特别是Twitter。社交媒体的环境比工作场所更加匿名，因此它往往会导致更具侵略性和“敌意”的性别歧视版本。因此，具有大量“敌意”性别歧视的数据集具有稍微容易的检测任务，因为“敌意”性别歧视陈述可以取决于几个词，无论上下文如何，都会提示模型该陈述是性别歧视的。在本文中，我们提出了一个在工作场所更有可能说的性别歧视言论的数据集，以及一个可以实现最先进结果的深度学习模型。以前的研究已经创建了最先进的模型来区分“敌意”和“善意”的性别歧视，仅仅基于汇总的Twitter数据。我们的深度学习方法，初始化为GloVe或随机词嵌入，使用具有注意力机制的LSTM，在更多样化的过滤数据集上优于这些模型，这些数据集更有针对性地针对工作场所的性别歧视，导致F1得分为0.88。
2020-07-08 cs.CL cs.CY cs.LG
Mitigating Negative Transfer with Task Awareness for Sexism, Hate Speech, and Toxic Language Detection
Universitat Politècnica de València（瓦伦西亚理工大学）；RMIT University（皇家墨尔本理工大学）
本文提出基于任务感知的多任务学习方法以缓解负迁移问题，并在EXIST-2021和HatEval-2019基准上取得性别歧视、仇恨言论和有毒语言检测的最新最优性能。
2023-07-07 cs.CL cs.LG
Learning Sexism Detection Using Multi-Agent Perspectivist Preference Optimization
Utrecht University（乌得勒支大学）；Wageningen University & Research（瓦赫宁根大学及研究中心）
本研究针对性别歧视检测中标注分歧问题，提出MAP-PO框架，通过聚类标注者并训练对应智能体，结合个体与团队奖励协调智能体，实验验证了聚类训练及团队信号的必要性。
2026-08-06 cs.CL cs.CY cs.LG
FHSTP@EXIST 2025 Benchmark: Sexism Detection with Transparent Speech Concept Bottleneck Models
St. P\" o lten University of Applied Sciences, 3100 St. Pölten, Austria
针对 EXIST 2025 性别歧视识别任务，本文提出可解释的 SCBM 与融合 Transformer 的 SCBMT，并结合增强数据微调 XLM-RoBERTa，在多语评测中取得前列成绩。
2025-07-28 cs.AI cs.CL cs.CY
When in Doubt, Consult: Expert Debate for Sexism Detection via Confidence-Based Routing
Department of Computer Science, University of Warwick（沃里克大学计算机科学系）；College of Business Studies, Public Authority of Applied Education and Training, Kuwait（卡塔尔应用教育与培训公共机构商学院）
通过基于置信度的路由和专家辩论机制，提升性别歧视检测的准确性和鲁棒性。
2026-01-07 cs.AI cs.CL
Through the Eyes of the Beholder: Biometric and Demographic Conditioning for Multimodal Sexism Detection
National University of Science and Technology POLITEHNICA Bucharest（布加勒斯特理工大学）；Academy of Romanian Scientists（罗马尼亚科学家学院）
针对互联网性别歧视检测的主观性，提出融合标注者心理与人口统计特征的多模态框架，通过交叉注意力和条件化提升检测性能，在EXIST 2026任务中排名第29。
2026-09-15 cs.AI cs.CL cs.CV
SafeSpeech: A Comprehensive and Interactive Tool for Analysing Sexist and Abusive Language in Conversations
University of Warwick（华威大学）；University of Sheffield（谢菲尔德大学）；University of Leeds（利兹大学）；Forensic Capability Network（法医能力网络）
SafeSpeech平台结合微调分类器与大语言模型，实现消息级和对话级的多粒度毒性检测、毒性感知摘要及人物画像，并引入困惑度增益等可解释性机制，在多个基准上复现了最先进性能。
2025-03-09 cs.CL
Detecting Offensive Language in Tweets Using Deep Learning
Norwegian University of Science and Technology（挪威科技大学）
本文讨论了识别社交媒体中仇恨内容的重要问题。我们提出了一个检测方案，这是一个合奏的递归神经网络（RNN）分类器，它结合了各种功能与用户相关的信息，如用户的倾向种族主义或性别歧视。这些数据作为输入与从文本内容导出的词频向量一起被馈送到上述分类器。我们的方法已被评估的公开可用的语料库的16k推文，结果表明其有效性相比，现有的最先进的解决方案。更具体地说，我们的计划可以成功地区分种族主义和性别歧视的消息从正常的文本，并实现更高的分类质量比目前最先进的算法。
2018-01-13 cs.CL cs.CY cs.SI
Assessing the Reliability of LLMs Annotations in the Context of Demographic Bias and Model Explanation
Department of Methodology and Statistics, Utrecht University, The Netherlands（方法论与统计学系，乌特列支大学，荷兰）；Department of Information and Computing Sciences, Utrecht University, The Netherlands（信息与计算科学系，乌特列支大学，荷兰）；Queen Mary University of London, London, United Kingdom（伦敦女王玛丽大学，伦敦，英国）
该研究用广义线性混合模型分析性别歧视检测标注，发现人口统计因素仅解释8%方差，并证明简单角色提示难以提升 GenAI 标注可靠性，内容驱动解释与稳健协议更有利于公平性。
2025-07-26 cs.CL
Hate Speech Detection and Racial Bias Mitigation in Social Media based on BERT model
Télécom SudParis（南巴黎电信学院）；Institut Polytechnique de Paris（巴黎理工学院）
最近，与仇恨和虐待内容识别任务中的数据集和经过训练的分类器相关的不同偏见引起了许多关注。虽然滥用语言检测的偏见数据集的问题已经得到了更频繁的解决，训练分类器产生的偏见还没有成为一个值得关注的问题。在这里，我们首先介绍了一种基于现有的预训练语言模型BERT的仇恨言论检测的迁移学习方法，并在两个公开的数据集上评估了所提出的模型，这些数据集注释了Twitter上的种族主义，性别歧视，仇恨或攻击性内容。接下来，我们在仇恨语音检测任务中引入了一种偏见缓解机制，以减轻在预训练的基于BERT的模型的微调过程中训练集中偏见的影响。为此，我们使用现有的正则化方法来重新加权输入样本，从而减少具有类别标签的高相关训练集的n元语法的影响，然后使用新的重新加权样本微调我们预先训练的基于BERT的模型。为了评估我们的偏见缓解机制，我们采用了一种跨域方法，在该方法中，我们使用上述数据集上的训练分类器来预测来自Twitter的两个新数据集的标签，AAE对齐和白人对齐组，这两个组分别表示用非洲裔美国英语（AAE）和标准美国英语（SAE）撰写的推文。结果表明，在训练的分类器中存在系统性的种族偏见，因为他们倾向于将AAE对齐组的AAE写的推文分配给负面类，如种族主义，性别歧视，仇恨和攻击性，而不是白人对齐的SAE写的推文。然而，种族偏见在我们的分类器显着减少后，我们的偏见缓解机制。这项工作可以为消除仇恨言论和辱骂性语言…
2020-08-28 cs.CL cs.IR cs.LG
Ensemble of pre-trained language models and data augmentation for hate speech detection from Arabic tweets
Echahid Cheikh Larbi Tebessi University（沙希德·谢赫·拉比·特贝西大学）；Laboratory of Vision and Artificial Intelligence (LAVIA)（视觉与人工智能实验室）
针对阿拉伯语推文仇恨言论检测中的性能有限与数据不平衡问题，提出结合预训练语言模型集成学习和半监督数据增强的方法，在五分类基准上优于现有工作。
2024-07-02 cs.AI cs.CL
Developing Linguistic Patterns to Mitigate Inherent Human Bias in Offensive Language Detection
Yildiz Technical University（耶尔德兹技术大学）；Istanbul Technical University（伊斯坦布尔技术大学）；University of Southern Denmark（南丹麦大学）
本文提出一种语言数据增强方法，利用机器辅助标注来减少冒犯性语言数据集中的人类偏见，从而提升多语言冒犯性语言分类的准确性与公平性。
2023-12-04 cs.AI cs.CL
Enabling Classifiers to Make Judgements Explicitly Aligned with Human Values
The Hong Kong University of Science and Technology（香港科技大学）；Meta AI
许多NLP分类任务，例如性别歧视/种族主义检测或毒性检测，都是基于人类价值观的。然而，人的价值观在不同的文化条件下会有所不同。因此，我们引入了一个值对齐分类的框架，该框架基于命令中显式写入的人类值执行预测。随着任务，我们提出了一个实用的方法，从大规模语言模型（LLM）中提取值对齐的知识，构建值对齐的分类器在两个步骤。首先，我们从LLM中通过基于样本的少样本学习生成值对齐的训练数据。接下来，我们使用为任务生成的数据微调较小的分类模型。实证结果表明，我们的VA模型在F1分数上超过多个基线至少15.56%，包括使用OPT-175 B和现有文本增强方法的少样本学习。我们认为，使用具有明确人类价值输入的分类器可以提高AI的包容性和可解释性。
2022-10-14 cs.AI cs.CL
A BERT-Based Transfer Learning Approach for Hate Speech Detection in Online Social Media
CNRS（法国国家科学研究中心）；Institut Polytechnique de Paris（巴黎综合理工学院）
一部分用户在社交媒体上生成仇恨和有毒内容是一种日益增长的现象，促使研究人员投入大量精力，致力于具有挑战性的仇恨内容识别方向。我们不仅需要一个基于先进机器学习和自然语言处理的高效自动仇恨语音检测模型，还需要足够大量的注释数据来训练模型。缺乏足够数量的带有标签的仇恨言论数据，加上现有的偏见，一直是这一研究领域的主要问题。为了满足这些需求，在这项研究中，我们引入了一种新的迁移学习方法，该方法基于现有的预训练语言模型，称为BERT（来自Transformers的双向编码器表示）。更具体地说，我们调查的能力，BERT在捕捉仇恨的社会媒体内容的背景下，使用新的微调方法的基础上迁移学习。为了评估我们提出的方法，我们使用了两个公开可用的数据集，这些数据集已经在Twitter上注释了种族主义，性别歧视，仇恨或攻击性内容。结果表明，与现有方法相比，我们的解决方案在这些数据集上的精度和召回率方面获得了相当大的性能。因此，我们的模型可以捕获数据注释和收集过程中的一些偏差，并可能导致我们获得更准确的模型。
2019-10-28 cs.CL cs.IR cs.LG
Scope of Pre-trained Language Models for Detecting Conflicting Health Information
Dartmouth College（达特茅斯学院）
越来越多的人现在依靠在线平台来满足他们的健康信息需求。因此，识别不一致或冲突的文本健康信息已成为一项安全关键任务。健康建议数据构成了一个独特的挑战，其中在一种诊断背景下准确的信息在另一种诊断背景下可能相互冲突。例如，患有糖尿病和高血压的人经常收到相互矛盾的饮食健康建议。这激发了对能够提供情境化的、针对用户的健康建议的技术的需求。实现情境化建议的关键一步是能够比较健康建议声明并检测它们是否以及如何相互冲突。这就是健康冲突检测（HCD）的任务。给定两条健康建议，HCD的目标是检测和分类冲突的类型。这是一项具有挑战性的任务，因为（i）自动识别和分类冲突需要对文本的语义有更深入的理解，以及（ii）可用数据的数量非常有限。在这项研究中，我们是第一个在预训练的语言模型的背景下探索HCD。我们发现DeBERTa-v3在所有实验中表现最好，平均F1得分为0.68。我们还研究了不同冲突类型所带来的挑战，以及合成数据如何提高模型对冲突特定语义的理解。最后，我们强调了收集真实健康冲突的困难，并提出了一种人在回路合成数据增强方法来扩展现有的HCD数据集。我们的HCD训练数据集比现有的HCD数据集大2倍以上，并在Github上公开提供。
2022-09-22 cs.CL
