Investigating Bias In Automatic Toxic Comment Detection: An Empirical Study
Georgia Institute of Technology(佐治亚理工学院)
随着在线平台的激增,用户通过评论和反应在这些平台上的参与度激增。很大一部分这样的文字评论是辱骂,粗鲁和冒犯观众。有了机器学习系统来检查这些进入平台的评论,训练数据中存在的偏见被传递到分类器中,导致对一组阶级、宗教和性别的歧视。在这项工作中,我们评估不同的分类器和功能,以估计这些分类器的偏差以及它们在毒性分类的下游任务上的性能。结果表明,自动有毒评论检测模型的性能改善与减轻这些模型中的偏差呈正相关。在我们的工作中,具有注意力机制的LSTM被证明是比CNN模型更好的建模策略。进一步的分析表明,在毒性评论检测的训练模型上,快速文本嵌入比手套嵌入略好。更深入的分析揭示了这样的发现,即这种自动模型特别偏向于特定的身份群体,即使该模型具有较高的AUC分数。最后,为了减轻毒性检测模型中的偏倚,使用毒性子类型的辅助任务训练的多任务设置被证明是有用的,导致AUC评分增加高达0.26%(6%相对)。
2021-08-14 cs.AI cs.CL cs.LG
Cisco at SemEval-2021 Task 5: What's Toxic?: Leveraging Transformers for Multiple Toxic Span Extraction from Online Comments
Cisco Systems(思科系统公司);IIIT-Delhi(德里英迪拉·甘地信息技术学院)
社交网络平台通常用于分享积极的,建设性的和有见地的内容。然而,近年来,人们经常接触到令人反感的内容,如威胁,身份攻击,仇恨言论,侮辱,淫秽文本,攻击性言论或欺凌。有毒语音检测的现有工作集中在二进制分类或区分有毒语音之间的一小组类别。本文介绍了思科团队为SemEval-2021任务5提出的系统:有毒跨度检测,这是第一个共享任务,专注于检测文本中归因于其毒性的跨度。我们主要用两种方法来处理这个问题:序列标记方法和依存句法分析方法。在我们的序列标记方法中,我们根据特定的标记方案标记句子中的每个标记。我们在这种方法中表现最好的架构也被证明是我们整体表现最好的架构,F1得分为0.6922,因此我们在最终评估阶段排行榜上排名第7。我们还探讨了一个依存句法分析的方法,我们从输入句子中提取跨度的监督下,目标跨度边界和排名我们的跨度使用biaffine模型。最后,我们还提供了一个详细的分析,我们的结果和模型的性能在我们的论文。
2021-05-28 cs.AI cs.CL
WLV-RIT at GermEval 2021: Multitask Learning with Transformers to Detect Toxic, Engaging, and Fact-Claiming Comments
Rochester Institute of Technology(罗切斯特理工学院);University of Wolverhampton(伍尔弗汉普顿大学)
本文讨论了识别社交媒体上的有毒,吸引人和声称事实的评论。我们使用了GermEval-2021共享任务组织者提供的数据集,其中包含3,000多条德语手动注释的Facebook评论。考虑到这三个任务的相关性,我们使用大型预训练的Transformer模型和多任务学习来解决这个问题。我们的研究结果表明,多任务学习在所有三个任务中的表现优于更常见的单任务学习方法。我们以团队名称WLV-RIT向GermEval-2021提交了我们最好的系统。
2021-07-30 cs.AI cs.CL cs.NE
Is Your Toxicity My Toxicity? Exploring the Impact of Rater Identity on Toxicity Annotation
Google Research(谷歌研究院);Google(谷歌);Jigsaw(Jigsaw(谷歌旗下机构))
机器学习模型通常用于检测在线对话中的毒性。这些模型是在由人类评分员注释的数据集上训练的。我们探讨了评价者自我描述的身份如何影响他们在在线评论中对毒性的注释。我们首先定义了专门的评分员池的概念:评分员池的基础上形成的自我描述的身份,而不是随机的。我们为这项研究建立了三个这样的评分员库--来自美国的专门的评分员库,他们认为自己是非裔美国人,LGBTQ,以及那些认为自己不是非裔美国人的人。这些评核人池中的每一个都注释了同一组注释,其中包含对这些身份组的许多引用。我们发现,评价者身份是一个统计学上显着的因素,评价者将如何注释毒性的身份相关的注释。使用初步内容分析,我们检查了评价者池之间最不一致的评论,并发现毒性注释中存在细微差别。接下来,我们在来自每个不同评分者池的注释上训练模型,并比较这些模型在来自多个测试集的评论上的得分。最后,我们将讨论如何使用自我认同评论主题的评分者来创建更具包容性的机器学习模型,并提供比随机评分者更细致入微的评分。
2022-05-01 cs.AI cs.CL cs.HC
Towards Equal Gender Representation in the Annotations of Toxic Language Detection
Durham University(杜伦大学)
分类器倾向于传播它们所训练的数据中存在的偏差。因此,理解注释者的人口统计身份如何影响最终模型的公平性是很重要的。在本文中,我们专注于男性和女性注释毒性评论的方式的差异,研究这些差异如何导致放大男性注释者意见的模型。我们发现,BERT模型associates有毒的评论,含有冒犯性的话与男性注释者,导致该模型预测67.7%的有毒评论已被男性注释。我们发现,性别预测之间的这种差异可以通过从训练数据中删除冒犯性的词语和剧毒评论来减轻。然后,我们将学习到的性别和语言之间的关联应用于有毒语言分类器,发现仅在女性注释数据上训练的模型比仅在男性注释数据上训练的模型性能好1.8%,并且在删除所有冒犯性词语后,在数据上训练模型将模型中的偏差降低了55.5%,同时将灵敏度提高了0.4%。
2021-06-04 cs.AI cs.CL cs.LG
Can We Achieve More with Less? Exploring Data Augmentation for Toxic Comment Classification
Stanford University(斯坦福大学)
本文解决了机器学习中最大的限制之一:数据稀缺。具体来说,我们探索是否可以从小数据集建立高精度的分类器,利用数据增强技术和机器学习算法的组合。在这篇论文中,我们尝试了简单的数据增强(EDA)和反向翻译,以及三种流行的学习算法,逻辑回归,支持向量机(SVM)和双向长短期记忆网络(Bi-LSTM)。对于我们的实验,我们利用维基百科有毒评论数据集,以便在探索数据增强的好处的过程中,我们可以开发一个模型来检测和分类评论中的有毒言论,以帮助反击网络欺凌和在线骚扰。最终,我们发现数据增强技术可以用来显着提高分类器的性能,是一个很好的策略,以打击缺乏数据的NLP问题。
2020-07-02 cs.AI cs.CL cs.IR
Taming Toxic Talk: Using chatbots to intervene with users posting toxic comments
Purdue University(普渡大学);University of California San Diego(加州大学圣地亚哥分校);University of Idaho(爱达荷大学);IIT Hyderabad(印度海得拉巴理工学院)
本研究探讨生成式AI聊天机器人对发布有毒评论用户的影响,发现用户在对话中表现出悔意,但未观察到行为显著改变。
2026-01-27 cs.AI cs.CY cs.HC
Identification of Bias Against People with Disabilities in Sentiment Analysis and Toxicity Detection Models
College of Information Science and Technology(信息科学与技术学院);Pennsylvania State University(宾夕法尼亚州立大学)
社会人口偏见是自然语言处理的一个常见问题,影响了其应用的公平性和完整性。在情感分析中,这些偏见可能会破坏对提到个人属性的文本的情感预测,而这些个人属性是无偏见的人类读者认为是中性的。这种歧视在公共和私营部门的情感分析应用中可能产生重大后果。例如,社交媒体平台中的在线滥用和意见分析等应用程序中的不正确推断可能会导致对某些人群的不必要的后果,例如错误审查。在本文中,我们解决歧视残疾人,PWD,做情感分析和毒性分类模型。我们提供了情感和毒性分析模型的检查,以详细了解它们如何区分PWD。我们提出了偏见识别测试的情绪(BITS),语料库的1,126句,旨在探讨残疾偏见的情感分析模型。我们使用这个语料库来证明四个广泛使用的情感分析工具(TextBlob,VADER,Google Cloud自然语言API和DistilBERT)和两个毒性分析模型中的统计显著偏差,这些模型被训练来预测Jigsaw挑战中的有毒评论(有毒评论分类和有毒评论中的意外偏差)。结果表明,所有人都对提到残疾的句子表现出强烈的负面偏见。我们公开发布BITS语料库,供其他人在任何情感分析工具中识别对残疾的潜在偏见,并更新语料库,以用作其他社会人口变量的测试。
2021-11-25 cs.AI cs.CL
Civil Rephrases Of Toxic Texts With Self-Supervised Transformers
Télécom Paris(巴黎电信学院);Institut Polytechnique de Paris(巴黎理工学院);Stockholm University(斯德哥尔摩大学);Google(谷歌)
支持在线评论的平台,从社交网络到新闻网站,越来越多地利用机器学习来帮助他们的审核工作。但是这个过程通常不会向作者提供反馈,帮助他们根据社区指南做出贡献。这对于人类主持人来说是非常耗时的,而且计算方法仍然处于萌芽状态。这项工作的重点是模型,可以帮助建议以更文明的方式重新措辞的有毒评论。受非配对序列到序列任务的最新进展的启发,引入了一个自监督学习模型,称为CAE-T5。CAE-T5采用了一个预先训练的文本到文本的Transformer,它通过去噪和循环自动编码器损失进行了微调。通过使用迄今为止最大的毒性检测数据集(Civil Comments)进行实验,我们的模型生成的句子与早期的文本风格转换系统相比更流畅,更好地保留了初始内容,我们将其与使用几个评分系统和人工评估进行了比较。
2021-02-11 cs.AI cs.CL cs.LG
Is preprocessing of text really worth your time for online comment classification?
Intel Corporation(英特尔公司)
公共领域的大部分在线评论都是建设性的,但也有很大一部分是有毒的。注释包含大量的错别字,这增加了特征流形的数量,使得ML模型难以训练。考虑到数据科学家将大约80%的时间用于收集、清理和组织数据[1],我们探讨了在将原始评论输入到最先进的分类模型之前,我们应该在原始评论的预处理(转换)上投入多少精力。借助Jigsaw有毒评论分类数据的四个模型,我们证明了模型的训练没有任何转换产生相对体面的模型。在某些情况下,即使应用基本的转换也会导致更差的性能,因此应谨慎应用。
2018-08-29 cs.AI cs.CL
"HOT" ChatGPT: The promise of ChatGPT in detecting and discriminating hateful, offensive, and toxic comments on social media
University of Michigan(密歇根大学)
本研究比较了ChatGPT与MTurker在检测仇恨、冒犯和有毒(HOT)评论上的表现,发现ChatGPT准确率约80%,并探讨了提示词选择及其分类一致性对内容审核的启示。
2023-04-20 cs.AI cs.CL cs.HC
Discern Truth from Falsehood: Reducing Over-Refusal via Contrastive Refinement
Huawei Technologies co. ltd(华为技术有限公司)
本文提出DCR方法,通过对比细化减少LLM的过度拒绝问题,同时保持安全性和通用能力。
2026-02-10 cs.AI cs.CL
Queuing for Civility: Regulating Emotions and Reducing Toxicity in Digital Discourse
School of Engineering, Deakin University, Australia(工程学院,德坎大学,澳大利亚);School of Information Technology, Deakin University, Australia(信息技术学院,德坎大学,澳大利亚)
针对在线毒性内容问题,该研究提出基于图的实时情绪调节框架与评论排队延迟机制,实验验证二者可有效减少毒性内容与愤怒传播,助力改善网络福祉。
2025-08-31 cs.AI cs.CY cs.HC
Adversarial DPO: Harnessing Harmful Data for Reducing Toxicity with Minimal Impact on Coherence and Evasiveness in Dialogue Agents
GSAI POSTECH(浦项科技大学人工智能研究生院);CSE POSTECH(浦项科技大学计算机科学与工程系)
本文提出 ADPO,通过毒性控制 token 自生成不安全回答并直接利用有害数据改进 DPO,在降低对话模型毒性的同时保持性能、连贯性与训练稳定性。
2024-05-21 cs.AI cs.CL
A Holistic Indicator of Polarization to Measure Online Sexism
IMDEA Networks Institute(IMDEA网络研究所);Universidad Carlos III de Madrid(马德里卡洛斯三世大学);VRAIN, Universitat Politecnica de Valencia(瓦伦西亚理工大学VRAIN研究所)
本文提出一种结合有监督毒性检测与无监督词嵌入关联测试的整体极化指标,用于自动衡量在线社区中的性别歧视水平,并在多个性别话语社区中验证了其准确性和一致性。
2024-06-29 cs.AI cs.SI
Beyond Toxic: Toxicity Detection Datasets are Not Enough for Brand Safety
Clarifai(克拉里费公司)
本研究将仇恨言论和毒性评论分类任务扩展至品牌安全领域,通过二元分类方法证明现有毒性检测数据集不足以保障品牌安全,并实证分析了加权采样策略在文本分类中的效果。
2023-03-27 cs.AI cs.CL
On the Role of Speech Data in Reducing Toxicity Detection Bias
Meta FAIR;New York University(纽约大学);University College London(伦敦大学学院);McGill University(麦吉尔大学)
该研究针对文本毒性检测的群体提及偏差问题,通过为多语言MuTox数据集制作高质量群体标注,对比语音与文本毒性分类器,发现推理阶段用语音数据可降低偏差,且改进分类器比优化转录流程更有效,同时公开发布标注并给出数据集构建建议。
2025-05-16 cs.AI cs.CL cs.LG
Walking in Others' Shoes: How Perspective-Taking Guides Large Language Models in Reducing Toxicity and Bias
Nanyang Technological University(南洋理工大学)
针对LLMs生成内容的毒性与偏见问题,提出视角采择提示(PeT)策略,通过整合人类视角自我调节,在商业及开源模型上显著降低毒性(达89%)与偏见(达73%),优于五个强基线。
2024-07-22 cs.AI cs.CL cs.CY
Reducing Unintended Identity Bias in Russian Hate Speech Detection
VK Lab(VK实验室)
毒性已成为许多在线社区的严重问题,并在包括俄语在内的许多语言中不断增长。仇恨言论创造了一种恐吓、歧视的环境,甚至可能煽动一些现实世界的暴力。一段时间以来,研究人员和社交平台都一直专注于开发模型来检测在线交流中的毒性。这些模型的一个共同问题是对一些词(例如女人,黑人,犹太人)的偏见,这些词不是有毒的,但由于模型的警告,它们会成为分类器的触发器。在本文中,我们描述了我们对俄罗斯的仇恨言论进行分类的努力,并提出了减少意外偏见的简单技术,例如使用与受保护身份相关的术语和单词作为上下文,并将单词丢弃应用于这些单词的语言模型生成训练数据。
2020-10-22 cs.AI cs.CL
Beyond a Global Norm: Personalizing Toxicity Sensitivity in Language Models Without Retraining
Delft University of Technology(代尔夫特理工大学)
研究如何在语言模型中实现毒性敏感性个性化,通过对免训练方法在三个推理阶段进行比较评估,与PRISM数据集目标对比,各方法降低对齐误差28 - 47%,揭示了多目标间权衡。
2026-07-28 cs.AI cs.CL
TEET! Tunisian Dataset for Toxic Speech Detection
Mediterranean Institute of Technology(地中海理工学院);iCompass
社交媒体中完全的表达自由有其代价,特别是在传播有害和辱骂性内容时,可能会诱使人们采取相应行动。因此,自动检测这种含量的需要成为一项紧迫的任务,这将有助于并提高限制这种有毒物质扩散的效率。与大多基于MSA的其他阿拉伯语方言相比,突尼斯方言是许多其他语言的组合,如MSA,Tamazight,意大利语和法语。由于其丰富的语言,由于缺乏大型注释数据集,处理NLP问题可能具有挑战性。在本文中,我们将介绍一个由大约10 k条评论组成的新注释数据集。我们通过特征工程方法对其词汇进行了深入探索,并提供了NB和SVM等机器学习分类器以及ARBERT、MARBERT和XLM-R等深度学习模型的分类性能结果。
2021-10-11 cs.AI cs.CL
Whispering Experts: Neural Interventions for Toxicity Mitigation in Language Models
Apple(苹果公司);KU Leuven(鲁汶大学)
本文提出AUROC适应(AurA)干预方法,通过按神经元区分有毒内容的能力成比例降低其激活水平,有效缓解大型语言模型的毒性,同时保持常识零样本能力,并可与预提示策略结合增强效果。
2024-07-02 cs.AI cs.CL
"Cold, Calculated, and Condescending": How AI Identifies and Explains Ableism Compared to Disabled People
Cornell University(康奈尔大学)
本研究通过200条针对残障人士的评论数据集,对比AI模型与190名残障参与者的评分,发现AI低估毒性且对健全中心主义评估零散,其解释缺乏细微差别且带有评判性,倡导在AI审核中纳入交叉性残障视角。
2025-05-31 cs.AI cs.HC
Harm in AI-Driven Societies: An Audit of Toxicity Adoption on Chirper.ai
University of Southern California, Los Angeles, California(美国南加州大学);University of Calabria, Rende, Italy(意大利卡拉布里亚大学)
研究通过分析Chirper.ai上AI代理的毒性行为,揭示了暴露于有害内容如何影响代理行为,并提出通过监控毒性暴露来减轻有害行为的风险。
2026-01-20 cs.AI cs.CY cs.MA
Tiny-Toxic-Detector: A compact transformer-based model for toxic content detection
Assistantslab(助理实验室)
本文提出仅210万参数的紧凑型Transformer模型Tiny-toxic-detector,在ToxiGen和Jigsaw数据集上以90.97%和86.98%的准确率媲美大50倍以上的模型,为资源受限环境下的内容审核提供了高效可扩展的解决方案。
2024-08-29 cs.AI cs.CL cs.LG
Toxic Memes: A Survey of Computational Perspectives on the Detection and Explanation of Meme Toxicities
organization= Centrum Wiskunde \& Informatica , addressline= Science Park 123 , city= Amsterdam , postcode= 1098 XG , country= The Netherlands;organization= Netherlands eScience center , addressline= Science Park 402 , city= Amsterdam , postcode= 1098 XH , country= The Netherlands
本文综述了计算视角下对迷因毒性的检测与解释的研究,识别了30多个数据集及毒性分类方法,提出了新的毒性分类体系,并探讨了跨模态推理、低资源语言处理等挑战。
2024-06-11 cs.AI cs.CL cs.CV
When Bad Data Leads to Good Models
本文通过受控实验证明,预训练中混入更多毒性数据虽会增加基础模型毒性,但能使毒性表示更易分离,从而在后训练去毒时实现更好的毒性与通用能力权衡。
2025-05-07 cs.AI cs.CL cs.LG
Data Science Kitchen at GermEval 2021: A Fine Selection of Hand-Picked Features, Delivered Fresh from the Oven
Data Science Kitchen(数据科学工作室)
本研究针对GermEval 2021有毒、有吸引力及事实主张评论识别任务,提出结合预训练嵌入与定制数值特征的特征工程方法,通过多数投票分类器集成实现了66.8%、69.9%、72.5%的宏平均F1分数。
2024-08-18 cs.AI cs.CL cs.LG
Large Language Models can be Strong Self-Detoxifiers
IBM Research(IBM研究院);MIT(麻省理工学院)
该研究提出轻量级受控解码算法SASA,无需额外奖励模型或重训练,仅利用大语言模型内部表示即可引导生成远离有毒子空间,在多模型多基准上实现了与现有最优技术相当的解毒效果。
2024-10-04 cs.AI cs.CL cs.LG
ContiGuard: A Framework for Continual Toxicity Detection Against Evolving Evasive Perturbations
School of Computer Science(计算机科学学院);Wuhan University(武汉大学);Zhongguancun Academy(中关村学院);Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputer Center in Jinan)(计算能力网络与信息安全重点实验室,教育部,山东计算机科学中心(济南国家超级计算机中心));Qilu University of Technology (Shandong Academy of Sciences)(齐鲁工业大学(山东科学院));Shandong Provincial Key Laboratory of Computing Power Internet and Service Computing(山东省计算能力互联网与服务计算重点实验室);Shandong Fundamental Research Center for Computer Science(山东省计算机科学基础研究中心)
本文提出ContiGuard框架,通过LLM增强语义和判别性特征学习,解决持续演变扰动下的毒性检测问题,提升检测器的持续学习与鲁棒性。
2026-03-16 cs.AI cs.CL
Not-in-Perspective: Towards Shielding Google's Perspective API Against Adversarial Negation Attacks
Department of Computer Science(计算机科学系);Kennesaw State University(肯尼斯州立大学);School of Cybersecurity and Privacy(网络安全与隐私学院);Georgia Institute of Technology(佐治亚理工学院)
本文提出基于形式推理的方法,用于防护谷歌Perspective API对抗性否定攻击,提升毒性检测的准确性和有效性。
2026-02-10 cs.AI cs.CL
A Collaborative Content Moderation Framework for Toxicity Detection based on Conformalized Estimates of Annotation Disagreement
TECNALIA, Basque Research and Technology Alliance (BRTA)(TECNALIA巴斯克研究与技术联盟);University of the Basque Country (UPV/EHU)(巴斯克国家大学);Faculty of Engineering, University of Deusto(德乌斯托大学工程学院)
本文提出融合毒性分类主任务与标注分歧辅助任务的多任务内容审核框架,并用 Conformal Prediction 量化标注与模型不确定性,从而提升性能、校准、参数效率及复审灵活性。
2025-08-29 cs.AI cs.CL cs.HC
ToxiFrench: Benchmarking and Enhancing Language Models via CoT Fine-Tuning for French Toxicity Detection
École Polytechnique(巴黎高等理工学院);Shanghai Jiao Tong University(上海交通大学);Tsinghua University(清华大学)
本文提出ToxiFrench数据集,通过半自动化标注流程构建,发现小语言模型在毒性检测任务中表现更优,并提出动态加权损失策略提升模型忠实度,Qwen3-4B模型在基准测试中取得最佳性能。
2026-04-19 cs.AI cs.CL cs.CY
Trouble on the Horizon: Forecasting the Derailment of Online Conversations as they Develop
Cornell University(康奈尔大学)
在线讨论往往会导致参与者之间的有害交流。最近的努力主要集中在事后检测反社会行为,通过孤立地分析单个评论。为了向人类版主提供更及时的通知,系统需要在对话实际上变得有毒之前先发制人地检测到对话正在脱轨。这意味着将出轨建模为对话的新兴属性,而不是孤立的话语级事件。然而,预测新兴的会话属性,提出了一些固有的建模挑战。首先,由于对话是动态的,预测模型需要捕捉讨论的流程,而不是单个评论的属性。其次,真实的对话具有未知的范围:它们可以随时结束或脱轨;因此,随着对话的发展,实用的预测模型需要以在线方式评估风险。在这项工作中,我们引入了一个会话预测模型,学习会话动态的无监督表示,并利用它来预测未来的出轨会话的发展。通过将该模型应用于两个新的不同的带有反社会事件标签的在线对话数据集,我们表明它在预测出轨方面优于最先进的系统。
2019-09-03 cs.AI cs.CL cs.CY
CPCLDETECTOR: Knowledge Enhancement and Alignment Selection for Chinese Patronizing and Condescending Language Detection
City University of Hong Kong(香港城市大学);SIAT, CAS(中国科学院上海硅酸盐研究所);School of Information Engineering, Beijing Institute of Graphic Communication(北京印刷学院信息工程学院);University of Minnesota - Twin Cities(明尼苏达大学双城分校);Heilongjiang University(黑龙江大学)
针对中文视频平台CPCL检测中缺乏用户评论的问题,构建含103k评论的新数据集PCLMMPLUS,并提出带对齐选择与知识增强模块的CPCLDetector模型,在PCLMM和PCLMMPLUS上均超越SOTA,提升检测准确率以支持内容治理。
2025-09-24 cs.AI cs.MM
Jury Learning: Integrating Dissenting Voices into Machine Learning Models
Stanford University(斯坦福大学);Apple Inc.(苹果公司)
机器学习(ML)算法应该学习模仿谁的标签?对于从在线评论毒性到错误信息检测再到医学诊断的ML任务,社会中的不同群体可能对地面真相标签存在不可调和的分歧。今天,受监督的ML使用多数投票隐含地解决了这些标签分歧,这覆盖了少数群体的标签。我们介绍了陪审团学习,这是一种监督式ML方法,通过陪审团的比喻来明确解决这些分歧:定义哪些人或群体,以什么比例,确定分类器的预测。例如,在线毒性的陪审团学习模型可能以女性和黑人陪审员为中心,他们通常是在线骚扰的目标。为了实现陪审团学习,我们贡献了一个深度学习架构,该架构对数据集中的每个注释者进行建模,从注释者的模型中采样以填充陪审团,然后运行推理进行分类。我们的架构使陪审团能够动态地调整他们的组成,探索反事实,并可视化异议。
2022-02-07 cs.AI cs.HC cs.LG
AustroTox: A Dataset for Target-Based Austrian German Offensive Language Detection
TU Wien(维也纳技术大学);University of Zurich(苏黎世大学);University of Vienna(维也纳大学)
本文提出AustroTox数据集,包含4,562条奥地利德语新闻论坛评论,标注攻击性及粗俗语言和目标片段,并比较微调模型与大型语言模型在攻击性检测上的表现。
2024-06-12 cs.AI cs.CL cs.CY