UM-IU@LING at SemEval-2019 Task 6: Identifying Offensive Tweets Using BERT and SVMs
University of Michigan（密歇根大学）；Indiana University（印第安纳大学）
本文描述了UM-IU@LING的SemEval 2019任务6的系统：OffensEval。我们采取混合方法来识别和分类社交媒体中的仇恨言论。在子任务A中，我们微调了一个基于BERT的分类器来检测推文中的滥用内容，在测试数据上获得了0.8136的宏观F1分数，从而在103个提交中排名第三。在子任务B和C中，我们使用了具有选定字符n-gram特征的线性SVM。对于子任务C，我们的系统可以识别滥用的目标，其宏观F1得分为0.5243，在65个提交中排名第27位。
2019-04-06 cs.CL
KUISAIL at SemEval-2020 Task 12: BERT-CNN for Offensive Speech Identification in Social Media
KUIS AI Lab（KUIS人工智能实验室）；Koç University（科奇大学）
在本文中，我们描述了我们的方法，利用预训练的BERT模型和卷积神经网络，用于多语言攻击性语言识别共享任务（OffensEval 2020）的子任务A，这是SemEval 2020的一部分。我们表明，将CNN与BERT相结合比单独使用BERT更好，我们强调了利用预训练的语言模型进行下游任务的重要性。我们的系统在阿拉伯语中以0.897的宏观平均F1分数排名第四，在希腊语中以0.843的分数排名第四，在土耳其语中以0.814的分数排名第三。此外，我们还介绍了ArabicBERT，这是一组预训练的阿拉伯语Transformer语言模型，我们与社区共享。
2020-07-26 cs.CL
ANDES at SemEval-2020 Task 12: A jointly-trained BERT multilingual model for offensive language detection
ICC, CONICET（阿根廷国家科学与技术研究理事会计算机与通信研究所）；Universidad de Buenos Aires（布宜诺斯艾利斯大学）；University of Chile（智利大学）；IMFD, Chile（智利千禧数据基金会）；CONICET（阿根廷国家科学与技术研究理事会）；Universidad Nacional de Córdoba（国立科尔多瓦大学）
本文介绍了我们参与SemEval-2020任务12：多语言攻击性语言检测。我们通过微调多语言BERT来联合训练单个模型，以解决所有拟议语言的任务：英语，丹麦语，土耳其语，希腊语和阿拉伯语。我们的单一模型具有竞争力的结果，尽管在所有语言中共享相同的参数，但其性能接近最高性能的系统。此外，还进行了Zero-shot和Few-Shot实验来分析这些语言之间的迁移性能。我们公开我们的代码以供进一步研究
2020-08-13 cs.CL
syrapropa at SemEval-2020 Task 11: BERT-based Models Design For Propagandistic Technique and Span Detection
College of Arts and Sciences, School of Information Studies, Syracuse University（雪城大学艺术与科学学院、信息研究学院）
本文描述了SemEval-2020任务11：新闻文章中宣传技术的检测中的两个子任务提出的基于BERT的模型。首先，我们建立了基于SpanBERT的跨度识别（SI）模型，并通过更深层次的模型和一个层次的表示方便检测。然后，我们开发了一个混合模型的技术分类（TC）。混合模型由三个子模型组成，包括两个不同训练方法的BERT模型和一个基于特征的Logistic回归模型。我们努力处理不平衡的数据集通过调整成本函数。我们在SI子任务中排名第七（F1-measure的0.4711），在TC子任务中排名第三（F1-measure的0.6783）。
2020-08-24 cs.CL
MULTISEM at SemEval-2020 Task 3: Fine-tuning BERT for Lexical Meaning
Université Paris-Saclay（巴黎-萨克雷大学）；CNRS, LIMSI（法国国家科学研究中心，LIMSI实验室）；University of Helsinki（赫尔辛基大学）
我们介绍了提交给SemEval 2020任务3的MULTISEM系统：上下文中的分级单词相似性（GWSC）。我们通过对与GWSC相关的词汇语义任务进行微调，将语义知识注入到预先训练好的BERT模型中。我们使用现有的语义注释的数据集，并建议近似相似性，通过自动生成的词汇替代上下文。我们参与GWSC的两个子任务，并使用两种语言，英语和芬兰语。我们最好的英语模特在这两个子任务的排名中分别占据第三和第四的位置。芬兰模型的性能较低，在相应的子任务中排名中等，突出了数据可用性对微调的重要作用。
2020-07-24 cs.CL
UoB at SemEval-2020 Task 12: Boosting BERT with Corpus Level Information
University of Birmingham（伯明翰大学）
预先训练的语言模型单词表示，如BERT，在几个自然语言处理任务中非常成功，大大提高了最先进的水平。这在很大程度上归功于它们能够更好地捕获句子中包含的语义信息。然而，有几个任务可以从语料库级别的可用信息中受益，例如词频-逆文档频率（TF-IDF）。在这项工作中，我们测试了将这些信息与BERT整合在识别社交媒体上的滥用行为的任务上的有效性，并表明将这些信息与BERT整合确实显着提高了性能。我们参与子任务A（滥用检测），其中我们在表现最好的团队中获得两分以内的分数，并参与子任务B（目标检测），其中我们在44个参与团队中排名第4。
2020-08-19 cs.CL
Zhestyatsky at SemEval-2021 Task 2: ReLU over Cosine Similarity for BERT Fine-tuning
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；ABBYY；HSE University（俄罗斯国立高等经济学院）
本文介绍了我们对SemEval-2021任务2：多语言和跨语言上下文消歧（MCL-WiC）的贡献。我们的实验涵盖英语（EN-EN）子轨道从多语种设置的任务。我们用几个预先训练好的语言模型进行实验，并研究不同顶层对微调的影响。我们发现余弦相似性和ReLU激活的组合导致最有效的微调过程。我们最好的模型的准确率为92.7%，这是EN-EN子轨道中第四好的分数。
2021-04-13 cs.CL
SemEval-2017 Task 4: Sentiment Analysis in Twitter using BERT
University of Minnesota Duluth（明尼苏达大学德卢斯分校）
本文使用 BERT（BASE）模型解决 SemEval-2017 任务 4A 的 Twitter 英语情感分析，在二分类子任务上优于朴素贝叶斯基线，并考虑了数据伦理问题。
2024-06-19 cs.CL
LRG at SemEval-2020 Task 7: Assessing the Ability of BERT and Derivative Models to Perform Short-Edits based Humor Grading
Vellore Institute of Technology（韦洛尔理工学院）；BITS Pilani K. K. Birla Goa Campus（比尔拉科学技术学院K·K·比拉尔果阿校区）
在本文中，我们评估的能力BERT及其衍生模型（RoBERTa，蒸馏BERT，和AL BERT）的简短编辑为基础的幽默分级。我们在Humicroedit和FunLines数据集上测试了这些模型的幽默分级和分类任务。我们对这些模型进行了大量的实验，通过基于zero-shot推理和跨数据集推理的方法来测试它们的语言建模和泛化能力。此外，我们还检查的自我注意力层在幽默分级的作用，通过执行一个定性分析的自我注意力的权重，从最后一层的训练BERT模型。我们的实验表明，所有预训练的BERT衍生模型表现出显着的泛化能力的幽默分级相关的任务。
2020-05-31 cs.CL
LIIR at SemEval-2020 Task 12: A Cross-Lingual Augmentation Approach for Multilingual Offensive Language Identification
KU Leuven（鲁汶大学）
本文介绍了我们的系统，题为“LIIR”的SemEval-2020任务12在社交媒体中的多语言攻击性语言识别（OffensEval 2）。我们参加了英语、丹麦语、希腊语、阿拉伯语和土耳其语的分任务A。我们分别针对英语和非英语语言调整和微调了Google AI提供的BERT和多语言Bert模型。对于英语语言，我们使用两个微调的BERT模型的组合。对于其他语言，我们提出了一种跨语言的增强方法，以丰富训练数据，我们使用多语言BERT获得句子表示。LIIR在希腊语、土耳其语、英语、阿拉伯语和丹麦语中的排名分别为14/38、18/47、24/86、24/54和25/40。
2020-07-17 cs.CL
UPB at SemEval-2020 Task 11: Propaganda Detection with Domain-Specific Trained BERT
University Politehnica of Bucharest（布加勒斯特理工大学）
操纵性和误导性新闻已成为一些在线新闻媒体的商品，这些新闻对人们的全球心态产生了重大影响。宣传是一种经常使用的操纵方法，其目的是通过传播旨在歪曲或操纵读者意见的思想来影响读者。本文介绍了我们参加SemEval-2020，任务11：检测新闻文章中的宣传技巧比赛。我们的方法考虑专门的预训练BERT模型的宣传和超党派的新闻文章，使其能够创建更充分的表示为两个子任务，即宣传跨度识别（SI）和宣传技术分类（TC）。我们提出的系统在子任务SI中取得了46.060%的F1分数，在36个团队中排名第5，子任务TC的微平均F1分数为54.302%，在32个团队中排名第19。
2020-09-11 cs.CL
SST-BERT at SemEval-2020 Task 1: Semantic Shift Tracing by Clustering in BERT-based Embedding Spaces
IDSIA（意大利瑞士人工智能研究所）
词汇语义变化检测（也称为语义转移跟踪）是一项识别随着时间的推移已经改变其含义的单词的任务。SemEval2020的重点是无监督语义转移跟踪，这尤其具有挑战性。鉴于无监督设置，在这项工作中，我们建议识别每个目标词的不同出现之间的聚类，将其视为不同词义的代表。因此，所获得的聚类中的不一致自然允许量化四种目标语言中每个目标词的语义转变水平。为了利用这个想法，聚类是在单词出现的上下文（基于BERT）嵌入上执行的。所获得的结果表明，我们的方法在单独（每种语言）和整体上都表现良好，我们超过了所有提供的SemEval基线。
2020-10-02 cs.AI cs.CL
Yseop at SemEval-2020 Task 5: Cascaded BERT Language Model for Counterfactual Statement Analysis
Yseop
在本文中，我们探讨的策略，以检测和评估反事实的句子。我们描述了我们的系统SemEval-2020任务5：建模语言中的因果推理：检测反事实。我们使用一个BERT基本模型的分类任务，并建立一个混合BERT多层感知器系统来处理序列识别任务。我们的实验表明，虽然在分类任务中引入句法和语义特征对改进系统的作用不大，但使用这些类型的特征作为级联线性输入来微调模型的序列界定能力，确保它在第二个任务中优于其他类似目的的复杂系统，如BiLSTM-CRF。我们的系统在任务1和任务2中分别获得了85.00%和83.90%的F1分数。
2020-11-13 cs.CL stat.ML
ANA at SemEval-2019 Task 3: Contextual Emotion detection in Conversations through hierarchical LSTMs and BERT
University of Alberta（阿尔伯塔大学）
本文描述了ANA团队为SemEval-2019任务3：环境背景提交的系统。本文提出了一种新的层次LSTM情境情感检测模型（HRLCE）。它根据会话语境对话语的情感进行分类。结果表明，在这项任务中，我们的HRCLE优于最新的国家的最先进的文本分类框架：BERT。我们结合BERT和HRCLE产生的结果，达到了0.7709的总成绩，在165支球队中排名第五。
2019-05-31 cs.CL cs.IR cs.LG
KEIS@JUST at SemEval-2020 Task 12: Identifying Multilingual Offensive Tweets Using Weighted Ensemble and Fine-Tuned BERT
Jordan University of Science and Technology（约旦科技大学）
这项研究介绍了我们的团队KEIS@JUST参与SemEval-2020任务12，该任务代表了多语言攻击性语言的共享任务。我们参与了所有子任务提供的所有语言，除了英语的子任务A。已经开发了两种主要方法，第一种是处理阿拉伯语和英语两种语言，加权集成包括Bi-GRU和CNN，然后是高斯噪声和全局池化层乘以权重以提高整体性能。第二种是对其他语言进行的，除了循环神经网络（如Bi-LSTM和Bi-GRU）之外，还从BERT进行了迁移学习，然后是全局平均池化层。词嵌入和上下文嵌入已被用作特征，此外，数据增强仅用于阿拉伯语。
2020-05-15 cs.CL cs.LG
Kungfupanda at SemEval-2020 Task 12: BERT-Based Multi-Task Learning for Offensive Language Detection
Center for Artificial Intelligence Research (CAiRE)（人工智能研究中心）；The Hong Kong University of Science and Technology（香港科技大学）
如今，社交媒体中的攻击性内容已成为一个严重的问题，自动检测攻击性语言是一项必不可少的任务。在本文中，我们建立了一个攻击性语言检测系统，它结合了多任务学习和基于BERT的模型。使用预先训练的语言模型，如BERT，我们可以有效地学习社交媒体中嘈杂文本的表示。此外，为了提高攻击性语言检测的性能，我们利用了其他相关任务的监督信号。在OffensEval-2020竞赛中，我们的模型在英语子任务A中获得了91.51%F1的分数，与第一名（92.23%F1）相当。最后，通过实证分析，说明了本文方法的有效性.
2020-07-20 cs.CL cs.LG
ReCAM@IITK at SemEval-2021 Task 4: BERT and ALBERT based Ensemble for Abstract Word Prediction
Indian Institute of Technology Kanpur（坎普尔印度理工学院）
本文介绍了我们的系统SemEval-2021的任务4：阅读理解的抽象意义（ReCAM）。我们参与了所有的子任务，主要目标是预测一个陈述中缺少的抽象词。我们微调了预先训练的掩蔽语言模型，即BERT和AL BERT，并将其作为我们在子任务1（ReCAM-不可感知性）和子任务2（ReCAM-非特异性）上提交的系统。对于子任务3（ReCAM-Intersection），我们提交了ALBERT模型，因为它给出了最好的结果。我们尝试了多种方法，发现基于Masked Language Modeling（MLM）的方法效果最好。
2021-04-04 cs.AI cs.CL cs.LG
UPB at SemEval-2020 Task 12: Multilingual Offensive Language Detection on Social Media by Fine-tuning a Variety of BERT-based Models
University Politehnica of Bucharest（布加勒斯特理工大学）
攻击性语言检测是自然语言处理领域中最具挑战性的问题之一，这是由于在线社交媒体中这种现象的不断增加而引起的。本文描述了我们基于transformer的解决方案，用于识别Twitter上五种语言的攻击性语言（即，英语、阿拉伯语、丹麦语、希腊语和土耳其语），用于Offenseval 2020共享任务的子任务A。几种神经架构（即，BERT、mBERT、Roberta、XLM-Roberta和ALBERT），使用单语言和多语言语料库进行预训练，使用多种数据集组合进行微调和比较。最后，得分最高的模型被用于我们在比赛中提交的作品，我们的团队在英语、阿拉伯语、丹麦语、希腊语和土耳其语中分别排名85位中的第21位、53位中的第28位、39位中的第19位、37位中的第16位和46位中的第10位。
2020-10-27 cs.CL cs.LG
NLRG at SemEval-2021 Task 5: Toxic Spans Detection Leveraging BERT-based Token Classification and Span Prediction Techniques
BITS Pilani（Pilani校区）；Pune University（浦那大学）；UNC-Greensboro（北卡罗来纳大学格林斯伯勒分校）
文本的毒性检测是近年来自然语言处理的一个热门课题。在SemEval-2021任务-5毒性跨度检测中，重点是检测通道内的毒性跨度。大多数最先进的跨度检测方法采用各种技术，其中的每一种可以大致分为令牌分类或跨度预测方法。在我们的论文中，我们探讨了这两种方法的简单版本及其在任务中的表现。具体地说，我们使用基于BERT的模型-- BERT、RoBERTa和Span BERT。我们还结合这些方法并对其进行修改，以改进毒性跨度预测。为此，我们调查结果的四种混合方法-多跨度，跨度+令牌，LSTM-CRF，并结合预测偏移使用工会/交集。此外，我们进行了彻底的消融分析和分析我们观察到的结果。我们最好的提交-SpanBERT Span Predictor和RoBERTa Token Classifier预测的组合-在测试集上获得了0.6753的F1分数。我们最好的评估后F1分数是0.6895，来自前3个RoBERTa令牌分类检查点的预测偏移量的交叉点。这些方法比共享基线模型RNNSL和SpaCy NER的性能平均提高了3%。
2021-06-26 cs.CL cs.LG
UCAS-IIE-NLP at SemEval-2023 Task 12: Enhancing Generalization of Multilingual BERT for Low-resource Sentiment Analysis
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对非洲低资源语言情感分析中数据稀缺问题，提出 SACL-XLMR，结合基于词典的多语言 BERT 与有监督对抗对比学习，在 SemEval-2023 零样本子任务中排名第一。
2023-06-01 cs.AI cs.CL
CS-NET at SemEval-2020 Task 4: Siamese BERT for ComVE
Indian Institute of Technology Kanpur (IITK)（印度理工学院坎普尔分校）
在本文中，我们描述了SemEval 2020任务4的系统，其中涉及区分符合常识的自然语言语句和不符合常识的语句。组织者提出了三个子任务-第一，在两个句子中选择，一个是违反常识的。第二，找出一个陈述没有意义的最关键原因。第三，为解释违反常识的陈述创造新的理由。在这三个子任务中，本文给出了子任务A和子任务B的系统描述。提出了一种基于Transformer神经网络结构的子任务求解模型。作品的新颖之处在于架构设计，它处理了矛盾陈述的逻辑含义，并同时从两个句子中提取信息抽取。我们使用一个Transformers的并行实例，它负责提升性能。在测试集上，我们在子任务A和子任务B中分别实现了94.8%和89%的准确率。
2020-07-21 cs.CL cs.LG
Harvey Mudd College at SemEval-2019 Task 4: The Clint Buchanan Hyperpartisan News Detector
Harvey Mudd College（哈维穆德学院）
我们研究了最近开发的双向编码器表示从Transformers（BERT）模型的超党派新闻检测任务。使用SemEval中手工标记文章的子集作为验证集，我们测试了BERT模型的不同参数的性能。我们发现，使用不同比例的文章的两个不同的BERT模型的准确率始终很高，我们在验证集上表现最好的模型达到85%的准确率，在测试集上表现最好的模型达到77%。我们进一步确定，我们的模型具有很强的一致性，对同一篇文章的独立切片进行相同的标记。最后，我们发现，随机化的单词片段的顺序大大降低了验证的准确性（约60%），但洗牌组的四个或更多的单词片段保持约80%的准确性，这表明该模型主要从本地上下文中获得价值。
2019-04-10 cs.CL cs.LG
GUIR at SemEval-2020 Task 12: Domain-Tuned Contextualized Models for Offensive Language Detection
Information Retrieval Lab（信息检索实验室）；Georgetown University（乔治城大学）
攻击性语言检测是自然语言处理中一个重要而又具有挑战性的课题。我们提交了我们的意见，以OffensEval 2020共享任务，其中包括三个英语子任务：识别攻击性语言的存在（子任务A），识别攻击性语言中目标的存在（子任务B），以及识别目标的类别（子任务C）。我们的实验探索使用域调优的语境化语言模型（即，BERT）的这项任务。我们还试验了不同的组件和配置（例如，多视图SVM）堆叠在用于特定子任务的BERT模型上。我们提交的F1分数在子任务A中为91.7%，在子任务B中为66.5%，在子任务C中为63.2%。我们进行了消融研究表明，域调整大大提高了分类性能。此外，错误分析显示了我们的模型所造成的常见错误分类错误，并概述了未来的研究方向。
2020-07-28 cs.CL
BigGreen at SemEval-2021 Task 1: Lexical Complexity Prediction with Assembly Models
Dartmouth College（达特茅斯学院）
本文描述了BigGreen团队提交给LCP 2021的一个系统，用于预测给定上下文中英语单词的词汇复杂度。我们将基于特征工程的模型与基于BERT的深度神经网络模型组装在一起。虽然BERT本身具有竞争力，但我们基于特征工程的模型在极端情况下有所帮助，例如。区分简单和中性难度的实例。我们手工制作的功能包括广泛的词汇、语义、语法和新颖的语音措施。BERT注意力图的可视化提供了对Transformers模型在为词汇复杂度预测进行微调时可能学习的潜在特征的深入了解。我们的集成预测得分相当不错的单字子任务，我们展示了如何利用它们来表现好多字表达子任务。
2021-04-19 cs.AI cs.CL
YNU-HPCC at SemEval-2020 Task 11: LSTM Network for Detection of Propaganda Techniques in News Articles
本文总结了我们在SemEval-2020任务11中对新闻文章宣传检测技术的研究。此任务分为SI和TC子任务。我们实现了GloVe单词表示、BERT预训练模型和LSTM模型架构来完成这项任务。我们的方法在SI和TC子任务上都取得了很好的效果。SI子任务的宏观F1分数为0.406，TC子任务的微观F1分数为0.505。我们的方法显著优于官方发布的基线方法，SI和TC子任务分别在测试集上排名第17位和第22位。本文还比较了不同深度学习模型架构（如Bi-LSTM、LSTM、BERT和XGBoost模型）在检测新闻推广技术方面的性能。本文的代码可在https://github.com/daojiaxu/semeval_11上获得。
2020-08-25 cs.CL cs.IR
MIPT-NSU-UTMN at SemEval-2021 Task 5: Ensembling Learning with Pre-trained Language Models for Toxic Spans Detection
本文介绍了我们的系统SemEval-2021任务5有毒跨度检测。我们使用基于BERT的神经架构和后处理来开发集成模型，以将令牌组合成跨度。我们使用各种集成技术评估了几种预训练的语言模型，用于有毒跨度识别，并在我们的基线微调BERT模型上取得了相当大的改进。最后，我们的系统在测试数据上获得了67.55%的F1分数。
2021-04-10 cs.AI cs.CL cs.IR
NLU-STR at SemEval-2024 Task 1: Generative-based Augmentation and Encoder-based Scoring for Semantic Textual Relatedness
Birzeit University（比尔宰特大学）
本文提出结合生成式数据增强与基于 BERT 的回归评分和余弦相似度方法，在 SemRel-2024 语义文本相关性任务中处理阿拉伯语及方言，并在现代标准阿拉伯语赛道取得第一名。
2024-05-01 cs.CL
NLP at UC Santa Cruz at SemEval-2024 Task 5: Legal Answer Validation using Few-Shot Multi-Choice QA
Baskin School of Engineering（巴斯金工程学院）；University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）
本文针对SemEval-2024法律答案验证任务，提出微调BERT领域模型和GPT少样本多项选择问答重构两种方法，最佳模型在20队中排名第7。
2024-04-04 cs.AI cs.CL
problemConquero at SemEval-2020 Task 12: Transformer and Soft label-based approaches
Indian Institute of Technology Kanpur (IITK)（印度理工学院坎普尔分校）
在本文中，我们介绍了我们的团队problemConquero为SemEval-2020提交的各种系统共享任务12社交媒体中的多语言攻击性语言识别。我们参与了OffensEval-2020的所有三个子任务，我们在评估阶段的最终提交包括基于transformer的方法和基于软标签的方法。为子任务A（攻击性推文识别）的每种语言提交基于BERT的微调模型。提出了基于RoberTa的子任务B（犯罪类型自动分类）的微调模型。我们为子任务C（攻击目标识别）提交了两个模型，一个使用软标签，另一个使用基于BERT的微调模型。我们在子任务A中的排名是希腊语-37人中有19人，土耳其语-46人中有22人，丹麦语-39人中有26人，阿拉伯语-53人中有39人，英语-85人中有20人。我们在子任务B的43个任务中获得了28分。使用基于BERT的微调模型，子任务C的最佳排名为39分中的20分。
2020-07-21 cs.CL cs.LG
PUM at SemEval-2020 Task 12: Aggregation of Transformer-based models' features for offensive language recognition
Poznan University of Technology（波兹南理工大学）
在本文中，我们描述了PUM团队参加SemEval-2020任务12的情况。创建我们的解决方案涉及利用自然语言处理中使用的两个著名的预训练模型：BERT和XLNet，它们在多个NLP任务中实现了最先进的结果。这些模型分别针对每个子任务进行了微调，从隐藏层中提取的特征被组合起来，并输入到一个完全连接的神经网络中。该模型使用聚合的Transformer特征，可以作为一个强大的工具，攻击性语言识别问题。我们的团队在子任务C -进攻目标识别中排名第7，宏观F1得分为64.727%，在子任务A -进攻语言识别中排名第64，得分为89.726%。
2020-10-05 cs.CL
UIUC_BioNLP at SemEval-2021 Task 11: A Cascade of Neural Models for Structuring Scholarly NLP Contributions
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们提出了一个级联的神经模型，执行句子分类，短语识别和三重提取，以自动构建NLP出版物的学术贡献。为了识别论文中最重要的贡献句子，我们使用了一个基于BERT的位置特征分类器（子任务1）。使用BERT-CRF模型识别和表征投稿句中的相关短语（子任务2）。我们根据它们的元素是否以及如何在文本中表达将三元组分为几种类型，并使用单独的基于BERT的分类器和规则来处理每种类型（子任务3）。我们的系统在第一阶段评估中正式排名第二，在第二阶段评估的两个部分中排名第一。在修复了Pharse 1中的提交错误后，我们的方法总体上产生了最好的结果。在本文中，除了系统描述，我们还提供了我们的结果进一步分析，突出其优势和局限性。我们在https://github.com/Liu-Hy/nlp-contrib-graph上公开发布我们的代码。
2021-05-12 cs.CL cs.IR
HausaNLP at SemEval-2023 Task 12: Leveraging African Low Resource TweetData for Sentiment Analysis
Kaduna State University（卡杜纳州立大学）；University of Bucharest（布加勒斯特大学）；University of Abuja（阿布贾大学）；Nile University（尼罗河大学）；Universiti Teknologi PETRONAS（马来西亚石油科技大学）；Bayero University Kano（卡诺贝罗大学）；Shehu Shagari College of Education（谢胡·沙加里教育学院）；Ahmadu Bello University, Zaria（扎里亚艾哈迈德·贝罗大学）；HausaNLP（豪萨语自然语言处理研究组）
该研究面向 14 种低资源非洲语言，评估多种预训练语言模型在 SemEval-2023 情感分析三个子任务上的表现，发现 Afro-xlmr-large 整体最优，且数据量更大的 Hausa、Igbo 和 Yoruba 性能更好。
2023-04-26 cs.CL
CyberWallE at SemEval-2020 Task 11: An Analysis of Feature Engineering for Ensemble Models for Propaganda Detection
Seminar für Sprachwissenschaft（语言学系）；Eberhard Karls Universität Tübingen（蒂宾根大学）
本文介绍了我们参与SemEval-2020任务检测新闻文章中的宣传技巧。我们参与两个子任务：跨度识别（SI）和技术分类（TC）。我们在SI子任务中使用双LSTM架构，并为TC子任务训练复杂的集成模型。我们的架构是使用来自BERT的嵌入并结合额外的词汇特征和广泛的标签后处理来构建的。我们的系统在SI子任务（F1分数：43.86%）和TC子任务（F1分数：57.37%）中的31支球队中的8支球队中实现了排名。
2020-08-22 cs.CL cs.LG
YNU-HPCC at SemEval-2025 Task 11: Bridging the Gap in Text-Based Emotion Using Multiple Prediction Headers
Yunnan University（云南大学）
YNU-HPCC 团队在 SemEval-2025 任务 11 中采用 RoBERTa 模型，通过改进输出头并翻译数据集，实现了 0.44 的官方分数，并发现单预测头与统一英文训练更优。
2026-09-18 cs.AI cs.CL
Adapt or Get Left Behind: Domain Adaptation through BERT Language Model Finetuning for Aspect-Target Sentiment Classification
广告目标情感分类（ATSC）是基于广告的情感分析（ABSA）的子任务，ABSA具有许多应用，例如在电子商务中，可以利用来自评论的数据和见解为企业和客户创造价值。最近，深度迁移学习方法已成功应用于无数的自然语言处理（NLP）任务，包括ATSC。在突出的BERT语言模型的基础上，我们使用两步过程来实现ATSC：自监督特定领域的BERT语言模型微调，然后是监督特定任务的微调。我们关于如何最好地利用特定领域语言模型微调的研究结果使我们能够在SemEval 2014任务4餐馆数据集上产生新的最先进的性能。此外，为了探索我们的模型在现实世界中的鲁棒性，我们进行了跨域评估。我们表明，跨域适应BERT语言模型的性能显着优于强大的基线模型，如香草BERT-base和XLNet-base。最后，我们进行了一个案例研究来解释模型的预测误差。
2019-11-19 cs.CL
TUM-MiKaNi at SemEval-2025 Task 3: Towards Multilingual and Knowledge-Aware Non-factual Hallucination Identification
本文针对 LLM 幻觉研究多集中于英语的问题，提出结合 Wikipedia 检索式事实核查与微调 BERT 的两部分流水线，在 SemEval-2025 Mu-SHROOM 多语言任务中于八种语言进入前十，并支持超出任务范围的更多语言。
2025-07-01 cs.AI cs.CL
