IKDSumm: Incorporating Key-phrases into BERT for extractive Disaster Tweet Summarization
Indian Institute of Technology Patna（印度理工学院巴特那分校）；University of Tartu（塔尔图大学）
本文提出灾难推文摘要框架IKDSumm，通过利用灾难领域本体知识自动提取关键短语并融入BERT，在无人工干预下提升摘要质量，在12个数据集上ROUGE-N F1分数较8种先进方法提升约2-79%。
2023-05-19 cs.CL cs.SI
Comparative Analysis of Transformer Models in Disaster Tweet Classification for Public Safety
Department of Computer Science（计算机科学系）；University of Alabama at Birmingham（阿拉巴马大学伯明翰分校）
本文比较了BERT、DistilBERT、RoBERTa和DeBERTa等Transformer模型在灾难推文分类中的性能，发现BERT准确率最高，显著优于传统机器学习模型，展示了Transformer在公共安全应用中的优势。
2025-09-08 cs.AI cs.CL
Dartmouth CS at WNUT-2020 Task 2: Informative COVID-19 Tweet Classification Using BERT
Dartmouth College（达特茅斯学院）
我们描述了为WNUT-2020共享任务2开发的系统，即识别信息丰富的COVID-19英语推文。BERT是一种高性能的自然语言处理模型。我们通过微调BERT并将其嵌入与推文特定特征相连接，并训练支持向量机（SVM）进行分类（以下称为BERT+），提高了BERT在此分类任务中的性能。我们将其性能与一套机器学习模型进行了比较。我们使用Twitter特定的数据清洗管道和单词级TF-IDF来提取非BERT模型的特征。BERT+是表现最好的模型，F1得分为0.8713。
2020-12-07 cs.CL cs.LG
HUMAID-NER: A Disaster Tweet Dataset for Joint Named Entity Recognition and Event Classification via Uncertainty-Weighted Multitask Learning
University of Sindh（信德大学）；Mehran University of Engineering & Technology（迈赫兰工程技术大学）
该研究提出HUMAID-NER数据集及不确定性加权多任务学习框架，联合进行灾难推文命名实体识别与事件分类，在验证集上分别达到0.841和0.761的F1分数。
2026-09-16 cs.CL cs.LG
Sarcasm Detection in Tweets with BERT and GloVe Embeddings
National Institute of Technology Karnataka, Surathkal（国家理工学院卡纳塔克分校，苏拉特卡尔）
本文针对推文讽刺检测问题，提出结合BERT与GloVe嵌入并利用用户反应上下文及回复内容的机器学习方法，以应对讽刺表达的歧义性。
2020-06-20 cs.CL cs.LG
Tweets Under the Rubble: Detection of Messages Calling for Help in Earthquake Disaster
Aselsan Research Center（阿瑟尔桑研究中心）
2023年土耳其和叙利亚地震的悲剧再次暴露了社交媒体的重要性。许多被困在废墟下的受害者通过在Twitter上发布消息寻求帮助。我们提出了一个交互式工具，为失踪和被困人员提供情况感知，并为救援和捐赠工作提供救灾。该系统（i）收集推文，（ii）对求助的推文进行分类，（iii）提取重要的实体标签，以及（iv）在交互式地图屏幕中将它们可视化。我们的初步实验表明，在F1分数方面的性能是高达98.30的推文分类，和84.32的实体提取。可以在https://github.com/avaapm/deprem上访问演示、数据集和其他相关文件
2023-02-26 cs.CL cs.IR cs.SI
ADSumm: Annotated Ground-truth Summary Datasets for Disaster Tweet Summarization
Indian Institute of Technology Patna（印度理工学院巴特那分校）；University of Tartu（塔尔图大学）
针对灾害推文监督摘要缺乏训练与评估数据的问题，本文构建 ADSumm，为八国来源中的八类自然灾害和人为灾害事件提供带标注真实摘要、类别/相关性标签及关键短语，并使 ROUGE-N F1 提升 8%–28%。
2024-05-10 cs.CL cs.SI
Keyphrase Extraction from Disaster-related Tweets
Kansas State University（堪萨斯州立大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
虽然关键词提取近年来受到了相当大的关注，但从Twitter等社交媒体平台提取关键词的研究相对较少，从这些来源提取与灾害相关的关键词的研究更少。在灾难期间，关键词对于过滤相关推文非常有用，可以增强态势感知。此前，针对关键字发现和关键词提取的堆叠递归神经网络的两个不同层的联合训练已被证明在从一般Twitter数据中提取关键词方面是有效的。我们提高了模型的性能，一般的Twitter数据和灾害相关的Twitter数据，将上下文词嵌入，POS标签，语音和音韵特征。此外，我们讨论了经常使用的F1-措施的缺点，用于评估预测的关键词的质量相对于地面实况注释。我们建议使用基于嵌入的指标来更好地捕获预测关键词的正确性，而不是F1度量。此外，我们还提出了一种新的扩展的嵌入为基础的度量。该扩展允许更好地控制地面实况和预测关键词数量差异的惩罚
2019-10-17 cs.CL cs.IR cs.LG
Active Learning for Identifying Disaster-Related Tweets: A Comparison with Keyword Filtering and Generic Fine-Tuning
University of Salzburg（萨尔茨堡大学）；Harvard University（哈佛大学）
本研究针对社交媒体灾害相关推文识别难题，对比主动学习、关键词过滤、通用微调等方法，发现通用微调结合10轮主动学习效果最优，可低标注成本训练出通用的灾害推文识别模型。
2024-08-19 cs.CL cs.LG
Semi-supervised Discovery of Informative Tweets During the Emerging Disasters
Temple University（天普大学）
在新出现的灾害期间，有效利用Twitter等微博客服务了解情况的第一个目标是发现与灾害有关的帖子。考虑到可能发生的灾难范围很广，使用预先选择的一组与灾难相关的关键字来进行发现是不理想的。我们在这项工作中关注的另一种选择是使用一小组标记的帖子来训练分类器，这些帖子在灾难出现时变得可用。我们的假设是，利用大量的历史微博可以提高分类的质量，相比只训练分类器的标记数据。我们建议使用未标记的微博聚类词到一个有限数量的集群，并使用词集群作为特征进行分类。为了评估所提出的半监督方法，我们使用了来自6种不同灾害的Twitter数据。我们的研究结果表明，当标记的推文的数量是100或更少，所提出的方法是优于基于袋或词的特征表示的标准分类。我们的研究结果还表明，未标记语料库的选择，词聚类算法的选择，以及超参数的选择可以有显着的分类精度的影响。
2016-10-12 cs.CL cs.SI
Efficacy of BERT embeddings on predicting disaster from Twitter data
Temple University（天普大学）
像Twitter这样的社交媒体提供了一个共同的平台，可以与其他人分享和交流个人经历。人们经常在社交媒体上发布他们的生活经历，当地新闻和事件，以告知他人。许多救援机构定期监测这类数据，以识别灾害并降低生命风险。然而，人类不可能手动检查大量数据并实时识别灾难。为了这个目的，已经提出了许多研究工作，以机器可理解的表示来呈现单词，并在单词表示上应用机器学习方法来识别文本的情感。以前的研究方法提供了一个单一的表示或嵌入一个词从一个给定的文档。然而，最近提出的高级上下文嵌入方法（BERT）在不同的上下文中为同一个词构造不同的向量。BERT嵌入已成功用于不同的自然语言处理（NLP）任务，但还没有具体分析这些表示如何有助于灾难类型的推文分析。在这项研究工作中，我们探讨了BERT嵌入的Twitter数据预测灾难的功效，并将其与传统的上下文无关的词嵌入方法（GloVe，Skip-gram和FastText）进行了比较。为此，我们使用传统的机器学习方法和深度学习方法。我们为这项研究提供了定量和定性的结果。实验结果表明，与传统的词嵌入方法相比，BERT嵌入方法在灾害预测中具有更好的效果。我们的代码是免费提供给研究界。
2021-08-08 cs.CL cs.LG
Pre-Training BERT on Arabic Tweets: Practical Considerations
Qatar Computing Research Institute（卡塔尔计算研究所）；HBKU（卡塔尔哈马德·本·哈利法大学）
为下游NLP任务预训练来自Transformers的双向编码器表示（BERT）是一项非常重要的任务。我们预训练了5个BERT模型，这些模型在训练集的大小、正式和非正式阿拉伯语的混合以及语言预处理方面有所不同。所有这些都旨在支持阿拉伯方言和社交媒体。实验突出了数据多样性的中心地位和语言感知分割的有效性。他们还强调，更多的数据或更多的训练步骤并不需要更好的模型。我们的新模型在多个下游任务上实现了新的最先进的结果。由此产生的模型以QARiB的名义发布给社区。
2021-02-21 cs.AI cs.CL
Weakly-supervised Fine-grained Event Recognition on Social Media Texts for Disaster Management
Texas A&M University（得克萨斯农工大学）；Princeton University（普林斯顿大学）
人们越来越多地使用社交媒体来报告紧急情况、寻求帮助或在灾害期间分享信息，这使得社交网络成为灾害管理的重要工具。为了满足这些时间紧迫的需求，我们提出了一种弱监督的方法，用于快速构建高质量的分类器，这些分类器使用细粒度的事件类别标记每个单独的Twitter消息。最重要的是，我们提出了一种新的方法来创建高质量的标记数据，以及时的方式，自动集群的推文包含一个事件的关键字，并要求一个领域的专家，以消除歧义的事件词义和标签集群迅速。此外，处理非常嘈杂，往往是相当短的用户生成的消息，我们丰富的推文表示使用之前的上下文推文和回复推文在建设事件识别分类。对两次飓风哈维和佛罗伦萨的评估表明，仅使用1-2人小时的人工监督，快速训练的弱监督分类器优于使用超过50人小时创建的一万多条注释推文训练的监督分类器。
2020-10-04 cs.CL
Classifying Tweet Sentiment Using the Hidden State and Attention Matrix of a Fine-tuned BERTweet Model
ETH Zürich（苏黎世联邦理工学院）
本文介绍了一种推文情感分类的研究。我们的任务是将推文分类为积极或消极。我们分两步来处理这个问题，即嵌入和分类。我们的基线方法包括传统嵌入方法和分类算法的几种组合。此外，我们探讨了目前最先进的推文分析模型，BERTweet，并提出了一种新的方法，其中功能工程的隐藏状态和注意力矩阵的模型，灵感来自经验研究的推文。使用一个多层感知器训练与高辍学率的分类，我们提出的方法实现了0.9111的验证精度。
2021-09-29 cs.CL
Emoji Prediction in Tweets using BERT
Fast Nuces（国立计算机与新兴科学大学）；Université Bretagne Sud（南布列塔尼大学）
针对社交媒体中表情符号歧义导致的含义预测难题，提出基于预训练语言模型BERT的Transformer预测方法，经大规模推文语料微调后准确率超75%，优于现有主流模型，可应用于多领域。
2023-08-26 cs.AI cs.CL
Semantic-based End-to-End Learning for Typhoon Intensity Prediction
Paderborn University（帕德博恩大学）
灾害预测是灾害监测和备灾的最关键任务之一。现有技术采用不同的机器学习方法来根据历史环境数据预测即将到来的灾害。但是，对于短期灾害（例如，地震），历史数据本身具有有限的预测能力。因此，需要额外的警告源来进行准确的预测。我们认为社交媒体是历史环境数据之外的补充知识来源。然而，社交媒体帖子（例如，tweets）是非常非正式的，只包含有限的内容。为了减轻这些限制，我们提出了语义丰富的词嵌入模型的组合来表示实体的tweets与他们的语义表示计算与traditionalword 2 vec。此外，我们研究了社交媒体帖子和台风强度（也称为强度）之间的相关性-就推文的数量和情绪而言-。基于这些见解，我们提出了一个基于端到端的框架，该框架从灾害相关的推文和环境数据中学习，以改善台风强度预测。本文是我们最初发表在K-CAP 2019 [32]上的工作的扩展。我们扩展了这篇论文，用最先进的深度神经模型构建了我们的框架，用新的台风及其推文更新了我们的数据集，并将我们的方法与最近的灾害预测基线进行了比较。我们的实验结果表明，我们的方法在F1分数方面优于最先进的基线的准确性，与上一次实验相比，（CNN和BiLSTM分别提高了12.1%和3.1
2020-08-11 cs.CL cs.LG stat.ML
Not-NUTs at W-NUT 2020 Task 2: A BERT-based System in Identifying Informative COVID-19 English Tweets
University of Washington（华盛顿大学）；University of Rochester（罗切斯特大学）
截至二零二零年，当COVID-19疫情在全球范围内全面爆发时，人们获取有关COVID-19的合法信息的需求比以往任何时候都更加迫切，尤其是通过在线媒体，大量无关信息掩盖了更有价值的信息。针对这种情况，我们提出了一个模型，该模型可以自动识别一条英文推文是否包含有关COVID-19的信息内容。通过整合不同的BERTweet模型配置，我们已经取得了有竞争力的结果，在信息类的F1得分方面，这些结果仅比表现最好的团队少大约1%。在比赛后的阶段，我们还尝试了各种其他方法，这些方法可能会提高对新数据集的泛化能力。
2020-09-14 cs.CL cs.IR cs.LG
QMUL-SDS at CheckThat! 2020: Determining COVID-19 Tweet Check-Worthiness Using an Enhanced CT-BERT with Numeric Expressions
Queen Mary University of London（伦敦玛丽女王大学）；Imam Abdulrahman bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·费萨尔大学）；University of Oxford（牛津大学）；University of Warwick（华威大学）；Alan Turing Institute（艾伦·图灵研究所）
本文介绍了QMUL-SDS团队参与CLEF 2020 CheckThat！共享任务。此任务的目的是确定有关COVID-19的推文的检查价值，以识别需要事实检查的推文并对其进行优先排序。总体目标是进一步支持正在进行的努力，以保护公众免受假新闻的影响，并帮助人们找到可靠的信息。我们描述和分析我们提交的结果。我们表明，使用COVID-Twitter-BERT（CT-BERT）增强数值表达式的CNN可以有效地提高基线结果的性能。我们还显示了训练数据增强与其他主题的谣言的结果。我们最好的系统在任务中排名第四，令人鼓舞的结果显示出未来改进结果的潜力。
2020-08-30 cs.CL cs.LG cs.SI
BERTweetFR : Domain Adaptation of Pre-Trained Language Models for French Tweets
École Polytechnique（巴黎综合理工学院）；Shanghai Jiao Tong University（上海交通大学）
我们引入BERTweetFR，这是第一个针对法语推文的大规模预训练语言模型。我们的模型初始化使用通用领域的法语语言模型CamemBERT，它遵循的基础架构的RoBERTa。实验表明，BERTweetFR在攻击性识别和命名实体识别两个下游Twitter NLP任务上的性能优于所有以前的通用领域法语语言模型。攻击性检测任务中使用的数据集首先由我们的团队创建和注释，填补了法语分析数据集的空白。我们使我们的模型在Transformers库中公开提供，目的是促进未来的研究分析任务的法国推文。
2021-09-21 cs.CL
Transformer-based Multi-task Learning for Disaster Tweet Categorisation
University College Dublin（都柏林大学学院）
社交媒体使人们能够及时传播信息，从而激励人们在危机局势中发布寻求帮助的信息。这些消息可以有助于紧急响应者的态势感知，他们需要根据信息类型（即消息请求的援助服务类型）对它们进行分类。我们介绍了一种基于transformer的多任务学习（MTL）技术，用于对信息类型进行分类并估计这些消息的优先级。我们通过向TREC Incident Streams（IS）轨道提交运行来评估我们方法的有效性：这是一项专门为灾难推文分类和优先级排序而设计的研究计划。结果表明，我们的方法实现了竞争力的性能，在大多数指标相比，其他参与运行。随后，我们发现，在我们的方法中结合不同的Transformer编码器的集成方法有助于在很大程度上提高整体有效性，几乎在每个指标上都实现了最先进的性能。我们将代码公开，以便我们的工作可以被复制，并用作该领域未来工作的社区基线。
2021-10-15 cs.CL
Language Identification of Hindi-English tweets using code-mixed BERT
Jamia Millia Islamia（贾米亚·米利亚伊斯兰大学）；Aligarh Muslim University（阿里加尔穆斯林大学）
社交媒体文本的语言识别近年来一直是一个有趣的研究问题。社交媒体信息主要是在非英语国家混合的代码。通过预训练上下文嵌入的现有知识已经显示了一系列下游任务的最新结果。最近，诸如BERT之类的模型已经表明，使用大量未标记的数据，预训练的语言模型对于学习公共语言表示更加有益。本文提出了利用迁移学习和微调BERT模型来识别Twitter上的语言的广泛实验。这项工作利用了一个数据汇集的印地语-英语-乌尔都语代码混合文本的语言预训练和印地语-英语代码混合为随后的词级语言分类。结果表明，在混合数据上预训练的表示产生更好的结果，由他们的单语对应。
2021-07-02 cs.CL cs.LG
MeisterMorxrc at SemEval-2020 Task 9: Fine-Tune Bert and Multitask Learning for Sentiment Analysis of Code-Mixed Tweets
Tianjin University（天津大学）
自然语言处理（NLP）已经应用于包括文本分类和情感分析的各种领域。在SemEval-2020竞赛\cite{patwa2020sentimix}的一部分代码混合推文的情感分析共享任务中，我们通过替换表情符号和删除不常见字符等来预处理数据集，然后微调来自Transformers（BERT）的双向编码器表示以获得最佳性能。在用尽top3提交，我们的团队MeisterMorxrc达到平均F1得分0.730在这个任务中，和我们的codalab用户名是MeisterMorxrc.
2020-12-15 cs.CL
Contrastive News and Social Media Linking using BERT for Articles and Tweets across Dual Platforms
University of Warsaw（华沙大学）；MIM Solutions（MIM解决方案公司）；University of Amsterdam（阿姆斯特丹大学）；Warsaw University of Technology（华沙理工大学）；IDEAS NCBR（IDEAS国家计算机科学研究中心）
针对推文与新闻关联的难题，本文提出基于预训练BERT的对比学习方法CATBERT，在俄乌战争相关多语言数据集上表现优于传统方法和OpenAI嵌入方法，还验证了其在推文级联主题查找任务中的性能。
2023-12-11 cs.CL cs.LG
Traditional Machine Learning Models and Bidirectional Encoder Representations From Transformer (BERT)-Based Automatic Classification of Tweets About Eating Disorders: Algorithm Development and Validation Study
University of León（莱昂大学）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；Spanish National University for Distance Education（西班牙国家远程教育大学）
本研究收集三个月内105万条饮食失调推文，用传统机器学习与BERT等深度学习模型分类，发现基于变换器的模型F1分数最高（71.1%-86.4%），但计算资源消耗更大。
2024-02-08 cs.CL cs.LG
A Lightweight LLM Framework for Disaster Humanitarian Information Classification
Department of Civil, Architectural & Environment Engineering, Sungkyunkwan University（苏州市立大学土木、建筑与环境工程系）；School of Geography, University of Leeds（利兹大学地理学院）
本文提出轻量级LLM框架，通过参数高效微调实现灾难推文的人道主义信息分类和事件类型识别，展示LoRA和QLoRA在资源受限环境下的高效性能。
2026-01-21 cs.AI cs.CL cs.LG
Emotion Detection From Tweets Using a BERT and SVM Ensemble Model
The Military Technical Academy “Ferdinand I” of Bucharest（布加勒斯特“斐迪南一世”军事技术学院）
自动识别Twitter数据中表达的情绪具有广泛的应用。我们通过向由四种情绪组成的基准数据集添加一个中性类来创建一个平衡良好的数据集：恐惧，悲伤，喜悦和愤怒。在这个扩展的数据集上，我们研究了使用支持向量机（SVM）和双向编码器表示从Transformers（BERT）的情感识别。我们提出了一种新的集成模型相结合的BERT和SVM模型。实验结果表明，该模型对推文中的情感识别达到了0.91的最高准确率。
2022-08-09 cs.CL
RweetMiner: Automatic identification and categorization of help requests on twitter during disasters
Kyung Hee University（庆熙大学）；National University of Sciences and Technology (NUST)（国立科技大学（NUST））；Qatar Computing Research Institute (QCRI)（卡塔尔计算研究所（QCRI））
灾难性事件给人道主义组织寻找受灾民众并向其提供援助造成了不确定的局面。许多人在灾难期间转向社交媒体请求帮助和/或向他人提供救济。然而，大多数寻求帮助的社交媒体帖子无法被正确检测到，并且仍然被隐藏，因为它们通常是嘈杂和不规范的。现有的系统缺乏规划一个有效的策略，推文预处理和把握推文的上下文。这项研究，首先，正式定义请求推文的背景下，社交网站，以下rweets，以及他们不同的主要类型和子类型。我们的主要贡献是识别和分类的rweets。对于rweet识别，我们采用了两种方法，即基于规则和逻辑回归，并显示其高精度和F1分数。使用逻辑回归将rweets分类为医疗，食品和住所等子类型，显示了有希望的结果，并且优于现有的工作。最后，我们引入了一个架构来存储中间数据，以加速机器学习分类器的开发过程。
2023-03-04 cs.AI cs.CL
Detection of Increased Time Intervals of Anti-Vaccine Tweets for COVID-19 Vaccine with BERT Model
对抗COVID-19最有效的解决方案是开发各种疫苗。对疫苗的不信任会阻碍这种疗法的快速有效使用。表达社会思想的手段之一是社交媒体。确定社交媒体上反疫苗接种增加的时间间隔可以帮助机构确定用于打击反疫苗接种的策略。记录和跟踪每一条人工输入的推文将是低效的，因此需要各种自动化解决方案。在本研究中，使用了双向编码器表示Transformers（BERT）模型，这是一种基于深度学习的自然语言处理（NLP）模型。在一个1506条推文的数据集中，分为四个不同的类别：新闻，无关，反疫苗和疫苗支持者，该模型以5e-6的学习率训练了25个时期。为了确定反疫苗推文集中的时间间隔，通过使用训练模型确定了652840条推文所属的类别。可视化所确定类别随时间的变化，并确定可能导致变化的事件。作为模型训练的结果，在测试数据集中，f-得分为0.81，不同类别的AUC值分别为0.99，0.91，0.92，0.92。在这个模型中，与文献中的研究不同，设计了一个辅助系统，通过测量和可视化一段时间内反疫苗推文的频率，提供机构在确定其策略时可以使用的数据，不同于检测和审查此类推文。
2022-01-12 cs.CL cs.LG
Few-shot tweet detection in emerging disaster events
German Aerospace Center (DLR)（德国航空航天中心（DLR））
社交媒体来源可以在危机情况下提供关键信息，但发现相关信息并不是小事。到目前为止，方法的重点是所有类型危机或某些危机类型（如洪水）的通用检测模型。特定事件模型可以实现更集中的搜索区域，但为已经发生的危机收集数据和训练新模型的成本很高，而且可能需要太多时间才能迅速做出反应。作为折衷方案，手动收集少量示例消息是可行的。Few-Shot模型可以用少量的例子推广到看不见的类，并且不需要为每个事件重新训练。我们比较了Few-Shot方法（匹配网络和原型网络）如何执行此任务。由于这基本上是一个一类的问题，我们还演示了如何修改的一类版本的原型模型可以用于此应用程序。
2019-10-05 cs.CL cs.CY cs.LG
KEIS@JUST at SemEval-2020 Task 12: Identifying Multilingual Offensive Tweets Using Weighted Ensemble and Fine-Tuned BERT
Jordan University of Science and Technology（约旦科技大学）
这项研究介绍了我们的团队KEIS@JUST参与SemEval-2020任务12，该任务代表了多语言攻击性语言的共享任务。我们参与了所有子任务提供的所有语言，除了英语的子任务A。已经开发了两种主要方法，第一种是处理阿拉伯语和英语两种语言，加权集成包括Bi-GRU和CNN，然后是高斯噪声和全局池化层乘以权重以提高整体性能。第二种是对其他语言进行的，除了循环神经网络（如Bi-LSTM和Bi-GRU）之外，还从BERT进行了迁移学习，然后是全局平均池化层。词嵌入和上下文嵌入已被用作特征，此外，数据增强仅用于阿拉伯语。
2020-05-15 cs.CL cs.LG
RoBERTweet: A BERT Language Model for Romanian Tweets
National Institute for Research and Development in Informatics - ICI Bucharest（布加勒斯特国家信息学研发研究院（ICI布加勒斯特））；Faculty of Automatic Control and Computers, University Politehnica of Bucharest（布加勒斯特理工大学自动控制与计算机学院）
本研究提出首个基于罗马尼亚语推文训练的Transformer架构RoBERTweet（含基础、大型两个版本），使用2008-2022年全量罗马尼亚推文预训练，在三项推文NLP任务上优于现有通用及多语言模型，并开源模型与语料。
2023-06-11 cs.CL
Newswire versus Social Media for Disaster Response and Recovery
University of Houston（休斯顿大学）；University of Tehran（德黑兰大学）；Institute for Research in Fundamental Sciences (IPM)（基础科学研究所（IPM））
在灾害情况下，第一反应者需要迅速获得情况意识，并根据需要、可用资源和影响确定反应的优先次序。他们能仅仅依靠Twitter这样的数字媒体，或者仅仅依靠新闻专线，或者两者的结合吗？我们在2015年尼泊尔地震的背景下研究这个问题。因为新闻专线的文章比较长，有效的摘要可以帮助节省时间，但提供关键内容。我们评估了几种无监督摘要技术在捕获关键内容方面的有效性。我们提出了一种方法来链接写的推文由公众和新闻通讯社的文章，这样我们就可以比较他们的关键特征：及时性，推文是否出现早于其相应的新闻文章，和内容。一个新颖的想法是将相关推文视为匹配新闻文章的摘要并评估这些摘要。只要有可能，我们会同时进行定量和定性评估。我们的主要发现之一是，推特和新闻专线文章提供了互补的视角，形成了对灾害情况的整体看法。
2019-06-25 cs.CL cs.IR cs.SI
UM-IU@LING at SemEval-2019 Task 6: Identifying Offensive Tweets Using BERT and SVMs
University of Michigan（密歇根大学）；Indiana University（印第安纳大学）
本文描述了UM-IU@LING的SemEval 2019任务6的系统：OffensEval。我们采取混合方法来识别和分类社交媒体中的仇恨言论。在子任务A中，我们微调了一个基于BERT的分类器来检测推文中的滥用内容，在测试数据上获得了0.8136的宏观F1分数，从而在103个提交中排名第三。在子任务B和C中，我们使用了具有选定字符n-gram特征的线性SVM。对于子任务C，我们的系统可以识别滥用的目标，其宏观F1得分为0.5243，在65个提交中排名第27位。
2019-04-06 cs.CL
ATSumm: Auxiliary information enhanced approach for abstractive disaster Tweet Summarization with sparse training data
Indian Institute of Technology Patna（印度理工学院巴特那分校）；University of Tartu（塔尔图大学）
针对灾害推文摘要训练数据稀疏问题，本文提出ATSumm及AuxPGN模型，利用关键短语与重要性分数作为辅助信息，在13个数据集上显著优于10种基线方法。
2024-05-10 cs.CL cs.SI
AIR-JPMC@SMM4H'22: Classifying Self-Reported Intimate Partner Violence in Tweets with Multiple BERT-based Models
J.P. Morgan AI Research（摩根大通人工智能研究院）
本文介绍了我们提交的SMM 4 H 2022-关于Twitter上自我报告的亲密伴侣暴力分类的共享任务（英文）。这项任务的目标是准确地确定某条推文的内容是否表明有人报告了自己遭受亲密伴侣暴力的经历。提交的系统是五个RoBERTa模型的集合，每个模型由验证数据集上各自的F1分数加权。该系统的性能比基线高出13%，是该共享任务总体性能最好的系统。
2022-09-22 cs.CL
L3Cube-MahaHate: A Tweet-based Marathi Hate Speech Detection Dataset and BERT models
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（浦那L3Cube）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
社交媒体平台被许多人用来表达他们的想法和意见。然而，这些平台也助长了大量的仇恨和辱骂内容。因此，必须遏制仇恨言论在这些平台上的传播。在印度，马拉地语是广泛受众使用的最流行的语言之一。在这项工作中，我们提出了L3 Cube-MahaHate，第一个主要的仇恨语音数据集在马拉地语。数据集来自Twitter，手动注释。我们的数据集包括超过25000个不同的tweet标签分为四个主要类别，即仇恨，进攻，亵渎，而不是。我们提出了用于收集和注释数据的方法以及在此过程中面临的挑战。最后，我们使用基于CNN、LSTM和Transformers的深度学习模型来呈现基线分类结果。我们探索单语言和多语言的变体BERT像马哈BERT，IndicBERT，mBERT，和xlm-RoBERTa和单语言模型比他们的多语言同行表现得更好。MahaBERT模型在L3 Cube-MahaHate语料库上提供了最好的结果。数据和模型可在https://github.com/l3cube-pune/MarathiNLP上获得。
2022-05-22 cs.CL cs.LG
Gender prediction using limited Twitter Data
TNO（荷兰应用科学研究组织）
Transformer模型在各种NLP任务上表现出令人印象深刻的性能。现成的预训练模型可以针对特定的NLP分类任务进行微调，从而减少对大量额外训练数据的需求。然而，很少有研究涉及需要多少数据来精确地微调这种预先训练的Transformer模型，以及需要多少数据来进行精确预测。本文探讨了BERT（一种用于词嵌入的Transformer模型）在社交媒体性别预测中的可用性。法医应用包括检测性别混淆，例如在聊天室中男性冒充女性。一个荷兰BERT模型在荷兰Twitter数据集的不同样本上进行了微调，这些样本被标记为性别，每个人使用的推文数量不同。结果表明，微调BERT有助于良好的性别分类性能（80%F1）时，微调只有200鸣叫每个人。但是，当每个人只使用20条推文时，我们的分类器的性能并没有急剧下降（到70% F1）。这些结果表明，即使使用相对少量的数据，也可以对BERT进行微调，以准确帮助预测Twitter用户的性别，因此，可以根据少量的推文来确定性别。这为迅速发现性别问题开辟了业务前景。
2020-09-29 cs.AI cs.CL cs.LG
Classifying Text-Based Conspiracy Tweets related to COVID-19 using Contextualized Word Embeddings
Quaid-i-Azam University（奎德阿赞姆大学）
MediaEval 2022中的FakeNews任务调查了为COVID-19相关的阴谋推文分类寻找准确和高性能模型的挑战。本文采用BERT、ELMO及其组合进行特征提取，并以RandomForest作为分类器。结果表明，ELMO的性能略好于BERT，但他们在特征层的组合降低了性能。
2023-03-07 cs.CL cs.LG
NEU at WNUT-2020 Task 2: Data Augmentation To Tell BERT That Death Is Not Necessarily Informative
Northeastern University（东北大学）
全球数百万人在社交媒体平台上分享COVID-19相关信息。由于并非社交媒体上共享的所有信息都是有用的，因此用于识别信息性帖子的机器学习系统可以帮助用户找到相关信息。在本文中，我们为W-NUT 2020共享任务2：信息性COVID-19英语推文的识别提出了一个BERT分类器系统。此外，我们表明，BERT利用一些简单的信号来识别信息丰富的推文，并添加简单的模式，以无信息的推文大大降低了BERT的性能。特别是，简单地将10个死亡事件添加到开发集中的推文中，将BERT F1分数从92.63降低到7.28。我们还提出了一个简单的数据增强技术，有助于提高BERT分类器的鲁棒性和泛化能力。
2020-09-18 cs.CL cs.IR
Social Media Information Sharing for Natural Disaster Response
Texas State University（得克萨斯州立大学）
社交媒体已成为发布灾害相关信息的重要渠道，为政府和救援机构提供实时数据，以更好地进行灾害管理。然而，在这一领域的研究还没有得到足够的重视，提取有用的信息仍然是具有挑战性的。本文旨在通过挖掘和分析社会媒体数据，如公众对灾害响应的态度和公众在不同类型的灾害中对有针对性的救援物资的需求，以提高救灾效率。我们根据类型、持续时间和损害程度等属性关注不同的自然灾害，共包含41，993条推文。在本文中，公众感知定性评估人工分类的推文，其中包含的信息，如有针对性的救援物资的需求，灾害响应的满意度，和公众的恐惧。通过八个机器学习模型的定量分析，研究了公众对自然灾害的态度。为了更好地为决策者提供合适的模型，进行了基于计算时间和预测精度的机器学习模型的比较。研究了不同自然灾害期间公众舆论的变化，以及随着Twitter的不断发展，人们在面对同一类型自然灾害时使用社会媒体救灾的行为的演变。本文的结果表明了所提出的研究方法的可行性和有效性，并为救援机构提供了更好的灾害管理的见解。
2021-07-11 cs.CL cs.LG cs.SI
Classifying COVID-19 Related Tweets for Fake News Detection and Sentiment Analysis with BERT-based Models
Tlemcen University（特莱姆森大学）；Peoples' Friendship University of Russia (RUDN University)（俄罗斯人民友谊大学（RUDN大学））；Joint Institute for Nuclear Research（联合核研究所）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；University of Skövde（舍夫德大学）
本文介绍了团队“techno”在CERIST'22共享任务中，结合自然语言处理工具与预训练模型BERT，对COVID-19相关推文进行情感分析与假新闻检测，分别取得0.93和0.90的准确率。
2023-04-02 cs.CL
NutCracker at WNUT-2020 Task 2: Robustly Identifying Informative COVID-19 Tweets using Ensembling and Adversarial Training
Indian Institute of Technology (Indian School of Mines)（印度理工学院（印度矿业学院））
我们使用COVID-Twitter-BERT和RoBERTa模型进行实验，以识别信息丰富的COVID-19推文。我们进一步实验对抗训练，使我们的模型鲁棒。COVID-Twitter-BERT和RoBERTa的集合在WNUT-2020任务2的测试数据上获得了0.9096的F1分数（在阳性类别上），并在排行榜上排名第一。使用对抗训练训练的模型的集合也产生类似的结果。
2020-10-09 cs.CL cs.IR cs.LG
Two-Stage Classifier for COVID-19 Misinformation Detection Using BERT: a Study on Indonesian Tweets
自2020年初以来，COVID-19大流行在全球范围内造成了重大影响。这给社会带来了很多混乱，特别是由于通过社交媒体传播错误信息。虽然已经有几项研究与社交媒体数据中错误信息的检测有关，但大多数研究都集中在英语数据集上。在印度尼西亚，关于COVID-19错误信息检测的研究仍然很少。因此，通过这项研究，我们收集和注释印度尼西亚的数据集，并通过考虑推文的相关性来建立用于检测COVID-19错误信息的预测模型。数据集的构建是由一组注释者进行的，他们标记了推文数据的相关性和错误信息。在这项研究中，我们提出了两个阶段的分类器模型，使用IndoBERT预训练的语言模型的推文错误信息检测任务。我们还尝试了其他几种用于文本分类的基线模型。实验结果表明，将用于相关性预测的BERT序列分类器和用于错误信息检测的Bi-LSTM相结合，其准确率达到87.02%，优于其他机器学习模型。总体而言，BERT的利用有助于提高大多数预测模型的性能。我们以印度尼西亚语发布了高质量的COVID-19错误信息推文语料库，由高注释者间协议表示。
2022-06-30 cs.CL cs.SI
CrisisSense-LLM: Instruction Fine-Tuned Large Language Model for Multi-label Social Media Text Classification in Disaster Informatics
Texas A&M University（德克萨斯农工大学）；Rice University（莱斯大学）
针对灾害社交媒体文本分类中单标签模型的局限，提出指令微调LLM的CrisisSense-LLM方法，实现多标签分类，提升态势感知与应急响应能力。
2025-08-06 cs.AI cs.CL
Sexism Prediction in Spanish and English Tweets Using Monolingual and Multilingual BERT and Ensemble Models
Universitat Politècnica de València（瓦伦西亚理工大学）；Escola Politécnica da Universidade de São Paulo（圣保罗大学）
社交媒体的普及带来了仇恨言论和性别歧视等问题。识别和分类社交媒体中的性别歧视是非常相关的任务，因为它们将有助于建立一个更健康的社会环境。然而，这些任务相当具有挑战性。这项工作提出了一个系统，使用多语言和单语言的BERT和数据点翻译和合奏策略的性别歧视识别和分类在英语和西班牙语。它是在伊比利亚语言评估论坛（IberLEF）提出的2021年社交网络共享（EXIST 2021）任务中进行的。本文介绍了所提出的系统及其主要组成部分，并进行了深入的超参数分析。观察到的主要结果是：（i）该系统获得了比基线模型（多语言BERT）更好的结果;（ii）集成模型获得了比单语言模型更好的结果;（iii）考虑到所有单个模型和最佳标准化值的集成模型获得了两项任务的最佳准确度和F1分数。这项工作在EXIST的两项任务中均获得第一名，准确率最高（任务1为0.780，任务2为0.658），F1得分最高（任务1的F1二进制为0.780，任务2的F1宏为0.579）。
2021-11-08 cs.AI cs.CL cs.CY
Public Health in Disaster: Emotional Health and Life Incidents Extraction during Hurricane Harvey
Denison University（丹尼森大学）；Electric Power University（电力大学）；University of Louisville（路易斯维尔大学）
本研究利用约40万条哈维飓风相关推文，结合BERT情绪预测、LDA主题建模、GNN聚类优化及LLM自动命名，提取灾害前后民众情绪与生活事件，为灾害应对提供关键洞察。
2024-08-20 cs.CL cs.IR
CIA_NITT at WNUT-2020 Task 2: Classification of COVID-19 Tweets Using Pre-trained Language Models
NIT Trichy（印度国立特里奇技术学院）
本文介绍了WNUT 2020共享任务2的模型。共享任务2涉及识别与COVID-19相关的信息性推文。我们将其视为二进制文本分类问题，并使用预训练的语言模型进行实验。我们的第一个模型是基于CT-BERT实现的F1得分为88.7%，第二个模型是CT-BERT，RoBERTa和SVM的集成实现的F1得分为88.52%。
2020-09-12 cs.CL
TwHIN-BERT: A Socially-Enriched Pre-trained Language Model for Multilingual Tweet Representations at Twitter
The University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Twitter Cortex（推特Cortex）
针对现有预训练语言模型未适配社交媒体文本、未利用社交互动数据的问题，提出融合文本自监督与TwHIN社交目标的多语言模型TwHIN-BERT，在多类任务上取得显著提升并开源相关资源。
2023-08-27 cs.CL
Arabic Tweet Act: A Weighted Ensemble Pre-Trained Transformer Model for Classifying Arabic Speech Acts on Twitter
本研究针对Twitter方言阿拉伯语言语行为分类问题，提出基于BERT的加权集成学习方法，构建标注数据集并采用数据增强解决类别不平衡，性能优于单模型。
2024-01-30 cs.AI cs.CL
Z-Index at CheckThat! Lab 2022: Check-Worthiness Identification on Tweet Text
Daffodil International University（达福迪尔国际大学）；Qatar Computing Research Institute（卡塔尔计算研究所）
社交媒体和数字技术的广泛使用有助于分享有关事件和活动的各种新闻和信息。尽管分享了积极的信息，但误导和虚假信息也在社交媒体上传播。已经有人努力通过人工专家和自动工具来识别这种误导性信息。由于网上出现了大量包含事实主张的信息，手工工作无法很好地扩展。因此，自动识别值得检查的索赔对人类专家来说非常有用。在这项研究中，我们描述了我们的参与子任务-1A：检查价值的鸣叫（英语，荷兰语和西班牙语）的检查！CLEF 2022的实验室我们执行标准的预处理步骤，并应用不同的模型来识别给定的文本是否值得进行事实检查。我们使用过采样技术来平衡数据集，并应用支持向量机和随机森林（RF）与TF-IDF表示。我们还使用BERT多语言（BERT-m）和XLM-RoBERTa-base预训练模型进行实验。我们使用BERT-m进行正式提交，我们的系统在西班牙语，荷兰语和英语中分别排名第3，第5和第12位。在进一步的实验中，我们的评估表明，Transformer模型（BERT-m和XLM-RoBERTa-base）在荷兰语和英语语言中优于SVM和RF，而在西班牙语中观察到不同的情况。
2022-07-15 cs.CL cs.LG
HumAID: Human-Annotated Disaster Incidents Data from Twitter with Deep Learning Benchmarks
Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学）
社交网络被广泛用于信息消费和传播，特别是在诸如自然灾害等时间紧迫的事件期间。尽管社交媒体内容的容量非常大，但它通常太嘈杂，无法直接用于任何应用程序。因此，对可用内容进行过滤、分类和简明扼要的总结，以促进有效的消费和决策制定，这一点非常重要。为了解决这些问题，已经使用监督建模方法开发了自动分类系统，这要归功于早期在创建标记数据集方面的努力。然而，现有的数据集在不同方面受到限制（例如，大小，包含重复），并且不太适合支持更高级和数据需求量更大的深度学习模型。在本文中，我们提出了一个新的大规模数据集，其中包含约7.7万条人类标记的推文，这些推文是从2016年至2019年发生的19起灾难事件中的约2400万条推文中采样的。此外，我们提出了一个数据汇集和采样管道，这是很重要的社会媒体数据采样人类注释。我们使用基于经典和深度学习（fastText和Transformer）的模型报告多类分类结果，为未来的研究奠定基础。数据集和相关资源是公开的。https://crisisnlp.qcri.org/humaid_dataset.html
2021-04-08 cs.AI cs.CL cs.CY
Leveraging Transformers for Hate Speech Detection in Conversational Code-Mixed Tweets
Indraprastha Institute of Information Technology Delhi（德里英德拉普拉斯塔信息技术学院）
在当今的互联网时代，每个人都可以轻松访问社交媒体平台，人们往往不得不应对威胁，身份攻击，仇恨和欺凌，因为他们与演员，信仰，性别，宗教，甚至接受或拒绝一个概念。现有的仇恨言论检测工作主要集中在个人评论分类作为一个序列标签的任务，往往没有考虑到会话的上下文。在确定作者的意图和推文背后的情绪时，对话的上下文通常起着重要的作用。本文描述了MIDAS-IIITD团队为HASOC 2021子任务2提出的系统，该子任务是第一批共享任务之一，专注于从Twitter上的印地语-英语代码混合对话中检测仇恨言论。我们使用神经网络来解决这个问题，利用Transformer的跨语言嵌入，并进一步对它们进行微调，以用于在音译印地语文本中进行低资源仇恨语音分类。我们表现最好的系统是由Indic-BERT、XLM-RoBERTa和多语言BERT组成的硬投票组合，取得了0.7253的宏观F1分数，使我们在整体排行榜上排名第一。
2021-12-18 cs.AI cs.CL cs.LG
Automatic Extraction of Medication Names in Tweets as Named Entity Recognition
NVIDIA（英伟达）
社交媒体帖子包含有关医疗条件和健康相关行为的潜在有价值的信息。Biocreative VII任务3的重点是通过识别推文中提到的药物和膳食补充剂来挖掘这些信息。我们通过微调多个BERT风格的语言模型来执行标记级分类，并将它们组合成集成来生成最终预测，从而完成这项任务。我们最好的系统由五个Megatron-BERT-345 M模型组成，在看不见的测试数据上达到了0.764的严格F1分数。
2021-11-30 cs.CL
New Product Development (NPD) through Social Media-based Analysis by Comparing Word2Vec and BERT Word Embeddings
University of Indonesia（印度尼西亚大学）；CloudWalk Inc（云从科技公司）
本文比较Word2Vec与BERT词嵌入在有限数据下对推文情感和观点分类的效果，发现BERT结合Balanced Random Forest表现最佳，并通过词图分析为新产品开发提供改进反馈。
2023-04-17 cs.CL cs.LG
