Utilising Large Language Models for Generating Effective Counter Arguments to Anti-Vaccine Tweets
针对反疫苗推文，本文结合多标签分类、提示策略与结构化微调提升LLM生成情境化反驳的能力，并通过人工、LLM和自动评估验证其有效性。
2025-10-18 cs.CL
Sarcasm Detection in Tweets with BERT and GloVe Embeddings
National Institute of Technology Karnataka, Surathkal（国家理工学院卡纳塔克分校，苏拉特卡尔）
本文针对推文讽刺检测问题，提出结合BERT与GloVe嵌入并利用用户反应上下文及回复内容的机器学习方法，以应对讽刺表达的歧义性。
2020-06-20 cs.CL cs.LG
From Hesitancy Framings to Vaccine Hesitancy Profiles: A Journey of Stance, Ontological Commitments and Moral Foundations
Human Language Technology Research Institute, The University of Texas at Dallas（德克萨斯大学达拉斯分校人类语言技术研究所）
尽管已经接种了数十亿支COVID-19疫苗，但仍有太多人犹豫不决。Twitter的广泛影响力和每日曝光率是研究人们如何构建疫苗犹豫并揭示疫苗犹豫概况的绝佳资源。在这篇论文中，我们揭示了我们的处理过程，从在9，133，471条讨论COVID-19疫苗的原始推文中识别疫苗犹豫框架，建立它们的本体论承诺，注释它们暗示的道德基础，到自动识别推文作者对我们识别的任何CoVaxFrames的立场。当我们发现805,336名Twitter用户在9,133,471条原始推文或17,346,664条转推文中对一些CoVaxFrames有立场时，我们能够得出这些用户的九种不同的疫苗犹豫特征，并根据他们在推文中唤起的框架的本体论承诺以及他们对所唤起的框架的立场的价值来解释这些特征。跳转
2022-02-18 cs.CL cs.SI
Cognitive networks identify the content of English and Italian popular posts about COVID-19 vaccines: Anticipation, logistics, conspiracy and loss of trust
University of Exeter（埃克塞特大学）；University of Kansas（堪萨斯大学）
监测有关COVID-19疫苗的社会话语是了解大量人群如何看待疫苗接种活动的关键。我们专注于2020年12月至2021年3月期间关于COVID-19疫苗的英语或意大利语的4765条独特热门推文。一条流行的英文推文被点赞高达49.5万次，强调了流行的推文如何影响大量的认知人群。我们调查了推文中的文本和多媒体，建立了一个包括视觉特征在内的消息中的句法/语义关联的知识图，并表明在线用户如何主要围绕疫苗分发的物流构建社会话语。英语中“疫苗”的语义框架在信任/预期（对疫苗作为拯救生命的科学资产）和愤怒/悲伤（提及剂量管理的关键问题）之间高度两极分化。与“疫苗”、“骗局”和阴谋论术语的语义关联表明，阴谋论和疫苗在大量阅读的英语帖子中持续存在（在意大利语帖子中不存在）。图像分析发现，带有戴口罩的人的流行推文使用的语言缺乏信任和喜悦，这表明社交话语中的面部覆盖会产生负面影响。一项行为分析显示，用户倾向于分享引发喜悦、悲伤和厌恶的内容，并喜欢不那么悲伤的信息，这突出了情感与内容扩散之间的相互作用。随着阿斯利康疫苗于2021年3月中旬被暂停，“阿斯利康”与专家推动的信任语言联系在一起，但意大利流行的推文通过用深深的悲伤取代早期的信任水平来框定“疫苗”。我们的研究结果强调了认知网络和创新的多媒体处理如何为重建关于疫苗和信任的在线感知开辟新的途径。
2021-03-29 cs.CL cs.CY cs.SI
Twitter Sentiment Analysis of Covid Vacciness
Courant Institute of Mathematical Sciences, New York University（纽约大学柯朗数学科学研究所）
针对社交媒体上新冠疫苗相关意见的排序与分类需求，本研究使用两种排序量表和自然语言处理技术，对Twitter推文进行情感分析，力求高准确率地归类用户对新冠疫苗的观点。
2023-11-08 cs.CL cs.IR cs.LG
Demystifying the COVID-19 vaccine discourse on Twitter
University of Melbourne（墨尔本大学）；Curtin University（科廷大学）
了解社交媒体上有关COVID-19疫苗接种的公众话语不仅对应对当前的COVID-19大流行非常重要，对未来的病原体爆发也很重要。我们研究了一个Twitter数据集，其中包含2020年3月至2021年3月期间讨论COVID-19疫苗接种的7500万条英文推文。我们使用自然语言处理（NLP）技术训练一个立场检测算法，将推文分类为“反vax”或“亲vax”，并使用主题建模技术研究话语的主要主题。虽然支持vax的推文（3700万）远远超过反对vax的推文（1000万），但来自两种立场的大多数推文（63%反对vax和53%支持vax的推文）来自在观察期间发布支持和反对vax推文的双重立场用户。支持vax的推文主要集中在疫苗开发上，而反对vax的推文涵盖了广泛的主题，其中一些包括真正的担忧，尽管有大量的谎言。两种立场都有一些共同的话题，尽管支持和反对vax的推文从相反的观点讨论了它们。模因和笑话是转发最多的信息之一。虽然对两极分化和网上流行的反vax言论的担忧是没有根据的，但有针对性地打击虚假言论是重要的。
2022-08-29 cs.CL cs.SI
COVID-19 Vaccine and Social Media: Exploring Emotions and Discussions on Twitter
University of South Carolina（南卡罗来纳大学）；City University of New York（纽约市立大学）
了解公众对COVID-19疫苗的反应是控制COVID-19疫情的关键成功因素。为了了解公众的反应，有必要探讨民意。传统的调查费用昂贵，耗时，涉及的健康问题有限，获得的数据规模较小。Twitter可以提供一个很好的机会来了解公众对COVID-19疫苗的看法。目前的研究提出了一种使用计算和人类编码方法来收集和分析大量推文的方法，以提供关于COVID-19疫苗的更广泛的视角。本研究使用机器学习基于规则的方法来识别推文的情感，发现主要主题，探索时间趋势，并使用统计测试来比较负面和非负面推文的主题，并揭示具有负面和非负面情感的推文的热门主题。我们的研究结果显示，2020年11月至2021年2月期间，有关COVID-19疫苗的负面情绪呈下降趋势。我们发现Twitter用户在2020年11月至2021年2月期间讨论了从疫苗接种地点到2020年美国大选的广泛话题。研究结果表明，有一个显着的差异之间的推文有负面和非负面情绪的权重的大多数主题。我们的研究结果还表明，负面和非负面的推文有不同的主题优先级和重点。这项研究表明，Twitter数据可用于探索有关COVID-19疫苗的公众意见。
2021-09-29 cs.CL cs.SI
Vaccine Discourse on Twitter During the COVID-19 Pandemic
Aalto University（阿尔托大学）
自2019冠状病毒病疫情爆发以来，疫苗一直是公众讨论的重要话题。围绕疫苗的讨论两极分化，一些人认为疫苗是结束大流行的重要措施，另一些人则犹豫不决或认为疫苗有害。这项研究调查了Twitter上与COVID-19疫苗相关的帖子，重点关注那些对疫苗持负面态度的帖子。收集了16，713，238条与COVID-19疫苗相关的英文推文数据集，涵盖2020年3月1日至2021年7月31日期间。我们使用Scikit-learn Python库应用支持向量机（SVM）分类器来识别对COVID-19疫苗持负面立场的推文。共有5,163条推文被用于训练分类器，其中2,484条推文的子集由我们手动注释并公开。我们使用BERTtopic模型来提取和调查负面推文中讨论的主题，以及它们如何随着时间的推移而变化。我们发现，随着疫苗的推出，COVID-19疫苗的负面影响随着时间的推移而减少。我们确定了37个讨论主题，并提出了各自的重要性随着时间的推移。我们发现，流行的话题包括阴谋论的讨论，如5G塔和微芯片，但也包含对疫苗接种安全性和副作用的合理担忧以及对政策的担忧。我们的研究表明，即使是不受欢迎的观点或阴谋论，当与一个广泛流行的讨论话题（如COVID-19疫苗）相结合时，也会变得普遍。了解这些问题和讨论的主题以及它们如何随着时间的推移而变化，对于决策者和公共卫生当局提供更好和及时的信息和政策至关重要，以便在未来类似…
2022-07-23 cs.CL cs.CY cs.SI
COVID-19 South African Vaccine Hesitancy Models Show Boost in Performance Upon Fine-Tuning on M-pox Tweets
iThemba LABS, National Research Foundation (NRF)（国家研究基金会iThemba实验室）
本研究针对M-pox疫情与COVID-19的相似性，用南非2万余条标注M-pox推文微调COVID-19疫苗犹豫模型，使F1值提升超8%接近70%，优于现有模型，并通过LDA主题分析得出构建更优模型的结论。
2023-10-04 cs.CL cs.LG cs.SI
Language Identification of Hindi-English tweets using code-mixed BERT
Jamia Millia Islamia（贾米亚·米利亚伊斯兰大学）；Aligarh Muslim University（阿里加尔穆斯林大学）
社交媒体文本的语言识别近年来一直是一个有趣的研究问题。社交媒体信息主要是在非英语国家混合的代码。通过预训练上下文嵌入的现有知识已经显示了一系列下游任务的最新结果。最近，诸如BERT之类的模型已经表明，使用大量未标记的数据，预训练的语言模型对于学习公共语言表示更加有益。本文提出了利用迁移学习和微调BERT模型来识别Twitter上的语言的广泛实验。这项工作利用了一个数据汇集的印地语-英语-乌尔都语代码混合文本的语言预训练和印地语-英语代码混合为随后的词级语言分类。结果表明，在混合数据上预训练的表示产生更好的结果，由他们的单语对应。
2021-07-02 cs.CL cs.LG
Contrastive News and Social Media Linking using BERT for Articles and Tweets across Dual Platforms
University of Warsaw（华沙大学）；MIM Solutions（MIM解决方案公司）；University of Amsterdam（阿姆斯特丹大学）；Warsaw University of Technology（华沙理工大学）；IDEAS NCBR（IDEAS国家计算机科学研究中心）
针对推文与新闻关联的难题，本文提出基于预训练BERT的对比学习方法CATBERT，在俄乌战争相关多语言数据集上表现优于传统方法和OpenAI嵌入方法，还验证了其在推文级联主题查找任务中的性能。
2023-12-11 cs.CL cs.LG
Traditional Machine Learning Models and Bidirectional Encoder Representations From Transformer (BERT)-Based Automatic Classification of Tweets About Eating Disorders: Algorithm Development and Validation Study
University of León（莱昂大学）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；Spanish National University for Distance Education（西班牙国家远程教育大学）
本研究收集三个月内105万条饮食失调推文，用传统机器学习与BERT等深度学习模型分类，发现基于变换器的模型F1分数最高（71.1%-86.4%），但计算资源消耗更大。
2024-02-08 cs.CL cs.LG
CAVES: A Dataset to facilitate Explainable Classification and Summarization of Concerns towards COVID Vaccines
Indian Institute of Technology（印度理工学院）；Leibniz University of Hannover（汉诺威莱布尼茨大学）
说服人们接种COVID-19疫苗是当今社会的一项关键挑战。作为实现这一目标的第一步，许多先前的工作依赖于社交媒体分析来了解人们对这些疫苗的具体关注，例如潜在的副作用，无效性，政治因素等。尽管有数据集将社交媒体帖子大致分为Anti-Vax和Pro-Vax标签，（据我们所知）没有数据集根据帖子中提到的具体反疫苗问题来标记社交媒体帖子。在本文中，我们策划了CAVES，这是第一个大规模数据集，包含约10 k条COVID-19反疫苗推文，在多标签环境中标记为各种特定的反疫苗问题。这也是第一个为每个标签提供解释的多标签分类数据集。此外，该数据集还提供了所有推文的类汇总。我们还对数据集进行了初步实验，并表明这对于多标签可解释分类和推文摘要来说是一个非常具有挑战性的数据集，正如一些最先进的模型所获得的中等分数所证明的那样。我们的数据集和代码可在https://github.com/sohampoddar26/caves-data上获得
2022-11-11 cs.CL cs.CY cs.IR
KEIS@JUST at SemEval-2020 Task 12: Identifying Multilingual Offensive Tweets Using Weighted Ensemble and Fine-Tuned BERT
Jordan University of Science and Technology（约旦科技大学）
这项研究介绍了我们的团队KEIS@JUST参与SemEval-2020任务12，该任务代表了多语言攻击性语言的共享任务。我们参与了所有子任务提供的所有语言，除了英语的子任务A。已经开发了两种主要方法，第一种是处理阿拉伯语和英语两种语言，加权集成包括Bi-GRU和CNN，然后是高斯噪声和全局池化层乘以权重以提高整体性能。第二种是对其他语言进行的，除了循环神经网络（如Bi-LSTM和Bi-GRU）之外，还从BERT进行了迁移学习，然后是全局平均池化层。词嵌入和上下文嵌入已被用作特征，此外，数据增强仅用于阿拉伯语。
2020-05-15 cs.CL cs.LG
A Large-Scale Analysis of Persian Tweets Regarding Covid-19 Vaccination
University of Tehran（德黑兰大学）
本文基于 Twitter 数据，结合主题建模与 transformer 模型分析伊朗公众对 Covid-19 疫苗的意见和情绪，揭示了疫苗接种在政府、安全性、副作用等方面的关注及其对公众情绪的影响。
2024-01-13 cs.CL cs.SI
Not-NUTs at W-NUT 2020 Task 2: A BERT-based System in Identifying Informative COVID-19 English Tweets
University of Washington（华盛顿大学）；University of Rochester（罗切斯特大学）
截至二零二零年，当COVID-19疫情在全球范围内全面爆发时，人们获取有关COVID-19的合法信息的需求比以往任何时候都更加迫切，尤其是通过在线媒体，大量无关信息掩盖了更有价值的信息。针对这种情况，我们提出了一个模型，该模型可以自动识别一条英文推文是否包含有关COVID-19的信息内容。通过整合不同的BERTweet模型配置，我们已经取得了有竞争力的结果，在信息类的F1得分方面，这些结果仅比表现最好的团队少大约1%。在比赛后的阶段，我们还尝试了各种其他方法，这些方法可能会提高对新数据集的泛化能力。
2020-09-14 cs.CL cs.IR cs.LG
CoNTACT: A Dutch COVID-19 Adapted BERT for Vaccine Hesitancy and Argumentation Detection
University of Antwerp（安特卫普大学）
我们提出了CoNTACT：一种适用于COVID-19推文领域的荷兰语语言模型。该模型是通过使用2021年发布的280万条荷兰COVID-19相关推文继续RobBERT（Delobelle，2020）的预训练阶段而开发的。为了测试模型的性能并将其与RobBERT进行比较，对两个模型进行了两项任务的测试：（1）二元疫苗犹豫检测和（2）疫苗犹豫参数的检测。对于这两项任务，不仅Twitter，而且Facebook的数据被用来显示跨流派的表现。在我们的实验中，CoNTACT在任务1的所有实验中均显示出统计学上显著优于RobBERT。对于任务2，我们在所有实验中观察到几乎所有班级都有实质性的改善。错误分析表明，领域自适应产生了更好的表示特定领域的术语，导致CoNTACT作出更准确的分类决策。
2022-03-14 cs.CL
QMUL-SDS at CheckThat! 2020: Determining COVID-19 Tweet Check-Worthiness Using an Enhanced CT-BERT with Numeric Expressions
Queen Mary University of London（伦敦玛丽女王大学）；Imam Abdulrahman bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·费萨尔大学）；University of Oxford（牛津大学）；University of Warwick（华威大学）；Alan Turing Institute（艾伦·图灵研究所）
本文介绍了QMUL-SDS团队参与CLEF 2020 CheckThat！共享任务。此任务的目的是确定有关COVID-19的推文的检查价值，以识别需要事实检查的推文并对其进行优先排序。总体目标是进一步支持正在进行的努力，以保护公众免受假新闻的影响，并帮助人们找到可靠的信息。我们描述和分析我们提交的结果。我们表明，使用COVID-Twitter-BERT（CT-BERT）增强数值表达式的CNN可以有效地提高基线结果的性能。我们还显示了训练数据增强与其他主题的谣言的结果。我们最好的系统在任务中排名第四，令人鼓舞的结果显示出未来改进结果的潜力。
2020-08-30 cs.CL cs.LG cs.SI
L3Cube-MahaHate: A Tweet-based Marathi Hate Speech Detection Dataset and BERT models
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（浦那L3Cube）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
社交媒体平台被许多人用来表达他们的想法和意见。然而，这些平台也助长了大量的仇恨和辱骂内容。因此，必须遏制仇恨言论在这些平台上的传播。在印度，马拉地语是广泛受众使用的最流行的语言之一。在这项工作中，我们提出了L3 Cube-MahaHate，第一个主要的仇恨语音数据集在马拉地语。数据集来自Twitter，手动注释。我们的数据集包括超过25000个不同的tweet标签分为四个主要类别，即仇恨，进攻，亵渎，而不是。我们提出了用于收集和注释数据的方法以及在此过程中面临的挑战。最后，我们使用基于CNN、LSTM和Transformers的深度学习模型来呈现基线分类结果。我们探索单语言和多语言的变体BERT像马哈BERT，IndicBERT，mBERT，和xlm-RoBERTa和单语言模型比他们的多语言同行表现得更好。MahaBERT模型在L3 Cube-MahaHate语料库上提供了最好的结果。数据和模型可在https://github.com/l3cube-pune/MarathiNLP上获得。
2022-05-22 cs.CL cs.LG
Classifying Text-Based Conspiracy Tweets related to COVID-19 using Contextualized Word Embeddings
Quaid-i-Azam University（奎德阿赞姆大学）
MediaEval 2022中的FakeNews任务调查了为COVID-19相关的阴谋推文分类寻找准确和高性能模型的挑战。本文采用BERT、ELMO及其组合进行特征提取，并以RandomForest作为分类器。结果表明，ELMO的性能略好于BERT，但他们在特征层的组合降低了性能。
2023-03-07 cs.CL cs.LG
MeisterMorxrc at SemEval-2020 Task 9: Fine-Tune Bert and Multitask Learning for Sentiment Analysis of Code-Mixed Tweets
Tianjin University（天津大学）
自然语言处理（NLP）已经应用于包括文本分类和情感分析的各种领域。在SemEval-2020竞赛\cite{patwa2020sentimix}的一部分代码混合推文的情感分析共享任务中，我们通过替换表情符号和删除不常见字符等来预处理数据集，然后微调来自Transformers（BERT）的双向编码器表示以获得最佳性能。在用尽top3提交，我们的团队MeisterMorxrc达到平均F1得分0.730在这个任务中，和我们的codalab用户名是MeisterMorxrc.
2020-12-15 cs.CL
Emotion Detection From Tweets Using a BERT and SVM Ensemble Model
The Military Technical Academy “Ferdinand I” of Bucharest（布加勒斯特“斐迪南一世”军事技术学院）
自动识别Twitter数据中表达的情绪具有广泛的应用。我们通过向由四种情绪组成的基准数据集添加一个中性类来创建一个平衡良好的数据集：恐惧，悲伤，喜悦和愤怒。在这个扩展的数据集上，我们研究了使用支持向量机（SVM）和双向编码器表示从Transformers（BERT）的情感识别。我们提出了一种新的集成模型相结合的BERT和SVM模型。实验结果表明，该模型对推文中的情感识别达到了0.91的最高准确率。
2022-08-09 cs.CL
An analysis of vaccine-related sentiments from development to deployment of COVID-19 vaccines
UNSW Sydney（悉尼新南威尔士大学）；IITG（印度理工学院瓜哈提分校）
本研究使用深度学习情绪分析框架分析Twitter数据，揭示了COVID-19大流行期间疫苗从研发到部署的反疫苗情绪演变，发现推文量、病例数与情绪极性分数相关，且疫苗推出使讨论性质趋于稳定。
2023-06-23 cs.CL cs.SI
COVID-19 Vaccine Misinformation in Middle Income Countries
Boston University（波士顿大学）；Monash University Indonesia（印度尼西亚莫纳什大学）
本研究构建了涵盖三个中等收入国家的新冠疫苗错误信息多语言数据集，采用领域预训练和大模型文本增强方法提升检测模型性能，并通过大规模推文分析揭示了病例变化与错误信息的关联及跨国相关性。
2023-11-30 cs.CL cs.IR
RoBERTweet: A BERT Language Model for Romanian Tweets
National Institute for Research and Development in Informatics - ICI Bucharest（布加勒斯特国家信息学研发研究院（ICI布加勒斯特））；Faculty of Automatic Control and Computers, University Politehnica of Bucharest（布加勒斯特理工大学自动控制与计算机学院）
本研究提出首个基于罗马尼亚语推文训练的Transformer架构RoBERTweet（含基础、大型两个版本），使用2008-2022年全量罗马尼亚推文预训练，在三项推文NLP任务上优于现有通用及多语言模型，并开源模型与语料。
2023-06-11 cs.CL
Detecting Anti-Vaccine Users on Twitter
USC Information Sciences Institute（南加州大学信息科学研究所）
最近由在线叙事驱动的疫苗犹豫，大大降低了疫苗接种策略的有效性，例如COVID-19疫苗。尽管医学界对现有疫苗的安全性和有效性达成了广泛共识，但大量社交媒体用户继续被有关疫苗的虚假信息所淹没，并犹豫不决或不愿意接种疫苗。这项研究的目的是通过开发一个能够自动识别负责传播反疫苗叙述的用户的系统，更好地了解反疫苗情绪。我们引入了一个公开可用的Python包，该包能够分析Twitter个人资料，以评估该个人资料在未来分享反疫苗情绪的可能性。该软件包使用文本嵌入方法、神经网络和自动数据集生成来构建，并在数百万条推文上进行训练。我们发现这个模型可以在反疫苗用户发布反疫苗标签或关键词之前准确检测他们长达一年。我们还展示了文本分析如何通过检测Twitter上的反疫苗传播者和普通用户之间的道德和情感差异来帮助我们理解反疫苗讨论的例子。我们的研究结果将帮助研究人员和政策制定者了解用户如何成为反疫苗以及他们在Twitter上讨论的内容。政策制定者可以利用这些信息开展更有针对性的运动，揭穿有害的反疫苗接种神话。
2022-11-04 cs.CL cs.SI
UM-IU@LING at SemEval-2019 Task 6: Identifying Offensive Tweets Using BERT and SVMs
University of Michigan（密歇根大学）；Indiana University（印第安纳大学）
本文描述了UM-IU@LING的SemEval 2019任务6的系统：OffensEval。我们采取混合方法来识别和分类社交媒体中的仇恨言论。在子任务A中，我们微调了一个基于BERT的分类器来检测推文中的滥用内容，在测试数据上获得了0.8136的宏观F1分数，从而在103个提交中排名第三。在子任务B和C中，我们使用了具有选定字符n-gram特征的线性SVM。对于子任务C，我们的系统可以识别滥用的目标，其宏观F1得分为0.5243，在65个提交中排名第27位。
2019-04-06 cs.CL
Adaptation of domain-specific transformer models with text oversampling for sentiment analysis of social media posts on Covid-19 vaccines
新型冠状病毒肺炎（COVID-19，即2019冠状病毒病）已在全球蔓延，人们已开发出多种疫苗来应对疫情的激增。为了从社交媒体帖子中识别与疫苗相关的正确情绪，我们在与Covid-19疫苗相关的推文上微调各种最先进的预训练Transformer模型。具体来说，我们使用最近推出的最先进的预训练Transformer模型RoBERTa、XLNet和BERT，以及针对Covid-19推文预训练的特定领域Transformer模型CT-BERT和BERTweet。我们进一步探索了文本增强的选项，通过使用基于语言模型的过采样技术（LMOTE）来提高这些模型的准确性，特别是对于小样本数据集，其中在正面，负面和中性情感类之间存在不平衡的类分布。我们的研究结果总结了我们对不平衡小样本数据集的文本过采样的适用性的研究结果，这些数据集用于微调最先进的预训练Transformer模型，以及特定于域的Transformer模型在分类任务中的实用性。
2023-01-13 cs.CL
AIR-JPMC@SMM4H'22: Classifying Self-Reported Intimate Partner Violence in Tweets with Multiple BERT-based Models
J.P. Morgan AI Research（摩根大通人工智能研究院）
本文介绍了我们提交的SMM 4 H 2022-关于Twitter上自我报告的亲密伴侣暴力分类的共享任务（英文）。这项任务的目标是准确地确定某条推文的内容是否表明有人报告了自己遭受亲密伴侣暴力的经历。提交的系统是五个RoBERTa模型的集合，每个模型由验证数据集上各自的F1分数加权。该系统的性能比基线高出13%，是该共享任务总体性能最好的系统。
2022-09-22 cs.CL
Disaster Tweets Classification using BERT-Based Language Model
International School Vietnam National University, Hanoi（河内越南国家大学国际学院）
社交网络服务已成为紧急情况下的重要沟通渠道。这项研究的目的是创建一个机器学习语言模型，能够调查一个人或一个地区是否处于危险之中。智能手机的普及使人们能够实时宣布他们正在观察的紧急情况。正因为如此，越来越多的机构有兴趣以编程方式监控Twitter（即救灾组织和新闻机构）。设计一个语言模型，能够理解和承认当灾难发生的基础上，社会网络的职位将成为越来越有必要随着时间的推移。
2022-01-31 cs.AI cs.CL cs.LG
Z-Index at CheckThat! Lab 2022: Check-Worthiness Identification on Tweet Text
Daffodil International University（达福迪尔国际大学）；Qatar Computing Research Institute（卡塔尔计算研究所）
社交媒体和数字技术的广泛使用有助于分享有关事件和活动的各种新闻和信息。尽管分享了积极的信息，但误导和虚假信息也在社交媒体上传播。已经有人努力通过人工专家和自动工具来识别这种误导性信息。由于网上出现了大量包含事实主张的信息，手工工作无法很好地扩展。因此，自动识别值得检查的索赔对人类专家来说非常有用。在这项研究中，我们描述了我们的参与子任务-1A：检查价值的鸣叫（英语，荷兰语和西班牙语）的检查！CLEF 2022的实验室我们执行标准的预处理步骤，并应用不同的模型来识别给定的文本是否值得进行事实检查。我们使用过采样技术来平衡数据集，并应用支持向量机和随机森林（RF）与TF-IDF表示。我们还使用BERT多语言（BERT-m）和XLM-RoBERTa-base预训练模型进行实验。我们使用BERT-m进行正式提交，我们的系统在西班牙语，荷兰语和英语中分别排名第3，第5和第12位。在进一步的实验中，我们的评估表明，Transformer模型（BERT-m和XLM-RoBERTa-base）在荷兰语和英语语言中优于SVM和RF，而在西班牙语中观察到不同的情况。
2022-07-15 cs.CL cs.LG
Classifying COVID-19 Related Tweets for Fake News Detection and Sentiment Analysis with BERT-based Models
Tlemcen University（特莱姆森大学）；Peoples' Friendship University of Russia (RUDN University)（俄罗斯人民友谊大学（RUDN大学））；Joint Institute for Nuclear Research（联合核研究所）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；University of Skövde（舍夫德大学）
本文介绍了团队“techno”在CERIST'22共享任务中，结合自然语言处理工具与预训练模型BERT，对COVID-19相关推文进行情感分析与假新闻检测，分别取得0.93和0.90的准确率。
2023-04-02 cs.CL
NutCracker at WNUT-2020 Task 2: Robustly Identifying Informative COVID-19 Tweets using Ensembling and Adversarial Training
Indian Institute of Technology (Indian School of Mines)（印度理工学院（印度矿业学院））
我们使用COVID-Twitter-BERT和RoBERTa模型进行实验，以识别信息丰富的COVID-19推文。我们进一步实验对抗训练，使我们的模型鲁棒。COVID-Twitter-BERT和RoBERTa的集合在WNUT-2020任务2的测试数据上获得了0.9096的F1分数（在阳性类别上），并在排行榜上排名第一。使用对抗训练训练的模型的集合也产生类似的结果。
2020-10-09 cs.CL cs.IR cs.LG
METS-CoV: A Dataset of Medical Entity and Targeted Sentiment on COVID-19 Related Tweets
Zhejiang University（浙江大学）；Peking University（北京大学）；University of Cambridge（剑桥大学）；Harvard Medical School（哈佛医学院）；Westlake University（西湖大学）
COVID-19疫情继续在社交媒体上引发各种讨论或辩论的话题。为了探讨流行病对人们生活的影响，了解公众对流行病相关实体的关注和态度至关重要（例如，药物，疫苗）在社交媒体上。然而，在现有的命名实体识别（NER）或目标情感分析（TSA）数据集上训练的模型理解COVID-19相关社交媒体文本的能力有限，因为这些数据集不是从医学角度设计或注释的。本文发布了METS-CoV数据集，该数据集包含来自COVID-19相关推文的医疗实体和针对性情绪。METS-CoV包含10，000条推文，包含7种类型的实体，包括4种医学实体类型（疾病，药物，症状和疫苗）和3种一般实体类型（人员，位置和组织）。为了进一步调查推文用户对特定实体的态度，选择了4种类型的实体（人，组织，药物和疫苗）并使用用户情感进行注释，从而产生具有9，101个实体的目标情感数据集（在5，278条推文中）。据我们所知，METS-CoV是第一个收集医疗实体和COVID-19相关推文相应情绪的数据集。我们通过大量实验对经典机器学习模型和最先进的深度学习模型在NER和TSA任务上的性能进行了基准测试。结果表明，该数据集有巨大的改进空间，无论是NER和TSA任务。METS-CoV是开发更好的医学社交媒体工具和促进计算社会科学研究的重要资源，特别是在流行病学方面。我们的数据，注释指南，基准模型和源代码都是公开的（https：//github.co…
2022-09-28 cs.CL
New Product Development (NPD) through Social Media-based Analysis by Comparing Word2Vec and BERT Word Embeddings
University of Indonesia（印度尼西亚大学）；CloudWalk Inc（云从科技公司）
本文比较Word2Vec与BERT词嵌入在有限数据下对推文情感和观点分类的效果，发现BERT结合Balanced Random Forest表现最佳，并通过词图分析为新产品开发提供改进反馈。
2023-04-17 cs.CL cs.LG
A Multilingual Dataset of COVID-19 Vaccination Attitudes on Twitter
University of Luxembourg（卢森堡大学）
疫苗供应充足的欧洲及美国，疫苗犹豫被视为COVID-19疫苗接种率停滞不前的主要原因之一。快速准确地掌握公众对疫苗接种的态度对于解决疫苗犹豫问题至关重要，而社交媒体平台已被证明是公众意见的有效来源。在本文中，我们描述了与COVID-19疫苗相关的推文数据集的收集和发布。该数据集包括从西欧收集的2，198，090条推文的ID，其中17，934条带有发起人的疫苗接种立场。我们的注释将有助于使用和开发数据驱动模型，从社交媒体帖子中提取疫苗接种态度，从而进一步证实社交媒体在公共卫生监测中的作用。为了为未来的研究奠定基础，我们不仅对数据集进行统计分析和可视化，还评估和比较了疫苗接种立场提取中基于文本的基准的性能。我们展示了我们的数据在实践中的一个潜在用途，即跟踪公众COVID-19疫苗接种态度的时间变化。
2022-06-27 cs.CL cs.CY cs.LG
NEU at WNUT-2020 Task 2: Data Augmentation To Tell BERT That Death Is Not Necessarily Informative
Northeastern University（东北大学）
全球数百万人在社交媒体平台上分享COVID-19相关信息。由于并非社交媒体上共享的所有信息都是有用的，因此用于识别信息性帖子的机器学习系统可以帮助用户找到相关信息。在本文中，我们为W-NUT 2020共享任务2：信息性COVID-19英语推文的识别提出了一个BERT分类器系统。此外，我们表明，BERT利用一些简单的信号来识别信息丰富的推文，并添加简单的模式，以无信息的推文大大降低了BERT的性能。特别是，简单地将10个死亡事件添加到开发集中的推文中，将BERT F1分数从92.63降低到7.28。我们还提出了一个简单的数据增强技术，有助于提高BERT分类器的鲁棒性和泛化能力。
2020-09-18 cs.CL cs.IR
Pre-Training BERT on Arabic Tweets: Practical Considerations
Qatar Computing Research Institute（卡塔尔计算研究所）；HBKU（卡塔尔哈马德·本·哈利法大学）
为下游NLP任务预训练来自Transformers的双向编码器表示（BERT）是一项非常重要的任务。我们预训练了5个BERT模型，这些模型在训练集的大小、正式和非正式阿拉伯语的混合以及语言预处理方面有所不同。所有这些都旨在支持阿拉伯方言和社交媒体。实验突出了数据多样性的中心地位和语言感知分割的有效性。他们还强调，更多的数据或更多的训练步骤并不需要更好的模型。我们的新模型在多个下游任务上实现了新的最先进的结果。由此产生的模型以QARiB的名义发布给社区。
2021-02-21 cs.AI cs.CL
Multi-Label Classification of COVID-Tweets Using Large Language Models
Peoples' Friendship University of Russia (RUDN University)（俄罗斯人民友谊大学）；Joint Institute for Nuclear Research（联合核研究所）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；University of Skövde（舍夫德大学）
本研究针对公众对COVID疫苗的质疑问题，构建疫苗担忧相关的推文多标签分类器，对比三种大语言模型的分类效果，最终有监督BERT-large-uncased模型表现最优，取得0.66的macro-F1与Jaccard分数，参赛排名第六。
2023-12-17 cs.CL cs.SI
Sentiment Analysis and Topic Modeling for COVID-19 Vaccine Discussions
University of New South Wales（新南威尔士大学）；Deakin University（迪肯大学）
2019新型冠状病毒病（COVID-19）爆发已持续近两年，对全球人民的日常生活造成前所未有的影响。更糟糕的是，COVID-19 Delta变异病毒的出现再次将世界置于危险之中。幸运的是，自这场灾难开始以来，许多国家和公司已经开始开发冠状病毒疫苗。到目前为止，世界卫生组织（世卫组织）已批准了20多种疫苗，为被大流行病围困的人们带来了光明。COVID-19疫苗接种在全球的推广也在社交媒体上引发了大量关于疫苗不同方面的讨论，如有效性和安全性。然而，并没有太多的研究工作来系统地分析公众对COVID-19疫苗的意见。在这项研究中，我们对Twitter上与冠状病毒疫苗相关的推文进行了深入分析，以了解有关国家和疫苗水平的热门话题及其相应的情感极性。结果显示，大多数人对疫苗的有效性有信心，并愿意接种疫苗。相比之下，负面推文通常与疫苗短缺，注射后副作用和接种疫苗后可能死亡的投诉有关。总的来说，这项研究利用流行的NLP和主题建模方法来挖掘人们在社交媒体上对COVID-19疫苗的意见，并客观地分析和可视化它们。我们的研究结果可以提高社交媒体上嘈杂信息的可读性，为政府和政策制定者提供有效的数据支持。
2021-10-08 cs.CL cs.CY
Two-Stage Classifier for COVID-19 Misinformation Detection Using BERT: a Study on Indonesian Tweets
自2020年初以来，COVID-19大流行在全球范围内造成了重大影响。这给社会带来了很多混乱，特别是由于通过社交媒体传播错误信息。虽然已经有几项研究与社交媒体数据中错误信息的检测有关，但大多数研究都集中在英语数据集上。在印度尼西亚，关于COVID-19错误信息检测的研究仍然很少。因此，通过这项研究，我们收集和注释印度尼西亚的数据集，并通过考虑推文的相关性来建立用于检测COVID-19错误信息的预测模型。数据集的构建是由一组注释者进行的，他们标记了推文数据的相关性和错误信息。在这项研究中，我们提出了两个阶段的分类器模型，使用IndoBERT预训练的语言模型的推文错误信息检测任务。我们还尝试了其他几种用于文本分类的基线模型。实验结果表明，将用于相关性预测的BERT序列分类器和用于错误信息检测的Bi-LSTM相结合，其准确率达到87.02%，优于其他机器学习模型。总体而言，BERT的利用有助于提高大多数预测模型的性能。我们以印度尼西亚语发布了高质量的COVID-19错误信息推文语料库，由高注释者间协议表示。
2022-06-30 cs.CL cs.SI
CIA_NITT at WNUT-2020 Task 2: Classification of COVID-19 Tweets Using Pre-trained Language Models
NIT Trichy（印度国立特里奇技术学院）
本文介绍了WNUT 2020共享任务2的模型。共享任务2涉及识别与COVID-19相关的信息性推文。我们将其视为二进制文本分类问题，并使用预训练的语言模型进行实验。我们的第一个模型是基于CT-BERT实现的F1得分为88.7%，第二个模型是CT-BERT，RoBERTa和SVM的集成实现的F1得分为88.52%。
2020-09-12 cs.CL
TwHIN-BERT: A Socially-Enriched Pre-trained Language Model for Multilingual Tweet Representations at Twitter
The University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Twitter Cortex（推特Cortex）
针对现有预训练语言模型未适配社交媒体文本、未利用社交互动数据的问题，提出融合文本自监督与TwHIN社交目标的多语言模型TwHIN-BERT，在多类任务上取得显著提升并开源相关资源。
2023-08-27 cs.CL
Emoji Prediction in Tweets using BERT
Fast Nuces（国立计算机与新兴科学大学）；Université Bretagne Sud（南布列塔尼大学）
针对社交媒体中表情符号歧义导致的含义预测难题，提出基于预训练语言模型BERT的Transformer预测方法，经大规模推文语料微调后准确率超75%，优于现有主流模型，可应用于多领域。
2023-08-26 cs.AI cs.CL
VaccineLies: A Natural Language Resource for Learning to Recognize Misinformation about the COVID-19 and HPV Vaccines
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
已经接种了数十亿种COVID-19疫苗，但许多人仍然犹豫不决。在社交媒体上传播的关于COVID-19疫苗和其他疫苗的错误信息被认为是对接种疫苗犹豫不决的原因。自动识别Twitter上针对疫苗的错误信息的能力取决于数据资源的可用性。在本文中，我们介绍了VaccineLies，这是一个关于两种疫苗的错误信息的大型推文集合：COVID-19疫苗和人乳头瘤病毒（HPV）疫苗。错误信息的目标是在疫苗特定的分类，揭示了错误信息的主题和关注。错误信息分类法的本体论承诺提供了一种理解，即哪些错误信息主题和关注主导了关于VaccineLies中所涵盖的两种疫苗的讨论。VaccineLies的培训、测试和开发组织邀请开发新的监督方法，用于检测Twitter上的错误信息并确定对它的立场。此外，VaccineLies可以成为开发数据集的垫脚石，这些数据集专注于针对其他疫苗的错误信息。
2022-02-18 cs.CL cs.SI
RpBERT: A Text-image Relation Propagation-based BERT Model for Multimodal NER
Zhejiang University City College（浙江大学城市学院）；Zhejiang University（浙江大学）；Tsinghua University（清华大学）
最近，多模态命名实体识别（MNER）利用图像来提高推特中NER的准确性。然而，大多数多模态方法使用注意力机制来提取视觉线索，而不管文本和图像是否相关。实际上，不相关的文本-图像对在推文中占很大比例。与文本无关的视觉线索会对多模态模型学习产生不确定甚至负面的影响。本文将文本-图像关系传播方法引入到多模态BERT模型中。我们集成了软或硬门来选择视觉线索，并提出了一个多任务算法训练的MNER数据集。在实验中，我们深入分析了使用文本-图像关系传播前后视觉注意的变化。我们的模型在MNER数据集上实现了最先进的性能。
2021-02-05 cs.CL cs.LG
ArCovidVac: Analyzing Arabic Tweets About COVID-19 Vaccination
Qatar Computing Research Institute, HBKU（卡塔尔计算研究所，哈马德·本·哈利法大学）；University of Pittsburgh（匹兹堡大学）
COVID-19大流行的出现和首次全球信息流行病以多种不同方式改变了我们的生活。我们依靠社交媒体获取有关COVID-19疫情的最新信息，同时传播信息。社交媒体上的内容不仅包括与健康相关的建议，计划和来自政策制定者的信息性新闻，还包含阴谋和谣言。重要的是，一旦这些信息被发布，就必须立即识别它们，以做出可操作的决策（例如，揭穿谣言，或采取某些措施旅行）。为了应对这一挑战，我们为COVID-19疫苗接种活动开发并公开发布了第一个最大的人工注释阿拉伯语推文数据集ArCovidVac，覆盖了阿拉伯地区的许多国家。该数据集通过不同的注释层来丰富，包括：（i）信息性（推文的重要性更高与较低）;（ii）细粒度的推文内容类型（例如，建议、谣言、限制、认证新闻/信息）;以及（iii）对疫苗接种的立场（支持疫苗接种、中立、反对疫苗接种）。此外，我们对数据进行了深入分析，探索不同疫苗的受欢迎程度，趋势标签，主题和推文中的攻击性。我们研究了各种类型的推文和对疫苗立场的时间变化的数据。我们使用Transformer架构对ArCovidVac数据集进行基准测试，以获得信息量、内容类型和姿态检测。
2022-01-17 cs.CL cs.SI
Automatic Extraction of Medication Names in Tweets as Named Entity Recognition
NVIDIA（英伟达）
社交媒体帖子包含有关医疗条件和健康相关行为的潜在有价值的信息。Biocreative VII任务3的重点是通过识别推文中提到的药物和膳食补充剂来挖掘这些信息。我们通过微调多个BERT风格的语言模型来执行标记级分类，并将它们组合成集成来生成最终预测，从而完成这项任务。我们最好的系统由五个Megatron-BERT-345 M模型组成，在看不见的测试数据上达到了0.764的严格F1分数。
2021-11-30 cs.CL
IKDSumm: Incorporating Key-phrases into BERT for extractive Disaster Tweet Summarization
Indian Institute of Technology Patna（印度理工学院巴特那分校）；University of Tartu（塔尔图大学）
本文提出灾难推文摘要框架IKDSumm，通过利用灾难领域本体知识自动提取关键短语并融入BERT，在无人工干预下提升摘要质量，在12个数据集上ROUGE-N F1分数较8种先进方法提升约2-79%。
2023-05-19 cs.CL cs.SI
Multi-Dialect Arabic BERT for Country-Level Dialect Identification
Mawdoo3 Ltd（Mawdoo3有限公司）
阿拉伯语方言识别是一个复杂的问题，因为语言本身具有一些固有的属性。在本文中，我们介绍了我们的竞争团队Mawdoo 3 AI开发的实验和模型，以实现我们对细微阿拉伯语方言识别（NADI）共享任务的子任务1的成功解决方案。方言识别子任务提供了21，000条国家级标记的推文，覆盖所有21个阿拉伯国家。来自同一领域的1000万条未标记的推文语料库也由比赛组织者提供供选择使用。我们获胜的解决方案本身是我们预先训练的BERT模型的不同训练迭代的集合，它在手头的子任务上实现了26.78%的微平均F1分数。我们以Multi-dialect-Arabic-BERT模型的名义公开发布了我们获奖解决方案的预训练语言模型组件，供任何感兴趣的研究人员使用。
2020-07-10 cs.CL cs.LG
Optimizing Social Media Annotation of HPV Vaccine Skepticism and Misinformation Using Large Language Models: An Experimental Evaluation of In-Context Learning and Fine-Tuning Stance Detection Across Multiple Models
School of Journalism and Mass Communication, University of Wisconsin–Madison（威斯康星大学麦迪逊分校新闻与大众传播学院）；Department of Electrical & Computer Engineering, University of Wisconsin–Madison（威斯康星大学麦迪逊分校电气与计算机工程系）；Department of Computer Science, University of Wisconsin–Madison（威斯康星大学麦迪逊分校计算机科学系）；Department of Psychology, University of Wisconsin–Madison（威斯康星大学麦迪逊分校心理学系）；School of Interactive Computing, Georgia Institute of Technology（佐治亚理工学院交互计算学院）；Institute of People and Technology, Georgia Institute of Technology（佐治亚理工学院人与技术研究所）
本文利用LLMs评估HPV疫苗推文立场检测策略，发现上下文学习优于微调，最佳配置为六个分层样本配详细提示，为社交媒体立场检测提供适用方法。
2025-04-02 cs.CL
UIT-HSE at WNUT-2020 Task 2: Exploiting CT-BERT for Identifying COVID-19 Information on the Twitter Social Network
National Research University HSE（国立研究型高等经济大学）
最近，COVID-19影响了世界的各个现实生活方面，并导致了可怕的后果。越来越多关于COVID-19的推文在Twitter上被公开分享。然而，这些推文中的多个是无信息的，这对于构建自动系统来检测有用的AI应用程序的信息是具有挑战性的。在本文中，我们在W-NUT 2020共享任务2：信息性COVID-19英语推文的识别中展示了我们的结果。特别是，我们提出了我们的简单而有效的方法，使用基于COVID-Twitter-BERT（CT-BERT）的模型与不同的微调技术。结果，我们获得了90.94%的F1分数，在该任务的排行榜上排名第三，共吸引了56个提交的团队。
2020-11-13 cs.CL
Automatic Detection of COVID-19 Vaccine Misinformation with Graph Link Prediction
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
最近，对疫苗效力的巨大希望在抗击COVID-19大流行中成为成功的现实。然而，社交媒体上有关COVID-19疫苗的错误信息引发的疫苗犹豫成为一个主要障碍。因此，必须自动检测社交媒体上关于COVID-19疫苗的错误信息在哪里传播，以及讨论了什么样的错误信息，以便除了旨在解决疫苗犹豫的干预措施外，还可以在正确的时间和正确的地点提供接种干预措施。本文旨在解决对COVID-19疫苗犹豫不决的第一步，即自动检测Twitter上有关疫苗的已知错误信息，Twitter是关于COVID-19及其疫苗的对话量最高的社交媒体平台。我们提出了CoVaxLies，这是一个新的推文数据集，被认为与COVID-19疫苗的几个错误信息目标相关，并开发了一种检测错误信息的新方法。我们的方法在错误信息知识图谱中组织CoVaxLies，因为它将错误信息检测作为图链接预测问题。本文详细介绍的错误信息检测方法利用了几种知识嵌入方法提供的链接评分函数。实验结果表明，与目前广泛使用的基于分类的方法相比，该方法具有明显的优越性。
2021-11-17 cs.CL
MaNLP@SMM4H22: BERT for Classification of Twitter Posts
Manipal Institute of Technology（马尼帕尔理工学院）
所报告的工作是我们对由社会媒体挖掘健康应用（SMM 4 H）研讨会组织的推文自我报告年龄的共享任务分类的直接方法。该文献描述了用于构建二元分类系统的方法，该系统将与生日帖子相关的推文分为两类，即精确年龄（正类）和非精确年龄（负类）。我们提交了两份在文本预处理方面存在差异的作品，组织者评估时，它们的F1分数分别为0.80和0.81。
2022-12-12 cs.CL
