SemEval 2023 Task 9: Multilingual Tweet Intimacy Analysis
University of Michigan(密歇根大学);Snap Inc(Snap公司)
我们提出了MINT,一个新的多语言INTimacy分析数据集,涵盖10种语言的13,372条推文,包括英语,法语,西班牙语,意大利语,葡萄牙语,韩语,荷兰语,中文,印地语和阿拉伯语。我们对一系列流行的多语言预训练语言模型进行了基准测试。该数据集与SemEval 2023任务9:多语言推文亲密度分析(https://sites.google.com/umich.edu/semeval-2023-tweet-intimacy)一起发布。
2023-02-03 cs.CL cs.CY cs.LG
My Boli: Code-mixed Marathi-English Corpora, Pretrained Language Models and Evaluation Benchmarks
Pune Institute of Computer Technology(浦那计算机技术学院);Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
针对马拉地语语码混合研究资源匮乏的问题,该工作构建了千万级Mr-En语码混合语料库,训练了两款基于BERT的预训练模型,发布了三类下游任务基准数据集,实验证明其模型性能优于现有SOTA模型。
2023-07-20 cs.CL cs.LG
A Study of Nationality Bias in Names and Perplexity using Off-the-Shelf Affect-related Tweet Classifiers
Universidad de Chile(智利大学);CENIA
本文通过反事实扰动方法量化推文分类器中的国籍偏见,发现国家名称可显著影响情感与仇恨言论预测,并揭示该偏见与预训练语言模型训练数据相关。
2024-11-23 cs.CL
Language, Culture, and Ideology: Personalizing Offensiveness Detection in Political Tweets with Reasoning LLMs
Department of Artificial Intelligence, Wroclaw Tech, Poland(人工智能系,沃拉布技术学院,波兰)
本研究探究大语言模型在不同政治文化视角下的政治推文冒犯性评估能力,通过多语言多政治人设的实验验证,发现具备显式推理能力的大模型对意识形态文化差异更敏感,推理能力可提升冒犯性判断的个性化与可解释性,为跨语言跨意识形态的精细社会政治文本分类提供支撑。
2025-09-27 cs.AI cs.CL
Not-NUTs at W-NUT 2020 Task 2: A BERT-based System in Identifying Informative COVID-19 English Tweets
University of Washington(华盛顿大学);University of Rochester(罗切斯特大学)
截至二零二零年,当COVID-19疫情在全球范围内全面爆发时,人们获取有关COVID-19的合法信息的需求比以往任何时候都更加迫切,尤其是通过在线媒体,大量无关信息掩盖了更有价值的信息。针对这种情况,我们提出了一个模型,该模型可以自动识别一条英文推文是否包含有关COVID-19的信息内容。通过整合不同的BERTweet模型配置,我们已经取得了有竞争力的结果,在信息类的F1得分方面,这些结果仅比表现最好的团队少大约1%。在比赛后的阶段,我们还尝试了各种其他方法,这些方法可能会提高对新数据集的泛化能力。
2020-09-14 cs.CL cs.IR cs.LG
TATL at W-NUT 2020 Task 2: A Transformer-based Baseline System for Identification of Informative COVID-19 English Tweets
NVIDIA(英伟达)
随着COVID-19疫情继续在全球蔓延,越来越多有关疫情的信息已在社交媒体上公开分享。例如,Twitter上每天都有大量关于COVID-19的英文推文。然而,这些推文中的大多数是无信息的,因此能够自动地仅选择用于下游应用的信息是重要的。在这篇简短的论文中,我们介绍了我们参与W-NUT 2020共享任务2:识别信息性COVID-19英语推文的情况。受预训练的Transformer语言模型的最新进展的启发,我们提出了一个简单而有效的任务基线。尽管它很简单,我们提出的方法在排行榜上显示出非常有竞争力的结果,因为我们在总共56个团队中排名第8。
2020-08-28 cs.CL cs.LG
Understanding the Sociocultural Dimensions of Mental Health Discourse in Arabic-Language X Communities
King Saud University(沙特国王大学);Cairo University(开罗大学);Carnegie Mellon University(卡内基梅隆大学)
通过GPT-4.1识别个人披露的推特用户,分析边缘型人格障碍、双相障碍和ADHD相关话语,发现不同病症的词汇模式差异,提出可复用的LLM辅助披露流程和文化关键词框架。
2026-06-06 cs.CL
Sentiment Analysis of Spanish Political Party Tweets Using Pre-trained Language Models
Fudan University(复旦大学);Beijing Institute of Technology(北京理工大学)
本研究利用BETO和RoBERTuito预训练模型分析2019至2024年西班牙主要政党推文,发现中性情感主导,且情感表达与意识形态相关,展示了预训练模型在非英语情感分析中的潜力。
2024-11-07 cs.CL cs.CY
Multi-Lingual Cyber Threat Detection in Tweets/X Using ML, DL, and LLM: A Comparative Analysis
School of Computing Sciences and Computer Engineering(计算科学与计算机工程学院);University of Southern Mississippi(密西西比大学)
本研究比较了ML、DL和LLM在多语言推文网络威胁检测中的效果,发现双LSTM架构在多语言场景中表现最佳。
2025-02-04 cs.AI cs.CL
Optimism, Expectation, or Sarcasm? Multi-Class Hope Speech Detection in Spanish and English
The University of Punjab(旁遮普大学);Texas Tech University(德克萨斯理工大学)
本文提出多语言细粒度希望言论数据集PolyHope V2,区分四种希望子类型,并通过实验证明微调transformer在检测细微希望类别和讽刺方面优于GPT-4和Llama 3等大语言模型。
2025-05-05 cs.CL
RoBERTuito: a pre-trained language model for social media text in Spanish
Universidad de Buenos Aires(布宜诺斯艾利斯大学);CONICET(国家科学技术研究委员会)
自BERT出现以来,Transformer语言模型和迁移学习已成为自然语言理解任务的最新研究成果。最近,一些工作面向特定领域的预训练专门制作的模型,例如科学论文,医学文档,用户生成的文本等。这些特定于领域的模型已被证明在大多数任务中显着提高性能。然而,对于英语以外的其他语言,这种模型并不广泛可用。在这项工作中,我们提出了RoBERTuito,一个预先训练的语言模型,用于用户生成的西班牙语文本,经过超过5亿条推文的训练。在涉及用户生成文本的基准任务上进行的实验表明,RoBERTuito在西班牙语中的表现优于其他预先训练的语言模型。除此之外,我们的模型在语言代码转换评估基准(LinCE)的一些英语-西班牙语任务中取得了最佳结果,并且在英语任务中与单语模型相比也具有竞争力。为了促进进一步的研究,我们在HuggingFace模型中心公开了RobERTuito以及用于预训练它的数据集。
2022-05-04 cs.AI cs.CL
Decay No More: A Persistent Twitter Dataset for Learning Social Meaning
The University of British Columbia(不列颠哥伦比亚大学)
随着社交媒体的普及,许多研究诉诸社交媒体来构建数据集,以开发社会意义理解系统。对于Twitter的流行情况,由于平台的数据分发策略,大多数研究人员分发的tweet ID没有实际的文本内容。一个问题是,随着时间的推移,这些帖子变得越来越难以访问,这导致了不公平的比较和社交媒体研究中的时间偏见。为了缓解数据衰减的挑战,我们利用一个释义模型,提出了一个新的持久的英语Twitter数据集的社会意义(PTSM)。PTSM由任务的$10$类别中的$17$社会意义数据集组成。我们用两个SOTA预训练的语言模型进行了实验,结果表明我们的PTSM可以用边际性能损失的释义代替实际的推文。
2022-05-07 cs.AI cs.CL
Old wine in old glasses: Comparing computational and qualitative methods in identifying incivility on Persian Twitter during the #MahsaAmini movement
University of Vienna(维也纳大学);Allameh Tabataba’i University(阿拉梅·塔巴塔巴伊大学);Queensland University of Technology(昆士兰科技大学);University of Wollongong(伍伦贡大学)
本文比较了三种方法在识别波斯语推文中的不文明行为,发现ParsBERT在识别仇恨言论方面表现优于ChatGPT,并揭示了ChatGPT在处理微妙和明显不文明内容时的不足。
2026-02-09 cs.CL cs.CY
BERT based Transformers lead the way in Extraction of Health Information from Social Media
Manipal Institute of Technology, Manipal Academy of Higher Education(曼尼帕尔理工学院,曼尼帕尔高等教育学院)
本文介绍了我们提交的2021年健康社交媒体挖掘(SMM 4 H)共享任务。我们参与了两项任务:(1)对英文推文中提及的药物不良反应(ADE)进行分类、提取和标准化(任务1);(2)对包含症状的COVID-19推文进行分类(任务6)。我们的第一个任务的方法使用的语言表示模型RoBERTa与二进制分类头。对于第二个任务,我们使用基于RoBERTa的BERTweet。对这两个任务的预训练模型进行微调。模型被放置在定制的特定于域的处理管道之上。我们的系统在子任务1(a)的所有提交中排名第一,F1分数为61%。对于子任务1(b),我们的系统获得了50%的F1分数,比所有提交的平均分数提高了+8%F1。BERTweet模型在SMM 4 H 2021 Task-6上取得94%的F1分数。
2021-04-15 cs.CL cs.SI
Improving Sentiment Analysis over non-English Tweets using Multilingual Transformers and Automatic Translation for Data-Augmentation
European Commission – DG-JRC(欧盟委员会联合研究中心)
与一般文本相比,推文是特定的文本数据。尽管在过去的十年中,对英语的tweets进行情感分析已经变得非常流行,但是仍然很难找到针对非英语语言的大型注释语料库。自然语言处理中最近兴起的Transformer模型允许在许多任务中实现无与伦比的性能,但这些模型需要相应的文本量来适应tweet域。我们建议使用多语言Transformer模型,我们对英语推文进行预训练,并使用自动翻译应用数据增强,以使模型适应非英语语言。我们在法语,西班牙语,德语和意大利语的实验表明,所提出的技术是一种有效的方法来提高结果的Transformers在非英语语言的小语料库的推文。
2020-10-07 cs.CL
NIT COVID-19 at WNUT-2020 Task 2: Deep Learning Model RoBERTa for Identify Informative COVID-19 English Tweets
National Institute of Technology Tiruchirapalli(蒂鲁吉拉帕利国家理工学院)
本文介绍了NIT_COVID-19团队在WNUT-2020 Task 2上提交的用于识别信息丰富的COVID-19英语推文的模型。这个共享任务解决了自动识别英语推文是否与信息(新型冠状病毒)有关的问题。这些信息丰富的推文提供了有关已治愈、确诊、疑似和死亡病例的信息,以及病例的位置或旅行史。所提出的方法包括预处理技术和预训练的RoBERTa与适当的超参数英语冠状病毒推文分类。在F1得分指标中,所提出的共享任务WNUT 2020 Task 2模型的性能为89.14%。
2020-11-11 cs.CL
Hate Speech Detection from Code-mixed Hindi-English Tweets Using Deep Learning Models
本文报告了一个增量的最先进的仇恨言论检测英语印地语代码混合推文。我们比较了三种典型的使用特定领域嵌入的深度学习模型。在对英语-印地语代码混合推文的基准数据集进行实验时,我们观察到使用特定领域的嵌入会改善目标群体的表示,并提高F分数。
2018-11-13 cs.CL
IIIDYT at SemEval-2018 Task 3: Irony detection in English tweets
The University of Tokyo(东京大学);National Institute of Informatics(国立信息学研究所)
在本文中,我们介绍了我们的系统,用于英语推文中的反讽检测任务,这是SemEval 2018的一部分。我们提出了表示学习方法,该方法依赖于多层双向LSTM,而不使用提供额外语义信息的外部特征。虽然我们的模型能够在验证集中优于基线,但我们的结果显示在测试集上的泛化能力有限。考虑到数据集的大小有限,我们认为使用更多的预训练方案将大大改善所获得的结果。
2018-04-22 cs.CL
Enhancing ASD detection accuracy: a combined approach of machine learning and deep learning models with natural language processing
Universidad de León(莱昂大学)
本研究针对传统ASD诊断的挑战,结合NLP、机器学习与深度学习模型分析社交媒体推文检测ASD,在9万条推文子集上训练测试后识别准确率达88%,证明AI可助力ASD早期诊断。
2024-03-06 cs.CL cs.LG
Gender Prediction from Tweets: Improving Neural Representations with Hand-Crafted Features
İzmir Institute of Technology(伊兹密尔理工学院)
作者分析是通过一些关键属性(如性别,年龄和语言)来描述作者的特征。本文提出了一种带注意力的RNN模型(RNNwA),用于预测Twitter用户的性别。单词级别和推文级别的注意力都被用来学习“去哪里看”。这个模型(https://github.com/Darg-Iztech/gender-prediction-from-tweets)通过将LSA简化的n-gram特征与用户的学习神经表示相结合来改进。这两种模型都在三种语言上进行了测试:英语,西班牙语,阿拉伯语。所提出的模型的改进版本(RNNwA + n-gram)在英语上实现了最先进的性能,并且在西班牙语和阿拉伯语上具有竞争力的结果。
2019-09-06 cs.CL cs.LG stat.ML
Z-Index at CheckThat! Lab 2022: Check-Worthiness Identification on Tweet Text
Daffodil International University(达福迪尔国际大学);Qatar Computing Research Institute(卡塔尔计算研究所)
社交媒体和数字技术的广泛使用有助于分享有关事件和活动的各种新闻和信息。尽管分享了积极的信息,但误导和虚假信息也在社交媒体上传播。已经有人努力通过人工专家和自动工具来识别这种误导性信息。由于网上出现了大量包含事实主张的信息,手工工作无法很好地扩展。因此,自动识别值得检查的索赔对人类专家来说非常有用。在这项研究中,我们描述了我们的参与子任务-1A:检查价值的鸣叫(英语,荷兰语和西班牙语)的检查!CLEF 2022的实验室我们执行标准的预处理步骤,并应用不同的模型来识别给定的文本是否值得进行事实检查。我们使用过采样技术来平衡数据集,并应用支持向量机和随机森林(RF)与TF-IDF表示。我们还使用BERT多语言(BERT-m)和XLM-RoBERTa-base预训练模型进行实验。我们使用BERT-m进行正式提交,我们的系统在西班牙语,荷兰语和英语中分别排名第3,第5和第12位。在进一步的实验中,我们的评估表明,Transformer模型(BERT-m和XLM-RoBERTa-base)在荷兰语和英语语言中优于SVM和RF,而在西班牙语中观察到不同的情况。
2022-07-15 cs.CL cs.LG
KEIS@JUST at SemEval-2020 Task 12: Identifying Multilingual Offensive Tweets Using Weighted Ensemble and Fine-Tuned BERT
Jordan University of Science and Technology(约旦科技大学)
这项研究介绍了我们的团队KEIS@JUST参与SemEval-2020任务12,该任务代表了多语言攻击性语言的共享任务。我们参与了所有子任务提供的所有语言,除了英语的子任务A。已经开发了两种主要方法,第一种是处理阿拉伯语和英语两种语言,加权集成包括Bi-GRU和CNN,然后是高斯噪声和全局池化层乘以权重以提高整体性能。第二种是对其他语言进行的,除了循环神经网络(如Bi-LSTM和Bi-GRU)之外,还从BERT进行了迁移学习,然后是全局平均池化层。词嵌入和上下文嵌入已被用作特征,此外,数据增强仅用于阿拉伯语。
2020-05-15 cs.CL cs.LG
A Corpus of English-Hindi Code-Mixed Tweets for Sarcasm Detection
International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术研究所)
像Twitter和Facebook这样的社交媒体平台已经成为人们用来表达他们对不同话题的看法的两个最大的媒介。如此大规模的用户数据的产生使得情感分析和意见挖掘等NLP任务变得更加重要。最近,在社交媒体上的文本中使用讽刺已经成为一种流行趋势。使用讽刺会颠倒文本所暗示的意义和极性,这对许多NLP任务构成了挑战。文本中的讽刺检测对于商业和安全服务都越来越重要。我们提出了第一个英语印地语代码混合数据集的推文标记的讽刺和讽刺的存在,每个令牌也注释了一个语言标签。我们提出了一个基线监督分类系统,使用相同的数据集,实现了平均F-得分为78.4后,使用随机森林分类器和执行10倍交叉验证。
2018-05-30 cs.CL
Duluth at SemEval-2020 Task 12: Offensive Tweet Identification in English with Logistic Regression
University of Minnesota(明尼苏达大学)
本文介绍了参加SemEval-2020任务12的德卢斯系统,社交媒体中的多语言攻击性语言识别(OffensEval-2020)。我们参加了三个英语任务。我们的系统使用逻辑回归提供了一个简单的机器学习基线。我们在任务组织者提供的远程监督训练数据上训练我们的模型,并且不使用其他资源。正如所料,我们在比较评估中的排名并不高:任务A中的85名中排名第79,任务B中的43名中排名第34,任务C中的39名中排名第24。我们对我们的结果进行了定性分析,发现金标准数据中的类标签有些嘈杂。我们假设,排名靠前的系统的极高准确率(> 90%)可能反映了非常好地学习训练数据的方法,但可能无法推广到识别英语中攻击性语言的任务。这一分析包括一些推文的例子,这些推文尽管经过了轻微的编辑,但仍然具有攻击性。
2020-07-25 cs.CL
English verb regularization in books and tweets
The University of Vermont(佛蒙特大学);MassMutual Data Science(麻省互惠人寿数据科学部)
英语在其整个生命周期中发生了巨大的变化,以至于现代人如果不翻译古英语,就无法理解。这一过程的一个具体指标是动词的过去式从不规则形式到规则形式的变化。在这项研究中,我们使用两个截然不同的数据集来量化动词正则化的程度:(1)Google扫描的六年出版书籍(2003- 2008),以及(2)十年发布到Twitter的社交媒体消息(2008- 2017)。我们发现,动词规则化的程度是更大的Twitter上,作为一个整体,比英语小说书籍。与美国英语书籍相比,在美国有地理标记的推文的规则化程度也更高,但与英国英语书籍相比,在英国有地理标记的推文的规则化程度则相反。我们还发现了有趣的区域变化,在美国各县的正规化。然而,一旦考虑到人口的差异,我们就不会发现与教育或收入等社会人口变量的强相关性。
2019-01-04 cs.CL physics.soc-ph
A Second Pandemic? Analysis of Fake News About COVID-19 Vaccines in Qatar
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所(哈马德·本·哈利法大学));University of Padova(帕多瓦大学)
虽然COVID-19疫苗终于开始广泛使用,但围绕反疫苗假新闻传播的第二次大流行可能会阻碍从第一次大流行中恢复过来的努力。考虑到这一点,我们对有关COVID-19疫苗的阿拉伯语和英语推文进行了广泛分析,重点关注来自卡塔尔的消息。我们发现,阿拉伯语的推文包含大量虚假信息和谣言,而英语推文大多是事实。然而,英语推特比阿拉伯语推特更具宣传性。在宣传技巧方面,大约一半的阿拉伯语推文表达了怀疑,1/5使用了负载语言,而英语推文则大量使用负载语言,夸张,恐惧,辱骂,怀疑和挥舞旗帜。最后,在框架方面,阿拉伯语的推文采用健康和安全的观点,而在英语中,经济问题占主导地位。
2021-09-22 cs.CL cs.SI
Towards Better Inclusivity: A Diverse Tweet Corpus of English Varieties
New York University(纽约大学)
针对标准英语训练导致的 NLP 偏见,本文构建来自7国、170,800条推文的多样化英语变体语料库,并提出六类标注框架以揭示语言识别器差异。
2024-01-21 cs.CL cs.CY
Morality-based Assertion and Homophily on Social Media: A Cultural Comparison between English and Japanese Languages
Indian Institute of Technology, Ropar(印度理工学院罗帕尔分校);CSIR-Central Scientific Instruments Organisation(CSIR中央科学仪器组织);Academy of Scientific and Innovative Research(科学与创新研究院);Tokai Gakuen University(东海学园大学);Tokyo Institute of Technology(东京工业大学)
道德心理学是一个研究道德认同、评价和情感的领域。以前的工作主要集中在道德发展和文化的相关作用。我们知道语言是文化的固有元素,因此我们使用社交媒体平台Twitter来比较日语推文和英语推文的道德行为。五个基本的道德基础,即,研究人员比较了英语和日语推文中的关怀、公平、团体、权威和纯洁以及相关的情感效价。来自日本用户的推文描绘了相对较高的公平性,群体内,纯洁性,而英语推文表达了更多的积极情绪的所有道德维度。考虑到在社交媒体上连接用户的道德相似性,我们量化同质性有关不同的道德维度,使用我们提出的方法。英语的关怀、权威和纯洁性以及日语的团体、权威和纯洁性在Twitter上表现出同质性。总的来说,我们的研究揭示了潜在的文化差异方面的道德行为在英语和日语用户。
2021-10-15 cs.AI cs.CL
L3CubeMahaSent: A Marathi Tweet-based Sentiment Analysis Dataset
Pune Institute of Computer Technology(浦那计算机技术学院);L3Cube;Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
情感分析是自然语言处理中最基本的任务之一。流行语言如英语、阿拉伯语、俄语、普通话,以及印度语如印地语、孟加拉语、泰米尔语在这方面已经做了大量的工作。然而,由于缺乏适当的数据集,印度第三大最受欢迎的语言马拉地语仍然落后。在本文中,我们提出了第一个主要的公开可用的马拉地语情感分析数据集-L3立方体MahaSent。它是使用从各种马哈拉施特拉邦人物的Twitter帐户中提取的推文策划的。我们的数据集由大约16,000条不同的推文组成,分为三大类,即积极,消极和中性。我们还提出了我们注释推文的指导方针。最后,我们使用CNN、LSTM、ULMFiT和基于BERT的深度学习模型来展示数据集的统计数据和基线分类结果。
2021-04-22 cs.CL cs.LG
IITD at the WANLP 2022 Shared Task: Multilingual Multi-Granularity Network for Propaganda Detection
Indian Institute of Technology Delhi(印度理工学院德里分校);Mohammed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
我们提出了我们的系统的两个子任务的宣传检测在阿拉伯语,WANLP'2022的一部分的共享任务。子任务1是一个多标签分类问题,用于找到给定推文中使用的宣传技术。我们的系统使用XLM-R来预测目标推文使用每种技术的概率。除了找到技术之外,子任务2还要求识别tweet中存在的每个技术的每个实例的文本跨度;该任务可以建模为序列标记问题。对于子任务2,我们使用带有mBERT编码器的多粒度网络。总体而言,我们的系统在两个子任务中排名第二(分别为14名和3名参与者)。我们的实证分析表明,它并没有帮助使用一个更大的英语语料库注释的宣传技巧,无论是在英语中使用或翻译成阿拉伯语后。
2022-10-31 cs.CL cs.LG
We Tweet Like We Talk and Other Interesting Observations: An Analysis of English Communication Modalities
随着新技术形式的出现,人类的通信方式逐渐增多。许多人可以很容易地在这些不同形式的通信之间转换,很少或根本不需要努力,这就带来了一个问题:这些不同的通信模式有多相似?为了了解技术$\text{'}$对英语交流的影响,分析和比较了四个不同的语料库:使用Google图书项目的1-gram数据库的Writing from Books,Twitter,IRC Chat和转录Talking。多词混淆矩阵显示,说话与其他沟通方式相比具有最大的相似性,而1-gram是分析的沟通形式中相似性最小的。基于对单词使用、单词使用频率分布和词类使用的分析,Talking也与Twitter和IRC Chat最相似。这表明使用Twitter和IRC聊天的交流是从说话而不是写作演变而来的。当我们在线交流时,即使我们在写作,我们也不会像写书那样发推文或聊天;我们会像说话那样发推文和聊天。从我们的分析来看,非小说类和小说类写作是明显不同的,Twitter和聊天更类似于小说,而不是非小说类写作。然后,作者和记者科里·多克托罗(Cory Doctorow)对这些假设进行了测试。多克托罗先生的$\text{'}$的写作,Twitter的使用,和谈话都被发现有非常相似的词汇使用模式的合并人口,只要写作是小说。然而,多克托罗先生的$\text{'}$的非小说写作是不同于1克和其他收集的非小说写作。这些数据也许可以用来创作更有趣…
2014-03-03 cs.CL
Tweet2Vec: Learning Tweet Embeddings Using Character-level CNN-LSTM Encoder-Decoder
MIT Media Lab(麻省理工学院媒体实验室)
我们提出了Tweet 2 Vec,一种新的方法,用于生成通用的矢量表示的推文。该模型使用字符级CNN-LSTM编码器-解码器学习推文嵌入。我们在300万条随机选择的英语推文上训练了我们的模型。该模型使用两种方法进行评估:推文语义相似度和推文情感分类,在这两项任务中均优于先前的最新技术。评估表明,我们的模型生成的各种推文分类任务的推文嵌入的权力。我们的模型生成的矢量表示是通用的,因此可以应用于各种任务。虽然本文提出的模型是在英语推文上训练的,但所提出的方法可用于学习不同语言的推文嵌入。
2016-07-26 cs.AI cs.CL cs.NE
Racial Bias in Hate Speech and Abusive Language Detection Datasets
Cornell University(康奈尔大学)
滥用语言检测技术的开发和应用很少考虑其潜在的偏见。我们研究了五组不同的Twitter数据中的种族偏见,这些数据被注释为仇恨言论和辱骂性语言。我们在这些数据集上训练分类器,并将这些分类器对用非裔美国英语写的推文的预测与用标准美国英语写的推文的预测进行比较。结果显示,在所有数据集中都存在系统性种族偏见的证据,因为在这些数据集上训练的分类器倾向于预测用非裔美国人英语写的推文是虐待性的,其比率要高得多。如果这些辱骂性语言检测系统被用于该领域,它们将对非裔美国人社交媒体用户产生不成比例的负面影响。因此,这些系统可能会歧视那些经常成为我们试图发现的虐待目标的群体。
2019-05-29 cs.CL cs.LG
Cognitive networks identify the content of English and Italian popular posts about COVID-19 vaccines: Anticipation, logistics, conspiracy and loss of trust
University of Exeter(埃克塞特大学);University of Kansas(堪萨斯大学)
监测有关COVID-19疫苗的社会话语是了解大量人群如何看待疫苗接种活动的关键。我们专注于2020年12月至2021年3月期间关于COVID-19疫苗的英语或意大利语的4765条独特热门推文。一条流行的英文推文被点赞高达49.5万次,强调了流行的推文如何影响大量的认知人群。我们调查了推文中的文本和多媒体,建立了一个包括视觉特征在内的消息中的句法/语义关联的知识图,并表明在线用户如何主要围绕疫苗分发的物流构建社会话语。英语中“疫苗”的语义框架在信任/预期(对疫苗作为拯救生命的科学资产)和愤怒/悲伤(提及剂量管理的关键问题)之间高度两极分化。与“疫苗”、“骗局”和阴谋论术语的语义关联表明,阴谋论和疫苗在大量阅读的英语帖子中持续存在(在意大利语帖子中不存在)。图像分析发现,带有戴口罩的人的流行推文使用的语言缺乏信任和喜悦,这表明社交话语中的面部覆盖会产生负面影响。一项行为分析显示,用户倾向于分享引发喜悦、悲伤和厌恶的内容,并喜欢不那么悲伤的信息,这突出了情感与内容扩散之间的相互作用。随着阿斯利康疫苗于2021年3月中旬被暂停,“阿斯利康”与专家推动的信任语言联系在一起,但意大利流行的推文通过用深深的悲伤取代早期的信任水平来框定“疫苗”。我们的研究结果强调了认知网络和创新的多媒体处理如何为重建关于疫苗和信任的在线感知开辟新的途径。
2021-03-29 cs.CL cs.CY cs.SI
Adaptation of domain-specific transformer models with text oversampling for sentiment analysis of social media posts on Covid-19 vaccines
新型冠状病毒肺炎(COVID-19,即2019冠状病毒病)已在全球蔓延,人们已开发出多种疫苗来应对疫情的激增。为了从社交媒体帖子中识别与疫苗相关的正确情绪,我们在与Covid-19疫苗相关的推文上微调各种最先进的预训练Transformer模型。具体来说,我们使用最近推出的最先进的预训练Transformer模型RoBERTa、XLNet和BERT,以及针对Covid-19推文预训练的特定领域Transformer模型CT-BERT和BERTweet。我们进一步探索了文本增强的选项,通过使用基于语言模型的过采样技术(LMOTE)来提高这些模型的准确性,特别是对于小样本数据集,其中在正面,负面和中性情感类之间存在不平衡的类分布。我们的研究结果总结了我们对不平衡小样本数据集的文本过采样的适用性的研究结果,这些数据集用于微调最先进的预训练Transformer模型,以及特定于域的Transformer模型在分类任务中的实用性。
2023-01-13 cs.CL
Identifying Intensity of the Structure and Content in Tweets and the Discriminative Power of Attributes in Context with Referential Translation Machines
AI Enablement(AI赋能部门);Huawei Türkiye R&D Center(华为土耳其研发中心)
本文提出用堆叠RTM将属性—词语相似性及多语言推文情感强度预测建模为MTPP,在任务10与任务1上均取得良好效果。
2024-07-06 cs.AI cs.CL
Sexism Prediction in Spanish and English Tweets Using Monolingual and Multilingual BERT and Ensemble Models
Universitat Politècnica de València(瓦伦西亚理工大学);Escola Politécnica da Universidade de São Paulo(圣保罗大学)
社交媒体的普及带来了仇恨言论和性别歧视等问题。识别和分类社交媒体中的性别歧视是非常相关的任务,因为它们将有助于建立一个更健康的社会环境。然而,这些任务相当具有挑战性。这项工作提出了一个系统,使用多语言和单语言的BERT和数据点翻译和合奏策略的性别歧视识别和分类在英语和西班牙语。它是在伊比利亚语言评估论坛(IberLEF)提出的2021年社交网络共享(EXIST 2021)任务中进行的。本文介绍了所提出的系统及其主要组成部分,并进行了深入的超参数分析。观察到的主要结果是:(i)该系统获得了比基线模型(多语言BERT)更好的结果;(ii)集成模型获得了比单语言模型更好的结果;(iii)考虑到所有单个模型和最佳标准化值的集成模型获得了两项任务的最佳准确度和F1分数。这项工作在EXIST的两项任务中均获得第一名,准确率最高(任务1为0.780,任务2为0.658),F1得分最高(任务1的F1二进制为0.780,任务2的F1宏为0.579)。
2021-11-08 cs.AI cs.CL cs.CY
Sentiment Analysis of Persian-English Code-mixed Texts
University of Tehran(德黑兰大学)
互联网上数据的快速生成以及从商业和研究角度了解用户感受的需求促使了许多自动单语情感检测系统的创建。然而,最近,由于社交媒体上数据的非结构化性质,我们观察到更多的多语言和代码混合文本的实例。内容类型的这种发展产生了对代码混合情感分析系统的新需求。在这项研究中,我们收集,标签,从而创建一个数据集的波斯语-英语代码混合鸣叫。然后,我们继续介绍一个模型,该模型使用BERT预训练的嵌入以及翻译模型来自动学习这些推文的极性分数。我们的模型优于使用朴素贝叶斯和随机森林方法的基线模型。
2021-02-25 cs.CL
Matching Tweets With Applicable Fact-Checks Across Languages
University of Michigan(密歇根大学);Stanford Law School(斯坦福法学院);University of Oxford(牛津大学)
新闻事实核查的一个重要挑战是有效传播现有的事实核查。这反过来又需要可靠的方法来检测以前经过事实核查的索赔。在本文中,我们专注于自动查找社交媒体帖子(tweets)中的声明的现有事实检查。我们进行分类和检索实验,在单语(仅英语),多语言(西班牙语,葡萄牙语)和跨语言(印地语-英语)设置使用多语言Transformer模型,如XLM-RoBERTA和多语言嵌入,如LaBSE和SBERT。我们提出了有希望的结果“匹配”分类(86%的平均准确率)在四种语言对。我们还发现,在我们的单语实验中,BM 25基线优于或等同于最先进的多语言嵌入模型的检索任务。我们强调并讨论了NLP的挑战,同时用不同的语言解决这个问题,我们介绍了一个新的事实检查和相应的推文的策划数据集,以供未来的研究。
2022-06-12 cs.CL
SemEval-2020 Task 9: Overview of Sentiment Analysis of Code-Mixed Tweets
University of Houston(休斯顿大学);IIIT Delhi(印度德里信息技术学院);IIIT Sri City(印度斯里城信息技术学院);NTNU(挪威科技大学);Wipro AI Labs(威普罗人工智能实验室)
在本文中,我们介绍了SemEval-2020任务9对代码混合推文的情感分析(SentiMix 2020)的结果。我们还发布并描述了我们的Hinglish(印地语-英语)和Spanglish(西班牙语-英语)语料库,这些语料库使用单词级语言识别和短语级情感标签进行注释。这些语料库分别由20 K和19 K个示例组成。情绪标签是-积极,消极和中性。SentiMix共吸引了89个参赛作品,其中包括61个参加Hinglish比赛的团队和28个参加Spanglish比赛的团队。最好的成绩是75.0%F1的Hinglish和80.6%F1的Spanglish。我们观察到BERT类模型和集成方法是参与者中最常见和最成功的方法。
2020-08-10 cs.CL
"Did you really mean what you said?" : Sarcasm Detection in Hindi-English Code-Mixed Data using Bilingual Word Embeddings
Netaji Subhas University of Technology(内塔吉·苏巴斯理工大学)
随着世界各地的人们越来越多地使用社交媒体平台,许多新的有趣的NLP问题已经存在。其中之一是检测社交媒体文本中的讽刺。我们提出了一个语料库的tweets训练自定义词嵌入和标记为讽刺检测的Hinglish数据集。我们提出了一种基于深度学习的方法来解决印地语-英语代码混合推文中的讽刺检测问题,使用来自FastText和Word 2 Vec方法的双语词嵌入。我们试验了各种深度学习模型,包括CNN、LSTM、双向LSTM(有注意力和无注意力)。我们的深度学习模型能够超越所有最先进的性能,其中基于注意力的双向LSTM提供了最佳性能,准确率为78.49%。
2020-10-15 cs.CL
What are We Depressed about When We Talk about COVID19: Mental Health Analysis on Tweets Using Natural Language Processing
Yale University(耶鲁大学);Barcelona Supercomputing Center (BSC)(巴塞罗那超级计算中心(BSC))
2019冠状病毒病(COVID-19)最近爆发,在很大程度上影响了人类生活。除了直接的身体和经济威胁外,这一流行病还间接影响人们的心理健康状况,这种状况可能是压倒性的,但难以衡量。问题可能来自各种原因,如失业状况、居家政策、对病毒的恐惧等。在这项工作中,我们专注于应用自然语言处理(NLP)技术来分析心理健康方面的推文。我们训练了深度模型,将每条推文分类为以下情绪:愤怒、期待、厌恶、恐惧、喜悦、悲伤、惊讶和信任。我们通过手动标记1,000条英文推文来构建用于训练目的的TweetCT(Ammtion-Covid 19-Tweet)数据集。此外,我们提出并比较了两种方法,以找出导致悲伤和恐惧的原因。
2020-06-08 cs.CL cs.CY cs.LG
NTUA-SLP at SemEval-2018 Task 3: Tracking Ironic Tweets using Ensembles of Word and Character Level Attentive RNNs
School of ECE, National Technical University of Athens(雅典国立技术大学电子与计算机工程学院);Department of Informatics, Athens University of Economics and Business(雅典经济与商业大学信息学院);Department of Informatics, University of Athens(雅典大学信息学院);Behavioral Signal Technologies
在本文中,我们介绍了两个在SemEval-2018任务3“英语推文中的反讽检测”中竞争的深度学习系统。我们基于递归神经网络(Bi-LSTM)设计和集成了两个独立的模型,它们在单词和字符级别上运行,以捕获推文中的语义和句法信息。我们的模型增加了自我注意力机制,以识别信息量最大的单词。我们的词级模型的嵌入层是用word 2 vec词嵌入初始化的,并在5.5亿条英语推文的集合上进行了预训练。我们没有使用任何手工制作的特征,词典或外部数据集作为先验信息,我们的模型是使用约束数据的反向传播进行端到端训练的。此外,我们提供了可视化的推文与注释的显着令牌的注意力层,可以帮助解释所提出的模型的内部工作。我们在子任务A的42个团队中排名第二,在子任务B的31个团队中排名第二。然而,我们模型的任务完成后增强功能实现了最先进的结果,在两个子任务中排名第一。
2018-04-18 cs.CL
AIR-JPMC@SMM4H'22: Classifying Self-Reported Intimate Partner Violence in Tweets with Multiple BERT-based Models
J.P. Morgan AI Research(摩根大通人工智能研究院)
本文介绍了我们提交的SMM 4 H 2022-关于Twitter上自我报告的亲密伴侣暴力分类的共享任务(英文)。这项任务的目标是准确地确定某条推文的内容是否表明有人报告了自己遭受亲密伴侣暴力的经历。提交的系统是五个RoBERTa模型的集合,每个模型由验证数据集上各自的F1分数加权。该系统的性能比基线高出13%,是该共享任务总体性能最好的系统。
2022-09-22 cs.CL
An analysis of Twitter messages in the 2011 Tohoku Earthquake
National Institute of Informatics(国立情报学研究所)
Facebook和Twitter等社交媒体已被证明是了解公众对现实世界事件的看法的有用资源。在本文中,我们调查了2011年3月9日至2011年5月31日期间超过150万条Twitter消息(tweets),以跟踪东京都市区对2011年东北地震以及随后的海啸和核紧急情况的意识和焦虑水平。这三个事件都是用英语和日语的推文跟踪的。初步结果表明:1)Twitter数据与地震事件之间的密切对应关系,2)英语和日语关于同一事件的推文之间的强相关性,3)母语推文在预警中发挥重要作用,4)推文显示了日本人的焦虑在地震事件后恢复到正常水平的速度。还讨论了有关地震事件的英语和日语推文之间的一些区别。研究结果表明,Twitter数据可以作为一种有用的资源,用于跟踪受自然灾害影响的人群的公众情绪以及预警系统。
2011-09-08 cs.CL cs.SI physics.soc-ph
Language-Independent Sentiment Labelling with Distant Supervision: A Case Study for English, Sepedi and Setswana
University of Johannesburg, South Africa(约翰内斯堡大学);IU International University of Applied Sciences, Germany(国际应用科学大学);University of the Witwatersrand, South Africa(沃尔特·斯皮克兰大学)
本文提出一种语言无关的情感标注方法,利用emoji和词语信息,对英语、塞佩迪语和塞斯瓦纳语的推文进行情感标注,准确率分别达到66%、69%和63%。
2025-11-25 cs.AI cs.CL
Development of POS tagger for English-Bengali Code-Mixed data
IIIT, Hyderabad(海得拉巴国际信息技术学院);Jadavpur University, Kolkata(贾达普大学)
由于社交媒体的出现,代码混合文本现在很普遍。由于这些文本将两种语言结合起来形成一个句子,因此产生了与自然语言处理相关的各种研究问题。本文试图挖掘这样一个问题,即语码混合文本的词性标注。我们已经建立了一个系统,可以POS标记英语孟加拉语代码混合的数据,其中孟加拉语的话写在罗马脚本。我们的方法最初涉及收集和清理英语-孟加拉语代码混合的推文。这些推文被用作构建我们系统的开发数据集。所提出的系统是一种模块化方法,首先用各自的语言标记各个标记,然后将它们传递给为不同语言(英语和孟加拉语,在我们的情况下)设计的不同POS标记器。这两个系统给出的标签随后被连接在一起,最终结果被映射到一个通用的POS标签集。我们的系统使用100个人工标记的POS代码混合句子进行测试,它返回的准确率为75.29%
2020-07-29 cs.CL
SenWave: A Fine-Grained Multi-Language Sentiment Analysis Dataset Sourced from COVID-19 Tweets
King Abdullah University of Science and Technology(国王阿卜杜勒·阿齐兹科技大学);University Of Florida(佛罗里达大学);University of Notre Dame(诺特丹大学)
针对COVID-19推文,构建了包含五种语言、十个情感类别的细粒度多语言情感分析数据集SenWave,并微调Transformer模型实现准确分类,揭示跨语言和地区的情绪演变。
2025-10-09 cs.CL
HULAT at SemEval-2023 Task 9: Data augmentation for pre-trained transformers applied to Multilingual Tweet Intimacy Analysis
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
本文介绍了我们参与SemEval-2023任务9,多语言推文的亲密度分析。我们使用不同数据增强技术生成的训练数据集和合成数据对一些最流行的Transformer模型进行了微调。在开发阶段,我们使用XLM-T获得了最佳结果。数据增强技术在结果中提供非常轻微的改进。我们的系统在45个参与系统中排名第27位。尽管结果不多,但我们的系统在葡萄牙语、英语和荷兰语等语言中显示出令人鼓舞的结果。我们所有的代码都可以在存储库\url{https://github.com/isegura/hulat_intimacy}中找到。
2023-02-24 cs.AI cs.CL cs.LG
Humor Detection in English-Hindi Code-Mixed Social Media Content : Corpus and Baseline System
International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术学院)
在过去的十年里,大量的用户通过社交网站生成的数据导致了计算语言学领域中自动文本分类的日益普及。在这一领域中,文本幽默自动检测是一个备受关注的问题。需要对文本进行深入的语义理解来检测幽默,这使得问题难以自动化。随着社交媒体用户数量的增加,许多使用多种语言的人在社交媒体上发帖时经常在不同语言之间进行交流,这被称为代码混合。它介绍了社交媒体内容的语言分析领域的一些挑战(Barman等人,2014年),如拼写变化和句子中的非语法结构。过去的研究包括检测文本中的双关语(Kao等人,2016)和幽默的一行(Mihalcea等人,2010),但是随着大量的代码混合数据在网上可用,需要开发检测代码混合推文中的幽默的技术。在本文中,我们分析了文本中的幽默检测任务,并描述了一个免费提供的语料库,其中包含英语印地语代码混合的鸣叫与幽默(H)或非幽默(N)的标签注释。我们还用语言标签(英语/印地语/其他)标记了推文中的单词。此外,我们描述了语料库上进行的实验,并提供了一个基线分类系统,区分幽默和非幽默文本。
2018-06-14 cs.CL
Detection of COVID-19 informative tweets using RoBERTa
Indian Institute of Technology (Indian School of Mines)(印度理工学院(印度矿业学院))
Twitter等社交媒体是用户生成信息的热点。在这场持续的Covid-19大流行中,社交媒体上有大量数据,可分为信息内容和非信息内容。在本文中,我们介绍了我们的工作,以检测信息Covid-19英语推文使用RoberTa模型作为W-NUT研讨会2020的一部分。我们展示了我们的模型在公共数据集上的有效性,验证数据集上的F1得分为0.89,排行榜上为0.87。
2020-10-21 cs.CL cs.SI
tmn at SemEval-2023 Task 9: Multilingual Tweet Intimacy Detection using XLM-T, Google Translate, and Ensemble Learning
University of Tyumen(秋明大学)
本文面向 SemEval-2023 多语言推文亲密程度检测任务,提出结合 XLM-T、Google Translate 与集成学习的方案,在跨语言测试中排名第 4。
2023-04-08 cs.AI cs.CL cs.IR
An Exploratory Study of Tweets about the SARS-CoV-2 Omicron Variant: Insights from Sentiment Analysis, Language Interpretation, Source Tracking, Type Classification, and Embedded URL Detection
University of Cincinnati(辛辛那提大学)
本文介绍了一项探索性研究的结果,该研究针对Twitter上不断生成的大数据,这些数据与分享有关COVID-19大流行的信息、新闻、观点、意见、想法、反馈和经验有关,特别关注Omicron变体,这是目前SARS-CoV-2的全球主要变体。共研究了12028条关于Omicron变体的推文,并分析了推文的具体特征,包括情感,语言,来源,类型和嵌入式URL。这项研究的结果是多方面的。首先,从情感分析中,观察到50.5%的推文具有中性情感。其他情绪-坏的,好的,可怕的和伟大的分别在15.6%,14.0%,12.5%和7.5%的推文中被发现。其次,语言翻译的结果显示,65.9%的推文是用英语发布的。其次是西班牙语、法语、意大利语和其他语言。第三,来源追踪的结果显示,Android版Twitter与35.2%的推文相关。紧随其后的是Twitter Web App、iPhone版Twitter、iPad版Twitter和其他来源。第四,研究推文的类型发现,转发占推文的60.8%,其次是原创推文和回复,分别占推文的19.8%和19.4%。第五,在嵌入URL分析方面,发现最常见的嵌入推文的域名是twitter.com,其次是biorxiv.org,nature.com和其他域名。最后,为了支持该领域的类似研究,我们开发了一个Twitter数据集,该数据集包含自2021年11月24日首次发现该变体病例以…
2022-07-20 cs.CL cs.LG cs.SI
NTUA-SLP at SemEval-2018 Task 2: Predicting Emojis using RNNs with Context-aware Attention
National Technical University of Athens(雅典国家技术大学);Athens University of Economics and Business(雅典经济与商业大学);Behavioral Signal Technologies(行为信号技术公司);University of Athens(雅典大学)
在本文中,我们提出了一个在SemEval-2018任务2“多语言预测”中竞争的深度学习模型。我们参与了子任务A,其中我们被要求预测英语推文中最有可能关联的表情符号。所提出的架构依赖于一个长短期记忆网络,增强了一个注意力机制,该机制根据一个“上下文向量”来调节每个单词的权重,该向量被视为推文含义的聚合。此外,我们使用word 2 vec词嵌入初始化模型的嵌入层,并在5.5亿条英语推文的数据集上进行预训练。最后,我们的模型不依赖于手工制作的特征或词典,而是通过反向传播进行端到端的训练。我们在48支球队中排名第二。
2018-04-18 cs.CL