Tweets Under the Rubble: Detection of Messages Calling for Help in Earthquake Disaster
Aselsan Research Center(阿瑟尔桑研究中心)
2023年土耳其和叙利亚地震的悲剧再次暴露了社交媒体的重要性。许多被困在废墟下的受害者通过在Twitter上发布消息寻求帮助。我们提出了一个交互式工具,为失踪和被困人员提供情况感知,并为救援和捐赠工作提供救灾。该系统(i)收集推文,(ii)对求助的推文进行分类,(iii)提取重要的实体标签,以及(iv)在交互式地图屏幕中将它们可视化。我们的初步实验表明,在F1分数方面的性能是高达98.30的推文分类,和84.32的实体提取。可以在https://github.com/avaapm/deprem上访问演示、数据集和其他相关文件
2023-02-26 cs.CL cs.IR cs.SI
Keyphrase Extraction from Disaster-related Tweets
Kansas State University(堪萨斯州立大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
虽然关键词提取近年来受到了相当大的关注,但从Twitter等社交媒体平台提取关键词的研究相对较少,从这些来源提取与灾害相关的关键词的研究更少。在灾难期间,关键词对于过滤相关推文非常有用,可以增强态势感知。此前,针对关键字发现和关键词提取的堆叠递归神经网络的两个不同层的联合训练已被证明在从一般Twitter数据中提取关键词方面是有效的。我们提高了模型的性能,一般的Twitter数据和灾害相关的Twitter数据,将上下文词嵌入,POS标签,语音和音韵特征。此外,我们讨论了经常使用的F1-措施的缺点,用于评估预测的关键词的质量相对于地面实况注释。我们建议使用基于嵌入的指标来更好地捕获预测关键词的正确性,而不是F1度量。此外,我们还提出了一种新的扩展的嵌入为基础的度量。该扩展允许更好地控制地面实况和预测关键词数量差异的惩罚
2019-10-17 cs.CL cs.IR cs.LG
Comparative Analysis of Transformer Models in Disaster Tweet Classification for Public Safety
Department of Computer Science(计算机科学系);University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
本文比较了BERT、DistilBERT、RoBERTa和DeBERTa等Transformer模型在灾难推文分类中的性能,发现BERT准确率最高,显著优于传统机器学习模型,展示了Transformer在公共安全应用中的优势。
2025-09-08 cs.AI cs.CL
ADSumm: Annotated Ground-truth Summary Datasets for Disaster Tweet Summarization
Indian Institute of Technology Patna(印度理工学院巴特那分校);University of Tartu(塔尔图大学)
针对灾害推文监督摘要缺乏训练与评估数据的问题,本文构建 ADSumm,为八国来源中的八类自然灾害和人为灾害事件提供带标注真实摘要、类别/相关性标签及关键短语,并使 ROUGE-N F1 提升 8%–28%。
2024-05-10 cs.CL cs.SI
Semi-supervised Discovery of Informative Tweets During the Emerging Disasters
Temple University(天普大学)
在新出现的灾害期间,有效利用Twitter等微博客服务了解情况的第一个目标是发现与灾害有关的帖子。考虑到可能发生的灾难范围很广,使用预先选择的一组与灾难相关的关键字来进行发现是不理想的。我们在这项工作中关注的另一种选择是使用一小组标记的帖子来训练分类器,这些帖子在灾难出现时变得可用。我们的假设是,利用大量的历史微博可以提高分类的质量,相比只训练分类器的标记数据。我们建议使用未标记的微博聚类词到一个有限数量的集群,并使用词集群作为特征进行分类。为了评估所提出的半监督方法,我们使用了来自6种不同灾害的Twitter数据。我们的研究结果表明,当标记的推文的数量是100或更少,所提出的方法是优于基于袋或词的特征表示的标准分类。我们的研究结果还表明,未标记语料库的选择,词聚类算法的选择,以及超参数的选择可以有显着的分类精度的影响。
2016-10-12 cs.CL cs.SI
Semantic-based End-to-End Learning for Typhoon Intensity Prediction
Paderborn University(帕德博恩大学)
灾害预测是灾害监测和备灾的最关键任务之一。现有技术采用不同的机器学习方法来根据历史环境数据预测即将到来的灾害。但是,对于短期灾害(例如,地震),历史数据本身具有有限的预测能力。因此,需要额外的警告源来进行准确的预测。我们认为社交媒体是历史环境数据之外的补充知识来源。然而,社交媒体帖子(例如,tweets)是非常非正式的,只包含有限的内容。为了减轻这些限制,我们提出了语义丰富的词嵌入模型的组合来表示实体的tweets与他们的语义表示计算与traditionalword 2 vec。此外,我们研究了社交媒体帖子和台风强度(也称为强度)之间的相关性-就推文的数量和情绪而言-。基于这些见解,我们提出了一个基于端到端的框架,该框架从灾害相关的推文和环境数据中学习,以改善台风强度预测。本文是我们最初发表在K-CAP 2019 [32]上的工作的扩展。我们扩展了这篇论文,用最先进的深度神经模型构建了我们的框架,用新的台风及其推文更新了我们的数据集,并将我们的方法与最近的灾害预测基线进行了比较。我们的实验结果表明,我们的方法在F1分数方面优于最先进的基线的准确性,与上一次实验相比,(CNN和BiLSTM分别提高了12.1%和3.1
2020-08-11 cs.CL cs.LG stat.ML
HUMAID-NER: A Disaster Tweet Dataset for Joint Named Entity Recognition and Event Classification via Uncertainty-Weighted Multitask Learning
University of Sindh(信德大学);Mehran University of Engineering & Technology(迈赫兰工程技术大学)
该研究提出HUMAID-NER数据集及不确定性加权多任务学习框架,联合进行灾难推文命名实体识别与事件分类,在验证集上分别达到0.841和0.761的F1分数。
2026-09-16 cs.CL cs.LG
Newswire versus Social Media for Disaster Response and Recovery
University of Houston(休斯顿大学);University of Tehran(德黑兰大学);Institute for Research in Fundamental Sciences (IPM)(基础科学研究所(IPM))
在灾害情况下,第一反应者需要迅速获得情况意识,并根据需要、可用资源和影响确定反应的优先次序。他们能仅仅依靠Twitter这样的数字媒体,或者仅仅依靠新闻专线,或者两者的结合吗?我们在2015年尼泊尔地震的背景下研究这个问题。因为新闻专线的文章比较长,有效的摘要可以帮助节省时间,但提供关键内容。我们评估了几种无监督摘要技术在捕获关键内容方面的有效性。我们提出了一种方法来链接写的推文由公众和新闻通讯社的文章,这样我们就可以比较他们的关键特征:及时性,推文是否出现早于其相应的新闻文章,和内容。一个新颖的想法是将相关推文视为匹配新闻文章的摘要并评估这些摘要。只要有可能,我们会同时进行定量和定性评估。我们的主要发现之一是,推特和新闻专线文章提供了互补的视角,形成了对灾害情况的整体看法。
2019-06-25 cs.CL cs.IR cs.SI
Few-shot tweet detection in emerging disaster events
German Aerospace Center (DLR)(德国航空航天中心(DLR))
社交媒体来源可以在危机情况下提供关键信息,但发现相关信息并不是小事。到目前为止,方法的重点是所有类型危机或某些危机类型(如洪水)的通用检测模型。特定事件模型可以实现更集中的搜索区域,但为已经发生的危机收集数据和训练新模型的成本很高,而且可能需要太多时间才能迅速做出反应。作为折衷方案,手动收集少量示例消息是可行的。Few-Shot模型可以用少量的例子推广到看不见的类,并且不需要为每个事件重新训练。我们比较了Few-Shot方法(匹配网络和原型网络)如何执行此任务。由于这基本上是一个一类的问题,我们还演示了如何修改的一类版本的原型模型可以用于此应用程序。
2019-10-05 cs.CL cs.CY cs.LG
Active Learning for Identifying Disaster-Related Tweets: A Comparison with Keyword Filtering and Generic Fine-Tuning
University of Salzburg(萨尔茨堡大学);Harvard University(哈佛大学)
本研究针对社交媒体灾害相关推文识别难题,对比主动学习、关键词过滤、通用微调等方法,发现通用微调结合10轮主动学习效果最优,可低标注成本训练出通用的灾害推文识别模型。
2024-08-19 cs.CL cs.LG
Weakly-supervised Fine-grained Event Recognition on Social Media Texts for Disaster Management
Texas A&M University(得克萨斯农工大学);Princeton University(普林斯顿大学)
人们越来越多地使用社交媒体来报告紧急情况、寻求帮助或在灾害期间分享信息,这使得社交网络成为灾害管理的重要工具。为了满足这些时间紧迫的需求,我们提出了一种弱监督的方法,用于快速构建高质量的分类器,这些分类器使用细粒度的事件类别标记每个单独的Twitter消息。最重要的是,我们提出了一种新的方法来创建高质量的标记数据,以及时的方式,自动集群的推文包含一个事件的关键字,并要求一个领域的专家,以消除歧义的事件词义和标签集群迅速。此外,处理非常嘈杂,往往是相当短的用户生成的消息,我们丰富的推文表示使用之前的上下文推文和回复推文在建设事件识别分类。对两次飓风哈维和佛罗伦萨的评估表明,仅使用1-2人小时的人工监督,快速训练的弱监督分类器优于使用超过50人小时创建的一万多条注释推文训练的监督分类器。
2020-10-04 cs.CL
Transformer-based Multi-task Learning for Disaster Tweet Categorisation
University College Dublin(都柏林大学学院)
社交媒体使人们能够及时传播信息,从而激励人们在危机局势中发布寻求帮助的信息。这些消息可以有助于紧急响应者的态势感知,他们需要根据信息类型(即消息请求的援助服务类型)对它们进行分类。我们介绍了一种基于transformer的多任务学习(MTL)技术,用于对信息类型进行分类并估计这些消息的优先级。我们通过向TREC Incident Streams(IS)轨道提交运行来评估我们方法的有效性:这是一项专门为灾难推文分类和优先级排序而设计的研究计划。结果表明,我们的方法实现了竞争力的性能,在大多数指标相比,其他参与运行。随后,我们发现,在我们的方法中结合不同的Transformer编码器的集成方法有助于在很大程度上提高整体有效性,几乎在每个指标上都实现了最先进的性能。我们将代码公开,以便我们的工作可以被复制,并用作该领域未来工作的社区基线。
2021-10-15 cs.CL
ATSumm: Auxiliary information enhanced approach for abstractive disaster Tweet Summarization with sparse training data
Indian Institute of Technology Patna(印度理工学院巴特那分校);University of Tartu(塔尔图大学)
针对灾害推文摘要训练数据稀疏问题,本文提出ATSumm及AuxPGN模型,利用关键短语与重要性分数作为辅助信息,在13个数据集上显著优于10种基线方法。
2024-05-10 cs.CL cs.SI
Public Health in Disaster: Emotional Health and Life Incidents Extraction during Hurricane Harvey
Denison University(丹尼森大学);Electric Power University(电力大学);University of Louisville(路易斯维尔大学)
本研究利用约40万条哈维飓风相关推文,结合BERT情绪预测、LDA主题建模、GNN聚类优化及LLM自动命名,提取灾害前后民众情绪与生活事件,为灾害应对提供关键洞察。
2024-08-20 cs.CL cs.IR
RweetMiner: Automatic identification and categorization of help requests on twitter during disasters
Kyung Hee University(庆熙大学);National University of Sciences and Technology (NUST)(国立科技大学(NUST));Qatar Computing Research Institute (QCRI)(卡塔尔计算研究所(QCRI))
灾难性事件给人道主义组织寻找受灾民众并向其提供援助造成了不确定的局面。许多人在灾难期间转向社交媒体请求帮助和/或向他人提供救济。然而,大多数寻求帮助的社交媒体帖子无法被正确检测到,并且仍然被隐藏,因为它们通常是嘈杂和不规范的。现有的系统缺乏规划一个有效的策略,推文预处理和把握推文的上下文。这项研究,首先,正式定义请求推文的背景下,社交网站,以下rweets,以及他们不同的主要类型和子类型。我们的主要贡献是识别和分类的rweets。对于rweet识别,我们采用了两种方法,即基于规则和逻辑回归,并显示其高精度和F1分数。使用逻辑回归将rweets分类为医疗,食品和住所等子类型,显示了有希望的结果,并且优于现有的工作。最后,我们引入了一个架构来存储中间数据,以加速机器学习分类器的开发过程。
2023-03-04 cs.AI cs.CL
Social Media Information Sharing for Natural Disaster Response
Texas State University(得克萨斯州立大学)
社交媒体已成为发布灾害相关信息的重要渠道,为政府和救援机构提供实时数据,以更好地进行灾害管理。然而,在这一领域的研究还没有得到足够的重视,提取有用的信息仍然是具有挑战性的。本文旨在通过挖掘和分析社会媒体数据,如公众对灾害响应的态度和公众在不同类型的灾害中对有针对性的救援物资的需求,以提高救灾效率。我们根据类型、持续时间和损害程度等属性关注不同的自然灾害,共包含41,993条推文。在本文中,公众感知定性评估人工分类的推文,其中包含的信息,如有针对性的救援物资的需求,灾害响应的满意度,和公众的恐惧。通过八个机器学习模型的定量分析,研究了公众对自然灾害的态度。为了更好地为决策者提供合适的模型,进行了基于计算时间和预测精度的机器学习模型的比较。研究了不同自然灾害期间公众舆论的变化,以及随着Twitter的不断发展,人们在面对同一类型自然灾害时使用社会媒体救灾的行为的演变。本文的结果表明了所提出的研究方法的可行性和有效性,并为救援机构提供了更好的灾害管理的见解。
2021-07-11 cs.CL cs.LG cs.SI
A Lightweight LLM Framework for Disaster Humanitarian Information Classification
Department of Civil, Architectural & Environment Engineering, Sungkyunkwan University(苏州市立大学土木、建筑与环境工程系);School of Geography, University of Leeds(利兹大学地理学院)
本文提出轻量级LLM框架,通过参数高效微调实现灾难推文的人道主义信息分类和事件类型识别,展示LoRA和QLoRA在资源受限环境下的高效性能。
2026-01-21 cs.AI cs.CL cs.LG
CrisisSense-LLM: Instruction Fine-Tuned Large Language Model for Multi-label Social Media Text Classification in Disaster Informatics
Texas A&M University(德克萨斯农工大学);Rice University(莱斯大学)
针对灾害社交媒体文本分类中单标签模型的局限,提出指令微调LLM的CrisisSense-LLM方法,实现多标签分类,提升态势感知与应急响应能力。
2025-08-06 cs.AI cs.CL
From Millions of Tweets to Actionable Insights: Leveraging LLMs for User Profiling
University of Tehran(德黑兰大学);Institute for Research in Fundamental Sciences (IPM)(基础科学研究所(IPM))
本文提出一种基于大语言模型的两阶段用户画像方法,利用领域定义语句和半监督过滤生成可解释画像,在波斯语政治Twitter数据集上较现有方法提升9.8%。
2025-05-09 cs.CL cs.IR cs.SI
HumAID: Human-Annotated Disaster Incidents Data from Twitter with Deep Learning Benchmarks
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所,哈马德·本·哈利法大学)
社交网络被广泛用于信息消费和传播,特别是在诸如自然灾害等时间紧迫的事件期间。尽管社交媒体内容的容量非常大,但它通常太嘈杂,无法直接用于任何应用程序。因此,对可用内容进行过滤、分类和简明扼要的总结,以促进有效的消费和决策制定,这一点非常重要。为了解决这些问题,已经使用监督建模方法开发了自动分类系统,这要归功于早期在创建标记数据集方面的努力。然而,现有的数据集在不同方面受到限制(例如,大小,包含重复),并且不太适合支持更高级和数据需求量更大的深度学习模型。在本文中,我们提出了一个新的大规模数据集,其中包含约7.7万条人类标记的推文,这些推文是从2016年至2019年发生的19起灾难事件中的约2400万条推文中采样的。此外,我们提出了一个数据汇集和采样管道,这是很重要的社会媒体数据采样人类注释。我们使用基于经典和深度学习(fastText和Transformer)的模型报告多类分类结果,为未来的研究奠定基础。数据集和相关资源是公开的。https://crisisnlp.qcri.org/humaid_dataset.html
2021-04-08 cs.AI cs.CL cs.CY
EdinburghNLP at WNUT-2020 Task 2: Leveraging Transformers with Generalized Augmentation for Identifying Informativeness in COVID-19 Tweets
University of Edinburgh(爱丁堡大学)
Twitter和一般社交媒体已成为紧急情况下不可或缺的沟通渠道。无处不在的智能手机小工具使人们能够宣布实时观察到的紧急情况。因此,越来越多的机构有兴趣以编程方式监控Twitter(救灾组织和新闻机构)。因此,识别推文的信息量可以帮助过滤大量推文中的噪声。在本文中,我们提交了WNUT-2020任务2:识别信息性COVID-19英语推文的提交内容。我们最成功的模型是一组Transformers,包括在半监督学习(SSL)设置中训练的RoBERTa、XLNet和BERTweet。该系统在测试集上的F1得分为0.9011(排行榜上排名第7),与使用FastText嵌入的基线系统相比,该系统的性能有了显着提高。
2021-04-18 cs.CL cs.IR cs.LG
Multi-task transfer learning for finding actionable information from crisis-related messages on social media
事件流(IS)跟踪是一项研究挑战,旨在从社交媒体中寻找危机期间用于应急响应的重要信息。更具体地说,给定与危机相关的推文流,IS挑战要求参与系统1)对每条推文中表达的用户关注或需求的类型进行分类,称为信息类型(IT)分类任务,以及2)估计每条推文对于紧急响应的重要性,称为优先级预测任务。在本文中,我们描述了我们的多任务迁移学习方法来应对这一挑战。我们的方法利用了最先进的Transformer模型,包括基于编码器的模型(如BERT)和基于序列到序列的T5,用于两个任务的联合迁移学习。基于这种方法,我们向赛道提交了几次跑步。返回的评估结果表明,我们的运行大大优于其他参与运行在IT分类和优先级预测。
2021-02-26 cs.CL
Event-Related Bias Removal for Real-time Disaster Events
Language Technologies Institute(语言技术研究所);Carnegie Mellon University(卡内基梅隆大学)
社交媒体已成为分享自然灾害和大规模袭击等危机事件信息的重要工具。检测包含有用信息的可操作帖子需要对大量数据进行实时的【形】快速分析。由于大量的帖子不包含任何可操作的信息,这造成了一个复杂的问题。此外,在实时的【形】系统中对信息进行分类需要对域外数据进行训练,因为我们没有来自新出现的危机的任何数据。之前的工作主要集中在类似事件类型的预训练模型上。然而,这些模型捕获了不必要的事件特定偏差,例如事件的位置,这会影响分类器对来自新出现的新事件的新的未知数据的概括性和性能。在我们的工作中,我们训练一个对抗性神经模型,以消除潜在的事件特定的偏见,并提高推文重要性分类的性能。
2020-11-02 cs.AI cs.CL
Identification of Fine-Grained Location Mentions in Crisis Tweets
Kansas State University(堪萨斯州立大学)
识别危机推文中提到的细粒度位置是将从社交媒体中提取的态势感知信息转化为可操作信息的核心。大多数先前的工作都集中在确定通用的位置,而不考虑其特定类型。为了促进细粒度位置识别任务的进展,我们组装了两个tweet crisis数据集,并使用特定的位置类型手动注释它们。第一个数据集包含来自混合危机事件的推文,而第二个数据集包含来自全球COVID-19大流行的推文。我们研究了最先进的深度学习模型在这些数据集上进行序列标记的性能,包括域内和跨域设置。
2021-11-11 cs.CL cs.LG
Cross-Language Domain Adaptation for Classifying Crisis-Related Short Messages
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所, HBKU)
快速的危机反应需要对信息进行实时分析。灾难发生后,志愿者们会尝试对推文进行分类,以确定需求,例如,给定标记数据,监督机器学习可以帮助对这些消息进行分类。标记数据的稀缺性导致机器训练性能低下。我们能重用旧的tweet来训练分类器吗?我们如何选择带标签的推文进行训练?具体来说,我们研究了过去事件的标记数据的有用性。不同语言的标签推文有帮助吗?我们观察了我们的分类器的性能,这些分类器使用从过去的灾难中获得的训练集的不同组合进行训练。我们在真实的危机数据集上进行了大量的实验,并表明当源和目标事件都是相同类型(例如,两次地震)时,过去的标签是有用的。对于类似的语言(例如,意大利语和西班牙语),跨语言领域自适应是有用的,然而,当对于不同的语言(例如,意大利语和英语),业绩下降。
2016-03-29 cs.CL
Signals from the Floods: AI-Driven Disaster Analysis through Multi-Source Data Fusion
University of Technology Sydney(新南威尔士大学)
本研究融合X推文与公众调查提交材料,利用LDA主题建模和大型语言模型提升洪水灾害分析,提出相关性指数方法减少噪声,增强应急响应与长期规划。
2025-05-10 cs.CL cs.SI
Finding Eyewitness Tweets During Crises
Arizona State University(亚利桑那州立大学);Carnegie Mellon University(卡内基梅隆大学)
救灾机构已开始将社交媒体作为快速信息的来源,以了解世界各地受许多危机影响的人们的需求。这些机构寻找来自受危机影响地区的推文,以获得受影响地区状况的最新更新。然而,只有1%的推文带有明确的地理位置信息。第一响应者失去了宝贵的信息,因为他们无法评估他们收集的许多推文的来源。在这项工作中,我们试图确定来自危机地区内的非地理标记的推文。为此,我们解决三个问题:(1)是否有一个语言之间的差异,在一个危机地区内的推文和推文起源于该地区以外,(2)什么是语言模式,可用于区分区域内和区域外的推文,(3)对于非地理标记的推文,我们可以自动识别那些起源于危机地区内的实时?
2014-03-07 cs.CL cs.CY
Extracting Actionable Knowledge from Domestic Violence Discourses on Social Media
Victoria University(维多利亚大学);The University of Melbourne(墨尔本大学)
家庭暴力被认为是一个重大的社会问题,家庭暴力与公众的健康影响之间存在着密切的关系。现有的研究主要集中在社交媒体上,以跟踪和分析现实世界的事件,如新兴趋势,自然灾害,用户情感分析,政治观点和医疗保健。然而,对家庭暴力等社会福利问题及其对公共卫生的影响关注较少。近年来,家庭暴力受害者转向社交媒体平台,以帖子的形式表达自己的感受,寻求社会和情感上的支持,寻求同情的鼓励,在公众中表现出同情和同情。但是,由于社交媒体的高维、短、嘈杂、大容量、高速度等特点,很难从大规模的会话数据集中挖掘出可操作的知识,因此,本文将提出一种新的框架来建模和发现公共领域中与DV相关的各种主题。建议的框架可能会提供前所未有的有价值的信息,公共卫生研究人员,国家家庭卫生组织,政府和公众的数据丰富和整合,以改善社区的社会福利。因此,通过监测和分析连续和丰富的用户生成的内容提供可操作的知识。
2018-07-05 cs.CL cs.IR cs.LG
Enhancing Crisis-Related Tweet Classification with Entity-Masked Language Modeling and Multi-Task Learning
Technische Hochschule Nürnberg Georg Simon Ohm(纽伦堡乔治·西蒙·欧姆应用技术大学)
社交媒体已成为危机管理的一个重要信息源,提供了快速获取持续发展和关键信息的途径。然而,分类模型遭受与事件相关的偏见和高度不平衡的标签分布,这仍然是一个具有挑战性的任务。为了解决这些挑战,我们提出了一个结合实体掩蔽语言建模和分层多标签分类作为一个多任务学习问题。我们评估我们的方法从TREC-IS数据集的推文,并显示绝对性能增益w.r.t. F1-可操作信息类型的得分高达10%。此外,我们发现,实体掩蔽降低了过拟合的影响,在域内事件,并使跨事件泛化的改进。
2022-11-21 cs.CL
Zero-Shot Classification of Crisis Tweets Using Instruction-Finetuned Large Language Models
Computer Science Department Georgia State University(计算机科学系乔治亚州立大学);Disaster Relief Systems MIT Lincoln Laboratory(灾难救援系统麻省理工学院林肯实验室)
本文评估GPT-4o、Gemini和Claude在CrisisBench危机推文上的零样本双任务分类能力,发现提示信息对不同任务效果不同且性能随数据集显著变化。
2024-09-30 cs.AI cs.CL
Efficacy of BERT embeddings on predicting disaster from Twitter data
Temple University(天普大学)
像Twitter这样的社交媒体提供了一个共同的平台,可以与其他人分享和交流个人经历。人们经常在社交媒体上发布他们的生活经历,当地新闻和事件,以告知他人。许多救援机构定期监测这类数据,以识别灾害并降低生命风险。然而,人类不可能手动检查大量数据并实时识别灾难。为了这个目的,已经提出了许多研究工作,以机器可理解的表示来呈现单词,并在单词表示上应用机器学习方法来识别文本的情感。以前的研究方法提供了一个单一的表示或嵌入一个词从一个给定的文档。然而,最近提出的高级上下文嵌入方法(BERT)在不同的上下文中为同一个词构造不同的向量。BERT嵌入已成功用于不同的自然语言处理(NLP)任务,但还没有具体分析这些表示如何有助于灾难类型的推文分析。在这项研究工作中,我们探讨了BERT嵌入的Twitter数据预测灾难的功效,并将其与传统的上下文无关的词嵌入方法(GloVe,Skip-gram和FastText)进行了比较。为此,我们使用传统的机器学习方法和深度学习方法。我们为这项研究提供了定量和定性的结果。实验结果表明,与传统的词嵌入方法相比,BERT嵌入方法在灾害预测中具有更好的效果。我们的代码是免费提供给研究界。
2021-08-08 cs.CL cs.LG
Where did you tweet from? Inferring the origin locations of tweets based on contextual information
The University of Melbourne(墨尔本大学)
Twitter上的公共对话包括许多相关话题,包括灾难、抗议、政治、宣传、体育、气候变化、流行病/大流行病爆发等,这可能具有区域和全球两个方面。空间语篇分析依赖于地理数据。然而,今天只有不到1%的tweet有地理标记;在这两种情况下--点定位或边界位置信息。Twitter的一个主要问题是,Twitter用户可以在位置A和交换特定于位置B的对话,我们称之为位置A/B问题。如果位置实体可以被分类为原始位置(位置A)或非原始位置(位置B),则该问题被认为已经解决。在这项工作中,我们提出了一个简单而有效的框架-真正的起源模型-来解决这个问题,使用机器级的自然语言的理解,以确定推文,可以想象包含其起源位置信息。该模型在国家(80%),州(67%),市(58%),县(56%)和地区(64%)级别上实现了有希望的准确性,并得到了位置提取模型的支持,该模型与基于CoNLL-2003的RoBERTA一样基本。我们采用了一个推文contexualizer(locBERT),这是所提出的模型的核心组件之一,调查多个推文的分布,了解Twitter用户的推文行为,提到的起源和非起源的位置。我们还强调了目前被认为是黄金标准测试集(地面实况)方法的主要关注点,引入了一个新的数据集,并确定了推进该领域的进一步研究途径。
2022-11-18 cs.CL cs.SI
A Named Entity Recognition and Topic Modeling-based Solution for Locating and Better Assessment of Natural Disasters in Social Media
University of Engineering and Technology(工程技术大学);Abbasyn University(阿巴西恩大学);University of Western Australia(西澳大学);Munster Technological University Cork(芒斯特理工大学科克分校)
本文提出一种三步解决方案,通过相关帖子分类、命名实体识别提取位置信息以及 BERTopic 主题建模,提升社交媒体中自然灾害信息的定位与评估能力。
2024-05-01 cs.CL
Graph Based Semi-supervised Learning with Convolution Neural Networks to Classify Crisis Related Tweets
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所(哈马德·本·哈利法大学));School of Computer Science and Engineering, NTU(新加坡南洋理工大学计算机科学与工程学院)
在自然灾害等时间紧迫的情况下,对受影响者在社交网络上发布的数据进行快速分类有助于人道主义组织了解情况并规划应对工作。然而,在危机发生的早期,标记数据的稀缺性阻碍了机器学习任务,从而延迟了危机响应。在这项工作中,我们建议使用归纳半监督技术来利用未标记的数据,这些数据在危机事件发生时通常是丰富的,并且标记的数据较少。具体来说,我们采用基于图的深度学习框架来学习归纳半监督模型。我们使用Twitter的两个真实世界的危机数据集来评估所提出的方法。我们的研究结果表明,使用未标记的数据相比,只使用标记的数据显着改善。
2018-05-02 cs.CL cs.CY cs.IR
Low-supervision urgency detection and transfer in short crisis messages
Information Sciences Institute University of Southern California Marina del Rey, CA
近年来,由于气候变化和难民危机等社会政治局势的影响,人道主义灾难不断增加。在发生自然灾害时,技术可以用来最好地调动食物和水等资源,方法是半自动地将推文和短信标记为紧急需求。这一问题之所以具有挑战性,不仅是因为灾后的数据稀缺,而且还因为发展中国家灾害的特点各不相同(很难只对一个系统进行训练),以及社交媒体上的噪音和怪癖。在本文中,我们提出了一个强大的,低监督的社会媒体紧急系统,适应任意的危机,利用标记和未标记的数据在集成设置。该系统还能够适应新的危机,未标记的背景语料库可能还没有通过利用一个简单而有效的迁移学习方法。实验表明,我们的迁移学习和低监督方法在无数灾害数据集上的表现优于可行的基线。
2019-07-15 cs.CL cs.LG cs.SI
Graph Neural Network Enhanced Language Models for Efficient Multilingual Text Classification
Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校);Amazon(亚马逊)
在线社交媒体是灾害期间各种有价值和可操作信息的来源。由于用户生成内容的性质,这些信息可能以多种语言提供。自动识别和分类这些可操作信息的有效系统应该能够处理多种语言并在有限的监督下进行。然而,现有的作品大多集中在英语语言的假设,有足够的标记数据是可用的。为了克服这些挑战,我们提出了一个多语种的灾害相关文本分类系统,它能够在单语言,跨语言和多语言的情况下,并在有限的监督下工作。我们的端到端可训练框架结合了图神经网络的多功能性,通过应用于语料库,与基于Transformer的大语言模型的强大功能,通过示例,在两者之间的交叉注意力的帮助下。我们评估了我们的框架在总共九个英语,非英语和单语数据集在\{单,跨和多语言分类的情况。我们的框架在加权F $_1$得分方面优于灾难域和多语言BERT基线的最先进模型。我们还显示了有限的监督下,所提出的模型的推广。
2022-03-06 cs.CL
Leveraging Event Specific and Chunk Span features to Extract COVID Events from tweets
Indian Institute of Technology, Kharagpur(印度理工学院克勒格布尔分校)
在灾难和疫情期间,特别是在COVID-19期间,Twitter一直是重要的信息来源。在本文中,我们描述了WNUT 2020共享任务-3的系统条目。该任务旨在自动从Twitter中提取各种与COVID-19相关的事件,例如最近感染该病毒的个人,有症状但被拒绝检测的人,以及认为可以治疗感染的人。该系统由单独的多任务模型的插槽填充子任务和事件分类子任务,同时利用有用的事件级别的信息,为相应的事件。该系统使用COVID-Twitter-BERT和候选槽块特征的注意力加权池来捕获有用的信息块。该系统在排行榜上排名第一,F1为0.6598,没有使用任何集合或额外的数据集。代码和训练模型可在此https URL上获得。
2020-12-18 cs.CL cs.SI
Unsupervised Domain Adaptation with Global and Local Graph Neural Networks in Limited Labeled Data Scenario: Application to Disaster Management
Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校);Amazon(亚马逊公司)
针对灾害社交媒体分类中标注数据稀缺问题,提出融合跨域 token 级全局图与实例级局部语义的两部分图神经网络 UDA 方法,在标准及多标签数据集上显著优于现有方法。
2021-04-03 cs.CL cs.LG
Earthquake Response Analysis with AI
Indian Institute of Information Technology Raichur(印度信息技术学院赖布尔分校);National Institute of Technology, Rourkela(鲁尔克拉国家理工学院);Space Research Institute, Austrian Academy of Sciences(奥地利科学院空间研究所);Nikhef(荷兰国家亚原子物理研究所)
本研究探索利用Twitter数据开展地震响应分析,构建结合NLP技术的机器学习框架,提取推文位置信息识别受灾区、生成灾情图并通过WebGIS展示,助力优化灾害响应与资源调配。
2025-03-14 cs.CL cs.CY cs.SI
GeoCoV19: A Dataset of Hundreds of Millions of Multilingual COVID-19 Tweets with Location Information
Qatar Computing Research Institute(卡塔尔计算研究院);Hamad Bin Khalifa University(哈马德·本·哈利法大学)
本文发布 GeoCoV19,一个涵盖 90 天、超过 5.24 亿条多语言推文并含地理位置推断的大规模 Twitter 数据集,以支持 COVID-19 期间的社会响应分析及假新闻识别、疾病预测等计算研究。
2020-05-22 cs.CL cs.CY cs.IR
Unsupervised and Interpretable Domain Adaptation to Rapidly Filter Tweets for Emergency Services
George Mason University(乔治梅森大学)
在灾害事件发生期间,从社交网络数据中过滤相关信息是具有挑战性的,这是由于其稀疏的可用性和在标记持续危机的数据集方面的实际限制。在本文中,我们假设,通过多任务学习的无监督领域自适应可以是一个有用的框架,利用过去的危机事件的数据,在突发的新危机中训练有效的信息过滤模型。我们提出了一种新的方法来分类相关的推文在一个持续的危机,没有看到任何新的例子,使用公开的TREC事件流的数据集。具体来说,我们构建了一个定制的多任务架构与危机分析的多领域的网络:多任务领域的对抗性注意力网络。该模型由每个任务的专用注意力层组成,以提供模型可解释性;这对实际应用至关重要。当深度网络与稀疏数据集斗争时,我们证明了这可以通过共享多任务学习和领域对抗训练的基础层来改善。危机事件的领域自适应评估是通过选择一个目标事件作为测试集,并对其余事件进行训练来进行的。我们的研究结果表明,多任务模型优于其单任务对应。对于可解释性的定性评估,我们表明,注意力层可以作为一个指南来解释模型的预测和授权应急服务探索模型的问责制,通过展示在分类过程中被认为是重要的推文中的话。最后,我们通过提供COVID-19大流行的用例,展示了我们工作的实际意义。
2020-10-20 cs.CL cs.LG cs.SI
Helping Crisis Responders Find the Informative Needle in the Tweet Haystack
University of Sheffield(谢菲尔德大学);TU Delft(代尔夫特理工大学)
危机应对者越来越多地使用社交媒体、数据和其他数字信息来源来建立对危机局势的情景理解,以便制定有效的应对措施。然而,随着此类数据的可获得性增加,从中确定相关信息的挑战也增加了。本文提出了一个成功的自动方法来处理这个问题。根据先前研究和危机应对专家对概念的定义,对消息进行信息过滤。信息性消息被标记为可操作的数据-例如,需要帮助的人、救援工作的威胁、环境的变化等。这两个组成部分-信息性和可操作性分类-被打包在一起,作为一个开放的工具,称为Emina(紧急信息性和可操作性)。
2018-01-29 cs.CL
ArCovidVac: Analyzing Arabic Tweets About COVID-19 Vaccination
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所,哈马德·本·哈利法大学);University of Pittsburgh(匹兹堡大学)
COVID-19大流行的出现和首次全球信息流行病以多种不同方式改变了我们的生活。我们依靠社交媒体获取有关COVID-19疫情的最新信息,同时传播信息。社交媒体上的内容不仅包括与健康相关的建议,计划和来自政策制定者的信息性新闻,还包含阴谋和谣言。重要的是,一旦这些信息被发布,就必须立即识别它们,以做出可操作的决策(例如,揭穿谣言,或采取某些措施旅行)。为了应对这一挑战,我们为COVID-19疫苗接种活动开发并公开发布了第一个最大的人工注释阿拉伯语推文数据集ArCovidVac,覆盖了阿拉伯地区的许多国家。该数据集通过不同的注释层来丰富,包括:(i)信息性(推文的重要性更高与较低);(ii)细粒度的推文内容类型(例如,建议、谣言、限制、认证新闻/信息);以及(iii)对疫苗接种的立场(支持疫苗接种、中立、反对疫苗接种)。此外,我们对数据进行了深入分析,探索不同疫苗的受欢迎程度,趋势标签,主题和推文中的攻击性。我们研究了各种类型的推文和对疫苗立场的时间变化的数据。我们使用Transformer架构对ArCovidVac数据集进行基准测试,以获得信息量、内容类型和姿态检测。
2022-01-17 cs.CL cs.SI
DeCrisisMB: Debiased Semi-Supervised Learning for Crisis Tweet Classification via Memory Bank
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对危机推文分类中半监督模型的偏差问题,提出基于记忆库的去偏方法 DeCrisisMB,通过等量采样伪标签实现去偏,在分布内和分布外设置下均表现出优越性能。
2023-10-23 cs.CL cs.LG
Applications of Online Deep Learning for Crisis Response Using Social Media Information
Qatar Computing Research Institute, HBKU(哈马德·本·哈利法大学卡塔尔计算研究所)
在自然或人为灾害期间,人道主义应急组织寻找有用的信息,以支持其决策过程。推特等社交媒体平台被视为灾害应对和管理的重要有用信息来源。尽管自然语言处理技术取得了进步,但处理简短和非正式的Twitter消息仍然是一项具有挑战性的任务。在本文中,我们建议使用深度神经网络(DNN)来解决响应组织的两种类型的信息需求:1)识别信息丰富的推文,2)将其分类为主题类。DNN使用单词的分布式表示,并自动学习表示以及更高级别的特征以用于分类任务。我们提出了一种新的在线算法的基础上,随机梯度下降训练DNN在灾害情况下的在线方式。我们使用与危机相关的真实Twitter数据集来测试我们的模型。
2016-10-05 cs.CL cs.CY cs.LG
Multi-Stakeholder Disaster Insights from Social Media Using Large Language Models
针对社交媒体灾害数据难以为多方利益相关者提供定制化可操作洞察的问题,提出结合LLMs分类(如BERT多维度分类)与生成(如ChatGPT定制报告)的方法,性能优于标准方法,能为灾害响应提供精准支持。
2025-04-17 cs.AI cs.CL cs.ET
Rapid Classification of Crisis-Related Data on Social Networks using Convolutional Neural Networks
Qatar Computing Research Institute – HBKU(卡塔尔计算研究所 – 哈马德·本·哈利法大学)
社会媒体,特别是推特等微博平台,作为灾害期间提供可采取行动的战术信息的渠道,其作用日益得到承认。然而,对社交媒体流上的大危机数据进行时间关键型分析给机器学习技术带来了挑战,特别是使用监督学习的技术。标记数据的稀缺性,特别是在危机发生的早期,延迟了机器学习过程。目前最先进的分类方法需要大量特定于特定事件的标记数据进行训练,再加上大量的特征工程来实现最佳结果。在这项工作中,我们介绍了基于神经网络的分类方法的二进制和多类推文分类任务。我们表明,神经网络为基础的模型不需要任何功能工程和性能优于国家的最先进的方法。在灾难发生的早期,当没有标记数据可用时,我们提出的方法充分利用了事件外数据,并取得了良好的效果。
2016-08-12 cs.CL cs.LG cs.SI
Streamlining Social Media Information Retrieval for COVID-19 Research with Deep Learning
Harvard Chan School of Public Health(哈佛陈曾熙公共卫生学院);Harvard Medical School(哈佛医学院);Brigham and Women’s Hospital(布列根和妇女医院);Zhejiang University School of Medicine(浙江大学医学院);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本研究提出一个基于深度学习的系统化流程,从COVID-19相关推文中自动整理口语化症状词典,通过命名实体识别、归一化和UMLS映射,构建了含38,175个表达、准确率达95%的词典,并能有效识别焦虑等精神疾病,优于预定义词典。
2024-03-18 cs.AI cs.CL cs.IR
LLM-guided Semi-Supervised Approaches for Social Media Crisis Data Classification
Independent Researcher(独立研究者)
本文研究了大语言模型引导的半监督学习在社交媒体危机数据分类中的应用,比较了VerifyMatch和LLM引导的协同训练方法,发现LLM引导的协同训练在低资源环境下表现优异,同时验证了知识迁移的可行性。
2026-05-08 cs.AI cs.CL
Twitter as a Lifeline: Human-annotated Twitter Corpora for NLP of Crisis-related Messages
Qatar Computing Research Institute (HBKU)(卡塔尔计算研究所(哈马德·本·哈利法大学));Eurecat(欧洲加泰罗尼亚研究中心)
Twitter等微博平台在群众聚集和地震、台风等紧急事件期间提供了积极的沟通渠道。在危机局势突然爆发期间,受影响的人在Twitter上发布有用的信息,如果得到及时和有效的处理,这些信息可用于了解情况和其他人道主义救灾工作。处理社交媒体信息提出了多种挑战,例如解析嘈杂的、简短的和非正式的消息,从传入的消息流中学习信息类别,并将它们分类为不同的类别等。其中许多任务的基本要求之一是数据的可用性,特别是人工注释的数据。在本文中,我们展示了在2013年至2015年期间发生的19次不同危机中收集的人类注释的Twitter语料库。为了演示注释的实用性,我们训练机器学习分类器。此外,我们发布了第一个最大的word2vec词嵌入,它是在5200万条与危机相关的推文上训练的。为了处理推文语言问题,我们提出了人类注释的规范化词汇资源不同的词汇变化。
2016-05-31 cs.CL cs.CY cs.SI
"Actionable Help" in Crises: A Novel Dataset and Resource-Efficient Models for Identifying Request and Offer Social Media Posts
The University of Melbourne(墨尔本大学);Qatar Computing Research Institute(卡塔尔计算研究所)
针对危机中社交媒体可操作内容分类难题,提出CrisisHelpOffer数据集及首批危机专用微型模型,以更小体积、更快速度实现更高或相当精度,并分析全球危机中的求助与助人行为。
2025-02-24 cs.CL
EnrichEvent: Enriching Social Data with Contextual Information for Emerging Event Extraction
Department of Mathematics and Computer Science, Amirkabir University of Technology(数学与计算机科学系,阿米尔卡比尔技术大学)
提出端到端 EnrichEvent 框架,融合词汇、结构与上下文知识识别流式社会数据中的未知新兴事件,提升检测效果并降低最高50%运行时间。
2025-06-11 cs.AI cs.CL
Bridging the gap between supervised classification and unsupervised topic modelling for social-media assisted crisis management
McGill University(麦吉尔大学)
在自然灾害期间,Twitter等社交媒体为危机管理人员和受灾群众提供了宝贵的信息。机器学习可以帮助从危机期间共享的大量信息中构建和提取信息;然而,危机不断演变的性质使得有效的领域自适应至关重要。监督分类受到不可改变的类别标签的限制,这些类别标签可能与新事件无关,而无监督主题建模则受到先验知识不足的限制。在本文中,我们弥合了两者之间的差距,并表明,BERT嵌入微调危机相关的推文分类可以有效地用于适应新的危机,发现新的主题,同时保留相关类监督训练,并利用双向自我注意提取主题关键字。我们创建了一个数据集的推文从暴风雪来评估我们的方法的可转移性,以新的危机,并发现它优于传统的主题模型,在自动和人类的评估接地危机管理人员的需求。更广泛地说,我们的方法可以用于文本领域自适应的潜在类是未知的,但与其他领域的已知类重叠。
2021-03-22 cs.CL
Evaluating Cross-Lingual Classification Approaches Enabling Topic Discovery for Multilingual Social Media Data
Centre for Data Science, School of Computer Science, Queensland University of Technology, Brisbane, QLD 4000, Australia(数据科学中心,计算机科学学院,昆士兰理工大学,布里斯班,QLD 4000,澳大利亚)
本研究评估了四种跨语言分类方法,以过滤社交媒体数据中的相关推文并发现主题。
2026-02-19 cs.AI cs.CL cs.LG