AHaSIS: Shared Task on Sentiment Analysis for Arabic Dialects
School of Computing and Communications, Lancaster University, UK(计算与通信学院,兰卡斯特大学,英国);Jazan University, Saudi Arabia(朱兹安大学,沙特阿拉伯);Mohammed VI Polytechnic University, Morocco(穆莱·易卜拉欣·聚technic大学,摩洛哥);King Fahd University of Petroleum and Minerals, Saudi Arabia(国王 Fahd石油和矿物大学,沙特阿拉伯)
针对阿拉伯酒店业对方言情感分析工具的需求,推出AHaSIS阿拉伯方言情感分析共享任务,构建经母语者校验的多方言酒店评论数据集,评估参赛系统性能,验证了跨方言情感分析的可行性与现存挑战。
2025-11-17 cs.AI cs.CL
BARRAC: Adaptation of an English Aspect-based Sentiment Analysis Approach for Classification Tasks in Arabic Dialects
University of New South Wales(新南威尔士大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出BARRAC,将英文基于方面的情感分析框架适配至阿拉伯语分类任务,在五个方言数据集上平均宏F1达63.93%,优于现有少标签方法及GPT-4o,证明任务特定方法适配的有效性。
2026-10-01 cs.AI cs.CL
A review of sentiment analysis research in Arabic language
University of Tunis El Manar(突尼斯马纳尔大学);Nanyang Technological University(南洋理工大学)
情感分析是自然语言处理的一项任务,近年来受到越来越多的关注。然而,情感分析研究主要是针对英语语言进行的。尽管阿拉伯语正在成为互联网上使用最多的语言之一,但到目前为止,只有少数研究关注阿拉伯语的情感分析。在本文中,我们进行了深入的定性研究,在这方面最重要的研究工作,提出现有方法的局限性和优势。特别是,我们调查了利用机器翻译或迁移学习来使英语资源适应阿拉伯语的方法和直接源于阿拉伯语的方法。
2020-05-25 cs.CL
Sentiment Analysis For Modern Standard Arabic And Colloquial
Institute of statistical studies and research (ISSR), Cairo University(开罗大学统计研究与研究所);Cairo University(开罗大学)
博客和社交网络等社交媒体的兴起激发了人们对情感分析的兴趣。随着评论、评级、推荐和其他形式的在线表达的激增,在线意见已经变成了一种虚拟货币,企业希望推销他们的产品,发现新的机会和管理他们的声誉,因此许多人现在都在寻找情感分析领域。在本文中,我们提出了一个基于特征的句子层次的阿拉伯语情感分析的方法。我们的方法是使用阿拉伯语成语/短语词典作为提高阿拉伯语句子中情感极性检测的关键重要性,以及一些小说和丰富的语言动机特征集(上下文增强器,上下文移位器和否定处理),用于冲突短语的句法特征,提高情感分类准确性。此外,我们介绍了一个自动扩展的广泛覆盖的极性词汇的阿拉伯语情感。该词典以黄金标准情感词为种子构建,人工收集和注释,并使用同义词集聚合技术和免费在线阿拉伯语词典和词库自动扩展和检测新情感词的情感倾向。我们的数据集中于现代标准阿拉伯语(MSA)和埃及方言阿拉伯语推特和微博(酒店预订,产品评论等)。使用我们的资源和技术与SVM分类器的实验结果表明高性能水平,准确率超过95%。
2015-05-12 cs.CL
Improving Sentiment Analysis in Arabic Using Word Representation
Coventry University(考文垂大学)
阿拉伯语在词法、拼写和方言方面的复杂性使得阿拉伯语的情感分析更具挑战性。此外,为了衡量情绪,从tweet等短消息中提取文本特征提取,使这项任务更加困难。近年来,深度神经网络经常被采用,并在情感分类和自然语言处理应用中表现出非常好的效果。词嵌入或词分布方法是一种从上下文文本中捕获最接近的词的有效工具。在本文中,我们描述了我们如何构建Word 2 Vec模型从一个大型的阿拉伯语语料库,从十份报纸在不同的阿拉伯国家。通过应用不同的机器学习算法和具有不同文本特征选择的卷积神经网络,我们报告了我们公开可用的阿拉伯语健康情感数据集上情感分类的准确性提高(91%-95%)[1]
2018-03-30 cs.CL
LLM-Based Financial Sentiment Analysis in Arabic: Evidence from Saudi Markets
George Mason University(乔治·马歇尔大学);Damascus University(大马士革大学);University of Jeddah(朱德赫大学);City, St George's, University of London(伦敦城市大学)
本文提出了一种针对沙特市场的阿拉伯语NLP框架,用于大规模金融情绪分析,结合官方财务新闻和社会媒体数据,通过多阶段流程构建阿拉伯语财务语料库,并利用Transformer-based NER和定制公司词典进行情绪标注,最终实现了对公司层面的情绪聚合和情绪动态分析。
2026-05-19 cs.CL
Sentiment Analysis of Arabic Tweets: Feature Engineering and A Hybrid Approach
阿拉伯语的情感分析是一项具有挑战性的任务,由于语言的丰富形态。此外,当应用于Twitter数据时,任务变得更加复杂,这些数据被认为是高度非正式和嘈杂的。在本文中,我们开发了一种混合的方法,用于情感分析阿拉伯语的推文为一个特定的阿拉伯语方言,这是沙特方言。几个功能的设计和评估使用功能向后选择方法。然后针对多种分类模型(双向、三向、四向)开发了一种结合基于语料库和基于词典的方法的混合方法。各模型的最佳F1值分别为(69.9,61.63,55.07)。
2018-05-22 cs.CL
Sentiment analysis for Arabic language: A brief survey of approaches and techniques
King Abdullah II School for Information Technology, The University of Jordan(约旦大学阿卜杜拉二世国王信息技术学院)
随着Web 2.0技术的出现和在线社交网络的扩展,当前的互联网用户能够在社交媒体和商业和新闻网站上添加他们的评论、评级和意见。情感分析旨在以自动的方式对这些评论进行分类。在文献中,有许多方法提出了自动情感分析不同的语言环境。每种语言都有自己的属性,这使得情感分析更具挑战性。在这方面,这项工作提出了一个全面的调查,现有的阿拉伯语情感分析研究,并涵盖了各种方法和技术提出的文献。此外,我们强调的主要困难和挑战,阿拉伯语情感分析,并在文献中提出的技术,以克服这些障碍。
2018-09-15 cs.CL
Negation Handling in Machine Learning-Based Sentiment Classification for Colloquial Arabic
Jazan University(吉赞大学)
情感分析的一个关键方面是否定处理,其中否定的发生可以翻转句子的情感,并对基于机器学习的情感分类产生负面影响。在阿拉伯语情感分析中,否定的作用仅在有限的程度上被探索,特别是对于阿拉伯语口语。在本文中,作者解决了基于机器学习的情感分类的阿拉伯语口语的否定问题。为此,我们提出了一个简单的基于规则的算法来处理这个问题;规则是根据观察到的许多否定情况来制定的。此外,简单的语言知识和情感词典用于此目的。作者还研究了所提出的算法对不同机器学习算法的性能的影响。所提出的算法给出的结果进行了比较与三个基线模型。实验结果表明,与基线相比,该算法对分类器的准确率、精确率和召回率都有积极的影响。
2021-07-24 cs.CL
Combining Lexical Features and a Supervised Learning Approach for Arabic Sentiment Analysis
在过去几年中,特别是随着阿拉伯社交媒体用户数量的迅速增加,人们认识到为阿拉伯社交媒体建立情感分析工具的重要性。解决这个问题的主要困难之一是社交媒体中的文本大多是口语化的,社交媒体平台中使用了许多方言。在本文中,我们提出了一组特征,这些特征与基于机器学习的情感分析模型相集成,并应用于埃及、沙特、黎凡特和MSA阿拉伯语社交媒体数据集。许多拟议的功能是通过使用阿拉伯语情感词汇。该模型还提出了基于表情的功能,以及输入文本相关的功能,如文本中的段数,文本的长度,文本是否以问号结尾等,我们表明,所提出的功能已经导致了六个我们已经实验过的七个数据集的准确性提高,这些数据集都是基准。由于开发的模型优于所有现有的阿拉伯语情感分析系统,这些系统具有公开的数据集,我们可以说,该模型在阿拉伯语情感分析中呈现出最先进的水平。
2017-10-23 cs.CL
SMARTies: Sentiment Models for Arabic Target Entities
Columbia University(哥伦比亚大学)
我们认为实体级的情感分析在阿拉伯语,一个形态丰富的语言,资源不断增加。我们提出了一个系统,适用于复杂的职位写在阿拉伯语报纸的文章。我们的目标是在帖子中识别出重要的实体“目标”,以及每个目标所表达的极性。我们在多个基线上实现了显着的改进,表明使用特定的形态表示提高了识别重要目标及其情感的性能,并且使用分布语义聚类进一步提高了这些表示的性能,特别是当更丰富的语言资源不可用时。
2017-01-12 cs.CL
A Combined CNN and LSTM Model for Arabic Sentiment Analysis
Coventry University(考文垂大学)
深度神经网络在处理来自广泛应用领域的具有挑战性的大型数据集时表现出良好的数据建模能力。卷积神经网络(CNN)在选择好的特征方面具有优势,而长短期记忆(LSTM)网络已被证明具有良好的学习序列数据的能力。据报道,这两种方法都在图像处理、话音识别、语言翻译和其他自然语言处理(NLP)任务等领域提供了改进的结果。Twitter短文本信息的情感分类是一项具有挑战性的任务,而阿拉伯语情感分类任务的复杂性增加,因为阿拉伯语是一种形态丰富的语言。此外,阿拉伯语准确的预处理工具的可用性是目前的另一个限制,以及该领域的研究有限。在本文中,我们研究了集成CNN和LSTM的好处,并报告了在不同数据集上提高阿拉伯语情感分析准确性的方法。此外,我们试图考虑形态的多样性,特定的阿拉伯语单词使用不同的情感分类水平。
2018-07-22 cs.CL
Using objective words in the reviews to improve the colloquial arabic sentiment analysis
Jazan University(贾赞大学)
阿拉伯语的情感分析的主要困难之一是口语的存在。在本文中,我们研究的效果,使用客观的话与感性的话对情绪分类的阿拉伯语口语评论,特别是约旦口语评论。评论通常包括情感和客观词,然而,大多数现有的情感分析模型忽略了客观词,因为它们被认为是无用的。在这项工作中,我们创建了两个词汇:第一个包括口语情感词和复合短语,而另一个包含与基于特定估计方法的情感倾向值相关联的客观词。我们使用这些词典来提取情感特征,这些情感特征将作为支持向量机(SVM)的训练输入,以分类评论的情感极性。评论数据集是从JEERAN网站手动收集的。实验结果表明,该方法提高了极性分类相比,两个基线模型,准确率为95.6%。
2017-09-25 cs.CL
Corpora Preparation and Stopword List Generation for Arabic data in Social Network
本文提出了一种从在线社交网络(OSN)和评论网站上准备阿拉伯语语料库的方法,用于情感分析(SA)任务。本文还提出了一种方法,从准备语料库生成一个停用词列表。本研究旨在探讨去除停用词对联想任务的影响。问题是,之前生成的停用词列表是基于现代标准阿拉伯语(MSA)的,而MSA不是OSN中使用的通用语言。我们已经生成了一个埃及方言的停用词列表和一个基于语料库的列表,用于OSN语料库。我们比较文本分类的效率时,使用生成的列表与以前生成的MSA列表,并结合埃及方言列表与MSA列表。使用朴素贝叶斯和决策树分类器和两种特征选择方法,unigram和bigram进行文本分类。实验表明,包含埃及方言单词的通用列表比仅使用MSA停用词列表具有更好的性能。
2014-10-05 cs.CL
Exploring Tokenization Strategies and Vocabulary Sizes for Enhanced Arabic Language Models
Egypt University of Informatics(埃及信息学大学);AAST College of Artificial Intelligence(AAST人工智能学院)
本研究系统评估四种分词器及不同词汇表大小对阿拉伯语下游任务的影响,发现带Farasa的BPE在多数任务中表现最佳,且词汇表大小影响有限,为优化阿拉伯语模型提供指导。
2024-09-20 cs.CL
Comparative Approaches to Sentiment Analysis Using Datasets in Major European and Arabic Languages
本研究比较了BERT、mBERT和XLM-R在多语言情感分析中的表现,发现XLM-R在形态复杂语言中准确率超88%,并强调了微调策略对低资源语言分类的重要性。
2025-01-21 cs.CL
Empirical Evaluation of Leveraging Named Entities for Arabic Sentiment Analysis
Konya Technical University(科尼亚技术大学);University of Manouba(马努巴大学);University of Colorado(科罗拉多大学)
社交媒体反映了公众对特定事件的态度。事件通常与人、地点或组织有关,即所谓的命名实体。这可以将命名实体定义为承载情感的组件。在本文中,我们潜水超越命名实体识别的情感注释命名实体在阿拉伯语情感分析的开发。因此,我们开发了一种算法来检测的情绪命名实体的基础上,对他们的大多数态度。这使得能够用适当的标签标记命名实体,从而将它们包括在两个模型的情感分析框架中:监督和基于词典。这两种模型都适用于多方言内容的数据集。结果表明,命名实体对监督模型没有很大的影响,而在基于词典的模型中使用它们提高了分类性能,并且优于大多数基线系统。
2019-04-23 cs.CL
Algerian Dialect
Abdelhamid Mehri University Constantine 02(阿卜杜勒哈米德·梅赫里君士坦丁第二大学);Constantine 3 University(君士坦丁第三大学)
Algerian Dialect数据集通过45,000条阿尔及利亚阿拉伯语评论,为情感分析和方言阿拉伯语NLP提供首个大规模公开资源。
2025-12-22 cs.CL
Deep Multi-Task Model for Sarcasm Detection and Sentiment Analysis in Arabic Language
Mohammed VI Polytechnic University(穆罕默德六世理工大学);Sidi Mohamed Ben Abdellah University(西迪·穆罕默德·本·阿卜杜拉大学);University of Sherbrooke(舍布鲁克大学)
讽刺和反语等比喻性语言手段的突出给阿拉伯语情感分析带来了严峻的挑战。虽然以前的研究工作分别解决SA和讽刺检测,本文介绍了一个端到端的深度多任务学习(MTL)模型,允许两个任务之间的知识交互。我们的MTL模型的架构包括一个双向编码器表示从Transformers(BERT)模型,一个多任务注意力交互模块,和两个任务分类器。总体上得到的结果表明,我们提出的模型优于它的单任务对应的SA和讽刺检测子任务。
2021-06-23 cs.CL
A comprehensive survey of contemporary Arabic sentiment analysis: Methods, Challenges, and Future Directions
University of Edinburgh(爱丁堡大学);University of Birmingham(伯明翰大学)
本文系统综述了阿拉伯语情感分析的深度学习方法,对比一般情感分析指出研究空白,并总结主要挑战与未来研究方向。
2025-02-06 cs.AI cs.CL
Effect of Word Embedding Variable Parameters on Arabic Sentiment Analysis Performance
Gazi University(加齐大学);Southern Technical University(南方技术大学)
诸如Twitter、Facebook等社交媒体已经导致产生越来越多的包含用户意见的评论。情感分析研究处理这些评论,以提取意见是积极的或消极的。阿拉伯语是一种丰富的形态语言;因此,英语情感分析的经典技术不能用于阿拉伯语。词嵌入技术可以被认为是解决阿拉伯语词法问题的成功方法之一。基于词嵌入的阿拉伯语情感分析已经有很多研究,但还没有针对可变参数的研究。本研究将讨论使用DBOW和DMPV架构进行阿拉伯语情感分析的三个参数(窗口大小、向量维数和负样本)。以前的作品的大型语料库,用于学习单词表示和提取特征。四个二进制分类器(逻辑回归,决策树,支持向量机和朴素贝叶斯)被用来检测情感。分类器的性能基于精度,召回率和F1分数进行评估。
2021-01-08 cs.CL cs.LG
SAIDS: A Novel Approach for Sentiment Analysis Informed of Dialect and Sarcasm
Cairo University(开罗大学)
情感分析成为每个社交网络的重要组成部分,因为它使决策者能够更多地了解用户在几乎所有生活方面的意见。尽管它的重要性,它遇到了多个问题,如讽刺文本的情感,这是情感分析的主要挑战之一。本文通过引入一种新的系统(SAIDS)来应对这一挑战,该系统可以预测阿拉伯语推文的情感,讽刺和方言。SAIDS使用其对讽刺和方言的预测作为已知信息来预测情感。它使用MARBERT作为语言模型来生成句子嵌入,然后将其传递给讽刺和方言模型,然后将三个模型的输出连接起来并传递给情感分析模型。多个系统设计设置进行了实验和报告。SAIDS被应用于ArSarcasm-v2数据集,它优于情感分析任务的最先进模型。通过对所有任务进行训练,SAIDS在情感分析、讽刺检测和方言识别方面分别获得了75.98 FPN、59.09 F1得分和71.13 F1得分的结果。该系统设计可用于增强任何依赖于其他任务的任务的性能。
2023-01-06 cs.AI cs.CL
ASAD: A Twitter-based Benchmark Arabic Sentiment Analysis Dataset
University of Jeddah(吉达大学);KAUST(阿卜杜拉国王科技大学);Lucidya
本文提供了一个新的基于Twitter的基准数据集的阿拉伯语情感分析(ASAD),这是在比赛中推出的详细描述3,由KAUST赞助的奖励10000美元,5000美元和2000美元的第一,第二和第三名的获奖者,分别。与其他公开发布的阿拉伯语数据集相比,ASAD是一个大型的高质量注释数据集(包括95K推文),具有三级情感标签(积极,消极和中性)。我们介绍了数据汇集过程和注释过程的细节。此外,我们实施了几个基线模型的竞争任务,并报告的结果作为参考的参与者的竞争。
2021-03-10 cs.CL cs.LG
LABR: A Large Scale Arabic Sentiment Analysis Benchmark
Cairo University(开罗大学)
我们介绍了LABR,最大的情感分析数据集的日期为阿拉伯语。它由超过63,000篇书评组成,每一篇都被评为1至5星。我们调查的数据集的属性,并提出其统计。我们探索使用数据集进行两项任务:(1)情感极性分类;(2)评级分类。此外,我们提供了数据集的标准分割,分为训练,验证和测试,用于极性和评级分类,在平衡和不平衡的设置。我们通过对数据集进行全面分析来扩展我们以前的工作。特别是,我们进行了扩展调查的不同分类器通常用于情感极性分类问题。我们还从包含单个和复合情感词的数据集构建了情感词典,并探讨了其有效性。我们公开了数据集和实验细节。
2015-05-03 cs.CL cs.LG
Overview of the Arabic Sentiment Analysis 2021 Competition at KAUST
KAUST(阿卜杜拉国王科技大学);University of Jeddah(吉达大学);Lucidya;KAU(阿卜杜勒阿齐兹国王大学)
本文概述了阿卜杜拉国王科技大学(KAUST)组织的阿拉伯情感分析挑战赛。这项挑战的任务是开发机器学习模型,将给定的推文分类为三个类别之一:积极,消极或中性。从我们最近发布的ASAD数据集来看,我们为竞争对手提供了55K的推文用于训练,20K的推文用于验证,根据这些推文,参与团队的表现在排行榜上排名,https://www.kaggle.com/c/arabic-sentiment-analysis-2021-kaust。比赛共收到来自74支队伍(99名队员)的1247份参赛作品。最终的获胜者由另一个私有的20K tweet集决定,这些tweet集与训练和验证集具有相同的分布。在本文中,我们提出了在竞争中的主要发现,并总结了排名靠前的团队使用的方法和工具。完整的10万条标签推文数据集也在https://www.kaggle.com/c/arabic-sentiment-analysis-2021-kaust/data上发布供公众使用。
2021-09-29 cs.CL cs.LG
Multilevel sentiment analysis in arabic
Islamic university of Gaza(加沙伊斯兰大学);Hacettepe University(哈塞特佩大学)
在这项研究中,我们的目的是提高阿拉伯语情感分析的性能结果。这可以通过研究最成功的机器学习方法和最有用的特征向量来实现,以将术语和文档级别的情感分为两个类别(积极或消极)。此外,规范的一个极性度的术语,有一个以上的调查。同时,为了处理否定和强化,还制定了一些规则。根据所得到的结果,人工神经网络分类器被提名为最好的分类器在阿拉伯语的术语和文档级情感分析(SA)。此外,在术语水平SA中,阳性和阴性测试类别的平均F分数为0.92。在文档级SA中,阳性测试类的平均F分数为0.94,而阴性类的平均F分数为0.93。
2022-05-24 cs.AI cs.CL
Arabic Tweet Act: A Weighted Ensemble Pre-Trained Transformer Model for Classifying Arabic Speech Acts on Twitter
本研究针对Twitter方言阿拉伯语言语行为分类问题,提出基于BERT的加权集成学习方法,构建标注数据集并采用数据增强解决类别不平衡,性能优于单模型。
2024-01-30 cs.AI cs.CL
Towards Arabic Multimodal Dataset for Sentiment Analysis
Université Amar Telidji(阿马尔·泰勒吉大学);Université de Ghardaia(盖尔达耶大学);Université Ziane Achour - Djelfa(杰勒法齐亚内·阿舒尔大学)
针对阿拉伯语多模态情感分析缺乏标准数据集的问题,本文设计了结合前沿Transformer与特征提取工具的词对齐数据集构建流水线,验证了阿拉伯语多模态情感分析的发展潜力。
2023-06-10 cs.CL cs.LG
Arabic Language Sentiment Analysis on Health Services
Coventry University(考文垂大学)
社交媒体网络现象导致了大量有价值的数据,这些数据可以在线获得并且易于访问。许多用户在不同的社交网络网站上分享图片、视频、评论、评论、新闻和观点,推特是最受欢迎的网站之一。从Twitter收集的数据是高度非结构化的,从推文中提取有用的信息是一项具有挑战性的任务。Twitter拥有大量的阿拉伯语用户,他们大多使用阿拉伯语发布和撰写推文。虽然已经有很多关于英语情感分析的研究,但阿拉伯语的研究和数据集数量有限。本文介绍了一个阿拉伯语数据集,这是关于卫生服务的意见,并已从Twitter上收集。本文首先详细介绍了从Twitter上收集数据的过程,以及对阿拉伯语文本进行过滤、预处理和注释的过程,以建立一个大的阿拉伯语情感分析数据集。在我们的健康数据集上进行的情感分析实验中,使用了几种机器学习算法(朴素贝叶斯,支持向量机和逻辑回归)以及深度和卷积神经网络。
2017-02-10 cs.CL cs.NE cs.SI
ArSentD-LEV: A Multi-Topic Corpus for Target-based Sentiment Analysis in Arabic Levantine Tweets
MIT Computer Science and Artificial Intelligence Laboratory(麻省理工学院计算机科学与人工智能实验室);American University of Beirut(贝鲁特美国大学);Qatar University(卡塔尔大学)
情感分析是一项非常主观和具有挑战性的任务。当应用于阿拉伯语时,其复杂性进一步增加,主要是因为大量的方言是不标准化的,并且在网络中广泛使用,特别是在社交媒体中。虽然已经发布了许多数据集来用阿拉伯语训练情感分类器,但这些数据集中的大多数都包含浅层注释,仅将文本单元的情感标记为单词,句子或文档。在本文中,我们提出了阿拉伯语情绪Twitter数据集的黎凡特方言(ArSenTD-LEV)。根据对黎凡特地区推文的分析结果,我们创建了一个包含4,000条推文的数据集,并附有以下注释:推文的总体情绪、表达情绪的目标、表达情绪的方式以及推文的主题。结果证实了这些注释在提高基线情感分类器性能方面的重要性。他们还证实了在某个领域的培训和在另一个领域的测试之间的差距。
2019-05-25 cs.CL cs.IR cs.LG
EHSAN: Leveraging ChatGPT in a Hybrid Framework for Arabic Aspect-Based Sentiment Analysis in Healthcare
Newcastle University(纽卡斯尔大学)
针对阿拉伯语患者反馈分析不足的问题,提出EHSAN混合框架,结合ChatGPT伪标注与人工审核构建首个可解释的医疗方面级情感数据集,实验证明该方法高效可扩展,仅用少量人工监督即可达到高准确率。
2025-08-04 cs.AI cs.CL cs.LG
Revisiting Common Assumptions about Arabic Dialects in NLP
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文重新审视了NLP中关于阿拉伯语方言的四个常见假设,通过扩展多标签数据集并由11国方言母语者人工评估句子有效性,发现这些假设过度简化现实且部分不准确,可能阻碍阿拉伯语NLP任务的进一步发展。
2025-05-27 cs.CL
Exploiting Out-of-Domain Data Sources for Dialectal Arabic Statistical Machine Translation
University of Washington(华盛顿大学);SRI International(SRI国际研究所);LinkedIn(领英)
由于数据采集涉及口头语言的转录和翻译,因此用于方言阿拉伯语的统计机器翻译的特征在于缺乏数据。在这项研究中,我们开发的技术提取并行数据的一个特定的方言阿拉伯语(伊拉克阿拉伯语)从域外语料库在不同的方言阿拉伯语或现代标准阿拉伯语。我们比较了两种不同的数据选择策略(基于交叉熵和子模块化选择),并证明了一个非常小的,但高度有针对性的数据量可以提高基线机器翻译系统的性能。我们还报告了使用自动翻译的语音数据作为额外的训练数据的初步实验。
2015-09-07 cs.CL
Camelira: An Arabic Multi-Dialect Morphological Disambiguator
New York University Abu Dhabi(纽约大学阿布扎比分校);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
我们提出了Camelira,一个基于网络的阿拉伯语多方言形态消歧工具,涵盖了阿拉伯语的四个主要变体:现代标准阿拉伯语,埃及,海湾和黎凡特。Camelira提供了一个用户友好的Web界面,允许研究人员和语言学习者探索各种语言信息,如词性,形态特征和词元。我们的系统还提供了一个选项,自动选择一个适当的方言特定的消歧器的基础上预测的方言识别组件。Camelira可在http://camelira.camel-lab.com上公开访问。
2022-11-30 cs.CL
Similarities between Arabic Dialects: Investigating Geographical Proximity
Prince Sattam bin Abdulaziz University(萨塔姆·本·阿卜杜勒阿齐兹王子大学)
阿拉伯语方言的自动分类是一个持续的研究挑战,最近的工作已经探索了基于城市和省份等越来越有限的地理区域定义方言。本文着重于一个相关的,但相对未探讨的话题:位于阿拉伯国家的城市在地理上接近的辩证相似性的影响。我们的工作是双重的,依赖于:1)使用余弦相似性比较方言之间的文本相似性,2)测量位置之间的地理距离。我们研究了MADAR和NADI,这两个数据集来自许多城市和省份的阿拉伯方言。我们的研究结果表明,位于不同国家的城市实际上可能比同一国家的城市具有更多的辩证相似性,这取决于它们的地理位置。辩证相似性和城市邻近性之间的相关性表明,无论国家边界如何,距离较近的城市更有可能共享辩证属性。这种细微差别为阿拉伯语方言研究的重要进展提供了潜力,因为它表明,更细粒度的方言分类方法对于理解如何构建阿拉伯语方言识别问题至关重要。
2021-05-10 cs.CL
ArabicDialectSafety: A Dialect-Aware Benchmark for Arabic Content Safety Classification
Northwestern University in Qatar(卡塔尔西北大学);Hamad Bin Khalifa University(哈马德·本·哈利法大学)
本研究构建了覆盖6种阿拉伯语变体的安全基准数据集,提出双任务评估框架,发现微调后的MARBERTv2性能最优,低资源马格里布方言仍存差距,前沿大语言模型不安全生成率低于5%。
2026-09-01 cs.CL
Romanized Arabic Across Dialects: Views, Usage Patterns, and Linguistic Variation
本研究针对不同方言使用者的阿拉伯语罗马化(Arabizi)展开调查,发布两项相关资源,开展大规模跨方言研究,揭示其使用模式与语言变异。
2026-10-26 cs.CL
Automatic Dialect Detection in Arabic Broadcast Speech
Qatar Computing Research Institute, HBKU(哈马德·本·哈利法大学卡塔尔计算研究所);MIT Computer Science and Artificial Intelligence Laboratory (CSAIL)(麻省理工学院计算机科学与人工智能实验室);JHU Center for Language and Speech Processing (CLSP)(约翰斯·霍普金斯大学语言与语音处理中心);University of Edinburgh(爱丁堡大学)
我们调查不同的方法方言识别阿拉伯语广播讲话中,使用语音,词汇的特点,从语音识别系统,和声学特征,使用i-向量框架。我们研究了生成式和判别式分类器,并使用多类支持向量机(SVM)将这些特征结合起来。我们在阿拉伯语/英语语言识别任务上验证了我们的结果,准确率为100%。我们在二元分类器中使用这些特征来区分现代标准阿拉伯语(MSA)和方言阿拉伯语,准确率为100%。我们进一步报告使用所提出的方法来区分阿拉伯语的五种最广泛使用的方言之间的结果:即埃及,海湾,黎凡特,北非和MSA,准确率为52%。我们讨论了方言识别错误的背景下,方言阿拉伯语和MSA之间的方言代码切换,并比较手动标记的数据之间的错误模式,从我们的分类器的输出。我们还发布了训练和测试数据作为方言识别的标准语料。
2016-08-11 cs.CL
Exploiting Dialect Identification in Automatic Dialectal Text Normalization
Computational Approaches to Modeling Language Lab(语言建模计算方法实验室);New York University Abu Dhabi(纽约大学迪拜分校);Carnegie Mellon University in Qatar(卡内基梅隆大学多哈分校)
本文研究阿拉伯方言文本规范化(CODAfication)任务,通过在预训练序列到序列模型中利用方言识别信息,提升了五种城市方言的规范化性能,并公开了代码、数据和模型。
2024-07-03 cs.CL
Ara-HOPE: Human-Centric Post-Editing Evaluation for Dialectal Arabic to Modern Standard Arabic Translation
School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Leids Universitair Medisch Centrum & LIACS, Universiteit Leiden(莱顿大学莱顿医学校区及LIACS);School of Computer Science, University of Manchester(曼彻斯特大学计算机科学学院)
Ara-HOPE提出了一种人本后编辑评估框架,用于评估方言阿拉伯语到标准阿拉伯语翻译的质量,揭示了方言特定术语和语义保持的挑战,为改进方言感知MT系统提供指导。
2026-02-14 cs.CL
Automatic Standardization of Arabic Dialects for Machine Translation
Jean Moulin Lyon 3 University(里昂第三大学);Linguistics Research Center - Corpus, Discourse and Societies(语言学研究中心 - 语料库、话语与社会);ILCEA4-CREO (Grenoble Alpes University)(格勒诺布尔阿尔卑斯大学ILCEA4-CREO)
基于2013年3月的一个多媒体语料库,我们深入研究了面向机器翻译的阿拉伯方言“自动翻译”问题。在这里,我们区分基于规则的机器翻译和统计机器翻译。阿拉伯语的机器翻译大部分时间都采用标准或现代阿拉伯语作为源语言,并由于训练模型所需的翻译记忆库的可用性而产生相当令人满意的翻译。阿拉伯语方言的翻译情况就不同了。生产效率低得多。在我们的研究中,我们尝试将机器翻译方法应用于方言/标准(或现代)阿拉伯语对,以从方言输入自动生成标准阿拉伯语文本,我们称之为“自动翻译”。我们在这里选择“统计模型”的应用,因为基于规则的“自动翻译”更加困难,一方面缺乏“双语”词典,另一方面难以为每种方言创建语言规则。进行这项研究可能会导致将“自动翻译”软件和自动翻译软件结合起来,这样我们就可以将第一个软件的输出作为输入引入第二个软件,最终获得高质量的机器翻译。这种方法也可能有教育应用,例如开发应用程序,通过将方言文本转换为标准阿拉伯语来帮助理解不同的阿拉伯方言。
2023-01-09 cs.CL
Diacritization of Maghrebi Arabic Sub-Dialects
Qatar Computing Research Institute(卡塔尔计算研究所);Google Inc.(谷歌公司);University of Düsseldorf(杜塞尔多夫大学)
变音符号化过程试图恢复阿拉伯语书面文本中的短元音;这些短元音通常被省略。这个过程对于文本到语音(TTS)等应用程序至关重要。现代标准阿拉伯语(MSA)的变音符号化仍然占据着最大的份额,而方言阿拉伯语(DA)的变音符号化研究非常有限。在本文中,我们提出了我们对马格里布阿拉伯语的两个子方言(即突尼斯语和摩洛哥语)的自动变音的贡献和结果,使用字符级深度神经网络架构,在CRF输出层上堆叠两个bi-LSTM层。该模型实现了摩洛哥语和突尼斯语的单词出错率分别为2.7%和3.6%,并且能够隐式地识别输入的子方言。
2019-05-30 cs.CL
Does Modern Standard Arabic (MSA) Dominate Arabic Dialects in LLMs? A Representation-Level Analysis
Technical University of Dresden(德累斯顿工业大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本研究通过调整语言主导框架分析26种阿拉伯语变体,发现LLMs中MSA并非阿拉伯方言的内部主导表示,输出偏好与内部表示主导性无必然关联,需区分二者开展相关分析。
2026-10-09 cs.CL
Low Resourced Machine Translation via Morpho-syntactic Modeling: The Case of Dialectal Arabic
New York University Abu Dhabi(纽约大学阿布扎比分校);Ohio State University(俄亥俄州立大学);Carnegie Mellon University Qatar(卡内基梅隆大学卡塔尔分校)
我们提出了第二次评估阿拉伯语方言到方言的机器翻译的努力,第一次利用外部资源超出了一个小的平行语料库。由于缺乏自然发生的平行数据,这个问题以前没有得到认真的关注;但它的重要性是由方言阿拉伯语的广泛使用和方言间变异的广度所证明的,与罗曼语相当。我们的研究结果表明,建模的形态和语法显着提高方言到方言的翻译,虽然优化这样的数据稀疏模型需要考虑方言之间的语言差异和可用数据和资源的性质。在单参考盲测试集上,未翻译的输入得分为6.5 BLEU,仅在并行数据上训练的模型达到14.6,枢轴技术和形态句法建模将性能显着提高到17.5。
2017-12-18 cs.CL
ALDi: Quantifying the Arabic Level of Dialectness of Text
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文提出将阿拉伯语方言化视为连续变量ALDi,构建AOC-ALDi数据集并训练模型有效识别方言化程度,为阿拉伯语社会语言学分析提供比传统二元系统更细致的视角。
2023-10-20 cs.CL
Morphosyntactic Tagging with Pre-trained Language Models for Arabic and its Dialects
New York University Abu Dhabi(纽约大学阿布扎比分校);Stony Brook University(石溪大学)
我们提出了国家的最先进的结果在不同品种的阿拉伯语使用微调预训练的Transformer语言模型的形态句法标记。我们的模型在现代标准阿拉伯语和我们研究的所有阿拉伯语方言中始终优于现有系统,在现代标准阿拉伯语中实现了2.6%的绝对改进,在海湾地区为2.8%,在埃及语中为1.6%,在黎凡特语中为8.3%。我们探索了不同的训练设置,用于微调预训练的Transformer语言模型,包括训练数据大小,外部语言资源的使用,以及在低资源场景中使用来自其他方言的注释数据。我们的研究结果表明,使用其他高资源方言的数据集进行战略微调对低资源方言是有益的。此外,我们表明,高质量的形态分析作为外部语言资源是有益的,特别是在低资源设置。
2022-03-21 cs.CL
BERT-based Multi-Task Model for Country and Province Level Modern Standard Arabic and Dialectal Arabic Identification
Mohammed VI Polytechnic University(穆罕默德六世理工大学);Sidi Mohamed Ben Abdellah University(西迪·穆罕默德·本·阿卜杜拉大学);University of Sherbrooke(舍布鲁克大学)
方言和标准语言识别是许多阿拉伯语自然语言处理应用程序的关键任务。在本文中,我们介绍了我们的基于深度学习的系统,提交给第二个NADI共享任务,用于现代标准阿拉伯语(MSA)和方言阿拉伯语(DA)的国家级和省级识别。该系统基于端到端深度多任务学习(MTL)模型,以解决国家级和省级MSA/DA识别问题。后一种MTL模型由共享的双向编码器表示Transformers(BERT)编码器、两个特定于任务的注意力层和两个分类器组成。我们的主要思想是利用任务区分和任务间共享的功能,国家和省MSA/DA识别。实验结果表明,MTL模型在大多数子任务上都优于单任务模型。
2021-06-23 cs.CL
Some Dialects Are More Equal Than Others: Non-Prestigious Arabic Dialectal Bias in LLMs
University of Illinois Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究揭示大型语言模型对非威望的上埃及阿拉伯语方言存在显著偏见,该偏见导致模型在句法评估和MMLU基准上的性能下降,凸显了亚方言变异对语言技术影响的重要性。
2026-09-22 cs.CL
Content-Localization based Neural Machine Translation for Informal Dialectal Arabic: Spanish/French to Levantine/Gulf Arabic
School of Electrical Engineering and Computer Science(电气工程与计算机科学学院);University of Ottawa(渥太华大学)
针对高资源语言资源未有效用于低资源语言的问题,提出利用AI将高资源语言内容本地化到阿拉伯方言的框架,构建首个西/法语与非正式阿方言的平行数据集,验证了资源利用能力及方言对社会行为分析的影响。
2023-12-12 cs.CL
Arabic Multi-Dialect Segmentation: bi-LSTM-CRF vs. SVM
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所,哈马德·本·哈利法大学);University of Düsseldorf(杜塞尔多夫大学);Google Inc.(谷歌公司)
阿拉伯语分词对于机器翻译和信息检索等各种NLP应用程序至关重要。切分就是把词分解成词干、词缀和附缀。在本文中,我们比较了两种方法分割四个主要的阿拉伯语方言,每个方言只有几千个训练样本。这两种方法涉及将问题作为一个排名问题,其中SVM排名器选择最佳分割,以及作为一个序列标记问题,其中与CRF耦合的bi-LSTM RNN确定最佳分割单词的位置。我们能够使用相当有限的训练数据实现所有方言的坚实的分割结果。我们还表明,采用现代标准阿拉伯语数据的领域自适应和假设上下文独立提高整体结果。
2017-08-19 cs.CL
Dialect Identification in Nuanced Arabic Tweets Using Farasa Segmentation and AraBERT
Flipkart Private Limited(Flipkart私人有限公司)
本文介绍了我们解决EACL WANLP-2021共享任务1:细微差别的阿拉伯语方言识别(NADI)的方法。该任务旨在开发一个系统,以现代标准阿拉伯语或方言形式识别阿拉伯语推文的地理位置(国家/省)。我们分两部分解决这个任务。第一部分涉及通过清理、添加和分割文本的各个部分来预处理所提供的数据集。其次是进行实验,不同版本的两个Transformer为基础的模型,AraBERT和AraELECTRA。我们最终的方法在四个子任务中获得了0.216,0.235,0.054和0.043的宏观F1分数,并且我们在MSA识别子任务中排名第二,在DA识别子任务中排名第四。
2021-02-22 cs.CL
Adapting MARBERT for Improved Arabic Dialect Identification: Submission to the NADI 2021 Shared Task
Microsoft(微软)
在本文中,我们解决了细微差别的阿拉伯语方言识别(NADI)共享任务(Abdul-Mageed等人,2021年),并在所有四个子任务上展示最先进的成果。任务是在国家和省两级确定短方言(DA)和现代标准阿拉伯语(MSA)话语的地理来源。我们的最终模型是建立在MARBERT之上的变量集合,在国家级发展集上实现了DA的34.03%的F1分数-比以前的工作提高了7.63%。
2021-03-01 cs.CL
Can Dialects Be Steered Like Languages? Sparse Neurons and Distributed Directions in Arabic LLMs
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Qatar Computing Research Institute, Hamad Bin Khalifa University(哈马德·本·哈利法大学卡塔尔计算研究所);Tohoku University(东北大学);RIKEN(理化学研究所)
研究阿拉伯语NLP中方言数据稀缺致模型生成问题,通过神经元层面分析和向量引导方法,揭示方言知识几何结构,提供无需微调的方言控制框架。
2026-09-09 cs.CL
Hierarchical Classification for Spoken Arabic Dialect Identification using Prosody: Case of Algerian Dialects
Université Amar Telidji Laghouat(阿马尔·泰利吉·拉格瓦特大学);Université Normandie Rouen(鲁昂诺曼底大学)
在日常交流中,阿拉伯人使用当地方言,这些方言很难用传统的分类方法自动识别。当处理属于同一个县/地区的资源不足的方言时,方言识别的挑战性任务变得更加复杂。在本文中,我们开始通过统计分析阿尔及利亚方言,以捕捉其相关的韵律信息提取后,粗粒度的辅音/元音分割在话语水平的特异性。根据这些分析结果,我们提出了一个层次分类方法,阿拉伯语阿尔及利亚方言识别(HADID)。它充分利用了方言具有自然层次结构的内在属性。在HADID中,应用自顶向下的分层分类,其中我们使用深度神经网络(DNN)方法为每个父结点构建一个局部分类器,使其成为分层方言结构。我们的框架实施和评价阿尔及利亚阿拉伯语方言语料库。而方言的等级结构则是从历史和语言学知识中推导出来的。结果表明,在{ \HD }中,与支持向量机相比,最好的分类器是DNN。此外,与基线Flat分类系统相比,我们的HADID在精度方面提高了63.5%。此外,整体结果证明了我们的基于韵律的HADID的适合性,说话人独立的方言识别,而需要不到6s的测试话语。
2017-03-29 cs.CL