COM2SENSE: A Commonsense Reasoning Benchmark with Complementary Sentences
University of Southern California(南加州大学);Sharif University of Technology(谢里夫理工大学);University of California, Los Angeles(加州大学洛杉矶分校)
常识推理对人类来说是直观的,但对人工智能(AI)来说是一个长期的挑战。预训练语言模型的最新进展在几个常识基准数据集上显示出有希望的结果。然而,这些基准评估模型的常识推理能力的可靠性和全面性仍然不清楚。为此,我们引入了一个新的常识推理基准数据集,包括自然语言真/假语句,每个样本与其互补配对,产生4k个句子对。我们提出了一个成对的准确性度量,可靠地衡量代理的能力,执行常识推理在给定的情况下。该数据集是众包的,并通过对抗性模型在环设置进行增强,以激励具有挑战性的样本。为了便于系统地分析常识能力,我们沿着知识领域,推理场景和计算能力的维度设计我们的数据集。实验结果表明,我们最强的基线(UnifiedQA-3B),微调后,达到约71%的标准准确度和约51%的成对准确度,远低于人类的表现(两个指标约95%)。该数据集可在https://github.com/PlusLabNLP/Com2Sense上获得。
2021-06-02 cs.AI cs.CL
Paragraph-level Commonsense Transformers with Recurrent Memory
University of Washington(华盛顿大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
人类对叙事文本的理解需要做出超出文本中明确陈述的常识性推理。最近的一个模型,COMET,可以产生这样的隐含常识推理沿几个维度,如前和后的条件,动机,和心理状态的参与者。然而,COMET是在短句的常识推理上训练的,因此是话语不可知论的。当呈现多句叙述的每一句时,它可能会产生与叙述的其余部分不一致的推论。我们提出了话语感知常识推理的任务。给定叙述中的一个句子,目标是沿着预定义的维度生成常识性推理,同时保持与叙述的其余部分的一致性。这种大规模的段落级注释是很难获得和昂贵的,所以我们使用现有的段落级注释,有效地和自动地构建远程监督语料库。使用这个语料库,我们训练PARA-COMET,一个话语感知模型,结合段落级信息,从叙述中产生连贯的常识推理。PARA-COMET捕获与先前世界知识有关的语义知识,以及涉及当前事件如何与叙述中的先前和未来事件相关的情节知识。我们的研究结果表明,PARA-COMET优于双水平基线,特别是在产生的推论,是既连贯又新颖。
2021-02-02 cs.CL cs.LG
From Images to Sentences through Scene Description Graphs using Commonsense Reasoning and Knowledge
Arizona State University(亚利桑那州立大学);University of Maryland, College Park(马里兰大学帕克分校)
在本文中,我们提出了图像的语言描述的建设。这是通过使用自动构建的知识库从视觉场景中提取场景描述图(SDG)来实现的。SDG是通过愿景和推理构建的。具体而言,常识推理应用于(a)从给定图像上的现有感知方法获得的检测,(b)使用图像注释的自然语言处理构建的“常识”知识库,以及(c)来自诸如WordNet的资源的词汇本体知识。基于Amazon Mechanical Turk(AMT)的Flickr 8 k、Flickr 30 k和MS-COCO数据集的评估表明,在大多数情况下,通过我们的方法获得的SDG自动构建的句子比最近最先进的基于图像标题的方法更相关、更全面地描述了图像。我们的图像-句子对齐评估结果也可以与最近的最先进的方法相媲美。
2015-11-10 cs.AI cs.CL cs.CV
ALDi: Quantifying the Arabic Level of Dialectness of Text
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文提出将阿拉伯语方言化视为连续变量ALDi,构建AOC-ALDi数据集并训练模型有效识别方言化程度,为阿拉伯语社会语言学分析提供比传统二元系统更细致的视角。
2023-10-20 cs.CL
Calliar: An Online Handwritten Dataset for Arabic Calligraphy
King Fahd University of Petroleum and Minerals(法赫德国王石油与矿业大学)
书法是阿拉伯遗产和文化的重要组成部分。它在过去被用于房屋和清真寺的装饰。通常,这种书法是由具有美学见解的专家手动设计的。在过去的几年里,已经有相当大的努力,通过拍摄装饰建筑物的照片或使用数字设备绘制它们来展示这种类型的艺术。后者被认为是一种在线形式,其中通过在屏幕上记录设备运动(例如电子笔)来跟踪绘图。在文献中,有许多离线数据集收集了多种阿拉伯书法风格。然而,没有阿拉伯书法的在线数据集。在本文中,我们说明了我们的方法收集和注释的在线数据集阿拉伯书法称为Calliar,由2,500句。Calliar被注释用于笔画、字符、单词和句子级别的预测。
2021-06-25 cs.CL
DimonGen: Diversified Generative Commonsense Reasoning for Explaining Concept Relationships
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出DimonGen任务及两阶段模型MoREE,通过混合检索器和混合生成器生成描述日常场景中概念关系的多样化句子,在质量和多样性上优于强基线。
2023-05-16 cs.AI cs.CL
An Enhanced Latent Semantic Analysis Approach for Arabic Document Summarization
Central South University(中南大学)
互联网上日益增长的信息量使得自动文摘的研究变得十分迫切。这是解决信息过载的有效方法。基于不同的策略,已经提出了许多方法,例如潜在语义分析(LSA)。然而,LSA,当应用于文档摘要,有一些限制,降低其性能。在这项工作中,我们试图克服这些限制,采用统计和线性代数方法结合句法和语义处理的文本。首先利用词性标注器对LSA进行降维;然后,在计算输入矩阵时,将词语在相邻四个句子中的权重添加到权重方案中,以考虑词序和句法关系。此外,提出了一种新的基于LSA的句子选择算法,该算法将术语描述与句子描述相结合,从而使生成的摘要信息量更大、更多样化。为了保证本文提出的基于LSA的句子选择算法的有效性,我们对阿拉伯语和英语进行了大量的实验。使用四个数据集来评估新模型,语言数据联盟(LDC)阿拉伯语新闻语料库,埃塞克斯阿拉伯语摘要语料库(EASC),DUC 2002和多语言MSS 2015数据集。在四个数据集上的实验结果表明了该模型在阿拉伯语和英语数据集上的有效性。与最先进的方法相比,它的综合性能更好。
2018-07-31 cs.CL
Romanized Arabic Across Dialects: Views, Usage Patterns, and Linguistic Variation
本研究针对不同方言使用者的阿拉伯语罗马化(Arabizi)展开调查,发布两项相关资源,开展大规模跨方言研究,揭示其使用模式与语言变异。
2026-10-26 cs.CL
Metric-guided Distillation: Distilling Knowledge from the Metric to Ranker and Retriever for Generative Commonsense Reasoning
The University of Hong Kong(香港大学);Microsoft Research Asia(微软亚洲研究院);University of Science and Technology of China(中国科学技术大学);Microsoft(微软)
常识生成的目标是在给定的概念下生成一个描述日常场景的真实句子,这是非常具有挑战性的,因为它要求模型具有关系推理和组合泛化能力。以前的工作重点是检索原型句子提供的概念,以协助生成。他们首先使用稀疏检索器检索候选句子,然后用排名器对候选句子进行重新排名。然而,由它们的排序器返回的候选可能不是最相关的句子,因为排序器平等地对待所有候选,而不考虑它们与给定概念的参考句子的相关性。另一个问题是,重新排序是非常昂贵的,但只使用检索器将严重降低其生成模型的性能。为了解决这些问题,我们提出了度量蒸馏规则来从度量中提取知识(例如,蓝)的排名。我们进一步将提炼出的排序器总结的关键知识传递给检索器。通过这种方式,由排名器和检索器预测的候选句子的相关性得分将与由度量测量的它们的质量更一致。在CommonGen基准测试上的实验结果验证了该方法的有效性:(1)采用提取的排序器生成模型,取得了新的结果。(2)我们这一代的蒸馏猎犬模型甚至超过了以前的SOTA。
2022-10-21 cs.CL
An Arabic-Hebrew parallel corpus of TED talks
FBK(布鲁诺·凯斯勒基金会)
我们描述了一个阿拉伯语-希伯来语的平行语料库的TED会谈建立在WIT 3,网络库存,重新利用的方式,这是更方便的MT研究人员的TED网站的原始内容。该基准由大约2,000个演讲组成,其阿拉伯语和希伯来语的字幕已准确对齐并重新排列在句子中,每种语言总计约350万个令牌。会谈分为训练、开发和测试集,在各个方面都与IWIT 2016评估活动的MT任务相似。除了描述基准测试,我们列出了在准备过程中遇到的问题和旨在解决这些问题的新方法。基线MT结果和句子长度的一些措施作为一个外在的评价基准的质量。
2016-10-03 cs.CL cs.IR
Estimating the Level of Dialectness Predicts Interannotator Agreement in Multi-dialect Arabic Datasets
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文研究多方言阿拉伯语数据标注中ALDi得分与标注者一致性的关系,在15个公开数据集上验证了高ALDi样本更难标注的假设,并提出应优先将高ALDi样本路由给对应方言母语者以提升标注质量。
2024-06-06 cs.AI cs.CL
Mutarjim: Advancing Bidirectional Arabic-English Translation with a Small Language Model
本文提出基于Kuwain-1.5B的小型双向阿英翻译模型Mutarjim,通过两阶段优化训练以低成本达到大规模模型性能,并发布覆盖多领域的Tarjama-25基准,在英译阿任务上超越GPT-4o mini等大模型。
2025-08-21 cs.AI cs.CL
Automatic Extraction of Commonsense LocatedNear Knowledge
Department of Computer Science and Engineering(计算机科学与工程系);Shanghai Jiao Tong University(上海交通大学)
LocatedNear关系是一种描述现实生活中两个物理对象通常彼此靠近的常识性知识。在本文中,我们研究如何自动提取这种关系,通过一个层次的关系分类器和聚集的评分实体对从一个大的语料库。此外,我们还发布了两个基准数据集,用于评估和未来的研究。
2018-05-13 cs.AI cs.CL
PALI: A Language Identification Benchmark for Perso-Arabic Scripts
George Mason University(乔治梅森大学)
本文针对波斯-阿拉伯字母的语言识别挑战,提出使用监督技术进行句子分类,并构建了处理易混淆语言簇的分层模型,实验证明了其有效性。
2023-04-03 cs.CL
A Large and Balanced Corpus for Fine-grained Arabic Readability Assessment
Computational Approaches to Modeling Language Lab, New York University Abu Dhabi(新纽约大学阿布扎赫实验室);Zai Arabic Language Research Centre, Zayed University(扎伊阿拉伯语言研究中心)
该研究构建了含69441句、19个可读性等级的大规模平衡阿拉伯语可读性评估语料库BAREC,人工标注一致性达81.8%,并完成多方法基准测试,公开资源以支持相关研究与教育。
2025-06-11 cs.CL
A Corpus and Evaluation Framework for Deeper Understanding of Commonsense Stories
University of Rochester(罗切斯特大学);United States Naval Academy(美国海军学院);Microsoft Research(微软研究院);Virginia Tech(弗吉尼亚理工大学);The Institute for Human & Machine Cognition(人类与机器认知研究所)
常识知识的表示和学习是实现深度语言理解的基础问题之一。这个问题对于理解事件之间的因果关系和相关关系尤其具有挑战性。虽然这个主题在NLP社区中引起了很大的兴趣,但由于缺乏适当的评估框架,研究受到了阻碍。本文试图用一个新的评价故事理解和剧本学习的框架来解决这个问题:故事完形填空。这个测试需要一个系统来为一个四句话的故事选择正确的结尾。我们创建了一个新的语料库~ 50 k五句话的常识故事,ROCStories,使这种评估。这个语料库在两个方面是独一无二的:(1)它捕捉了日常事件之间丰富的因果和时间常识关系,(2)它是一个高质量的日常生活故事集,也可以用于故事生成。实验评估表明,许多基于浅语言理解的基线和最先进的模型很难在故事完形填空测试中获得高分。我们讨论了这些对剧本和故事学习的影响,并为更深层次的语言理解提供了建议。
2016-04-06 cs.AI cs.CL
The Arabic Parallel Gender Corpus 2.0: Extensions and Analyses
New York University Abu Dhabi(纽约大学阿布扎比分校);Carnegie Mellon University in Qatar(卡内基梅隆大学卡塔尔分校)
自然语言处理(NLP)应用中的性别偏见,特别是机器翻译,已经受到越来越多的关注。关于这个问题的许多研究都集中在减轻英语NLP模型和系统中的性别偏见。在资源贫乏和/或形态丰富的语言中解决这个问题已经落后,主要是由于缺乏数据集和资源。在本文中,我们介绍了一个新的语料库性别识别和重写的背景下,涉及一个或两个目标用户(我和/或你)-第一和第二语法的人与独立的语法性别偏好。我们专注于阿拉伯语,一种性别标记形态丰富的语言。语料库有多个平行的组成部分:第一和第二人称的四种组合,在女性和男性语法性别,以及英语,英语到阿拉伯语的机器翻译输出。该语料库扩展了Habash et al.(2019)的阿拉伯语平行性别语料库(APGC v1.0),增加了第二人称目标,并将句子总数增加了6.5倍以上,达到59万多个单词。我们的新数据集将有助于性别识别、受控文本生成和编辑后重写系统的研究和开发,这些系统可用于个性化NLP应用程序,并根据用户的语法性别偏好为用户提供正确的输出。我们公开提供阿拉伯语平行性别语料库(APGC v2.0)。
2021-10-18 cs.CL
Arabic Spelling Correction using Supervised Learning
Cairo University(开罗大学)
在这项工作中,我们利用QALB(卡塔尔阿拉伯语银行)项目提供的新语料库,这是一个注释语料库的句子错误和他们的更正,在阿拉伯语中的拼写校正的问题。语料库包含编辑、前加、拆分、合并、后加、移动等错误类型。我们关注前四种错误类型,因为它们占语料库中90%以上的拼写错误。所提出的系统有许多模型来解决每种错误类型,然后将所有模型集成在一起,以提供一个高效而强大的系统,该系统的总体召回率为0.59,精度为0.58,F1得分为0.58,包括开发集上的所有错误类型。我们的系统参加了QALB 2014共享任务“自动阿拉伯语纠错”,并获得了0.6的F1分数,在9名参与者中获得第六名。
2014-09-29 cs.CL cs.LG
!MSA at BAREC Shared Task 2025: Ensembling Arabic Transformers for Readability Assessment
Faculty of Computer Science, MSA University(计算机科学学院,MSA大学)
本文提出了一种基于置信度加权的阿拉伯语Transformer模型集成系统,通过差异化损失函数微调、数据重标注与合成数据增强解决类别不平衡问题,在BAREC 2025共享任务六个赛道均获第一。
2025-09-12 cs.CL
ASCAT: An Arabic Scientific Corpus and Benchmark for Advanced Translation Evaluation
Prince Sultan University(苏丹王子大学);SySSR;NAMAA Community(NAMAA社区);Tuwaiq Academy(图韦克学院)
本文提出ASCAT,一个高质量的英阿平行基准语料库,用于科学翻译评估。通过系统多引擎翻译和人工验证流程构建,包含五个科学领域摘要,用于评估翻译质量并训练领域特定翻译模型。
2026-03-10 cs.CL
mucAI at BAREC Shared Task 2025: Towards Uncertainty Aware Arabic Readability Assessment
Independent Researcher(独立研究者)
本文提出一种基于保形预测和softmax重归一化加权平均的模型无关后处理方法,用于阿拉伯语可读性细粒度分类,在BAREC 2025共享任务中使QWK一致提升1-3个点,句子级盲测达85.7%。
2025-09-18 cs.AI cs.CL
A Review of Winograd Schema Challenge Datasets and Approaches
University of Oxford(牛津大学);Alan Turing Institute(艾伦·图灵研究所);New York University(纽约大学);Robust AI;Systems & Technology Research(系统与技术研究公司);PARC(帕洛阿尔托研究中心)
Winograd Schema Challenge是一个常识推理和自然语言理解的挑战,作为图灵测试的替代方案。一个Winograd图式是一对句子,在一个或两个词与一个高度模糊的代词不同,解决了不同的两个句子,这似乎需要常识知识来正确解决。这些例子被设计成人类可以轻松解决,但机器很难解决,原则上需要对文本内容及其描述的情况有深刻的理解。本文回顾了现有的Winograd Schema Challenge基准数据集和自引入以来已发布的方法。
2020-04-23 cs.AI cs.CL
An Enhanced Corpus for Arabic Newspapers Comments
ICOSI Laboratory, University of Khenchela(肯谢拉大学ICOSI实验室);LIRE Laboratory, University of Constantine 2(君士坦丁第二大学LIRE实验室);TechNE Laboratory, University of Poitiers(普瓦捷大学TechNE实验室)
在本文中,我们提出了我们的增强方法来创建一个专门的语料库阿尔及利亚阿拉伯语报纸评论。所开发的方法,以加强现有的方法,通过丰富的可用语料库和列入的注释步骤,通过以下的模型注释训练测试评估修订(物质)的方法。通过收集阿尔及利亚三家知名报纸网站的评论,建立了一个语料库。三个分类器,支持向量机,朴素贝叶斯,和k-最近邻,用于分类的评论成积极和消极的类。为了确定在所获得的结果中的词干的影响,在有和没有词干的情况下测试分类。获得的结果表明,词干并没有大大提高分类,由于阿尔及利亚的评论绑到阿尔及利亚阿拉伯语方言的性质。令人鼓舞的结果构成了我们的动机,以改善我们的方法,特别是在处理非阿拉伯语句子,特别是方言和法语的。
2021-02-08 cs.CL cs.IR cs.MA
SemEval-2024 Task 1: Semantic Textual Relatedness for African and Asian Languages
Cardiff University(卡迪夫大学);University of Pretoria(比勒陀利亚大学);Northeastern University(东北大学);BITS Pilani(pilani bits 学院);MBZUAI(穆罕默德·本·扎耶德人工智能大学);KU Leuven(鲁汶大学);Uppsala University(乌普萨拉大学);IIIT Hyderabad(海德拉巴印度信息技术学院);University of Toronto(多伦多大学);Universität Hamburg(汉堡大学);National Research Council Canada(加拿大国家研究委员会);Imperial College London(伦敦帝国学院)
本文介绍SemEval-2024首个语义文本相关性共享任务,针对亚非14种低资源语言设置三类赛道,吸引众多团队参与,并总结了各赛道的最优系统与有效方法。
2024-04-17 cs.CL
Incorporating Commonsense Knowledge into Story Ending Generation via Heterogeneous Graph Networks
Soochow University(苏州大学);Fudan University(复旦大学);Princeton University(普林斯顿大学)
故事结局生成是一个有趣且具有挑战性的任务,其目的是在给定的故事背景下生成连贯合理的结局。任务的关键挑战在于如何充分理解故事背景,有效处理故事线索背后的内隐知识,这是前人工作尚未探索的。在本文中,我们提出了一个故事异构图网络(SHGN)显式建模的故事上下文的信息在不同的粒度级别和它们之间的多粒度的交互关系。具体来说,我们把常识知识、单词和句子作为三种类型的节点。为了聚合非本地信息,还引入了全局节点。给定这种异构图网络,节点表示通过图传播更新,这充分利用常识知识,以促进故事的理解。此外,我们还设计了两个辅助任务来隐式地捕捉情境中的情感趋势和关键事件。在多任务学习策略中,辅助任务与主要故事结局生成任务联合优化。在ROC Stories语料库上的大量实验表明,所开发的模型达到了新的最先进的性能。人类研究进一步表明,我们的模型产生了更合理的故事结局。
2022-01-29 cs.AI cs.CL
Curriculum Learning and Pseudo-Labeling Improve the Generalization of Multi-Label Arabic Dialect Identification Models
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本研究通过课程学习和伪标签方法构建多标签阿拉伯方言识别数据集,并训练BERT模型提升泛化能力,最终在排行榜上取得宏平均F1值0.69的优异成绩。
2026-02-17 cs.CL cs.LG
Discriminative Sentence Modeling for Story Ending Prediction
Harbin Institute of Technology(哈尔滨工业大学);iFLYTEK Research(科大讯飞研究院)
故事结局预测是一项需要为给定故事选择合适结局的任务,这需要机器理解故事,有时需要常识知识。为了解决这个问题,我们提出了一个新的神经网络称为Diff-Net更好地建模在这个任务中的每个结束的差异。该模型可以在三个语义层次上区分两个结尾:上下文表征、故事感知表征和区分表征。在Story Cloze Test数据集上的实验结果表明,该模型的性能明显优于其他系统,并给出了详细的消融研究,以更好地理解我们的模型。我们还仔细研究了SCT v1.0和v1.5上的传统模型和基于BERT的模型,有趣的发现可能有助于未来的研究。
2019-12-19 cs.CL
Automatic Difficulty Classification of Arabic Sentences
University of Leeds(利兹大学)
在本文中,我们提出了一个现代标准阿拉伯语(MSA)句子难度分类器,它预测句子的难度为语言学习者使用CEFR的熟练程度水平或二元分类为简单或复杂。我们比较了不同类型的句子嵌入(fastText,mBERT,XLM-R和Arabic-BERT)的使用,以及传统的语言功能,如POS标签,依赖树,可读性得分和频率列表的语言学习者。我们使用微调的Arabic-BERT实现了最佳结果。我们的三向CEFR分类的准确性是F-1的0.80和XLM-R分类分别为0.75和0.71斯皮尔曼相关回归。我们的二元难度分类器达到F-1 0.94和F-1 0.98的双对语义相似度分类器。
2021-03-07 cs.CL
Enhancing Language Learning through Technology: Introducing a New English-Azerbaijani (Arabic Script) Parallel Corpus
Kartal Ol Research Group(Kartal Ol 研究小组);Savalan Igidlari Publishing Company(Savalan Igidlari 出版公司);Research and Development Ultimate(终极研发公司);Institute of Turkic Studies, Marmara University(马尔马拉大学突厥研究院);University of Kurdistan(库尔德斯坦大学);SumerNashr Publishing Company(SumerNashr 出版公司);Lorestan University(洛雷斯坦大学);University of Mohaghegh Ardabili(莫哈格·阿达比里大学);University of Michigan(密歇根大学)
本文构建含54.8万句的英语-阿塞拜疆语(阿拉伯文字)平行语料库,并通过NMT案例验证其对低资源机器翻译与语言教育技术的价值。
2024-07-06 cs.CL
TutlAit v1: a crowdsourced Moroccan Tamazight speech dataset with Arabic transcriptions and regional accent labels
Cadi Ayyad University(卡迪·阿雅德大学)
该论文介绍TutlAit数据集,一个众包的摩洛哥塔马齐格特语音语料库,配有阿拉伯语转写和地区口音标签,包含约20.9小时音频,可用于语音识别、翻译和口音识别。
2026-10-01 cs.CL cs.LG
SemRel2024: A Collection of Semantic Textual Relatedness Datasets for 13 Languages
Cardiff University(卡迪夫大学);University of Pretoria(比勒陀利亚大学);Institute For Experiential AI, Northeastern University(东北大学体验式人工智能研究所);BITS Pilani(pilani工学院);MBZUAI(穆罕默德·本·扎耶德人工智能大学);KU Leuven(鲁汶大学);Universität Hamburg(汉堡大学);Bahir Dar University(巴希尔达大学);IIIT Hyderabad(海得拉巴国际信息技术学院);Uppsala University(乌普萨拉大学);The University of Melbourne(墨尔本大学);Adama Science and Technology University(阿达马科技大学);Digital Umuganda(数字乌干达);Kotebe University of Education(科特贝教育大学);University of Toronto(多伦多大学);HKUST(香港科技大学);National Research Council Canada(加拿大国家研究委员会)
本文提出了SemRel,一个由母语者标注、涵盖13种语言(主要来自非洲和亚洲)的语义文本相关性数据集集合,并介绍了其数据收集、标注过程及基线实验,为NLP任务提供了重要资源。
2024-05-31 cs.CL
Commonsense Reasoning in Arab Culture
Mohamed bin Zayed University of Artificial Intelligence(莫扎伊德·本·泽德人工智能大学);SDAIA;Al-Balqa Applied University(巴尔加应用大学);Khalifa University(卡利法大学);HUMAIN, Data and AI Models(HUMAIN、数据与人工智能模型)
本文针对阿拉伯语模型常识推理评估缺乏文化深度的问题,构建了覆盖13个阿拉伯国家、12个生活领域和54个子主题的ArabCulture数据集,并通过零样本实验揭示现有开源模型在理解多元阿拉伯文化上的不足。
2025-07-21 cs.CL
The Shared Task on Gender Rewriting
New York University Abu Dhabi(纽约大学阿布扎比分校);Carnegie Mellon University in Qatar(卡内基梅隆大学卡塔尔分校);University of Delaware(特拉华大学);Taif University(塔伊夫大学);Umm Alqura University(乌姆·库拉大学);Microsoft ATL Cairo(微软开罗ATL);New York University(纽约大学);Leyton(莱顿);Archipel Cognitive
在本文中,我们提出的结果和调查结果的性别重写,这是第七届阿拉伯语自然语言处理研讨会的一部分组织的共同任务。性别重写的任务是指生成给定句子的备选以匹配不同的目标用户性别上下文(例如,女性演讲者与男性听众、男性演讲者与男性听众等)。这需要改变某些词的语法性别(阳性或阴性)来指代用户。在这项任务中,我们专注于阿拉伯语,一种性别标记形态丰富的语言。共有来自四个国家的五个小组参加了这项共同任务。
2022-10-22 cs.CL
Sentence-Level BERT and Multi-Task Learning of Age and Gender in Social Media
University of British Columbia(不列颠哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学)
社交媒体目前为我们的生活提供了一个窗口,使我们能够了解来自不同地方,不同背景,年龄和性别的人如何使用语言。在这项工作中,我们利用一个新创建的阿拉伯语数据集与地面真相年龄和性别标签学习这些属性都单独和在句子级别的多任务设置。我们的模型基于深度双向神经网络的变体。更具体地说,我们建立模型与门控经常性单位和双向编码器表示从Transformers(BERT)。我们的效用多任务学习(MTL)的两个任务,并确定特定任务的注意力作为一个更好的选择,在这种情况下。我们还发现,一个单一的任务BERT模型优于我们最好的MTL模型上的两个任务。我们报告年龄任务(三向)的推文准确率为51.43%,性别任务(二进制)为65.30%,这两个都大大超过了我们的基线。我们的模型与语言无关,因此可以应用于其他语言。
2019-11-02 cs.CL cs.LG
PEACH: A sentence-aligned Parallel English-Arabic Corpus for Healthcare
University of Sharjah(沙迦大学)
本文介绍PEACH,一个句子对齐的英阿平行医疗语料库,含51,671个平行句,用于语言对比、翻译研究及NLP,并支持领域机器翻译等应用。
2025-08-07 cs.CL
MAPROC at AHaSIS Shared Task: Few-Shot and Sentence Transformer for Sentiment Analysis of Arabic Hotel Reviews
Mohammed V University in Rabat(拉巴特穆罕默德五世大学)
针对AHaSIS共享任务中酒店领域阿拉伯方言情感分析的数据稀缺难题,提出基于SetFit框架的小样本学习方案,在官方评测中取得73%的F1值,验证了小样本方法的应用潜力。
2025-11-19 cs.CL
OASIS: A Multilingual and Multimodal Dataset for Culturally Grounded Spoken Visual QA
Qatar Computing Research Institute(卡塔尔计算研究 institute)
OASIS是一个多语言多模态数据集,涵盖图像、文本和语音,旨在评估模型在现实场景中的文化导向推理能力,包含0.92M真实图像和14.8M问答对。
2026-05-12 cs.AI cs.CL
The User-Aware Arabic Gender Rewriter
New York University Abu Dhabi(纽约大学阿布扎比分校)
我们介绍了用户意识的阿拉伯语性别重写,一个以用户为中心的基于网络的系统,阿拉伯语性别重写的上下文中涉及两个用户。该系统将阿拉伯语或英语句子作为输入,并为用户提供指定其所需的第一和/或第二人称目标性别的能力。该系统输出阿拉伯语输入句子的性别重写的替代方案(或在英语输入的情况下其阿拉伯语翻译)以匹配目标用户的性别偏好。
2022-10-14 cs.CL
Arabic Sentence Segmentation Across Genres and Punctuation Conditions
Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·泽德人工智能大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
针对阿拉伯语标点歧义和不一致导致的句子分割难题,构建跨8种体裁的语料库AraSEG,评估LLM、轻量编码器和依存解析器,发现轻量模型在困难设置下优于LLM,且准确分割能显著提升下游依存解析。
2026-09-01 cs.CL
Automated Question Generation for Science Tests in Arabic Language Using NLP Techniques
Arab American University(阿拉伯美国大学);Columbia University(哥伦比亚大学);CARRS-Q, Queensland University of Technology(昆士兰科技大学交通事故与道路安全研究中心)
针对阿拉伯语试题自动生成中的解析、命名实体识别和规则转换错误,本文提出关键词提取、问题生成与排序三阶段框架,并取得精确率83.50%、F1分数80.95%及人工均分84%。
2024-06-11 cs.CL cs.CY
Guidelines for Fine-grained Sentence-level Arabic Readability Annotation
Computational Approaches to Modeling Language Lab, New York University Abu Dhabi(纽约大学阿布扎克分校计算语言学建模实验室);Zai Arabic Language Research Centre, Zayed University(扎伊阿拉伯语言研究中心,扎耶德大学);Abu Dhabi Arabic Language Centre(阿布扎克阿拉伯语言中心)
本文介绍面向阿拉伯语细粒度句子级可读性评估的 BAREC 语料库及其标注指南,涵盖19级、69,441句,并验证标注一致性与自动模型基准。
2025-06-11 cs.CL
Lexicon-Enriched Graph Modeling for Arabic Document Readability Prediction
Ulm University(乌尔姆大学);German University in Cairo(开罗德国大学)
面向BAREC 2025受限赛道,本文提出SAMER词典与阿拉伯语transformer增强的句子图模型,通过GNN与编码器双分支后期融合及最大池化预测文档可读性。
2025-09-26 cs.CL
An Arabic Dependency Treebank in the Travel Domain
New York University Abu Dhabi(纽约大学阿布扎比分校)
在本文中,我们提出了一个现代标准阿拉伯语的旅游领域句子的依存关系树库。本文的文本来源于基本旅游用语语料库中的英语对等句的翻译。树库依赖表示是哥伦比亚阿拉伯树库的风格。本文激励的努力,并讨论了建设过程和指导方针。我们也给出了句法分析的结果,并讨论了领域和体裁差异对句法分析的影响。
2019-01-29 cs.CL
SituatedGen: Incorporating Geographical and Temporal Contexts into Generative Commonsense Reasoning
University of Michigan(密歇根大学);Peking University(北京大学)
本文提出 SituatedGen 任务,要求模型在给定地理或时间实体关键词时生成对比句对,并构建了含 8,268 对句子的英文数据集,实验表明现有生成式语言模型在该任务上仍远落后于人类。
2023-10-27 cs.CL
KGR^4: Retrieval, Retrospect, Refine and Rethink for Commonsense Generation
School of Informatics, Xiamen University(厦门大学信息学院);Alibaba Group(阿里巴巴集团)
生成式常识推理要求机器在给定几个概念的情况下生成描述日常场景的句子,这一问题近年来引起了人们的广泛关注。然而,现有的模型不能像人类一样表现得那么好,因为它们产生的句子往往令人难以置信,语法上也不正确。在本文中,受人类创造句子的过程的启发,我们提出了一个新的知识增强常识生成框架,称为KGR ^4,包括四个阶段:检索,搜索,提炼,反思。在这个框架下,我们首先进行检索,从外部语料库中搜索相关的句子作为原型。然后,我们训练生成器,编辑或复制这些原型来生成候选句子,其中潜在的错误将由基于自动编码器的细化器修复。最后,我们从具有不同超参数的生成器产生的候选句子中选择输出句子。在CommonGen基准测试上的实验结果和深入分析有力地证明了该框架的有效性。特别是,KGR ^4在官方排行榜上获得了33.56分的SPICE分数,比之前报道的最好成绩高出2.49分,达到了最先进的性能。
2021-12-15 cs.CL
Automatic Knowledge Augmentation for Generative Commonsense Reasoning
Korea University(高丽大学)
生成式常识推理是语言模型根据常识知识生成具有给定概念集的句子的能力。然而,生成语言模型仍然难以提供输出,并且训练集不包含足以进行生成常识推理的模式。在本文中,我们提出了一个以数据为中心的方法,使用自动知识扩充,以扩大常识知识使用机器知识发生器。该方法可以生成半金句,提高生成常识推理的语言模型,而无需架构修改。此外,这种方法是一种与模型无关的方法,不需要人工进行数据构建。
2021-10-30 cs.CL
Retrieval Enhanced Model for Commonsense Generation
New York University(纽约大学);Microsoft(微软)
常识生成是一项具有挑战性的任务,即使用所提供的概念生成描述日常场景的合理句子。它对常识知识的推理和组合泛化能力的要求甚至困扰着强大的预训练语言生成模型。我们提出了一个新的框架,使用检索方法,以提高预训练和微调常识生成。我们通过概念匹配检索原型句子候选,并将其用作辅助输入。为了进行微调,我们通过可训练的句子检索器进一步提高了它的性能。我们在大规模的CommonGen基准测试上通过实验证明,我们的方法取得了新的最先进的结果。
2021-05-24 cs.AI cs.CL
I3rab: A New Arabic Dependency Treebank Based on Arabic Grammatical Theory
Princess Sumaya University for Technology(普林塞萨·苏马亚科技大学);Hashemite University(哈希姆特大学)
树库是一种非常有价值的语言资源,它除了包含词性标记和形态特征外,还包含了语言句子的句法结构。它们主要用于建模统计分析器。尽管统计自然语言解析器最近对于诸如英语的语言变得更准确,但是对于阿拉伯语的那些解析器仍然具有低准确性。本文的目的是在传统的阿拉伯语语法理论的基础上,结合阿拉伯语的特点,构建一个新的阿拉伯语依存关系树库,研究其对统计分析器准确性的影响。建议的阿拉伯语依赖树库,称为I3rab,对比现有的阿拉伯语依赖树库在两个主要概念。第一个概念是确定句子的主要词的方法,第二个概念是连接代词和隐蔽代词的表示。为了评估I3rab,我们将其性能与布拉格阿拉伯语DepartmentTreebank的一个子集进行了比较,该子集具有可比的细节水平。进行的实验表明,在UAS和LAS中的百分比改善达到7.5%和18.8%。
2020-07-11 cs.CL
Keyphrase Based Arabic Summarizer (KPAS)
Benha University(本哈大学);Faculty of Engineering (Shoubra)(工程学院(舒布拉));Electronics Research Institute(电子研究所)
本文介绍了一种计算成本低,高效的通用阿拉伯语文本摘要算法。该算法属于抽取式文摘族,将问题归结为代表句识别和抽取两个子问题。采用统计和语言特征相结合的方法确定要总结的文件的重要关键短语。句子抽取算法利用关键词作为主要属性来对句子进行排序。目前的实验工作,演示了不同的技术,实现各种摘要的目标,包括:信息丰富,覆盖的主要和辅助主题,并保持冗余到最低限度。然后采用一种评分方案,在这些摘要目标之间进行平衡。为了评估得到的阿拉伯文摘要与完善的系统,对齐的英语/阿拉伯语文本通过实验。
2012-06-23 cs.AI cs.CL
$\rm{C {\small IS}}^2$: A Simplified Commonsense Inference Evaluation for Story Prose
University of Pennsylvania(宾夕法尼亚大学)
Transformers在各种任务中表现出接近人类的性能,但它们并非没有局限性。我们讨论的问题合并的Transformers,指示同时做多个任务的结果。特别是,我们专注于领域的常识推理内的故事散文,我们称之为上下文常识推理(CCI)。我们研究了GLUCOSE(Mostafazadeh et al. 2020)数据集和任务,用于预测故事句子之间的隐式常识推理。由于葡萄糖任务同时生成句子并预测CCI关系,因此结果中存在混淆。这个模型真的是在测量CCI,还是它生成语法文本的能力?在本文中,我们介绍了任务上下文常识推理句子选择($\rm{C {\small IS}}^2$),一个简化的任务,避免混淆消除语言生成。我们的研究结果强调了未来工作的必要性,以解开语言生成从所需的NLP任务在手。
2022-10-19 cs.CL
dzStance at StanceEval2024: Arabic Stance Detection based on Sentence Transformers
LCPTS;FGE-USTHB;CRSTDLA;Algiers 01 University(阿尔及尔第一大学)
本研究比较TF-IDF与句子转换器在阿拉伯语立场检测中的性能,证明后者更优,并在StanceEval2024竞赛中取得第13名(71.77%),展示了其处理社会议题的潜力。
2024-07-18 cs.CL
Evaluating the Evaluation of Diversity in Commonsense Generation
University of Liverpool(利物浦大学)
本文对常识生成中的多样性评估指标进行系统元评估,发现基于内容的指标优于基于形式的指标,并利用LLM构建新数据集验证其与人类判断的高度相关性。
2025-05-31 cs.CL
PerCoR: Evaluating Commonsense Reasoning in Persian via Multiple-Choice Sentence Completion
PerCoR是首个大规模波斯语常识推理基准测试,通过多项选择句完成问题评估常识推理能力,展示了DRESS-AF方法在提升数据集难度和模型性能方面的有效性。
2026-01-15 cs.AI cs.CL
Improving Diversity of Commonsense Generation by Large Language Models via In-Context Learning
University of Liverpool(利物浦大学);Amazon(亚马逊)
针对大型语言模型在生成式常识推理中输出多样性缺乏系统研究的问题,提出一种基于上下文学习的简单方法,在保持生成质量的同时提升多样性,并可用作训练数据改进现有常识生成器。
2024-09-27 cs.CL