WEKA-Based: Key Features and Classifier for French of Five Countries
本文介绍了一个法语方言识别系统，将适当区分不同地区的法语方言。五个地区的语料库-摩纳哥，法语，比利时，法语瑞士，法语加拿大和法国，这是针对由素描引擎建设。语料的内容涉及到吃、喝、睡、住四大主题，与大众生活息息相关。实验结果是通过Python编码的预处理器和Waikato知识分析环境（WEKA）数据分析工具的处理获得的，该工具包含许多用于机器学习的过滤器和分类器。
2022-11-10 cs.CL
A Comparative Study of Feature Selection Methods for Dialectal Arabic Sentiment Classification Using Support Vector Machine
Jazan University（贾赞大学）
与其他语言不同的是，阿拉伯语具有词法的复杂性，这使得阿拉伯语的情感分析是一项具有挑战性的任务。此外，阿拉伯语文本中方言的存在使得情感分析任务更具挑战性，因为缺乏管理书写或口语系统的具体规则。通常，情感分析的问题之一是特征向量的高维性。为了解决这个问题，已经提出了许多特征选择方法。与阿拉伯方言不同，这些选择方法在英语中得到了广泛的研究。本文研究了特征选择方法及其组合对方言阿拉伯语情感分类的影响。特征选择方法有信息增益（IG）、相关性、支持向量机（SVM）、基尼指数（GI）和卡方。一些实验进行了辩证的约旦评论与使用SVM分类。此外，不同的术语加权方案，词干，停止字删除，和功能模型的性能上的影响进行了研究。实验结果表明，将支持向量机和相关特征选择方法与unigram模型相结合，得到了最佳的SVM分类器性能。
2019-02-17 cs.CL
Investigating Machine Learning Methods for Language and Dialect Identification of Cuneiform Texts
Sharif University of Technology（谢里夫理工大学）
由于缺乏资源和标记化问题，识别使用楔形文字符号书写的语言是一项困难的任务。VarDial 2019中的楔形文字语言识别任务解决了识别以楔形文字书写的七种语言和方言的问题;苏美尔语和阿卡德语的六种方言：古巴比伦语，中巴比伦语外围语，标准巴比伦语，新巴比伦语，晚巴比伦语和新亚述语。本文描述了SharifCL团队在VarDial 2019中解决这个问题所采取的方法。最好的结果属于支持向量机和朴素贝叶斯分类器的集成，两者都工作在字符级特征上，宏观平均F1分数为72.10%。
2020-09-22 cs.CL
Data Collection and Analysis of French Dialects
University of Leeds（利兹大学）
本文讨论了创建和分析一个新的数据集的数据采掘和文本分析研究，有助于联合利兹大学研究项目的语料库的国家方言。本报告调查了机器学习分类器，用于对各个法语国家的法语方言文本样本进行分类。按照CRISP-DM方法的步骤，本报告探讨了数据汇集过程、数据质量问题和文本分析的数据转换。最后，应用适当的数据采掘技术，评价方法，最佳的整体特征和分类器和结论进行了讨论。
2022-08-01 cs.AI cs.CL
Adapting MARBERT for Improved Arabic Dialect Identification: Submission to the NADI 2021 Shared Task
Microsoft（微软）
在本文中，我们解决了细微差别的阿拉伯语方言识别（NADI）共享任务（Abdul-Mageed等人，2021年），并在所有四个子任务上展示最先进的成果。任务是在国家和省两级确定短方言（DA）和现代标准阿拉伯语（MSA）话语的地理来源。我们的最终模型是建立在MARBERT之上的变量集合，在国家级发展集上实现了DA的34.03%的F1分数-比以前的工作提高了7.63%。
2021-03-01 cs.CL
Including Dialects and Language Varieties in Author Profiling
University of Bucharest（布加勒斯特大学）；University of Cologne（科隆大学）；Harvard Medical School（哈佛医学院）
本文提出了一种计算方法，作者分析考虑到性别和语言的多样性。我们应用集成系统与字符和单词$n$ -gram训练的多个线性SVM分类器的输出。我们使用2017年PAN实验室组织者提供的关于作者分析的数据集来评估该系统。我们的方法实现了75%的平均准确性性别识别的推文写在四种语言和97%的准确性语言品种识别葡萄牙语。
2017-07-03 cs.CL
The Unreasonable Effectiveness of Machine Learning in Moldavian versus Romanian Dialect Identification
University of Bucharest（布加勒斯特大学）
由于机器学习模型在摩尔多瓦语与罗马尼亚语方言识别中的准确性似乎很高，并且对这一主题的研究兴趣越来越大，我们对摩尔多瓦语与罗马尼亚语跨方言主题识别（MRC）VarDial 2019评估活动的共享任务进行了后续研究。共享的任务包括两个子任务类型：一个是在摩尔多瓦和罗马尼亚方言之间进行区分，一个是在罗马尼亚语的两种方言之间按主题对文件进行分类。参与者取得了令人印象深刻的分数，例如，摩尔多瓦语与罗马尼亚语方言识别的顶级模型获得了0.895的宏观F1分数。我们通过人工注释者进行了主观评估，结果表明，与机器学习（ML）模型相比，人类的准确率要低得多。因此，目前尚不清楚为什么参与者提出的方法能达到如此高的准确率。我们的目标是理解（i）为什么所提出的方法工作得如此之好（通过可视化区分特征）以及（ii）这些方法在多大程度上可以保持其高准确度，例如，当我们将文本样本缩短为单个句子时，或者当我们在推理时使用推文时。我们工作的第二个目标是使用集成学习提出一个改进的ML模型。我们的实验表明，ML模型可以准确地识别方言，即使在句子级别和不同的领域（新闻文章与推文）。我们还分析了表现最好的模型的最具区别性的特征，为这些模型所做的决定提供了一些解释。有趣的是，我们学习到了我们或我们的人类注释者以前不知道的新方言模式。此外，我们进行的实验表明，机器学习的MRC共享任务的性能可以通过集成的基础上堆叠提高。
2021-11-15 cs.CL
Demographic Dialectal Variation in Social Media: A Case Study of African-American English
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
尽管社交媒体上的方言越来越丰富，但用于开发NLP工具来处理此类语言的资源却很少。本文通过对Twitter上的非裔美国人英语（AAE）的调查，对网络会话文本中的方言进行了案例研究。我们提出了一个远程监督模型，以确定AAE类语言的人口统计与地理位置的消息，我们验证，这种语言如下著名的AAE语言现象。此外，我们分析了现有的语言识别和依存句法分析工具的质量AAE类文本，表明他们表现不佳，这样的文本相比，与白人扬声器的文本。我们还提供了一个集成分类器的语言识别，消除了这种差异，并发布了一个新的语料库的推文包含AAE类语言。
2016-08-31 cs.CL
Measuring Geographic Performance Disparities of Offensive Language Classifiers
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）
文本分类器以一刀切的解决方案的形式大规模应用。然而，许多研究表明，量词对不同的语言和方言有偏见。在衡量和发现这些偏见时，存在一些差距，应该加以解决。第一，“语言、方言和主题内容是否因地理区域而异？第二，如果各地区之间存在差异，它们是否会影响模型的性能？''.我们引入了一个名为GeoOLID的新数据集，其中包含15个地理和人口统计学上不同的城市的14000多个示例，以解决这些问题。我们进行了全面的分析，地理相关的内容和他们的影响，性能差异的攻击性语言检测模型。总的来说，我们发现，目前的模型并没有推广到各地。同样，我们表明，虽然进攻性语言模型对非裔美国人英语产生误报，但模型性能与每个城市的少数民族人口比例无关。警告：本文含有攻击性语言。
2022-09-15 cs.CL
ArFake: A Robust Framework for Multi-Dialect Arabic Speech Spoofing Detection Benchmark
MBZUAI, UAE（马布里扎大学人工智能研究所，阿联酋）；Queen’s University, Canada（女王大学，加拿大）；University of Waterloo, Canada（滑铁卢大学，加拿大）
提出首个多方言阿拉伯语欺骗语音数据集，通过多模型评估和人类评分构建基准，发现FishSpeech在卡萨布兰卡语料库上生成最逼真的合成语音。
2026-06-16 cs.CL
BERT-based Multi-Task Model for Country and Province Level Modern Standard Arabic and Dialectal Arabic Identification
Mohammed VI Polytechnic University（穆罕默德六世理工大学）；Sidi Mohamed Ben Abdellah University（西迪·穆罕默德·本·阿卜杜拉大学）；University of Sherbrooke（舍布鲁克大学）
方言和标准语言识别是许多阿拉伯语自然语言处理应用程序的关键任务。在本文中，我们介绍了我们的基于深度学习的系统，提交给第二个NADI共享任务，用于现代标准阿拉伯语（MSA）和方言阿拉伯语（DA）的国家级和省级识别。该系统基于端到端深度多任务学习（MTL）模型，以解决国家级和省级MSA/DA识别问题。后一种MTL模型由共享的双向编码器表示Transformers（BERT）编码器、两个特定于任务的注意力层和两个分类器组成。我们的主要思想是利用任务区分和任务间共享的功能，国家和省MSA/DA识别。实验结果表明，MTL模型在大多数子任务上都优于单任务模型。
2021-06-23 cs.CL
dzNLP at NADI 2024 Shared Task: Multi-Classifier Ensemble with Weighted Voting and TF-IDF Features
LCPTS-FGE；USTHB（阿尔及利亚科学技术大学）；CRSTDLA；University of Algiers 01（阿尔及尔大学01）
dzNLP团队在NADI 2024子任务1中采用基于TF-IDF特征和加权投票的多分类器集成方法，虽取得最高精确率63.22%，但F1分数约21%，因召回率仅12.87%，需改进对多样方言的识别。
2024-07-18 cs.CL
Curriculum Learning and Pseudo-Labeling Improve the Generalization of Multi-Label Arabic Dialect Identification Models
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本研究通过课程学习和伪标签方法构建多标签阿拉伯方言识别数据集，并训练BERT模型提升泛化能力，最终在排行榜上取得宏平均F1值0.69的优异成绩。
2026-02-17 cs.CL cs.LG
An End-to-End Hybrid Framework for Rumour Detection in Low-Resources Algerian Dialect
ATM Mobilis；USTHB Algiers（阿尔及尔科技大学）
针对阿尔及利亚方言谣言检测中资源稀缺、代码切换等问题，提出端到端混合框架，结合Transformer嵌入与经典分类器，F1达0.84，并发现领域预训练比模型规模更重要。
2026-06-12 cs.CL
Shifting from endangerment to rebirth in the Artificial Intelligence Age: An Ensemble Machine Learning Approach for Hawrami Text Classification
University of Kurdistan Hewlêr（库尔德斯坦休莱尔大学）
针对濒危语言Hawrami的文本分类研究空白，本文基于6854篇文章构建数据集，使用KNN、Linear SVM、LR和DT等机器学习模型进行分类，发现Linear SVM以96%的准确率表现最优。
2024-09-25 cs.CL
CARDAMOM: A Micro-Dialectal Arabic Speech Dataset for ASR
本文提出Cardamom，一个覆盖21种阿拉伯语微型方言、约40小时的语音数据集，用于ASR细粒度评估与适配，基准测试显示适配后WER从43.47%降至35.21%，方言识别准确率达85.57%。
2026-10-30 cs.CL
Experiments in Cuneiform Language Identification
Universidade Tecnológica Federal do Paraná（巴拉那联邦理工大学）；University of Wolverhampton（伍尔弗汉普顿大学）
楔形文字是世界上最早的文字系统之一，本文介绍了用楔形文字区分语言和方言的方法。我们报告了PZ团队在2019年VarDial评估活动范围内组织的楔形文字语言识别（CLI）共享任务中获得的结果。这项任务包括两种语言，苏美尔语和阿卡德语。后者分为六种方言：古巴比伦语、中巴比伦语、标准巴比伦语、新巴比伦语、晚巴比伦语和新亚述语。我们使用在各种SVM模型上训练的元分类器来处理任务，并展示了该系统在此任务中的有效性。我们的参赛作品在区分七种语言和方言方面取得了0.738的F1分数，在八支队伍中排名第四。
2019-04-27 cs.CL
Offensive Language Detection in Under-resourced Algerian Dialectal Arabic Language
Université 8 Mai 1945, Guelma（盖勒马1945年5月8日大学）
本文解决了检测Facebook评论中的攻击性和辱骂性内容的问题，我们专注于阿尔及利亚方言阿拉伯语，这是一种资源不足的语言。后者有各种方言混合不同的语言（即柏柏尔语，法语和英语）。此外，我们处理以阿拉伯语和罗马字母（即Arabizi）书写的文本。由于同一语言的作品稀缺，我们建立了一个新的语料库，重新组合了超过8.7k的文本，这些文本被手动标注为正常，辱骂和冒犯。我们使用最先进的文本分类分类器进行了一系列实验，即：BiLSTM，CNN，FastText，SVM和NB。结果表明，可以接受的性能，但问题需要进一步研究的语言特征，以提高识别精度。
2022-03-18 cs.CL cs.IR
Multi-Dialect Arabic BERT for Country-Level Dialect Identification
Mawdoo3 Ltd（Mawdoo3有限公司）
阿拉伯语方言识别是一个复杂的问题，因为语言本身具有一些固有的属性。在本文中，我们介绍了我们的竞争团队Mawdoo 3 AI开发的实验和模型，以实现我们对细微阿拉伯语方言识别（NADI）共享任务的子任务1的成功解决方案。方言识别子任务提供了21，000条国家级标记的推文，覆盖所有21个阿拉伯国家。来自同一领域的1000万条未标记的推文语料库也由比赛组织者提供供选择使用。我们获胜的解决方案本身是我们预先训练的BERT模型的不同训练迭代的集合，它在手头的子任务上实现了26.78%的微平均F1分数。我们以Multi-dialect-Arabic-BERT模型的名义公开发布了我们获奖解决方案的预训练语言模型组件，供任何感兴趣的研究人员使用。
2020-07-10 cs.CL cs.LG
FreCDo: A Large Corpus for French Cross-Domain Dialect Identification
University of Bucharest（布加勒斯特大学）；Aix-Marseille Université（艾克斯-马赛大学）
我们提出了一个新的语料库法语方言识别包括413,522法语文本样本收集公共新闻网站在比利时，加拿大，法国和瑞士。为了确保模型的方言识别性能的准确估计，我们设计了语料库，以消除与主题，写作风格和出版物来源相关的潜在偏见。更准确地说，训练、验证和测试分割是从不同的新闻网站收集的，同时搜索不同的关键字（主题）。这导致了法语跨域（FreCDo）方言识别任务。我们进行实验与四个有竞争力的基线，微调CamemBERT模型，XGBoost的基础上微调CamemBERT功能，一个支持向量机（SVM）分类器的基础上微调CamemBERT功能，和一个SVM的基础上字n-gram。除了给出定量结果外，我们还分析了CamemBERT学习到的最具鉴别力的特征。我们的语料库可以在https://github.com/MihaelaGaman/FreCDo上找到。
2022-12-15 cs.CL cs.LG
Spoken dialect identification in Twitter using a multi-filter architecture
EPFL（洛桑联邦理工学院）
本文介绍了SwissText和KONVENS 2020共享任务2的方法，这是一个用于Twitter上瑞士德语（GSW）识别的多阶段神经模型。我们的模型输出GSW或非GSW，并不意味着被用作通用语言标识符。我们的架构由两个独立的过滤器组成，其中第一个过滤器有利于召回，第二个过滤器有利于精度（都朝向GSW）。此外，我们在过滤器中不使用二元模型（GSW与非GSW），而是使用多类分类器，其中GSW是可能的标签之一。我们的模型在共享任务的测试集上达到了0.982的F1分数。
2020-06-05 cs.CL cs.LG
A Simple Approach to Building Ensembles of Naive Bayesian Classifiers for Word Sense Disambiguation
本文提出了一种基于语料库的词义消歧方法，该方法建立了一个朴素贝叶斯分类器的集合，每个分类器都基于词汇特征，这些特征代表了不同大小的上下文窗口中的共现词。尽管这种方法很简单，但消除广泛研究的名词行和兴趣的实证结果表明，这样的合奏达到了与以前发表的最佳结果相媲美的准确性。
2000-05-07 cs.CL
EmotionGIF-Yankee: A Sentiment Classifier with Robust Model Based Ensemble Methods
National Chiao Tung University（国立交通大学）
提出了一种基于鲁棒模型的集成方法对情感进行分类。我们对tweet数据进行预处理，以提高tokenizer的覆盖率。为了减少领域偏差，我们首先为预训练的语言模型训练推文数据集。此外，每个分类器都有其优点和缺点，我们利用不同类型的模型集成方法：平均和功率加权和。实验结果表明，该方法在情感分类中取得了较好的效果.我们的系统在SocialNLP 2020年GIF竞赛的26个团队中获得第三名。
2020-07-05 cs.CL
Multi-Dialectal Representation Learning of Sinitic Phonology
No.2 High School of East China Normal University（华东师范大学第二附属中学）
本文通过构建汉语音系知识图谱并应用BoxE技术学习多方言音节表征，结合聚类与分类实验验证其能捕捉音位对立并推断中古汉语特征，为方言比较和原始语言重建提供支持。
2023-06-30 cs.CL cs.LG cs.SI
NADI 2026: The Second Multidialectal Arabic Speech Processing Shared Task
The University of British Columbia（不列颠哥伦比亚大学）；King Fahd University of Petroleum & Minerals（法赫德国王石油与矿业大学）；Avignon Université（阿维尼翁大学）；ELYADATA（ELYADATA公司）；King Abdullah University of Science & Technology（阿卜杜拉国王科技大学）；NYU Abu Dhabi（纽约大学阿布扎比分校）
NADI 2026作为第二届多方言阿拉伯语语音处理共享任务，涵盖五个任务八个子任务，引入TTS、SLT和SLU，强调现实评估，发现域外泛化是主要瓶颈，并验证了专用模型与集成方法的有效性。
2026-09-24 cs.CL
Computational Linguistics Meets Libyan Dialect: A Study on Dialect Identification
Sebha University（塞卜哈大学）；Trine University（特莱恩大学）
本研究利用多项式朴素贝叶斯模型，通过词和字符n-gram表示实现利比亚方言识别，达到85.89%的准确率。
2025-12-03 cs.CL cs.LG
An Automatic Contextual Analysis and Clustering Classifiers Ensemble approach to Sentiment Analysis
La Trobe University（拉筹伯大学）
产品评论是决定公众情绪的主要资源之一。现有的评论情感分析方法主要采用监督范式，需要对标注数据进行训练，且存在领域依赖性。针对这些问题，提出了一种基于无监督集成学习的全自动情感分析方法。 该方法分为二个步骤.第一阶段是语境分析，它有五个过程，即（1）资料准备;（2）拼写纠正;（3）强化处理;（4）否定处理;（5）对比处理。第二阶段包括无监督学习方法，它是使用具有不同权重方案的多数投票机制的聚类分类器的集合。该集成方法的基础分类器是一种改进的k均值算法。通过SentWordNet（SWN）从特征集中提取初始质心，对基分类器进行改进。本文还介绍了澳大利亚航空公司和房屋建筑商的新的情感分析问题，这些问题为情感分析领域提供了潜在的基准问题。在不同领域的数据集上的实验表明，上下文分析和集成阶段在准确性、稳定性和泛化能力方面都有很大的提高。
2017-05-29 cs.CL
Corpora Preparation and Stopword List Generation for Arabic data in Social Network
本文提出了一种从在线社交网络（OSN）和评论网站上准备阿拉伯语语料库的方法，用于情感分析（SA）任务。本文还提出了一种方法，从准备语料库生成一个停用词列表。本研究旨在探讨去除停用词对联想任务的影响。问题是，之前生成的停用词列表是基于现代标准阿拉伯语（MSA）的，而MSA不是OSN中使用的通用语言。我们已经生成了一个埃及方言的停用词列表和一个基于语料库的列表，用于OSN语料库。我们比较文本分类的效率时，使用生成的列表与以前生成的MSA列表，并结合埃及方言列表与MSA列表。使用朴素贝叶斯和决策树分类器和两种特征选择方法，unigram和bigram进行文本分类。实验表明，包含埃及方言单词的通用列表比仅使用MSA停用词列表具有更好的性能。
2014-10-05 cs.CL
Arabic Offensive Language Detection Using Machine Learning and Ensemble Machine Learning Approaches
Kuwait University（科威特大学）
本研究旨在探讨单学习者机器学习方法与集成机器学习方法在阿拉伯语冒犯性语言检测中的应用效果。由于文本的书面格式的模糊性和非正式性，对阿拉伯语社交媒体文本进行分类是一项非常具有挑战性的任务。阿拉伯语有多种方言，具有不同的词汇和结构，这增加了获得高分类性能的复杂性。我们的研究表明，应用集成机器学习方法比单一学习者机器学习方法的显着影响。在经过训练的集成机器学习分类器中，Bagging在攻击性语言检测中表现最好，F1得分为88%，超过最好的单学习者分类器6%。我们的研究结果强调了投入更多努力促进攻击性语言检测模型的集成机器学习方法解决方案的巨大机会。
2020-05-16 cs.CL
Towards spoken dialect identification of Irish
Trinity College Dublin（都柏林三一学院）
针对爱尔兰语 ASR 的方言性能不均问题，本文测试 XLS-R、ECAPA-TDNN 与爱尔兰语 BERT 文本分类器，融合后方言识别准确率达 76%。
2023-07-14 cs.CL cs.SD eess.AS
Saudi-Dialect-ALLaM: LoRA Fine-Tuning for Dialectal Arabic Generation
Department of Software Engineering Umm Al-Qura University, Makkah, Saudi Arabia（软件工程系乌姆·阿尔·库拉大学，麦加，沙特阿拉伯）
本文通过 LoRA 微调沙特首个基础模型 ALLaM-7B-Instruct-preview，利用 5,466 条沙特方言指令数据提升纳吉迪和希贾兹方言生成能力，其中 Dialect-Token 变体将方言比例提升至 84.21% 并显著降低 MSA 泄漏，优于多个通用指令模型。
2025-08-19 cs.CL cs.LG
Can Small-Scale Data Poisoning Exacerbate Dialect-Linked Biases in Large Language Models?
Department of Electrical and Computer Engineering, Maroun Semaan Faculty of Engineering and Architecture（电气与计算机工程系，马鲁恩·塞马安工程与建筑学院）；American University of Beirut（贝鲁特美国大学）
本研究通过小规模风格条件数据投毒，发现其能加剧大语言模型对方言输入的偏见，尤其是AAVE，并导致越狱行为，凸显了方言感知评估与风格-毒性解耦训练的必要性。
2025-10-09 cs.AI cs.CL cs.LG
Content-Localization based System for Analyzing Sentiment and Hate Behaviors in Low-Resource Dialectal Arabic: English to Levantine and Gulf
School of Electrical Engineering and Computer Science（电气工程与计算机科学学院）；University of Ottawa（渥太华大学）
本文提出基于内容本地化的神经机器翻译与无监督主题分析系统，将英语资源适配到黎凡特和海湾阿拉伯方言，以提升情感与仇恨内容识别效果。
2023-11-27 cs.AI cs.CL
Arabic Tweet Act: A Weighted Ensemble Pre-Trained Transformer Model for Classifying Arabic Speech Acts on Twitter
本研究针对Twitter方言阿拉伯语言语行为分类问题，提出基于BERT的加权集成学习方法，构建标注数据集并采用数据增强解决类别不平衡，性能优于单模型。
2024-01-30 cs.AI cs.CL
Estimating Confidence of Predictions of Individual Classifiers and Their Ensembles for the Genre Classification Task
MIPT（莫斯科物理技术学院）；University of Leeds（利兹大学）
体裁识别是非主题文本分类的一个子类。这个任务和主题分类之间的主要区别在于，与主题不同，体裁通常不对应于简单的关键词，因此它们需要根据它们在交流中的功能来定义。基于预先训练的Transformers的神经模型，如BERT或XLM-RoBERTa，在许多NLP任务中展示了SOTA结果，包括非主题分类。然而，在许多情况下，当一些原始文本与训练集的轮廓不匹配时，它们在非常大的语料库（例如从社交媒体中提取的语料库）中的下游应用可能会导致不可靠的结果，因为数据集会发生变化。为了缓解这个问题，我们对单个模型以及它们的集合进行了实验。为了评估所有模型的鲁棒性，我们使用预测置信度度量，该度量在没有金标准标签的情况下估计预测的可靠性。我们可以通过标记测试语料库上正确分类的文本和错误分类的文本之间的置信度差距来评估鲁棒性，更高的差距使我们更容易提高我们的分类器做出正确决策的信心。我们的研究结果表明，对于本研究中测试的所有分类器，都存在置信差距，但对于集合，差距更大，这意味着集合比它们的单个模型更强大。
2022-06-15 cs.CL
Identifying Primary Stress Across Related Languages and Dialects with Transformer-based Speech Encoder Models
Jožef Stefan Institute（乔塞夫·斯塔芬研究所）；Slovenia University of Ljubljana（斯洛文尼亚卢布尔雅那大学）；Department of Knowledge Technologies（知识技术系）；Faculty of Computer and Information Science（计算机与信息科学学院）；Institute of Contemporary History（现代史研究所）
本文提出使用音频帧分类头微调预训练transformer模型来自动识别主重音，相比传统声学特征的SVM分类器表现更优，仅需几百个多音节训练词即可在多种相关语言和方言中取得强大性能。
2025-05-30 cs.CL cs.SD eess.AS
Early Exiting with Ensemble Internal Classifiers
Fudan University（复旦大学）；Huawei Poisson Lab（华为泊松实验室）
作为一种加速大规模预训练模型推理的简单技术，提前退出在NLP社区中受到了广泛关注。它允许样本在内部分类器中提前退出，而无需通过整个模型。现有的大多数工作通常独立训练内部分类器，并采用退出策略来决定是否退出的基础上的信心，当前内部分类器。然而，这些作品都没有充分利用这样一个事实：内部分类器经过训练来解决相同的任务，因此可以用于构建集成。本文从集成学习和信息论的角度出发，提出了一种新的集成内分类器训练目标函数。所提出的训练目标包括两个方面：一个是准确性，另一个是内部分类器的多样性。相比之下，先前工作中使用的目标正是我们训练目标的准确度项，因此只优化了准确度，而不是多样性。此外，我们提出了一个简单的基于投票的策略，考虑所有过去的内部分类器的预测，推断正确的标签，并决定是否退出。不同NLP任务的实验结果表明，我们提出的目标函数和基于投票的策略可以实现更好的准确性和速度的权衡。
2021-05-28 cs.CL cs.LG
Integer-Programming Ensemble of Temporal-Relations Classifiers
时态事件及其相互关系的提取和理解是自然语言处理的主要挑战。在逐句或逐表达式的基础上处理文本通常会失败，部分原因是捕获文本的全局一致性的挑战。我们提出了一个集成的方法，它调和跨文本使用整数规划的时间表达式的多个分类器的输出。计算实验表明，集成改进了最近两个挑战的最佳个体结果，SemEval-2013 TempEval-3（时间注释）和SemEval-2016 Task 12（临床TempEval）。
2018-07-30 cs.CL cs.LG math.OC
"To Target or Not to Target": Identification and Analysis of Abusive Text Using Ensemble of Classifiers
Adobe Research（奥多比研究院）
随着人们对社交媒体平台上的辱骂和仇恨行为的日益关注，我们提出了一种集成学习方法来识别和分析此类内容的语言特性。我们的堆栈集成由三个机器学习模型组成，这些模型捕捉语言的不同方面，并提供关于不恰当语言的多样和一致的见解。所提出的方法提供了与Twitter滥用行为数据集（Founta et al. 2018）现有最先进技术相当的结果，而不使用任何用户或网络相关信息;仅依赖于文本属性。我们相信，目前的方法的缺点提出的见解和讨论将突出未来研究的潜在方向。
2020-06-05 cs.CL cs.SI
Semantic classifier approach to document classification
Polish Academy of Sciences（波兰科学院）
在本文中，我们提出了一种新的文档分类方法，弥合训练集和应用集的文本数据之间的差异（所谓的语义差距）。我们证明了它的优越性，经典的文本分类方法，包括传统的分类器集成。该方法包括将文档分类技术与单个分类器或分类器集成（SEMCOM算法-具有语义分类器的委员会）相结合。
2017-01-16 cs.CL cs.IR
Ensemble of Neural Classifiers for Scoring Knowledge Base Triples
Studio Ousia；Nara Institute of Science and Technology（奈良先端科学技术大学）
本文描述了我们在2017年WSDM杯上完成三重得分任务的方法。该任务要求参与者在知识库中为每对实体及其类型分配相关性得分，以提高实体检索任务的排名结果。我们提出了一种方法，其中多个神经网络分类器的输出相结合，使用监督机器学习模型。实验结果表明，我们提出的方法在三个测量中的一个（即，Kendall’s tau），并在其他两项测量中表现出竞争力（即，准确度和平均得分差异）。
2017-04-05 cs.CL cs.IR
ArSentD-LEV: A Multi-Topic Corpus for Target-based Sentiment Analysis in Arabic Levantine Tweets
MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）；American University of Beirut（贝鲁特美国大学）；Qatar University（卡塔尔大学）
情感分析是一项非常主观和具有挑战性的任务。当应用于阿拉伯语时，其复杂性进一步增加，主要是因为大量的方言是不标准化的，并且在网络中广泛使用，特别是在社交媒体中。虽然已经发布了许多数据集来用阿拉伯语训练情感分类器，但这些数据集中的大多数都包含浅层注释，仅将文本单元的情感标记为单词，句子或文档。在本文中，我们提出了阿拉伯语情绪Twitter数据集的黎凡特方言（ArSenTD-LEV）。根据对黎凡特地区推文的分析结果，我们创建了一个包含4,000条推文的数据集，并附有以下注释：推文的总体情绪、表达情绪的目标、表达情绪的方式以及推文的主题。结果证实了这些注释在提高基线情感分类器性能方面的重要性。他们还证实了在某个领域的培训和在另一个领域的测试之间的差距。
2019-05-25 cs.CL cs.IR cs.LG
