NNVLP: A Neural Network-Based Vietnamese Language Processing Toolkit
Alt Inc（Alt 公司）；FPT University（FPT 大学）；Vietnam National University（越南国家大学）
本文展示了基于神经网络的工具包，即NNVLP基本越南语言处理任务，包括词性（POS）标记，组块，命名实体识别（NER）。我们的工具包是双向长短期记忆（Bi-LSTM），卷积神经网络（CNN），条件随机场（CRF）的组合，使用预训练的词嵌入作为输入，在这三个任务上实现了最先进的结果。我们为这个工具包提供了API和Web演示。
2017-10-19 cs.CL
VnCoreNLP: A Vietnamese Natural Language Processing Toolkit
Newcastle University（纽卡斯尔大学）；The University of Melbourne（墨尔本大学）；Deakin University（迪肯大学）；Macquarie University（麦考瑞大学）
我们提出了一个易于使用和快速的工具包，即VnCoreNLP-越南语的Java NLP注释管道。我们的VnCoreNLP支持关键的自然语言处理（NLP）任务，包括分词、词性（POS）标注、命名实体识别（NER）和依存句法分析，并为这些任务获得最先进的（SOTA）结果。我们发布VnCoreNLP提供丰富的语言注释，以促进越南语NLP的研究工作。我们的VnCoreNLP是开源的，可在https://github.com/vncorenlp/VnCoreNLP获得
2018-04-01 cs.CL
Neural sequence labeling for Vietnamese POS Tagging and NER
Hanoi Univ of Science and Technology（河内科技大学）；VCCorp（VCCorp公司）
本文提出了一种用于越南语序列标注任务的神经结构，包括词性标注和命名实体识别。我们应用了\cite{lample-EtAl:2016:N16-1}中描述的模型，该模型是双向长短期记忆和条件随机场的组合，它依赖于关于单词的两个信息源：从监督语料库中学习的基于字符的单词表示和从其他未注释语料库中学习的预训练词嵌入。在基准数据集上的实验表明，该方法在两个任务上都达到了最佳的性能：词性标注的准确率为93.52%，NER标注的F1为94.88%.我们的源代码在这里可用。
2018-11-12 cs.CL
Parts-of-Speech Tagger Errors Do Not Necessarily Degrade Accuracy in Extracting Information from Biomedical Text
CRC for Innovative Dairy Products（创新乳制品合作研究中心）；The University of Melbourne（墨尔本大学）；Victorian Bioinformatics Consortium（维多利亚生物信息学联盟）；Monash University（莫纳什大学）
最近的一项研究报告了Muscorian的发展，这是一种通用的文本处理工具，用于从文本中提取蛋白质-蛋白质相互作用，其性能可与生物医学特定的文本处理工具相媲美。这一结果是出乎意料的，因为一系列文本分析过程中的潜在错误可能会对整个过程的结果产生不利影响。大多数生物医学实体关系提取工具使用生物医学特定的词性（POS）标记器作为POS标记的错误，并可能影响后续的文本语义分析，如浅层解析。本研究旨在评估词性（POS）标记的准确性，并试图探讨是否获得了可比的性能时，通用的POS标记，MontyTagger，被用来代替MedPost，一个tagger训练的生物医学文本。我们的结果表明，在生物医学文本上测试时，Muscorian的POS标签器MontyTagger的POS标签准确率为83.1%。用MedPost替换MontyTagger并没有导致从文本中提取实体关系的显著改善;在定向关系上，MontyTagger的精确度为55.6%，MedPost为56.8%，在非定向关系上，MontyTagger为86.1%，MedPost为81.8%。这是意料之外的，因为MontyTagger的不良POS标记可能会影响信息抽取的结果。对词性标注错误的分析表明，78.5%的标注错误被浅层句法分析所弥补。因此，尽管标记准确率为83.1%，但MontyTagger的功能标记准确率为94.6%。
2008-04-02 cs.CL cs.IR
On the Vietnamese Name Entity Recognition: A Deep Learning Method Approach
Hanoi University of Science and Technology（河内理工大学）；Vietnam Academy of Science and Technology（越南科学技术研究院）
命名实体识别在基于文本的信息检索中起着重要的作用。在本文中，我们将双向长短期记忆（Bi-LSTM）\cite{hochreiter1997,schuster1997}与条件随机场（CRF）\cite{lafferty2001}相结合，为NER问题创建了一个新的深度学习模型。作为深度学习模型的输入的每个单词由Word 2 vec训练的向量表示。一个词嵌入集，从2018年通过越南新闻门户网站（baomoi.com）收集的约100万篇文章中训练而成。此外，我们将Word 2 Vec \cite{mikolov2013}训练的向量与语义特征向量（词性（POS）标记，组块标记）和隐藏的句法特征向量（由Bi-LSTM网络提取）连接起来，以在越南语NER系统中实现（迄今为止最好的）结果。结果是在数据集VLSP 2016（越南语言和语音处理2016 \cite{vlsp2016}）竞赛中进行的。
2019-11-18 cs.CL cs.LG stat.ML
Part-of-Speech Tagging of Odia Language Using statistical and Deep Learning-Based Approaches
NIT Rourkela（鲁尔克拉国家技术学院）
自动词性标注是许多自然语言处理（NLP）任务的预处理步骤，例如名称实体识别（NER）、语音处理、信息抽取、词义消歧和机器翻译。它在英语和欧洲语言中已经取得了可喜的成果，但在印度语言中，特别是在Odia语言中，由于缺乏支持工具，资源和语言形态的丰富性，它还没有得到很好的探索。不幸的是，我们无法为Odia找到一个开源的POS标记器，并且只有少数尝试为Odia语言开发POS标记器。这项研究工作的主要贡献是提出了一种条件随机场（CRF）和基于深度学习的方法（CNN和双向长短期记忆）来开发Odia词性标注器。我们使用了一个可公开访问的语料库，数据集使用印度标准局（BIS）标记集进行注释。然而，全球大多数语言都使用带有通用重复性（UD）标记集的数据集。因此，为了保持一致性，Odia数据集应该使用相同的tagset。因此我们构造了一个从BIS标签集到UD标签集的简单映射。我们实验了不同的特征集输入到CRF模型中，观察了构造的特征集的影响。基于深度学习的模型包括Bi-LSTM网络、CNN网络、CRF层、字符序列信息和预训练的词向量。利用卷积神经网络（CNN）和Bi-LSTM网络提取字符序列信息。六种不同的组合的神经序列标签模型的实施，并研究其性能指标。据观察，具有字符序列特征和预训练词向量的Bi-LSTM模型取得了显着的最先进的结果。
2022-07-07 cs.CL
An Encoder-Integrated PhoBERT with Graph Attention for Vietnamese Token-Level Classification
University of Engineering and Technology（工程大学）；Vietnam National University Hanoi（越南国家大学河内分校）
提出 TextGraphFuseGAT 架构，通过结合 PhoBERT 预训练编码器与图注意力网络进行 token 级分类，在三个越南语基准数据集上优于基线模型，有效提升了多领域分类性能。
2025-10-13 cs.CL
VLSP 2021 - ViMRC Challenge: Vietnamese Machine Reading Comprehension
University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）；Denison University（丹尼森大学）
针对现有越南语MRC数据集仅覆盖可回答问题的不足，发布UIT-ViQuAD 2.0基准数据集并举办VLSP 2021越南语MRC挑战赛，公布参赛情况、参赛方法及最高成绩，推动越南语相关NLP研究。
2022-04-04 cs.CL
Part-of-Speech Tagger for Bodo Language using Deep Learning approach
IIT Guwahati（印度理工学院古瓦哈蒂分校）
本文提出BodoBERT语言模型及基于深度学习的波多语词性标注模型，实现了0.8041的F1分数，并比较了阿萨姆语词性标注器。
2024-01-06 cs.AI cs.CL cs.LG
An Empirical Study of Discriminative Sequence Labeling Models for Vietnamese Text Processing
College of Science, Vietnam National University（越南国立大学科学学院）；FPT Technology Research Institute, FPT University（FPT大学FPT技术研究院）；Alt Vietnam；FPT Technology Innovation, FPT Corp.（FPT集团FPT技术创新）
本文提出了两个广泛使用的序列预测模型，条件随机场（CRF）和长短期记忆网络（LSTM），越南语文本处理的两个基本任务，包括词性标注和命名实体识别的实证研究。我们表明，一个强大的下限标签准确性可以通过只依赖于简单的基于单词的功能，最小的手工制作的功能工程，90.65%和86.03%的性能得分的标准测试集上的两个任务分别获得。特别是，我们实证证明了惊人的效率词嵌入在这两个任务中，与两个模型。我们指出，最先进的LSTM模型并不总是优于传统的CRF模型，特别是在中等规模的数据集。最后，我们给出了一些建议和讨论，有效地使用序列标记模型在实际应用中。
2017-08-30 cs.CL
Design and implementation of an open source Greek POS Tagger and Entity Recognizer using spaCy
DataScouting；International Hellenic University（国际希腊大学）
本文提出了一种机器学习的方法，词性标注和命名实体识别的希腊语，侧重于提取的形态特征和分类的令牌到一个小的集合的类命名实体。介绍了所使用的体系结构模型。spaCy平台的希腊语版本被添加到源代码中，这是一个在我们的贡献之前不存在的功能，并用于构建模型。此外，还训练了一个词性标注器，它可以检测标记的形态，并且在仅对词性进行分类时，其性能高于最先进的结果。对于使用spaCy的命名实体识别，构建了一个扩展标准ENAMEX类型（组织、位置、人员）的模型。进行的某些实验表明，在词汇表外的单词需要灵活性，并且存在解决这个问题的努力。最后对评价结果进行了讨论。
2019-12-05 cs.CL cs.IR cs.LG
AISHELL-NER: Named Entity Recognition from Chinese Speech
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
语音中的命名实体识别是口语语言理解中的一个重要任务，其目的是从语音信号中提取语义信息。来自语音的NER通常通过两步流水线进行，该流水线包括（1）使用自动语音识别（ASR）系统处理音频和（2）将NER标记器应用于ASR输出。最近的工作已经表明了端到端（E2 E）方法的能力，从英语和法语的语音，这基本上是实体感知ASR的NER。然而，由于汉语中存在许多同音异义词和多音字，因此，从汉语语音中有效地提取NER是一项更具挑战性的任务。在本文中，我们介绍了一个新的数据集AISEHLL-NER从中国语音的NER。进行了大量的实验，以探索几个国家的最先进的方法的性能。实验结果表明，实体感知的ASR和预训练的NER标记器相结合可以提高性能，可以很容易地应用于现代SLU流水线。该数据集可在github.com/Alibaba-NLP/AISHELL-NER上公开获得。
2022-02-17 cs.AI cs.CL
Non-Standard Vietnamese Word Detection and Normalization for Text-to-Speech
FPT Technology Research Institute, FPT University（FPT大学FPT技术研究院）；VNU University of Engineering and Technology（越南国立大学工程技术大学）
将书面文本转换为口语形式是任何文本到语音（TTS）系统中的一个基本问题。然而，为现实世界的TTS系统构建有效的文本规范化解决方案面临两个主要挑战：（1）非标准词（NSW）的语义歧义，例如，数字、日期、范围、分数、缩写，以及（2）将NSW转换成可发音的音节，诸如URL、电子邮件地址、主题标签和联系人姓名。在本文中，我们提出了一种新的两阶段归一化方法来应对这些挑战。首先，设计了一个基于模型的标签器来检测NSW。然后，根据NSW类型，基于规则的规范器将这些NSW扩展为最终的口头形式。我们使用条件随机场（CRF），BiLSTM-CNN-CRF和BERT-BiGRU-CRF模型在手动注释的数据集上进行了三个NSW检测的实证实验，该数据集包括从越南新闻文章中提取的5819个句子。在第二阶段，我们提出了一个基于前向词典的最大匹配算法来拆分标签，电子邮件，URL和联系人姓名。标记阶段的实验结果表明，BiLSTM-CNN-CRF和CRF模型的平均F1分数均在90.00%以上，BERT-BiGRU-CRF模型的F1分数最高，达到95.00%。总的来说，我们的方法具有较低的句子出错率，CRF为8.15%，BiLSTM-CNN-CRF标签为7.11%，BERT-BiGRU-CRF标签仅为6.67%。
2022-09-07 cs.CL
Machine Learning Approaches for Amharic Parts-of-speech Tagging
Mangalore University（芒格洛尔大学）
词性标注被认为是许多自然语言处理（NLP）应用（如词义消歧、信息检索、信息处理、句法分析、问答和机器翻译）所需的基本但必要的工具之一。当前的阿姆哈拉语POS标签器的性能不如英语和其他欧洲语言的当代POS标签器。这项工作的目的是提高阿姆哈拉语的POS标记性能，这是从来没有超过91%。形态学知识的使用，现有的注释数据的扩展，特征提取，参数调整应用网格搜索和标记算法已被检查，并获得显着的性能差异从以前的作品。我们使用了三个不同的数据集进行POS实验。
2020-01-10 cs.CL cs.IR cs.LG
A High-Quality and Large-Scale Dataset for English-Vietnamese Speech Translation
VinAI Research（VinAI研究院）
在本文中，我们介绍了一个高质量和大规模的基准数据集的英语-越南语语音翻译与508个音频小时，由331 K三元组（翻译后的音频，英语源转录句子，越南语目标字幕句子）。我们还使用强基线进行了实证实验，发现传统的“级联”方法仍然优于现代的“端到端”方法。据我们所知，这是第一次大规模的英越语音翻译研究。我们希望我们的公开数据集和研究可以作为未来英越语音翻译研究和应用的起点。我们的数据集可在https://github.com/VinAIResearch/PhoST上获得
2022-08-08 cs.CL
Stylistic Variation in Social Media Part-of-Speech Tagging
Georgia Institute of Technology（佐治亚理工学院）
社交媒体的特点是大量的文体变化，提出了新的挑战，在线写作的句法分析。然而，这种变化通常与作者属性（如年龄，性别和地理位置）以及更容易获得的社交网络元数据保持一致。在本文中，我们报告了关于词性标记任务中语言与社交网络之间联系的新证据。我们发现，标签出错率与网络结构相关，在网络的某些部分准确度高，而在其他地方准确度较低。因此，标签的准确性取决于从网络的平衡样本中进行训练，而不是从狭窄的子社区中进行训练。我们还描述了我们通过构建专家混合模型来增加风格变化的鲁棒性的尝试，其中每个专家都与社交网络的一个区域相关联。虽然先前的工作发现，类似的方法产生性能改进的情感分析和实体链接，我们无法获得性能改进的词性标记，尽管有强有力的证据表明词性出错率和社会网络结构之间的联系。
2018-04-19 cs.AI cs.CL
A Light Sliding-Window Part-of-Speech Tagger for the Apertium Free/Open-Source Machine Translation Platform
Peking University（北京大学）；Universitat d'Alacant（阿利坎特大学）
本文描述了一个自由/开源的实现轻滑动窗口（LSW）的词性标注器的免费/开源的开源平台的Xiaotium的机器翻译。首先，回顾了标记器的工作机制和训练过程，提出了一种新的语言规则的融合方法。其次，通过实验比较了该标记器在不同的窗口设置、有无隐马尔可夫链风格的“禁止”规则、有无约束语法以及与传统隐马尔可夫链标记器的性能。
2015-09-18 cs.CL
A high quality and phonetic balanced speech corpus for Vietnamese
Thai Nguyen University（太原大学）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；Vietnamese Academy of Science and Technology（越南科学技术研究院）
本文提出了一个高质量的越南语语音语料库，可用于分析越南语的语音特征，并建立语音合成模型。该语料库由12个说话人（6男6女）的5400个干净的言语话语组成。语料库的设计考虑到语音平衡，因此它可以用于语音合成，特别是语音自适应方法。具体地说，所有说话者说出一个共同的数据集包含250个语音平衡的句子。为了增加言语语境的多样性，每个说话者还说出另外200个非共享的、语音平衡的句子。演讲者的年龄范围很广，来自越南北部的不同地区。音频记录在一个隔音的工作室，他们是采样在48千赫，16位PCM，单声道。
2019-04-11 cs.CL
Rule based Part of speech Tagger for Homoeopathy Clinical realm
Babasaheb Bhimrao Ambedkar University（巴巴萨赫布·比姆拉奥·安贝德卡尔大学）
tagger是大多数文本审查系统的强制部分，因为它委托一个语法类（例如，（一）“凡”字，“凡”字，“凡”字。在本文中，我们提出了一个简单的顺势疗法临床语言的词性标注。本文报告了顺势疗法临床语言的预期词性标注。它采用标准模式来评价句子，使用了20085个词的未标记的临床语料库，我们从其中选择了125个句子（2322个标记）。自然语言处理中的标注问题是要找到一种方法，将文本中的每个单词都标注为细致的词性。其基本思想是对临床句子和每个单词应用一组规则，准确性是评估任何POS标注器的主要因素，因此建议的标注器的准确性也被转换。
2011-11-13 cs.CL
ViToSA: Audio-Based Toxic Spans Detection on Vietnamese Speech Utterances
University of Information Technology（信息技术大学）；Vietnam National University Ho Chi Minh City（越南国家大学胡志明市分校）；Faculty of Computer Science（计算机科学学院）；Faculty of Information Science and Engineering（信息科学与工程学院）
本文提出首个越南语语音毒性跨度检测数据集ViToSA，并构建结合ASR与TSD的流程，实验证明微调ASR可显著降低WER且TSD模型优于基线，为语音内容审核确立新基准。
2025-05-31 cs.CL
Cross-Register Projection for Headline Part of Speech Tagging
Bloomberg（彭博有限合伙企业）
词性标注是一项常见的NLP任务。最先进的标记器通常在新闻正文上达到超过97%的标记级准确率，这表明这个问题已经得到了很好的理解。然而，英语新闻标题的语域（headlinese）与长文本的语域有很大的不同，导致词性标注模型在标题上表现不佳。在这项工作中，我们自动标注新闻标题与POS标签投影预测标签从相应的句子中的新闻机构。我们训练一个多领域的POS标签的长形式和标题文本，并表明，联合训练两个寄存器提高了训练，只是一个或天真地连接训练集。我们对来自Google句子压缩语料库的超过5，248个英语新闻标题的新注释语料库进行了评估，并表明我们的模型每个标记的相对错误减少了23%，每个标题减少了19%。此外，我们证明了更好的标题POS标签可以提高基于语法的开放式信息抽取系统的性能。我们提供POSH，即POS标记的标题语料库，以鼓励研究改进的新闻标题NLP模型。
2021-09-15 cs.AI cs.CL
TnT - A Statistical Part-of-Speech Tagger
Trigrams 'n'Tags（TnT）是一种高效的统计词性标注器。与文献中其他地方的说法相反，我们认为基于马尔可夫模型的标记器至少与其他当前方法（包括最大熵框架）一样好。最近的一项比较甚至表明，TnT的性能显着更好的测试语料库。我们描述了TnT的基本模型，用于平滑和处理未知词的技术。此外，我们提出了两个语料库的评价。
2000-03-13 cs.CL
End-to-end Named Entity Recognition from English Speech
MIDAS, IIIT-Delhi（德里英迪拉·甘地信息技术学院MIDAS实验室）；National Institute of Informatics（国立信息学研究所）
文本中的命名实体识别（NER）是一个被广泛研究的问题，通常从文本中提取语义信息。到目前为止，主要是在两步流水线过程中研究从语音的NER，该过程包括首先应用自动语音识别（ASR）系统上的音频样本，然后通过预测的成绩单到NER标注。在这种情况下，错误不会从一个步骤传播到另一个步骤，因为这两个任务都没有以端到端（E2E）的方式进行优化。最近的研究证实，综合办法（例如，E2E ASR）优于顺序的（例如，基于音素的ASR）。在本文中，我们介绍了第一个公开可用的NER标注数据集的英语语音，并提出了一个E2E的方法，它联合优化的ASR和NER标签组件。实验结果表明，所提出的E2E方法优于经典的两步方法。我们还讨论了如何从语音NER可以用来处理的词汇（OOV）的话在ASR系统。
2020-05-22 cs.CL cs.LG cs.SD
Augmenting Part-of-speech Tagging with Syntactic Information for Vietnamese and Chinese
在越南语自然语言处理中，分词和词性标注是下游任务的两个关键的前期工作。实际上，人们在进行分词和词性标注时往往也会考虑短语边界，而不是仅仅从左到右逐词处理。在本文中，我们实现了这一想法，以提高分词和词性标注越南语采用简化的选区分析器。我们的联合分词和词性标注的神经模型具有基于音节的CRF选区解析器的架构。为了降低解析的复杂性，我们用一个表示短语的标签替换所有的组成标签。该模型可以通过其他工具使用预测的词边界和词性标记来增强。由于越南语和汉语有一些相似的语言现象，我们在三个越南基准数据集和六个汉语基准数据集上评估了所提出的模型及其增强版本。我们的实验结果表明，该模型实现了更高的性能比以前的作品为两种语言。
2021-06-16 cs.CL
From Word Segmentation to POS Tagging for Vietnamese
Macquarie University（麦考瑞大学）；NIHR Innovation Observatory, Newcastle University（纽卡斯尔大学NIHR创新观察站）；Deakin University（迪肯大学）
本文提出了一种经验比较越南语词性（POS）标记从未分割的文本的两种策略：（i）管道策略，我们认为一个词分割器的输出作为输入的POS标记，和（ii）联合策略，我们预测一个组合的分割和POS标签为每个音节。我们还比较了基于特征和基于神经网络的模型。在基准越南树库（Nguyen等人，2009），实验结果表明，管道策略比联合策略在未切分文本的词性标注中获得了更好的成绩，并且使用基于特征的模型获得了最高的准确率。
2017-11-14 cs.CL
When silver glitters more than gold: Bootstrapping an Italian part-of-speech tagger for Twitter
University of Groningen（格罗宁根大学）
在Evalita 2016 PoSTWITA共享任务的背景下，我们引导一个最先进的词性标记器来标记意大利语Twitter数据。我们发现，在本地Twitter数据上训练标记器，这些数据中包含少量专门选择的黄金数据和从Facebook上抓取的额外的银标记数据，比使用大量来自混合类型的手动注释数据产生更好的结果。
2016-11-09 cs.CL
ViSpeechFormer: A Phonemic Approach for Vietnamese Automatic Speech Recognition
Faculty of Information Science and Engineering（信息科学与工程学院）；University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh city（胡志明市越南国家大学）
ViSpeechFormer 是首个基于音素的越南语 ASR 框架，通过建模音素表示实现了更强的性能和更好的泛化能力。
2026-02-10 cs.CL
ViMedCSS: A Vietnamese Medical Code-Switching Speech Dataset & Benchmark
College of Engineering and Computer Science（工程与计算机科学学院）；Center for AI Research（人工智能研究中心）；College of Health Sciences（健康科学学院）；University of Technology Sydney（悉尼科技大学）
针对越南语医学术语代码转换问题，构建了34小时语音数据集ViMedCSS，评估多种ASR模型并探索微调策略，发现越南语优化模型与多语言预训练结合效果最佳。
2026-06-23 cs.CL
Vietnamese Automatic Speech Recognition: A Revisit
本文提出了一种新的数据聚合和预处理流程，用于构建高质量的越南语ASR数据集，解决了低资源语言中数据质量和标注不一致的问题。
2026-03-16 cs.CL
PiDA: Phonetically-Informed Data Augmentation for Robust Vietnamese Speech Translation
VinUniversity（Vin大学）；University of Technology Sydney（悉尼技术大学）；Monash University（莫纳什大学）
针对级联语音翻译中ASR错误传播问题，提出基于语音信息的数据增强方法PiDA，通过语音词嵌入生成相似音替换，在FLEURS越南语-英语上提升错误ASR输出翻译质量（BLEU+2.04）。
2026-06-12 cs.CL
Detecting Syntactic Change Using a Neural Part-of-Speech Tagger
Yale University（耶鲁大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们训练了一个历时性的长短期记忆（LSTM）词性标注器，它使用了19世纪、20世纪和21世纪的美国英语大型语料库。我们分析了标记的能力，隐式学习时间结构之间的年，在何种程度上，这种知识可以转移到新的句子。学习年嵌入显示出很强的线性相关性之间的第一主成分和时间。我们表明，时间信息编码的模型可以用来预测小说句子的年组成相对较好。与前馈基线的比较表明，LSTM学习到的时间变化是语法的，而不是纯粹的词汇。因此，我们的研究结果表明，我们的tagger是隐式学习模型的句法变化在美国英语的过程中的19日，20日，和21世纪初。
2019-07-09 cs.CL
PhoWhisper: Automatic Speech Recognition for Vietnamese
VinAI Research（VinAI研究院）
本文提出五个版本的PhoWhisper，通过在844小时多口音越南语数据上微调Whisper，在越南语ASR基准上取得最先进性能并开源。
2024-03-27 cs.CL eess.AS
Hate Speech Detection on Vietnamese Social Media Text using the Bi-GRU-LSTM-CNN Model
University of Information Technology, Vietnam National University Ho Chi Minh City（胡志明市国家大学信息技术大学）
近年来，仇恨语音检测已成为自然语言处理或计算语言学研究的热点之一。在本文中，我们介绍了我们的系统在VLSP共享任务2019中解决这个问题的描述：社交网络上的仇恨语音检测，其中包含20，345个用于训练的人工标记评论/帖子和5，086个用于公开测试。我们在这个任务中实现了一种基于Bi-GRU-LSTM-CNN分类器的深度学习方法。我们在这个任务中的结果是70.576%的F1分数，排名第五的性能在公共测试集。
2019-12-22 cs.CL
Rapid Adaptation of POS Tagging for Domain Specific Uses
University of Delaware（特拉华大学）；Georgetown University Medical Center（乔治城大学医学中心）
词性标注是自然语言分析、信息抽取和问答等自然语言处理的基础。当POS标记器在一个域中训练并应用于显著不同的域时，其性能可能会显着降低。我们提出了一种快速适应新领域的POS标签的方法。我们的技术是无监督的，因为新领域的手动注释语料库是不必要的。我们使用从大量原始文本中收集的后缀信息以及正字法信息来增加词汇覆盖率。我们提出了一个实验中的生物领域，我们的POS标签实现的结果相比，专门训练到这个领域的POS标签。
2014-10-31 cs.CL cs.LG stat.ML
A Large-scale Dataset for Hate Speech Detection on Vietnamese Social Media Texts
University of Information Technology（信息技术大学）；Vietnam National University Ho Chi Minh City（胡志明市越南国家大学）
近年来，越南见证了社交网络用户在Facebook，Youtube，Instagram和Tiktok等不同社交平台上的大规模发展。在社交媒体上，仇恨言论已成为社交网络用户的一个严重问题。为了解决这个问题，我们引入了ViHSD -一个人工注释的数据集，用于自动检测社交网络上的仇恨言论。这个数据集包含超过30，000条评论，数据集中的每条评论都有三个标签之一：清洁，冒犯或仇恨。此外，我们还介绍了数据创建过程中的注释和评估数据集的质量。最后，我们通过深度学习模型和Transformer模型对数据集进行了评估。
2021-07-20 cs.CL
ViHOS: Hate Speech Spans Detection for Vietnamese
University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）
针对其他用户的仇恨和攻击性语言的增加是社交网络平台使用增加的不利副作用之一。这可能会使人类版主难以审查分类系统过滤的标记评论。为了帮助解决这个问题，我们提出了ViHOS（Vietnamese Hate and Offensive Spans）数据集，这是第一个人类注释的语料库，包含11 k条评论上的26 k个跨度。我们还提供了越南语评论中的仇恨和攻击性跨度的定义以及详细的注释指南。此外，我们使用各种最先进的模型进行实验。具体而言，XLM-R $_{Large}$在单跨度检测和所有跨度检测中获得最佳F1分数，而PhoBERT $_{Large}$在多跨度检测中获得最高分数。最后，我们的误差分析表明，在我们的数据中检测特定类型的跨度的困难，为今后的研究。免责声明：本文包含可能被认为是亵渎，冒犯或辱骂的真实评论。
2023-01-26 cs.CL
A Part-of-Speech Tagger for Yiddish
Linguistic Data Consortium（语言数据联盟）；University of Pennsylvania（宾夕法尼亚大学）；University of York（约克大学）；Joliciel Informatique（约利埃尔信息公司）
本文构建并评估意第绪语词性标注器，利用YBC大规模OCR语料训练非上下文化与上下文化嵌入，并在PPCHY上通过10折交叉验证证明其性能提升。
2023-08-18 cs.CL
Part-of-Speech Tagging with Neural Networks
标注了词性信息的文本语料库在语言学研究的许多领域都是有用的。本文提出了一种新的基于神经网络的词性标注方法（Net-Tagger），并将其性能与HMM标注器和基于三元语法的标注器进行了比较。结果表明，网络标记器的性能以及基于三角形的标记器，并优于HMM标记器。
1994-10-24 cmp-lg cs.CL
Hidden Markov Model Based Part of Speech Tagger for Sinhala Language
Virtusa (Pvt.) Ltd（Virtusa（私人）有限公司）
在本文中，我们提出了一个基本的词汇语义的僧伽罗语和隐马尔可夫模型（HMM）为僧伽罗语的词性标注。在任何自然语言处理任务中，词性分析都是一个非常重要的课题，它涉及到对语言的结构、行为和动态的分析，这些知识可以用于计算语言学分析和自动化应用。虽然僧伽罗语是一种形态丰富和黏着的语言，其中单词具有各种语法特征，但标记对于进一步分析语言非常重要。我们的研究是基于统计的方法，其中的标记过程是通过计算的标签序列概率和词的可能性概率从给定的语料库，其中的语言知识是自动提取的注释语料库。目前的标记器可以达到90%以上的准确率为已知的话。
2014-07-10 cs.CL
Phonetic Modeling of Dialectal Variation in Vietnamese Speech
Faculty of Computer Science（计算机科学系）；Faculty of Information Science and Engineering（信息科学与工程系）；University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh city（越南国家大学，胡志明市）
提出一种方言感知的语音框架，通过结构化语音成分和方言特定IPA映射，在词汇和解码层面显式建模越南语方言变体，在UIT-ViMD数据集上以更少参数和无外部预训练达到与最强预训练模型相当的性能。
2026-05-23 cs.CL
LiteMuL: A Lightweight On-Device Sequence Tagger using Multi-task Learning
Samsung R&D Institute Bangalore（三星班加罗尔研发院）
命名实体检测和词性标注是许多自然语言处理应用的关键任务。虽然目前的最先进的方法达到了接近完美的长，正式的，结构化的文本，在部署这些模型的内存受限的设备，如移动电话的障碍。此外，这些模型的性能下降时，他们遇到短，非正式和随意的谈话。为了克服这些困难，我们提出了LiteMuL -一个轻量级的设备上的序列标签，可以有效地处理用户会话使用多任务学习（MTL）的方法。据我们所知，该模型是第一个用于序列标记的设备上MTL神经模型。我们的LiteMuL模型大小约为2.39 MB，在CoNLL 2003数据集上的精度为0.9433（NER），0.9090（POS）。所提出的LiteMuL不仅优于当前最先进的结果，而且还超过了我们提出的设备上任务特定模型的结果，准确率提高了11%，模型大小减少了50%-56%。我们的模型是有竞争力的NER和POS任务的其他MTL方法，而一枝独秀，他们具有较低的内存占用。我们还在定制的用户对话中评估了我们的模型，并观察到了令人印象深刻的结果。
2021-03-29 cs.CL cs.LG
Beyond Phones: Structured Phonemic Modeling for Vietnamese Automatic Speech Recognition
Faculty of Information Science and Engineering（信息科学与工程学院）；Faculty of Computer Science（计算机科学学院）；University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh city（越南国家大学，胡志明市）
针对越南语自动语音识别，提出基于音素级音节结构解码的方法，通过显式建模音节音系组成，在紧凑音素集上生成有效音节结构，显著减小词汇量并在两个基准上超越强基线。
2026-10-06 cs.CL
Annotating the Tweebank Corpus on Named Entity Recognition and Building NLP Models for Social Media Analysis
Harvard Medical School（哈佛医学院）
社交媒体数据，如Twitter消息（“tweets”），由于其简短，嘈杂和口语化的性质，对NLP系统构成了特殊的挑战。诸如命名实体识别（NER）和句法分析之类的任务需要高度领域匹配的训练数据以获得良好的性能。到目前为止，还没有完整的训练语料库用于NER和句法分析（例如，词性标记、依存句法分析）。虽然有一些公开可用的tweet注释NLP数据集，但它们只针对个别任务而设计。在这项研究中，我们的目标是创建Tweebank-NER，一个英语NER语料库的基础上Tweebank V2（TB 2），训练国家的最先进的（SOTA）推文NLP模型，并发布一个NLP管道称为Twitter-Stanza。我们使用Amazon Mechanical Turk为TB 2中的命名实体添加注释，并衡量注释的质量。我们在TB 2上对Stanza管道进行训练，并与其他NLP框架进行比较（例如，FLAIR，spaCy）和基于transformer的模型。Stanza tokenizer和lemmatizer在TB 2上实现了SOTA性能，而Stanza NER tagger，词性（POS）tagger和依赖解析器实现了与非transformer模型竞争的性能。基于transformer的模型在Tweebank-NER中建立了一个强大的基线，并在TB 2上的POS标注和依存句法分析中实现了新的SOTA性能。我们发布了…
2022-05-10 cs.CL
Comparison Between Traditional Machine Learning Models And Neural Network Models For Vietnamese Hate Speech Detection
University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）
随着Facebook、Twitter等社交网络的迅速发展，社交网络语言中的恶意言语检测成为近年来的研究热点之一。在越南，攻击和骚扰的威胁对在线用户造成了不良影响。关于社交网络上的仇恨语音检测的VLSP共享任务显示了许多用于检测任何评论是否干净的方法。但这一问题仍需进一步研究。因此，我们在一个关于用户在越南社交网络上的评论的大数据集上比较了传统机器学习和深度学习，并通过比较它们在F1分数上的准确性来找出每种模型的优点和缺点，然后我们分别选择了传统机器学习模型和深度神经模型中准确率最高的两个模型。接下来，我们通过参考混淆矩阵并考虑每个模型的优点和缺点来比较这两个能够预测正确标签的模型。最后，从比较的结果，我们提出了我们的集成方法，集中了传统方法和深度学习方法的能力。
2020-09-28 cs.CL
Part of Speech Tagging in Thai Language Using Support Vector Machine
弹性输入神经标记器和混合标记器，结合神经网络和Brill的错误驱动学习，已经被提出用于使用尽可能少的训练数据来构造实用的标记器。当一个小的泰国语料库用于训练，这些标记器的标记准确率分别为94.4%和95.5%（仅占歧义词的词性）。在这项研究中，为了构建更准确的标签，我们开发了新的标记方法，使用三种机器学习方法：决策表，最大熵，和支持向量机方法。然后，我们使用这些方法进行标记实验。我们的结果表明，支持向量机的方法具有最好的精度（96.1%），它是能够提高在泰语标注的准确性。最后，我们从理论上对这些方法进行了检验，并讨论了如何实现这些改进。
2001-12-05 cs.CL
ViTHSD: Exploiting Hatred by Targets for Hate Speech Detection on Vietnamese Social Media Texts
University of Information Technology（信息科技大学）；Vietnam National University（越南国立大学）
本文提出越南语目标导向仇恨言论检测数据集ViTHSD（含1万条评论、5个目标、三级标注），并构建结合Bi-GRU-LSTM-CNN与预训练语言模型的基线系统，同时给出将其集成到在线流式系统的应用方案。
2025-02-08 cs.CL
A Modular Part-of-Speech Tagger for Scottish Gaelic using spaCy
School of Computing, Engineering, & the Built Environment, Edinburgh Napier University（爱丁堡龙比亚大学计算、工程与建成环境学院）
本文基于spaCy框架，用苏格兰盖尔语标注参考语料库训练出两个形态标注模型，在低资源形态复杂的盖尔语上取得与现有模型相当的准确率，证明现成NLP流水线可用于该类语言处理。
2026-08-06 cs.CL
SpeedRead: A Fast Named Entity Recognition Pipeline
Stony Brook University（石溪大学）
在线内容分析采用算法方法来识别非结构化文本中的实体。机器学习和知识库方法都是当代命名实体提取系统的基础。然而，在网络规模上部署这些方法的进展受到了NLP在大量文本语料库上的计算成本的阻碍。我们提出了SpeedRead（SR），一个命名实体识别管道，运行速度至少比斯坦福大学NLP管道快10倍。该管道包括一个高性能的Penn Treebank兼容的标记器，接近最先进的词性（POS）标记器和基于知识的命名实体识别器。
2013-01-14 cs.CL
Part of Speech Tagging of Marathi Text Using Trigram Method
Banasthali University（班纳斯塔利大学）
在本文中，我们提出了一个马拉地语部分的语音标记。它是一种形态丰富的语言。它是由马哈拉施特拉邦的土著人说的。用于开发标记器的一般方法是使用三元组方法进行统计。trigram的主要概念是基于前两个标签的给定信息，通过计算概率来确定哪个是标签的最佳序列，来探索令牌的最可能的POS。在本文中，我们展示了tagger的发展。此外，我们还进行了评估。
2013-07-15 cs.CL
UzbekTagger: The rule-based POS tagger for Uzbek language
Urgench State University（乌尔根奇国立大学）；Universidade da Coruña（拉科鲁尼亚大学）
本研究提出了一个词性（POS）注释数据集和标记工具的低资源乌兹别克语。该数据集包括12个标签，用于开发基于规则的POS标记工具。为了保证语料库的代表性，在标注过程中使用的语料库文本必须在20个不同的领域中保持平衡。乌兹别克语是一种黏着语，所以乌兹别克语句子中的大部分单词都是通过添加后缀形成的。它的这种性质使得POS标记任务很难找到单词的词干和它们所属的正确词性。这项研究提出的方法是词干的词缀/后缀剥离的方法，包括数据库的词干形式的乌兹别克语。在注释数据集上测试了标记工具，在识别和标记乌兹别克语文本中的词性方面显示出很高的准确性。这个新提出的数据集和标记工具可用于各种自然语言处理任务，如语言建模，机器翻译和文本到语音合成。所呈现的数据集是第一个公开提供给乌兹别克语的数据集，创建的POS标记工具也可以用作其他密切相关的突厥语的基础。
2023-03-01 cs.CL
Some Advances in Transformation-Based Part of Speech Tagging
最近的研究在可训练的词性标注器探索了随机标注。虽然这些标签获得高准确性，语言信息是间接捕获的，通常在成千上万的词汇和上下文概率。在[Brill 92]中，描述了一种可训练的基于规则的标记器，其获得了与随机标记器相当的性能，但在少量简单的非随机规则中捕获了相关的语言信息。在本文中，我们描述了一些扩展到这个基于规则的标签。首先，我们描述了一种方法，用于表示词汇关系的标记，不被随机标记。接下来，我们展示了一种基于规则的方法来标记未知词。最后，我们展示了如何标签可以扩展到一个k-最好的标签，多个标签可以分配给单词在某些情况下的不确定性。
1994-06-02 cmp-lg cs.CL
Multi-Dialect Vietnamese: Task, Dataset, Baseline Models and Challenges
University of Information Technology（信息科技大学）；Vietnam National University（越南国立大学）
针对现有越南语语音数据集缺乏63种省级方言细粒度分类的问题，该研究构建了含102.56小时音频的ViMD数据集，并通过微调SOTA预训练模型开展方言识别与语音识别实验，揭示了地理因素的影响及现有方法的局限。
2024-10-04 cs.CL
A Morphology-System and Part-of-Speech Tagger for German
本文提出了一个集成的德语词法和统计词性标注工具，其目的是使一些行之有效的方法广泛使用。该软件是非常用户友好的，运行在任何PC上，可以作为一个完整的包（包括词典和文档）从万维网下载。与其他标注系统的性能相比，标注器产生类似的结果。
1996-10-30 cmp-lg cs.CL
ViHateT5: Enhancing Hate Speech Detection in Vietnamese With A Unified Text-to-Text Transformer Model
Faculty of Information Science and Engineering, University of Information Technology（信息科学与工程学院，信息科技大学）；Vietnam National University, Ho Chi Minh City（越南国家大学胡志明市分校）
本文提出基于T5架构并在大规模特定领域数据集VOZ-HSD上预训练的ViHateT5模型，通过统一的文本到文本架构处理多任务，在越南语仇恨言论检测基准上达到最先进性能。
2024-06-04 cs.CL
