Named entity recognition for Serbian legal documents: Design, methodology and dataset development
The Institute for Artificial Intelligence Research and Development of Serbia(塞尔维亚人工智能研究与发展研究所);Faculty of Technical Sciences, University of Novi Sad(诺威萨大学技术科学学院)
本文针对塞尔维亚语法律文档 NER,基于 BERT 构建并微调模型,开发公开法院裁决标注数据集,交叉验证平均 $F_1$ 达 0.96,并验证了系统鲁棒性。
2025-02-14 cs.CL
A Probabilistic Translation Method for Dictionary-based Cross-lingual Information Retrieval in Agglutinative Languages
University of Tehran(德黑兰大学)
双语词典中的翻译歧义、词汇表外的词和漏译等问题使得基于词典的跨语言信息检索(CLIR)成为一项具有挑战性的任务。此外,在没有可靠词干的黏着语言中,双语词典中缺少各种词汇构成会降低CLIR的性能。本文的目的是引入一个概率翻译模型来解决歧义问题,并提供最可能的形式的字典候选。我们提出了最小编辑支持候选(MESC)方法,利用单语语料库和双语词典翻译用户的母语查询文档的语言。我们的实验表明,该方法优于最先进的基于字典的英语-波斯语CLIR。
2014-11-05 cs.CL cs.IR
Generation, Implementation and Appraisal of an N-gram based Stemming Algorithm
一个独立于语言的词干分析器一直在寻找。单N-gram标记化技术工作得很好,但是,它经常生成以中间字符开始的词干,而不是初始字符。我们提出了一种新的技术,采取的概念,N元词干一步,并比较我们的方法与一个既定的算法在该领域,波特的Stemmer。结果表明,我们的N-gram词干不逊色于波特的语言词干。
2014-01-16 cs.CL cs.IR
CBAS: context based arabic stemmer
College of Computing and Information Technology, AAST(阿拉伯科学技术学院计算与信息技术学院)
阿拉伯语的词法包含了许多有价值的特征,如词根。阿拉伯词根被用于许多任务;提取词根的过程被称为词干提取。词干是大多数自然语言处理任务的重要组成部分,特别是对于阿拉伯语等衍生语言。然而,词干提取面临着歧义的问题,即从同一个词中可以提取两个或多个词根。另一方面,分布式语义是一个强大的共现模型。它根据上下文捕捉单词的含义。本文利用平滑逐点互信息(SPMI)构造了一个分布式语义模型,以研究其在词干分析任务中的有效性。它的准确率为81.5%,比其他词干分析器至少提高了9.4%。
2015-10-28 cs.CL cs.IR
A Lightweight Stemmer for Gujarati
Banasthali University(巴纳斯塔利大学)
古吉拉特语是一种资源贫乏的语言,几乎没有可用的语言处理工具。在本文中,我们展示了一个基于规则的古吉拉特语词干分析器的实现。我们已经展示了古吉拉特语词干规则的创造和丰富的形态学。我们还通过与人类专家进行验证来评估我们的结果。
2012-11-11 cs.CL
Improving the quality of Gujarati-Hindi Machine Translation through part-of-speech tagging and stemmer-assisted transliteration
Cummins College of Engineering for Women(卡明斯女子工程学院);Banasthali University(班纳斯塔利大学)
印度语言的机器翻译是一个新兴的研究领域。音译就是我们在设计翻译系统时设计的一个这样的模块。音译是指将源语言文本映射为目标语言。简单的映射降低了整个翻译系统的效率。我们建议使用词干和词性标注的音译。如果我们使用词性标记和词干辅助音译,翻译的有效性可以得到提高。我们已经表明,古吉拉特语的大部分内容在被翻译为印地语的过程中得到音译。
2013-07-12 cs.CL
New Textual Corpora for Serbian Language Modeling
University of Belgrade(贝尔格莱德大学);Faculty of Mining and Geology(采矿与地质学院);Faculty of Philology(文学院);Faculty of Mining(采矿学院)
本文介绍了可公开获取的塞尔维亚语及塞尔维亚-克罗地亚语文本语料库,新增三类语料库,并采用基于频率的文体计量方法评估新旧语料库的独特性,为相关语言建模提供资源支持。
2024-05-15 cs.CL
An Accuracy-Enhanced Stemming Algorithm for Arabic Information Retrieval
University of Setif1(塞提夫1大学);Department of Computer Science(计算机科学系)
本文提出了一种基于自然语言处理的阿拉伯语文本索引和检索方法。我们的方法利用模板的概念,在词干和替换的话,他们的茎。该技术已被证明是有效的,因为它返回了显着的相关检索结果,减少沉默在检索阶段。本文通过一系列的实验来测试所提出的算法ESAIR(Enhanced Stemmer for Arabic信息检索)的性能。结果表明,该算法提取的准确率高达96%,因此,提高了信息检索的确切根。
2019-11-15 cs.CL
From Data Scarcity to Data Care: Reimagining Language Technologies for Serbian and other Low-Resource Languages
Ainthropology Lab(Ainthropology实验室)
本研究提出Data Care框架,旨在通过CARE原则重构低资源语言的语言技术,以解决数据偏见和文化不平等问题。
2025-12-11 cs.CL cs.CY
Novi jezički modeli za srpski jezik
Универзитет у Београду(贝尔格莱德大学)
本文回顾塞尔维亚语 Transformer 语言模型发展,提出多个新文本生成与向量化模型,并在四个 NLP 任务上比较十个模型,分析模型与训练集规模对性能的影响及最优训练设置。
2024-02-23 cs.CL
Large Language Models for Stemming: Promises, Pitfalls and Failures
The University of Queensland(昆士兰大学);CSIRO(联邦科学与工业研究组织)
本文研究了利用大型语言模型(LLMs)进行文本词干提取,提出了词汇表、上下文及基于实体的上下文词干提取三种方法,实验表明基于实体的方法在特定条件下优于传统Porter词干提取器。
2024-02-19 cs.CL cs.IR
How Far Do Auto-Interpretation Labels Generalize: A Controlled Study Across Languages, Scripts, and Rewordings
Columbia University(哥伦比亚大学)
通过塞尔维亚双文字系统控制实验,研究稀疏自编码器特征的自然语言标签是否真正泛化到不同语言和文字,发现标签在语义内容匹配上存在显著偏差,且随网络深度增加而加剧。
2026-10-08 cs.CL
One Language, Two Scripts: Probing Script-Invariance in LLM Concept Representations
本研究通过塞尔维亚双文测试,发现SAE特征在不同书写系统下仍保持语义一致性,表明模型能捕捉超越表面分词的抽象语义。
2026-03-09 cs.CL
Creating a contemporary corpus of similes in Serbian by using natural language processing
University of Manchester(曼彻斯特大学)
明喻是一种修辞手法,通过使用连接词来比较两个事物,但比较并不意味着字面上的意思。它们经常用于日常交流,但它们也是语言文化遗产的一部分。在本文中,我们提出了一种方法,半自动收集的比喻从万维网上使用文本挖掘和机器学习技术。我们从互联网上收集了442个明喻,并将它们添加到Vuk Stefanovic Karadzic收集的包含333个明喻的现有语料库中,从而扩展了现有语料库。我们还将众包引入到修辞格的收集中,帮助我们建立了包含787个独特明喻的语料库。
2018-11-22 cs.AI cs.CL cs.CY
As Cool as a Cucumber: Towards a Corpus of Contemporary Similes in Serbian
University of Manchester(曼彻斯特大学)
明喻是一种自然语言的表达方式,用来比较不可能的事情,而不是从字面上进行比较。它们经常用于日常交流,是文化遗产的重要组成部分。拥有一个最新的明喻语料库是具有挑战性的,因为它们不断被创造和/或适应当代。在本文中,我们提出了一种方法,半自动收集明喻从万维网上使用文本挖掘技术。我们通过收集446个额外的表达来扩展现有的传统明喻语料库(包含333个明喻)。我们还将探讨如何利用众包来提取和策划新的明喻。
2016-05-20 cs.AI cs.CL
ParlaSpeech 3.0: Richly Annotated Spoken Parliamentary Corpora of Croatian, Czech, Polish, and Serbian
Jožef Stefan Institute(乔泽夫·斯塔芬研究所);Faculty of Computer and Information Science(计算机与信息科学系);Institute of Contemporary History(现代历史研究所)
ParlaSpeech 3.0通过自动标注技术为四种斯拉夫语言的议会语料库添加了多种注释层,增强了文本和语音模态的标注信息,提升了跨学科研究的实用性。
2026-04-15 cs.CL
Stemming -- The Evolution and Current State with a Focus on Bangla
Toronto Metropolitan University(多伦多都会大学);State University of New York, Old Westbury(纽约州立大学老韦斯特伯里分校)
本文系统综述了词干提取方法的演变与现状,聚焦孟加拉语这一低资源、高屈折语言,指出现有研究存在空白、实现稀缺和评估指标不足等问题,并为未来孟加拉语词干提取器的开发提出方向。
2025-08-21 cs.CL cs.IR
Improving Customer Service with Automatic Topic Detection in User Emails
The Institute for Artificial Intelligence Research and Development of Serbia(塞尔维亚人工智能研发研究所)
本研究提出了一种基于BERTopic的自动化邮件主题检测系统,用于提升客户服务效率,实现了每封邮件0.041秒的快速准确分类,F1分数达0.96。
2025-06-06 cs.AI cs.CL cs.LG
CLASSLA-web: Comparable Web Corpora of South Slavic Languages Enriched with Linguistic and Genre Annotation
Jožef Stefan Institute(约热夫·施特凡研究所);University of Ljubljana(卢布尔雅那大学);Institute of Contemporary History(当代史研究所)
本文构建了覆盖七种南斯拉夫官方语言的可比网络语料库,采用统一爬取与CLASSLA-Stanza标注及X-GENRE体裁分类,发现体裁分布与地区经济水平相关。
2024-03-26 cs.CL
Translation from the Information Bottleneck Perspective: an Efficiency Analysis of Spatial Prepositions in Bitexts
INSA Lyon(里昂国立应用科学学院);CNRS(法国国家科学研究中心);Lyon 1 Université(里昂第一大学);LIRIS, UMR5205(LIRIS实验室,UMR5205)
本文从信息瓶颈框架出发,分析位文本中空间介词的翻译效率,通过低秩投影模型预测相似性判断,发现实际翻译更接近信息瓶颈最优前沿,揭示了跨语言语义系统的认知效率压力。
2026-04-05 cs.CL