Fuzzy Modeling and Natural Language Processing for Panini's Sanskrit Grammar
印度语在世界自然语言中有着悠久的历史。帕尼尼是第一个在五世纪用大约4000条规则定义梵语语法的人。这些规则包含不确定性信息。用计算机处理具有不确定信息的梵语是不可能的。本文提出用模糊逻辑和模糊推理来处理梵语文法推理中的不确定性信息。本文还讨论了梵文的处理。
2010-06-14 cs.CL
Language Lexicons for Hindi-English Multilingual Text Processing
Jamia Millia Islamia（贾米亚·米利亚伊斯兰大学）
文本文档中的语言识别是根据文档内容自动检测文档中包含的语言的过程。目前的语言识别技术假设文档包含固定语言集合中的一种语言的文本，然而，当处理包括多于一种可能语言的内容的多语言文档时，这种假设是不正确的。由于没有大型标准语料库的印地语-英语混合语言的语言处理任务，我们提出了语言词典，一种新的词汇数据库，支持多种语言处理任务。这些词汇是通过在音译印地语和英语词汇上学习分类器建立的。所设计的词汇比其主要的收集来源具有更丰富的数量特征，这是使用可视化技术揭示的。
2021-06-29 cs.CL
Advancing NLP with Cognitive Language Processing Signals
ETH Zurich（苏黎世联邦理工学院）；University of Copenhagen（哥本哈根大学）；University of Zurich（苏黎世大学）
当我们阅读时，我们的大脑处理语言并生成认知处理数据，如凝视模式和大脑活动。这些信号可以在读取时记录。认知语言处理数据，如眼动追踪功能，已经显示出对单个NLP任务的改进。我们分析使用这些人类特征是否可以在任务和数据源中显示出一致的改进。我们提出了一个广泛的调查的好处和局限性使用认知处理数据的NLP。具体来说，我们使用凝视和EEG特征来增强命名实体识别、关系分类和情感分析的模型。这些方法的性能明显优于基线，并显示了将人类语言处理数据用于NLP的潜在和当前局限性。
2019-04-04 cs.CL
A perspective on the advancement of natural language processing tasks via topological analysis of complex networks
University of São Paulo（圣保罗大学）
对Cong和Liu的"Approaching human language with complex networks"的评论（Physics of Life Reviews，Volume 11，Issue 4，December 2014，Pages 598 - 618）。
2014-12-03 cs.CL
Deep Learning Based Natural Language Processing for End to End Speech Translation
Vivekanand Education Society's Institute of Technology（维韦卡南德教育协会理工学院）
深度学习方法采用多个处理层来学习数据的分层表示。它们已经被部署在大量的应用程序中，并产生了最先进的结果。近年来，随着计算机处理能力的增长，能够进行高维张量计算，自然语言处理（NLP）应用在效率和准确性方面得到了显著的提高。在本文中，我们将研究各种信号处理技术，然后将其应用于使用深度递归神经网络生成语音到文本系统。
2018-08-09 cs.CL
Problems and Countermeasures in Natural Language Processing Evaluation
Peking University（北京大学）
自然语言处理中的评价指导和促进了模型和方法的研究。近年来，新的评价数据集和评价任务不断提出。与此同时，考试测评暴露出的一系列问题也制约了自然语言处理技术的进步。本文从自然语言评价的概念、组成、发展和意义入手，对主流自然语言评价的任务和特点进行了分类和总结，进而总结了自然语言处理评价存在的问题及其原因。最后，本文参照人类语言能力评价标准，提出了类人机器语言能力评价的概念，并从信度、难度和效度三个方面提出了类人机器语言能力评价的一系列基本原则和实施思路。
2021-04-20 cs.CL
RELATE: A Modern Processing Platform for Romanian Language
Research Institute for Artificial Intelligence "Mihai Drăgănescu", Romanian Academy（罗马尼亚科学院“米哈伊·德勒格内斯库”人工智能研究所）
本研究介绍了专门面向罗马尼亚语的RELATE自然语言处理平台的设计演进，说明其从文本处理扩展到集成音频处理的双模态升级，结合实际项目场景验证了该平台成熟先进的语料处理能力。
2024-10-29 cs.CL
Using the DIFF Command for Natural Language Processing
Diff是一个软件程序，用于检测两个数据集之间的差异，在自然语言处理中很有用。本文给出了几个应用差异的例子。它们包括两个不同数据集之间的差异检测，重写规则的提取，两个不同数据集的合并，以及两个不同数据集的最佳匹配。由于diff随任何标准UNIX系统一起提供，因此它随时可用且非常易于使用。我们的研究表明diff是研究自然语言处理的一个实用工具。
2002-08-13 cs.CL
Ad Text Classification with Transformer-Based Natural Language Processing Methods
AdresGezgini A.Ş.（AdresGezgini股份公司）；Garanti BBVA Teknoloji（担保BBVA科技公司）
在这项研究中，提出了一种基于自然语言处理（NLP）的方法，用于在线广告平台上创建的广告文本的行业自动分类。我们的数据集由来自12个不同行业的约21，000个标记广告文本组成。在这项研究中，双向编码器表示从Transformers（BERT）模型，这是一个基于transformer的语言模型，最近使用的领域，如文本分类在自然语言处理文献中，被使用。使用预训练的BERT模型的土耳其语的分类效率得到详细的。
2021-06-23 cs.CL
"I'm sorry Dave, I'm afraid I can't do that": Linguistics, Statistics, and Natural Language Processing circa 2001
对自然语言处理历史的简要概述，重点是数据驱动的方法。主题包括“歧义和语言分析”，“Firth things first”，“A 'C' change”和“The Questicists Strike Back”。
2003-04-21 cs.CL
A Survey of Active Learning for Natural Language Processing
Carnegie Mellon University（卡内基梅隆大学）
本文综述了主动学习在自然语言处理中的应用。除了细粒度分类的查询策略，我们还研究了其他几个重要方面的应用AL自然语言处理问题。其中包括用于结构化预测任务的AL、注释成本、模型学习（特别是使用深度神经模型）以及启动和停止AL。最后，我们以相关主题和未来方向的讨论结束。
2023-02-03 cs.CL
Towards the Study of Morphological Processing of the Tangkhul Language
Indian Institute of Information Technology Manipur（印度信息技术学院曼尼普尔分校）
对唐古尔语的自然语言处理没有或很少有研究。目前的工作是一个卑微的开始形态处理这种语言使用无监督的方法。我们使用一个小型语料库，从不同来源的教科书，短篇小说和其他主题的文章收集。实验结果表明，使用词素的词素识别任务在使用小语料的情况下仍能给出合理而有趣的结果。
2020-06-29 cs.CL
Resources for Turkish Natural Language Processing: A critical survey
University of Tübingen（蒂宾根大学）；Ghent University（根特大学）；University of Stuttgart（斯图加特大学）
本文对土耳其语语料库和词汇资源进行了全面的调查。我们审查了广泛的资源，重点是那些公开可用的。除了提供有关可用语言资源的信息外，我们还提出了一系列建议，并确定了在土耳其语言学和自然语言处理中进行研究和建立应用程序的可用数据中的差距。
2023-02-25 cs.CL
Enabling Quantum Natural Language Processing for Hindi Language
IIIT Dharwad（达拉瓦德印度信息技术学院）
本文首次将量子自然语言处理（QNLP）方法扩展到印地语，利用预群表示、DisCoCat框架和IQP风格拟设构建参数化量子电路，以训练语法和主题感知的印地语句子分类器。
2026-10-09 cs.CL
Reasoning about Procedures with Natural Language Processing: A Tutorial
University of Pennsylvania（宾夕法尼亚大学）
本教程提供了一个全面而深入的研究过程，主要是在自然语言处理。程序是一系列旨在实现某个目标的步骤。理解自然语言的过程有着悠久的历史，最近的突破是由于技术的进步。首先，我们讨论了既定的方法来收集程序，通过人工注释或从网络资源中提取。然后，我们研究了不同的角度，从哪些程序可以推理，以及如何代表他们。最后，我们列举了程序知识可以应用于现实世界的场景。
2022-05-16 cs.CL
The Role of Explanatory Value in Natural Language Processing
Utrecht University（乌得勒支大学）
科学的一个关键目标是解释，然而解释语言现象的想法在主流的自然语言处理（NLP）和人工智能的许多其他领域中已经退居二线。我认为，解释语言行为应该是NLP的主要目标，这与使NLP模型可解释是不一样的。为了说明这些想法，一些最近的人类语言生产模型进行了比较。最后，我问，如果我们的社区认真对待解释价值，同时注意一些可能的陷阱，这对NLP研究和机构政策意味着什么。
2022-09-13 cs.CL
EriBERTa: A Bilingual Pre-Trained Language Model for Clinical Natural Language Processing
HiTZ Basque Center for Language Technology（HiTZ巴斯克语言技术中心）；University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））
针对西班牙语临床领域专用语言模型匮乏的问题，本文提出在大规模医疗临床语料上预训练的双语模型EriBERTa，其临床任务表现优于现有西语模型，且跨语言迁移能力可缓解西语临床数据不足的困境。
2023-06-12 cs.CL
Natural Language Processing: State of The Art, Current Trends and Challenges
Manav Rachna International University（马纳夫·拉奇纳国际大学）；Accendere Knowledge Management Services Pvt. Ltd.（Accendere知识管理服务私人有限公司）
自然语言处理（NLP）近年来因其对人类语言的计算机表示和分析而受到广泛关注。它已经在机器翻译、垃圾邮件检测、信息抽取、摘要、医学、问答等领域得到了广泛的应用。本文通过讨论自然语言处理的不同层次和自然语言生成（NLG）的组成部分，将NLP分为四个阶段，介绍了NLP的各种应用以及当前的趋势和挑战。
2017-08-17 cs.CL
New Approaches for Natural Language Understanding based on the Idea that Natural Language encodes both Information and its Processing Procedures
我们必须认识到，自然语言是一种信息编码方式，它不仅对信息进行编码，而且对信息如何处理的过程进行编码。理解自然语言，就像构思和设计计算机语言一样，首先要把信息（或数据）和信息（或数据）的处理过程分开。在自然语言中，有些数据处理过程直接编码为结构块和指针块（本文将词汇块重新划分为数据块、结构块和指针块）;有些数据处理过程隐含在句子结构中;有些处理过程的请求用信息块表示，由信息接收者处理。对于数据部分，讨论了属性信息的分类编码体系和信息组织结构（包括信息集的组成结构和信息集之间的层次结构）。在第二节中，对第二节中阐述的理论部分进行了实例验证，证明本文的研究达到了使机器能够理解对话中所传达信息的目的。第四部分总结了“理解”的基本条件，对“理解”是什么以及如何理解进行了反思。本文的研究为自然语言理解提供了实践、理论依据和研究方法。在人工智能（AI）领域，它也可以应用于大规模、多类型的信息处理。
2021-01-12 cs.CL
Natural Language Processing in Ethiopian Languages: Current State, Challenges, and Opportunities
Bahir Dar University（巴赫达尔大学）；Universität Hamburg（汉堡大学）；Wuhan University of Technology（武汉理工大学）；Instituto Politécnico Nacional（国立理工学院）；Wollo University（沃洛大学）；Saarland University（萨尔大学）
这项调查深入研究了四种埃塞俄比亚语言的自然语言处理（NLP）的现状：阿姆哈拉语，Afaan Oromo，Tigrinya和Wolaytta。通过本文，我们确定了埃塞俄比亚自然语言处理研究的主要挑战和机遇。此外，我们在GitHub上提供了一个集中式存储库，其中包含这些语言中各种NLP任务的公开资源。这个知识库可以定期更新其他研究人员的贡献。我们的目标是确定研究差距，并将信息传播给对埃塞俄比亚语言感兴趣的NLP研究人员，并鼓励该领域的未来研究。
2023-03-25 cs.CL
Field-testing items using artificial intelligence: Natural language processing with transformers
Smarter Balanced（智能平衡组织）
本研究通过让RoBERTa模型的5000个变体完成29道多选题的英语读写考试，测试了项目的心理测量学属性，发现其与人类考生数据具有一定一致性。
2023-10-18 cs.CL
Morphological Processing of Low-Resource Languages: Where We Are and What's Next
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of British Columbia（不列颠哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
自动形态处理可以帮助下游的自然语言处理应用，特别是对于低资源语言，并帮助濒危语言的语言文档工作。长期以来，多语言的计算形态学领域正越来越多地转向适合于具有最少或没有注释资源的语言的方法。首先，我们调查最近的发展，计算形态学的重点是低资源的语言。其次，我们认为，该领域已经准备好应对逻辑上的下一个挑战：仅从原始文本中理解语言的形态。我们进行了实证研究的一个真正的无监督版本的范式完成任务，并表明，虽然现有的国家的最先进的模型桥接的两个新提出的模型，我们设计的合理执行，仍然有很大的改进空间。风险很高：解决这个任务将增加形态资源的语言覆盖率。
2022-03-16 cs.CL
A Survey in Mathematical Language Processing
University of Manchester（曼彻斯特大学）；Idiap Research Institute（伊迪亚普研究所）
本文综述非形式化数学语言处理在五个子领域的近年进展，总结成功方法与局限，以服务定量科学和数学发现的自动化。
2024-04-08 cs.CL
Spoiler Alert: Using Natural Language Processing to Detect Spoilers in Book Reviews
University of Toronto（多伦多大学）
本文提出了一种NLP（自然语言处理）方法来检测书评中的剧透，使用加州大学圣地亚哥分校（UCSD）Goodreads Spoiler数据集。我们探索了使用LSTM、BERT和RoBERTa语言模型来在广告级别执行剧透检测。这与执行相同任务的UCSD论文形成对比，但在其数据准备中使用手工制作的功能。尽管避免了使用手工制作的功能，但我们的LSTM模型的结果仍然能够略微超过UCSD团队在扰流板检测方面的表现。
2021-02-07 cs.CL
A Survey of the Usages of Deep Learning in Natural Language Processing
University of Colorado at Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
在过去的几年里，自然语言处理领域已经被深度学习模型的爆炸式使用所推动。本调查简要介绍了该领域，并快速概述了深度学习架构和方法。然后，它筛选了过多的最近的研究，并总结了大量的相关贡献。分析的研究领域包括几个核心的语言处理问题，除了一些计算语言学的应用。然后提供了一个讨论的当前状态的最新技术，以及在该领域的未来研究的建议。
2019-12-21 cs.CL
Stanza: A Python Natural Language Processing Toolkit for Many Human Languages
Stanford University（斯坦福大学）
我们介绍Stanza，一个开源的Python自然语言处理工具包，支持66种人类语言。与现有的广泛使用的工具包相比，Stanza具有用于文本分析的语言无关的完全神经管道，包括标记化，多词标记扩展，词形化，词性和形态特征标记，依存句法分析和命名实体识别。我们已经在总共112个数据集上训练了Stanza，包括Universal Advertisements树库和其他多语言语料库，并表明相同的神经架构可以很好地推广，并在所有测试语言上实现了有竞争力的性能。此外，Stanza还包括一个广泛使用的Java Stanford CoreNLP软件的原生Python接口，该接口进一步扩展了其功能，以涵盖其他任务，如共指消解和关系抽取。可在https://stanfordnlp.github.io/stanza上获得66种语言的源代码、文档和预训练模型。
2020-04-23 cs.CL
Recent Trends in Deep Learning Based Natural Language Processing
Beijing Institute of Technology（北京理工大学）；National University of Singapore（新加坡国立大学）；Temasek Laboratories（淡马锡实验室）；Nanyang Technological University（南洋理工大学）
深度学习方法采用多个处理层来学习数据的分层表示，并在许多领域产生了最先进的结果。近年来，在自然语言处理（NLP）的背景下，各种模型设计和方法已经蓬勃发展。在本文中，我们回顾了许多NLP任务中使用的重要深度学习相关模型和方法，并提供了它们的演变过程。本文还对各种模型进行了总结、比较和对比，对深度学习在自然语言处理中的过去、现在和未来提出了详细的认识。
2018-11-25 cs.CL
HULK: An Energy Efficiency Benchmark Platform for Responsible Natural Language Processing
University of California Santa Barbara（加利福尼亚大学圣巴巴拉分校）
计算密集型的预训练模型已经在许多自然语言处理基准测试中处于领先地位，例如GLUE。然而，模型训练和推理过程中的能量效率成为关键瓶颈。我们介绍HULK，一个多任务能效基准测试平台，用于负责任的自然语言处理。使用HULK，我们从时间和成本的角度比较了预训练模型的能效。提供了基准测试结果，以供进一步分析。不同的预训练模型的微调效率在不同的任务中可能会有很大的差异，更少的参数数量并不一定意味着更好的效率。我们分析了这种现象，并展示了比较预训练模型的多任务效率的方法。我们的平台可以在https://sites.engineering.ucsb.edu/~xiyou/hulk/上找到。
2020-02-14 cs.CL
StringLLM: Understanding the String Processing Capability of Large Language Models
Duke University（杜克大学）；Li Auto（理想汽车）；William & Mary（威廉玛丽学院）
本文提出StringLLM方法构建了字符串处理基准数据集StringBench，系统评估发现LLMs在字符串处理上不如人类，并通过深入分析提出微调方法显著提升了其处理能力。
2025-01-26 cs.CL
Concept-Based Embeddings for Natural Language Processing
Nanyang Technological University（南洋理工大学）
在这项工作中，我们专注于通过将概念和单词投影到低维空间，同时保留最关键的语义，有效地利用和集成概念级别和单词级别的信息。在一个广泛的背景下，意见理解系统，我们研究了使用融合嵌入的几个核心NLP任务：命名实体检测和分类，自动语音识别重新排序，并有针对性的情感分析。
2018-07-15 cs.CL
CLASSLA-Stanza: The Next Step for Linguistic Processing of South Slavic Languages
Faculty of Computer and Information Science（计算机与信息科学学院）；University of Ljubljana（卢布尔雅那大学）；Jožef Stefan Institute（约泽夫·斯蒂芬研究所）
本文提出基于Stanza的CLASSLA-Stanza流水线，用于南斯拉夫语言的自动语言标注，在多个任务上超越原版Stanza，并新增高效网络数据处理功能。
2023-08-11 cs.CL
The impact of lexical and grammatical processing on generating code from natural language
Université de Paris（巴黎大学）；CNRS（法国国家科学研究中心）；onepoint
考虑到用于自然语言代码翻译的TranX的seq2seq架构，我们确定了四个重要的关键组件：语法约束、词汇预处理、输入表示和复制机制。为了研究这些组件的影响，我们使用一个国家的最先进的架构，依赖于BERT编码器和基于语法的解码器，其中提供了一个形式化。本文强调了当前自然语言中词汇替换组件对代码系统的重要性。
2022-03-16 cs.CL
NNVLP: A Neural Network-Based Vietnamese Language Processing Toolkit
Alt Inc（Alt 公司）；FPT University（FPT 大学）；Vietnam National University（越南国家大学）
本文展示了基于神经网络的工具包，即NNVLP基本越南语言处理任务，包括词性（POS）标记，组块，命名实体识别（NER）。我们的工具包是双向长短期记忆（Bi-LSTM），卷积神经网络（CNN），条件随机场（CRF）的组合，使用预训练的词嵌入作为输入，在这三个任务上实现了最先进的结果。我们为这个工具包提供了API和Web演示。
2017-10-19 cs.CL
Syntactic Enhancement to VSIMM for Roadmap Based Anomalous Trajectory Detection: A Natural Language Processing Approach
Cornell University（康奈尔大学）
句法跟踪的目的是使用自然语言处理模型对目标运动的时空模式进行分类。在本文中，我们概括了早期的工作，考虑一个受约束的随机上下文无关文法（CSCFG）建模模式局限于路线图。受约束的语法有助于在路线图中对特定方向和道路名称进行建模。我们提出了一种新的粒子滤波算法，利用CSCFG模型估计目标的模式。该元级算法与基本级跟踪算法结合操作。大量的数值模拟结果表明，使用模拟地面动目标指示器（GMTI）雷达测量目标跟踪精度的显着改善。
2018-08-04 cs.CL
Comparative Study of CNN and RNN for Natural Language Processing
LMU Munich（慕尼黑大学）；IBM Research（IBM研究院）
深度神经网络（DNN）彻底改变了自然语言处理（NLP）领域。卷积神经网络（CNN）和递归神经网络（RNN）是DNN架构的两种主要类型，被广泛探索以处理各种NLP任务。CNN被认为擅长于提取位置不变的特征，而RNN则擅长于按顺序提取建模单元。由于CNN和RNN之间的斗争，许多NLP任务的最新技术经常发生变化。这项工作是CNN和RNN在广泛的代表性NLP任务上的首次系统比较，旨在为DNN的选择提供基本指导。
2017-02-07 cs.CL
Plausibility Processing in Transformer Language Models: Focusing on the Role of Attention Heads in GPT
University of Michigan（密歇根大学）
本文探索Transformer语言模型如何处理名词与动词关系的合理性，发现GPT2与人类处理方式高度相似，并证实其内部多个注意力头共同因果地促成了这种合理性处理能力。
2023-10-20 cs.CL
Efficient Multilingual Dialogue Processing via Translation Pipelines and Distilled Language Models
Universidad de los Andes（洛斯安第斯大学）
本文提出通过翻译流水线和压缩语言模型实现多语言对话处理，展示在低资源语言上无需微调即可取得高性能的成果。
2026-01-14 cs.CL
Finding Fuzziness in Neural Network Models of Language Processing
Purdue University（普渡大学）
人类经常使用不精确的语言进行交流，这表明模糊的概念和不明确的边界在语言使用中很普遍。在本文中，我们测试了训练模型捕捉语言的分布统计数据显示对应模糊成员模式的程度。使用自然语言推理的任务，我们测试了最新的最先进的模型在经典的温度情况下，通过检查其映射的温度数据的模糊感知，如“冷”，“热”等，我们发现该模型显示的模式，类似于经典的模糊集理论公式的语言模糊限制语，虽然有大量的噪音，这表明仅在语言上训练的模型在编码模糊性方面表现出希望。
2021-04-22 cs.CL
Re-framing Incremental Deep Language Models for Dialogue Processing with Multi-task Learning
Queen Mary University of London（伦敦玛丽女王大学）
我们提出了一个多任务学习框架，使一个通用的增量对话处理模型的训练与四个任务的不流利检测，语言建模，词性标记，和话语分割在一个简单的深循环设置。我们发现，这些任务提供了积极的归纳偏见，每一个依赖于从任务的噪声的严重性的最佳贡献。我们的实时多任务模型优于类似的个人任务，提供有竞争力的性能，并有利于未来在精神病治疗中使用会话代理。
2020-11-13 cs.CL
Survey on Publicly Available Sinhala Natural Language Processing Tools and Research
Department of Computer Science & Engineering, University of Moratuwa（计算机科学与工程系，莫图瓦大学）
本文综述了公开可用的僧伽罗语自然语言处理工具和研究，旨在填补现有文献的空白，促进该领域研究的协调与进步。
2026-09-06 cs.CL
Unnatural Language Processing: Bridging the Gap Between Synthetic and Natural Language Data
Massachusetts Institute of Technology（麻省理工学院）；University of Michigan（密歇根大学）
大型的人工注释数据集是自然语言处理模型开发的核心。收集这些数据集可能是开发过程中最具挑战性的部分。我们解决这个问题，通过引入一个通用的技术，“模拟到真实”的转移语言理解问题与一组划定的目标行为，使之有可能开发模型，可以解释自然的话语，没有自然的训练数据。我们从一个合成数据生成过程开始，并训练一个模型，该模型可以准确地解释由数据生成器产生的话语。为了推广到自然话语，我们使用学习的句子嵌入来定义距离度量，自动找到自然语言话语到合成语言的支持上的投影。仅使用合成训练数据，我们的方法在几个领域中匹配或优于在自然语言数据上训练的最先进的模型。这些结果表明，模拟到真实的转移是开发自然语言处理应用程序的一个实用框架，改进的转移模型可能会为下游任务提供广泛的改进。
2020-04-28 cs.CL
A Survey on Natural Language Processing for Programming
Beihang University（北京航空航天大学）；Harbin Institute of Technology（哈尔滨工业大学）
本文从编程语言的结构化与功能化特性出发，系统综述了面向编程的自然语言处理在任务、数据集、评估方法、技术和模型方面的研究现状，并指出未探索领域与未来方向。
2023-08-06 cs.CL
Language Invariant Properties in Natural Language Processing
Bocconi University（博科尼大学）
意义依赖于语境，但即使我们改变了语境，语言的许多属性也应该保持不变。例如，情感、蕴涵或说话者属性在文本的翻译和原文中应该相同。我们引入语言不变属性：即，当我们转换文本时不应该改变的属性，以及如何使用它们来定量评估转换算法的鲁棒性。我们使用翻译和释义作为转换的例子，但我们的发现更广泛地适用于任何转换。我们的研究结果表明，许多NLP变换改变了作者特征等属性，即，让他们听起来更男性化我们相信，研究这些属性将使NLP能够解决语言的社会因素和语用方面。我们还发布了一个应用程序套件，可用于评估转换应用程序的不变性。
2021-10-01 cs.CL
VnCoreNLP: A Vietnamese Natural Language Processing Toolkit
Newcastle University（纽卡斯尔大学）；The University of Melbourne（墨尔本大学）；Deakin University（迪肯大学）；Macquarie University（麦考瑞大学）
我们提出了一个易于使用和快速的工具包，即VnCoreNLP-越南语的Java NLP注释管道。我们的VnCoreNLP支持关键的自然语言处理（NLP）任务，包括分词、词性（POS）标注、命名实体识别（NER）和依存句法分析，并为这些任务获得最先进的（SOTA）结果。我们发布VnCoreNLP提供丰富的语言注释，以促进越南语NLP的研究工作。我们的VnCoreNLP是开源的，可在https://github.com/vncorenlp/VnCoreNLP获得
2018-04-01 cs.CL
A Framework for Processing Textual Descriptions of Business Processes using a Constrained Language -- Technical Report
Technical University of Denmark, DTU Compute（丹麦技术大学，DTU计算学院）；University of St.Gallen（斯图加特大学）
本文提出BeePath框架，通过受限模式语言和LLM辅助，使非专家能用自然文本描述业务流程并自动转换为Petri网、DECLARE等形式化模型。
2025-08-13 cs.CL
Natural Language Processing for Music Knowledge Discovery
Universitat Pompeu Fabra（庞培法布拉大学）；Cardiff University（卡迪夫大学）；Technical University of Madrid（马德里理工大学）
今天，大量的音乐知识以书面形式存储，其证词可以追溯到几个世纪前。在这项工作中，我们提出了不同的自然语言处理（NLP）的方法来利用这些文本集合的自动音乐知识发现的潜力，涵盖不同阶段的原型NLP管道，即语料库编译，文本挖掘，信息抽取，知识图谱生成和情感分析。这些方法中的每一种都与不同的用例（即，弗拉门戈，文艺复兴和流行音乐），其中大量的文件进行处理，并从数据驱动的分析得出的结论进行了介绍和讨论。
2018-07-06 cs.CL
Mixed-Level Knowledge Representation and Variable-Depth Inference in Natural Language Processing
描述了一种系统，其使用基于标准Horn子句逻辑的混合级知识表示来表示自然语言文档的含义（的一部分）。一个可变深度的搜索策略，区分不同层次的抽象之间的知识表示，以定位特定的段落中的文件。对该系统的语言方面进行了详细描述。混合层次表示以及可变深度搜索策略适用于NLP之外的领域。
1999-12-23 cs.CL
Using Chinese Text Processing Technique for the Processing of Sanskrit Based Indian Languages: Maximum Resource Utilization and Maximum Compatibility
中文文本处理系统使用双字节编码，而几乎所有现有的基于梵文的印度语言都使用单字节编码进行文本处理。据观察，中文信息处理技术在东西方都取得了很大的技术发展。相比之下，印度语言正在被计算机处理，或多或少，用于文字处理目的。本文着重从计算语言学的角度探讨了处理印度语言的方法。本文阐述了一种总体设计方法，该方法注重资源利用率和兼容性的最大化，最终目标是建立一个多平台多语言系统。文本处理，多语种文本处理，中文处理，印文处理，字符编码
1995-09-27 cmp-lg cs.CL
Visual Grounding Strategies for Text-Only Natural Language Processing
KU Leuven（鲁汶大学）
视觉基础是一条通往更强大和更准确的自然语言处理（NLP）模型的有前途的道路。BERT的许多多模态扩展（例如，VideoBERT、LXMERT、VL-BERT）允许文本和图像的联合建模，从而在多模态任务（如视觉问答）上产生最先进的结果。在这里，我们将多模态建模用于纯文本任务（语言建模和分类），期望多模态预训练提供可以提高文本处理准确性的基础。我们在这方面提出了可能的战略。被称为{ \it transmitted grounding}的第一种类型的策略包括使用占位符来替换图像输入，将多模态模型应用于纯文本任务。第二个，我们称之为{ \it关联接地}，利用图像检索在预训练和纯文本下游任务期间将文本与相关图像进行匹配。我们对这两种策略进行了进一步的区分，然后根据它们对语言建模和常识相关下游任务的影响进行了比较，显示了对纯文本基线的改进。
2021-03-25 cs.CL
Across the Levels of Analysis: Explaining Predictive Processing in Humans Requires More Than Machine-Estimated Probabilities
University of Maryland Department of Linguistics（马里兰大学语言学系）；Oxford University Faculty of Linguistics, Philology and Phonetics（牛津大学语言学、语文学与语音学系）
本文批判并扩展了关于语言模型和语言处理的两个主张，探讨了预测未来语言信息的重要性以及大规模语言模型对心理语言学的影响，并提出结合LLMs与心理语言学模型的未来方向。
2026-04-10 cs.CL
Multilingual Language Processing From Bytes
Google Research（谷歌研究院）
我们描述了一个基于LSTM的模型，我们称之为Byte-to-Span（BTS），它将文本读取为字节，并输出[start，length，label]形式的span注释，其中开始位置，长度和标签是我们词汇表中的单独条目。因为我们直接操作unicode字节而不是特定于语言的单词或字符，所以我们可以用一个模型分析多种语言的文本。由于词汇量小，这些多语言模型非常紧凑，但产生的结果类似于或优于仅使用提供的训练数据集（没有外部数据源）的词性标记和命名实体识别的最新技术。我们的模型是“从头开始”学习的，因为它们不依赖于自然语言处理（包括标记化）中标准管道的任何元素，因此可以在原始文本上以独立的方式运行。
2016-04-02 cs.CL
A Targeted Assessment of Incremental Processing in Neural LanguageModels and Humans
Harvard University（哈佛大学）；MIT（麻省理工学院）
通过十六个句法测试套件对比人类与四种神经语言模型的增量处理，发现模型虽在方向上与人类一致，但系统低估了句法违例导致的处理难度差异幅度。
2023-10-25 cs.CL
Recent Advancements and Challenges of Turkic Central Asian Language Processing
Department of Language Science and Technology（语言科学与技术系）
本文探讨了中亚突厥语族语言处理的最新进展与挑战，分析了语言特征、技术现状及转移学习应用，旨在为未来研究提供方向。
2026-02-16 cs.CL
Natural Language Processing 4 All (NLP4All): A New Online Platform for Teaching and Learning NLP Concepts
Aarhus University（奥胡斯大学）；Interacting Minds Center（互动心智中心）；ScienceAtHome（居家科学中心）
自然语言处理为几乎所有学科和领域的语言数据提供了新的见解，并使我们能够证实和/或挑战现有的知识。扩大参与和使用这些新的研究工具的主要障碍是，第一，在整个K-16学生缺乏编码技能，并在广大人口，第二，缺乏知识的NLP方法可以用来回答语言学和/或计算机科学以外的学科感兴趣的问题。为了扩大对NLP的参与并提高NLP素养，我们引入了一个新的工具-基于Web的工具，称为自然语言处理4 All（NLP 4All）。NLP 4All的目的是帮助教师通过提供易于使用的NLP方法，数据和分析界面来促进NLP的学习，使非程序员和新手程序员能够交互式地学习NLP概念。
2021-05-28 cs.CL
