Simple Natural Language Processing Tools for Danish
ITU Copenhagen（哥本哈根信息技术大学）
本技术说明介绍了一套用于自动处理丹麦文文本的基线工具。这些工具是基于机器学习的，使用经过先前注释的文档训练的自然语言处理模型。它们保存在国际电联哥本哈根办事处，并将始终免费提供。
2019-07-26 cs.CL
A Machine Learning, Natural Language Processing Analysis of Youth Perspectives: Key Trends and Focus Areas for Sustainable Youth Development Policies
Foothill College（山麓学院）
投资于儿童和青年是为今世后代实现包容、公平和可持续发展的关键一步。实现共同全球目标的若干国际议程强调，青年必须积极参与和参与可持续发展。《2030年可持续发展议程》强调青年参与和纳入青年观点的必要性，认为这是实现17个可持续发展目标的重要一步。本研究的目的是通过使用机器学习的社会网络分析，分析青年对17个可持续发展目标所涉及问题的观点、价值观和情感。在7个主要的可持续发展会议期间收集的旨在吸引儿童和青年的社交网络数据使用自然语言处理技术进行情感分析。这些数据使用自然语言处理文本分类器进行分类，该分类器在7次青年可持续发展会议期间根据社交网络数据的样本数据集进行训练，以更深入地了解青年对可持续发展目标的看法。利用机器学习识别的人口统计和位置属性和特征，以便识别青年中年龄、性别和种族之间的偏见和人口统计差异。使用自然语言处理，从7个不同国家收集的3种语言的定性数据进行了系统的翻译，分类和分析，揭示了可持续青年发展政策的主要趋势和重点领域。调查结果反映了一般青少年对可持续发展的知识深度，以及他们对17个可持续发展目标的态度。这项研究的结果有助于更好地了解儿童和青年在实现《2030年议程》目标方面的利益、作用和观点。
2022-11-25 cs.CL cs.CY
ScispaCy: Fast and Robust Models for Biomedical Natural Language Processing
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
尽管最近在自然语言处理方面取得了进展，但许多用于处理文本的统计模型在域转移下表现得非常差。生物医学和临床文本处理是自然语言处理的一个非常重要的应用领域，目前还没有成熟的、实用的、公开可用的模型。本文介绍了scispaCy，一个新的实用生物医学/科学文本处理的工具，它极大地利用了spaCy库。我们详细介绍了在scispaCy中发布的两个模型包的性能，并展示了它们在多个任务和数据集上的鲁棒性。型号和代码可在https://allenai.github.io/scispacy/上获得
2019-10-09 cs.CL
A Primer on Neural Network Models for Natural Language Processing
在过去的几年里，神经网络已经重新成为强大的机器学习模型，在图像识别和语音处理等领域取得了最先进的成果。最近，神经网络模型也开始应用于文本自然语言信号，再次取得了非常有希望的结果。本教程从自然语言处理研究的角度调查神经网络模型，试图使自然语言研究人员加快神经技术的速度。本教程涵盖了自然语言任务的输入编码、前馈网络、卷积网络、递归网络和递归网络，以及自动梯度计算的计算图抽象。
2015-10-02 cs.CL
Analyzing Research Trends in Inorganic Materials Literature Using NLP
Panasonic Corporation（松下公司）；National Institute of Advanced Industrial Science and Technology (AIST)（日本产业技术综合研究所（AIST））；Toyota Technological Institute（丰田工业大学）
在无机材料科学领域，通过机器阅读大量论文来提取材料的物理性质和合成过程等知识的需求日益增长。这是因为材料研究人员参考了许多论文，以便提出有希望的材料合成实验条件。但是，只有少数系统可以提取材料名称及其属性。本研究提出了一个大规模的自然语言处理（NLP）管道，从材料科学文献中提取材料的名称和属性，使搜索和检索的结果在材料科学。因此，我们提出了一个标签定义提取材料的名称和属性，并相应地建立了一个语料库包含836个注释段落提取301篇论文训练命名实体识别（NER）模型。实验结果表明，该NER模型的实用性，它实现了成功的提取与微F1得分为78.1%。为了证明我们方法的有效性，我们通过将我们训练的NER模型应用于12，895篇材料科学论文，对真实世界的自动注释语料库进行了全面评估。我们通过可视化NLP管道的输出来分析材料科学的趋势。例如，逐年分析表明，近年来，关于用于钙钛矿太阳能电池的材料“MoS2”的论文数量在中国迅速增加，但在美国却在减少。此外，根据逐年条件分析，催化剂材料“PEDOT：PSS”的加工温度低于200度，加工时间超过5小时的报告数量略有增加。
2021-06-27 cs.CL
Deep Learning Based Natural Language Processing for End to End Speech Translation
Vivekanand Education Society's Institute of Technology（维韦卡南德教育协会理工学院）
深度学习方法采用多个处理层来学习数据的分层表示。它们已经被部署在大量的应用程序中，并产生了最先进的结果。近年来，随着计算机处理能力的增长，能够进行高维张量计算，自然语言处理（NLP）应用在效率和准确性方面得到了显著的提高。在本文中，我们将研究各种信号处理技术，然后将其应用于使用深度递归神经网络生成语音到文本系统。
2018-08-09 cs.CL
Using the DIFF Command for Natural Language Processing
Diff是一个软件程序，用于检测两个数据集之间的差异，在自然语言处理中很有用。本文给出了几个应用差异的例子。它们包括两个不同数据集之间的差异检测，重写规则的提取，两个不同数据集的合并，以及两个不同数据集的最佳匹配。由于diff随任何标准UNIX系统一起提供，因此它随时可用且非常易于使用。我们的研究表明diff是研究自然语言处理的一个实用工具。
2002-08-13 cs.CL
A perspective on the advancement of natural language processing tasks via topological analysis of complex networks
University of São Paulo（圣保罗大学）
对Cong和Liu的"Approaching human language with complex networks"的评论（Physics of Life Reviews，Volume 11，Issue 4，December 2014，Pages 598 - 618）。
2014-12-03 cs.CL
Representation Learning for Natural Language Processing
本书旨在回顾和介绍NLP分布式表示学习的最新进展，包括为什么表示学习可以改善NLP，表示学习如何参与NLP的各种重要主题，以及分布式表示仍然没有很好地解决哪些挑战。
2021-02-07 cs.CL
Problems and Countermeasures in Natural Language Processing Evaluation
Peking University（北京大学）
自然语言处理中的评价指导和促进了模型和方法的研究。近年来，新的评价数据集和评价任务不断提出。与此同时，考试测评暴露出的一系列问题也制约了自然语言处理技术的进步。本文从自然语言评价的概念、组成、发展和意义入手，对主流自然语言评价的任务和特点进行了分类和总结，进而总结了自然语言处理评价存在的问题及其原因。最后，本文参照人类语言能力评价标准，提出了类人机器语言能力评价的概念，并从信度、难度和效度三个方面提出了类人机器语言能力评价的一系列基本原则和实施思路。
2021-04-20 cs.CL
A Survey of Active Learning for Natural Language Processing
Carnegie Mellon University（卡内基梅隆大学）
本文综述了主动学习在自然语言处理中的应用。除了细粒度分类的查询策略，我们还研究了其他几个重要方面的应用AL自然语言处理问题。其中包括用于结构化预测任务的AL、注释成本、模型学习（特别是使用深度神经模型）以及启动和停止AL。最后，我们以相关主题和未来方向的讨论结束。
2023-02-03 cs.CL
"I'm sorry Dave, I'm afraid I can't do that": Linguistics, Statistics, and Natural Language Processing circa 2001
对自然语言处理历史的简要概述，重点是数据驱动的方法。主题包括“歧义和语言分析”，“Firth things first”，“A 'C' change”和“The Questicists Strike Back”。
2003-04-21 cs.CL
Using NLP on news headlines to predict index trends
Lusis
本文试图提供一个国家的艺术趋势预测使用新闻标题。我们提出了使用自然语言处理预测DJIA趋势的研究。我们将解释我们使用的不同算法以及尝试的各种嵌入技术。我们依靠统计和深度学习模型来从语料库中提取信息。
2018-06-22 cs.CL cs.LG stat.ML
Resources for Turkish Natural Language Processing: A critical survey
University of Tübingen（蒂宾根大学）；Ghent University（根特大学）；University of Stuttgart（斯图加特大学）
本文对土耳其语语料库和词汇资源进行了全面的调查。我们审查了广泛的资源，重点是那些公开可用的。除了提供有关可用语言资源的信息外，我们还提出了一系列建议，并确定了在土耳其语言学和自然语言处理中进行研究和建立应用程序的可用数据中的差距。
2023-02-25 cs.CL
Reasoning about Procedures with Natural Language Processing: A Tutorial
University of Pennsylvania（宾夕法尼亚大学）
本教程提供了一个全面而深入的研究过程，主要是在自然语言处理。程序是一系列旨在实现某个目标的步骤。理解自然语言的过程有着悠久的历史，最近的突破是由于技术的进步。首先，我们讨论了既定的方法来收集程序，通过人工注释或从网络资源中提取。然后，我们研究了不同的角度，从哪些程序可以推理，以及如何代表他们。最后，我们列举了程序知识可以应用于现实世界的场景。
2022-05-16 cs.CL
Ad Text Classification with Transformer-Based Natural Language Processing Methods
AdresGezgini A.Ş.（AdresGezgini股份公司）；Garanti BBVA Teknoloji（担保BBVA科技公司）
在这项研究中，提出了一种基于自然语言处理（NLP）的方法，用于在线广告平台上创建的广告文本的行业自动分类。我们的数据集由来自12个不同行业的约21，000个标记广告文本组成。在这项研究中，双向编码器表示从Transformers（BERT）模型，这是一个基于transformer的语言模型，最近使用的领域，如文本分类在自然语言处理文献中，被使用。使用预训练的BERT模型的土耳其语的分类效率得到详细的。
2021-06-23 cs.CL
New Approaches for Natural Language Understanding based on the Idea that Natural Language encodes both Information and its Processing Procedures
我们必须认识到，自然语言是一种信息编码方式，它不仅对信息进行编码，而且对信息如何处理的过程进行编码。理解自然语言，就像构思和设计计算机语言一样，首先要把信息（或数据）和信息（或数据）的处理过程分开。在自然语言中，有些数据处理过程直接编码为结构块和指针块（本文将词汇块重新划分为数据块、结构块和指针块）;有些数据处理过程隐含在句子结构中;有些处理过程的请求用信息块表示，由信息接收者处理。对于数据部分，讨论了属性信息的分类编码体系和信息组织结构（包括信息集的组成结构和信息集之间的层次结构）。在第二节中，对第二节中阐述的理论部分进行了实例验证，证明本文的研究达到了使机器能够理解对话中所传达信息的目的。第四部分总结了“理解”的基本条件，对“理解”是什么以及如何理解进行了反思。本文的研究为自然语言理解提供了实践、理论依据和研究方法。在人工智能（AI）领域，它也可以应用于大规模、多类型的信息处理。
2021-01-12 cs.CL
Fuzzy Modeling and Natural Language Processing for Panini's Sanskrit Grammar
印度语在世界自然语言中有着悠久的历史。帕尼尼是第一个在五世纪用大约4000条规则定义梵语语法的人。这些规则包含不确定性信息。用计算机处理具有不确定信息的梵语是不可能的。本文提出用模糊逻辑和模糊推理来处理梵语文法推理中的不确定性信息。本文还讨论了梵文的处理。
2010-06-14 cs.CL
A Survey of the Usages of Deep Learning in Natural Language Processing
University of Colorado at Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
在过去的几年里，自然语言处理领域已经被深度学习模型的爆炸式使用所推动。本调查简要介绍了该领域，并快速概述了深度学习架构和方法。然后，它筛选了过多的最近的研究，并总结了大量的相关贡献。分析的研究领域包括几个核心的语言处理问题，除了一些计算语言学的应用。然后提供了一个讨论的当前状态的最新技术，以及在该领域的未来研究的建议。
2019-12-21 cs.CL
Spoiler Alert: Using Natural Language Processing to Detect Spoilers in Book Reviews
University of Toronto（多伦多大学）
本文提出了一种NLP（自然语言处理）方法来检测书评中的剧透，使用加州大学圣地亚哥分校（UCSD）Goodreads Spoiler数据集。我们探索了使用LSTM、BERT和RoBERTa语言模型来在广告级别执行剧透检测。这与执行相同任务的UCSD论文形成对比，但在其数据准备中使用手工制作的功能。尽管避免了使用手工制作的功能，但我们的LSTM模型的结果仍然能够略微超过UCSD团队在扰流板检测方面的表现。
2021-02-07 cs.CL
Field-testing items using artificial intelligence: Natural language processing with transformers
Smarter Balanced（智能平衡组织）
本研究通过让RoBERTa模型的5000个变体完成29道多选题的英语读写考试，测试了项目的心理测量学属性，发现其与人类考生数据具有一定一致性。
2023-10-18 cs.CL
The Role of Explanatory Value in Natural Language Processing
Utrecht University（乌得勒支大学）
科学的一个关键目标是解释，然而解释语言现象的想法在主流的自然语言处理（NLP）和人工智能的许多其他领域中已经退居二线。我认为，解释语言行为应该是NLP的主要目标，这与使NLP模型可解释是不一样的。为了说明这些想法，一些最近的人类语言生产模型进行了比较。最后，我问，如果我们的社区认真对待解释价值，同时注意一些可能的陷阱，这对NLP研究和机构政策意味着什么。
2022-09-13 cs.CL
HULK: An Energy Efficiency Benchmark Platform for Responsible Natural Language Processing
University of California Santa Barbara（加利福尼亚大学圣巴巴拉分校）
计算密集型的预训练模型已经在许多自然语言处理基准测试中处于领先地位，例如GLUE。然而，模型训练和推理过程中的能量效率成为关键瓶颈。我们介绍HULK，一个多任务能效基准测试平台，用于负责任的自然语言处理。使用HULK，我们从时间和成本的角度比较了预训练模型的能效。提供了基准测试结果，以供进一步分析。不同的预训练模型的微调效率在不同的任务中可能会有很大的差异，更少的参数数量并不一定意味着更好的效率。我们分析了这种现象，并展示了比较预训练模型的多任务效率的方法。我们的平台可以在https://sites.engineering.ucsb.edu/~xiyou/hulk/上找到。
2020-02-14 cs.CL
Concept-Based Embeddings for Natural Language Processing
Nanyang Technological University（南洋理工大学）
在这项工作中，我们专注于通过将概念和单词投影到低维空间，同时保留最关键的语义，有效地利用和集成概念级别和单词级别的信息。在一个广泛的背景下，意见理解系统，我们研究了使用融合嵌入的几个核心NLP任务：命名实体检测和分类，自动语音识别重新排序，并有针对性的情感分析。
2018-07-15 cs.CL
The impact of lexical and grammatical processing on generating code from natural language
Université de Paris（巴黎大学）；CNRS（法国国家科学研究中心）；onepoint
考虑到用于自然语言代码翻译的TranX的seq2seq架构，我们确定了四个重要的关键组件：语法约束、词汇预处理、输入表示和复制机制。为了研究这些组件的影响，我们使用一个国家的最先进的架构，依赖于BERT编码器和基于语法的解码器，其中提供了一个形式化。本文强调了当前自然语言中词汇替换组件对代码系统的重要性。
2022-03-16 cs.CL
BNLP: Natural language processing toolkit for Bengali language
Begum Rokeya University, Rangpur, Bangladesh（贝古姆·罗基亚大学）
BNLP是一个开放的孟加拉语源语言处理工具包，包括标记化，词嵌入，POS标记，NER标记设施。BNLP提供高精度的预训练模型，用于孟加拉语的基于模型的标记，嵌入，POS标注，NER标注任务。BNLP预训练模型在孟加拉语文本标记、词嵌入、词性标注和NER标注任务中取得了显著的效果。BNLP在孟加拉研究社区中广泛使用，下载量为16K，119颗星和31个分叉。BNLP可在https://github.com/sagorbrur/bnlp上获得。
2021-12-01 cs.CL
Syntactic Enhancement to VSIMM for Roadmap Based Anomalous Trajectory Detection: A Natural Language Processing Approach
Cornell University（康奈尔大学）
句法跟踪的目的是使用自然语言处理模型对目标运动的时空模式进行分类。在本文中，我们概括了早期的工作，考虑一个受约束的随机上下文无关文法（CSCFG）建模模式局限于路线图。受约束的语法有助于在路线图中对特定方向和道路名称进行建模。我们提出了一种新的粒子滤波算法，利用CSCFG模型估计目标的模式。该元级算法与基本级跟踪算法结合操作。大量的数值模拟结果表明，使用模拟地面动目标指示器（GMTI）雷达测量目标跟踪精度的显着改善。
2018-08-04 cs.CL
Comparative Study of CNN and RNN for Natural Language Processing
LMU Munich（慕尼黑大学）；IBM Research（IBM研究院）
深度神经网络（DNN）彻底改变了自然语言处理（NLP）领域。卷积神经网络（CNN）和递归神经网络（RNN）是DNN架构的两种主要类型，被广泛探索以处理各种NLP任务。CNN被认为擅长于提取位置不变的特征，而RNN则擅长于按顺序提取建模单元。由于CNN和RNN之间的斗争，许多NLP任务的最新技术经常发生变化。这项工作是CNN和RNN在广泛的代表性NLP任务上的首次系统比较，旨在为DNN的选择提供基本指导。
2017-02-07 cs.CL
Natural Language Processing and Multimodal Stock Price Prediction
本文提出利用股票百分比变化作为训练数据，并结合专门的BERT NLP模型与多模态数据分析来预测股票价格趋势，证明了小型模型在准确预测整体股票趋势方面的能力及特定数据特征的有效性。
2024-01-03 cs.CL cs.LG
VnCoreNLP: A Vietnamese Natural Language Processing Toolkit
Newcastle University（纽卡斯尔大学）；The University of Melbourne（墨尔本大学）；Deakin University（迪肯大学）；Macquarie University（麦考瑞大学）
我们提出了一个易于使用和快速的工具包，即VnCoreNLP-越南语的Java NLP注释管道。我们的VnCoreNLP支持关键的自然语言处理（NLP）任务，包括分词、词性（POS）标注、命名实体识别（NER）和依存句法分析，并为这些任务获得最先进的（SOTA）结果。我们发布VnCoreNLP提供丰富的语言注释，以促进越南语NLP的研究工作。我们的VnCoreNLP是开源的，可在https://github.com/vncorenlp/VnCoreNLP获得
2018-04-01 cs.CL
Natural Language Processing for Music Knowledge Discovery
Universitat Pompeu Fabra（庞培法布拉大学）；Cardiff University（卡迪夫大学）；Technical University of Madrid（马德里理工大学）
今天，大量的音乐知识以书面形式存储，其证词可以追溯到几个世纪前。在这项工作中，我们提出了不同的自然语言处理（NLP）的方法来利用这些文本集合的自动音乐知识发现的潜力，涵盖不同阶段的原型NLP管道，即语料库编译，文本挖掘，信息抽取，知识图谱生成和情感分析。这些方法中的每一种都与不同的用例（即，弗拉门戈，文艺复兴和流行音乐），其中大量的文件进行处理，并从数据驱动的分析得出的结论进行了介绍和讨论。
2018-07-06 cs.CL
Mixed-Level Knowledge Representation and Variable-Depth Inference in Natural Language Processing
描述了一种系统，其使用基于标准Horn子句逻辑的混合级知识表示来表示自然语言文档的含义（的一部分）。一个可变深度的搜索策略，区分不同层次的抽象之间的知识表示，以定位特定的段落中的文件。对该系统的语言方面进行了详细描述。混合层次表示以及可变深度搜索策略适用于NLP之外的领域。
1999-12-23 cs.CL
Survey of Natural Language Processing for Education: Taxonomy, Systematic Review, and Future Trends
School of Data Science and Engineering, East China Normal University（数据科学与工程学院，东华大学）
本综述系统回顾了NLP在教育领域的应用，构建了涵盖问答、问题构建、自动评估和错误纠正等任务的分类体系，探讨了前沿技术及LLM方法，并指出了五个未来研究方向。
2025-10-11 cs.AI cs.CL
Thoth: Improved Rapid Serial Visual Presentation using Natural Language Processing
Georgia Institute of Technology（佐治亚理工学院）
Thoth是一个旨在结合许多不同类型的快速阅读技术的工具。最大的启示是使用自然语言解析更优化的快速串行视觉呈现和更有效的阅读信息。
2019-08-05 cs.CL cs.HC
Categorical Tools for Natural Language Processing
Wolfson College（沃尔夫森学院）
本论文将范畴理论与计算语言学之间的转换作为自然语言处理的基础。这三章涉及句法、语义和语用。首先，字符串图提供了形式语法中句法结构的统一模型。其次，函子通过将图转换为逻辑、张量、神经或量子计算来计算语义。第三，由此产生的函子模型可以组成游戏，其中均衡是语言处理任务的解决方案。这个框架是作为DisCoPy的一部分实现的，DisCoPy是一个Python库，用于使用字符串图进行计算。我们描述了范畴结构、语言结构和计算结构之间的对应关系，并展示了它们在组合自然语言处理中的应用。
2022-12-13 cs.CL math.CT
Integrating AI Planning with Natural Language Processing: A Combination of Explicit and Tacit Knowledge
Sun Yat-sen University（中山大学）
本文首次系统综述AI规划与自然语言处理的深层联系，提出二者通过基于规划的文本理解、NLP、可解释性、人机交互及应用五个方面相互促进，融合显性与隐性知识以改善人机通信。
2023-04-13 cs.AI cs.CL
Autonomous requirements specification processing using natural language processing
Auckland University of Technology（奥克兰理工大学）
我们描述了我们正在进行的研究，集中在自然语言处理（NLP）的软件工程和系统开发活动的应用。特别是，本文讨论了在需求分析和系统设计过程中使用NLP。我们已经开发了一个原型工具集，可以帮助系统分析师或软件工程师选择和验证与项目相关的术语。在本文中，我们描述的过程中所采用的系统提取和分类的兴趣对象的需求文件。这些过程是用一个小例子来说明。
2014-07-23 cs.CL cs.SE
Statistical Physics for Natural Language Processing
这篇论文已被作者撤回。
2011-07-01 cond-mat.stat-mech cs.CL cs.IR
Natural Language Processing: Structure and Complexity
本文介绍了一种分析自然语言处理任务复杂度的方法，以及预测新的自然语言处理任务难度的方法。我们的复杂性措施来自Kolmogorov复杂性的一类自动机- { \it的意思是自动机}，其目的是提取相关的信息片段的句子。自然语言语义的定义仅与自动机可以回答的问题集相关。本文展示了各种NLP程序和任务的复杂性估计的例子，以及复杂性管理的一些方法。它将自然语言处理定位为软件工程的一个子领域，并奠定了其形式化的基础。
1996-07-13 cmp-lg cs.CL
A Tidy Data Model for Natural Language Processing using cleanNLP
cleanNLP包提供了一组快速工具，用于将文本语料库转换为一组规范化的表。底层的自然语言处理管道利用了斯坦福大学的CoreNLP库，为用英语、法语、德语和西班牙语编写的文本提供了许多注释任务。注释器包括标记化、词性标注、命名实体识别、实体链接、情感分析、依存句法分析、共指消解和信息抽取。
2018-05-03 cs.CL stat.CO
The Theoretical Status of Ontologies in Natural Language Processing
本文讨论了“本体论”在自然语言处理中的应用。它分类了各种类型的本体，已在自然语言处理，并讨论了各种好处和问题，这些设计。然后，特别关注的是在使用上模型，一个语言的动机“本体”最初设计用于与Penman文本生成系统中获得的经验。进一步的NLP本体设计标准的一些建议。
1997-04-25 cmp-lg cs.CL
Semi-supervised Classification for Natural Language Processing
University of Western Ontario（西安大略大学）
半监督分类是一个有趣的想法，其中分类模型是从标记和未标记的数据中学习的。在自然语言处理领域，它与监督分类相比有许多优点。例如，监督分类只利用昂贵的标记数据，这些数据通常难以获得，数量不足，并且需要人类专家进行注释。另一方面，未标记的数据便宜且丰富。尽管许多因素限制了半监督分类的广泛使用，但由于其性能水平在经验上与监督分类一样好，因此它已经变得流行。本研究探讨了半监督分类在句法分析、生物医学信息处理、文本分类和摘要等自然语言处理任务中的可能性和成就以及复杂性和局限性。
2014-09-25 cs.CL cs.LG
Challenges Encountered in Turkish Natural Language Processing Studies
Iskenderun Technical University（伊斯肯德伦技术大学）
自然语言处理是计算机科学的一个分支，它将人工智能与语言学相结合。它旨在用软件分析语言元素，如写作或口语，并将其转换为信息。考虑到每种语言都有自己的语法规则和词汇多样性，这一领域的研究的复杂性是可以理解的。例如，土耳其语在许多方面都是一种非常有趣的语言。这方面的例子有粘着词结构、辅音/元音和谐、大量的生产性派生语素（几乎无限的词汇）、派生和句法关系、对词汇和语音规则的复杂强调。在这项研究中，土耳其语在自然语言处理方面的有趣功能被提到。此外，还给出了关于为土耳其语开发的自然语言处理技术、系统和各种来源的摘要信息。
2021-01-21 cs.AI cs.CL
Gap Analysis of Natural Language Processing Systems with respect to Linguistic Modality
Infosys（印孚瑟斯）
情态是语言学中语法的重要组成部分。它让说话者表达对事态的态度、评价或潜力。它意味着不同的意义，因此根据上下文有不同的感知。本文介绍了一个帐户显示的差距，在功能的当前状态的最先进的自然语言处理（NLP）系统。研究了语言情态的语境性质。本文综述了自然语言处理系统处理情态的工作和逻辑方法。它将人类认知和智能视为多层次的方法，可以由智能学习系统实现。最后，讨论了该领域目前的研究进展，为今后的研究提供了参考。
2015-04-18 cs.AI cs.CL
Natural language processing: she needs something old and something new (maybe something borrowed and something blue, too)
鉴于目前自然语言处理的工作状态，本文首先认为，科学和应用的进步需要重新关注语言是关于什么的，广义地说是关于世界的;第二，对总结任务的攻击，这是越来越重要的电子文本资源的增长，并需要了解的作用，大-尺度语篇结构在标注重要文本内容时，是一个很好的前进方向。
1995-12-21 cmp-lg cs.CL
Recent Trends in the Use of Deep Learning Models for Grammar Error Handling
Wells Fargo（富国银行）；Corporate Model Risk（企业模型风险部门）
语法错误处理是自然语言处理中的一个重要课题。GEH包括语法错误检测和语法错误纠正。计算系统的最新进展促进了深度学习（DL）模型在GEH等NLP问题中的使用。在这篇综述中，我们重点介绍了GEH的两种主要的深度学习方法：神经机器翻译模型和编辑器模型。我们描述了这些模型管道的三个主要阶段：数据准备，训练和推理。此外，我们讨论了不同的技术，以提高这些模型在管道的每个阶段的性能。我们比较了不同模型的性能，并得出结论，提出了未来的发展方向。
2020-09-04 cs.AI cs.CL
Word Embeddings for Chemical Patent Natural Language Processing
Elsevier（爱思唯尔）
我们评估了化学专利词嵌入对已知的生物医学嵌入，并表明他们优于后者的外在和内在。我们还表明，使用上下文嵌入可以诱导预测模型的合理性能，这个领域在一个相对较小的黄金标准。
2020-10-24 cs.CL cs.LG
Predicting Research Trends From Arxiv
Technical University Darmstadt（达姆施塔特工业大学）；Frankfurt School of Finance and Management（法兰克福金融管理学院）
我们对Arxiv论文的两个数据集进行趋势检测，这些数据集来自机器学习（cs.LG）和自然语言处理（cs.CL）类别。我们的方法是自下而上：我们首先根据标准化的引用次数对论文进行排名，然后根据论文所追求的任务和所使用的方法将排名靠前的论文分为不同的类别。然后我们分析这些产生的主题。我们发现CS.CL中的主导范式围绕着自然语言生成问题，而CS.LG中的主导范式围绕着强化学习和对抗原则。通过外推，我们预测这些主题在短期和中期内仍将是各自领域的主要问题/方法。
2019-03-07 cs.CL cs.DL cs.LG
A Survey on Semantic Processing Techniques
Continental-NTU Corporate Lab, Nanyang Technological University（大陆集团-南洋理工大学企业实验室）；Saw Swee Hock School of Public Health, National University of Singapore（新加坡国立大学苏瑞福公共卫生学院）；School of Computer Science and Engineering, Nanyang Technological University（南洋理工大学计算机科学与工程学院）；Hubei Provincial Key Laboratory of Artificial Intelligence and Smart Learning, Central China Normal University（华中师范大学湖北省人工智能与智慧学习重点实验室）；National Language Resources Monitoring and Research Center for Network Media, Central China Normal University（华中师范大学国家语言资源监测与研究网络媒体中心）；School of Computer Science, Central China Normal University（华中师范大学计算机学院）
本文综述了词义消歧、指代消解、命名实体识别等五类语义处理任务的理论、方法与应用，并指出其技术趋势和未来方向。
2023-10-22 cs.AI cs.CL
Robust Processing of Natural Language
以前的自然语言处理中的鲁棒性方法通常通过放松语法约束来处理异常输入，只要不能通过“正常”手段提供成功的分析。这种模式意味着，错误检测总是在错误处理之前，这种行为几乎无法与人类模型竞争，在人类模型中，许多错误的情况甚至没有注意到它们。本文分析了实现更高程度的鲁棒性在自然语言处理的必要前提条件，并提出了一个完全不同的方法的基础上的程序结构消歧。它不仅提供了以更自然的方式处理鲁棒性问题的可能性，而且最终可能适合于在单个框架内容纳鲁棒行为的不同方面。
1995-07-14 cmp-lg cs.CL
Racial Disparity in Natural Language Processing: A Case Study of Social Media African-American English
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
我们强调了算法公平性的一个重要前沿：当应用于来自不同社会群体的作者的语言时，自然语言处理算法的质量差异。例如，目前的系统有时对女性和少数民族语言的分析比对白人和男性的分析更差。我们进行了实证分析的种族差异的语言识别写在非洲裔美国人的英语推文，并讨论在NLP的差异的影响。
2017-06-30 cs.CL cs.CY
Parametrized Quantum Circuits of Synonymous Sentences in Quantum Natural Language Processing
Isfahan University of Technology（伊斯法罕理工大学）；Shahid Bahonar University of Kerman（克尔曼沙希德·巴霍纳尔大学）；University of Basque Country UPV/EHU（巴斯克大学（UPV/EHU））
在本文中，我们开发了一个基于合成向量的语义的正传递句子的量子自然语言处理的非英语语言，即波斯语，比较参数化的量子线路的两种语言，英语和波斯语的两个同义句子。通过考虑及物句的语法+意义，我们将DisCoCat图通过ZX-演算转化为量子线路的形式。在语义方面，我们还利用偶图的方法将DisCoCat图改写为量子线路。
2021-02-02 cs.CL quant-ph
Natural Language Processing for Financial Regulation
Imperial College London（帝国理工学院）；CNRS, Complex Systems Institute of Paris Île-de-France（法国国家科学研究中心巴黎法兰西岛复杂系统研究所）；Oxford Man Institute of Quantitative Finance（牛津曼定量金融研究所）
本文探讨金融监管中无监督数据集下的语义匹配，提出利用免费资源超越预训练句子转换器，并解释NLP核心数学原理。
2023-11-14 cs.CL cs.LG q-fin.CP
DeepZensols: Deep Natural Language Processing Framework
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
通过发布公开可用的源代码在出版物中复制结果变得越来越流行。鉴于再现机器学习（ML）实验的困难，在减少这些结果的方差方面已经做出了重大努力。正如在任何科学中一样，持续复制结果的能力有效地加强了工作的基本假设，因此，应该被视为与研究本身的新颖性一样重要。这项工作的贡献是一个框架，能够重现一致的结果，并提供了一种轻松创建，训练和评估自然语言处理（NLP）深度学习（DL）模型的方法。
2021-09-08 cs.AI cs.CL
