Tagging and Morphological Disambiguation of Turkish Text
自动文本标注是文本语料库高级分析的重要组成部分，其结果可用于许多自然语言处理应用。在土耳其语或芬兰语等语言中，由于许多词汇形式的结构在形态上是模糊的，因此在使用粘着形态学时，形态消歧是标注的一个非常关键的过程。本文描述了一个土耳其语文本的POS标记的基础上，土耳其语形态的全面两级规范，是基于一个约24,000根字的词典。这是一个多词和惯用的结构识别器，最重要的是形态消歧器的基础上，当地的邻里约束，语法和统计信息的有限数量。标记器还具有统计编译和微调的形态分析仪，如记录错误的形态分析，常用的根等初步结果表明，标记器可以标记约98-99\%的文本准确地与非常少的用户干预的功能。此外，句子形态消歧的标签，LFG解析器开发的土耳其语，生成，平均，50%的不明确的解析和解析速度快了近2.5倍。标记功能并不特定于土耳其语，并且可以应用于具有适当形态分析接口的任何语言。
1994-07-29 cmp-lg cs.CL
Introducing TrGLUE and SentiTurca: A Comprehensive Benchmark for Turkish General Language Understanding and Sentiment Analysis
Independent Researcher（独立研究者）
本文提出TrGLUE和SentiTurca两个土耳其语综合基准，用于评估自然语言理解和情感分析能力，通过半自动化流程构建高质量数据集，支持研究人员进行模型微调和评估。
2025-12-26 cs.AI cs.CL
A Morphology-aware Network for Morphological Disambiguation
Huawei Turkey Research and Development Center（华为土耳其研发中心）
由于词的复杂形态，诸如土耳其语、芬兰语和匈牙利语的黏着语在进一步处理之前需要形态消歧。一个形态消歧器是用来选择正确的形态分析的一个词。词法消歧是自然语言处理的第一步，其性能影响后续的分析，因此词法消歧非常重要。在本文中，我们提出了一个系统，使用深度学习技术的形态消歧。计算机视觉、语音识别和自然语言处理领域的许多最新成果都是通过深度学习模型获得的。然而，将深度学习技术应用于形态丰富的语言并没有得到很好的研究。在这项工作中，虽然我们专注于土耳其形态消歧，我们也提出了结果，法语和德语，以表明，所提出的架构实现了高精度，没有特定语言的功能工程或额外的资源。在实验中，我们达到了84.12，88.35和93.78的歧义词之间的土耳其语，德语和法语的形态消歧准确率分别。
2017-02-13 cs.CL
Resources for Turkish Natural Language Processing: A critical survey
University of Tübingen（蒂宾根大学）；Ghent University（根特大学）；University of Stuttgart（斯图加特大学）
本文对土耳其语语料库和词汇资源进行了全面的调查。我们审查了广泛的资源，重点是那些公开可用的。除了提供有关可用语言资源的信息外，我们还提出了一系列建议，并确定了在土耳其语言学和自然语言处理中进行研究和建立应用程序的可用数据中的差距。
2023-02-25 cs.CL
VNLP: Turkish NLP Package
VNGRS；YTÜ Teknopark（伊斯坦布尔理工大学科技园）
本文提出 VNLP，一个面向土耳其语的完整开源、轻量且可用于生产的 NLP 软件包，集成多种任务模型、预训练嵌入、分词器及便捷接口。
2024-03-02 cs.AI cs.CL cs.LG
Ad Text Classification with Transformer-Based Natural Language Processing Methods
AdresGezgini A.Ş.（AdresGezgini股份公司）；Garanti BBVA Teknoloji（担保BBVA科技公司）
在这项研究中，提出了一种基于自然语言处理（NLP）的方法，用于在线广告平台上创建的广告文本的行业自动分类。我们的数据集由来自12个不同行业的约21，000个标记广告文本组成。在这项研究中，双向编码器表示从Transformers（BERT）模型，这是一个基于transformer的语言模型，最近使用的领域，如文本分类在自然语言处理文献中，被使用。使用预训练的BERT模型的土耳其语的分类效率得到详细的。
2021-06-23 cs.CL
Evaluation of Non-Negative Matrix Factorization and n-stage Latent Dirichlet Allocation for Emotion Analysis in Turkish Tweets
Ege University（埃杰大学）；Yildiz Technical University（耶尔德兹技术大学）；Walmart Global Tech（沃尔玛全球科技）
随着技术的发展，社交媒体的使用已经变得非常普遍。分析社交媒体在媒体和广告等领域的评论在今天发挥着重要作用。为此，使用新的和传统的自然语言处理方法来检测这些共享的情感。在本文中，潜在的Dirichlet分配，即LDA，和非负矩阵分解的主题建模方法被用来确定通过Twitter发布的土耳其推文的情感。此外，还分析了基于LDA的n层方法的精度。数据集由5种情绪组成，即愤怒，恐惧，快乐，悲伤和困惑。NMF是本研究中最成功的主题建模方法。然后，利用主题的词权值和类标签，对随机森林、朴素贝叶斯和支持向量机方法的F1测度进行分析，得到适合Weka的文档。在Weka的结果中，最成功的方法是n阶段LDA，最成功的算法是随机森林。
2021-09-27 cs.CL cs.IR cs.LG
Building Foundations for Natural Language Processing of Historical Turkish: Resources and Models
Saarland University（萨尔兰大学）；Medeniyet University（文明大学）
本文提出历史土耳其语NLP的基础资源和模型，包括首个命名实体识别数据集HisTR和首个通用依赖树库OTA-BOUN，以及基于Transformer的模型，提升了历史土耳其语的计算分析能力。
2026-03-27 cs.CL
On TimeML-Compliant Temporal Expression Extraction in Turkish
Gazi University（加齐大学）
普遍认为，时间表达提取器是诸如信息检索和问答系统的较大自然语言处理系统的重要组件。土耳其语时间表达式的提取和规范化一直没有得到重视，除了命名实体识别过程中的一些日期和时间表达式的提取。由于TimeML是当前自然语言文本中时间表达和事件注释的标准，本文基于相关的TimeML分类（即，date、time、duration和set表达式）。我们已经创建了一个土耳其语的时间表达的词汇，并设计了相当广泛的覆盖模式，使用的词法类作为积木。我们相信，所提出的模式，加上方便的规范化规则，可以很容易地使用土耳其语的预期时间表达提取工具。
2015-09-03 cs.CL
Turkish Delights: a Dataset on Turkish Euphemisms
Montclair State University（蒙特克莱尔州立大学）
本研究构建了首个土耳其语委婉语数据集（Turkish PET dataset），通过收集和标注委婉与非委婉语境，并利用基于Transformer的模型进行二元分类检测，以F1、准确率和精确率评估性能，填补了该领域在土耳其语上的空白。
2024-07-17 cs.CL
Challenges Encountered in Turkish Natural Language Processing Studies
Iskenderun Technical University（伊斯肯德伦技术大学）
自然语言处理是计算机科学的一个分支，它将人工智能与语言学相结合。它旨在用软件分析语言元素，如写作或口语，并将其转换为信息。考虑到每种语言都有自己的语法规则和词汇多样性，这一领域的研究的复杂性是可以理解的。例如，土耳其语在许多方面都是一种非常有趣的语言。这方面的例子有粘着词结构、辅音/元音和谐、大量的生产性派生语素（几乎无限的词汇）、派生和句法关系、对词汇和语音规则的复杂强调。在这项研究中，土耳其语在自然语言处理方面的有趣功能被提到。此外，还给出了关于为土耳其语开发的自然语言处理技术、系统和各种来源的摘要信息。
2021-01-21 cs.AI cs.CL
TurEngMix: A Text Corpus and Benchmark for Turkish-English Code-Mixed Language Identification and Named Entity Recognition
University of Maryland（马里兰大学）
针对土耳其语-英语代码混合文本，构建了TurEngMix语料库与基准，评估显示形态整合标记的错误率高，并发布资源以促进研究。
2026-09-09 cs.CL
TurkishMMLU: Measuring Massive Multitask Language Understanding in Turkish
Technical University of Munich（慕尼黑工业大学）；Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Language Technology Lab, University of Cambridge（剑桥大学语言技术实验室）
本文提出首个土耳其语多任务多项选择基准 TurkishMMLU，包含超1万道由课程专家编写的高中课程题目，覆盖9个科目，并通过对20多个 LLMs 的零样本、少样本及思维链评估，系统揭示当前模型在土耳其语理解上的能力与局限。
2024-10-03 cs.CL
Turkish PoS Tagging by Reducing Sparsity with Morpheme Tags in Small Datasets
Hacettepe University（哈西德佩大学）；Middle East Technical University（中东技术大学）
稀疏性是自然语言处理的主要问题之一。这个问题变得更加严重，在粘合的语言，是高度倾向于曲折。我们处理稀疏在土耳其语采用形态特征的词性标注。我们通过使用条件随机场（CRF）学习土耳其语中的屈折和派生词素标签，并且我们通过使用隐马尔可夫模型（Hyndom）来减轻稀疏性，从而在词性（PoS）标记中使用词素标签。结果表明，使用词素标签的PoS标记有助于缓解发射概率的稀疏性。我们的模型优于其他隐马尔可夫模型为基础的PoS标记模型在土耳其的小训练数据集。我们在5K训练数据集上获得了94.1%的词素标记准确率和89.2%的PoS标记准确率。
2017-03-10 cs.CL
TurkishBERTweet: Fast and Reliable Large Language Model for Social Media Analysis
Sabanci University（萨班哲大学）
本文提出首个面向土耳其社交媒体的大规模预训练语言模型TurkishBERTweet，基于近9亿条推文训练，在情感分类和仇恨言论检测上性能更优且推理更快，并开源模型与LoRA适配器。
2023-11-29 cs.CL cs.LG cs.SI
Clause-Internal or Clause-External? Testing Turkish Reflexive Binding in Adapted versus Chain of Thought Large Language Models
University of Chicago（芝加哥大学）
本研究通过对比两种大型语言模型，探讨土耳其反身代词在不同模型中的绑定行为差异，揭示模型架构和训练数据对指代依赖表示的影响。
2026-02-09 cs.CL
Modelling the Morphology of Verbal Paradigms: A Case Study in the Tokenization of Turkish and Hebrew
Idiap Research Institute（IDIAP研究机构）；University of Geneva（日内瓦大学）
本研究探讨了transformer模型在土耳其和希伯来语动词词形处理中的表现，发现词化策略对模型效果有显著影响，尤其在希伯来语中，形态学意识的词化方法更有效。
2026-02-05 cs.CL
Stochastic Answer Networks for Natural Language Inference
Microsoft Research（微软研究院）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出了一种随机回答网络（SAN）来研究自然语言推理中的多步推理策略。该模型不是直接预测给定输入的结果，而是保持一个状态并迭代地改进其预测。我们的实验表明，SAN达到了最先进的结果在三个基准：斯坦福自然语言推理（SNLI）数据集，多流派自然语言推理（MultiNLI）数据集和Quora问题对数据集。
2019-03-30 cs.CL
XLDA: Cross-Lingual Data Augmentation for Natural Language Inference and Question Answering
Stanford University（斯坦福大学）；Salesforce Research（赛富时研究院）
虽然自然语言处理系统通常专注于单一语言，但多语言迁移学习有可能提高性能，特别是对于低资源语言。我们介绍了XLDA，跨语言的数据增强，一种方法，它取代了一段输入文本的翻译在另一种语言。XLDA增强了跨语言自然语言推理（XNLI）基准测试的所有14种测试语言的性能。通过对$4.8\%$的改进，使用XLDA进行的培训可以实现希腊语、土耳其语和乌尔都语的最先进性能。XLDA与一种更简单的方法相反，并且表现得更好，这种方法以一种方式聚合各种语言的示例，每个示例都只使用一种语言。在SQuAD问答任务中，我们看到XLDA在英语评估集上提供了$1.0\%$性能提升。全面的实验表明，大多数语言都是有效的跨语言增强器，XLDA对各种翻译质量都是鲁棒的，而且XLDA对随机初始化的模型比预训练的模型更有效。
2019-05-27 cs.AI cs.CL cs.LG
Benchmarking Procedural Language Understanding for Low-Resource Languages: A Case Study on Turkish
Eskişehir Bahçeşehir College（埃斯基谢希尔巴哈切希尔学院）；Johns Hopkins University（约翰斯·霍普金斯大学）；Koç University（科克大学）
本研究针对低资源语言过程性语言理解资源匮乏问题，以土耳其语为研究对象，扩充wikiHow语料至5.2万篇并验证质量，构建多类下游任务，微调多类模型发现特定语言模型表现更优，同时公开相关资源。
2024-03-06 cs.CL
Design and Implementation of a Computational Lexicon for Turkish
所有自然语言处理系统（如解析器、生成器、标记器）都需要访问有关语言中单词的词典。本文提出了一个土耳其语自然语言处理的词典体系结构。给定由表面形式和作为限制的其他特征组成的查询形式，词典产生包含满足这些限制的表面形式的所有可能的解释的形态句法、句法和语义信息的特征结构。该词典基于当代的方法，如基于特征的表示，继承和统一。它利用两个信息源：一个形态处理器和一个词汇数据库，其中包含土耳其语的所有开放和封闭类单词。该系统已在SICStus Prolog中实现，作为一个独立的模块，用于自然语言处理应用程序。
1997-02-19 cmp-lg cs.CL
Multi-turn Inference Matching Network for Natural Language Inference
Beijing Language and Culture University（北京语言大学）；Beijing Advanced Innovation for Language Resources of BLCU（北京语言大学语言资源高精尖创新中心）
自然语言推理（NLI）是自然语言处理（NLP）中的一项基本而又具有挑战性的任务。大多数现有的方法只对一个混合匹配特征进行一次推理，这是一个前提和假设之间不同匹配特征的串联。在本文中，我们提出了一个新的模型称为多轮推理匹配网络（MIMN）进行多轮推理不同的匹配功能。在每一轮中，模型关注一个特定的匹配特征，而不是混合匹配特征。为了增强不同匹配特征之间的交互，采用了存储器组件来存储历史推理信息。每一轮的推理是在当前匹配特征和存储器上执行的。我们在三个不同的NLI数据集上进行实验。实验结果表明，我们的模型在所有三个数据集上的性能优于或达到最先进的性能。
2019-01-08 cs.CL
A Neural Architecture Mimicking Humans End-to-End for Natural Language Inference
IIT Kharagpur（印度理工学院克勒格布尔分校）；Indian Institute of Science, Bangalore（印度科学院）；Accenture Technology Labs（埃森哲技术实验室）
在这项工作中，我们使用的最新进展表示学习提出了一个神经架构的问题，自然语言推理。我们的方法是一致的，以模仿人类如何做自然语言推理过程中给出两个语句。该模型使用长短期记忆（LSTM）、注意力机制和可组合神经网络的变体来执行任务。我们模型的每个部分都可以映射到一个清晰的功能，人类可以执行自然语言推理的整体任务。该模型是端到端可微的，能够通过随机梯度下降进行训练。在斯坦福大学自然语言推理（SNLI）数据集上，该模型比文献中已发表的模型具有更好的精度。
2017-01-27 cs.CL
A Decomposable Attention Model for Natural Language Inference
Google（谷歌）
我们提出了一个简单的自然语言推理的神经架构。我们的方法使用注意力将问题分解为可以单独解决的子问题，从而使其具有平凡的并行性。在斯坦福自然语言推理（SNLI）数据集上，我们获得了最先进的结果，参数比以前的工作少了几乎一个数量级，并且不依赖于任何词序信息。增加句内注意力，考虑到最小数量的秩序产生进一步的改善。
2016-09-25 cs.CL
Natural Language Inference from Multiple Premises
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们定义了一个新颖的文本蕴涵任务，需要对多个前提句子进行推理。我们提出了一个新的数据集为这项任务，最大限度地减少琐碎的词汇推理，强调日常事件的知识，并提出了一个更具挑战性的设置文本蕴涵。我们评估了几个强大的神经基线，并分析了多前提任务与标准文本蕴涵的不同之处。
2017-10-09 cs.CL
Natural Language Inference over Interaction Space
New York University（纽约大学）；Horizon Robotics, Inc.（地平线机器人技术有限公司(Horizon Robotics, Inc.)）
自然语言推理（NLI）任务要求智能体确定自然语言前提和自然语言假设之间的逻辑关系。我们介绍了交互式推理网络（IIN），一类新的神经网络架构，能够实现高层次的理解的句子对分层提取的语义特征，从交互空间。我们发现，一个交互张量（注意力权重）包含语义信息来解决自然语言推理，和一个密集的交互张量包含更丰富的语义信息。这种架构的一个实例，密集交互式推理网络（DIIN），展示了国家的最先进的性能上的大规模NLI copora和大规模NLI相似的语料库。值得注意的是，相对于最强的已发布系统，DIIN在具有挑战性的多类型NLI（MultiNLI）数据集上实现了超过20%的错误减少。
2018-05-26 cs.CL
Neural Natural Language Inference Models Enhanced with External Knowledge
Queen’s University（女王大学）；University of Ottawa（渥太华大学）；iFLYTEK Research（科大讯飞研究院）
自然语言推理建模是一项非常具有挑战性的任务。随着大量注释数据的可用性，最近训练复杂模型（例如基于神经网络的推理模型）已变得可行，这些模型已显示出达到最先进的性能。虽然存在相对较大的注释数据，但机器是否可以从这些数据中学习执行自然语言推理（NLI）所需的所有知识？如果没有，基于神经网络的NLI模型如何从外部知识中受益，以及如何构建NLI模型来利用它？在本文中，我们丰富了最先进的神经自然语言推理模型与外部知识。我们证明了所提出的模型改进了神经NLI模型，以在SNLI和MultiNLI数据集上实现最先进的性能。
2018-06-23 cs.CL
Improving Natural Language Inference with a Pretrained Parser
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们介绍了一种新的方法，将语法到自然语言推理（NLI）模型。我们的方法使用来自预训练的依赖解析器的上下文标记级向量表示。像其他上下文嵌入器一样，我们的方法广泛适用于任何神经模型。我们用四个强NLI模型（可分解注意力模型，ESIM，BERT和MT-DNN）进行了实验，并在三个NLI基准测试中显示出一致的准确性优势。
2019-09-18 cs.CL
Are Natural Language Inference Models IMPPRESsive? Learning IMPlicature and PRESupposition
New York University（纽约大学）；Facebook AI Research（Facebook人工智能研究院）
自然语言推理（NLI）是自然语言理解中越来越重要的任务，它要求人们推断一个句子是否包含另一个句子。然而，NLI模型进行语用推理的能力仍然研究不足。我们创建了一个IMplicature和PRESupposition诊断数据集（IMPPRES），由超过25k个半自动生成的句子对组成，这些句子对说明了经过充分研究的语用推理类型。我们使用IMPPRES来评估在MultiNLI上训练的BERT、InferSent和BOW NLI模型（Williams等人，2018年，学习实用推理。虽然MultiNLI似乎包含很少的对说明这些推理类型，我们发现，BERT学会了语用推理。它可靠地将由“一些”触发的等级含义视为蕴涵。对于一些预设触发器，如“only”，BERT可靠地将预设识别为蕴涵，即使触发器被嵌入在蕴涵取消算子（如否定）下。BOW和Infersent显示出较弱的语用推理证据。我们的结论是，NLI训练鼓励模型学习一些，但不是所有的，语用推理。
2020-07-14 cs.CL
Neuro-symbolic Natural Logic with Introspective Revision for Natural Language Inference
Ingenuity Labs Research Institute（匠心实验室研究所）；Queen’s University（女王大学）
我们介绍了一个神经符号的自然逻辑框架的基础上强化学习内省修订。该模型通过策略梯度对特定的推理路径进行采样和奖励，其中内省修正算法修改中间符号推理步骤以发现奖励操作，并利用外部知识来减轻虚假推理和训练效率低下。该框架由适当设计的局部关系模型支持，以避免输入纠缠，这有助于确保证明路径的可解释性。该模型具有内置的可解释性，并表现出优越的能力，在单调性推理，系统的推广，和可解释性，与以前的模型在现有的数据集。
2022-06-05 cs.CL
Detecting Turkish Synonyms Used in Different Time Periods
TOBB University of Economics and Technology（TOBB经济与技术大学）；Qatar University（卡塔尔大学）
本文针对土耳其语历史文本提出两种同义词检测方法，分别基于正交Procrustes嵌入对齐和结合词频Spearman相关性，实验表明其优于基线且在不同时期具有较好稳定性。
2024-11-24 cs.CL
Don't Learn, Ground: A Case for Natural Language Inference with Visual Grounding
Utrecht University（乌特勒支大学）
本文提出了一种基于视觉依托的零样本自然语言推理方法，通过生成视觉表示并比较与假设的相似度，实现高精度推理，展示了对文本偏见的鲁棒性。
2025-11-21 cs.CL
Uncertain Natural Language Inference
Johns Hopkins University（约翰斯·霍普金斯大学）；Columbia University（哥伦比亚大学）；Allen Institute for AI（艾伦人工智能研究所）
我们引入了不确定自然语言推理（UNLI），这是自然语言推理（NLI）的一种改进，它远离了分类标签，而是针对主观概率评估的直接预测。我们证明了通过在概率尺度下重新标记SNLI数据集的一部分来为UNLI收集注释的可行性，即使具有相同分类标签的项目在给定前提下人们判断它们为真的可能性也不同。我们描述了一种直接标量回归建模方法，并发现现有的分类标记的NLI数据可以用于预训练。我们最好的模型接近人类的表现，证明模型可能能够比目前NLI任务中采用的分类箱分配更微妙的推断。
2020-05-05 cs.CL
Enhanced LSTM for Natural Language Inference
National Research Council Canada（加拿大国家研究委员会）；iFLYTEK Research（科大讯飞研究院）；York University（约克大学）；University of Ottawa（渥太华大学）
推理和推断是人类和人工智能的核心。在人类语言中建模推理是非常具有挑战性的。随着大量注释数据的可用性（Bowman等人，2015），最近已经可以训练基于神经网络的推理模型，其已经显示出非常有效。在本文中，我们提出了一个新的国家的最先进的结果，达到了88.6%的准确率斯坦福自然语言推理数据集。与之前使用非常复杂的网络架构的顶级模型不同，我们首先证明了基于链式LSTM精心设计的顺序推理模型可以优于所有之前的模型。在此基础上，我们进一步表明，通过显式地考虑递归体系结构的局部推理建模和推理组合，我们实现了额外的改进。特别是，结合句法分析信息有助于我们的最佳结果-它进一步提高了性能，即使添加到已经非常强大的模型中。
2017-04-26 cs.CL
Collecting Diverse Natural Language Inference Problems for Sentence Representation Evaluation
Johns Hopkins University（约翰斯·霍普金斯大学）；BITS Pilani, Goa Campus（贝拉理工学院皮拉尼分校果阿校区）；Brown University（布朗大学）；University of Rochester（罗切斯特大学）
我们提出了一个大规模的收集不同的自然语言推理（NLI）数据集，帮助提供洞察如何以及一个句子表示捕捉不同类型的推理。收集结果从重铸13个现有的数据集从7个语义现象到一个共同的NLI结构，导致超过50万个标记的上下文假设对。我们将我们的集合称为DNC：多样自然语言推理集合。DNC可在https://www.decomp.net上在线获得，并将随着时间的推移而增长，因为其他资源将从新的来源重新铸造和添加。
2018-08-29 cs.CL
Stress-Testing Neural Models of Natural Language Inference with Multiply-Quantified Sentences
Stanford Symbolic Systems Program（斯坦福大学符号系统项目）；Stanford Linguistics（斯坦福大学语言学系）
使用自然主义语料库对深度学习模型进行语义的标准评估，在它们能够告诉我们的关于学习表示的保真度方面是有限的，因为语料库很少有很好的语义复杂性度量。为了克服这一限制，我们提出了一种方法，用于生成数据集的多重量化的自然语言推理（NLI）的例子中，语义的复杂性，可以精确的特点，我们用这种方法来表明，各种常见的架构NLI不可避免地无法编码的关键信息，只有一个模型与强制词汇对齐避免这种破坏性的信息丢失。
2018-10-30 cs.CL
Learning as Abduction: Trainable Natural Logic Theorem Prover for Natural Language Inference
Utrecht University（乌得勒支大学）
用基于逻辑的方法处理自然语言推理变得越来越不常见。虽然这在几十年前可能是违反直觉的，但现在似乎很明显。这种概念的主要原因是：（a）基于逻辑的方法在处理广泛覆盖的文本时通常很脆弱，（b）它们需要大量的人工开发，而不是自动从数据中学习。我们通过将从数据中学习建模为溯因推理来克服这些缺点：反转定理证明过程来溯因语义关系，这些语义关系可以作为推理问题的黄金标签的最佳解释。换句话说，不是借助于词汇关系来证明语义级推理关系，而是考虑语义级推理关系来证明词汇关系。我们在自然语言的tableau定理证明器中实现了学习方法，并表明它将定理证明器在SICK数据集上的性能提高了1.4%，同时仍然保持了高精度（>94%）。所获得的结果是有竞争力的最先进的基于逻辑的系统之间。
2020-12-01 cs.CL
Uncertainty-Aware Natural Language Inference with Stochastic Weight Averaging
University of Helsinki（赫尔辛基大学）；Aalto University（阿尔托大学）
本文提出在自然语言理解任务中利用SWAG进行贝叶斯不确定性建模，应用于自然语言推理，有效提升预测准确率并与人类标注分歧相关，凸显了不确定性建模的重要性。
2023-04-10 cs.CL
A large annotated corpus for learning natural language inference
Stanford Linguistics（斯坦福大学语言学系）；Stanford NLP Group（斯坦福大学自然语言处理小组）；Stanford Computer Science（斯坦福大学计算机科学系）
理解蕴涵和矛盾是理解自然语言的基础，而关于蕴涵和矛盾的推理是语义表示发展的有价值的试验场。然而，由于缺乏大规模的资源，这一领域的机器学习研究受到了极大的限制。为了解决这个问题，我们介绍了斯坦福大学的自然语言推理语料库，一个新的，免费提供的集合标记的句子对，写的人做一个新的接地任务的基础上图像描述。在570K对，它是两个数量级以上的所有其他资源的类型。这种规模的增加允许词汇化分类器优于一些复杂的现有蕴涵模型，并且它允许基于神经网络的模型首次在自然语言推理基准上具有竞争力。
2015-08-21 cs.CL
Extracting and filtering paraphrases by bridging natural language inference and paraphrasing
University of Ljubljana（卢布尔雅那大学）
释义是一种有用的自然语言处理任务，可以有助于生成或翻译更多样化的文本。自然语言推理（NLI）和释义有一些相似之处，可以从联合方法中受益。我们提出了一种新的方法，从NLI数据集的释义数据集的提取和清洗现有的释义数据集。我们的方法是基于双向蕴涵，也就是说，如果两个句子可以相互蕴涵，他们是释义。我们在单语和跨语言环境中使用几个大型预训练的Transformer语言模型来评估我们的方法。结果表明，高质量的提取的释义数据集和令人惊讶的高噪声水平在两个现有的释义数据集。
2021-11-13 cs.CL
Transforming Question Answering Datasets Into Natural Language Inference Datasets
Stanford University（斯坦福大学）
现有的自然语言推理数据集推动了语言理解的研究。我们提出了一种新的方法，自动推导NLI数据集的日益丰富的大型问答数据集。我们的方法取决于学习一个句子转换模型，转换成他们的陈述形式的问答对。尽管主要是在单个QA数据集上进行训练，但我们表明它可以成功地应用于各种其他QA资源。使用这个系统，我们自动获得了一个新的免费提供的数据集超过500 k NLI的例子（QA-NLI），并表明它表现出广泛的推理现象很少看到以前的NLI数据集。
2018-09-11 cs.CL
e-SNLI: Natural Language Inference with Natural Language Explanations
University of Oxford（牛津大学）；University College London（伦敦大学学院）；Alan Turing Institute（艾伦·图灵研究所）；DeepMind（深度思维）
为了使机器学习获得广泛的公众采用，模型必须能够为其决策提供可解释和强大的解释，并在训练时从人类提供的解释中学习。在这项工作中，我们扩展了斯坦福大学的自然语言推理数据集与人类注释的自然语言解释的蕴涵关系的附加层。我们进一步实现了将这些解释纳入其训练过程并在测试时输出的模型。我们展示了我们的解释语料库（我们称之为e-SNLI）如何用于各种目标，例如获得模型决策的完整句子理由，改进通用句子表示以及转移到域外NLI数据集。因此，我们的数据集为使用自然语言解释开辟了一系列研究方向，无论是为了改进模型还是为了维护它们的信任。
2018-12-06 cs.CL
Syntax-based Attention Model for Natural Language Inference
Fudan University（复旦大学）
在神经网络中引入注意机制是一个强大的概念，并在许多自然语言处理任务中取得了令人印象深刻的结果。然而，大多数现有的模型施加注意力分布上的平面拓扑结构，即整个输入表示序列。显然，任何格式良好的句子都有其相应的句法树结构，这是一个非常丰富的拓扑结构。将注意力应用于这样的拓扑不仅利用了底层语法，而且还使注意力更可解释。在本文中，我们将在自然语言推理的背景下探索这一方向。结果证明了它的有效性。我们还进行了广泛的定性分析，得出了关于我们的模型为什么以及如何工作的见解和直觉。
2016-07-22 cs.CL
Syn-TurnTurk: A Synthetic Dataset for Turn-Taking Prediction in Turkish Dialogues
Qwen（通义实验室）
本文提出Syn-TurnTurk数据集，通过Qwen大语言模型生成土耳其对话数据，用于提升轮询预测的准确性与AUC分数，促进自然的人机交互。
2026-04-15 cs.AI cs.CL
Fine-tuning Transformer-based Encoder for Turkish Language Understanding Tasks
Istanbul Bilgi University（伊斯坦布尔比尔基大学）
本研究针对土耳其语自然语言理解任务，微调基础版土耳其语BERT模型BERTurk，在命名实体识别等四项任务上超越现有基线，公开发布相关模型资源以支持领域研究。
2024-01-30 cs.AI cs.CL
On Adversarial Removal of Hypothesis-only Bias in Natural Language Inference
Harvard University（哈佛大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Massachusetts Institute of Technology（麻省理工学院）
流行的自然语言推理（NLI）数据集已被证明是污染的假设只有偏见。对抗性学习可以帮助模型忽略数据中的敏感偏差和虚假相关性。我们评估了对抗学习是否可以用于NLI，以鼓励模型学习没有假设偏见的表示。我们的分析表明，通过对抗性学习学习的表示可能偏差较小，NLI准确性只有小幅下降。
2019-07-09 cs.CL
Attention Boosted Sequential Inference Model
Beijing Jiaotong University（北京交通大学）
注意力机制在自然语言处理中被证明是有效的。本文提出了一种名为aESIM的注意力增强自然语言推理模型，通过将单词注意力和自适应方向注意力机制添加到自然语言推理模型（例如ESIM）的传统Bi-LSTM层。这使得推理模型aESIM能够有效地学习单词的表示，并对前提和假设对之间的局部实质推理进行建模。对SNLI、MultiNLI和Quora基准的实证研究表明，aESIM模型优于原ESIM模型。
2018-12-06 cs.CL
Recent Advances in Natural Language Inference: A Survey of Benchmarks, Resources, and Approaches
University of Michigan（密歇根大学）；Michigan State University（密歇根州立大学）；Computer Science and Engineering（计算机科学与工程学院）
在NLP社区中，近年来出现了大量研究活动，这些研究活动旨在解决机器执行深度语言理解的能力，这种能力超越了文本中明确陈述的内容，而是依赖于推理和对世界的了解。已经创建了许多基准任务和数据集来支持这种自然语言推理能力的开发和评估。随着这些基准成为NLP研究社区的工具和驱动力，本文旨在概述最近的基准，相关知识资源以及最先进的学习和推理方法，以支持更好地理解这个不断发展的领域。
2020-02-26 cs.CL
Towards Controllable Natural Language Inference through Lexical Inference Types
University of Manchester（曼彻斯特大学）；Idiap Research Institute（Idiap研究所）
本文提出基于AMR图定义词汇推理类型并改造T5瓶颈层，以实现多前提解释性推理的可控生成，并构建约5000步标注数据集验证其有效性。
2024-11-24 cs.CL
Stress Test Evaluation for Natural Language Inference
Carnegie Mellon University（卡内基梅隆大学）
自然语言推理（NLI）是确定自然语言假设是否可以以合理的方式从给定前提中推断出来的任务。NLI被提出作为自然语言理解的基准任务。现有的模型在NLI的标准数据集上表现良好，在不同类型的文本中取得了令人印象深刻的结果。然而，这些模型在多大程度上理解句子的语义内容尚不清楚。在这项工作中，我们提出了一种评估方法，包括自动构建的“压力测试”，使我们能够检查系统是否有能力作出真正的推理决定。我们对这些压力测试中的六个语音编码器模型的评估揭示了这些模型在具有挑战性的语言现象方面的优势和劣势，并为这一领域未来的工作提出了重要的方向。
2018-06-13 cs.CL
Fake News Detection as Natural Language Inference
National Cheng Kung University（国立成功大学）
本报告描述了智能知识管理（IKM）实验室在WSDM 2019假新闻分类挑战中的参赛作品。我们把任务作为自然语言推理（NLI）。我们单独训练一些最强的NLI模型以及BERT。我们将这些结果进行集成，并在两个阶段中使用噪声标签进行重新训练。我们分析了训练集和测试集中的传递性关系，并在此基础上确定了一组可以可靠分类的测试用例。其余的测试用例由我们的集合进行分类。我们的参赛作品在比赛中获得了88.063%的测试集准确率，获得第三名。
2019-07-17 cs.CL
Non-entailed subsequences as a challenge for natural language inference
Johns Hopkins University（约翰斯·霍普金斯大学）
神经网络模型在自然语言推理（NLI）方面取得了巨大的成功，NLI是确定前提是否包含假设的任务。然而，最近的研究表明，这些模型可能依赖于错误的语法，而不是深入的语言理解。我们引入了一个挑战集来测试NLI系统是否采用这样的启发式：假设一个句子需要所有的合法性，如假设“爱丽丝相信玛丽是在撒谎”需要“爱丽丝相信玛丽。“我们在这个挑战集上评估了几个有竞争力的NLI模型，并找到了强有力的证据表明它们确实依赖于子序列启发式。
2018-11-30 cs.CL
Supervised Learning of Universal Sentence Representations from Natural Language Inference Data
Facebook AI Research（Facebook人工智能研究院）；LIUM, Université Le Mans（勒芒大学LIUM实验室）
许多现代NLP系统依赖于词嵌入作为基本特征，这些词嵌入以前在大型语料库上以无监督的方式进行训练。然而，为更大的文本块（例如句子）获得嵌入的努力并不那么成功。学习句子的无监督表示的几次尝试都没有达到令人满意的性能，无法被广泛采用。在本文中，我们展示了使用斯坦福自然语言推理数据集的监督数据训练的通用句子表示如何在广泛的迁移任务中始终优于SkipThought向量等无监督方法。就像计算机视觉如何使用ImageNet来获取特征，然后将其转移到其他任务一样，我们的工作往往表明自然语言推理对于迁移学习到其他NLP任务的适用性。我们的编码器是公开的。
2018-07-08 cs.CL
Hypothesis Only Baselines in Natural Language Inference
Johns Hopkins University（约翰斯·霍普金斯大学）；BITS Pilani, Goa Campus（博拉理工学院皮拉尼校区果阿分校）
我们提出了一个诊断自然语言推理（NLI）的假设只有基线。特别是当NLI数据集假设推断纯粹基于上下文和假设之间的关系发生时，因此在忽略所提供的上下文的同时评估蕴涵关系是退化的解决方案。然而，通过对10个不同的NLI数据集的实验，我们发现这种方法，我们称之为仅假设模型，能够在许多NLI数据集上显着优于大多数类基线。我们的分析表明，统计不规则性可能允许模型在某些数据集中执行NLI，超出了在没有访问上下文的情况下应该实现的范围。
2018-05-02 cs.CL
