Small but Mighty: New Benchmarks for Split and Rephrase
University of Pennsylvania(宾夕法尼亚大学);IBM Research(IBM研究院);Google Research(谷歌研究院)
拆分和重组是一个文本简化任务,将复杂的句子改写成简单的句子。作为一项相对较新的任务,确保其评价基准和衡量标准的健全性至关重要。我们发现,广泛使用的基准数据集普遍包含容易利用的句法线索,其自动生成过程。利用这些线索,我们表明,即使是一个简单的基于规则的模型可以执行与国家的最先进的模型。为了弥补这些限制,我们收集并发布了两个众包基准数据集。我们不仅要确保它们包含更加多样化的语法,而且还要根据一组定义良好的标准仔细控制它们的质量。虽然不存在令人满意的自动度量,但我们使用众包基于这些标准应用细粒度手动评估,这表明我们的数据集更好地代表了任务,并且对模型更具挑战性。
2020-12-12 cs.CL
CEScore: Simple and Efficient Confidence Estimation Model for Evaluating Split and Rephrase
本文提出CEScore统计模型,通过模仿人类评估方式提供Sscore、Gscore、Mscore和CEscore四个指标,自动评估句子拆分与改写任务,并在26个模型上取得0.98的Spearman相关系数,验证了其作为简单有效评估指标的潜力。
2023-12-03 cs.CL
Fact-aware Sentence Split and Rephrase with Permutation Invariant Training
Key Laboratory of Computational LinguisticsSchool of EECS, Peking University(北京大学计算机学院计算语言学重点实验室);Microsoft Research Asia(微软亚洲研究院)
句子拆分和重组旨在将一个复杂的句子分解成几个简单的句子,并保留其含义。以前的研究倾向于通过从平行句子对中进行seq 2seq学习来解决这个问题,该方法以复杂句子作为输入,然后依次生成一系列简单句子。然而,传统的seq 2seq学习对于这个任务有两个局限性:(1)它没有考虑长句中陈述的事实;因此,生成的简单句可能会遗漏或不准确地陈述原始句子中的事实。(2)要生成的简单句子的顺序变化可能会在训练期间混淆seq 2seq模型,因为从长源句子导出的简单句子可以是任何顺序。为了克服这些挑战,我们首先提出了事实感知的句子编码,它使模型能够从长句中学习事实,从而提高句子分割的精度;然后我们引入了排列不变训练来减轻seq 2seq学习中顺序方差的影响。在WebSplit-v1.0基准测试数据集上的实验表明,与以往的seq 2seq学习方法相比,该方法可以在很大程度上提高性能。此外,外部评估oie-benchmark验证了我们的方法的有效性,观察到分裂长句与我们的国家的最先进的模型作为预处理是有助于提高OpenIE的性能。
2020-02-03 cs.CL
Split and Rephrase with Large Language Models
University of the Basque Country UPV/EHU(巴斯克大学 UPV/EHU);Fundación Vicomtech(维康科技基金会)
本研究评估大语言模型在拆分与改写(SPRP)任务上的表现,发现其核心指标优于现有最优水平但拆分合规性不足,通过全面对比提示词、领域迁移、不同规模微调模型及零/少样本指令模型,明确了该类模型的潜力与局限。
2024-06-03 cs.CL
Sentence Simplification via Large Language Models
Yangzhou University(扬州大学)
句子简化的目的是将复杂的句子改写成简单的句子,同时保留原来的意思。大语言模型(LLM)已经展示了执行各种自然语言处理任务的能力。然而,目前还不知道LLM是否可以作为一个高质量的句子简化系统。在这项工作中,我们经验分析零/少样本学习能力的LLM通过评估他们的一些基准测试集。实验结果表明,LLM优于最先进的句子简化方法,并被判断为与人类注释者相当。
2023-02-23 cs.AI cs.CL
Context-Preserving Text Simplification
University of St.Gallen(圣加仑大学);University of Passau(帕绍大学);University of Manchester(曼彻斯特大学)
我们提出了一个上下文保持文本简化(TS)的方法,递归地分裂和重组复杂的英语句子简化句子的语义层次结构。使用一组语言学原则的转换模式,输入的句子被转换成一个层次表示的核心句子和伴随的上下文,通过修辞关系连接的形式。因此,相对于以前提出的句子分割方法,通常不考虑话语层面的方面,我们的TS方法保留了输出中的分解成分的语义关系。与RST-DT中包含的注释的比较分析表明,我们能够以89%的精度捕获分裂句子之间的上下文层次结构,并且对于它们之间的修辞关系的分类,平均精度达到69%。
2021-05-24 cs.CL
THM@SimpleText 2025 -- Task 1.1: Revisiting Text Simplification based on Complex Terms for Non-Experts
TH Mittelhessen - University of Applied Sciences(图宾根-美因茨应用科学大学);Herder Institute(赫尔德研究所)
针对科学文本因技术术语导致的复杂性问题,本研究聚焦SimpleText 2025任务1.1中极短语境下复杂句子的简化,通过识别复杂术语并利用小型Gemini和OpenAI大语言模型为非专家重新表述,提升科学信息的可获取性。
2025-07-06 cs.CL
Transforming Complex Sentences into a Semantic Hierarchy
University of St.Gallen(圣加仑大学);University of Passau(帕绍大学);University of Manchester(曼彻斯特大学)
我们提出了一种方法,递归地分裂和改写复杂的英语句子成一个新的语义层次结构的简化句子,他们每个人都提出了一个更规则的结构,可以促进各种各样的人工智能任务,如机器翻译(MT)或信息抽取(IE)。使用一组手工制作的转换规则,输入的句子被递归地转换成一个两层的分层表示的形式的核心句子和伴随的上下文,通过修辞关系连接。通过这种方式,分解成分的语义关系保留在输出中,保持其对下游应用程序的可解释性。通过对两个不同领域的三个数据集进行全面的人工分析和自动评估,表明所提出的句法简化方法在结构化文本简化方面优于现有技术。此外,外部评估表明,当应用我们的框架作为预处理步骤时,最先进的Open IE系统的性能可以提高高达346%的精度和52%的召回率。为了实现可重复的研究,所有代码都在线提供。
2019-06-03 cs.CL
BLEU is Not Suitable for the Evaluation of Text Simplification
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
BLEU被广泛认为是文本到文本生成的信息度量,包括文本简化(TS)。翻译策略包括词汇和结构两个方面。在本文中,我们表明,BLEU是不适合的句子分裂,主要的结构简化操作的评价。我们人工编制了一个包含多个结构性释义的句子分割金标准语料库,并与人类判断进行了相关性分析。我们发现低或没有相关性BLEU和语法性和意义保存参数,其中涉及句子分裂。此外,BLEU通常与简单性呈负相关,基本上不利于简单的句子。
2018-10-14 cs.CL
Unsupervised Sentence Simplification Using Deep Semantics
CNRS, LORIA, UMR 7503(法国国家科学研究中心,洛林计算机科学实验室)
我们提出了一种新的方法,句子简化,从两个主要方面离开以前的工作。首先,它既不需要手写的规则,也不需要对齐的标准和简化句子的训练语料库。第二,句子分裂作用于深层语义结构。我们表明:(i)我们提出的无监督框架与四种最先进的监督系统具有竞争力;(ii)我们基于语义的方法可以有效地处理句子分割。
2016-09-07 cs.CL
Controllable Text Simplification with Explicit Paraphrasing
Georgia Institute of Technology(佐治亚理工学院);University of Sheffield(谢菲尔德大学)
文本简化通过几种重写转换(如词汇释义、删除和拆分)来提高句子的可读性。目前的简化系统主要是序列到序列模型,这些模型经过端到端的训练,可以同时执行所有这些操作。然而,这些系统局限于大多删除单词,并且不能容易地适应不同目标受众的要求。在本文中,我们提出了一种新的混合方法,利用语言动机的分裂和删除规则,并将它们与神经释义模型耦合,以产生不同的重写风格。我们引入了一种新的数据增强方法来提高我们的模型的解释能力。通过自动和手动评估,我们表明,我们提出的模型建立了一个新的国家的最先进的任务,释义更经常比现有的系统,并可以控制每个简化操作应用到输入文本的程度。
2021-04-14 cs.CL
ASSET: A Dataset for Tuning and Evaluation of Sentence Simplification Models with Multiple Rewriting Transformations
University of Sheffield(谢菲尔德大学);Inria(法国国家信息与自动化研究所);Facebook AI Research(Facebook人工智能研究院);Imperial College London(帝国理工学院)
为了简化一个句子,人类编辑会执行多次重写转换:他们将其分成几个较短的句子,释义单词(即用简单的同义词替换复杂的单词或短语),重新排序组件和/或删除认为不必要的信息。尽管有这些不同范围的可能的文本更改,当前的自动句子简化模型是使用专注于单个转换(如词汇释义或拆分)的数据集进行评估的。这使得它不可能理解简化模型在更真实的设置中的能力。为了缓解这一局限性,本文介绍了ASSET,一个新的数据集评估句子简化的英语。ASSET是一个众包的多参考语料库,其中每个简化都是通过执行几个重写转换产生的。通过定量和定性实验,我们表明,简化ASSET更好地捕捉简单的特点相比,其他标准的评估数据集的任务。此外,我们激励需要开发更好的方法,使用ASSET自动评估,因为我们表明,目前流行的指标可能不适合当多个简化转换进行。
2020-05-01 cs.CL
DisSim: A Discourse-Aware Syntactic Text Simplification Frameworkfor English and German
University of St.Gallen(圣加仑大学);University of Passau(帕绍大学);University of Manchester(曼彻斯特大学)
我们介绍了DisSim,一个话语意识的句子分裂框架,英语和德语,其目标是转换成一个中间表示,提出了一个简单的,更规则的结构,更容易处理的下游语义应用句法复杂的句子。为此,我们把输入的句子成一个两层的语义层次结构的形式的核心事实和伴随的上下文,同时确定它们之间的修辞关系。通过这种方式,我们保留了输入的连贯性结构,从而保留了其对下游任务的可解释性。
2019-09-26 cs.CL
Syntactic Complexity Identification, Measurement, and Reduction Through Controlled Syntactic Simplification
The Australian National University(澳大利亚国立大学)
本文提出基于句法依存和三元组事实信息的受控句法简化方法,用于识别、度量并降低复合句与复杂句的句法复杂度,同时保留原始措辞以避免知识图谱构建中的信息丢失。
2023-04-16 cs.CL cs.IR
Discourse-Aware Text Simplification: From Complex Sentences to Linked Propositions
University of St.Gallen(圣加仑大学);Idiap Research Institute(Idiap研究所);University of Manchester(曼彻斯特大学);University of Passau(帕绍大学)
针对现有句法文本简化方法保守且忽略文本衔接的问题,提出一种话语感知的TS方法,通过从句和短语解嵌机制将复杂句子拆分为最小语义单元,并利用层次结构和语义关系保留上下文,生成简化的语义层次表示。
2023-08-01 cs.AI cs.CL
MinWikiSplit: A Sentence Splitting Corpus with Minimal Propositions
University of St.Gallen(圣加仑大学);University of Passau(帕绍大学);University of Manchester(曼彻斯特大学)
我们编制了一个新的句子分裂语料库,该语料库由203K对对齐的复杂源和简化的目标句子组成。相反,以前提出的文本简化语料库,其中只包含少量的分裂的例子,我们提出了一个数据集,其中每个输入句子被分解成一组最小的命题,即一个序列的声音,自包含的话语与他们每个人提出了一个最小的语义单元,不能进一步分解成有意义的命题。该语料库对于开发句子分割方法是有用的,该方法学习如何将具有复杂语言结构的句子转换为短句的细粒度表示,该短句呈现简单且更规则的结构,该结构更容易为下游应用程序处理,从而促进和提高其性能。
2019-09-26 cs.CL
Dynamic Multi-Level Multi-Task Learning for Sentence Simplification
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
句子简化旨在提高可读性和可理解性,基于几种操作,如拆分,删除和释义。然而,一个有效的简化句也应该由它的输入句逻辑蕴涵。在这项工作中,我们首先提出了一个强大的指针复制机制的序列到序列的句子简化模型,然后通过多任务学习与相关的辅助任务的蕴涵和释义生成,提高其蕴涵和释义能力。此外,我们提出了一种新的“多层次”分层软共享方法,每个辅助任务共享不同的(高与低)层次的句子简化模型,这取决于任务的语义与词汇句法性质。我们还介绍了一种新的基于多臂强盗的训练方法,该方法动态学习如何在多任务学习过程中有效地切换任务。在多个流行数据集上的实验表明,我们的模型在SARI和FKGL自动度量和人工评估方面优于竞争性简化系统。此外,我们提出了几个消融分析替代层共享方法,软与硬共享,动态多臂强盗采样方法,我们的模型的学习蕴涵和释义技巧。
2018-06-19 cs.AI cs.CL cs.LG
Text Simplification for Comprehension-based Question-Answering
IIIT Hyderabad(印度国际信息技术研究所海得拉巴分校);NSIT Delhi(德里国立信息技术学院);IBM(国际商业机器公司);IIIT, Guwahati(印度国际信息技术研究所古瓦哈提分校);Accenture Tech Labs(埃森哲技术实验室);IBM Research India(印度IBM研究院)
文本简化是将一个句子拆分和重新措辞为一系列句子的过程,使其更容易阅读和理解,同时保留内容并近似原始含义。文本简化已在机器翻译、摘要、语义角色标注和信息抽取等自然语言处理应用中得到利用,为基于理解的问答下游任务的开发开辟了广阔的途径。在这项工作中,我们研究了文本简化在使用理解上下文的问答任务中的效果。我们发布了Simple-SQuAD,这是广泛使用的SQuAD数据集的简化版本。首先,我们概述了数据集创建管道中的每个步骤,包括风格转换,显示正确转换的句子的阈值处理,以及每个答案的偏移量查找。其次,我们通过涉及自动和人工评估的各种方法来验证转移句子的质量。第三,我们对新创建的语料库进行了基准测试,并进行了消融研究,以检验简化过程在基于SQuAD的问答任务中的效果。我们的实验表明,简化导致精确匹配和F1分别增加了2.04%和1.74%。最后,我们总结了传输过程的分析,研究了模型所做的编辑类型,以及句子长度对传输模型的影响。
2021-09-28 cs.CL cs.IR
Unsupervised Simplification of Legal Texts
Bilkent University(比尔肯特大学)
法律文本的处理是自然语言处理中的一个新兴领域。法律文本包含独特的术语和复杂的语言属性在词汇,语义,句法和形态。因此,特定于法律领域的文本简化(TS)方法的开发对于促进普通人对法律文本的理解以及为主流法律NLP应用程序的高级模型提供输入至关重要。虽然最近的研究提出了一个基于规则的TS方法的法律文本,学习为基础的TS在法律领域还没有被考虑以前。本文介绍了一种无监督的法律文本简化方法USLT。USLT通过替换复杂词和拆分长句来执行特定于领域的TS。为此,USLT检测句子中的复杂单词,通过掩蔽变换器模型生成候选词,并基于排名分数选择候选词进行替换。然后,USLT递归地将长句分解为较短的核心句和上下文句,同时保留语义。我们证明,USLT优于国家的最先进的领域一般TS方法在文本的简单性,同时保持语义完整。
2022-09-01 cs.AI cs.CL cs.LG
The Fewer Splits are Better: Deconstructing Readability in Sentence Splitting
National Institute of Japanese Literature(日本国立文学研究所)
在这项工作中,我们专注于句子分割,这是文本简化的一个子领域,主要是出于一个未经证实的想法,即如果你把一个句子分成几部分,它应该变得更容易理解。我们在本文中的主要目标是找出这是否是真的。特别是,我们会问,我们把一个句子分成两个还是三个句子有关系吗?我们报告了基于Amazon Mechanical Turk的研究结果。更具体地说,我们引入了贝叶斯建模框架,以进一步研究拆分复杂句子的特定方式对可读性的影响程度,以及从不同角度采用的许多其他参数,包括临床语言学和认知语言学。贝叶斯建模实验提供了明确的证据,证明将句子一分为二会在一定程度上增强可读性,而不是三分法。
2023-02-02 cs.AI cs.CL
Seq2Edits: Sequence Transduction Using Span-level Edit Operations
Google Research(谷歌研究院)
我们提出了Seq2Edits,一种开放词汇表的方法,用于自然语言处理(NLP)任务的序列编辑,输入和输出文本之间具有高度的重叠。在这种方法中,每个序列到序列的转换被表示为编辑操作的序列,其中每个操作或者用目标令牌替换整个源跨度或者保持其不变。我们在五个NLP任务(文本规范化,句子融合,句子拆分和重新措辞,文本简化和语法错误纠正)上评估了我们的方法,并全面报告了竞争结果。对于语法错误纠正,与全序列模型相比,我们的方法将推理速度提高了5.2倍,因为推理时间取决于编辑的数量,而不是目标标记的数量。对于文本规范化,句子融合和语法错误纠正,我们的方法通过将每个编辑操作与人类可读的标签相关联来提高可解释性。
2020-09-23 cs.CL
Rule-Based Approaches to Atomic Sentence Extraction
The Pennsylvania State University(宾夕法尼亚州立大学)
本研究通过分析复杂句子结构对基于规则的原子句子提取性能的影响,提出了依赖关系提取规则,并在WikiSplit数据集上实现了较高的提取准确率。
2026-01-01 cs.CL
RedPenNet for Grammatical Error Correction: Outputs to Tokens, Attentions to Spans
WebSpellChecker LLC(WebSpellChecker有限责任公司)
本文提出 RedPenNet 文本编辑方法,通过减少 Sequence-To-Edits 模型的架构与参数冗余并保留半自回归优势,在 BEA-2019 和 UAGEC+Fluency 语法纠错基准上取得领先性能,并应用于乌克兰语 GEC 任务。
2023-09-19 cs.CL