Can Knowledge Graphs Simplify Text?
The University of Florida（佛罗里达大学）；University College London（伦敦大学学院）
提出KGSimple，一种融合知识图谱技术的无监督文本简化方法，通过构建简化KG路径生成保留原意的简洁文本，实验证明其优于现有无监督方法。
2023-10-25 cs.CL
Large-scale Hierarchical Alignment for Data-driven Text Rewriting
我们提出了一种简单的无监督方法，用于从代表两种不同文本风格（如新闻文章和科学论文）的可比语料库中提取伪平行单语句子对。我们的方法不需要种子并行语料库，而是完全依赖于对预训练的文档和句子嵌入的分层搜索。我们证明了我们的方法的有效性，通过自动和外在的评价文本简化从正常的简单的维基百科。我们表明，用我们的方法提取的伪并行语句不仅补充了现有的并行数据，甚至可以导致自己的竞争性能。
2019-07-25 cs.CL
Exploiting Summarization Data to Help Text Simplification
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Center for Data Science, Peking University（北京大学数据科学中心）；The MOE Key Laboratory of Computational Linguistics, Peking University（北京大学计算语言学教育部重点实验室）
文本简化的主要问题之一是缺乏高质量的数据。简化数据集的来源仅限于维基百科和Newsela，限制了该领域的进一步发展。本文分析了文本摘要与文本简化之间的相似性，并利用摘要数据来帮助简化。首先，我们提出了一个对齐算法来提取句子对摘要数据集。然后，我们设计了四个属性来表征简化程度，并提出了一种方法来筛选合适的对。我们将这些对命名为Sum4Simp（S4S）。接下来，我们进行了人工评估，以证明S4S是高质量的，并将其与真实的简化数据集进行了比较。最后，我们进行了实验，以说明S4S可以提高几个主流的简化模型的性能，特别是在低资源的情况下。
2023-02-14 cs.AI cs.CL
EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing
MILA（MILA研究所）；McGill（麦吉尔大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
我们提出了第一个句子简化模型，通过神经程序员解释器方法学习显式编辑操作（ADD，ESTA和KEEP）。目前大多数神经句子简化系统是从机器翻译中采用的序列到序列模型的变体。这些方法学习简化句子，这是它们在复杂-简单句子对上训练的副产品。相比之下，我们的神经程序员-解释器直接接受训练，以预测对输入句子的目标部分的明确编辑操作，类似于人类可能执行简化和修改的方式。我们的模型在SARI方面（+0.95 WikiLarge，+1.89 WikiSmall，+1.41 Newsela）在三个基准文本简化语料库上的表现优于之前最先进的神经句子简化模型（没有外部知识），并且被人类判断为产生整体更好，更简单的输出句子。
2019-06-19 cs.CL
A New Dataset and Empirical Study for Sentence Simplification in Chinese
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Center for Data Science, Peking University（北京大学数据科学中心）；The MOE Key Laboratory of Computational Linguistics, Peking University（北京大学计算语言学教育部重点实验室）
针对中文句子简化数据不足的问题，本文构建 CSS 数据集，分析英汉简化差异，并评测无监督、零样本/少样本方法及大型语言模型的表现。
2023-06-07 cs.CL
Controllable Sentence Simplification: Employing Syntactic and Lexical Constraints
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
句子简化的目的是使句子更容易阅读和理解。最近的方法已经显示出有希望的结果与序列到序列的模型已经开发假设同质的目标受众。在本文中，我们认为，不同的用户有不同的简化需求（例如，诵读困难与非母语人士），并提出交叉，可控句子简化模型，它允许控制的简单程度和类型的简化。我们通过使用语法和词汇约束（可以从数据中设置或学习）丰富基于transformer的架构来实现这一点。两个基准数据集上的实证结果表明，约束是成功简化的关键，提供灵活的生成输出。
2019-10-10 cs.CL
Unsupervised Sentence Simplification Using Deep Semantics
CNRS, LORIA, UMR 7503（法国国家科学研究中心，洛林计算机科学实验室）
我们提出了一种新的方法，句子简化，从两个主要方面离开以前的工作。首先，它既不需要手写的规则，也不需要对齐的标准和简化句子的训练语料库。第二，句子分裂作用于深层语义结构。我们表明：（i）我们提出的无监督框架与四种最先进的监督系统具有竞争力;（ii）我们基于语义的方法可以有效地处理句子分割。
2016-09-07 cs.CL
Explain to me like I am five -- Sentence Simplification Using Transformers
Luddy School of Informatics, Computing, and Engineering（拉迪信息学、计算与工程学院）；Indiana University（印第安纳大学）
句子简化的目的是使文本结构更易于阅读和理解，同时保持其原始意义。这对残疾人、新语言学习者或识字率低的人很有帮助。简化通常包括删除难词和改写句子。以前的研究都集中在解决这个任务，要么使用外部语言数据库进行简化，或通过使用控制令牌所需的微调的句子。然而，在本文中，我们纯粹使用预训练的Transformer模型。我们使用GPT-2和BERT模型的组合进行了实验，在Mechanical Turk数据集上获得了46.80的最佳SARI分数，这明显优于以前的最先进结果。代码可以在https://github.com/amanbasu/sentence-simplification上找到。
2022-12-08 cs.CL
Sentence Simplification with Memory-Augmented Neural Networks
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of Massachusetts Medical School（马萨诸塞大学医学院）；Microsoft Research（微软研究院）
句子简化旨在简化复杂句子的内容和结构，从而使它们更容易为人类读者解释，并更容易为下游NLP应用程序处理。神经机器翻译的最新进展为这项任务的新方法铺平了道路。在本文中，我们采用了一种具有增强记忆能力的架构，称为神经语义编码器（Munkhdalai和Yu，2017），用于句子简化。我们的实验证明了我们的方法在不同的简化数据集上的有效性，无论是在自动评估措施和人类的判断。
2018-04-20 cs.CL
Role of Dependency Distance in Text Simplification: A Human vs ChatGPT Simplification Comparison
University of Arizona（亚利桑那大学）；Pomona College（波莫纳学院）；University of Saskatchewan（萨斯喀彻温大学）
本研究对比了人类专家与ChatGPT对220个句子的文本简化，发现人类简化句子的平均依存距离最低，ChatGPT次之，原始句子最高。
2024-05-20 cs.CL
Readability-guided Idiom-aware Sentence Simplification (RISS) for Chinese
本文提出 RISS 框架，通过可读性引导的释义选择和成语感知简化，结合多阶段多任务学习，在中文句子简化任务上超越现有最优方法。
2024-06-05 cs.CL
Neural CRF Model for Sentence Alignment in Text Simplification
The Ohio State University（俄亥俄州立大学）
文本简化系统的成功与否很大程度上取决于训练语料库中复句-单句对的质量和数量，复句-单句对是通过对齐平行文章之间的句子来提取的。为了评估和提高句子对齐质量，我们从两个常用的文本简化语料库Newsela和Wikipedia中创建了两个手动注释的对齐数据集。我们提出了一种新的神经CRF对齐模型，它不仅利用了并行文档中句子的顺序性，而且还利用了神经句子对模型来捕获语义相似性。实验表明，我们提出的方法优于所有以前的单语句子对齐任务的F1超过5点。我们应用我们的CRF对齐器来构建两个新的文本简化数据集，Newsela-Auto和Wiki-Auto，与现有的数据集相比，它们更大，质量更好。在我们的数据集上训练的基于transformer的seq 2seq模型为自动和人工评估中的文本简化建立了一个新的最先进的技术。
2021-08-30 cs.CL
Unsupervised Sentence Simplification via Dependency Parsing
Monash University（莫纳什大学）
文本简化是重写文本的任务，使其可读性和易于理解。在本文中，我们提出了一个简单而新颖的无监督句子简化系统，利用解析结构与句子嵌入产生语言有效的简化。这意味着我们的模型能够引入实质性的修改来简化句子，同时保持其原始语义和足够的流畅性。我们在TurkCorpus集上建立了39.13 SARI的无监督最先进水平，并在各种质量指标上与监督基线进行了竞争。此外，我们证明了我们的框架的可扩展性，其他语言通过越南数据的概念验证。复制代码发布在\url{https://github.com/isVy08/USDP}上。
2022-06-10 cs.CL
Discourse Level Factors for Sentence Deletion in Text Simplification
The Ohio State University（俄亥俄州立大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出了一个数据驱动的研究，重点是分析和预测句子删除-一个普遍的，但研究不足的现象，在文档简化-在一个大型的英语文本简化语料库。我们检查各种文件和话语因素与句子删除，使用一个新的手动注释句子对齐语料库，我们收集。我们发现，专业编辑使用不同的策略，以满足小学和中学的可读性标准。为了预测在简化到一定程度时句子是否会被删除，我们利用自动对齐的数据来训练分类模型。根据我们手动注释的数据进行评估，我们的最佳模型在小学和中学阶段分别达到了65.2和59.7的F1分数。我们发现，语篇层面的因素有助于预测句子删除简化的挑战性任务。
2020-08-25 cs.CL
Readability-based Sentence Ranking for Evaluating Text Simplification
Iowa State University（爱荷华州立大学）；University of Tuebingen（图宾根大学）
我们提出了一种新的方法来评估简化句子的可读性，通过成对排序。通过语料库内和跨语料库评价实验验证了该方法的有效性。该方法正确地确定了简化和未简化的句子在其阅读水平方面的排名，准确率超过80%，显着优于以往的结果。为了在句子层面上获得对简化性质的定性见解，我们研究了特定语言特征的影响。我们的经验证实，词级和句法特征在比较真实数据的简化程度中发挥作用。为了进行这项研究，我们从专业简化的新闻文章中创建了一个新的词典对齐语料库。新的语料库资源丰富了迄今为止依赖单一资源的句子级简化研究的经验基础。最重要的是，它促进了跨语料库的评估，以简化，迈向可推广的结果的关键一步。
2016-03-18 cs.CL
Towards Arabic Sentence Simplification via Classification and Generative Approaches
University of Leeds（利兹大学）；Alexandria University（亚历山大大学）
本文试图建立一个现代标准阿拉伯语（MSA）的词典级简化系统。我们使用两种方法进行了句子简化实验：（i）一种分类方法，使用Arabic-BERT，一种预先训练的上下文模型以及一种fastText词嵌入模型来实现词汇简化管道;（ii）一种生成方法，通过应用多语言文本到文本传输Transformer mT5的Seq 2Seq技术。我们通过对齐国际知名阿拉伯小说《Saaq al-Bambuu》中的原始句子和简化句子来开发我们的训练语料库。我们评估这些方法的有效性，通过比较生成的简单句子的目标简单句子使用BERTScore评价指标。通过BERTScore，mT5模型产生的简单句子达到P 0.72，R 0.68和F-1 0.70，而结合Arabic-BERT和fastText达到P 0.97，R 0.97和F-1 0.97。此外，我们报告了这些实验的手动误差分析。\url{https://github.com/Nouran-Khallaf/Lexical_Simplification}
2022-04-20 cs.CL
A Sentence Simplification System for Improving Relation Extraction
University of Passau（帕绍大学）
在这篇演示论文中，我们提出了一种文本简化方法，旨在提高最先进的开放式关系抽取（RE）系统的性能。由于句法复杂的句子往往对当前的Open RE方法构成挑战，我们开发了一个简化框架，该框架通过将单个句子作为输入并使用一组基于句法的转换规则来执行预处理步骤，以创建更容易为随后应用的Open RE系统处理的文本输入。
2017-03-27 cs.CL
Label Confidence Weighted Learning for Target-level Sentence Simplification
Guangdong University of Foreign Studies（广东外语外贸大学）
本研究提出标签置信度加权学习（LCWL）方法，将标签置信度加权方案引入编码器-解码器模型训练损失，在英语年级水平简化数据集上优于无监督基线，结合对称交叉熵微调后效果超过强监督方法，验证了该技术在文本简化任务中的有效性。
2024-10-08 cs.CL
ASSET: A Dataset for Tuning and Evaluation of Sentence Simplification Models with Multiple Rewriting Transformations
University of Sheffield（谢菲尔德大学）；Inria（法国国家信息与自动化研究所）；Facebook AI Research（Facebook人工智能研究院）；Imperial College London（帝国理工学院）
为了简化一个句子，人类编辑会执行多次重写转换：他们将其分成几个较短的句子，释义单词（即用简单的同义词替换复杂的单词或短语），重新排序组件和/或删除认为不必要的信息。尽管有这些不同范围的可能的文本更改，当前的自动句子简化模型是使用专注于单个转换（如词汇释义或拆分）的数据集进行评估的。这使得它不可能理解简化模型在更真实的设置中的能力。为了缓解这一局限性，本文介绍了ASSET，一个新的数据集评估句子简化的英语。ASSET是一个众包的多参考语料库，其中每个简化都是通过执行几个重写转换产生的。通过定量和定性实验，我们表明，简化ASSET更好地捕捉简单的特点相比，其他标准的评估数据集的任务。此外，我们激励需要开发更好的方法，使用ASSET自动评估，因为我们表明，目前流行的指标可能不适合当多个简化转换进行。
2020-05-01 cs.CL
OasisSimp: An Open-source Asian-English Sentence Simplification Dataset
本文提出OasisSimp数据集，涵盖五种语言的句子简化任务，揭示了多语言环境下低资源语言的简化挑战，为未来研究提供基准。
2026-03-14 cs.CL
Monolingual sentence matching for text simplification
Harbin University（哈尔滨学院）；University of Washington（华盛顿大学）
这项工作改进了单语句子对齐的文本简化，特别是在标准和简单的维基百科的文本。我们引入了一个卷积神经网络结构来模拟两个句子之间的相似性。由于现有并行语料库的限制，该模型采用基于知识的高性能对齐系统的输出，以半监督的方式进行训练。我们将得到的相似性得分应用于基于知识的输出，并通过一个小型手动对齐数据集来调整模型。实验表明，重评分和自适应都提高了基于知识的方法的性能。
2018-09-19 cs.CL
Iterative Edit-Based Unsupervised Sentence Simplification
University of Waterloo（滑铁卢大学）；University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所（Amii））
我们提出了一种新的迭代，基于编辑的方法来无监督的句子简化。我们的模型是由一个评分功能，涉及流畅性，简单性和意义的保存。然后，我们迭代地对复杂句子执行单词和短语级别的编辑。与以前的方法相比，我们的模型不需要一个并行的训练集，但更可控和解释。在Newsela和WikiLarge数据集上的实验表明，我们的方法几乎与最先进的监督方法一样有效。
2020-06-17 cs.CL
Sentence Simplification Aids Protein-Protein Interaction Extraction
Arizona State University（亚利桑那州立大学）
从生物医学文章中自动提取蛋白质-蛋白质相互作用（PPI）的精确系统可以帮助加速生物医学研究。生物医学信息学研究人员正在合作提供元服务，并推进PPI提取的最新技术。当前自然语言处理系统经常忽略的一个问题是生物医学文献中句子的特征复杂性。在本文中，我们报告的影响，自动简化的句子有一个国家的最先进的PPI提取系统的性能，显示了显着改善召回（8%）时，句子简化方法的应用，没有显着影响精度。
2010-01-24 cs.CL
Seq2Edits: Sequence Transduction Using Span-level Edit Operations
Google Research（谷歌研究院）
我们提出了Seq2Edits，一种开放词汇表的方法，用于自然语言处理（NLP）任务的序列编辑，输入和输出文本之间具有高度的重叠。在这种方法中，每个序列到序列的转换被表示为编辑操作的序列，其中每个操作或者用目标令牌替换整个源跨度或者保持其不变。我们在五个NLP任务（文本规范化，句子融合，句子拆分和重新措辞，文本简化和语法错误纠正）上评估了我们的方法，并全面报告了竞争结果。对于语法错误纠正，与全序列模型相比，我们的方法将推理速度提高了5.2倍，因为推理时间取决于编辑的数量，而不是目标标记的数量。对于文本规范化，句子融合和语法错误纠正，我们的方法通过将每个编辑操作与人类可读的标签相关联来提高可解释性。
2020-09-23 cs.CL
Simplicity Level Estimate (SLE): A Learned Reference-Less Metric for Sentence Simplification
Université de Lorraine（洛林大学）；CNRS/LORIA（法国国家科学研究中心/洛林计算机科学及其应用实验室）；Centrale Supélec（巴黎中央理工-高等电力学院）
针对句子简化评估缺乏参考和指标混淆的问题，提出学习型无参考指标SLE，专注简洁性，与人类判断相关性优于现有指标。
2023-10-12 cs.CL
Edit Policy-Aligned Text Simplification
The University of Osaka（大阪大学）；Institute of Science Tokyo（东京科学研究所）；NTT Inc.（日本电报电话公司）
本文提出利用LLM作为评判者自动构建政策一致的训练数据，实现无需人工标注或平行语料库的句子简化系统，实验表明其在词法简化和整体重写任务上均优于现有方法。
2026-10-22 cs.CL
Controllable Sentence Simplification
Facebook AI Research（Facebook人工智能研究院）；Inria（法国国家信息与自动化研究所）
文本简化的目的是通过简化语法和结构，使文本更容易阅读和理解，同时保持基本信息的一致性。它通常被认为是一个通用的通用任务，其中同样的简化适用于所有人;然而，多种受众可以以不同的方式从简化的文本中受益。我们适应离散参数化机制，提供显式控制的简化系统的基础上序列到序列模型。因此，用户可以根据诸如长度、释义量、词汇复杂性和句法复杂性等属性来调整模型返回的简化。我们还表明，精心选择的值，这些属性允许开箱即用的序列到序列模型，以超越他们的标准同行的简化基准。我们的模型，我们称之为ACCESS（作为AudienCe-Centric Sentence Simplification的简写），在WikiLarge测试集上建立了41.87 SARI的最新水平，比之前报道的最佳分数提高了1.42。
2020-04-20 cs.CL
Improving Neural Text Simplification Model with Simplified Corpora
Yangzhou University（扬州大学）
文本简化（TS）可以被视为单语翻译任务，在一种语言中的文本变体之间进行翻译。最近的神经TS模型借鉴了神经机器翻译的见解，使用编码器-解码器模型来学习词汇简化和内容缩减。但与神经机器翻译不同的是，我们无法获得足够的普通和简化的句子对TS，这是昂贵的和耗时的建设。目标方简化句子在提高统计TS的流畅性方面起着重要作用，我们研究了使用简化句子进行训练，而不改变网络架构。我们建议通过反向翻译将简单的训练语句与合成的普通语句配对，并将该合成数据视为附加的训练数据。我们使用合成句子对和原始句子对来训练编码器-解码器模型，与现有的方法相比，该方法可以在可用的WikiLarge数据和WikiSmall数据上获得实质性的改进。
2018-10-10 cs.CL
DEPLAIN: A German Parallel Corpus with Intralingual Translations into Plain Language for Sentence and Document Simplification
Heinrich Heine University（海因里希·海涅大学）
本文提出德语简明语言平行语料库DEplain，包含新闻和网络领域的文档及句子对齐数据，并通过网络抓取与自动对齐动态扩展语料，实验证明其能有效训练基于transformer的文本简化模型。
2023-05-30 cs.CL
EASSE: Easier Automatic Sentence Simplification Evaluation
University of Sheffield（谢菲尔德大学）；Facebook AI Research（Facebook人工智能研究院）；Inria（法国国家信息与自动化研究所）；Imperial College London（帝国理工学院）
我们介绍了EASSE，一个Python软件包，旨在促进和简化句子简化（SS）系统的自动评估和比较。EASSE提供了一个单一的访问点，以广泛的评估资源：标准的自动度量评估SS输出（如SARI），单词级的准确性分数为某些简化转换，参考独立的质量估计功能（如压缩比），和标准的测试数据的SS评估（如TurkCorpus）。最后，EASSE生成关于上述各种指标和特性的易于可视化的报告，以及关于特定SS输出如何对抗参考简化的报告。通过实验，我们表明，这些功能可以更好地比较和理解SS系统的性能。
2019-09-13 cs.CL
Sentence Simplification Using Paraphrase Corpus for Initialization
Yangzhou University（扬州大学）
本文提出利用复述语料构建伪平行数据并初始化神经句子简化模型，在WikiLarge上显著提升三种序列到序列方法的性能。
2023-05-31 cs.CL
Towards Effective Sentence Simplification for Automatic Processing of Biomedical Text
Arizona State University（亚利桑那州立大学）
生物医学文章特有的句子的复杂性对自然语言解析器提出了挑战，自然语言解析器通常在非技术文本的大规模语料库上进行训练。我们提出了一个文本简化过程，生物医学，旨在降低句子的复杂性，在生物医学摘要，以提高处理后的句子的句法分析器的性能。句法分析通常是文本挖掘管道中的第一步。因此，性能的任何改进都会对所有处理步骤产生连锁反应。我们评估我们的方法使用语料库的生物医学句子注释的句法链接。我们的实证结果表明，当处理简化的句子，而不是原来的句子在语料库中的Charniak-McClosky分析器和4.23%的链接语法分析器的2.90%的改善。
2010-01-24 cs.CL
Complexity-Weighted Loss and Diverse Reranking for Sentence Simplification
University of Pennsylvania（宾夕法尼亚大学）；LIMSI, CNRS, Université Paris-Saclay（巴黎-萨克雷大学法国国家科学研究中心LIMSI实验室）；Univ. Paris Diderot（巴黎狄德罗大学）；Choosito, Inc.（Choosito公司）
句子简化是重写文本的任务，因此它们更容易理解。最近的研究已经将序列到序列（Seq2Seq）模型应用于这一任务，主要集中在通过强化学习和记忆增强来改善训练时间。应用通用Seq2Seq模型进行简化的主要问题之一是，这些模型倾向于直接从原始句子复制，导致输出相对较长且复杂。我们的目标是通过使用两种主要技术来缓解这个问题。首先，我们在训练过程中将内容词复杂度（如用水平词复杂度模型预测的）纳入我们的损失函数。其次，我们在测试时生成一个大的不同的候选简化集，并重新排列这些以促进流畅性，充分性和简单性。在这里，我们通过一个新的句子复杂度模型来衡量简单性。这些扩展使我们的模型能够与最先进的系统竞争，同时生成更简单的句子。我们报告标准的自动和人工评估指标。
2019-04-04 cs.CL
BioSimplify: an open source sentence simplification engine to improve recall in automatic biomedical information extraction
Department of Biomedical Informatics, Arizona State University（亚利桑那州立大学生物医学信息学系）
Biocompatibility是一个用Java编写的开源工具，它引入并促进了一种用于自动话语分析和信息抽取的句子简化新模型的使用（与用于提高人类可读性的句子简化相反）。该模型基于一种“猎枪”方法，通过组合其组成要素的变体，产生原始句子的许多不同（更简单）版本。该工具针对处理生物医学科学文献进行了优化，例如PubMed中索引的摘要。我们测试了我们的工具对PPI提取任务的影响，它将PPI工具的f分数提高了约7%，召回率提高了约20%。生物统计工具和测试语料库可以从https://biosimplify.sourceforge.net下载。
2011-07-28 cs.CL
Let's Simplify Step by Step: Guiding LLM Towards Multilingual Unsupervised Proficiency-Controlled Sentence Simplification
Department of Computer Science, School of Information Science and Technology, Guangdong University of Foreign Studies（计算机科学系，信息科学与技术学院，广东外语外贸大学）；College of Intelligence and Computing, Tianjin University（智能与计算学院，天津大学）；Lionrock AI Lab, China Merchants Research Institute of Advanced Technology（Lionrock AI实验室，中国远洋科技研究院）
本文提出一种多语言无监督句子简化框架，通过分步骤简化提升控制能力，但发现保持语义忠实仍具挑战性。
2026-02-07 cs.CL
Context-Aware Document Simplification
Université de Lorraine（洛林大学）；CNRS/LORIA（法国国家科学研究中心/洛林计算机科学及其应用实验室）；Centrale Supélec（巴黎中央理工-高等电力学院）
本文提出在文档简化过程中融入上下文信息的方法，通过迭代更大文本单元或扩展架构关注文档上下文，实现无需计划指导的最先进性能，并探讨了性能与效率的权衡。
2023-05-10 cs.CL
MUSS: Multilingual Unsupervised Sentence Simplification by Mining Paraphrases
Facebook AI Research（Facebook AI研究院）；Inria（法国国家信息与自动化研究所）；LORIA（洛林计算机科学实验室）
句子简化的进展一直受到缺乏标记的并行简化数据的阻碍，特别是在英语以外的语言中。我们介绍MUSS，一个多语言无监督句子简化系统，不需要标记的简化数据。MUSS使用了一种新的句子简化方法，该方法使用句子级别的释义数据而不是适当的简化数据来训练强大的模型。这些模型利用无监督预训练和可控生成机制，在推理时灵活调整长度和词汇复杂度等属性。我们进一步提出了一种方法来挖掘这样的释义数据，在任何语言的公共爬行使用语义句子嵌入，从而消除了对标记数据的需要。我们在英语，法语和西班牙语的简化基准上评估了我们的方法，并与之前的最佳监督结果密切匹配或优于之前的最佳监督结果，尽管没有使用任何标记的简化数据。我们通过合并标记的简化数据进一步推动了最先进的技术。
2021-04-16 cs.CL cs.LG
Neural semi-Markov CRF for Monolingual Word Alignment
Ohio State University（俄亥俄州立大学）；Georgia Institute of Technology（佐治亚理工学院）
单语单词对齐对于研究细粒度编辑操作（即，删除，添加和替换）在文本到文本生成任务，如释义生成，文本简化，中和偏见的语言等，在本文中，我们提出了一种新的神经半马尔可夫CRF对齐模型，通过可变长度跨度统一的单词和短语对齐。我们还创建了一个新的基准与人类注释，涵盖四种不同的文本类型，以评估单语词对齐模型在更现实的设置。实验结果表明，我们提出的模型优于所有以前的单语词对齐方法，以及竞争性的基于QA的基线，这是以前只适用于双语数据。我们的模型对三个域外数据集表现出良好的泛化能力，并在两个下游应用中表现出很大的实用性：自动文本简化和句子对分类任务。
2021-06-16 cs.CL
Context-Preserving Text Simplification
University of St.Gallen（圣加仑大学）；University of Passau（帕绍大学）；University of Manchester（曼彻斯特大学）
我们提出了一个上下文保持文本简化（TS）的方法，递归地分裂和重组复杂的英语句子简化句子的语义层次结构。使用一组语言学原则的转换模式，输入的句子被转换成一个层次表示的核心句子和伴随的上下文，通过修辞关系连接的形式。因此，相对于以前提出的句子分割方法，通常不考虑话语层面的方面，我们的TS方法保留了输出中的分解成分的语义关系。与RST-DT中包含的注释的比较分析表明，我们能够以89%的精度捕获分裂句子之间的上下文层次结构，并且对于它们之间的修辞关系的分类，平均精度达到69%。
2021-05-24 cs.CL
Integrating Transformer and Paraphrase Rules for Sentence Simplification
School of Computing and Information（计算与信息学院）；School of Health and Rehabilitation Sciences（健康与康复科学学院）；University of Pittsburgh（匹兹堡大学）
句子简化的目的是减少句子的复杂性，同时保留其原始意义。现有的句子简化模型借鉴了机器翻译研究的思想，并从普通简单句对中隐式学习简化映射规则。在本文中，我们探索了一种新的模型的基础上，多层和多头注意力架构，我们提出了两个创新的方法来集成简单的PPDB（一个释义数据库简化），一个外部释义知识库的简化，涵盖了广泛的现实世界的简化规则。实验结果表明，该集成模型具有两个主要优点：（1）集成模型的性能优于文献中的多个最先进的句子简化基线模型;（2）通过对规则利用率的分析，该模型寻求选择更准确的简化规则。本文中使用的代码和模型可在https://github.com/ Sanqiang/text_simplification上获得。
2018-10-26 cs.AI cs.CL
Sentence Simplification via Large Language Models
Yangzhou University（扬州大学）
句子简化的目的是将复杂的句子改写成简单的句子，同时保留原来的意思。大语言模型（LLM）已经展示了执行各种自然语言处理任务的能力。然而，目前还不知道LLM是否可以作为一个高质量的句子简化系统。在这项工作中，我们经验分析零/少样本学习能力的LLM通过评估他们的一些基准测试集。实验结果表明，LLM优于最先进的句子简化方法，并被判断为与人类注释者相当。
2023-02-23 cs.AI cs.CL
LLM-Guided Planning and Summary-Based Scientific Text Simplification: DS@GT at CLEF 2025 SimpleText
Georgia Institute of Technology（佐治亚理工学院）
本文提出一种基于大语言模型的两阶段科学文本简化框架，先通过LLM生成结构化规划或文档摘要，再据此引导句子级和文档级简化，以提升简化结果的连贯性与上下文忠实度。
2025-08-15 cs.CL
Analysing Zero-Shot Readability-Controlled Sentence Simplification
School of Computer Science and Informatics, Cardiff University（卡迪夫大学计算机科学与信息学院）；Faculty of Computing and Information Technology, King Abdulaziz University（阿卜杜勒阿齐兹大学计算与信息技术学院）
本研究分析零样本可读性受控句子简化，发现指令微调大模型难以简化至低可读性，且需定制评估指标。
2024-12-16 cs.CL
Enhancing Pre-trained Language Model with Lexical Simplification
Shanghai Jiao Tong University（上海交通大学）
对于人类读者和预训练的语言模型（PrLM），词汇多样性可能会导致理解给定句子的潜在语义时的混乱和不准确。通过用简单的替代词代替复杂的词，词汇简化（LS）是一种公认的减少词汇多样性的方法，从而提高句子的可理解性。在本文中，我们利用LS，并提出了一种新的方法，可以有效地提高性能的PrLM在文本分类。基于规则的简化过程应用于给定的句子。PrLM被鼓励预测的真实标签与辅助输入的简化版本的给定的句子。使用强PrLM（BERT和ELECTRA）作为基线，我们的方法仍然可以进一步提高各种文本分类任务的性能。
2020-12-30 cs.CL
Sentence Simplification with Deep Reinforcement Learning
University of Edinburgh（爱丁堡大学）
句子简化的目的是使句子更容易阅读和理解。最新的方法借鉴了机器翻译的见解，从复杂和简单句子的单语语料库中学习简化重写。我们用一个编码器-解码器模型和一个深度强化学习框架来解决简化问题。我们的模型，我们称之为{ \sc Dress}（作为{ \bf D}eep { \bf RE}隐含{ \bf S}句子{ \bf S}隐含的简写），探索可能的简化空间，同时学习优化奖励函数，鼓励简单，流畅的输出，并保留输入的意义。三个数据集上的实验表明，我们的模型优于竞争简化系统。
2017-07-16 cs.CL cs.LG
Semi-Supervised Text Simplification with Back-Translation and Asymmetric Denoising Autoencoders
Shanghai Jiao Tong University（上海交通大学）
文本简化（TS）将长句重组为简化的变体，同时保留固有的语义。传统的序列到序列模型严重依赖于平行句的数量和质量，这限制了它们在不同语言和领域的适用性。本文研究了如何在TS任务中利用大量的非配对语料。我们在无监督机器翻译（NMT）中采用了反向翻译架构，包括用于语言建模的去噪自动编码器和通过迭代反向翻译自动生成并行数据。然而，如果我们直接将简单语料集和复杂语料集视为两种不同的语言，则生成适当的复杂-简单对是不平凡的，因为这两种类型的句子非常相似，并且模型难以捕捉不同类型句子的特征。为了解决这个问题，我们提出了不同复杂度的句子的非对称去噪方法。当使用自动编码器对简单和复杂句子进行建模时，我们会在训练过程中引入不同类型的噪声。这种方法可以显著提高简化性能。我们的模型可以以无监督和半监督的方式进行训练。自动和人工评估表明，我们的无监督模型优于以前的系统，并且在有限的监督下，我们的模型可以与多个最先进的简化系统竞争。
2020-04-30 cs.CL
Edit-Constrained Decoding for Sentence Simplification
LY Corporation（LY公司）；Tokyo Institute of Technology（东京工业大学）；Ehime University（爱媛大学）
本文提出基于编辑操作的词汇受限解码方法，通过复现简化编辑操作并设定更严格的约束满足条件，在三个英文句子简化语料库上一致超越先前方法。
2024-09-28 cs.AI cs.CL
UM_FHS at the CLEF 2025 SimpleText Track: Comparing No-Context and Fine-Tune Approaches for GPT-4.1 Models in Sentence and Document-Level Text Simplification
University of Maribor, Faculty of Health Science（马里博大学健康科学学院）；University of Ljubljana, Faculty of Medicine（卢布尔雅那大学医学院）；University of Edinburgh, Usher Institute（爱丁堡大学usher研究所）
UM_FHS在CLEF 2025 SimpleText赛道上比较了GPT-4.1模型在句子和文档级文本简化中的无上下文与微调方法，发现无上下文方法在两个层级上表现稳健，而微调方法在文档级简化中表现突出。
2025-12-18 cs.CL
EASSE-DE: Easier Automatic Sentence Simplification Evaluation for German
Heinrich Heine University Düsseldorf（杜塞尔多夫海因里希·海涅大学）
本文提出多语言自动句子简化评估框架 EASSE-multi，并以德语版本 EASSE-DE 为例，通过比较不同语言和分词设置下的评估结果，为提升德语文本简化模型评估的透明性与可比性提供建议。
2024-04-05 cs.CL
A Constrained Sequence-to-Sequence Neural Model for Sentence Simplification
Institute of Computer Science and Technology, Peking University（北京大学计算机科学技术研究所）
句子简化降低了语义复杂性，使语言障碍者受益。前人在句子层面和词层面上的简化研究取得了可喜的成果，但也面临着巨大的挑战。对于初级水平的学习，简化后的句子是流畅的，但有时并不是真正的简化。对于词汇层面的研究，词汇被简化，但由于简化前后词汇的不同用法，也存在潜在的语法错误。在本文中，我们提出了一个两步简化框架相结合的词级和词级简化，利用各自的优势。基于两步框架，我们实现了一种新的约束神经生成模型，以简化句子给定简化词。维基百科和简单维基百科对齐数据集上的最终结果表明，我们的方法比各种基线产生更好的性能。
2017-04-07 cs.AI cs.CL cs.NE
Rethinking the Reasonability of the Test Set for Simultaneous Machine Translation
Xiaomi（小米）
同步机器翻译（SimulMT）模型在源句子结束之前开始翻译，使翻译与源句子单调对齐。然而，一般的整句翻译测试集是通过离线翻译整个源句子获得的，这不是为SimulMT评估而设计的，这让我们重新思考这是否会低估SimulMT模型的性能。本文在MuST-C英汉测试集的基础上，手工标注了一个单调测试集SiMuST-C。我们的人类评估证实了我们的注释测试集的可接受性。三个不同的SimulMT模型的评估验证，低估的问题，可以减轻我们的测试集。进一步的实验表明，在自动提取的单调训练集上进行微调可以将SimulMT模型提高多达3个BLEU点。
2023-03-13 cs.CL
Elaborative Simplification: Content Addition and Explanation Generation in Text Simplification
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
现代文本简化的研究主要集中在简化层次上，将原始的、更复杂的句子转化为简化的版本。然而，当需要解释困难的概念和推理时，添加内容通常是有用的。在这项工作中，我们提出了第一个数据驱动的研究内容添加文本简化，我们称之为精心简化。我们引入了一个新的注释数据集的1.3K例精心简化的Newsela语料库，并分析如何通过上下文特异性的镜头，实体，想法和概念进行阐述。我们使用大规模预训练的语言模型建立了细化生成的基线，并证明在生成过程中考虑上下文特异性可以提高性能。我们的研究结果说明了精细简化的复杂性，为未来的工作提出了许多有趣的方向。
2021-06-03 cs.CL
DisSim: A Discourse-Aware Syntactic Text Simplification Frameworkfor English and German
University of St.Gallen（圣加仑大学）；University of Passau（帕绍大学）；University of Manchester（曼彻斯特大学）
我们介绍了DisSim，一个话语意识的句子分裂框架，英语和德语，其目标是转换成一个中间表示，提出了一个简单的，更规则的结构，更容易处理的下游语义应用句法复杂的句子。为此，我们把输入的句子成一个两层的语义层次结构的形式的核心事实和伴随的上下文，同时确定它们之间的修辞关系。通过这种方式，我们保留了输入的连贯性结构，从而保留了其对下游任务的可解释性。
2019-09-26 cs.CL
Rethinking Data Augmentation for Low-Resource Neural Machine Translation: A Multi-Task Learning Approach
Universitat d’Alacant（阿利坎特大学）
在神经机器翻译的上下文中，当可用并行数据稀缺时，数据增强（DA）技术可用于生成附加训练样本。许多DA方法旨在通过生成包含不频繁单词的新句子对来扩展经验数据分布的支持，从而使其更接近并行句子的真实数据分布。在本文中，我们建议遵循一个完全不同的方法，并提出了一个多任务DA方法，在该方法中，我们生成新的句子对转换，如反转的目标句子，产生不流利的目标句子的顺序。在训练过程中，这些增强的句子被用作多任务框架中的辅助任务，目的是提供新的上下文，其中目标前缀的信息量不足以预测下一个单词。这加强了编码器，并迫使解码器更加关注编码器的源表示。在六个低资源翻译任务上进行的实验表明，与基线和DA方法相比，旨在扩展对经验数据分布的支持的改进是一致的。用我们的方法训练的系统更多地依赖于源令牌，对域转移更鲁棒，并且遭受更少的幻觉。
2021-09-08 cs.CL
