Zero-shot Large Language Models for Automatic Readability Assessment
New Jersey Institute of Technology（新泽西理工学院）
本文提出零样本提示方法用于自动可读性评估，并首次全面评估了使用大语言模型作为无监督方法的性能，通过测试10种不同开源大语言模型在14种不同数据集上的表现，证明了方法在14个数据集中优于先前方法，同时提出LAURAE结合LLM和可读性公式得分提升鲁棒性。
2026-04-27 cs.CL
The Accuracy, Robustness, and Readability of LLM-Generated Sustainability-Related Word Definitions
Stanford University（斯坦福大学）
本研究比较了300个IPCC官方定义与GPT-4o-mini等三个LLM生成的定义，发现模型依从性为0.57-0.59±0.15且可读性较低，但能识别需标准化的歧义术语，强调需将模型输出与既定术语对齐以支持环境话语。
2025-02-02 cs.CL
A Corpus for Automatic Readability Assessment and Text Simplification of German
University of Zurich（苏黎世大学）
在本文中，我们提出了一个语料库，用于自动可读性评估和自动文本简化的德语。该语料库由网络来源汇编而成，约有211 000句。作为一个新的贡献，它包含了文本结构，排版和图像的信息，可以利用作为机器学习方法的可读性评估和文本简化的一部分。本出版物的重点是将这些信息表示为对现有语料库标准的扩展。
2019-09-19 cs.CL
PlainMedScale: A Corpus of Multi-Level Simplified Medical Texts in German and English
Heidelberg University（海德堡大学）
本研究构建了德语和英语的多级别简化医学语料库PlainMedScale，开展试点研究发现现有可读性指标无法跨层级泛化、SOTA开放权重LLM的Plain Language提示仍保留部分输入难度，并公开了代码与数据。
2026-08-04 cs.CL
PEACH: A sentence-aligned Parallel English-Arabic Corpus for Healthcare
University of Sharjah（沙迦大学）
本文介绍PEACH，一个句子对齐的英阿平行医疗语料库，含51,671个平行句，用于语言对比、翻译研究及NLP，并支持领域机器翻译等应用。
2025-08-07 cs.CL
Can LLMs capture stable human-generated sentence entropy measures?
Ludwig Maximilian University（路德维希·马克西米利安大学）；Technical University of Munich（慕尼黑工业大学）
研究通过实验证明大语言模型在捕捉人类生成句子熵方面的能力，发现GPT-4o与人类数据最一致，但LLMs无法完全替代稳定的人类分布。
2026-02-04 cs.CL
Quantitative Measurement of Language Distance among Closely Related Indo-European Languages Using Pretrained Language Models: A Case Study on the North Germanic Branch
Guangdong Haiqixing Marine Technology Co., Ltd.（广东海启星海洋科技有限公司）
本文提出基于预训练语言模型的三种度量框架，定量测量丹麦语、挪威语和瑞典语的语言距离，结果与历史语言学结论一致，为近亲语言距离研究提供可复现计算框架。
2026-09-29 cs.CL
Let's Simplify Step by Step: Guiding LLM Towards Multilingual Unsupervised Proficiency-Controlled Sentence Simplification
Department of Computer Science, School of Information Science and Technology, Guangdong University of Foreign Studies（计算机科学系，信息科学与技术学院，广东外语外贸大学）；College of Intelligence and Computing, Tianjin University（智能与计算学院，天津大学）；Lionrock AI Lab, China Merchants Research Institute of Advanced Technology（Lionrock AI实验室，中国远洋科技研究院）
本文提出一种多语言无监督句子简化框架，通过分步骤简化提升控制能力，但发现保持语义忠实仍具挑战性。
2026-02-07 cs.CL
Guidelines for Fine-grained Sentence-level Arabic Readability Annotation
Computational Approaches to Modeling Language Lab, New York University Abu Dhabi（纽约大学阿布扎克分校计算语言学建模实验室）；Zai Arabic Language Research Centre, Zayed University（扎伊阿拉伯语言研究中心，扎耶德大学）；Abu Dhabi Arabic Language Centre（阿布扎克阿拉伯语言中心）
本文介绍面向阿拉伯语细粒度句子级可读性评估的 BAREC 语料库及其标注指南，涵盖19级、69,441句，并验证标注一致性与自动模型基准。
2025-06-11 cs.CL
Readability-based Sentence Ranking for Evaluating Text Simplification
Iowa State University（爱荷华州立大学）；University of Tuebingen（图宾根大学）
我们提出了一种新的方法来评估简化句子的可读性，通过成对排序。通过语料库内和跨语料库评价实验验证了该方法的有效性。该方法正确地确定了简化和未简化的句子在其阅读水平方面的排名，准确率超过80%，显着优于以往的结果。为了在句子层面上获得对简化性质的定性见解，我们研究了特定语言特征的影响。我们的经验证实，词级和句法特征在比较真实数据的简化程度中发挥作用。为了进行这项研究，我们从专业简化的新闻文章中创建了一个新的词典对齐语料库。新的语料库资源丰富了迄今为止依赖单一资源的句子级简化研究的经验基础。最重要的是，它促进了跨语料库的评估，以简化，迈向可推广的结果的关键一步。
2016-03-18 cs.CL
Readability-guided Idiom-aware Sentence Simplification (RISS) for Chinese
本文提出 RISS 框架，通过可读性引导的释义选择和成语感知简化，结合多阶段多任务学习，在中文句子简化任务上超越现有最优方法。
2024-06-05 cs.CL
MedReadMe: A Systematic Study for Fine-grained Sentence Readability in Medical Domain
College of Computing（计算机学院）；Georgia Institute of Technology（佐治亚理工学院）
本文构建含4520句细粒度标注的 MedReadMe 数据集，系统评估并改进医学文本句子可读性方法，发现术语片段数量特征可显著提升公式与人类判断的相关性。
2024-10-28 cs.CL
Lexicon-Enriched Graph Modeling for Arabic Document Readability Prediction
Ulm University（乌尔姆大学）；German University in Cairo（开罗德国大学）
面向BAREC 2025受限赛道，本文提出SAMER词典与阿拉伯语transformer增强的句子图模型，通过GNN与编码器双分支后期融合及最大池化预测文档可读性。
2025-09-26 cs.CL
Historical German Text Normalization Using Type- and Token-Based Language Modeling
Julius-Maximilians-Universität Würzburg（维尔茨堡大学）
针对历史德语拼写变体问题，提出结合编码器-解码器与因果语言模型的Transformer规范化系统，在1700-1900年文学文本上达到最先进准确性，但泛化与数据仍具挑战。
2025-02-25 cs.CL
Large Language Models Discriminate Against Speakers of German Dialects
Johannes Gutenberg University Mainz（明斯特-贾格施泰因大学）；Data Science Group, University of Hamburg（汉堡大学数据科学组）；Allen Institute for AI（人工智能研究所）；University of Washington（华盛顿大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）
本研究发现大型语言模型在关联和决策任务中对德语方言使用者表现出显著的方言命名和使用偏见，且明确标注语言人口统计信息比隐式线索更能放大这种偏见。
2025-09-17 cs.CL
The Fewer Splits are Better: Deconstructing Readability in Sentence Splitting
National Institute of Japanese Literature（日本国立文学研究所）
在这项工作中，我们专注于句子分割，这是文本简化的一个子领域，主要是出于一个未经证实的想法，即如果你把一个句子分成几部分，它应该变得更容易理解。我们在本文中的主要目标是找出这是否是真的。特别是，我们会问，我们把一个句子分成两个还是三个句子有关系吗？我们报告了基于Amazon Mechanical Turk的研究结果。更具体地说，我们引入了贝叶斯建模框架，以进一步研究拆分复杂句子的特定方式对可读性的影响程度，以及从不同角度采用的许多其他参数，包括临床语言学和认知语言学。贝叶斯建模实验提供了明确的证据，证明将句子一分为二会在一定程度上增强可读性，而不是三分法。
2023-02-02 cs.AI cs.CL
Novels generated by language models show compressed formal variation
University of Maryland（马里兰大学）；University of West Bohemia（西波希米亚大学）；Charles University（查理大学）
该研究对比不同模型生成及人类撰写的小说语料库，发现AI生成小说的形式多样性被压缩，句子结构等指标的变异性远低于人类小说，且存在方差与相关性过度封闭现象。
2026-08-14 cs.AI cs.CL
Book Success Prediction with Pretrained Sentence Embeddings and Readability Scores
The University of Michigan（密歇根大学）；University of Louisiana at Lafayette（路易斯安那大学拉法叶分校）
提前预测一本书的潜在成功在许多应用中至关重要。这可以帮助出版商和读者分别决定一本书是否值得出版和阅读。在本文中，我们提出了一个模型，该模型利用预训练的句子嵌入以及各种可读性分数来预测书籍的成功。与以前的方法不同，所提出的方法不需要计数为基础的，词汇，或句法功能。相反，我们在预训练的句子嵌入上使用卷积神经网络，并通过简单的连接操作利用不同的可读性分数。我们提出的模型优于强大的基线为这个任务高达6.4\%F1分数点。此外，我们的实验表明，根据我们的模型，只有前1K个句子足以预测书籍的潜在成功。
2021-10-05 cs.AI cs.CL
Datasets for Verb Alternations across Languages: BLM Templates and Data Augmentation Strategies
本文提出四个语言的 curated 数据集，用于探索动词变体的跨句知识，通过 BLM 任务和数据增强策略评估模型性能。
2026-03-16 cs.CL cs.DB
GLIMMER: Incorporating Graph and Lexical Features in Unsupervised Multi-Document Summarization
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；School of Information Technology, Deakin University（迪肯大学信息技术学院）；Department of Computer Science, Beijing Technology and Business University（北京工商大学计算机学院）
针对预训练多文档摘要模型依赖大规模语料、领域受限，传统无监督方法易丢失信息的问题，提出融合图与词汇特征的轻量无监督方法GLIMMER，在多个数据集上性能优于现有无监督方法，零样本下ROUGE得分超越主流预训练模型。
2024-08-19 cs.CL
GEE! Grammar Error Explanation with Large Language Models
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；QuillBot（QuillBot公司）
针对语法纠错工具缺乏自然语言解释的问题，提出语法错误解释任务，构建两步流水线（结构化原子编辑提取+GPT-4生成解释），在德语和中文数据上分别达到93.9%和98.0%的正确解释率。
2023-11-16 cs.CL
Datasets for Multilingual Answer Sentence Selection
University of Trento（特伦托大学）；Polytechnic University of Turin（都灵理工大学）；University of Padua（帕多瓦大学）；Amazon Alexa AI（亚马逊Alexa人工智能部门）
针对非英语 AS2 标注数据不足的问题，本文利用 LLM 有监督翻译英语数据集，构建五种欧洲语言的高质量数据集，并通过多类 Transformer 实验验证其可提升多语言模型性能。
2024-06-14 cs.CL
Gaze-Driven Sentence Simplification for Language Learners: Enhancing Comprehension and Readability
Waseda University（早稻田大学）；Waseda Research Institute for Science and Engineering（早稻田大学科学与工程研究院）
针对语言学习者阅读难文查字典耗时分心的问题，提出结合眼动与语言特征、用GPT-3.5生成简化句的视线驱动句子简化系统，经19名学习者实验验证可准确评估理解度并提升可读性。
2023-09-30 cs.CL cs.HC
A Simple Post-Processing Technique for Improving Readability Assessment of Texts using Word Mover's Distance
National University（国立大学）；De La Salle University（德拉萨大学）
一般来说，评估阅读材料或文本的适当难度是有效理解和学习的第一步。在这项研究中，我们改进了传统的自动可读性评估方法，将排名文本的词移动者的距离（WMD）作为一个额外的后处理技术，以进一步地面模型给出的难度水平。我们在菲律宾语、德语和英语三种多语言数据集上的实验结果表明，后处理技术的性能优于之前使用SVM的普通模型和基于排名的模型。
2021-09-19 cs.CL
QuanLing: Cross-Branch Validation of Language Distance Quantification on Western Romance
Guangdong Haiqixing Marine Technology Co., Ltd.（广东海启星海洋科技有限公司）
本文通过将QuanLing框架扩展到西罗曼语支（法、葡、西、意），验证了其跨分支适用性，发现葡西最接近、法意最远，且与北日耳曼语结果一致，证明其泛化能力。
2026-10-08 cs.AI cs.CL
LibriVoxDeEn: A Corpus for German-to-English Speech Translation and German Speech Recognition
Heidelberg University（海德堡大学）；Computational Linguistics（计算语言学）；IWR Heidelberg University（海德堡大学IWR研究所）
我们提出了一个语料库的德语音频，德语文本，英语翻译，德语有声读物的基础上，对齐的三元组。语音翻译数据由110小时的音频材料组成，与超过50 k个平行句子对齐。包括与德语文本对齐的547小时德语语音的甚至更大的数据集可用于语音识别。音频数据是读语音，因此不流利程度低。音频和句子对齐的质量已经通过人工评估进行了检查，表明语音对齐质量通常非常高。句子对齐质量与常用的平行翻译数据相当，并且可以通过自动对齐分数的截止值进行调整。据我们所知，该语料库是迄今为止最大的德语语音识别和端到端德语到英语语音翻译资源。
2020-03-04 cs.CL
Hierarchical Ranking Neural Network for Long Document Readability Assessment
School of Computer Science and Cyber Engineering（计算机科学与网络安全学院）；Guangzhou University（广州大学）
本文提出一种层次化排序神经网络，通过捕捉上下文信息和顺序关系，提升长文档的可读性评估性能。
2025-11-26 cs.AI cs.CL
DEPLAIN: A German Parallel Corpus with Intralingual Translations into Plain Language for Sentence and Document Simplification
Heinrich Heine University（海因里希·海涅大学）
本文提出德语简明语言平行语料库DEplain，包含新闻和网络领域的文档及句子对齐数据，并通过网络抓取与自动对齐动态扩展语料，实验证明其能有效训练基于transformer的文本简化模型。
2023-05-30 cs.CL
Subjective Assessment of Text Complexity: A Dataset for German Language
Technische Universität Berlin（柏林工业大学）；DFKI Projektbüro Berlin（德国人工智能研究中心柏林项目办公室）
本文介绍了TextComplexityDE，一个数据集，包括1000个句子的德语取自23个维基百科的文章在3个不同的文章类型，用于开发文本复杂度预测模型和自动文本简化德语。该数据集包括由A级和B级德语学习者提供的不同文本复杂性方面的主观评估。此外，它还包括对母语者提供的250个句子进行人工简化，以及目标群体参与者对简化句子的主观评估。主观评分是使用实验室研究和众包方法收集的。
2019-04-16 cs.CL
EASSE-DE: Easier Automatic Sentence Simplification Evaluation for German
Heinrich Heine University Düsseldorf（杜塞尔多夫海因里希·海涅大学）
本文提出多语言自动句子简化评估框架 EASSE-multi，并以德语版本 EASSE-DE 为例，通过比较不同语言和分词设置下的评估结果，为提升德语文本简化模型评估的透明性与可比性提供建议。
2024-04-05 cs.CL
A New Aligned Simple German Corpus
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）；TU Wien（维也纳工业大学）
本文构建并发布了一个新的句子对齐简易德语—德语单语语料库，采用自动句子对齐方法，并通过人工标注子集评估，其F1值超过先前工作。
2023-05-26 cs.CL
DisSim: A Discourse-Aware Syntactic Text Simplification Frameworkfor English and German
University of St.Gallen（圣加仑大学）；University of Passau（帕绍大学）；University of Manchester（曼彻斯特大学）
我们介绍了DisSim，一个话语意识的句子分裂框架，英语和德语，其目标是转换成一个中间表示，提出了一个简单的，更规则的结构，更容易处理的下游语义应用句法复杂的句子。为此，我们把输入的句子成一个两层的语义层次结构的形式的核心事实和伴随的上下文，同时确定它们之间的修辞关系。通过这种方式，我们保留了输入的连贯性结构，从而保留了其对下游任务的可解释性。
2019-09-26 cs.CL
Simple or Complex? Learning to Predict Readability of Bengali Texts
Ahsanullah University of Science and Technology（阿赫桑乌拉科技大学）；University of California, Los Angeles（加州大学洛杉矶分校）
确定文本的可读性是文本简化的第一步。在本文中，我们提出了一个可读性分析工具，能够分析用孟加拉语编写的文本，以提供有关其可读性和复杂性的深入信息。尽管孟加拉语是世界上使用人数第七多的语言，有2.3亿人以孟加拉语为母语，但孟加拉语缺乏用于自然语言处理的基本资源。到目前为止，孟加拉语的可读性相关研究可以被认为是狭隘的，有时由于缺乏资源而出错。因此，我们正确地采用了传统上用于美国教育系统的文档级可读性公式，并进行了适当的年龄比较。由于无法获得大规模的人类注释语料库，我们进一步将文档级任务划分为文本级和神经架构实验，这将作为孟加拉语可读性预测未来工作的基线。在这个过程中，我们提出了几个人类注释的语料库和字典，例如包含618个具有12个不同等级的文档的文档级数据集，包含超过96 K个具有简单和复杂标签的句子的大规模句子级数据集，辅音合取词计数算法和341个单词的语料库以验证算法的有效性，3，396个简单单词的列表，以及更新的发音词典，包含超过67 K个单词。这些资源对于这种低资源语言的其他几个任务可能很有用。我们在https：//github.com/tafseer-nayeem/BengaliReadability}上公开了我们的代码和数据集，以确保可重复性。
2020-12-09 cs.AI cs.CL
A Large and Balanced Corpus for Fine-grained Arabic Readability Assessment
Computational Approaches to Modeling Language Lab, New York University Abu Dhabi（新纽约大学阿布扎赫实验室）；Zai Arabic Language Research Centre, Zayed University（扎伊阿拉伯语言研究中心）
该研究构建了含69441句、19个可读性等级的大规模平衡阿拉伯语可读性评估语料库BAREC，人工标注一致性达81.8%，并完成多方法基准测试，公开资源以支持相关研究与教育。
2025-06-11 cs.CL
!MSA at BAREC Shared Task 2025: Ensembling Arabic Transformers for Readability Assessment
Faculty of Computer Science, MSA University（计算机科学学院，MSA大学）
本文提出了一种基于置信度加权的阿拉伯语Transformer模型集成系统，通过差异化损失函数微调、数据重标注与合成数据增强解决类别不平衡问题，在BAREC 2025共享任务六个赛道均获第一。
2025-09-12 cs.CL
CEFR-Based Sentence Difficulty Annotation and Assessment
Osaka University（大阪大学）；Kyushu University（九州大学）；Ehime University（爱媛大学）
可控文本简化是语言学习和教学的一项重要辅助技术。阻碍其发展的主要因素之一是缺乏基于语言能力描述的句子难度标注语料库。为了解决这个问题，我们创建了基于CEFR的句子配置文件（CEFR-SP）语料库，包含17 K英语句子，并根据英语教育专业人士指定的欧洲共同语言参考框架进行了注释。此外，我们还提出了一个水平评估模型，以处理不平衡的水平分布，因为最基本的和高度熟练的句子是自然稀缺。在本研究的实验中，我们的方法在水平评估中取得了84.5%的宏观F1分数，从而优于可读性评估中采用的强基线。
2022-10-21 cs.CL
MathBridge: A Large Corpus Dataset for Translating Spoken Mathematical Expressions into $LaTeX$ Formulas for Improved Readability
Chung-Ang University（中央大学）；Seoul National University（首尔大学）；NVIDIA（英伟达）
针对数学口语表达式转LaTeX公式缺乏配对训练数据的问题，本文提出首个大规模数据集MathBridge（含2300万配对样本），实验证明其可显著提升预训练语言模型的相关转换性能。
2024-08-16 cs.AI cs.CL cs.LG
Automatic Difficulty Classification of Arabic Sentences
University of Leeds（利兹大学）
在本文中，我们提出了一个现代标准阿拉伯语（MSA）句子难度分类器，它预测句子的难度为语言学习者使用CEFR的熟练程度水平或二元分类为简单或复杂。我们比较了不同类型的句子嵌入（fastText，mBERT，XLM-R和Arabic-BERT）的使用，以及传统的语言功能，如POS标签，依赖树，可读性得分和频率列表的语言学习者。我们使用微调的Arabic-BERT实现了最佳结果。我们的三向CEFR分类的准确性是F-1的0.80和XLM-R分类分别为0.75和0.71斯皮尔曼相关回归。我们的二元难度分类器达到F-1 0.94和F-1 0.98的双对语义相似度分类器。
2021-03-07 cs.CL
ReadMe++: Benchmarking Multilingual Language Models for Multi-Domain Readability Assessment
College of Computing（计算机学院）；Georgia Institute of Technology（佐治亚理工学院）
本文提出了多语言多领域可读性评估基准ReadMe++，包含9757个句子的人工标注，用于全面评估大型语言模型在有监督、无监督和少样本提示设置下的表现，并发现其具有出色的领域泛化和跨语言迁移能力。
2024-10-16 cs.AI cs.CL cs.LG
Language Modeling by Clustering with Word Embeddings for Text Readability Assessment
Harvard University（哈佛大学）
我们提出了一个基于聚类的语言模型，使用词嵌入的文本可读性预测。据推测，欧几里德语义空间假设适用于词嵌入，其训练是通过观察词同现来完成的。我们认为，聚类与词嵌入在度量空间中产生的特征表示在一个更高的语义空间适合文本回归。此外，通过用直方图表示特征，我们的方法可以自然地处理不同长度的文档。使用共同核心标准语料库的实证评估表明，我们的基于聚类的语言模型上形成的功能显着提高了以前已知的结果，为同一语料库的可读性预测。我们还使用维基SimpleWiki语料库的语义相关性的基础上进行句子匹配的任务进行评估，发现我们的功能导致卓越的匹配性能。
2017-09-05 cs.CL cs.LG
Fine-grained evaluation of German-English Machine Translation based on a Test Suite
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
我们提出了一个分析的16个国家的最先进的MT系统的基础上，德国英语的语言动机的测试套件。测试套件由一组语言专业人员手动设计，以涵盖MT通常无法正确翻译的各种语言现象。它包含5，000个测试句子，涵盖14个类别的106种语言现象，并更加关注动词时态，方面和语气。机器翻译的输出是通过正则表达式以半自动的方式进行评估的，正则表达式只关注句子中与每个现象相关的部分。通过我们的分析，我们能够根据系统在这些类别上的性能进行比较。此外，我们揭示了特定系统的优点和缺点，我们确定的语法现象，MT的整体性能相对较低。
2019-10-16 cs.CL
Classifying Interpretive Canons at the Sentence Level: A Benchmark from the German Federal Constitutional Court
Freie Universität Berlin（柏林自由大学）
本研究构建句子级基准，评估大语言模型分类德国宪法法院解释准则的能力，发现文义解释易、体系解释难，专家提示优于GEPA优化提示。
2026-09-24 cs.CL cs.CY
BioSimplify: an open source sentence simplification engine to improve recall in automatic biomedical information extraction
Department of Biomedical Informatics, Arizona State University（亚利桑那州立大学生物医学信息学系）
Biocompatibility是一个用Java编写的开源工具，它引入并促进了一种用于自动话语分析和信息抽取的句子简化新模型的使用（与用于提高人类可读性的句子简化相反）。该模型基于一种“猎枪”方法，通过组合其组成要素的变体，产生原始句子的许多不同（更简单）版本。该工具针对处理生物医学科学文献进行了优化，例如PubMed中索引的摘要。我们测试了我们的工具对PPI提取任务的影响，它将PPI工具的f分数提高了约7%，召回率提高了约20%。生物统计工具和测试语料库可以从https://biosimplify.sourceforge.net下载。
2011-07-28 cs.CL
Effective General-Domain Data Inclusion for the Machine Translation Task by Vanilla Transformers
Saarland University（萨尔大学）
机器翻译史上的一个重要突破是Transformer模型的发展。它不仅对各种翻译任务具有革命性意义，而且对大多数其他NLP任务也具有革命性意义。在本文中，我们的目标是一个基于transformer的系统，能够翻译德语中的源句子到其对应的目标句子在英语中。我们对WMT'13数据集上的新闻评论德英平行句进行了实验。此外，我们还研究了在从IWELK '16数据集进行训练时包含额外的通用域数据以提高Transformer模型性能的效果。我们发现，在训练中包含IWIT16数据集有助于在WMT'13数据集的测试集上获得2个BLEU得分点。定性分析被引入到分析如何使用通用领域的数据有助于提高翻译句子的质量。
2022-09-28 cs.CL
Wat zei je? Detecting Out-of-Distribution Translations with Variational Transformers
University of Oxford（牛津大学）
我们使用Transformer模型的贝叶斯深度学习等价物检测神经机器翻译中的训练分布外句子。为此，我们开发了一种新的不确定性测量方法，专门用于离散随机变量的长序列，即输出句子中的单词。我们的新措施的不确定性解决了一个主要的棘手问题，在天真的应用现有的方法对长句。我们使用我们的新措施上的Transformer模型训练辍学近似推理。在使用WMT13和Europarl进行德英翻译的任务中，我们证明了在辍学不确定性的情况下，我们的措施能够识别何时使用与德语相同的单词类型的荷兰语源句子，而不是德语。
2020-06-08 cs.CL cs.LG stat.ML
mucAI at BAREC Shared Task 2025: Towards Uncertainty Aware Arabic Readability Assessment
Independent Researcher（独立研究者）
本文提出一种基于保形预测和softmax重归一化加权平均的模型无关后处理方法，用于阿拉伯语可读性细粒度分类，在BAREC 2025共享任务中使QWK一致提升1-3个点，句子级盲测达85.7%。
2025-09-18 cs.AI cs.CL
Encoding Sentence Position in Context-Aware Neural Machine Translation with Concatenation
Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Naver Labs Europe（Naver欧洲实验室）
本文研究在基于拼接的上下文感知机器翻译中，通过多种方法将句子位置显式编码至 token 表示，发现特定编码方法在上下文折扣损失下可提升英译俄效果，但英译德未见相同益处。
2023-04-04 cs.CL
Automatic Creation of Text Corpora for Low-Resource Languages from the Internet: The Case of Swiss German
iCoSys Institute, University of Applied Sciences and Arts Western Switzerland（瑞士西部应用科学与艺术大学iCoSys研究所）；University of Fribourg（弗里堡大学）；Swisscom AG（瑞士电信公司）
本文介绍了SwissCrawl，最大的瑞士德语文本语料库。它由50多万个句子组成，是使用定制的网络抓取工具生成的，该工具也可以应用于其他低资源语言。该方法演示了如何免费提供的网页可以用来构建全面的文本语料库，这是自然语言处理的根本重要性。在实验评估中，我们表明，使用新的语料库导致语言建模任务的显着改善。为了捕获新内容，我们的方法将持续运行，以随着时间的推移不断增加语料库。
2020-06-16 cs.CL
A Readable Read: Automatic Assessment of Language Learning Materials based on Linguistic Complexity
University of Gothenburg（哥德堡大学）；Universität Tübingen（图宾根大学）
语料库和网络文本可以成为一个丰富的语言学习资源，如果我们有一种方法来评估他们是否是语言适当的学习者在给定的熟练程度。在本文中，我们的目的是解决这个问题，提出了第一种方法来预测语言的复杂性，瑞典第二语言学习材料的5点量表。在表明传统的瑞典可读性指标Läsbarhetsindex（LIX）不适合这项任务后，我们提出了一个有监督的机器学习模型，该模型基于一系列语言特征，可以根据难度对文本进行可靠的分类。我们的模型获得了81.3%的准确度和0.8的F分数，这与英语的最新水平相当，并且大大高于之前报道的其他语言的结果。我们进一步研究了我们的功能与单句，而不是全文的效用，因为句子是一个共同的语言单位在语言学习练习。我们在五个类的数据上训练了一个单独的模型，其准确率为63.4%。虽然这低于文档级性能，但我们实现了92%的相邻准确率。此外，我们发现，与单独使用词汇特征相比，使用不同特征的组合在句子级别上的分类准确率提高了7%，而在文档级别上，词汇特征更占主导地位。我们的模型旨在用于免费访问的基于网络的语言学习平台，用于自动生成练习。
2016-03-29 cs.CL
Transformer-based Named Entity Recognition with Combined Data Representation
CodeNLP
本研究针对基于Transformer的命名实体识别任务中单一数据表示策略泛化性差的问题，提出一种结合single、merged和context三种策略的组合训练方法，有效提升了模型在四种语言多数据集上的稳定性和适应性。
2024-06-25 cs.AI cs.CL
