Linguistic Features of Genre and Method Variation in Translation: A Computational Perspective
University of Wolverhampton（伍尔弗汉普顿大学）；Saarland University（萨尔大学）
在本文中，我们描述了使用文本分类方法来调查体裁和方法的变化，在英语-德语翻译语料库。为了这个目的，我们使用的语言动机的功能，表示文本使用的组合部分的语音标记排列在bigram，trigram，和4-grams。本文所用的分类方法是一种带有拉普拉斯平滑的贝叶斯分类器。我们利用分类器的输出对体裁和翻译方法之间的主要差异进行了广泛的特征分析。
2017-09-13 cs.CL
One Sense per Collocation and Genre/Topic Variations
本文利用两个不同语料库和细粒度的语义区分，重新审视了一个意义对应一个搭配的假设。我们发现，该假设是较弱的细粒度的意义区分（70%与99%的早期报告的双向歧义）。我们还表明，一个意义每搭配跨语料库举行，但搭配从一个语料库到另一个，以下体裁和主题的变化。这解释了在跨语料库执行词义消歧时的低结果。事实上，我们证明，当两个独立的语料库共享一个相关的体裁/主题，词义消歧的结果会更好。未来的词义消歧工作将不得不考虑体裁和主题作为其模型的重要参数。
2000-10-17 cs.CL
A Corpus for Named Entity Recognition in Chinese Novels with Multi-genres
School of Computer and Artificial Intelligence, Zhengzhou University（郑州大学计算机与人工智能学院）
为解决文学领域NER标注数据缺乏的问题，该研究构建了最大的多体裁中文小说NER语料库，并提出基线模型进行跨体裁与跨领域实验，揭示了文学NER面临的挑战。
2024-10-15 cs.CL
Recovering Dropped Pronouns in Chinese Conversations via Modeling Their Referents
Beijing University of Posts and Telecommunications（北京邮电大学）；Brandeis University（布兰迪斯大学）
代词在汉语句子中经常被省略，这种情况在会话类型中更常见，因为它们的所指可以很容易地从上下文中理解。恢复丢失的代词对于诸如需要解析这些丢失的代词的指称的信息抽取或当中文是源语言时的机器翻译等应用是必不可少的。在这项工作中，我们提出了一种新的端到端的神经网络模型来恢复会话数据中丢失的代词。我们的模型是基于一个结构化的注意力机制，模型的下降代词的参考利用两个句子级和单词级的信息。三种不同的会话类型的结果表明，我们的方法实现了显着的改进，目前的艺术状态。
2019-05-17 cs.CL
Interpretable Stylistic Variation in Human and LLM Writing Across Genres, Models, and Decoding Strategies
Software Engineering Institute, AI Division, Carnegie Mellon University（卡内基梅隆大学软件工程院，人工智能分部）；Department of Statistics & Data Science, Carnegie Mellon University（卡内基梅隆大学统计与数据科学系）
本文通过分析11个LLM在8种体裁和4种解码策略下的风格差异，揭示了模型和体裁对生成文本风格的主导作用，以及生成条件对风格差异的有限影响。
2026-04-15 cs.CL
Can Humans Identify Domains?
IT University of Copenhagen（哥本哈根信息技术大学）；Aarhus University（奥胡斯大学）；Aalborg University（奥尔堡大学）；Pioneer Centre for AI（Pioneer人工智能中心）
本文通过构建 TGeGUM 标注数据集，考察人类对体裁和主题等文本领域属性的识别一致性，发现人类共识较低，且 NLP 模型同样存在不确定性。
2024-04-02 cs.CL
Open Subtitles Paraphrase Corpus for Six Languages
University of Helsinki（赫尔辛基大学）
本文伴随着Opusparcus的发布，Opusparcus是一个新的释义语料库，适用于六种欧洲语言：德语，英语，芬兰语，法语，俄语和瑞典语。语料库由释义组成，即同一语言中的成对句子，意思大致相同。这些释义是从OpenSubtitles 2016语料库中提取的，其中包含电影和电视节目的字幕。例如，从计算机辅助语言学习的角度来看，字幕中出现的非正式和口语化的体裁使这些数据成为非常有趣的语言资源。对于每一种目标语言，Opusparcus数据被划分为三种类型的数据集：训练集、开发集和测试集。训练集很大，由数百万个句子对组成，并且在概率排名函数的帮助下自动编译。开发和测试集由已经手动检查的句子对组成;每个集合包含大约1000个句子对，这些句子对已经被两个注释者验证为可接受的释义。
2018-09-17 cs.CL
Unsupervised Abstractive Sentence Summarization using Length Controlled Variational Autoencoder
Institute for Computational Linguistics（计算语言学研究所）；Heidelberg University（海德堡大学）
在这项工作中，我们提出了一个无监督的方法来摘要的句子抽象的方式使用变分自编码器（VAE）。已知VAE学习表示高维输入的语义丰富的潜在变量。VAE通过学习从概率潜在变量重建输入来训练。在训练过程中显式地提供关于输出长度的信息会影响VAE不对该信息进行编码，从而可以在推理过程中进行操纵。指示解码器产生更短的输出序列导致用更少的单词表达输入句子。我们在不同的摘要数据集上显示，这些较短的句子不能击败一个简单的基线，但产生更高的ROUGE分数比试图重建整个句子。
2018-09-21 cs.CL
LLMs Know More Than Words: A Genre Study with Syntax, Metaphor & Phonetics
Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）
本文通过引入多语言体裁分类数据集，研究LLMs在语法、隐喻和语音特征上的学习能力及其对分类任务的影响。
2025-12-04 cs.AI cs.CL
Modeling the Music Genre Perception across Language-Bound Cultures
Deezer Research（Deezer研究院）；École Polytechnique（巴黎综合理工学院）
通过对艺术家或专辑的人类注释表达的音乐流派感知在受语言约束的文化中差异很大。这些变化不能被建模为单纯的翻译，因为我们还需要考虑音乐流派感知的文化差异。在这项工作中，我们研究的可行性，获得相关的跨语言，特定文化的音乐流派注释只基于特定语言的语义表示，即分布式概念嵌入和本体。我们的研究，集中在六种语言，表明无监督的跨语言音乐体裁注释是可行的，具有较高的准确性，特别是当结合两种类型的表示。这种研究音乐类型的方法是迄今为止最广泛的，并在音乐学和音乐信息检索中具有许多含义。此外，我们还引入了一个新的、依赖于领域的跨语言语料库，以基准测试最先进的多语言预训练嵌入模型。
2020-11-16 cs.CL cs.LG
AGRR-2019: A Corpus for Gapping Resolution in Russian
ABBYY（ABBYY公司）；Charles University（查理大学）；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Sberbank（俄罗斯联邦储蓄银行）；National Research University Higher School of Economics（国家研究型高等经济大学）
本文提供了一个全面的概述俄语的空缺数据集，包括7.5k个有空缺的句子（以及15 k个相关的否定句），包括来自各种类型的数据：新闻，小说，社交媒体和技术文本。该数据集是为俄语自动间隙解析共享任务（AGRR-2019）准备的，这是一项旨在刺激NLP工具和省略处理方法开发的竞赛。在本文中，我们特别注意的间隙分辨率的方法，在共享的任务，以及一个替代的测试集，说明我们的语料库是一个多样化的和有代表性的子集，足以有效利用机器学习技术的俄语间隙。
2019-06-10 cs.CL
BHAAV- A Text Corpus for Emotion Analysis from Hindi Stories
Adobe Systems（奥多比系统公司）；Bloomberg LP（彭博有限合伙企业）；NSIT-Delhi（德里工程学院）；USICT, New Delhi（新德里印度理工学院德里校区信息技术学院）；IIIT-Delhi（德里印度信息技术学院）
在本文中，我们介绍了第一个也是最大的印地语文本语料库，命名为BHAAV，这意味着印地语的情绪，分析情感，一个作家通过他的人物在一个故事中，由叙述者/读者感知。该语料库由20，304个句子组成，这些句子来自230个不同的短篇小说，跨越18个体裁，如灵感和神秘。每句话都被三位至少接受过十年印地语正规教育的印地语母语人士注释为五种情绪类别之一-愤怒，喜悦，悬念，悲伤和中性。我们还讨论了低资源语言，如印地语的注释中的挑战，并讨论了拟议的语料库的范围及其可能的用途。我们还提供了数据集的详细分析和训练强基线分类器报告其性能。
2019-10-09 cs.CL
Variation and generality in encoding of syntactic anomaly information in sentence embeddings
Zhejiang University（浙江大学）；The University of Chicago（芝加哥大学）
虽然句子异常已经定期应用于NLP测试，但我们还没有建立NLP模型表示中异常信息的精确状态。在本文中，我们的目标是填补两个主要的差距，侧重于领域的句法异常。首先，我们通过设计探测任务来探索异常编码的细粒度差异，这些探测任务改变了句子中出现异常的层次结构。其次，我们不仅测试模型检测给定异常的能力，还通过检查不同异常类型之间的传递来测试检测到的异常信号的通用性。结果表明，所有的模型编码的一些信息支持异常检测，但检测性能不同的异常，只有最近的Transformer模型表示的迹象，广义知识的异常。后续分析支持这样一种观点，即这些模型采用了一个合理的、一般的句子奇怪的概念，而粗粒度的单词位置信息也可能是观察到的异常检测的一个贡献者。
2021-11-12 cs.CL
Comparing Variation in Tokenizer Outputs Using a Series of Problematic and Challenging Biomedical Sentences
University of Toronto（多伦多大学）；ICES（ICES（临床评估科学研究所））；Dalla Lana School of Public Health（达拉拉纳公共卫生学院）
本研究比较了八种分词器在24个挑战性生物医学句子上的输出，发现存在细微差异，尤其影响具有生物医学意义的词汇，如x-ray和IL-10。
2023-05-15 cs.CL
IDIOLEX: Unified and Continuous Representations for Idiolectal and Stylistic Variation
Carnegie Mellon University（卡内基梅隆大学）；University of Notre Dame（圣母大学）；George Mason University（乔治梅森大学）；University of Washington（华盛顿大学）；Archimedes Research Unit（阿基米德研究单元）
本文提出IDIOLEX框架，通过结合句子来源信息与语言特征，学习连续的风格和方言表示，用于分析和分类，并用于对齐语言模型的风格。
2026-04-06 cs.CL
Generating Sentence Planning Variations for Story Telling
Natural Language and Dialogue Systems（自然语言与对话系统）；University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）；Baskin School of Engineering（巴斯金工程学院）
最近，从指路和旅游信息到交互式故事系统，对话交互的应用出现了爆炸式增长。然而，这些系统中的许多系统的自然语言生成（NLG）组件在很大程度上仍然是手工制作的。这一限制极大地限制了应用范围;这也意味着不可能利用最近在表达和统计语言生成方面的工作，这些工作可以动态地和自动地产生给定内容的大量变体。我们建议，解决这个问题的一个办法在于开发语言生成资源的新方法。我们描述的ES-翻译，计算语言生成器，以前只适用于寓言，并定量评估的域独立性的EST，将其应用到个人的叙述从博客。然后，我们利用最近的工作语言生成，创建一个参数化的句子规划器的故事生成，提供聚合操作，话语和观点的变化。最后，我们提出了不同的个人叙事复述的用户评价。
2017-08-29 cs.CL
What does it mean to be language-agnostic? Probing multilingual sentence encoders for typological properties
University of Amsterdam（阿姆斯特丹大学）
多语言句子编码器在下游NLP任务的跨语言模型传输方面取得了很大成功。然而，我们对个别语言的属性或它们编码的语言变异的一般模式知之甚少。我们提出了从最先进的多语言编码器（LASER，M-BERT，XLM和XLM-R）探测句子表示的方法，这些方法涉及词汇，形态和句法结构的一系列类型学属性。此外，我们研究这些信息是如何分布在模型的所有层。我们的研究结果表明，有趣的差异编码语言的变化与不同的预训练策略。
2020-09-27 cs.CL
Multitask Instruction-based Prompting for Fallacy Recognition
Columbia University（哥伦比亚大学）；University of Liverpool（利物浦大学）
谬误被用作看似有效的论点来支持一种立场，并说服听众相信它的有效性。识别谬误对于人类和机器来说都是一项本质上困难的任务。此外，计算模型的一个巨大挑战在于，由于输入格式的差异（例如，问题-答案对，具有谬误片段的句子），体裁（例如，社交媒体、对话、新闻），以及谬误的类型和数量（每个数据集5到18种）。为了解决谬误识别任务，我们将数据集之间的这些差异视为多个任务，并展示了基于T5模型的多任务设置中基于提示的提示如何改善针对特定数据集（如T5，BERT或GPT-3）构建的方法的结果。我们展示了这种多任务提示方法识别跨领域和流派的28个独特谬误的能力，并通过分析每个类（即，谬误类型）的结果。最后，我们分析了注释质量对模型性能的影响，以及用外部知识补充这种方法的可行性。
2023-01-24 cs.CL
Time Masking for Temporal Language Models
Technion（以色列理工学院）；Ben-Gurion University of the Negev（内盖夫本-古里安大学）
我们的世界在不断发展，网络上的内容也是如此。因此，我们的语言，通常被认为是世界的镜子，本质上是动态的。然而，大多数当前的上下文语言模型是静态的，不能适应随着时间的变化。在这项工作中，我们提出了一个时间上下文语言模型称为TempoBERT，它使用时间作为文本的附加上下文。我们的技术是基于修改文本的时间信息和执行时间掩蔽特定掩蔽的补充时间信息。我们利用我们的方法进行语义变化检测和句子时间预测的任务，在时间，大小，体裁和语言方面对不同的数据集进行实验。我们广泛的评估表明，这两个任务受益于利用时间掩蔽。
2022-01-24 cs.CL
A Comparative Study of Sentence Embedding Models for Assessing Semantic Variation
University of Cincinnati（辛辛那提大学）
本文通过分析多部文学书籍中连续句子相似度时间序列和成对相似度矩阵，在真实场景下比较多种句子嵌入方法，发现它们能推断出高度相关的语义变化模式，但存在有趣差异。
2023-08-08 cs.AI cs.CL
Decoding Sentiment from Distributed Representations of Sentences
University of Cambridge（剑桥大学）
分布式表示的句子最近已经发展到代表他们的意义作为实值向量。然而，目前还不清楚这些表征保留了多少关于句子极性的信息。为了研究这个问题，我们从9种不同类型的语言中学习了不同架构（对单词顺序，句子顺序敏感或不敏感）的无监督句子表示中解码情感。情感是词汇的递归组合和否定、让步等语法策略的结果。结果是多方面的：我们表明，没有“一刀切”的代表性架构优于其他全面。相反，顶级架构取决于手头的语言和数据。此外，我们发现，在某些情况下，添加剂组合模型的基础上跳过字向量可能会超过监督的最先进的架构，如双向LSTM。最后，我们提供了一个可能的解释，观察到的变化的基础上在每种语言中的否定结构的类型。
2017-06-16 cs.CL
Modeling Topics and Sociolinguistic Variation in Code-Switched Discourse: Insights from Spanish-English and Spanish-Guaraní
本研究利用大型语言模型构建标注流程，分析西班牙-英语和西班牙-瓜拉尼语混合话语中的主题与社会语言学变异，揭示性别、语言主导地位与话语功能的关系，并扩展了双语现象的定量证据。
2025-12-03 cs.CL
Hierarchical Document Encoder for Parallel Corpus Mining
Google AI（谷歌人工智能）
我们探索使用多语言文档嵌入并行数据的最近邻挖掘。三个文档级表示进行了研究：（i）简单地平均多语言句子嵌入生成的文档嵌入;（ii）神经袋的话（BoW）文档编码模型;（iii）层次多语言文档编码器（HiDE），建立在我们的文档级模型。结果表明，来自文档级平均的文档嵌入对于干净的数据集是非常有效的，但表明在文档级分层训练的模型对噪声数据更有效。分析实验表明，我们的分层模型是非常强大的变化，在潜在的句子嵌入质量。使用经过HiDE训练的文档嵌入在联合国（UN）并行文档挖掘上实现了最先进的性能，en-fr为94.9% P@1，en-es为97.3% P@1。
2019-06-30 cs.CL
Robustness of sentence length measures in written texts
Universidade Estadual de Maringá（马林加州立大学）
在过去的几十年里，书面语篇中隐藏的结构模式一直是大量研究的主题。特别是，将文本映射到句子长度的时间序列是研究文本结构的自然方法。通常，句子长度已经通过使用基于单词数量和字符数量的度量来量化，但其他变化也是可能的。为了量化不同句子长度度量的鲁棒性，我们分析了包含约500本英语书籍的数据库。对于每本书，我们提取了六个不同的句子长度度量，包括单词数量和字符数量（考虑到词形还原和停止词删除）。我们比较了这六个措施，为每本书使用i）皮尔逊系数调查线性相关性; ii）Kolmogorov-Smirnov测试比较分布;和iii）去趋势波动分析（DFA）量化自相关性。我们发现，所有六个指标都表现出非常相似的行为，这表明句子长度是与文本结构相关的鲁棒指标。
2018-05-02 cs.CL physics.soc-ph
Novels generated by language models show compressed formal variation
University of Maryland（马里兰大学）；University of West Bohemia（西波希米亚大学）；Charles University（查理大学）
该研究对比不同模型生成及人类撰写的小说语料库，发现AI生成小说的形式多样性被压缩，句子结构等指标的变异性远低于人类小说，且存在方差与相关性过度封闭现象。
2026-08-14 cs.AI cs.CL
ReDecode Framework for Iterative Improvement in Paraphrase Generation
Adobe（奥多比）
生成释义，即表达相同含义的句子的不同变体，是自然语言处理中一项重要而又具有挑战性的任务。自动生成释义在许多NLP任务中具有实用性，例如问答，信息检索，会话系统等等。在本文中，我们介绍了基于VAE的生成框架内生成的释义迭代求精。当前的序列生成模型缺乏以下能力：（1）一旦生成句子就进行改进;（2）纠正解码时产生的错误。我们提出了一种技术，迭代地完善使用多个解码器的输出，每一个出席由前一个解码器产生的输出句子。我们显著改善了当前最先进的结果-Quora问题对和MSCOCO数据集上的METEOR分数分别绝对增加了9%和28%以上。我们还定性地表明，通过例子，我们的重新解码方法产生更好的释义相比，一个单一的解码器，通过纠正错误，并在释义结构的改进，诱导变化，并引入新的，但语义连贯的信息。
2018-11-11 cs.AI cs.CL cs.LG
