MASRAD: Arabic Terminology Management Corpora with Semi-Automatic Construction
Arab Center for Research and Policy Studies(阿拉伯研究中心与政策研究所)
本文提出MASRAD阿拉伯语术语数据集及半自动构建方法MASRAD-Ex,通过提取书籍中的术语配对并综合多种相似度指标选择最佳候选,最佳方法精确率达90.5%,召回率达92.4%。
2025-10-07 cs.CL
HistLens: Mapping Idea Change across Concepts and Corpora
Department of Computer Science and Technology, Tsinghua University, China(清华大学计算机科学与技术系);School of History, Nanjing University, China(南京大学历史学院);Department of Chinese Language and Literature, Tsinghua University, China(清华大学中国语言文学系);State Key Laboratory of Multimedia Information Processing, School of Computer Science, Peking University, China(北京大学计算机学院多媒体信息处理国家重点实验室)
HistLens提出一种基于SAE的统一框架,用于多概念、多语料库的概念史分析,通过分解概念表示并追踪其激活动态,实现跨概念和语料库的思想演变模式计算。
2026-04-13 cs.CL
SiDiaC: Sinhala Diachronic Corpus
Department of Computer Science & Engineering, University of Moratuwa(计算机科学与工程系,穆拉图瓦大学)
SiDiaC 是首个全面的僧加罗语历时性语料库,涵盖从5世纪到20世纪的58,000个单词,经过筛选和标注后,为僧加罗语NLP研究提供了基础资源,支持词形变化、新词追踪和历史语法研究。
2025-12-30 cs.CL
Open Korean Historical Corpus: A Millennia-Scale Diachronic Collection of Public Domain Texts
本文介绍了一个涵盖1300年历史的韩国语料库,用于量化分析语言演变,包括韩文书写系统的变化及现代语言模型的改进。
2026-03-05 cs.CL
Detecting Historical Turning Points in Italian Media: A Complex Systems Approach to a Diachronic News Corpus
Department of Physics and Chemistry, University of Palermo(帕尔米洛大学物理与化学系);Institute for Cross-Disciplinary Physics and Complex Systems (IFISC), UIB-CSIC(跨学科物理与复杂系统研究所(IFISC), UIB-CSIC)
通过NLP和复杂系统方法分析意大利《共和报》1985-2000年的60万篇文章,无监督检测出意大利第一共和国向第二共和国过渡、海湾战争等关键历史转折点。
2026-11-03 cond-mat.stat-mech cs.CL physics.soc-ph
Semantic Shifts of Psychological Concepts in Scientific and Popular Media Discourse: A Distributional Semantics Analysis of Russian-Language Corpora
HSE University(高等经济学院)
本文通过分布语义分析俄语语料库,探讨心理学概念在科学与大众媒体中的语义变化,发现科学文本侧重专业术语,而大众媒体更强调日常经验与治疗实践。
2026-03-10 cs.CL
KpopMT: Translation Dataset with Terminology for Kpop Fandom
Sungkyunkwan University(成均馆大学);aiXplain Inc.(aiXplain公司)
针对社会群体内独特术语带来的翻译空白,研究团队选取Kpop粉丝圈为切入点,构建了带术语标注的KpopMT翻译数据集,评估发现现有翻译系统得分偏低,该数据集已公开。
2024-07-10 cs.CL
DISCO PAL: Diachronic Spanish Sonnet Corpus with Psychological and Affective Labels
Telefónica(西班牙电信);Universidad Nacional de Educación a Distancia (UNED)(国立远程教育大学)
目前,在不同语言的语料库中进行文本挖掘的应用很多。然而,它们中的大多数都是基于散文文本,缺乏与诗歌文本一起工作的应用程序。文本挖掘在诗歌中的应用的一个例子是使用从其单个单词中获得的特征,以捕获词汇,词汇下和词汇间意义,并推断文本的一般情感意义(GAM)。然而,尽管这一建议已被证明是有用的诗歌在某些语言,有缺乏研究西班牙诗歌和高度结构化的诗歌作品,如十四行诗。本文介绍了一个西班牙十四行诗的注释语料库的研究,以分析是否有可能建立功能,从他们的个人的话来预测他们的GAM。这样做的目的是在情感层面上对十四行诗进行建模。文章还分析了十四行诗的GAM与内容本身的关系。为此,我们从心理学的角度来考虑内容,当十四行诗与特定术语相关时,用标签来识别。然后,我们研究了GAM如何根据这些心理术语变化。所使用的语料库包含274首西班牙十四行诗,来自不同世纪的作者,从15世纪到19世纪。该语料库由不同领域的专家进行注释。专家们用情感和词汇语义特征以及属于心理学的领域概念来注释这些诗歌。由于这一点,十四行诗的语料库可以用于不同的应用,如诗歌推荐系统,作者的个性文本挖掘研究,或诗歌用于治疗目的。
2021-06-20 cs.CL
Diachronic word embeddings and semantic shifts: a survey
University of Oslo(奥斯陆大学);ANZ(澳新银行)
近年来出现了大量的论文,旨在使用分布方法,特别是基于预测的词嵌入模型来追踪词汇语义的时间变化。然而,这种研究缺乏凝聚力,共同的术语和共同的做法,更成熟的领域自然语言处理。本文综述了历时词嵌入和语义转移检测的研究现状。我们从讨论语义转移的概念开始,然后继续概述现有的方法来跟踪这种与时间相关的转移与词嵌入模型。我们提出了几个轴,沿着这些方法可以进行比较,并概述了这个新兴的NLP子领域的主要挑战,以及前景和可能的应用。
2018-06-13 cs.CL
Bilingual Terminology Extraction from Comparable E-Commerce Corpora
Soochow University(苏州大学);Alibaba DAMO Academy(阿里巴巴达摩院)
双语术语是电子商业领域中重要的机器翻译资源,通常采用人工翻译或从并行数据中自动提取的方式。人工翻译成本高,而电子商业平行语料库又非常缺乏。但是,同一商品领域的不同语言的可比数据是丰富的。在本文中,我们提出了一个新的框架提取电子商务双语术语可比数据。得益于电子商业中的跨语言预训练,该框架能够充分利用源端术语和目标端句子之间的深层语义关系,提取出相应的目标术语。对不同语言对的实验结果表明,我们的方法比各种强基线实现了更好的性能。
2022-07-29 cs.CL
Leveraging Contextual Embeddings for Detecting Diachronic Semantic Shift
Jozef Stefan Institute(约瑟夫·施泰凡研究所)
我们提出了一种新的方法,利用上下文嵌入的任务,历时语义转移检测生成特定时间的词表示从BERT嵌入。在特定领域的LiverpoolFC语料库中的实验结果表明,该方法在大型语料库中不需要任何耗时的领域自适应,具有与现有技术相当的性能。新创建的Brexit新闻语料库的结果表明,该方法可以成功地用于检测短期的年度语义转移。最后,该模型也显示出可喜的成果,在多语言环境中,任务是检测不同语言的历时语义变化之间的差异和相似之处。
2020-03-05 cs.CL
JeSemE: A Website for Exploring Diachronic Changes in Word Meaning and Emotion
Graduate School ‘The Romantic Model’(“浪漫主义模式”研究生院);Friedrich-Schiller-Universität Jena(耶拿弗里德里希·席勒大学)
我们在这里介绍了一个大大扩展版本的JeSemE,一个交互式网站,用于可视化地探索计算得出的时变信息的词义和词汇的情绪,从五个大的历时文本语料库组装。JeSemE是专为(数字)人文学科的学者设计的,作为查阅手动编译的替代方案,印刷字典以获取此类信息(如果有的话)。这个工具独特地结合了最先进的分布式语义与人类情感的细微差别模型,我们认为这两个信息流有利于人文文本的数据驱动解释。
2020-12-18 cs.CL
QMUL-SDS @ DIACR-Ita: Evaluating Unsupervised Diachronic Lexical Semantics Classification in Italian
Queen Mary University of London(伦敦玛丽女王大学);Imam Abdulrahman bin Faisal University(伊玛目阿卜杜勒拉赫曼·本·费萨尔大学);Alan Turing Institute(艾伦·图灵研究所)
在本文中,我们介绍了我们的系统的结果和主要发现的DIACR-ITA 2020任务。我们的系统专注于使用不同的训练集和不同的语义检测方法。该任务涉及训练,对齐和预测一个词的向量变化从两个历时意大利语语料库。我们证明了使用时间词嵌入与指南针C-BOW模型相比,不同的方法,包括逻辑回归和前馈神经网络使用精度更有效。我们的模型排名第三,准确率为83.3%。
2020-11-06 cs.CL
APEX-VW: A Document-Level English-Spanish Post-Editing Dataset in the Healthcare Domain
Universitat Politècnica de València(瓦伦西亚理工大学);Lancaster University(兰卡斯特大学);Universidad de Granada(格拉纳达大学)
本文提出APEX-VW医疗领域文档级英西后编辑数据集,含4.2万词文档及专业后编辑数据,可用于术语规范化等研究,为相关任务提供基准。
2026-08-11 cs.CL
A diachronic evaluation of gender asymmetry in euphemism
University of Toronto(多伦多大学)
委婉语的使用是语言变化的一个众所周知的驱动力。有人提出,女性比男性更常使用委婉语。虽然已经有一些研究调查语言中的性别差异,但关于委婉语使用的说法并没有经过全面的时间检验。如果女性确实更多地使用委婉语,这可能意味着随着时间的推移,女性也会领导新委婉语的形成和语言的变化。本文利用四个大型的英语历时文本语料库,对女性比男性更常使用委婉语这一说法进行了定量分析。我们收集了106个委婉语-禁忌语对的列表,以分析语料库中每个性别在不同时间的相对使用情况。与现有的观点相反,我们的研究结果表明,女性不使用委婉语的比例高于男性。我们使用委婉语-禁忌语对列表的不同子集重复分析,发现我们的结果是可靠的。我们的研究表明,在一个广泛的设置,涉及口语和写作,并与不同程度的正式,妇女不使用或形成委婉语比男性更多。
2021-06-03 cs.CL
Diachronic Analysis of German Parliamentary Proceedings: Ideological Shifts through the Lens of Political Biases
University of Mannheim(曼海姆大学);Technische Universität Darmstadt(达姆施塔特工业大学)
我们分析了历史语料库中的偏见,作为历时分布语义模型编码,通过关注两种具体形式的偏见,即政治(即,反共产主义)和种族主义(即,反犹主义(Antizism)1为此,我们使用一个新的语料库德国议会程序,DeuPARL,跨越1867年至2020年期间。我们补充了历时词嵌入的历史偏见的分析与一种新的措施的基础上,长期同现和基于图形的标签传播的偏见。我们的偏见测量的结果与普遍认为的反犹太主义和反共产主义偏见在德国政治的历史趋势在不同的时间段,从而表明使用历史语料库的语义空间分析历史偏见趋势的可行性。
2021-08-13 cs.CL cs.DL
Detecting and assessing contextual change in diachronic text documents using context volatility
Leipzig University(莱比锡大学)
历时文本语料库中的术语可能表现出高度的语义动态性,这仅部分地被语义变化的共同概念所捕获。我们提出的上下文波动性的新度量模型的程度,在文本集合中,随着时间的推移,术语改变上下文。词的上下文波动性的计算依赖于其共现项的重要性值和相应的共现等级在连续的时间跨度。我们定义了一个基线,并提出了一个有效的计算方法,以克服相关的问题,在数据结构的计算问题。结果进行评估,用于模拟上下文变化的合成文件,和一个真实的例子的基础上,英国报纸文本。
2017-11-15 cs.CL
Semantic Change and Emerging Tropes In a Large Corpus of New High German Poetry
MPI for Empirical Aesthetics(马克斯·普朗克经验美学研究所);University of Stuttgart(斯图加特大学);Technical University of Darmstadt(达姆施塔特工业大学)
诗歌因其语义简洁、表达新颖而成为语义变化分析的重要实验平台。然而,到目前为止,大型历时语料库的匮乏。在这里,我们提供了一个大型的德语诗歌语料库,其中包括约75k首诗歌,超过1100万个标记,诗歌从16世纪到20世纪初。然后,我们跟踪语义变化,在这个语料库调查的兴起比喻(“爱是魔术”)随着时间的推移和检测变化点的意义,我们发现,特别是发生在德国浪漫主义时期。此外,通过自相似性,我们重建文学时期,并找到证据表明,线性语义变化的规律也适用于诗歌。
2019-09-26 cs.CL
Diachronic Variation in Grammatical Relations
Trinity College Dublin(都柏林圣三一学院)
我们提出了一种发现和分析历时语料库中语法关系变化的方法。受计量经济学中回报率和波动率而不是相对频率的测量技术的启发,我们提出了它们作为一种更好地表征语法模式变化的方法,如名词化,修饰和比较。为了验证这些技术的使用,我们研究了NIPS论文的语料库,并报告了在标记,词性和语法水平上表现出来的趋势。建立从频率观察到二阶分析,我们发现,频率的变化忽略了更深层次的语言趋势,即使包括部分的语音信息。通过考察语篇的语汇、词性和语法层次的变异,可以对历时语篇进行整体的概括。最后,我们讨论了这些方法如何能够告知有关专业领域的直觉以及语言使用的变化作为一个整体。
2012-12-13 cs.CL
Corpus of Chinese Dynastic Histories: Gender Analysis over Two Millennia
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Toronto(多伦多大学);Academia Sinica(中央研究院)
中国的断代史形成了一个大约2000年的连续的语言空间,从公元前3世纪到公元18世纪。这些历史记录在一个超过2000万字的语料库中,适合于历史词汇和语义变化的计算分析。然而,这些历史没有免费的开源语料库,使得文言文资源匮乏。该项目介绍了一个新的开放源代码语料库的二十四个朝代的历史知识共享许可证覆盖。本文编制了一份原始的古汉语性别词汇表,作为分析历史上男性和女性词汇使用情况的个案研究。研究表明,这些术语的使用相当稳定,男性术语占主导地位。词义的探索使用关键字分析的重点语料库创建的性别特定的条款。这种方法产生了有意义的语义表示,可用于未来的历时语义研究。
2020-05-18 cs.CL
Diachronic Word Embeddings Reveal Statistical Laws of Semantic Change
Stanford University(斯坦福大学)
理解词语如何随着时间的推移而改变其含义是语言和文化进化模型的关键,但关于含义的历史数据很少,使得理论难以发展和测试。词嵌入作为一种历时工具显示出了希望,但尚未得到仔细的评估。我们开发了一个强大的方法来量化语义变化评估词嵌入(PPMI,SVD,word 2 vec)对已知的历史变化。然后,我们使用这种方法来揭示语义进化的统计规律。我们使用了六个历史语料库,跨越四种语言和两个世纪,我们提出了两个定量的法律的语义变化:(一)法律的一致性--的语义变化率的规模与词频的逆幂律;(二)法律的创新--独立的频率,词越多义有较高的语义变化率。
2018-10-25 cs.CL
Mathematical Entities: Corpora and Benchmarks
National Institute of Standards and Technology(美国国家标准与技术研究院);Topos Institute(拓扑斯研究所);Carnegie Mellon University(卡内基梅隆大学)
本文构建含182397句的三个数学标注语料库及元数据基准,评估神经与符号模型,发现术语和定义提取难以泛化,并提供基于搜索与实体链接的学习助手。
2024-06-17 cs.CL math.HO
A Semi-Automatic Approach to Create Large Gender- and Age-Balanced Speaker Corpora: Usefulness of Speaker Diarization & Identification
French National Institute of Audiovisual (INA)(法国国家视听研究院);CNRS(法国国家科学研究中心);LISN(计算机科学与数字技术交叉科学实验室);Universidade Federal do Rio de Janeiro(里约热内卢联邦大学)
本文提出一种半自动流水线方法,结合语音检测、去噪与说话人日志技术,高效构建性别、年龄与时期均衡的大规模说话人语料库,将人工处理量减少十倍并保证高输出质量。
2024-04-26 cs.CL cs.DL cs.LG
Characterizing Linguistic Shifts in Croatian News via Diachronic Word Embeddings
TakeLab, Faculty of Electrical Engineering and Computing, University of Zagreb(TakeLab,电子工程与计算学院,泽格雷布大学)
本研究利用25年的950万篇克罗地亚新闻语料,通过分五年窗口训练的skip-gram历时词嵌入量化语义变化,验证了其可捕捉重大事件相关术语的语言变迁,并发现2020年后嵌入的情感积极性上升,与同期心理健康下降的研究结论形成反差。
2025-06-16 cs.CL
Word-Centered Semantic Graphs for Interpretable Diachronic Sense Tracking
University of Zurich(苏黎世大学);TU Dortmund University(多特蒙德技术大学)
本文提出基于词中心语义图的方法,用于可解释地追踪词义随时间的变化,通过整合分布相似性和词汇替代性,揭示多义性动态和意义演变轨迹。
2026-01-29 cs.CL
A State-of-the-Art of Semantic Change Computation
Huazhong University of Science and Technology(华中科技大学)
本文回顾了计算语言学中一个新兴的研究领域--语义变化计算的最新进展,提出了一个框架,通过确定和阐述该领域的五个基本组成部分:历时语料库、历时词义表征、变化建模、评估数据和数据可视化来总结文献。尽管这一领域有着巨大的潜力,但目前的研究主要集中在理论语言学中提出的假设的证明上,还有几个核心问题有待解决:对英语以外语言历时语料库的需求,对综合评价数据的需求,历时词义表征和变化建模方法的比较和构建,并进一步探索数据可视化技术的假设理由。
2018-01-30 cs.CL
Turkronicles: Diachronic Resources for the Fast Evolving Turkish Language
TOBB University of Economics and Technology(TOBB经济与技术大学);Qatar University(卡塔尔大学)
本研究构建了源自土耳其官方公报的历时语料库Turkronicles并扩充现有议会记录语料库,量化分析了1923年以来土耳其语在词汇、书写规范等方面的剧烈演变特征。
2024-05-16 cs.CL
Tracing cultural diachronic semantic shifts in Russian using word embeddings: test sets and baselines
National Research University Higher School of Economics(国立研究型大学高等经济学院);University of Oslo(奥斯陆大学)
本文介绍了手动标注的测试集的任务跟踪历时(时间)语义变化的俄语。这两个测试集是互补的,因为第一个测试集涵盖了前苏联到苏联时期名词和形容词发生的相对强烈的语义变化,而第二个测试集涵盖了2000年至2014年发生的相对微妙的社会和文化决定的变化。此外,第二个测试集提供了更细粒度的变化程度分类,但仅限于形容词。测试集的引入使我们能够评估几种成熟的语义转换检测算法(将其视为分类问题),其中大多数从未在俄语材料上进行过测试。所有这些算法都使用在相应的领域内语料库上训练的分布式词嵌入模型。由此产生的分数为未来处理类似任务的研究提供了坚实的比较基线。我们发布的数据集,代码和训练的模型,以促进进一步的研究,在自动检测时间语义变化的俄语单词,不同的粒度的时间段。
2019-07-29 cs.CL
Transformer-Enabled Diachronic Analysis of Vedic Sanskrit: Neural Methods for Quantifying Types of Language Change
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Carnegie Mellon University(卡内基梅隆大学)
本研究利用神经方法分析梵语历时变化,通过弱监督技术量化语言复杂度动态分布。
2025-12-05 cs.CL
Applying deep learning techniques on medical corpora from the World Wide Web: a prototypical system and evaluation
Medical University of Vienna(维也纳医科大学);University of Alicante(阿利坎特大学);Medical University of Graz(格拉茨医科大学)
背景技术背景:生物医学文献的数量正在迅速增长,并且越来越难以保持手动管理的知识库和本体最新。在这项研究中,我们将word 2 vec深度学习工具包应用于医学语料库,以测试其从非结构化文本中识别关系的潜力。我们评估了word 2 vec在基于网络上的中型非结构化医学文本语料库识别药物属性方面的效率。属性包括与疾病的关系(“可以治疗”)或生理过程(“具有生理效应”)。我们将word 2 vec识别的关系与来自国家药物文件参考术语(NDF-RT)本体的手动策划信息作为金标准进行了比较。研究结果:我们的研究结果显示,最大的准确率为49.28%,这表明有限的能力word 2 vec捕捉语言的收集医学语料库相比,其他已发表的结果。我们能够记录不同参数设置对结果准确性的影响,并发现排名质量和准确性之间的意外权衡。预处理语料库,以减少句法的变化被证明是一个很好的策略,提高训练的向量模型的效用。结论:Word 2 vec是一个非常有效的实现,用于计算向量表示,并能够在没有任何先验领域知识的情况下识别文本数据中的关系。我们发现word 2 vec生成的排名和检索结果的质量不足以自动填充知识库和本体,但可以作为进一步手动策展的起点。
2015-02-12 cs.CL cs.IR cs.LG
Learning to Translate Ambiguous Terminology by Preference Optimization on Post-Edits
Computational Linguistics &(计算语言学);IWR, Heidelberg University(海德堡大学IWR);SAP SE(SAP公司)
本文提出基于偏好优化利用译后编辑数据来消解术语翻译歧义,无需一一对应词典或解码时人工干预,在英德数据上显著提升术语准确率且不损失 COMET 分数。
2025-07-17 cs.CL
On the Use of LLMs for Specialised Terminology: A Good Alternative to Corpora?
研究探讨大语言模型在专业翻译中找英语到法语对应词的作用,评估四个模型在两个领域的表现,比较两种提示策略,发现模型等存在差异,大语言模型对专业译者有用但不能取代语料库,为后续研究铺了路。
2026-07-29 cs.AI cs.CL
Adaptive Ensembling: Unsupervised Domain Adaptation for Political Document Analysis
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
政治学中有见地的发现通常需要研究人员分析特定主题或类型的文档,但这些文档通常包含在大型语料库中,无法区分相关和非相关文档。相比之下,我们可以找到标注相关文档但有限制的语料库(例如,从单一来源或时代),防止其用于政治科学研究。为了弥补这一差距,我们提出了\textit{adaptive ensembling},一个无监督的领域自适应框架,配备了一个新的文本分类模型和时间感知训练,以确保我们的方法与历时语料库工作良好。专家注释数据集上的实验表明,我们的框架优于强大的基准。进一步的分析表明,我们的方法更稳定,学习更好的表示,并提取更干净的语料库进行细粒度分析。
2019-10-28 cs.CL
Effects of Pre- and Post-Processing on type-based Embeddings in Lexical Semantic Change Detection
Institute for Natural Language Processing, University of Stuttgart(斯图加特大学自然语言处理研究所)
词汇语义变化检测是一个新兴的研究领域。包括预处理和后处理在内的模型的最佳微调在很大程度上尚不清楚。我们通过以下方式优化现有模型:(i)对大型语料库进行预训练,并对历时目标语料库进行改进,以解决臭名昭著的小数据问题;(ii)应用已被证明可以提高同步任务性能的后处理转换。我们的研究结果提供了一个指导的应用和优化的词汇语义变化检测模型在各种学习场景。
2021-01-26 cs.CL
A New Approach for Semi-automatic Building and Extending a Multilingual Terminology Thesaurus
Masaryk University(马萨里克大学)
本文介绍了一种新的术语叙词表的半自动建立、扩充和管理系统--一种多语种术语词典,它通过丰富术语之间的关系,形成一个叙词表。该系统可以从根本上提高目前的术语专家组的工作流程,其中大多数编辑决策仍然来自内省。该系统补充了自然语言处理技术,这是无缝集成到词库编辑环境的词典编纂过程。该系统的方法和由此产生的词库与所涉六种语文的新领域语料库密切相关。它们用于术语使用示例以及新候选术语的自动提取。现在可以通过一个基于网络的应用程序访问术语词库,该应用程序a)提供关于每个术语的丰富详细信息,b)可视化术语关系,c)显示该术语在领域相关文件和基于上下文的类似术语中的实际使用示例。此外,专门的语料库用于检测从中心语言(捷克语)到其他语言(英语,法语,德语,俄语和斯洛伐克语)的术语的候选翻译,以及检测更广泛的捷克语术语,这有助于将新术语放入实际的同义词词典层次结构中。这个项目已经实现了土地测量的术语词库,但所提出的工具和方法是可重用的其他术语领域。
2019-03-27 cs.CL
Pretraining Language Models for Diachronic Linguistic Change Discovery
University of Hamburg(汉堡大学);Center for Digital Humanities, Johns Hopkins University(约翰霍普金斯大学数字人文中心);IBM Research, MIT(麻省理工学院IBM研究院)
本文提出通过预训练语言模型发现历时语言变化,通过高效预训练技术处理大规模语料,发现预训练模型在训练速度和历史划分尊重方面优于微调基线,展示了在历时语言学中检测词汇变化等现象的能力。
2026-02-17 cs.CL
Quantifying the dynamics of topical fluctuations in language
University of Edinburgh(爱丁堡大学)
大型历时语料库的出现为越来越多的语言演变和意义变化的定量研究提供了动力。本研究的中心量是语篇中语言元素的标记频率,频率的变化反映了元素的受欢迎程度或选择适合度。然而,语料库频率可能会因为各种各样的原因而改变,包括纯粹的随机抽样效应,或者因为语料库由当代媒体和小说文本组成,其中潜在的主题随着文化和社会政治趋势而起伏。在这项工作中,我们引入了一个简单的模型,用于控制语料库中的主题波动-主题文化平流模型-并演示了它如何提供一个强大的基线的变化,随着时间的推移,词频的变化。我们验证了跨越两个世纪的历时语料库的模型,和一个精心控制的人工语言变化的情况下,然后用它来纠正历史时间序列的主题波动。最后,我们使用该模型表明,新词的出现通常与热门话题的兴起相对应。这表明,一些词汇的创新发生由于不断增长的交际需要在一个子空间的词汇,和主题文化平流模型可以用来量化。
2019-06-21 cs.CL
Efficient Terminology Integration for LLM-based Translation in Specialized Domains
PwC Korea(韩国普华永道)
本文提出利用Trie Tree算法提取术语并构建术语表,再通过数据重构训练大语言模型集成专业术语,在WMT专利任务中取得最高翻译得分。
2024-10-21 cs.CL
Tools for Terminology Processing
IRIN, Université de Nantes(南特大学 IRIN)
自动术语处理出现在10年前,当时电子语料库变得广泛可用。这样的处理可能是统计或语言为基础,并产生术语资源,可以在一些应用程序中使用:索引,信息检索,技术手表等,我们提出的工具,已开发的IRIN研究所。它们都以文本(或文本集合)作为输入,反映了术语处理的不同状态:术语获取、术语识别和术语结构。
2014-12-14 cs.CL cs.CY
AstroConcepts: A Large-Scale Multi-Label Classification Corpus for Astrophysics
本文提出AstroConcepts语料库,包含21702篇天文学论文摘要,标注2367个概念,用于研究极端类别不平衡问题,揭示了词汇受限LLM、领域适应和频率分层评估等关键发现。
2026-04-02 astro-ph.IM cs.CL cs.IR
LexGen: Domain-aware Multilingual Lexicon Generation
Indian Institute of Technology Bombay(印度理工学院孟买分校);NVIDIA(英伟达)
本文提出LexGen模型,通过领域特定与通用层及可学习路由技术,为6种印度语言生成多领域词典,并构建含75K翻译对的基准,在零样本和少样本实验中验证了有效性。
2025-06-02 cs.CL
SiDiaC-v.2.0: Sinhala Diachronic Corpus Version 2.0
SiDiaC-v.2.0是首个大规模僧伽罗语言历时语料库,涵盖1800-1955年出版物及5-20世纪书面文献,通过严格筛选和处理构建,为僧伽罗语言NLP提供全面资源。
2026-10-05 cs.CL
Dynamic Embedded Topic Models: properties and recommendations based on diverse corpora
Johns Hopkins University(约翰霍普金斯大学);University of Hamburg(汉堡大学);University of Iowa(爱荷华大学)
本文评估了Dynamic Embedded Topic Model在五个历时语料库上的多种实现选择,提出了优化词汇表规模与时间间隔建模的建议,并指出部分因素对性能无显著影响。
2025-04-27 cs.CL cs.LG
Chronoberg: A 250-Year Diachronic Corpus with Temporal Affective Lexicons for Language Model Analysis
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Department of Computer Science and Mathematics, University of Bremen(不莱梅大学计算机科学与数学系);Hessian Center for AI (hessian.AI)(黑森人工智能中心);Department of Computer Science, TU Darmstadt(图宾根大学计算机科学系);Centre for Cognitive Science, TU Darmstadt(图宾根大学认知科学中心);CERTAIN
针对现有语料库缺乏时间结构的问题,提出CHRONOBERG,一个跨越250年的英语书籍时间语料库,用于量化词汇语义变化并构建历史情感词典,证明现代LLM需时间感知训练以捕捉历时意义变化。
2026-10-16 cs.AI cs.CL
An Embedded Diachronic Sense Change Model with a Case Study from Ancient Greek
University of Oxford(牛津大学)
本文提出 EDiSC 模型,将词嵌入融入 DiSC 生成框架,以提升古希腊语历时词义变化建模的预测、真值恢复、不确定性量化及 MCMC 采样可扩展性。
2024-06-25 cs.CL stat.ME
Dynamics of core of language vocabulary
Kazan Federal University(喀山联邦大学)
词汇的整体结构及其动态的研究成为可能,由于创建历时文本语料库,特别是谷歌图书Ngram。本文讨论了核心词的变化率和核心词对语篇的覆盖程度问题。比较了过去三个世纪的不同时期和谷歌图书Ngram中呈现的六种主要欧洲语言。主要结果是核心变化率的高度稳定性,这类似于Swadesh列表的稳定性。
2017-05-29 cs.CL
What Do Biomedical NER and Entity Linking Benchmarks Measure? A Corpus-Centric Diagnostic Framework
National Library of Medicine(国家医学图书馆)
本文提出一种以语料库为中心的诊断框架,用于分析生物医学NER和实体链接基准测试的相关属性,揭示语料库特性对评估信号、泛化需求和基准测试结论范围的影响。
2026-05-19 cs.CL
Improving Lexically Constrained Neural Machine Translation with Source-Conditioned Masked Span Prediction
Graduate School of AI, KAIST(韩国科学技术院人工智能研究生院)
准确的术语翻译对于确保神经机器翻译(NMT)系统的实用性和可靠性至关重要。为了解决这个问题,词汇约束NMT探索了各种方法来确保翻译输出中出现预先指定的单词和短语。然而,在许多情况下,这些方法是在一般领域语料库中研究的,其中术语大多是uni-gram和bi-gram(>98%)。在本文中,我们解决了一个更具挑战性的设置,由特定领域的语料库组成,具有更长的n-gram和高度专业化的术语。受最近成功的掩蔽跨度预测模型的启发,我们提出了一种简单有效的训练策略,该策略在两种语言对中的三个特定领域语料库的术语和句子级别翻译上实现了一致的改进。
2021-08-12 cs.AI cs.CL cs.LG
Self-Supervised Knowledge Assimilation for Expert-Layman Text Style Transfer
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
专家-外行文本风格转换技术有可能改善科学界成员与公众之间的沟通。专家提供的高质量信息往往充满了外行难以理解的术语。这在医学领域是一个特别值得注意的问题,外行人经常被在线医学文本所迷惑。目前,有两个瓶颈阻碍了建立高质量的医学专家-外行风格的转换系统的目标:缺乏预先训练的医学领域的语言模型跨越专家和外行术语和缺乏平行语料库训练的转换任务本身。为了缓解第一个问题,我们提出了一种新的语言模型(LM)预训练任务,知识库同化,合成预训练数据的边缘的专家和外行风格的医学术语到LM在自监督学习。为了缓解第二个问题,我们建立了一个大规模的平行语料库,在医学专家,外行域使用基于边缘的标准。我们的实验表明,基于transformer的模型在知识库同化和其他完善的预训练任务上进行了预训练,在我们新的并行语料库上进行了微调,导致了对专家-外行迁移基准的相当大的改进,使我们的人类评估平均相对提高了106%,总体成功率(OSR)。我们发布了我们的代码和并行语料库,以供将来研究。
2021-12-19 cs.CL cs.CY cs.LG
GASC: Genre-Aware Semantic Change for Ancient Greek
Amazon(亚马逊);University of Warwick(华威大学);University of Helsinki(赫尔辛基大学);University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所);University of Cambridge(剑桥大学)
单词含义会随着时间的推移而变化,具体取决于语言和语言外因素。将一个词的正确含义与其历史背景相关联是历时研究的核心挑战,并且与一系列NLP任务相关,包括历史文本中的信息检索和语义搜索。贝叶斯模型的语义变化已经成为一个强大的工具,以解决这一挑战,提供明确的和可解释的表示语义变化现象。然而,虽然语料库通常带有丰富的元数据,现有的模型是有限的,他们无法利用上下文信息(如文本体裁)超出文档的时间戳。这一点在古代语言中尤为重要,因为缺乏数据和漫长的历时跨度使得很难明确区分一词多义(一个词有几个意义)和语义变化(获得、失去或改变意义的过程),而目前的系统在这些语言中表现不佳。我们开发了GASC,一个动态语义变化模型,利用关于文本体裁的分类元数据来促进推理,并揭示古希腊语料库中的意义演变。在一个新的评估框架中,与最先进的模型相比,我们的模型实现了更好的预测性能。
2019-06-02 cs.CL cs.LG stat.ML
RT-SFT: Text Style Transfer from Non-Parallel Corpora by Roundtrip Translation
Johns Hopkins University(约翰霍普金斯大学)
本文提出基于参数高效LLM微调和往返翻译的文本风格迁移方法,通过合成平行语料库提升风格迁移效果,并结合RAG增强术语和名称知识的鲁棒性与一致性。
2026-10-05 cs.CL
Termhood-based Comparability Metrics of Comparable Corpus in Special Domain
Nanjing University of Science and Technology(南京理工大学)
跨语言信息检索和机器翻译资源,如词典和平行语料库,在特定领域是稀缺和难以获得的。此外,这些资源仅限于英语、法语和西班牙语等少数几种语言,因此,自动获取这些领域的可比语料库可以有效地解决这一问题。可比较的语料库,即子语料库之间互不翻译的语料库,可以很容易地从网上获得。因此,在多语种信息处理中,建立和使用可比语料库往往是一种更为可行的选择。可比性度量是可比语料库建设和使用的关键问题之一。目前,还没有一个被广泛接受的定义或度量方法的语料库可比性。事实上,在自然语言处理的不同任务中,可以给出不同的相似性定义或度量方法。本文提出了一种面向双语术语抽取的相似性度量方法--基于术语的相似性度量方法。该方法首先根据词频对词进行排序,然后根据词频排序表计算余弦相似度作为相似度。实验结果表明,基于词条的度量方法比传统的基于频率的度量方法具有更好的性能。
2013-02-19 cs.CL
A large-scale pipeline for LLM-assisted corpus annotation: variation and change in the English consider construction
Université Paris-Cité(巴黎-城市大学);University of Gothenburg(哥德堡大学)
提出一种利用大语言模型自动标注大规模语料的四阶段流水线,在历史英语语料库中标注14万条consider构式,准确率超98%,揭示未记录的体裁特异性变化轨迹。
2026-10-16 cs.CL
Satisfactory Medical Consultation based on Terminology-Enhanced Information Retrieval and Emotional In-Context Learning
School of Mechanical Science and Engineering, Huazhong University of Science and Technology(华中科技大学机械科学与工程学院);School of Computer Science, University of Warwick(华威大学计算机学院);School of Software and Microelectronics, Peking University(北京大学软件与微电子学院);MRC Weatherall Institute of Molecular Medicine, University of Oxford(牛津大学MRC Weatherall分子医学研究所)
针对大语言模型医疗咨询表现未达专业标准的问题,提出含术语增强信息检索与情感上下文学习模块的框架,构建超80万条中文咨询数据集,实验验证其在多项指标上优于基线模型,可提升临床咨询患者满意度。
2025-03-22 cs.CL cs.IR