The BD-LSC Dataset: Facilitating the Benchmarking of Models for Lexical Semantic Change Detection in Slang and Standard Usage
The University of Manchester(曼彻斯特大学);Qassim University(卡西姆大学)
针对词汇语义双向变化及俚语与标准用法混合的挑战,构建BD-LSC和ST-WSD两个基准数据集,评估多种方法,发现稀有俚语义项仍是核心难题。
2026-09-22 cs.CL
Community-Specific Slang and Entity Detection via Semantic Shift in Fine-Tuned Language Models
Georgia Institute of Technology(佐治亚理工学院)
提出无监督方法,通过测量词在微调前后的语义偏移幅度,从在线社区文本中自动识别俚语、独特实体和民俗用语。
2026-04-19 cs.CL cs.LG cs.SI
TFW, DamnGina, Juvie, and Hotsie-Totsie: On the Linguistic and Social Aspects of Internet Slang
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
俚语在互联网上无处不在。微博、问答论坛、社交网络等新的社交语境的出现,使得网络上出现了大量俚语和不规范的表达方式。尽管如此,俚语在传统上一直被视为一种非标准语言,这种语言形式不是语言学分析的重点,在很大程度上被忽视了。在这项工作中,我们使用UrbanDictionary进行了第一次大规模的俚语及其社会方面的语言分析在互联网上产生的见解,这种语言越来越多地使用在世界各地的在线。我们首先通过计算分析俚语的语音,形态和句法特性。然后,我们研究了四个特定类别的俚语,即重叠,混合,剪切和重叠的语言模式。我们的分析表明,俚语显示出显着区别于标准形式的语音和形态形成的语法外规则,从而揭示其生成模式。其次,我们从俚语使用中的主体限制和刻板印象两个方面来分析俚语的社会性。对成千上万的俚语进行分析后发现,互联网上的大多数俚语都属于两大类:性和毒品。我们还注意到,俚语的使用不仅不能避免普遍的社会偏见和成见,而且比标准的俚语更强烈地反映了这种偏见和成见。
2017-12-22 cs.CL
HS-BAN: A Benchmark Dataset of Social Media Comments for Hate Speech Detection in Bangla
Shahjalal University of Science and Technology(沙赫贾拉勒科技大学);Fordham University(福特汉姆大学)
在本文中,我们介绍了HS-BAN,这是一个孟加拉语的二元类仇恨言论(HS)数据集,包含超过50,000条标记评论,其中包括40.17%的仇恨言论,其余是非仇恨言论。在准备数据集时,遵循严格而详细的注释指南以减少人类注释偏倚。HS数据集还进行了语言预处理,以提取目前人们使用符号,首字母缩略词或替代拼写书写的不同类型的俚语。这些俚语词被进一步归类为传统和非传统俚语列表,并包括在本文的结果。我们探索了传统的语言特征和基于神经网络的方法,以开发一个用于孟加拉语仇恨言论检测的基准系统。我们的实验结果表明,现有的词嵌入模型训练的非正式文本比那些训练的正式文本。我们的基准测试表明,基于FastText非正式词嵌入的Bi-LSTM模型获得了86.78%的F1分数。我们将把数据集提供给公众使用。
2021-12-03 cs.CL
Learning to Explain Non-Standard English Words and Phrases
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
我们描述了一种数据驱动的方法,用于在给定的句子中自动解释新的非标准英语表达,该方法建立在一个大型数据集上,该数据集包括来自UrbanDictionary.com的15年众包示例。与之前的研究不同,我们研究了学习神经序列到序列模型的可能性,该模型可以在给定上下文的情况下生成对看不见的非标准英语表达的解释。我们提出了一个双编码器的方法-一个字级编码器学习上下文的表示,第二个字符级编码器学习目标非标准表达式的隐藏表示。我们的模型可以产生合理的定义,新的非标准英语表达的上下文与一定的信心。
2017-09-26 cs.CL
Implications of Multi-Word Expressions on English to Bharti Braille Machine Translation
Banasthali Vidyapith(班斯塔里维迪皮斯大学)
本文通过添加多词表达翻译子模块,向基线NMT模型注入语言学知识,改进英语到Bharti盲文机器翻译,在五个语言对中质量提升22.08%至23.30%。
2023-05-05 cs.AI cs.CL
A Diverse Corpus for Evaluating and Developing English Math Word Problem Solvers
Academia Sinica(中央研究院)
我们提出了ASDiv(Academia Sinica Diverse MWP Dataset),一个多样化的(在语言模式和问题类型方面)英语数学应用题(MWP)语料库,用于评估各种MWP求解器的能力。现有的MWP语料库研究人工智能的进展仍然有限,无论是在语言使用模式或问题类型。因此,我们提出了一个新的英语MWP语料库2,305 MWPs,涵盖更多的文本模式和大多数问题类型教小学。每个MWP都标注了其问题类型和等级(用于指示难度级别)。此外,我们提出了一个度量标准来衡量一个给定的MWP语料库的词汇使用的多样性,并证明ASDiv比现有的语料库更多样化。实验表明,我们提出的语料库更忠实地反映了MWP求解器的真实能力。
2021-06-30 cs.AI cs.CL
Transformer-based Model for Word Level Language Identification in Code-mixed Kannada-English Texts
Instituto Politécnico Nacional(墨西哥国立理工学院)
在自然语言处理(NLP)研究中使用代码混合数据目前得到了很多关注。由于社交媒体在传播中的进步和影响,社交媒体语码混合文本的语言识别近年来成为一个有趣的研究问题。本文介绍了Instituto Politécnico Nacional,Centro de Investigación en Computación(CIC)团队在ICON 2022上为CoLI-Kanglish共享任务编写的系统描述文件。在本文中,我们提出了使用一个基于Transformer的模型,在代码混合卡纳达语英语文本的单词级语言识别。在CoLI-Kenglish数据集上,所提出的模型的加权F1得分为0.84,宏观F1得分为0.61。
2022-11-26 cs.AI cs.CL
Annotated Guidelines and Building Reference Corpus for Myanmar-English Word Alignment
University of Computer Studies, Mandalay(曼德勒计算机大学);AI Research Lab(人工智能研究实验室)
词对齐参考语料库是开发和评估词对齐方法的重要资源。对于缅甸语-英语语言对,没有参考语料库来评估词对齐任务。因此,我们创建了基于对比学习的两种语言之间的缅甸-英语词对齐注释指南,并建立了由亚洲语言树库(ALT)的缅甸ALT验证对齐组成的缅甸-英语参考语料库。该参考语料库包含用于单词对齐的确信标签sure(S)和possible(P),其用于测试单词对齐任务的评估目的。我们讨论了最链接的歧义,以定义一致和系统的指示,以对齐手动的话。我们使用我们的参考语料库的对齐出错率(AER)在词对齐任务的注释协议的结果进行了评估,并讨论了BLEU分数方面的词的关系。
2019-09-25 cs.AI cs.CL cs.IR
Compressing Word Embeddings Using Syllables
KU Leuven(鲁汶大学);Leuven.AI - KU Leuven Institute for AI(鲁汶人工智能研究院)
这项工作探讨了使用音节嵌入的可能性,而不是经常使用的$n$ -gram嵌入,作为子词嵌入。我们调查了两种语言:英语和荷兰语。为此,我们还将两个标准的英语词嵌入评估数据集WordSim 353和SemEval-2017翻译成荷兰语。此外,我们还为研究界提供了两种语言的音节分解数据集。我们比较我们的方法,全字和$n$ -gram嵌入。与完整的词嵌入相比,我们获得的英语模型小20到30倍,同时保留80%的性能。对于荷兰人来说,模型小了15倍,性能保持率为70%。虽然不如我们使用的$n$ -gram基线准确,但我们的模型可以在几分钟内完成训练,而$n$ -gram方法则需要数小时。我们确定了一条在未来工作中提升性能的途径。所有代码都是公开的,以及我们收集的英语和荷兰语音节分解和荷兰语评估集翻译。
2022-01-13 cs.AI cs.CL
A Meaning-based Statistical English Math Word Problem Solver
Institute of Information Science, Academia Sinica(中央研究院信息科学研究所)
本文介绍了MeSys,一种基于意义的方法,通过理解和推理解决英语数学应用题(MWPs)。它首先对文本进行分析,将主体部分和疑问部分转化为相应的逻辑形式,然后进行推理。每个量的相关联的上下文用所提议的角色标签(例如,nsubj、动词等),其提供了用其相关联的上下文信息来注释所提取的数学量的灵活性(即,这个量的物理意义)。提出了统计模型来选择操作符和操作数。噪声数据集被设计为评估求解器是否主要通过理解或机械模式匹配来求解MWP。实验结果表明,我们的方法优于现有的系统在基准数据集和噪声数据集,这表明所提出的方法理解的意义,每个量的文本中更多。
2018-07-06 cs.AI cs.CL
Word Sense Disambiguation Using English-Spanish Aligned Phrases over Comparable Corpora
UNED(西班牙国立远程教育大学)
在本文中,我们描述了一个WSD实验的基础上双语英语-西班牙语可比语料库中的个别名词短语已被确定,并与他们各自的对应在其他语言。该实验的评估是针对SemCor进行的。我们发现,采用的对齐算法,潜在的精度是高的(74.3%),但该方法的覆盖率是低的(2.7%),由于对齐是远远低于我们预期的频率。与我们的直觉相反,精确度并不随着比对的数量而一致地上升。由于几个因素,覆盖率很低;存在重要的领域差异,并且英语和西班牙语对于这种方法来说过于接近,无法有效地区分感官,因此不适合WSD,尽管该方法在机器翻译中可能更有成效。
2009-10-29 cs.AI cs.CL
Exploiting the English Vocabulary Profile for L2 word-level vocabulary assessment with LLMs
ALTA Institute, Department of Engineering, University of Cambridge(ALTA研究所,工程系,剑桥大学)
本文提出将大语言模型与英语词汇画像(EVP)相结合,对二语写作中的单个词进行语境化能力等级评估,实验表明该方法优于基于词性的基线,并能检验EVP等级一致性。
2025-06-03 cs.AI cs.CL
Bootstrapping Multilingual AMR with Contextual Word Alignments
University of Pennsylvania(宾夕法尼亚大学);IBM Research(IBM研究院)
我们开发了高性能的多语言抽象意义表示(AMR)系统,通过投影英语AMR注释到其他语言的弱监督。我们通过引导基于transformer的多语言词嵌入来实现这一目标,特别是那些来自跨语言RoberTa(XLM-R large)的词嵌入。我们开发了一种新的技术,用于外国文本到英语AMR对齐,使用英语和外语标记之间的上下文单词对齐。这种词对齐是弱监督的,依赖于上下文化的XLM-R词嵌入。我们实现了非常有竞争力的性能,超过了德语,意大利语,西班牙语和中文的最佳结果。
2021-02-03 cs.AI cs.CL
Beyond Word Boundaries: A Hebrew Coreference Benchmark and an Evaluation Protocol for Morphologically Complex Text
Bar-Ilan University(巴伊兰大学)
本文提出首个希伯来语核心参照基准KibutzR,针对形态复杂语言中词界与提及边界不一致的问题,提出新的评估协议,并显示LLM在希伯来语上表现不如英语。
2026-04-18 cs.AI cs.CL
EVOKE: Emotion Vocabulary Of Korean and English
本文介绍了EVOKE情感词汇库,包含韩英情感词汇及多对多翻译,系统标注了819个韩语和924个英语形容词和动词,揭示了多义情感词和隐喻关系,为情感研究提供系统工具。
2026-04-10 cs.CL
Explicit Pairwise Word Interaction Modeling Improves Pretrained Transformers for English Semantic Similarity Tasks
University of Waterloo(滑铁卢大学)
在英语语义相似性任务中,经典的基于词嵌入的方法显式地对句子对的词表示之间的成对“交互”进行建模。基于transformer的预训练语言模型忽略了这一概念,而是通过其自我注意力机制全局和隐式地对成对单词交互进行建模。在本文中,我们假设,引入一个明确的,受约束的成对词的相互作用机制,预训练的语言模型,提高其有效性的语义相似性任务。我们使用BERT在四个任务中验证了我们的假设,在语义文本相似性和答案句子选择。我们表现出一致的质量改进,通过添加一个明确的成对字交互模块BERT。
2019-11-07 cs.CL
Beyond Word Error Rate: A Switch Aware Evaluation of ASR and Audio Language Models on English Yoruba Code-Switched Speech
University of Florida(佛罗里达大学)
本研究提出转换感知评估框架,对11个ASR和音频语言模型在英语-约鲁巴语代码转换语音上进行测试,发现聚合词错误率掩盖转换行为,音频语言模型在转换局部指标上显著更优,并发布评估工具以支持可复现基准测试。
2026-09-11 cs.AI cs.CL
A Comparison of Word Embeddings for English and Cross-Lingual Chinese Word Sense Disambiguation
National University of Singapore(新加坡国立大学);NUS Interactive and Digital Media Institute(新加坡国立大学互动与数字媒体研究所)
词嵌入是自然语言处理中普遍存在的词表示形式。词嵌入在英语单语词义消歧中已有应用,但比较研究较少。本文试图弥合这一差距,通过检查流行的嵌入任务的单语英语词义消歧。我们的简化方法无需昂贵的再培训即可获得可比的最先进性能。跨语言WSD -其中源语言e中的单词的词义来自单独的目标翻译语言f -也可以帮助语言学习;例如,当为学习者提供目标词汇的翻译时。因此,我们还将词嵌入应用于中文跨语言词义消歧的新任务,并提供了一个公共数据集,以供进一步基准测试。我们还尝试了在LSTM网络中使用词嵌入,令人惊讶地发现基本的LSTM网络并不能很好地工作。我们讨论了这一结果的后果。
2017-04-09 cs.CL
Solving puzzles described in English by automated translation to answer set programming and learning how to do that translation
Arizona State University(亚利桑那州立大学)
我们提出了一个系统,能够自动解决组合逻辑难题(简化)英语。它涉及到翻译成答案集编程(ASP)的难题的英文描述,并使用ASP求解器提供的难题的解决方案。为了翻译这些描述,我们使用了一种基于概率组合范畴语法(PCCG)的基于微积分的方法,其中单词的含义与参数相关联,以便能够区分同一单词的多种含义。许多单词的含义和参数都是学习的。在ASP中使用适用于大量逻辑谜题的本体来表示谜题。
2011-08-18 cs.AI cs.CL cs.LO
From cart to truck: meaning shift through words in English in the last two centuries
Universidad de Costa Rica(哥斯达黎加大学)
本研究利用历时词嵌入探索1800至2000年英语词汇意义演变,通过word2vec和正交Procrustes方法揭示语言与社会变迁的联系,并讨论方法局限与伦理问题。
2024-08-29 cs.CL
Detection of Non-recorded Word Senses in English and Swedish
University of Stuttgart(斯图加特大学);University of Gothenburg(哥德堡大学);University de Genève(日内瓦大学)
本研究针对英语和瑞典语未知词义检测任务,采用预训练Word-in-Context嵌入器在少样本场景下比对词典词义与语料库词用,经人工标注调参与5折交叉验证,模型大幅提升了未记录词义用法的检出量。
2024-12-12 cs.CL
English Out-of-Vocabulary Lexical Evaluation Task
Texas A&M University(得克萨斯农工大学);Southern Methodist University(南卫理公会大学);Wuhan University of Technology(武汉理工大学)
与以前的未知名词标注任务不同,这是第一次尝试专注于不需要任何先验知识的词汇外(OOV)词汇评估任务。OOV单词是只出现在测试样本中的单词。任务的目标是为OOV词汇分类和预测提供解决方案。这些任务要求注释者根据相关上下文推断出OOV词的属性。然后,我们利用无监督的词嵌入方法,如Word2Vec和Word2GM进行分类任务和OOV词属性预测任务的基线实验。
2019-05-03 cs.CL
Mapping Supervised Bilingual Word Embeddings from English to low-resource languages
Saarland University(萨尔兰大学)
由于数据的可用性不足,使用低资源语言是非常具有挑战性的。过去,使用字典将独立训练的词嵌入映射到共享向量空间中已被证明在学习双语嵌入时非常有用。在这里,我们尝试映射英语单词的各个嵌入,以及它们在爱沙尼亚语、斯洛文尼亚语、爱沙尼亚语和匈牙利语等低资源语言中对应的翻译单词。我们使用了一种监督学习方法。我们报告的准确性分数,通过各种检索策略,这表明它是可能的方法具有挑战性的任务,在自然语言处理,如机器翻译等语言,只要我们至少有一定数量的适当的双语数据。我们还得出结论,我们可以遵循单语文本数据的无监督学习路径,因为这更适合于低资源语言。
2019-10-14 cs.CL
Similarity between Words Computed by Spreading Activation on an English Dictionary
本文提出了一种词间语义相似度的度量方法,作为文本分析的一种新工具。的相似性是衡量的语义网络系统地构建从一个子集的英语词典,LDOCE(朗文当代英语词典)。网络上的扩散激活可以直接计算Longman定义词汇表中任意两个词之间的相似度,也可以间接计算LDOCE中所有其他词之间的相似度。相似度反映了词汇衔接或语义关系的强弱,也为语篇的相似性和连贯性提供了有价值的信息。
1996-01-23 cmp-lg cs.CL
Edeflip: Supervised Word Translation between English and Yoruba
本研究针对低资源语言约鲁巴语实现有监督嵌入对齐的单词翻译,发现嵌入质量与归一化可提升准确率且存在交互效应,揭示了该方法在低资源场景的局限性,为相关研究提供起点。
2025-06-16 cs.AI cs.CL cs.LG
Contextualized Sensorimotor Norms: multi-dimensional measures of sensorimotor strength for ambiguous English words, in context
University of California, San Diego(加州大学圣迭戈分校)
大多数大语言模型都是在语言输入的基础上训练的,但人类似乎是在感觉运动经验中理解单词的。一个自然的解决方案是用人类对单词的感觉运动关联的判断来增强LM表示(例如,兰开斯特感觉运动规范),但这提出了另一个挑战:大多数单词是模糊的,并且孤立地对单词的判断不能解释这种意义的多样性(例如,"木桌"与"数据表")。我们试图解决这个问题,通过建立一个新的词汇资源的语境化感觉运动判断的112个英语单词,每个在四个不同的背景下(448句)。我们表明,这些评级编码重叠,但不同的信息从兰开斯特感觉运动规范,他们也预测其他措施的兴趣(例如,相关性),高于和超出从BERT得出的测量。除了阐明理论问题之外,我们建议这些评级可以作为研究人员建立接地语言模型的"挑战集"。
2022-03-10 cs.CL
"Did you really mean what you said?" : Sarcasm Detection in Hindi-English Code-Mixed Data using Bilingual Word Embeddings
Netaji Subhas University of Technology(内塔吉·苏巴斯理工大学)
随着世界各地的人们越来越多地使用社交媒体平台,许多新的有趣的NLP问题已经存在。其中之一是检测社交媒体文本中的讽刺。我们提出了一个语料库的tweets训练自定义词嵌入和标记为讽刺检测的Hinglish数据集。我们提出了一种基于深度学习的方法来解决印地语-英语代码混合推文中的讽刺检测问题,使用来自FastText和Word 2 Vec方法的双语词嵌入。我们试验了各种深度学习模型,包括CNN、LSTM、双向LSTM(有注意力和无注意力)。我们的深度学习模型能够超越所有最先进的性能,其中基于注意力的双向LSTM提供了最佳性能,准确率为78.49%。
2020-10-15 cs.CL
Squared English Word: A Method of Generating Glyph to Use Super Characters for Sentiment Analysis
Gyrfalcon Technology Inc.(矛隼科技公司)
Super Characters方法通过首先将输入文本转换为图像,然后应用2D-CNN模型对情感进行分类来解决情感分析问题。它在许多基准数据集上实现了最先进的性能。然而,它在拉丁语言中的应用并不像在亚洲语言中那样简单。因为2D-CNN模型被设计为识别二维图像,所以如果输入是字形的形式会更好。在本文中,我们提出了SEW(Squared English Word)方法,通过在字母表级别上绘制每个英语单词的超级字符图像,在句子级别上将平方的字符组合在一起形成一个完整的超级字符图像,然后应用CNN模型对句子中的情感进行分类。我们将SEW方法应用于维基百科数据集,与原始超级字符方法相比,获得了2.1%的准确率增益。对于包含结构化表格数据和非结构化自然语言文本的多模态数据,改进的SEW方法将数据集成到单个图像中,并使用一个统一的CNN模型对情感进行分类。
2019-07-15 cs.CL
Principle Methods of Rendering Non-equivalent Words from Uzbek and Dari to Russian and English
Faryab University(法里亚布大学)
本文研究乌兹别克语和达里语中非等值词向俄语和英语翻译的原则性方法,基于文献研究提出翻译规则,并完成25个非等值词的翻译实践。
2025-08-21 cs.CL
Exploiting Transliterated Words for Finding Similarity in Inter-Language News Articles using Machine Learning
Bahria University(巴赫里亚大学)
本文针对跨语言新闻相似性发现难题,提出结合英语-乌尔都语单词转写与词典的机器学习模型,以解决低资源语言场景下英语与乌尔都语新闻文章的相似性判断问题。
2022-05-29 cs.AI cs.CL cs.LG
Japanese/English Cross-Language Information Retrieval: Exploration of Query Translation and Transliteration
跨语言信息检索(CLIR),其中查询和文档是在不同的语言,最近已成为信息检索社区内的主要主题之一。本文提出了一个日/英CLIR系统,我们结合了查询翻译和检索模块。我们目前的目标是检索技术文档,因此我们的系统的性能在很大程度上取决于技术术语的翻译质量。然而,技术术语翻译仍然存在问题,因为技术术语通常是复合词,因此通过组合现有的基本词来逐步创建新术语。此外,日语还经常以其特殊的表音符号来表示外来词。因此,现有的词典很难达到足够的覆盖面。为了解决第一个问题,我们制作了一本日语/英语词典,并在逐字的基础上翻译复合词。我们还使用概率方法来解决翻译歧义。对于第二个问题,我们使用了音译的方法,它对应的基础词词典中未列出的单词在目标语言的语音对应。我们评估我们的系统使用CLIR的测试集,并表明复合词翻译和音译方法提高了系统的性能。
2002-06-09 cs.CL
Word, Subword or Character? An Empirical Study of Granularity in Chinese-English NMT
National Laboratory of Pattern Recognition, CASIA(中国科学院自动化研究所模式识别国家重点实验室);University of Chinese Academy of Sciences(中国科学院大学);CAS Center for Excellence in Brain Science and Intelligence Technology(中国科学院脑科学与智能技术卓越创新中心)
神经机器翻译(NMT)是一种新的机器翻译方法,它在多种语言对上的翻译性能优于传统的统计机器翻译(SMT)。翻译是一个开放词汇的问题,但现有的NMT系统大多使用固定词汇,这导致了对稀有词汇的翻译能力不足。这个问题可以通过使用不同的翻译粒度,如字符,子字和混合字字符来缓解。中文翻译是机器翻译中最困难的任务之一,然而,据我们所知,目前还没有任何其他的工作探索哪种翻译粒度最适合于中文翻译。本文以汉英非母语翻译为例进行了广泛的对比研究。此外,我们详细讨论了各种翻译粒度的优点和缺点。实验结果表明,在词汇量不大的情况下,子词模型的翻译效果最好,而词字混合模型的翻译效果最好。不同粒度的实验结果表明,Hybrid_BPE方法在汉英翻译任务中取得了最佳的效果。
2017-11-13 cs.CL
The Development of a Labelled te reo Māori-English Bilingual Database for Language Technology
The University of Auckland(奥克兰大学);Te Hiku Media(特希库媒体)
新西兰的土著语言Te reo Māori(简称毛利语)在语言技术方面资源不足。毛利人讲双语,毛利语与英语进行代码转换。遗憾的是,可用于毛利语技术、语言检测和毛利语-英语对之间的代码转换检测的资源很少。英语和毛利语都使用源自罗马语的正字法,使得基于规则的语言检测系统和语码转换受到限制。大多数毛利语检测是由语言专家手动完成的。本研究建立了一个包含66,016,807个词的毛利语-英语双语数据库,并进行了词级语言标注。新西兰议会议事录辩论报告被用来建立数据库。语言标签是使用语言特定的规则和专家手册注释分配的。毛利语和英语中有拼写相同但含义不同的单词。这些单词不能根据单词级别的语言规则归类为毛利语或英语。因此,需要手动注释。还报告了一项分析,报告了数据库的各个方面,如元数据、年度分析、经常出现的单词、句子长度和N元语法。这里开发的数据库是一个宝贵的工具,为未来的语言和语音技术的发展,为新西兰奥特亚罗瓦。标记数据库所采用的方法也可用于其他资源较少的语言对。
2022-08-21 cs.CL
Unsupervised Classification of English Words Based on Phonological Information: Discovery of Germanic and Latinate Clusters
Chubu University(中部大学);Nagoya University(名古屋大学);McGill University(麦吉尔大学);Mila(米拉);Mila — Quebec AI Institute(米拉——魁北克人工智能研究所)
本研究通过无监督聚类发现英语词源结构,表明语音学信息可帮助学习词源区分。
2026-02-06 cs.CL
Comparing Moral Values in Western English-speaking societies and LLMs with Word Associations
School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院);Complex Human Data Hub, The University of Melbourne(墨尔本大学复杂人类数据中心)
为避免直接提示的局限性,本研究提出利用词汇联想作为底层表征,通过在人类与LLM联想图中传播Moral Foundation Theory的种子词,系统比较了西方英语社会与LLM在道德价值观上的差异。
2025-05-28 cs.CL
Neural Network-based Word Alignment through Score Aggregation
Idiap Research Institute(伊迪亚普研究所);Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);Facebook AI Research(脸书人工智能研究院)
我们提出了一个简单的神经网络字对齐,建立源和目标词窗口表示计算对齐分数的句子对。为了实现无监督训练,我们使用聚合操作来汇总给定目标词的对齐分数。软边目标增加真实目标词的得分,同时减少不存在的目标词的得分。与流行的快速对齐模型相比,我们的方法在英语-捷克语上提高了7 AER的对齐精度,在罗马尼亚语-英语上提高了6 AER,在英语-法语对齐上提高了1.7 AER。
2016-06-30 cs.CL
Hybrid Approach to English-Hindi Name Entity Transliteration
Government Women Engineering College(政府女子工程学院)
印度语言的机器翻译研究仍处于起步阶段。在这一领域中,对名称实体的正确音译没有做太多的工作。在本文中,我们解决这个问题。我们使用英语印地语对我们的实验,并使用了混合的方法。首先,我们已经处理了英语单词使用基于规则的方法,从单词中提取单个音素,然后我们应用了统计方法,将英语转换为相应的印地语音素,并反过来相应的印地语单词。通过这种方法,我们达到了83.40%的准确率。
2014-03-28 cs.CL
Distributional Clustering of English Words
我们描述和实验评估的方法自动聚类的话,根据其分布在特定的句法环境。确定性退火是用来找到最低失真集的集群。随着退火参数的增加,现有的聚类变得不稳定并细分,产生数据的分层“软”聚类。聚类被用来作为单词共现类模型的基础,并根据测试数据对模型进行评估。
1994-08-22 cmp-lg cs.CL
Debiasing Word Embeddings Improves Multimodal Machine Translation
Tokyo Metropolitan University(东京都立大学)
近年来,预训练的词嵌入已被证明适用于多模态神经机器翻译(NMT)模型,以解决可用数据集短缺的问题。然而,预训练的词嵌入的整合还没有被广泛探索。此外,据报道,在高维空间中预训练的词嵌入遭受hubness问题。虽然已经提出了一些去偏置技术来解决这个问题的其他自然语言处理任务,他们很少被研究多模态NMT模型。在这项研究中,我们研究了各种词嵌入,并介绍了两种去偏置技术的三个多模态NMT模型和两个语言对-英语-德语翻译和英语-法语翻译。通过我们的优化设置,多模态模型的整体性能在英语-德语翻译中提高了+1.93 BLEU和+2.02 METEOR,在英语-法语翻译中提高了+1.73 BLEU和+0.95 METEOR。
2019-06-22 cs.CL
Word Order in English-Japanese Simultaneous Interpretation: Analyses and Evaluation using Chunk-wise Monotonic Translation
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Nara Women’s University(奈良女子大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
该研究针对英日同声传译的词序差异难题,基于NAIST数据集分析分块单调翻译特征,通过评估语音翻译与同声语音翻译模型,发现现有测试集存在低估模型性能的问题。
2024-07-15 cs.CL
Building competitive direct acoustics-to-word models for English conversational speech recognition
IBM(IBM公司);Carnegie Mellon University(卡内基梅隆大学)
与使用音素、字符或上下文相关隐马尔可夫模型状态的传统的基于子词的自动语音识别模型相比,端到端范例中的直接声学到词(A2 W)模型已经受到越来越多的关注。这是因为A2 W模型从语音中识别单词,而无需任何解码器、发音词典或外部训练的语言模型,从而使使用此类模型的训练和解码变得简单。先前的工作表明,A2 W模型需要数量级更多的训练数据,以执行传统模型的训练。我们的工作也显示了这种准确性差距时,使用英语开关板费舍尔数据集。本文描述了一种训练A2 W模型的方法,该方法可以缩小这一差距,并与最先进的基于子字的模型相媲美。在没有任何解码器或语言模型的情况下,我们在Hub 5 -2000 Switchboard/CallHome测试集上实现了8.8%/13.9%的字出错率。我们发现,模型初始化,训练数据顺序,和正则化的A2 W模型的性能影响最大。接下来,我们提出了一个单词-字符联合A2 W模型,该模型首先学习拼写单词,然后识别它。该模型为用户提供了丰富的输出,而不是简单的单词假设,这使得它在训练过程中看不见或很少看到的单词的情况下特别有用。
2017-12-08 cs.AI cs.CL cs.NE
UsingWord Embeddings for Query Translation for Hindi to English Cross Language Information Retrieval
Indian Institute of Technology Kharagpur(印度理工学院卡哈拉格普尔分校)
近年来,随着Web上多语言内容的增长,跨语言信息检索成为一个亟待解决的重要问题。标准方法之一是使用从源语言到目标语言的查询翻译。在本文中,我们提出了一种基于词嵌入的方法,该方法捕获源语言中特定单词的上下文线索,并将这些单词作为在目标语言中类似上下文中出现的翻译。一旦我们获得了源语言和目标语言对的词嵌入,我们就利用一个有词翻译对的字典来学习从源语言到目标语言的词嵌入的投影,然后我们提出了各种查询翻译和聚合的方法。这种方法的优点是它不需要语料库对齐(这对于资源稀缺的语言来说是很难获得的),具有单词翻译对的字典足以训练用于翻译的单词向量。我们的实验与论坛信息检索和评估(FIRE)2008年和2012年的数据集印地语到英语CLIR。所提出的基于词嵌入的方法比基于基本词典的方法的性能高70%,并且当词嵌入与词典相结合时,混合方法比基于基线词典的方法高77%。当与从谷歌翻译和字典获得的翻译相结合时,它比英语单语基线高出15%。
2016-08-04 cs.CL
MICE: A Crosslinguistic Emotion Corpus in Malay, Indonesian, Chinese and English
Nanyang Technological University(南洋理工大学)
MICE是目前正在开发的一个四种语言的情感词汇语料库。本研究分为两个部分,第一部分:情感词语料库和第二部分:情感词调查。在第1部分中,将描述如何为四种语言中的每一种语言挑选情感数据的方法,并提供非常初步的数据。我们总共识别了3,750个马来语的情感表达,6,657个印尼语,3,347个普通话和8,683个英语。我们目前正在评估和复查语料库,并对这些情感表达的分布做进一步的分析。第二部分情感词调查包括一个在线语言调查,收集了说话者如何将情感词划分为基本情感类别,情感词的效价和强度以及所有受访者的简历信息。
2021-06-09 cs.CL
Subword Sampling for Low Resource Word Alignment
Volkswagen AG(大众汽车集团);Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心)
注释投影是NLP中的一个重要领域,可以为低资源语言创建语言资源。单词对齐在此设置中起着关键作用。然而,大多数现有的单词对齐方法是针对机器翻译中的高资源设置而设计的,在该高资源设置中,数百万个并行句子是可用的。当处理现有的IBM模型失败的低资源语言时,这个数量减少到几千个句子。在本文中,我们提出了基于子字采样的文本单元对齐。该方法的假设是,对于某些语言对,不同粒度的文本的聚合可以帮助词级对齐。对于某些语言的黄金标准的对齐存在,我们提出了一个迭代贝叶斯优化框架,以优化选择可能的子词从空间的可能的子词表示的源和目标句子。我们表明,子词抽样方法始终优于单词级对齐的六种语言对:英语-德语,英语-法语,英语-罗马尼亚语,英语-波斯语,英语-印地语,英语-因纽特语。此外,我们还表明,为某些语言对学习的超参数可以在没有监督的情况下应用于其他语言,并不断改善对齐结果。我们观察到,使用$5K$平行句子与我们提出的子词采样方法一起,我们获得了类似的F1分数使用$100K$的平行句子在现有的词级快速对齐/eflomal对齐方法。
2021-06-15 cs.CL
Detecting Intentional Lexical Ambiguity in English Puns
Tyumen State University(秋明国立大学)
本文描述了一个双关语的自动分析模型,其中一个词被有意地同时用于两种意义(目标词)。我们采用Roget的词库发现两组单词,在一个双关语,形成围绕两个抽象位的意义(义素)。它们成为一个语义向量,基于此SVM分类器学习识别双关语,F-测量的得分达到0.73。我们采用几种基于规则的方法来定位故意歧义(目标)的话,基于结构和语义标准。结构标准似乎更有效,尽管它可能仅表征测试数据集。考虑到使用监督学习模型和单词统计的效果,我们得到的结果与SemEval-2017比赛(任务7英语双关语的检测和解释)中其他团队的结果相关。
2017-07-18 cs.CL
Semantic Enrichment of Nigerian Pidgin English for Contextual Sentiment Classification
Data Science Nigeria(尼日利亚数据科学)
尼日利亚英语的适应,皮钦语,多年来通过多语言代码转换,代码混合和语言适应而发展。虽然洋泾浜保留了许多正常英语语料库中的单词,无论是在拼写还是发音上,但这些单词的基本含义已经发生了显着变化。例如,“生姜”不是一种植物,而是一种动机的表达,“坦克”不是一个容器,而是一种感激的表达。这意味着,目前使用直接的英语情感分析社交媒体文本从尼日利亚的方法是次优的,因为它将无法捕捉这些词的当代意义的语义变化和上下文演变。在实践中,虽然尼日利亚皮钦语改编中的许多单词与标准英语相同,但基于完整英语的情感分析模型并不是为了在单独使用或代码混合时捕捉尼日利亚皮钦语的全部意图而设计的。通过用大量的合成代码重新格式化的文本和含义来增强稀缺的人类标记的代码更改文本,我们在情感评分方面取得了显着的改进。我们的研究探讨了如何理解情感的intraentential代码混合和切换的情况下,有显着的单词localization.This工作提出了一个300 VADER词典兼容的尼日利亚洋泾浜情感tokens和他们的分数和14,000金标准尼日利亚洋泾浜tweets和他们的情感标签。
2020-03-27 cs.CL
Pronunciation Modeling of Foreign Words for Mandarin ASR by Considering the Effect of Language Transfer
Institute for Infocomm Research(资讯通信研究院)
自动语音识别面临的挑战之一是外来词识别。语言迁移效应是指说话人对一个外语词的发音受到母语知识的影响。本文主要研究自动语音识别中语言迁移的语音效应。提出了一套词汇规则来将英语单词转换为汉语语音表示。通过这种方式,可以通过包括英语单词来扩充普通话词典。因此,普通话ASR系统变得能够识别英语单词,而无需重新训练或重新估计声学模型参数。使用该规则生成的词汇,在不影响纯汉语语音识别准确性的前提下,提高了汉英混合语音的ASR性能。建议的词汇规则是广义的,他们可以直接应用到看不见的英语单词。
2022-10-07 cs.CL eess.AS
Frequency-centroid features for word recognition of non-native English speakers
University College Dublin(都柏林大学学院);ADAPT SFI Research Centre(ADAPT SFI研究中心)
这项工作的目的是调查互补功能,可以帮助典型的梅尔频率倒谱系数(MFCC)的封闭的,有限的一套字识别的任务,非英语母语的不同母语。与从语音信号的频谱能量导出的MFCC不同,所提出的频率质心(FC)封装语音频谱的不同频带的频谱中心,其中频带由Mel滤波器组定义。这些功能,与MFCC相结合,观察到提供相对的性能改善,在英语单词识别,特别是在不同的噪声条件下。使用两阶段卷积神经网络(CNN)对带有阿拉伯语、法语和西班牙语口音的英语单词进行特征建模。
2022-06-14 cs.CL cs.SD eess.AS
Code-switching Language Modeling With Bilingual Word Embeddings: A Case Study for Egyptian Arabic-English
The German University in Cairo(开罗德国大学);University of Stuttgart(斯图加特大学);Raisa Energy LLC(赖萨能源有限责任公司)
语码转换是双语和多语社会中普遍存在的现象。CS资源的缺乏阻碍了许多NLP任务的执行。在这项工作中,我们探索双语词嵌入在低资源埃及阿拉伯语-英语语言中用于代码切换(CS)语言建模(LM)的潜在用途。我们评估了不同的国家的最先进的双语词嵌入的方法,需要跨语言的资源在不同的水平,并提出了一个创新的,但简单的方法,共同学习双语单词表示,而不使用任何并行数据,只依赖于单语和少量的CS数据。虽然所有的表示都提高了CS LM,但我们的表现最好,相对于基线提高了33.5%的困惑度。
2019-09-24 cs.CL
CoLI-Machine Learning Approaches for Code-mixed Language Identification at the Word Level in Kannada-English Texts
Mangalore University(芒格洛尔大学);Instituto Politécnico Nacional (IPN)(墨西哥国立理工学院)
自动识别给定文本中使用的语言的任务称为语言识别(LI)。印度是一个多语言的国家,许多印度人,特别是年轻人,除了他们的当地语言外,对印地语和英语也很熟悉。因此,他们经常使用一种以上的语言在社交媒体上发表评论。包含一种以上语言的文本被称为“代码混合文本”,是LI输入的良好来源。这些文本中的语言可能在句子层面、词层面甚至在子词层面上混合。单词级的LI是一个序列标记问题,其中句子中的每个单词都标记有预定义语言集中的一种语言。为了解决代码混合的Kannada-English(Kn-En)文本中的单词级LI,这项工作提出了i)代码混合的Kn-En数据集(称为CoLI-Kenglish数据集)的构建,ii)代码混合的Kn-En嵌入和iii)使用机器学习(ML),深度学习(DL)和迁移学习(TL)方法的学习模型。从卡纳达语YouTube视频评论中提取混合Kn-En文本,构建CoLI-Kenglish数据集和混合Kn-En嵌入。CoLI-Kenglish数据集中的单词分为六大类,即“卡纳达语”,“英语”,“混合语言”,“名称”,“位置”和“其他”。利用CoLI-Kenglish数据集构建了基于ML的CoLI-vectors和CoLI-ngrams、基于DL的CoLI-BiLSTM和基于TL方法的CoLI-ULMFiT学习模型并进行了评估。的学习模型的性能说明,CoLI-ngrams模型的优越性,与其…
2022-11-17 cs.AI cs.CL cs.CY
Team ACK at SemEval-2025 Task 2: Beyond Word-for-Word Machine Translation for English-Korean Pairs
Adobe Inc.(Adobe公司);CU Boulder(科罗拉多大学博尔德分校);KAIST(韩国科学技术院);New York University(纽约大学);UBC(不列颠哥伦比亚大学)
本研究评估13个英韩翻译模型,发现LLMs优于传统MT系统但在文化适应的实体翻译上仍有困难,通过构建错误分类法揭示了自动评估指标的不足。
2025-04-29 cs.CL cs.IR
The role of grammar in transition-probabilities of subsequent words in English text
Medical University of Vienna(维也纳医科大学);Complexity Science Hub Vienna(维也纳复杂科学中心);Santa Fe Institute(圣塔菲研究所);IIASA(国际应用系统分析研究所)
句子的形成是一个高度结构化、依赖于历史和样本空间缩减(SSR)的过程。虽然句子中的第一个单词可以从整个词汇中选择,但随着句子的发展,选择后续单词的自由度越来越受到语法和上下文的限制。这种样本空间减少属性提供了一个自然的解释Zipf定律在词频,但是,它无法捕捉的结构的词到词的转移概率矩阵的英语文本。在这里,我们采用的观点,语法约束(如主语-谓语-宾语)本地重新排序的词序在句子中采样SSR词生成过程。我们表明,叠加的语法结构-作为一个本地字重新排序(置换)的过程-在一个样本空间减少的过程是足够的解释,字的频率和字到字的转换概率。我们比较质量的语法有序SSR模型再现几个测试统计的真实文本与其他文本生成模型,如伯努利模型,西蒙模型,和猴子打字模型。
2018-12-28 cs.CL physics.soc-ph
Understanding Pure Character-Based Neural Machine Translation: The Case of Translating Finnish into English
Uppsala University(乌普萨拉大学);University of Zurich(苏黎世大学);University of Edinburgh(爱丁堡大学)
最近的研究表明,更深层的基于字符的神经机器翻译(NMT)模型可以优于基于子词的模型。然而,目前还不清楚是什么让更深层次的基于角色的模型成功。本文以芬兰语的英译为例,对纯字符模型进行了研究,探讨了芬兰语学习者对词义、词形变化的学习能力以及注意力机制。我们证明,词级信息分布在整个字符序列,而不是在一个单一的字符,字符在不同的位置发挥不同的作用,在学习语言知识。此外,基于字符的模型需要更多的层来编码词义,这解释了为什么只有更深的模型才优于基于子词的模型。注意力分布模式表明,分隔符吸引了大量的注意力,我们探索了一个稀疏的字级注意力,以加强字符隐藏状态,以捕捉完整的字级信息。实验结果表明,单中心词水平的注意导致1.2 BLEU点下降。
2020-11-06 cs.CL