Is Less More? Quality, Quantity and Context in Idiom Processing with Natural Language Models
University of Sheffield(谢菲尔德大学);Institute for Data Science and Artificial Intelligence(数据科学与人工智能学院);University of Exeter(埃克塞特大学)
针对语言模型处理习语的组合性难题,构建NCSSB数据集,探究习语性检测模型训练中数据质、量与不同来源语境的权衡,发现富语境模型更依赖数据质量,无语境策略模型中数据量也有作用。
2024-05-14 cs.CL
Attention on Multiword Expressions: A Multilingual Study of BERT-based Models with Regard to Idiomaticity and Microsyntax
Saarland University(萨尔兰大学)
本文通过六种印欧语言研究基于BERT的模型对习语和微句法单位的注意力模式,发现微调会显著改变模型对多词表达的注意力分配,语义任务使习语注意力更均匀分布,句法任务则增强低层对微句法单位的关注。
2025-05-09 cs.CL
IdiomX A Multilingual Benchmark for Idiom Understanding, Retrieval, and Interpretation
Data ScienceTech Institute(数据科学技术学院)
提出IdiomX,一个大规模多语言习语基准,通过可复现的多阶段流水线构建,涵盖190K+上下文示例和12K+习语,定义四项任务(检测、上下文-习语检索、阿拉伯语-英语习语检索、习语解释),实验表明上下文Transformer模型提升检测,混合检索重排序增强单语和跨语言检索,习语解释可建模为语义检索任务。
2026-04-25 cs.AI cs.CL cs.IR
Idiom Understanding as a Tool to Measure the Dialect Gap
Group for Research in Artificial Intelligence of Laval University (GRAIL)(拉瓦尔大学人工智能研究组(GRAIL));Université Laval(拉瓦尔大学)
本文提出结合成语理解和方言理解任务,构建三个新的法语方言基准数据集,发现模型在魁北克成语上表现显著逊色,证实了基准测试在量化方言差距中的有效性。
2026-04-06 cs.CL
Getting BART to Ride the Idiomatic Train: Learning to Represent Idiomatic Expressions
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
惯用语是自然语言的重要组成部分,具有非组合性的特点。它们一直是对NLP的经典挑战,包括驱动当今最先进技术的预先训练的语言模型。先前的工作已经确定了它们的上下文表示中的缺陷,这些缺陷源于表示的底层组合范式。在这项工作中,我们采取了第一原则的方法来建立到BART使用适配器作为一个轻量级的非组合语言专家训练的成语。改进的基线能力(例如,BART)是通过内在和外在的方法,其中成语嵌入得分高0.19分嵌入聚类的同质性得分,和高达25%的更高的序列准确性成语处理任务的IE意义消歧和跨度检测。
2022-07-08 cs.CL cs.LG
A BERT-based Dual Embedding Model for Chinese Idiom Prediction
Singapore Management University(新加坡管理大学)
汉语成语是一种特殊的固定词组,通常来源于古代故事,其意义往往具有很强的习语性和非合成性。汉语成语预测任务是从一组候选成语中选出正确的成语。我们提出了一个基于BERT的双嵌入模型来编码上下文单词以及学习成语的双嵌入。具体来说,我们首先将每个候选习语的嵌入与上下文中空白对应的隐藏表示进行匹配。然后,我们通过上下文池将每个候选习惯用法的嵌入与上下文中所有标记的隐藏表示进行匹配。我们进一步建议使用两个独立的习惯用法嵌入来进行这两种匹配。在最近发布的汉语成语完形填空测试数据集上的实验表明,本文提出的方法比现有的方法有更好的性能,消融实验也表明上下文池和双重嵌入都有助于提高性能。
2020-11-04 cs.CL
A Dataset for Probing Translationese Preferences in English-to-Swedish Translation
本文提出首个英语到瑞典语翻译倾向语料库,用于评估语言模型对翻译倾向与习语的偏好,发现模型倾向于翻译倾向表达,即使无上下文也如此。
2026-03-09 cs.CL
Idioms, Probing and Dangerous Things: Towards Structural Probing for Idiomaticity in Vector Space
ADAPT Centre(ADAPT中心);Technological University Dublin(都柏林理工大学)
该研究采用结构探测方法,改造英语动词性多词表达数据集,对比探究静态GloVe与上下文BERT嵌入中习语信息的编码方式,发现二者均编码部分习语信息但向量范数相关结论矛盾,同时指出数据集局限与未来优化方向。
2023-04-27 cs.AI cs.CL cs.LG
Crossing the Threshold: Idiomatic Machine Translation through Retrieval Augmentation and Loss Weighting
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
针对机器翻译难以处理习语的问题,研究构建了多语言习语数据集,并提出训练损失加权和检索增强两种方法,使预训练模型在习语翻译上的绝对准确率最高提升13%。
2023-10-20 cs.CL
From Solving a Problem Boldly to Cutting the Gordian Knot: Idiomatic Text Generation
UIUC(伊利诺伊大学厄巴纳-香槟分校);Facebook AI(脸书人工智能研究院);Saint Francis High School(圣弗朗西斯高中)
我们研究了一种新的文本生成应用--成语生成,它旨在将句子中的字面短语转换成成语。受心理语言学理论的启发,在一个人的母语成语的使用,我们提出了一种新的方法来完成这项任务,检索适当的成语为一个给定的字面句子,提取句子的跨度被替换的成语,并生成成语句子使用神经模型相结合检索成语和句子的其余部分。在为此任务创建的一个新数据集上的实验表明,我们的模型能够有效地将字面句子转换为习语。此外,自动和人工评估表明,对于这项任务,所提出的模型优于一系列有竞争力的基线模型的文本生成。
2021-05-11 cs.CL
Graph-Assisted Culturally Adaptable Idiomatic Translation for Indic Languages
Media Analysis Group, Sony Research India(索尼印度研究机构媒体分析组)
提出基于自适应图神经网络的IdiomCE方法,学习习语表达间的复杂映射,有效提升了英语到多种印度语言的习语翻译质量,且在资源受限的小模型中表现优异。
2025-05-28 cs.CL
JARVix at SemEval-2022 Task 2: It Takes One to Know One? Idiomaticity Detection using Zero and One-Shot Learning
Georgia Institute of Technology(佐治亚理工学院)
大语言模型通过捕获文本表示的组合性,在各种各样的自然语言处理任务中取得了成功。尽管它们取得了巨大的成功,但这些向量表示未能捕捉到惯用多词表达(MWE)的含义。在本文中,我们专注于使用二进制分类的成语检测。我们使用的数据集组成的字面和习惯用法的MWE在英语和葡萄牙语。之后,我们在两种不同的设置下进行分类:zero shot和one shot,以确定给定的句子是否包含成语。该任务的N个镜头分类由训练集和测试集之间的N个常见习惯用法定义。在本文中,我们在这两种设置中训练多个大语言模型,并在zero shot设置中实现了0.73的F1得分(宏),在one shot设置中实现了0.85的F1得分(宏)。我们工作的实现可以在https://github.com/ashwinpathak20/Idiomaticity_Detection_Using_Few_Shot_Learning上找到。
2022-06-23 cs.AI cs.CL cs.LG
UAlberta at SemEval 2022 Task 2: Leveraging Glosses and Translations for Multilingual Idiomaticity Detection
Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所);University of Alberta(阿尔伯塔大学)
我们描述了阿尔伯塔大学系统的SemEval-2022任务2的多语言习语检测。工作的假设下,习惯表达是noncompositional的,我们的第一种方法集成到一个二元分类的表达的单个单词的含义的信息。进一步假设字面表达和习惯表达的翻译不同,我们的第二种方法在上下文中翻译表达,并使用词汇知识库来确定翻译是否是字面的。我们的方法是基于语言现象,并利用现有的词汇知识来源。我们的研究结果支持这两种方法,特别是前者。
2022-05-27 cs.CL
Classifying Idiomatic and Literal Expressions Using Topic Models and Intensity of Emotions
Montclair State University(蒙特克莱尔州立大学);Bauman State Technical University(鲍曼国立技术大学)
我们描述了一个自动分类的成语和文字表达的算法。我们的出发点是,在一个给定的文本片段,如一个段落,是一个共同的讨论主题的高级代表的话不太可能是一个习惯表达的一部分。我们的另一个假设是,习语发生的背景下,通常,更有情感,因此,我们纳入了一个简单的分析的强度的情绪表达的背景。我们调查袋的话主题表示的一至三个段落包含一个表达式,应被归类为成语或字面(目标短语)。我们使用无监督聚类方法,潜在狄利克雷分配(LDA)(Blei等人,2003年)。由于习惯表达具有非组合性,我们假设它们通常呈现出与局部主题中使用的词不同的语义。我们把习语看作是语义离群点,而语义转移的识别就是离群点检测。因此,这种主题表示允许我们使用局部语义上下文来区分习语和字面意思。我们的成果令人鼓舞。
2018-02-27 cs.CL
Idiomatic Expression Identification using Semantic Compatibility
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
习惯表达是自然语言的一个组成部分,并不断地被添加到语言中。由于它们的非组合性以及它们根据具体上下文具有比喻或字面意义的能力,它们一直是NLP系统的经典挑战。为了解决这一挑战,我们研究了检测句子是否具有惯用表达并将其本地化的任务。针对该任务的现有技术研究了特定类别的惯用表达,提供了它们对新惯用法的可推广性的有限视图。我们提出了一个多阶段的神经结构与注意力流机制来识别这些表达式。该网络有效地融合上下文和词汇信息在不同层次上使用词和子词表示。三个最大的基准数据集的不同的句法模式和程度的非组合性的惯用表达的实证评估表明,我们提出的模型实现了新的国家的最先进的结果。该模型的一个显着特点是能够识别训练过程中看不到的习语,在最大数据集上的竞争基线上获得1.4%至30.8%的收益。
2021-10-19 cs.CL
Casting a Wide Net: Robust Extraction of Potentially Idiomatic Expressions
University of Groningen(格罗宁根大学)
像“out of the woods”和“up the ante”这样的习惯表达为自然语言处理应用程序带来了一系列困难。我们提出的注释和提取的工作,我们称之为潜在的惯用表达(PIE),一个子类的多词表达,涵盖了字面和非字面使用的惯用表达。现有的PIE语料库规模较小,对不同PIE类型的覆盖范围有限,这阻碍了研究。为了进一步提取和消除潜在习语的歧义,需要更大的PIE语料库。此外,更大的语料库是一个潜在的资源,有价值的语言学见解的习语表达及其变异。我们提出了自动工具,以促进建设较大的PIE语料库,通过调查的可行性,使用基于词典的提取PIE作为预提取工具的英语。我们通过评估成语词典的可靠性和覆盖率,PIE语料库的注释以及从大型语料库中自动提取PIE来实现这一点。结果表明,字典的组合是一个可靠的来源的习惯表达,PIE可以注释具有较高的可靠性(0.74-0.91 Fleiss' Kappa),和基于解析的PIE提取产生高度准确的性能(88%F1-分数)。结合互补的PIE提取方法进一步增加了可靠性,超过92%F1分数。此外,这里提出的提取方法可以扩展到其他类型的多词表达式和其他语言,只要有足够的NLP工具可用。
2019-11-20 cs.CL
Rolling the DICE on Idiomaticity: How LLMs Fail to Grasp Context
University of Sheffield(谢菲尔德大学);University of Exeter(埃克塞特大学);Alan Turing Institute(艾伦·图灵研究所)
本文构建受控对比数据集测试LLM利用上下文消歧习语的能力,发现LLM在需关注上下文时无法解决习语性,且受句子概率和搭配频率影响。
2025-07-15 cs.CL
Detecting Idiomatic Multiword Expressions in Clinical Terminology using Definition-Based Representation Learning
Ghent University - Imec(根特大学-imec(比利时微电子研究中心));University of Malaga(马拉加大学)
本文提出基于定义的表示学习模型BioLORD,通过比较MWE与其成分表示的相似度来检测临床术语中的习语性多词表达,优于SapBERT和CODER,有助于优先翻译工作。
2023-05-11 cs.CL
IEKG: A Commonsense Knowledge Graph for Idiomatic Expressions
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Princeton University(普林斯顿大学);Washington University in St. Louis(圣路易斯华盛顿大学)
本文构建面向习语比喻解释的常识知识图谱IEKG,扩展ATOMIC2020将PTLM转化为知识模型,实验证明其可提升习语理解并泛化至未见习语。
2023-12-11 cs.CL cs.LG
When Meaning Travels: A Granular Lens on Hybrid-MoE's Role in Idiomatic Understanding for Language Models
Department of Computer Science and Engineering, Indian Institute of Technology Patna, India(印度理工学院帕纳瓦分校计算机科学与工程系);School of Information Technology, King Mongkut’s Institute of Technology Ladkrabang, Thailand(泰国拉差班国王理工大学信息科技学院)
针对低资源东南亚语言中习语的文化隐喻复杂性,提出Varnika多模态习语语料库和混合专家模型HybridMoE,通过控制混合和掩码多模态嵌入缓解专家稀疏性,实现习语理解性能提升5-6%。
2026-06-01 cs.CL
Idiomatic Expression Paraphrasing without Strong Supervision
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Facebook AI(Facebook人工智能)
习语在自然语言中起着重要的作用。在本文中,我们研究了成语释义(ISP)的任务,其目的是用一个IE来释义一个句子,用它的字面释义来代替IE。缺乏大规模的语料库与成语字面平行的句子是这项任务的主要挑战,为此,我们考虑两个单独的解决方案。首先,我们提出了一种无监督的方法,ISP,它利用了IE的上下文信息和定义,不需要一个平行的句子训练集。其次,我们提出了一种弱监督的方法,使用反向翻译来联合执行释义和生成带有IE的句子,以扩大小规模的并行句子训练数据集。该研究的其他重要衍生物包括一个模型,该模型将句子中的文字短语替换为IE以生成惯用表达和具有惯用/文字句子对的大规模并行数据集。与竞争基线相比,所提出的解决方案的有效性可以在BLEU中超过5.16点的相对增益中看到,METEOR中超过8.75点,SARI中超过19.57点,当使用自动和手动评估在并行数据集上对生成的句子进行经验验证时。我们证明了实际效用的ISP作为预处理步骤的恩-德机器翻译。
2021-12-16 cs.CL
SemEval-2025 Task 1: AdMIRe -- Advancing Multimodal Idiomaticity Representation
University of Sheffield, UK(谢菲尔德大学);University of Exeter, UK(埃克塞特大学);Federal University of Rio Grande do Sul, Brazil(里约格朗德杜斯尔大学)
SemEval-2025 AdMIRe 任务通过多模态习语排序与序列预测两个子任务评估模型习语理解能力,最优方法结合 LLM 与视觉-语言模型的专家混合架构达到人类水平。
2025-06-04 cs.CL cs.CV
AStitchInLanguageModels: Dataset and Methods for the Exploration of Idiomaticity in Pre-Trained Language Models
University of Sheffield(谢菲尔德大学)
尽管预训练的语言模型在各种NLP任务中取得了成功,但由于其严重依赖组合性,无法有效地捕获多词表达式(MWE)的含义,特别是习语。因此,迫切需要数据集和方法来改善MWE的表示。现有的数据集仅限于提供表达的地道性程度以及MWE的字面和(在适用的情况下)(单一)非字面解释。这项工作提出了一个新的数据集自然发生的句子包含MWE手动分类到一个细粒度的意义集,跨越英语和葡萄牙语。我们在两个任务中使用该数据集,旨在测试i)语言模型检测成语使用的能力,以及ii)语言模型在生成包含成语的句子表示方面的有效性。我们的实验表明,在检测惯用用法的任务,这些模型表现相当不错,在一次拍摄和Few-Shot的情况下,但有显着的改进空间在zero-shot的情况。在表达习语性的任务上,我们发现预训练并不总是有效的,而微调可以提供一个样本有效的方法来学习包含MWE的句子的表示。
2021-09-09 cs.CL
IdEALS: Idiomatic Expressions for Advancement of Language Skills
Columbia University(哥伦比亚大学);University of California, Davis(加州大学戴维斯分校)
本文聚焦学生写作中习语表达的使用,通过构建真实数据的训练集与专家标注测试集,评估多种方法以提升句子表现力。
2023-05-24 cs.CL
Translate Meanings, Not Just Words: IdiomKB's Role in Optimizing Idiomatic Translation with Language Models
Fudan University(复旦大学)
针对习语翻译难题,本文提出多语言习语知识库IdiomKB,利用大模型构建,通过检索比喻意义提升小模型翻译性能,并引入GPT-4评估指标验证其有效性。
2023-12-25 cs.CL
Generating Continuations in Multilingual Idiomatic Contexts
Portland State University(波特兰州立大学)
本研究针对生成式语言模型对习语等非组合性比喻语言的理解能力,用英、葡双语数据集在零样本、少样本、微调三种设置下测试续写任务,发现模型字面语境续写仅略优于习语语境,且双语表现相当。
2023-11-04 cs.AI cs.CL
HIT at SemEval-2022 Task 2: Pre-trained Language Model for Idioms Detection
Harbin Institute of Technology(哈尔滨工业大学);iFLYTEK Research(科大讯飞研究院)
同样的多词表达在不同的句子中可能有不同的含义。它们主要分为字面意义和习语意义两大类。非基于上下文的方法在这个问题上表现不佳,我们需要上下文嵌入来正确理解多词表达的习惯意义。我们使用一个预先训练好的语言模型,它可以提供一个上下文感知的句子嵌入,以检测句子中的多词表达是否是惯用用法。
2022-04-13 cs.CL
CLIX: Cross-Lingual Explanations of Idiomatic Expressions
University of Colorado Boulder(科罗拉多大学博尔德分校);Johannes Gutenberg University Mainz(美因茨约翰尼斯·古腾堡大学)
研究提出CLIX任务,探讨NLP模型在生成习语跨语言解释中的能力,发现大语言模型有潜力,但需进一步解决错误分析中的关键挑战。
2025-05-30 cs.CL
A Hard Nut to Crack: Idiom Detection with Conversational Large Language Models
Barcelona Supercomputing Center (BSC)(巴塞罗那超级计算中心);University of the Basque Country UPV/EHU(巴斯克大学(UPV/EHU))
本研究探索大语言模型的习语处理能力,推出专家设计的难例数据集IdioTS,提出基于习语检测任务的综合评估方法,并完成全面的自动、人工评估与错误分析。
2024-05-17 cs.CL
When Meaning Isn't Literal: Exploring Idiomatic Meaning Across Languages and Modalities
Indian Institute of Technology Patna(印度理工学院巴特那分校);King Mongkut's Institute of Technology Ladkrabang(国王科技大学拉卡邦分校)
本文提出Mediom多语言多模态隐喻语料库及HIDE框架,通过系统性测试揭示语言模型在隐喻理解上的缺陷,并为下一代AI系统提供文化根基的隐喻理解方法。
2026-04-12 cs.CL
CRUST-Bench: A Comprehensive Benchmark for C-to-safe-Rust Transpilation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);New York University(纽约大学)
本研究推出包含100个C仓库及配套安全Rust接口、测试用例的CRUST-Bench基准,用于评估C到安全Rust的转译效果,实验发现前沿大语言模型在该任务上表现不佳,最佳模型单轮仅能解决15个任务。
2025-10-01 cs.CL cs.LG cs.SE
A Parallel Cross-Lingual Benchmark for Multimodal Idiomaticity Understanding
本文提出XMPIE数据集,用于评估多语言多模态隐喻理解能力,包含34种语言和超过一万项内容,支持跨语言和跨模态的隐喻理解研究。
2026-02-24 cs.CL
Conceptual Networks for Cross-Linguistic Idiomatic Expressions: A Feature-Based Graph Approach
University of Eastern Finland(东芬兰大学);Indian Institute of Technology Ropar(印度理工学院罗帕尔分校)
该研究提出基于网络的框架表示八种语言的习语和比喻意义,用概念特征注释构建加权图,通过社区检测发现习语按概念模式聚类,网络能捕获独特语义信息,跨语言转移实验有提升,消融研究表明多特征维度有贡献,提供了可解释的习语意义表示。
2026-07-14 cs.AI cs.CL cs.ET
Improving LLM Abilities in Idiomatic Translation
Algoverse AI Research(Algoverse人工智能研究院)
本研究针对大语言模型翻译习语的难题,通过扩展知识库寻找目标语言对应习语,提出余弦相似度查找和LLM生成习语两种方法,实验表明余弦相似度方法在GPT4o翻译中表现最佳,并开发了低资源乌尔都语数据集。
2025-01-23 cs.AI cs.CL
Evaluating Large Language Models on Urdu Idioms
Technical University Dortmund(多特蒙德工业大学);Research Center Trustworthy Data Science and Security(可信数据科学与安全研究中心)
本研究构建含4000组双语习语对的乌尔都语跨文字习语评估基准,采用多种提示策略评估前沿LLMs,发现其在习语处理上优于传统NMT,凸显提示工程的重要性。
2026-09-04 cs.CL
Killing Two Flies with One Stone: An Attempt to Break LLMs Using English->Icelandic Idioms and Proper Names
The Árni Magnússon Institute for Icelandic Studies(冰岛研究的阿尔尼·马格努森研究所)
针对英语到冰岛语翻译中习语和专有名词的翻译难题,研究构建两类测试集参与WMT24子任务,评估发现现有模型得分偏低,该方向仍有较大提升空间。
2024-10-04 cs.CL
NLP Datasets for Idiom and Figurative Language Tasks
Japan Advanced Institute of Science and Technology(日本先进科学研究院);International College of Technology(国际技术学院)
本文提出用于隐喻和修辞语言任务的NLP数据集,通过构建综合隐喻列表和人工标注数据集,评估预训练语言模型在隐喻识别任务中的表现。
2025-12-03 cs.CL
Gamified Crowdsourcing for Idiom Corpora Construction
Istanbul Technical University(伊斯坦布尔技术大学)
由于习语的含义难以预测,习语的学习被认为是第二语言学习中最具挑战性的阶段之一。在机器翻译和解析等自然语言处理应用中,它们的识别也是类似的情况。缺乏高质量的使用样本不仅加剧了人类面临的挑战,也加剧了人工智能系统面临的挑战。本文介绍了一种游戏化的众包方法,用于收集用于习惯表达的语言学习材料;消息传递机器人被设计为一个异步多人游戏,供母语人士相互竞争,同时提供习惯和非习惯用法示例并对其他玩家的条目进行评级。相对于经典的crowdprocessing注释在该领域的努力,在文献中,第一次crowdcreating和crowdrating方法实现和测试成语语料库建设。该方法是语言独立的,并在两种语言进行评估相比,在该领域的传统数据准备技术。在不同的激励手段下(即游戏化启示和金钱奖励)监测人群的反应。结果表明,所提出的方法是强大的,在收集有针对性的材料,虽然是一个明确的众包的方法,它是有趣的和有用的人群。该方法已被证明有潜力加快不同自然语言的成语语料库的建设被用作第二语言学习材料,训练数据监督成语识别系统,或样本的词典学研究。
2021-02-01 cs.CL
Chinese Idiom Paraphrasing
Yangzhou University(扬州大学);Hefei University of Technology(合肥工业大学)
成语是汉语中的一种习惯表达方式,大多数都是由四个汉字组成。由于汉语成语的非组合性和隐喻性,儿童和非本族语者很难理解成语。本研究提出了一个新的任务,称为汉语成语释义(CIP)。目的是在保留原句意义的前提下,将含有习语的句子改写为非习语的句子。由于没有成语的句子更容易被中文NLP系统处理,CIP可以用于预处理中文数据集,从而促进和提高中文NLP任务的性能,例如,机器翻译系统,汉语成语完形填空,汉语成语嵌入。在本研究中,CIP任务被视为一种特殊的释义生成任务。为了克服获取注释的困难,我们首先建立了一个基于人机协作的大规模CIP数据集,该数据集由115,530个句子对组成。我们进一步部署了三个基线和两个新的CIP方法来处理CIP问题。实验结果表明,与基于CIP数据集的基线方法相比,本文提出的方法具有更好的性能。
2022-04-20 cs.CL
To What Extent Do Large Language Models Understand Bangla Idioms?
Technical University Dortmund(多特蒙德工业大学);Research Center Trustworthy Data Science and Security(可信数据科学与安全研究中心);BRAC University(BRAC大学);United International University(联合国际大学)
该研究构建了首个孟加拉语习语基准数据集及配套MCQ数据集,通过多任务评估发现不同LLM在习语相关任务上表现有差异,各有优势,成果为低资源语言习语理解研究提供了资源。
2026-09-04 cs.CL
Revisiting a Pain in the Neck: A Semantic Reasoning Benchmark for Language Models
University of Science and Technology Beijing(北京科技大学);State Key Laboratory of General Artificial Intelligence, BIGAI(通用人工智能国家重点实验室,BIGAI)
本文提出SemanticQA基准,用于评估语言模型在语义短语处理任务中的表现,通过整合现有多词表达资源并重新组织为统一测试平台,涵盖通用词汇现象及三种细粒度类别,评估不同架构和规模的语言模型在提取、分类、解释及任务组合中的性能,揭示语义推理任务中模型性能的显著差异,为提升语言模型在非平凡语义短语上的理解能力提供见解。
2026-05-19 cs.CL
Can Transformer be Too Compositional? Analysing Idiom Processing in Neural Machine Translation
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
与字面表达不同,习语的意义并不直接从其部件中推导出来,这给神经机器翻译(NMT)带来了挑战。NMT模型通常无法准确地翻译习语,并且过度生成合成的字面翻译。本文以英语为源语言,欧洲七种语言中的一种为目标语言,通过分析模式的隐藏状态和注意模式,探讨习语的非组合性是否反映在主导的NMT模型Transformer的机制中。当Transformer发出一个非字面翻译时--也就是说,将表达式标识为惯用的--与字面表达式相比,编码器更强烈地将惯用作为单个词汇单元处理。这主要表现在习语的各个部分通过注意力的作用而被组合在一起,习语与语境之间的互动减少。在解码器的交叉注意中,比喻性输入导致对源端令牌的注意力降低。这些结果表明,Transformer倾向于将成语作为组合表达进行处理,这有助于成语的字面翻译。
2022-05-30 cs.CL
Finding Tori: Self-supervised Learning for Analyzing Korean Folk Song
Sogang University(西江大学);Kunstuniversität Graz(格拉茨艺术大学)
本文针对约700小时韩国民歌实地录音数据集,提出基于音高轮廓的卷积神经网络自监督学习方法,以更好地捕捉由音阶、装饰音和旋律轮廓定义的音乐概念tori的特征,并验证了现有学术讨论在实际录音中的体现。
2023-08-04 cs.IR cs.LG cs.SD
A Survey of Idiom Datasets for Psycholinguistic and Computational Research
Educational Testing Service(教育测试服务);Princeton, New Jersey, USA(新泽西州普林斯顿);Montclair State University(蒙特克莱尔州立大学)
本文综述了53个心理语言学和计算语言学领域的习语数据集,分析其内容、形式与用途,并指出两个领域在习语研究上仍缺乏关联。
2025-08-15 cs.CL
Memorization or Reasoning? Exploring the Idiom Understanding of LLMs
Hanyang University(汉阳大学);Sony AI(索尼人工智能);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
本文通过构建六语习语数据集MIDAS,系统评估大语言模型的习语理解能力,揭示其依赖记忆与语境推理相结合的混合机制。
2025-09-23 cs.CL
Vector Representations of Idioms in Conversational Systems
我们证明,在这项研究中,一个开放域的会话系统训练的成语或比喻的语言产生更合适的反应,提示包含成语。习语是许多语言、许多文化中的日常用语的一部分,但它们对许多自然语言处理(NLP)系统构成了巨大挑战,这些系统除了会话AI之外,还涉及信息检索(IR)和机器翻译(MT)等任务。我们利用潜在习语表达(PIE)-英语习语语料库的两个任务,我们调查:分类和会话生成。通过使用SoTA T5模型,我们在分类任务上实现了98%宏观F1得分的最先进(SoTA)结果。我们实验了SoTA对话模型的三个实例,对话生成预训练Transformer(DialoGPT),用于对话生成。他们的表现进行了评估,使用自动度量困惑和人类评价。结果表明,与未在成语语料库上训练的类似模型相比,在成语语料库上训练的模型在71.9%的时间内对包含成语的提示产生更多的拟合响应。我们在HuggingFace中心上提供模型检查点/演示和代码,供公众访问。
2022-05-07 cs.CL
A Rising Tide Lifts All Boats: MTQE Rewards for Idioms Improve General Translation Quality
UIUC(伊利诺伊大学香槟分校)
通过MTQE奖励机制提升模型对习语的翻译能力,显著改善一般翻译质量及跨语言翻译表现。
2026-01-09 cs.CL
Automatic Evaluation and Analysis of Idioms in Neural Machine Translation
University of Edinburgh(爱丁堡大学);Amazon AI(亚马逊人工智能研究院)
神经机器翻译(NMT)中的一个主要问题是习惯表达的翻译,例如“under the weather”。这些表达的含义不是由其组成词的含义组成的,并且NMT模型倾向于逐字翻译它们(即,逐字),这会导致令人困惑和荒谬的翻译。由于缺乏自动量化的方法,对英语习语的研究受到了限制和阻碍。在这项工作中,首先,我们提出了一个新的度量标准,自动测量频率的直译错误,而无需人工参与。配备了这个指标,我们提出了受控的翻译实验,模型在不同的条件下训练(有/没有测试集习惯用法),并在广泛的(全球和有针对性的)指标和测试集。我们探索了单语预训练的作用,发现它产生了实质性的有针对性的改进,即使没有观察到测试集成语的任何翻译示例。在我们的分析中,我们探讨了习语语境的作用。我们发现,随机初始化的模型更局部或“近视”,因为它们相对不受成语上下文变化的影响,不像预训练的模型。
2022-10-10 cs.CL
Supervision versus Demonstration-Based In-Context Learning for Multiword Expression Classification
University of Chicago(芝加哥大学);Fırat University(费拉特大学)
研究土耳其语多词表达分类,对比监督基线(BERTurk)与指令微调LLM在零样本、单样本和少样本提示下的表现,发现提示敏感性和演示偏差影响显著。
2026-06-05 cs.AI cs.CL
Large Language Models for Persian $ \leftrightarrow $ English Idiom Translation
University of Tehran(德黑兰大学);Tehran Institute for Advanced Studies(德黑兰高等研究院);Khatam University(哈塔姆大学)
该研究构建波斯语-英语习语翻译平行数据集,评估多种LLM、NMT模型及组合的翻译效果,验证了自动评估方法的有效性,得出不同模型适配的最优提示与组合策略。
2025-02-21 cs.CL
It's Not a Walk in the Park! Challenges of Idiom Translation in Speech-to-text Systems
Saarland University(萨尔兰大学);Xi’an Jiaotong University(西安交通大学)
本文系统评估了语音转文本系统在习语翻译上的表现,发现其相比机器翻译系统和大语言模型存在显著性能下降,常退化为字面翻译,从而揭示了SLT架构需要习语特定策略和改进内部表示的必要性。
2025-06-03 cs.CL
FFE-Hallu:Hallucinations in Fixed Figurative Expressions:Benchmark of Idioms and Proverbs in the Persian Language
Tehran Institute for Advanced Studies, Khatam University, Iran(德黑兰高级研究 institute,Khatam 大学,伊朗);School of Electrical and Computer Engineering, College of Engineering, University of Tehran, Tehran, Iran(电气与计算机工程学院,工程学院,德黑兰大学,德黑兰,伊朗)
FFE-Hallu是首个针对波斯语隐喻幻觉评估的基准,揭示了LLMs在处理隐喻语言方面的系统性弱点。
2026-01-27 cs.CL
A Constraint-based Case Frame Lexicon Architecture
在土耳其语中,(可能在许多其他语言中)当动词与主语、宾语、间接宾语、状语从句一起使用时,它们通常传达几种含义(有些完全不相关),具有一定的词汇、形态和语义特征,以及共现限制。除了由于对动词论元的选择性限制而导致的通常意义变化之外,在大多数情况下,格框架所传达的意义是习惯性的,而不是组合性的,具有微妙的限制。在本文中,我们提出了一种方法来建立一个约束为基础的情况下,框架词典用于自然语言处理在土耳其,其原型,我们已经实现了TFS系统在斯图加特大学开发。我们对土耳其语的一些观察表明,我们需要超越传统的及物动词和不及物动词的区别,并利用一个框架,在这个框架中,动词配价被认为是相对于动词意义的可能论元的任意子集的强制性共存,以及强制性排除某些其他论元。附加的形态词汇和语义约束的句法成分组织为一个5层的约束层次结构,被用来映射一个给定的句法结构的情况下,一个特定的动词意义。
1995-07-21 cmp-lg cs.CL