What Drives the Use of Metaphorical Language? Negative Insights from Abstractness, Affect, Discourse Coherence and Contextualized Word Representations
University of Stuttgart(斯图加特大学)
给定一个特定的语篇,哪些语篇属性触发了隐喻语言的使用,而不是使用字面上的替代?例如,是什么驱使人们在特定的语境中说“领会意思”而不是“理解意思”?许多自然语言处理隐喻语言的方法依赖于认知和(心理)语言学的见解,并成功地定义了语篇连贯性,抽象性和情感的模型。在这项工作中,我们建立了五个简单的模型依赖于既定的认知和语言属性-频率,抽象性,影响,话语连贯性和语境化的词表示-预测使用的隐喻与同义的字面表达在上下文中。通过比较模型的输出与人类的判断,我们的研究表明,我们选择的属性不足以系统地解释隐喻与字面语言的选择。
2022-05-23 cs.CL
Enhancing Cross-lingual Sentence Embedding for Low-resource Languages with Word Alignment
The University of Tokyo(东京大学)
针对低资源语言跨语言词表征对齐不足的问题,本文提出基于现成词对齐模型的显式词对齐框架,结合三项训练目标,显著提升低资源句子嵌入并保持高资源任务性能。
2024-04-03 cs.CL
Neural Metaphor Detection in Context
University of Washington(华盛顿大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们提出了端到端的神经模型,用于检测上下文中的隐喻词的使用。我们表明,相对标准的BiLSTM模型,操作完整的句子,在这种情况下工作良好,相比以前的工作,使用更严格的形式的语言背景。这些模型建立了一个新的国家的最先进的现有的动词隐喻检测基准,并显示出强大的性能,联合预测的所有单词的隐喻在一个运行的文本。
2018-08-29 cs.CL
ContrastWSD: Enhancing Metaphor Detection with Word Sense Disambiguation Following the Metaphor Identification Procedure
本研究提出融合隐喻识别流程与词义消歧的RoBERTa隐喻检测模型ContrastWSD,通过对比词语语境义与基本义判断隐喻用法,在多个基准数据集上表现优于现有方法,提升了隐喻检测效果。
2024-03-23 cs.CL cs.LG
Learning the Cue or Learning the Word? Analyzing Generalization in Metaphor Detection for Verbs
School of Computation, Information and Technology, Technical University of Munich(计算、信息与技术学院,慕尼黑技术大学);Institute for Natural Language Processing, University of Stuttgart(自然语言处理研究所,斯图加特大学)
本文通过RoBERTa分析隐喻检测中的泛化能力,发现模型在未见过的词语上仍能保持表现,表明泛化主要由学习提示驱动,而词语记忆提供额外提升。
2026-04-15 cs.CL
Metaphor Detection using Deep Contextualized Word Embeddings
University Of Delhi(德里大学);National Informatics Center(国家信息中心)
隐喻普遍存在于自然语言中,其检测在语言理解、情感分析等自然语言处理任务中起着至关重要的作用。现有的隐喻检测方法大多依赖于复杂的、手工制作的和微调的特征管道,这极大地限制了它们的适用性。在这项工作中,我们提出了一个端到端的方法组成的深上下文的词嵌入,双向LSTM和多头注意力机制,以解决自动隐喻检测的任务。我们的方法,不像许多其他现有的方法,只需要原始文本序列作为输入功能来检测一个短语的隐喻性。我们分别在两个基准数据集TroFi和MOH-X上比较了我们的方法与现有基线的性能。实验评估证实了我们的方法的有效性。
2020-09-26 cs.CL cs.LG
ChainNet: Structured Metaphor and Metonymy in WordNet
University of Cambridge(剑桥大学);Magdalene College(麦格达伦学院);The Alan Turing Institute(阿兰·图灵研究所);Brandeis University(布兰戴斯大学)
ChainNet 首次在 WordNet 中显式标注名词义项间的隐喻、转喻派生关系及同形异义断开情况,构建了首个有依据的隐喻与转喻数据集。
2024-03-29 cs.AI cs.CL
MelBERT: Metaphor Detection via Contextualized Late Interaction using Metaphorical Identification Theories
Sungkyunkwan University(成均馆大学);Bering Lab;The Pennsylvania State University(宾夕法尼亚州立大学)
自动隐喻检测是一个具有挑战性的任务,以确定隐喻表达的话在一个句子。为了解决这个问题,我们采用预先训练的上下文化模型,例如,BERT和ROBERTA。为此,我们提出了一个新的隐喻检测模型,即隐喻感知的后期交互BERT(MelBERT)。我们的模型不仅利用语境化的单词表示,而且还受益于语言隐喻识别理论,以区分单词的上下文和字面意义。我们的实证结果表明,MelBERT在四个基准数据集上优于几个强基线,即,VUA-18、VUA-20、MOH-X和TroFi。
2021-04-28 cs.CL cs.LG
Interpreting Verbal Metaphors by Paraphrasing
University of Aberdeen(阿伯丁大学);University of Sheffield(谢菲尔德大学);University of Surrey(萨里大学)
隐喻表达是一种困难的语言现象,对自然语言处理任务提出了挑战。以前的工作表明,将隐喻解释为其字面对应物可以帮助机器在下游任务中更好地处理隐喻。在本文中,我们解释隐喻与BERT和WordNet上位词和同义词在无监督的方式,表明我们的方法显着优于国家的最先进的基线。我们还证明,我们的方法可以帮助机器翻译系统提高其准确性翻译英语隐喻8目标语言。
2021-04-07 cs.CL
Metaphor Detection via Explicit Basic Meanings Modelling
University of Surrey(萨里大学);University of Sheffield(谢菲尔德大学)
本文提出一种严格遵循MIP原则的隐喻检测方法,通过训练集字面标注显式建模词汇基本含义并与语境含义对比,在VUA18上F1提升1.0%并达到理论上限。
2023-05-26 cs.CL
On the Impact of Temporal Representations on Metaphor Detection
University of Milano-Bicocca(米兰比可卡大学);FIZ Karlsruhe - Leibniz Institute for Information Infrastructure(FIZ卡尔斯鲁厄——莱布尼茨信息基础设施研究所);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
现有的隐喻检测方法使用基于神经网络的隐喻分类器来比较它们的字面意义或核心意义以及它们的上下文意义。然而,由于文化和社会的影响,隐喻表达方式随着时间的推移而演变。人们知道隐喻表达与语言和字面词义共同进化,甚至在某种程度上推动了这种进化。这就提出了一个问题,即不同的,可能是特定时间的,字面意义的表征是否会影响隐喻检测任务。据我们所知,这是第一个研究,探讨隐喻检测任务,详细的探索性分析,不同的时间和静态词嵌入被用来解释不同的表征字面意义。我们的实验分析是基于三个流行的基准用于隐喻检测和词嵌入提取不同的语料库和时间对齐使用不同的国家的最先进的方法。结果表明,不同的静态词嵌入方法的使用确实影响隐喻检测任务,一些时间词嵌入略优于静态方法。然而,研究结果也表明,时间词嵌入可能提供表征的核心意义的隐喻,甚至太接近他们的上下文意义,从而混淆分类。总的来说,时间语言进化和隐喻检测之间的相互作用在我们的实验中使用的基准数据集似乎很小。这表明,未来对这一重要语言现象的计算分析工作应该首先从创建一个新的数据集开始,在这个数据集上更好地表示这种相互作用。
2022-04-29 cs.AI cs.CL
The Frequency Confound in Language-Model Surprisal and Metaphor Novelty
CRC 1646 – Linguistic Creativity in Communication(CRC 1646 语言创造力在交流中的研究)
研究探讨了语言模型惊奇度与隐喻新颖性之间的关系,发现词频比惊奇度更能预测隐喻新颖性,并指出惊奇度与频率之间的关联在训练阶段早期达到峰值,随后下降,暗示最优的语言模型惊奇度设置可能错误地将上下文可预测性与隐喻新颖性和处理难度联系起来,而词频可能是主要影响因素。
2026-05-17 cs.CL
An Expectation-Realization Model for Metaphor Detection
Ohio University(俄亥俄大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
本文提出由期望组件和实现组件构成的ER隐喻检测架构,学习词语隐喻用法模式,并通过模型集成提升性能,在分布内、分布外及新颖隐喻泛化测试中达到或超过现有最优水平。
2023-11-07 cs.AI cs.CL
Contextual Modulation for Relation-Level Metaphor Identification
Insight SFI Research Centre for Data Analytics(Insight科学基金会数据分析研究中心);Data Science Institute(数据科学研究所);National University of Ireland Galway(爱尔兰国立高威大学)
识别文本中的隐喻是非常具有挑战性的,需要理解潜在的比较。最近,这种认知过程的自动化得到了广泛的关注。然而,大多数现有的方法集中在单词级识别处理的任务,无论是单字分类或顺序标签没有明确建模的隐喻组件之间的相互作用。另一方面,虽然现有的关系级方法隐式地模拟这种交互,但它们忽略了隐喻发生的上下文。在这项工作中,我们通过引入一种新的架构来识别基于上下文调制的某些语法关系的关系级隐喻表达,以解决这些限制。在视觉推理的作品的启发方法,我们的方法是基于条件的神经网络计算上的候选表达式使用功能明智的线性调制的深上下文的功能。我们证明了所提出的体系结构在基准数据集上实现了最先进的结果。所提出的方法是通用的,可以应用到其他文本分类问题,受益于上下文的相互作用。
2020-10-12 cs.CL
Enhancing Hyperbole and Metaphor Detection with Their Bidirectional Dynamic Interaction and Emotion Knowledge
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University(航空信息安全与可信计算重点实验室、教育部、网络安全科学与工程学院、武汉大学);National University of Singapore(新加坡国立大学)
针对夸张与隐喻检测中忽略二者关联及隐含情感影响的问题,提出情感引导的双向动态交互框架EmoBi,通过情感分析、领域映射和双向交互模块实现相互促进,在四个数据集上优于现有方法,显著提升检测F1分数。
2025-06-18 cs.CL cs.LG
Conceptual Metaphor Theory as a Prompting Paradigm for Large Language Models
Universität Oldenburg(奥尔登堡大学)
本文提出以概念隐喻理论作为提示范式,通过隐喻映射引导大语言模型进行结构化推理,实验表明该方法在推理准确性、清晰度和隐喻连贯性上均优于多个基线模型。
2025-02-04 cs.CL
A Dual-Perspective Metaphor Detection Framework Using Large Language Models
School of Informatics Xiamen University Xiamen, China
本文提出双视角隐喻检测框架DMD,结合隐喻理论的隐式与显式应用引导大语言模型,并通过自判断机制提升推理透明度和预测可靠性,在多个数据集上取得最优性能。
2024-12-25 cs.CL
Metaphors' journeys across time and genre: tracking the evolution of literary metaphors with temporal embeddings
University School for Advanced Studies IUSS(高等研究大学学院)
本研究通过时间嵌入分析文学隐喻在不同时代和体裁中的演变,发现隐喻处理需求受体裁影响显著,现代文学中隐喻更难处理,而网络语言中更易处理。
2026-02-14 cs.CL
LMs stand their Ground: Investigating the Effect of Embodiment in Figurative Language Interpretation by Language Models
Ludwig-Maximilians-University (LMU)(路德维希-马克西米利安大学(慕尼黑大学));Institute for Information and Language Processing (CIS)(信息与语言处理研究所);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本研究探究具身性对语言模型比喻语言理解的影响,发现隐喻动作具身性越强,大语言模型解读表现越好,排除其他特征共线性干扰,为大模型具备促进比喻理解的具身概念化能力提供了初步证据。
2023-06-15 cs.CL
Adversarial Multi-task Learning for End-to-end Metaphor Detection
Tsinghua University(清华大学)
本文提出一种对抗式多任务学习框架,将基础语义判别知识迁移到隐喻检测中,通过端到端对齐数据分布缓解数据稀缺问题,并在四个公开数据集上取得有竞争力的结果。
2023-05-26 cs.CL
LLMs Know More Than Words: A Genre Study with Syntax, Metaphor & Phonetics
Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院)
本文通过引入多语言体裁分类数据集,研究LLMs在语法、隐喻和语音特征上的学习能力及其对分类任务的影响。
2025-12-04 cs.AI cs.CL
A neural network to classify metaphorical violence on cable news
University of California, Merced(加州大学默塞德分校)
我在这里提出了一个用于识别和注释语料库中隐喻的实验系统。它被设计为插件到Metacorps,一个实验性的网络应用程序,用于注释隐喻。当Metacorps用户注释隐喻时,系统将使用用户注释作为训练数据。当系统确信时,它将建议标识和注释。一旦被用户批准,这就变成更多的训练数据。这自然允许迁移学习,其中系统可以在仅在一个类别的隐喻上进行训练之后,以某种已知的可靠程度对另一个类别的隐喻进行分类。例如,在我们的隐喻暴力项目中,隐喻可以根据它们被观察到的网络,暴力隐喻的语法主语或宾语,或使用的暴力词(击中,攻击,殴打等)进行分类。
2018-10-19 cs.CL stat.ML
AraMIP: Extending MIPVU Towards Metaphor Identification in Arabic
Technical University of Berlin(柏林工业大学);SOAS University of London(伦敦大学亚非学院);Bielefeld University(比勒费尔德大学);University of Groningen(格罗宁根大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
针对阿拉伯语隐喻识别资源匮乏问题,提出AraMIP指南,基于MIPVU框架适配阿拉伯语特性,区分三类比喻语言,标注300句试点数据,揭示形态复杂性等挑战,为标准化资源奠定基础。
2026-09-16 cs.CL
Enhancing Out-of-Vocabulary Performance of Indian TTS Systems for Practical Applications through Low-Effort Data Strategies
AI4Bharat, Indian Institute of Technology, Madras(AI4Bharat、马德拉斯印度理工学院)
针对低资源印度语言TTS系统词汇外性能差的问题,提出利用志愿者录制含未见双字母组单词的低成本数据策略,在不影响语音质量的前提下提升OOV性能。
2024-07-18 cs.CL cs.LG cs.SD
Enhancing multimodal analogical reasoning with Logic Augmented Generation
University of Bologna(博洛尼亚大学);ISTC-CNR(意大利国家研究 council 信息与系统技术研究中心)
本文提出逻辑增强生成框架,通过结合语义知识图谱和提示启发法,提升多模态类比推理能力,在隐喻检测和理解任务中优于基线和人类表现。
2025-06-13 cs.AI cs.CL
Words, Spaces and Generative AI: Layers of language in contemporary architecture
本章探讨建筑领域中语言作为设计材料的价值,结合语言学理论,明确生成式AI辅助建筑设计时交织的三类语言形式,并提出将生成式隐喻与生成式AI结合的研究议程。
2026-08-26 cs.CL
LaiDA: Linguistics-aware In-context Learning with Data Augmentation for Metaphor Components Identification
School of Computer and Artificial Intelligence, Zhengzhou University(郑州大学计算机与人工智能学院)
针对隐喻成分识别的复杂性与语境依赖难题,提出融合语言学感知与数据增强的LaiDA框架,通过图注意力网络检索相似示例微调大语言模型,在NLPCC2024相关子任务中获第二名。
2024-08-10 cs.CL
How Metaphors Impact Political Discourse: A Large-Scale Topic-Agnostic Study Using Neural Metaphor Detection
Google Research(谷歌研究院);Imperial College London(帝国理工学院);University of Amsterdam(阿姆斯特丹大学)
隐喻作为一种有效的框架手段在政治修辞中被广泛使用。虽然之前已经有文献记录了特定隐喻(如政治语篇中的战争隐喻)的功效,但这些研究通常依赖于少量的手动编码隐喻使用实例。需要更大规模的主题不可知论研究来建立隐喻作为一种手段的普遍说服力,并揭示指导其说服力的更广泛的模式。在本文中,我们提出了一个大规模的数据驱动的研究中使用的隐喻在政治语篇。我们对一个公开的数据集进行了这项研究,该数据集包含了412名美国政客在其Facebook公共页面上发布的超过8.5万个帖子,截至2017年2月。我们的贡献有三个方面:我们的证据表明,隐喻的使用与意识形态倾向以复杂的方式相关,这取决于同时发生的政治事件,如赢得或失去选举;我们表明,即使在控制了各种社会政治因素,如性别和政党关系后,隐喻的帖子也会引起观众的更多参与;最后,我们通过对7万篇帖子中513个词的隐喻用法和字面用法的细粒度语言学分析,证明隐喻性确实是帖子参与度增加的原因。
2021-04-08 cs.CL cs.SI
When People are Floods: Analyzing Dehumanizing Metaphors in Immigration Discourse with Large Language Models
University of Maryland(马里兰大学);University of Michigan(密歇根大学)
本文利用大型语言模型分析移民话语中的去人性化隐喻,探讨隐喻、政治意识形态与用户参与之间的关系。
2025-07-18 cs.CL cs.CY
Geometry of Compositionality
University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出了一个简单的组合性测试(即,字面用法)的一个词或短语在上下文特定的方式。该测试在计算上很简单,不依赖外部资源,只使用一组经过训练的词向量。实验结果表明,该方法在多种语言的不同数据集上,对各种自然语言现象(习语、讽刺、隐喻)的上下文组合性检测具有很高的准确性。关键的见解是将组合性与词嵌入的一个奇怪的几何性质联系起来,这是一个独立的兴趣。
2016-11-29 cs.CL
Surprisal and Metaphor Novelty Judgments: Moderate Correlations and Divergent Scaling Effects Revealed by Corpus-Based and Synthetic Datasets
CRC 1646 – Linguistic Creativity in Communication Faculty of Linguistics and Literary Studies(语言创造力在交流中的创造性 CRC 1646 教育学院)
本研究通过语料库和合成数据集探讨惊奇与隐喻新颖性注释的相关性,发现中等相关性和差异性缩放效应,揭示了惊奇在衡量语言创造力方面的局限性。
2026-01-26 cs.AI cs.CL cs.IT
Enhancing the LexVec Distributed Word Representation Model Using Positional Contexts and External Memory
Institute of Informatics(信息学研究所);Universidade Federal do Rio Grande do Sul(南里奥格兰德联邦大学)
在本文中,我们采取了一个国家的最先进的分布式单词表示模型,明确因式分解的正逐点互信息(PPMI)矩阵使用窗口采样和负采样,并解决其两个缺点。我们通过使用位置上下文来提高语法性能,并通过在外部存储器中处理聚合数据来解决将PPMI矩阵存储在存储器中的需要。这两种修改的有效性显示使用词相似性和类比任务。
2016-06-03 cs.CL
Systematic word meta-sense extension
University of Toronto(多伦多大学)
本文提出了系统性词语元义延伸(SWORME)任务以测试并提升语言模型推导非字面词义的能力,发现模型擅长渐进式语义延伸而难以预测隐喻,并提出基于类比的方法有效提升了模型延伸能力及在修辞语言理解基准上的表现。
2023-11-21 cs.CL
EVOKE: Emotion Vocabulary Of Korean and English
本文介绍了EVOKE情感词汇库,包含韩英情感词汇及多对多翻译,系统标注了819个韩语和924个英语形容词和动词,揭示了多义情感词和隐喻关系,为情感研究提供系统工具。
2026-04-10 cs.CL
Enhancing Pre-trained Chinese Character Representation with Word-aligned Attention
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
大多数中文预训练模型以汉字为基本单位,根据汉字的外部语境来学习表示,忽略了汉字中最小的有意义话语--词所表达的语义。因此,我们提出了一种新的词对齐的注意,利用显式的单词信息,这是补充各种基于字符的中文预训练语言模型。具体来说,我们设计了一个池化机制,将字符级的注意力调整到单词级,并提出通过多源信息融合来缓解分割错误传播的潜在问题。结果,单词和字符信息在微调过程中被明确地整合。五个中文NLP基准任务的实验结果表明,我们的模型可以带来另一个显着的增益比几个预先训练的模型。
2020-04-29 cs.CL
Enhancing Chinese Intent Classification by Dynamically Integrating Character Features into Word Embeddings with Ensemble Techniques
使用基于神经网络和词嵌入的深度学习方法对英语数据进行了广泛的意图分类研究。中文意图分类的挑战源于这样一个事实,即与大多数单词由26个语音字母组成的英语不同,中文是语标,其中汉字是一个更基本的语义单位,可以提供信息,其含义在上下文中不会变化太多。单独的中文词嵌入可能不足以表示单词,并且预先训练的嵌入可能无法很好地与手头的任务对齐。考虑到不足和利用汉字信息,我们提出了一种低工作量和通用的方法来动态集成字符嵌入的特征映射与基于词嵌入的输入,其产生的单词字符嵌入堆叠上下文信息抽取模块,以进一步结合上下文信息进行预测。在该模型的基础上,我们采用集成方法将单个模型组合起来,得到最终的结果。该方法是数据独立的,不依赖于外部来源,如预先训练的词嵌入。所提出的模型优于基线模型和现有的方法。
2018-05-23 cs.CL
Sub-Word Alignment Is Still Useful: A Vest-Pocket Method for Enhancing Low-Resource Machine Translation
Soochow University(苏州大学)
我们利用对齐子词之间的嵌入重复来扩展父子迁移学习方法,从而改进低资源机器翻译。我们在My-En,Id-En和Tr-En翻译场景的基准数据集上进行实验。测试结果表明,我们的方法产生了实质性的改善,实现的BLEU分数分别为22.5,28.0和18.1。此外,该方法计算效率高,将训练时间消耗减少了63.8%,在Tesla 16 GB P100 GPU上训练时达到1.6小时。实验中的所有模型和源代码都将公开,以支持可重复的研究。
2022-05-09 cs.CL
Learning by Analogy: Enhancing Few-Shot Prompting for Math Word Problem Solving with Computational Graph-Based Retrieval
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对大语言模型(LLMs)解决数学应用题(MWPs)的推理难题,本文提出基于计算图检索相似问题作为示例的类比学习方法,在六个数据集上实现平均6.7%的绝对性能提升,有效增强LLMs的MWP求解能力。
2024-11-25 cs.CL
Code-Switching for Enhancing NMT with Pre-Specified Translation
Soochow University(苏州大学);Alibaba DAMO Academy(阿里巴巴达摩院);Westlake University(西湖大学)
利用用户提供的翻译来约束NMT具有现实意义。现有的方法可以分为两大类,即使用占位符标记的词汇和使用硬约束在解码过程中。由于各种原因,这两种方法都可能损害翻译保真度。我们研究了一种数据增强方法,通过用目标翻译替换源短语来生成代码转换的训练数据。我们的方法不改变MNT模型或解码算法,允许模型通过复制源端目标词来学习词典翻译。大量的实验表明,我们的方法实现了一致的改进,现有的方法,提高了翻译的约束词,而不伤害不受约束的话。
2019-05-16 cs.CL
A Survey on Lexical Ambiguity Detection and Word Sense Disambiguation
Informatics Institute of Technology(信息学技术学院);Swansea University(斯旺西大学)
本文综述了自然语言处理中的词义消歧技术,涵盖深度学习与知识图谱方法,介绍了词义扩展等前沿技术及其在生物医学等领域的应用,并指出了语料稀缺等挑战与未来发展方向。
2024-03-24 cs.CL
Enhancing Modern Supervised Word Sense Disambiguation Models by Semantic Lexical Resources
本文利用WordNet和WordNet Domains为现代监督式词义消歧模型引入语义特征并扩充训练数据,提出多层架构,在统一评估框架中取得与最先进水平相当的结果。
2024-02-20 cs.CL
Lex-BERT: Enhancing BERT based NER with lexicons
在这项工作中,我们代表的Lex-BERT,它将词典信息融入到中文BERT的命名实体识别(NER)任务,在一个自然的方式。我们不像FLAT那样使用词嵌入和新设计的Transformer层,而是使用特殊的标记来识别句子中单词的边界,修改后的句子将直接由BERT编码。我们的模型没有引入任何新的参数,比FLAT更有效。此外,我们不需要伴随词典集合的任何词嵌入。在Ontonotes和ZhCrossNER上的实验表明,我们的模型优于FLAT和其他基线。
2021-04-16 cs.CL
All that is English may be Hindi: Enhancing language identification through automatic ranking of likeliness of word borrowing in social media
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);Microsoft Research India(微软研究院印度分部)
本文提出基于社交媒体信号识别单词被借用可能性的计算方法,其预测表现优于基线两倍多,并发现88%的外来语标签应被替换为母语标签,揭示了自动语言识别系统的巨大改进空间。
2017-07-29 cs.CL
Towards Enhancing Lexical Resource and Using Sense-annotations of OntoSenseNet for Sentiment Analysis
Language Technologies Research Center, Kohli Center on Intelligent Systems(科利智能系统中心语言技术研究中心);International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术研究所)
本文阐述了我们开发的工具,为众包的界面,我们解释了注释过程中的细节。我们的工具被命名为“Parupalli Padajaalam”,意思是Parupalli的单词网络。该工具的目的是填充OntoSenseNet,情绪极性注释泰卢固语资源。最近的工作已经表明了词级注释对情感分析的重要性。以此为基础,我们的目标是分析的重要性,从OntoSenseNet在执行情感分析的任务中获得的感觉注释。我们解释了从OntoSenseNet(泰卢固语)中提取的特征。此外,我们还计算并解释了OntoSenseNet中动词的状语类分布。已知该任务有助于消除词义歧义,这有助于提高词义消歧(WSD)任务的性能。
2018-07-25 cs.CL
Leap-LSTM: Enhancing Long Short-Term Memory for Text Categorization
Peking University(北京大学)
递归神经网络(RNN)广泛应用于自然语言处理(NLP)领域,从文本分类到问答和机器翻译。然而,RNN通常从头到尾阅读整个文本,有时反之亦然,这使得处理长文本的效率低下。当阅读一个分类任务(如主题分类)的长文档时,大量的单词是不相关的,可以跳过。为此,我们提出了Leap-LSTM,这是一种LSTM增强模型,它在阅读文本时动态地在单词之间跳跃。在每一步中,我们利用几个特征编码器从前面的文本,下面的文本和当前单词中提取信息,然后确定是否跳过当前单词。我们在几个文本分类任务上评估了Leap-LSTM:情感分析,新闻分类,本体分类和主题分类,使用五个基准数据集。实验结果表明,我们的模型比标准LSTM读取速度更快,预测效果更好。与以前的模型,也可以跳过的话,我们的模型实现了更好的性能和效率之间的权衡。
2019-05-28 cs.CL
Capturing Minds, Not Just Words: Enhancing Role-Playing Language Models with Personality-Indicative Data
School of Data Science, Fudan University(复旦大学数据科学学院);School of Computer Science, Fudan University(复旦大学计算机科学技术学院)
本文提出利用心理量表问题蒸馏高级RPA生成性格指示数据,以增强小型角色扮演语言模型对角色心智的捕捉,实验证明该方法显著提升了模型的通用与性格相关角色扮演能力。
2024-10-15 cs.CL
Enhancing Out-Of-Domain Utterance Detection with Data Augmentation Based on Word Embeddings
对于大多数智能辅助系统,必须具有自动检测域外(OOD)话语的机制,以正确处理嘈杂的输入。一种典型的方法是引入一个单独的类,该类包含与域内文本样本相结合的OOD话语示例。然而,由于OOD话语通常是看不见的训练数据集,检测性能在很大程度上取决于附加的OOD文本数据的质量,由于计算限制,样本的大小有限。在本文中,我们研究了如何增强的OOD数据的基础上采样的影响OOD话语检测与小样本量。我们假设,随机选择的OOD话语样本可以增加未知OOD话语空间的覆盖率,并提高检测精度,如果他们更分散。实验表明,在相同的数据集和相同的OOD样本大小下,OOD样本分布越分散,OOD话语检测性能越好。
2020-03-27 cs.CL
Leveraging the Potential of Prompt Engineering for Hate Speech Detection in Low-Resource Languages
Bangladesh Institute of Governance and Management (BIGM)(孟加拉国治理与管理研究所);Department of Cyber Security Engineering, George Mason University(网络安全工程系,乔治·梅森大学)
本文针对低资源语言仇恨言论检测的数据集匮乏问题,在Llama2-7B模型上提出并评估了包括首创隐喻提示在内的六种提示策略,并与多种深度学习模型及词嵌入方法对比,证明了其在孟加拉语等语言中的有效性。
2025-06-30 cs.AI cs.CL
Enhancing Word Embeddings with Knowledge Extracted from Lexical Resources
TALP Research Center, Universitat Politècnica de Catalunya(加泰罗尼亚理工大学 TALP 研究中心)
在这项工作中,我们提出了一个有效的方法,语义专业化的词向量表示。为此,我们使用传统的词嵌入和应用专门化方法,以更好地捕捉词之间的语义关系。在我们的方法中,我们利用外部知识丰富的词汇资源,如BabelNet。我们还表明,我们提出的基于对抗性神经网络与Wasserstein距离的后专业化方法可以在两个任务上获得比最先进方法的改进:单词相似性和对话状态跟踪。
2020-05-20 cs.CL cs.LG
Enhancing Interpretability using Human Similarity Judgements to Prune Word Embeddings
University of Trento(特伦托大学);Denotation UG
本文提出一种监督学习方法,通过人类相似性判断剪枝词嵌入,保留20-40%特征以增强可解释性,并揭示不同领域保留特征在预测语义维度上的差异,促进AI与人类知识对齐。
2023-10-16 cs.CL
Don't Just Scratch the Surface: Enhancing Word Representations for Korean with Hanja
Seoul National University(首尔国立大学)
我们提出了一个简单而有效的方法来提高韩语单词表示使用额外的语言注释(即汉字)。我们利用汉字与汉语密切相关的事实,采用跨语言迁移学习来训练词汇表征。我们通过我们的方法使用词类比和相似性测试来评估表征的内在质量。此外,我们证明了他们的有效性,在几个下游任务,包括一个新的韩国新闻标题生成任务。
2019-10-31 cs.CL cs.LG
Class Distillation with Mahalanobis Contrast: An Efficient Training Paradigm for Pragmatic Language Understanding Tasks
Stony Brook University(石溪大学)
针对语用语言理解中从异质背景识别小目标类别的难题,提出ClaD类别蒸馏范式,以马哈拉诺比斯距离损失和可解释决策算法实现低参数高效检测。
2025-05-17 cs.CL
You shall know a piece by the company it keeps. Chess plays as a data for word2vec models
School of Linguistics HSE University(高等经济大学语言学院);Institute of Russian Literature (Pushkin House)(俄罗斯文学研究所(普希金之家));Russian Academy of Sciences(俄罗斯科学院)
本文将语言学分析方法应用于国际象棋对局数据,展示word2vec词嵌入模型如何处理国际象棋对局文本,指出该方法虽未必能帮助选择最佳棋步,但在纯学术意义上捕捉到了游戏本质的某些重要特征。
2024-07-28 cs.AI cs.CL
OCHADAI-KYOTO at SemEval-2021 Task 1: Enhancing Model Generalization and Robustness for Lexical Complexity Prediction
Ochanomizu University(御茶水女子大学);Kyoto University(京都大学)
我们提出了一个集成模型来预测词汇和多词表达式(MWE)的词汇复杂度。该模型接收带有目标词或MWE的句子作为输入,并输出其复杂性得分。考虑到这项任务的一个关键挑战是注释数据的大小有限,我们的模型依赖于来自不同的最先进的基于转换器的语言模型(即,BERT和RoBERTa),以及用于进一步增强模型泛化和鲁棒性的各种训练方法:多步微调和多任务学习,以及对抗训练。此外,我们建议通过在训练过程中添加手工制作的功能来丰富上下文表示。我们的模型取得了有竞争力的结果,并在这两个子任务的前10名系统中排名。
2021-06-15 cs.CL