Towards Effective Disambiguation for Machine Translation with Large Language Models
University of Edinburgh(爱丁堡大学)
本文研究大语言模型翻译歧义句子的能力,提出通过上下文学习和在精选数据集上微调来提升消歧能力,实验证明该方法在多数语言方向上优于DeepL和NLLB等先进系统。
2023-10-21 cs.CL
Do Pretrained Contextual Language Models Distinguish between Hebrew Homograph Analyses?
Bar Ilan University(巴伊兰大学);DICTA
本研究以希伯来语为案例,构建同形异义词挑战数据集,评估现有希伯来语上下文嵌入模型的消歧能力,验证了其优于非上下文嵌入,并明确了不同歧义类型、切分数量等因素对消歧效果的影响。
2024-05-11 cs.CL
Small Language Model Helps Resolve Semantic Ambiguity of LLM Prompt
School of Computer Science and Engineering, University of Electronic Science and Technology of China(电子科技大学计算机科学与工程学院);Department of Electronic Engineering, Kyung Hee University(庆熙大学电子工程系)
本文提出通过显式提示消歧机制解决LLM提示的语义歧义问题,利用小语言模型高效计算提升推理性能,实验表明方法在多个基准上提升2.5点,成本仅0.02美元。
2026-04-25 cs.AI cs.CL
MUCAR: Benchmarking Multilingual Cross-Modal Ambiguity Resolution for Multimodal Large Language Models
提出MUCAR基准,通过多语言和双重歧义数据集评估多模态大语言模型的跨模态歧义消解能力,发现现有模型与人类水平存在显著差距。
2025-09-26 cs.CL cs.LG
Who Relies More on World Knowledge and Bias for Syntactic Ambiguity Resolution: Humans or LLMs?
Miami University(迈阿密大学);Portland State University(波特兰州立大学)
本研究通过构建MultiWho数据集,对比人类与LLM在六种语言的关系从句附着歧义解决中的表现,发现LLM僵化依赖世界知识偏见、偏好局部附着,缺乏人类语言处理的灵活性,指出需优化多语言训练以提升LLM复杂结构处理能力。
2025-03-20 cs.CL
Large Language Models and Multimodal Retrieval for Visual Word Sense Disambiguation
School of Electrical and Computer Engineering(电气与计算机工程学院);National Technical University of Athens(雅典国立技术大学)
本文研究视觉词义消歧任务,通过结合大型语言模型、多模态检索、单模态转换及思维链提示等多种方法,并训练学习排序模型融合各模块,取得了具竞争力的检索结果。
2023-10-21 cs.CL
Active Task Disambiguation with LLMs
University of Cambridge(剑桥大学)
本文从贝叶斯实验设计视角形式化任务模糊性问题,提出主动任务消歧方法,使LLM智能体通过生成最大化信息增益的澄清性问题来缩小可行解空间,实验证明该方法优于仅依赖问题空间内推理的方法。
2025-02-06 cs.AI cs.CL cs.LG
WiC is Not WSD: A Study on LLMs and Lexical Ambiguity Resolution
University of Liverpool(利物浦大学);Amazon(亚马逊);Cardiff University(卡迪夫大学)
本研究通过对比WiC与传统WSD任务,发现提供候选词义能提升大语言模型在WiC上的表现,并指出模型错误多源于标签歧义和过度细粒度的词义区分。
2026-09-18 cs.CL
A Crowdsourced Frame Disambiguation Corpus with Ambiguity
FD Mediagroep(FD媒体集团);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Google(谷歌)
我们提出了一个资源的任务的FrameNet语义框架消歧的超过5,000个单词,句子对维基百科语料库。这些注释是使用一种新颖的众包方法收集的,每句话有多个工人来捕捉注释者之间的分歧。与将最佳单个框架归因于每个单词的典型方法相反,我们提供了一个框架列表,其中包含基于分歧的分数,这些分数表示每个框架适用于单词的置信度。这是基于这样的想法,即注释者之间的分歧至少部分是由文本和框架固有的歧义引起的。我们已经发现了许多例子,在这些例子中,各个框架的语义充分重叠,使它们成为解释句子的可接受的替代方案。我们认为,忽略这种模糊性会为训练和评估自然语言处理系统创造一个过于武断的目标--如果人类不能达成一致,我们为什么会期望机器的正确答案会有任何不同呢?为了处理这些数据,我们还利用了Framester系统提供的扩展词元集,该系统将FN与WordNet合并以增强覆盖率。我们的数据集包括1,000个词元不属于FN的词对的注释。最后,我们提出的指标,评估帧消歧系统,占模糊。
2019-04-12 cs.CL
ARCS: Towards Precise Text-to-SQL via Structured Disambiguation
Duke University(杜克大学);Megagon Labs(Megagon 实验室)
针对文本到SQL中用户问题歧义导致错误的问题,提出结构化消歧新范式,构建首个含自然歧义的基准ARCS,实验显示现有模型准确率低,凸显该挑战。
2026-10-15 cs.CL
Picturing Ambiguity: A Visual Twist on the Winograd Schema Challenge
Brock University(布鲁克大学)
本文提出WinoVis数据集和评估框架,通过GPT-4生成提示和DAAM热图分析,隔离文本到图像模型的代词消歧能力,发现Stable Diffusion 2.0准确率仅56.7%,略高于随机猜测,揭示了多模态推理的挑战。
2024-06-03 cs.AI cs.CL cs.CV
A Survey on Lexical Ambiguity Detection and Word Sense Disambiguation
Informatics Institute of Technology(信息学技术学院);Swansea University(斯旺西大学)
本文综述了自然语言处理中的词义消歧技术,涵盖深度学习与知识图谱方法,介绍了词义扩展等前沿技术及其在生物医学等领域的应用,并指出了语料稀缺等挑战与未来发展方向。
2024-03-24 cs.CL
Capturing Ambiguity in Crowdsourcing Frame Disambiguation
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);IBM CAS Benelux(IBM比荷卢CAS);Google Research(谷歌研究院)
FrameNet是一个计算语言学资源,由语义框架组成,表示单词含义的高级概念。在本文中,我们提出了一种方法来收集帧消歧注释的句子使用众包的方法,每个句子多个工人捕捉注释者之间的分歧。我们进行了一组433个句子的实验,从框架网络语料库的帧注释,并显示聚合人群注释实现了F1分数大于0.67相比,专家语言学家。我们强调的情况下,人群注释是正确的,即使专家是在不同意,认为需要有多个注释者每句话。最重要的是,我们研究了人群工作者无法达成一致的情况,并证明这些情况在句子,框架或任务本身中表现出模糊性,并认为将这些情况分解为单个离散的真值(即正确或不正确)是不合适的,为机器学习创造了任意目标。
2018-05-01 cs.CL
Structural Ambiguity and its Disambiguation in Language Model Based Parsers: the Case of Dutch Clause Relativization
Institute of Language Sciences(语言科学研究所);Utrecht University(乌得勒支大学)
本文研究荷兰语关系从句的结构歧义问题,通过引入前序句子语境进行消歧,对比了基于证明网的神经符号解析器与基于通用依存关系的解析器,发现前者在纠正数据偏差方面更具优势。
2023-05-24 cs.AI cs.CL
Disambiguation in Conversational Question Answering in the Era of LLMs and Agents: A Survey
Adobe Research(Adobe研究部);KAIST(韩国科学技术院);Adobe Inc.(Adobe公司)
本文综述了LLM和智能体时代下对话式问答中的歧义问题,系统梳理了歧义定义、消解方法分类、优缺点比较、基准数据集及未来研究方向,旨在推动更稳健可靠的LLM系统发展。
2025-09-22 cs.CL
Using a Probabilistic Class-Based Lexicon for Lexical Ambiguity Resolution
本文提出了使用概率类为基础的词典消歧的目标词选择。我们的方法采用最小但精确的上下文信息消歧。也就是说,只使用由目标动词提供的信息,通过基于概率类别的词典的浓缩信息来丰富。类的诱导和微调的口头论点是在一个无监督的方式由EM为基础的聚类技术。该方法在现实世界的翻译评价中显示出良好的效果。
2000-08-30 cs.CL
Uncovering the Fragility of Trustworthy LLMs through Chinese Textual Ambiguity
Chalmers University of Technology(楚德斯技术大学)
研究大语言模型在处理中文歧义文本时的脆弱性,通过创建基准数据集发现模型在歧义处理上存在显著缺陷,影响实际应用。
2026-04-16 cs.AI cs.CL
Augmenters at SemEval-2023 Task 1: Enhancing CLIP in Handling Compositionality and Ambiguity for Zero-Shot Visual WSD through Prompt Augmentation and Text-To-Image Diffusion
University of Maryland, College Park(马里兰大学帕克分校);Duolingo, Inc.(多邻国公司)
针对零样本视觉词义消歧中 CLIP 难以处理语言组合性、短语焦点变化和图文多对多匹配的问题,提出 LLM 提示增强、跨语言 CLIP 与 Stable Diffusion 采样方法。
2023-07-09 cs.CL
Ambiguity Meets Uncertainty: Investigating Uncertainty Estimation for Word Sense Disambiguation
Tsinghua University(清华大学);School of Humanities(人文学院)
针对现有监督词义消歧方法忽略真实场景不确定性估计的问题,本文对比多种不确定性评分,检验模型对两类不确定性的捕捉能力,并分析影响数据不确定性的关键词汇属性,补充了WSD领域的不确定性研究。
2023-06-10 cs.CL
Purging the Gray Zone: Latent-Geometric Denoising for Precise Knowledge Boundary Awareness
Computational Linguistics and Consciousness Sciences Lab(计算语言学与意识科学实验室)
本文提出GeoDe框架,通过几何去噪方法减少模型在决策边界附近的模糊性,提升模型的准确性和泛化能力。
2026-04-15 cs.CL
AmbiSQL: Interactive Ambiguity Detection and Resolution for Text-to-SQL
Alibaba Group(阿里巴巴集团)
AmbiSQL通过交互式多选问题帮助用户澄清意图,解决文本到SQL中的歧义问题,提升SQL生成准确性。
2026-03-23 cs.CL cs.DB
Resolving Lexical Ambiguity in Tensor Regression Models of Meaning
University of Oxford(牛津大学);Queen Mary Univ. of London(伦敦大学玛丽女王学院)
本文提供了一种改进基于张量的成分分布模型的意义,通过增加一个明确的消歧步骤之前的组合。与以前的研究相比,这个假设已经成功地在相对简单的组成模型中进行了测试,在我们的工作中,我们使用了一个用线性回归训练的鲁棒模型。两个实验的结果表明了先验消歧方法的优越性,并表明该方法的有效性是与模型无关的。
2014-08-26 cs.CL
A Novel Challenge Set for Hebrew Morphological Disambiguation and Diacritics Restoration
Bar Ilan University(巴伊兰大学);DICTA;Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
形态分析器的主要任务之一是消除同形词的歧义。特别困难的是不平衡的歧义情况,其中一种可能的分析比其他分析更频繁。在这种情况下,可能没有足够的少数分析实例来适当评估性能,也没有训练有效的分类器。在本文中,我们解决希伯来语的不平衡形态歧义的问题。我们提供了一个希伯来语同形异义词的挑战集-第一次的同类-包含大量的证明,每个分析21希伯来语同形异义词。我们表明,目前的SOTA的希伯来语消歧表现不佳的情况下,不平衡的歧义。利用我们的新数据集,我们为所有21个单词实现了新的最先进水平,将整体平均F1分数从0.67提高到0.95。我们得到的注释数据集公开提供给进一步的研究。
2020-10-06 cs.CL
Start Making Sense(s): A Developmental Probe of Attention Specialization Using Lexical Ambiguity
University of California, San Diego(加州大学圣地亚哥分校);Rutgers University - Newark(新泽西州立大学罗格斯-纽ark分校)
通过词汇歧义研究,发现不同大小的Transformer模型在消歧任务中存在不同的注意力机制发展特性。
2025-11-26 cs.CL
Bridging Lexical Ambiguity and Vision: A Mini Review on Visual Word Sense Disambiguation
School of Computing Informatics(计算与信息学学院);Institute of Technology(技术研究所)
本文综述了视觉词义消歧的发展,探讨了对比模型和LLM在解决词汇歧义中的作用,并指出未来发展方向。
2026-02-01 cs.CL cs.CV
VIDA: A Dataset for Visually Dependent Ambiguity in Multimodal Machine Translation
Department of Informatics, Universität Hamburg(汉堡大学信息学院);Alibaba Group(阿里巴巴集团);Alibaba Cloud(阿里云)
提出VIDA数据集,包含2500个精心策划的实例,用于评估多模态机器翻译中需要视觉证据才能解决的歧义,并引入以歧义消解为中心的指标,实验表明链式思维微调能提升跨分布歧义消解能力。
2026-10-06 cs.AI cs.CL
Implementation and evaluation of a German HMM for POS disambiguation
介绍了Xerox HMM标注器的德语语言模型。该模型的性能进行了比较与其他两个德国标记器的部分参数重新估计和完全适应的参数从预标记语料库。分析了该模型解决的歧义类型,并与英语和法语的歧义类型进行了比较。最后,对模型的误差类型进行了描述。我认为,虽然这些模型的整体性能为德国是英语和法语的结果相媲美,更准确的分析表明,重要的差异,在类型的消歧所涉及的德语。
1995-02-27 cmp-lg cs.CL
Análise de ambiguidade linguística em modelos de linguagem de grande escala (LLMs)
Attenty Sistemas de Software(Attenty软件系统公司);Universidade Federal de Sergipe(塞尔希培联邦大学)
本研究分析了ChatGPT和Gemini等大规模语言模型在巴西葡萄牙语语义、句法和词汇歧义处理上的表现,通过120个句子的语料库进行分类、解释和消歧测试,发现模型响应存在错误且解释不一致,最高准确率仅49.58%,揭示了监督学习描述性研究的必要性。
2024-04-25 cs.AI cs.CL
Context-Aware Semantic Similarity Measurement for Unsupervised Word Sense Disambiguation
Software Competence Center Hagenberg(哈根贝格软件能力中心)
针对无监督词义消歧任务,提出一种将上下文信息融入语义相似度计算的新方法,在基准数据集上的表现优于现有多种最优技术,验证了上下文信息对无监督词义消歧的重要作用。
2023-12-13 cs.AI cs.CL
Disambiguation of Emotion Annotations by Contextualizing Events in Plausible Narratives
University of Bamberg(巴姆伯格大学)
本文提出通过生成合理叙述来解决情感分析中的歧义问题,通过结合短篇小说生成技术构建EBS数据集,验证了生成的叙述能有效澄清特定情感的解释,尤其对缓解和悲伤有显著效果。
2026-03-20 cs.CL
DEBATE: A Dataset for Disentangling Textual Ambiguity in Mandarin Through Speech
Hunan University Changsha China;University of Cambridge Cambridge uk;Malanshan Audio\&Video Laboratory Changsha China;Hunan University;University of Cambridge;Malanshan Audio\&Video Laboratory
本文构建中文语音—文本数据集 DEBATE,利用发音、停顿、重音和语调研究文本歧义消解,并通过基准测试揭示大型语音模型与人类的口语意图理解差距。
2025-06-09 cs.CL
Visual Word Sense Disambiguation with CLIP through Dual-Channel Text Prompting and Image Augmentations
2 The Bredesen Center for Interdisciplinary Research;3 Department of Electrical Engineering \& Computer Science, University of Tennessee, Knoxville, TN 37916;4 Oak Ridge National Laboratory (ORNL), Oak Ridge, TN 37830
本文提出通过CLIP和双通道提示与图像增强实现视觉词义消歧,提升MRR和命中率,验证了精确提示的有效性。
2026-02-06 cs.CL
We're Afraid Language Models Aren't Modeling Ambiguity
Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院);Allen Institute for AI(艾伦人工智能研究所);University of Southern California(南加州大学);UC Berkeley(加州大学伯克利分校);Saarland University(萨尔大学);New York University(纽约大学);Massachusetts Institute of Technology(麻省理工学院)
本文构建了包含1,645个示例的歧义基准AmbiEnt,首次评估预训练语言模型识别歧义和理清含义的能力,发现GPT-4消歧正确率仅32%,并证明对歧义敏感的NLI模型可标记误导性政治主张。
2023-10-20 cs.CL
Unsupervised Disambiguation of Syncretism in Inflected Lexicons
Johns Hopkins University(约翰斯·霍普金斯大学)
词汇歧义使得计算语料库的各种有用的统计数据变得困难。一个给定的词形可能代表几个形态特征束中的任何一个。然而,人们可以使用无监督学习(如EM)来拟合一个模型,该模型可以概率性地消除单词形式的歧义。我们提出了这样一种方法,它采用了一个神经网络,以顺利地模拟先验分布的功能束(即使是罕见的)。虽然这个基本模型没有考虑令牌的上下文,但是这个属性允许它对一个简单的unigram类型计数列表进行操作,将每个计数划分为该unigram的不同分析。我们讨论了这个新任务的评估指标,并报告了5种语言的结果。
2020-02-25 cs.CL
A Persian Vision-Language-Action Dataset and Benchmark for Ambiguity- and Infeasibility-Aware Instruction-to-Plan Grounding
Malek Ashtar University of Technology(马利克·阿什塔尔理工大学);Isfahan University of Technology(伊斯法罕理工大学)
该研究构建了首个波斯语视觉-语言-动作数据集,提出PGOS-FA指标,通过消融实验验证检索增强的显著效果,其指标在指令到规划落地任务中追踪人类判断的表现优于LLM-judge。
2026-10-14 cs.CL cs.CV
Lexical Disambiguation in Natural Language Questions (NLQs)
Islamic Science University of Malaysia(马来西亚伊斯兰科学大学);Zarqa University(扎尔卡大学)
问题处理是问答应用中的一个基本环节,其质量直接影响问答应用的性能。如何从自然语言问句中提取语义是问句处理的主要难题。人类的语言是模棱两可的。歧义可能出现在两个层面上:词汇和句法。本文提出了一种新的方法来解决词汇歧义问题,通过整合上下文知识和概念知识的领域,到浅层自然语言处理(SNLP)技术。概念知识使用本体建模,而上下文知识从WordNet获得,并基于问题中的邻近词确定。该方法将被应用到一个大学的QA系统。
2017-09-26 cs.AI cs.CL
Enhancing the Medical Context-Awareness Ability of LLMs via Multifaceted Self-Refinement Learning
Department of Electronic Engineering, Tsinghua University(清华大学电子工程系);Huawei Noah’s Ark Lab(华为诺亚实验室);College of AI, Tsinghua University(清华大学人工智能学院);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
针对大语言模型在真实医疗场景语境感知能力不足的问题,提出MuSeR多维度自优化学习方法,结合有监督微调与知识蒸馏,在HealthBench基准上取得开源模型最优性能。
2025-11-14 cs.AI cs.CL
Multimodal Word Sense Disambiguation in Creative Practice
Carnegie Mellon University(卡内基梅隆大学)
语言是模糊的,许多术语和表达方式可以表达同一个意思。在创意实践中尤其如此,创意和设计意图是高度主观的。我们提出了一个数据集,艺术图像的模糊描述(ADARI),当代工件,其目的是提供一个基础资源的主观图像描述和多模态词消歧的背景下,创造性的实践。该数据集包含总共240k张图像,标记有260k个描述性句子。它还被组织成建筑,艺术,设计,时尚,家具,产品设计和技术的子领域。在主观图像描述中,标签是不确定的:例如,模糊的标签动态可能对应于数百个不同的图像。为了理解这种复杂性,我们使用最先进的预训练BERT模型进行句子分类,分析文本与图像的模糊性和相关性。我们提供了一个多标签分类任务的基线,并展示了多模态方法的潜力,用于理解设计意图中的模糊性。我们希望ADARI数据集和基线构成主观标签分类的第一步。
2021-01-17 cs.CL cs.LG
Improving Word Sense Disambiguation in Neural Machine Translation with Salient Document Context
University of Maryland(马里兰大学);Johns Hopkins University(约翰斯·霍普金斯大学)
针对机器翻译中的词汇歧义问题,提出一种利用伪文档显著词作为源句前缀的可扩展方法,无需词义标注或修改模型架构,在降低训练成本的同时有效提升了歧义词翻译质量。
2023-11-27 cs.AI cs.CL
Word Sense Disambiguation in Native Spanish: A Comprehensive Lexical Evaluation Resource
Telef\'onica Innovación Digital, Research, Spain
本文针对西班牙语词义消歧资源匮乏且偏重英语的问题,构建了基于西班牙皇家学院词典的义项清单和词汇数据集,并用最先进系统评估了现有西班牙语资源。
2024-09-30 cs.AI cs.CL
Semantic Relatedness for Keyword Disambiguation: Exploiting Different Embeddings
everis / NTT Data(埃维里斯/恩梯梯数据);Universitat Politècnica de València(瓦伦西亚理工大学);University of Zaragoza(萨拉戈萨大学);Aragon Institute of Engineering Research (I3A)(阿拉贡工程研究所)
理解单词的含义对于许多涉及人机交互的任务至关重要。这已经通过自然语言处理(NLP)领域中的词义消歧(WSD)的研究来解决。最近,WSD和许多其他NLP任务已经利用了基于嵌入的单词,句子和文档表示。然而,当涉及到词义消歧时,大多数嵌入模型都存在歧义,因为它们不能捕捉单词的不同可能含义。即使他们这样做了,一个词的可能含义列表(意义清单)也必须在训练时提前知道,才能包含在嵌入空间中。不幸的是,存在这样的感测库存事先不知道的情况(例如,在运行时选择的本体),或者其随时间演变并且其状态与训练时的状态不同。这阻碍了嵌入模型在WSD中的使用。此外,传统的词义消歧技术在可用语言信息非常稀缺的情况下表现不佳,例如基于关键字的查询。在本文中,我们提出了一种方法,关键字消歧的理由是由外部库存(本体),这是不知道在训练时提供的词和意义之间的语义相关性。在以前的工作的基础上,我们提出了一个语义相关性的措施,使用词嵌入,并探讨不同的消歧算法,也利用单词和句子表示。实验结果表明,该方法实现的结果与最先进的应用于词义消歧,没有一个特定的领域的培训。
2020-02-25 cs.CL
Resolving Regular Polysemy in Named Entities
National Taiwan University(国立台湾大学)
本文提出组合式 WSD 模型,将专有名称的规则多义形式化为点对象,并结合 CWN 释义与例句,在稀疏数据上同时实现普通名词和专有名词的竞争性消歧效果。
2024-01-18 cs.CL
Explaining away ambiguity: Learning verb selectional preference with Bayesian networks
本文提出了一个用于动词选择偏好无监督学习的贝叶斯模型。对于每个动词,该模型创建一个贝叶斯网络,其结构由Wordnet的词汇层次结构确定,其参数从语料库中找到的动词-对象对列表中估计。"解释“是贝叶斯网络的一个众所周知的特性,它有助于模型以自然的方式处理训练数据中的词义模糊。在词义消歧测试中,我们的模型在选择偏好的无监督学习方面比其他最先进的系统表现得更好。讨论了计算复杂性问题,改进这种方法的方法和在其他图形框架中实现"解释“的方法。
2000-08-22 cs.AI cs.CL
Disambiguate First, Parse Later: Generating Interpretations for Ambiguity Resolution in Semantic Parsing
Institute for Language, Cognition and Computation, School of Informatics, University of Edinburgh(语言、认知与计算研究所,信息学院,爱丁堡大学)
针对语义解析中的歧义问题,提出先消歧后解析的模块化方法,利用LLM偏见生成首选消歧结果,并结合填充模型生成缺失解释,有效提升了解释覆盖率与跨数据集泛化能力。
2025-07-12 cs.AI cs.CL
Towards a Seamless Integration of Word Senses into Downstream NLP Applications
University of Cambridge(剑桥大学);Sapienza University of Rome(罗马大学)
词汇歧义会阻碍自然语言处理系统对语义的准确理解。尽管有潜在的好处,但将感官层面的信息整合到NLP系统中仍然没有得到充分的研究。通过将一种新的消歧算法融入到最先进的分类模型中,我们创建了一个管道,将意义级信息集成到下游NLP应用程序中。我们表明,一个简单的消歧的输入文本可以导致一致的性能提高多个主题分类和极性检测数据集,特别是当细粒度的基本感库存减少,文档足够大。我们的研究结果还指出,有必要对感官表征研究更多地关注体内评估,这些评估的目标是下游NLP应用的性能,而不是人工基准。
2017-10-18 cs.CL
A High-Capacity and Secure Disambiguation Algorithm for Neural Linguistic Steganography
School of Cyberspace, Hangzhou Dianzi University(电子科技大学信息学院);Department of Civil Engineering, School of Engineering, University of Tokyo(东京大学工学部土木工学科)
针对神经语言隐写中分词歧义导致解码失败、现有SyncPool方法牺牲嵌入容量的问题,提出look-ahead Sync方法,仅对不可区分token序列做最小同步采样,保留可区分路径提升容量,有理论安全保证,实验中英美文嵌入率分别提升超160%、25%,接近理论上限。
2025-09-26 cs.AI cs.CL cs.CR
HanjaBridge: Resolving Semantic Ambiguity in Korean LLMs via Hanja-Augmented Pre-Training
Wisenut(Wisenut公司)
提出HanjaBridge技术,通过在持续预训练中注入汉字候选以解决韩语同音词语义歧义,结合知识蒸馏防止遗忘,显著提升韩语理解并实现跨语言正向迁移。
2025-07-15 cs.AI cs.CL
Improving Chinese Story Generation via Awareness of Syntactic Dependencies and Semantics
The University of Surrey(萨里大学);The University of Sheffield(谢菲尔德大学)
故事生成的目的是在给定的输入条件下生成一个长的叙事。尽管之前的作品在应用预训练模型方面取得了成功,但目前用于中文故事的神经模型仍然难以生成高质量的长文本叙事。我们假设,这源于歧义在句法分析的中文语言,没有明确的分隔符分词。因此,神经模型对中文叙事的特征捕捉效率低下。在本文中,我们提出了一个新的生成框架,通过通知生成模型的单词之间的依赖关系,并通过同义词去噪训练,增加语义表示学习,增强了特征捕获机制。我们进行了一系列的实验,结果表明,我们的框架优于国家的最先进的中文生成模型的所有评价指标,证明了增强的依赖性和语义表示学习的好处。
2022-10-19 cs.AI cs.CL
The Causal Structure of Semantic Ambiguities
University College London(伦敦大学学院)
本研究利用层论因果模型形式化语义歧义的消歧过程,识别出主语-动词和宾语-动词两种主要消歧顺序,并验证了多义动词消歧延迟的心理语言学发现。
2023-11-15 cs.AI cs.CL quant-ph