Determining Semantic Textual Similarity using Natural Deduction Proofs
The University of Tokyo（东京大学）；Ochanomizu University（御茶水女子大学）；Artificial Intelligence Research Center, AIST（产业技术综合研究所人工智能研究中心）
确定语义文本相似度是自然语言处理的核心研究课题。由于用于句子表示的基于向量的模型通常使用浅层信息，因此难以捕获准确的语义。相比之下，逻辑语义表示捕捉更深层次的句子语义，但它们的符号性质不提供文本相似性的分级概念。我们提出了一种方法来确定语义文本相似度相结合的浅层特征提取的自然演绎证明的句子对之间的双向蕴涵关系的特征。对于自然演绎证明，我们使用ccg2lambda，一个高阶自动推理系统，它将组合范畴语法（CCG）派生树转换为语义表示，并进行自然演绎证明。实验表明，我们的系统是能够优于其他基于逻辑的系统，从证明的特征是有效的学习文本相似性。
2017-07-27 cs.CL
Using Answer Set Programming in an Inference-Based approach to Natural Language Semantics
在基于推理的自然语言语义方法中使用答案集编程
2006-07-18 cs.AI cs.CL
Semantic Measures for the Comparison of Units of Language, Concepts or Instances from Text and Knowledge Base Analysis
LGI2P/EMA Research Center（LGI2P/EMA研究中心）
语义度量如今被广泛用于估计各种类型的元素之间的语义关系的强度：语言的单位（例如，单词、句子、文档）、概念或甚至语义上表征的实例（例如，疾病、基因、地理位置）。语义度量在根据语义代理（文本和知识表示）比较这些元素方面发挥着重要作用，这些语义代理支持它们的含义或描述它们的性质。因此，语义措施是必不可少的设计智能代理，例如，利用语义分析模仿人类的能力，比较抽象或具体的对象。本文提出了一个广泛的语义测量的概念进行比较的语言单位，概念或实例的语义代理分析的基础上进行全面的调查。语义度量概括了语义相似性、语义相关性和语义距离的众所周知的概念，这些概念在过去几十年中已经被各种社区广泛研究（例如，认知科学、语言学和人工智能等等）。
2016-10-24 cs.CL
Type-theoretical natural language semantics: on the system F for meaning assembly
IRIT（图卢兹计算机研究所）；UPS（图卢兹第三大学）；LaBRI（波尔多计算机研究实验室）；Université de Bordeaux（波尔多大学）
本文提出并扩展了我们的类型理论框架的组成治疗的自然语言语义与一些词汇功能，如touchons（例如，一个城镇到一个足球俱乐部）和copredication（例如，在一个城镇作为一组人和作为一个位置）。二阶类型λ演算被证明是一个很好的框架，在这里我们讨论如何引入预定义类型和强制子类型，这比内部编码的类似结构更自然。这些新特征的语言应用也举例说明。
2013-03-12 cs.CL cs.LO math.LO
Semantic Relatedness for All (Languages): A Comparative Analysis of Multilingual Semantic Relatedness Using Machine Translation
University of Passau（帕绍大学）；National University of Ireland, Galway（爱尔兰国立高威大学）
本文提供了一个比较分析的性能的四个国家的最先进的分布式语义模型（DSM）超过11种语言，对比使用机器翻译在英语为基础的DSM的本地语言特定的模型。实验结果表明，通过使用最先进的机器翻译方法，有一个显着的改善（斯皮尔曼相关性的平均16.7%）。研究结果还表明，使用信息量最大的语料库的好处超过了机器翻译可能引入的错误。对于所有语言，Word2Vec英语分布模型上的机器翻译组合始终提供最佳结果（平均斯皮尔曼相关系数为0.68）。
2018-05-16 cs.CL
Learning Structured Natural Language Representations for Semantic Parsing
University of Edinburgh（爱丁堡大学）；IBM T.J. Watson Research（IBM T.J. Watson研究院）
我们介绍了一个神经语义解析器，转换自然语言的话语中间表示形式的谓词参数结构，这是诱导与过渡系统，随后映射到目标域。语义解析器使用带注释的逻辑形式或它们的表示进行端到端的训练。我们在各种数据集上获得了有竞争力的结果。归纳的谓词-论元结构揭示了用于语义解析的表征类型，以及这些表征与语言动机表征的不同之处。
2017-06-14 cs.CL
Semantic Noise Matters for Neural Natural Language Generation
Charles University（查理大学）；Faculty of Mathematics and Physics（数学与物理学院）；Heriot-Watt University（赫瑞-瓦特大学）
神经自然语言生成（NNLG）系统以其病态输出而闻名，即生成与输入规范无关的文本。在本文中，我们展示了语义噪声对最先进的NNLG模型的影响，这些模型实现了不同的语义控制机制。我们发现，清理后的数据可以提高语义正确性高达97%，同时保持流畅性。我们还发现，最常见的错误是遗漏信息，而不是幻觉。
2019-11-10 cs.CL
The Acquisition of Semantic Relationships between words
University Ibn Khaldoun（伊本·赫勒敦大学）
本文研究词语语义关系与语言形态之间的动态联系，通过分析词的内部结构及其构成，揭示其对语言解释和理解的影响。
2023-07-12 cs.CL
SimRelUz: Similarity and Relatedness scores as a Semantic Evaluation dataset for Uzbek language
Urgench State University（乌尔根奇国立大学）；CITIC
词与词之间的语义相关性是自然语言处理的核心概念之一，因此语义评价是一项重要的任务。在本文中，我们提出了一个语义模型评估数据集：SimRelUz -低资源乌兹别克语的词对的相似性和相关性得分的集合。该数据集由一千多对词组成，这些词是根据其形态特征、出现频率、语义关系精心挑选的，并由来自不同年龄组和性别的11位乌兹别克语母语者注释。我们还关注了处理稀有词和词汇表外词的问题，以全面评估语义模型的鲁棒性。
2022-05-12 cs.CL
Combining Event Semantics and Degree Semantics for Natural Language Inference
Ochanomizu University（御茶水女子大学）；Keio University（庆应义塾大学）
在形式语义学中，有两个发展良好的语义框架：事件语义学，它使用事件的概念来处理动词和状语修饰语，以及程度语义学，它使用程度的概念来分析形容词和比较级。然而，这些框架是否可以结合起来处理有关现象相互作用的情况并不明显。在这里，我们研究这个问题，专注于自然语言推理（NLI）。我们实现了一个基于逻辑的NLI系统，结合了事件语义和程度语义及其与词汇知识的交互。我们评估系统的各种NLI数据集包含语言上具有挑战性的问题。结果表明，与以前的基于逻辑的系统和基于深度学习的系统相比，该系统在这些数据集上实现了高准确度。这表明，这两个语义框架可以一致地结合起来，以处理各种语言现象的组合，而不损害任何一个框架的优势。
2020-11-02 cs.CL
Transferring Semantic Knowledge Into Language Encoders
University of Maryland, Baltimore County（马里兰大学巴尔的摩郡分校）
我们引入语义形式中期调整，语义知识的语义表示转换为基于语言编码器的方法。在中期调整中，我们学习对齐一般句子的文本-不与任何特定的推理任务相关联-以及这些句子的结构化语义表示。我们的方法不需要黄金注释的语义表示。相反，它使用自动生成的语义表示，例如来自现成的PropBank和FrameNet语义解析器。我们表明，这种对齐可以通过分类或直接通过三重损失隐式学习。我们的方法产生的语言编码器，表现出更好的预测性能在推理，阅读理解，文本相似性，以及其他语义任务从GLUE，SuperGLUE和SentEval基准。我们在三个流行的基线模型上评估了我们的方法，我们的实验结果和分析得出结论，当前预训练的语言模型可以进一步受益于所提出的中期调整方法的结构化语义框架，因为它们将额外的任务不可知知识注入编码器，改善生成的嵌入以及给定模型的语言属性，这从对流行的句子嵌入工具包和各种探测任务的改进中显而易见。
2021-10-14 cs.CL
Learning Executable Semantic Parsers for Natural Language Understanding
Stanford University（斯坦福大学）
为了构建问答系统和自然语言接口，语义解析已经成为一种重要而强大的范例。语义分析器将自然语言映射为逻辑形式，这是许多重要语言现象的经典表示。现代的转折是，我们对从数据中学习语义解析器感兴趣，这引入了一个新的统计和计算问题层。本文列出了统计语义解析器的组件，并强调了关键的挑战。我们将看到，语义解析是逻辑和统计世界的丰富融合，这种融合将在未来的自然语言理解系统中发挥不可或缺的作用。
2016-03-22 cs.AI cs.CL
SLFNet: Generating Semantic Logic Forms from Natural Language Using Semantic Probability Graphs
School of Computer Science and Technology, University of Science and Technology of China（中国科学技术大学计算机科学与技术学院）
SLFNet通过引入依存句法先验、语义概率图和多头SLF注意力机制，解决序列到序列语义解析中的“顺序问题”，在多个数据集上取得领先性能。
2024-03-29 cs.CL
Can Language Model Understand Word Semantics as A Chatbot? An Empirical Study of Language Model Internal External Mismatch
University of Toronto（多伦多大学）；University of Alberta（阿尔伯塔大学）
本文针对语言模型内部与外部不匹配问题，研究了Encoder-only、Decoder-only和Encoder-Decoder预训练模型在词语义理解上的差异，揭示了提示与内部表征间的知识不一致性。
2024-09-21 cs.CL
Object-oriented semantics of English in natural language understanding system
Institute of Cybernetics of NAS of Ukraine（乌克兰国家科学院控制论研究所）
提出了一种解决自然语言理解问题的新方法。所考虑的知识领域是人们的社会行为。英语句子被翻译成语义数据库的一组谓词，这些谓词描述人、职业、组织、项目、动作、事件、消息、机器、事物、动物、动作的位置和时间、对象之间的关系、思想、因果关系、抽象对象。有一个知识库，包含对象（功能和结构），动作（动机和原因）和操作的语义描述。
2011-09-27 cs.CL
Semantic Regexes: Auto-Interpreting LLM Features with a Structured Language
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Apple（苹果公司）
语义正则表达式通过结构化语言自动解释LLM特性，提供精确且简洁的特征描述，提升模型可解释性分析的准确性和一致性。
2026-02-26 cs.CL
Predicting Question-Answering Performance of Large Language Models through Semantic Consistency
IBM Research（IBM研究院）
本文构建事实性问题高质量改写基准以评估LLM问答语义一致性，并结合相关指标提出无参考性能预测框架，在五个当代LLM上显著优于基线。
2023-11-02 cs.CL
UniPSDA: Unsupervised Pseudo Semantic Data Augmentation for Zero-Shot Cross-Lingual Natural Language Understanding
Alibaba Group（阿里巴巴集团）
针对跨语言表示学习中浅层无监督数据缺乏全局上下文语义的问题，提出三阶段聚类的无监督伪语义数据增强机制UniPSDA，通过多语系知识替换句子关键成分并去偏，在多类零样本跨语言理解任务上提升性能。
2024-06-24 cs.CL
Constrained Language Models Yield Few-Shot Semantic Parsers
Microsoft Semantic Machines（微软语义机器）
我们探索使用大型预训练语言模型作为Few-Shot语义解析器。语义解析的目标是在给定自然语言输入的情况下生成结构化的含义表示。然而，语言模型被训练以生成自然语言。为了弥合这一差距，我们使用语言模型将输入解释为类似英语的受控子语言，该子语言可以自动映射到目标含义表示。我们的研究结果表明，只有少量的数据和很少的代码转换成类似英语的表示，我们的快速引导语义解析器的蓝图在多个社区任务上产生了令人惊讶的有效性能，大大超过了在相同的有限数据上训练的基线方法。
2021-11-16 cs.CL
Polyglot Semantic Role Labeling
University of Washington（华盛顿大学）；Carnegie Mellon University（卡内基梅隆大学）
以前的多语言语义依存句法分析方法都是独立处理语言，没有利用语言间语义结构的相似性。我们尝试了一种新的方法，我们结合资源，从一对语言在CoNLL 2009年共享的任务，建立一个多语言语义角色标签。尽管没有平行的数据，和不同的语言之间的注释，我们的方法的结果在SRL性能的改善，在多种语言的单语基线。对多语言模式的分析表明，它在资源较少的环境中是有利的。
2018-05-29 cs.CL
Disentangling Semantics and Syntax in Sentence Embeddings with Pre-trained Language Models
University of California, Los Angeles（加州大学洛杉矶分校）
预训练的语言模型在广泛的NLP任务中取得了巨大的成功。然而，来自预训练模型的上下文表示包含纠缠的语义和句法信息，因此不能直接用于为某些任务导出有用的语义句子嵌入。释义对提供了一种学习语义和句法之间区别的有效方法，因为它们自然地共享语义并且经常在句法上变化。在这项工作中，我们提出了ParaBART，一个语义句子嵌入模型，学习解开语义和语法在句子嵌入预训练的语言模型。ParaBART被训练为基于与目标释义共享语义的源句子和指定目标语法的解析树来执行语法引导的释义。通过这种方式，ParaBART使用单独的编码器从各自的输入中学习解纠缠的语义和语法表示。英语实验表明，ParaBART在无监督语义相似性任务上优于最先进的句子嵌入模型。此外，我们表明，我们的方法可以有效地删除语义句子嵌入的句法信息，从而更好地抵御下游语义任务的句法变化的鲁棒性。
2021-04-11 cs.CL
Can Language Models Capture Graph Semantics? From Graphs to Language Model and Vice-Versa
BITS Pilani（比尔拉科学技术学院皮拉尼分校）；AI Institute, University of South Carolina（南卡罗来纳大学人工智能研究所）；University of South Carolina（南卡罗来纳大学）
知识图谱是一种很好的资源，可以用来捕获实体和实体之间关系方面的语义知识。然而，当前的深度学习模型将分布式表示或向量作为输入。因此，图被压缩在矢量化表示中。我们进行了一项研究，以检查深度学习模型是否可以压缩一个图，然后输出相同的图，其中大部分语义都完好无损。我们的实验表明，Transformer模型不能表达输入知识图谱的全部语义。我们发现，这是由于知识图谱中包含的有向、关系和基于类型的信息与Transformer注意矩阵的完全连接的令牌-令牌无向图形解释之间的差异。
2022-06-18 cs.CL
Semantic Parsing Natural Language into SPARQL: Improving Target Language Representation with Neural Attention
语义解析是将自然语言句子映射成其意义的形式化表示的过程。在这项工作中，我们使用神经网络的方法来转换自然语言句子到查询的本体数据库中的SPARQL语言。这种方法不依赖于手工规则，高质量的词典，手工构建的模板或其他手工制作的复杂结构。我们的方法是基于向量空间模型和神经网络。该模型基于两个学习步骤。第一步生成自然语言和SPARQL查询的句子的向量表示。第二步使用此向量表示作为神经网络（具有注意力机制的LSTM）的输入，以生成能够编码自然语言和解码SPARQL的模型。
2018-03-12 cs.CL
Methods to integrate a language model with semantic information for a word prediction component
Université François Rabelais de Tours（图尔弗朗索瓦·拉伯雷大学）；Laboratoire d’Informatique (LI)（计算机实验室（LI））
目前的词预测系统大多使用n元语言模型（LM）来估计短语中后续词的概率。在过去的几年中，已经有许多尝试来用进一步的句法或语义信息来丰富这样的语言模型。我们想探索潜在语义分析（LSA）的预测能力，这种方法已被证明可以提供有关上下文中单词之间长距离语义依赖关系的可靠信息。我们在这里提出并评估几种方法，集成基于LSA的信息与标准的语言模型：语义缓存，部分重新排序，和不同形式的插值。我们发现，与4-gram基线相比，所有方法都显示出显着的改进，其中大多数方法也适用于简单的缓存模型。
2008-01-30 cs.CL
Towards Computationally Verifiable Semantic Grounding for Language Models
Google Research（谷歌研究院）
本文提出了一种方法，语义接地的语言模型（LM），概念化的LM作为一个条件模型生成文本给定所需的语义消息形式化为一组实体关系三元组。它通过将LM的输出馈送到语义解析器来将LM嵌入到自动编码器中，语义解析器的输出与输入消息处于相同的表示域中。与使用贪婪搜索生成文本的基线相比，我们展示了两种提高所生成文本的流畅性和语义准确性的技术：第一种技术对语义解析器从中选择的多个候选文本序列进行采样。第二个训练语言模型，同时保持语义解析器冻结，以提高自动编码器的语义准确性。我们进行了实验的英文WebNLG 3.0数据集，使用BLEU来衡量生成的文本和标准的解析指标来衡量语义准确性的流畅性。我们表明，我们提出的方法显着改善贪婪的搜索基线。人的评价证实了自动评价实验的结果。
2022-11-16 cs.CL
Entailment Semantics Can Be Extracted from an Ideal Language Model
New York University（纽约大学）；ETH Zürich（苏黎世联邦理工学院）
本文证明在Gricean智能体生成训练数据的假设下，可从完美学习目标分布的理想语言模型中提取句子间的蕴含判断，揭示了理解无标签语言数据语义信息及从语言模型提取语义的潜在框架。
2024-01-08 cs.CL
Natural Language Semantics and Computability
CNRS（法国国家科学研究中心）；LaBRI（波尔多计算机科学实验室）；Université de Montpellier（蒙彼利埃大学）；LIRMM（蒙彼利埃计算机科学、机器人学与微电子学实验室）
本文是对自然语言语义可计算性的反思。它不包含自然语言的形式语义中的新模型或新结果：它是对当前在自然语言语义中使用的逻辑模型和算法的计算分析，定义为语句到逻辑公式的映射-公式，因为语句可能是二义性的。我们认为，只要可能世界语义被排除在外，可以计算一个给定的语句的语义表示（S），包括词汇意义的方面。我们还讨论了这个过程的算法复杂性。
2016-05-13 cs.AI cs.CC cs.CL
CLAR: A Cross-Lingual Argument Regularizer for Semantic Role Labeling
IBM Research（IBM研究院）；Google Research（谷歌研究院）
语义角色标注（SRL）识别给定句子中的谓词-论元结构。虽然不同的语言有不同的参数注释，但多语言训练，即在多种语言上训练一个模型的想法，以前已经被证明优于单语基线，特别是对于低资源语言。事实上，即使是简单的数据组合也被证明是有效的，通过在共享的表示空间中表示遥远的词汇表来进行多语言训练。同时，尽管不同语言之间的参数注释不同，但某些参数标签确实在不同语言之间共享共同的语义含义（例如，参数标签在不同语言之间具有或多或少相似的语义含义）。为了利用跨语言注释空间中的这种相似性，我们提出了一种称为跨语言参数正则化器（CLAR）的方法。CLAR识别跨语言的这种语言注释相似性，并利用该信息来使用源语言参数所在的空间的变换来映射目标语言参数。通过这样做，我们的实验结果表明，CLAR一贯提高SRL性能的多语言单语和多语种基线低资源语言。
2020-11-09 cs.CL
Wikipedia-based Semantic Interpretation for Natural Language Processing
Technion—Israel Institute of Technology（以色列理工学院）
自然语言语义的充分表示需要访问大量的常识和特定领域的世界知识。该领域以前的工作是基于纯粹的统计技术，没有利用背景知识，有限的词典知识库，如WordNet，或巨大的手工努力，如CYC项目。在这里，我们提出了一种新的方法，称为显式语义分析（ESA），不受限制的自然语言文本的细粒度语义解释。我们的方法表示的含义在一个高维空间的概念来自维基百科，存在的最大的百科全书。我们明确地表示任何文本的含义在维基百科为基础的概念。我们评估我们的方法对文本分类和计算自然语言文本片段之间的语义相关度的有效性。使用ESA的结果显着改善了在这两个任务的现有技术的先前状态。重要的是，由于使用自然概念，ESA模型很容易向人类用户解释。
2014-01-15 cs.CL
Correcting Semantic Parses with Natural Language through Dynamic Schema Encoding
Fidelity Investments, AI Center of Excellence（富达投资人工智能卓越中心）
本文提出利用自然语言反馈和动态模式编码纠正text-to-SQL解析错误，通过分离语义与句法困难，仅一轮纠正即可将解析准确率最多提升26%，并验证T5-base可零样本纠正T5-large的错误。
2023-05-31 cs.CL
On Robustness of Prompt-based Semantic Parsing with Large Pre-trained Language Model: An Empirical Study on Codex
CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61研究所）；Monash University（莫纳什大学）
语义解析是一种旨在构造自然语言问题的意义的结构化表示的技术。在代码上训练的Few-Shot语言模型的最新进展已经证明，与传统的单峰语言模型相比，在生成这些表示方面具有优越的性能，单峰语言模型是在下游任务上训练的。尽管有这些进步，现有的微调神经语义解析器容易受到自然语言输入的对抗攻击的影响。虽然已经确定可以通过对抗训练来增强较小语义解析器的鲁棒性，但这种方法对于现实场景中的大语言模型是不可行的，因为它需要大量的计算资源和昂贵的人工注释域内语义解析数据。本文提出了第一个实证研究的对抗鲁棒性的大规模基于XML的语言模型的代码，\codex。我们的研究结果表明，最先进的（SOTA）代码-语言模型容易受到精心制作的对抗性示例的攻击。为了解决这一挑战，我们提出了提高鲁棒性的方法，而不需要大量的标记数据或繁重的计算资源。
2023-03-09 cs.CL
Semantic Abstraction for Natural Language Inference: a Methodological Framework for Discovering and Compensating Semantic Knowledge and Reasoning Gaps in Large Language Models
Centro de Investigación en Ciencias, Universidad Autónoma del Estado de Morelos（莫雷洛斯州自治大学科学研究中心）
针对LLM在自然语言推理中的语义知识缺口，提出基于语义兼容性/不兼容性的抽象框架，通过重构词汇语义关系提升准确率超10%，强调结构化知识而非数据规模。
2026-09-23 cs.CL
Using Distributional Principles for the Semantic Study of Contextual Language Models
Université Paris-Saclay（巴黎萨克雷大学）；CEA（法国原子能和替代能源委员会）
近年来，人们对语境语言模型的性质进行了大量的研究，但令人惊讶的是，只有少数研究从语义相似性的角度来考虑这些模型的性质。在这篇文章中，我们首先专注于这些属性的英语利用分布原则的替代作为一种探测机制，在控制的SemCor和WordNet的聚合关系的背景下。然后，我们建议适应相同的方法，以更开放的设置，静态和上下文语言模型之间的差异的特点。
2021-11-23 cs.CL
On the Evaluation of Semantic Phenomena in Neural Machine Translation Using Natural Language Inference
Johns Hopkins University（约翰斯·霍普金斯大学）；Massachusetts Institute of Technology（麻省理工学院）
我们提出了一个过程，调查在何种程度上产生的神经机器翻译（NMT）系统的句子表示编码不同的语义现象。我们使用这些表示作为特征来训练一个基于现有语义注释的数据集重铸的自然语言推理（NLI）分类器。在应用这个过程中的一个代表性的NMT系统，我们发现它的编码器似乎最适合支持推理的语法语义接口，相比，回指解析需要世界知识。最后，我们讨论的优点和潜在的不足，现有的过程中，以及如何可以改进和扩展为一个更广泛的框架，用于评估语义覆盖。
2018-05-06 cs.CL
Tomato, Tomahto, Tomate: Do Multilingual Language Models Understand Based on Subword-Level Semantic Concepts?
University of Waterloo（滑铁卢大学）；Google DeepMind（谷歌DeepMind）
本研究探究多语言语言模型（mLMs）是否基于子词级语义概念理解文本，通过合并语义相似子词形成语义标记并评估，发现共享语义可提升模型预测性能，零样本结果更优，为跨语言迁移提供锚点。
2025-11-19 cs.CL
Language classification from bilingual word embedding graphs
TU Darmstadt（达姆施塔特工业大学）；Goethe University（歌德大学）
我们在单语语义评价任务中研究了第二语言在双语词嵌入中的作用。我们发现，下游任务的表现和第二语言的相似性目标语言之间的强和弱的正相关。此外，我们展示了如何双语词嵌入可以用于语义语言分类的任务，联合语义空间在第二语言中有意义的方式不同。我们的研究结果支持这一假设，语义语言相似性的影响，结构相似性以及地理/接触。
2016-10-10 cs.CL
Synthesising Sign Language from semantics, approaching "from the target and back"
CNRS (LIMSI) Université Paris Saclay（法国国家科学研究中心（LIMSI）巴黎萨克雷大学）；Université de Genève CUI（日内瓦大学 CUI）
我们提出了一个手语建模方法，允许建立语法和创建语言输入符号合成通过化身。我们评论的语法类型，它允许建立，并观察所产生的表达式和传统的语义表示之间的相似之处。比较的方式，设计的范例，我们的名字和对比两个本质上不同的策略，建立更高层次的语言输入：“源和转发”与“目标和回”。最后，我们倾向于后者，承认能够自动生成输出从语义相关的输入直接到目标语言的发音的力量。
2017-07-25 cs.CL
LASA: Language-Agnostic Semantic Alignment at the Semantic Bottleneck for LLM Safety
The Conversational AI (CoAI) group, DCST, Tsinghua University（清华大学对话人工智能（CoAI）组，DCST，清华大学）；Alibaba Group（阿里巴巴集团）；Tsinghua University（清华大学）
本文提出LASA方法，通过在语义瓶颈层对齐安全理解，提升LLM在所有语言中的安全性，实验显示攻击成功率显著降低。
2026-04-23 cs.AI cs.CL cs.LG
Does Liking Yellow Imply Driving a School Bus? Semantic Leakage in Language Models
Paul G. Allen School of Computer Science & Engineering, University of Washington（保罗·G·艾伦计算机科学与工程学院，华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
该研究首次识别并刻画语言模型的语义泄漏现象，提出人工与自动结合的检测评估方案及多样化测试套件，在13个旗舰模型中检测到显著泄漏，且该现象存在于多语言、多场景中，揭示了语言模型的一类新偏差。
2025-05-15 cs.CL
Large Language Models on Lexical Semantic Change Detection: An Evaluation
University of Toronto（多伦多大学）
针对LLM在词汇语义变化检测中研究不足的问题，本文提出新的提示方案并对三代语言模型进行综合评估，以填补该领域空白。
2023-12-10 cs.CL
Simple Search Algorithms on Semantic Networks Learned from Language Use
University of Toronto（多伦多大学）
最近的实证和建模研究集中在语义流畅性任务，因为它是语义记忆的信息。语义记忆中表征的丰富性和处理它所需的算法的复杂性之间产生了一个有趣的相互作用。从语言使用中学习到的单词及其关系的表征是否能够使简单的搜索算法模仿流畅性任务中观察到的行为仍然是一个悬而未决的问题。在这里，我们表明，这是合理的学习丰富的表示从自然的数据，一个非常简单的搜索算法（随机游走）可以复制人类的模式。我们认为，明确地将有关单词的知识结构化为语义网络，在记忆搜索和检索中对人类行为建模起着至关重要的作用;此外，在一系列语义信息源中也是如此。
2016-02-11 cs.CL
Combining semantic and syntactic structure for language modeling
用于语音识别的结构化语言模型已经被证明可以弥补n元模型的弱点。然而，所有当前的结构化语言模型的局限性在于它们没有考虑非中心词之间的依赖关系。我们发现，非中心词的依赖关系有助于显着改善字的出错率，并在语义和语法注释数据训练的面向数据的解析模型可以利用这些依赖关系。本文还包含了第一个DOP模型训练的最大似然重新估计过程，解决了以前的DOP模型的一些理论缺陷。
2001-10-24 cs.CL
Logical analysis of natural language semantics to solve the problem of computer understanding
Institute of Cybernetics of NAS of Ukraine（乌克兰国家科学院控制论研究所）
一个面向对象的方法来创建一个自然语言理解系统被认为是。理解程序是建立在谓词演算基础上的形式系统。Horn的子句被用作格式良好的公式。推理是以归结原则为基础的。自然语言的句子是从典型谓词集合的角度来表示的。这些谓词描述物理对象和过程、抽象对象、范畴以及对象之间的语义关系。具体断言的谓词保存在数据库中。为了描述物理对象、抽象概念和过程的类的语义，应用了知识库。所提出的自然语言句子的表示是语义网。这种网的节点是典型的谓词。这种方法是透视，首先，这种典型化的节点基本上有利于形成的处理算法和对象的描述，其次，算法的有效性增加（特别是对于大量的节点），第三，描述的语义的话，spectropedic知识被使用，这基本上允许扩展类解决的问题。
2013-08-07 cs.CL
Language Models at the Syntax-Semantics Interface: A Case Study of the Long-Distance Binding of Chinese Reflexive ziji
Georgetown University（乔治城大学）
本文探讨语言模型能否解决受句法语义制约的汉语反身代词ziji的约束问题，通过构建合成与自然句子数据集评估21个模型，发现现有模型无法稳定复现人类判断，严重依赖序列线索且忽略细微约束。
2025-04-02 cs.CL
The Parallel Meaning Bank: A Framework for Semantically Annotating Multiple Languages
Center for Language and Cognition, University of Groningen（格罗宁根大学语言与认知中心）
本文给出了一个一般性的描述的想法背后的并行意义银行，一个框架，旨在提供一个简单的方法来注释组成语义的语言以外的其他语言写的文本。注释过程是半自动的，包括七层语言信息：分割，符号化，语义标记，词义消歧，句法结构，主题角色标签，和共指。只要文档是基于英语翻译的，就可以将新的语言添加到意义库中，但也会对并行意义库的语言学假设提出新的有趣挑战。
2020-12-29 cs.CL
A Holistic Natural Language Generation Framework for the Semantic Web
University of Paderborn（帕德博恩大学）；University of Leipzig（莱比锡大学）
随着语义Web数据的不断增长，非语义Web专家对这些数据的需求也越来越大。实现这一目标的一种方法是将语义Web的语言翻译成自然语言。我们提出了LD2NL，一个语义Web的三种关键语言，即，RDF、OWL和SPARQL。我们的框架是基于一个自下而上的方法来动词化。我们在一项有86人的开放式调查中评估了LD2NL。我们的研究结果表明，我们的框架可以生成接近自然语言，可以很容易地被非专家理解的动词。因此，它使非领域专家解释语义Web数据的准确率超过91%的领域专家。
2019-11-04 cs.CL cs.DB
DySem: Uncovering Dynamic Semantic Components of Large Language Models for Calculating Semantic Textual Similarity
College of Computer Science and Software Engineering（计算机科学与软件工程学院）
提出DySem框架，通过多语言共识提取大语言模型中与语义更相关的内部组件，并构建文本相关的联合语义集实现动态维度相似度计算，无需训练且性能优于基线。
2026-09-29 cs.CL
CSF: Contrastive Semantic Features for Direct Multilingual Sign Language Generation
CSF通过九个通用语义槽和综合条件分类法，实现无需英语中介的多语言手语直接生成，提升聋人社区的交流无障碍性。
2026-01-05 cs.CL
HistBERT: A Pre-trained Language Model for Diachronic Lexical Semantic Analysis
University of Toronto（多伦多大学）
上下文词嵌入在各种自然语言处理任务中表现出最先进的性能，包括那些涉及历史语义变化的任务。然而，诸如BERT的语言模型主要是在当代语料库数据上训练的。为了研究历史语料库数据的训练是否提高了历时语义分析，我们提出了一个预先训练的基于BERT的语言模型，HistBERT，在历史美国英语的平衡语料库上训练。我们检查我们的方法的有效性，通过比较原始的BERT和HistBERT的性能，我们报告有希望的结果在单词相似性和语义转移分析。我们的工作表明，上下文嵌入在历时语义分析中的有效性取决于输入文本的时间轮廓，在应用这种方法来研究历史语义变化时应注意。
2022-02-08 cs.CL cs.LG
Convex Polytope Modelling for Unsupervised Derivation of Semantic Structure for Data-efficient Natural Language Understanding
The Chinese University of Hong Kong（香港中文大学）；SpeechX Limited（SpeechX有限公司）
自然语言理解（NLU）的常用方法通常依赖于大量的注释数据或手工编写的规则，这是费力的并且不适应领域扩展。我们最近提出了一个凸多面体模型为基础的框架，显示了巨大的潜力，在自动提取语义模式，利用原始的对话语料库。提取的语义模式可以用来生成语义框架，这是必不可少的，在协助自然语言理解任务。本文进一步深入研究了CPM模型，并在各个层次上可视化了其高度的可解释性和透明度。我们表明，该框架可以利用语料库中的语义框架相关功能，揭示话语的潜在语义结构，并以最小的监督提高最先进的NLU模型的性能。我们在ATIS（Air Travel信息系统）语料库上进行了实验。
2022-01-25 cs.CL
The Semantic Ladder: A Framework for Progressive Formalization of Natural Language Content for Knowledge Graphs and AI Systems
Leibniz Institute for the Analysis of Biodiversity Change (LIB)（莱布尼茨生物多样性变化分析研究所）
本文提出语义阶梯框架，通过逐步形式化自然语言内容，解决自然语言与形式化模型之间的表示差异问题，支持知识图谱和AI系统的可扩展性和互操作性。
2026-03-23 cs.CL cs.DB
Semantic Network Model for Sign Language Comprehension
Beijing Union University（北京联合大学）；Tsinghua University（清华大学）
在这项研究中，作者提出了一个计算认知模型的手语（SL）的感知和理解与详细的算法描述的基础上，在人类语言处理的认知功能。语义网络模型（SNM）表示概念之间的语义关系，它被用作知识表示的一种形式。该模型被应用于手语的分类谓词的理解。激活扩散搜索方法通过用权重或“激活”标记一组源节点（例如，语义网络中的概念），然后迭代地将该激活传播或“扩散”到链接到源节点的其他节点来发起。实验结果表明，该搜索方法提高了SNM中手语理解的性能。
2023-01-27 cs.CL
Infusing Prompts with Syntax and Semantics
针对大语言模型生成内容语言结构有缺陷的问题，本文提出向提示注入各类低成本句法与语义信息的方法，在低资源语言的自然语言转SQL任务上验证了该方法的有效性，性能超越此前最优系统。
2024-12-08 cs.CL
A statistically consistent measure of semantic uncertainty using Language Models
本文提出语义谱熵，一种统计一致的语义不确定性度量，仅依赖预训练语言模型，无需内部访问，并通过模拟验证其准确性和稳健性。
2025-05-24 cs.AI cs.CL
