Thematically Reinforced Explicit Semantic Analysis
Institut Mines-Télécom（矿业电信研究所）；University of Aizu（会津大学）
我们提出了一个扩展的，主题加强版本的Gabrilovich和Markovitch的显式语义分析（ESA），我们通过维基百科的类别结构获得主题信息。为此，我们首先定义了一个概念的范畴tfidf的措施的相关性的条款类别。使用这个措施作为一个权重，我们计算的维基百科语料库的最大生成树被认为是一个有向图的页面和类别。该树为我们提供了每个页面和层次结构顶部之间的“最相关类别”的唯一路径。我们加强tfidf的词在一个页面中，通过聚合它与这些路径的节点的分类tfidf，并定义一个主题加强ESA语义相关性的措施，这是更强大的比标准的ESA和不太敏感的噪声所造成的上下文外的话。我们将我们的方法应用于法语维基百科语料库，通过对20个法语新闻组的37.5 MB语料库进行文本分类进行评估，与标准ESA相比，精度提高了9-10%。
2014-05-17 cs.CL
Cross-lingual Dataless Classification for Languages with Small Wikipedia Presence
Hong Kong University of Science and Technology（香港科技大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出了一种在没有任何文本分类训练数据的情况下，将任何语言的文档分类到英文主题标签空间的方法。跨语言无数据文档分类（CLDDC）的方法依赖于将英文标签或短类别描述映射到基于维基百科的语义表示，并且依赖于使用目标语言维基百科。因此，当目标语言的维基百科很小时，性能可能会受到影响。在本文中，我们专注于小维基百科的语言（小维基百科语言，SWLs）。我们使用一个词级词典将SWL中的文档转换为大型维基百科语言（LWL），然后基于LWL的维基百科执行CLDDC。这种方法可以应用于数千种语言，这可以与机器翻译形成对比，机器翻译是一种监督繁重的方法，可以对大约100种语言进行。我们还开发了一个排名算法，利用语言相似性指标，自动选择一个好的LWL，并表明，这显着提高了SWLs的文档分类，执行最好的桥梁可能。
2016-11-13 cs.CL
SLHCat: Mapping Wikipedia Categories and Lists to DBpedia by Leveraging Semantic, Lexical, and Hierarchical Features
Graduate School of Information, Production, and Systems, Waseda University（早稻田大学信息生产系统研究生院）；United Automotive Electronic Systems Co., Ltd（联合汽车电子有限公司）
本文提出 SLHCat，将 Wikipedia 分类与列表到 DBpedia 的映射建模为本体对齐，结合知识图谱结构、语义与词汇特征生成远程监督数据，并微调 BERT，在 3000 个标注映射对上准确率较基线提升 25%。
2023-09-27 cs.CL cs.DL
A Semantic Relatedness Measure Based on Combined Encyclopedic, Ontological and Collocational Knowledge
Institut Télécom – Télécom Bretagne（电信学院——布列塔尼电信学院）；University of Aizu（会津大学）
我们描述了一个新的语义相关性措施结合维基百科的显式语义分析措施，WordNet路径措施和混合搭配指数。我们的测量在WS-353测试上实现了当前最高的结果：当直接应用测量时，斯皮尔曼rho系数为0.79（vs. 0.75 in（Gabrilovich和Markovitch，2007）），并且值为0.87（vs. 0.78 in（Agirre等人，2009））时使用的多项式SVM分类器训练我们的措施的预测。在附录中，我们讨论了ESA对2011年维基百科数据的适应，以及通过在单词，句子和章节级别过滤来增强ESA的各种不成功的尝试。
2011-08-19 cs.CL
Cross-lingual Transfer or Machine Translation? On Data Augmentation for Monolingual Semantic Textual Similarity
CyberAgent（赛博代理）
针对非英语单语语义文本相似度性能落后的问题，对比跨语言迁移与机器翻译两种数据增强技术，发现二者性能相当，且维基百科领域数据优于NLI领域数据，结合后可提升单语STS性能。
2024-03-08 cs.CL
Pairwise Multi-Class Document Classification for Semantic Relations between Wikipedia Articles
DFKI GmbH（德国人工智能研究中心有限公司）；University of Konstanz（康斯坦茨大学）；University of Wuppertal（伍珀塔尔大学）
许多数字图书馆在向用户推荐文献时会考虑到查询文档与其存储库之间的相似性。然而，他们经常无法区分是什么关系使两个文档相似。在本文中，我们模型的问题，找到两个文件之间的关系作为一个成对的文件分类任务。为了发现文档之间的语义关系，我们应用了一系列技术，例如GloVe，Paragraph-Vectors，BERT和XLNet，在不同的配置下（例如，序列长度、向量级联方案），包括用于基于变换器的系统的连体架构。我们在一个新提出的数据集上进行实验，该数据集包含32，168个维基百科文章对和定义语义文档关系的Wikidata属性。我们的研究结果表明，香草BERT作为最好的表现系统的F1得分为0.93，我们手动检查，以更好地了解其适用于其他领域。我们的研究结果表明，分类文档之间的语义关系是一个可解决的任务，并激励推荐系统的发展的基础上评估的技术。本文中的讨论作为第一步，在探索文件通过SPARQL类查询，这样就可以找到文件，在一个方面是相似的，但在另一个不同的。
2020-03-22 cs.CL cs.DL cs.IR
Descartes: Generating Short Descriptions of Wikipedia Articles
EPFL（洛桑联邦理工学院）
维基百科是当今网络上最丰富的知识来源之一。为了便于导航、搜索和维护其内容，维基百科的指导方针规定，所有文章都应该用所谓的简短描述来说明文章的主题（例如，啤酒的简短描述是“由发酵的谷物制成的酒精饮料”）。尽管如此，仍有很大一部分条目（从荷兰语的10.2%到哈萨克语的99.7%）没有简短描述，这对数百万维基百科用户造成了不利影响。出于这个问题的动机，我们引入了自动生成维基百科文章的简短描述的新任务，并提出了Descartes，一个多语言模型来解决这个问题。Descartes集成了三个信息源来生成目标语言的文章描述：该条款的所有语文文本，该条款已有的其他语文说明（如有），以及从知识图谱获得的语义类型信息。我们评估了一个同时处理25种语言的笛卡尔模型，结果表明它击败了基线（包括一个强大的基于解释的基线），并与为特定语言量身定制的单语模型表现相当。人类对三种语言的评价进一步表明，笛卡尔描述的质量与人类书面描述的质量在很大程度上是无法区分的;例如，91.3%的英文描述（相对于92.1%的人类书面描述）通过了维基百科的收录标准，这表明笛卡尔已经准备好生产，有可能支持人类编辑填补当今维基百科跨语言的主要空白。
2023-02-17 cs.CL
MultiWiki: Interlingual Text Passage Alignment in Wikipedia
L3S Research Center（L3S研究中心）；University of Southampton（南安普顿大学）
在这篇文章中，我们解决的问题，跨语际文章对维基百科的文本段落对齐。我们开发的方法，使识别和相互链接的文本段落写在不同的语言和包含重叠的信息。语际文本段落对齐可以使维基百科的编辑者和读者更好地理解实体的特定语言背景，提供有价值的文化差异见解，并为文章的定性分析奠定基础。在这种情况下，一个重要的挑战是提取的文本段落的粒度和对齐的精度之间的权衡。短的文本段落可以实现更精确的对齐，而长的文本段落可以更好地概述文章对中的差异。为了从用户的角度更好地理解这些方面，我们以德语、俄语和英语维基百科为例进行了用户研究，并收集了一个用户注释的基准。然后，我们提出了MultiWiki --一种采用语义相似性度量和贪心算法的文本段落对齐的综合方法，并在用户定义的对齐方面取得了精确的结果。MultiWiki演示是公开的，目前支持四种语言对。
2019-05-21 cs.CL
Assessing Wikipedia-Based Cross-Language Retrieval Models
这项工作比较跨语言检索的概念模型：首先，我们适应多语言文档的概率潜在语义分析（pLSA）。不同加权方案的实验表明，有利于在两个语言端的相似长度的文档的加权方法给出了最好的结果。考虑到单语言和多语言潜在狄利克雷分配（LDA）的行为时，适用于这些文件，我们使用的训练语料库建立在维基百科上，所有的文件都是长度规范化，并获得改进，以前报告的分数LDA。我们工作的另一个重点是模型组合。为此，我们在实验中包括显式语义分析（ESA）。我们观察到，ESA是没有竞争力的LDA在基于查询的检索任务CLEF 2000数据。与单独的机器翻译相比，机器翻译与概念模型的结合将性能提高了21.1%。机器翻译依赖于并行语料库，这可能不适用于许多语言对。我们进一步探讨有多少跨语言的信息可以携带在维基百科的特定信息源，即链接文本。最好的结果是使用语言建模的方法，完全没有来自平行语料库的信息。平滑的需要提出了关于合理性和效率的有趣问题。链接模型仅捕获某种信息，并建议加权方案来强调特定单词。因此，对于组合模型，另一个有趣的问题是如何整合不同的加权方案。使用一个非常简单的组合方案，我们得到的结果，比较有利的CLEF 2000数据集上以前报道的结果。
2014-01-10 cs.CL cs.IR
Gibberish Semantics: How Good is Russian Twitter in Word Semantic Similarity Task?
SpazioDati S.r.l（SpazioDati 有限公司）
研究最多和最成功的语言模型主要是为英语和其他接近欧洲的语言，如法语，德语等开发和评估。重要的是要研究这些模型的适用性，以其他语言。最近研究了多个语料库（如Wikipedia，RuWac，lib.ru）中俄语向量空间模型的使用。这些模型进行了评价，对词的语义相似性任务。据我们所知，Twitter并没有被认为是这项任务的语料库，这项工作填补了这一空白。在Twitter语料库上训练的向量的结果与其他单语料库训练模型的准确性相当，尽管目前最好的性能是通过组合多个语料库来实现的。
2016-02-28 cs.CL
Russian Web Tables: A Public Corpus of Web Tables for Russian Language Based on Wikipedia
Unidata；Saint-Petersburg State University（圣彼得堡国立大学）
包含WebTables等表格数据的语料库是学术界的重要资源。从本质上讲，它们是任何现代信息管理研究的支柱。它们用于数据抽取、知识库构建、问答、栏目语义类型检测等各种任务。这样的语料库不仅是数据的来源，而且是构建测试数据集的基础。到目前为止，还没有这样的俄语语料库，这严重阻碍了上述领域的研究。在本文中，我们提出了第一个语料库的Web表格专门创建的俄语材料。它是通过我们开发的一个特殊工具包来抓取俄语维基百科的。语料库和工具包都是开放源代码的，可供公众使用。最后，我们提出了一个简短的研究，介绍了俄罗斯维基百科的表和他们的统计数据。
2022-10-03 cs.CL cs.DL cs.IR
MegaWika: Millions of reports and their sources across 50 diverse languages
Johns Hopkins University（约翰斯·霍普金斯大学）；Human Language Technology Center of Excellence（人类语言技术卓越中心）
本文发布包含50种语言、1300万篇Wikipedia文章及7100万份来源材料的MegaWika数据集，并提供语义处理、质量分析及跨语言问答和引文检索基线。
2023-07-13 cs.CL
Neural Article Pair Modeling for Wikipedia Sub-article Matching
University of California, Los Angeles（加州大学洛杉矶分校）；Purdue University（普渡大学）；Google（谷歌）
如今，编辑倾向于将一个长维基百科条目的不同子主题分成多个子条目。这种分离旨在提高人类可读性。然而，它也对许多基于维基百科的任务产生了有害影响，这些任务依赖于条目作为概念的假设，这要求每个实体（或概念）仅由一篇条目描述。这一基本假设大大简化了知识表示和提取，它是至关重要的许多现有的技术，如自动化知识库建设，跨语言知识对齐，语义搜索和维基百科实体的数据沿袭。在本文中，我们提供了一种方法来匹配分散的子文章回到其相应的主文章，目的是促进自动化维基百科策展和处理。该模型采用分层学习结构，结合了神经文档对编码器的多种变体和一组全面的显式特征。创建大型众包数据集以支持任务的评估和特征提取。基于大数据集，该模型实现了有希望的交叉验证结果，并显着优于以前的方法。在整个英文维基百科上的大规模服务也证明了所提出的模型的实用性和可扩展性，有效地提取了大量的新配对的主要和子文章。
2018-08-04 cs.CL cs.HC cs.IR
Classification of news spreading barriers
Jozef Stefan International Postgraduate School（约瑟夫·斯特凡国际研究生院）；Jozef Stefan Institute（约瑟夫·斯特凡研究所）
本文提出利用维基百科概念结合新闻正文作为特征进行新闻传播障碍分类，实验表明该方法优于经典文本分类、深度学习和Transformer方法。
2023-04-10 cs.AI cs.CL
Mined Semantic Analysis: A New Concept Space Model for Semantic Representation of Textual Data
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
挖掘语义分析（MSA）是一种新的概念空间模型，它采用无监督学习来生成文本的语义表示。MSA将文本结构（术语、短语、文档）表示为概念袋（BoC），其中概念来自概念丰富的百科全书语料库。传统的概念空间模型只利用目标语料的内容来构建概念空间。或者，MSA通过挖掘概念之间的关联来揭示概念之间的隐含关系（例如，挖掘维基百科的“See also”链接图）。我们评估了MSA在衡量单词和句子语义相关性的基准数据集上的性能。实证结果表明，竞争力的性能MSA相比，现有的国家的最先进的方法。此外，我们介绍了第一个分析研究，以检查不同的语义相关性方法报告的结果的统计意义。我们的研究表明，最佳性能方法的结果的细微差别在统计学上可能是不显著的。这项研究的立场MSA作为一个国家的最先进的方法来衡量语义相关性，除了固有的可解释性和简单的生成的语义表示。
2017-12-31 cs.CL
Leveraging Deep Neural Networks and Knowledge Graphs for Entity Disambiguation
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Google Research（谷歌研究院）
实体消歧旨在将模糊实体的提及链接到知识库（例如，Wikipedia）.主题连贯性的建模是至关重要的这项任务的基础上，假设来自相同的语义背景下的信息往往属于同一主题。提出了一种基于深度神经网络和语义知识图谱的深度语义相关度模型（DSRM）来度量实体语义相关度，用于主题一致性建模。DSRM直接在大规模KG上训练，它将实体的异构类型的知识从KG映射到潜在空间中的数值特征向量，使得两个语义相关实体之间的距离最小化。与Milne and Witten，2008 a提出的最新相关性方法相比，DSRM在两个公开数据集上的实体消歧错误分别减少了19.4%和24.5%。
2015-04-28 cs.CL
Bias in Semantic and Discourse Interpretation
IRIT, Université Paul Sabatier（图卢兹信息学研究所，保罗·萨巴捷大学）；SnT, Université du Luxembourg（卢森堡大学安全、可靠性与信任跨学科中心）
在本文中，我们将展示如何将博弈论与话语结构理论相结合，为研究释意偏见提供一个框架。解释性偏见是学习和理解的一个基本特征，但也可以用来歪曲或颠覆真理。我们在这里开发的框架提供了理解和分析解释性偏见的范围以及导致这些偏见的因素的工具。
2018-06-29 cs.CL
CREER: A Large-Scale Corpus for Relation Extraction and Entity Recognition
National Cheng Kung University（国立成功大学）
我们描述了CREER数据集的设计和使用，一个大型语料库注释丰富的英语语法和语义属性。CREER数据集使用Stanford CoreNLP Annotator从维基百科纯文本中捕获丰富的语言结构。该数据集遵循广泛使用的语言和语义注释，因此它不仅可用于大多数自然语言处理任务，还可扩展数据集。这个大型监督数据集可以作为未来提高NLP任务性能的基础。我们通过以下链接公布数据集：https://140.116.82.111/share.cgi? ssid=000dOJ4
2022-06-09 cs.CL
Calibrated Interpretation: Confidence Estimation in Semantic Parsing
Johns Hopkins University（约翰斯·霍普金斯大学）
本文研究语义解析生成模型的校准问题，在四个数据集上评估校准表现，分析校准误差相关因素，并发布基于置信度的挑战性数据划分和校准指标计算库，以推动安全语义解析系统的发展。
2023-07-06 cs.CL
Semantic interpretation of temporal information by abductive inference
除了动词和动词中的时间信息外，文本的时间解释还依赖于一般世界知识和默认假设。我们将提出一个理论，一方面描述动词、动词的时态和时态之间的关系，另一方面描述动词所代表的可能性和时间段以及它们的相对时间位置。该理论是制定在逻辑和Ness Schelkens等人所描述的概念是一个实际的实施。我们将展示如何溯因决议程序可以使用这种表示从文本中提取时间信息。
2000-11-22 cs.CL
Neural Attentive Bag-of-Entities Model for Text Classification
Studio Ousia；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；RIKEN AIP（理化学研究所AIP）
本研究提出了一个神经注意袋的实体模型，这是一个神经网络模型，使用知识库中的实体进行文本分类。实体提供了明确的和相关的语义信号，有利于捕捉文本中的语义。我们结合简单的高召回实体检测的基础上的字典，检测实体的文件，与一种新的神经注意力机制，使模型能够专注于少量的明确和相关的实体。我们使用两个标准文本分类数据集（即，20个新闻组和R8数据集）和基于琐事问答游戏的流行的事实问答数据集。因此，我们的模型在所有数据集上都取得了最先进的结果。所提出的模型的源代码可在https://github.com/wikipedia2vec/wikipedia2vec上在线获得。
2019-09-10 cs.CL cs.LG
Automated Semantic Rules Detection (ASRD) for Emergent Communication Interpretation
University of Mons（蒙斯大学）；MAIA Artificial Intelligence Lab（MAIA人工智能实验室）；Mathematics and Operational Research（数学与运筹学）
本文提出ASRD算法，用于分析多智能体系统中涌现通信的可解释性，通过提取消息模式并关联输入数据属性，简化后续分析。
2026-01-06 cs.CL
"Covid vaccine is against Covid but Oxford vaccine is made at Oxford!" Semantic Interpretation of Proper Noun Compounds
Indian Institute of Technology Delhi（德里印度理工学院）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
专有名词复合词，例如，“Covid vaccine”，以简洁的方式传达信息（“Covid vaccine”是“对Covid疾病免疫的疫苗”）。这些通常用于简短的领域，如新闻标题，但在信息搜索应用程序中很大程度上被忽略。为了解决这一限制，我们发布了一个新的手动注释数据集ProNCI，由22.5K专有名词复合词及其自由形式的语义解释组成。ProNCI比以前的名词复合数据集大60倍，还包括以前没有探索过的非成分示例。我们用各种神经模型进行实验，用于自动生成专有名词复合词的语义解释，范围从Few-Shot提示到监督学习，具有不同程度的有关组成名词的知识。我们发现，添加有针对性的知识，特别是关于普通名词的知识，可以使性能提高2.8%。最后，我们将我们的模型生成的解释与现有的Open IE系统相结合，并观察到产量增加了7.5%，精度为85%。数据集和代码可在https://github.com/dair-iitd/pronci上获得。
2022-10-24 cs.CL
ReCOGS: How Incidental Details of a Logical Form Overshadow an Evaluation of Semantic Interpretation
Stanford University（斯坦福大学）
本文揭示COGS语义解析基准的负面结果源于逻辑形式的偶然细节而非模型语义能力不足，并提出修改版基准ReCOGS以更准确地评估组合泛化能力。
2024-01-23 cs.CL
Joint learning of ontology and semantic parser from text
Jožef Stefan International Postgraduate School（约热夫·斯特凡国际研究生院）
语义解析方法用于捕获和表示文本的语义。捕捉文本中所有概念的意义表示可能并不总是可用的，或者可能不够完整。本体提供了一种结构化和推理能力的方式来建模文本集合的内容。在这项工作中，我们提出了一种新的方法来联合学习的本体和语义分析器从文本。该方法是基于半自动归纳的上下文无关文法从语义注释的文本。语法将文本解析成语义树。语法和语义树都用于在多个级别上学习本体-类，实例，分类和非分类关系。该方法在维基百科描述人物的页面的第一句话上进行了评估。
2016-01-05 cs.AI cs.CL
Automatically Annotated Turkish Corpus for Named Entity Recognition and Text Categorization using Large-Scale Gazetteers
Huawei Turkey Research and Development Center（华为土耳其研发中心）
土耳其语维基百科命名实体识别和文本分类（TWNERTC）数据集是从维基百科获得的自动分类和注释句子的集合。我们构建了大规模的地名词典，使用图爬虫算法提取相关的实体和领域的信息，从语义知识库，Freebase。构建的地名录包含约30万个实体，在77个不同领域下有数千个细粒度实体类型。由于自动化过程容易产生歧义，我们还介绍了两种新的内容特定的降噪方法。此外，我们将细粒度的实体类型映射到等效的四个粗粒度类型：person，loc，org，misc。最后，我们构建了六个不同的数据集版本，并通过比较来自人类注释者的基本事实来评估注释的质量。我们公开这些数据集，以支持土耳其命名实体识别（NER）和文本分类（TC）的研究。
2017-02-09 cs.CL
Incremental Interpretation: Applications, Theory, and Relationship to Dynamic Semantics
为什么计算机要增量地解释语言？近年来，心理语言学证据的增量解释已经变得越来越令人信服，这表明，人类执行语义解释之前，组成的边界，可能是一个字一个字。然而，可能的计算应用受到较少的关注。在本文中，我们考虑各种潜在的应用，特别是图形交互和对话。然后，我们审查的理论和计算工具，可用于映射从片段的句子，以充分范围的语义表示。最后，我们梳理除了动态语义和增量解释之间的关系。
1995-03-14 cmp-lg cs.CL
COGS: A Compositional Generalization Challenge Based on Semantic Interpretation
Johns Hopkins University（约翰斯·霍普金斯大学）；New York University（纽约大学）
自然语言的特点是组合性：一个复杂表达式的意义是由其组成部分的意义构成的。为了便于评估语言处理架构的组合能力，我们引入了COGS，一个基于英语片段的语义解析数据集。COGS的评估部分包含多个系统性缺口，这些缺口只能通过合成概括来解决;这些缺口包括熟悉句法结构的新组合，或熟悉单词和熟悉结构的新组合。在使用Transformers和LSTM的实验中，我们发现在COGS测试集上的分布准确度接近完美（96- 99%），但泛化准确度低得多（16- 35%），并且对随机种子表现出高敏感性（$\pm$ 6- 8%）。这些发现表明，当代标准的NLP模型在其成分概括能力方面是有限的，并将COGS定位为衡量进展的好方法。
2020-10-12 cs.CL
Diagnosing and Mitigating Semantic Inconsistencies in Wikidata's Classification Hierarchy
National Institute of Informatic（日本信息处理研究所）
本研究提出了一种新方法，用于诊断和缓解维基数据分类层级中的语义不一致问题，通过验证分类错误和冗余连接，提升知识图谱的准确性。
2026-01-05 cs.CL
Language Has Two Parameters: Narrative-Induced Semantic Plasticity and Phase-Sensitive Interpretation
University of Utah（犹他大学）
该研究提出语言解读需第二个带符号、持久且以个体与二元组为索引的相位参数，指出标准Transformer无相位显式表征，需构建承载相位语义状态的语言模型。
2026-08-21 cs.CL
Abstractive Tabular Dataset Summarization via Knowledge Base Semantic Embeddings
New Knowledge（新知识公司）
提出了一种基于知识库语义嵌入的表格数据摘要生成方法。假设数据集在标题、列和/或一些扩充元数据中包含描述性文本，则系统采用嵌入来为每个文本片段推荐主题/类型。通过利用预先指定的本体中的类型层次结构，将推荐聚合到被认为是数据集的描述性的超类型的小集合中。使用2015年2月的Wikipedia作为知识库，并使用相应的DBpedia本体作为类型，我们展示了来自多个来源的开放数据的实验结果-OpenML，CKAN和data.world-以说明该方法的有效性。
2018-04-05 cs.AI cs.CL
A Data-Oriented Approach to Semantic Interpretation
在面向数据的语法分析（DOP）中，标注的语言语料库被用作随机语法。通过以最可能的方式组合来自语料库的子分析来构造新输入句子的最可能分析。这种方法已成功地用于句法分析，使用语料库与句法注释，如宾州树库。如果使用带有语义注释的句子的语料库，则相同的方法也可以生成输入句子的最可能的语义解释。本文介绍了这种语义解释方法，并总结了初步实验的结果。对ATIS语料库中大部分句子的句法标注都添加了语义标注。一个面向数据的语义解释算法成功地测试了这个语义丰富的语料库。
1996-06-18 cmp-lg cs.CL
Beyond Word Embeddings: Learning Entity and Concept Representations from Large Scale Knowledge Bases
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；Samsung Research America（三星美国研究院）
使用神经词嵌入的文本表示在许多NLP应用中已经证明是有效的。最近的研究采用传统的词嵌入模型来学习多词表达（概念/实体）的向量。然而，这些方法限于文本知识库（例如，Wikipedia）.在本文中，我们提出了一种新的和简单的技术，整合知识的概念，从两个大规模的知识库的不同结构（维基百科和Probase），以学习概念表示。我们采用高效的skip-gram模型来无缝地从维基百科文本和Probase概念图中学习知识。我们在两个任务上评估了我们的概念嵌入模型：（1）类比推理，在语义类比上我们实现了91%的最先进性能，（2）概念分类，在两个基准数据集上实现了最先进的性能，其中一个数据集的分类准确率为100%，另一个为98%。此外，我们提出了一个案例研究，以评估我们的神经语义解析的无监督参数类型识别模型。我们证明了我们的无监督方法的竞争力的准确性和它的能力，更好地推广到词汇表中的实体提到相比，繁琐和容易出错的方法，依赖于地名词典和正则表达式。
2018-08-30 cs.AI cs.CL cs.IR
Semantically Informed Slang Interpretation
University of Toronto（多伦多大学）；Columbia University（哥伦比亚大学）；Vector Institute for Artificial Intelligence（矢量人工智能研究所）
俚语是非正式语言的一种主要形式，它使单词的灵活和扩展使用对于自然语言处理系统来说是出了名的难以解释。现有的俚语解释方法往往依赖于上下文，但忽略了俚语中常见的语义扩展。我们提出了一个语义通知俚语解释（SSI）框架，共同考虑上下文和语义适当的候选解释查询俚语。我们对两个大型在线俚语词典进行了严格的评估，结果表明，我们的方法不仅在英语俚语解释方面达到了最先进的准确率，而且在训练数据稀疏的zero-shot和Few-Shot场景中也做到了这一点。此外，我们展示了如何相同的框架可以应用于提高机器翻译俚语从英语到其他语言。我们的工作为非正式语言的自动口译和翻译创造了机会。
2022-05-02 cs.AI cs.CL
KEPLET: Knowledge-Enhanced Pretrained Language Model with Topic Entity Awareness
Worcester Polytechnic Institute（伍斯特理工学院）；Airbnb（爱彼迎）；Amazon Alexa AI（亚马逊Alexa人工智能部门）
针对传统知识增强预训练语言模型忽略维基百科页面主题实体导致的实体交互不足、关系词语义偏差问题，提出具备主题实体感知的KEPLET模型，通过端到端融合主题实体信息，在四项实体中心任务上取得显著提升。
2023-05-02 cs.AI cs.CL
Contextual Categorization Enhancement through LLMs Latent-Space
Deggendorf Institute of Technology（代根多夫应用技术大学）
本文提出利用 transformer 模型将 Wikipedia 文本及分类提取至潜空间，结合 Convex Hull、HNSW 和基于欧式距离的指数衰减函数检索高 Reconsideration Probability 项目，帮助数据库管理员改进数据分组并识别异常值。
2024-04-25 cs.AI cs.CL
Using Higher-Order Logic Programming for Semantic Interpretation of Coordinate Constructs
许多语义解释理论都使用了词项操作来计算句子的成分意义。这些理论通常是在一种语言中实现的，如Prolog，它可以模拟一阶统一的双项运算。然而，对于一些有趣的情况下，如组合范畴语法帐户的协调结构，这只能通过模糊的基础语言学理论与实施所需的“技巧”。本文展示了如何使用抽象语法允许高阶逻辑编程允许优雅的实现组合范畴语法的语义，包括其处理的协调结构。
1995-06-06 cmp-lg cs.CL
Type-driven semantic interpretation and feature dependencies in R-LFG
一旦丰富了LFG的形式机器的线性逻辑机制所需的语义解释所提出的Dalrymple等。例如，人们自然会问，这是否会使填埋气任何现有组成部分变得多余。正如Dalrymple和她的同事们所指出的，LFG的f-结构完整性和连贯性约束是他们提出的用于语义解释的线性逻辑机制的副产品，因此使这些f-结构机制变得多余。考虑到线性逻辑机器或类似的东西是语义解释所独立需要的，探索它在多大程度上能够处理特征结构约束似乎是合理的。R-LFG代表了一个极端的立场，即所有语言上需要的特征结构依赖关系都可以被语义解释所需的线性或类似逻辑的资源计算机制所捕获，这使得LFG的统一机制变得多余。我们的目标是要表明，LFG语言分析可以清楚地表达，清晰地使用较小的一套机制的R-LFG，因为他们可以使用更大的一套统一的基础上的机制在LFG：如果是这样的话，那么我们将表明，这些额外的f-结构的机制是没有语言学上的保证。
1997-11-21 cmp-lg cs.CL
Disambiguate First, Parse Later: Generating Interpretations for Ambiguity Resolution in Semantic Parsing
Institute for Language, Cognition and Computation, School of Informatics, University of Edinburgh（语言、认知与计算研究所，信息学院，爱丁堡大学）
针对语义解析中的歧义问题，提出先消歧后解析的模块化方法，利用LLM偏见生成首选消歧结果，并结合填充模型生成缺失解释，有效提升了解释覆盖率与跨数据集泛化能力。
2025-07-12 cs.AI cs.CL
Interleaved semantic interpretation in environment-based parsing
本文扩展了一个多项式时间的解析算法，解决了结构歧义输入到基于语音的用户界面通过计算和比较的竞争成分的表示，给出了一些模型的接口应用程序环境（Schmidt 2001）。该算法被扩展到将一个完整的逻辑运算符，包括量词和合取，到这个计算中，而不增加的复杂性的整体算法超过多项式时间，无论是在输入的长度和环境模型中的实体的数量。
2002-06-18 cs.CL cs.HC
Extended Dependency Structures and their Formal Interpretation
我们描述了两个“面向语义”的依赖结构形式主义，U-形式和S-形式。U形以前曾在机器翻译中用作语际表示，但没有提供正式的解释。本文介绍的S-表单是U-表单的作用域版本，我们为它们定义了一个组合语义机制。语义合成的基本类型有两种：补语并入和修饰语并入。变量的绑定是在合并时完成的，允许在组合顺序上有很大的灵活性，并且可以简单地解释置换几个解释的语义效果。
1996-05-09 cmp-lg cs.CL
Scalable Semantic Querying of Text
University of Massachusetts（马萨诸塞大学）；Megagon Labs（Megagon实验室）；Google Japan（谷歌日本）
我们提出的KOKO系统，声明信息抽取到一个新的水平，通过将自然语言处理技术的进步，在其提取语言。KOKO是新颖的，因为它的提取语言同时支持文本表面和句子的依赖解析树结构上的条件，从而允许更精确的提取。KOKO还支持宽容表达概念的语言变化的条件，并允许从整个文档中聚合证据以过滤提取。为了扩大规模，KOKO采用了多索引方案和高效提取算法。我们广泛评估KOKO公开文本语料库。我们表明，KOKO索引占用的空间最小，是显着更快，更有效的比一些以前的索引方案。最后，我们展示了KOKO的规模上的语料库的500万个维基百科的文章。
2018-05-03 cs.CL cs.DB
A Lexicon for Underspecified Semantic Tagging
本文捍卫的概念，语义标注应被视为比消除歧义之间的意义。相反，语义标注应该是解释过程中的第一步，通过为每个词项分配所有系统相关意义的表示，进一步的语义处理步骤可以得出依赖于话语的解释。这导致了一种新类型的语义词典（CoreLex），通过基于系统的多义类和基于类的获取特定领域的词汇知识的设计，支持欠指定的语义标记。
1997-05-14 cmp-lg cs.CL
An Analysis of the Semantic Annotation Task on the Linked Data Cloud
Polytechnique Montréal（蒙特利尔理工学院）；University of Ottawa（渥太华大学）；Fundação Getulio Vargas（热图利奥·瓦加斯基金会）；Escola de Administração de Empresas de São Paulo（圣保罗企业管理学院）；Ferdowsi University of Mashhad（马什哈德菲尔多西大学）；Netmail（Netmail公司）
语义标注是识别文本中的关键词并将其与知识库中的概念相关联的过程，是语义信息检索和语义Web应用的重要基础。尽管出现了语义标注系统，很少有比较研究已经发表在其性能。在本文中，我们提供了一个评估现有系统的性能超过三个任务：完整的语义注释，命名实体识别，关键字检测。更具体地说，对所有三个任务评估了定位能力（识别文本中的相关表面形式），而仅对前两个任务评估了消歧（将来自维基百科或DBpedia的实体正确地关联到被定位的表面形式）。我们的评价是双重的：首先，我们在不同数据集上计算语义注释器输出的标准精度和召回率，每个最适合识别的任务之一。其次，我们建立了一个统计模型，使用逻辑回归，以确定显着的性能差异。我们的研究结果表明，提供完整注释的系统比命名实体注释器和关键字提取器在所有三项任务中表现更好。然而，在确定文本中描述的最相关实体方面仍有很大的改进余地。
2018-11-13 cs.CL cs.IR
Indefeasible Semantics and Defeasible Pragmatics
话语语境如何控制交互偏好空间是话语中话语理解的一个重要问题。假设一个话语处理架构，区分语法和语用子系统的单调和非单调的推理，我将讨论独立动机的默认偏好如何相互作用的解释间代词回指。在一个整合了语法和语用两个子系统的通用语篇处理模型的框架下，我将提出一个基于可撤销规则交互作用的语用偏好解释的精细结构。代词的解释偏好，作为经验的理由，从调查数据，特别是获得了本目的。
1995-06-14 cmp-lg cs.CL
Large-Scale Noun Compound Interpretation Using Bootstrapping and the Web as a Corpus
University of Melbourne（墨尔本大学）；National University of Singapore（新加坡国立大学）
针对自然语言处理应用中对语义词汇资源的需求，我们研究了获取名词复合词（NC）的方法，例如，“橙汁”，连同适当的细粒度语义解释，例如，“从……中挤出来”，可以直接用作释义。我们采用自举和网络统计，并利用NC和释义模式之间的关系，联合提取NC和这样的模式在多个交替迭代。在评估中，我们发现，有一个复合名词固定产生更高数量的语义解释的NC和提高准确性，由于更强的语义限制。
2019-11-27 cs.AI cs.CL cs.IR
Representation learning for very short texts using weighted word embedding aggregation
Ghent University（根特大学）；iMinds
短文本消息（如tweets）在词汇使用方面非常嘈杂和稀疏。传统的文本表示，如tf-idf，很难把握这样的文本，这是重要的应用程序，如事件检测，意见挖掘，新闻推荐等，我们构建了一个基于语义词嵌入和频率信息的方法，以达到低维表示短文本旨在捕捉语义相似性。为此，我们设计了一个基于权重的模型和一个学习过程的基础上，一个新的中位数为基础的损失函数。本文讨论了我们的模型和优化方法的细节，以及在维基百科和Twitter数据上的实验结果。我们发现，我们的方法优于基线方法在实验中，它概括以及不同的词嵌入，而无需再培训。因此，我们的方法能够保留文本中的大部分语义信息，并且开箱即用。
2016-07-02 cs.CL cs.IR
