SemRel2024: A Collection of Semantic Textual Relatedness Datasets for 13 Languages
Cardiff University（卡迪夫大学）；University of Pretoria（比勒陀利亚大学）；Institute For Experiential AI, Northeastern University（东北大学体验式人工智能研究所）；BITS Pilani（pilani工学院）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；KU Leuven（鲁汶大学）；Universität Hamburg（汉堡大学）；Bahir Dar University（巴希尔达大学）；IIIT Hyderabad（海得拉巴国际信息技术学院）；Uppsala University（乌普萨拉大学）；The University of Melbourne（墨尔本大学）；Adama Science and Technology University（阿达马科技大学）；Digital Umuganda（数字乌干达）；Kotebe University of Education（科特贝教育大学）；University of Toronto（多伦多大学）；HKUST（香港科技大学）；National Research Council Canada（加拿大国家研究委员会）
本文提出了SemRel，一个由母语者标注、涵盖13种语言（主要来自非洲和亚洲）的语义文本相关性数据集集合，并介绍了其数据收集、标注过程及基线实验，为NLP任务提供了重要资源。
2024-05-31 cs.CL
IITK at SemEval-2024 Task 1: Contrastive Learning and Autoencoders for Semantic Textual Relatedness in Multilingual Texts
Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）
针对 SemEval-2024 多语言语义文本相关性任务，本文提出基于 BERT 的对比学习与相似度方法处理监督赛道，并探索自动编码器及负采样构建二元语料库以改进词嵌入。
2024-04-06 cs.AI cs.CL cs.LG
Tübingen-CL at SemEval-2024 Task 1:Ensemble Learning for Semantic Relatedness Estimation
University of Tübingen（蒂宾根大学）
本文介绍了用于预测句子对语义相关性的集成学习系统，通过结合统计文本特征和深度学习模型输出，证明了集成方法在相关性估计上优于单一系统。
2024-10-14 cs.CL
Mined Semantic Analysis: A New Concept Space Model for Semantic Representation of Textual Data
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
挖掘语义分析（MSA）是一种新的概念空间模型，它采用无监督学习来生成文本的语义表示。MSA将文本结构（术语、短语、文档）表示为概念袋（BoC），其中概念来自概念丰富的百科全书语料库。传统的概念空间模型只利用目标语料的内容来构建概念空间。或者，MSA通过挖掘概念之间的关联来揭示概念之间的隐含关系（例如，挖掘维基百科的“See also”链接图）。我们评估了MSA在衡量单词和句子语义相关性的基准数据集上的性能。实证结果表明，竞争力的性能MSA相比，现有的国家的最先进的方法。此外，我们介绍了第一个分析研究，以检查不同的语义相关性方法报告的结果的统计意义。我们的研究表明，最佳性能方法的结果的细微差别在统计学上可能是不显著的。这项研究的立场MSA作为一个国家的最先进的方法来衡量语义相关性，除了固有的可解释性和简单的生成的语义表示。
2017-12-31 cs.CL
USTCCTSU at SemEval-2024 Task 1: Reducing Anisotropy for Cross-lingual Semantic Textual Relatedness Task
University of Science and Technology of China（中国科学技术大学）
针对跨语言语义文本相关性任务，该研究选择XLM-R-base为基础模型，采用基于白化的预训练句子表示降低各向异性，并设计数据过滤方法缓解多语言诅咒，在竞赛中取得优异成绩并为相关研究提供启发。
2024-11-28 cs.AI cs.CL
Towards Explainable Job Title Matching: Leveraging Semantic Textual Relatedness and Knowledge Graphs
ADAPT Centre, Munster Technological University, Cork, Ireland（ADAPT中心，穆斯林科技学院，科克，爱尔兰）
本研究提出结合密集嵌入与知识图谱的自监督混合架构，通过分层评估语义文本相关性，在职位匹配中实现可解释性并降低高相关区域RMSE达25%。
2025-09-11 cs.AI cs.CL
Evaluating semantic models with word-sentence relatedness
The Johns Hopkins University Applied Physics Laboratory（约翰斯·霍普金斯大学应用物理实验室）
语义文本相似度（STS）系统被设计用于编码和评估单词、短语、句子和文档之间的语义相似度。评估这些系统中编码的语义信息的质量或真实性的一种方法是与人类判断进行比较。开发了一个用于评估语义模型的数据集，由775个英语单词-句子对组成，每个单词-句子对由参与最大差异缩放（MDS）任务的人类评分员注释语义相关性，以及更快的替代任务。作为这种相关性数据的一个示例应用，将基于行为的相关性与通过四种现成的STS模型计算的相关性进行了比较：n-gram，潜在语义分析（LSA），Word 2 Vec和UMBC Ebiquity。一些STS模型捕捉到了收集到的人类判断中的大部分差异，但它们对参与者处理和考虑的含义和蕴涵并不敏感。所有的文本刺激和判断数据都是免费提供的。
2017-01-03 cs.CL
UMBCLU at SemEval-2024 Task 1A and 1C: Semantic Textual Relatedness with and without machine translation
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
本研究针对SemEval-2024任务1的语义文本相关性任务，结合多类表现优异的大语言模型构建TranSem和FineSem模型，探究训练方法与机器翻译的作用，在监督和跨语言设置下均取得部分优于基线的成绩。
2024-04-12 cs.AI cs.CL cs.LG
Retrofitting Concept Vector Representations of Medical Concepts to Improve Estimates of Semantic Similarity and Relatedness
The University of Texas School of Biomedical Informatics at Houston（德克萨斯大学休斯顿生物医学信息学院）；College of Computer and Information Science, Northeastern University（东北大学计算机与信息科学学院）
生物医学概念之间的语义相似性和相关性的估计对于许多信息学应用具有实用性。自动化方法分为两类：基于从文本语料库中提取的分布统计数据的方法，以及使用现有知识资源结构的方法。前一类的方法不考虑分类结构，而后者的方法不考虑语义相关的经验信息。在本文中，我们提出了一种使用UMLS元词典中的结构信息来改造生物医学概念的分布式上下文向量表示的方法，以便增强链接概念的向量表示之间的相似性。我们在UMNSRS基准上对其进行了评估。我们的研究结果表明，概念向量表示的改造导致更好的相关性与人类评分的相似性和相关性，超过了迄今为止报道的最佳结果。他们还证明了一个明显的改进性能的参考标准，改造矢量表示，相比那些没有改造。
2017-09-21 cs.CL
Visual Semantic Relatedness Dataset for Image Captioning
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）；TALP Research Center（TALP研究中心）；Institut de Robòtica i Informàtica Industrial, CSIC-UPC（西班牙国家研究委员会-加泰罗尼亚理工大学工业机器人与信息技术研究所）
本研究针对图像字幕任务，在COCO Captions数据集基础上扩展场景文本信息，构建文本视觉上下文数据集，支持将多种NLP方法以端到端或后处理方式融入字幕系统。
2023-04-30 cs.CL cs.CV
Exploring semantically-related concepts from Wikipedia: the case of SeRE
GESIS – Leibniz-Institute for the Social Sciences（GESIS-莱布尼茨社会科学研究所）
在本文中，我们提出了我们的Web应用程序SeRE旨在探索语义相关的概念。维基百科和DBpedia是丰富的数据源，可以提取给定主题的相关实体，例如入站和出站链接，更广泛和更窄的术语，分类信息等。我们使用维基百科全文正文来计算提取术语的语义相关性，从而生成与主题最相关的实体列表。对于任何给定的查询，SeRE的用户界面可视化这些相关的概念，按照语义相关性排序;来自维基百科文章的片段解释了这两个实体之间的联系。在一项用户研究中，我们研究了如何使用SeRE来找到给定主题的重要实体及其关系，并回答了如何使用分类系统进行过滤的问题。
2015-04-27 cs.CL cs.IR
Leveraging Deep Neural Networks and Knowledge Graphs for Entity Disambiguation
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Google Research（谷歌研究院）
实体消歧旨在将模糊实体的提及链接到知识库（例如，Wikipedia）.主题连贯性的建模是至关重要的这项任务的基础上，假设来自相同的语义背景下的信息往往属于同一主题。提出了一种基于深度神经网络和语义知识图谱的深度语义相关度模型（DSRM）来度量实体语义相关度，用于主题一致性建模。DSRM直接在大规模KG上训练，它将实体的异构类型的知识从KG映射到潜在空间中的数值特征向量，使得两个语义相关实体之间的距离最小化。与Milne and Witten，2008 a提出的最新相关性方法相比，DSRM在两个公开数据集上的实体消歧错误分别减少了19.4%和24.5%。
2015-04-28 cs.CL
Semantic Sort: A Supervised Approach to Personalized Semantic Relatedness
Technion - Israel Institute of Technology（以色列理工学院）
我们提出并研究了一种新的监督方法，从主观注释的训练样本中学习统计语义相关模型。建议的语义模型由一个大型的背景知识语料库的文本单元相关联的参数化共现统计。我们提出了一个有效的算法，从相关性偏好的训练样本学习这样的语义模型。我们的方法是语料库独立的，基本上可以依赖于任何足够大的（非结构化）的连贯文本的集合。此外，该方法有利于特定用户或用户组的语义模型的拟合。我们提出了从小到大规模的广泛的实验结果，表明所提出的方法是有效的，具有竞争力的国家的最先进的。
2013-11-10 cs.CL cs.LG
Cross-Granularity Hypergraph Retrieval-Augmented Generation for Multi-hop Question Answering
本文提出HGRAG方法，通过超图将细粒度实体与粗粒度段落进行跨粒度整合，结合结构关联和语义相似度检索，提升多跳问答性能并实现6倍检索加速。
2025-08-15 cs.AI cs.CL
Semantic Relatedness Based Re-ranker for Text Spotting
Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）；Institut de Robòtica i Informàtica Industrial, CSIC-UPC（工业机器人与信息学研究所（CSIC-UPC））
文本蕴涵、剽窃检测或文档聚类等应用依赖于语义相似性的概念，通常使用LDA等降维技术或基于嵌入的神经方法。我们提出了一个场景，语义相似性是不够的，我们设计了一个神经方法来学习语义相关性。该场景是在野外进行文本识别，其中必须识别和识别图像中的文本（例如，街道标志，广告或公共汽车目的地）。我们的目标是通过利用语义信息来提高视觉系统的性能。我们的理由是，要发现的文本通常与它出现的图像上下文相关（Delta-airplane或Quarters-parking等词对不相似，但明显相关）。我们展示了如何学习单词到单词或单词到句子的相关性得分可以将文本识别系统的性能提高到2.9分，优于基准数据集中的其他指标。
2019-09-19 cs.CL cs.CV
Role of Language Relatedness in Multilingual Fine-tuning of Language Models: A Case Study in Indo-Aryan Languages
IBM Research（IBM研究院）；IIT Bombay（印度理工学院孟买分校）
我们探索了利用多语言微调在NLP模型中利用属于同一家族的语言的相关性的影响。我们假设并验证了预训练的语言模型的多语言微调可以在下游NLP应用程序上产生更好的性能，而不是在单个语言上微调的模型。第一种详细的研究，以跟踪性能变化的语言添加到一个基础语言的分级和贪婪（在这个意义上的最佳提升性能）的方式，这表明，仔细选择相关语言的子集可以显着提高性能比利用所有相关的语言。印度-雅利安（IA）语系被选为研究对象，确切的语言是孟加拉语，古吉拉特语，印地语，马拉地语，奥里亚语，旁遮普语和乌尔都语。通过将所有语言的文本简单地基于规则音译为梵文，可以跨越脚本障碍。实验在mBERT，IndicBERT，MuRIL和两个基于RoberTa的LM上进行，最后两个由我们预先训练。低资源语言，如奥里亚语和旁遮普语，被认为是多语言微调的最大受益者。文本蕴涵、实体分类、章节标题预测、IndicGLUE任务和词性标注构成了我们的测试平台。与单语微调相比，我们在下游任务中获得了高达150%的相对性能改善。令人惊讶的是，对于任何语言来说，都有其他语言的特定组合可以产生最佳性能，任何额外的语言实际上都是有害的。
2021-09-22 cs.CL
Ordered Semantically Diverse Sampling for Textual Data
Microsoft Corp.（微软公司）
本文提出面向文本数据的有序语义多样性采样方法，利用嵌入向量主成分生成有序多样样本，并在转换后的文本分类基准上证明其性能与效率优势。
2025-03-12 cs.CL cs.IR
Adam's Law: Textual Frequency Law on Large Language Models
FaceMind Corporation（FaceMind公司）；The Chinese University of Hong Kong（香港中文大学）
本文提出文本频率定律，通过优化文本频率提升LLM的提示和微调效果，并通过文本频率蒸馏和课程训练方法验证了其有效性。
2026-06-28 cs.CL
Semantically-Aligned Universal Tree-Structured Solver for Math Word Problems
Sun Yat-sen University（中山大学）；Dark Matter AI Inc.（暗物质人工智能公司）
一个实用的文本数学应用题（MWPs）自动求解器应该能够解决各种文本MWPs，而大多数现有的工作只集中在一个未知的线性MWPs。在这里，我们提出了一个简单而有效的方法，称为通用表达式树（UET），使第一次尝试表示各种MWPs的方程统一。然后，语义对齐的通用树结构求解器（SAU-Solver）的编码器-解码器框架的基础上，提出了解决多种类型的MWP在一个统一的模型，受益于我们的UET表示。我们的SAU-Solver生成一个通用的表达式树，根据生成的符号的语义决定生成哪个符号，就像人类解决MWP一样。此外，我们的SAU-Solver还包括一个新的子树级semanticallyaligned正则化，以进一步加强语义约束和合理性生成的表达式树对齐与上下文信息。最后，为了验证我们的求解器的通用性和扩展MWPs的研究边界，我们引入了一个新的具有挑战性的混合数学应用题数据集（HMWP），由三种类型的MWPs。在多个MWPs数据集上的实验结果表明，该模型可以解决通用类型的MWPs，并且性能优于几种最先进的模型。
2020-10-14 cs.CL
MCSE: Multimodal Contrastive Learning of Sentence Embeddings
Saarland University（萨尔大学）
学习语义有意义的句子嵌入是自然语言处理中的一个开放性问题。在这项工作中，我们提出了一个句子嵌入学习方法，利用视觉和文本信息，通过多模态对比目标。通过对各种语义文本相似性任务的实验，我们证明了我们的方法在各种数据集和预先训练的编码器中始终提高了性能。特别是，结合少量的多模态数据与一个大的纯文本语料库，我们提高了国家的最先进的平均斯皮尔曼的相关性1.7%。通过分析文本嵌入空间的属性，我们表明，我们的模型擅长对齐语义相似的句子，提供了一个解释其性能的提高。
2022-04-22 cs.CL
Incorporating Visual Semantics into Sentence Representations within a Grounded Space
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；LIP6（巴黎第六大学计算机科学实验室）；Criteo AI Lab（Criteo人工智能实验室）
语言背景是一个活跃的领域，旨在丰富文本表征与视觉信息。通常，文本和视觉元素嵌入在同一个表示空间中，这隐含地假设了模态之间的一一对应关系。这个假设并不成立时，代表的话，并成为问题时，用于学习句子表征-本文的重点-作为一个视觉场景可以描述各种各样的句子。为了克服这一限制，我们建议通过学习一个中间表示空间：接地空间将视觉信息转换为文本表示。我们进一步提出了两个新的互补目标，确保（1）与相同的视觉内容相关联的句子在接地空间中是接近的，（2）相关元素之间的相似性被保留在不同的模态。我们表明，该模型优于以前的国家的最先进的分类和语义相关的任务。
2020-02-07 cs.CL
Multimodal Logical Inference System for Visual-Textual Entailment
Ochanomizu University（御茶水女子大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
近年来，大量关于跨文本和视觉的多模态推理的研究已经发展到获得基于视觉的单词和句子表示。在本文中，我们使用基于逻辑的表示作为文本和图像的统一意义表示，并提出了一个无监督的多模态逻辑推理系统，可以有效地证明它们之间的蕴涵关系。我们表明，通过结合语义解析和定理证明，该系统可以处理语义复杂的句子的视觉-文本推理。
2019-06-10 cs.CL
SemRe-Rank: Improving Automatic Term Extraction By Incorporating Semantic Relatedness With Personalised PageRank
University of Sheffield（谢菲尔德大学）；Nottingham Trent University（诺丁汉特伦特大学）
术语自动抽取是从特定领域的语料库中抽取术语的过程，长期以来一直是数据和知识获取领域的一个研究领域。ATE仍然是一项具有挑战性的任务，因为众所周知，没有现有的ATE方法可以在任何领域中始终优于其他方法。这项工作采用了刷新的角度来看这个问题：而不是寻找这样一个“一刀切”的解决方案，可能永远不存在，我们建议开发通用的方法来“增强”现有的ATE方法。我们引入SemRe-Rank，基于这一原则的第一种方法，将语义相关性-一个经常被忽视的场地-到现有的ATE方法，以进一步提高其性能。SemRe-Rank将词嵌入结合到个性化的PageRank过程中，以从语义相关词（节点）的图形中计算候选词的“语义重要性”分数，然后用于修改由基本ATE算法计算的候选词的分数。在四个不同性质的数据集上使用13种最先进的基础ATE方法进行了广泛评估，结果表明，在所有基础方法和所有数据集上都取得了广泛的改进，当通过排名最高的K个候选术语的精度测量时，（一组K的平均值），或者在F1中高达28个百分点，以等于候选人预期实际条件的K（简称F1）测量。与基于著名的TextRank算法的替代方法相比，SemRe-Rank在前K时的精度可能会高出8个点，在F1中可能会高出17个点。
2018-03-28 cs.CL cs.IR
Textual Enhanced Contrastive Learning for Solving Math Word Problems
Meituan（美团）；Graduate School of Informatics, Kyoto University（京都大学信息学研究科）
数学应用题的求解是一项分析量之间关系的任务，需要准确理解上下文自然语言信息。最近的研究表明，目前的模型依赖于浅层次的几何学来预测解决方案，很容易被小的文本扰动所误导。为了解决这个问题，我们提出了一个文本增强的对比学习框架，该框架强制模型区分语义相似的例子，同时保持不同的数学逻辑。我们采用自我监督的方式策略，通过文本重新排序或问题重构来丰富具有细微文本差异的示例。然后，我们从等式和文本的角度检索最难区分的样本，并引导模型学习它们的表示。实验结果表明，我们的方法在广泛使用的基准数据集和精心设计的中英文挑战数据集上都达到了最先进的水平。\footnote {我们的代码和数据可在\url{https://github.com/yiyunya/Textual_CL_MWP}获得
2022-11-29 cs.CL
Evaluating Multimodal Representations on Visual Semantic Textual Similarity
University of the Basque Country（巴斯克大学）
视觉和文本表示的组合在诸如图像描述和视觉问答等任务中产生了出色的结果，但多模态表示的推理能力在很大程度上未经测试。在文本表示的情况下，推理任务，如文本蕴涵和语义文本相似性经常被用来衡量文本表示的质量。我们研究的长期目标是设计多模态表示技术，提高当前的推理能力。因此，我们提出了一个新的任务，视觉语义文本相似性（vSTS），这样的推理能力可以直接测试。给定两个项目，每个项目由一个图像及其附带的标题组成，vSTS系统需要评估上下文中的标题在语义上彼此等同的程度。我们使用简单的多模态表示的实验表明，除了图像表示产生更好的推理，相比纯文本表示。当直接计算两个项目的表示之间的相似性时，以及当学习基于vSTS训练数据的连体网络时，都观察到改进。我们的工作表明，第一次，成功的视觉信息的文本推理的贡献，有足够的空间基准更复杂的多模态表示选项。
2020-04-04 cs.CL
Describing Sets of Images with Textual-PCA
Tel Aviv University（特拉维夫大学）
我们试图从语义上描述一组图像，捕捉单个图像的属性和集合内的变化。我们的过程类似于主成分分析，其中投影向量的作用被替换为生成的短语。首先，生成与集合中的图像具有最大平均语义相似度的质心短语，其中相似度的计算和生成都基于预训练的视觉语言模型。然后，使用相同的模型来生成在相似性分数中生成最高变化的短语。下一个短语最大化方差，该方差在潜在空间中正交于最高方差短语，并且该过程继续。我们的实验表明，我们的方法是能够令人信服地捕捉图像集的本质，并在整个集合的上下文中以语义上有意义的方式描述单个元素。我们的代码可在https://github.com/OdedH/textual-pca上获取。
2022-10-21 cs.AI cs.CL cs.CV
ARMAN: Pre-training with Semantically Selecting and Reordering of Sentences for Persian Abstractive Summarization
University of Tehran（德黑兰大学）；Institute for Research in Fundamental Sciences (IPM)（基础科学研究研究所（IPM））
摘要文本摘要是受预训练语言模型出现影响的领域之一。摘要文摘的预训练主要集中在与正文相似词较多的摘要上，而对生成句子与原文的语义相似度关注较少。我们提出了ARMAN，这是一个基于transformer的编码器-解码器模型，它预先训练了三个新的目标来解决这个问题。在ARMAN中，根据修改后的语义得分从文档中选择要掩蔽的显著句子并形成伪摘要。为了更准确地总结和类似于人类的写作模式，我们应用了修改后的句子重排。我们评估了我们提出的模型在六个下游波斯语摘要任务。实验结果表明，我们提出的模型达到了最先进的性能上的所有六个摘要任务测量的ROUGE和BERTScore。我们的模型在文本蕴涵、问题释义和多项选择问答方面也优于先前的工作。最后，我们建立了一个人的评价，并表明使用语义得分显着提高摘要结果。
2021-09-09 cs.CL
SemAttack: Natural Textual Attacks via Different Semantic Spaces
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Alibaba Group（阿里巴巴集团）；Microsoft Research（微软研究院）
最近的研究表明，预先训练的语言模型（LM）容易受到文本对抗攻击。然而，现有的攻击方法要么遭受低攻击成功率或未能有效地搜索在指数大扰动空间。我们提出了一个高效和有效的框架SemAttack通过构建不同的语义扰动函数来生成自然的对抗文本。特别地，SemAttack优化了约束在通用语义空间上的所生成的扰动，所述通用语义空间包括错别字空间、知识空间（例如，WordNet）、上下文化语义空间（例如，BERT聚类的嵌入空间）或这些空间的组合。因此，生成的对抗性文本在语义上更接近原始输入。大量的实验表明，最先进的（SOTA）大规模LM（例如，DeBERTa-v2）和防御策略（例如，FreeLB）仍然容易受到SemAttack的攻击。我们进一步证明了SemAttack是通用的，并且能够为不同的语言生成自然的对抗文本（例如，英语和汉语），攻击成功率高。人类的评估也证实了我们生成的对抗性文本是自然的，几乎不会影响人类的表现。我们的代码可在https://github.com/AI-secure/SemAttack上公开获取。
2022-06-11 cs.CL
COD3S: Diverse Generation with Discrete Semantic Signatures
Johns Hopkins University（约翰斯·霍普金斯大学）；New York University（纽约大学）
我们提出了COD3S，一种使用神经序列到序列（seq2seq）模型生成语义多样的句子的新方法。在输入条件下，seq2seq模型通常生成语义和语法上同质的句子集，因此在一对多序列生成任务中表现不佳。我们的两个阶段的方法提高了输出的多样性，通过调节生成基于局部敏感哈希（LSH）的语义句子代码，其汉明距离与人类对语义文本相似性的判断高度相关。虽然它是普遍适用的，我们应用COD3S因果生成，预测一个命题的合理原因或影响的任务。我们通过自动和人工评估证明，使用我们的方法产生的响应表现出更好的多样性，而不会降低任务性能。
2020-10-06 cs.CL
Advancing Semantic Textual Similarity Modeling: A Regression Framework with Translated ReLU and Smooth K2 Loss
School of Software, Tsinghua University（清华大学软件学院）
针对对比学习处理STS任务存在的细粒度信息利用不足、需大批次以及分类视角忽略语义渐进性的问题，本文提出带Translated ReLU与Smooth K2损失的回归框架，在7个STS基准上取得优异表现。
2024-10-06 cs.CL
Explainable Semantic Textual Similarity via Dissimilar Span Detection
School of Computation, Information and Technology（计算、信息与技术学院）；Technical University of Munich（慕尼黑技术大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文提出不相似跨度检测任务，旨在识别文本对中语义不同的跨度，以提高语义文本相似性任务的可解释性，并通过新数据集和基线方法评估，显示其在同义词检测中的提升效果。
2026-03-22 cs.CL
Leveraging Semantic Representations Combined with Contextual Word Representations for Recognizing Textual Entailment in Vietnamese
University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）
RTE是一个重要的问题，是一个相当活跃的研究社区。针对这一问题提出的研究工作是相当多样化的，有许多不同的方向。对于越南语来说，RTE问题是一个比较新的问题，但这个问题在自然语言理解系统中起着至关重要的作用。目前，基于上下文词表示学习模型的方法在解决这一问题上取得了显著的效果。然而，越南语是一种语义丰富的语言。因此，在本文中，我们想提出一个实验结合语义词表征通过SRL任务与上下文表征的BERT相关模型的RTE问题。实验结果表明语义表征对越南语自然语言理解的影响和作用。实验结果表明，语义感知的上下文表示模型的性能比没有加入语义表示的模型提高了约1%。此外，越南语对数据域的影响也高于英语。这一结果也显示了自主学习对越南语RTE问题的积极影响。
2023-01-01 cs.CL
Semantically Distributed Robust Optimization for Vision-and-Language Inference
Arizona State University（亚利桑那州立大学）
对视觉-语言模型的分析表明，在释义、否定、语篇蕴涵、同义词或反义词替换等语言现象下，视觉-语言模型是脆弱的。虽然已经设计了数据增强技术来减轻这些故障模式，但是可以将这些知识集成到培训管道中的方法仍然没有得到充分的探索。在本文中，我们提出了\textbf{SDRO}，一个模型不可知的方法，利用一组语言转换在分布式鲁棒优化设置，以及一个集成技术，利用这些转换在推理。在具有图像（NLVR $^2$）和视频（VIOLIN）的基准数据集上的实验证明了性能的改进以及对对抗攻击的鲁棒性。二进制VQA的实验探索这种方法的推广到其他V\&L任务。
2022-03-14 cs.CL cs.CV
MERRY: Semantically Decoupled Evaluation of Multimodal Emotional and Role Consistencies of Role-Playing Agents
South China University of Technology（华南理工大学）；Foshan University（佛山大学）
MERRY提出一种语义解耦的评估框架，用于评估多模态角色扮演代理的情感与角色一致性，通过改进的指标和双向证据寻找任务提升评估效果。
2026-02-24 cs.CL
VirTex: Learning Visual Representations from Textual Annotations
University of Michigan（密歇根大学）
许多视觉任务的实际方法是从预先训练的视觉表示开始，通常通过ImageNet上的监督训练来学习。最近的方法已经探索了无监督的预训练，以扩展到大量的未标记图像。相比之下，我们的目标是从更少的图像中学习高质量的视觉表示。为此，我们重新审视监督预训练，并寻求基于分类的预训练的数据效率替代方案。我们提出了VirTex --一种使用语义密集的标题来学习视觉表示的预训练方法。我们在COCO Captions上从头开始训练卷积网络，并将其转移到下游识别任务中，包括图像分类、目标检测和实例分割。在所有任务中，VirTex产生的功能都与ImageNet上学习的功能相匹配或超过-监督或无监督-尽管使用的图像少了十倍。
2021-09-25 cs.CL cs.CV
S2Dialog: Multimodal Dialogue Retrieval with Semantic and Acoustic-Style Modeling
College of Computer Science, Inner Mongolia University（内蒙古大学计算机学院）；University of Electronic Science and Technology of China, Shenzhen Campus（电子科技大学深圳校区）
研究针对现有多模态对话检索方法无法捕捉对话全局语义与风格一致性的问题，提出S2Dialog框架，结合对话级文本与声学检索器及对比学习，在DailyTalk数据集上实现出色检索性能。
2026-08-17 cs.CL
Sharif-STR at SemEval-2024 Task 1: Transformer as a Regression Model for Fine-Grained Scoring of Textual Semantic Relations
Ferdowsi University of Mashhad（马什哈德费尔多西大学）；Sharif University of Technology（谢里夫理工大学）；Iran Broadcasting University（伊朗广播大学）
本文提出 Sharif-STR，在 SemEval-2024 任务 1 监督赛道中将微调 RoBERTa 作为回归模型进行句子级语义文本相关性评分，验证其跨语言效果并报告英、西、阿语结果。
2024-07-17 cs.AI cs.CL
On the Contributions of Visual and Textual Supervision in Low-Resource Semantic Speech Retrieval
最近的研究表明，即使没有任何文本监督，与图像配对的语音也可以用于学习语义上有意义的语音表示。然而，在现实世界的低资源环境中，我们经常可以访问一些转录的语音。我们研究是否以及如何视觉接地是有用的，在存在不同数量的文本监督。特别是，我们认为在低资源设置的语义语音检索的任务。我们使用先前研究的数据集和任务，其中模型在带有语音字幕的图像上进行训练，并根据人类对语义相关性的判断进行评估。我们提出了一种多任务学习方法，以利用视觉和文本形式，与视觉监督的关键字概率从外部标记的形式。我们发现，视觉接地是有帮助的，即使在存在的文字监督，我们分析了这种效果的转录数据集的大小范围。通过约5小时的转录语音，当还使用视觉监督时，我们获得了23%的平均精度。
2019-08-30 cs.CL cs.SD eess.AS
Text Analysis in Adversarial Settings: Does Deception Leave a Stylistic Trace?
文本欺骗是网络安全的一个主要问题。许多研究认为，欺骗性会在写作风格中留下痕迹，这可以通过文本分类技术来检测。通过对现有的实证研究进行广泛的文献综述，我们证明，虽然某些语言特征在某些语料库中表明了欺骗，但它们未能在不同的语义域中推广。我们认为，这种欺骗性不会留下内容不变的风格痕迹，而文本相似性度量提供了将文本分类为潜在欺骗性的优越手段。此外，我们还讨论了语义内容之外的欺骗形式，重点是通过写作风格混淆来隐藏作者身份。调查作者识别和混淆技术的文献，我们得出结论，目前的风格转换方法无法实现可靠的混淆，同时确保语义忠实于原始文本。我们建议，今后的工作在风格转换应特别注意不允许语义上的急剧变化。
2019-02-26 cs.CL
Recognizing semantic relation in sentence pairs using Tree-RNNs and Typed dependencies
National Institute of Technology Calicut（卡利卡特国立技术学院）
基于依存树的递归神经网络（Tree-RNNs）在句子语义建模中无处不在，因为它们有效地捕获非相邻词之间的语义关系。然而，识别具有相同单词和语法的语义不同的句子仍然是Tree-RNN的一个挑战。这项工作提出了一个改进的依赖树-RNN（DT-RNN）使用的依赖关系解析中确定的语法关系类型。我们的实验语义相关评分（SRS）和识别文本蕴涵（RTE）在句子对使用SICK（句子涉及成分知识）数据集显示令人鼓舞的结果。与DT-RNN模型相比，该模型在RTE任务的分类准确度上提高了2%。结果表明，Pearson和Spearman的模型预测的相似性得分和人类评级之间的相关性测量高于标准DT-RNN。
2022-01-13 cs.AI cs.CL
Exploiting Twitter as Source of Large Corpora of Weakly Similar Pairs for Semantic Sentence Embeddings
Politecnico di Milano（米兰理工大学）；Università di Bologna（博洛尼亚大学）
语义句子嵌入通常是有监督地构建的，最小化被注释者标记为语义相似的句子的嵌入对之间的距离。由于大标签数据集很少见，特别是对于非英语语言，而且价格昂贵，最近的研究集中在需要非配对输入句子的无监督方法上。相反，我们提出了一种独立于语言的方法来构建大型数据集的非正式文本对弱相似，没有人工的人力努力，利用Twitter的内在强大的信号的相关性：回复和报价的推文。我们使用收集到的对来训练一个具有三元组结构的Transformer模型，并在Twitter NLP相似性任务（PIT和TURL）和STSb上测试生成的嵌入。我们还介绍了四个新的句子排名评估基准的非正式文本，仔细提取的推文的初始集合，证明我们的最佳模型不仅学习经典的语义文本相似性，但也擅长的任务，对句子是不准确的释义。消融研究揭示了如何增加语料库的大小积极影响的结果，即使在2M的样本，这表明更大的集合的推文仍然不包含冗余的信息语义相似性。
2021-10-05 cs.CL
A Resource-Light Method for Cross-Lingual Semantic Textual Similarity
University of Mannheim（曼海姆大学）；Symanto Research；Universitat Politècnica de València（瓦伦西亚理工大学）
识别跨语言语义相似的句子或段落对于许多任务都是有益的，从跨语言信息检索和剽窃检测到机器翻译。然而，最近提出的用于预测短文本的跨语言语义相似性的方法利用工具和资源（例如，机器翻译系统、句法分析器或命名实体识别），这些对于许多语言（或语言对）来说是不存在的。相比之下，我们提出了一个无监督的和一个非常资源轻的方法来测量不同语言的文本之间的语义相似性。为了在双语（或多语言）空间中操作，我们投影连续的词向量（即，词嵌入）经由线性翻译模型从一种语言到另一种语言的向量空间。然后，我们根据双语嵌入空间中的向量的相似性对齐单词，并研究利用双语嵌入和单词对齐的语义相似性的不同无监督措施。只需要一个有限大小的一组语言之间的单词翻译对，所提出的方法是适用于几乎任何一对语言，其中存在一个足够大的语料库，需要学习单语词嵌入。在三个不同的数据集上测量语义文本相似性的实验结果表明，我们简单的资源轻方法达到了接近监督和资源密集型方法的性能，在不同的语言对中显示出稳定性。此外，我们评估所提出的方法上的两个外在的任务，即从可比语料库和跨语言剽窃检测平行句子的提取，并表明它产生的性能相媲美的复杂的资源密集型国家的最先进的模型为各自的任务。
2018-01-19 cs.CL
Beyond the Textual: Generating Coherent Visual Options for MCQs
Beijing Normal University（北京师范大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
提出跨模态选项合成框架CmOS，结合多模态思维链与检索增强生成，生成带视觉选项的连贯多项选择题，实验证明其在内容判别、问题生成和视觉选项生成上优于现有方法。
2025-08-26 cs.CL cs.CV
GenFighter: A Generative and Evolutive Textual Attack Removal
Boise State University（博伊西州立大学）；George Mason University（乔治梅森大学）
针对NLP中深度神经网络易受对抗攻击的问题，本文提出GenFighter防御策略，通过分布识别、语义转换与集成技术提升鲁棒性，实验证明其性能优于现有最优防御方法。
2024-04-17 cs.CL cs.LG
ClustEm4Ano: Clustering Text Embeddings of Nominal Textual Attributes for Microdata Anonymization
Deggendorf Institute of Technology（代根多夫应用技术学院）
本文提出ClustEm4Ano，一种基于文本嵌入聚类的自动生成值泛化层次结构的匿名化流水线，在Adult数据集上实验证明其生成的VGHs在下游效能上优于手动构建，尤其适用于小k匿名性。
2024-12-17 cs.AI cs.CL
AspectCSE: Sentence Embeddings for Aspect-based Semantic Textual Similarity Using Contrastive Learning and Structured Knowledge
Technical University of Munich（慕尼黑工业大学）；DFKI GmbH（德国人工智能研究中心）
本文提出AspectCSE方法，利用对比学习和Wikidata知识图谱属性训练基于方面的句子嵌入，在信息检索任务上平均提升3.97%，并证明多方面嵌入优于单方面嵌入。
2023-09-24 cs.AI cs.CL
Utilizing Semantic Textual Similarity for Clinical Survey Data Feature Selection
Washington University in St. Louis（圣路易斯华盛顿大学）；Washington University School of Medicine in St. Louis（圣路易斯华盛顿大学医学院）
针对调查数据特征多、样本少易导致模型过拟合的问题，提出利用语言模型计算特征与目标的语义文本相似度（STS）进行特征选择，结合mRMR算法在PPSP临床初步调查数据上验证，效果优于传统特征选择方法。
2023-08-19 cs.CL cs.LG
VideoXum: Cross-modal Visual and Textural Summarization of Videos
University of Rochester（罗切斯特大学）；OPPO US Research Center（OPPO美国研究中心）
提出联合视频与文本摘要新任务，构建大规模人工标注数据集VideoXum，设计端到端模型VTSUM-BILP及评估指标VT-CLIPScore，实现跨模态语义对齐并确立基准。
2024-04-23 cs.CL cs.CV
SE#PCFG: Semantically Enhanced PCFG for Password Analysis and Cracking
University of Kent（肯特大学）；Haitong Securities（海通证券）
本文提出语义增强的PCFG框架SE#PCFG，考虑43种语义信息分析密码，并基于此提出SEPCA破解架构，在17个数据库上显著优于三种最先进基准。
2025-03-26 cs.CL cs.CR
Geological Inference from Textual Data using Word Embeddings
CMKL University（CMKL大学）；The University of Edinburgh（爱丁堡大学）
本文提出利用GloVe词嵌入与多种降维技术从地质文本中提取语义关系，以城市为地理线索定位工业矿物资源，并通过与已知矿山位置的邻近度验证方法有效性。
2025-04-10 cs.CL stat.ME
Sigma: Semantically Informative Pre-training for Skeleton-based Sign Language Understanding
School of Information Technology, Monash University（莫纳什大学信息技术学院）；S-Lab, Nanyang Technological University（南洋理工大学S-Lab）
Sigma提出一种统一的骨骼手语理解框架，通过语义对齐学习和预训练策略提升手语识别与翻译性能，展现语义信息预训练在多语言手语任务中的有效性。
2026-03-30 cs.CL cs.CV
Word Mover's Embedding: From Word2Vec to Document Embedding
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）；College of William and Mary（威廉与玛丽学院）
虽然著名的Word2Vec技术为单个单词提供了丰富的语义表示，但在扩展以生成无监督句子或文档嵌入方面的成功相对较少。最近的工作表明，文档之间的距离测量称为\emph{Word Mover's Distance}（WMD），对齐语义相似的单词，产生前所未有的KNN分类精度。然而，大规模杀伤性武器是昂贵的计算，它是很难扩展其使用超越KNN分类。在本文中，我们提出了\emph{Word Mover's Embedding }（WME），一种新的方法来建立一个无监督的文档（句子）嵌入从预先训练的词嵌入。在我们对9个基准文本分类数据集和22个文本相似性任务的实验中，所提出的技术始终匹配或优于最先进的技术，在短长度问题上具有显着更高的准确性。
2018-10-30 cs.AI cs.CL cs.LG
IDGenRec: LLM-RecSys Alignment with Textual ID Learning
Rutgers University（罗格斯大学）
针对生成式推荐中物品ID编码难题，提出IDGen方法生成语义文本ID，实现LLM与推荐系统对齐，在序列推荐任务上性能超越现有模型，且跨平台零样本基础模型性能可媲美监督训练的传统推荐模型。
2024-05-17 cs.AI cs.CL cs.IR
