Learning Semantic Textual Similarity via Topic-informed Discrete Latent Variables
Jilin University(吉林大学);Monash University(莫纳什大学)
最近,离散潜变量模型在自然语言处理(NLP)和计算机视觉(CV)中受到了极大的关注,这归因于它们在表示学习中与连续对应物相当的性能,同时在预测中更具可解释性。在本文中,我们开发了一个主题知情的离散潜在变量模型的语义文本相似性,学习一个共享的潜在空间,通过矢量量化的双对表示。与以往局限于局部语义上下文的模型相比,我们的模型可以通过主题建模来挖掘更丰富的语义信息。我们进一步提高了语义相似性的性能,通过注入量化表示到一个基于transformer的语言模型与一个精心设计的语义驱动的注意力机制。我们通过在各种英语语言数据集上的广泛实验证明,我们的模型能够在语义文本相似性任务中超越几个强大的神经基线。
2022-11-07 cs.AI cs.CL
Using Latent Semantic Analysis to Identify Quality in Use (QU) Indicators from User Reviews
Asia Pacific University of Technology & Innovation (APU)(亚太科技大学)
本文描述了一种新的方法来分类用户的评论,根据三个质量使用(QU)指标定义在ISO中:有效性,效率和无风险。由于每天发布的评论数量巨大,因此需要自动汇总用户评论,以告知我们是否有任何软件能够满足公司的质量要求。我们实现了潜在语义分析(LSA)及其子空间的方法来预测QU指标。我们从信息系统期刊和亚马逊评论中构建了一个降维的通用语义空间。其次,将指标的度量尺度集投影到泛语义空间中,表示为子空间。在子空间中,我们可以将类似的测量尺度映射到看不见的评论并预测QU指标。我们的初步研究能够得到F-测度的平均值,0.3627。
2015-03-25 cs.AI cs.CL cs.IR
Bilingual Document Alignment with Latent Semantic Indexing
我们将跨语言潜在语义索引应用于WMT 16的双语文档对齐任务。从训练数据中已知的英语/法语页面对导出的双语术语-文档矩阵的降秩奇异值分解允许我们将单语文档映射到联合语义空间中。将每个文档放入联合语义空间的向量之间的余弦相似性的两个变体与对应URL之间的字符串相似性的度量相结合,以在各种域中产生英语/法语网页的1:1对齐。该系统实现了ca的召回。如果没有使用域内数据来构建潜在语义模型,则为88%,如果包含此类数据,则为93%。通过分析系统在训练数据上的错误,我们认为基于精确的URL匹配来评估对齐器性能会低估其真实性能,并提出了一种能够考虑底层数据中的重复和接近重复的替代方案。
2017-07-29 cs.CL
QLSC: A Query Latent Semantic Calibrator for Robust Extractive Question Answering
Ping An Technology (Shenzhen) Co., Ltd.(平安科技(深圳)有限公司)
本文提出查询潜在语义校准器QLSC,通过缩放策略捕获查询潜在语义中心特征,并利用注意力机制融合查询与段落嵌入,从而提升抽取式问答模型对格式变化但语义相同输入的鲁棒性和答案定位准确性。
2024-04-30 cs.CL
StructVAE: Tree-structured Latent Variable Models for Semi-supervised Semantic Parsing
Carnegie Mellon University(卡内基梅隆大学)
语义解析是将自然语言(NL)话语转换为形式意义表示(MR)的任务,其通常表示为树结构。用其对应的MR注释NL话语是昂贵且耗时的,因此标记数据的有限可用性通常成为数据驱动的监督模型的瓶颈。我们介绍了StructVAE,变分自动编码模型的半监督语义解析,学习既从有限数量的并行数据,并随时可用的未标记的NL话语。StructVAE将未标记数据中未观察到的潜在MR建模为树结构的潜在变量。在ATIS域上的语义解析和Python代码生成的实验表明,使用额外的未标记数据,StructVAE优于强监督模型。
2018-06-20 cs.CL cs.LG
Paraphrase Generation from Latent-Variable PCFGs for Semantic Parsing
University of Edinburgh(爱丁堡大学)
语义解析方法在开放领域问答中的局限性之一是自然语言问题和知识库条目之间的词汇句法鸿沟--有很多方法可以提出一个问题,但答案都是一样的。在本文中,我们建议弥合这一差距,通过生成释义的输入问题的目标,其中至少有一个将被正确映射到一个知识库查询。我们介绍了一种新的语法模型的释义生成,不需要任何的语法对齐的释义语料库。我们的主要思想是利用潜在变量概率上下文无关文法的灵活性和可扩展性来对释义进行采样。我们通过将释义插入Freebase的语义解析器来对释义进行外部评估。我们在WebQuestions基准数据集上的评估实验表明,语义解析器的性能在强基线上有显着提高。
2016-08-05 cs.CL
Generating Dialogue Responses from a Semantic Latent Space
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Samsung Research America(三星美国研究院)
现有的开放域对话生成模型通常使用词汇的交叉熵损失来训练以模仿训练集中的黄金响应。然而,一个好的响应不需要类似于黄金响应,因为对于给定的提示有多种可能的响应。在这项工作中,我们假设,目前的模型是无法整合的信息,从多个语义相似的有效响应的提示,从而产生通用的和无信息的反应。为了解决这个问题,我们提出了一种替代的端到端分类的词汇。我们学习提示和响应之间的配对关系作为潜在空间上的回归任务。在我们的新的对话生成模型中,语义相关的句子的表示是彼此接近的潜在空间。人类评估表明,在连续空间上学习任务可以产生相关和信息丰富的反应。
2020-10-04 cs.CL
Retrieve, Integrate, and Synthesize: Spatial-Semantic Grounded Latent Visual Reasoning
State Key Laboratory of Human-Machine Hybrid Augmented Intelligence, and Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University(人机混合增强智能国家重点实验室,人工智能与机器人研究院,西安交通大学)
本文提出RIS框架,通过空间-语义 grounded 方法改进多模态大语言模型的视觉推理,通过构建逐步 grounded 数据集并引入短语言过渡token,提升潜在状态与词汇对齐的解码能力,实验显示在多个基准上优于现有基线。
2026-05-08 cs.CL
Neural Latent Relational Analysis to Capture Lexical Semantic Relations in a Vector Space
The University of Tokyo(东京大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
在向量空间中捕捉词的语义关系有助于许多自然语言处理任务。一种很有前途的方法利用词汇句法模式作为词对的特征。在本文中,我们提出了一种新的模型,这种模式为基础的方法,神经潜在关系分析(NLRA)。NLRA可以概括词对的共现和词汇句法模式,并获得不共现的词对的嵌入。这克服了以前的模式为基础的模型中遇到的关键数据稀疏问题。我们在测量关系相似性上的实验结果表明,NLRA优于以前的基于模式的模型。此外,当与向量偏移模型相结合时,NLRA实现了与利用附加语义关系数据的最新模型相当的性能。
2018-09-10 cs.CL
Learning Semantic Parsers from Denotations with Latent Structured Alignments and Abstract Programs
语义解析旨在将自然语言语句映射到机器可解释的含义表示上,也就是针对真实世界环境执行的程序产生表示。弱监督语义解析器在将程序视为潜在的话语-指称对上进行训练。该任务是具有挑战性的,由于大的搜索空间和spuriousness的程序,可以执行到正确的答案,但不推广到看不见的例子。我们的目标是在解析器中灌输一种归纳偏见,以帮助它区分伪程序和正确程序。我们利用这样的直觉,即正确的程序可能会尊重某些结构性约束,如果它们与问题相一致(例如,程序片段不太可能与重叠的文本跨度对齐),并建议将对齐建模为结构化的潜在变量。为了使潜在对齐框架易于处理,我们将解析任务分解为(1)预测部分“抽象程序”和(2)在用差分动态规划建模结构化对齐时对其进行精炼。我们在WIKITABLEQUESTIONS和WIKISQL数据集上获得了最先进的性能。当与标准注意力基线相比时,我们观察到所提出的结构化对齐机制是非常有益的。
2019-09-09 cs.CL
Dynamic Semantic Compression for Efficient Latent-Space Inference in Large Language Models
Beijing University of Posts and Telecommunications(北京邮电大学)
提出DSEI框架,通过动态语义自编码器将LLM推理从词元级转为潜在空间片段级,在Wanjuan数据集上困惑度降低48%,推理速度提升2.5倍,内存开销降低90%。
2026-09-15 cs.AI cs.CL
Latte-Mix: Measuring Sentence Semantic Similarity with Latent Categorical Mixtures
University of Toronto(多伦多大学);University of Waterloo(滑铁卢大学)
使用预先训练的语言模型(如BERT)测量句子语义相似性通常会产生令人不满意的zero-shot性能,一个主要原因是无效的令牌聚合方法(如均值池)。在本文中,我们证明了贝叶斯框架下,原始的统计数据,如平均值的词嵌入之间的距离从根本上是有缺陷的,用于捕获的水平语义相似性。为了解决这个问题,我们建议学习一个分类变分自编码器(VAE)的基础上现成的预训练语言模型。从理论上证明了测量潜在类别混合体之间的距离,即Latte-Mix,可以更好地反映真实的句子语义相似度。此外,我们的贝叶斯框架提供了解释,为什么模型微调标记的句子对有更好的zero-shot性能。我们还通过经验证明,这些微调模型可以通过Latte-Mix进一步改进。我们的方法不仅在语义相似性数据集(如STS)上产生了最先进的zero-shot性能,而且还具有快速训练和内存占用小的优点。
2020-10-21 cs.CL
Latent semantics of action verbs reflect phonetic parameters of intensity and emotional content
Technical University of Denmark(丹麦技术大学)
语言唤起我们的思想,反映了词汇共现的统计模式,反过来又描述了我们如何感知世界。无论是计算名词和动词在谷歌搜索查询中组合的频率,还是从由维基百科的线条和莎士比亚的情节组成的术语文档矩阵中提取特征向量,所产生的潜在语义不仅捕获了形成概念的关联链接,而且还捕获了嵌入语言表面结构中的空间维度。由于已经发现物体的形状和运动与幼儿的语音对比有关,本研究探讨了发音和声学参数是否同样可以区分动作动词的潜在语义。选择3 × 20个已知激活大脑前运动区的情感、面部和手部相关动词,使用潜在语义分析LSA计算它们的相互余弦相似性,并基于两个不同的大规模文本语料库HAWIK和TASA比较所得邻接矩阵。应用层次聚类来识别两个文本语料库中的共同结构,动词主要分为嘴和手的动作与情感表达相结合。将动词转化为它们的组成音素,簇状的小尺寸和大尺寸的运动出现由前元音与后元音相对应的唤醒水平的增加来区分。而集群的情绪动词的特点似乎是序列的关闭与打开下巴产生的音素,产生向上或向下移动的共振峰频率,可能会影响他们的感知价。这表明,动作动词的潜在语义反映了强度和情感极性的参数,这些参数与发音对比和音素的声学特征相关
2014-11-29 cs.CL
Judging in Latent Space: Efficient Generative Reward Modeling via Semantics-Preserving Compression
Soochow University(苏州大学);University of Cambridge(剑桥大学);Chalmers University of Technology(查尔姆斯理工大学);Peking University(北京大学);Tsinghua University(清华大学);The Hong Kong University of Science and Technology(香港科技大学)
本研究提出LatentGRM,一种基于语义压缩的潜在奖励建模框架,通过连续轨迹实现高效成对判断,在4B和8B规模上达到与SFT评判器相当的准确性,同时将推理时间减少6-7倍。
2026-10-09 cs.CL
Neural Machine Translation with Latent Semantic of Image and Text
The University of Tokyo(东京大学)
虽然基于注意力的神经机器翻译取得了巨大的成功,但注意力机制并不能捕捉到源句的全部意义,因为注意力机制生成的目标词严重依赖于源句的相关部分。早期的研究报告引入了一个潜在变量来捕捉句子的全部含义,并对基于注意力的神经机器翻译进行了改进。我们遵循这种方法,我们认为,捕获的句子的意义受益于图像信息,因为人类理解的语言的意义不仅从文本信息,而且从感性信息,如从视觉获得的。如本文所述,我们提出了一种神经机器翻译模型,该模型引入了包含从文本和图像中提取的底层语义的连续潜在变量。我们的模型可以端到端训练,只在训练时需要图像信息。英语-德语翻译任务进行的实验表明,我们的模型优于基线。
2016-11-25 cs.CL
Improving Semantic Control in Discrete Latent Spaces with Transformer Quantized Variational Autoencoders
University of Manchester(曼彻斯特大学);National Biomarker Centre, CRUK-MI, Univ. of Manchester(英国癌症研究中心曼彻斯特研究所国家生物标志物中心);Idiap Research Institute(Idiap研究所)
针对VAE变分瓶颈语义损失、解码控制不足的问题,提出T5VQVAE模型,利用VQVAE离散潜在空间在token级引导T5自注意力,在多项任务上性能超越现有最优模型,具备更强推理能力。
2024-02-01 cs.CL
Predict and Use Latent Patterns for Short-Text Conversation
Academia Sinica(中央研究院)
目前,许多神经网络模型在Chit-chat环境中取得了令人满意的性能。它们中的大多数依赖于编码器来理解帖子和解码器来生成响应。在没有指定语义的情况下,模型缺乏对响应的细粒度控制,因为帖子和响应之间的语义映射隐藏在端到端方式中。以前的一些作品利用采样的潜在的话作为一个可控的语义形式,以驱动周围的工作产生的反应,但很少有作品试图使用更复杂的语义模式来指导一代。在本文中,我们建议使用更详细的语义形式,包括潜在的反应和部分的语音序列从相应的分布采样,作为可控的语义来指导生成。我们的研究结果表明,更丰富的语义不仅能够提供信息丰富和多样化的反应,但也提高了整体性能的反应质量,包括流畅性和连贯性。
2020-12-07 cs.AI cs.CL
Unsupervised Annotation of Phenotypic Abnormalities via Semantic Latent Representations on Electronic Health Records
Data Science Institute, Imperial College London(帝国理工学院数据科学研究所)
提取自然包含在电子健康记录(EHR)中的表型信息已被发现在各种临床信息学应用(如疾病诊断)中是有用的。然而,由于描述不精确,缺乏黄金标准和对效率的需求,在数百万EHR叙述中注释表型异常仍然具有挑战性。在这项工作中,我们提出了一种新的无监督深度学习框架,通过语义潜在表示来注释EHR的表型异常。该框架利用人类表型本体(HPO),这是一个表型异常的知识库,标准化的注释结果。在MIMIC-III数据集的52,722个EHR上进行了实验。定量和定性分析表明,该框架实现了最先进的注释性能和计算效率相比,其他方法。
2019-11-10 cs.CL
Modeling Semantic Relationship in Multi-turn Conversations with Hierarchical Latent Variables
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
多话轮会话包含复杂的语义结构,在已有话语的基础上生成连贯多样的会话仍然是一个挑战。实际上,会话发生在一个背景下,同时,查询和响应通常是最相关的,它们在主题上是一致的,但在内容上也是不同的。然而,很少有研究关注话语之间的这种等级关系。为了解决这个问题,我们提出了一个会话语义关系RNN(CSRR)模型来显式地构建依赖关系。该模型包含三个层次的潜变量。语篇层次的语义模型反映了语言的整体背景,语对层次的语义模型反映了语言查询和响应之间的共同主题信息,而话语层次的语义模型则试图反映语言内容的差异。实验结果表明,我们的模型显着提高响应的流畅性,一致性和多样性方面的质量相比,基线方法。
2019-06-18 cs.CL
Semantic Relation Classification via Bidirectional LSTM Networks with Entity-aware Attention using Latent Entity Typing
Hanyang University(汉阳大学)
对句子中实体对之间的语义关系进行分类是自然语言处理的一项重要任务。大多数以前的关系分类模型依赖于由NLP工具获得的高级词汇和句法特征,如WordNet,依赖解析器,词性(POS)标记器和命名实体识别器(NER)。此外,基于注意力机制的最新神经模型没有充分利用实体的信息,而实体的信息可能是关系分类的最关键特征。为了解决这些问题,我们提出了一种新的端到端的递归神经模型,它结合了一个实体感知的注意力机制与潜在的实体类型(LET)的方法。我们的模型不仅有效地利用了实体及其潜在类型作为特征,而且通过可视化应用于我们的模型和LET结果的注意力机制,使其更具可解释性。在SemEval-2010 Task 8(最流行的关系分类任务之一)上的实验结果表明,我们的模型在没有任何高级特征的情况下优于现有的最先进的模型。
2019-01-23 cs.CL
Generating Sentences from Disentangled Syntactic and Semantic Spaces
Nanjing University(南京大学);ByteDance AI Lab(字节跳动人工智能实验室);University of Waterloo(滑铁卢大学)
变分自动编码器(VAE)由于其潜在空间的正则化特性,在自然语言生成中得到了广泛的应用。然而,从连续潜在空间生成句子并没有显式地对句法信息进行建模。在本文中,我们提出了从分离的句法和语义空间生成句子。我们提出的方法通过使用线性化的树序列在VAE的潜在空间中显式地建模句法信息,从而获得更好的语言生成性能。此外,在分离的句法和语义潜在空间中采样的优势使我们能够执行新的应用,例如无监督的释义生成和句法转换生成。实验结果表明,我们提出的模型在各种任务中取得了类似或更好的性能,与国家的最先进的相关工作。
2019-07-06 cs.CL
Latent Space Alignment for Semantic Channel Equalization
CEA-Leti;Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
本文研究分布式任务求解中智能体语言不匹配的影响,提出数学框架度量语义失真,并设计了有效的语义信道均衡新方法。
2024-06-04 cs.CL cs.IT cs.LG
Exploring Latent Semantic Factors to Find Useful Product Reviews
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
消费者提供的在线评论是电子商务平台的宝贵资产,影响潜在消费者做出购买决策。然而,这些评论的质量参差不齐,有用的评论被埋在一堆没有信息的评论中。在这项工作中,我们试图自动识别审查质量方面的帮助,最终消费者。与以前在这一领域利用各种句法和社区级别的功能的作品相比,我们深入研究了评论的语义是什么使它们有用,提供了可解释的解释。我们确定了一组一致性和语义因素,所有这些因素都来自用户生成的评论的文本,评级和时间戳,使我们的方法在所有社区和领域中具有普遍性。我们从几个潜在的因素来探讨评论语义,比如作者的专业知识,他对底层产品的细粒度方面的判断,以及他的写作风格。这些都投到一个隐马尔可夫模型-潜在狄利克雷分配(HMM-LDA)为基础的模型,共同推断:(i)审查专家,(ii)项目方面,和(iii)审查有用。在亚马逊的五个真实世界数据集上进行的大规模实验显示,在预测和排名有用评论方面,与最先进的基线相比,有了显着的改进。
2017-05-06 cs.AI cs.CL cs.IR
On the Semantic Latent Space of Diffusion-Based Text-to-Speech Models
Verily AI
本研究探索冻结扩散TTS模型潜空间的语义信息,提出有监督和无监督方法寻找语义方向,实现无需额外训练或架构更改的开箱即用音频编辑。
2024-06-04 cs.CL cs.LG cs.SD
Disentangling semantics in language through VAEs and a certain architectural choice
LIPN(LIPN实验室);Université Sorbonne Paris Nord(索邦巴黎北大学);INRIA Paris(法国国家信息与自动化研究所巴黎分部)
我们提出了一种无监督的方法来获得分离的句子表示,挑选出语义内容。使用修改后的Transformers作为构建块,我们训练一个变分自编码器将句子翻译成固定数量的分层结构的潜变量。我们研究了生成过程中每个潜在变量对句子依赖结构的影响,以及通过开放式信息抽取模型时生成的谓词结构。我们的模型可以将动词、主语、直接宾语和介词宾语分离成我们识别的潜变量。我们表明,不同的相应的潜变量的结果在不同的句子中,这些元素,并交换它们之间的夫妇的句子导致预期的部分语义交换。
2020-12-28 cs.CL cs.LG
Conversational Semantic Role Labeling with Predicate-Oriented Latent Graph
Wuhan University(武汉大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Guangdong University of Foreign Studies(广东外语外贸大学)
会话语义角色标注是一项新提出的任务,旨在揭示会话文本中的浅层语义结构。然而,CSRL任务的几个重要特征,如结构信息整合、近邻影响等,却被现有的研究所忽视。在这项工作中,我们研究了CSRL的潜在图的整合。我们提出了一种以谓词为中心的高斯机制,自动诱导一个面向谓词的潜在图(POLar),通过该机制,更接近谓词的信息词将被分配更多的注意力。然后,POLar结构被动态地修剪和细化,以便最好地满足任务需求。我们还引入了一个有效的对话级预训练的语言模型,CoDiaBERT,更好地支持多个话语句子和处理CSRL中的说话人共指问题。我们的系统在三个基准CSRL数据集上的性能优于最佳基线,特别是在跨话语参数检测上实现了超过4%的F1分数改进。进一步的分析,以更好地了解我们提出的方法的有效性。
2022-10-06 cs.AI cs.CL
Efficient Latent Semantic Clustering for Scaling Test-Time Computation of LLMs
Department of Computer Science and Engineering, POSTECH, South Korea(计算机科学与工程系,POSTECH,韩国);Graduate School of Artificial Intelligence, POSTECH, South Korea(人工智能研究生院,POSTECH,韩国)
本文提出潜在语义聚类(LSC)方法,利用生成器LLM的内部隐藏状态进行轻量级且上下文敏感的聚类,消除了对外部模型的依赖,在保持或超越现有方法性能的同时显著提升了测试时计算扩展的效率。
2025-05-31 cs.AI cs.CL
Exploiting Inductive Bias in Transformers for Unsupervised Disentanglement of Syntax and Semantics with VAEs
LIPN(巴黎第十三大学信息与通信科学实验室);Université Sorbonne Paris Nord(巴黎第十三大学);CNRS(法国国家科学研究中心);INRIA Paris(巴黎法国国家信息与自动化研究所)
我们提出了一个生成模型的文本生成,表现出解开潜在的语法和语义表示。与以前的工作相反,该模型不需要句法信息,如选区分析,或语义信息,如释义对。我们的模型完全依赖于在基于注意力的架构(如Transformers)中发现的感应偏差。在Transformers的注意中,键处理信息选择,而值指定传达什么信息。我们的模型,被称为QKVAE,在其解码器中使用注意力来读取潜变量,其中一个潜变量推断密钥,而另一个潜变量推断值。我们运行的实验,潜在的代表性和实验的语法/语义转移表明,QKVAE显示出清晰的迹象,解开语法和语义。我们还表明,与监督模型相比,我们的模型显示出具有竞争力的语法传输能力,并且可比的监督模型需要相当大量的数据(超过50 K个样本)才能在语法和语义传输方面表现出色。我们实验的代码是公开的。
2022-05-19 cs.CL cs.LG
Neutralizing Gender Bias in Word Embedding with Latent Disentanglement and Counterfactual Generation
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
最近的研究表明,在人工生成的语料库上训练的词嵌入在嵌入空间中具有很强的性别偏见,这些偏见可能导致各种下游任务的区分结果。鉴于以前的方法项目的词嵌入到一个线性子空间去偏置,我们介绍了一个\textit{Latent Disentanglement}方法与连体自动编码器结构与自适应梯度反转层。我们的结构使语义潜在信息和性别潜在信息的给定的词分离到不相交的潜在维度。然后,引入一个\textit{Counterfactual Generation}对词的性别信息进行转换,使得原嵌入和修改后的嵌入在几何对齐正则化后,能够产生一个性别中立的词嵌入,而不会丢失语义信息。从各种定量和定性的去偏置实验,我们的方法比现有的去偏置方法在去偏置词嵌入。此外,我们的方法显示了在去偏置过程中通过最小化外部NLP下游任务的语义信息损失来保留语义信息的能力。
2020-11-03 cs.CL cs.LG stat.ML