Tensorizing Engram: Sharing Latents Across N-Gram Embeddings is Beneficial in LLMs
University of California, Berkeley(加州大学伯克利分校);University of Cambridge(剑桥大学);University of Toronto(多伦多大学)
提出张量化Engram(TN-gram),通过CP分解共享因子压缩n-gram嵌入,减少参数并避免哈希冲突,在多个任务上匹配或超越现有方法。
2026-06-06 cs.CL cs.LG
Thoughts-as-Planning: Latent World Models for Chain-of-Thoughts Optimization via Reinforcement Planning
University of California, Los Angeles(加州大学洛杉矶分校);Columbia University(哥伦比亚大学)
提出Thoughts-as-Planning框架,将思维链优化形式化为潜在语义空间中的序贯决策过程,通过潜在世界模型模拟推理链编辑对下游输出的影响,并利用梯度下降或强化学习进行规划,在语言理解和生成任务上优于现有基线。
2026-04-27 cs.AI cs.CL
Latent Reasoning via Sentence Embedding Prediction
KAIST(韩国科学技术院);Carnegie Mellon University(卡内基梅隆大学);University College London(伦敦大学学院);LG AI Research(LG人工智能研究)
本研究提出一种通过自回归预测下一句连续嵌入使预训练语言模型在句子空间进行潜在推理的框架,实验表明连续推理下的上下文嵌入性能媲美CoT且推理时FLOPs减半。
2025-10-11 cs.AI cs.CL
Compressing Sequences in the Latent Embedding Space: $K$-Token Merging for Large Language Models
Rutgers University(罗格斯大学);AWS AI Labs(AWS人工智能实验室);Amazon(亚马逊);Mistral AI;University of California Los Angeles(加州大学洛杉矶分校)
本文提出K-Token Merging方法,在潜在空间中压缩序列,通过轻量编码器合并连续K个标记嵌入,实现75%的输入长度缩减,性能损失小。
2026-09-09 cs.AI cs.CL
Dynamics Within Latent Chain-of-Thought: An Empirical Study of Causal Structure
Harbin Institute of Technology, Shenzhen, China(哈尔滨工业大学(深圳));University of Manchester, United Kingdom(曼彻斯特大学);Beihang University, China(北京航空航天大学)
通过结构因果模型对潜在思维链进行干预分析,揭示其因果结构、步骤间影响传播及与显式思维链的差异。
2026-05-28 cs.AI cs.CL
Instruction Embedding: Latent Representations of Instructions Towards Task Identification
School of Computer Science, Beijing Institute of Technology(北京理工大学计算机学院);Xiaohongshu Inc(小红书科技有限公司)
本文提出指令嵌入概念及基准 IEB,并设计 PIE 方法使表示聚焦任务而非语义,实验证明其在任务识别和下游指令任务中表现优越。
2024-09-29 cs.AI cs.CL
LLM Latent Reasoning as Chain of Superposition
State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences, Beijing, China(人工智能安全国家重点实验室,计算技术研究所,中国科学院,北京);University of Chinese Academy of Sciences, Beijing, China(中国科学院大学,北京)
本文提出Latent-SFT框架,通过约束隐藏状态、构建语义紧凑的链结构以及使用随机Gumbel-Softmax优化,实现LLM潜在推理的高效叠加,提升数学基准任务性能。
2026-01-30 cs.CL
SeLaR: Selective Latent Reasoning in Large Language Models
Guangdong Provincial Key Laboratory of Ultra High Definition Immersive Media Technology(广东省超高清沉浸式媒体技术重点实验室);Shenzhen Graduate School, Peking University(北京大学深圳研究生院)
SeLaR通过引入熵门机制和熵感知对比正则化,解决大语言模型中链式推理的稳定性与探索性问题,优于标准CoT和训练自由方法。
2026-04-19 cs.AI cs.CL
RuPLaR : Efficient Latent Compression of LLM Reasoning Chains with Rule-Based Priors From Multi-Step to One-Step
School of Computer Science and Technology(计算机科学与技术学院);Department of Electrical and Computer Engineering(电气与计算机工程系)
本文提出RuPLaR框架,通过基于规则的先验概率指导LLM生成单阶段潜在推理令牌,提升推理效率与准确性,实验表明其比现有方法提升11.1%的准确率且消耗更少token。
2026-10-20 cs.AI cs.CL
ReGuLaR: Variational Latent Reasoning Guided by Rendered Chain-of-Thought
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学 Gallagher人工智能学院);Beijing Key Laboratory of Research on Large Models(北京大型模型研究关键实验室);Engineering Research Center of Next-Generation Intelligent Search(下一代智能搜索工程研究中心)
ReGuLaR通过渲染思维链图像并利用视觉-语义表示正则化后验分布,实现高效的潜在推理,优于现有方法并在多模态推理中超越CoT。
2026-01-30 cs.CL
Triggering Chain-of-Thought via Latent Feature Interventions in Large Language Models
University of Virginia(弗吉尼亚大学)
研究发现大型语言模型中的推理能力由潜在内部激活支持,通过引导特定潜在特征可提升性能,CoT提示并非唯一触发方式。
2026-09-01 cs.AI cs.CL
Do Latent Tokens Think? A Causal and Adversarial Analysis of Chain-of-Continuous-Thought
Shanghai Jiao Tong University(上海交通大学)
本文通过因果和对抗分析揭示COCONUT作为伪推理机制的问题,指出其依赖捷径而非真实推理。
2026-10-27 cs.AI cs.CL
Sampling Latent Material-Property Information From LLM-Derived Embedding Representations
Trinity College(都柏林三一学院);The University of Utah(犹他大学)
本研究探究大语言模型生成的向量嵌入捕获材料潜在属性信息的能力,发现其虽能生成反映特定属性的表示,但需匹配最优上下文线索和比较基准,仍具材料科学表示生成潜力。
2024-09-18 cond-mat.mtrl-sci cs.CL
CoLT: Reasoning with Chain of Latent Tool Calls
School of Computer Science, State Key Laboratory of Multimedia Information Processing, Peking University(计算机学院、多媒体信息处理国家重点实验室、北京大学)
CoLT通过将潜在推理转化为工具调用,实现高效推理,提升模型效率与准确性,适用于多种解码器结构和强化学习算法。
2026-02-04 cs.CL
Think Silently, Think Fast: Dynamic Latent Compression of LLM Reasoning Chains
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院);MiLM Plus, Xiaomi Inc.(小米公司)
CoLaR通过动态潜在空间压缩LLM推理链,实现高效推理与灵活速度调整,提升数学推理任务的准确率和效率。
2026-02-03 cs.CL
Embedding-Aware Feature Discovery: Bridging Latent Representations and Interpretable Features in Event Sequences
Sber AI Lab(Sber AI实验室);ISP RAS Research Center for Trusted AI(俄罗斯科学院信息与系统研究所可信人工智能研究中心)
本文提出EAFD框架,通过结合预训练事件序列嵌入与自反思LLM驱动特征生成代理,解决嵌入与特征管道间的断层问题,实现特征的发现、评估与优化,提升事件序列处理性能。
2026-03-16 cs.AI cs.IR cs.LG
Pretraining with Token-Level Adaptive Latent Chain-of-Thought
LUMIA Lab(LUMIA实验室);School of Artificial Intelligence(人工智能学院);Shanghai Jiao Tong University(上海交通大学);Shanghai Al Laboratory(上海Al实验室);Sun Yat-sen University(中山大学);Shanghai Innovation Institute(上海创新研究院)
本研究提出了一种基于令牌级适应性潜在链式思维的预训练方法,通过内部化潜在链式思维来提高模型性能,减少计算成本,并在语言建模和下游任务中取得显著改进。
2026-03-10 cs.CL
Learning Modal-Mixed Chain-of-Thought Reasoning with Latent Embeddings
University of California, San Diego(加州大学圣地亚哥分校)
本文提出模态混合CoT方法,通过潜在嵌入结合视觉与文本信息,提升多模态推理性能。
2026-01-31 cs.AI
EG-MLA: Embedding-Gated Multi-head Latent Attention for Scalable and Efficient LLMs
本文提出EG-MLA,通过在潜在空间引入token级嵌入门控机制进一步压缩KV缓存并增强表示能力,相较MHA减少超91.6%缓存,相较MLA最高额外节省59.9%内存且提升推理准确率,并成功扩展至超10亿参数规模。
2025-09-20 cs.CL
Bridging Textual Profiles and Latent User Embeddings for Personalization
University of Notre Dame(诺特大学);Google(谷歌)
本文提出BLUE框架,通过结合语言基用户特征与嵌入基推荐目标,弥合可解释性文本特征与判别性潜在嵌入之间的差距,实验证明其在零样本序列推荐中优于基线方法。
2026-05-07 cs.CL cs.IR
LLM Reasoning Is Latent, Not the Chain of Thought
School of Future Technology, South China University of Technology, China(未来技术学院,华南理工大学,中国)
本文提出大语言模型推理应研究为潜在状态轨迹形成而非表面思维链。研究指出,推理对象的定义影响了忠实性、可解释性、推理基准和推理时干预的主张。通过分离三个混淆因素,提出三种假设,发现当前证据更支持潜在状态轨迹作为默认假设。
2026-04-17 cs.AI
L2V-CoT: Cross-Modal Transfer of Chain-of-Thought Reasoning via Latent Intervention
本文提出L2V-CoT方法,通过潜在干预将链式推理从LLM转移到VLM,利用低频潜在表示提升多步推理能力,实验表明优于无训练基线和监督方法。
2026-03-20 cs.CL
Reasoning Beyond Language: A Comprehensive Survey on Latent Chain-of-Thought Reasoning
Department of Computing, The Hong Kong Polytechnic University(计算机系,香港理工大学);Ningbo Digital Twin Institute, Eastern Institute of Technology(宁波数字孪生研究院,东部技术研究所)
本文综述潜在思维链推理这一新兴LLM推理范式,建立系统分类,分析其方法、设计原则、应用与挑战,为该领域发展提供结构化基础。
2026-09-01 cs.CL
Enhancing Long-Video VLM Embeddings with Query-Aware Streaming Latent Reasoning
Peking University(北京大学);Renmin University of China(中国人民大学)
提出查询感知流式潜在推理(QASLR),通过跨片段累积证据并保持嵌入大小固定,显著提升长视频检索性能,HourVideo Hit@1最高提升至72.8。
2026-10-06 cs.AI cs.CV
Learning Multilingual Word Embeddings in Latent Metric Space: A Geometric Approach
Microsoft(微软);IIT Madras(印度理工学院马德拉斯分校)
我们提出了一种新的几何方法学习双语映射单语嵌入和双语字典。我们的方法将学习从源语言到目标语言的转换分为(a)学习特定语言嵌入的旋转以将它们对齐到公共空间,以及(b)学习公共空间中的相似性度量以模拟嵌入之间的相似性。我们将双语映射问题建模为光滑黎曼流形上的优化问题。我们表明,我们的方法优于以前的方法在双语词汇归纳和跨语言词相似性任务。我们还概括了我们的框架,以表示在一个共同的潜在空间的多种语言。特别是,几种语言的潜在空间表示联合学习,给出多语言对的双语词典。我们说明了联合学习的有效性,为多种语言在zero-shot单词翻译设置。我们的实现可以在https://github.com/anoopkunchukuttan/geomm上获得。
2018-12-18 cs.AI cs.CL cs.LG
Neutralizing Gender Bias in Word Embedding with Latent Disentanglement and Counterfactual Generation
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
最近的研究表明,在人工生成的语料库上训练的词嵌入在嵌入空间中具有很强的性别偏见,这些偏见可能导致各种下游任务的区分结果。鉴于以前的方法项目的词嵌入到一个线性子空间去偏置,我们介绍了一个\textit{Latent Disentanglement}方法与连体自动编码器结构与自适应梯度反转层。我们的结构使语义潜在信息和性别潜在信息的给定的词分离到不相交的潜在维度。然后,引入一个\textit{Counterfactual Generation}对词的性别信息进行转换,使得原嵌入和修改后的嵌入在几何对齐正则化后,能够产生一个性别中立的词嵌入,而不会丢失语义信息。从各种定量和定性的去偏置实验,我们的方法比现有的去偏置方法在去偏置词嵌入。此外,我们的方法显示了在去偏置过程中通过最小化外部NLP下游任务的语义信息损失来保留语义信息的能力。
2020-11-03 cs.CL cs.LG stat.ML
Jointly Learning Word Embeddings and Latent Topics
The Chinese University of Hong Kong(香港中文大学);Cardiff University(卡迪夫大学)
诸如Skip-gram之类的词嵌入模型基于在文本语料库中观察到的局部词搭配模式来学习每个词的向量空间表示。另一方面,潜在主题模型采取更全局的观点,查看语料库中的单词分布,为每个单词的出现分配一个主题。这两种范式在如何表示词出现的意义上是互补的。虽然一些先前的工作已经着眼于使用词嵌入来提高潜在主题的质量,并且相反地,在使用潜在主题来提高词嵌入时,这样的“两步”方法不能捕获两个范例之间的相互作用。在本文中,我们提出了STE,一个框架,可以学习词嵌入和潜在的主题在一个统一的方式。STE自然地获得特定主题的词嵌入,从而解决了一词多义的问题。同时,它还学习主题的术语分布,以及文档的主题分布。我们的实验结果表明,STE模型确实可以生成有用的特定主题的词嵌入和连贯的潜在主题,在一个有效的和高效的方式。
2017-06-21 cs.CL cs.IR cs.LG
Chain-of-Questions Training with Latent Answers for Robust Multistep Question Answering
University of Southern California(南加州大学)
提出Chain-of-Questions框架,通过生成和回答子问题并利用QDMR与潜在答案优化,显著提升多步问答的稳健性。
2023-12-23 cs.CL cs.LG
A Latent Variable Model Approach to PMI-based Word Embeddings
Princeton University(普林斯顿大学)
语义词嵌入通过向量表示词的意义,并通过多种方法创建。许多算法在共现统计上使用非线性运算,并手动调整超参数和重新加权方法。本文提出了一种新的生成模型--动态版本的对数线性主题模型的~ \citet{mnih2007three}。方法的新颖性是使用之前计算封闭形式的表达式进行单词统计。这为PMI、word 2 vec和GloVe等非线性模型以及一些超参数选择提供了理论依据。这也有助于解释为什么低维语义嵌入包含线性代数结构,允许解决词的类比,如~ \citet{mikolov2013efficient}和许多后续论文所示。实验支持生成模型的假设,其中最重要的是,潜在的词向量是相当均匀地分散在空间中。
2019-06-19 cs.CL cs.LG stat.ML
Leveraging knowledge graphs to update scientific word embeddings using latent semantic imputation
Iris AI
科学文本中最有趣的词往往是新奇的或罕见的。这对科学的词嵌入模型提出了挑战,以确定不常见或新出现的有用术语的质量嵌入向量。我们演示了\gls{lsi}如何通过从最新的知识图谱中嵌入特定于领域的单词来解决这个问题,同时保留原始的词嵌入模型。我们使用MeSH知识图谱来估算生物医学术语的嵌入向量,而无需重新训练,并在特定领域的词对相似性任务上评估所得到的嵌入模型。我们表明,LSI可以产生可靠的嵌入向量,罕见的和OOV在生物医学领域的条款。
2022-10-27 cs.CL
Enhanced word embeddings using multi-semantic representation through lexical chains
University of Michigan - Dearborn(密歇根大学迪尔伯恩分校);University of Wuppertal(伍珀塔尔大学);Federal University of ABC(ABC联邦大学)
句子中单词之间的关系通常比单个单词更能告诉我们文档的潜在语义内容。在这项工作中,我们提出了两个新的算法,称为灵活的词汇链II和固定的词汇链II。这些算法结合了来自词汇链的语义关系、来自词汇数据库的先验知识以及词嵌入中的分布假设的鲁棒性,作为形成单个系统的构建块。简而言之,我们的方法有三个主要贡献:(i)一组技术,完全集成词嵌入和词汇链;(ii)一个更强大的语义表示,考虑到文档中的单词之间的潜在关系;和(iii)轻量级的词嵌入模型,可以扩展到任何自然语言任务。我们打算评估预训练模型的知识,以评估它们在文档分类任务中的鲁棒性。所提出的技术进行了测试,对七个词嵌入算法,使用五个不同的机器学习分类器在六个场景中的文档分类任务。我们的研究结果表明,词汇链和词嵌入表征之间的整合维持了最先进的结果,即使对更复杂的系统。
2022-12-19 cs.CL cs.LG
Controlled Paraphrase Geometry in Sentence Embedding Space: Local Manifold Modeling and Latent Probing
Khmelnytsky National University, Faculty of Information Technology(赫梅利尼茨基国立大学信息科技学院)
本文研究受控局部语义相近句子诱导的嵌入云局部几何,提出基于仿射、二次和三次拟合模型的局部几何建模方案,并通过表面基于的潜在探测方法评估生成点的几何有效性。
2026-05-01 cs.CL
Learning Geometric Word Meta-Embeddings
Microsoft India(微软印度)
我们提出了一个几何框架学习元嵌入的话从不同的嵌入源。我们的框架将嵌入转换为一个共同的潜在空间,例如,简单的平均不同的嵌入(一个给定的词)是更顺从的。所提出的潜在空间产生于两个特定的几何变换-正交旋转和马氏度量缩放。几个词相似度和词类比基准的实证结果说明了所提出的框架的有效性。
2020-04-20 cs.CL cs.LG stat.ML
HUSE: Hierarchical Universal Semantic Embeddings
Google(谷歌);Georgia Institute of Technology(佐治亚理工学院)
最近,人们对图像和文本的跨模态表示学习产生了浓厚的兴趣。主要的挑战在于将图像和文本映射到共享的潜在空间,其中对应于相似语义概念的嵌入比对应于不同语义概念的嵌入更接近彼此,而不管模态如何。排名损失通常用于创建这样的共享潜在空间-然而,它们不会对类间关系施加任何约束,从而导致相邻聚类完全不相关。视觉语义嵌入领域的工作解决了这个问题,首先根据一些外部知识构建一个语义嵌入空间,并将图像嵌入投影到这个固定的语义嵌入空间。这些工作仅限于图像域,并且将嵌入限制在固定的空间中,这增加了学习的额外负担。本文提出了一种新的方法,HUSE,学习跨模态表示与语义信息。HUSE学习一个共享的潜在空间,其中任何两个通用嵌入之间的距离与语义嵌入空间中相应的类嵌入之间的距离相似。HUSE还使用具有共享分类层的分类目标,以确保图像和文本嵌入在相同的共享潜在空间中。在UPMC Food-101上的实验表明,该方法在检索、层次精度和分类效果上都优于现有的方法。
2019-11-14 cs.CL cs.CV cs.LG
Latent Positional Information is in the Self-Attention Variance of Transformer Language Models Without Positional Embeddings
Carnegie Mellon University(卡内基梅隆大学);Princeton University(普林斯顿大学)
本文证明无位置嵌入的Transformer语言模型通过自注意力方差收缩编码位置信息,该效应在预训练后依然存在,为放弃位置嵌入以提升预训练效率提供了依据。
2023-05-23 cs.CL
VDLM: Variable Diffusion LMs via Robust Latent-to-Text Rendering
Stanford University(斯坦福大学)
VDLM通过分离语义规划与文本渲染,利用嵌入空间后训练和鲁棒解码技术,在扩散语言模型中实现更高效的多步推理和长形式生成。
2026-01-27 cs.CL
RelWalk A Latent Variable Model Approach to Knowledge Graph Embedding
University of Liverpool(利物浦大学);Amazon(亚马逊);Taif University(塔伊夫大学);National Institute of Informatics(国立信息学研究所)
将知识图谱的实体和关系嵌入到低维空间中,在预测实体之间的缺失链接方面表现出令人印象深刻的性能。虽然已经取得了进展,现有的方法是启发式的动机和理论的理解,这样的嵌入是相对欠发达。本文扩展了随机游走模型(Arora et al.,2016 a)的词嵌入到知识图谱嵌入(KGE),以导出评估两个实体h(头部)和t(尾部)之间的关系R的强度的评分函数。此外,我们表明,边际损失最小化,一个流行的目标,在以前的工作中使用KGE,自然从对数似然比最大化根据我们的理论关系估计从KGE的概率。我们提出了一个学习目标的理论分析的动机,学习KGE从一个给定的知识图谱。使用导出的目标,准确的KGE从FB15K237和WN18RR基准数据集学习,提供支持理论的经验证据。
2021-01-25 cs.CL
Effective Use of Variational Embedding Capacity in Expressive End-to-End Speech Synthesis
Google Research(谷歌研究院)
最近的工作已经探索了序列到序列的表达性语音合成(支持韵律和风格的控制和转移)的潜在变量模型,但还没有提出一个连贯的框架来理解竞争方法之间的权衡。在本文中,我们提出了嵌入容量(嵌入包含的信息量的数据)作为一个统一的方法来分析语音的潜变量模型的行为,比较现有的启发式(非变分)的方法,变分方法,能够明确限制容量上界的代表性互信息。在我们提出的模型(Capacitron)中,我们表明,通过将条件依赖性添加到变分后验中,使其与真实后验的形式相匹配,相同的模型可用于高精度韵律传输,文本不可知风格传输和生成自然的先验样本。对于多说话人模型,Capacitron能够在说话人之间的韵律传输过程中以及从潜在先验中提取样本时保持目标说话人身份。最后,我们介绍了一种方法,用于在两组潜伏期中分层分解嵌入容量,允许指定一部分潜伏变异性,其余变异性从学习到的先验中采样。音频示例可在网络上获取。
2019-10-25 cs.CL cs.LG cs.SD
Latent Semantic Analysis Approach for Document Summarization Based on Word Embeddings
School of Information Science and Engineering, Central South University(中南大学信息科学与工程学院)
由于互联网上的信息量正在迅速增长,用户不容易找到他/她的查询的相关信息。为了解决这一问题,文档自动摘要技术受到了广泛的关注。任何成功的文档摘要器的关键点都是良好的文档表示。传统的基于词重叠的方法大多不能产生这种表示。词嵌入是词的分布式表示,它具有良好的语义匹配性能。单纯地连接词嵌入会使普通词占优势,这反过来又会降低表示质量。本文利用词嵌入改进了潜在语义分析方法中输入矩阵的加权方案。提出了两种基于嵌入的加权方案,然后将其结合起来计算该矩阵的值。新的加权方案是增强权重和熵频率的修改版本。新方案结合了传统加权方案和词嵌入的优点。该方法在三个著名的英语数据集DUC 2002,DUC 2004和多语言2015英语单文档摘要上进行了实验评估。与最先进的方法相比,所提出的模型的综合性能更好,至少1%的ROUGE点,从而得出结论,它提供了更好的文档表示和更好的文档摘要。
2018-10-28 cs.CL
Tie Your Embeddings Down: Cross-Modal Latent Spaces for End-to-end Spoken Language Understanding
Amazon Alexa(亚马逊Alexa)
端到端(E2 E)口语理解(SLU)系统可以直接从音频信号推断口语话语的语义。然而,训练E2 E系统仍然是一个挑战,主要是由于成对的音频语义数据的稀缺性。在本文中,我们把一个E2 E系统作为一个多模态模型,音频和文本功能作为其两种形式,并使用跨模态潜在空间(CMLS)架构,其中一个共享的潜在空间之间学习的“声学”和“文本”嵌入。我们建议使用不同的多模态损失来显式地引导声学嵌入更接近文本嵌入,从语义强大的预训练BERT模型中获得。我们训练CMLS模型在两个公开的E2 E数据集,在不同的跨模态损失,并表明我们提出的三重损失函数达到最佳性能。它实现了1.4%和4%的E2 E模型,没有交叉模态空间和0.7%和1%的相对改善,比以前发表的CMLS模型使用$L_2$损失分别。对于更小、更复杂的E2 E数据集,增益更高,证明了使用有效的跨模态损失函数的有效性,特别是当可用的E2 E训练数据有限时。
2021-04-15 cs.CL cs.SD eess.AS
Improving Entity Linking by Modeling Latent Entity Type Information
Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research Asia(微软亚洲研究院);Peng Cheng Laboratory(鹏城实验室)
现有技术的神经实体链接模型采用基于注意力的词袋上下文模型和从词嵌入引导的预训练实体嵌入来评估主题级上下文兼容性。然而,在提到的直接上下文中的潜在实体类型信息被忽略,这导致模型往往链接到不正确的实体与不正确的类型。为了解决这个问题,我们提出了基于预训练的BERT的实体嵌入注入潜在的实体类型信息。此外,我们将基于BERT的实体相似性得分集成到最先进模型的局部上下文模型中,以更好地捕获潜在的实体类型信息。我们的模型显着优于国家的最先进的实体链接模型的标准基准(AIDA-CoNLL)。详细的实验分析表明,我们的模型纠正了直接基线产生的大部分类型错误。
2020-01-06 cs.CL
Latent linguistic embedding for cross-lingual text-to-speech and voice conversion
National Institute of Informatics(国立信息学研究所);SOKENDAI (The Graduate University for Advanced Studies)(综合研究大学院大学(高等研究生院大学))
由于最近提出的语音克隆系统,NAUTILUS,是能够克隆看不见的声音使用未转录的语音,我们调查的可行性,使用它来开发一个统一的跨语言的TTS/VC系统。跨语言语音生成是指用目标说话人的声音生成一种非母语的语音。这种类型的系统不是简单地克隆目标说话者的声音,而是在特定的框架下创建一个可以被认为比原始声音更好的新声音。通过使用经过良好训练的英语潜在语言嵌入来为2020年语音转换挑战赛中的几个德语,芬兰语和普通话使用者创建跨语言TTS和VC系统,我们表明我们的方法不仅可以创建具有高说话者相似性的跨语言VC,而且可以无缝地用于跨语言TTS,而无需执行任何额外的步骤。然而,主观评价的感知自然度似乎不同的目标扬声器,这是未来的改进之一。
2020-10-08 cs.CL cs.SD eess.AS