Tracing Linguistic Relations in Winning and Losing Sides of Explicit Opposing Groups
Nanyang Technological University(南洋理工大学)
口头对话中的语言关系呈现了观点是如何在有限的时间内构建和发展的。这些关系将想法、论点、思想和感受联系在一起,在演讲中重新塑造它们,最终从对话中提供的所有信息中构建知识。演讲者有共同的兴趣来讨论。预计每个发言者的答复都包括与前几位发言者重复的词语。然而,语言适应是观察和演变在一个更复杂的路径,而不仅仅是转移稍微修改版本的共同概念。一个以利益为目的的对话在最后表明了一种引发顺应的紧急合作。不仅合作,而且竞争也会驱动适应或相反的情景,人们可以通过跟踪概念如何在语言上联系来捕捉动态过程。为了揭示言语交际中突出的复杂动态事件,我们试图发现隐藏在明确陈述的赢家和输家对话中的自组织语言关系。我们研究了美国最高法院的开放获取数据。我们的理解在大数据研究中至关重要,以指导如何对意见挖掘和决策中的过渡状态进行建模,以及如何通过过滤大量数据来确定指导模型所需的知识。
2017-03-01 cs.AI cs.CL
Extracting linguistic speech patterns of Japanese fictional characters using subword units
Ibaraki University(茨城大学);Tokyo University of Agriculture and Technology(东京农工大学)
本研究抽取并分析了日本动漫或游戏角色的语言语音模式。传统的形态分析器,如MeCab,分割单词的性能很高,但它们无法分割字典中没有列出的破碎表达或话语结尾,这些经常出现在动画或游戏角色的台词中。为了克服这一挑战,我们建议使用主要用于深度学习的子词单元来分割日本动漫或游戏角色的线条,并提取频繁出现的字符串以获得表征其话语的表达。我们根据性别、年龄和每个动漫角色分析了TF/IDF加权的子词单位,并表明它们是针对每个特征的语言语音模式。此外,分类实验表明,与传统的方法相比,以子词为单位的模型性能更好。
2022-03-05 cs.CL
Linguistic unit discovery from multi-modal inputs in unwritten languages: Summary of the "Speaking Rosetta" JSALT 2017 Workshop
JHU(约翰斯·霍普金斯大学);CMU(卡内基梅隆大学)
我们总结了一个多学科研讨会的成果,探讨了在没有正字法的语言中发现语言单位(子词和词)的计算和科学问题。我们研究了在资源丰富的语言中用图像和/或翻译文本替换正字法transmittance,以帮助从原始语音中进行无监督发现。
2018-02-14 cs.CL
On the Linguistic Representational Power of Neural Machine Translation Models
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学);Qatar Computing Research Institute(卡塔尔计算研究所)
尽管深度神经网络最近在自然语言处理(NLP)方面取得了成功,但其可解释性仍然是一个挑战。我们分析了神经机器翻译模型在不同粒度级别上学习到的表示,并通过相关的外部属性来评估它们的质量。特别是,我们寻求以下问题的答案:(一)如何准确地捕捉单词结构的学习表示,在翻译形态丰富的语言的一个重要方面?(ii)这些表示是否捕获了长范围的依赖关系,并有效地处理了语法上不同的语言?(iii)这些表示是否捕捉到了词汇语义?我们沿着几个参数进行了彻底的调查:(一)在架构中的层捕捉这些语言现象的每一个;(二)翻译单位(字,字符,或子字单位)的选择如何影响所捕获的语言属性的底层表示?(iii)编码器和解码器是否以不同的方式独立学习?(iv)多语言NMT模型学习的表示是否与双语模型捕获相同数量的语言信息?我们的数据驱动的定量评估阐明了NMT模型的重要方面及其捕捉各种语言现象的能力。我们证明了深度NMT模型学习了大量的语言信息。值得注意的调查结果包括:(i)单词形态和词性信息在模型的较低层被捕获;(ii)相反,词汇语义或非局部句法和语义依赖在较高层被更好地表示;(iii)与使用子词单元学习的表示相比,使用字符学习的表示更了解单词形态;和(iv)与双语模型相比,多语言模型学习到的表示更丰富。
2019-11-01 cs.CL
Multilingual Language Models Encode Script Over Linguistic Structure
Indian Institute of Technology Delhi(印度理工学院德里)
研究揭示多语言模型通过表面形式而非语言结构组织表示,发现正字法影响显著,深层结构逐渐显现。
2026-04-20 cs.CL cs.LG
Associative Measures and Multi-word Unit Extraction in Turkish
Mersin University(梅尔辛大学)
关联度量是“基于文本语料库中两个或多个词的出现和同现来确定它们之间关联强度的数学公式”(Pecina,2010,第138页)。本文的目的是在土耳其国家语料库(TNC)的1000万字子语料库上测试Text-NSP(Banerjee & Pedersen,2003)包含的12个关联度量(Aksan等人,2012年)。对这些指标进行统计比较不在本研究范围之内,将根据它们提供的排名的语言相关性对这些指标进行评估。该研究的重点基本上是优化语料库数据,然后应用的措施,然后,评估这些措施产生的排名作为一个整体,而不是对个别的语言相关性的n-gram。研究结果包括语言内相关的关联措施逗号分隔,句子拆分,小写,平衡良好,有代表性的,1000万字的土耳其语语料库。
2015-07-15 cs.CL
Aligning Linguistic Words and Visual Semantic Units for Image Captioning
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Nanjing University of Science and Technology(南京理工大学);Huawei Devices(华为终端);University of Chinese Academy of Sciences(中国科学院大学)
图像描述试图生成由多个语言词组成的句子,这些语言词用于描述图像中的对象、属性和交互,在本文中表示为视觉语义单元。基于这一观点,本文提出了基于图卷积网络(Graph Convolutional Networks,GCN)的语义和几何对象交互模型,并充分利用语言词和视觉语义单元之间的对齐关系来实现图像描述。特别地,我们构造语义图和几何图,其中每个节点对应于视觉语义单元,即,对象、属性或两个对象之间的语义(几何)交互。因此,通过相应的GCN学习处理器获得每个单元的语义(几何)上下文感知嵌入。在每一个时间步,上下文门控注意模块作为输入的嵌入的视觉语义单元和分层对齐的当前单词与这些单元,首先决定哪种类型的视觉语义单元(对象,属性,或交互)的当前单词是关于,然后找到最相关的视觉语义单元下的这种类型。在具有挑战性的MS-COCO图像描述数据集上进行了广泛的实验,并报告了与最先进方法相比的优越结果。
2019-08-06 cs.CL cs.CV cs.LG
Learning Hierarchical Discrete Linguistic Units from Visually-Grounded Speech
Computer Science and Artificial Intelligence Lab(计算机科学与人工智能实验室);Massachusetts Institute of Technology(麻省理工学院)
在本文中,我们提出了一种方法,通过将矢量量化层的视觉接地语音的神经模型学习离散的语言单位。我们表明,我们的方法是能够捕获字级和子字单元,这取决于它是如何配置的。本文与以前的语音单元学习工作的不同之处在于训练目标的选择。而不是使用基于重建的损失,我们使用一个有区别的,多模态接地的目标,迫使学习单位是有用的语义图像检索。我们评估了ZeroSpeech 2019挑战赛的子字单元,在保持比特率大致相同的情况下,ABX出错率比表现最好的提交减少了27.3%。我们还提出了实验证明这些单位的噪声鲁棒性。最后,我们证明了一个模型与多个量化器可以同时学习电话一样的检测器在较低的层和单词一样的检测器在较高的层。我们表明,这些检测器是高度准确的,发现279个字的F1得分大于0.5。
2020-02-14 cs.CL cs.LG cs.SD
Transfer Learning of Lexical Semantic Families for Argumentative Discourse Units Identification
University of Lisbon(里斯本大学)
论证挖掘任务需要一个由低到高复杂性的语言现象和常识知识的知情范围。先前的工作已经表明,当与迁移学习技术一起应用并建立在不同的预训练目标上时,预训练的语言模型在编码句法和语义语言现象方面非常有效。现有的预训练语言模型在多大程度上包含了参数挖掘任务的复杂性,这仍然是一个问题。我们依靠实验来阐明如何从不同的词汇语义家族获得的语言模型杠杆的性能识别的议论语篇单位的任务。实验结果表明,迁移学习技术是有益的任务,目前的方法可能不足以利用常识知识,从不同的词汇语义家族。
2022-10-24 cs.CL
Unsupervised End-to-End Learning of Discrete Linguistic Units for Voice Conversion
National Taiwan University(台湾大学)
我们提出了一个无监督的端到端的训练方案,我们发现离散的子字单元从语音,而不使用任何标签。离散子字单元在ASR-TTS自动编码器重构设置下学习,其中ASR编码器被训练以发现给定各种说话者的一组公共语言单元,并且TTS解码器被训练以将所发现的单元投射回指定语音。我们提出了一种离散编码方法,多标签二进制矢量(MBV),使ASR-TTS自动编码器可区分。我们发现,所提出的编码方法提供了自动提取的语音内容从扬声器的风格,并足以涵盖完整的语言内容在一个给定的语言。因此,TTS解码器可以合成与ASR编码器输入内容相同但具有不同说话人特征的语音,从而实现语音转换(VC)。我们使用对抗训练进一步提高VC的质量,其中我们训练一个TTS修补程序,以增强TTS解码器的输出。客观和主观评价表明,该方法提供了强大的VC结果,因为它消除了说话人身份,同时保留语音内容。在ZeroSpeech 2019挑战赛中,我们在低比特率方面取得了出色的表现。
2019-06-20 cs.CL cs.LG cs.SD
Linguistic Information Energy
CACI(CACI公司)
在这种处理中,文本被认为是一系列以恒定速率阅读的单词脉冲。然后,大脑将这些信息单元组装成更高的意义单元。一个经典的系统方法是用来模拟这个装配过程的初始部分。定义并分析了语言系统反应、信息能和有序能的概念。最后,作为一个示范,信息能量被用来估计一系列文本的出版日期和一组文本的相似性。
2007-10-14 cs.CL cs.IT math.IT
An Event Network for Exploring Open Information
本文提出了一种用于开放信息挖掘的事件网络,在该网络中,关于一个事件的语言单元被组织起来进行分析。该过程分为三个步骤:文档事件检测、事件网络构建和事件网络分析。首先,通过实现事件检测或跟踪,文档被回顾性地(或在线地)组织成文档事件。其次,对于每个文档事件,提取语言单元并组合成事件网络。第三,提出了事件网络分析的各种分析方法。在我们的应用方法,探索开放的信息。
2015-08-30 cs.CL
Staged Linguistic Seeding: Grounded Query Expansion for Verified-Unit QA in AI Contact Centers
OpenMined;MaumAI, Inc.(MaumAI公司)
针对AI客服中心问答的部署约束,提出分阶段语言种子注入(SLS)方法,通过接地槽配方生成查询变体并过滤,提升检索性能,降低不支持回答占比,为相关应用提供研究参考。
2026-09-09 cs.CL cs.IR
BURT: BERT-inspired Universal Representation from Learning Meaningful Segment
Shanghai Jiao Tong University(上海交通大学)
尽管预先训练的语境化语言模型(如BERT)在各种下游任务上取得了显著的性能,但当前的语言表示仍然仅关注特定粒度的语言目标,这在同时涉及多个级别的语言单元时可能不适用。因此,本工作介绍和探讨了普遍的表示学习,即,在统一向量空间中嵌入不同层次的语言单位。我们提出了一个通用的表示模型,BURT(BERT-inspired Universal Representation from learning meaningful segmentT),将不同层次的语言单位编码到同一个向量空间中。具体来说,我们提取和屏蔽有意义的部分的基础上逐点互信息(PMI),将不同的粒度目标到预训练阶段。我们在英语和汉语的数据集上进行了实验,包括GLUE和CLUE基准测试,我们的模型在广泛的下游任务上超越了其基线和替代方案。我们提出了我们的方法来构建类比数据集的单词,短语和句子和实验与多个表示模型,通过任务独立的评估来检查学习向量空间的几何属性。最后,我们在两个真实的文本匹配场景中验证了我们的统一预训练策略的有效性。因此,我们的模型显着优于现有的信息检索(IR)方法,并产生通用的表示,可以直接应用到检索为基础的问答和自然语言生成任务。
2020-12-31 cs.CL
Measuring the Functional Load of Phonological Contrasts
频率计数是衡量一种语言使用一个语言单位(如音素或单词)的程度。然而,重要的往往不是单位本身,而是它们之间的对比。因此,需要一个衡量标准来衡量一种语言对对比的使用程度,即对比的功能负荷(FL)。我们概括了以前的工作在语言学和语音识别,并提出了一个家庭的措施FL的几个语音对比,包括音位对立,独特的功能,超音段,和音韵规则。然后,我们测试它的鲁棒性语料库的变化。最后,我们在历史语言学,语言习得和语音识别的背景下,提供广东话,荷兰语,英语,德语和普通话的例子。更多信息请访问http://dinoj.info/research/fload
2003-11-24 cs.CL
A Multi-layered Acoustic Tokenizing Deep Neural Network (MAT-DNN) for Unsupervised Discovery of Linguistic Units and Generation of High Quality Features
National Taiwan University(台湾大学)
本文总结了作者为Interspeech 2015技术计划中组织的零资源语音挑战所做的工作。挑战的目标是直接从未标记的语音数据中发现语言单位。在这项工作中提出的多层声学标记器(MAT)自动发现多组声学标记从给定的语料库。每个声学标记集由描述模型配置的一组超参数指定。这些声学标记集携带给定语料库的不同特征,因此可以相互加强背后的语言。然后,将多组标记标签用作在低级声学特征上训练的多目标DNN(MDNN)的目标。从MDNN中提取的瓶颈特征被用作MAT和MDNN本身的反馈。我们将该迭代系统称为多层声学标记化深度神经网络(MAT-DNN),其为挑战的轨道1生成高质量特征,并为挑战的轨道2生成声学标记。
2015-06-07 cs.CL cs.LG cs.NE
Tabula nearly rasa: Probing the Linguistic Knowledge of Character-Level Neural Language Models Trained on Unsegmented Text
Stanford University(斯坦福大学);Facebook AI Research(脸书人工智能研究院);UPF Linguistics Department(庞培法布拉大学语言学系)
递归神经网络(RNN)在许多自然语言处理任务中取得了惊人的性能。这重新引起了人们对这些通用序列处理设备是否诱导真正的语言知识的兴趣。然而,几乎所有当前的分析研究都用已知单词的词汇表初始化RNN,并在训练过程中为它们提供标记化的输入。我们提出了一个多语言的语言知识编码的RNN训练字符级语言模型,在输入数据与词边界删除的研究。这些网络面临着一个更艰难、更现实的认知任务,必须根据输入统计数据从头开始发现任何有用的语言单元。结果表明,我们的“near tabula rasa”RNN大多能够解决直观地假设单词级别知识的形态,句法和语义任务,并且确实在某种程度上学会了跟踪单词边界。我们的研究为语言学习和使用中明确的、严格的词汇库的必要性的思考打开了大门。
2019-06-17 cs.CL
CxMP: A Linguistic Minimal-Pair Benchmark for Evaluating Constructional Understanding in Language Models
Nara Institute of Science and Technology(奈良科学技術研究院);National Institute of Informatics(国家信息研究院);The University of Tokyo(东京大学)
CxMP基准通过最小对设计评估语言模型对构式语义关系的理解能力,揭示了大型语言模型在整合形式与意义方面的局限性。
2026-02-25 cs.CL
An Iterative Deep Learning Framework for Unsupervised Discovery of Speech Features and Linguistic Units with Applications on Spoken Term Detection
National Taiwan University(台湾大学)
在这项工作中,我们的目标是发现高质量的语音特征和语言单位直接从无标记的语音数据在零资源的情况下。使用Interspeech 2015组织的零资源语音挑战中提出的指标和语料库对结果进行评估。提出了一种多层声学标记器(MAT),用于从给定的语料库中自动发现多组声学标记。每个声学标记集由描述模型配置的一组超参数指定。这些声学标记集携带了语料库和语言的不同特征,因此可以相互加强。然后,将多组标记标签用作在低级声学特征上训练的多目标深度神经网络(MDNN)的目标。从MDNN中提取的瓶颈特征然后在下一次迭代中用作MAT和MDNN本身的反馈输入。我们将这种迭代深度学习框架称为多层声学标记化深度神经网络(MAT-DNN),它为挑战赛的轨道1生成高质量的语音特征,并为挑战赛的轨道2生成声学标记。此外,我们在相同的语料库上进行了额外的实验,以应用于按实例查询的口语术语检测。实验结果表明,MAT-DNN的迭代深度学习框架由于更好的底层语音特征和声学标记而提高了检测性能。
2016-02-01 cs.CL cs.LG
Towards Language Modelling in the Speech Domain Using Sub-word Linguistic Units
Carnegie Mellon University(卡内基梅隆大学)
文本数据的语言模型(LM)由于其在语言生成和其他下游任务中的有用性而被广泛研究。然而,纯粹在语音领域的语言建模仍然是一个相对未开发的主题,传统的语音LM通常依赖于辅助文本LM来学习语言的分布方面。对于英语语言,这些LM将单词视为原子单位,这对语音领域的语言建模提出了固有的挑战。在本文中,我们提出了一种新的LSTM为基础的生成语音LM的灵感来自CBOW模型,并建立在语言单位,包括音节和音素。这在数据集中的话语之间提供了更好的声学一致性,而不是单个melspectrogram帧或整个单词。由于数据集有限,数量级小于当代生成模型所需的数量级,我们的模型非常接近于咿呀学语。我们展示了辅助文本LM,多任务学习目标和辅助发音功能的训练效果。通过我们的实验,我们还强调了一些众所周知的,但在训练生成语音LM方面缺乏记录的挑战,包括训练这些模型的监督学习目标(如均方误差(MSE))与真实目标(即语音质量)之间的不匹配。我们的实验提供了一个早期的迹象,虽然验证损失和梅尔倒谱系数失真(MCD)与生成的语音质量没有很强的相关性,但传统的文本语言建模指标,如困惑和下一个令牌预测准确性可能是。
2021-10-31 cs.CL cs.LG cs.SD
Representation of linguistic form and function in recurrent neural networks
我们提出了从语言学角度分析RNN激活模式的新方法,并探索了它们学习的语言结构类型。作为一个案例研究,我们使用多任务门控递归网络架构,由两个并行的路径与共享的词嵌入训练预测的视觉场景的表示对应于输入的句子,并预测下一个词在同一个句子。基于我们提出的方法来估计输入中单个令牌对网络最终预测的贡献量,我们表明图像预测路径:a)对句子的信息结构敏感b)有选择地注意携带语义信息的词汇类别和语法功能c)学习根据其在句子中的语法功能来不同地对待相同的输入标记。相比之下,语言模型对具有句法功能的词相对更敏感。此外,我们还提出了一些方法来探索RNN中各个隐藏单元的功能,并表明我们案例研究中的架构的两条路径包含专门的单元,这些单元被调整到为任务提供信息的模式,其中一些可以将激活携带到稍后的时间步以编码长期依赖性。
2016-06-08 cs.CL cs.LG
Morphological and Language-Agnostic Word Segmentation for NMT
Charles University(查理大学)
在神经机器翻译(NMT)中处理丰富形态学的最新技术是将单词形式分解为子单词单元,以便这些单元的总体词汇量符合NMT模型和GPU内存容量给出的实际限制。在本文中,我们比较了两种常见的但在语言上不知情的子词构造方法(BPE和STE,在Tensor2Tensor工具包中实现的方法)和两种语言动机的方法:Morfessor和一种基于派生词典的新方法。我们的实验与德语到捷克语的翻译,都形态丰富,文件,到目前为止,非动机的方法表现得更好。此外,我们确定了BPE和STE之间的关键区别,并为BPE显示了一个简单的预处理步骤,该步骤可以显著提高翻译质量,并通过自动测量进行评估。
2018-06-14 cs.CL
Indicatements that character language models learn English morpho-syntactic units and regularities
University of Copenhagen(哥本哈根大学);University of Edinburgh(爱丁堡大学)
字符语言模型可以访问表面形态模式,但尚不清楚它们是否或如何学习抽象的形态规则。我们仪器的字符语言模型与几个探针,发现它可以开发一个特定的单元来识别单词的边界,并通过扩展,语素的边界,这使得它能够捕捉这些单位的语言属性和语义。我们的语言模型被证明在识别英语派生词素的选择限制方面出奇的好,这是一项需要形态和句法意识的任务。因此,我们得出结论,当语素与语言中的单词广泛重叠时,字符语言模型可以执行形态抽象。
2018-08-31 cs.CL
Pre-training Universal Language Representation
Shanghai Jiao Tong University(上海交通大学)
尽管语言的表示学习已经发展得相当成熟,但大多数语言表示模型通常只关注语言单位的特定层次。这项工作介绍了通用语言表示学习,即,在统一的向量空间中嵌入不同层次的语言单位或具有不同长度的文本。我们提出的训练目标MiSAD,利用有意义的n-gram提取大型未标记的语料库,通过一个简单但有效的算法预训练语言模型。通过实验验证了设计良好的预训练方案可以有效地产生通用的语言表示,这将为统一处理多层语言对象带来极大的便利。特别是,我们的模型在不同语言水平的类比任务上达到了最高的准确率,并显着提高了GLUE基准测试和问答数据集的下游任务的性能。
2021-05-30 cs.AI cs.CL
Human-like Linguistic Biases in Neural Speech Models: Phonetic Categorization and Phonotactic Constraints in Wav2Vec2.0
Institute for Logic, Language and Computation, University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所)
本文借鉴人类语音感知实验,通过/l/-/r/声学连续体受控刺激研究Wav2Vec2如何解析音位配列约束,发现模型在早期Transformer层即表现出类人的音位配列可接受性偏见,且ASR微调会放大该效应。
2024-07-03 cs.AI cs.CL cs.SD
Multiple Range-Restricted Bidirectional Gated Recurrent Units with Attention for Relation Classification
Pohang University of Science and Technology (POSTECH)(浦项科技大学)
大多数神经网络的关系分类方法都集中在使用卷积神经网络(CNN)来寻找表示语义关系的短模式,并且这些方法通常比使用递归神经网络(RNN)获得更好的性能。在与CNN模型类似的直觉中,我们提出了一种新的基于RNN的模型,该模型使用多个范围限制的双向层和对关系分类的关注,只关注句子的重要部分。SemEval-2010关系分类任务的实验结果表明,我们的模型与使用额外语言信息的最先进的基于CNN和基于RNN的模型相当。
2017-11-01 cs.CL
Are word boundaries useful for unsupervised language learning?
ENS(巴黎高等师范学院);INRIA(法国国家信息与自动化研究所);INSERM(法国国家健康与医学研究院);UPEC(巴黎东克雷泰伊大学);PSL Research University(巴黎文理研究大学);Meta AI
在许多下游应用中,基于单词或单词片段的语言模型(LM)通常优于基于字符的语言模型。这可能并不奇怪,因为单词似乎比字符更具有语言相关性。词至少提供两种相关信息:边界信息和意义单位。然而,在语音输入的情况下,单词边界信息可能不存在或不可靠(单词边界在语音流中没有明确标记)。在这里,我们系统地比较LSTM作为输入设备(字符,音素,单词,单词部分)的函数,有或没有黄金边界信息。我们使用三个语音适应黑盒NLP心理语言学激励基准(pWUGGY,pBLIMP,pSIMI)在词汇,句法和语义层面上探索网络中的语言知识。我们发现,根据任务的不同,没有边界会使相对绩效损失2%~ 28%。我们表明,黄金边界可以被自动发现的无监督分割算法获得的,即使是适度的分割性能给出了三个任务中的两个相比,基本的字符/电话为基础的模型没有边界信息的性能增益。
2022-10-06 cs.CL
SpidR: Learning Fast and Stable Linguistic Units for Spoken Language Models Without Supervision
ENS-PSL, EHESS, CNRS(ENS-PSL、EHESS、CNRS);FAIR at Meta(Meta的FAIR)
SpidR通过自监督学习高效语音表示,提升无监督语音语言建模性能,减少预训练时间
2025-12-26 cs.CL cs.SD eess.AS
Using Sociolinguistic Variables to Reveal Changing Attitudes Towards Sexuality and Gender
Columbia University(哥伦比亚大学)
个人通过语言选择来表达他们的身份和信仰。对这些选择的总体研究使我们能够研究人口中大规模的态度转变。在这里,我们开发计算方法来研究社会语言学词汇变量中的单词选择-用于表达同一概念的替代词-以测试美国对性和性别的变化。我们检查两个变量:i)指的是重要的其他人,如“伴侣”一词,ii)指的是一个不确定的人,两者都可以选择性地标记性别。每个变量中的语言选择使我们能够分别研究同性婚姻和性别平等接受率的增加。在对Twitter和Reddit超过8700万条消息的纵向分析中,我们证明了态度正在发生变化,但这些变化是由美国特定的人口统计数据驱动的。此外,在准因果分析,我们表明,在不同的国家的婚姻平等法案的通道是语言变化的驱动程序。
2021-09-22 cs.CL cs.CY
Topic Classification on Spoken Documents Using Deep Acoustic and Linguistic Features
National Engineering Laboratory for Speech and Language Information Processing(语音及语言信息处理国家工程实验室);University of Science and Technology of China(中国科学技术大学)
口语文档的主题分类系统通常由两个模块组成:将语音转换为文本的自动语音识别(ASR)模块和从解码的文本预测主题类的文本主题分类(TTC)模块。在本文中,而不是使用的ASR成绩单,深层声学和语言特征的融合用于口语文档的主题分类。更具体地,首先训练使用音素作为输出单元的传统的基于CTC的声学模型(AM),并且将训练的AM中的线性音素分类器之前的层的输出用作口语文档的深度声学特征。此外,这些深层声学特征被馈送到音素到词(P2W)模块以获得深层语言特征。最后,提出了一个局部多头注意力模块,融合这两类深度特征进行主题分类。在Switchboard语料库中的一个子集上进行的实验表明,我们提出的框架优于传统的ASR + TTC系统,并在ACC上实现了3.13%的提高。
2021-06-16 cs.CL cs.SD eess.AS
Hierarchical Conditional End-to-End ASR with CTC and Multi-Granular Subword Units
Waseda University(早稻田大学)
在端到端的自动语音识别(ASR)中,期望模型隐式地学习适于识别单词级序列的表示。然而,输入声学信号和输出语言标记之间的巨大抽象差距使得模型学习表示具有挑战性。在这项工作中,以促进端到端ASR的词级表征学习,我们提出了一个分层的条件模型,是基于连接主义的时间分类(CTC)。我们的模型是通过应用于中间层的辅助CTC损失来训练的,其中每个目标子词序列的词汇量随着层变得接近单词级输出而逐渐增加。在这里,我们使每个级别的序列预测显式地以在较低级别预测的先前序列为条件。与所提出的方法,我们希望所提出的模型,学习词级表示有效地利用层次结构的语言。在LibriSpeech-{100 h,960 h}和TEDLIUM 2上的实验结果表明,该模型优于标准CTC模型和其他竞争模型。我们进一步分析了结果,以确认我们的模型预期的表征学习的有效性。
2022-02-08 cs.CL eess.AS
Can phones, syllables, and words emerge as side-products of cross-situational audiovisual learning? -- A computational investigation
Tampere University(坦佩雷大学);Aalto University(阿尔托大学)
本研究提出潜在语言假说,通过视听跨情境学习的神经网络模拟,探究音位、音节和单词等语言单位能否作为跨模态语音理解的潜在表征自发涌现。
2024-03-06 cs.AI cs.CL cs.CV
Evolving linguistic divergence on polarizing social media
Tallinn University(塔林大学);Estonian Business School(爱沙尼亚商学院);Newcastle University(纽卡斯尔大学)
本研究利用社交媒体数据,通过关注新闻媒体账户界定用户政治偏好,量化美国左右派在话题、情感及词汇语义上的语言分歧,提出通用方法,可推广至其他语言和平台。
2023-09-04 cs.CL cs.SI
Learning Word-Like Units from Joint Audio-Visual Analysis
Computer Science and Artificial Intelligence Laboratory(计算机科学与人工智能实验室);Massachusetts Institute of Technology(麻省理工学院)
给定一个图像和语音字幕的集合,我们提出了一种方法,用于发现连续语音信号中的单词状声学单元,并将它们接地到语义相关的图像区域。例如,我们的模型能够检测话语中单词“灯塔”的口语实例,并将它们与包含灯塔的图像区域相关联。我们不使用任何形式的传统自动语音识别,也不使用任何文本翻译或传统的语言注释。我们的模型有效地实现了一种形式的口语习得,其中计算机不仅学习通过声音识别单词类别,而且还通过将它们置于图像中来丰富它学习的单词的语义。
2017-05-24 cs.CL cs.CV
Automatic Speech Recognition in Sanskrit: A New Speech Corpus and Modelling Insights
IIT Bombay(孟买印度理工学院);University of Cambridge(剑桥大学);IIT Kharagpur(卡哈拉格普尔印度理工学院)
梵语的自动语音识别(ASR)是一个有趣的课题,因为梵语具有多种语言特性。梵语在词汇上是多产的,在词的边界上经历了音素的悦耳同化,在拼写惯例和发音上表现出变化。在这项工作中,我们提出了第一个大规模的研究自动语音识别(ASR)在梵语,强调单位选择的影响,在梵语ASR。在这项工作中,我们发布了一个78小时的梵语ASR数据集,它忠实地捕捉了该语言所表达的几个语言特征。我们调查的作用,不同的声学模型和语言模型单位在梵语的ASR系统。我们还提出了一个新的建模单元,灵感来自音节级单元选择,捕获字符序列从一个元音在单词中的下一个元音。我们还强调了选择梵文的字形表示的重要性,并显示这种选择对单词错误率(WER)的影响。最后,我们扩展了这些见解,从梵语ASR的建设ASR系统在其他两个印度语言,古吉拉特语和泰卢固语。对于这两种语言,我们的实验结果表明,在ASR中使用基于语音的字形表示的结果相比,使用本机脚本的ASR系统的性能提高。
2021-07-23 cs.CL cs.LG cs.SD
Ordinal analysis of lexical patterns
Institute for Cross-Disciplinary Physics and Complex Systems IFISC (UIB-CSIC)(跨学科物理与复杂系统研究所IFISC(巴利阿里群岛大学-西班牙国家研究委员会));Centro de Investigaciones Ópticas (CONICET La Plata-CIC-UNLP)(光学研究中心(拉普拉塔国家科学技术研究委员会-拉普拉塔文化与科学研究中心-拉普拉塔国立大学));Departamento de Ciencias Básicas, Facultad de Ingeniería, Universidad Nacional de La Plata (UNLP)(拉普拉塔国立大学工程学院基础科学系)
词是基本的语言单位,通过意义连接思想和事物。然而,单词不会在文本序列中独立出现。句法规则的存在导致相邻词之间的相关性。使用顺序模式的方法,我们提出了一个分析的词汇统计连接的11种主要语言。我们发现,语言表达词语关系的不同方式产生了独特的模式结构分布。此外,这些模式分布的波动对于一个给定的语言可以让我们确定的历史时期,当文本被写入和它的作者。总之,我们的研究结果强调有序时间序列分析在语言类型学,历史语言学和文体学的相关性。
2023-03-14 cond-mat.stat-mech cs.CL physics.soc-ph