Dynamic Adaptive Attention and Supervised Contrastive Learning: A Novel Hybrid Framework for Text Sentiment Classification
University of California, Los Angeles(加州大学洛杉矶分校)
本文提出一种结合动态自适应注意力与监督对比学习的混合框架,用于提升文本情感分类的准确性,实验表明其在IMDB数据集上达到94.67%的准确率,优于现有基线模型。
2026-04-12 cs.CL
Task-Adaptive Pre-Training for Boosting Learning With Noisy Labels: A Study on Text Classification for African Languages
Saarland University(萨尔兰大学)
对于像英语这样的高资源语言,文本分类是一项经过充分研究的任务。现代NLP模型的性能很容易在英语文本分类的许多标准数据集中达到90%以上的准确度(Xie et al.,2019年; Yang等人,2019; Zaheer等人,2020年)。然而,由于缺乏注释数据,低资源语言的文本分类仍然具有挑战性。虽然弱监督和众包等方法可以帮助缓解标注瓶颈,但这些方法获得的标注包含标签噪声。使用标签噪声训练的模型可能无法很好地泛化。为此,已经提出了各种噪声处理技术来减轻由注释中的错误引起的负面影响(对于广泛的调查,参见(Hedderich等人,2021; Algan & Ulusoy,2021))。在这项工作中,我们实验了一组标准的噪声处理方法的文本分类任务与嘈杂的标签。我们研究了弱监管引起的模拟噪声和现实噪声。此外,我们发现任务自适应预训练技术(Gururangan等人,2020)对于带噪声标签的学习是有益的。
2022-06-03 cs.CL
Adaptive Meta-learner via Gradient Similarity for Few-shot Text Classification
Sichuan University(四川大学);The University of Adelaide(阿德莱德大学)
针对小样本文本分类中因样本与模型不匹配及特征区分不足导致的过拟合问题,提出基于梯度相似性的自适应元学习器(AMGS),通过内循环自监督辅助任务与外循环梯度约束提升模型泛化能力,实验证明其性能优于现有方法。
2023-07-28 cs.CL
Domain-Adaptive Text Classification with Structured Knowledge from Unlabeled Data
Peking University(北京大学);University of California, Berkeley(加州大学伯克利分校);Sun Yat-sen University(中山大学)
领域自适应文本分类对于大规模预训练语言模型来说是一个具有挑战性的问题,因为它们通常需要昂贵的额外标记数据来适应新的领域。现有的作品通常无法利用跨域词之间的隐含关系。在本文中,我们提出了一种新的方法,称为领域自适应与结构化知识(DASK),提高领域自适应,利用词级语义关系。DASK首先构建一个知识图谱,以捕获目标领域中的枢轴术语(领域独立词)和非枢轴术语之间的关系。然后在训练过程中,DASK将相关的知识图谱信息注入到源领域文本中。对于下游任务,这些知识注入的文本被馈送到能够处理知识注入的文本数据的BERT变体中。由于知识注入,我们的模型根据非枢轴与枢轴的关系学习非枢轴的域不变特征。DASK通过在使用伪标签进行训练期间通过候选枢轴的极性得分动态推断来确保枢轴具有域不变行为。我们在广泛的跨域情感分类任务上验证了DASK,并观察到20个不同域对的绝对性能比基线提高了高达2.9%。代码将在https://github.com/hikaru-nara/DASK上提供。
2022-06-20 cs.CL
Depth-Adaptive Graph Recurrent Network for Text Classification
Beijing Jiaotong University(北京交通大学);Pattern Recognition Center, WeChat AI, Tencent Inc(腾讯公司微信人工智能模式识别中心)
S-LSTM是一种强大而高效的图递归网络,它将单词视为节点,并同时在它们之间执行逐层递归步骤。尽管S-LSTM在文本表示方面取得了成功,但它仍然存在两个缺点。首先,给定一个句子,某些单词通常比其他单词更模糊,因此需要对这些困难的单词采取更多的计算步骤,反之亦然。然而,S-LSTM对所有单词都采取固定的计算步骤,而不管它们的硬度如何。第二个原因是缺乏顺序信息(例如,词序),这对于自然语言是固有的重要。在本文中,我们试图解决这些问题,并为S-LSTM提出了一种深度自适应机制,该机制允许模型根据需要学习为不同的单词进行多少计算步骤。此外,我们还集成了一个额外的RNN层来注入顺序信息,这也可以作为自适应深度决策的输入特征。经典文本分类任务(24个不同大小和领域的数据集)的结果表明,我们的模型相对于传统的S-LSTM和其他高性能模型(例如,Transformer),同时实现了良好的精度-速度平衡。
2020-02-29 cs.CL
TART: Improved Few-shot Text Classification Using Task-Adaptive Reference Transformation
Virginia Tech(弗吉尼亚理工大学);Microsoft(微软)
针对少样本文本分类中现有元学习方法难以区分语义相似类的问题,提出TART网络,通过任务自适应度量空间的类原型变换与判别正则化增强泛化,在四个基准数据集上取得SOTA,20 Newsgroups上1/5-shot分别提升7.4%、5.4%。
2023-06-03 cs.CL
Hierarchy-Aware T5 with Path-Adaptive Mask Mechanism for Hierarchical Text Classification
University of Science and Technology of China(中国科学技术大学);NetEase Media Technology (Beijing) Co., Ltd(网易传媒科技(北京)有限公司)
层次文本分类(HTC)是自然语言处理中一个重要的研究课题,其目的是预测文本在层次空间中的标注。现有的方法通常对整个层次结构进行编码,无法构建一个强大的标签依赖模型,因此很难对稀疏的低级别标签进行准确预测,并实现较低的Macro-F1。本文提出了一种新的用于HTC的PAMM-HiA-T5模型:具有路径自适应掩码机制的层次感知T5模型,不仅将上层标签的知识构建到下层标签中,而且在标签预测中引入路径依赖信息。具体来说,我们生成一个多层次的顺序标签结构,利用不同级别的层次依赖与广度优先搜索(BFS)和T5模型。为了进一步提高每个路径内的标签依赖预测,我们提出了一个原始的路径自适应掩码机制(PAMM)来识别标签的路径信息,消除来自其他路径的噪声源。在三个基准数据集上的综合实验表明,我们的新PAMM-HiA-T5模型大大优于所有最先进的HTC方法,特别是在Macro-F1中。消融研究表明,改善主要来自我们的创新方法,而不是T5。
2021-09-17 cs.AI cs.CL
Handling Imbalanced Dataset in Multi-label Text Categorization using Bagging and Adaptive Boosting
Institut Teknologi Bandung(万隆理工学院)
不平衡的数据集是由于现实世界中可用的数据分布不均匀而发生的,例如对万隆政府办公室投诉的处理。因此,多标签文本分类算法可能不会产生最好的性能,因为分类器往往会被大多数数据所拖累,而忽略少数数据。本文采用Bagging和Adaptive Boosting算法来解决这个问题,提高文本分类的性能。采用汉明损失、子集准确度、基于实例的准确度和微平均f-测度等四个评价指标对结果进行评价。采用SMO弱分类器的Bagging ML-LP在子集准确率和基于示例的准确率方面表现最好。采用SMO弱分类器对ML-BR进行Bagging具有最好的微平均f-测度。另一方面,AdaBoost MH与J 48弱分类器具有最低的汉明损失值。因此,这两种算法在提高文本分类性能方面都有很大的潜力,但仅适用于某些弱分类器。然而,在提高少数标签的准确性方面,bagging比adaptive boosting更具潜力。
2019-06-11 cs.CL cs.LG
BiSparse-AAS: Bilinear Sparse Attention and Adaptive Spans Framework for Scalable and Efficient Text Summarization
Howard University(霍华德大学);University of Oslo(奥斯陆大学);KTH Royal Institute of Technology(皇家理工学院)
本文提出BiSparse-AAS框架,结合稀疏注意力、自适应跨度和双线性注意力,解决Transformer长文档摘要计算复杂度高的问题,在多个基准上显著提升ROUGE指标并提供高效实用的解决方案。
2025-10-31 cs.CL cs.LG
Semi-Supervised QA with Generative Domain-Adaptive Nets
Carnegie Mellon University(卡内基梅隆大学)
研究了半监督问答问题-利用未标记文本来提高问答模型的性能。我们提出了一个新的训练框架,生成域自适应网络。在这个框架中,我们训练一个生成模型来生成基于未标记文本的问题,并结合模型生成的问题和人工生成的问题来训练问答模型。我们开发了新的领域自适应算法,基于强化学习,以减轻模型生成的数据分布和人类生成的数据分布之间的差异。实验表明,我们提出的框架获得了显着的改善,从未标记的文本。
2017-04-22 cs.CL cs.LG
$\textbf{AGT$^{AO}$}$: Robust and Stabilized LLM Unlearning via Adversarial Gating Training with Adaptive Orthogonality
School of Computer Science and Technology, Xi’an Jiaotong University, China(西安交通大学计算机科学与技术学院);MOE KLINNS Lab, Xi’an Jiaotong University, China(西安交通大学MOE KLINNS实验室);Shaanxi Province Key Laboratory of Big Data Knowledge Engineering, China(陕西省大数据知识工程重点实验室)
AGT$^{AO}$通过对抗门控训练与自适应正交性,实现LLM反向学习的鲁棒性和实用性平衡。
2026-02-02 cs.CL cs.LG
Towards Solving Text-based Games by Producing Adaptive Action Spaces
McGill University(麦吉尔大学);Microsoft Research(微软研究院)
为了解决基于文本的游戏,智能体需要为给定的上下文制定有效的文本命令,并找到导致成功的文本命令。最近用深度强化学习解决基于文本的游戏的尝试集中在后者,即,学习在事先知道有效行动时采取最佳行动。在这项工作中,我们建议解决第一个任务和训练一个模型,生成一组所有有效的命令,为给定的上下文。我们在Textworld生成的数据集上尝试了三种生成模型。最好的模型可以生成在训练时看不到的有效命令,并在测试集上获得高的$F_1$分数。
2018-12-03 cs.CL cs.LG stat.ML
An Adaptive Deep Clustering Pipeline to Inform Text Labeling at Scale
Verint Systems Inc.(Verint系统公司)
从大量自然语言输入中挖掘潜在意图是帮助数据分析师设计和改进客户服务和销售支持智能虚拟助理(IVA)的关键步骤。我们在Verint Intent Manager(VIM)中创建了一个灵活且可扩展的聚类管道,该管道集成了语言模型的微调、高性能k-NN库和社区发现技术,可帮助分析师快速从会话文本中呈现和组织相关用户意图。微调步骤是必要的,因为预先训练的语言模型不能编码文本,以有效地表面特定的聚类结构时,目标文本是从一个看不见的领域或聚类任务不是主题检测。我们描述了管道,并展示了它的性能和能力的规模在三个现实世界的文本挖掘任务。在VIM应用程序中部署时,此群集管道可生成高质量的结果,从而提高数据分析师的性能,并减少从客户服务数据中揭示意图所需的时间,从而减少在新域中构建和部署IVA所需的时间。
2022-07-26 cs.CL cs.LG
Par4Sim -- Adaptive Paraphrasing for Text Simplification
Universität Hamburg(汉堡大学)
从真实世界的数据流中学习并在没有显式监督的情况下持续更新模型,对于具有机器学习组件的NLP应用程序来说是一个新的挑战。在这项工作中,我们已经开发了一个自适应学习系统的文本简化,提高了底层的学习排名模型从使用数据,即用户如何使用系统的任务简化。我们的实验结果表明,在一段时间内,嵌入式释义排名模型的性能稳步上升,从62.88%的分数提高到75.70%的NDCG@10的评估指标。据我们所知,这是第一个通过使用自适应地改进NLP组件的研究。
2018-06-21 cs.CL
Domain Adaptive Text Style Transfer
University of Washington(华盛顿大学);Microsoft Research(微软研究院);Microsoft Dynamics 365 AI Research(微软Dynamics 365人工智能研究院)
无需并行数据的文本风格转换已经取得了一些实际成功。然而,在可用数据较少的情况下,这些方法可能会产生较差的性能。在本文中,我们研究领域自适应的文本风格转移,利用大量可用的数据从其他领域。这些数据可能表现出领域转移,这阻碍了利用这些数据进行训练的益处。为了解决这一挑战,我们提出了简单而有效的域自适应文本样式传输模型,使域自适应信息交换。所提出的模型可能从源域学习:(i)区分风格化信息和通用内容信息;(ii)最大限度地保留内容信息;以及(iii)以域感知的方式自适应地传输样式。我们评估两个风格的转移任务(情感和形式)在多个目标领域,只有有限的非并行数据可用的模型。大量的实验证明了该模型的有效性相比,基线。
2019-08-25 cs.CL
Adaptive Knowledge Distillation between Text and Speech Pre-trained Models
Alibaba Group(阿里巴巴集团);Nanyang Technological University(南洋理工大学)
在大量语音语料库上学习导致了许多自监督语音模型最近的成功。通过知识蒸馏,这些模型还可以受益于由语言模型编码的知识,这些语言模型是在丰富的文本源上预先训练的。然而,由于文本和语音嵌入空间之间的模态差异,蒸馏过程具有挑战性。本文研究了基于度量的提取方法,在不改变模型结构的情况下,利用少量数据对齐文本和语音的嵌入空间。由于文献中忽略了文本和语音之间的语义和粒度差距,这损害了蒸馏,我们提出了先验信息自适应知识蒸馏(PAD),自适应地利用可变粒度和先验分布的文本/语音单元,以实现文本和语音预训练模型之间更好的全局和局部对齐。我们对三个口语语言理解基准进行了评估,结果表明,PAD在传递语言知识方面比其他基于度量的蒸馏方法更有效。
2023-03-07 cs.CL cs.LG cs.SD
Text Generation with Exemplar-based Adaptive Decoding
Google AI Language(谷歌AI语言团队);University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学)
我们提出了一个新的条件文本生成模型。它从传统的基于模板的文本生成技术中汲取灵感,其中源提供内容(即,在成功的编码器-解码器范例的基础上,它首先对来自给定输入文本的内容表示进行编码;为了产生输出,它从训练数据中检索样本文本作为“软模板”,然后将其用于构建样本特定的解码器。我们评估所提出的模型抽象的文本摘要和数据到文本生成。实证结果表明,该模型实现了强大的性能,优于可比基线。
2019-04-10 cs.CL
Adaptive Text Watermark for Large Language Models
University of Florida(佛罗里达大学)
本文提出一种自适应文本水印策略,通过辅助模型对高熵token分布加水印,并利用语义映射模型按比例调整输出logits,在保持文本质量的同时实现安全、鲁棒且无需提示或模型先验知识的水印检测。
2024-06-09 cs.CL
Neural Mask Generator: Learning to Generate Adaptive Word Maskings for Language Model Adaptation
KAIST(韩国科学技术院);AITRICS(艾崔克斯)
我们提出了一种方法来自动生成一个域和任务自适应掩码的自监督预训练的给定文本,这样我们就可以有效地适应特定的目标任务(例如问答)的语言模型。具体而言,我们提出了一种新的基于强化学习的框架,该框架学习掩蔽策略,使得使用生成的掩码对目标语言模型进行进一步的预训练有助于提高对未见过文本的任务性能。我们使用非策略的actor-critic与熵正则化和经验重放进行强化学习,并提出了一个基于transformer的策略网络,可以考虑给定文本中单词的相对重要性。我们使用BERT和DistilBERT作为语言模型,通过自动学习最佳自适应掩码,在几个问答和文本分类数据集上验证了我们的神经掩码生成器(NMG),在这些数据集上,它优于基于规则的掩码策略。
2020-10-06 cs.AI cs.CL cs.LG
Improving Open-Ended Text Generation via Adaptive Decoding
Shanghai Jiao Tong University(上海交通大学)
本研究提出自适应解码机制,通过基于熵的置信度指标动态确定候选词元集,在平衡生成多样性与连贯性的同时提升了文本质量与模型推理能力。
2024-06-03 cs.CL
Adaptive Contrastive Search: Uncertainty-Guided Decoding for Open-Ended Text Generation
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出自适应对比搜索解码策略,通过模型每一步的估计不确定性引导自适应退化惩罚,在提升文本生成创造性与多样性的同时保持连贯性和高质量。
2024-10-21 cs.CL cs.LG stat.ME
Text-Adaptive Multiple Visual Prototype Matching for Video-Text Retrieval
Sun Yat-sen University(中山大学);HKUST (Guangzhou)(香港科技大学(广州));Tencent Youtu Lab(腾讯优图实验室);Zhejiang University(浙江大学)
随着视频在网络上的迅速出现,视频和文本之间的跨模态检索得到了越来越多的研究兴趣。通常,视频包含丰富的实例和事件信息,并且查询文本仅描述部分信息。因此,视频可以对应于多个不同的文本描述和查询。我们称这种现象为“视频-文本对应歧义”问题。当前的技术主要集中于挖掘视频内容和文本之间的局部或多级对齐(\textit{e.g.},对象到实体和动作到动词)。这些方法很难通过仅使用单个特征来描述视频来减轻视频-文本对应的歧义,这需要同时与多个不同的文本特征进行匹配。为了解决这个问题,我们提出了一个文本自适应多视觉原型匹配模型,自动捕获多个原型来描述一个视频的自适应聚合的视频令牌功能。给定一个查询文本,通过最相似的原型来确定相似度,以找到视频中的对应关系,这被称为文本自适应匹配。为了学习不同的原型来表示视频中的丰富信息,我们提出了一个方差损失,以鼓励不同的原型参加不同的视频内容。我们的方法在四个公共视频检索数据集上的性能优于最先进的方法。
2022-09-27 cs.CL cs.CV cs.IR
Augmented Transformers with Adaptive n-grams Embedding for Multilingual Scene Text Recognition
Guangdong University of Foreign Studies(广东外语外贸大学);Bielefeld University(比勒费尔德大学);East China University of Science and Technology(华东理工大学)
虽然视觉Transformer已经非常成功地提高了基于图像的任务中的性能,没有太多的工作已经报道了应用Transformers的多语言场景文本识别由于在视觉外观的复杂性,多语言文本。为了填补这一空白,本文提出了一个增强的Transformer架构与n-gram嵌入和跨语言校正(TANGER)。TANGER由一个主Transformer和一个辅助Transformer组成,前者具有视觉图像的单块嵌入,后者具有自适应n-gram嵌入,旨在灵活地探索相邻视觉块之间的潜在相关性,这对于从多语言场景文本中提取特征提取至关重要。跨语言校正是通过一个损失函数来实现的,该函数同时考虑了语言识别和上下文连贯性评分。广泛的比较研究进行了四个广泛使用的基准数据集,以及一个新的多语言场景文本数据集,包含印尼语,英语和中文收集的旅游场景在印尼。我们的实验结果表明,TANGER是相当好的相比,国家的最先进的,特别是在处理复杂的多语言场景文本。
2023-02-28 cs.CL
EASE: Entropy-Adaptive Distribution Shaping for Evading AI-generated Text Detectors
University of Macau(澳门大学)
提出EASE框架,利用源LLM的预测熵自适应调整解码分布,无需训练或检测器反馈即可有效规避AI文本检测器,且保持文本质量与推理效率。
2026-10-08 cs.CL
Robust Representation Learning with Reliable Pseudo-labels Generation via Self-Adaptive Optimal Transport for Short Text Clustering
Zhejiang University(浙江大学)
本文提出RSTC模型,通过自适应最优传输生成可靠伪标签,并结合类别级与实例级对比学习,提升短文本聚类在不平衡和噪声数据下的鲁棒性。
2023-05-23 cs.AI cs.CL cs.LG
Adaptive Testing for Segmenting Watermarked Texts From Language Models
Department of Statistics Texas A&M University(统计学系德克萨斯A&M大学);Department of Statistics Beijing Normal University at Zhuhai(统计学系北京师范大学珠海分校)
本文提出一种自适应测试框架,通过推广似然检测方法并适配逆变换采样,在无需精确提示估计的情况下实现对混合文本中水印与非水印子串的准确分割,实验验证了其有效性与稳健性。
2025-11-10 cs.CL cs.LG stat.ML
DP-MGTD: Privacy-Preserving Machine-Generated Text Detection via Adaptive Differentially Private Entity Sanitization
Nanyang Technological University(南洋理工大学);The Hong Kong Polytechnic University(香港理工大学);University of Science and Technology of China(中国科学技术大学);Peking University(北京大学);Hengxin Tech(恒心科技)
DP-MGTD通过自适应差分隐私实体净化技术,在保障隐私的前提下实现对机器生成文本的高精度检测。
2026-07-30 cs.CL cs.CR cs.LG
Adaptive Feature Abstraction for Translating Video to Text
Duke University(杜克大学);NEC Laboratories America(NEC美国实验室)
以前的视频描述模型通常使用卷积神经网络(CNN)特定层的输出作为视频特征。然而,视频中的可变上下文相关语义可以使得从多个CNN层自适应地选择特征更合适。我们提出了一种新的方法来生成自适应时空表示的字幕任务的视频。开发了一种新的注意力机制,该机制自适应地并顺序地关注CNN特征的不同层(特征“抽象”的级别),以及每层特征图的局部时空区域。该方法在三个基准数据集上进行了评估:YouTube 2 Text,M-VAD和MSR-VTT。随着可视化的结果和模型的工作原理,这些实验定量地证明了所提出的自适应时空特征提取的有效性,用于将视频翻译成具有丰富语义的句子。
2017-11-17 cs.CL cs.CV
PREADD: Prefix-Adaptive Decoding for Controlled Text Generation
UC Berkeley(加州大学伯克利分校)
PREADD 通过对比原始提示与带前缀提示的输出 logits 实现无需外部模型的受控文本生成,在毒性缓解、去偏和情感控制任务上相对增益超 12%。
2023-07-06 cs.CL
AGENT-X: Adaptive Guideline-based Expert Network for Threshold-free AI-generated teXt detection
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Information Management Department, Peking University(北京大学信息管理系)
针对现有AI生成文本检测依赖标注数据和阈值、可解释性与零样本效果受限的问题,提出受语言学启发的零样本多智能体框架AGENT-X,通过多维度准则评估、置信度聚合与自适应路由,在准确率、可解释性和泛化性上优于现有方法。
2025-05-21 cs.CL
Bootstrapping non-parallel voice conversion from speaker-adaptive text-to-speech
SOKENDAI (The Graduate University for Advanced Studies)(综合研究大学院大学(高等研究型大学));National Institute of Informatics(国立信息学研究所);The University of Edinburgh(爱丁堡大学)
语音转换(VC)和文本转语音(TTS)是共享类似目标的两个任务,即生成具有目标语音的语音。然而,它们通常是在截然不同的框架下独立开发的。在本文中,我们提出了一种方法来引导VC系统从一个预先训练的说话人自适应TTS模型和统一的技术,以及这两个任务的解释。此外,通过将大量的数据需求卸载到TTS模型的训练阶段,我们的VC系统可以使用少量的目标说话人语音数据来构建。它还开辟了使用一种看不见的外国语言来构建系统的可能性。我们的主观评价表明,所提出的框架不仅能够在标准的语言内的情况下实现有竞争力的性能,但也适应和转换使用语音话语在一个看不见的语言。
2019-09-14 cs.CL cs.LG cs.SD
H-STAR: LLM-driven Hybrid SQL-Text Adaptive Reasoning on Tables
Virginia Tech(弗吉尼亚理工大学);Arizona State University(亚利桑那州立大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出LLM驱动的H-STAR算法,通过两阶段过程结合符号与语义推理进行表格推理,在多个数据集上显著优于现有方法。
2025-04-07 cs.AI cs.CL cs.DB
Text-to-SQL as Dual-State Reasoning: Integrating Adaptive Context and Progressive Generation
School of Computer Science, Guangdong University of Technology(广东工业大学计算机科学学院);College of Science, Shantou University(汕头大学科学学院);Peng Cheng Laboratory(鹏城实验室)
DSR-SQL通过双状态推理框架整合自适应上下文和渐进生成,提升文本到SQL的执行准确率。
2025-11-26 cs.CL
Towards Lightweight, Adaptive and Attribute-Aware Multi-Aspect Controllable Text Generation with Large Language Models
Alibaba International Digital Commerce(阿里巴巴国际数字商业);Southern University of Science and Technology(南方科技大学)
针对LoRA控制不足、FFT成本高且易过拟合以及单方面数据分布差异等问题,提出轻量级自适应属性感知框架,动态调整参数实现多方面可控文本生成并取得SOTA效果。
2025-02-19 cs.CL
Meta-StyleSpeech : Multi-Speaker Adaptive Text-to-Speech Generation
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);AITRICS
随着神经文本转语音(TTS)模型的快速发展,个性化语音生成现在在许多应用中具有很高的需求。为了实用性,TTS模型应该仅用来自给定说话者的几个音频样本生成高质量的语音,这些音频样本的长度也很短。然而,现有的方法要么需要微调的模型或实现低适应质量没有微调。在这项工作中,我们提出了StyleSpeech,一个新的TTS模型,不仅合成高质量的语音,但也有效地适应新的扬声器。具体来说,我们提出了风格自适应层归一化(SALN),它根据从参考语音音频中提取的风格来调整文本输入的增益和偏差。与SALN,我们的模型有效地合成语音的风格的目标扬声器,甚至从单一的语音音频。此外,为了增强StyleSpeech对新演讲者语音的适应性,我们通过引入两个用风格原型训练的判别器并进行情景训练来将其扩展到元StyleSpeech。实验结果表明,我们的模型生成高质量的语音,准确地遵循说话人的声音与单一的短持续时间(1-3秒)的语音音频,显着优于基线。
2021-06-16 cs.CL cs.LG cs.SD
Improving Semantic Matching through Dependency-Enhanced Pre-trained Model with Adaptive Fusion
Tianjin University(天津大学);Meituan Inc.(美团公司);Fudan University(复旦大学)
针对预训练模型难以高效整合依存先验结构以优化语义匹配的问题,提出依存增强自适应融合注意力DAFA,通过结构敏感范式构建依存矩阵校准注意力、自适应融合依存与语义信息并重构注意力流程,在10个公开数据集上取得SOTA或有竞争力的性能。
2023-08-24 cs.AI cs.CL
How Much To Guide: Revisiting Adaptive Guidance in Classifier-Free Guidance Text-to-Vision Diffusion Models
Wangxuan Institute of Computer Technology, Peking University(北京大学王玄计算技术研究所)
针对无分类器引导推理成本高的问题,本文提出通用自适应策略 Step AG,仅在前若干去噪步执行引导,即可保持图像质量与图文对齐并平均加速20%至30%。
2025-06-10 cs.AI cs.CL cs.CV
Preference Adaptive and Sequential Text-to-Image Generation
International Conference on Machine Learning (ICML 2025)(国际机器学习会议)
针对交互式文本到图像生成,提出基于强化学习的偏好自适应序列智能体PASTA,利用多模态语言模型与用户偏好模型迭代生成多样化提示词扩展,显著提升了多轮协作创作效果。
2025-05-28 cs.AI cs.CL cs.CV
Beyond Filtering: Adaptive Image-Text Quality Enhancement for MLLM Pretraining
University of Chinese Academy of Sciences (UCAS)(中国科学院大学);Baichuan Inc.(百川智能公司);New Laboratory of Pattern Recognition (NLPR)(新模式识别实验室);Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
本文提出自适应图像-文本质量增强器AITQE,通过文本重写和负样本学习动态提升低质量图文对质量,在保留数据量的同时超越现有过滤方法,实现高效可扩展的MLLM预训练。
2024-10-21 cs.CL cs.CV
BadApex: Backdoor Attack Based on Adaptive Optimization Mechanism of Black-box Large Language Models
College of information electrical and engineering(信息电气工程学院);China Agricultural University(中国农业大学)
提出BadApex,一种基于黑盒LLM自适应优化机制的后门攻击,通过生成与修改代理迭代精炼提示词生成中毒文本,提升语义一致性和文本质量,在防御下平均攻击成功率仍达96.75%。
2025-04-21 cs.CL cs.CR
Writing Like the Best: Exemplar-Based Expository Text Generation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出基于范例的说明文生成任务,并设计循环规划-再适配(RePA)框架,利用大型语言模型实现自适应模仿,在三个数据集上超越基线,生成事实一致且相关的文本。
2025-05-24 cs.AI cs.CL
Task-Adaptive Tokenization: Enhancing Long-Form Text Generation Efficacy in Mental Health and Beyond
University of Michigan, Ann Arbor(密歇根大学安娜堡分校);Tsinghua University, Beijing(清华大学)
本文提出任务自适应分词方法,通过基于任务数据优化采样概率和构建专用词汇表,显著提升心理健康问答中的长文本生成性能,并减少高达60%的令牌使用。
2023-11-13 cs.AI cs.CL
ZET-Speech: Zero-shot adaptive Emotion-controllable Text-to-Speech Synthesis with Diffusion and Style-based Models
AITRICS;KAIST(韩国科学技术院)
提出ZET-Speech零样本自适应情感可控TTS模型,通过在扩散模型上应用域对抗学习和引导方法,仅用短中性语音和情感标签即可为已见和未见说话人合成自然情感语音。
2023-05-23 cs.CL cs.SD eess.AS
Adaptive Inner Speech-Text Alignment for LLM-based Speech Translation
Institute of Computing and Intelligence, Harbin Institute of Technology(哈尔滨工业大学计算与智能学院);School of Computer Science and Engineering, Xi’an University of Technology(西安理工大学计算机科学与工程学院)
针对基于LLM的语音翻译中深层语义对齐不足的问题,提出AI-STA,利用最优传输和跨模态检索选择并联合训练适配层,显著提升LSM性能。
2025-03-13 cs.CL cs.SD eess.AS
AdaLoGN: Adaptive Logic Graph Network for Reasoning-Based Machine Reading Comprehension
Nanjing University(南京大学)
最近的机器阅读理解数据集,如ReClor和LogiQA,需要对文本进行逻辑推理。传统的神经模型不足以进行逻辑推理,而符号推理不能直接应用于文本。为了应对这一挑战,我们提出了一种神经符号的方法,预测答案,通过一个图表示文本单元之间的逻辑关系的消息。它采用了自适应逻辑图网络(AdaLoGN),自适应地推断逻辑关系,以扩展图形,本质上,实现神经和符号推理之间的相互和迭代增强。我们还实现了一种新的子图到节点的消息传递机制,以增强上下文选项的交互回答多项选择题。我们的方法在ReClor和LogiQA上显示出有希望的结果。
2022-03-16 cs.AI cs.CL cs.NE
ComfyGen: Prompt-Adaptive Workflows for Text-to-Image Generation
NVIDIA(英伟达);Tel Aviv University(特拉维夫大学)
本文提出提示自适应工作流生成任务,利用基于 LLM 的微调或免训练方法为每条文本提示定制图像生成流程,从而提升生成质量。
2024-10-02 cs.CL cs.CV cs.GR
AdaSpeech 4: Adaptive Text to Speech in Zero-Shot Scenarios
Microsoft Research Asia(微软亚洲研究院)
自适应文本转语音(TTS)技术可以在zero-shot场景下有效地合成新的语音,它使用一个经过良好训练的源TTS模型,而不需要对新说话人的语音数据进行自适应。考虑到说话人具有多样性,zero-shot自适应语音合成对说话人特征的泛化能力要求很高,这给语音合成建模带来了挑战。在本文中,我们开发了AdaSpeech 4,一个zero-shot自适应TTS系统,用于高质量的语音合成。我们系统地对说话者特征进行建模,以提高对新说话者的概括性。一般来说,说话人特征的建模可以分为三个步骤:提取说话人特征,以该说话人特征为条件,在给定该说话人特征的情况下合成语音/梅尔谱图。相应地,我们分三步改进模型:1)为了提取具有更好泛化性的说话人表示,我们将说话人特征分解为基向量,并通过注意力对这些基向量进行加权组合来提取说话人表示。2)我们利用条件层归一化,将提取的说话人表示集成到TTS模型中。3)我们提出了一种新的监督损失的基础上的基向量的分布,以保持相应的扬声器特性在生成的梅尔频谱。在没有任何微调的情况下,AdaSpeech 4在多个数据集中实现了比基线更好的语音质量和相似性。
2022-04-01 cs.AI cs.CL cs.SD