Performance Impact Caused by Hidden Bias of Training Data for Recognizing Textual Entailment
Toyohashi University of Technology(丰桥技术科学大学)
训练数据的质量是采用以学习为中心的方法时的关键问题之一。本文提出了一种新的方法来调查一个大型语料库的质量设计识别文本蕴涵(RTE)的任务。所提出的方法,这是一个统计假设检验的启发,由两个阶段组成:第一阶段是引入文本蕴涵标签的可预测性作为一个零假设,这是非常不可接受的,如果目标语料库没有隐藏的偏见,第二阶段是使用朴素贝叶斯模型来测试零假设。斯坦福自然语言推理(SNLI)语料库的实验结果不拒绝零假设。因此,它表明,SNLI语料库有一个隐藏的偏见,允许预测的文本蕴涵标签的假设句,即使没有上下文信息是由前提句。本文还介绍了这种隐藏的偏见造成的RTE的NN模型的性能影响。
2018-04-22 cs.AI cs.CL
DeCLUTR: Deep Contrastive Learning for Unsupervised Textual Representations
University of Toronto(多伦多大学);Vector Institute for Artificial Intelligence(向量人工智能研究所);University Health Network(大学健康网络)
句子嵌入是许多自然语言处理(NLP)系统的重要组成部分。与词嵌入一样,句子嵌入通常在大型文本语料库中学习,然后转移到各种下游任务中,例如聚类和检索。与词嵌入不同,学习句子嵌入的最高性能解决方案需要标记数据,这限制了它们对标记数据丰富的语言和领域的有用性。在本文中,我们提出了DeCLUTR:用于无监督文本表示的深度对比学习。受深度度量学习(DML)最新进展的启发,我们仔细设计了一个自监督目标,用于学习通用句子嵌入,不需要标记的训练数据。当用于扩展基于transformer的语言模型的预训练时,我们的方法缩小了通用句子编码器的无监督和监督预训练之间的性能差距。重要的是,我们的实验表明,学习嵌入的质量与可训练参数的数量和未标记的训练数据的数量成比例。我们的代码和预训练模型是公开的,可以轻松适应新领域或用于嵌入看不见的文本。
2021-05-27 cs.CL cs.LG
DANES: Deep Neural Network Ensemble Architecture for Social and Textual Context-aware Fake News Detection
University Politehnica of Bucharest(布加勒斯特理工大学);Aarhus University(奥胡斯大学)
社交媒体平台的日益普及简化了新闻文章的创作和发布,但也为传播假新闻创造了渠道。因此,需要有效的上下文感知假新闻检测机制,其中上下文信息可以从帖子的文本内容或从可用的社交数据(例如,关于用户的信息、对帖子的反应或社交网络)。在本文中,我们提出了DANES,一种用于社会和文本上下文感知的假新闻检测的深度神经网络嵌入式架构。DANES包括用于基于文本内容的上下文的文本分支和用于社会上下文的社会分支。这两个分支被用来创建一个新颖的网络嵌入。3个真实世界数据集的初步消融结果,即,BuzzFace、Twitter15和Twitter16是有前途的,在使用社交和文本内容功能时,其准确性优于最先进的解决方案。
2023-02-01 cs.AI cs.CL cs.NE
Textual Data Mining for Financial Fraud Detection: A Deep Learning Approach
HKUST(香港科技大学)
本文利用HKEX公告提取欺诈公司MD&A文本,并对比MLP、RNN、LSTM和GRU等深度学习模型在金融欺诈二元分类任务中的准确性,为金融欺诈检测提供了有价值的实证参考。
2023-08-05 cs.AI cs.CL cs.LG
Multi-Label Topic Model for Financial Textual Data
Institute for Finance & Banking, Ludwig-Maximilians-Universität München(慕尼黑大学金融与银行研究所)
本文提出一个多标签主题模型,用于分析金融文本,在3,044份德语公告上训练达到宏F1超85%,并揭示共现主题对股票市场反应的差异化影响。
2023-11-10 cs.CL cs.LG q-fin.ST
Unsupervised Layer-wise Score Aggregation for Textual OOD Detection
International Laboratory on Learning Systems(学习系统国际实验室);MILA - Quebec AI Institute(MILA - 魁北克人工智能研究所);McGill University(麦吉尔大学);CNRS(法国国家科学研究中心);INRIA(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会)
本文针对文本OOD检测中最后一层嵌入并非最优的问题,提出一种数据驱动的无监督逐层异常分数聚合方法,并在扩展至最多77类的增强基准上取得接近预言机最佳层性能的稳健结果。
2024-02-21 cs.AI cs.CL
General Purpose Textual Sentiment Analysis and Emotion Detection Tools
LORIA UMR 7503(洛林信息学及其应用研究实验室);University of Lorraine(洛林大学)
文本情感分析和情感检测包括检索文本或文档所携带的情感或情绪。这项任务可以在许多领域有用:意见挖掘,预测,反馈等,然而,建立一个通用的工具,做情感分析和情感检测提出了一些问题,理论问题,如依赖域或语言,但也有实际问题,如情感表示的互操作性。在本文中,我们提出了我们的情绪/情感分析工具,我们提出的方式来规避的困难和应用程序,他们被用于。
2013-09-11 cs.CL
CompiLIG at SemEval-2017 Task 1: Cross-Language Plagiarism Detection Methods for Semantic Textual Similarity
Compilatio;Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
我们在SemEval-2017上展示了我们提交的语义文本相似性(STS)Track 4系统。给定一对西班牙语-英语句子,每个系统必须通过0到5之间的分数来估计它们的语义相似性。在我们的提交中,我们使用基于语法,基于字典,基于上下文和基于MT的方法。我们还将这些方法以无监督和有监督的方式结合起来。我们的最佳运行在轨道4a上排名第一,与人类注释的相关性为83.02%。
2017-04-05 cs.CL
TextHacker: Learning based Hybrid Local Search Algorithm for Text Hard-label Adversarial Attack
Huazhong University of Science and Technology(华中科技大学);Huawei(华为);Harbin Institute of Technology(哈尔滨工业大学)
现有的文本对抗攻击通常利用梯度或预测置信度来生成对抗样本,这使得它很难被部署到现实世界的应用中。为此,我们考虑一种很少研究但更严格的设置,即硬标签攻击,其中攻击者只能访问预测标签。特别地,我们发现我们可以通过对抗性示例上的单词替换引起的预测标签的变化来学习不同单词的重要性。基于这一观察,我们提出了一种新的对抗攻击,称为文本硬标签攻击者(TextHacker)。TextHacker随机干扰大量的单词来制作一个对抗性的例子。然后,TextHacker采用了一种混合局部搜索算法,从攻击历史中估计单词的重要性,以最大限度地减少对抗干扰。对文本分类和文本蕴涵的广泛评估表明,TextHacker在攻击性能和对手质量方面明显优于现有的硬标签攻击。
2022-10-24 cs.CL cs.LG
VI-OOD: A Unified Representation Learning Framework for Textual Out-of-distribution Detection
Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算机系)
针对文本 OOD 检测中条件似然最大化导致表示偏差的问题,本文提出基于联合似然和预训练 Transformers 的变分推断框架 VI-OOD,并在多类文本分类任务上验证其有效性。
2024-04-09 cs.CL
Towards Achieving Concept Completeness for Textual Concept Bottleneck Models
Sorbonne Université, CNRS, LIP6(索邦大学、国家科学研究中心、LIP6);Ekimetrics
本文提出完全文本概念瓶颈模型(CT-CBM),通过小型语言模型以无监督方式构建概念标签并迭代添加重要概念,消除了人工标注和LLM依赖,显著提升了概念基完整性与检测准确性,增强了NLP分类器的可解释性。
2025-05-28 cs.CL
Threshold-Based Retrieval and Textual Entailment Detection on Legal Bar Exam Questions
Otto von Guericke University Magdeburg(马格德堡奥托·冯·格里克大学)
对法律领域进行概述已成为一项挑战,特别是在广泛的国际背景下。法律问答系统有可能通过自动检索特定声明的相关法律文本并检查是否可以从找到的文档中推断出声明的含义来减轻这一任务。我们研究了Elasticsearch的BM 25评分方法与在德国和日本民法的英语翻译上训练的词嵌入的组合。为此,我们定义的标准,选择一个动态数量的相关文件,根据阈值分数。与基线相比,利用两个深度学习分类器及其各自的预测偏差以及基于阈值的答案包含标准已被证明对文本蕴涵任务是有益的。
2019-05-30 cs.CL cs.IR cs.LG
Leveraging Sentiment Analysis Knowledge to Solve Emotion Detection Tasks
Polytechnique Montréal(蒙特利尔理工学院);Airudi(Airudi公司)
识别和理解文本中潜在的情感或情绪是多个自然语言处理应用的关键组成部分。虽然简单的极性情感分析是一个很好的研究课题,但在仅使用文本数据识别更复杂、更细粒度的情感方面取得的进展较少。在本文中,我们提出了一个基于转换器的模型与适配器层的融合,利用更简单的情感分析任务的知识,以改善大规模数据集上的情感检测任务,如CMU-MOSEI,只使用文本模态。结果表明,我们提出的方法是有竞争力的其他方法。即使只使用文本模态,我们也在CMU-MOSEI上获得了最先进的情感识别结果。
2021-11-05 cs.CL cs.LG
Addressing Limited Data for Textual Entailment Across Domains
IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心);The Ohio State University(俄亥俄州立大学)
我们试图解决缺乏标记的数据(和高成本的注释)的文本蕴涵在某些领域。为此,我们首先为临床领域创建(出于实验目的)一个蕴涵数据集,以及一个高度竞争的监督蕴涵系统ENT,它在两个领域都是有效的(开箱即用)。然后,我们探索自我训练和主动学习策略,以解决缺乏标记数据。通过自我训练,我们成功地利用了未标记的数据,在新闻领域提高了15%的F分数,在临床数据上提高了13%的F分数。另一方面,我们的主动学习实验表明,我们可以匹配(甚至击败)耳鼻喉科使用只有6.6%的训练数据在临床领域,只有5.8%的训练数据在新闻领域。
2016-06-08 cs.CL
Acquired TASTE: Multimodal Stance Detection with Textual and Structural Embeddings
Ben Gurion University(本古里安大学)
该研究提出多模态立场检测架构TASTE,融合基于Transformer的内容嵌入与无监督结构嵌入,通过GRN层结合社交嵌入,在通用基准上取得最优结果,验证了内容与结构结合的价值。
2024-12-11 cs.CL
LIME: Weakly-Supervised Text Classification Without Seeds
ActionPower
在弱监督文本分类中,只有标签名称作为监督源。弱监督文本分类的主要方法利用两阶段框架,其中测试样本首先被分配伪标签,然后用于训练神经文本分类器。在大多数以前的工作中,伪标记步骤取决于获得最能捕捉每个类别标签相关性的种子词。我们提出了LIME,弱监督文本分类的框架,完全取代了脆弱的种子词生成过程与基于蕴涵的伪分类。我们发现,将弱监督分类和文本蕴涵相结合可以减轻两者的缺点,从而实现更精简和有效的分类管道。仅使用现成的文本蕴涵模型,LIME在弱监督文本分类中的表现优于最近的基线,并在4个基准测试中达到了最先进的水平。我们在https://github.com/seongminp/LIME上开源我们的代码。
2022-10-13 cs.AI cs.CL
AspectCSE: Sentence Embeddings for Aspect-based Semantic Textual Similarity Using Contrastive Learning and Structured Knowledge
Technical University of Munich(慕尼黑工业大学);DFKI GmbH(德国人工智能研究中心)
本文提出AspectCSE方法,利用对比学习和Wikidata知识图谱属性训练基于方面的句子嵌入,在信息检索任务上平均提升3.97%,并证明多方面嵌入优于单方面嵌入。
2023-09-24 cs.AI cs.CL
BITE: Textual Backdoor Attacks with Iterative Trigger Injection
University of Southern California(南加州大学);IIT Delhi(印度理工学院德里分校)
本文提出 BITE 后门攻击,通过迭代注入触发词建立目标标签与触发词之间的强相关性,在保持隐蔽性的同时实现高效攻击,并提出基于触发词移除的 DeBITE 防御方法。
2023-05-29 cs.CL
Unsupervised Severe Weather Detection Via Joint Representation Learning Over Textual and Weather Data
National Centre for Scientific Research “Demokritos”(国立科学研究中心“德谟克利特”)
当观察一个现象时,严重的情况或异常通常以偏离预期的数据分布为特征。然而,非偏离数据样本也可能隐含地导致严重的结果。在无监督的恶劣天气检测的情况下,这些数据样本可能会导致错误的预测,因为恶劣天气的预测因子通常不会直接作为特征被观察到。我们认为,结合外部或辅助信息,如外部任务或观察的结果,可以提高无监督检测算法的决策边界。在本文中,我们提高了有效性的聚类方法来检测恶劣天气的情况下,通过学习增强和线性可分离的潜在representations.We评估我们的解决方案对三个单独的情况下,恶劣天气,即风暴,洪水和龙卷风爆发。
2020-05-14 cs.LG stat.ML
CLIP meets DINO for Tuning Zero-Shot Classifier using Unlabeled Image Collections
Mohamed Bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学);The Johns Hopkins University(约翰斯·霍普金斯大学);IBM Research(IBM研究院)
本文提出无标签提示微调框架NoLA,结合DINO的视觉特征与LLM的文本知识,通过生成文本嵌入、训练对齐模块并微调CLIP视觉编码器,在11个数据集上超越LaFTer平均3.6%。
2025-04-10 cs.CL cs.CV cs.LG
Explainable Semantic Textual Similarity via Dissimilar Span Detection
School of Computation, Information and Technology(计算、信息与技术学院);Technical University of Munich(慕尼黑技术大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出不相似跨度检测任务,旨在识别文本对中语义不同的跨度,以提高语义文本相似性任务的可解释性,并通过新数据集和基线方法评估,显示其在同义词检测中的提升效果。
2026-03-22 cs.CL
Unsupervised Visual Sense Disambiguation for Verbs using Multimodal Embeddings
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
我们引入了一个新的任务,动词的视觉意义消歧:给定一个图像和一个动词,分配动词的正确意义,即,描述图像中所描绘的动作的那个。就像文本词义消歧对各种NLP任务都很有用一样,视觉词义消歧对图像检索、图像描述和文本说明等多模态任务也很有用。我们引入了VerSe,这是一个新的数据集,它用意义标签增强了现有的多模态数据集(COCO和TUHOI)。我们提出了一个无监督的算法Lesk的基础上进行视觉意义消歧使用文本,视觉,或多模态嵌入。我们发现,当黄金标准的文本注释(对象标签和图像描述)可用时,文本嵌入表现良好,而多模态嵌入在未注释的图像上表现良好。我们还验证了我们的研究结果,使用文本和多模态嵌入作为特征,在监督设置和分析的性能的视觉意义消歧任务。VerSe是公开的,可以在https://github.com/spandanagella/verse下载。
2016-03-30 cs.CL cs.CV
Improving Multilingual Semantic Textual Similarity with Shared Sentence Encoder for Low-resource Languages
Alibaba Group(阿里巴巴集团);Carnegie Mellon University(卡内基梅隆大学)
测量两个句子之间的语义相似性(或语义文本相似性- STS)是许多NLP应用程序的基础。尽管在有足够标签的监督环境中取得了显着的成果,但在标签不足的低资源语言中,很少有人注意到这一任务。现有的方法大多利用机器翻译技术将句子翻译成资源丰富的语言。这些方法要么会产生语言偏见,要么在口语场景更频繁且要求严格效率的工业应用中不切实际。在这项工作中,我们提出了一个多语言的框架,以解决STS任务在一个低资源的语言,如西班牙语,阿拉伯语,印度尼西亚语和泰语,通过利用丰富的注释数据在一个丰富的资源语言,如英语。我们的方法是从一个基本的单语STS框架扩展到一个共享的多语言编码器预训练的翻译任务,将丰富的资源语言数据。通过利用共享的多语言编码器的性质,一个句子可以具有针对不同目标翻译语言的多个表示,这些表示用于集成模型以提高相似性评估。我们证明了我们的方法优于其他国家的最先进的方法对SemEval STS任务的显着改善非MT方法,以及在线工业产品,其中MT方法未能击败基线,而我们的方法仍然有一贯的改进。
2018-10-30 cs.CL
Using Description Logics for Recognising Textual Entailment
Loria(洛林计算机科学及其应用实验室);UHP Nancy 2(南锡第二大学亨利·庞加莱大学);Talaris(塔拉里)
本文的目的是展示我们如何处理识别文本蕴涵(RTE)的任务,通过使用描述逻辑(DLs)。要做到这一点,我们提出了一个表示自然语言语义在DL的启发,现有的表示在一阶逻辑。但我们最重要的贡献是定义了两个新的推理任务:A-Box饱和和子图检测,这对我们的RTE方法至关重要。
2007-10-16 cs.CL
Adversarial Clean Label Backdoor Attacks and Defenses on Text Classification Systems
Uniphore Inc.(Uniphore公司)
本文提出一种对抗性清洁标签攻击,可将数据投毒需求降至原来的20%,并系统评估了针对清洁标签和标签翻转攻击的多种文本防御方法,揭示其有效性差异。
2023-05-31 cs.CL cs.CR
The Solution for Language-Enhanced Image New Category Discovery
Nanjing University of Science and Technology(南京理工大学)
针对零样本图像新类别发现中文本标签视觉表征不足的问题,本文逆转 CLIP 训练并提出伪视觉提示与双适配器,通过对比学习迁移视觉知识,在标注及 LLM 生成的伪文本数据上均达到最优性能。
2024-07-06 cs.CV cs.LG
AskChart: Universal Chart Understanding through Textual Enhancement
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Hong Kong University of Science and Technology(香港科技大学)
AskChart 通过 MoE 架构融合图表文本与视觉线索,并利用 750 万样本的 ChartBank 数据集和三阶段训练策略,以 46 亿参数在多个图表理解任务上超越 130 亿参数的最先进模型。
2024-12-26 cs.AI cs.CV
Discovering Elementary Discourse Units in Textual Data Using Canonical Correlation Analysis
Jaypee Institute of Information Technology(贾伊皮信息技术学院)
本研究利用典型相关分析(CCA)的概率解释提出一种无监督的基础语篇单元(EDU)分割模型,在文本相似度任务中验证表明,该方法简单且与语言无关,在缺乏标注数据时能超越复杂监督技术。
2024-10-16 cs.CL
RAMer: Reconstruction-based Adversarial Model for Multi-party Multi-modal Multi-label Emotion Recognition
The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));The Hong Kong University of Science and Technology(香港科学与技术大学)
针对现实多方场景下模态缺失及现有方法忽略模态特性的问题,提出RAMer模型,通过重构特征、对比学习、人格辅助任务及堆叠打乱策略提升性能,在三个基准上实现双人及多方MMER的SOTA效果。
2025-08-30 cs.AI cs.CV
Phrase-level Textual Adversarial Attack with Label Preservation
Eindhoven University of Technology(埃因霍温理工大学);The University of Sydney(悉尼大学);University of Washington(华盛顿大学);University of Maryland(马里兰大学)
生成高质量的文本对抗性示例对于研究自然语言处理(NLP)模型的缺陷并进一步提高其鲁棒性至关重要。现有的攻击通常是通过词级或句子级的扰动来实现的,这要么限制了扰动空间,要么牺牲了流畅性和文本质量,都影响了攻击效果。在本文中,我们提出了短语级文本对抗攻击(PLAT),通过短语级扰动生成对抗样本。PLAT首先通过句法分析器提取出易受攻击的短语作为攻击目标,然后通过预训练的空白填充模型对其进行扰动。这种灵活的扰动设计大大扩展了搜索空间,以进行更有效的攻击,而不引入太多的修改,同时通过使用周围文本的上下文化生成来保持文本的流畅性和语法性。此外,我们开发了一个标签保存过滤器,利用语言模型的可能性微调每个类,而不是文本相似性,以排除那些扰动,可能会改变原来的类标签为人类。大量的实验和人工评估表明,PLAT具有优越的攻击效果,以及更好的标签一致性比强基线。
2022-05-24 cs.AI cs.CL
Integrated Node Encoder for Labelled Textual Networks
大量的工作已经实施,利用内容增强的网络嵌入模型,很少关注节点的标记信息。虽然TriDNR通过将节点标签视为节点属性来利用节点标签,但它未能使用标记信息来丰富未标记的节点向量,这导致与现有的无监督文本网络嵌入模型相比,测试集上的分类结果较弱。在这项研究中,我们设计了一个集成的节点编码器(INE)的文本网络,这是联合训练的基于结构和基于标签的目标。因此,节点编码器不仅保留了网络文本和结构的完整知识,而且还保留了标记信息。此外,INE允许通过输入节点内容为未标记的节点创建标签增强向量。我们的节点嵌入在两个公共引文网络,即Cora和DBLP上的分类任务中实现了最先进的性能,分别将基准提高了10.0%和12.1%,训练率为70%。此外,提出了一个可行的解决方案,将我们的模型从文本网络推广到更广泛的网络。
2022-05-10 cs.CL
SelfMix: Robust Learning Against Textual Label Noise with Self-Mixup Training
Soochow University(苏州大学);Alibaba Group(阿里巴巴集团)
文本分类的传统成功依赖于注释数据,而预训练语言模型(PLM)的新范式仍然需要一些标记数据用于下游任务。然而,在实际应用中,训练数据中不可避免地存在标签噪声,从而损害了基于此类数据构建的模型的有效性、鲁棒性和泛化性。近年来,人们在视觉数据的处理上取得了显著的成就,而在文本数据的处理上却鲜有研究。为了填补这一空白,我们提出了SelfMix,一种简单而有效的方法,用于处理文本分类任务中的标签噪声。SelfMix使用高斯混合模型来分离样本,并利用半监督学习。与以前需要多个模型的工作不同,我们的方法利用单个模型上的辍学机制来减少自我训练中的确认偏差,并引入了文本级混合训练策略。在三个具有不同类型文本的文本分类基准上的实验结果表明,在不同的噪声比和噪声类型下,我们所提出的方法的性能优于这些针对文本和视觉数据设计的强基线。我们的代码可在https://github.com/noise-learning/SelfMix上获得。
2022-10-11 cs.CL
Kallima: A Clean-label Framework for Textual Backdoor Attacks
Peking University(北京大学);Tsinghua University(清华大学);RealAI(瑞莱智慧)
尽管深度神经网络(DNN)在各种自然语言处理(NLP)任务中取得了前所未有的进步,但研究表明,深度模型极易受到后门攻击。现有的后门攻击主要是在训练数据集中注入少量的有毒样本,并将标签更改为目标标签。这种贴错标签的样本在人类检查时会引起怀疑,可能会揭示攻击。为了提高文本后门攻击的隐蔽性,我们提出了第一个干净的标签框架Kallima合成模仿风格的后门样本,开发阴险的文本后门攻击。我们用对抗性扰动修改了属于目标类的输入,使模型更加依赖后门触发器。我们的框架与大多数现有的后门触发器兼容。在三个基准数据集上的实验结果证明了该方法的有效性。
2022-06-03 cs.CL cs.CR
TTL: Test-time Textual Learning for OOD Detection with Pretrained Vision-Language Models
Sun Yat-sen University(中山大学);China United Network Communications Corporation Limited Guangdong Branch(中国联合网络通信集团有限公司广东分公司);Peng Cheng Laboratory(鹏城实验室);Hong Kong University of Science and Technology(香港科技大学);Key Laboratory of Machine Intelligence and Advanced Computing, MOE(教育部机器智能与高级计算重点实验室)
本文提出TTL框架,通过动态学习测试流中的分布外文本语义提升测试时分布外检测性能,实验表明其在多个基准上均取得最优效果。
2026-04-17 cs.CL cs.CV
A Survey of Machine Learning Models and Datasets for the Multi-label Classification of Textual Hate Speech in English
Technical University of Darmstadt, Science and Technology for Peace and Security (PEASEC)(德累斯顿技术大学,和平与安全科学技术(PEASEC))
本文综述了46篇英文文献,分析了28个适合多标签分类模型训练的数据集,揭示了标签集、大小、元概念等的异质性,并指出评估不一致、BERT和RNN偏好等关键问题,提出十项研究建议。
2025-04-11 cs.AI cs.CL
Exploring Gradient-Guided Masked Language Model to Detect Textual Adversarial Attacks
School of Information and Communication Technology, Griffith University(格里菲斯大学信息与通信技术学院);School of Computer Science, University of Technology Sydney(悉尼科技大学计算机科学学院);College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院);School of Cyber Science and Engineering, Huazhong University of Science and Technology(华中科技大学网络空间科学与工程学院)
针对文本对抗样本威胁,基于对抗样本偏离正常文本流形的特性,提出MLMD方法利用掩码语言模型检测差异,再通过GradMLMD的梯度引导跳过非关键词,在保证性能的同时降低计算开销。
2025-04-08 cs.AI cs.CL cs.LG
Combining Textual Features for the Detection of Hateful and Offensive Language
TIB - Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心(TIB));Leibniz University Hannover(汉诺威莱布尼茨大学)
由于社交网络的许多用户每天都面临网络欺凌活动,因此检测攻击性、仇恨性和亵渎性语言已成为一项重大挑战。在本文中,我们提出了一个分析结合不同的文本特征检测仇恨或攻击性的帖子在Twitter上。我们提供了一个详细的实验评估,以了解在神经网络架构中的每个构建块的影响。在英文子任务1A上评估了所提出的架构:从团队名称TIB-VA下的HASOC-2021数据集的帖子数据集中识别仇恨,攻击性和亵渎内容。我们比较了不同的变体的上下文词嵌入结合字符级嵌入和编码收集的仇恨条款。
2021-12-09 cs.CL cs.LG
Volta at SemEval-2021 Task 6: Towards Detecting Persuasive Texts and Images using Textual and Multimodal Ensemble
International Institute of Information Technology Hyderabad(海得拉巴国际信息技术学院)
模因是用于在线传播信息的最受欢迎的内容类型之一。他们可以通过修辞和心理技巧影响大量的人。本文的任务,文本和图像中说服技巧的检测,就是检测模因中的这些说服技巧。它由三个子任务组成:(A)使用文本内容的多标签分类,(B)使用文本内容的多标签分类和跨度识别,以及(C)使用视觉和文本内容的多标签分类。在本文中,我们提出了一种迁移学习方法来微调不同模态的BERT模型。我们还探讨了在不同模式下训练的模型集合的有效性。我们在相应的子任务中获得了57.0、48.2和52.1的F1分数。
2021-06-01 cs.CL cs.CV
LimeAttack: Local Explainable Method for Textual Hard-Label Adversarial Attack
University of Science and Technology of China(中国科学技术大学);Xidian University(西安电子科技大学);Ping An Technology(平安科技);Lazada
针对仅能获取离散预测标签的文本硬标签攻击难题,提出LimeAttack算法,利用局部可解释方法近似词重要性排序并结合beam search寻找最优解,在相同查询预算下实现更优攻击性能,且生成的对抗样本具备高可迁移性并能提升模型鲁棒性。
2024-01-10 cs.CL
LBA: Textual Hard-Label Adversarial Attack under Low Query Budgets
Zhejiang Normal University(浙江师范大学);Zhejiang University(浙江大学);China Electric Power Research Institute(中国电力科学研究院)
研究在低查询预算硬标签场景下生成高质量对抗文本的难题,提出基于采样的LBA方法,整合先验与后验知识构建近似分布用于采样,实验证明该方法在多语言模型上显著优于基线,生成的对抗文本语义保留性和可理解性更佳。
2026-07-17 cs.AI cs.CL
PV2TEA: Patching Visual Modality to Textual-Established Information Extraction
Emory University(埃默里大学);Amazon.com Inc(亚马逊公司);University of California, San Diego(加利福尼亚大学圣迭戈分校)
针对文本属性抽取难以利用图像信息的问题,本文提出 PV2TEA 编码器-解码器框架,通过对比对齐、注意力剪枝和邻域正则化降低多模态偏差,并在电商数据集上显著提升 F1。
2023-06-01 cs.AI cs.CL cs.CV
Weakly-Supervised Hierarchical Models for Predicting Persuasive Strategies in Good-faith Textual Requests
建模说服性语言有可能更好地促进我们的决策过程。尽管其重要性,说服的计算建模仍处于起步阶段,主要是由于缺乏基准数据集,可以提供说服策略的定量标签,以加快这一研究路线。为此,我们引入了一个大规模的多领域的文本语料库建模的说服策略在善意的文本请求。此外,我们设计了一个层次化的弱监督潜变量模型,可以利用部分标记的数据来预测每个句子的相关说服策略,其中监督来自整体文档级标签和非常有限的文档级标签。实验结果表明,我们提出的方法优于现有的半监督基线显着。我们已在https://github.com/GT-SALT/Persuasion_Strategy_WVAE上公开发布了我们的代码。
2021-01-16 cs.CL cs.CY
A Deep Learning Anomaly Detection Method in Textual Data
在这篇文章中,我们提出使用深度学习和Transformer架构结合经典的机器学习算法来检测和识别文本中的文本异常。深度学习模型提供了关于文本数据的非常关键的上下文信息,所有文本上下文都被转换为数值表示。我们使用多种机器学习方法,如句子Transformers,自动编码器,逻辑回归和距离计算方法来预测异常。在文本数据上对该方法进行了测试,我们将来自不同来源的句法数据作为异常注入到原始文本中,或者将它们作为目标。在离群点检测领域中,解释了不同的方法和算法,并给出了最佳技术的结果。这些结果表明,与我们正在测试的其他异常检测方法相比,我们的算法可能会降低误报率。
2022-11-25 cs.CL
Integrating Multi-view Analysis: Multi-view Mixture-of-Expert for Textual Personality Detection
School of Computer Science and Technology, Dalian University of Technology(大连理工大学计算机科学与技术学院)
针对文本人格检测中多视角信息提取整合不足的问题,提出多视角混合专家模型MvP,结合多视角MoE网络、用户一致性正则化与多任务联合学习,在两个常用数据集上验证了有效性。
2024-08-16 cs.CL
GraphNarrator: Generating Textual Explanations for Graph Neural Networks
Emory University(埃默里大学)
本文提出GraphNarrator,首个为图神经网络生成自然语言解释的方法,通过生成式语言模型映射输入输出对,并利用基于显著性解释的伪标签和Expert Iteration训练端到端解释生成器,实验证明其生成的解释忠实、简洁且符合人类偏好。
2025-05-28 cs.CL cs.LG
Prediction-powered estimators for finite population statistics in highly imbalanced textual data: Public hate crime estimation
Department of Statistics, Uppsala University(统计系,乌普萨拉大学)
本文提出将Transformer编码器预测作为辅助变量,与调查抽样估计量相结合,用于高度不平衡文本有限总体的参数估计,并在瑞典仇恨犯罪统计中验证了其高效性。
2025-05-05 cs.CL cs.LG
Structured Reasoning for Fairness: A Multi-Agent Approach to Bias Detection in Textual Data
App Inventor Foundation(应用发明者基金会);App-In Club(应用互联俱乐部)
本文提出一种多智能体框架,通过将陈述拆解为事实或观点并分配偏见强度分数来检测文本偏见,在WikiNPOV数据集上准确率达84.9%,较零样本基线提升13.0%,为现代语言模型的公平性奠定基础。
2025-03-01 cs.AI cs.CL
Learning Human-Human Interactions in Images from Weak Textual Supervision
Tel Aviv University(特拉维夫大学)
本文提出利用大型语言模型生成合成字幕并通过知识蒸馏获得伪标签,从单张静态图像中以自由文本形式学习开放的人与人交互,在多个忠实度指标上超越现有图像字幕与情境识别模型。
2023-09-18 cs.CL cs.CV cs.LG
An Improved System for Sentence-level Novelty Detection in Textual Streams
International Doctoral Innovation Centre, The University of Nottingham(诺丁汉大学国际博士创新中心);School of Computer Science, The University of Nottingham(诺丁汉大学计算机科学学院)
新闻事件中的新奇性检测一直是一个难题。一些模型在特定的数据流上表现良好,但某些问题远未得到解决,特别是在来自WWW的大型数据流中,其中新术语的不可预测性需要在向量空间模型中进行调整。我们提出了一种新的事件检测系统的增量词频逆文档频率(TF-IDF)加权结合局部敏感哈希(LSH)。通过不断更新向量空间模型,我们的系统可以高效、有效地适应任何新术语的数据流中的变化。关于错过概率,我们提出的新颖性检测框架在评估Google News的基准数据集时,性能优于公认的基线系统约16%。
2016-04-30 cs.AI cs.CL cs.IR
Attention-based Modeling for Emotion Detection and Classification in Textual Conversations
LIRMM UMR 5506;CNRS(法国国家科学研究中心);University of Montpellier(蒙彼利埃大学);IUT de Béziers(贝济耶大学技术学院);AMIS;Paul Valery University - Montpellier 3(保罗·瓦莱里大学-蒙彼利埃第三大学)
本文讨论了文本会话建模和情感检测的问题。我们提出的模型利用1)深度迁移学习而不是经典的词嵌入浅层方法; 2)自我注意力机制专注于文本中最重要的部分; 3)基于回合的会话建模用于分类情感。该方法不依赖于任何手工制作的功能或词典。我们的模型基于SemEval-2019共享任务提供的文本中上下文情感检测的数据进行了评估。该模型显示出非常有竞争力的结果。
2019-06-14 cs.CL
Detecting Textual Adversarial Examples through Randomized Substitution and Vote
Huazhong University of Science and Technology(华中科技大学)
一系列工作表明,自然的文本处理模型容易受到对抗性示例的影响。相应地,提出了各种防御方法,以减轻威胁的文本对抗性的例子,例如,对抗性训练,输入变换,检测等。在这项工作中,我们对待的优化过程同义词替换为基础的文本对抗攻击作为一个特定的序列的字替换,其中每个字相互影响其他的话。我们发现,我们可以破坏这种相互作用,消除敌对扰动随机替换一个词与它的同义词。基于这一观察,我们提出了一种新的文本对抗性示例检测方法,称为随机替换和投票(RS&V),它通过累积k个样本的logits来投票预测标签,这些样本是通过用同义词随机替换输入文本中的单词而生成的。所提出的RS&V通常适用于任何现有的神经网络,而无需修改架构或额外的训练,并且它与使分类网络本身更鲁棒的先前工作正交。在三个基准数据集上的实证评估表明,我们的RS&V可以比现有的检测方法更成功地检测文本对抗性示例,同时保持良性样本的高分类准确率。
2022-07-20 cs.CL cs.LG
From Textual Information Sources to Linked Data in the Agatha Project
Universidade de Évora(埃武拉大学)
文本信息的自动推理是现代自然语言处理(NLP)系统中的一项具有挑战性的任务。在这项工作中,我们描述了我们的建议,通过关联数据,如本体论和同义词表示和推理葡萄牙文文件。我们的方法诉诸于一个专门的管道自然语言处理(部分的语音标签,命名实体识别,语义角色标注)填充本体的刑事调查领域。所提供的架构和本体是语言独立的。虽然一些NLP模块是依赖于语言的,但它们可以使用适当的AI方法来构建。
2019-09-03 cs.AI cs.CL
Better Few-Shot Relation Extraction with Label Prompt Dropout
Singapore University of Technology and Design(新加坡科技设计大学)
Few-Shot关系抽取的目标是基于非常有限的训练样本来学习识别两个实体之间的关系。最近的努力发现,文本标签(即,关系名称和关系描述)对于学习类表示非常有用,这将有益于少样本学习任务。然而,在学习过程中利用这些标签信息的最佳方式是一个重要的研究问题。现有的作品在很大程度上假设这样的文本标签总是存在于学习和预测过程中。在这项工作中,我们认为,这种方法可能并不总是导致最佳结果。相反,我们提出了一种新的方法,称为标签提示辍学,随机删除标签的描述在学习过程中。我们的实验表明,我们的方法是能够导致改进的类表示,产生显着更好的结果上的Few-Shot关系抽取任务。
2022-10-25 cs.CL
Self-Supervised Losses for One-Class Textual Anomaly Detection
University College London(伦敦大学学院);The Alan Turing Institute(艾伦·图灵研究所)
当前用于文本中异常检测的深度学习方法依赖于可能无法获得的内点中的监督信号或难以调整的定制架构。我们研究了一个更简单的替代方案:微调Transformers的内部数据与自我监督的目标,并使用的损失作为异常得分。总体而言,在各种异常检测场景下,自我监督方法优于其他方法,平均将语义异常的AUROC分数提高了11.6%,句法异常的AUROC分数提高了22.8%。此外,最佳目标和所得的学习表示取决于下游异常的类型。异常和内点的可分离性表示对于检测语义异常更有效,而窄特征方向的存在表示对于检测句法异常有效。
2022-04-12 cs.CL