Short Text Language Identification for Under Resourced Languages
Feersum Engine(Feersum引擎公司);Praekelt Consulting(Praekelt咨询公司)
本文提出了一种用于短文本语言识别(LID)的分层朴素贝叶斯和基于词典的分类器,适用于资源不足的语言。该算法是评估短的文本片段的11个南非官方语言,其中一些是类似的语言。该算法相比,最近的方法,使用测试集从以前的作品南非语言,以及相似的语言(DSL)共享任务的数据集之间的区别。剩余的研究机会和紧迫的问题,在评估和比较LID方法进行了讨论。
2019-11-22 cs.CL
GADFA: Generator-Assisted Decision-Focused Approach for Opinion Expressing Timing Identification
Artificial Intelligence Research Center, AIST(AIST人工智能研究中心);Ochanomizu University(御茶水女子大学);University of Tokyo(东京大学);National Taiwan University(台湾大学)
本文提出新闻触发的观点表达时机识别任务,构建基于股票分析师行为的数据集,并用GADFA以生成模型辅助决策聚焦分类,提升时机识别效果。
2024-11-30 cs.CL
Language Model Adaptation for Language and Dialect Identification of Text
University of Helsinki(赫尔辛基大学)
本文描述了一种无监督的语言模型自适应方法,可用于提高语言识别方法的性能。该方法适用于当前版本的HeLI语言识别方法,现在称为HeLI 2.0。我们详细描述了HeLI 2.0方法。使用2017年和2018年VarDial研讨会的德语方言识别和印度-雅利安语识别共享任务的数据集对所产生的系统进行评估。新的方法与语言识别提供了相当高的F1分数比以前的HeLI方法或参与共享任务的其他系统。结果表明,无监督的语言模型适应应被视为所有语言识别任务的一种选择,特别是在那些遇到域外数据是可能的。
2019-03-26 cs.CL
PHICON: Improving Generalization of Clinical Text De-identification Models via Data Augmentation
The Ohio State University(俄亥俄州立大学);The Hong Kong Polytechnic University(香港理工大学)
去识别是识别临床文本中受保护的健康信息(PHI)的任务。现有的神经去识别模型通常无法推广到新的数据集。我们提出了一个简单而有效的数据增强方法PHICON,以减轻泛化问题。PHICON由PHI增强和上下文增强组成,其分别通过用从外部源采样的命名实体替换PHI实体以及通过同义词替换或随机词插入来改变背景上下文来创建增强的训练语料库。在i2b2 2006和2014去识别挑战数据集上的实验结果表明,PHICON可以帮助三个选定的去识别模型在交叉数据集测试设置上提高F1分数(最多8.6%)。我们还讨论了使用多少增强以及每种增强方法如何影响性能。
2020-10-11 cs.CL
DeIDClinic: A Risk-Aware Pseudonymization Framework for Clinical Text De-identification and Re-identification Risk Assessment
University of Manchester(曼彻斯特大学);Leiden Institute of Advanced Computer Science (LIACS)(莱顿先进计算机科学研究所);Leiden University(莱顿大学);Biomedical Data Sciences, Leiden University Medical Center(莱顿大学医学中心生物医学数据科学)
提出DeIDClinic多层框架,集成领域自适应变换器模型(BioBERT、ClinicalBERT)和文档级风险评估模块(k-匿名、l-多样性、t-接近度等),在i2b2 2014数据集上实现高F1分数,支持隐私保护数据共享。
2026-05-23 cs.CL
Investigating Machine Learning Methods for Language and Dialect Identification of Cuneiform Texts
Sharif University of Technology(谢里夫理工大学)
由于缺乏资源和标记化问题,识别使用楔形文字符号书写的语言是一项困难的任务。VarDial 2019中的楔形文字语言识别任务解决了识别以楔形文字书写的七种语言和方言的问题;苏美尔语和阿卡德语的六种方言:古巴比伦语,中巴比伦语外围语,标准巴比伦语,新巴比伦语,晚巴比伦语和新亚述语。本文描述了SharifCL团队在VarDial 2019中解决这个问题所采取的方法。最好的结果属于支持向量机和朴素贝叶斯分类器的集成,两者都工作在字符级特征上,宏观平均F1分数为72.10%。
2020-09-22 cs.CL
Atypical lexical abbreviations identification in Russian medical texts
NUST MISiS(国立研究型技术大学莫斯科国立钢铁合金学院)
缩略语是一种构词法,其目的是从初始短语的第一个字母构建缩短的术语。隐性缩略语经常给没有准备的读者造成理解困难。在本文中,我们提出了一个有效的ML为基础的算法,允许识别俄语文本中的缩写。该方法实现了ROC AUC评分0.926和F1评分0.706,与基线相比具有竞争力。除了管道,我们还首先建立了与所需任务相关的俄罗斯数据集。
2022-06-04 cs.CL
Fine-Grained Element Identification in Complaint Text of Internet Fraud
Fudan University(复旦大学);Ant Group(蚂蚁集团)
现有的处理网上投诉的系统提供了一个没有解释的最终决定。我们建议以精细的方式分析互联网欺诈的投诉文本。考虑到投诉文本包含多个具有不同功能的条款,我们建议识别每个条款的作用,并将其归类为不同类型的欺诈元素。我们构建了一个来自真实金融服务平台的大型标记数据集。在BERT的基础上建立了一个元素识别模型,并提出了两个额外的模块,即全局上下文编码器和标签细化器,以利用投诉文本的上下文信息进行更好的元素标签分类。实验结果表明了该模型的有效性。
2021-09-12 cs.CL
Clinical Text Summarization with Syntax-Based Negation and Semantic Concept Identification
在临床信息爆炸的时代,一个好的临床文本摘要策略有助于改善临床工作流程。理想的摘要策略可以在信息量大但组织性差、结构不良的临床叙述性文本中保留重要信息。我们利用计算语言学的知识和人类专家策划的生物医学知识库,而不是使用难以解释和解释的纯统计学习方法,来实现可解释和有意义的临床文本摘要。我们的研究目标是使用具有语义信息的生物医学本体,并利用语言的层次结构,即组成树,来识别正确的临床概念和相应的否定信息,这对于从叙述性文本中总结临床概念至关重要。我们取得了临床上可接受的性能,无论是否定检测和概念识别,并与常见的否定模式的临床概念可以识别和否定所提出的方法。
2020-02-29 cs.CL
GiusBERTo: A Legal Language Model for Personal Data De-identification in Italian Court of Auditors Decisions
Roma Tre University(罗马第三大学);Sapienza University of Rome(罗马大学);Government of Italy(意大利政府)
本研究提出首个专门用于意大利法律文档个人数据去标识化的BERT类模型GiusBERTo,经审计法院判决数据集训练后在留出测试集上达97%词元级准确率,为意法律界提供兼顾隐私与数据保护的定制化工具。
2024-06-21 cs.AI cs.CL
Benchmarking Modern Named Entity Recognition Techniques for Free-text Health Record De-identification
Brown University(布朗大学)
电子健康记录(EHR)已成为美国医疗数据保存的主要形式。联邦法律限制共享任何包含受保护健康信息(PHI)的EHR数据。去识别,即识别和删除所有PHI的过程,对于使EHR数据公开用于科学研究至关重要。该项目探讨了几种基于深度学习的命名实体识别(NER)方法,以确定哪种方法在去识别任务上表现更好。我们在i2 b2训练数据集上训练和测试了我们的模型,并使用从当地医院收集的EHR数据对其性能进行了定性评估。我们发现1)BiLSTM-CRF代表了性能最好的编码器/解码器组合,2)字符嵌入和CRF倾向于以召回为代价提高精度,3)单独的Transformers作为上下文编码器表现不佳。未来的工作集中在结构化的医疗文本可能会提高提取的语义和句法信息的EHR去识别的目的。
2021-03-25 cs.CL
Towards automatic identification of linguistic politeness in Hindi texts
Dr. Bhim Rao Ambedkar University(比姆·拉奥·安贝德卡博士大学)
在本文中,我提出了一个分类的自动识别语言礼貌印地语文本。我已经使用了超过25,000条博客评论的手动注释语料库来训练SVM。本文运用话语礼貌和插入礼貌的研究方法,阐述了印地语中规范的、规约化的礼貌结构。可以看出,使用这些手动识别的结构作为训练SVM的特征,显着提高了测试集上的分类器的性能。经过训练的系统提供了超过77%的显着高准确度,这是人类准确度的2%以内。
2021-11-30 cs.CL
Multichannel LSTM-CNN for Telugu Technical Domain Identification
Language Technologies Research Centre(语言技术研究中心);KCIS, IIIT Hyderabad(印度理工学院海得拉巴分校KCIS)
随着文本信息的迅速增长,从文本数据中提取面向领域的信息在信息检索和自然语言处理中有着广泛的应用。主题关键字提供文本的压缩表示。通常,领域识别在机器翻译、文本摘要、问答、信息抽取和情感分析中起着重要的作用。在本文中,我们提出了用于泰卢固语技术领域识别的多通道LSTM-CNN方法。在ICON共享任务TechDOfication 2020(任务h)的上下文中使用和评估了该架构,我们的系统在测试数据集上获得了69.9%的F1分数,在验证集上获得了90.01%的分数。
2021-02-24 cs.CL
Native Language Identification on Text and Speech
University of Wolverhampton(伍尔弗汉普顿大学);University of Bucharest(布加勒斯特大学)
本文提出了一个集成系统相结合的输出多个SVM分类器的母语识别(NLI)。该系统被提交给NLI共享任务2017融合轨道,其中包括学生论文和11种母语的非英语母语者的音频transmittance和iVectors形式的口语回答。我们的系统以ZCD团队的名义参加了挑战赛,并且基于在字符n-gram上训练的SVM分类器的集合,实现了83.58%的准确率,并在共享任务中排名第三。
2017-07-22 cs.CL
Finnish Dialect Identification: The Effect of Audio and Text
University of Helsinki(赫尔辛基大学);Rootroo Ltd(Rootroo有限公司)
芬兰语是一种具有多种方言的语言,不仅在口音(发音)方面彼此不同,而且在形态形式和词汇选择方面也不同。我们提出了第一种方法来自动检测方言的扬声器的基础上的方言成绩单和成绩单与音频记录在一个数据集,由23种不同的方言。我们的研究结果表明,最好的准确性是通过结合这两种方式,文本只有达到57%的整体准确性,而文本和音频达到85%。我们的代码、模型和数据已在Github和Zenodo上公开发布。
2021-11-06 cs.CL
Automatic Language Identification in Texts: A Survey
The University of Helsinki(赫尔辛基大学);The University of Melbourne(墨尔本大学);University of Wolverhampton(伍尔弗汉普顿大学)
语言识别(LI)是确定文档或其部分所用的自然语言的问题。自动LI已经被广泛研究了五十多年。如今,LI是许多文本处理流水线的关键部分,因为文本处理技术通常假定输入文本的语言是已知的。这方面的研究最近特别活跃。本文简要介绍了李学研究的历史,并对李学研究的特点和方法进行了广泛的调查。为了描述的功能和方法,我们介绍了一个统一的符号。我们讨论评估方法,LI的应用,以及现成的LI系统,不需要最终用户的培训。最后,我们确定了开放的问题,调查的工作,到目前为止,对每个问题,并提出未来的研究方向在LI。
2018-11-21 cs.CL
Beyond De-Identification: A Structured Approach for Defining and Detecting Indirect Identifiers in Medical Texts
Technische Universität Berlin(柏林工业大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文提出九类间接标识符标注模式,考虑多类潜在对手,基于100份MIMIC-III出院小结构建6,199条标注并建立检测基线模型。
2025-02-18 cs.CL
EAVIT: Efficient and Accurate Human Value Identification from Text data via LLMs
National Key Laboratory of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University(国家通用人工智能重点实验室,智能科学与技术学院,北京大学)
针对在线大语言模型处理长上下文价值识别性能下降、成本高的问题,提出结合本地小型价值检测器与在线LLM的EAVIT框架,通过生成初始估计构建精简提示,在大幅减少token消耗的同时提升识别性能。
2025-05-19 cs.CL
Chemical Identification and Indexing in PubMed Articles via BERT and Text-to-Text Approaches
NVIDIA(英伟达)
生物创意VII轨道2挑战包括命名实体识别、实体链接(或实体规范化)和主题索引任务--实体和主题仅限于该挑战的化学品。命名实体识别是一个公认的问题,我们实现了我们的最佳性能与BERT为基础的BioMegatron模型。我们扩展我们的BERT为基础的方法的实体链接任务。在使用称为自对齐预训练(SAP)的度量学习损失策略预训练BioBERT的第二阶段之后,我们根据其SAP-BioBERT词嵌入之间的余弦相似性来链接实体。尽管我们的命名实体识别实验取得了成功,但我们发现化学索引任务通常更具挑战性。除了传统的NER方法,我们尝试命名实体识别和实体链接与一种新的文本到文本或“提示”为基础的方法,使用生成语言模型,如T5和GPT。我们采用这种新方法取得了令人鼓舞的成果。
2021-11-30 cs.CL
Uralic Language Identification (ULI) 2020 shared task dataset and the Wanca 2017 corpus
University of Helsinki(赫尔辛基大学)
本文介绍了从互联网上抓取的Wanca 2017文本语料库,从中收集了用于乌拉尔语言识别(ULI)2020共享任务的稀有乌拉尔语言的句子。我们描述了ULI数据集,以及它是如何使用Wanca 2017语料库和莱比锡语料库集合中不同语言的文本构建的。我们还提供了使用ULI 2020数据集进行的基线语言识别实验。
2020-08-27 cs.CL
Automatic Arabic Dialect Identification Systems for Written Texts: A Survey
Taif University(泰夫大学)
阿拉伯语方言识别是自然语言处理的一项具体任务,旨在自动预测给定文本的阿拉伯语方言。阿拉伯语方言识别是各种自然语言处理应用(例如机器翻译、多语言文本到语音合成和跨语言文本生成)的第一步。因此,在过去十年中,人们对解决阿拉伯方言识别问题的兴趣有所增加。在本文中,我们提出了一个全面的调查阿拉伯语方言识别研究的书面文本。首先,我们要明确问题及其挑战。然后,调查广泛地讨论了在批判的态度与阿拉伯语方言识别任务的许多方面。因此,我们回顾了传统的机器学习方法,深度学习架构和复杂的学习方法来识别阿拉伯语方言。我们还详细介绍了用于训练所提出的系统的特征表示的功能和技术。此外,我们说明了文献中研究的阿拉伯方言的分类,阿拉伯方言识别进行的文本处理的各个层次(例如,标记、句子和文档级别),以及可用的注释资源,包括评估基准语料库。在调查结束时讨论了公开的挑战和问题。
2020-09-26 cs.CL cs.LG
Multilingual Pre-Trained Transformers and Convolutional NN Classification Models for Technical Domain Identification
LTRC(语言技术研究中心);IIIT-Hyderabad(海得拉巴国际信息技术学院)
在本文中,我们提出了一个迁移学习系统进行多语言文本数据的技术领域识别。我们已经提交了两次运行,一次使用Transformer模型BERT,另一次使用XLM-ROBERTA和CNN模型进行文本分类。这些模型使我们能够为ICON 2020共享任务TechDOification识别给定句子的领域:技术领域识别。对于给定的TechDOfication数据集,我们的系统对子任务1d,1g排名最好。
2021-01-22 cs.CL
Enhancing Clinical Models with Pseudo Data for De-identification
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Argonne National Labs(阿贡国家实验室)
本研究针对临床模型在脱敏编辑文本上训练的影响不明问题,通过在含真实伪文本的数据集上预训练仅编码器模型并微调去标识化任务,显著提升了性能,同时开源了相关数据集生成工具与代码。
2025-06-17 cs.CL
AIDBench: A benchmark for evaluating the authorship identification capability of large language models
Shanghai Jiao Tong University(上海交通大学);Peking University(北京大学);HKUST(香港科技大学)
本文提出AIDBench基准,通过一对一和一对多两种评估方式并结合RAG方法,系统评估大语言模型识别匿名文本作者身份的能力,揭示其带来的新隐私风险。
2024-11-20 cs.CL
BanglaDial-Abuse: A Corpus-Grounded Dataset for Regional Dialect Identification in Abusive Bangla Text
American International University-Bangladesh(美国国际大学孟加拉分校)
针对孟加拉语滥用文本的区域方言识别挑战,构建了包含四种方言各250句的平衡数据集,并采用基于语料库的合成方法生成,主要贡献在于提供方言识别任务资源。
2026-10-02 cs.CL
A Text-to-Text Model for Multilingual Offensive Language Identification
Aston University(阿斯顿大学);George Mason University(乔治梅森大学)
本文提出基于 T5/mT5 的编码器-解码器冒犯性语言识别模型,利用 SOLID、CCTK 训练并优化阈值,在英语及六语种基准上达到最先进性能。
2023-12-06 cs.CL
Bhasha-Abhijnaanam: Native-script and romanized Language Identification for 22 Indic languages
AI4Bharat;IIT Madras(印度理工学院马德拉斯分校);Microsoft(微软)
本文构建了覆盖22种印度语言的本土文字与罗马化文本语言识别数据集Bhasha-Abhijnaanam,并训练了首个罗马化印度语言识别模型IndicLID,解决了训练数据缺乏和相似语言识别难的问题。
2023-10-26 cs.CL
AMS_ADRN at SemEval-2022 Task 5: A Suitable Image-text Multimodal Joint Modeling Method for Multi-task Misogyny Identification
Tencent. Inc(腾讯公司)
女性在网络上很有影响力,特别是在Twitter和Instagram等基于图像的社交媒体上。然而,网络环境中的许多内容都含有性别歧视和攻击性信息,放大了性别刻板印象和性别不平等。因此,对性别歧视等非法内容的过滤对于维护健康的社交网络环境至关重要。在本文中,我们描述了我们的团队为SemEval-2022任务5:多媒体自动厌女症识别开发的系统。更具体地说,我们引入了两个新的系统来分析这些帖子:一个多模态多任务学习架构,将Bertweet用于文本编码与ResNet-18用于图像表示相结合,以及一个单流Transformer结构,将BERT-Embeddings的文本嵌入和EfficientNet和ResNet等几个不同模块的图像嵌入相结合。通过这种方式,我们可以正确地揭示它们背后的信息。我们的方法在当前比赛的两个子任务中的每一个上都取得了良好的性能,子任务A排名第15(0.746宏观F1分数),子任务B排名第11(0.706宏观F1分数),同时超过了官方基线结果。
2022-04-20 cs.CL
Automated Text Identification Using CNN and Training Dynamics
University of Bucharest(布加勒斯特大学);Faculty of Mathematics and Computer Science(数学与计算机科学学院)
该研究利用 Data Maps 从置信度、可变性和正确性分析 AuTexTification 数据集的训练动态,并通过经典 CNN 验证仅使用模糊样本子集训练可提升分布外泛化。
2024-05-18 cs.CL
Audio De-identification: A New Entity Recognition Task
Google(谷歌)
命名实体识别(NER)主要是在书面文本的背景下研究的。具体而言,NER是医疗记录去识别(de-ID)的重要步骤,其中许多是患者和医生之间的记录对话。在这样的录音中,带有个人信息的音频段应该被编辑,类似于在书面文本的de-ID中编辑敏感字符段。NER在音频去识别背景下的应用尚未得到充分研究。为此,我们定义了音频de-ID的任务,其中应该检测到实体提及的音频跨度。然后,我们提出了我们的管道,这涉及到自动语音识别(ASR),NER的成绩单文本,和文本到音频的对齐。最后,我们介绍了一种新的音频de-ID度量标准和一个新的评估基准,该基准由Switchboard和Fisher音频数据集的一个大的标记部分组成,并详细介绍了我们的流水线结果。
2019-05-05 cs.CL
Albanian Language Identification in Text Documents
University of Tirana(地拉那大学)
在这项工作中,我们调查的准确性标准和国家的最先进的语言识别方法在确定阿尔巴尼亚语的书面文本文件。为此目的,建立了一个由阿尔巴尼亚语新闻文章组成的数据集。我们注意到,当使用遗漏阿尔巴尼亚字母表字母““和”“的测试文档时,准确率会大幅下降,并创建了一个自定义训练语料库,通过实现超过99%的准确率来解决这个问题。根据我们的实验,阿尔巴尼亚语最有效的语言识别方法使用朴素贝叶斯分类器和基于n-gram的分类特征。
2019-01-14 cs.CL cs.IR
De-identification of Unstructured Clinical Texts from Sequence to Sequence Perspective
University of Manitoba(曼尼托巴大学);University of Texas(德克萨斯大学)
在这项工作中,我们提出了一个新的问题制定的非结构化临床文本的去识别。我们制定的去识别问题作为一个序列到序列的学习问题,而不是一个令牌分类问题。我们的方法的灵感来自最近的国家的最先进的性能序列到序列的学习模型命名实体识别。我们提出的方法的早期实验在i2b2数据集上实现了98.91%的召回率。该性能与当前用于非结构化临床文本去识别的最先进模型相当。
2021-09-10 cs.CL cs.CR cs.LG
Transformer-based Model for Word Level Language Identification in Code-mixed Kannada-English Texts
Instituto Politécnico Nacional(墨西哥国立理工学院)
在自然语言处理(NLP)研究中使用代码混合数据目前得到了很多关注。由于社交媒体在传播中的进步和影响,社交媒体语码混合文本的语言识别近年来成为一个有趣的研究问题。本文介绍了Instituto Politécnico Nacional,Centro de Investigación en Computación(CIC)团队在ICON 2022上为CoLI-Kanglish共享任务编写的系统描述文件。在本文中,我们提出了使用一个基于Transformer的模型,在代码混合卡纳达语英语文本的单词级语言识别。在CoLI-Kenglish数据集上,所提出的模型的加权F1得分为0.84,宏观F1得分为0.61。
2022-11-26 cs.AI cs.CL
Automatic Identification of Subjects for Textual Documents in Digital Libraries
互联网上的电子文档数量增长非常迅速。如何有效地识别文档的主题成为一个重要的问题。以往的研究主要集中在名词在文档中的行为。虽然主语是由名词组成的,但决定哪些名词是主语的成分不仅仅是名词。基于语篇是有组织的和事件驱动的假设,名词和动词共同参与了主语识别的过程。本文考虑了四个因素:1)词的重要性,2)词频,3)词的共现,4)词的距离,并提出了一个模型来确定主题的文本文档。初步实验表明,该模型的性能接近人类。
1999-02-01 cs.CL cs.DL
Universal and non-universal text statistics: Clustering coefficient for language identification
在这项工作中,我们分析了91个相对较小的文本在7种不同的语言(西班牙语,英语,法语,德语,土耳其语,俄语,冰岛语)以及随机插入空格的文本的统计特性。尽管大小(约11260个不同的单词),众所周知的普遍统计规律-即齐普夫和赫丹堆的法律-得到证实,并在密切的协议与其他地方获得的结果。我们还构建了每个文本的词共现网络。虽然度分布也是普遍的,但我们注意到,聚类系数的分布强烈依赖于网络的局部结构,可以用来区分语言,以及区分自然语言和随机文本。
2019-12-07 cs.CL physics.soc-ph
LLM Anonymization Against Agentic Re-Identification
Khoury College of Computer Sciences(科里学院计算机科学学院);Northeastern University(东北大学)
提出AURA框架,通过掩码-重构方法解耦隐私定位与效用保留,并利用对抗性隐私和效用检查,以抵抗基于网络搜索的智能体重识别攻击,同时保留文本的上下文效用。
2026-10-05 cs.CL cs.CR
Evaluating Input Representation for Language Identification in Hindi-English Code Mixed Text
Pune Institute of Computer Technology(浦那计算机技术学院);Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
自然语言处理(NLP)技术在近十年来已经成为主流。这些进步大部分归功于对单一语言的处理。最近,随着社交媒体平台的广泛增长,焦点已经转移到代码混合文本。代码混合文本包括以多于一种语言书写的文本。人们自然倾向于将本地语言与英语等全球语言结合起来。要处理这样的文本,目前的NLP技术是不够的。作为第一步,处理文本以识别文本中的单词的语言。在这项工作中,我们专注于印度语-英语混合文本的代码混合句子的语言识别。语言识别的任务被制定为一个令牌分类任务。在监督设置中,句子中的每个单词都有一个相关的语言标签。我们评估了不同的深度学习模型和输入表示组合来完成这项任务。主要地,字符、子词和词嵌入与基于CNN和LSTM的模型相结合来考虑。我们表明,子词表示和LSTM模型可以给出最好的结果。一般来说,子词表示的表现明显优于其他输入表示。我们报告了在标准SAIL ICON 2017测试集上使用单层LSTM模型的最佳准确率为94.52%。
2020-11-25 cs.CL cs.LG
LIDE: Language Identification from Text Documents
Adobe Systems(奥多比系统公司);Stanford University(斯坦福大学);Target Corporation(塔吉特公司);Garanti Technology(担保技术公司)
微博使用的增加是伴随着简短语言数据的快速增长。另一方面,深度学习被认为是以自动化方式从大量原始数据中提取有意义信息的新前沿。在这项研究中,我们利用这两个新兴领域提出了一个强大的语言识别器,即语言识别引擎(LIDE)。因此,我们在2015年的相似语言(DSL)共享任务数据集中实现了95.12%的准确率,这与迄今为止达到的95.54%的最高准确率相当。
2017-01-13 cs.CL cs.NE
Exploring the Performance of Large Language Models on Subjective Span Identification Tasks
George Mason University(乔治·马歇尔大学);University of Missouri(密苏里大学);Lancaster University(兰卡斯特大学)
本文探讨了大型语言模型在情感分析、攻击性语言识别和声明验证等任务中进行主观跨度识别的性能,评估了多种LLM策略的效果。
2026-01-02 cs.AI cs.CL
Feature Selection on Noisy Twitter Short Text Messages for Language Identification
Department of Computer Engineering, Jamia Millia Islamia(贾米亚·米利亚·伊斯兰亚大学计算机工程系)
书面语言识别的任务通常涉及检测文本样本中存在的语言。此外,文本序列可以不属于单一固有语言,也可以是以多种语言编写的文本的混合。由于其灵活和用户友好的环境,这种文本在社交媒体平台上大量生成。这种文本包含非常大量的特征,这些特征对于统计、概率以及其他种类的语言模型的开发是必不可少的。大量的特征具有丰富的以及不相关和冗余的特征,这些特征对学习模型的性能具有不同的影响。因此,特征选择方法在选择与有效模型最相关的特征方面是重要的。在这篇文章中,我们主要考虑印地语-英语语言识别任务,因为印地语和英语通常是印度最广泛使用的两种语言。我们在各种学习算法中应用不同的特征选择算法,以分析算法的效果以及特征数量对任务性能的影响。该方法的重点是词级语言识别使用一个新的数据集6903从Twitter上提取的推文。不同的n-gram配置文件检查不同的特征选择算法在许多分类器。最后,一个详尽的比较分析,提出了相对于为任务进行的整体实验。
2020-07-11 cs.CL cs.LG
MixLID: Token-Level Language Identification in Mixed-Language Text
Korea University(高丽大学)
本文提出支持111种语言-文字组合的MixLID令牌级语言识别模型,采用两阶段训练流程,在单语和混合语言识别任务中均优于基准模型,性能优异且可公开获取。
2026-10-14 cs.AI cs.CL
Task-specific Word Identification from Short Texts Using a Convolutional Neural Network
Tongji University(同济大学);University of Arkansas(阿肯色大学)
特定任务词识别的目的是选择与任务相关的词,最好地描述一个简短的文本。现有的方法需要定义良好的种子词或词典(例如,WordNet),这些技术通常不适用于许多应用,例如社会歧视检测和虚假评论检测。然而,我们通常有一组带标签的短文本,其中每个短文本都有一个与任务相关的类标签,例如,歧视性或非歧视性,由用户指定或通过分类算法学习。在本文中,我们专注于识别特定于任务的单词和短语,从短文本利用其类标签,而不是使用种子词或词汇字典。我们将特定于任务的单词和短语识别视为特征学习。我们在一组标记文本上训练一个卷积神经网络,并使用分数向量来定位特定于任务的单词和短语。情感词识别的实验结果表明,我们的方法显着优于现有的方法。我们进一步进行两个案例研究,以显示我们的方法的有效性。一个爬行的推文数据集上的案例研究表明,我们的方法可以成功地捕获歧视相关的词/短语。另一个关于虚假评论检测的案例研究表明,我们的方法可以识别虚假评论词/短语。
2017-06-03 cs.CL cs.IR cs.LG
"To Target or Not to Target": Identification and Analysis of Abusive Text Using Ensemble of Classifiers
Adobe Research(奥多比研究院)
随着人们对社交媒体平台上的辱骂和仇恨行为的日益关注,我们提出了一种集成学习方法来识别和分析此类内容的语言特性。我们的堆栈集成由三个机器学习模型组成,这些模型捕捉语言的不同方面,并提供关于不恰当语言的多样和一致的见解。所提出的方法提供了与Twitter滥用行为数据集(Founta et al. 2018)现有最先进技术相当的结果,而不使用任何用户或网络相关信息;仅依赖于文本属性。我们相信,目前的方法的缺点提出的见解和讨论将突出未来研究的潜在方向。
2020-06-05 cs.CL cs.SI
Automatic Language Identification for Romance Languages using Stop Words and Diacritics
University Politehnica of Bucharest(布加勒斯特理工大学);University of Lyon(里昂大学)
自动语言识别是一个自然语言处理问题,它试图确定给定内容的自然语言。在本文中,我们提出了一种统计方法,用于自动语言识别的书面文本使用字典包含停用词和变音符号。我们提出了不同的方法来结合这两个词典来准确地确定文本语料库的语言。之所以选择这种方法,是因为停用词和变音符号对于一种语言来说是非常特定的,尽管有些语言有一些相似的词和专用字符,但它们并不都是通用的。考虑的语言是浪漫语言,因为它们非常相似,通常很难从计算的角度区分它们。我们已经测试了我们的方法使用Twitter语料库和新闻文章语料库。两个语料库都由UTF-8编码的文本组成,因此可以考虑变音符号,在文本没有变音符号的情况下,仅使用停止词来确定文本的语言。实验结果表明,该方法对小文本的正确率在90%以上,
2018-06-14 cs.CL cs.IR
Improving Tagging Consistency and Entity Coverage for Chemical Identification in Full-text Articles
Korea University(高丽大学);University of California, San Diego(加州大学圣迭戈分校)
本文是关于我们的系统提交给BioCreative VII Track 2挑战的化学鉴别任务的技术报告。这一挑战的主要特点是数据由全文文章组成,而当前的数据集通常只包括标题和摘要。为了有效地解决这个问题,我们的目标是提高标签的一致性和实体覆盖率,使用各种方法,如在相同的文章中的多数表决命名实体识别(NER)和一个混合的方法,结合字典和神经模型进行规范化。在NLM-Chem数据集上的实验中,我们表明我们的方法提高了模型的性能,特别是在召回方面。最后,在挑战赛的官方评估中,我们的系统在NER中排名第一,表现明显优于基线模型和来自16个团队的80多个提交。
2021-11-20 cs.CL cs.IR
Sentence Identification with BOS and EOS Label Combinations
IBM Research(IBM研究院)
句子是许多NLP应用程序中的基本单位。句子分割被广泛用作第一个预处理任务,其中输入文本被分割成连续的句子,考虑句子的结尾(EOS)作为它们的边界。这个任务的制定依赖于一个强有力的假设,即输入文本仅由句子组成,或者我们称之为句子单位(SU)。然而,现实世界的文本往往包含非实体单元(NSU),如元数据,句子片段,非语言标记等,这是不合理的或不希望被视为一个SU的一部分。为了解决这个问题,我们制定了一个新的任务,句子识别,其目标是确定SU,同时排除在给定的文本中的NSU。为了进行句子识别,我们提出了一种简单而有效的方法,结合句首(BOS)和EOS标签,以确定最可能的SU和NSU的基础上动态规划。为了评估这一任务,我们设计了一个自动的,独立于语言的程序转换成句子识别基准的通用词典语料库。最后,我们在句子识别任务上的实验表明,我们提出的方法通常优于只利用EOS标签的句子分割基线。
2023-01-31 cs.AI cs.CL
Identifying Word Translations in Non-Parallel Texts
句子和单词对齐的通用算法允许从平行文本中自动识别单词翻译。这项研究表明,识别词的翻译也应该是可能的非平行,甚至不相关的文本。所提出的方法是基于这样的假设,即不同语言的文本中的词同现模式之间存在相关性。
1995-05-22 cmp-lg cs.CL
Speaker Fuzzy Fingerprints: Benchmarking Text-Based Identification in Multiparty Dialogues
INESC-ID;Universidade de Lisboa(里斯本大学)
本研究利用大型预训练模型的模糊指纹,结合说话人特定标记和上下文建模,提升基于文本的多方对话说话人识别,在Friends和Big Bang Theory数据集上分别达到70.6%和67.7%的准确率,并分析了模糊话语的检测机制。
2025-04-21 cs.AI cs.CE cs.CL
Aggregation-Aware Synthetic Text Generation Against Authorship Re-Identification
The Pennsylvania State University(宾夕法尼亚州立大学);Information Sciences and Technology(信息科学与技术学院)
该研究提出AAST框架,通过捆绑层面联合选择合成文本解决现有作者混淆方法忽略跨文档关联的问题,实验显示其可降低账户级可链接性并保留文本质量。
2026-08-25 cs.AI cs.CL
Multilingual Abusiveness Identification on Code-Mixed Social Media Text
Microsoft(微软);Indian Institute Of Technology (IIT) Guwahati(印度理工学院古瓦哈提分校)
随着时间的推移,社交媒体平台的使用率一直在增长。随着过去一年的封锁,人们的互动,对话和表达受到了身体上的限制,这种增长进一步加速。为了更好的用户体验,保持平台免受滥用内容的影响变得越来越重要。英语社交媒体内容已经做了很多工作,但非英语社交媒体上的文本分析相对来说还不够深入。非英语社交媒体内容还面临着代码混合、音译和在同一句话中使用不同经文的额外挑战。在这项工作中,我们提出了一种方法,包括印度语言的多语言Moj数据集上的滥用识别。我们的方法解决了非英语社交媒体内容的常见挑战,也可以扩展到其他语言。
2022-03-01 cs.CL cs.LG cs.SI
A Machine Learning Framework for Authorship Identification From Texts
Carnegie Mellon University(卡内基梅隆大学)
作者身份识别是对文本的作者进行身份识别的过程。大多数已知的文学文本可以很容易地归因于某个作者,因为它们是,例如,签名。然而,有时我们会发现未完成的作品或一大堆手稿,其中可能有各种各样的作者。为了评估这样的手稿的重要性,知道谁写的是至关重要的。在这项工作中,我们的目标是开发一个机器学习框架,以有效地确定作者。我们制定的任务作为一个单标签多类文本分类问题,并提出了一个监督机器学习框架,结合文体特征。这项任务是高度跨学科的,因为它利用了机器学习、信息检索和自然语言处理。我们提出了一种方法和一个模型,学习$50$不同作者之间的写作风格的差异,并能够预测一个新的文本的作者与高精度。在引入某些语言风格特征和文本特征后,准确性显着增加。
2019-12-21 cs.CL cs.IR cs.LG
Few-Shot Cross-lingual Transfer for Coarse-grained De-identification of Code-Mixed Clinical Texts
Saarland University(萨尔大学);DFKI(德国人工智能研究中心);Institut Guttmann(古特曼研究所);Universidad de Murcia(穆尔西亚大学)
尽管数字医疗系统在提供精心策划的结构化知识方面取得了进展,但许多关键信息仍然存在于大量未标记和非结构化的临床文本中。这些文本通常包含受保护的健康信息(PHI),暴露于下游应用的信息抽取工具,从而存在患者识别的风险。现有的去身份化工作依赖于使用大规模的英语注释语料库,这通常不适合现实世界的多语言环境。预先训练的语言模型(LM)在低资源环境下的跨语言迁移中显示出巨大的潜力。在这项工作中,我们经验性地显示了命名实体识别(NER)的LM的Few-Shot跨语言迁移属性,并将其应用于解决中风领域中代码混合(西班牙语-加泰罗尼亚语)临床笔记去识别的低资源和现实挑战。我们对黄金评估数据集进行注释,以评估Few-Shot设置性能,其中我们仅使用几百个标记的示例进行训练。当适应多语言BERT(mBERT)时,我们的模型将黄金评估集上的zero-shot F1分数从73.7%提高到91.2%(Devlin等人,2019)从MEDDOCAN(Marimon等人,2019)语料库与我们的Few-Shot跨语言目标语料库。当推广到样本外测试集时,最佳模型的人类评估F1得分为97.2%。
2022-04-10 cs.CL cs.CR cs.LG
Anonymity at Risk? Assessing Re-Identification Capabilities of Large Language Models
University of Fribourg(弗里堡大学);University of Bern(伯尔尼大学);Bern University of Applied Sciences(伯尔尼应用科学大学);Stanford University(斯坦福大学)
本研究针对大语言模型对匿名文本的人物重识别风险,构建法律与Wikipedia数据集及新评估指标开展实验,发现当前LLM难对法院判决重识别,但未来存在可能性,可助力提升匿名判决公开信心。
2024-05-19 cs.AI cs.CL cs.IR