Natural Language Processing: State of The Art, Current Trends and Challenges
Manav Rachna International University(马纳夫·拉奇纳国际大学);Accendere Knowledge Management Services Pvt. Ltd.(Accendere知识管理服务私人有限公司)
自然语言处理(NLP)近年来因其对人类语言的计算机表示和分析而受到广泛关注。它已经在机器翻译、垃圾邮件检测、信息抽取、摘要、医学、问答等领域得到了广泛的应用。本文通过讨论自然语言处理的不同层次和自然语言生成(NLG)的组成部分,将NLP分为四个阶段,介绍了NLP的各种应用以及当前的趋势和挑战。
2017-08-17 cs.CL
Current State in Privacy-Preserving Text Preprocessing for Domain-Agnostic NLP
Paderborn University(帕德博恩大学);Vellore Institute of Technology(韦洛尔理工学院)
本文综述了领域无关自然语言处理中隐私保护的文本预处理方法,重点介绍掩蔽和假名化技术,以应对大型语言模型从数据中提取私人信息的风险。
2025-08-05 cs.CL
One Country, 700+ Languages: NLP Challenges for Underrepresented Languages and Dialects in Indonesia
Amazon(亚马逊);Bloomberg(彭博);The University of Melbourne(墨尔本大学);HKUST(香港科技大学);Telkom University(电信大学);INACL(印尼计算语言学协会);Universitas Indonesia(印度尼西亚大学);Kanda University of International Studies(神田外国语大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学);Google Research(谷歌研究院)
NLP研究受到缺乏资源和对代表性不足的语言和方言所带来的挑战的认识的阻碍。印度尼西亚是世界上语言多样性第二大和人口第四多的国家,我们专注于印度尼西亚使用的语言,概述了印度尼西亚700多种语言的NLP研究现状。我们强调了印度尼西亚NLP面临的挑战,以及这些挑战如何影响当前NLP系统的性能。最后,我们提供了一般性建议,以帮助开发NLP技术,不仅适用于印度尼西亚的语言,也适用于其他代表性不足的语言。
2022-03-24 cs.CL
Natural Language Processing in Ethiopian Languages: Current State, Challenges, and Opportunities
Bahir Dar University(巴赫达尔大学);Universität Hamburg(汉堡大学);Wuhan University of Technology(武汉理工大学);Instituto Politécnico Nacional(国立理工学院);Wollo University(沃洛大学);Saarland University(萨尔大学)
这项调查深入研究了四种埃塞俄比亚语言的自然语言处理(NLP)的现状:阿姆哈拉语,Afaan Oromo,Tigrinya和Wolaytta。通过本文,我们确定了埃塞俄比亚自然语言处理研究的主要挑战和机遇。此外,我们在GitHub上提供了一个集中式存储库,其中包含这些语言中各种NLP任务的公开资源。这个知识库可以定期更新其他研究人员的贡献。我们的目标是确定研究差距,并将信息传播给对埃塞俄比亚语言感兴趣的NLP研究人员,并鼓励该领域的未来研究。
2023-03-25 cs.CL
Unveiling Global Discourse Structures: Theoretical Analysis and NLP Applications in Argument Mining
University of Applied Sciences for Engineering and Economics(应用科学与工程经济大学)
本文针对全球话语结构的连贯性问题,提出论证挖掘方法,定义术语、总结现有研究并指出不足,设计基于新NLP技术的泛化架构,为话语结构理论理解提供支持。
2025-02-12 cs.CL
Why Current XAI Is Not Enough for Arabic NLP: A Critical Survey of the Explainability Gap
University of Luxembourg(卢森堡大学);University of Alicante(阿利坎特大学)
该研究通过批判性综述指出当前阿拉伯语NLP的XAI存在方法、任务、语言学三方面差距,提出涵盖多维度的分类体系并给出基于语言学的阿拉伯语XAI研究议程。
2026-08-28 cs.CL
HausaNLP: Current Status, Challenges and Future Directions for Hausa Natural Language Processing
Imperial College London(伦敦帝国理工学院);Northeastern University(东北大学);Data Science for Social Impact, University of Pretoria(比勒陀利亚大学数据科学为社会影响);Kaduna State University(卡杜纳州大学);HausaNLP;Bayero University, Kano(卡诺巴耶罗大学);Universiti Teknologi PETRONAS(PETRONAS科技大学);University of the Witwatersrand(沃斯堡大学);Federal University of Lafia(拉法联邦大学)
本文系统梳理豪萨语NLP的现状与挑战,提出HausaNLP目录以聚合资源,并针对大语言模型集成、数据集扩展和社区协作提出未来研究方向。
2025-07-22 cs.CL
Bhaasha, Bhasa, Zaban: A Survey for Low-Resourced Languages in South Asia -- Current Stage and Challenges
Dept of Computer Science & Engineering, West Bengal University of Technology(计算机科学与工程系,西孟加拉理工大学);Department of Computer Science, University of Memphis(计算机科学系,孟菲斯大学)
本综述考察了2020年以来南亚低资源语言NLP模型的发展与挑战,重点分析了基于transformer的模型在数据、模型和任务三方面的进展与差距,呼吁社区解决数据缺失、语码混合及评估基准缺失等问题。
2025-09-15 cs.CL
On the Origins of Bias in NLP through the Lens of the Jim Code
University of The West of Scotland(西苏格兰大学);Heriot-Watt University(赫瑞瓦特大学)
本文从社会科学视角追溯了 NLP 模型中偏见的起源,指出其根植于过去 500 年的种族主义、性别歧视等社会问题,并呼吁通过纳入社会科学与科学家来解决偏见,为 NLP 研究社区提供了可操作的建议。
2023-05-16 cs.CL
Summarization, Simplification, and Generation: The Case of Patents
Università di Padova(帕多瓦大学);Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会)
我们调查了自然语言处理(NLP)方法来总结,简化和生成专利文本。虽然解决这些任务具有重要的实际应用-考虑到专利在研发过程中的中心地位-专利的特质对当前的NLP最新技术水平提出了特殊的挑战。本调查旨在a)描述专利的特征及其对当前NLP系统提出的问题,b)批判性地介绍以前的工作及其演变,(c)提请注意需要进一步开展工作的研究方向。据我们所知,这是专利领域生成方法的第一次调查。
2022-05-26 cs.CL
Whispers of Doubt Amidst Echoes of Triumph in NLP Robustness
Kahlert School of Computing(卡勒特计算机学院);University of Utah(犹他大学)
本文评估20多个不同架构与预训练目标的模型,发现单纯扩大规模无法解决NLP鲁棒性问题,且部分现有对抗评估方法也需重新审视。
2024-04-03 cs.CL
New Methods, Current Trends and Software Infrastructure for NLP
在NLP中越来越多地使用“新方法”,这是NeMLaP系列会议所证实的,发生在学科性质和关注的更广泛转变的背景下。本文首先简要回顾了这一背景和该领域的重要趋势。该审查的动机,并导致了一组的要求,支持软件的通用工具,为自然语言处理的研究和开发工作者。一个免费提供的系统,旨在满足这些要求的描述(称为门-一个通用的文本工程架构)。信息提取(IE),在由信息理解会议(ARPA \cite{Arp95})定义的意义上,是一种NLP应用,其中许多新方法都找到了家(Hobbs \cite{Hob93} ; Jacobs ed. \cite{Jac92})。基于GATE的IE系统也可用于研究目的,这是描述。最后,回顾相关工作。
1996-07-23 cmp-lg cs.CL
Regulation and NLP (RegNLP): Taming Large Language Models
Utrecht University(乌得勒支大学);University of Sheffield(谢菲尔德大学);University of Copenhagen(哥本哈根大学);Tilburg University(蒂尔堡大学);Maastricht University(马斯特里赫特大学)
本文针对当前NLP领域风险监管讨论缺乏系统方法、AI监管受两极化叙事影响的问题,提出结合监管研究知识,倡导构建RegNLP多学科研究领域,以系统方法衔接科学知识与监管流程。
2023-10-09 cs.CL
You Shall Know a User by the Company It Keeps: Dynamic Representations for Social Media Users in NLP
University of Amsterdam(阿姆斯特丹大学);Amazon(亚马逊);University of Stuttgart(斯图加特大学)
关于个人的信息可以帮助更好地理解他们所说的话,特别是在文本很短的社交媒体上。目前对社交媒体用户进行建模的方法关注他们的社交联系,但以静态的方式利用这些信息,统一对待所有联系。这忽略了一个社会语言学中众所周知的事实,即一个人可能是几个社区的一部分,这些社区在所有的交际情境中并不同等相关。我们提出了一个基于图注意力网络的模型来捕捉这种观察。它动态地探索用户的社交图谱,计算给定目标任务的最相关连接的用户表示,并将其与语言信息相结合以进行预测。我们将我们的模型应用于三个不同的任务,对替代模型进行评估,并对结果进行了广泛的分析,结果表明,它显着优于目前的其他方法。
2019-09-01 cs.CL
The Decades Progress on Code-Switching Research in NLP: A Systematic Survey on Trends and Challenges
Bloomberg(彭博);MBZUAI(穆罕默德·本·扎耶德人工智能大学);Brown University(布朗大学)
本文系统综述了NLP领域数十年来语码转换研究的演进,从语言学理论方法到机器学习方法,梳理了趋势、挑战与未来研究方向。
2023-05-24 cs.CL
Can NLP Tackle Hate Speech in the Real World? Stakeholder-Informed Feedback and Survey on Counterspeech
The Interaction Lab, Heriot-Watt University(赫瑞斯·沃德大学交互实验室);University of Edinburgh(爱丁堡大学)
本文通过系统综述74项NLP反言论研究和与五个NGO的参与式案例研究,揭示当前研究忽视利益相关者参与,并提出重新以利益相关者专业知识为中心的建议。
2025-08-06 cs.CL
Modelling Analogies and Analogical Reasoning: Connecting Cognitive Science Theory and NLP Research
Computation, Cognition & Language Group, Idiap Research Institute(计算、认知与语言组,Idiap研究所);NLP Lab, EPFL(NLP实验室,EPFL);Psychological Methods, University of Amsterdam(心理方法,阿姆斯特丹大学);Faculty of Communication, Culture and Society and Faculty of Informatics Università della Svizzera italiana(传播、文化与社会学院和信息学院,瑞士大学)
本文总结认知科学中类比推理的关键理论,并将其与NLP研究关联,指出这些概念对NLP重大挑战的意义,以促进关系理解而非实体相似性。
2025-09-26 cs.CL
Natural Language Processing of Privacy Policies: A Survey
University of Denver(丹佛大学);George Mason University(乔治梅森大学)
该综述分析了109篇NLP与隐私政策交叉领域的论文,梳理了NLP在隐私政策传达中的应用现状,指出当前研究多聚焦隐私文本标注分类、对摘要等方向探索不足,并明确了该领域的多项潜在研究方向。
2025-01-17 cs.CL
Responsible AI Considerations in Text Summarization Research: A Review of Current Practices
Mila – Quebec Artificial Intelligence Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);Microsoft Research(微软研究院)
本文对333篇文本摘要论文进行定性分析,发现当前研究较少关注利益相关者与使用场景,限制了对下游负面影响的考量,并据此提出负责任AI的实践建议。
2023-11-18 cs.CL
A Survey of Code-switched Arabic NLP: Progress, Challenges, and Future Directions
MBZUAI(Mohamed bin Zayed 人工智能大学);German International University, Egypt(德国国际大学);University of Stuttgart(斯图加特大学);University of Houston(休斯顿大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
本文综述阿拉伯语代码转换NLP领域,涵盖阿拉伯世界多语与双重语体背景下的代码转换现象,总结现有工作、挑战与研究空白,并提出未来研究方向建议。
2025-01-23 cs.CL
Measuring the Robustness of NLP Models to Domain Shifts
Technion - Israel Institute of Technology(以色列理工学院)
本文针对领域鲁棒性研究中的局限,提出将目标域下降(TD)作为源域下降(SD)的补充指标,构建了包含7项任务的基准,并在大规模实验中发现少样本LLM跨域鲁棒性优于微调模型。
2024-04-20 cs.CL
Variation is the Norm: Embracing Sociolinguistics in NLP
University of Luxembourg(卢森堡大学);MaiNLP;LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出将社会语言学维度与NLP技术维度结合的框架,通过卢森堡语案例研究展示如何在NLP中纳入语言变异以提升模型性能。
2026-03-25 cs.CL
Systematic Inequalities in Language Technology Performance across the World's Languages
Harvard University(哈佛大学);George Mason University(乔治梅森大学);Carnegie Mellon University(卡内基梅隆大学)
自然语言处理(NLP)系统已经成为通信、教育、医学、人工智能以及许多其他研究和开发领域的核心技术。虽然NLP方法的性能在过去十年中有了巨大的增长,但这一进展仅限于世界上6,500种语言中的一小部分。我们介绍了一个框架,估计语言技术的全球效用,揭示了在一个全面的快照,最近的出版物在自然语言处理。我们的分析涉及整个领域,但也更深入地研究了面向用户的技术(机器翻译,语言理解,问答,文本到语音合成)以及更多的语言NLP任务(依存句法分析,形态变化)。在这个过程中,我们(1)量化NLP研究现状中的差异,(2)探索一些相关的社会和学术因素,(3)为旨在促进更全球化和公平的语言技术的循证决策提供量身定制的建议。
2021-10-13 cs.CL
Cross-Demographic Portability of Deep NLP-Based Depression Models
Ellipsis Health, Inc.(埃利普西斯健康公司)
本文研究基于NLP的抑郁症预测模型在不同年龄人群间的可移植性,发现模型从年轻人语料库迁移到老年人语料库时性能仅适度下降,AUC从0.82降至0.76,且健康状况稳定的老年患者子集AUC可达0.81。
2024-12-26 cs.CL
Pitfalls in the Evaluation of Sentence Embeddings
Technische Universität Darmstadt(达姆施塔特工业大学)
深度学习模型在不同的NLP任务中不断打破新的记录。与此同时,他们的成功暴露了模型评估的弱点。在这里,我们汇编了评估句子嵌入的几个关键陷阱,这是目前非常流行的NLP范式。这些陷阱包括不同大小的嵌入的比较,嵌入的规范化,以及传输和探测任务之间的低(和发散)相关性。我们的动机是挑战目前的评价句子嵌入,并提供一个易于访问的参考,为未来的研究。基于我们的见解,我们还推荐了更好的实践,以便将来更好地评估句子嵌入。
2019-06-04 cs.CL
Challenges and Considerations with Code-Mixed NLP for Multilingual Societies
TCS Research(塔塔咨询服务公司研究院);IIT Gandhinagar(印度理工学院甘地纳格尔分校)
多语制是指在书面和口头交流模式中高度熟练地使用两种或两种以上语言。它经常导致语言混合,又名。语码混合,即多语言使用者在一个文本或语音的单一话语中在多种语言之间切换。本文讨论了NLP研究的现状、局限性以及在解决多语言社会的社会公益危机管理、医疗保健、政治竞选、假新闻和仇恨言论等五个现实应用中可预见的陷阱。我们还提出了未来的数据集,模型和工具,可以显着推进当前的多语言NLP应用研究,以造福社会。作为一个代表性的例子,我们考虑英语-印地语代码混合,但得出类似的推论,其他语言对
2021-06-15 cs.CL cs.LG
Natural Language in Requirements Engineering for Structure Inference -- An Integrative Review
从文本中自动提取结构对于机器来说可能是困难的。然而,这些信息的启发可以为各种应用提供许多好处和机会。需求工程领域的好处也已经确定。为了评估已经完成的工作和目前可用的,手头的文件提供了一个综合性的审查有关自然语言处理(NLP)工具的需求工程。进行这项评估是为了为今后的工作奠定基础,并从现状中得出见解。为了进行回顾,描述了需求工程和NLP的历史,以及对超过136个NLP工具的评估。为了评估这些工具,确定了一套标准。其结果是,目前不存在允许直接/主要提取信息结构的开源方法,甚至闭源解决方案也显示出诸如监督或输入限制之类的限制,这消除了全自动和通用应用的可能性。因此,作者推断,目前的方法是不适用的,不同的方法是必要的。一种允许对算法、知识库和文本语料库进行单独管理的方法是正在追求的可能性。
2022-02-10 cs.CL
Why we have switched from building full-fledged taxonomies to simply detecting hypernymy relations
Sapienza University of Rome(罗马大学)
在自然语言处理(NLP)文献中,分类法和上位关系的研究已经非常广泛。然而,传统的分类学习方法的评价一直是麻烦的,因为它主要依赖于ad-hoc实验,难以重现和人工昂贵。部分原因是,目前的研究最近一直集中在上位词检测任务。在本文中,我们反映了这一趋势,分析有关目前的评估程序的问题。最后,我们提出了未来工作的三个潜在途径,使基于它们的关系和资源在下游NLP应用中发挥更重要的作用。
2017-03-23 cs.CL
The Shifted and The Overlooked: A Task-oriented Investigation of User-GPT Interactions
Microsoft Azure AI(微软Azure人工智能部门);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文通过大规模分析用户与GPT的真实对话,发现当前NLP研究任务与用户实际需求存在显著差距,特别是“设计”和“规划”等被忽视的任务,并提出了使LLMs更好对齐用户需求的路线图。
2023-10-19 cs.CL
Welcome to the Modern World of Pronouns: Identity-Inclusive Natural Language Processing beyond Gender
Università Luigi Bocconi(博科尼大学);University of South Carolina(南卡罗来纳大学)
代词的世界正在发生变化。从一个成员很少的封闭的词类到一个更开放的术语集,以反映身份。然而,自然语言处理(NLP)几乎没有反映这种语言转变,尽管最近的工作概述了性别排斥语言技术的危害。特别有问题的是目前的第三人称代词建模,因为它在很大程度上忽略了各种现象,如新代词,即,古人云:“物以稀为贵,物以稀为贵。这一遗漏助长了对边缘化和代表性不足群体的歧视,例如,非二元个体。然而,性别之外的其他身份表达现象也被当前的NLP技术所忽视。在本文中,我们提供了一个NLP第三人称代词问题的概述。基于我们的观察和伦理的考虑,我们定义了一系列的desiderata建模代词在语言技术。我们评估现有的和新的建模方法w.r.t.这些都需要从质量上和数量上说明更加无歧视的方法对既定基准数据的影响。
2022-02-24 cs.CL
A Review of the Trends and Challenges in Adopting Natural Language Processing Methods for Education Feedback Analysis
University of Southern Queensland(南昆士兰大学)
人工智能(AI)是一个快速增长的研究领域,将其存在扩展到许多商业和研究领域。机器学习、深度学习和自然语言处理(NLP)是AI的子集,用于处理数据处理和建模的不同领域。这篇评论文章概述了AI对教育的影响,概述了当前的机会。在教育领域,学生反馈数据对于揭示向学生提供的现有服务的优点和缺点至关重要。人工智能可以帮助确定教育基础设施,学习管理系统,教学实践和学习环境的改进领域。NLP技术在分析文本格式的学生反馈中起着至关重要的作用。这项研究的重点是现有的NLP方法和应用程序,可以适应教育领域的应用程序,如情感注释,实体注释,文本摘要和主题建模。在教育中采用NLP的趋势和挑战进行了审查和探讨。NLP中基于上下文的挑战,如讽刺,特定领域的语言,歧义和基于方面的情感分析解释与现有的方法来克服它们。研究社区的方法来提取表情符号和专用字符的语义反馈,传达用户的意见和采用NLP在教育中的挑战进行了探讨。
2023-01-20 cs.CL
Towards Faithfully Interpretable NLP Systems: How should we define and evaluate faithfulness?
Bar Ilan University(巴伊兰大学);Allen Institute for AI(艾伦人工智能研究所)
随着基于深度学习的NLP模型的日益普及,需要可解释的系统。但是什么是可解释性,什么是高质量的解释?在这篇评论文章中,我们反思了可解释性评估研究的现状。我们呼吁更明确地区分解释应满足的不同理想标准,并侧重于忠实标准。我们调查的文学方面的忠诚度的评价,并安排目前的方法围绕三个假设,提供了一个明确的形式如何忠诚度是“定义”的社会。我们提供了具体的指导方针,解释方法的评估应该和不应该进行。最后,我们认为目前对忠诚的二元定义为被认为是忠诚设置了一个潜在的不切实际的门槛。我们呼吁摒弃对忠诚的二元概念,而采用一种更分级的概念,我们相信这将具有更大的实际效用。
2020-04-27 cs.CL cs.LG
Improving Robustness and Generality of NLP Models Using Disentangled Representations
ShannonAI;Key Lab of Intelligent Information Processing of Chinese Academy of Sciences(中国科学院智能信息处理重点实验室);Department of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Zhejiang University(浙江大学)
监督神经网络首先将输入$x$映射到单个表示$z$,然后将$z$映射到输出标签$y$,在广泛的自然语言处理(NLP)任务中取得了显著的成功。尽管取得了成功,但神经模型缺乏鲁棒性和通用性:对输入的微小扰动可能会导致绝对不同的输出;在一个域上训练的模型在另一个域上测试时,性能急剧下降。在本文中,我们提出的方法,以提高鲁棒性和通用性的NLP模型的立场,解开表示学习。所提出的策略不是将$x$映射到单个表示$z$,而是将$x$映射到一组表示$\{z_1,z_2,...,z_K\}$,同时强制它们被解开。然后将这些表示映射到不同的logit $l$,其集合用于进行最终预测$y$。我们提出了不同的方法将这一想法纳入目前广泛使用的模型,包括添加一个$L$ 2正则化的$z$ s或添加总相关(TC)的变分信息瓶颈(VIB)的框架下。我们表明,该标准训练的模型提供了更好的鲁棒性和域适应能力,在广泛的监督学习任务。
2020-09-21 cs.CL
QA Dataset Explosion: A Taxonomy of NLP Resources for Question Answering and Reading Comprehension
University of Copenhagen(哥本哈根大学);RIKEN(理化学研究所);Microsoft Semantic Machines(微软语义机器公司)
近年来,除了对NLP中深度学习模型的大量研究外,还对跟踪建模进度所需的基准数据集进行了大量研究。在这方面,问答和阅读理解特别多产,在过去两年中出现了80多个新的数据集。这项研究是迄今为止该领域最大的调查。我们提供了目前的资源的各种格式和领域的概述,突出了目前的空白,为未来的工作。我们进一步讨论了当前的分类“技能”,问答/阅读理解系统应该获得,并提出了一个新的分类。补充材料调查目前的多语种资源和单语资源的语言以外的英语,我们讨论了过度关注英语的影响。这项研究既针对寻找现有数据财富指针的从业者,也针对研究新资源的研究人员。
2022-09-19 cs.AI cs.CL
Fair Enough: Standardizing Evaluation and Model Selection for Fairness Research in NLP
The University of Melbourne(墨尔本大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
现代NLP系统表现出一系列的偏差,越来越多的关于模型去偏的文献试图纠正这些偏差。然而,目前的进展是阻碍了偏见的多种定义,量化手段,往往是模糊的关系去偏算法和偏置的理论措施。本文旨在澄清现状,并制定一个有意义的进展,在公平学习的过程中,有两个关键的贡献:(1)明确目前的各种方法之间的相互关系,以及它们与公平理论的关系;(2)解决模型选择的实际问题,这涉及公平性和准确性之间的权衡,并导致公平性研究的系统性问题。综合这些建议,我们提出了一些建议,以帮助塑造未来的工作。
2023-02-11 cs.CL cs.CY cs.LG
Countering Online Hate Speech: An NLP Perspective
The Chinese University of Hong Kong(香港中文大学)
网络仇恨言论已经引起了所有人的注意,从与COVID-19大流行、美国大选和全球抗议活动有关的新闻。网络毒性--网络仇恨行为的总称,表现为网络仇恨言论等形式。仇恨言论是以目标实体的身份或观点为动机,针对个人或群体的蓄意攻击。通过社交媒体进行的大众传播日益增多,进一步加剧了网上仇恨言论的有害后果。虽然使用自然语言处理(NLP)对仇恨言论识别进行了大量研究,但利用NLP预防和干预在线仇恨言论的工作相对缺乏。本文提出了一个整体的概念框架仇恨言论的NLP对抗方法,以及对NLP对抗网络仇恨言论的当前进展进行了全面调查。它根据其作用时间对对抗技术进行了分类,并确定了未来关于这一主题的潜在研究领域。
2021-09-07 cs.CL cs.LG
TweeNLP: A Twitter Exploration Portal for Natural Language Processing
Indian Institute of Technology Gandhinagar(甘地纳加尔印度理工学院)
我们提出TweeNLP,一个一站式门户网站,组织Twitter的自然语言处理(NLP)数据,并建立一个可视化和探索平台。它收集了来自各种NLP会议和一般NLP讨论的19,395条推文(截至2021年4月)。它支持多种功能,如TweetExplorer,可按主题探索推文,可视化整个会议组织周期中Twitter活动的见解,发现流行的研究论文和研究人员。它还建立了会议和研讨会提交截止日期的时间轴。我们设想TweeNLP作为NLP社区的集体记忆单元,通过将与研究论文有关的tweets与NLPExplorer科学文献搜索引擎集成在一起。当前系统托管在http://nlpexplorer.org/twitter/CFP上。
2021-06-19 cs.CL cs.SI
"That Is a Suspicious Reaction!": Interpreting Logits Variation to Detect NLP Adversarial Attacks
TU Munich(慕尼黑工业大学);ETH Zurich(苏黎世联邦理工学院)
针对NLP对抗攻击防御研究较少的问题,提出一种与模型无关的对抗文本检测器,通过分析扰动输入文本时目标分类器logits的变化模式来识别攻击,显著提升了识别性能并具备跨模型、数据集和攻击的泛化能力。
2023-06-29 cs.AI cs.CL cs.LG
Toward Understanding Bias Correlations for Mitigation in NLP
University of Illinois Chicago(伊利诺伊大学芝加哥分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Arizona State University(亚利桑那州立大学)
自然语言处理(NLP)模型被发现对不同社会身份的群体(如性别和种族)具有歧视性。由于这些不受欢迎的偏见的负面影响,研究人员以前所未有的努力做出回应,并提出了有希望的偏见缓解方法。尽管有相当大的实际重要性,目前的算法公平性文献缺乏深入的了解不同形式的偏见之间的关系。社会偏见本质上是复杂的。社会心理学的许多研究确定了“广义偏见”,即,不同群体的普遍贬值情绪。例如,贬低少数民族的人也可能贬低妇女和同性恋。因此,这项工作的目的是提供第一个系统的研究,了解偏见的相关性缓解。特别是,我们研究了两个常见的NLP任务-毒性检测和词嵌入-在三个社会身份,即,种族性别和宗教我们的研究结果表明,偏见是相关的,目前的情况下,独立的去偏见的方法占主导地位,在目前的文献可能是不够的。我们进一步研究联合减轻相关的偏见是否比独立和个人去偏更可取。最后,我们揭示了固有的问题,消除偏置精度权衡偏见缓解。这项研究有助于激励未来的研究联合偏见缓解,占相关的偏见。
2022-05-24 cs.AI cs.CL
Natural Language Processing for Tigrinya: Current State and Future Directions
Korea Advanced Institute of Science and Technology (KAIST)(韩国高等科学技术院(KAIST))
本文调查了提格里尼亚语NLP的现状与未来方向,分析了50项研究,揭示了从规则系统到神经架构的发展轨迹,并提出了形态感知建模、跨语言迁移等研究方向。
2025-12-30 cs.AI cs.CL
Software Infrastructure for Natural Language Processing
我们分类和审查目前的方法,软件基础设施的研究,开发和交付的NLP系统。该任务的动机是讨论NLP和语言工程领域的当前趋势。我们描述了一个系统,称为GATE(一个通用架构的文本工程),它提供了一个软件基础设施,异构的NLP处理模块可以单独评估和完善,或可以组合成更大的应用系统。GATE旨在支持从事组件技术(例如解析,标记,形态分析)和开发最终用户应用程序(例如信息提取,文本摘要,文档生成,机器翻译和第二语言学习)的研究人员和开发人员。GATE促进组件技术的重用,允许大型项目的专业化和协作,并允许对替代技术进行比较和评估。GATE的第一个版本现已推出-请访问http://www.dcs.shef.ac.uk/research/groups/nlp/gate/
1997-02-10 cmp-lg cs.CL
NLP Reproducibility For All: Understanding Experiences of Beginners
University of Michigan(密歇根大学)
本文通过对 93 名 NLP 入门课程学生复现论文结果的研究发现,作者提供的文档、代码规范和数据可获取性比学生编程与论文理解能力更关键,并据此提出支持初学者的开源建议。
2023-06-03 cs.AI cs.CL
How not to Lie with a Benchmark: Rearranging NLP Leaderboards
Sberbank of Russia(俄罗斯联邦储蓄银行);SberDevices;AI Research Institute (AIRI)(人工智能研究院);Kazan Federal University(喀山联邦大学)
与人类的比较是基准的基本要求,因为它是模型能力的可靠测量。然而,模型比较的方法可能有一个根本性的缺陷-单独指标的算术平均值用于不同复杂性,不同大小的测试和训练集的所有任务。在本文中,我们研究了流行的NLP基准的整体评分方法,并根据他们报告的结果通过几何和调和平均值(适用于平均率)重新排列模型。我们分析了几个流行的基准测试,包括GLUE,SuperGLUE,XGLUE和XTREME。分析表明,例如,SuperGLUE的人类水平仍然没有达到,目前的模型仍有改进的空间。
2021-12-02 cs.AI cs.CL
Leveraging AI and NLP for Bank Marketing: A Systematic Review and Gap Analysis
Humboldt University of Berlin(柏林洪堡大学)
本文通过PRISMA系统综述和基于Sentence Transformers与UMAP的语义差距分析,梳理AI与NLP在银行营销中的应用现状,识别客户获取、留存和个性化互动等关键研究空白,为NLP驱动的增长与创新提供战略方向。
2024-11-17 cs.AI cs.CL econ.GN
On the Evaluation of NLP-based Models for Software Engineering
Delft University of Technology(代尔夫特理工大学);University of Tehran(德黑兰大学)
基于NLP的模型越来越多地被纳入解决SE问题。这些模型要么在SE领域中使用,几乎没有变化,要么根据源代码及其独特的特性进行了大量的定制。其中许多方法被认为优于或补充了现有的解决方案。然而,这里出现了一个重要的问题:“这些模型在SE社区中是否得到了公平和一致的评估?".为了回答这个问题,我们回顾了研究人员如何评估基于NLP的SE问题模型。调查结果表明,目前没有一致的和广泛接受的协议,这些模型的评价。虽然在不同的研究中评估了同一任务的不同方面,但度量标准是基于自定义选择而不是系统定义的,最后,答案是逐案收集和解释的。因此,迫切需要提供一种评估基于NLP的模型的方法,以进行一致的评估,并保持公平和有效比较的可能性。
2022-03-31 cs.CL cs.SE
Has It All Been Solved? Open NLP Research Questions Not Solved by Large Language Models
University of Michigan(密歇根大学)
本文针对“LLM已解决一切”的误解,汇编了14个研究领域共45个LLM无法直接解决的NLP开放研究方向,旨在为研究者提供探索指引。
2024-03-15 cs.AI cs.CL
Applications of natural language processing in aviation safety: A review and qualitative analysis
UNSW(新南威尔士大学);School of Engineering and Technology(工程与技术学院);School of Science(理学院)
本研究通过调研截至2024年5月的34篇Scopus相关文献,结合定性定量分析梳理NLP在航空安全领域的应用趋势、研究成果与落地挑战,提出主动学习标注数据、可解释AI提升模型可解释性等方案,为行业发展和未来研究提供参考。
2025-01-03 cs.CL cs.LG
Measuring the State of the Art of Automated Pathway Curation Using Graph Algorithms - A Case Study of the mTOR Pathway
INRIA(法国国家信息与自动化研究所);The Systems Biology Institute(系统生物学研究所)
本文评估了人类路径策展和当前NLP系统之间的差异。我们提出了图形分析方法来量化人类策划的路径图和最先进的自动NLP系统的输出之间的差距。对流行的mTOR途径进行评估。基于分析当前系统在哪些方面表现良好,哪些方面失败,我们确定了可能的进步途径。
2016-08-12 cs.CL q-bio.MN
Mediators: Conversational Agents Explaining NLP Model Behavior
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));Technische Universität Berlin(柏林工业大学)
以人为中心的可解释人工智能(HCXAI)社区提出了将解释过程框定为人机对话的需求。在本立场文件中,我们为中介者(Mediators)建立了必要条件,中介者是基于文本的对话代理,能够使用自然语言交互式解释神经模型的行为。从自然语言处理(NLP)研究的角度来看,我们工程师这样一个调解人的情感分析的任务的蓝图,并评估目前的研究有多远的道路上,以对话为基础的解释。
2022-06-13 cs.AI cs.CL cs.HC
A Review of Digital Learning Environments for Teaching Natural Language Processing in K-12 Education
University of Florida(佛罗里达大学)
本文针对K-12阶段NLP教学需求,全面综述现有数字学习环境的工具功能、教育场景下的可解释性与评估效果,梳理其优劣势与发展现状,为后续工具优化、新工具开发及NLP融入K-12教育的策略研究提供指引。
2023-10-02 cs.AI cs.CL cs.HC
Robust Natural Language Processing: Recent Advances, Challenges, and Future Directions
University of Central Florida(中佛罗里达大学);Ewha Womans University(梨花女子大学)
最近的自然语言处理(NLP)技术在基准数据集上实现了高性能,这主要归功于深度学习的性能显著提高。研究界的进步导致了NLP任务的最先进生产系统的极大增强,例如虚拟助理,语音识别和情感分析。然而,这样的NLP系统在测试对抗攻击时仍然经常失败。最初缺乏鲁棒性暴露了当前模型的语言理解能力中令人不安的差距,当NLP系统部署在现实生活中时会产生问题。在本文中,我们提出了一个结构化的概述NLP鲁棒性的研究,通过总结文献系统的方式在各个方面。然后,我们深入研究了健壮性的各个方面,包括技术、指标、嵌入和基准。最后,我们认为,鲁棒性应该是多维度的,提供对当前研究的见解,找出文献中的差距,提出值得追求的方向,以解决这些差距。
2022-01-03 cs.AI cs.CL cs.CR
Rookie: A unique approach for exploring news archives
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
新闻档案是将当前事件置于历史背景中的宝贵的主要来源。但是当前的搜索引擎工具在发现跨文档的广泛主题和叙述方面做得很差。我们介绍新秀:一个实用的软件系统,它使用自然语言处理(NLP)来帮助读者、记者和编辑在新闻档案中发现广泛的故事。与之前的工作不同,Rookie的设计是经过18个月的迭代开发,并与编辑和计算记者进行了磋商。这一过程导致了与以前具有类似目标的学术体系截然不同的方法。我们的努力为其他使用NLP构建真实世界新闻软件的人提供了一个可推广的案例研究。
2017-08-06 cs.CL cs.HC
AutoML in the Age of Large Language Models: Current Challenges, Future Opportunities and Risks
Institute of Artificial Intelligence, Leibniz University Hannover(汉诺威莱布尼茨大学人工智能学院);Alma Mater Studiorum – University of Bologna(博洛尼亚大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);L3S Research Center, Leibniz University Hannover(汉诺威莱布尼茨大学L3S研究中心)
本文探讨了AutoML与大语言模型(LLMs)之间的共生关系,分析了二者相互增强的机遇与挑战,并评估相关风险,旨在推动两个领域的交叉融合研究。
2024-02-21 cs.CL cs.LG
Towards More Robust NLP System Evaluation: Handling Missing Scores in Benchmarks
CentraleSupelec(巴黎中央理工-高等电力学院);Telecom Paris(巴黎电信学院);Owkin
本文针对NLP基准测试中部分系统分数缺失的问题,提出利用兼容偏序方法填补缺失数据并结合Borda计分法聚合,同时引入包含超1.31亿分数的扩展基准,有效提升了评估在真实场景下的鲁棒性。
2023-05-17 cs.AI cs.CL