Overview of the NLPCC 2025 Shared Task: Gender Bias Mitigation Challenge
Multimodal Art Projection Research Community University of Manchester Independent Researcher
针对中文语境下性别偏见计算语言学资源匮乏的问题，本研究构建了含3.29万条标注句子的CORGI-PM语料库，设置三项NLPCC 2025共享任务挑战以推动文本性别偏见自动化检测、分类与消减，并呈现参赛结果分析。
2025-06-14 cs.CL
Towards A Structured Overview of Use Cases for Natural Language Processing in the Legal Domain: A German Perspective
Technical University of Munich（慕尼黑工业大学）
本文基于系统性文献综述和德国法律实践，构建法律科技用例的结构化概览，识别七类NLP技术与22个法律用例的对应关系，并提炼出15个伦理、法律和社会方面（ELSA）问题。
2024-05-02 cs.CL cs.CY
A frame semantic overview of NLP-based information extraction for cancer-related EHR notes
School of Biomedical Informatics, The University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心生物医学信息学院）；McGovern Medical School, The University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心麦戈文医学院）
目的：在电子健康记录（EHR）笔记中有很多关于癌症的信息，这些信息可以用于生物医学研究，前提是自然语言处理（NLP）方法可以提取和结构化这些信息。在本文中，我们对现有的癌症临床NLP文献进行了范围审查。研究方法：我们确定了描述NLP方法的研究，以从PubMed，Google Scholar，ACL Anthology和现有综述的EHR来源中提取特定的癌症相关信息。本研究中使用了两个排除标准。我们排除了使用的提取技术过于广泛而无法表示为框架以及使用非常低水平提取方法的文章。79篇文章被纳入最终审查。我们根据框架语义原则组织这些信息，以帮助识别重叠的共同领域和潜在的差距。结果如下：根据与癌症信息相关的综述文章创建框架，如癌症诊断、肿瘤描述、癌症手术、乳腺癌诊断、前列腺癌诊断和前列腺癌患者疼痛。这些框架既包括定义，也包括特定的框架元素（即可提取属性）。我们发现，癌症诊断是审查论文中最常见的框架（79篇中的36篇），最近的工作重点是提取与治疗和乳腺癌诊断相关的信息。结论：本文中描述的常见框架列表确定了通过现有NLP技术提取的重要癌症相关信息，并为未来需要从EHR笔记中提取癌症信息的研究人员提供了有用的资源。我们还认为，由于癌症NLP系统的大量重复，注释的癌症框架和相应的NLP工具的通用资源将是有价值的。
2019-04-02 cs.CL q-bio.QM
Graph Neural Networks for Natural Language Processing: A Survey
Pinterest（拼趣）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；Zhejiang University（浙江大学）；IBM T.J. Watson Research Center（IBM托马斯·J·沃森研究中心）；Central China Normal University（华中师范大学）；Nanjing University（南京大学）；Simon Fraser University（西蒙弗雷泽大学）
深度学习已成为处理自然语言处理（NLP）中各种任务的主要方法。虽然文本输入通常表示为一系列标记，但有各种各样的NLP问题可以用图结构最好地表达。因此，人们对在图上开发新的深度学习技术以用于大量NLP任务的兴趣激增。在本综述中，我们对用于自然语言处理的图神经网络（GNNs）进行了全面的概述。我们提出了一种新的NLP GNN分类法，它沿着三个轴系统地组织了NLP GNN的现有研究：图构造、图表示学习和基于图的编码器-解码器模型。我们进一步介绍了大量的NLP应用程序，这些应用程序正在利用GNN的力量，并总结了相应的基准数据集，评估指标和开源代码。最后，我们讨论了充分利用GNNs进行NLP的各种突出挑战以及未来的研究方向。据我们所知，这是第一次全面概述图神经网络的自然语言处理。
2022-10-20 cs.CL cs.LG
Unifying Conformal Language Tasks with In-Context Ensembles
Signal 1 AI；Layer 6 AI
该研究提出共形相关性框架，利用上下文学习示例策划与集成创建评分函数，在保持覆盖度的同时提升NLP任务的简洁性，经7项任务验证且从理论上分析了集成共形评分的多样性影响。
2026-09-04 cs.CL cs.LG stat.ML
NLP-assisted software testing: A systematic mapping of the literature
Queen’s University Belfast（贝尔法斯特女王大学）；University of Innsbruck（因斯布鲁克大学）；Blekinge Institute of Technology（布莱金厄理工学院）
内容：为了减少从自然语言需求中提取测试用例的人工工作，文献中提出了许多基于自然语言处理（NLP）的方法。鉴于这一领域有大量的方法，而且许多从业人员渴望利用这些技术，因此必须综合并概述这一领域的最新技术。目的：我们的目标是总结国家的最先进的NLP辅助软件测试，这可能有利于从业者潜在地利用这些基于NLP的技术。此外，这有助于研究人员提供研究景观的概述。方法：针对上述需求，以系统的文献图谱（分类）形式进行调查。在编制了95篇论文的初始池后，我们进行了系统的投票，最终池包括67篇技术论文。结果如下：本文概述了论文中提出的贡献类型，用于辅助软件测试的NLP方法类型，所需输入要求的类型，以及该领域工具支持的回顾。我们发现的一些关键结果是：（1）论文中提出的38个工具中只有4个（11%）可供下载;（2）更大比例的论文（67个中的30个）提供了对NLP方面的肤浅接触（几乎没有细节）。结论：本文将有利于从业人员和研究人员作为一个“索引”的知识体系在这一领域。结果可以帮助从业人员利用现有的基于NLP的技术，这反过来又降低了测试用例设计的成本，并减少了测试活动所花费的人力资源。在与我们的一些行业合作者分享这篇评论后，初步的见解表明，这篇评论确实对从业者有用和有益。
2020-03-21 cs.CL cs.SE
Overview of the SciHigh Track at FIRE 2025: Research Highlight Generation from Scientific Papers
Jadavpur University（贾梵pur大学）；Indian Association for the Cultivation of Science（印度科学培养协会）；Techno India University（技术印度大学）
FIRE 2025 科学高跟踪旨在通过预训练语言模型等方法，从科学论文摘要中自动生成简洁的亮点，以提升文献阅读效率和学术资源检索质量。
2026-01-01 cs.AI cs.CL cs.CY
Abstractive Text Summarization for Bangla Language Using NLP and Machine Learning Approaches
Maharishi International University（玛赫西国际大学）；Utah State University（犹他州立大学）；William & Mary（威廉玛丽学院）；Mymensingh Engineering College（迈门辛工程学院）
本文提出一种基于神经网络的模型，旨在将孟加拉语文本高效、稳定地摘要为简洁段落，以减少阅读冗余信息的时间。
2025-01-25 cs.CL
A Review of the Marathi Natural Language Processing
Visvesvaraya National Institute of Technology（维斯瓦瓦拉亚国家理工学院）
本文综述了马拉地语自然语言处理的研究演变，分析了其发展面临的文字多样性、资源缺乏及形态丰富等挑战，并总结了神经网络模型进展及当前可用的最先进资源与工具。
2024-12-24 cs.CL
Who's Laughing Now? An Overview of Computational Humour Generation and Explanation
Department of Computer Science, The University of Sheffield, UK（谢菲尔德大学计算机科学系）；Department of Computer Science, The University of Manchester, UK（曼彻斯特大学计算机科学系）
本文综述计算幽默的生成与解释任务，指出该领域研究稀少且模型不及人类，并强调其作为NLP子学科的重要性及未来方向。
2025-09-25 cs.CL
Data Augmentation for Neural NLP
University of Zagreb, Faculty of Electrical Engineering and Computing（萨格勒布大学电气工程与计算学院）；Text Analysis and Knowledge Engineering Lab（文本分析与知识工程实验室）
数据稀缺是一个问题，发生在语言和任务中，我们没有大量的标记数据，但希望使用最先进的模型。此类模型通常是需要大量数据来进行训练的深度学习模型。获取各种机器学习问题的数据伴随着高标签成本。数据增强是解决数据稀缺问题的一种低成本方法。本文概述了当前用于自然语言处理的最先进的数据增强方法，重点是神经和基于转换器的模型的方法。此外，它还讨论了数据增强的实际挑战，可能的缓解措施和未来研究的方向。
2023-02-22 cs.CL cs.LG
An Overview on Language Models: Recent Developments and Outlook
University of Southern California（南加州大学）；National University of Singapore（新加坡国立大学）
本文综述传统语言模型与预训练语言模型，从语言单元、架构、训练方法、评估和应用五方面对比，并展望预训练时代未来方向。
2023-07-03 cs.CL
Diffusion Models in NLP: A Survey
Southwestern University of Finance and Economics（西南财经大学）
扩散模型已经成为一个强大的深生成模型家族，在许多应用中具有破纪录的性能。本文首先对扩散模型的基本理论进行了概述和推导，然后从文本生成、文本驱动图像生成等四个方面回顾了扩散模型在自然语言处理领域的研究成果，并对整理出的相关文献资料进行了分析和总结，最后记录了本课题文献综述研究的体会和感受。
2023-03-14 cs.AI cs.CL
Progress Note Understanding -- Assessment and Plan Reasoning: Overview of the 2022 N2C2 Track 3 Shared Task
University of Wisconsin Madison（威斯康星大学麦迪逊分校）；Loyola University Chicago（芝加哥洛约拉大学）；Boston Children’s Hospital（波士顿儿童医院）；Harvard University（哈佛大学）；George Mason University（乔治梅森大学）
每日进展记录是电子健康记录（EHR）中的常见类型，医疗保健提供者记录患者的每日进展和治疗计划。EHR旨在记录为患者提供的所有护理，但它也使笔记膨胀，其中包含无关的信息，分散了诊断和治疗计划的注意力。自然语言处理（NLP）在电子病历中的应用是一个不断发展的领域，其中大多数方法都是信息抽取。很少有任务使用NLP方法来支持下游诊断决策。我们介绍了2022年国家NLP临床挑战赛（N2 C2）轨道3：进度说明理解-评估和计划推理，作为迈向一套新任务的一步。评估和计划推理任务侧重于包含健康问题和诊断的进度记录、评估和计划小节中最关键的组成部分。该任务的目标是开发和评估NLP系统，该系统自动预测评估部分中包含的患者整体状态与包含诊断和治疗计划的计划部分的每个组成部分之间的因果关系。该任务的目标是识别诊断并确定诊断的优先级，作为诊断决策支持的第一步，以便在日常进度记录等长文档中找到最相关的信息。我们介绍了2022年n2 c2轨道3的结果，并提供了数据，评估，参与和系统性能的描述。
2023-03-14 cs.AI cs.CL
One Country, 700+ Languages: NLP Challenges for Underrepresented Languages and Dialects in Indonesia
Amazon（亚马逊）；Bloomberg（彭博）；The University of Melbourne（墨尔本大学）；HKUST（香港科技大学）；Telkom University（电信大学）；INACL（印尼计算语言学协会）；Universitas Indonesia（印度尼西亚大学）；Kanda University of International Studies（神田外国语大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Google Research（谷歌研究院）
NLP研究受到缺乏资源和对代表性不足的语言和方言所带来的挑战的认识的阻碍。印度尼西亚是世界上语言多样性第二大和人口第四多的国家，我们专注于印度尼西亚使用的语言，概述了印度尼西亚700多种语言的NLP研究现状。我们强调了印度尼西亚NLP面临的挑战，以及这些挑战如何影响当前NLP系统的性能。最后，我们提供了一般性建议，以帮助开发NLP技术，不仅适用于印度尼西亚的语言，也适用于其他代表性不足的语言。
2022-03-24 cs.CL
Opportunities and Challenges of LLMs in Education: An NLP Perspective
National Research Council, Canada（加拿大国家研究委员会）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）；University of Cambridge（剑桥大学）
本文从自然语言处理视角探讨大语言模型在教育中的应用，分析其在教学、学习和评估中的机遇与挑战。
2026-01-16 cs.CL
Low-resource Languages: A Review of Past Work and Future Challenges
Tsinghua University（清华大学）
NLP目前的一个问题是按摩和处理缺乏有用的训练属性，如监督数据，母语者或专家的数量等的低资源语言，本文简要总结了以前的突破性成就，解决这个问题，并分析了潜在的改进在未来的整体研究方向的背景下。
2020-06-12 cs.CL
Sejarah dan Perkembangan Teknik Natural Language Processing (NLP) Bahasa Indonesia: Tinjauan tentang sejarah, perkembangan teknologi, dan aplikasi NLP dalam bahasa Indonesia
STIKI（STIKI学院）
本文综述了印尼语NLP的发展历史、基础技术、实际应用及研究方法，指出了当前面临的挑战与机遇，并为未来的技术研发、应用扩展及跨学科合作提出了建议。
2023-03-28 cs.CL
Overview of the First Workshop on Language Models for Low-Resource Languages (LoResLM 2025)
Lancaster University（兰卡斯特大学）；Birmingham City University（伯明翰城市大学）；National University of Singapore（新加坡国立大学）；University of Münster（明斯特大学）
本文概述了与COLING 2025联合举办的首届低资源语言语言模型研讨会（LoResLM 2025），该会议旨在探讨低资源语言模型研究，共录用35篇论文，涵盖8个语系和13个研究领域，推动了NLP的语言包容性。
2024-12-20 cs.AI cs.CL
Indigenous Languages Spoken in Argentina: A Survey of NLP and Speech Resources
George Mason University（乔治梅森大学）；Universidad de Buenos Aires (UBA)（布宜诺斯艾利斯大学）；CONICET-UBA（阿根廷科学技术研究委员会-布宜诺斯艾利斯大学）
本文系统梳理了阿根廷至少40种土著语言，按七个语系分类并基于最新人口普查估计各语言使用人口，同时综述了现有的自然语言处理与语音计算资源，为后续保护和数字化研究奠定基础。
2025-02-07 cs.CL
Natural Language Processing - A Survey
自然语言处理（NLP）的效用和力量似乎注定要以深刻和根本的方式改变我们的技术社会。然而，到目前为止，很少有针对大众的NLP科学的描述，甚至是针对聪明但不知情的科学家的描述。本文旨在提供这样一个概述。简而言之，本文的目的是以清晰，平衡和可读的方式描述NLP的目的，程序和实际应用。我们将研究描述NLP方法和过程的最新文献，分析研究人员面临的一些挑战，并简要概述这门科学在IT研究中的当前和未来应用。
2012-09-25 cs.CL
Natural Language Processing for Human Resources: A Survey
Megagon Labs（美加刚实验室）
本文综述了自然语言处理在人力资源领域的应用，分析了信息抽取和文本分类等基础任务及其在下游应用中的作用，并指出了研究空白与伦理问题。
2025-03-25 cs.CL
T3-Vis: a visual analytic framework for Training and fine-Tuning Transformers in NLP
University of British Columbia（不列颠哥伦比亚大学）；Huawei Cananda Technologies Co. Ltd.（华为加拿大技术有限公司）
Transformers是NLP中的主导架构，但它们的训练和微调仍然非常具有挑战性。在本文中，我们提出了一个视觉分析框架的设计和实现，以帮助研究人员在这样的过程中，通过为他们提供有价值的见解模型的内在属性和行为。我们的框架提供了一个直观的概述，允许用户探索模型的不同方面（例如，隐藏状态、注意力），并允许一套内置算法来计算模型组件和输入序列不同部分的重要性。案例研究和用户焦点小组的反馈表明，该框架是有用的，并提出了几项改进建议。
2021-08-31 cs.CL cs.HC
mahaNLP: A Marathi Natural Language Processing Library
Pune Institute of Computer Technology（浦那计算机技术学院）；L3Cube Pune（L3Cube 浦那）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
针对现有印度语NLP库对马拉地语支持薄弱、依赖旧模型的问题，研究推出基于MahaBERT的开源mahaNLP库，提供涵盖基础到高级的全面马拉地语NLP任务支持。
2023-11-05 cs.CL cs.LG
Robust Natural Language Processing: Recent Advances, Challenges, and Future Directions
University of Central Florida（中佛罗里达大学）；Ewha Womans University（梨花女子大学）
最近的自然语言处理（NLP）技术在基准数据集上实现了高性能，这主要归功于深度学习的性能显著提高。研究界的进步导致了NLP任务的最先进生产系统的极大增强，例如虚拟助理，语音识别和情感分析。然而，这样的NLP系统在测试对抗攻击时仍然经常失败。最初缺乏鲁棒性暴露了当前模型的语言理解能力中令人不安的差距，当NLP系统部署在现实生活中时会产生问题。在本文中，我们提出了一个结构化的概述NLP鲁棒性的研究，通过总结文献系统的方式在各个方面。然后，我们深入研究了健壮性的各个方面，包括技术、指标、嵌入和基准。最后，我们认为，鲁棒性应该是多维度的，提供对当前研究的见解，找出文献中的差距，提出值得追求的方向，以解决这些差距。
2022-01-03 cs.AI cs.CL cs.CR
Charting the Landscape of African NLP: Mapping Progress and Shaping the Road Ahead
Saarland University, Saarland Informatics Campus（萨尔兰大学，萨尔兰信息学校区）；LMU Munich and Munich Center for Machine Learning（慕尼黑大学及慕尼黑机器学习中心）；Mila - Quebec AI Institute, McGill University & Canada CIFAR AI Chair（魁北克人工智能研究所，麦吉尔大学及加拿大 CIFAR 人工智能 chair）
本综述分析过去五年884篇非洲语言NLP论文，梳理该领域进展与趋势，提出推动其更具包容性和可持续性的研究方向。
2025-10-02 cs.CL
Abstractive Text Summarization for Resumes With Cutting Edge NLP Transformers and LSTM
Huawei Turkey Research and Development Center（华为土耳其研发中心）
本研究评估多种NLP模型在简历摘要任务上的性能，发现微调的BART-Large模型表现最佳。
2023-06-23 cs.AI cs.CL
Exploring the Landscape of Natural Language Processing Research
Technical University of Munich（慕尼黑工业大学）
本文通过对ACL Anthology论文进行系统分类与分析，构建了NLP研究领域分类体系，梳理了最新发展趋势，并提出了未来研究方向。
2023-09-24 cs.CL
Synergizing Machine Learning & Symbolic Methods: A Survey on Hybrid Approaches to Natural Language Processing
School of Electronic Engineering and Computer Science, Queen Mary University of London（伦敦大学玛丽女王学院电子工程与计算机科学学院）
本文综述了结合机器学习与符号方法的混合NLP技术，涵盖理解、生成与推理任务，并总结现有资源、挑战及未来研究方向。
2024-03-18 cs.CL
Scripts Through Time: A Survey of the Evolving Role of Transliteration in NLP
Nilekani Centre at AI4Bharat（AI4Bharat的Nilekani中心）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；Indian Institute of Engineering, Science and Technology（印度工程、科学与技术学院）
本文综述了翻译学在跨语言NLP中的应用，分析了其在语言模型中的演变和有效性，讨论了关键权衡，并提供了针对不同语言、任务和资源约束的翻译策略建议。
2026-04-20 cs.CL
Causal Inference in Natural Language Processing: Estimation, Prediction, Interpretation and Beyond
Technion - Israel Institute of Technology（以色列理工学院）；Princeton University（普林斯顿大学）；Williams College（威廉姆斯学院）；University of Wisconsin - Madison（威斯康星大学麦迪逊分校）；Microsoft（微软）；Columbia University（哥伦比亚大学）；Northwestern University（西北大学）；Google Research（谷歌研究院）；Stanford University（斯坦福大学）；University of California San Diego（加州大学圣地亚哥分校）；University of Chicago（芝加哥大学）；Georgia Tech（佐治亚理工学院）
科学研究的一个基本目标是了解因果关系。然而，尽管因果关系在生命科学和社会科学中发挥着关键作用，但在自然语言处理（NLP）中却没有同样的重要性，NLP传统上更强调预测任务。这种区别正在逐渐消失，一个新兴的跨学科研究领域正在融合因果推理和语言处理。尽管如此，对自然语言处理中因果关系的研究仍然分散在各个领域，没有统一的定义，基准数据集和清晰的表述，将因果推理应用于文本领域的挑战和机遇，具有其独特的属性。在这项调查中，我们整合了学术领域的研究，并在更广泛的NLP领域进行了研究。我们介绍了估计与文本的因果关系的统计挑战，包括设置文本被用作一个结果，治疗，或解决混淆。此外，我们还探索了因果推理的潜在用途，以提高NLP模型的鲁棒性，公平性和可解释性。因此，我们为NLP社区提供了一个统一的因果推理概述。
2022-07-30 cs.CL cs.LG
ChatGPT in the Age of Generative AI and Large Language Models: A Concise Survey
本文从白盒与黑盒双视角综述 ChatGPT 的技术基础、演进、应用与风险，梳理 LLM/GAI 相关文献并指出研究空白。
2023-07-15 cs.AI cs.CL cs.LG
A Survey of Methods for Addressing Class Imbalance in Deep-Learning Based Natural Language Processing
Bosch Center for Artificial Intelligence（博世人工智能中心）；Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）
许多自然语言处理（NLP）任务自然是不平衡的，因为某些目标类别比现实世界中的其他目标类别出现得更频繁。在这种情况下，当前的NLP模型在不太频繁的类上仍然表现不佳。解决NLP中的类不平衡是一个活跃的研究课题，然而，为特定的任务和不平衡场景找到一个好的方法是困难的。通过这项调查，我们首次对基于深度学习的NLP中的类不平衡进行了概述，为NLP研究人员和实践者处理不平衡数据提供了指导。我们首先讨论各种类型的控制和现实世界的阶级不平衡。然后，我们的调查涵盖了为类不平衡的NLP任务明确提出的方法，或者起源于计算机视觉社区的方法，已经对其进行了评估。我们组织的方法，无论是基于采样，数据增强，选择损失函数，分阶段学习，或模型设计。最后，我们讨论了开放的问题，如处理多标签场景，并提出系统的基准和报告，以推动这个问题作为一个社区。
2023-02-22 cs.AI cs.CL
Large Language Models Meet NLP: A Survey
School of Computer Science（计算机科学学院）；Engineering, Central South University（工程学院，中南大学）；Research Center for Social Computing（社会计算研究中心）；Interactive Robotics, Harbin Institute of Technology（交互机器人研究，哈尔滨工业大学）；Department of Computer Science, University of Hong Kong（计算机科学系，香港大学）；Shenzhen International Graduate School, Tsinghua University（深圳国际研究生院，清华大学）；Department of Computer Science, University of Illinons at Chicago（计算机科学系，伊利诺伊大学香槟分校）
本综述针对LLMs在NLP领域系统性研究不足的问题，通过统一分类法（参数冻结、调优范式）全面概述其应用现状，探讨传统任务解决情况与未来方向，为该领域提供见解与实用指南。
2025-08-25 cs.AI cs.CL
Building Safe GenAI Applications: An End-to-End Overview of Red Teaming for Large Language Models
Capital One, AI Foundations（Capital One人工智能基金会）
本文端到端概述了大型语言模型红队测试文献，涵盖攻击方法、评估策略及软件包，帮助读者快速掌握核心概念以构建安全的生成式AI应用。
2025-03-05 cs.CL
A Review of the Trends and Challenges in Adopting Natural Language Processing Methods for Education Feedback Analysis
University of Southern Queensland（南昆士兰大学）
人工智能（AI）是一个快速增长的研究领域，将其存在扩展到许多商业和研究领域。机器学习、深度学习和自然语言处理（NLP）是AI的子集，用于处理数据处理和建模的不同领域。这篇评论文章概述了AI对教育的影响，概述了当前的机会。在教育领域，学生反馈数据对于揭示向学生提供的现有服务的优点和缺点至关重要。人工智能可以帮助确定教育基础设施，学习管理系统，教学实践和学习环境的改进领域。NLP技术在分析文本格式的学生反馈中起着至关重要的作用。这项研究的重点是现有的NLP方法和应用程序，可以适应教育领域的应用程序，如情感注释，实体注释，文本摘要和主题建模。在教育中采用NLP的趋势和挑战进行了审查和探讨。NLP中基于上下文的挑战，如讽刺，特定领域的语言，歧义和基于方面的情感分析解释与现有的方法来克服它们。研究社区的方法来提取表情符号和专用字符的语义反馈，传达用户的意见和采用NLP在教育中的挑战进行了探讨。
2023-01-20 cs.CL
Draw Me a Flower: Processing and Grounding Abstraction in Natural Language
Bar-Ilan University（巴伊兰大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
抽象是人类认知和交流的核心原则。当编写自然语言指令时，人类自然地唤起抽象，以高效和简洁的方式传达复杂的过程。然而，解释和接地抽象表示在NL尚未系统地研究在NLP，没有公认的基准，特别是引发抽象NL。在这项工作中，我们为系统研究自然语言处理和基础抽象奠定了基础。首先，我们提供了一种新的抽象启发方法，并提出了障碍，一个2D推理以下的游戏。使用Hackerons，我们收集了超过4k个自然发生的视觉基础指令，这些指令富含各种类型的抽象。从这些数据中，我们得到了一个从执行到执行的任务，并评估了不同类型的神经模型。我们的研究结果表明，当代的模型和建模实践大大低于人类的表现，模型的性能与抽象水平呈负相关，表现出较低的满意度表现在较高的抽象水平。这些发现在不同的模型和设置中是一致的，证实了抽象是一个具有挑战性的现象，值得在NLP/AI研究中进一步关注和研究。
2022-09-30 cs.CL
A Survey of Corpora for Germanic Low-Resource Languages and Dialects
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文系统综述日耳曼语族低资源及非标准化语言变体的 80 多个语料库，揭示标注资源稀缺且集中于形态句法等现状，并公开配套网站以支持相关 NLP 研究。
2023-04-19 cs.CL
Natural Language Processing for Policymaking
Max Planck Institute（马克斯·普朗克研究所）；ETH Zürich（苏黎世联邦理工学院）；University of Michigan（密歇根大学）
语言是许多政治活动的媒介，从竞选到新闻报道。自然语言处理（NLP）使用计算工具将文本解析为决策所需的关键信息。在本章中，我们介绍了NLP的常用方法，包括文本分类，主题建模，事件提取和文本缩放。然后，我们通过四个主要的应用，包括数据汇集的循证决策，政治决策的解释，政策沟通，政策效果的调查，这些方法可以用于政策制定概述。最后，我们强调了使用NLP进行决策时的一些潜在限制和伦理问题。本文摘自《政策计算社会科学手册》（2023年）第7章（第141-162页）。Springer上的开放获取：https://doi.org/10.1007/978-3-031-16624-2
2023-02-07 cs.AI cs.CL cs.CY
Values, Ethics, Morals? On the Use of Moral Concepts in NLP Research
University of Hamburg（汉堡大学）
本文填补了NLP道德研究的理论空白，概述道德概念、综述92篇相关论文的哲学基础与数据基础，发现多数研究缺乏明确定义，并并提出3条未来研究建议以促进严谨讨论。
2023-10-21 cs.CL cs.CY
Challenges and Opportunities of Using Transformer-Based Multi-Task Learning in NLP Through ML Lifecycle: A Survey
doXray B.V.（doXray有限公司）
本文综述 NLP 中基于 Transformer 的多任务学习方法，并从数据工程、开发、部署到监控的机器学习生命周期分析其挑战与机遇，同时倡导结合持续学习。
2023-08-16 cs.AI cs.CL cs.LG
Decoding Large-Language Models: A Systematic Overview of Socio-Technical Impacts, Constraints, and Emerging Questions
Stanford University（斯坦福大学）；School of Information, San José State University（圣何塞州立大学信息学院）
本文系统性地调查了大型语言模型（LLM）的发展、影响与局限性，全面概述了其研究目标、方法、伦理挑战及社会影响，并指出了未来发展的潜在方向。
2024-09-25 cs.AI cs.CL
Evaluating Large Language Models (LLMs) in Financial NLP: A Comparative Study on Financial Report Analysis
本文评估了五种基于transformer的LLMs在财务报告分析中的表现，发现模型在不同评估维度上表现各异，需考虑人类主观性和行为差异性。
2026-01-19 cs.AI cs.CE cs.CL
Large Language Models and Arabic Content: A Review
University of Strathclyde（斯特拉斯克莱德大学）
本文综述大型语言模型在阿拉伯语NLP中的应用，梳理早期预训练阿拉伯语模型、微调与提示工程技术、相关基准数据集及发展趋势。
2025-05-12 cs.AI cs.CL
Review of Natural Language Processing in Pharmacology
本文综述了NLP在药物学中的最新应用，涵盖信息提取、处理方法、文本数据、知识库及编程库，为从业者提供全面概述。
2023-01-26 cs.CL cs.LG q-bio.BM
Recent Advances in Natural Language Inference: A Survey of Benchmarks, Resources, and Approaches
University of Michigan（密歇根大学）；Michigan State University（密歇根州立大学）；Computer Science and Engineering（计算机科学与工程学院）
在NLP社区中，近年来出现了大量研究活动，这些研究活动旨在解决机器执行深度语言理解的能力，这种能力超越了文本中明确陈述的内容，而是依赖于推理和对世界的了解。已经创建了许多基准任务和数据集来支持这种自然语言推理能力的开发和评估。随着这些基准成为NLP研究社区的工具和驱动力，本文旨在概述最近的基准，相关知识资源以及最先进的学习和推理方法，以支持更好地理解这个不断发展的领域。
2020-02-26 cs.CL
InsurTech innovation using natural language processing
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文探讨了自然语言处理在保险科技中的创新应用，通过实际案例展示NLP如何提升保险数据分析的精度与效率。
2026-09-24 cs.CL cs.LG stat.ML
Sports Intelligence: Assessing the Sports Understanding Capabilities of Language Models through Question Answering from Text to Video
George Mason University（乔治梅森大学）；University of California, Irvine（加州大学欧文分校）
针对现有NLP体育理解基准的不足，研究全面评估了主流大语言模型与视频语言模型在多类体育任务上的表现，提出新基准并开展错误分析，为该领域后续研究指明方向。
2024-06-21 cs.CL
Arabic natural language processing: An overview
Ecole nationale Supérieure d’Informatique（国立高等计算机学院）；GEOLSemantics（GEOL语义公司）；Altran IT（阿尔特朗信息技术公司）；Inalco（法国东方语言文化学院）
阿拉伯语被认为是互联网上使用最多的第四种语言。阿拉伯语有三个主要变体：（1）古典阿拉伯语（CA），（2）现代标准阿拉伯语（MSA），（3）阿拉伯方言（AD）。MSA和AD可以用阿拉伯语或罗马字母（Arabizi）书写，后者对应于用拉丁字母、数字和标点符号书写的阿拉伯语。由于这种语言的复杂性和NLP相应挑战的数量，已经进行了许多调查，以综合阿拉伯语的工作。然而，这些调查主要集中在两种阿拉伯语（MSA和AD，仅用阿拉伯字母书写），它们有点旧（自2015年以来没有此类调查），因此不包括最近的资源和工具。为了弥补这一差距，我们建议对最近发表的90篇研究论文（其中74%是在2015年之后发表的）进行调查。我们的研究提出并分类的工作上的三个品种的阿拉伯语，通过集中在阿拉伯语和阿拉伯语，并关联到其公开可用的资源，只要可用的每一个工作。
2019-03-07 cs.CL
NLPContributions: An Annotation Scheme for Machine Reading of Scholarly Contributions in Natural Language Processing Literature
TIB Leibniz Information Centre for Science and Technology（TIB莱布尼茨科学与技术信息中心）；L3S Research Center（L3S研究中心）
我们描述了一个注释计划，以捕获自然语言处理（NLP）文章中的学术贡献，特别是讨论机器学习（ML）方法用于各种信息抽取任务的文章。我们开发的注释任务的基础上，一个试点注释练习50 NLP-ML学术文章提出的贡献，五个信息抽取任务1。机器翻译，2.命名实体识别; 3.问答，4.关系分类; 5.文本分类在本文中，我们描述了这个试验性注释阶段的结果。通过练习，我们获得了一个注释方法，并发现了十个核心信息单元，反映了NLP-ML学术研究的贡献。我们基于这些信息单元开发的注释方案称为NLP贡献。我们努力的总体目标是四方面的：1）找到一组系统的主语-谓语-宾语语句模式，用于学术贡献的语义结构，这些模式或多或少地适用于NLP-ML研究文章; 2）将发现的模式应用于创建更大的注释数据集，用于训练研究贡献的机器读者; 3）将数据集摄取到开放研究知识图谱（ORKG）基础设施中，作为创建用户友好的最先进概述的展示; 4）将机器阅读器集成到ORKG中，以帮助用户手动管理他们各自的文章贡献。我们设想，NLP贡献的方法引起了更广泛的讨论，对进一步完善和发展的主题。根据NLP贡献计划，我们的50篇NLP-ML学术文章的试点注释数据集可在https://doi.org/10.25835/0019761上向研究社区公开提供。
2020-09-03 cs.CL cs.DL cs.IR
Bias and Fairness in Chatbots: An Overview
University of Southern California（南加州大学）；Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）
本文综述聊天机器人系统中的偏见与公平性问题，梳理其发展历史、类别、偏见来源、潜在危害及公平设计考量，并指出未来研究方向。
2023-12-10 cs.AI cs.CL cs.CY
HausaNLP: Current Status, Challenges and Future Directions for Hausa Natural Language Processing
Imperial College London（伦敦帝国理工学院）；Northeastern University（东北大学）；Data Science for Social Impact, University of Pretoria（比勒陀利亚大学数据科学为社会影响）；Kaduna State University（卡杜纳州大学）；HausaNLP；Bayero University, Kano（卡诺巴耶罗大学）；Universiti Teknologi PETRONAS（PETRONAS科技大学）；University of the Witwatersrand（沃斯堡大学）；Federal University of Lafia（拉法联邦大学）
本文系统梳理豪萨语NLP的现状与挑战，提出HausaNLP目录以聚合资源，并针对大语言模型集成、数据集扩展和社区协作提出未来研究方向。
2025-07-22 cs.CL
Natural Language Processing of Privacy Policies: A Survey
University of Denver（丹佛大学）；George Mason University（乔治梅森大学）
该综述分析了109篇NLP与隐私政策交叉领域的论文，梳理了NLP在隐私政策传达中的应用现状，指出当前研究多聚焦隐私文本标注分类、对摘要等方向探索不足，并明确了该领域的多项潜在研究方向。
2025-01-17 cs.CL
Welcome to the Modern World of Pronouns: Identity-Inclusive Natural Language Processing beyond Gender
Università Luigi Bocconi（博科尼大学）；University of South Carolina（南卡罗来纳大学）
代词的世界正在发生变化。从一个成员很少的封闭的词类到一个更开放的术语集，以反映身份。然而，自然语言处理（NLP）几乎没有反映这种语言转变，尽管最近的工作概述了性别排斥语言技术的危害。特别有问题的是目前的第三人称代词建模，因为它在很大程度上忽略了各种现象，如新代词，即，古人云：“物以稀为贵，物以稀为贵。这一遗漏助长了对边缘化和代表性不足群体的歧视，例如，非二元个体。然而，性别之外的其他身份表达现象也被当前的NLP技术所忽视。在本文中，我们提供了一个NLP第三人称代词问题的概述。基于我们的观察和伦理的考虑，我们定义了一系列的desiderata建模代词在语言技术。我们评估现有的和新的建模方法w.r.t.这些都需要从质量上和数量上说明更加无歧视的方法对既定基准数据的影响。
2022-02-24 cs.CL
