A Comparative Study of Sentiment Analysis Using NLP and Different Machine Learning Techniques on US Airline Twitter Data
City University（城市大学）
今天的商业生态系统已经变得非常有竞争力。客户满意度已成为业务增长的主要焦点。商业组织正在花费大量的资金和人力资源在各种战略上，以了解和满足客户的需求。但是，由于对客户多样化需求的人工分析存在缺陷，许多组织无法实现客户满意。因此，他们正在失去客户的忠诚度，并花费额外的钱在营销上。我们可以通过实施情感分析来解决这些问题。它是自然语言处理（NLP）和机器学习（ML）的结合技术。情感分析被广泛用于从特定主题、产品和服务背后的更广泛的公众舆论中提取见解。我们可以从任何在线可用的数据中进行分析。在本文中，我们介绍了两种NLP技术（Bag-of-Words和TF-IDF）和各种ML分类算法（支持向量机，Logistic回归，Multinomial Naive Bayes，Random Forest），以找到一种有效的方法来对大型，不平衡和多类数据集进行情感分析。我们最好的方法提供了77%的准确率，使用支持向量机和逻辑回归与袋的话技术。
2021-10-02 cs.AI cs.CL cs.LG
Improving Korean NLP Tasks with Linguistically Informed Subword Tokenization and Sub-character Decomposition
Korea University（高丽大学）；Prediction（Prediction 公司）；Korea Institute of Science and Technology (KIST)（韩国科学技术研究院）
针对韩语形态丰富、书写系统独特导致BPE分词效果不佳的问题，提出结合子字分解的词素感知子词分词法，在PLMs中平衡语言准确性与效率，在NIKL-CoLA等任务上表现提升，证明语言学信息可增强韩语NLP效果。
2023-11-07 cs.CL
EasyTransfer -- A Simple and Scalable Deep Transfer Learning Platform for NLP Applications
Alibaba Group（阿里巴巴集团）；State Key Lab of CAD&CG, Zhejiang University（浙江大学计算机辅助设计与图形学国家重点实验室）
文献已经见证了将预训练语言模型（PLM）和迁移学习（TL）算法成功地应用于广泛的自然语言处理（NLP）应用，然而为此目的构建易于使用和可扩展的TL工具包并不容易。为了弥合这一差距，EasyTransfer平台旨在为NLP应用程序开发深度TL算法。EasyTransfer后端具有高性能和可扩展的引擎，可实现高效的训练和推理，并集成了全面的深度TL算法，使工业规模TL应用程序的开发更加容易。在EasyTransfer中，内置的数据和模型并行策略，结合AI编译器优化，比社区版本的分布式训练快4.0倍。EasyTransfer支持ModelZoo中的各种NLP模型，包括主流PLM和多模态模型。它还具有各种内部开发的TL算法，以及用于NLP应用程序的AppZoo。该工具包方便用户快速开始模型训练、评估和在线部署。EasyTransfer目前部署在阿里巴巴，支持多种业务场景，包括商品推荐、个性化搜索、会话式问答等。在真实数据集和在线应用上的大量实验表明，EasyTransfer适合在线生产，并具有各种应用的尖端性能。EasyTransfer的源代码发布在Github（https：//github.com/alibaba/EasyTransfer）。
2021-08-20 cs.CL
The Elephant in the Room: Analyzing the Presence of Big Tech in Natural Language Processing Research
Institute for Better Health（健康促进研究所）；University of Göttingen（哥廷根大学）；Université Paris-Saclay（巴黎萨克雷大学）；Sorbonne Université（索邦大学）；LORIA（洛里亚实验室）；National Research Council（国家研究委员会）
本研究通过分析78,187篇论文和701份简历，量化了NLP领域产业存在随时间的变化，发现近年来产业参与显著增长，并呼吁提高产业影响的透明度。
2024-07-16 cs.CL
pysentimiento: A Python Toolkit for Opinion Mining and Social NLP tasks
Instituto de Ciencias de la Computación, CONICET, Universidad de Buenos Aires（布宜诺斯艾利斯大学 CONICET 计算机科学研究所）；Facultad de Astronomía, Matemática y Física, Universidad Nacional de Córdoba（科尔多瓦国立大学天文、数学与物理学院）；IIIA-CSIC（西班牙国家研究委员会人工智能研究所）
针对现有社交NLP前沿工具依赖商业API、多语言支持不足、使用门槛高的问题，研究人员推出开源多语言Python工具包pysentimiento，集成西、英、意、葡四种语言的前沿模型，还完成了多任务多数据集的性能及公平性评估。
2024-07-13 cs.CL
From Ambiguity to Explicitness: NLP-Assisted 5G Specification Abstraction for Formal Analysis
Stevens Institute of Technology（史蒂文斯理工学院）
针对5G协议自然语言歧义导致形式化验证难以应用的问题，本文提出NLP辅助的两步混合流水线，自动提取标识符和形式化属性，最优模型准确率分别达39%和42%，为5G及下一代通信的大规模协议形式化分析提供了概念验证。
2023-08-07 cs.CL
Building a Multivariate Time Series Benchmarking Datasets Inspired by Natural Language Processing (NLP)
Technical University of Munich（慕尼黑工业大学）；Fraunhofer Institute for Electronic Microsystems and Solid State Technologies EMFT（弗劳恩霍夫电子微系统与固态技术研究所EMFT）
受NLP基准数据集成功启发，提出创建多变量时间序列基准数据集的新方法，并利用多任务学习策略提升模型性能，推动时间序列建模发展。
2024-10-14 cs.AI cs.CL
Dealing with Data for RE: Mitigating Challenges while using NLP and Generative AI
TCS Research（塔塔咨询服务研究机构）
本章面向 AI 融合背景下的需求工程，分析企业集成 NLP 与生成式 AI 时的数据、训练、评估及流程挑战，并给出实践方案与新型 RE 任务建议。
2024-02-28 cs.CL cs.SE
Adversarial Evaluation for Models of Natural Language
Carnegie Mellon University（卡内基梅隆大学）
我们现在有一套丰富且不断增长的建模工具和算法，用于从未完全注释的文本中归纳语言结构。在本文中，我们讨论了我们目前的方法的一些弱点。我们提出了一个新的抽象框架评估自然语言处理（NLP）模型一般和无监督的NLP模型。中心思想是明确研究人员之间的某些对抗性角色，以便更明确地界定评价中的不同角色，并为所有角色的执行者提供为更大目标做出可衡量贡献的方法。采用这种方法可能有助于通过鼓励更早地考虑误差分析来表征模型的成功和失败。该框架可以以多种方式实例化，模拟一些熟悉的内在和外在评估以及一些新的评估。
2012-07-15 cs.CL
Just Tell Me: Prompt Engineering in Business Process Management
Kühne Logistics University（库恩物流大学）；SAP Signavio；University of Mannheim（曼海姆大学）
本文提出将提示工程引入业务流程管理研究，以避免语言模型微调对大量训练数据的依赖，并通过识别相关潜力与挑战制定研究议程。
2023-04-14 cs.AI cs.CL cs.LG
Undesirable Biases in NLP: Addressing Challenges of Measurement
Institute for Logic, Language and Computation, University of Amsterdam（阿姆斯特丹大学逻辑、语言与计算研究所）；Department of Experimental Psychology, Utrecht University（乌得勒支大学实验心理学系）
本文从心理测量学视角出发，引入构念效度和信度两个核心概念，为NLP模型偏见测量提供方法学工具，以解决现有偏见测量方法存在严重问题且测量目标不明确的问题。
2024-01-14 cs.AI cs.CL
Collaborative Development of NLP models
Microsoft（微软）
本文提出多用户协同框架CoDev，通过为每个概念学习局部模型并结合全局模型，利用大模型生成分歧实例，以解决NLP模型训练后多概念对齐与干扰问题。
2023-05-24 cs.AI cs.CL cs.LG
The value of text for small business default prediction: A deep learning approach
University of Southampton（南安普顿大学）；The University of Western Ontario（西安大略大学）
与消费者贷款相比，微型、小型和中型企业（mSME）的信贷风险建模尤其具有挑战性，因为通常无法获得相同的信息来源。因此，信贷员提供文本贷款评估以缓解有限的数据可用性是标准策略。反过来，这份声明是由信用专家分析与任何可用的标准信用数据。在我们的论文中，我们利用深度学习和自然语言处理（NLP）领域的最新进展，包括BERT（来自Transformers的双向编码器表示）模型，从贷方提供的60000个文本评估中提取信息。我们考虑的性能方面的AUC（接收器工作特征曲线下的面积）和Brier评分指标，发现单独的文本是令人惊讶的有效预测默认。然而，当与传统数据相结合时，它不会产生额外的预测能力，性能取决于文本的长度。然而，我们提出的深度学习模型似乎对文本的质量具有鲁棒性，因此适用于部分自动化mSME贷款过程。我们还展示了贷款评估的内容如何影响业绩，导致我们一系列的建议，一个新的战略，收集未来的微型中小企业贷款评估。
2021-07-07 cs.CL cs.LG
Co-creation for Sign Language Processing and Machine Translation
1 Lisa Lepp: 2 Dimitar Shterionov: 3 Mirella De Sisto: 4 Grzegorz Chrupa a
本文针对手语机器翻译中共创缺乏正式定义的问题，提出了一种关系类型学，评估了110篇文章中手语用户的参与情况，并推导出考虑项目生命周期动态特性的共创指南。
2025-03-03 cs.CL
Towards an Enhanced Understanding of Bias in Pre-trained Neural Language Models: A Survey with Special Emphasis on Affective Bias
University of Calicut（卡利卡特大学）；Queen’s University Belfast（贝尔法斯特女王大学）
深度学习带来的自然语言处理（NLP）的显着进步，特别是最近出现的大型预训练神经语言模型，随着几项研究开始讨论和报告NLP应用中的潜在偏见，受到了人们的关注。NLP中的偏见被发现起源于人类编码到文本数据中的潜在历史偏见，这些偏见被NLP算法永久化甚至放大。我们提出了一个调查，以了解大型预训练语言模型中的偏见，分析它们在这些模型中出现的阶段，以及量化和减轻这些偏见的各种方法。考虑到基于文本情感计算的下游任务在诸如商业、医疗保健、教育等现实世界系统中的广泛适用性，我们特别强调在影响（情绪）的背景下调查偏见，即，情感偏差，在大型预训练语言模型中。我们提出了各种偏见评估语料库，有助于帮助未来的研究和讨论的挑战，在预训练语言模型的偏见研究的总结。我们相信，我们尝试全面了解预训练的语言模型中的偏见，特别是对情感偏见的探索，将对对这个不断发展的领域感兴趣的研究人员非常有益。
2022-04-21 cs.AI cs.CL
Application of Transformers based methods in Electronic Medical Records: A Systematic Literature Review
Federal University of Rio de Janeiro（里约热内卢联邦大学）
本文系统性综述了基于 Transformers 的方法在电子病历 NLP 任务中的应用，从三个公共数据库筛选出 65 篇文献，从业务问题、模型、数据集等维度分析现有研究局限并提出未来建议。
2023-04-05 cs.AI cs.CL cs.LG
Adoption of Explainable Natural Language Processing: Perspectives from Industry and Academia on Practices and Challenges
Mahdi Dhaini（独立研究者）；Tobias Müller（独立研究者）；Roksoliana Rabets（独立研究者）；Gjergji Kasneci（独立研究者）
本文通过访谈工业界从业者和学术研究者，调查了可解释自然语言处理在实际应用中的采用动机、技术、满意度及挑战，发现当前方法存在概念差距、低满意度和评估难题，强调需要明确定义和以用户为中心的框架以促进其实践应用。
2025-08-13 cs.AI cs.CL cs.HC
Multi-Task Text Classification using Graph Convolutional Networks for Large-Scale Low Resource Language
IIIT Hyderabad（海得拉巴国际信息技术研究所）
图卷积网络（GCN）在情感分析、情感检测等单一文本分类任务上取得了最先进的结果。然而，性能是通过对英语等资源丰富的语言进行测试和报告来实现的。将GCN应用于多任务文本分类是一个未探索的领域。此外，训练GCN或采用英语GCN用于印度语言通常受到数据可用性，丰富的形态变化，语法和语义差异的限制。在本文中，我们研究了使用GCN的泰卢固语在单任务和多任务设置为四个自然语言处理（NLP）的任务，即。情感分析（SA），情感识别（EI），仇恨言论（HS），和讽刺检测（SAR）。为了评估GCN与印度语言之一，泰卢固语的性能，我们分析了GCN的基础上的模型与广泛的实验四个下游任务。此外，我们为四个NLP任务创建了一个带注释的泰卢固语数据集TEL-NLP。此外，我们提出了一种有监督的图重建方法，Telugu上的多任务文本GCN（MT-Text GCN），它利用同时（i）使用图形自动编码器（GAE）从单词-句子图重建中学习低维单词和句子图嵌入，以及（ii）使用这些潜在的句子图嵌入执行多任务文本分类。我们认为，我们提出的MT-Text GCN在TEL-NLP上比现有的泰卢固语预训练词嵌入和多语言预训练Transformer模型：mBERT和XLM-R有了显着的改进。在TEL-NLP上，我们在四个NLP任务中获得了很高的F1分数：SA（0.84），EI（0.55），HS（0.83）和SAR（0.66）。最后…
2022-05-02 cs.AI cs.CL cs.LG
Classifying Organizations for Food System Ontologies using Natural Language Processing
University of Utah（犹他大学）；University of Ottawa（渥太华大学）；University of California, Davis（加州大学戴维斯分校）；University of Milan（米兰大学）；IC-FOODS
本文研究利用自然语言处理方法自动对组织进行分类，以构建知识图谱并与食品系统本体集成，实验表明该方法在环境问题类别和SIC代码分类任务上性能良好，具有广泛适用性。
2023-09-19 cs.AI cs.CL cs.CY
Instructional Text Across Disciplines: A Survey of Representations, Downstream Tasks, and Open Challenges Toward Capable AI Agents
KUIS AI Lab, Koç University, Istanbul, Türkiye（KUIS AI实验室，科克大学，伊斯坦布尔，土耳其）；Koç University, Istanbul, Türkiye（科克大学，伊斯坦布尔，土耳其）；Johns Hopkins University, Baltimore, USA（约翰霍普金斯大学，巴尔的摩，美国）；Friedrich-Alexander-Universität Erlangen-Nürnberg, Germany（埃尔兰根-纽伦堡弗里德里希-亚历山大大学，德国）
本文综述了指令文本的表示方法、下游任务及挑战，旨在为AI代理提供统一视角，填补不同研究方向间的空白。
2026-03-23 cs.CL
Quantum Natural Language Processing based Sentiment Analysis using lambeq Toolkit
Universidad Politécnica de Madrid（马德里理工大学）；Karunya Institute of Technology and Sciences（卡鲁尼亚科技学院）
本文首次将量子自然语言处理（QNLP）应用于情感分析，使用lambeq和$t|ket>$工具包，在三种模拟中取得完美测试集准确率，并在噪声量子设备上获得良好准确率。
2023-05-30 cs.CL quant-ph
Evaluating Large Language Models (LLMs) in Financial NLP: A Comparative Study on Financial Report Analysis
本文评估了五种基于transformer的LLMs在财务报告分析中的表现，发现模型在不同评估维度上表现各异，需考虑人类主观性和行为差异性。
2026-01-19 cs.AI cs.CE cs.CL
KyrgyzNLP: Challenges, Progress, and Future
Steklov Mathematical Institute at St. Petersburg（圣彼得堡斯捷克洛夫数学研究所）；St. Petersburg State University（圣彼得堡国立大学）；Kazan (Volga Region) Federal University（喀山（伏尔加地区）联邦大学）；Kyrgyz State Technical University n. a. I. Razzakov（吉尔吉斯斯坦伊·拉扎科夫国立技术大学）；The Cramer Project（克拉默项目）；Kyrgyz AI Research Institute（吉尔吉斯斯坦人工智能研究院）
本文回顾了资源匮乏语言吉尔吉斯语NLP领域的现状、资源与挑战，强调社区驱动建设的重要性，并提出了未来研究主题与语言资源的发展路线图。
2024-11-16 cs.CL
Robust Layout-aware IE for Visually Rich Documents with Pre-trained Language Models
Alibaba Group（阿里巴巴集团）
在现代NLP和IR管道中处理的许多业务文档在视觉上都很丰富：除了文本之外，它们的语义也可以通过视觉特征（如布局，格式和字体）来捕获。我们研究了从视觉丰富文档（VRD）中信息抽取的问题，并提出了一个模型，该模型结合了大型预训练语言模型和图神经网络的功能，以有效地编码文本和视觉信息的商业文档。我们进一步引入新的微调目标，以改善域内无监督微调，以更好地利用大量的未标记的域内数据。我们在真实世界的发票和简历数据集上进行了实验，结果表明，该方法在发票上的绝对F1为6.3%，在简历上的绝对F1为4.7%，优于基于文本的Roberta基线。当在Few-Shot设置中进行评估时，我们的方法需要的注释数据比基线少30倍，以在~ 90%F1下实现相同的性能水平。
2020-05-22 cs.CL cs.IR cs.LG
Multimodal Document Analytics for Banking Process Automation
Humboldt University of Berlin（柏林洪堡大学）
本研究针对银行文档密集型流程效率问题，通过案例研究证实，引入布局信息的多模态模型 LayoutXLM 相比 BERT 和 GPT 等文本模型能大幅提升文档处理性能，且仅需 30% 训练数据即可达到 75% 以上的 F1 分数，为银行业多模态文档分析提供了实证依据与实践指导。
2023-11-26 cs.AI cs.CL cs.CV
PersonaBOT: Bringing Customer Personas to Life with LLMs and RAG
Department of Computer Science, Jönköping University（计算机科学系，约翰科普ิง大学）；Department of Future Solutions, Volvo Construction Equipment（未来解决方案部，沃尔沃建筑设备公司）
本文提出PersonaBOT，利用LLM和RAG生成合成客户画像并集成到聊天机器人中，通过少样本与思维链提示对比，提升业务决策支持，准确率评分从5.88升至6.42。
2025-05-22 cs.CL cs.LG
FLAME: Financial Large-Language Model Assessment and Metrics Evaluation
The School of Finance, Renmin University of China（中国人民大学财政金融学院）
针对中文金融大语言模型缺乏全面专业评估的问题，本文提出包含FLAME-Cer认证题基准与FLAME-Sce业务场景基准的FLAME评估体系，评测6款主流模型并验证其有效性，助力中文金融大模型发展。
2025-01-03 cs.AI cs.CE cs.CL
Automating Customer Needs Analysis: A Comparative Study of Large Language Models in the Travel Industry
University of Pisa（比萨大学）
本研究比较了多种大语言模型在旅游客户需求提取中的表现，发现开源模型Mistral 7B能以更低成本达到与大型闭源模型相当的性能。
2025-04-09 cs.AI cs.CL cs.HC
Fine-tuning and aligning question answering models for complex information extraction tasks
Fraunhofer Institute for Industrial Engineering IAO（弗劳恩霍夫工业工程研究所IAO）；University of Stuttgart（斯图加特大学）
本文提出整合并微调德语抽取式 QA 模型，以少量标注数据提升复杂业务文档信息抽取性能，并结合多种指标构建贴近人工评估的组合度量。
2023-09-26 cs.AI cs.CL
SCROLLS: Standardized CompaRison Over Long Language Sequences
Tel Aviv University（特拉维夫大学）；IBM Research（IBM研究院）；Meta AI；Allen Institute for AI（艾伦人工智能研究所）
NLP基准主要集中在短文本上，例如句子和段落，即使长文本包含大量的自然自然语言。我们介绍了卷轴，一套任务，需要推理长文本。我们检查现有的长文本数据集，并精心挑选文本自然较长的数据集，同时优先考虑涉及在输入中合成信息的任务。SCROLLS包含摘要、问答和自然语言推理任务，涵盖多个领域，包括文学、科学、商业和娱乐。初始基线，包括Longformer编码器-解码器，表明SCROLLS有足够的改进空间。我们以统一的文本到文本格式提供所有数据集，并提供实时排行榜，以促进对模型架构和预训练方法的研究。
2022-10-11 cs.AI cs.CL cs.LG
Text Summarization Using Large Language Models: A Comparative Study of MPT-7b-instruct, Falcon-7b-instruct, and OpenAI Chat-GPT Models
本研究比较了MPT-7b-instruct、falcon-7b-instruct和OpenAI ChatGPT text-davinci-003三种大型语言模型在文本摘要任务上的性能，通过BLEU、ROUGE和BERT指标评估，发现text-davinci-003表现最优。
2023-10-17 cs.AI cs.CL cs.LG
