Cognition-aware Cognate Detection
IIT Bombay(印度理工学院孟买分校);IITB-Monash Research Academy(印度理工学院孟买分校-莫纳什大学联合研究院);Monash University(莫纳什大学);Hitachi CRL(日立中央研究所);RingCentral(RingCentral公司)
同源词的自动检测有助于机器翻译、跨语言信息检索、计算系统发生学和跨语言命名实体识别等下游NLP任务。以前的方法同源检测任务使用正字法,语音和语义相似性的特征集。在本文中,我们提出了一种新的方法来丰富的特征集,从人类读者的凝视行为提取的认知特征。我们收集了一个小样本的同源凝视行为数据,并表明提取的认知功能有助于同源检测的任务。然而,凝视数据汇集和注释是一项昂贵的任务。我们使用收集的凝视行为数据来预测更大样本的认知特征,并表明预测的认知特征也显着提高了任务性能。我们报告了10%的改进与收集的凝视功能,和12%的预测凝视功能,在以前提出的方法。此外,我们还发布了收集到的凝视行为数据以及我们的代码和跨语言模型。
2021-12-15 cs.AI cs.CL
A Survey of Cognitive Distortion Detection and Classification in NLP
Department of Informatics, King’s College London(信息学院,伦敦国王学院)
本文首次系统综述了NLP领域二十年来的38项认知扭曲检测与分类研究,统一了分类体系与任务设置,并提供评估指标、数据表模板和伦理流程图等实用资源,以提升研究的可比性与可复现性。
2025-09-22 cs.CL
Advancing NLP Security by Leveraging LLMs as Adversarial Engines
Center for AI Security Research(人工智能安全研究中心)
本文提出将 LLM 用作多样化对抗攻击生成引擎,扩展词级攻击至补丁、通用扰动和定向攻击,以发现漏洞并提升 NLP 系统安全性。
2024-10-23 cs.AI cs.CL
Machine Reading Comprehension: The Role of Contextualized Language Models and Beyond
Shanghai Jiao Tong University(上海交通大学);National Institute of Information and Communications Technology(信息通信研究机构)
机器阅读理解(MRC)旨在教机器阅读和理解人类语言,这是自然语言处理(NLP)的长期目标。随着深度神经网络的爆发和语境化语言模型(CLMs)的发展,MRC的研究经历了两次重大突破。MRC和CLM作为一种现象,对NLP社区产生了很大的影响。在本调查中,我们提供了一个全面的和比较审查的MRC涵盖整体的研究主题1)的起源和发展的MRC和CLM,特别是CLM的作用; 2)的影响MRC和CLM的自然语言处理社区; 3)的定义,数据集和评价MRC; 4)从人类认知过程的角度出发,提出了基于两阶段Encoder-Decoder求解体系结构的MRC通用体系结构和技术方法;(5)以往的研究热点、新出现的研究课题以及我们的实证分析,其中我们特别关注MRC研究在不同时期的有效性。我们提出了一个完整的视图分类和新的分类这些主题。我们得出的主要观点是:1)MRC促进了从语言处理到理解的进步; 2)MRC系统的快速改进极大地受益于CLMs的发展; 3)MRC的主题正逐渐从浅层文本匹配转向认知推理。
2020-05-13 cs.AI cs.CL cs.LG
HatePRISM: Policies, Platforms, and Research Integration. Advancing NLP for Hate Speech Proactive Mitigation
IIT Kharagpur(印度理工学院Kharagpur分校);University of Hamburg(汉堡大学);Technical University of Munich(慕尼黑技术大学);Bucerius Law School(布勒斯海姆法学院);Skolkovo Institute of Science and Technology(斯克尔科维科学与技术研究所);Artificial Intelligence Research Institute(人工智能研究 institute)
HatePRISM从国家法规、平台政策和NLP数据集三方面系统审视仇恨言论治理,揭示定义与实践的不一致,并提出融合多种策略的统一自动化审核框架研究方向。
2025-07-06 cs.CL
Natural Language Processing for Tigrinya: Current State and Future Directions
Korea Advanced Institute of Science and Technology (KAIST)(韩国高等科学技术院(KAIST))
本文调查了提格里尼亚语NLP的现状与未来方向,分析了50项研究,揭示了从规则系统到神经架构的发展轨迹,并提出了形态感知建模、跨语言迁移等研究方向。
2025-12-30 cs.AI cs.CL
A First Step in Combining Cognitive Event Features and Natural Language Representations to Predict Emotions
Massachusetts Institute of Technology(麻省理工学院)
我们结合不同学术领域的研究方法,探索情绪的表征空间。认知科学已经提出了评价理论作为人类情感的观点,先前的研究表明人类评价的抽象事件特征如何预测细粒度的情感,并在心理化大脑区域中捕获神经模式的相似性空间。与此同时,自然语言处理(NLP)已经证明了迁移和多任务学习如何用于应对文本建模的注释数据的稀缺性。这项工作的贡献是表明,评估理论可以与NLP相结合,互惠互利。首先,通过使用NLP表示以及评价特征,可以将细粒度的情感预测提高到人类水平的性能。其次,在训练过程中使用评估特征作为辅助目标可以提高预测,即使只有文本可作为输入。第三,我们获得了一个具有相似性矩阵的表示,该矩阵与跨区域的神经活动更好地相关。当模型被训练成使用共享表示来同时预测评价、情绪和表情符号时,可以获得最佳结果。虽然这些结果是初步的,但认知神经科学和NLP技术的整合为未来的研究开辟了一个有趣的方向。
2017-10-23 cs.CL
Gradient Masters at BLP-2025 Task 1: Advancing Low-Resource NLP for Bengali using Ensemble-Based Adversarial Training for Hate Speech Detection
SUST(斯瓦希里大学)
本文提出基于集成的对抗训练方法,用于孟加拉语低资源NLP中的仇恨言论检测,提升了子任务的分类性能。
2025-11-23 cs.CL
Blind Spots and Biases: Exploring the Role of Annotator Cognitive Biases in NLP
Pennsylvania State University(宾夕法尼亚州立大学);Information Sciences and Technology(信息科学与技术学院)
本文系统回顾了自然语言处理中标注者认知偏差的研究方法,探讨人类参与对AI偏差的双重影响,为理解标注属性如何导致偏差提供基础。
2024-04-29 cs.CL cs.HC
Conversational Agents and the Understanding of Human Language: Reflections on AI, LLMs, and Cognitive Science
HEIG-VD / HES-SO(瑞士西部应用科学与艺术大学伊韦尔东工程与管理高等学院);EPFL(瑞士洛桑联邦理工学院)
本文探讨计算机自然语言处理与人类语言能力理解的关系,分析NLP发展与语言能力理论的异同,指出语言技术的进步未显著深化人类语言处理机制的理解。
2026-03-29 cs.CL
New Vistas to study Bhartrhari: Cognitive NLP
IIT Bombay(印度理工学院孟买分校);IITB-Monash Research Academy(印度理工学院孟买分校-莫纳什大学联合研究院);Monash University(莫纳什大学)
梵语语法传统始于帕尼尼的Astadhyayi,主要是作为Padasastra,在Bhartrhari手中最终成为Vakyasastra。自阿肖克·阿库卢杰卡尔(Ashok Aklujkar)提交博士学位以来,至少50多年来,语法哲学家巴特哈里(Bhartrhari)及其权威著作《Vakyapadiya》一直是现代学者的研究对象。哈佛大学的毕业论文句子和单词作为语言中有意义的语言单位的概念在后来的许多著作中一直是讨论的主题。虽然一些学者应用语言学的技术来批判地建立巴特哈里作品的文本,但也有一些学者致力于从这些作品中探索哲学见解。也有人从现代语言学和心理学的角度来研究他的作品。很少有人试图通过逻辑讨论来证明这些观点。本文从一个新的视角来研究巴特尔哈里及其作品,特别是《瓦克亚帕迪亚》。这种观点来自自然语言处理(NLP)领域,更具体地说,是所谓的认知NLP。我们已经研究了一个句子的定义所给予的Bhartrhari在开始的第二章'Vakyapadiya'。我们通过实验和默读梵语段落的方法研究了其中一个定义。我们收集了参与者的凝视行为数据,并对其进行分析,以了解人类思维中的潜在理解过程,并提出我们的结果。我们使用T检验评估我们的结果的统计显著性,并讨论我们的工作的注意事项。我们还提出了一些一般性的意见,这个实验和有用的方法,以获得更多的见解,在工作中的Bhartrhari。
2018-10-10 cs.CL
Legal NLP Meets MiCAR: Advancing the Analysis of Crypto White Papers
Bank of Italy(意大利银行)
本文研究了加密资产白皮书在欧盟MiCAR新规下的分析需求,调查了现有NLP在无监管白皮书中的应用并揭示研究空白,同时分析了新规带来的机遇与挑战,为监管合规的后续研究奠定基础。
2023-10-25 cs.CL cs.CY q-fin.GN
Advancing NLP Models with Strategic Text Augmentation: A Comprehensive Study of Augmentation Methods and Curriculum Strategies
Yildiz Technical University(伊兹迪克技术大学)
本研究全面评估了多种文本增强技术与课程策略在NLP任务中的效果,提出了新颖的Modified Cyclical Curriculum Learning (MCCL)方法,证明其结合特定增强技术能显著提升模型分类性能并优化训练质量与速度的平衡。
2024-02-14 cs.AI cs.CL
Advancing Fairness in Natural Language Processing: From Traditional Methods to Explainability
ANITI;DEEL
本博士论文探讨了NLP系统中的公平性与可解释性问题,提出了缓解多类分类器偏见的新算法,分析了Bios数据集的偏见局限性,并引入COCKATIEL和TaCo方法以提升Transformer模型的可解释性并中和嵌入偏见,推动了更公平负责的AI发展。
2024-10-16 cs.CL
Grounding 'Grounding' in NLP
Language Technologies Institute(语言技术研究所);Carnegie Mellon University(卡内基梅隆大学)
NLP社区最近对基础感兴趣,以促进语言技术与世界之间的互动。然而,作为一个社区,我们广泛地使用这个术语来指代文本与数据或非文本模态的任何链接。相比之下,认知科学更正式地将“基础”定义为建立两个对话者之间成功沟通所需的互信息的过程--这一定义可能隐含了NLP的用法,但在意图和范围上有所不同。我们调查了这些定义之间的差距,并寻求以下问题的答案:(1)NLP任务中缺少哪些方面的基础?在这里,我们提出的协调,权限和限制的层面。(2)在目前的研究中如何使用“接地”一词?我们研究了最近NLP会议中介绍的数据集,域和任务的趋势。最后,(3)如何推进我们目前的定义,以弥合与认知科学的差距?我们提出了创建新任务或重新利用现有任务的方法,以实现更完整的接地感。
2021-06-04 cs.CL
Synthesizing Human Gaze Feedback for Improved NLP Performance
Adobe(奥多比);IIIT Delhi(德里印度理工学院);SUNY-Buffalo(纽约州立大学布法罗分校);University of Copenhagen(哥本哈根大学);Bucknell University(巴克内尔大学)
在模型中集成人类反馈可以提高自然语言处理(NLP)模型的性能。反馈可以是显式的(例如,在训练语言模型中使用的排名)或隐式的(例如,使用眼动跟踪形式的人类认知信号)。先前的眼动追踪和NLP研究表明,从人类注视模式中收集的认知过程(如人类扫描路径)有助于理解和执行NLP模型。然而,由于需要昂贵而精确的设备以及隐私侵犯问题,收集用于NLP任务的真实眼动数据具有挑战性。为了应对这一挑战,我们提出了ScanTextGAN,一种新的模型,用于在文本上生成人类扫描路径。我们表明,ScanTextGAN生成的扫描路径可以近似人类凝视模式中有意义的认知信号。我们在跨越六个不同数据集的四个流行的NLP任务中包括合成生成的扫描路径作为概念证明,并表明使用生成的扫描路径增强的模型提高了所有下游NLP任务的性能。
2023-02-11 cs.CL cs.HC
Proceedings of the 2016 Workshop on Semantic Spaces at the Intersection of NLP, Physics and Cognitive Science
本卷包含了2016年研讨会在自然语言处理,物理学和认知科学的交叉点语义空间(SLPCS 2016),这是在斯特拉斯克莱德大学,格拉斯哥举行的6月11日的会议记录,并与量子物理和逻辑(QPL 2016)位于同一地点。利用向量空间概念提供的共同基础,研讨会汇集了从事自然语言处理(NLP)、认知科学和物理学交叉领域工作的研究人员,为他们提供了一个适当的论坛,以展示他们独特的工作动机和想法。这三个学科之间的相互作用激发了理论上的动机的方法来理解单词的含义如何在句子和话语中相互作用,图解推理如何描绘和简化这种相互作用,语言模型如何由来自世界的输入决定,以及单词和句子的含义如何在逻辑上相互作用。第一期研讨会包括三个特邀演讲嘉宾(Hans Briegel,Peter Gärdenfors,Dominic Widdham)和八个选定的贡献论文的演讲。每一份提交的文件都由方案委员会至少三名成员审阅,他们提出了详细和有见地的意见和建议。
2016-08-02 cs.AI cs.CL math.CT
Modeling Subjectivity in Cognitive Appraisal with Language Models
Queen Mary University of London(伦敦大学玛丽女王学院);King’s College London(伦敦大学国王学院);The University of Texas at Austin(德克萨斯大学奥斯汀分校);The Alan Turing Institute(艾伦·图灵研究所)
本研究探讨语言模型如何量化认知评价中的主观性,通过微调模型和基于提示的LLMs实验发现人格特质和人口统计信息至关重要,但现有校准方法性能不足,为NLP与认知科学交叉研究提供了见解。
2025-09-23 cs.CL
Advancing Prompt Recovery in NLP: A Deep Dive into the Integration of Gemma-2b-it and Phi2 Models
Southern Methodist University(南卫理公会大学);Syracuse University(雪城大学);North Carolina State University(北卡罗来纳州立大学)
本文比较多种预训练语言模型与策略在提示词恢复基准上的表现,发现 Gemma-2b-it + Phi2 + Pretrain 集成方案效果最佳。
2024-07-07 cs.AI cs.CL
Detection and Positive Reconstruction of Cognitive Distortion sentences: Mandarin Dataset and Evaluation
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);École polytechnique fédérale de Lausanne(洛桑联邦理工学院)
本文提出基于拓展—建构理论的积极重构框架,构建含4001条检测与1900条重构实例的普通话语料库,并利用多种NLP技术验证自动化认知扭曲检测与积极重构的有效性。
2024-05-24 cs.CL cs.HC
Revisiting and Advancing Chinese Natural Language Understanding with Accelerated Heterogeneous Knowledge Pre-training
East China Normal University(华东师范大学);Alibaba Group(阿里巴巴集团);Chongqing University(重庆大学)
最近,知识增强的预训练语言模型(KEPLM)通过从知识图谱中的结构化关系和/或来自句法或依赖性分析的语言知识学习来改进上下文感知表示。与英语不同,在自然语言处理(NLP)社区中缺乏高性能的开源中文KEPLM来支持各种语言理解应用。在本文中,我们回顾和推进了中文自然语言理解的发展,推出了一系列不同参数大小的新型中文KEPLMs,即CKBERT(Chinese knowledge-enhanced BERT)。具体来说,基于两个新的预训练任务,关系和语言知识都有效地注入到CKBERT中,即,语言感知掩蔽语言建模和对比多跳关系建模。基于上述两种预训练范例和我们内部实现的TorchAccelerator,我们在GPU集群上有效地预训练了CKBERT的基础(110 M),大型(345 M)和巨大(1.3B)版本。实验表明,CKBERT在不同的基准NLP任务和不同的模型大小方面优于中国的强基线。
2022-10-12 cs.CL
Building a Multivariate Time Series Benchmarking Datasets Inspired by Natural Language Processing (NLP)
Technical University of Munich(慕尼黑工业大学);Fraunhofer Institute for Electronic Microsystems and Solid State Technologies EMFT(弗劳恩霍夫电子微系统与固态技术研究所EMFT)
受NLP基准数据集成功启发,提出创建多变量时间序列基准数据集的新方法,并利用多任务学习策略提升模型性能,推动时间序列建模发展。
2024-10-14 cs.AI cs.CL
Using Deep Learning to Identify Patients with Cognitive Impairment in Electronic Health Records
Massachusetts General Hospital(麻省总医院);McCance Center for Brain Health(McCance脑健康中心)
痴呆症是一种神经退行性疾病,导致认知能力下降,影响全球5000多万人。痴呆症被医疗保健专业人员诊断不足-只有四分之一的痴呆症患者被诊断出来。即使做出了诊断,也可能不会将其作为结构化的国际疾病分类(ICD)诊断代码输入患者的图表中。与认知障碍(CI)相关的信息通常在电子健康记录(EHR)中找到,但专家对临床医生笔记的手动审查既耗时又容易出错。这些笔记的自动挖掘为在EHR数据中标记认知障碍患者提供了机会。我们开发了自然语言处理(NLP)工具来识别认知障碍患者,并证明语言环境增强了认知障碍分类任务的性能。我们对基于注意力的深度学习模型进行了微调,该模型可以从复杂的语言结构中学习,并且相对于基线NLP模型(0.84),准确率(0.93)大幅提高。此外,我们表明,深度学习NLP可以成功识别没有痴呆相关ICD代码或药物的痴呆患者。
2021-11-13 cs.CL cs.LG
Open Language Data Initiative: Advancing Low-Resource Machine Translation for Karakalpak
Tahrirchi(塔希尔奇)
该研究面向卡拉卡尔帕克语低资源机器翻译,构建FLORES+评测集与三向各10万句对平行语料,开源微调神经模型并验证其优于基线。
2024-09-06 cs.CL
Advancing Uto-Aztecan Language Technologies: A Case Study on the Endangered Comanche Language
Algoverse AI Research(Algoverse AI研究院)
本研究首次对濒危的科曼奇语进行计算探索,通过手工数据集和合成数据流程,评估GPT-4o系列的语言识别能力,发现少样本提示可显著提升性能,为低资源语言保护提供了可行路径。
2025-05-10 cs.CL cs.LG
The African Languages Lab: A Collaborative Approach to Advancing Low-Resource African NLP
University of California, Los Angeles(加州大学洛杉矶分校);Georgia Institute of Technology(佐治亚理工学院);University of Wisconsin - Madison(威斯康星大学麦迪逊分校);University of Cape Coast(科克伍德大学);Carleton University(卡尔顿大学);Stetson University(史蒂文森大学);Northwestern University in Qatar(卡塔尔西北大学);Cornell University(康奈尔大学);Soka University of America(美国立命大学);Columbia University(哥伦比亚大学)
该研究提出非洲语言实验室,通过构建覆盖40种语言的大规模数据集和微调方法,显著提升低资源非洲NLP性能,并培养本地研究能力。
2025-10-07 cs.AI cs.CL
Use of Formal Ethical Reviews in NLP Literature: Historical Trends and Current Practices
Microsoft Research(微软研究院);Plaksha University(普拉卡沙大学)
近年来,语言技术研究的伦理问题引起了人们的广泛关注。标准做法是由机构的专业伦理委员会/董事会审查和批准涉及人类受试者的研究。我们在NLP研究中经常看到伦理批准吗?哪些类型的研究或研究的哪些方面通常需要进行此类审查?随着对NLP伦理的关注和讨论的不断增加,我们是否也观察到对NLP研究的正式伦理审查的增加?如果是这样,这是否意味着人们对以前缺乏的道德问题的认识有所提高?我们的目标是通过对ACL选集进行详细的定量和定性分析来解决这些问题,并将我们领域的趋势与其他相关学科的趋势进行比较,如认知科学,机器学习,数据采掘和系统。
2021-06-02 cs.CL
Proceedings of the 2018 Workshop on Compositional Approaches in Physics, NLP, and Social Sciences
能够组成部分,形成一个更复杂的整体,并分析一个整体作为一个元素的组合,是跨学科的理想。这个研讨会汇集了研究人员将组合方法应用于物理,NLP,认知科学和博弈论。在NLP中,一个长期的目标是表示单词如何组合成短语和句子。在分布语义学的框架内,词被表示为向量空间中的向量。Coecke et al. [2010]的分类模型受到量子协议的启发,为NLP的向量空间模型中的组合性提供了令人信服的解释。此外,在认知科学中,向量空间模型也有一段历史。Nosofsky [1986]和Smith等人[1988]开发的分类理论利用了特征向量之间距离的概念。最近Gärdenfors [2004,2014]开发了一个概念模型,其中概念空间提供几何结构,信息由向量空间中的点,向量和区域表示。同样的组合方法也被应用于这种形式主义,使概念空间理论比以前更丰富的组合模型[Bolt et al.,2018年]。合成方法也被应用于策略博弈和纳什均衡的研究。与经典博弈论不同,在经典博弈论中,博弈是作为一个全局对象整体研究的,组合博弈论通过从较小的组件构建大型复杂的博弈来自下而上工作。这种方法本身就很困难,因为必须考虑游戏之间的相互作用。最近开始了对该领域的分类合成方法的研究[Ghani等人,2018年]。此外,认知科学、语言学和博弈论这三个学科之间的相互作用是研究的沃土。认知科学中的博弈论是一个成熟的领域[Camerer,…
2018-11-06 cs.AI cs.CL cs.GT
Capturing Human Cognitive Styles with Language: Towards an Experimental Evaluation Paradigm
Stony Brook University(石溪大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文提出基于行为实验的评估框架,通过经典决策任务识别认知风格,并证明语言特征可较准确预测决策风格。
2025-02-18 cs.CL
Make Every Example Count: On the Stability and Utility of Self-Influence for Learning from Noisy NLP Datasets
Google DeepMind(谷歌DeepMind);Google(谷歌)
针对现代NLP数据集中噪声问题,研究任务无关自影响分数在数据清洗中的适用性,并验证其能提升机器翻译、问答和文本分类的下游性能。
2023-10-17 cs.CL
Cognitive Visual-Language Mapper: Advancing Multimodal Comprehension with Enhanced Visual Knowledge Alignment
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
提出认知视觉-语言映射器(CVLM),通过视觉知识对齐器(VKA)和细粒度知识适配器(FKA)增强多模态模型的知识型视觉问答能力,平均性能提升5.0%。
2024-06-26 cs.CL cs.CV
Toward Automated Cognitive Assessment in Parkinson's Disease Using Pretrained Language Models
Yale School of Medicine(耶鲁大学医学院)
本研究针对帕金森病患者非结构化叙事中认知信息提取的挑战,开发并比较了三类NLP模型,发现微调后的Meta-Llama-3-8B-Instruct模型性能最优,为PD认知评估提供了自动化工具。
2025-11-11 cs.CL
A Systematic Review of NLP for Dementia -- Tasks, Datasets and Opportunities
Technion - Israel Institute of Technology(以色列理工学院)
该研究系统回顾240余篇NLP应用于痴呆症的论文,识别出检测、生物标志物提取等方向,发现半数聚焦临床数据检测,同时指出信任、跨社区协作等差距,旨在启发更严谨创新的相关研究。
2025-02-10 cs.CL
Recurrent Neural Networks in Linguistic Theory: Revisiting Pinker and Prince (1988) and the Past Tense Debate
Johns Hopkins University(约翰斯·霍普金斯大学)
本研究重审过去式之争经典案例,发现现代NLP的Encoder-Decoder网络可化解早年对神经模型的主要批评,支持重新评估神经网络在语言学与认知建模中的价值。
2026-08-27 cs.CL
Forging GEMs: Advancing Greek NLP through Quality-Based Corpus Curation
Novelcore;Department of Statistics & Insurance University of Piraeus(统计与保险系 帕里埃斯大学)
针对希腊语数据稀缺和架构局限,提出GEMs模型家族,通过质量策展语料库训练,在三个基准上显著提升准确率,最高达3.6%。
2025-10-24 cs.AI cs.CL
Natural Language Processing to Detect Cognitive Concerns in Electronic Health Records Using Deep Learning
Massachusetts General Hospital(麻省总医院)
痴呆症在社区中认识不足,医疗保健专业人员诊断不足,索赔数据编码不足。然而,关于认知功能障碍的信息通常在医疗记录内的非结构化临床医生笔记中找到,但是专家的手动审查是耗时的并且经常容易出错。这些笔记的自动挖掘提供了一个潜在的机会,可以标记有认知问题的患者,这些患者可以从评估中受益或被转诊到专家护理。为了识别电子病历中存在认知问题的患者,我们应用了自然语言处理(NLP)算法,并将模型性能与仅使用结构化诊断代码和药物数据的基线模型进行了比较。基于注意力的深度学习模型优于基线模型和其他更简单的模型。
2020-11-12 cs.CL
Advancing Dialectal Arabic to Modern Standard Arabic Machine Translation
University of Manchester(曼彻斯特大学);School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Leiden University(莱顿大学);LIACS;LUMC
该研究针对方言阿拉伯语到现代标准阿拉伯语的翻译难题,评估了多种提示技术并提出资源高效的微调流水线,证明低资源下也能实现高质量翻译,为阿拉伯语NLP的方言包容性提供实用方案。
2025-09-02 cs.CL
Can LLMs Estimate Cognitive Complexity of Reading Comprehension Items?
Graduate School of Artificial Intelligence, POSTECH, Republic of Korea(韩国立科学技术院人工智能研究生院);Department of Computer Science and Engineering, POSTECH, Republic of Korea(韩国立科学技术院计算机科学与工程系)
本文研究了大型语言模型是否能通过证据范围和转换级别两个维度估算阅读理解题的认知复杂性,结果显示LLMs能够近似估算认知复杂性,但存在推理能力与元认知意识之间的差距。
2026-05-19 cs.CL
Autoencoder-Based Framework to Capture Vocabulary Quality in NLP
University of Houston(休斯顿大学)
本文提出基于自编码器的框架,利用神经网络容量动态评估词汇丰富性、多样性和复杂性,弥补传统指标在上下文和语义捕捉上的不足,并在DIFrauD和Project Gutenberg数据集上验证了其鲁棒性。
2025-02-28 cs.CL
Harnessing Cognitive Features for Sarcasm Detection
Indian Institute of Technology Bombay(印度理工学院孟买分校);IITB-Monash Research Academy(印度理工学院孟买分校-莫纳什研究学院);IBM Research(IBM研究院)
在本文中,我们提出了一种新的机制,丰富的特征向量,讽刺检测的任务,从人类读者的眼动模式提取的认知特征。讽刺检测一直是一个具有挑战性的研究问题,其对于评论摘要、对话系统和情感分析等NLP应用的重要性已得到广泛认可。讽刺通常可以追溯到不协调,随着整个句子的展开而变得明显。这种不协调的存在--无论是隐含的还是明确的--都会影响读者的眼睛在文本中移动的方式。我们观察眼睛的行为的差异,而阅读讽刺和非讽刺的句子。基于他的观察,我们利用从读者眼动数据中获得的认知特征来增强传统的语言和文体特征。我们使用这样获得的增强特征集进行统计分类。增强的认知功能提高讽刺检测3.7%(F分数),在最好的报告系统的性能。
2017-01-19 cs.CL
From Code-Centric to Concept-Centric: Teaching NLP with LLM-Assisted "Vibe Coding"
College of Computer and Information Sciences(计算机与信息科学学院);King Saud University(沙特国王大学)
本文提出利用LLM辅助的
2026-02-02 cs.CL
Beyond Text: Leveraging Multi-Task Learning and Cognitive Appraisal Theory for Post-Purchase Intention Analysis
Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究院);Birla Institute of Technology and Science(贝拉理工与科学学院);NUS Centre for Trusted Internet and Community, National University of Singapore(新加坡国立大学可信互联网与社区中心)
针对用户行为预测模型性能偏低的问题,本研究提出结合认知评价理论的多任务学习框架,融入用户语言与特质提升购后意向预测效果,验证了心理构念对NLP用户行为分析的价值,为大模型在计算心理学的应用提供参考。
2024-07-11 cs.CL
Operationalising Representation in Natural Language Processing
Stanford University(斯坦福大学)
本文借鉴认知科学,提出了一个评估神经 NLP 模型组件表征主张的框架及三项标准,并利用探测分类器将其操作化,为哲学家与 NLP 研究者提供了新测试平台与研究指引。
2023-10-08 cs.AI cs.CL cs.LG
Natural Language Processing with Commonsense Knowledge: A Survey
College of Information Engineering Shanghai Maritime University;Independent Researcher;School of AI;Advanced Computing Xi'an Jiaotong-Liverpool University;Alibaba Business School Hangzhou Normal University;School of Computer
该综述梳理了常识知识库、评估基准、融入方法及在NLP任务中的应用,分析了相关挑战与趋势,为融合常识提升NLP推理能力的研究提供了系统参考。
2024-09-13 cs.CL
The First ChineseBabyLM Challenge: training data-efficient and cognitively plausible language models for Chinese
Princeton University(普林斯顿大学);Shanghai Jiao Tong University(上海交通大学);Chinese Academy of Sciences(中国科学院);Columbia University(哥伦比亚大学);Beijing Normal University(北京师范大学);Tsinghua University(清华大学);University of California San Diego(加利福尼亚大学圣地亚哥分校);The Hong Kong Polytechnic University(香港理工大学)
首个中文BabyLM挑战将在2026年自然语言处理与中文计算会议举办,要求用1亿中文词元从头训练语言模型,在自然语言理解、认知对齐和汉字知识三轨道评估,不限分词器、模型架构和训练轮数。
2026-08-18 cs.CL
A New Semantic Theory of Natural Language
形式语义学和分布语义学是自然语言处理中两个重要的语义框架。认知语义学属于认知语言学运动,它建立在当代认知科学的基础之上。每个框架都能处理一些意义现象,但没有一个能满足应用程序提出的所有要求。建立一个统一的语义理论来描述所有重要的语言现象具有重要的理论意义和实践意义,然而,尽管近年来人们进行了许多尝试,但迄今为止还没有一个理论能够实现这一目标。本文介绍了一种新的语义理论,它有可能描述自然语言的大多数重要意义现象,并满足哲学分析和自然语言处理应用的大多数必要要求。该理论以信息的统一表示为基础,构建了一种称为认知模型的数学模型,以组合的方式解释自然语言表达式。它接受了认知语义学的经验假设,克服了形式语义学和分布语义学的大部分缺点。然而,该理论不是现有理论的简单组合,而是对经典逻辑和形式语义学的广泛概括。它继承了形式语义学几乎所有的优点,并为对象和事件提供尽可能细的描述内容,描述内容代表了人类认知的结果。
2017-09-10 cs.CL cs.LO
Are NLP Models Good at Tracing Thoughts: An Overview of Narrative Understanding
King’s College London(伦敦国王学院);The Alan Turing Institute(艾伦·图灵研究所)
本文综述了叙事理解任务,探讨了其关键特征、定义、分类及评估方法,并提出通过扩展模块化LLMs能力来提升叙事理解的新视角。
2023-10-28 cs.CL
Linguistic-Based Mild Cognitive Impairment Detection Using Informative Loss
Ritchie School of Engineering and Computer Science(工程与计算机科学里奇学院);DreamFace Technologies LLC(DreamFace科技有限责任公司);Massachusetts General Hospital(麻省总医院);Prince Sattam Bin Abdulaziz University(萨塔姆·本·阿卜杜勒阿齐兹王子大学)
本文提出基于NLP和Transformer的框架,通过InfoLoss损失函数分析视频访谈转录文本,以84.75%的AUC区分老年人轻度认知障碍与正常认知。
2024-01-23 cs.CL cs.LG
Forgotten Words: Benchmarking NeoBERT for Dementia Detection in Low-Resource Conversational Filipino and English Speech
Ateneo de Manila Senior High School(亚特兰大大学高级中学);Analog Devices, Inc.(安森美半导体公司)
针对菲律宾语-英语代码混合的低资源场景,首次系统评估基于Transformer的痴呆检测模型,发现双语微调可消除跨语言性能下降,达到Macro-F1=0.969-0.973。
2026-05-25 cs.CL
Advancing the Arabic WordNet: Elevating Content Quality
University of Trento(特伦托大学);Palestine Technical University – Kadoorie(巴勒斯坦技术大学卡杜里分校);IMT Atlantique(IMT大西洋高等矿业电信学校)
本文针对阿拉伯语词网存在的正确性与完整性问题进行重大修订,更新超过58%的同义词集,并引入短语集和词汇空缺等新结构,以提升词汇语义资源质量。
2024-03-29 cs.CL
Automated Utterance Labeling of Conversations Using Natural Language Processing
The University of British Columbia(不列颠哥伦比亚大学);Carleton University(卡尔顿大学);Arizona State University(亚利桑那州立大学)
会话数据在心理学中是必不可少的,因为它可以帮助研究人员了解个人的认知过程,情绪和行为。话语标记是分析这类数据的常用策略。NLP算法的发展使研究人员能够自动完成这项任务。然而,心理会话数据对NLP研究人员提出了一些挑战,包括多标签分类,大量的类别和有限的可用数据。这项研究探讨了在成年过渡对话的背景下,NLP方法生成的自动标签如何与人类标签相媲美。我们提出了应对心理学研究中提出的三个常见挑战的策略。我们的研究结果表明,具有领域自适应的深度学习方法(Roberta-CON)优于所有其他机器学习方法;我们提出的分层标签系统被证明可以帮助研究人员战略性地分析会话数据。我们的Python代码和NLP模型可以在https://github.com/mlaricheva/automated_labeling上找到。
2022-08-12 cs.CL
Evaluating Subjective Cognitive Appraisals of Emotions from Large Language Models
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究构建了CovidET-Appraisals数据集,评估大型语言模型自动预测和解释认知评价的能力,发现开源模型在此任务上表现不佳,为情感智能模型的发展提出新挑战。
2023-10-22 cs.CL
Integrating Cognitive Processing Signals into Language Models: A Review of Advances, Applications and Future Directions
Telefónica Scientific Research(Telefónica科学研究院);Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
本文综述了将认知信号,特别是眼动数据整合到语言模型中的最新进展、应用及未来方向,探讨了其在提升模型性能和解决环境成本方面的潜力。
2025-04-09 cs.AI cs.CL
A Cognitive Regularizer for Language Modeling
Google AI Language(谷歌AI语言部门);ETH Zürich(苏黎世联邦理工学院);University of Cambridge(剑桥大学)
统一信息密度(UID)假设认为说话者的最佳行为倾向于在语言信号中均匀分布信息,作为对某些句法,形态和韵律选择的解释,在心理语言学中获得了广泛的关注。在这项工作中,我们将探讨UID假设是否可以操作为统计语言建模的归纳偏见。具体来说,我们增加了规范的MLE目标,用于训练语言模型与正则化编码UID。在跨越五个语言家族的十种语言的实验中,我们发现使用UID正则化一致地改善了语言模型的困惑,当训练数据有限时,效果更大。此外,通过对生成的序列的分析,我们发现UID正则化的语言模型具有其他期望的属性,例如,它们生成的文本在词汇上更加多样化。我们的研究结果不仅表明,UID是一个合理的归纳偏见的语言建模,但也提供了一个替代验证UID假设使用现代NLP工具。
2021-06-10 cs.CL