LingML: Linguistic-Informed Machine Learning for Enhanced Fake News Detection
Nanyang Technological University (NTU)(南洋理工大学);University College London (UCL)(伦敦大学学院);Singapore University of Social Sciences(新加坡社会科学大学);Singapore Institute of Technology(新加坡科技设计大学)
本文提出融合语言学输入的 LingML 框架,结合大规模 NLP 模型检测疫情假新闻,以 1.8% 平均错误率超越现有方法,并提升可解释性与泛化能力。
2024-05-07 cs.CL
Talking Past the Machine: Morality, Politeness, and Alignment in Human-AI Dialogue
Arizona State University(亚利桑那州立大学)
本研究通过分析人机与人际对话数据,发现AI仅模拟合作表面,缺乏深层社会机制,且部分合作机制在人机中反向运行,强调能动性是对齐的关键。
2026-09-21 cs.AI cs.CL
From Rosetta to Match-Up: A Paired Corpus of Linguistic Puzzles with Human and LLM Benchmarks
City University of New York (CUNY)(纽约城市大学);Davidson Academy(戴维森学院);Phillips Academy(菲利普斯学术院)
本文研究了高中语言竞赛中使用的语言谜题,重点分析了罗塞塔石和配对两种常见形式,并提出了一种系统方法将现有罗塞塔石谜题转换为对应的配对谜题,通过人类和LLM评估验证了其有效性。
2026-05-13 cs.CL
Algorithmic Cultivation: How Social Media Feeds Shape User Language
本文基于培养理论,研究社交媒体信息流如何影响用户语言,发现信息流暴露导致用户语言风格、语义和正式程度显著变化,且不同信息流类型产生不同影响,揭示信息流作为持久语言环境的作用。
2026-05-16 cs.AI cs.CL cs.CY
Improving Multilingual Neural Machine Translation by Utilizing Semantic and Linguistic Features
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Key Laboratory of Intelligent Information Processing(智能信息处理重点实验室);Key Laboratory of AI Safety, Chinese Academy of Sciences(中国科学院人工智能安全重点实验室)
本文提出在编码器端解耦语义与语言特征以促进跨语言知识迁移,在解码器端引入语言编码器辅助目标语言生成,从而显著提升多语言神经机器翻译的零样本性能。
2024-08-02 cs.CL
Probabilistic Linguistic Knowledge and Token-level Text Augmentation
Stony Brook University(石溪大学)
本文开发了REDA和REDA$_{NG}$两种词元级文本增强程序,通过中英文二元问题匹配任务实验发现,五种词元级增强技术及概率语言学知识均缺乏一般有效性。
2023-07-03 cs.CL
Linguistically Grounded Analysis of Language Models using Shapley Head Values
Aalborg University(奥尔堡大学)
本文利用Shapley头值探测语言模型,在BLiMP数据集上分析BERT和RoBERTa处理形态句法现象的方式,发现相关关注头聚类,支持语言模型学习语言理论子网络的假设。
2025-02-25 cs.CL
Modeling Professionalism in Expert Questioning through Linguistic Differentiation
Università della Svizzera italiana(瑞士联邦理工学院);National Institute of Advanced Industrial Science and Technology(国家先进工业科学与技术研究院)
针对金融专家提问的专业性评估问题,本文提出语言标注框架并构建两类数据集,证明可解释语言特征能有效识别人类专家问题并超越基线模型。
2025-07-27 cs.CL
The Rediscovery Hypothesis: Language Models Need to Meet Linguistics
NAVER LABS Europe(NAVER LABS 欧洲);Nazarbayev University(纳扎尔巴耶夫大学)
在NLP社区中有一个正在进行的辩论,即现代语言模型是否包含通过所谓的探针恢复的语言知识。在本文中,我们研究语言知识是否是现代语言模型,我们称之为\textit{rediscovery hypothesis}的良好性能的必要条件。首先,我们表明,语言模型,显着压缩,但表现良好的预训练目标保持良好的成绩时,探测语言结构。这一结果支持了再发现假说,并导致我们的论文的第二个贡献:一个信息理论框架,语言建模目标与语言信息。该框架还提供了一个度量标准来衡量语言信息对单词预测任务的影响。我们加强我们的分析结果与各种实验,无论是在合成和真正的NLP任务的英语。
2022-01-03 cs.CL
Exploring Linguistic Probes for Morphological Generalization
Stony Brook University(石溪大学)
本文提出语言特定探针以测试形态学泛化,发现三种领先的形态学词形变化系统在英语、西班牙语和斯瓦希里语的正字法及语音输入上采用了不同的泛化策略。
2023-10-20 cs.CL
Uncovering Constraint-Based Behavior in Neural Models via Targeted Fine-Tuning
Cornell University(康奈尔大学)
越来越多的文献关注于详细描述嵌入在大型预训练语言模型中的语言知识。现有的研究表明,模型中的非语言偏见可以驱使模型行为远离语言概括。我们假设,一种语言中的竞争性语言过程,而不仅仅是非语言模型偏见,可能会掩盖潜在的语言知识。我们通过探索四种语言中的一种现象来验证这一说法:英语,汉语,西班牙语和意大利语。虽然人类的行为在不同语言之间是相似的,但我们发现模型行为的跨语言变化。我们表明,在一种语言中的竞争过程作为模型行为的约束,并表明,有针对性的微调可以重新加权学习的约束,发现否则休眠的语言知识模型。我们的研究结果表明,模型需要学习语言中的语言约束及其相对排名,两者的不匹配都会产生非人类行为。
2021-06-02 cs.CL
How Linguistics Learned to Stop Worrying and Love the Language Models
University of California Irvine(加州大学尔湾分校);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对语言模型是否真正学习语言及对语言学研究价值的争议,本文指出极端观点皆错,认为语言模型可助力语言学基础问题研究、推动思维革新,是梯度化基于使用方法的模型系统,二者关系应持乐观态度。
2025-11-11 cs.CL
Leveraging Acoustic and Linguistic Embeddings from Pretrained speech and language Models for Intent Classification
National University of Singapore(新加坡国立大学)
意图分类是口语语言理解的一项任务。意图分类系统通常被实现为流水线过程,其中语音识别模块之后是对意图进行分类的文本处理。也有端到端系统的研究,以声学特征作为输入,并直接分类的意图。这样的系统没有利用相关的语言信息,并且受到有限的训练数据的影响。在这项工作中,我们提出了一种新的意图分类框架,采用从预训练的语音识别系统中提取的声学特征和从预训练的语言模型中学习的语言特征。我们使用知识蒸馏技术将声学嵌入映射到语言嵌入。我们执行融合的声学和语言嵌入通过交叉注意的方法来分类意图。在ATIS和Fluent语音语料库上的测试结果表明,该方法的准确率分别达到90.86%和99.07%。
2021-02-15 cs.CL
What can linguistics and deep learning contribute to each other?
Johns Hopkins University(约翰斯·霍普金斯大学)
Joe Pater的目标文章呼吁神经网络研究和语言学之间更大的互动。我扩大这一呼吁,并显示如何这种互动可以使这两个领域。语言学家可以通过清晰地描述这种系统的语言能力,并通过构建可以确定是否满足这些要求的受控实验范式,为语言技术的神经网络研究做出贡献。在另一个方向,神经网络可以通过为模拟人类句子处理和评估特定先天约束对语言习得的必要性提供基础设施来有益于语言的科学研究。
2018-09-14 cs.CL
Reframing linguistic bootstrapping as joint inference using visually-grounded grammar induction models
HEC Montréal(蒙特利尔高等商学院);McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
该研究提出句法与语义自举均依赖联合学习策略,通过视觉锚定语法归纳模型验证同时学习二者时自举效应最强,为认知科学与AI的语言习得研究提供了新方向。
2024-06-17 cs.CL
A Large-Scale Multilingual Study of Visual Constraints on Linguistic Selection of Descriptions
The Hebrew University of Jerusalem(耶路撒冷希伯来大学);University of Melbourne(墨尔本大学)
我们提出了一个大型的,多语种的研究如何限制语言的选择,涵盖四种语言和五个语言特性,如动词的及物性或使用的数字。我们提出了一种新的方法,利用现有的语料库的图像与标题写的母语人士,并将其应用到9个语料库,包括600K的图像和3M的标题。我们通过训练分类器来预测从原始图像表达属性的概率,研究视觉输入和语言选择之间的关系,并找到支持语言属性受跨语言视觉上下文约束的证据。我们补充这一调查与语料库研究,采取测试的情况下,数字。具体来说,我们使用现有的注释(对象的数量或类型),以调查不同的视觉条件对标题中使用的数字表达式的影响,并显示出类似的模式出现在不同的语言。我们的方法和发现都证实和扩展了认知文献中的现有研究。我们还讨论了可能的应用程序语言生成。
2023-02-09 cs.CL
Towards Fundamental Language Models: Does Linguistic Competence Scale with Model Size?
Computer Science Department, University of Jaén(杰纳大学计算机科学系)
针对大语言模型因语言能力与事实记忆耦合导致的各类问题,提出基础语言模型范式,通过实证发现模型规模与记忆能力关联更紧密,为模块化、工具增强的高效NLP系统提供支撑。
2025-09-02 cs.CL
AUTOLEX: An Automatic Framework for Linguistic Exploration
Carnegie Mellon University(卡内基梅隆大学);George Mason University(乔治梅森大学)
每种语言都有自己复杂的词、短语和句子结构系统,其指导原则通常总结在语法描述中,供语言学家或语言学习者使用。然而,手动创建这样的描述是一个令人担忧的过程,因为创建以“自己的术语”描述语言而没有偏见或错误的描述需要对手头的语言和整个语言学都有深刻的理解。我们提出了一个自动框架AutoLEX,旨在方便语言学家的发现和提取简洁的语言现象的描述。具体来说,我们应用这个框架来提取三种现象的描述:形态协议,情况下标记,和词序,在几种语言。我们评估的语言专家的帮助下的描述,并提出了一种方法,当人类的评价是不可行的自动评价。
2022-03-25 cs.CL
Bird's Eye: Probing for Linguistic Graph Structures with a Simple Information-Theoretic Approach
ETH Zürich(苏黎世联邦理工学院)
NLP有着丰富的历史,以图表的形式表示我们对语言的先前理解。最近的工作分析语境化的文本表示集中在手工设计的探针模型,以了解如何以及在何种程度上做这些表示编码一个特定的语言现象。然而,由于各种现象的相互依赖性和训练探针模型的随机性,检测这些表示如何在这些语言图中编码丰富的信息仍然是一个具有挑战性的问题。在本文中,我们提出了一个新的信息理论探测,鸟的眼睛,这是一个相当简单的探测方法,用于检测这些表示是否以及如何编码这些语言图中的信息。而不是使用分类器的性能,我们的探测需要一个信息理论的观点探测和估计之间的互信息的语言图嵌入在一个连续的空间和上下文的单词表示。此外,我们还提出了一种方法,使用我们的探针调查本地化的语言信息的语言图,使用扰动分析。我们称之为“虫眼”探测装置使用这些探针,我们分析BERT模型的能力,编码的语法和语义图结构,并发现这些模型在一定程度上编码的语法以及语义信息,虽然语法信息在更大程度上。
2021-05-25 cs.CL
Evaluating Unsupervised Dutch Word Embeddings as a Linguistic Resource
CLiPS, University of Antwerp(安特卫普大学CLiPS)
词嵌入最近由于在各种任务上的强大性能增益而引起了人们的强烈兴趣。然而,大多数研究也强调了基准数据集的重要性,以及为各种特定语言任务构建这些数据集的难度。尽管如此,这些任务中使用的许多数据集可能被证明是富有成效的语言资源,允许对语言使用和变异性进行独特的观察。在本文中,我们展示了多种类型的嵌入,创建计数和基于预测的架构上的各种语料库,在两个语言特定的任务:关系评估,方言识别的性能。对于后者,我们将无监督方法与传统的手工字典进行比较。通过这项研究,我们提供了嵌入本身,关系评估任务基准用于进一步的研究,并展示了基准嵌入如何证明一个有用的无监督的语言资源,有效地用于下游任务。
2016-07-01 cs.CL
Improving low-resource ASR using bilingual fine-tuning with language identification: a cross-linguistic evaluation
University of Groningen(格罗宁根大学);Fryske Akademy(弗里斯兰科学院);Vrije Universiteit Brussel(布鲁塞尔自由大学)
研究双语微调对低资源语言语音识别的影响,在九种语言对中评估,通过语言识别令牌区分语言,发现高语言识别准确率时双语微调有效,低准确率时推理时加入令牌可提升性能。
2026-06-17 cs.CL
Are formal and functional linguistic mechanisms dissociated in language models?
Institute for Logic, Language and Computation University of Amsterdam(逻辑、语言与计算研究所 阿姆斯特丹大学);Technion – Israel Institute of Technology(技术ion-以色列理工学院)
本文通过比较5个LLM在10项任务中的最小计算回路,考察形式与功能语言机制是否分离,发现二者回路少有重叠,但形式任务间也未形成统一网络。
2025-08-28 cs.CL
Reasoning over Grammar: Can Synthetic Linguistic Reasoning Traces Enhance Low-Resource Machine Translation?
ELLIS Institute Finland(芬兰ELLIS研究所);University of Turku(图尔库大学);Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出自动生成语言推理轨迹的方法,通过上下文学习、监督微调和强化微调评估其对低资源机器翻译的影响,发现推理轨迹在推理时指导效果显著,但作为训练数据收益有限。
2026-09-01 cs.CL
DADA: Dialect Adaptation via Dynamic Aggregation of Linguistic Rules
Harvard University(哈佛大学);Georgia Institute of Technology(佐治亚理工学院);Stanford University(斯坦福大学)
针对 LLM 在非标准英语方言上性能下降且方言边界难以离散分类的问题,本文提出模块化框架 DADA,通过动态组合语言特征适配器实现可解释、可扩展的单方言与多方言适应。
2023-12-06 cs.CL
Irish-BLiMP: A Linguistic Benchmark for Evaluating Human and Language Model Performance in a Low-Resource Setting
University of Limerick(利默里克大学);University College Cork(科克大学)
Irish-BLiMP是首个针对爱尔兰语的最小对语言学基准,含1020个最小对,评估发现人类准确率比最强模型高16.6%,且开源与闭源模型间存在18.1%差距,为低资源语言语法能力评估提供了系统框架。
2025-10-23 cs.CL
Out of Style: RAG's Fragility to Linguistic Variation
Language Technologies Institute, Carnegie Mellon University(语言技术研究所,卡内基梅隆大学)
本研究分析了RAG系统在不同语言变异维度下的性能,发现其在非正式和语法错误查询中表现显著下降,凸显了对语言变化的脆弱性。
2026-01-26 cs.CL
Decomposed Prompting: Probing Multilingual Linguistic Structure Knowledge in Large Language Models
Center for Information and Language Processing (CIS)(信息与语言处理中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);ScaDS.AI and TU Dresden(ScaDS.AI 和 梅克伦堡-前波美拉尼亚技术大学);Department of Statistics, LMU Munich(统计学系,慕尼黑大学);University of Maryland, College Park(马里兰大学 College Park 分校)
本文提出分解提示方法,将序列标注任务拆分为逐词元提示,在38种语言的词性标注上验证其优于迭代提示基线,并揭示多语言提示下的语言知识迁移规律。
2025-11-06 cs.CL
Large Language Models as Modal Models in Linguistics
Keio University(庆应义塾大学);National Institute of Informatics(国立信息学研究所);University of Tokyo(东京大学)
本文应用科学哲学中的模态建模框架,论证大语言模型作为最小模型具有真正的认知价值,能提供“如何可能解释”,但当前尚不满足“如何实际解释”的条件,其解释力位于两者之间的连续统上。
2026-06-09 cs.CL
Standardising the NLP Workflow: A Framework for Reproducible Linguistic Analysis
本文提出LPDS数据结构和pelican nlp框架,旨在通过标准化流程提升语言数据处理的可重复性和透明度。
2025-11-19 cs.CL
Detecting Asks in SE attacks: Impact of Linguistic and Structural Knowledge
Institute for Human and Machine Cognition (IHMC)(人类与机器认知研究所(IHMC));State University of New York, Albany(纽约州立大学奥尔巴尼分校);University of North Carolina, Charlotte(北卡罗来纳大学夏洛特分校);Rensselaer Polytechnic Institute(伦斯勒理工学院)
社会工程师试图操纵用户采取行动,如通过点击链接下载恶意软件或提供对金钱或敏感信息的访问。自然语言处理、计算社会语言学和媒体特定结构线索提供了用于检测询问(例如,购买礼品卡)和由询问暗示的风险/回报,我们称之为框架(例如,失去你的工作,得到加薪)。我们应用词汇概念结构等语言资源来解决问题检测,并利用结构线索(如链接及其与已识别问题的接近程度)来提高对我们结果的信心。我们的实验表明,要求检测,框架检测,并确定顶部要求的性能得到改善,再加上结构线索,如链接的语言动机类。我们的方法是在一个系统中实现的,告知用户社会工程风险的情况。
2020-02-25 cs.CL
Context is Important in Depressive Language: A Study of the Interaction Between the Sentiments and Linguistic Markers in Reddit Discussions
Institute of Computer Science, University of Tartu(塔尔图大学计算机科学研究所)
本研究基于Reddit数据发现,抑郁个体的情感表达受讨论主题语境影响,其积极与消极情感均高于对照组,且语言标记与情感的关系随语境变化,凸显了语境分析在抑郁语言研究中的重要性。
2024-07-03 cs.CL
Feature-Refined Unsupervised Model for Loanword Detection
LLACAN, CNRS(法国国家科学研究中心,语言、非洲语言与文化实验室)
针对现有借词检测依赖外部信息的局限,提出仅用语言内部信息的无监督模型,通过特征提取与概率映射迭代优化,在六种印欧语数据集上优于基线且跨语言扩展性能提升显著。
2025-08-25 cs.CL
\textit{Versteasch du mi?} Computational and Socio-Linguistic Perspectives on GenAI, LLMs, and Non-Standard Language
University of Galway(戈尔韦大学);University of Zurich(苏黎世大学)
本文探讨生成式人工智能和LLMs对非标准语言的处理,分析其对语言标准化和数字语言鸿沟的影响,并提出民主和去殖民化的数字学习策略。
2026-11-03 cs.CL
Bridging Linguistic Typology and Multilingual Machine Translation with Multi-View Language Representations
University of Edinburgh(爱丁堡大学)
来自语言类型学数据库的稀疏语言向量和来自多语言机器翻译等任务的学习嵌入已经被孤立地研究,而没有分析它们如何从彼此的语言特征中受益。我们建议使用奇异向量典型相关分析来融合这两种观点,并研究从每个来源诱导出什么样的信息。通过推断类型学特征和语言同源性,我们观察到我们的表征嵌入类型学,并加强与语言关系的相关性。然后,我们利用我们的多视图语言向量空间进行多语言机器翻译,在需要语言相似性信息的任务中,我们实现了具有竞争力的整体翻译准确性,例如语言聚类和多语言转换的候选人排名。使用我们的方法,这也是作为一种工具发布的,我们可以很容易地项目和评估新的语言,而无需昂贵的大量多语言或排名模型的重新训练,这是相关方法的主要缺点。
2020-10-25 cs.CL
Large language models and (non-)linguistic recursion
University of California, Berkeley(加州大学伯克利分校)
该研究针对大语言模型是否具备递归这一人类独有认知属性的问题,设计多类提示词测试GPT-4的语言与非语言递归能力,发现明确提示下其可生成和分析递归结构,为高参数量Transformer的元语言递归意识研究提供了早期证据。
2023-06-12 cs.AI cs.CL
Does the Appearance of Autonomous Conversational Robots Affect User Spoken Behaviors in Real-World Conference Interactions?
Kyoto University(京都大学)
本研究比较 ERICA 与 TELECO,发现更类人的机器人外观会使用户言语更流利、句法更复杂,并通过分类模型验证了相关语言特征的区分作用。
2025-03-17 cs.CL cs.HC cs.RO
CLARITY: Contextual Linguistic Adaptation and Accent Retrieval for Dual-Bias Mitigation in Text-to-Speech Generation
CLARITY通过双信号优化缓解文本到语音生成中的双偏见问题,通过语境语言适应和检索增强口音提示提高口音准确性和公平性。
2026-02-17 cs.CL cs.SD
BlaBla: Linguistic Feature Extraction for Clinical Analysis in Multiple Languages
Novoic Ltd(Novoic有限公司)
我们介绍BlaBla,这是一个开源Python库,用于提取语言特征,这些特征与许多语言的神经和精神疾病具有临床相关性。BlaBla是加速和简化临床语言学研究的统一框架。该库构建在最先进的NLP框架上,并通过原生Python调用和命令行界面支持多线程/启用GPU的特征提取。我们描述了BlaBla的架构及其在12种疾病中的功能的临床验证。我们进一步展示了BlaBla在AphasiaBank数据集的真实临床数据上以三种语言对语言障碍进行可视化和分类的任务中的应用。我们将代码库免费提供给研究人员,希望为下一代临床语言学研究提供一致的,经过良好验证的基础。
2020-05-20 cs.CL cs.LG
Improving LSTM-based Video Description with Linguistic Knowledge Mined from Text
UT Austin(得克萨斯大学奥斯汀分校);UC Berkeley(加州大学伯克利分校);Boston University(波士顿大学)
本文研究了如何从大型文本语料库中挖掘语言知识,以帮助生成视频的自然语言描述。具体来说,我们将神经语言模型和分布式语义训练的大型文本语料库到最近的LSTM为基础的架构的视频描述。我们评估我们的方法上收集的Youtube视频,以及两个大型电影描述数据集显示显着改善语法,同时适度提高描述质量。
2016-11-29 cs.CL cs.CV
Linguistic Markers of Influence in Informal Interactions
Carnegie Mellon University(卡内基梅隆大学)
在社会科学和计算语言学中,对理解“社会影响”一直有着长期的兴趣。在本文中,我们提出了一种新的方法来研究和测量日常互动中的人际影响。基于影响力的基本原则,我们试图在一个在线编织社区中识别帖子的指示性语言特征。我们提出了用于操作和标记的职位与指标功能的计划。实验表明,识别的功能的影响,提高了3.15%的分类精度。我们的研究结果说明了语言的特征与其影响他人的潜力之间的重要相关性。
2017-07-14 cs.CL cs.SI
Synthetic Linguistic Agency: How an Embodied Mortal Agent Learns Linguistic Affordances through Consequential Social Experience
College of Engineering, Shantou University(汕头大学工程学院);Department of Computer Science, Shantou University(汕头大学计算机科学系)
本研究提出合成语言智能体(SLA)的可检验标准,开发具身化有限生命智能体(EMA)模型,证实其能通过社会经验学习语言可供性并展现SLA,为合成共情与人机交互研究提供支撑。
2026-08-31 cs.CL cs.MA
GenieBlue: Integrating both Linguistic and Multimodal Capabilities for Large Language Models on Mobile Devices
vivo AI Lab(vivo人工智能实验室);CUHK MMLab(香港中文大学多媒体实验室);Shanghai Jiao Tong University(上海交通大学)
GenieBlue提出一种移动端多模态大模型结构,通过冻结原LLM参数、复制特定transformer块全量微调并集成LoRA模块,在保持纯语言能力的同时获得多模态能力,并适配手机NPU部署。
2025-03-08 cs.CL cs.CV
Fraud detection in telephone conversations for financial services using linguistic features
University of East London(东伦敦大学);Intelligent Voice Ltd.(智能语音有限公司);Strenuus Ltd.(Strenuus有限公司)
检测对话中的欺骗元素是人工智能社区最具挑战性的问题之一。设计一个透明的、完全可以解释的、满足所需金融和法律服务的系统变得更加困难。本文提出了一种基于语言特征的电话录音欺诈检测方法。所提出的方法利用的句法和语义信息的转录提取的语言标记和情感的客户的反应。我们使用简单,强大和可解释的分类器,如朴素贝叶斯,决策树,最近邻,和支持向量机的真实世界的金融服务数据的结果。
2019-12-10 cs.CL cs.LG
Heterogeneity in Formal Linguistic Competence of Language Models: Is Data the Real Bottleneck?
Adobe Inc.(Adobe公司);Media and Data Science Research(媒体与数据科学研究)
本研究探讨语言模型在形式语言能力上的差异是否源于架构限制或数据稀缺,通过干预性数据增强显著提升了模型在8个最差BLiMP任务上的表现。
2026-04-20 cs.AI cs.CL cs.LG
ChronoLens: Measuring Language Change Across Time, Languages, and Linguistic Levels
ChronoLens框架结合多语言模型等技术,分析1803-2026年五议会传统的海量文本,揭示同语言内各语言层面变化幅度相当、不同语言变化轨迹有差异,为跨语言历史语言变化研究提供方法。
2026-08-05 cs.AI cs.CL
Are Large Language Models the future crowd workers of Linguistics?
Bonn Center for Digital Humanities (BCDH)(波恩数字人文中心);Universität Bonn(波恩大学)
本文通过复现两项人类语言诱导任务,评估 GPT-4o-mini 替代众包参与者的可行性,发现零样本表现优异,而 CoT 提示与人类表现更一致。
2025-02-14 cs.AI cs.CL
A Comprehensive Survey on Linguistic Steganography: Methods, Countermeasures, Evaluation, and Challenges
Graduate School of Informatics, Kyoto University(京都大学信息学研究科);School of Cyberspace Security, Beijing University of Posts and Telecommunications(北京邮电大学网络空间安全学院)
该综述梳理了LLM时代语言隐写术的148种方法、60种对抗措施等内容,明确五大范式转变,为相关研究提供参考与路线图。
2026-09-01 cs.CL cs.CR
Joint processing of linguistic properties in brains and language models
Inria Bordeaux(法国国家信息与自动化研究所波尔多分部);MPI for Software Systems(马克斯·普朗克软件系统研究所);Microsoft(微软)
本文通过消除语言模型表征中的表层、句法和语义信息,评估其与fMRI大脑记录对齐的变化,证明各类语言属性均有作用且句法属性影响最大。
2023-11-08 cs.CL q-bio.NC
Differentiating Between Human-Written and AI-Generated Texts Using Automatically Extracted Linguistic Features
University of Nicosia(尼科西亚大学)
本研究通过分析人类与AI生成文本的语言特征,揭示了AI在模仿人类写作方面的局限性,并强调了自动化工具在语言评估中的重要性。
2026-02-17 cs.AI cs.CL
Leveraging Linguistic Characteristics for Bipolar Disorder Recognition with Gender Differences
National Tsing Hua University(国立清华大学);Mackay Memorial Hospital(马偕纪念医院);National Chiao Tung University(国立交通大学)
以往关于双相情感障碍(BD)自动识别模型的研究大多基于社交媒体和语言特征。本研究探讨了只采用语言特征的可能性,即句法和语素搭配。我们还研究了性别对结果的影响,考虑到性别长期以来一直被认为是精神障碍的重要调节因素,但它在以前的语言模型中很少受到关注。本研究收集了349名BD用户(231名女性,118名男性)在自我披露前3个月的Twitter帖子。基于图形模式构建和模式注意力机制,我们构建了一组与词语使用相关的句法模式。研究的因素是性别差异,句法模式和双极识别性能。性能表明,我们的F1分数达到91%以上,并且优于几个基线,包括使用TF-IDF,LIWC和预训练语言模型(ELMO和BERT)的基线。本研究的贡献在于:(1)这些特征是语境化的、领域不可知的、纯语言的。(2)基于语言使用中的性别差异构建了性别丰富的语言模式特征,提高了BD识别的性能。
2019-07-17 cs.CL cs.IR
From Phonemes to Meaning: Evaluating Large Language Models on Tamil
针对现有多语言基准难以准确评估低资源形态丰富语言性能的问题,本文构建泰米尔语专属评估基准ILAKKANAM,评估多款大语言模型并揭示其性能差距与潜在机制。
2025-11-15 cs.AI cs.CL
LLM NL2SQL Robustness: Surface Noise vs. Linguistic Variation in Traditional and Agentic Settings
Oracle AI
本文评估了NL2SQL系统在表面噪声和语言变异下的鲁棒性,发现传统和智能设置中模型表现各异,揭示了实现鲁棒NL2SQL系统的挑战。
2026-03-17 cs.AI cs.CL
Decoding Probing: Revealing Internal Linguistic Structures in Neural Language Models using Minimal Pairs
University of Michigan(密歇根大学);ShanghaiTech University(上海科技大学);LMU Munich(慕尼黑大学)
提出解码探针方法利用BLiMP逐层探查神经语言模型内部语言学结构,发现自监督模型中间层能捕获抽象语法,且不同语言学特征和模型组件的表征模式存在显著差异。
2024-03-26 cs.CL q-bio.NC
A Greek Parliament Proceedings Dataset for Computational Linguistics and Political Analysis
Stockholm University(斯德哥尔摩大学);Athens University of Economics & Business(雅典经济与商业大学)
政治话语的大型历时数据集很难找到,特别是对于资源贫乏的语言,如希腊语。在本文中,我们介绍了希腊议会议事录的策划数据集,按时间顺序从1989年延伸到2020年。它包括从5 355份议会记录文件中提取的100多万份演讲稿和广泛的元数据。我们解释了它是如何构建的,以及我们必须克服的挑战。该数据集可用于计算语言学和政治分析理想情况下,将两者结合起来。我们提出了这样一个应用程序,显示(i)数据集如何可以用来研究随着时间的推移,(ii)之间的重大历史事件和政党,(iii)通过评估和采用算法检测语义变化的单词使用的变化。
2022-10-23 cs.AI cs.CL