Cross-neutralising: Probing for joint encoding of linguistic information in multilingual models
University of Amsterdam（阿姆斯特丹大学）；ILLC（语言逻辑与计算研究所）
多语言句子编码器广泛用于跨语言传输NLP模型。然而，这种转移的成功取决于模型对跨语言相似性和变化模式进行编码的能力。然而，人们对这些模型如何做到这一点知之甚少。我们提出了一个简单的方法来研究语言之间的关系是如何编码在两个国家的最先进的多语言模型（即M-BERT和XLM-R）。研究结果提供了深入了解他们的信息共享机制，并建议在这些模型中，语言属性是在类型相似的语言中联合编码的。
2021-03-13 cs.CL
Probing via Prompting
探测是一种流行的方法来辨别什么语言信息包含在预训练的语言模型的表示。然而，探测模式的选择机制一直受到激烈的争论，因为它是不清楚，如果探测只是提取信息或建模的语言属性本身。为了应对这一挑战，本文介绍了一种新的无模型的方法来探测，制定探测作为一个提示任务。我们进行了五个探测任务的实验，并表明我们的方法是可比的或更好地提取信息比诊断探针，而学习少得多的自己。我们进一步结合通过提示的方法与注意头修剪的探测，分析在其架构中的语言信息存储模型。然后，我们通过删除对该属性至关重要的头部并评估生成的模型在语言建模上的性能，来检查特定语言属性在预训练中的有用性。
2022-07-04 cs.CL
Bird's Eye: Probing for Linguistic Graph Structures with a Simple Information-Theoretic Approach
ETH Zürich（苏黎世联邦理工学院）
NLP有着丰富的历史，以图表的形式表示我们对语言的先前理解。最近的工作分析语境化的文本表示集中在手工设计的探针模型，以了解如何以及在何种程度上做这些表示编码一个特定的语言现象。然而，由于各种现象的相互依赖性和训练探针模型的随机性，检测这些表示如何在这些语言图中编码丰富的信息仍然是一个具有挑战性的问题。在本文中，我们提出了一个新的信息理论探测，鸟的眼睛，这是一个相当简单的探测方法，用于检测这些表示是否以及如何编码这些语言图中的信息。而不是使用分类器的性能，我们的探测需要一个信息理论的观点探测和估计之间的互信息的语言图嵌入在一个连续的空间和上下文的单词表示。此外，我们还提出了一种方法，使用我们的探针调查本地化的语言信息的语言图，使用扰动分析。我们称之为“虫眼”探测装置使用这些探针，我们分析BERT模型的能力，编码的语法和语义图结构，并发现这些模型在一定程度上编码的语法以及语义信息，虽然语法信息在更大程度上。
2021-05-25 cs.CL
On the Interplay Between Fine-tuning and Sentence-level Probing for Linguistic Knowledge in Pre-trained Transformers
Saarland University（萨尔兰大学）
微调预训练的上下文嵌入模型已经成为NLP管道的一个组成部分。与此同时，探测已经成为一种调查预训练模型捕获的语言知识的方法。然而，人们对微调如何影响预训练模型的表示以及它们编码的语言知识知之甚少。本文件有助于缩小这一差距。我们研究了三种不同的预训练模型：BERT、RoBERTa和AL BERT，并通过事件级探测来研究微调如何影响它们的表示。我们发现，对于一些探测任务，微调会导致准确性发生重大变化，这可能表明微调会从预先训练的模型中引入甚至删除语言知识。然而，这些变化在不同的模型、微调和探测任务中差异很大。我们的分析表明，虽然微调确实改变了预训练模型的表示，并且这些变化通常对于更高层来说更大，但只有在极少数情况下，微调对探测准确性的积极影响大于仅使用预训练模型和强大的池化方法。根据我们的研究结果，我们认为，积极和消极的影响微调探测需要仔细的解释。
2020-10-06 cs.CL cs.LG
Evaluation of sentence embeddings in downstream and linguistic probing tasks
尽管新的句子嵌入方法发展迅速，但要找到这些不同技术的综合评价仍然具有挑战性。在过去的几年里，我们看到了句子嵌入领域的显著进步，特别是在开发通用句子编码器方面，它可以为各种下游任务提供归纳传输。在这项工作中，我们使用各种各样的下游和语言特征探测任务对最近的方法进行了全面评估。我们证明了一种简单的方法，使用词袋与最近引入的深度上下文相关的词嵌入的语言模型，与在蕴涵数据集上训练的句子编码器相比，在许多任务中都能产生更好的结果。然而，我们也表明，我们仍然远离一个通用的编码器，可以在几个下游任务中一致地执行。
2018-06-16 cs.CL
Picking BERT's Brain: Probing for Linguistic Dependencies in Contextualized Embeddings Using Representational Similarity Analysis
Johns Hopkins University（约翰斯·霍普金斯大学）
顾名思义，语言的语境化表征通常是由它们编码语境的能力所激发的。这些表征捕捉了上下文的哪些方面？我们介绍了一种方法来解决这个问题，使用代表性相似性分析（RSA）。作为案例研究，我们调查在何种程度上动词嵌入编码动词的主语，代词嵌入编码代词的先行词，和一个完整的句子表示编码句子的头词（由依赖分析确定）。在所有情况下，我们表明，BERT的语境化嵌入反映了正在研究的语言依赖性，并且BERT编码这些依赖性在更大程度上比它编码更少的语言突出的控制。这些结果表明，我们的方法之间的假设，哪些方面的情况下编码的语言表示进行裁决的能力。
2020-11-24 cs.CL
Small Language Models Also Work With Small Vocabularies: Probing the Linguistic Abilities of Grapheme- and Phoneme-Based Baby Llamas
Bielefeld University（比勒费尔德大学）
本文训练基于 Llama 架构、使用字素或音素字符级词汇表的小型无分词语言模型，发现其在句法及新颖词汇、语音基准上表现强劲，为语言习得研究提供更合理的建模方向。
2025-01-03 cs.CL
Intrinsic Probing through Dimension Selection
Québec Artificial Intelligence Institute (Mila)（魁北克人工智能研究所（米拉））；University of Cambridge（剑桥大学）；Facebook AI Research（脸书人工智能研究院）；ETH Zürich（苏黎世联邦理工学院）
大多数现代NLP系统使用预先训练的上下文表示，在各种任务上获得极高的性能。这种高性能应该是不可能的，除非某种形式的语言结构内在的这些表示，和丰富的研究已经涌现出来的探测。在本文中，我们得出了内在探测，探讨如何在一个表征语言信息的结构，和外在探测流行在以前的工作，其仅通过表明可以成功提取来论证这种信息的存在。为了实现内在探测，我们提出了一个新的框架，基于可分解的多元高斯探针，使我们能够确定是否在词嵌入的语言信息是分散或焦点。然后，我们探测fastText和BERT的各种形态句法属性在36种语言。我们发现，大多数属性是可靠的编码，只有少数神经元，与fastText集中其语言结构比BERT。
2020-10-06 cs.CL
Decomposed Prompting: Probing Multilingual Linguistic Structure Knowledge in Large Language Models
Center for Information and Language Processing (CIS)（信息与语言处理中心）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；ScaDS.AI and TU Dresden（ScaDS.AI 和 梅克伦堡-前波美拉尼亚技术大学）；Department of Statistics, LMU Munich（统计学系，慕尼黑大学）；University of Maryland, College Park（马里兰大学 College Park 分校）
本文提出分解提示方法，将序列标注任务拆分为逐词元提示，在38种语言的词性标注上验证其优于迭代提示基线，并揭示多语言提示下的语言知识迁移规律。
2025-11-06 cs.CL
Tabula nearly rasa: Probing the Linguistic Knowledge of Character-Level Neural Language Models Trained on Unsegmented Text
Stanford University（斯坦福大学）；Facebook AI Research（脸书人工智能研究院）；UPF Linguistics Department（庞培法布拉大学语言学系）
递归神经网络（RNN）在许多自然语言处理任务中取得了惊人的性能。这重新引起了人们对这些通用序列处理设备是否诱导真正的语言知识的兴趣。然而，几乎所有当前的分析研究都用已知单词的词汇表初始化RNN，并在训练过程中为它们提供标记化的输入。我们提出了一个多语言的语言知识编码的RNN训练字符级语言模型，在输入数据与词边界删除的研究。这些网络面临着一个更艰难、更现实的认知任务，必须根据输入统计数据从头开始发现任何有用的语言单元。结果表明，我们的“near tabula rasa”RNN大多能够解决直观地假设单词级别知识的形态，句法和语义任务，并且确实在某种程度上学会了跟踪单词边界。我们的研究为语言学习和使用中明确的、严格的词汇库的必要性的思考打开了大门。
2019-06-17 cs.CL
Information-Theoretic Probing for Linguistic Structure
University of Cambridge（剑桥大学）；Facebook AI Research（Facebook人工智能研究院）；ETH Zürich（苏黎世联邦理工学院）
神经网络在各种NLP任务上的成功让研究人员开始质疑这些网络对自然语言到底“知道”了多少。探测器是评估这一点的自然方法。在探测时，研究人员选择一个语言任务，并训练一个监督模型，从网络学习的表示中预测该语言任务中的注释。如果探测器做得很好，研究人员可能会得出结论，表示编码与任务相关的知识。一个普遍持有的观点是，使用更简单的模型作为探针更好;逻辑是，更简单的模型将识别语言结构，但不会学习任务本身。我们提出了一个信息理论的操作化探测估计互信息，这与这种公认的智慧相矛盾：一个人应该总是选择最高性能的探测，即使它是更复杂的，因为它会导致一个更严格的估计，从而揭示更多的语言信息固有的表示。我们的论文的实验部分侧重于经验估计语言属性和BERT之间的互信息，比较这些估计的几个基线。我们评估了一组10种类型多样的语言，这些语言在NLP研究中往往代表性不足-加上英语-总共11种语言。
2020-05-22 cs.CL cs.LG
Probing Large Language Models in Reasoning and Translating Complex Linguistic Puzzles
National Taiwan University（台湾大学）
本文探究了GPT-4在解决复杂语言学谜题中的推理与翻译能力，通过评估IO、CoT和SPP三种提示技术，发现LLMs具备潜力但仍有局限，为优化NLP应用提供了见解。
2025-02-02 cs.CL
Probing Linguistic Systematicity
Department of Linguistics（语言学系）；Quebec Artificial Intelligence Institute (Mila)（魁北克人工智能研究所 (Mila)）；School of Computer Science, McGill University（麦吉尔大学计算机科学学院）；Facebook AI Research (FAIR)（Facebook 人工智能研究院 (FAIR)）；CIFAR AI Chair, Mila（CIFAR 人工智能讲席教授，Mila）
最近，人们对深度自然语言理解模型是否表现出系统性的问题产生了很大的兴趣;泛化使得像单词这样的单元对它们出现的句子的意义做出一致的贡献。越来越多的证据表明，神经模型通常会非系统地泛化。我们从语言学的角度研究了系统性的概念，定义了一组探针和一组度量系统行为的指标。我们还确定了网络架构可以非系统地泛化的方式，并讨论了为什么这种形式的泛化可能不令人满意。作为一个案例研究，我们进行了一系列的实验中设置的自然语言推理（NLI），表明一些NLU系统实现高的整体性能，尽管是非系统的。
2020-08-25 cs.CL
Probing Speech Emotion Recognition Transformers for Linguistic Knowledge
University of Augsburg（奥格斯堡大学）；audEERING GmbH（audEERING有限公司）；Imperial College（帝国理工学院）
由自我注意层（Transformers）组成的大型预训练神经网络最近在几个语音情感识别（SER）数据集上取得了最先进的结果。这些模型通常以自我监督的方式进行预训练，目的是提高自动语音识别性能，从而理解语言信息。在这项工作中，我们调查在SER微调过程中，利用这些信息的程度。使用基于开源工具的可重复方法，我们合成韵律中立的语音话语，同时改变文本的情感。Transformer模型的配价预测对积极和消极的情感内容以及否定都非常敏感，但对强化词或还原词却不敏感，而这些语言特征都不影响唤醒或支配。这些研究结果表明，Transformers可以成功地利用语言信息，以提高他们的效价预测，语言分析应包括在他们的测试。
2022-07-26 cs.CL cs.LG
A Closer Look at Linguistic Knowledge in Masked Language Models: The Case of Relative Clauses in American English
Saarland University（萨尔兰大学）
基于transformer的语言模型在各种任务上都取得了很高的性能，但我们仍然缺乏对它们学习和依赖的语言知识的理解。我们评估了三个模型（BERT，RoBERTa和AL BERT），通过语言水平探测，诊断案例和掩蔽预测任务来测试它们的语法和语义知识。我们专注于关系从句（在美国英语）作为一个复杂的现象，需要上下文信息和先行词识别来解决。基于自然主义数据集，探测表明，所有三个模型确实捕捉语法的语言知识，实现高性能。然而，考虑细粒度语言知识的诊断案例和掩蔽预测任务的评估显示出明显的模型特定的弱点，特别是在语义知识上，强烈影响模型的性能。我们的研究结果强调了（a）模型比较在评估任务和（b）建立索赔的模型性能和语言知识，他们捕获超越纯粹的基于探测的评价的重要性。
2020-11-02 cs.CL
Measuring Memorization Effect in Word-Level Neural Networks Probing
Charles University（查理大学）
多项研究探讨了在为端到端NLP任务训练的神经网络中出现的表征，并研究了哪些单词级别的语言信息可能被编码在表征中。在经典的探测中，分类器在表示上进行训练以提取目标语言信息。然而，存在分类器简单地记忆单个单词的语言标签而不是从表示中提取语言抽象的威胁，从而报告假阳性结果。虽然已经做出了相当大的努力，以尽量减少记忆的问题，实际测量的分类器中发生的记忆量的任务一直研究不足。在我们的工作中，我们提出了一种测量记忆效果的简单通用方法，该方法基于对称选择训练中可见和未可见的可比较测试单词集。我们的方法可以用来明确量化的记忆量发生在探测设置，以便可以选择一个适当的设置和探测的结果可以解释与可靠性估计。我们通过展示我们的方法在一个经过训练的神经机器翻译编码器中探测语音部分的案例研究来证明这一点。
2020-06-29 cs.CL
Can Edge Probing Tasks Reveal Linguistic Knowledge in QA Models?
University of Copenhagen（哥本哈根大学）；Megagon Labs（Megagon实验室）；University of Michigan（密歇根大学）
已经有许多努力试图理解什么语法知识（例如，理解标记的词性的能力）被编码在大的预训练的语言模型（LM）中。这是通过“边缘探测”（EP）测试完成的：监督分类任务，仅使用来自LM编码器的标记表示来预测跨度的语法属性（是否具有特定的词性）。然而，大多数NLP应用程序会针对特定任务对这些LM编码器进行微调。在这里，我们问：如果LM是微调，它的语言信息的编码改变，作为EP测试测量？具体而言，我们专注于问答（QA）的任务，并在多个数据集上进行实验。我们发现，当微调模型表现良好或在对抗性的情况下，模型被迫学习错误的相关性时，EP测试结果不会发生显着变化。根据类似的发现，最近的一些论文得出结论，微调不会改变编码器中的语言知识，但他们没有提供解释。我们发现，EP模型本身容易利用EP数据集中的虚假相关性。当这个数据集偏差得到纠正时，我们确实看到EP测试结果的改善。
2022-09-08 cs.CL
Some Languages are More Equal than Others: Probing Deeper into the Linguistic Disparity in the NLP World
University of Moratuwa（莫拉图瓦大学）
NLP世界中的语言差异是一个最近被广泛承认的问题。然而，这个问题的不同方面，或这种差异背后的原因很少在NLP社区中讨论。本文全面分析了世界语言内部存在的差异。我们表明，简单地分类语言考虑数据的可用性可能并不总是正确的。使用基于说话者人口和活力的现有语言分类，我们分析了语言数据资源的分布，NLP/CL研究的数量，多语言网络平台的包含以及预训练的多语言模型的包含。我们发现，许多语言没有被这些资源或平台所覆盖，即使在属于同一语言组的语言中，也存在很大的差异。我们分析了家庭，地理位置，国内生产总值和语言的扬声器人口的影响，并提供这种差异的可能原因，以及一些建议，以克服同样的。
2022-10-20 cs.CL
Decoding Probing: Revealing Internal Linguistic Structures in Neural Language Models using Minimal Pairs
University of Michigan（密歇根大学）；ShanghaiTech University（上海科技大学）；LMU Munich（慕尼黑大学）
提出解码探针方法利用BLiMP逐层探查神经语言模型内部语言学结构，发现自监督模型中间层能捕获抽象语法，且不同语言学特征和模型组件的表征模式存在显著差异。
2024-03-26 cs.CL q-bio.NC
A Latent-Variable Model for Intrinsic Probing
本文提出一种潜变量模型用于内在探针，通过变分近似估计互信息，能更精确地定位语言属性编码位置，并发现预训练表示具有跨语言纠缠的形态句法特征。
2025-08-07 cs.CL
Probing Multimodal Embeddings for Linguistic Properties: the Visual-Semantic Case
Umeå University（于默奥大学）
语义嵌入已经推进了无数自然语言处理任务的技术水平，并且已经提出了对多模态域的各种扩展，例如视觉语义嵌入。虽然视觉语义嵌入的力量来自于通过机器学习对信息的提炼和丰富，但人们对它们的内部工作原理知之甚少，而且缺乏分析工具。为了解决这个问题，我们将探测任务的概念推广到视觉语义的情况下。为此，我们（一）讨论了探测任务的形式化嵌入的图像字幕对，（二）在我们的一般框架内定义三个具体的探测任务，（三）训练分类器探测这些属性，（四）比较各种国家的最先进的嵌入镜头下提出的探测任务。我们的实验显示，与相应的单峰嵌入相比，视觉语义嵌入的准确性提高了12%，这表明前者所表示的文本和图像维度确实相互补充。
2021-02-22 cs.CL cs.CV cs.LG
Perturbed Masking: Parameter-free Probing for Analyzing and Interpreting BERT
The University of Hong Kong（香港大学）；Shanghai University of Finance and Economics（上海财经大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
通过引入一小组附加参数，探针学习解决特定的语言任务（例如，依存句法分析）以使用特征表示的监督方式（例如，语境化嵌入）。这种探测任务的有效性被认为是预训练模型编码语言知识的证据。然而，这种评估语言模型的方法被探测器本身所学习的知识量的不确定性所破坏。作为这些工作的补充，我们提出了一种无参数探测技术，用于分析预训练的语言模型（例如，BERT）。我们的方法不需要探测任务的直接监督，也不引入额外的参数探测过程。我们在BERT上的实验表明，使用我们的方法从BERT恢复的句法树明显优于语言不知情的基线。我们进一步将经验诱导的依赖结构馈送到下游情感分类任务中，并发现其改进与人类设计的依赖模式兼容甚至优于人类设计的依赖模式。
2021-05-28 cs.CL
Pixology: Probing the Linguistic and Visual Capabilities of Pixel-based Language Models
KU Leuven（鲁汶大学）；Sailplane AI
本研究通过多种语言和视觉任务探测基于像素的语言模型PIXEL，发现其视觉与语言理解存在显著差距，低层捕获视觉特征而高层学习句法语义，并揭示输入正字法约束可促进早期表面特征学习。
2024-10-15 cs.CL
Probing Multilingual Sentence Representations With X-Probe
University of Oslo（奥斯陆大学）
本文扩展了探测句子表征的任务，在多语言领域的语言洞察力。在这样做的时候，我们做了两个贡献：首先，我们提供数据集的多语言探测，来自维基百科，在五种语言，即英语，法语，德语，西班牙语和俄语。其次，我们评估每种语言的六个句子编码器，每个编码器都是通过将句子表示映射到英语句子表示来训练的，使用平行语料库中的句子。我们发现，跨语言映射的表示往往更好地保留某些语言信息比表示来自英语编码器训练自然语言推理（NLI）作为下游任务。
2019-06-12 cs.CL
Probing as Quantifying Inductive Bias
ETH Zürich（苏黎世联邦理工学院）；MIT（麻省理工学院）
预先训练的上下文表示已经在一系列下游任务上带来了显着的性能提升。这种性能的提高促使研究人员量化和理解这些表征中编码的语言信息。一般来说，研究人员通过探测来量化语言信息的数量，这种努力包括训练一个监督模型来直接从上下文表示中预测语言属性。不幸的是，这种探测的定义在文献中受到了广泛的批评，并被观察到导致了自相矛盾和违反直觉的结果。在本文的理论部分，我们采取的立场是，探测的目标应该是测量的量的归纳偏见，表征编码的特定任务。我们进一步描述了一个贝叶斯框架，可操作化这一目标，并允许我们量化表示的归纳偏差。在本文的实证部分，我们将我们的框架应用于各种NLP任务。我们的研究结果表明，我们提出的框架解决了许多以前的问题中发现的探测。此外，我们能够提供具体的证据，对于某些任务，fastText可以提供比BERT更好的归纳偏差。
2022-03-24 cs.CL
Is neural language acquisition similar to natural? A chronological probing study
AIRI；HSE University（高等经济大学）；DeepPavlov；SberDevices
探测方法允许人们使用外部分类器和统计分析来获得存储在神经网络的内层中的语言现象的部分表示。预训练的基于transformer的语言模型被广泛用于自然语言理解（NLU）和自然语言生成（NLG）任务，使得它们最常用于下游应用。然而，几乎没有进行分析，无论是模型预先训练足够或包含与语言理论相关的知识。我们正在介绍Transformer英文模型的时间顺序探索研究，如MultiBERT和T5。在语料库的训练过程中，我们依次比较了模型学习到的语言信息。结果表明：1）语言信息是在训练的早期阶段获得的; 2）两种语言模型都表现出从语言的各个层面捕捉各种特征的能力，包括词法、句法甚至话语，但它们也可能在被认为很容易的任务上失败。我们还介绍了开放源代码框架的时间顺序探测研究，与其他基于transformer的模型兼容。https://github.com/EkaterinaVoloshina/chronological_probing
2022-07-01 cs.CL
What does it mean to be language-agnostic? Probing multilingual sentence encoders for typological properties
University of Amsterdam（阿姆斯特丹大学）
多语言句子编码器在下游NLP任务的跨语言模型传输方面取得了很大成功。然而，我们对个别语言的属性或它们编码的语言变异的一般模式知之甚少。我们提出了从最先进的多语言编码器（LASER，M-BERT，XLM和XLM-R）探测句子表示的方法，这些方法涉及词汇，形态和句法结构的一系列类型学属性。此外，我们研究这些信息是如何分布在模型的所有层。我们的研究结果表明，有趣的差异编码语言的变化与不同的预训练策略。
2020-09-27 cs.CL
Winoground: Probing Vision and Language Models for Visio-Linguistic Compositionality
Hugging Face；Facebook AI Research（脸书人工智能研究院）；University of Waterloo（滑铁卢大学）；University College London（伦敦大学学院）
我们提出了一个新的任务和数据集，用于评估视觉和语言模型进行非语言组合推理的能力，我们称之为Winoground。给定两个图像和两个标题，目标是正确地匹配它们-但至关重要的是，两个标题包含完全相同的单词集，只是顺序不同。该数据集由专家注释者精心手工策划，并标记了一组丰富的细粒度标签，以帮助分析模型性能。我们探索了各种各样的最先进的视觉和语言模型，并发现，令人惊讶的是，没有一个比机会更好。显然，这些模型并不像我们所希望的那样熟练地进行非语言组合推理。我们进行了广泛的分析，以深入了解未来的工作可能如何试图减轻这些模型的缺点。我们的目标是Winoground作为一个有用的评估集，以推进最先进的技术，并推动该领域的进一步发展。该数据集可在https://huggingface.co/datasets/facebook/winoground上获得。
2022-04-22 cs.CL cs.CV
RuSentEval: Linguistic Source, Encoder Force!
SberDevices（斯伯设备公司）；Sberbank（俄罗斯联邦储蓄银行）；HSE University（高等经济大学）
预训练的Transformer语言模型的成功，引起了人们对这些模型如何工作以及它们对语言的了解的极大兴趣。然而，该领域的先前研究主要致力于英语，对其他语言知之甚少。为此，我们引入RuSentEval，这是一套针对俄语的增强型14个探测任务，包括尚未探索的任务。我们采用互补的探测方法相结合，探索分布在五个多语种的Transformers的两种类型学上的对比语言-俄语和英语的各种语言属性。我们的研究结果提供了有趣的发现，与语言知识如何表示的共同理解相矛盾，并表明尽管存在语言差异，但某些属性是以类似的方式学习的。
2021-03-02 cs.CL
Probing Natural Language Inference Models through Semantic Fragments
Allen Institute for AI（艾伦人工智能研究所）；Indiana University（印第安纳大学）
最先进的语言理解模型是否已经具有或能够容易地学习布尔协调、量化、条件句、比较句和单调性推理（即，在上下文中进行词替换的推理）？虽然这种现象涉及自然语言推理（NLI），并超出了基本的语言理解，目前还不清楚他们在现有的NLI基准捕捉和有效地学习模型的程度。为了研究这一点，我们建议使用语义片段-系统生成的数据集，每个数据集针对不同的语义现象-用于探测和有效地提高语言模型的这种能力。这种创建挑战数据集的方法允许直接控制目标语言现象的语义多样性和复杂性，并导致模型语言行为的更精确表征。我们的实验，使用8个这样的语义片段的库，揭示了两个显着的发现：（a）国家的最先进的模型，包括BERT，这是预先训练的现有NLI基准数据集在这些新的片段表现不佳，即使这里探讨的现象是NLI任务的核心。(b)另一方面，只需几分钟的额外微调-通过精心选择的学习率和新的“接种”变体-基于BERT的模型可以掌握所有这些逻辑和单调性片段，同时保持其在已建立的NLI基准上的性能。
2019-12-02 cs.CL
Do LSTMs See Gender? Probing the Ability of LSTMs to Learn Abstract Syntactic Rules
University of Bristol（布里斯托大学）；National Research University Higher School of Economics（高等经济学院国立研究大学）
经过下一个词预测训练的LSTM可以准确地执行需要跟踪长距离语法依赖关系的语言任务。值得注意的是，模型精度接近人类在数字一致性任务上的表现（Gulordava等人，2018年）。然而，我们没有一个机械的理解LSTM如何执行这样的语言任务。LSTM是学习抽象的语法规则，还是依赖简单的语法？在这里，我们测试性别协议在法国，这需要跟踪两个层次的句法结构和词汇单位的固有性别。我们的模型能够可靠地预测长距离性别协议在两个主谓语境：名词形容词和名词被动动词协议。该模型显示，与单数情况相比，具有性别吸引子的复数名词短语更不准确，这表明依赖于性别文章的线索来达成协议。总的来说，我们的研究强调了LSTM偏离人类行为的关键方式，并质疑LSTM是否真正学习抽象的句法规则和类别。我们建议使用性别一致性作为一个有用的探针来研究LSTM语言模型的潜在机制、内部表示和语言能力。
2022-10-31 cs.AI cs.CL cs.LG
Linguistic Profiling of a Neural Language Model
Istituto di Linguistica Computazionale “Antonio Zampolli”（安东尼奥·赞波利计算语言学研究所）；Department of Computer Science, University of Pisa（比萨大学计算机科学系）
本文通过多组探测任务分析 BERT 在微调前后的语言学知识变化，发现微调会削弱其语言学编码能力，而更强的语言学信息存储能力有助于提升下游分类预测表现。
2020-11-07 cs.AI cs.CL
Semantics or spelling? Probing contextual word embeddings with orthographic noise
Cornell University（康奈尔大学）
通过向输入单词引入单字符交换的正字法噪声，发现预训练语言模型生成的上下文词嵌入对噪声高度敏感，且敏感性与子词分词相关，表明这些表示可能不是可靠的语义代理。
2024-08-08 cs.CL
Sentiment analysis is not solved! Assessing and probing sentiment classification
University of Oslo（奥斯陆大学）
SA的神经方法已经导致了对以前方法的定量改进，但这些进步并不总是伴随着对定性差异的彻底分析。因此，目前尚不清楚情感分析还存在哪些突出的概念挑战。在这项工作中，我们试图发现哪些挑战仍然证明英语情感分类器的问题，并提供一个具有挑战性的数据集。我们收集了一个（Oracle）最先进的情感分类器集合错误分类的句子子集，然后为它们注释了18种语言学和非语言学现象，如否定，讽刺，模态等。数据集可在https://github.com/ltgoslo/assessing_and_probing_sentiment上获得。最后，我们提供了一个案例研究，证明了有用的数据集探测一个给定的情感分类器的性能相对于语言现象。
2019-06-13 cs.CL
Probing Across Time: What Does RoBERTa Know and When?
Paul G. Allen School of Computer Science & EngineeringUniversity of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
在非常大的语料库上训练的语言模型已经被证明对NLP有用。作为固定的人工制品，它们已经成为深入研究的对象，许多研究人员“探索”它们获得和容易展示的语言抽象，事实和常识知识以及推理能力的程度。在这一工作的基础上，我们考虑了一个新的问题：对于语言模型学习的知识类型，它们是在（预）训练期间获得的？我们绘制探测性能的迭代，使用RoBERTa作为案例研究。在我们的研究结果中：语言知识是快速，稳定和强大的跨领域获得的。事实和常识是缓慢的，更领域敏感。一般来说，推理能力不是稳定获得的。随着新的数据集、预训练协议和探测器的出现，我们相信跨时间探测分析可以帮助研究人员理解这些模型所经历的复杂、混合的学习，并指导我们采用更有效的方法，更快地完成必要的学习。
2021-09-20 cs.CL
Low-Complexity Probing via Finding Subnetworks
University of California, Berkeley（加州大学伯克利分校）；Hugging Face
探测神经网络语言特性的主要方法是在模型的内部表示之上训练一个新的浅层多层感知器（MLP）。这种方法可以检测模型中编码的属性，但代价是添加了可能直接学习任务的新参数。相反，我们提出了一个减法修剪为基础的探针，在那里我们找到一个现有的子网络，执行感兴趣的语言任务。与MLP相比，子网络探测器在预训练模型上实现了更高的准确性，而在随机模型上实现了更低的准确性，因此它在寻找感兴趣的属性方面更好，但在自行学习方面较差。接下来，通过改变每个探针的复杂性，我们表明，子网探测帕累托主导的MLP探测，它实现了更高的准确性，任何预算的探测复杂性。最后，我们分析了不同任务之间的子网络，以定位每个任务的编码位置，我们发现较低级别的任务被捕获在较低的层中，重现了过去工作中的类似发现。
2021-04-08 cs.CL
Probing BERT in Hyperbolic Spaces
Alibaba Group（阿里巴巴集团）；Beijing Jiaotong University（北京交通大学）；University of Edinburgh（爱丁堡大学）
近年来，人们提出了多种探测任务来发现在语境化词嵌入中习得的语言特性。这些作品中的许多隐含地假设这些嵌入位于某些度量空间中，通常是欧几里得空间。这项工作考虑了一个家庭的几何特殊的空间，双曲空间，表现出更好的归纳偏见的层次结构，并可能更好地揭示语言层次编码的上下文表示。我们引入了一个庞加莱探针，这些嵌入到庞加莱子空间明确定义的层次结构投影的结构探针。我们专注于两个探测目标：（a）依赖树的层次结构被定义为头部依赖结构;（b）词汇情感的层次结构被定义为极性的话（积极和消极）。我们认为，一个探针的关键desideratum是它的存在的语言结构的敏感性。我们将我们的探测应用于BERT，一个典型的上下文嵌入模型。在一个句法子空间，我们的探针更好地恢复树结构比欧几里德探针，揭示了BERT语法的几何可能不一定是欧几里德的可能性。在情感子空间中，我们揭示了积极和消极情感的两种可能的元嵌入，并展示了词汇控制的语境化如何改变嵌入的几何定位。我们通过大量的实验和可视化展示了我们的庞加莱探针的发现。我们的结果可以在https://github.com/FranxYao/PoincareProbe上复制。
2021-04-08 cs.CL
Probing Internal Representations of Multi-Word Verbs in Large Language Models
University Erlangen-Nuremberg（埃尔朗根-纽伦堡大学）；University Hospital Erlangen（埃尔朗根大学医院）
本研究利用BERT探测分类器和GDV分析，发现大语言模型中间层能高准确率区分短语动词与介词动词，且其表征呈非线性可分，从计算角度支持了基于使用的语言表征理论。
2025-02-07 cs.CL
Holmes: A Benchmark to Assess the Linguistic Competence of Language Models
Ubiquitous Knowledge Processing Lab (UKP Lab)（通用知识处理实验室）；Technical University of Darmstadt（达姆施塔特技术大学）；Information Systems Research Lab（信息系统研究实验室）；Lucerne University of Applied Sciences and Arts（卢塞恩应用科学与艺术大学）；IBM Research AI（IBM AI研究部）；MIT CSAIL（MIT CSAIL实验室）；MIT-IBM Watson AI Lab（MIT-IBM沃森AI实验室）；IBM Research Europe - Ireland（IBM欧洲爱尔兰研究部）
Holmes基准通过分类器探测方法评估语言模型对语法、形态学等语言现象的理解，发现模型大小、架构和指令微调显著影响性能，提出FlashHolmes提升效率。
2026-05-11 cs.CL
From Human Cognition to Neural Activations: Probing the Computational Primitives of Spatial Reasoning in LLMs
School of Information Science, Beijing Language and Culture University（北京语言大学信息科学学院）；School of Artificial Intelligence, Beijing Normal University（北京师范大学人工智能学院）
研究通过分析LLMs内部空间表示机制，发现其空间推理能力有限且依赖上下文，揭示了空间推理的计算原语及跨语言机制退化问题。
2026-03-27 cs.AI cs.CL
Exploring the Role of BERT Token Representations to Explain Sentence Probing Results
Tehran Institute for Advanced Studies（德黑兰高级研究所）；Khatam University（哈塔姆大学）；Iran University of Science and Technology（伊朗科技大学）
关于BERT所捕捉的语言特征的研究已经展开。这通常通过在从BERT的不同层获得的表示上训练诊断分类器来实现。随后的分类精度被解释为模型编码相应语言属性的能力。尽管这些研究提供了一些见解，但它们忽略了符号表征的潜在作用。在本文中，我们提供了一个更深入的分析BERT在搜索不同的和有意义的子空间，可以解释这些探测结果背后的原因的表示空间。基于一组探测任务和归因方法的帮助下，我们表明，BERT倾向于编码有意义的知识在特定的令牌表示（这往往被忽略在标准的分类设置），允许该模型检测句法和语义异常，并区分语法数和时态子空间。
2021-09-11 cs.CL
The Better Your Syntax, the Better Your Semantics? Probing Pretrained Language Models for the English Comparative Correlative
LMU Munich（慕尼黑大学）；Munich Center of Machine Learning（慕尼黑机器学习中心）；University of Oxford（牛津大学）
构式语法是认知语言学的一种范式，强调句法和语义之间的联系。而不是对词汇项目进行操作的规则，它将结构视为语言的核心构建块，即，结合句法和语义的不同粒度的语言单位。作为评估CxG与最先进的预训练语言模型（PLMs）所展示的句法和语义知识的兼容性的第一步，我们提出了一个调查他们的能力，分类和理解最常用的研究结构之一，英语比较相关（CC）。我们进行实验，一方面检查分类准确性的语法探针和模型的行为在语义应用程序的任务，BERT，RoBERTa和DeBERTa作为示例PLM。我们的研究结果表明，所有三个调查PLM都能够识别的CC的结构，但未能使用其含义。尽管有人声称PLM在许多NLP任务上表现得像人类，但这表明PLM在语言知识的中心领域仍然存在重大缺陷。
2022-10-24 cs.CL
Probing self-attention in self-supervised speech models for cross-linguistic differences
University of Maryland, College Park（马里兰大学帕克分校）
本文以小型自监督语音Transformer模型TERA为对象，探究自注意力机制在不同语言中的差异，发现注意力头模式多样且与语言无关，并证明模型能学到音系信息，且主要依赖对角注意力头进行音素分类。
2024-09-04 cs.CL cs.LG
LINSPECTOR: Multilingual Probing Tasks for Word Representations
Technische Universität Darmstadt（达姆施塔特工业大学）；University of Edinburgh（爱丁堡大学）；New York University（纽约大学）
尽管为大量语言引入了越来越多的单词表示模型，但缺乏标准化的技术来提供对这些模型所捕获内容的见解。这样的见解将有助于社区获得下游任务性能的估计，以及设计更明智的神经架构，同时避免需要大量计算资源的大量实验，而不是所有研究人员都可以访问。NLP最近的发展是使用简单的分类任务，也称为探测任务，测试单个语言特征，如词性。现有的研究主要集中在探讨英语语篇的连续表征所编码的语言信息。然而，从类型学的角度来看，形态学上的穷人英语是一个离群值：英语中的词序和功能词编码的信息往往存储在其他语言的形态水平。为了解决这个问题，我们引入了15个类型级别的探测任务，例如24种语言的格标记、属事、字长、形态标签计数和伪词识别。我们提出了一个可重复使用的方法，在多语言环境中创建和评估这样的测试。然后，我们提出了几个不同的多语言词嵌入模型的实验，在其中，我们涉及到探测任务的性能为一组不同的语言的范围内的五个经典的NLP任务：POS标记，依存句法分析，语义角色标注，命名实体识别和自然语言推理。我们发现，一些探测测试有显着的高度正相关的下游任务，特别是形态丰富的语言。我们表明，我们的测试可用于探索词嵌入或黑盒神经模型的语言线索，在多语言设置。
2019-12-11 cs.CL
Information-Theoretic Probing with Minimum Description Length
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
为了衡量预训练的表示对某些语言属性的编码程度，通常使用探测器的准确性，即训练分类器以从表示中预测属性。尽管探针被广泛采用，但其准确性的差异未能充分反映表征的差异。例如，它们基本上不支持预先训练的表示而不是随机初始化的表示。类似地，当探测真正的语言标签和探测随机合成任务时，它们的准确性可以是相似的。为了看到这些随机基线在精度上的合理差异，以前的工作必须约束探针训练数据的量或其模型大小。相反，我们提出了一种替代标准的探测，信息理论探测与最小描述长度（MDL）。通过MDL探测，训练探测器预测标签被重新设计为教导它有效地传输数据。因此，感兴趣的测量从探针准确度改变为给定表示的标签的描述长度。除了探测质量之外，描述长度还评估实现质量所需的“工作量”。这种工作量的特征是（i）探测模型的大小，或者（ii）实现高质量所需的数据量。我们考虑两种方法来估计MDL，可以很容易地实现在标准的探测管道：变分编码和在线编码。我们表明，这些方法的结果一致，比标准探针更丰富，更稳定。
2020-03-27 cs.CL
Probing the phonetic and phonological knowledge of tones in Mandarin TTS models
University of Michigan（密歇根大学）
本研究通过两个实验探讨了TTS模型中声调的语音学和音系学知识。将测试普通话声调协同发音和连读变调的受控刺激输入Tacotron 2和WaveGlow产生语音样本，进行声学分析和人工评价。结果表明，基线Tacotron 2和Tacotron 2与BERT嵌入捕捉表面声调协同发音模式，但未能始终适用于新的句子的三调变调规则。将预训练的BERT嵌入到Tacotron 2中可以提高自然度和韵律性能，并将三声连读规则更好地推广到新的复杂句子中，尽管三声连读的整体准确率仍然很低。鉴于TTS模型确实捕捉到了一些语言现象，有人认为它们可以用来生成和验证某些语言假设。另一方面，也建议在TTS模型的训练和评估中应包括语言信息刺激。
2019-12-23 cs.CL cs.SD eess.AS
Syntax and Semantics Meet in the "Middle": Probing the Syntax-Semantics Interface of LMs Through Agentivity
Language Technologies Institute（语言技术研究所）；Carnegie Mellon University（卡内基梅隆大学）
本文以施事性为案例，构建可选及物动词评测数据集，探究语言模型在句法-语义接口上的交互能力，发现GPT-3 text-davinci-003表现远超其他模型，且与人类判断相关性优于语料库统计量。
2023-07-10 cs.CL
Do Syntactic Probes Probe Syntax? Experiments with Jabberwocky Probing
University of Cambridge（剑桥大学）；ETH Zürich（苏黎世联邦理工学院）
分析神经语言模型是否编码语言信息已经成为NLP中的热门。这样做的一种方法，经常被引用来支持BERT等模型编码语法的说法，称为探测;探测器是经过训练的小型监督模型，用于从另一个模型的输出中提取语言信息。如果一个探针是能够预测一个特定的结构，有人认为，其输出的模型，它是训练必须隐式地学习到encodingit. However，绘制一个模型的语言知识的概括关于一个特定的现象的基础上，什么样的探针是能够学习可能是有问题的：在这项工作中，我们表明，语义线索在训练数据意味着，句法探针不正确地隔离语法。我们生成了一个新的语料库的语义无意义，但句法形式良好的Jabberwocky句子，我们用它来评估两个探针训练正常的数据。我们在几种流行的语言模型（BERT，GPT和RoBERTa）上对探针进行训练，发现在所有设置中，当对这些数据进行评估时，它们的表现都较差，对于一个探针来说，平均15.4个UUAS点绝对值。虽然在大多数情况下，它们仍然优于基线，但它们的领先优势大幅降低，例如在一个探头的BERT的情况下降低了53%。这就引出了一个问题：什么样的经验分数构成了认知句法？
2021-06-04 cs.CL cs.LG
On the Importance of Data Size in Probing Fine-tuned Models
Iran University of Science and Technology（伊朗科技大学）；Tehran Institute for Advanced Studies, Khatam University（哈塔姆大学德黑兰高等研究院）
该研究针对现有微调探测研究忽略数据规模作用的问题，通过实验揭示微调数据量影响模型编码语言知识的程度、高层变化及知识变化可恢复性，且变化程度与迭代次数而非样本多样性相关。
2022-03-17 cs.CL cs.LG
LLMs Learn Constructions That Humans Do Not Know
Department of Linguistics University of Illinois Urbana-Champaign（语言学系伊利诺伊大学厄巴纳-香槟分校）
本文通过行为和元语言探测发现大语言模型会幻觉出人类不认可的语法构式，并指出构式探测方法存在确认偏误。
2025-08-22 cs.CL
How does the pre-training objective affect what large language models learn about linguistic properties?
University of Sheffield（谢菲尔德大学）
已经提出了几个预训练目标，例如掩码语言建模（MLM），以预训练语言模型（例如BERT），目的是学习更好的语言表示。然而，据我们所知，到目前为止，还没有以前的工作已经调查了不同的预训练目标如何影响BERT学习语言学属性。我们假设，语言动机的目标，如MLM应该帮助BERT获得更好的语言知识相比，其他非语言动机的目标是不直观的或难以猜测的输入和标签之间的关联进行预测。为此，我们预先训练BERT有两个语言动机的目标和三个非语言动机的。然后，我们探测语言特征编码的表示所产生的模型。我们发现强有力的证据表明，有两种不同类型的目标学习的表示之间的探测性能只有很小的差异。这些令人惊讶的结果质疑了语言信息预训练的主导叙事。
2022-03-20 cs.CL
Linguistically Grounded Analysis of Language Models using Shapley Head Values
Aalborg University（奥尔堡大学）
本文利用Shapley头值探测语言模型，在BLiMP数据集上分析BERT和RoBERTa处理形态句法现象的方式，发现相关关注头聚类，支持语言模型学习语言理论子网络的假设。
2025-02-25 cs.CL
Layer-wise Minimal Pair Probing Reveals Contextual Grammatical-Conceptual Hierarchy in Speech Representations
Department of Electrical Engineering, Columbia University（哥伦比亚大学电气工程系）
本文首次系统评估多种语音语言模型中的上下文句法与语义特征，通过71个任务的最小对探测发现语音编码器普遍更稳健地编码语法特征而非概念特征。
2025-09-19 cs.CL eess.AS
A Simple Geometric Method for Cross-Lingual Linguistic Transformations with Pre-trained Autoencoders
Chatlayer.ai by Sinch（Sinch旗下Chatlayer.ai）；Sinch；Ghent University - Imec（根特大学 - imec）
为多种语言训练的强大句子编码器正在崛起。这些系统能够将广泛的语言属性嵌入到向量表示中。虽然显式探测任务可以用来验证特定语言属性的存在，但目前还不清楚是否可以操纵向量表示来间接引导这些属性。为了有效的学习，我们研究了在嵌入空间中使用几何映射来转换语言属性，而无需对预训练的句子编码器或解码器进行任何调整。我们使用预训练的多语言自动编码器在三个语言属性上验证了我们的方法，并在单语和跨语言设置中分析了结果。
2021-09-21 cs.CL cs.LG
