Do Pre-Trained Language Models Detect and Understand Semantic Underspecification? Ask the DUST!
College of Informatics(信息学院);University of Amsterdam(阿姆斯特丹大学);ILLC(语言、逻辑与计算研究所)
本文构建按类型分组的语义欠明确句子数据集 DUST,评估预训练语言模型的识别与解释能力,发现模型可识别欠明确句却难以正确解释且缺乏不确定性。
2024-06-12 cs.CL
Black Big Boxes: Tracing Adjective Order Preferences in Large Language Models
CLCG(认知语言学研究中心);ILS(语言学研究所);ILLC(语言学研究所);CIMeC(计算机科学与工程学院);University of Groningen(格罗宁根大学);Utrecht University(乌得勒支大学);University of Amsterdam(阿姆斯特丹大学);University of Trento(特伦托大学)
研究揭示大型语言模型中形容词顺序偏好主要由分布学习决定,但模型能稳健推广至未见组合,且上下文线索影响其输出顺序。
2026-02-09 cs.CL
Syntax and Semantics Meet in the "Middle": Probing the Syntax-Semantics Interface of LMs Through Agentivity
Language Technologies Institute(语言技术研究所);Carnegie Mellon University(卡内基梅隆大学)
本文以施事性为案例,构建可选及物动词评测数据集,探究语言模型在句法-语义接口上的交互能力,发现GPT-3 text-davinci-003表现远超其他模型,且与人类判断相关性优于语料库统计量。
2023-07-10 cs.CL
Towards Coherent and Consistent Use of Entities in Narrative Generation
University of Edinburgh(爱丁堡大学);DeepMind(深度思维)
大型预训练的语言模型(LM)在生成长而流畅的文本方面表现出了令人印象深刻的能力;然而,很少或根本没有分析它们保持实体连贯性和一致性的能力。在这项工作中,我们专注于叙事生成的最终任务,并系统地分析生成的故事中的长期实体连贯性和一致性。首先,我们提出了一套自动度量实体使用方面的模型性能。考虑到这些指标,我们量化了当前LM的局限性。接下来,我们建议通过使用辅助实体相关丢失来引导对存储器的读取和写入,以端到端的方式用动态实体存储器来增强预先训练的LM。我们表明,动态实体内存增加实体的一致性,根据自动和人类的判断,并有助于保存实体相关的信息,特别是在有限的上下文窗口的设置。最后,我们还验证了我们的自动指标与人类评级相关,并作为生成的故事质量的良好指标。
2022-02-03 cs.CL cs.LG
Knowledge Unlearning for Mitigating Privacy Risks in Language Models
KAIST(韩国科学技术院);Konkuk University(建国大学);Seoul National University(首尔大学);LG AI Research(LG人工智能研究院);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
预训练的语言模型(LM)在初始预训练期间记住大量知识,包括可能侵犯个人生活和身份隐私的信息。以前解决语言模型隐私问题的工作主要集中在数据预处理和差分隐私方法上,这两种方法都需要重新训练底层LM。我们提出知识unlearning作为一种替代方法,以减少隐私风险的LM事后。我们表明,简单地对目标令牌序列执行梯度上升可以有效地忘记它们,而对于较大的LM,一般语言建模性能几乎没有下降;有时甚至可以通过几次迭代来大幅提高底层LM。我们还发现,顺序遗忘比尝试一次性遗忘所有数据更好,并且遗忘高度依赖于哪种数据(域)被遗忘。通过与以前的数据预处理方法和已知用于减轻LM隐私风险的解码方法进行比较,我们表明,在易受提取攻击的数据先验已知的情况下,unlearning可以提供更强的经验隐私保证,同时更加有效和鲁棒。我们在https://github.com/joeljang/knowledge-unlearning上发布了复制结果所需的代码和数据集。
2022-12-19 cs.CL
Extractive Structures Learned in Pretraining Enable Generalization on Finetuned Facts
UC Berkeley(加州大学伯克利分校)
本文提出抽取结构框架,解释预训练语言模型在微调后对事实含义的泛化机制,并通过数据排序和权重嫁接效应在多个模型上实证验证。
2025-05-21 cs.CL cs.LG
Tiered Reasoning for Intuitive Physics: Toward Verifiable Commonsense Language Understanding
University of Michigan(密歇根大学);Michigan State University(密歇根州立大学)
大规模的、预先训练的语言模型(LM)在广泛的语言理解任务上已经实现了人类水平的性能。然而,仅基于最终任务表现的评估对机器在语言理解和推理方面的真正能力几乎没有帮助。在本文中,我们强调的重要性,评估的基础推理过程中,除了最终性能。为了实现这一目标,我们引入了直观物理分层推理(TRIP),这是一种具有密集注释的新型常识推理数据集,可以对机器的推理过程进行多层评估。我们的实证结果表明,虽然大型LM可以实现高端的性能,但它们很难用有效的支持证据来支持它们的预测。TRIP数据集和我们的基线结果将激励对常识推理的可验证评估,并促进未来的研究,以开发更好的语言理解和推理模型。
2022-05-10 cs.CL
Pre-Trained Language Models for Interactive Decision-Making
MIT(麻省理工学院);Nvidia(英伟达);Caltech(加州理工学院);Google Brain(谷歌大脑);UT Austin(德克萨斯大学奥斯汀分校)
语言模型(LM)预训练在许多语言处理任务中是有用的。但是,预训练的LM是否可以进一步用于更一般的机器学习问题?我们提出了一种方法,使用LM脚手架学习和一般顺序决策问题的推广。在这种方法中,目标和观察被表示为一系列嵌入,并且用预先训练的LM初始化的策略网络预测下一个动作。我们证明了这个框架,使有效的组合推广在不同的环境和监督方式。我们首先假设可以访问一组专家演示,并表明使用LM初始化策略并通过行为克隆对其进行微调可以将VirtualHome环境中的任务完成率提高43.6%。接下来,我们集成了一个主动的数据收集过程,在这个过程中,代理人迭代地与环境交互,用新的目标重新标记过去的“失败”经历,并在自我监督的循环中更新他们的策略。主动数据收集进一步提高了组合泛化能力,比最佳基线高出25.1%。最后,我们解释这些结果,调查三个可能的因素的有效性LM为基础的政策。我们发现,顺序输入表示(与固定维的特征向量)和基于LM的权重初始化都是很重要的泛化。然而,令人惊讶的是,策略输入编码的格式(例如,作为自然语言字符串与任意顺序编码)几乎没有影响。总之,这些结果表明,语言建模诱导的表征不仅对语言建模有用,而且对目标和计划也有用;这些表征可以帮助学习和泛化,甚至在语言处理之外。
2022-10-29 cs.CL cs.LG
A Little Goes a Long Way: Efficient Long Context Training and Inference with Partial Contexts
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft(微软公司)
针对长上下文LLM训练和部署开销大的问题,提出LongGen,将长度扩展与GPU友好的KV缓存缩减架构结合,通过混合注意力层和轻量训练,实现训练加速、内存减少及性能提升。
2024-12-05 cs.CL
Entailment as Few-Shot Learner
Facebook AI(脸书人工智能研究院)
大型预训练语言模型(LM)已经证明了作为Few-Shot学习者的卓越能力。然而,他们的成功很大程度上取决于缩放模型参数的程度,使其具有挑战性的训练和服务。在本文中,我们提出了一种新的方法,命名为EFL,可以把小LM到更好的Few-Shot学习。这种方法的核心思想是将潜在的NLP任务重新表达为一个蕴涵任务,然后用最少8个示例对模型进行微调。我们进一步证明了我们提出的方法可以:(i)自然地与基于无监督对比学习的数据增强方法相结合;(ii)很容易扩展到多语言少样本学习。对18个标准NLP任务的系统评估表明,该方法将现有的各种SOTA少样本学习方法提高了12%,并在500倍大的模型(如GPT-3)上产生了具有竞争力的Few-Shot性能。
2021-04-29 cs.AI cs.CL
CL-bench: A Benchmark for Context Learning
Hunyuan Team, Tencent(腾讯混元团队);Fudan University(复旦大学)
CL-bench是一个用于评估上下文学习能力的基准测试,通过复杂任务和上下文设计,揭示当前语言模型在真实任务中的学习瓶颈。
2026-02-03 cs.CL
Standing on the Shoulders of Giant Frozen Language Models
AI21 Labs(AI21实验室)
巨大的预训练语言模型(LM)已经在各种任务上表现出令人惊讶的良好zero-shot能力。这就产生了一个吸引人的愿景,即一个单一的、多功能的模型,在不同的应用程序中具有广泛的功能。然而,目前用于利用“冻结”LM的主要技术--即,保持其权重不变-仍然经常表现不佳的微调方法,这些方法以任务相关的方式修改这些权重。反过来,这些人会健忘,并损害多功能性,这表明性能和多功能性之间的权衡。本文的主要信息是,目前的冻结模型技术,如提示微调只是冰山一角,更强大的方法,利用冻结LM可以做同样的微调在具有挑战性的领域,而不牺牲底层模型的多功能性。为了证明这一点,我们介绍了三种利用冻结模型的新方法:依赖于输入的提示微调,冻结读者,递归LM,其中每一个都大大提高了当前的冻结模型的方法。事实上,我们的一些方法甚至在目前由后者主导的领域中优于微调方法。每种方法的计算成本都高于现有的冻结模型方法,但相对于单次通过巨大的冻结LM仍然可以忽略不计。这些方法中的每一种都是有意义的贡献,但通过将这些贡献放在一起,我们的目标是让读者相信一个更广泛的信息,超越任何给定方法的细节:冻结模型具有未开发的潜力,微调通常是不必要的。
2022-04-21 cs.AI cs.CL
Structured Prompts Improve Evaluation of Language Models
本文通过结构化提示方法评估语言模型,发现其能显著提升性能并改变排名,首次系统整合结构化提示至评估框架。
2026-11-04 cs.AI cs.CL cs.LG
The False Promise of Imitating Proprietary LLMs
UC Berkeley(加州大学伯克利分校)
本文批判了通过微调弱模型模仿 ChatGPT 等专有系统的做法,实验表明模仿模型只学到风格而非事实能力,缩小能力差距需依赖更强基础模型而非模仿捷径。
2023-05-25 cs.CL
Evidence > Intuition: Transferability Estimation for Encoder Selection
IT University of Copenhagen(哥本哈根信息技术大学);LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
随着自然语言处理(NLP)中大型预训练语言模型(LM)的可用性增加,先验地评估它们是否适合特定目标任务变得至关重要-因为微调可用LM的整个空间在计算上是禁止的且不可持续的。然而,编码器可转移性估计在NLP中几乎没有受到关注。在本文中,我们建议生成定量证据来预测模型池中的哪个LM在目标任务上表现最好,而无需微调所有候选人。我们提供了一个全面的研究LM排名的10个NLP任务跨越两个基本的问题类型的分类和结构化预测。我们采用了最先进的最大证据对数(LogME)措施,从计算机视觉(CV),并发现它与最终LM性能在94%的设置呈正相关。在第一次同类研究中,我们进一步比较了可转移性指标与人类从业者排名的事实标准,发现来自定量指标的证据比纯粹的直觉更强大,可以帮助识别意想不到的LM候选人。
2022-10-20 cs.CL
BERT Goes Off-Topic: Investigating the Domain Transfer Challenge using Genre Classification
University of Strathclyde(思克莱德大学);University of Leeds(利兹大学)
本文探究了PLMs在主题分布变化时的性能差距,通过体裁分类任务证实了BERT和GPT-3等模型在领域迁移上的挑战,并提出使用主题受控的合成文本增强训练集,使部分主题F1分数提升高达50%。
2023-11-27 cs.CL
SCOTT: Self-Consistent Chain-of-Thought Distillation
University of Southern California(南加州大学);Amazon.com Inc(亚马逊公司)
提出SCOTT方法,通过对比解码和反事实推理目标,从大型教师模型蒸馏出小型自一致思维链模型,生成更忠实的推理并提升决策性能。
2023-08-30 cs.CL
HumBEL: A Human-in-the-Loop Approach for Evaluating Demographic Factors of Language Models in Human-Machine Conversations
Northeastern University(东北大学)
提出人机协同评估框架HumBEL,结合临床言语病理学技术与自动化方法,衡量语言模型在年龄等人口统计维度上的语言能力,发现GPT-3.5在推理和记忆任务上表现不均且语用技能不足。
2024-02-05 cs.AI cs.CL
A Little Human Data Goes A Long Way
Information Sciences Institute, University of Southern California(信息科学研究所,南加州大学)
针对NLP系统中合成数据替代人类标注的程度问题,通过在8个数据集上研究合成数据替换比例对事实核查和问答任务的影响,发现少量人类数据(125-200个点)可显著提升模型性能,且比大量合成数据更具成本效益。
2025-08-20 cs.AI cs.CL cs.LG
A Little Robustness Goes a Long Way: Leveraging Robust Features for Targeted Transfer Attacks
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Santa Fe Institute(圣塔菲研究所)
已知神经网络图像分类器的对抗性示例是可转移的:被源分类器错误分类的优化示例通常也被具有不同架构的分类器错误分类。然而,有针对性的对抗性示例(被优化为被分类为选定的目标类)往往不太容易在架构之间转移。虽然以前的研究构建可转移的有针对性的攻击集中在改善优化过程中,在这项工作中,我们研究的作用的源分类器。在这里,我们表明,训练源分类器“稍微健壮”-即对小规模对抗性示例的健壮性-大大提高了针对类和针对表示的对抗攻击的可转移性,即使是在卷积神经网络和Transformers等不同的架构之间。我们提出的结果提供了深入了解对抗性例子的性质以及所谓的“鲁棒”分类器的机制。
2021-10-25 cs.CR cs.LG
Structured Thoughts Automaton: First Formalized Execution Model for Auto-Regressive Language Models
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
本文提出首个形式化语言模型执行模型,通过新采样算法构建可靠可检查的执行框架,并引入低级认知编程语言,以推动该领域研究。
2023-06-16 cs.AI cs.CL cs.FL
With Shared Microexponents, A Little Shifting Goes a Long Way
Microsoft(微软);Meta
本文提出块数据表示框架,发现基于共享微指数的新格式 MX,其量化效果优于现有窄精度浮点和块浮点方法,并在大规模生成模型和推荐系统中验证有效。
2023-04-13 cs.AI cs.AR cs.LG
Transcribe, Translate, or Transliterate: An Investigation of Intermediate Representations in Spoken Language Models
Stanford University(斯坦福大学);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所)
本研究通过分析三个口语语言模型的模态适配器输出,发现其表示策略取决于语音编码器训练任务:Whisper编码器采用英语中间语言表示语义,而其他编码器用英语单词表示语音特征。
2025-10-16 cs.CL
Investigating Data Contamination for Pre-training Language Models
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Stanford University(斯坦福大学)
本文通过从头预训练GPT-2系列模型,系统研究预训练阶段文本污染与真值污染对下游任务性能的影响,并指出现有n-gram污染定义的不足,强调需要独立全面的污染评估。
2024-01-11 cs.AI cs.CL cs.LG
From 'May' to 'Is': Certainty Distortion in Language Model Rewriting
University of California Irvine(加利福尼亚大学尔湾分校);Massachusetts Institute of Technology(麻省理工学院)
研究语言模型在改写任务中系统性增加表达确定性的偏差,提出基于人群判断的评估指标,发现高达75%的输出存在确定性扭曲,且模型更倾向于提高确定性。
2026-09-17 cs.AI cs.CL cs.LG
Rethinking the Role of Demonstrations: What Makes In-Context Learning Work?
Meta AI;Allen Institute for AI(艾伦人工智能研究所);University of Washington(华盛顿大学)
大语言模型(LM)能够在上下文中学习--仅通过对一些输入-标签对(演示)进行条件化并对新输入进行预测来通过推理执行新任务。然而,人们对模型如何学习以及演示的哪些方面有助于最终任务性能的理解很少。在本文中,我们表明,地面真相演示实际上是不需要的-在演示中随机替换标签几乎不会影响一系列分类和多选择任务的性能,在包括GPT-3在内的12个不同模型中始终如此。相反,我们发现演示的其他方面是最终任务性能的关键驱动因素,包括它们提供了以下几个示例:(1)标签空间,(2)输入文本的分布,以及(3)序列的整体格式。总之,我们的分析提供了一种理解上下文学习如何以及为什么有效的新方法,同时也提出了一些新问题,即仅仅通过推理就可以从大语言模型中学到多少东西。
2022-10-20 cs.AI cs.CL
SpeechPrompt: An Exploration of Prompt Tuning on Generative Spoken Language Model for Speech Processing Tasks
Amazon Inc.(亚马逊公司);Meta AI
从自监督学习(SSL)模型学习的语音表示可以有益于各种语音处理任务。然而,使用SSL表示通常需要微调预训练的模型或设计特定于任务的下游模型和损失函数,这会导致大量内存使用和人力劳动。最近,自然语言处理(NLP)中的提示已被发现是利用预训练语言模型(LM)的有效技术。具体来说,即时调优使用固定的预训练模型优化了有限数量的特定于任务的参数;因此,每个任务只需要存储一小部分参数。即时调优通过利用预训练的LM的预测能力来提高计算和内存效率。然而,这样一种范式在言语界却鲜有研究。本文报告了基于生成口语模型(GSLM)的语音处理任务的提示调谐范式的第一次探索。实验结果表明,即时调整技术在语音分类任务中取得了竞争力的性能与更少的可训练参数比微调专门的下游模型。我们进一步研究了具有挑战性的序列生成任务的技术。快速调谐也展示了它的潜力,同时本文也讨论了它的局限性和可能的研究方向。源代码可在https://github.com/ga642381/SpeechPrompt上获得。
2022-07-10 cs.CL cs.LG cs.SD
From Measurement to Mitigation: Exploring the Transferability of Debiasing Approaches to Gender Bias in Maltese Language Models
Department of Artificial Intelligence, University of Malta(人工智能系,马耳他大学)
本文测量马耳他语BERTu和mBERTu模型中的性别偏见,并将英语去偏方法适配到马耳他语进行迁移性研究,揭示现有方法在形态丰富低资源语言上的局限,并创建评估数据集以推动更具包容性的多语言NLP发展。
2025-07-03 cs.CL
A Little Depth Goes a Long Way: The Expressive Power of Log-Depth Transformers
Allen Institute for AI(阿伦人工智能研究所);New York University(纽约大学)
本文从理论和实验两方面证明,深度为 Θ(log n) 的 Transformer 即可表达正则语言识别和图连通性等固定深度模型无法表达的顺序推理问题,并揭示了深度扩展比宽度或思维链扩展更高效,为实际深度选择提供了指导。
2025-11-05 cs.CC cs.LG
A Little Rank Goes a Long Way: Random Scaffolds with LoRA Adapters Are All You Need
Allen Discovery Center at Tufts University(塔夫茨大学艾伦发现中心);Institute for Theoretical Physics, TU Wien(维也纳工业大学理论物理研究所);Wyss Institute for Biologically Inspired Engineering, Harvard University(哈佛大学威斯生物启发工程研究所)
通过LottaLoRA方法,研究神经网络参数中实际编码任务信息的占比,发现低秩LoRA适配器在冻结随机骨架上能恢复96-100%的性能,仅训练0.5-40%的参数。
2026-04-13 cs.LG cs.NE
Learning Together to Perform Better: Teaching Small-Scale LLMs to Collaborate via Preferential Rationale Tuning
Adobe(Adobe公司)
本文提出COLLATE框架,通过让同一小型LLM的多个实例生成多样化推理过程并进行偏好优化,在不依赖大型模型蒸馏的情况下提升其推理能力,在数学、自然语言推理和常识推理任务上优于多个基线。
2025-06-03 cs.CL
Regularization and nonlinearities for neural language models: when are they needed?
Gatsby Computational Neuroscience Unit(盖茨比计算神经科学研究组);University College London(伦敦大学学院)
基于递归神经网络(RNN)的神经语言模型(LM)是一些最成功的单词和字符级LM。为什么它们工作得这么好,特别是比线性神经LM更好?可能的解释是RNN具有隐含的更好的正则化,或者RNN由于其非线性而具有更高的存储模式的能力,或者两者兼而有之。在这里,我们认为第一种解释是在训练数据很少的情况下,第二种解释是在大量文本数据的情况下。我们在流行的小型Penn数据集上展示了最先进的性能,当RNN LM被正则化并随机退出时。尽管如此,我们从一个简化的、表达能力更低的线性RNN模型中表现出更好的性能,该模型在递归矩阵中没有非对角项。我们称这种模型为脉冲响应LM(IRLM)。使用随机丢弃、列归一化和退火学习率,IRLM开发出的神经元可以在过去保持多达50个单词的记忆,并在Penn数据集上实现102.5的困惑度。然而,在两个大型数据集上,相同的正则化方法对于两个模型都是不成功的,RNN的表达能力允许它分别超过IRLM 10%和20%的困惑。尽管存在困惑差距,但IRLM在微软研究句子完成(MRSC)任务中的表现仍然优于RNN。我们开发了一个稍微修改的IRLM,将长上下文单元(LCU)从短上下文单元中分离出来,并表明LCU单独在MRSC任务上实现了60.8%的最先进性能。我们的分析表明,神经LM的一个富有成效的研究方向在于开发更容易访问的内部表示,并建议一个非常高的动量项的优化制度,有效地训练这样的模型…
2013-06-20 cs.LG stat.ML
Learning Domain-Specialised Representations for Cross-Lingual Biomedical Entity Linking
University of Cambridge(剑桥大学)
注入外部特定领域的知识(例如,UMLS)转化为预训练的语言模型(LM),提高了它们处理诸如生物医学实体链接(BEL)之类的专业领域内任务的能力。然而,这种丰富的专业知识仅可用于少数语言(例如,英文)。在这项工作中,通过提出一种新的跨语言的生物医学实体连接任务(XL-BEL),并建立一个新的XL-BEL基准跨越10个类型学上不同的语言,我们首先调查的能力,标准的知识不可知以及知识增强的单语和多语言LM超出标准的单语英语BEL任务。这些分数表明英语成绩差距很大。然后,我们解决的挑战,资源丰富的语言转移到资源贫乏的特定领域的知识。为此,我们提出并评估了一系列的跨语言迁移方法的XL-BEL任务,并证明,一般域的双文本有助于传播可用的英语知识的语言很少或没有域内的数据。值得注意的是,我们表明,我们提出的特定于域的传输方法在所有目标语言中产生一致的增益,有时高达20 Precision@1点,没有任何领域内的知识,在目标语言,没有任何领域内的并行数据。
2021-05-30 cs.AI cs.CL cs.LG
Data Mixture Inference: What do BPE Tokenizers Reveal about their Training Data?
University of Washington(华盛顿大学);Allen Institute for AI(艾伦人工智能研究所)
针对预训练数据不透明问题,本研究基于BPE分词器的合并规则构建线性规划模型实现数据混合推断,高精度恢复训练数据比例,应用于现成分词器验证公开信息并得出多语言性等新推断。
2024-11-30 cs.CL cs.LG
Everybody Needs a Little HELP: Explaining Graphs via Hierarchical Concepts
University of Cambridge(剑桥大学);Università della Svizzera Italiana(瑞士意大利语区大学)
本文提出HELP,一种本质可解释的层次化图池化方法,通过揭示不同GNN层概念如何组合来解释预测,其表达力超过1-WL,并在准确性与专家对齐度上表现优异。
2023-12-02 cs.AI cs.LG