Developmentally-plausible Working Memory Shapes a Critical Period for Language Acquisition
The University of Tokyo（东京大学）
本研究提出将关键期工作记忆发展特征融入语言模型训练，通过初期限制并指数级放松工作记忆的机制，显著提升了模型的句法评估表现，为设计高效语言模型及理解语言习得关键期机制提供了新方向。
2025-05-31 cs.CL
Second Language Acquisition Modeling: An Ensemble Approach
Sana Labs（萨纳实验室）
学生知识的准确预测是个性化学习系统的基础。在这里，我们提出了一种新的集成模型来预测学生的知识差距。将我们的方法应用于在线教育平台Duolingo的学生跟踪数据，我们在2018年第二语言习得建模共享任务中的所有三个数据集的两个评估指标上都获得了最高分。我们描述了我们的模型，并讨论了相关的任务相比，它将如何设置在生产环境中的个性化教育。
2018-06-09 cs.CL
Dango: A Strictly L1-Only Large Language Model for Studying Second Language Acquisition
Kyoto University（京都大学）；NII-LLMC（日本国立信息与通信技术研究所-语言模型中心）
提出1.8B参数的Dango模型，通过过滤L2污染和微调L2学习课程，模拟人类L2产出模式，优于未过滤和多语言基线。
2026-06-18 cs.CL
A Grounded Approach to Modeling Generic Knowledge Acquisition
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of Pennsylvania（宾夕法尼亚大学）
我们引入并实现了一个认知上合理的模型，用于从通用语言中学习，这些语言表达了对一个类别成员的概括，并且是语言习得中概念发展的一个重要方面（Carlson & Pelletier，1995; Gelman，2009）。我们扩展了一个计算框架，旨在通过引入概念网络模型接地语言习得。这个新的抽象层使系统能够对从通用语句中学习到的知识进行编码，并表示系统学习到的概念之间的关联。通过三个任务，利用概念网络，我们证明了我们的扩展ADAM可以获取通用信息，并提供了一个例子，说明如何ADAM可以用来模拟语言习得。
2021-05-07 cs.CL
From Babbling to Fluency: Evaluating the Evolution of Language Models in Terms of Human Language Acquisition
Rice University（莱斯大学）；Northern Arizona University（北亚利桑那大学）
本文从人类语言习得视角提出三阶段框架评估语言模型能力，发现其发展轨迹不同于人类，且生成表现受训练数据语言特征影响。
2024-10-17 cs.CL
Acquisition of Recursive Possessives and Recursive Locatives in Mandarin
School of Foreign Languages, Soochow University（苏州大学外国语学院）；Ulink High School of Suzhou Industrial Park（苏州工业园区领科高级中学）
本研究探讨普通话儿童递归领属与方位结构的习得轨迹，通过看图答题任务对比3-7岁儿童的两层递归理解，发现6岁才达成人水平且两类结构习得不对称，凸显结构与认知因素的作用。
2025-09-01 cs.CL
Self-play for Data Efficient Language Acquisition
Brown University（布朗大学）
在交流时，人们在不同的对话角色中表现一致：人们理解他们所说的话，并能够说出他们听到的话。到目前为止，为语言任务开发的人工智能体缺乏这种对称性，这意味着受过语言训练的智能体无法理解语言，反之亦然。在这项工作中，我们利用通信的对称性，以提高学习代理的语言习得的效率和质量。具体来说，我们考虑的设置中，代理人必须学会理解和生成的话，在现有的语言，但与“甲骨文”的语言扬声器的交互访问的假设是非常有限的。我们表明，使用自我发挥作为直接监督的替代品，使代理跨角色转移其知识（例如，培训作为一个听众，但测试作为一个扬声器），并作出更好的推理地面真理词典使用只有少数的互动与神谕。
2020-10-10 cs.CL
The Acquisition of Semantic Relationships between words
University Ibn Khaldoun（伊本·赫勒敦大学）
本文研究词语语义关系与语言形态之间的动态联系，通过分析词的内部结构及其构成，揭示其对语言解释和理解的影响。
2023-07-12 cs.CL
Is Child-Directed Language Optimized for Word Learning? A Computational Study of Verb Meaning Acquisition
Center for Language and Cognition (CLCG), University of Groningen（语言与认知中心（CLCG），格罗宁根大学）
本文通过神经语言模型对比分析儿童导向语言与成人导向语言对动词意义学习的影响，发现口语领域中语义优先于语法发展，可能反映口语本身的特性而非儿童导向语言的独特优化。
2026-05-12 cs.CL
Investigating Critical Period Effects in Language Acquisition through Neural Language Models
ETH Zürich（苏黎世联邦理工学院）
本研究利用语言模型检验语言习得关键期效应，发现无先天成熟机制的语言模型在延迟L2接触时未出现关键期效应，表明该效应可能源于先天机制而非纯统计学习，并可通过正则化项模拟可塑性下降来复现关键期。
2024-10-06 cs.CL
Computational Models of Tutor Feedback in Language Acquisition
Vrije Universiteit Brussel（布鲁塞尔自由大学）；Sony Computer Science Laboratories Inc.（索尼计算机科学实验室公司）
本文利用计算模型研究了教师反馈在语言学习中的作用。我们比较了语言学习中的两种主要模式：互动学习和跨情境学习，这两种模式的区别主要在于社会反馈的作用，如凝视或指点。我们分析了这两种范式之间的关系，并提出了一个新的混合范式，结合了这两种范式，并允许测试算法的实验，结合没有反馈和社会反馈。为了处理混合反馈实验，我们开发了新的算法，并展示了它们如何与传统的knn和原型方法。
2017-07-07 cs.CL
Language Acquisition is Embodied, Interactive, Emotive: a Research Proposal
Boise State University（博伊西州立大学）；Department of Computer Science（计算机科学系）
人类对世界的体验从一开始就是深刻的多模态的，那么为什么现有的最先进的语言模型只使用文本作为模态来学习和表示语义呢？在本文中，我们回顾了文学的体现和情感的作用，在互动设置的口语对话作为必要的先决条件，为人类儿童的语言学习，包括如何在儿童词汇主要是具体的，然后转移到变得更加抽象的孩子长大。我们勾勒出一个语义模型，利用当前的transformer为基础的模型和单词级接地模型，然后解释机器人对话系统，将利用我们的语义模型，系统学习语言的设置，和现有的基准评估。
2021-05-10 cs.CL
Multi-task Learning for Low-resource Second Language Acquisition Modeling
School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）；Baidu Inc.（百度公司）；Beijing Language and Culture University（北京语言大学）
二语习得建模是根据学习者的所学知识预测学习者是否能正确回答问题。它是个性化学习系统的基本组成部分，近年来受到越来越多的关注。然而，据我们所知，几乎所有现有的方法不能很好地工作在低资源的情况下，由于缺乏训练数据。幸运的是，在不同的语言学习任务之间存在一些潜在的共同模式，这为我们解决低资源的二语习得建模问题提供了机会。受此思想的启发，本文提出了一种新的SLA建模方法，该方法通过多任务学习来学习不同语言学习数据集之间的潜在共同模式，并进一步应用于提高低资源场景下的预测性能。大量的实验表明，所提出的方法比国家的最先进的基线在低资源的情况下表现得更好。同时，在非低资源情况下，它也略有改善。
2020-08-31 cs.CL
Language Acquisition Device in Large Language Models
The University of Tokyo（东京大学）
本文提出了一种受语言习得装置启发的预预训练方法，通过在MP-STRUCT形式语言上进行预训练，提高了大型语言模型的数据效率，并展示了其对结构不合理的语言的抗性。
2026-05-16 cs.CL
Co-evolution of Language and of the Language Acquisition Device
在语法习得过程中参数设置的一个新的帐户广义范畴语法嵌入在一个默认的继承层次，提供了一个自然的偏序参数的设置。实验表明，在这个框架中可以定义几个实验有效的学习者。进化模拟表明，一个学习者与默认的初始设置参数将出现，只要学习是记忆有限的语言适应的环境中包含一个适当的语言。
1997-05-01 cmp-lg cs.CL
Seeing, Signing, and Saying: A Vision-Language Model-Assisted Pipeline for Sign Language Data Acquisition and Curation from Social Media
German Research Center for Artificial Intelligence (DFKI GmbH)（德国人工智能研究中心（DFKI GmbH））；Saarland Informatics Campus（萨尔兰州信息技术校区）；Barcelona Supercomputing Center (BSC-CNS)（巴塞罗那超级计算中心（BSC-CNS））
针对现有手语翻译数据集规模小、成本高的问题，提出首个基于视觉语言模型的自动标注过滤流水线，可从社交媒体多语言手语视频中获取整理数据，建立相关模型评估基准，支撑可扩展弱监督预训练。
2025-10-29 cs.CL
On the Acquisition of Shared Grammatical Representations in Bilingual Language Models
UCSD（加州大学圣地亚哥分校）；EleutherAI；MIT（麻省理工学院）
通过控制数据量和语言接触顺序训练小型双语模型，并利用结构启动方法，揭示跨语言语法共享表征的不对称性及其在类型学差异较大语言上的局限性。
2025-06-03 cs.CL
Project MOSLA: Recording Every Moment of Second Language Acquisition
Octanove Labs（奥克塔诺夫实验室）；Earth Species Project（地球物种项目）；Mantra Inc.（曼特拉公司）
Project MOSLA构建了一个纵向、多模态、多语言且受控的第二语言习得数据集，通过两年在线教学录制并半自动标注，揭示了学习者语言能力发展规律及多模态焦点检测潜力，为相关研究提供宝贵资源。
2024-03-26 cs.CL
Language Independent Acquisition of Abbreviations
IBM Research（IBM研究院）
本文讨论了从纯非结构化文本中自动提取缩写词（包括首字母缩略词和缩写词）以及相应的长形式扩展。我们创建并将发布一个多语言资源，用于缩略语及其相应的扩展，通过利用维基百科重定向和消歧页面自动构建，可以用作评估的基准。我们解决了以前的工作中只使用重定向页面的缺点，所以每个缩写只有一个扩展，即使多个不同的扩展是可能的许多缩写。我们还开发了一个原则性的机器学习为基础的方法，使用不同的技术，如近义词，主题相关性和表面相似性的指标来评分扩展候选人。我们在七种语言中表现出了改进的性能，其中包括两种非拉丁字母，相对于强基线。
2017-09-23 cs.CL
Acquisition of Translation Lexicons for Historically Unwritten Languages via Bridging Loanwords
The College of New Jersey（新泽西学院）；The Ohio State University（俄亥俄州立大学）
随着社交媒体等非正式电子通信的出现，历史上不成文的口语第一次在代码转换严重的环境中被写入。我们提出了一种方法，通过使用专家知识，在这些设置中，有大约为零的资源以外的语言线人，甚至可能没有大量的单语数据的翻译词典的部分。我们调查诱导摩洛哥Darija英语翻译词汇通过法语借词桥接到英语，并发现一个有用的词汇诱导人工辅助翻译和统计机器翻译。
2017-08-20 cs.CL
Generalizing Multimodal Pre-training into Multilingual via Language Acquisition
Renmin University of China（中国人民大学）
基于英语的视觉语言预训练（VLP）在各种下游任务中取得了巨大的成功。已经采取了一些努力，通过多语言视觉语言预训练（M-VLP）将这一成功推广到非英语语言。然而，由于语言数量庞大，M-VLP模型往往需要巨大的计算资源，并且不能灵活地扩展到新的语言。在这项工作中，我们提出了一个\textbf{M}多\textbf{L}语言\textbf{A}采集（MLA）框架，可以很容易地推广到多语言的单语视觉语言预训练模型。具体来说，我们设计了一个轻量级的语言习得编码器的基础上，最先进的单语VLP模型。我们进一步提出了一个两阶段的训练策略来优化语言习得编码器，即母语迁移阶段和语言暴露阶段。在使用更少的多语种训练数据和计算资源的情况下，我们的模型在多语种图像-文本和视频-文本检索基准测试中达到了最先进的性能。
2022-05-29 cs.AI cs.CL
Review of Unsupervised POS Tagging and Its Implications on Language Acquisition
University of California Irvine（加州大学欧文分校）
本文综述了无监督词性标注的各类工程方法，探讨了模型评估指标、约束学习的额外信息、上下文使用等共同主题，为句法范畴习得的认知研究及无监督POS标注的发展提供参考。
2023-12-15 cs.CL
Rethinking the Evaluating Framework for Natural Language Understanding in AI Systems: Language Acquisition as a Core for Future Metrics
Neurocreaciones（神经创意公司）
针对AI领域传统机器智能评估指标的局限，受大语言模型进展启发，提出从图灵测试转向以语言习得为核心的综合评估框架的范式转变，强调跨学科协作以构建更稳健可持续的评估路径。
2023-10-05 cs.AI cs.CL
Is neural language acquisition similar to natural? A chronological probing study
AIRI；HSE University（高等经济大学）；DeepPavlov；SberDevices
探测方法允许人们使用外部分类器和统计分析来获得存储在神经网络的内层中的语言现象的部分表示。预训练的基于transformer的语言模型被广泛用于自然语言理解（NLU）和自然语言生成（NLG）任务，使得它们最常用于下游应用。然而，几乎没有进行分析，无论是模型预先训练足够或包含与语言理论相关的知识。我们正在介绍Transformer英文模型的时间顺序探索研究，如MultiBERT和T5。在语料库的训练过程中，我们依次比较了模型学习到的语言信息。结果表明：1）语言信息是在训练的早期阶段获得的; 2）两种语言模型都表现出从语言的各个层面捕捉各种特征的能力，包括词法、句法甚至话语，但它们也可能在被认为很容易的任务上失败。我们还介绍了开放源代码框架的时间顺序探测研究，与其他基于transformer的模型兼容。https://github.com/EkaterinaVoloshina/chronological_probing
2022-07-01 cs.CL
Emergent Language Generalization and Acquisition Speed are not tied to Compositionality
Facebook AI（Facebook人工智能）；ICREA
当神经代理进行通信以解决联合任务时出现的离散语言的研究通常会寻找组成结构的证据。这源于这样一种期望，即这种结构将允许代理更快地获得语言，并使它们能够更好地泛化。我们认为，这些有益的属性只是松散地连接到组合。在两个实验中，我们证明，根据任务，非组合语言可能会表现出相同的，或更好的，泛化性能和采集速度比组合的。该领域的进一步研究应该更清楚地了解组合性的预期好处，以及后者将如何导致它们。
2020-04-25 cs.CL cs.LG
Active Learning with Tabular Language Models
Siemens AG（西门子股份公司）；LMU（慕尼黑大学）
尽管最近在表格语言模型研究方面取得了进展，但实际应用仍然具有挑战性。在工业中，电子表格中有大量的表格，但是获取大量的标签是昂贵的，因为只有专家才能注释通常具有高度技术性和特定领域的表格。主动学习可以潜在地降低标注成本，然而，到目前为止，还没有与表格语言模型结合的主动学习相关的工作。在本文中，我们研究了不同的采集功能，在现实世界中的工业表格语言模型用例的子单元命名实体识别。我们的研究结果表明，内置多样性的细胞级采集功能可以显着减少标记的努力，而强制表的多样性是有害的。我们进一步看到了关于计算效率和人类注释者的观点的开放的基本问题。
2022-11-08 cs.CL
Evaluating Neural Language Models as Cognitive Models of Language Acquisition
University of Pennsylvania（宾夕法尼亚大学）；Stony Brook University（石溪大学）
本文指出现有神经语言模型语法能力评估基准不够严谨，建议使用经过严格评估的语料库以更准确研究语言习得机制。
2023-10-31 cs.AI cs.CL
Tracing Morphology, Semantics, and Divergence in Language Acquisition
Futurewei Technologies, USA（华为技术有限公司）
本研究以Pythia、OLMo等开源LLM为对象，利用中间检查点探究语言习得轨迹，发现模型先习得形态结构后稳定语义嵌入，训练数据集规模正向影响差异识别，预训练共现与推理重复则负向影响该能力及关联链接生成。
2026-10-15 cs.CL cs.LG
Interactive Natural Language Acquisition in a Multi-modal Recurrent Neural Architecture
Universität Hamburg（汉堡大学）
对于使我们能够用自然语言进行交流的复杂的人类大脑，我们收集了对语言习得和处理的基本原则的良好理解，关于社会文化条件的知识，以及对大脑活动模式的见解。然而，我们还不能理解自然语言的行为和机制特征，以及大脑中的机制如何允许获得和处理语言。在桥接的见解，从行为心理学和神经科学，本文的目标是有助于适当的特征，有利于语言习得的计算理解。因此，我们提供的概念和改进的认知建模的原则和机制，在大脑中，并提出了一个神经认知似是而非的模型体现语言习得从现实世界的互动的人形机器人与它的环境。特别是，该架构由一个连续时间递归神经网络，其中部分具有不同的泄漏特性，因此在多个时间尺度上运行的每一种模式和所有模式的更高级别的节点到细胞组件的关联。该模型能够学习语言生产接地，时间动态体感和视觉，并具有层次概念抽象，概念分解，多模态集成和自组织的潜在表示。
2018-02-07 cs.CL q-bio.NC
Prosodic Features from Large Corpora of Child-Directed Speech as Predictors of the Age of Acquisition of Words
University of Edinburgh（爱丁堡大学）；Stanford University（斯坦福大学）
儿童习得语言的能力是一个被广泛研究的现象，影响词汇学习速度和模式的因素仍然是一个活跃的研究课题。虽然已经提出了许多模型来预测词汇习得的年龄，但很少强调儿童获得的原始输入。在这项工作中，我们提出了一个比较大规模的多模态语料库的韵律文本对齐的儿童导向语音。我们的语料库包含自动提取的词级韵律特征，我们调查这些信息作为预测年龄的收购的效用。我们表明，韵律功能提高预测能力的正则化回归，并证明他们的效用的背景下，多模态分解语言模型训练和测试儿童导向的语音。
2017-09-27 cs.CL
A Language-agnostic Model of Child Language Acquisition
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；Computer Science and Engineering, Hebrew University of Jerusalem（耶路撒冷希伯来大学计算机科学与工程学院）；School of Computing and Information Systems, University of Melbourne（墨尔本大学计算与信息系统学院）；Department of Linguistics, Macquarie University（麦考瑞大学语言学系）；School of Computing, Macquarie University（麦考瑞大学计算学院）
本研究重新实现英语语义引导儿童语言习得模型以学习希伯来语，发现其虽可迁移但受限于形态丰富性导致学习变慢且鲁棒性降低，未来需利用词汇形式相似性改进。
2024-08-22 cs.AI cs.CL
HSKBenchmark: Modeling and Benchmarking Chinese Second Language Acquisition in Large Language Models through Curriculum Tuning
HSKBenchmark通过课程调优构建首个中文SLA大语言模型基准，涵盖HSK 3-6级，提供教学文本、合成指令和评估系统，验证LLMs在写作和语法上的表现。
2025-11-19 cs.AI cs.CL
Tracing Multilingual Knowledge Acquisition Dynamics in Domain Adaptation: A Case Study of English-Japanese Biomedical Adaptation
The University of Tokyo（东京大学）；National Institute of Informatics（日本信息机构）；Institute of Industrial Science, The University of Tokyo（东京大学工业科学研究所）
本研究通过提出自适应评估方法AdaXEval，追踪LLM在多语言领域适应中的知识获取动态，发现跨语言迁移在英日生物医学场景下仍具挑战性。
2025-10-14 cs.CL
What Exactly do Children Receive in Language Acquisition? A Case Study on CHILDES with Automated Detection of Filler-Gap Dependencies
Department of Linguistics, Yale University（耶鲁大学语言学系）；Department of Computer Science, Yale University（耶鲁大学计算机科学系）；Wu Tsai Institute, Yale University（耶鲁大学吴氏研究所）
通过自动检测英语口语语料中的三种核心填充词-空位结构，量化儿童语言输入中的分布证据，并分析儿童产出轨迹，为先天语法知识与统计学习之争提供数据支持。
2026-05-28 cs.CL
SLATE: Are AI-Generated Slides Educationally Effective? A Benchmark for Language Teaching Quality and Learner Knowledge Acquisition
Beijing Normal University（北京师范大学）；University of Science and Technology of China（中国科学技术大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Beijing Language and Culture University（北京语言大学）；Tsinghua University（清华大学）
SLATE基准通过前测-后测设计评估AI生成语言教学幻灯片，发现教学设计比内容有效性更影响学习收益，且前沿模型可能产生负学习收益，呼吁转变评估范式。
2026-09-09 cs.CL
Islamic Large Language Models: From Knowledge Acquisition to Trustworthy and Hallucination-Resistant AI
Paris Dauphine University（巴黎多芬纳大学）
综述伊斯兰大语言模型领域，提出构建可信、抗幻觉的伊斯兰AI需结合阿拉伯语NLP、检索增强生成、教法学派推理及专家评估等关键技术。
2026-06-16 cs.CL
Unsupervised Language Acquisition
本文提出了一种无监督语言习得的计算理论，精确地定义了从普通的口语或书面语中学习语言的过程，没有老师的明确帮助。该理论在很大程度上基于从机器学习和统计估计中借用的概念。特别是，学习是通过将语言的随机生成模型与证据相匹配来进行的。本文的大部分内容都致力于解释这种一般学习策略达到语言学上理想的语法所必须具备的条件。本文介绍了各种技术创新，其中包括一个共同的证据和语法表示，和一个学习策略，分离的“内容”的语言参数从他们的表示。基于它的算法很少遇到困扰其他语言习得计算方法的搜索问题。该理论已被测试的问题，学习词汇和语法，从未分割的文本和连续的语音，和声音之间的映射和表示的意义。它在各种客观标准上都表现得非常好，获得的知识使它能够像人类一样为话语分配几乎完全相同的结构。这项工作已应用于数据压缩，语言建模，语音识别，机器翻译，信息检索，以及其他依赖于语言的结构或随机描述的任务。
1996-11-12 cmp-lg cs.CL
Diagnosing Moral Reasoning Acquisition in Language Models: Pragmatics and Generalization
Michigan State University（密歇根州立大学）；Johns Hopkins University（约翰霍普金斯大学）；University of Illinois Chicago（伊利诺伊大学香槟分校）
本研究探讨当前学习范式能否让大语言模型获得足够道德推理能力，借鉴分布语义学与道德话语语用性质，发现性能提升受话语中隐含道德语用影响，提出“语用困境”现象，并指出其限制泛化能力，成为道德推理习得的主要瓶颈。
2025-10-08 cs.CL
Interactive Language Acquisition with One-shot Visual Concept Learning through a Conversational Game
Baidu Research - Institue of Deep Learning（百度研究院 - 深度学习研究所）；National Engineering Laboratory for Deep Learning Technology and Applications（深度学习技术及应用国家工程实验室）
构建能够用自然语言与人类交流并向人类学习的智能代理具有重要价值。监督式语言学习主要受限于获取训练数据的统计信息的能力，并且很难适应新的场景或灵活地获取新知识而不进行低效的再训练或灾难性遗忘。我们强调的观点，会话互动作为一个自然的界面，既为语言学习和新的知识获取，并提出了一个联合模仿和强化的方法，通过互动的会话游戏接地语言学习。用这种方法训练的代理能够通过询问有关新对象的问题来主动获取信息，并以一次性方式在随后的对话中使用刚刚学习的知识。通过与其他方法的比较，验证了该方法的有效性。
2018-04-26 cs.AI cs.CL
A Knowledge-Based Language Model: Deducing Grammatical Knowledge in a Multi-Agent Language Acquisition Simulation
Leiden University Centre for Linguistics (LUCL), Leiden University, the Netherlands（莱顿大学语言学中心（LUCL）、莱顿大学、荷兰）；Leiden Institute for Brain and Cognition (LIBC), Leiden University, the Netherlands（莱顿脑与认知研究所（LIBC）、莱顿大学、荷兰）；City University of Hong Kong (CityU), Hong Kong（香港城市大学（CityU）、香港）
MODOMA系统通过多智能体模拟实现了基于知识的语言模型，展示了儿童智能体在不同示例数据下习得语法类别的能力。
2025-12-01 cs.AI cs.CL cs.LG
Does Vision Accelerate Hierarchical Generalization in Neural Language Learners?
MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本研究通过刺激贫乏范式实验，探究视觉信息对语言模型句法泛化的影响，发现清晰的语言-视觉对齐能加速泛化，否则无效，并强调需额外信号增强跨模态对齐。
2024-12-17 cs.CL
Towards a Workbench for Acquisition of Domain Knowledge from Natural Language
在本文中，我们描述了一个工作台的主要组件的架构和功能，从大型文本语料库的领域知识的收购。该工作台支持语料库分析的增量过程，从粗略的自动提取和组织的词汇语义匹配开始，并以计算机支持的分析提取的数据和半自动细化获得的假设结束。为了做到这一点，工作台采用了计算语言学，信息检索和知识工程的方法。虽然工作台目前正在实施中，它的一些组件已经实现，他们的性能说明与工程的医疗领域的样本。
1996-04-30 cmp-lg cs.CL
From Regular to Context Free to Mildly Context Sensitive Tree Rewriting Systems: The Path of Child Language Acquisition
当前的句法理论严重限制了语法变异的范围，以至于语法学习的逻辑问题变得微不足道。然而，儿童至少在六岁之前表现出句法发展的特征阶段。而不是假定成熟的延迟，我认为，收购困难的结果，在操纵语法表示的限制。我认为，复杂的句子的起源反映了生成能力的系统产生的结构描述：连体条款只需要一个定期的树重写系统;嵌入使用上下文无关的树替代语法;修改需要TAG，一个温和的上下文敏感系统。
1994-11-04 cmp-lg cs.CL
Language acquisition: do children and language models follow similar learning stages?
Meta AI；Laboratoire des systèmes perceptifs（感知系统实验室）；École normale supérieure（巴黎高等师范学院）；PSL University（巴黎文理研究大学）；Cognitive Neuroimaging Unit（认知神经影像单元）；CEA（法国原子能和替代能源委员会）；INSERM（法国国家健康与医学研究院）；Université Paris-Saclay（巴黎萨克雷大学）；NeuroSpin Center（神经自旋中心）
本文通过从零训练48个 GPT-2 并用96个探针追踪其句法、语义能力，再与54名儿童对比，发现二者既有系统化、并行的共同习得阶段，也存在关键差异。
2023-06-06 cs.AI cs.CL
Deriving dynamical systems for language based on the Tolerance Principle
在本研究报告中，我在习得驱动的框架内推导出语言的显式动力系统（Niyogi \& Berwick，1997; Niyogi，2006），假设儿童/学习者遵循容忍原则（Yang，2016）来确定规则在语言习得过程中是否有效。我考虑了不同的理论参数，如人口规模（有限与无限）和为学习者提供数据的前几代人的数量。这里获得的动力学的多个模拟和应用程序的diacrhonic语言数据正在准备中，所以它们不包括在第一个注释中。
2022-11-05 cs.CL
Bayesian Optimization for Enhanced Language Models: Optimizing Acquisition Functions
Fuzhou University（福州大学）；Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学）；Dalian University of Technology（大连理工大学）
针对语言模型微调中超参数优化忽视采集函数选择的问题，提出结合模型融合与双层贝叶斯优化的方法，在GLUE任务上使用RoBERTa-base验证，微调性能提升达2.7%。
2025-05-22 cs.AI cs.CL
Computational Language Acquisition with Theory of Mind
Harvey Mudd College（哈维穆德学院）；Carnegie Mellon University（卡内基梅隆大学）
与目前最先进的语言模型不同，幼儿通过与周围环境和照顾者的互动来主动习得语言。一种被认为对语言学习至关重要的机制是推断社会环境中其他主体的心理状态的能力，由Premack和Woodruff（1978）创造的心理理论（ToM）。从Rabinowitz et al.（2018）和Zhu et al.（2021）实现的ToM的现代操作化版本中汲取灵感，我们构建了配备ToM的语言学习代理，并测量其对学习过程的影响。我们给说话者代理一个内部的听者模型，该模型与说话者一起训练，并用于对潜在的话语进行重新排序。我们用不同的任务难度进行实验，假设模型将获得更复杂的语言来适应更强的环境压力。我们发现，训练扬声器与一个高度加权的ToM听众组件导致性能增益在我们的图像参考游戏设置。我们还发现一些证据表明，在训练过程中增加任务难度会导致更流畅和准确的话语评价。这表明进一步将心理理论以及儿童语言习得的其他见解纳入语言习得的计算模型的潜在效用。
2023-03-02 cs.AI cs.CL
Latent Knowledge as a Predictor of Fact Acquisition in Fine-Tuned Large Language Models
Department of Neurology and Rehabilitation, University of Illinois at Chicago（神经学与康复医学系，伊利诺伊大学芝加哥分校）；Engineering Program, Missouri State University（工程学院，密苏里州立大学）
研究通过微调大语言模型，发现潜在知识是预测事实获取速度和泛化能力的关键因素，同时揭示了训练强化对事实退化的影响。
2026-01-26 cs.CL
Spatio-Temporal Graph Neural Networks for Infant Language Acquisition Prediction
University of Liverpool（利物浦大学）
本研究针对现有模型单独使用无法充分捕捉婴儿语言习得复杂性的问题，提出融合多类语言关系的STGCN预测方法，实验显示其在感觉运动、语义关系下的词汇预测准确率优于2层前馈神经网络，且不同关系类型的召回率存在差异。
2025-03-18 cs.AI cs.CL
Temporal Common Sense Acquisition with Minimal Supervision
University of Pennsylvania（宾夕法尼亚大学）；Allen Institute for AI（艾伦人工智能研究所）
时间常识（例如，事件的持续时间和频率）对于理解自然语言至关重要。然而，它的获取是具有挑战性的，部分原因是这些信息往往没有明确地表达在文本中，并且人类对这些概念的注释是昂贵的。这项工作提出了一种新的序列建模方法，利用显式和隐式提到的时间常识，从一个大型语料库中提取，建立TACOLM，时间常识语言模型。我们的方法被证明是给质量预测的各种维度的时间常识（UDST和一个新收集的数据集从RealNews）。它还产生表示的相关任务，如持续时间比较，父子关系，事件相互引用和时间QA（在TimeBank，HiEVE和MCTACO），比使用标准的BERT更好。因此，它将是时态NLP的重要组成部分。
2020-05-08 cs.CL
Simulated Language Acquisition in a Biologically Realistic Model of the Brain
McGovern Institute for Brain Research（麦戈文脑科学研究所）；MIT Cambridge, MA（麻省理工学院）；Department of Computer Science（计算机科学系）；Columbia University（哥伦比亚大学）
本文基于六个神经科学原理构建了一个模拟神经形态系统，展示了从白板状态开始，通过接触适度数量的有语境句子，系统能够学习任何语言的词汇语义、句法角色和语序，并生成新句子，为神经元放电如何导致高级认知现象提供了新解释。
2025-07-15 cs.CL cs.NE
The Unsupervised Acquisition of a Lexicon from Continuous Speech
我们提出了一种无监督学习算法，从原始语音中获取自然语言词典。该算法基于MDL框架中符号序列的最佳编码，并使用语言的分层表示，克服了许多阻碍以前的语法归纳过程的问题。从符号序列到语音流的前向映射使用基于发音手势的特征来建模。我们目前的结果，从原始语音，文本和语音成绩单的词汇和语言模型的收购，并证明我们的算法相比，非常有利的分割性能和统计效率方面的其他报告的结果。
1995-12-13 cmp-lg cs.CL
Memory-Based Lexical Acquisition and Processing
目前语言技术中的计算词汇学方法是基于知识（面向能力）的，并试图从特定的形式主义，领域和应用中抽象出来。这导致了严重的复杂性、获取和可重用性瓶颈。作为替代方案，我们提出了一个特定的性能为导向的方法，自然语言处理的基础上自动记忆为基础的学习语言（词汇）任务。计算词汇学的方法的后果进行了讨论，并描述了一些词汇习得和消歧任务的语音，形态和句法的方法的应用。
1994-05-16 cmp-lg cs.CL
WinoDict: Probing language models for in-context word acquisition
Google Research（谷歌研究院）；University of Cambridge（剑桥大学）
我们引入了一个新的上下文学习范式来衡量大语言模型（LLM）在推理过程中学习新单词的能力。特别是，我们重写了Winograd风格的共指消解问题，用一个合成的但似乎合理的词来替换关键概念词，模型必须理解这个词才能完成任务。解决这个任务需要模型使用提示中给出的新词的字典定义。这个基准解决了单词习得问题，这是困扰LLM的历时性退化的一个重要方面。由于LLM在接受培训时被冻结，因此它们通常无法反映语言随时间变化的方式。我们发现，在我们的基准测试中，与原始Winograd任务相比，LLM的准确性大幅下降，从而确定了当前模型的局限性，并提供了一个基准来衡量LLM在上下文学习能力方面的未来改进。
2022-09-25 cs.AI cs.CL
