Exploring Large Language Models for Word Games:Who is the Spy?
本研究以“谁是卧底”游戏为例，提出基于思维链的无训练调度框架，提升大语言模型在文字游戏中的情境推理与身份伪装等能力，验证了其在结构化游戏社交互动中的潜力。
2025-03-19 cs.AI cs.CL
A Neural Network Model of Lexical Competition during Infant Spoken Word Recognition
University of Oxford（牛津大学）
视觉世界的研究表明，当听到一个词在一个目标缺席的视觉环境中包含相关和不相关的项目，幼儿和成人短暂地将他们的目光转向语音相关的项目，然后转向语义和视觉相关的。我们提出了一个神经网络模型，处理动态展开的语音表示，并将它们映射到静态的内部语义和视觉表示。该模型，来自真实语料库的表示训练，模拟这种早期的语音语义/视觉偏好。我们的研究结果支持这一假设，增量展开的口语本身就足以占语音竞争对手的短暂偏好无关和语义和视觉相关的。语音表征动态映射在一个自下而上的方式语义视觉表征捕捉早期语音偏好的视觉世界任务中报告的影响。在这种试验中观察到的语义视觉偏好不需要语义或视觉系统自上而下的反馈。
2020-06-01 cs.CL cs.LG q-bio.NC
Communicative need modulates competition in language change
University of Edinburgh（爱丁堡大学）
所有现存的语言都会随着时间的推移而变化。其原因是多方面的，其中之一是新的语言成分的出现和借用。新成分与语义或语法功能相似的旧成分之间的竞争可能会导致说话者更喜欢其中一个，而放弃另一个。我们介绍了一种通用的方法来量化历时语料库中的语言元素之间的竞争，它不需要语言特定的资源，比足够大的语料库。这种方法很容易适用于广泛的语言和语言子系统。在这里，我们将其应用于词汇数据在五个语料库不同的语言，类型，体裁和时间跨度。我们发现，交际需求的变化是一致的预测词汇竞争动态。近似同义词更有可能直接竞争，如果它们属于一个话题，其重要性是随着时间的推移，语言使用者是恒定的，可能会导致其中一个竞争词的灭绝。相比之下，在对语言使用者越来越重要的话题中，近同义词往往不直接竞争，而是可以共存。这表明，除了词与词之间的直接竞争外，语言变化还可能受到主题或语义子空间之间的竞争的驱动。
2020-06-16 cs.CL
A Neural Network Architecture for Learning Word-Referent Associations in Multiple Contexts
Universidade Federal de Pernambuco（伯南布哥联邦大学）
本文提出了一个生物启发的神经计算架构，学习在不同的上下文中的单词和所指对象之间的关联，考虑从心理语言学和神经语言学的文献收集的证据。多层架构将对象的原始图像作为输入该方法利用自组织映射（Self-Organizing Map）建立新的关联节点，将词的指称对象（references）和音素流（labels）建立适当的表示，识别当前上下文，并将labels与指称对象（references）逐步关联根据需要，调整现有原型以更好地表示输入刺激，并删除过时/未使用的原型。该模型考虑了当前上下文，以检索具有多个含义的单词的正确含义。仿真结果表明，该模型在歧义情况下的词指联想准确率可达78%，与三位作者在五个跨情境词学习实验中的学习率相当，在不同的学习条件下也表现出相似的学习模式。
2019-05-20 cs.CL cs.LG stat.ML
PTC-Bias: Phoneme-Level Temporal Competition for Bias Retrieval and Post-Decoding Correction in Speech LLMs
Shanghai University（上海大学）
提出PTC-Bias，通过音素级时间竞争的两阶段框架（检索与解码后校正），有效利用大规模偏置列表，在LibriSpeech上显著降低B-WER且不损害U-WER。
2026-09-25 cs.CL cs.SD
Reed at SemEval-2020 Task 9: Fine-Tuning and Bag-of-Words Approaches to Code-Mixed Sentiment Analysis
Reed College（里德学院）
我们探索的任务情感分析的印度式英语（代码混合印度语-英语）推文的SemEval-2020比赛的任务9的参与者，被称为SentiMix任务。我们有两个主要的方法：1）通过微调预训练的BERT模型来应用迁移学习，以及2）在词袋表示上训练前馈神经网络。在比赛的评估阶段，我们使用最佳模型获得了71.3%的F分数，这使得$4^{th}$在官方系统排名中脱颖而出。
2020-08-04 cs.CL
Modelling word learning and recognition using visually grounded speech
Radboud University（拉德堡德大学）；Delft University of Technology（代尔夫特理工大学）
背景：语音识别的计算模型通常假设目标词的集合已经给定。这意味着这些模型在没有先验知识和明确监督的情况下无法从头开始学习识别语音。基于视觉的语音模型通过利用语音和视觉输入之间的统计依赖关系，在没有先验知识的情况下学习识别语音。虽然以前已经表明，视觉接地语音模型学习识别输入中的单词的存在，我们明确调查这样的模型作为人类语音识别的模型。研究方法：我们调查的时间过程中的单词识别模拟的模型，使用门控范式，以测试其识别是否受到众所周知的词竞争效应在人类语音处理。我们进一步调查是否矢量量化，离散表示学习的技术，艾滋病的发现和识别的话的模型。结果/结论：我们的实验表明，该模型能够孤立地识别名词，甚至能够正确区分复数名词和单数名词。我们还发现，识别的影响字竞争的字初始队列和邻居密度，反映了字竞争效应在人类的语音理解。最后，我们没有发现任何证据表明矢量量化有助于发现和识别单词。我们的门控实验甚至表明，矢量量化模型需要更多的输入序列的正确识别。
2022-03-14 cs.CL
Word sense disambiguation: a survey
Jadavpur University（贾达普大学）
本文对词义消歧技术进行了综述。世界上几乎所有的主要语言都对词义消歧进行了不同程度的研究。在本文中，我们已经通过了一个调查，在不同的研究工作中采用的不同方法，在这一领域的表现，在不同的印度语言，最后在孟加拉语的调查最近的作品的艺术状态。我们对这一领域的各种比赛以及从这些比赛中获得的基准结果进行了调查。
2015-08-06 cs.CL
Word learning under infinite uncertainty
University of Edinburgh（爱丁堡大学）；University of Stirling（斯特林大学）
语言学习者必须学习成千上万个单词的含义，尽管这些单词出现在复杂的环境中，学习者可能会推断出无限多的含义作为单词的真正含义。这个无限参照不确定性的问题通常归因于威拉德·范·奥曼·奎因。我们提供了一个数学形式化的一个理想的跨情境的学习者试图学习无限的参考不确定性，并确定条件下，单词学习是可能的。正如奎因的直觉所暗示的那样，在无限不确定性下的学习实际上是可能的，只要学习者有一些根据其可解释性对候选词义进行排名的方法;此外，我们的分析表明，这种排名实际上可能非常弱，这意味着允许学习者推断候选词义的可解释性的约束本身可能很弱。这种方法解除了解释的负担，从“聪明”的词学习的限制，在学习者，并建议一个方案的研究弱，不可靠的，概率的限制，在真正的词学习者的词义推断。
2016-02-10 cs.CL physics.soc-ph
UnibucKernel: A kernel-based learning method for complex word identification
University of Bucharest（布加勒斯特大学）；Department of Computer Science（计算机科学系）
在本文中，我们为2018年复杂词识别（CWI）共享任务提出了一种基于内核的学习方法。我们的方法是基于结合多个低级别的功能，如字符n-grams，与高级语义功能，无论是自动学习使用词嵌入或提取的词汇知识库，即WordNet。在特征提取之后，我们在学习阶段采用核方法。首先将特征矩阵变换为归一化核矩阵。对于二元分类任务（简单与复杂），我们采用支持向量机。对于回归任务，我们必须预测一个词的复杂程度（如果一个词被更多的注释者标记为复杂，那么它就更复杂），我们使用v-Support Vector Regression。我们应用我们的方法只对三个英文数据集包含来自维基百科，维基新闻和新闻领域的文件。我们在比赛中的最好成绩是英文维基百科数据集的第三名。然而，在本文中，我们也报告了更好的赛后结果。
2018-05-22 cs.CL
MEWL: Few-shot multimodal word learning with referential uncertainty
Peking University（北京大学）；Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院）；Beijing Institute of Technology（北京理工大学）；Yangtze Delta Region Academy of Beijing Institute of Technology（北京理工大学长三角研究院）
针对机器类人词汇学习缺乏严格评测的问题，提出MEWL少样本多模态基准，通过九项接地视觉场景任务考察跨情境推理、自举和语用学习，并对比人类表现揭示人机差异。
2023-06-01 cs.AI cs.CL cs.CV
Stochastic dynamics of lexicon learning in an uncertain and nonuniform world
Technische Universität München（慕尼黑工业大学）；University of Edinburgh（爱丁堡大学）
我们研究的时间由一个语言学习者正确识别的词汇中的所有单词的含义的条件下，可以推断出许多似是而非的含义，每当一个词是说出。我们发现，最基本的形式的跨情境学习--将来自多个事件的信息结合起来以消除不正确的含义--在独立学习单词和从非均匀分布中提取含义时会表现不佳。如果学习者进一步假设，没有两个单词共享一个共同的含义，我们发现一个相变之间的最高效率的学习制度，其中的学习时间减少到最短的，它可能是，和部分有效的制度，不正确的候选含义的话，坚持在晚些时候。我们通过一个等价的统计力学问题的枚举循环空间中的词义映射的单词学习过程中获得确切的结果。
2013-05-31 cond-mat.stat-mech cs.CL physics.soc-ph
UPB at SemEval-2021 Task 1: Combining Deep Learning and Hand-Crafted Features for Lexical Complexity Prediction
University Politehnica of Bucharest（布加勒斯特理工大学）
阅读是一个复杂的过程，需要正确理解文本，以创造连贯的心理表征。然而，由于难以理解的部分可能会出现理解问题，这可能会给读者带来麻烦，同时考虑到他们特定的语言技能。因此，可以通过准确地识别和评估困难的结构来执行简化这些部分的步骤。在本文中，我们描述了SemEval-2021任务1：词汇复杂度预测竞赛的方法，该竞赛由高级NLP技术的混合物组成，即基于transformer的语言模型，预训练的词嵌入，图卷积网络，胶囊网络，以及一系列手工制作的文本复杂度特征。我们的模型适用于这两个子任务，并取得了良好的性能结果，MAE低于0.07和一个人的相关性为0.73的单字识别，以及MAE低于0.08和一个人的相关性为0.79的多个字的目标。在第一和第二子任务上，我们的结果分别比比赛中获得的最高分数低5.46%和6.5%。
2021-04-14 cs.CL
GradAscent at EmoInt-2017: Character- and Word-Level Recurrent Neural Network Models for Tweet Emotion Intensity Detection
University of Hamburg（汉堡大学）
WASSA 2017年的任务是预测推文信息的情绪强度值。给定一条推文的文本及其情绪类别（愤怒、喜悦、恐惧和悲伤），参与者被要求构建一个分配情绪强度值的系统。情感强度估计是一个具有挑战性的问题，因为推文的长度很短，文本的噪声结构和缺乏注释的数据。为了解决这个问题，我们开发了两个神经模型的集成，处理字符上的输入。和单词级的词汇驱动系统。对所有四种情绪的相关性得分进行平均，以确定底线竞争指标，我们的系统在撰写本文时（2017年6月）的23个系统中，在全强度范围内排名第四，在0.5-1强度范围内排名第三。
2018-03-30 cs.CL
Detecting Intentional Lexical Ambiguity in English Puns
Tyumen State University（秋明国立大学）
本文描述了一个双关语的自动分析模型，其中一个词被有意地同时用于两种意义（目标词）。我们采用Roget的词库发现两组单词，在一个双关语，形成围绕两个抽象位的意义（义素）。它们成为一个语义向量，基于此SVM分类器学习识别双关语，F-测量的得分达到0.73。我们采用几种基于规则的方法来定位故意歧义（目标）的话，基于结构和语义标准。结构标准似乎更有效，尽管它可能仅表征测试数据集。考虑到使用监督学习模型和单词统计的效果，我们得到的结果与SemEval-2017比赛（任务7英语双关语的检测和解释）中其他团队的结果相关。
2017-07-18 cs.CL
COGNAC at SemEval-2026 Task 5: LLM Ensembles for Human-Level Word Sense Plausibility Rating in Challenging Narratives
Florida International University Knight Foundation School of Computing and Information Sciences（佛罗里达国际大学骑士基金会计算与信息科学学院）
本文提出使用多个闭源商业LLM的集成方法，通过三种提示策略提升短篇故事中多义词词义可信度评估的准确性，最终在比赛中获得第四名。
2026-03-16 cs.AI cs.CL
NL4Opt Competition: Formulating Optimization Problems Based on Their Natural Language Descriptions
Huawei Technologies Canada（华为加拿大技术公司）；University of British Columbia（不列颠哥伦比亚大学）；Ivey Business School（毅伟商学院）
自然语言优化（NL 4 Opt）竞赛旨在研究基于文本描述提取优化问题的含义和公式的方法。具体来说，比赛的目标是通过允许非专家使用自然语言与优化求解器进行交互来提高优化求解器的可访问性和可用性。我们将这个具有挑战性的目标分为两个子任务：（1）识别和标记与优化问题的组件相对应的语义实体;（2）生成含义表示（即，逻辑形式）的问题。第一个任务旨在通过检测和标记优化问题的实体来减少歧义。第二个任务创建线性规划（LP）问题的中间表示，将其转换为可由商业求解器使用的格式。在本报告中，我们介绍了NeurIPS 2022竞赛的LP单词问题数据集和共享任务。此外，我们调查和比较ChatGPT大语言模型的性能对获胜的解决方案。通过这次比赛，我们希望能够为开发新的机器学习应用程序和优化建模数据集带来兴趣。
2023-03-27 cs.AI cs.CL
Lexical Complexity Prediction: An Overview
George Mason University（乔治梅森大学）；Manchester Metropolitan University（曼彻斯特城市大学）
语篇中未登录词的出现严重阻碍了阅读理解。为了提高特定目标人群的可获得性，已采用计算模型来识别文本中的复杂单词，并用较简单的替代词代替它们。在本文中，我们提出了一个概述的词汇复杂度预测的计算方法，重点是对英语数据进行的工作。我们调查了这个问题的相关方法，包括传统的机器学习分类器（例如SVM，逻辑回归）和深度神经网络以及各种功能，例如受心理语言学文献启发的功能以及词频，字长等。此外，我们还向读者介绍了过去的比赛和关于这个主题的可用数据集。最后，我们将简要介绍词汇复杂性预测的应用，如可读性和文本简化，以及英语以外的其他语言的相关研究。
2023-03-08 cs.CL
Fine-tuning Tree-LSTM for phrase-level sentiment classification on a Polish dependency treebank. Submission to PolEval task 2
Institute of Philosophy and Sociology, Polish Academy of Sciences（波兰科学院哲学与社会学研究所）；University of Warsaw（华沙大学）
我们描述了Child-Sum Tree-LSTM深度神经网络（Tai et al，2015）的一个变体，它被微调为使用依赖树和形态丰富的语言，使用波兰语的例子。微调包括应用自定义正则化技术（zoneout，由Krueger等人，2016），并进一步适用于Tree-LSTM）以及使用用子词信息增强的预训练的词嵌入（Bojanowski等人，2016年）。该系统在PyTorch中实现，并作为PolEval竞赛的一部分在短语级情感标签任务上进行评估。
2017-11-03 cs.CL
Linear programming word problems formulation using EnsembleCRF NER labeler and T5 text generator with data augmentations
Infrrd AI Lab（Infrrd人工智能实验室）
我们提出了一种集成方法来预测线性规划应用题中的标签。实体识别和意义表征是NL4Opt竞赛中需要解决的两类任务。我们提出了ensembleCRF方法来识别命名实体的第一个任务。我们发现，在我们的分析中，单一模型并没有改善给定的任务。一组预测模型预测实体。在ensembleCRF方法中，将生成的结果合并以形成共识结果。我们提出了一个合奏文本生成器产生的代表性句子的第二个任务。由于输出中的溢出，我们考虑将问题划分为多个小任务。单个模型会根据提示生成不同的表示。所有生成的文本被组合以形成一个集合，并产生线性规划问题的数学意义。
2022-12-30 cs.AI cs.CL
A Feature Extraction based Model for Hate Speech Identification
Technische Universität Berlin（柏林工业大学）；German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
检测网上仇恨言论已成为一项重要任务，因为伤害性、淫秽和侮辱性内容等攻击性语言可能伤害边缘化的人或群体。本文介绍了柏林理工大学团队在2021年印欧语言仇恨言论和攻击性内容识别共享任务1A和1B上的实验和结果。不同的自然语言处理模型的成功是在整个比赛中为各自的子任务进行评估。我们在比赛提供的数据集上测试了基于单词和字符级别的递归神经网络的不同模型以及基于BERT的迁移学习方法。在已用于实验的测试模型中，基于迁移学习的模型在两个子任务中都取得了最好的结果。
2022-01-11 cs.AI cs.CL cs.LG
Context Aware Lemmatization and Morphological Tagging Method in Turkish
Kocaeli University（科贾埃利大学）
本文面向土耳其语提出结合双向 LSTM 与 Turkish BERT 的上下文感知词形还原和形态标注模型，并在 IMST、PUD 上验证其优于 SIGMORPHON 2019 结果。
2025-01-04 cs.AI cs.CL
Universal Complex Structures in Written Language
Centre de Recerca Matemàtica（数学研究中心）；Universitat Politecnica de Catalunya（加泰罗尼亚理工大学）；Universitat de Barcelona（巴塞罗那大学）
定量语言学为我们提供了一些经验法则，解释了语言的演变和语言之间的竞争。在语言使用方面，最有影响力的结果之一是齐普夫的词频定律。齐普夫定律似乎是普遍的，甚至可能不是人类语言所独有的。然而，Zipf定律是否是复杂性的良好指标一直存在争议。在这里，我们提出了一种替代方法，把齐普夫定律的关键现象（在物理学中的复杂性的基石）的背景下，并建立了一个大规模的“吸引力”连续重复的话之间的存在。此外，这种现象是尺度不变的和普遍的-模式是独立的词频和观察文本由不同的作者和写在不同的语言。然而，有证据表明，对于在文本中发挥关键作用的单词，缩放关系的形状会发生变化，这意味着单词重复中存在不同的“普遍性类”。这些行为与复杂的灾难现象有着惊人的相似之处。
2009-01-19 cs.CL physics.soc-ph
AILS-NTUA at SemEval-2024 Task 9: Cracking Brain Teasers: Transformer Models for Lateral Thinking Puzzles
本文通过微调多种规模的预训练 Transformer 语言模型参加 SemEval-2024 任务 9 的句子谜题和词语谜题两个子任务，最佳模型准确率分别达 81.7% 和 85.4%，显著超越 ChatGPT 基线。
2024-04-01 cs.AI cs.CL
1Cademy at Semeval-2022 Task 1: Investigating the Effectiveness of Multilingual, Multitask, and Language-Agnostic Tricks for the Reverse Dictionary Task
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of Michigan Ann Arbor（密歇根大学安娜堡分校）；San Diego State University（圣地亚哥州立大学）
本文介绍了我们的系统SemEval 2022任务匹配字典注释词嵌入。我们专注于反向字典轨道的竞争，它映射多语言的注释重建矢量表示。更具体地说，模型将输入的句子转换为三种类型的嵌入：SGNS，Char和Electra。我们提出了几个实验应用神经网络细胞，一般的多语言和多任务结构，和语言无关的技巧的任务。我们还提供了不同类型的词嵌入和消融研究的比较，以建议有用的策略。我们最初的基于变压器的模型实现了相对较低的性能。然而，不同的retokenization方法的试验表明性能有所改善。我们提出的基于Elmo的单语模型达到了最高的结果，其多任务和多语言品种也显示出竞争力。
2022-06-08 cs.CL
Character-Level Bangla Text-to-IPA Transcription Using Transformer Architecture with Sequence Alignment
Shahjalal University of Science and Technology（沙赫贾拉尔科技大学）
本研究针对孟加拉语IPA转写需求，提出轻量字符级Transformer序列到序列模型，结合人工映射处理标点与外来语，在ITVerse 2023挑战赛中以0.10582的词错误率夺冠。
2023-11-07 cs.CL
Verdi: Quality Estimation and Error Detection for Bilingual Corpora
University of Alberta（阿尔伯塔大学）；Tencent（腾讯）
翻译质量评估对于减少机器翻译中的后期编辑工作和跨语言语料库清理至关重要。作为一个研究问题，质量评估（QE）的目的是直接估计翻译的质量在一个给定的对源和目标的句子，并突出需要更正的单词，而不参考黄金翻译。在本文中，我们提出了威尔第，一个新的框架，词级和双语语料库的编辑后工作量估计。Verdi采用了两个词预测器来从一对句子中提取不同的特征，用于后续的质量估计，包括基于变换器的神经机器翻译（NMT）模型和预训练的跨语言语言模型（XLM）。我们利用双语语料库的对称性，并在NMT预测器中应用模型级双重学习，该预测器同时处理原始任务和双重任务，并进行权重共享，从而比单向NMT模型具有更强的上下文预测能力。通过利用双重学习方案，我们进一步设计了一个新的功能，直接编码翻译的目标信息，而不依赖于源上下文。在WMT20 QE任务上进行的大量实验表明，我们的方法击败了竞争对手，并大大优于其他基线方法。我们进一步使用Verdi提供的分级分数来清理并行语料库，并观察模型性能和训练效率的好处。
2021-09-03 cs.AI cs.CL
