Linguistic Descriptions for Automatic Generation of Textual Short-Term Weather Forecasts on Real Prediction Data
Research Centre on Information Technologies (CiTIUS), University of Santiago de Compostela（圣地亚哥-德孔波斯特拉大学信息技术研究中心（CiTIUS））；MeteoGalicia（加利西亚气象局）
在本文中，我们提出了一个应用程序，自动生成文本的每个城市在加利西亚（西班牙西北部）的短期天气预报，使用加利西亚气象局（MeteoGalicia）提供的真实数据。该解决方案以创新的方式将计算与感知技术和数据语言描述策略与自然语言生成（NLG）系统相结合。名为GALiWeather的应用程序从天气预报输入数据中提取相关信息，并使用语言变量和时间参考将其编码为中间描述。这些描述随后由自然语言生成系统翻译成自然语言文本。所获得的预测结果已经由来自MeteoGalicia的气象专家使用质量评估方法进行了彻底验证，该方法涵盖了文本的两个关键方面：其内容的准确性和其形式的正确性。在此验证之后，GALiWeather将作为一项真正的服务发布，为广大公众提供定制预报。
2014-11-18 cs.AI cs.CL
The Linguistic DS: Linguisitic Description in MPEG-7
MPEG-7（Moving Picture Experts Group Phase 7）是一个基于XML的多媒体内容语义描述的国际标准。本文档讨论了语言DS和相关工具。语言DS是基于GDA标签集（http：//i-content.org/GDA/tagset.html）的工具，用于多媒体内容中或与多媒体内容相关联的语言数据的语义注释。当前的文档文本反映了2003年3月发布的“FPDAM-MPEG-7 MDS扩展的研究”，而不是MPEG-7 MDS的大部分，读者可以参考ISO（http：//www.example.com）提供的MPEG-7 MDS文档的第一版。www.iso.org但是，如果没有这些参考，熟悉XML和语言学理论的人应该基本上可以理解本文。欢迎提出意见，并将在标准化过程中予以考虑。
2003-07-19 cs.CL
Scaling Self-Supervised Speech Models Uncovers Deep Linguistic Relationships: Evidence from the Pacific Cluster
School of Electrical Engineering, KAIST, Republic of Korea（韩国成均馆大学电气工程学院）；Thomas Lord Department of Computer Science, University of Southern California, USA（美国南加州大学计算机科学系）；Language Technologies Institute, Carnegie Mellon University, USA（美国卡内基梅隆大学语言技术研究所）
通过将自监督语音模型的语言识别系统从126种扩展到4017种语言，发现系统在4K规模下发生质变，揭示出太平洋地区基因无关语言的宏观集群，表明大规模模型能内化多层语言历史。
2026-06-08 cs.CL eess.AS
AUTOLEX: An Automatic Framework for Linguistic Exploration
Carnegie Mellon University（卡内基梅隆大学）；George Mason University（乔治梅森大学）
每种语言都有自己复杂的词、短语和句子结构系统，其指导原则通常总结在语法描述中，供语言学家或语言学习者使用。然而，手动创建这样的描述是一个令人担忧的过程，因为创建以“自己的术语”描述语言而没有偏见或错误的描述需要对手头的语言和整个语言学都有深刻的理解。我们提出了一个自动框架AutoLEX，旨在方便语言学家的发现和提取简洁的语言现象的描述。具体来说，我们应用这个框架来提取三种现象的描述：形态协议，情况下标记，和词序，在几种语言。我们评估的语言专家的帮助下的描述，并提出了一种方法，当人类的评价是不可行的自动评价。
2022-03-25 cs.CL
A Large-Scale Multilingual Study of Visual Constraints on Linguistic Selection of Descriptions
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；University of Melbourne（墨尔本大学）
我们提出了一个大型的，多语种的研究如何限制语言的选择，涵盖四种语言和五个语言特性，如动词的及物性或使用的数字。我们提出了一种新的方法，利用现有的语料库的图像与标题写的母语人士，并将其应用到9个语料库，包括600K的图像和3M的标题。我们通过训练分类器来预测从原始图像表达属性的概率，研究视觉输入和语言选择之间的关系，并找到支持语言属性受跨语言视觉上下文约束的证据。我们补充这一调查与语料库研究，采取测试的情况下，数字。具体来说，我们使用现有的注释（对象的数量或类型），以调查不同的视觉条件对标题中使用的数字表达式的影响，并显示出类似的模式出现在不同的语言。我们的方法和发现都证实和扩展了认知文献中的现有研究。我们还讨论了可能的应用程序语言生成。
2023-02-09 cs.CL
Psycho-linguistic Experiment on Universal Semantic Components of Verbal Humor: System Description and Annotation
Tyumen State University（秋明国立大学）
针对言语幽默通用语义成分的客观区分标准存在争议的问题，本文介绍了一款逐词阅读式幽默标注系统，可记录读者的阅读与标注操作，并提及了基于该系统开展的心理语言学实验及收集的数据。
2024-07-10 cs.CL
Reconstructing Native Language Typology from Foreign Language Usage
MIT（麻省理工学院）；Technion IIT（以色列理工学院）
语言学家和心理学家长期以来一直在研究跨语言迁移，即母语特性对外语语言表现的影响。在这项工作中，我们提供了经验证据，这一过程中的语言相似性来自英语作为第二语言（ESL）文本的结构特征之间的强相关性和等效的相似性从类型学特征的母语。我们利用这一发现直接从ESL文本中恢复母语类型相似性结构，并以无监督的方式对目标语言进行类型特征预测。我们的方法在类型学预测任务上达到了72.2%的准确率，这一结果与依赖类型学资源的等效方法具有很强的竞争力。
2014-05-28 cs.CL
Learning Correlations between Linguistic Indicators and Semantic Constraints: Reuse of Context-Dependent Descriptions of Entities
本文介绍了一项研究的结果施加在词汇选择的某些语境指标的语义约束。我们展示了如何计算这些指标，以及如何使用监督学习自动建立它们之间的相关性和命名实体的名词短语描述的选择。基于这种相关性，我们已经开发出一种技术，在文本生成中的实体描述的自动词汇选择。我们讨论了选择一个适当的描述，在自动生成的文本和描述本身的语义的特定目的的语用之间的潜在关系。我们提出了我们的工作框架中的更一般的概念，自动提取大型语料库的语言结构的重用。我们提出了一个正式的评估我们的方法，我们得出结论，我们的方法的潜在应用的一些想法。
1998-05-31 cmp-lg cs.CL
Zero-shot Cross-Linguistic Learning of Event Semantics
Indiana University（印第安纳大学）；Rutgers University（罗格斯大学）；University of Pittsburgh（匹兹堡大学）；University of Edinburgh（爱丁堡大学）；New York University Abu Dhabi（纽约大学阿布扎比分校）
类型多样的语言提供了词汇和语法方面的系统，使说话者能够专注于事件结构的各个方面，这些方面与他们所面临的特定交际环境和话语限制相一致。在本文中，我们特别关注阿拉伯语，汉语，波斯语，德语，俄语和土耳其语的图像标题，并描述了一个用于预测词汇方面的计算模型。尽管这些语言的异质性，以及在其标题语料库中对独特语言资源的显著调用，但这些语言的使用者在构建图像内容的方式上表现出惊人的相似性。我们利用这一观察结果进行zero-shot跨语言学习，并表明尽管根本没有观察到这种语言的任何注释数据，但可以预测给定语言的词汇方面。
2022-07-05 cs.CL
"Is There Anything Else?'': Examining Administrator Influence on Linguistic Features from the Cookie Theft Picture Description Cognitive Test
University of Washington（华盛顿大学）；University of Minnesota（明尼苏达大学）
本研究通过两个“偷饼干”图片描述语料库，量化测试管理员参与度对痴呆患者语言特征的影响，发现其显著干扰下游分类，呼吁标准化测试管理协议。
2025-03-25 cs.CL
Understanding the effects of word-level linguistic annotations in under-resourced neural machine translation
该研究针对低资源神经机器翻译中词级语言标注的作用，通过多语言对、多架构、多标注类型的实验对比源/目标端不同标注的效果差异并分析原因。
2024-01-29 cs.CL
The Typology of Polysemy: A Multilingual Distributional Framework
University of Toronto（多伦多大学）
词汇语义类型学已经确定了重要的跨语言概括的变化和共性的一词多义模式-语言如何包装成词的意义。最近的计算研究使调查的词汇语义在一个更大的规模，但很少有工作探讨词汇类型学的语义域，也没有影响跨语言的相似性的因素。我们提出了一个新的计算框架，量化语义亲和力，跨语言的词汇语义相似的概念。我们的方法定义了一个共同的多语言语义空间，使跨语言的概念的词汇表达的直接比较。我们验证了我们的框架对词汇语义类型学在概念和领域水平的实证研究结果。我们的研究结果揭示了语义域和语言外因素之间错综复杂的相互作用，超越了语言发生学，共同塑造了跨语言的多义类型。
2020-06-02 cs.CL
FALCON: Fast Visual Concept Learning by Integrating Images, Linguistic descriptions, and Conceptual Relations
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；MIT BCS, CBMM, CSAIL（麻省理工学院脑与认知科学系、大脑、心智与机器中心、计算机科学与人工智能实验室）
我们提出了一个元学习框架，用于快速学习新的视觉概念，从一个或几个例子，由多个自然发生的数据流引导：同时看图像，阅读描述场景中对象的句子，并解释将新概念与其他概念联系起来的补充句子。学习到的概念支持下游应用，例如通过推理看不见的图像来回答问题。我们的模型，即ESTCON，代表个人的视觉概念，如颜色和形状，作为轴对齐框在高维空间（“框嵌入空间”）。给定输入图像及其配对句子，我们的模型首先解析句子中的指称表达，并将新概念与场景中的特定对象相关联。接下来，我们的模型解释补充句子，将新概念与其他已知概念联系起来，例如“X具有属性Y”或“X是Y的一种”。最后，它推断出一个最佳的框嵌入的新概念，共同1）最大化图像中观察到的实例的可能性，2）满足新概念和已知的概念之间的关系。我们证明了我们的模型在合成和真实世界的数据集上的有效性。
2022-03-30 cs.AI cs.CL cs.CV
Conceptual Networks for Cross-Linguistic Idiomatic Expressions: A Feature-Based Graph Approach
University of Eastern Finland（东芬兰大学）；Indian Institute of Technology Ropar（印度理工学院罗帕尔分校）
该研究提出基于网络的框架表示八种语言的习语和比喻意义，用概念特征注释构建加权图，通过社区检测发现习语按概念模式聚类，网络能捕获独特语义信息，跨语言转移实验有提升，消融研究表明多特征维度有贡献，提供了可解释的习语意义表示。
2026-07-14 cs.AI cs.CL cs.ET
Hire a Linguist!: Learning Endangered Languages with In-Context Linguistic Descriptions
Carnegie Mellon University（卡内基梅隆大学）；UC Santa Barbara（加州大学圣巴巴拉分校）
提出LINGOLLM，一种无需训练的方法，通过在LLM提示中注入语言学知识（词典、语法书、形态分析），显著提升GPT-4和Mixtral在8种濒危语言5任务上的翻译能力，BLEU从0升至10.5。
2024-11-11 cs.CL
Mitigating the Linguistic Gap with Phonemic Representations for Robust Cross-lingual Transfer
Korea University（高丽大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；Sogang University（西江大学）；GIST（光州科学技术院）；Yonsei University（延世大学）；Carnegie Mellon University（卡内基梅隆大学）
该研究提出利用音素表示缓解高资源与低资源语言间的性能鸿沟，在12种语言的三个跨语言任务上证明音素表示比字素基线更有效，并通过理论分析验证了其稳健性。
2024-11-15 cs.AI cs.CL
Neural embeddings for metaphor detection in a corpus of Greek texts
National and Kapodistrian University of Athens（雅典国立与卡波迪斯特里亚大学）
NLP面临的主要挑战之一是隐喻检测，特别是通过自动手段，对于缺乏语言资源和工具的语言来说，这项任务变得更加困难。我们的目的是通过机器学习的计算方法，从希腊语语料库中的真实的无注释短语的字面意义和隐喻意义之间的自动微分。为此目的，分布语义学的理论背景进行了讨论和就业。分布语义学理论根据语言元素的分布特性，提出了对大量语言数据中语言元素所表现出的语义相似性进行量化和分类的概念和方法。根据这一模型，本文所采用的方法考虑到了语言环境，用于计算短语在几何空间中的分布表示，以及与其他短语的分布表示进行比较，这些短语在言语中的功能已经是“已知的”，目的是得出关于它们在特定语言环境中的字面或隐喻功能的结论。这一程序旨在解决希腊语缺乏语言资源的问题，因为迄今为止几乎不可能在“短语”之间进行语义比较，这种比较采取的形式是对它们在几何空间中的分布表示进行算术比较。
2019-02-10 cs.CL
A Dataset for Movie Description
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；UC Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
描述性视频服务（DVS）提供电影的语言描述，并允许视障人士与同龄人一起观看电影。这样的描述主要是视觉设计，因此自然形成了一个有趣的数据源计算机视觉和计算语言学。在这项工作中，我们提出了一种新的数据集，其中包含转录的DVS，这是时间上对齐的全长高清电影。此外，我们还收集了对齐的电影剧本，已在以前的工作和比较两个不同的描述来源。电影描述数据集包含来自72部高清电影的超过54，000个句子和视频片段的并行语料库。我们通过对不同的生成视频描述的方法进行基准测试来表征数据集。将DVS与脚本进行比较，我们发现DVS更加直观，并且精确地描述了所显示的内容，而不是根据电影制作之前创建的脚本应该发生的内容。
2015-01-12 cs.CL cs.CV cs.IR
Describing Images $\textit{Fast and Slow}$: Quantifying and Predicting the Variation in Human Signals during Visuo-Linguistic Processes
Institute for Logic, Language and Computation（逻辑、语言与计算研究所）；University of Amsterdam（阿姆斯特丹大学）
本研究针对预训练模型忽略视语言变异人类信号的问题，基于荷兰语图像描述与眼动语料探究变异关联，验证预训练视觉编码器仅能弱到中等程度捕捉变异，揭示其相关认知偏向的缺失。
2024-02-02 cs.AI cs.CL cs.CV
Formal Ontology Learning on Factual IS-A Corpus in English using Description Logics
本体学习（Ontology Learning，OL）是在给定内容为自然语言（NL）的非结构化语料库的情况下生成本体形式的知识库的计算任务。在这一领域可以找到几项工作，其中大部分限于基于统计和词典-句法模式匹配的技术。这些技术并不能导致非常准确的学习，主要是因为在NL的几个语言的细微差别。正式OL是一种替代（较少探索）的方法，使用计算语言学中的理论和工具进行深入的语言学分析，以生成正式的公理和定义，而不是简单地归纳分类。本文提出了一种基于描述逻辑的形式化学习语言框架，用于英语事实IS-A类句子的学习。我们认为IS-A句子的语义构建并非易事。因此，我们也主张，这样的句子需要专门的研究，在任何真正正式的OL可以提出之前的背景下OL。我们介绍了一个学习工具，称为DLOL_IS-A，产生这样的本体的猫头鹰格式。我们采用了基于IS-A丰富的WCL v.1.1数据集和我们自己的社区代表IS-A数据集的“黄金标准”OL评估。与轻量级OL工具Text 2 Onto和正式OL工具FRED相比，我们观察到DLOL_IS-A的显著改进。
2016-03-08 cs.AI cs.CL
Movie Description
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；ICSI（国际计算机科学研究所）；UC Berkeley（加州大学伯克利分校）；Disney Research（迪士尼研究中心）；École Polytechnique de Montréal（蒙特利尔理工学院）；Université de Sherbrooke（舍布鲁克大学）；Twitter（推特）；Université de Montréal（蒙特利尔大学）
音频描述（AD）提供电影的语言描述，并允许视障人士与同龄人一起观看电影。这样的描述主要是视觉设计，因此自然形成了一个有趣的数据源计算机视觉和计算语言学。在这项工作中，我们提出了一个新的数据集，其中包含转录的广告，这是时间上对齐的全长电影。此外，我们还收集和对齐电影脚本中使用的先前的工作，并比较两个来源的描述。大规模电影描述挑战赛（LSMDC）总共包含来自202部电影的118，114个句子和视频剪辑的平行语料库。首先，我们通过对生成视频描述的不同方法进行基准测试来表征数据集。比较广告和剧本，我们发现广告确实更直观，准确地描述了电影所展示的内容，而不是根据电影制作前的剧本所应该发生的事情。此外，我们提出并比较了几个团队的结果，他们参加了在ICCV 2015研讨会“描述和理解视频和大规模电影描述挑战（LSMDC）”的背景下组织的挑战。
2016-05-12 cs.CL cs.CV
Generating Feature Vectors from Phonetic Transcriptions in Cross-Linguistic Data Formats
University of Passau（帕绍大学）
针对现有二元特征系统难以覆盖跨语言语料中大量语音的问题，本文提出基于 CLTS 标准化国际音标动态生成二元特征向量的方法，并验证其在语音相似度比较与跨语言机器学习中的效用。
2024-05-07 cs.CL
Dependency and Span, Cross-Style Semantic Role Labeling on PropBank and NomBank
Shanghai Jiao Tong University（上海交通大学）
神经语义角色标注（SRL）的最新发展表明，依赖和跨度形式化/样式的性能都有很大的提高。虽然这两种风格在语言意义和计算方面有许多相似之处，但以往的研究大多集中在单一的风格上。在本文中，我们定义了一个新的跨风格的语义角色标签公约，并提出了一个新的跨风格的联合优化模型，设计了一个最基本的语言意义的语义角色，提供了一个解决方案，使两种风格的结果更具可比性，并允许两种形式主义的SRL受益于他们的自然联系，在语言学和计算。我们的模型学习了一个通用的语义参数结构，并能够以任何一种风格输出。此外，我们提出了一个语法辅助的方法，以统一提高学习的依赖和跨度表示。实验结果表明，本文提出的方法在跨集和依赖集SRL测试中都是有效的。
2021-02-10 cs.CL
Generating Simulations of Motion Events from Verbal Descriptions
Brandeis University（布兰迪斯大学）
在本文中，我们描述了一个计算模型的运动事件在自然语言的映射从语言表达，通过动态事件的解释，到三维时间模拟模型。从（Pustejovsky和Moszkowicz，2011）的模型开始，我们使用时间跟踪的标记转换系统分析运动事件。我们在操作语义中对路径运动和方式运动之间的区别进行建模，并进一步根据在整个运动过程中保持的纯拓扑关系来区分不同类型的运动方式动词。从这些表示中，我们生成最小模型，这些模型在使用游戏引擎Unity开发的软件中实现为三维模拟。生成的模拟充当不同的运动动词的语义的概念“调试器”：也就是说，通过测试模型中的一致性和信息量，模拟暴露与语言表达及其组合相关的预设。由于模型生成组件仍然是不完整的，本文的重点是直接从语言解释映射到创建模拟的Unity代码片段的实现。
2016-10-06 cs.CL
Source codes in human communication
University of Tübingen（图宾根大学）
虽然人类交流的信息论特征在语言学中越来越流行，但迄今为止，它们主要涉及将概率结构嫁接到有关语法的旧思想上。人类和数字通信之间的相似之处一直被强烈强调，差异在很大程度上被忽视。然而，其中一些差异很重要：通信系统是基于每个发送者和接收者共享的预定义代码，而自然语言中单词的分布保证了说话者和听话者都无法访问整个语言代码，这似乎破坏了自然语言在任何有意义的意义上都是概率系统的想法。本文描述了语言的分布特性如何满足信息系统和自然语言之间的差异所带来的各种挑战，以及这些特性所暗示的人类交流的非常不同的观点。
2019-03-08 cs.CL cs.IT math.IT
Linguistic Analysis, Description, and Typological Exploration with Categorial Grammar (TheBench Guide)
本文介绍了TheBench工具，基于单子结构和范畴语法，通过将应用转变为组合并指定句法与语义命令关系，实现自然语言分析、跨语言比较及语法模型训练。
2024-06-04 cs.CL
Group Theory and Grammatical Description
本文提出了一种基于群论的语言描述模型。在这个模型中的语法，或“G-语法”，是一个词汇表达的集合，这些词汇表达是逻辑形式、语音形式及其逆形式的产物。短语描写是通过形成词汇表达的产物和取消彼此相反的相邻元素来获得的。我们展示了这个模型的应用，分析和生成，长距离移动，和量词范围。我们相信，通过从自由幺半群的词汇V -标准的正式语言研究-的自由组V，语言现象和古典代数之间的深刻的亲和力来表面上，挖掘由此建立的数学联系的后果可能是相当大的。
1998-05-07 cmp-lg cs.CL
Fuzzy Sets Across the Natural Language Generation Pipeline
Centro Singular de Investigación en Tecnoloxías da Información (CiTIUS)（信息科技卓越研究中心（CiTIUS））；Universidade de Santiago de Compostela（圣地亚哥德孔波斯特拉大学）
我们探讨了使用模糊技术（主要是那些常用的语言描述/总结的数据学科）从自然语言生成的角度来看的影响。为此，我们提供了一个广泛的讨论，一些一般的收敛点和探索的不同任务之间的关系，涉及在标准的NLG系统管道架构和最常见的模糊方法中使用的语言总结/描述的数据，如模糊量化的报表，评估标准或聚合运算符。每个单独的讨论都用相关的用例进行了说明。最近的工作在这两个研究领域的交叉施肥的背景下也被引用。本文包含了一般的想法，出现了博士论文的一部分“应用模糊集的数据到文本系统”。它没有提出具体的应用或正式的方法，而是讨论了当前的高级问题和模糊集（重点是数据的语言摘要）在自然语言生成中的潜在用途。
2016-05-17 cs.AI cs.CL
From MTEB to MTOB: Retrieval-Augmented Classification for Descriptive Grammars
HSE University（高等经济大学）；Sberbank（俄罗斯联邦储蓄银行）；Institute of Linguistics RAS（俄罗斯科学院语言学研究所）
本文提出基于检索增强生成的基准，评估语言模型从248种语言的描写语法中提取类型学特征的能力，以支持低资源语言NLP任务。
2024-12-26 cs.CL
Linguistically Informed Multimodal Fusion for Vietnamese Scene-Text Image Captioning: Dataset, Graph Framework, and Phonological Attention
Faculty of Information Science and Engineering（信息科学与工程学院）；University of Information Technology（信息技术大学）；Vietnam National University（越南国家大学）
本文提出HSTFG和PhonoSTFG框架，通过图拓扑分析发现跨模态边对场景文本融合有害，并构建首个大规模越南语场景文本描述数据集ViTextCaps，揭示52.8%词汇存在声调符号冲突风险。
2026-04-30 cs.CL cs.CV
Embodying Pre-Trained Word Embeddings Through Robot Actions
Waseda University（早稻田大学）；Fujitsu Laboratories LTD.（富士通研究所）；National Institute of Advanced Industrial Science and Technology（产业技术综合研究所）
我们提出了一个有前途的神经网络模型，获得接地表示机器人的行动和语言描述。正确响应各种语言表达，包括多义词，是机器人通过语言对话与人交互的重要能力。先前的研究表明，机器人可以通过使用预先训练的词嵌入来使用未包含在动作描述配对数据集中的词。然而，在分布假设下训练的词嵌入是不接地的，因为它们纯粹来自文本语料库。在这封信中，我们通过使用机器人的感觉运动经验将预先训练的词嵌入转换为具体化的词嵌入。我们扩展了一个双向翻译模型的行动和描述，将非线性层改造的词嵌入。通过交替训练改进层和双向翻译模型，我们提出的模型能够转换预训练的词嵌入以适应成对的动作描述数据集。我们的研究结果表明，嵌入的同义词形成一个语义集群，反映了经验（行动和环境）的机器人。这些嵌入允许机器人从未与数据集中的动作配对的未见过的单词中正确地生成动作。
2021-04-17 cs.AI cs.CL cs.LG
PILA: A Historical-Linguistic Dataset of Proto-Italic and Latin
University of Notre Dame（圣母大学）；ETH Zürich（苏黎世联邦理工学院）
本文提出原始意大利语到拉丁语（PILA）数据集，包含约3000对语言形式，旨在填补意大利语族计算资源的空白，并在传统任务基线测试和数据集兼容性研究中验证了其价值。
2024-04-25 cs.CL
Reasoning Over the Glyphs: Evaluation of LLM's Decipherment of Rare Scripts
National Taiwan University（台湾大学）
本研究评估了 LVLMs 和 LLMs 破译未编码于 Unicode 的罕见文字的能力，通过构建多模态语言学谜题数据集并使用主流模型实验，揭示了当前 AI 在语言破译中的优势与局限。
2025-01-29 cs.CL cs.LG
CLASSLA-Stanza: The Next Step for Linguistic Processing of South Slavic Languages
Faculty of Computer and Information Science（计算机与信息科学学院）；University of Ljubljana（卢布尔雅那大学）；Jožef Stefan Institute（约泽夫·斯蒂芬研究所）
本文提出基于Stanza的CLASSLA-Stanza流水线，用于南斯拉夫语言的自动语言标注，在多个任务上超越原版Stanza，并新增高效网络数据处理功能。
2023-08-11 cs.CL
Mental Lexicon Growth Modelling Reveals the Multiplexity of the English Language
University of Southampton（南安普顿大学）
在这项工作中，我们通过采用多层网络框架来模拟人类心理词典，即一个抽象的心理知识库，其中单词和概念与它们的语言模式一起存储，从而扩展了以前对语言网络的分析。在一个三层的语言复合体中，我们将英语单词建模为节点，并根据（i）语音相似性，（ii）同义词关系和（iii）自由词关联将它们连接起来。我们的主要目的是利用这个多层次的结构，探索语音和语义关系的影响，随着时间的推移，词汇组装。我们提出了一个模型的词汇增长，这是由语音层驱动：建议根据不同的顺序插入（如较短的词长，最高频率，语义多重功能）和接受或拒绝的约束条件的话。然后，我们测量网络组装的时间，并将其与词汇习得年龄的经验数据进行比较。与心理语言学的实证研究相一致，我们的研究结果为单词习得是由语言中多层次组织特征驱动的这一假设提供了定量证据。
2016-04-05 cs.CL cs.SI physics.soc-ph
Information-Theoretic Probing with Minimum Description Length
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
为了衡量预训练的表示对某些语言属性的编码程度，通常使用探测器的准确性，即训练分类器以从表示中预测属性。尽管探针被广泛采用，但其准确性的差异未能充分反映表征的差异。例如，它们基本上不支持预先训练的表示而不是随机初始化的表示。类似地，当探测真正的语言标签和探测随机合成任务时，它们的准确性可以是相似的。为了看到这些随机基线在精度上的合理差异，以前的工作必须约束探针训练数据的量或其模型大小。相反，我们提出了一种替代标准的探测，信息理论探测与最小描述长度（MDL）。通过MDL探测，训练探测器预测标签被重新设计为教导它有效地传输数据。因此，感兴趣的测量从探针准确度改变为给定表示的标签的描述长度。除了探测质量之外，描述长度还评估实现质量所需的“工作量”。这种工作量的特征是（i）探测模型的大小，或者（ii）实现高质量所需的数据量。我们考虑两种方法来估计MDL，可以很容易地实现在标准的探测管道：变分编码和在线编码。我们表明，这些方法的结果一致，比标准探针更丰富，更稳定。
2020-03-27 cs.CL
FooDI-ML: a large multi-language dataset of food, drinks and groceries images and descriptions
glovoapp（Glovo应用公司）
在本文中，我们介绍了FooDI-ML数据集。该数据集包含超过150万张唯一图像以及超过950万个商店名称、产品名称描述和从Glovo应用程序收集的集合部分。提供的数据对应于来自欧洲、中东、非洲和拉丁美洲37个国家的食品、饮料和杂货产品。该数据集包含33种语言，其中包括来自东欧和西亚国家的87万种语言样本，如乌克兰语和哈萨克语，这些语言在公开的非语言数据集中迄今为止代表性不足。该数据集还包括广泛使用的语言，如西班牙语和英语。为了帮助进一步的研究，我们包括两个任务的基准：文本图像检索和条件图像生成。
2022-08-26 cs.CL cs.CV cs.LG
AutoChart: A Dataset for Chart-to-Text Generation Task
Singapore University of Technology and Design（新加坡科技设计大学）；University of Saskatchewan（萨斯喀彻温大学）；China Merchants Bank（招商银行）
图表的分析描述是一个令人兴奋和重要的研究领域，在学术界和工业界有许多应用。然而，这一具有挑战性的任务受到了计算语言学研究界的有限关注。本文提出了\textsf{AutoChart}，一个大型数据集的图表分析描述，其目的是鼓励更多的研究这一重要领域。具体来说，我们提供了一个新的框架，自动生成的图表和他们的分析描述。我们对生成的图表和描述进行了广泛的人机评估，并证明生成的文本信息丰富，连贯，与相应的图表相关。
2021-08-16 cs.AI cs.CL cs.MM
Studying Cultural Differences in Emoji Usage across the East and the West
University of Pennsylvania（宾夕法尼亚大学）；Purdue University（普渡大学）
全世界都能接受英语，这表明英语是一种跨文化的、规范的用法。同时，由于表达情感的语言差异和概念化主题的多样性，不同文化间的日语使用也可能存在细微差别。事实上，跨文化心理学的文献已经发现了情感表达的规范和特定文化方式。在本文中，使用社交媒体，我们比较了基于频率，上下文和主题协会在东方国家（中国和日本）和西方国家（美国，英国和加拿大）的日语使用。在东西方，我们的研究考察了a）不同类别的“人”，“饮食”，“旅游”和“地方”等使用的异同，b）潜在的映射的使用差异与先前确定的文化差异，在用户的表达不同的概念，如死亡，金钱的情绪和家庭，和c）验证的心理语言类别与埃克曼的情绪的相对对应。对东方和西方汉字使用的分析揭示了可识别的规范和文化特定模式。本研究揭示了日语在跨文化交际中的运用方式。
2019-04-04 cs.CL
Understanding Social Media Cross-Modality Discourse in Linguistic Space
The Hong Kong Polytechnic University（香港理工大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
带有文本和图像的多媒体通信在社交媒体上很受欢迎。然而，有限的研究关注如何图像与文本的结构，形成连贯的意义在人类认知。为了填补这一空白，我们提出了一个新的跨模态话语的概念，反映了人类读者如何耦合图像和文本的理解。在多媒体环境中，文本描述首先来自图像（称为字幕）。五个标签-实体级插入，投影和具体化和场景级重述和扩展-进一步被用来塑造字幕和文本的结构，并呈现它们的联合意义。作为试点研究，我们还建立了第一个包含16 K多媒体推文的数据集，其中包含手动注释的话语标签。实验结果表明，基于带字幕的多头注意力的多媒体编码器能够获得较好的编码效果。
2023-02-26 cs.CL cs.MM cs.SI
Semantic and Expressive Variation in Image Captions Across Languages
University of Washington（华盛顿大学）；Allen Institute for AI（人工智能研究院）
本文以语言代理文化，比较7种语言的图像描述，发现多语言描述在对象、关系和属性覆盖上显著更高，并揭示LLaVA等模型继承语言偏差，而多语言微调具有更稳定的跨语言表现。
2025-05-12 cs.CL cs.CV cs.CY
What Makes Two Language Models Think Alike?
UNICOG；CNRS（法国国家科学研究中心）；INSERM（法国国家健康与医学研究院）；CEA（法国原子能委员会）；Paris-Saclay University（巴黎-萨克雷大学）；LSCP（语言科学研究中心）；EHESS（高等科学研究所）；ENS（巴黎高等师范学校）；PSL University（巴黎科学哲学大学）
本文研究了语言模型表示和处理语言的方式是否受架构和训练差异影响，提出了一种新的方法来量化模型间相似性和差异性，并发现模型相似性主要由发布日期和模型家族决定。
2026-06-04 cs.CL
Self-Supervised Speech Representations are More Phonetic than Semantic
Carnegie Mellon University（卡内基梅隆大学）；Toyota Technological Institute at Chicago（芝加哥丰田理工学院）；National Institute of Advanced Industrial Science and Technology (AIST)（日本国立先进工业科学技术研究院（AIST））
该研究通过近音词与同义词表征相似度分析，证明自监督语音模型更偏向编码语音而非语义信息，并指出常用意图分类数据集难以可靠评估语义能力。
2024-06-12 cs.CL cs.LG eess.AS
