An Agentic Hybrid Top-Down and Bottom-Up Approach to Knowledge Graph Generation
Malt
针对HR平台的多语言非标准化技能声明问题,提出结合LLM与Wikidata KG的智能体式混合KG生成流水线,可生成可扩展可解释的技能KG。
2026-08-10 cs.AI cs.CL
GeoMLAMA: Geo-Diverse Commonsense Probing on Multilingual Pre-Trained Language Models
University of California, Los Angeles(加州大学洛杉矶分校)
最近的工作表明,预训练的语言模型(PLM)存储从数据中学习到的关系知识,并利用它来执行下游任务。然而,不同地区的常识可能有所不同。例如,在美国婚礼上新娘礼服的颜色是白色,而在中国婚礼上是红色。在本文中,我们介绍了一个基准数据集,地理多样性常识多语言语言模型分析(GeoMLAMA),探索在多语言PLM的关系知识的多样性。GeoMLAMA包含英语、汉语、印地语、波斯语和斯瓦希里语的3,125个提示,广泛覆盖了来自美国、中国、印度、伊朗和肯尼亚文化的人们共享的概念。我们在GeoMLAMA上对11个标准的多语言PLM进行了基准测试。有趣的是,我们发现1)较大的多语言PLM变体不一定比其较小的变体更好地存储地理多样性概念; 2)多语言PLM本质上并不偏向西方国家的知识(美国); 3)一个国家的母语可能不是探索其知识的最佳语言,4)一种语言可能更好地探索关于非语言的知识。而不是自己的祖国。代码和数据在https://github.com/WadeYin9712/GeoMLAMA上发布。
2022-11-29 cs.CL
Wisdom in Unity: The Role of Multilingual Training in Figurative Language Identification in Proverbs
College of Computer and Information Sciences, King Saud University(沙特国王大学计算机与信息科学学院)
该研究以7种语言的6787个谚语实例为对象,评估多语言模型在比喻语言识别中的表现,发现约50%多语言训练数据可实现近最优性能,文化特异性比喻形式收益最大,推动相关框架向多维概念模型发展。
2026-09-24 cs.CL
Predictive Simultaneous Interpretation: Harnessing Large Language Models for Democratizing Real-Time Multilingual Communication
ErudAite Inc.(ErudAite公司)
本文提出一种利用大型语言模型预测说话人话语并以树状结构扩展可能性的同声传译新算法,旨在实现低延迟、自然流畅的实时翻译,推动多语言通信的民主化。
2024-07-02 cs.AI cs.CL
A Survey on Large Language Models with Multilingualism: Recent Advances and New Frontiers
Beijing Jiaotong University(北京交通大学);University of Montreal(蒙特利尔大学);University of Waterloo(滑铁卢大学);Tsinghua University(清华大学)
本文综述多语言 LLMs 的研究转变、训练推理、检索、安全、文化领域与数据集等问题,总结挑战、解决方案和未来方向。
2025-01-07 cs.AI cs.CL
RomanLens: The Role Of Latent Romanization In Multilinguality In LLMs
Nilekani Centre at AI4Bharat(AI4Bharat 奈尔肯中心);Singapore University of Technology and Design(新加坡科技设计大学);Indian Institute of Technology Madras(印度理工学院马德拉斯分校);National Institute of Information and Communications Technology(信息与通信技术国家研究所);Indian Institute of Technology Bombay(印度理工学院孟买分校);Microsoft(微软);IT University of Copenhagen(哥本哈根IT大学)
RomanLens研究了罗曼化在LLMs多语言处理中的潜在作用,发现中间层常以罗曼化形式表示目标词,并通过实验表明罗曼化有助于语言转换。
2025-06-09 cs.AI cs.CL
Toward Responsible and Epistemically Grounded Multilingual LLMs for Computational Social Science and Humanities
Northwestern University in Qatar(卡塔尔西北大学)
本文重新概念化多语言推理大语言模型为解释学工具,提出一个基于理论框架来评估其在社会科学与人文学科研究中的文化对齐、跨语言稳定性和推理忠实性。
2026-05-30 cs.CL
Towards Corpus-Grounded Agentic LLMs for Multilingual Grammatical Analysis
University of Ljubljana, Faculty of Computer and Information Science(卢布尔雅那大学计算机与信息科学学院);University of Ljubljana, Faculty of Arts(卢布尔雅那大学艺术学院);Jožef Stefan Institute(乔塞夫·斯塔芬研究所)
本文提出基于语料库的代理LLM框架,用于多语言语法分析,通过数据驱动推理提升语法探究的可解释性和扩展性。
2025-11-28 cs.CL
CoCo-CoLa: Evaluating and Improving Language Adherence in Multilingual LLMs
University of Southern California(南加州大学)
提出CoCo-CoLa指标评估多语言LLM语言一致性,发现模型跨语言共享知识但输出语言存在偏差,关键层决定输出语言,据此提出选择性微调策略,在降低计算成本的同时提升语言一致性,尤其利于低资源语言。
2025-05-29 cs.CL
Multilingual Amnesia: On the Transferability of Unlearning in Multilingual LLMs
Mila – Quebec AI Institute(魁北克人工智能研究所);McGill University(麦吉尔大学);Université de Montréal(蒙特利尔大学);Google Research(谷歌研究)
本研究探讨多语言大语言模型中卸载的可转移性,通过实验发现语法相似性是预测跨语言卸载行为的关键因素。
2026-01-09 cs.CL cs.LG
Large Language Models Share Representations of Latent Grammatical Concepts Across Typologically Diverse Languages
Northeastern University(东北大学);TU Clausthal(图鲁克劳斯塔尔大学);EPFL(苏黎世联邦理工学院);Technion – IIT(技术学院 – 以色列理工学院)
本研究通过稀疏自编码器和因果干预,发现大型语言模型在多种语言间共享形态句法概念的表示,并能精确控制行为,表明跨语言抽象能力可稳健形成。
2025-05-23 cs.CL
Investigating Language and Retrieval Bias in Multilingual Previously Fact-Checked Claim Detection
Brno University of Technology(布拉格技术大学);Kempelen Institute of Intelligent Technologies(智能技术研究所);University of Copenhagen(哥本哈根大学)
本文面向 PFCD 任务,基于 AMC-16K 评估六个开源多语言 LLM 在20种语言中的表现,并分析多语言嵌入检索的频率偏差,揭示语言与检索不公平现象及改进方向。
2025-09-29 cs.CL
TaCo: Enhancing Cross-Lingual Transfer for Low-Resource Languages in LLMs through Translation-Assisted Chain-of-Thought Processes
University of New Haven(纽黑文大学)
本文提出含132种语言翻译的MITS数据集及翻译辅助思维链方法TaCo,通过课程学习低成本增强LLM低资源跨语言迁移,低资源语言评测性能较单纯指令微调翻倍。
2024-04-05 cs.AI cs.CL
Neural Machine Translation of Clinical Text: An Empirical Investigation into Multilingual Pre-Trained Language Models and Transfer-Learning
The University of Manchester(曼彻斯特大学);Logrus Global;Ocean Translations
本文通过多语言预训练语言模型和迁移学习方法研究临床文本机器翻译,在英西临床数据上取得顶级性能,并首次发现小规模PLM在临床微调中优于超大规模模型。
2024-02-21 cs.AI cs.CL
Multilingual Chart-based Constituency Parse Extraction from Pre-trained Language Models
Hanyang University(汉阳大学);University of Edinburgh(爱丁堡大学);Seoul National University(首尔大学)
由于已经揭示了预训练的语言模型(PLM)在某种程度上能够识别自然语言中的句法概念,因此已经做出了很多努力来开发用于从PLM提取完整(二进制)解析而无需训练单独的解析器的方法。我们提出了一种新的基于图表的方法和一个有效的top-K集成技术改进了这种模式。此外,我们证明,我们可以扩大到多语言环境的方法的应用范围。具体来说,我们表明,通过应用我们的方法对多语言PLM,它成为可能,以综合和语言不可知的方式,从九种语言的句子诱导非平凡的解析,实现性能优于或相当于无监督PCFG。我们还验证了我们的方法是强大的跨语言迁移。最后,我们提供了我们的方法的内部工作原理的分析。例如,我们发现普遍的注意头是一贯敏感的句法信息,无论输入语言。
2021-09-08 cs.CL cs.LG
The Translation Barrier Hypothesis: Multilingual Generation with Large Language Models Suffers from Implicit Translation Failure
Johns Hopkins University, Center for Language and Speech Processing(约翰霍普金斯大学,语言与语音处理中心);Language Technologies Institute, Carnegie Mellon University(语言技术研究所,卡内基梅隆大学)
该研究提出翻译障碍假说,发现大语言模型多语言生成存在隐性“任务求解→翻译”流水线,翻译阶段失败是中低资源语言生成质量差的主要原因,为改进LLM多语言能力指明了瓶颈方向。
2025-10-20 cs.CL
Sparse Autoencoders Can Capture Language-Specific Concepts Across Diverse Languages
Universitas Indonesia(印度尼西亚大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本研究利用稀疏自编码器识别语言特定的特征,揭示其在多语言处理中的作用及可解释性优势。
2026-10-06 cs.CL
Separating Syntax from Language: A Mechanistic Account of Translation in Multilingual LLMs
Saarland University(萨尔大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Centre for European Research in Trusted AI (CERTAIN)(欧洲可信人工智能研究中心);University of Göttingen(哥廷根大学)
本研究揭示多语言大语言模型的翻译可进一步分离为句法与表层语言过程,通过构建受控数据集等方法发现模型先构建目标侧词序,识别出句法敏感的注意力头,完善了翻译机制的分解结论。
2026-09-02 cs.CL
"Be My Cheese?": Assessing Cultural Nuance in Multilingual LLM Translations
Appen(澳鹏)
本研究评估多语言大模型翻译习语和双关语时的文化适当性,发现即使高资源语言也常误译,提出文化适当性为关键性能指标,并强调人工润色必要性。
2025-09-25 cs.CL
M2G-Eval: Enhancing and Evaluating Multi-granularity Multilingual Code Generation
Beihang University(北航大学);Hunan University(湖南大学);Ubiquant
M2G-Eval通过多粒度多语言框架评估代码生成能力,揭示了不同粒度任务的难度差异和跨语言学习的关联性。
2025-12-27 cs.CL
High-Order Question Generation in a Multilingual Educational Context
研究在多语言教育背景下,针对高阶问题生成的挑战,引入基于主张-证据-推理和发散性提问的提示,对比布鲁姆分类法。结果显示开源和专有模型能生成多语言问题,部分问题被教师认可为高阶,替代框架可补充布鲁姆分类法。
2026-07-16 cs.CL
Causality-aware Concept Extraction based on Knowledge-guided Prompting
Fudan University(复旦大学);Meituan(美团);Fudan-Aishu Cognitive Intelligence Joint Research Center(复旦-爱数认知智能联合研究中心)
针对预训练语言模型因虚假共现导致概念抽取精度低的问题,提出基于结构因果模型的知识引导提示干预方法,利用知识图谱实体主题缓解概念偏差,在多语言数据集上验证了有效性。
2023-06-10 cs.AI cs.CL
Embedding Learning Through Multilingual Concept Induction
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
我们提出了一种新的方法来估计词的向量空间表示:嵌入学习的概念归纳。我们在高度并行的语料库上测试了这种方法,并在单个公共空间中学习了1259种不同语言的单词的语义表示。一个广泛的实验评估跨语言词相似度和情感分析表明,基于概念的多语言嵌入学习比以前的方法表现更好。
2018-06-27 cs.CL
Med-CoReasoner: Reducing Language Disparities in Medical Reasoning via Language-Informed Co-Reasoning
The University of Tokyo(东京大学);ETH Zürich(苏黎世联邦理工学院);National Institute of Informatics(日本信息处理学会);Siriraj Informatics and Data Innovation Center(Siriraj信息与数据创新中心);Yale University(耶鲁大学)
提出Med-CoReasoner框架,通过并行英语和本地语言推理、结构化概念抽象及概念级对齐与检索,将本地临床知识整合到英语逻辑框架中,以缩小医学推理中的多语言差距,在MultiMed-X基准上平均提升5%的多语言推理性能。
2026-05-26 cs.CL
MRA - Proof of Concept of a Multilingual Report Annotator Web Application
LaSIGE, University of Lisbon(里斯本大学 LaSIGE)
MRA(多语言报告注释器)是一个Web应用程序,可以翻译放射学文本并使用RadLex术语对其进行注释。它的目标是探索翻译非英语放射学报告的解决方案,以解决大多数为英语开发的文本挖掘工具的问题。在这篇简短的论文中,我们解释了语言障碍问题,并简要描述了应用程序。MRA可在https://github.com/lasigeBioTM/MRA上找到。
2017-04-12 cs.CL
Multilingual Embeddings Jointly Induced from Contexts and Concepts: Simple, Strong and Scalable
Center for Information and Language Processing (CIS), LMU Munich(慕尼黑大学信息与语言处理中心(CIS))
在自然语言处理中,由局部语境引入的词嵌入是普遍存在的。一个简单有效的基于上下文的多语言嵌入学习器是Levy等人(2017)的S-ID(句子ID)方法。另一项工作是从概念中引入高性能的多语言嵌入(Dufter等人,2018年)。在本文中,我们提出了Co+Co,一个简单的和可扩展的方法,结合了基于上下文和基于概念的学习。从句子对齐的语料库中,通过采样提取概念;然后在嵌入学习中将单词与其概念ID和句子ID相关联。这是第一个成功结合基于上下文和基于概念的嵌入式学习的工作。我们表明,Co+Co表现良好的两个不同的应用场景:并行圣经语料库(1000+语言,低资源)和EuroParl(12种语言,高资源)。在适用于两个语料库的方法中,Co+Co在我们的六个任务的评估设置中表现最好。
2020-04-30 cs.CL
Separating Tongue from Thought: Activation Patching Reveals Language-Agnostic Concept Representations in Transformers
ENS Paris-Saclay(巴黎萨克雷大学);Université Paris-Saclay(巴黎萨克雷大学);Northeastern(东北大学);Princeton(普林斯顿大学);Cornell(康奈尔大学);EPFL(洛桑联邦理工学院)
本文通过激活修补技术分析基于 Transformer 的 LLMs 在翻译任务中的潜在表示,发现输出语言与翻译概念在模型中编码的层级不同,证明了模型内部存在语言无关的概念表示。
2025-06-25 cs.AI cs.CL
Language Unalignability: Why Some Concepts Resist Cross-Cultural Benchmark Evaluation
National Taiwan University(国立台湾大学)
本研究揭示多语言大模型评估中翻译同构假设的缺陷,提出α-不可对齐性概念,并通过行为、机制和诊断证据表明某些文化概念无法跨语言对齐,强调尊重文化差异是多语言AI的前提。
2026-10-07 cs.CL
SACRED: A Faithful Annotated Multimedia Multimodal Multilingual Dataset for Classifying Connectedness Types in Online Spirituality
University of Zurich(苏黎世大学);Ping An Technology(平安科技)
本文提出SACRED数据集,用于分类在线灵性中的连接类型,评估13种LLM及传统方法,发现DeepSeek-V3在抽象概念分类中表现优异,GPT-4o-mini在视觉任务中表现最佳,同时发现新的连接类型。
2026-03-28 cs.CL cs.MM
Metaphors We Compute By: A Computational Audit of Cultural Translation vs. Thinking in LLMs
本文通过创造性写作任务研究LLM的文化包容性,发现模型在特定文化情境下存在刻板隐喻使用和西方默认倾向,表明单纯提示文化身份无法保证文化思维。
2026-04-06 cs.AI cs.CL
Generalising Multilingual Concept-to-Text NLG with Language Agnostic Delexicalisation
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
概念到文本的自然语言生成是将输入的意义表示用自然语言表示的任务。在这项任务中,以前的方法已经能够通过依赖于输入的非词汇化来概括罕见或看不见的实例。但是,这通常要求输入在输出文本中逐字出现。这在多语言环境中提出了挑战,其中任务扩展到在给定相同输入的情况下以多种语言生成输出文本。在本文中,我们探讨了多语言模型在概念到文本中的应用,并提出了语言不可知的去词汇化,这是一种新的去词汇化方法,它使用多语言预训练的嵌入,并采用字符级的后编辑模型在去词汇化过程中以正确的形式改变单词。我们在五个数据集和五种语言上的实验表明,多语言模型在概念到文本方面优于单语言模型,我们的框架优于以前的方法,特别是对于低资源语言。
2021-09-09 cs.CL cs.LG
Can We Read the Mind of an Audio LLM? A Verbalizable, Multilingual Middle-Layer Workspace
Amazon AGI Foundations(亚马逊AGI基金会);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究通过logit lens分析Qwen3-Omni模型,发现其中间层可在输出前清晰呈现音频问题答案,揭示了音频模型推理的特性与信号分布,为解读音频大语言模型内部思维提供了定性依据。
2026-08-27 cs.AI cs.CL cs.SD
XCOMPS: A Multilingual Benchmark of Conceptual Minimal Pairs
Columbia University(哥伦比亚大学);Munich Center for Machine Learning(慕尼黑机器学习中心);LMU Munich(慕尼黑大学);University of Michigan(密歇根大学);KU Leuven(根特大学)
介绍多语言概念最小对数据集XCOMPS,通过多种方式评估LLMs多语言概念理解,比较不同模型发现LLMs对低资源语言概念理解弱,指令微调与知识蒸馏有不同效果,形态复杂语言理解分数低。
2026-07-22 cs.CL
Semantic Drift in Multilingual Representations
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Universiteit van Amsterdam(阿姆斯特丹大学)
多语言表示大多是根据其在特定任务上的表现进行评估的。在这篇文章中,我们超越了工程目标,分析了计算表示中语言之间的关系。我们介绍了一种方法比较语言的基础上组织的语义概念。我们建议进行一个适应版本的表征相似性分析的一组选定的概念计算多语言表示。使用这种分析方法,我们可以重建一个系统发育树,非常类似于那些假设的语言专家。这些结果表明,只在单语文本和双语词典上训练的多语言分布表示保留了语言之间的关系,而不需要任何词源信息。此外,我们提出了一个衡量标准,以确定语义漂移之间的语言家庭。我们进行实验,基于词和基于词典的多语言模型,并提供定量的结果和定性的例子。多语言表征中语义漂移的分析有两个目的:一是可以指出计算模型中不需要的特征,二是为跨语言研究语言现象提供了定量手段。该代码可在https://github.com/beinborn/SemanticDrift上获得。
2020-11-16 cs.AI cs.CL
Crosslingual Transfer Learning for Low-Resource Languages Based on Multilingual Colexification Graphs
Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心);Munich Center for Machine Learning(慕尼黑机器学习中心)
本文直接从未标注平行语料库构建多语言同词化图ColexNet和ColexNet+,并训练出高质量多语言嵌入,在多项任务上超越基线,证明了同词化在低资源语言跨语言迁移学习中的有效性。
2023-10-19 cs.AI cs.CL
Multilingual Conceptual Coverage in Text-to-Image Models
University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文提出 CoCo-CroLa 基准技术,通过比较源语言与翻译后目标语言具体名词的生成图像分布,评估文本到图像模型的多语言概念覆盖、弱点与偏见。
2023-06-02 cs.AI cs.CL cs.CV
A General and Flexible Multi-concept Parsing Framework for Multilingual Semantic Matching
本文提出基于预训练语言模型的多概念解析语义匹配框架MCP-SM,通过提取并注入多种概念,摆脱对外部NER工具的依赖,在多语言数据集上表现优异。
2024-04-04 cs.AI cs.CL
Exploring Alignment in Shared Cross-lingual Spaces
Qatar Computing Research Institute, HBKU(卡塔尔计算研究所、哈马德·本·哈利法大学)
本研究通过聚类方法分析多语言模型潜在空间中的概念对齐与重叠,提出CA和CO指标,发现深层网络和微调增强跨语言对齐,并解释零样本能力来源。
2024-05-23 cs.AI cs.CL
Unstable Grounds for Beautiful Trees? Testing the Robustness of Concept Translations in the Compilation of Multilingual Wordlists
University of Passau(帕绍大学)
本文首次测试了多语言词表编纂中概念翻译的鲁棒性,发现涵盖9个语系的10对数据集中平均仅83%的翻译词形相同,语音转写一致率仅23%,揭示了系统发育研究中的不确定性。
2025-03-01 cs.CL
CONCAP: Seeing Beyond English with Concepts Retrieval-Augmented Captioning
Department of Natural Language Processing, MBZUAI(自然语言处理部门,MBZUAI);INESC-ID, Instituto Superior Técnico, University of Lisbon(INESC-ID,理工学院,里斯本大学)
针对多语言图像描述中训练数据不足及翻译检索描述存在偏差的问题,提出CONCAP模型,通过融合图像特定概念与检索描述,在XM3600上以更低数据需求提升低、中资源语言表现。
2025-07-27 cs.CL
SUTRA: Scalable Multilingual Language Model Architecture
Two Platforms
该研究提出 SUTRA 多语言 LLM 架构,通过解耦语言与概念处理并采用混合专家机制,在 50 多种语言及 MMLU 多语言任务上实现更高效、更准确的在线问答。
2024-05-07 cs.AI cs.CL
Multilingual Visual Sentiment Concept Matching
Idiap Research Institute(伊迪亚普研究所);Yahoo Inc.(雅虎公司);JW Player(JW Player公司);Columbia University(哥伦比亚大学)
文化对视觉情感感知的影响近年来引起了多媒体研究的关注。在这项研究中,我们提供了强大的计算语言学工具来探索,检索和浏览16K多语言情感视觉概念和7.3M Flickr图像的数据集。首先,我们设计了一个有效的众包实验,收集人类的情感判断连接到视觉概念。然后,我们使用词嵌入在低维向量空间中表示这些概念,使我们能够扩展概念周围的含义,从而能够洞察不同语言之间的共性和差异。我们比较了各种各样的概念表征,通过一个新的评价任务的基础上的视觉语义相关性的概念。基于这些表示,我们设计的聚类方案组多语言的视觉概念,并评估他们与新的指标的基础上众包的情感注释以及视觉语义相关性。所提出的聚类框架使我们能够深入分析完整的多语言数据集,并在面部数据子集上显示应用程序,探索肖像相关情感视觉概念的文化视角。
2016-06-07 cs.CL cs.CV cs.IR
Efficiently Democratizing Medical LLMs for 50 Languages via a Mixture of Language Family Experts
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对医疗大语言模型适配低资源语言时的数据稀缺问题,提出语言家族专家混合架构,通过语言特定专家、跨语言路由及Post-MoE架构,在保留可解释性的同时增强泛化能力,无需额外参数即可扩展至50种语言。
2025-02-10 cs.CL
Tomato, Tomahto, Tomate: Do Multilingual Language Models Understand Based on Subword-Level Semantic Concepts?
University of Waterloo(滑铁卢大学);Google DeepMind(谷歌DeepMind)
本研究探究多语言语言模型(mLMs)是否基于子词级语义概念理解文本,通过合并语义相似子词形成语义标记并评估,发现共享语义可提升模型预测性能,零样本结果更优,为跨语言迁移提供锚点。
2025-11-19 cs.CL
When Meanings Meet: Investigating the Emergence and Quality of Shared Concept Spaces during Multilingual Language Model Training
MaiNLP, Center for Information and Language Processing, LMU Munich(MaiNLP,信息与语言处理中心,慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);University of Tokyo(东京大学);IT University of Copenhagen(哥本哈根IT大学);Language Technology Lab, University of Cambridge(语言技术实验室,剑桥大学)
研究通过因果可解释方法探讨多语言语言模型训练中共享概念空间的产生与质量,发现早期出现并随训练细化,但语言依赖性显著,且翻译质量提升可能反映行为变化而非能力提升。
2026-01-30 cs.CL
From Concepts to Components: Concept-Agnostic Attention Module Discovery in Transformers
NYU(纽约大学);Meta AI;FAIR
提出概念无关的注意力模块发现方法 SAMD 及干预策略 SAMI,将复杂概念映射到注意力头,通过单标量调节实现性能提升与安全控制。
2025-06-20 cs.AI cs.CL cs.LG
MMed-Bench-IR: A Heterogeneous Benchmark for Multilingual Medical Information Retrieval
Seoul National University(首尔国立大学);Seoul National University College of Medicine(首尔国立大学医学院);Seoul National University Hospital(首尔国立大学医院)
针对临床RAG的多语言检索需求,提出MMed-Bench-IR基准,涵盖跨语言对齐、概念区分和证据检索三种异构任务,评估6种语言下10个系统,发现生物医学编码器在英语与日语间性能差距巨大。
2026-06-24 cs.AI cs.CL cs.IR
Universal Conceptual Structure in Neural Translation: Probing NLLB-200's Multilingual Geometry
University of Alberta(阿尔伯塔大学)
本研究通过探测NLLB-200的表示几何结构,发现其学习了语言通用的概念表示,并展示了跨语言一致性的证据。
2026-11-04 cs.AI cs.CL cs.LG
Lost in Translation? Translation Errors and Challenges for Fair Assessment of Text-to-Image Models on Multilingual Concepts
Johns Hopkins University(约翰斯·霍普金斯大学);University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校);Arizona State University(亚利桑那州立大学)
本文发现CoCo-CroLa多语言文生图基准存在翻译错误,提供修正并评估其影响,证明文本域相似度可预测图像域结果变化,为多语言度量开发提供分析工具。
2024-03-17 cs.AI cs.CL cs.CV
Adapting Multilingual LLMs to Low-Resource Languages with Knowledge Graphs via Adapters
Saarland University(萨尔大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文提出通过适配器将ConceptNet图知识整合进多语言大语言模型,以提升八种低资源语言在情感分析和命名实体识别上的性能,并比较了多种掩码微调目标的有效性。
2024-12-18 cs.AI cs.CL
Multilingual and Multimodal Topic Modelling with Pretrained Embeddings
University of Helsinki(赫尔辛基大学)
本文提出了M3 L-Contrast-一种新的多模态多语言(M3 L)神经主题模型,用于将来自多种语言和图像的文本映射到共享的主题空间中。我们的模型在文本和图像上进行联合训练,并利用预训练的文档和图像嵌入来抽象不同语言和模态之间的复杂性。作为一个多语言的主题模型,它产生对齐的语言特定的主题和多模态模型,它推断图像中的语义概念的文本表示。我们证明,我们的模型是有竞争力的zero-shot主题模型预测可比多语言数据的主题分布,并显着优于zero-shot模型预测可比文本和图像的主题分布。我们还表明,我们的模型在未对齐的嵌入上的表现几乎和对齐的嵌入一样好。
2022-11-15 cs.AI cs.CL
Automatic annotation of multilingual text collections with a conceptual thesaurus
从概念叙词表中自动标注具有受控词汇术语(描述符)的文档不仅对文档索引和检索有用。此外,将文本映射到相同的术语词库还可以在类似的文件之间建立联系。这也是语义Web的一个重要要求。本文提出了一个几乎独立于语言的系统,映射到同一个多语言概念词库,EUROVOC的文件写在不同的语言。概念叙词表与自然语言叙词表的不同之处在于,它们由相对较小的受控单词或短语列表组成,这些单词或短语具有相当抽象的含义。为了自动识别哪些词库描述符最好地描述了文档的内容,我们开发了一个统计的关联系统,该系统在以前手动索引的文本上进行训练。除了描述大量的经验优化的参数的全功能应用程序,我们提出的软件的性能,根据专业索引的人的评价。
2006-09-12 cs.CL cs.IR
ConceptNet 5.5: An Open Multilingual Graph of General Knowledge
Luminoso Technologies, Inc.(卢米诺索技术公司);Union College(联合学院)
关于语言的机器学习可以通过提供特定的知识和外部信息源来改进。我们在这里介绍一个新版本的链接开放数据资源ConceptNet,它特别适合与现代NLP技术(如词嵌入)一起使用。ConceptNet是一个知识图谱,它将自然语言的单词和短语与标记的边连接起来。它的知识是从许多来源收集的,包括专家创建的资源,众包和有目的的游戏。它旨在表示理解语言所涉及的一般知识,通过允许应用程序更好地理解人们使用的单词背后的含义来改进自然语言应用程序。当ConceptNet与从分布式语义(如word2vec)获取的词嵌入相结合时,它为应用程序提供了理解,这些应用程序不会单独从分布式语义获取,也不会从更窄的资源(如WordNet或DBPedia)获取。我们证明了这一点与国家的最先进的内在评价的词相关性转化为改进的应用程序的词向量,包括解决SAT风格的类比。
2018-12-11 cs.CL
The Typology of Polysemy: A Multilingual Distributional Framework
University of Toronto(多伦多大学)
词汇语义类型学已经确定了重要的跨语言概括的变化和共性的一词多义模式-语言如何包装成词的意义。最近的计算研究使调查的词汇语义在一个更大的规模,但很少有工作探讨词汇类型学的语义域,也没有影响跨语言的相似性的因素。我们提出了一个新的计算框架,量化语义亲和力,跨语言的词汇语义相似的概念。我们的方法定义了一个共同的多语言语义空间,使跨语言的概念的词汇表达的直接比较。我们验证了我们的框架对词汇语义类型学在概念和领域水平的实证研究结果。我们的研究结果揭示了语义域和语言外因素之间错综复杂的相互作用,超越了语言发生学,共同塑造了跨语言的多义类型。
2020-06-02 cs.CL