Benchmarking Linguistic Diversity of Large Language Models
Inria Paris(巴黎国家信息与自动化研究所);MBZUAI(穆斯林人工智能研究所);École Polytechnique(巴黎高等理工学院)
针对LLM语言多样性被忽视的问题,本文提出涵盖词汇、句法和语义维度的评估框架,对主流LLM进行基准测试并分析开发部署选择的影响。
2025-07-25 cs.CL
Computational historical linguistics and language diversity in South Asia
Georgetown University(乔治城大学);San Mateo High School(圣马特奥高中);University of North Carolina – Chapel Hill(北卡罗来纳大学教堂山分校);Microsoft(微软)
南亚是多种语言的家园,其中许多语言严重缺乏新的语言技术。这种语言的多样性也导致有利于比较,接触和历史语言学研究的研究环境-这些领域需要从许多语言中收集广泛的数据。我们认为,数据分散(而不是稀缺性)是南亚语言技术发展的主要障碍,并建议语言史的研究是唯一与克服这一障碍。我们回顾了南亚NLP和历史比较语言学的最新发展,描述了我们和其他人在这一领域的当前努力。我们还提供了打破数据壁垒的新策略。
2022-03-23 cs.CL
Before Name-calling: Dynamics and Triggers of Ad Hominem Fallacies in Web Argumentation
Technische Universität Darmstadt(达姆施塔特工业大学);Bauhaus-Universität Weimar(魏玛包豪斯大学)
不犯谬误的辩论是理想辩论的主要要求之一。但是,即使辩论规则得到严格执行,错误的论点受到惩罚,辩论者也常常会用人身攻击的论点攻击对手。由于现有的研究缺乏对人身攻击论点的类型学及其潜在原因的坚实的实证调查,本文通过以下方式填补了这一空白:(1)进行几次大规模的注释研究,(2)实验各种神经架构并验证我们的工作假设,例如争议或合理性,以及(3)使用可解释的神经网络架构提供对人身攻击触发因素的语言学见解。
2018-02-23 cs.CL
The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text
École Polytechnique, Institut Polytechnique de Paris(巴黎综合理工学院、巴黎理工学院);Linagora(Linagora公司);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Inria(法国国家信息与自动化研究所)
该研究通过递归微调实验和词汇、句法、语义多样性指标,揭示语言模型在前代生成的合成文本上反复训练会导致输出多样性持续下降。
2024-04-16 cs.CL
A Measure for Transparent Comparison of Linguistic Diversity in Multilingual NLP Data Sets
University of Zurich(苏黎世大学);University of Neuchâtel(纳沙泰尔大学);Telepathy Labs GmbH(心灵感应实验室有限公司)
本文提出基于参考语言样本、Jaccard 指数与文本特征的语言多样性度量,用于解释并比较多语言 NLP 数据集,分析九个常用数据集并发现多数缺少(多式)综合语。
2024-04-16 cs.CL
Quantifying the Risks of Tool-assisted Rephrasing to Linguistic Diversity
University of Konstanz(康斯坦茨大学)
本文首次在多领域人类文本语料库上测量改写工具带来的语义与词汇变化,以量化大语言模型被广泛采用时对语言多样性的潜在风险。
2024-10-23 cs.CL
The State and Fate of Linguistic Diversity and Inclusion in the NLP World
Microsoft Research(微软研究院)
语言技术有助于在世界各地促进使用多种语言和语言多样性。然而,在世界上7000多种语言中,只有极少数的语言在迅速发展的语言技术和应用中得到了体现。在本文中,我们研究了语言类型、资源及其在NLP会议中的表示之间的关系,以了解不同语言随着时间的推移所遵循的轨迹。我们的定量调查强调了语言之间的差距,特别是在他们的资源方面,并质疑当前的模型和系统的“语言不可知论”的地位。通过这篇论文,我们试图说服ACL社区优先解决这里强调的困境,这样就不会有任何语言被抛在后面。
2021-01-27 cs.CL
What's in a Caption? Dataset-Specific Linguistic Diversity and Its Effect on Visual Description Models and Metrics
University of California, Berkeley(加州大学伯克利分校);Google Research(谷歌研究院)
虽然在自动视频描述领域已经取得了显着的进步,但自动描述模型对新领域的泛化性能仍然是在现实世界中使用这些系统的主要障碍。已知大多数视觉描述方法捕获和利用训练数据中的模式,从而导致评估度量增加,但是这些模式是什么?在这项工作中,我们研究了几个流行的视觉描述数据集,并捕获,分析和理解模型利用但不推广到新领域的特定语言模式。在令牌级别,样本级别和数据集级别,我们发现,标题的多样性是一个主要的驱动因素背后的通用和无信息的标题的生成。我们进一步表明,最先进的模型在现代指标上甚至优于地面实况字幕,这种效果是数据集中语言多样性的产物。理解这种语言多样性是构建强大的字幕模型的关键,我们推荐了几种方法和方法来保持新数据收集的多样性,并在使用当前模型和指标时处理有限多样性的后果。
2023-01-12 cs.CL cs.CV
Investigating the Relationship between Multi-Party Linguistic Entrainment, Team Characteristics, and the Perception of Team Social Outcomes
University of Pittsburgh(匹兹堡大学);University of Maryland(马里兰大学)
多方语言夹带是指说话人在会话过程中说话方式趋于相似的现象。首先,我们开发了新的措施,描述语言风格的功能,多方夹带,然后检查夹带和团队特征的性别组成,团队规模和多样性之间的关系。接下来,我们预测的感知团队的社会成果,使用多方语言夹带和团队特征与层次回归模型。我们发现,性别多样性更大的团队比性别多样性更少的团队具有更高的最小收敛性。无论是单独还是控制团队特征,夹带都对预测感知的团队社会成果有显着贡献。
2019-09-02 cs.CL
Detecting Linguistic Diversity on Social Media
Geospatial Research Institute(地理空间研究所);University of Canterbury(坎特伯雷大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本研究利用社交媒体数据与人口普查数据对比,验证其反映地方语言多样性的有效性,并证明其对人口及社会政治变化的敏感性。
2025-02-28 cs.CL
Limited Linguistic Diversity in Embodied AI Datasets
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Institute of Computer Science, University of Tartu(塔尔图大学计算机科学学院);Department of Mechanical Engineering, The University of Texas at Austin(德克萨斯大学奥斯汀分校机械工程系);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文分析了多个广泛使用的视觉-语言-动作数据集的语言特性,发现其指令存在高度重复和结构单一的问题,旨在推动更详细的 dataset 报告和语言覆盖的扩展策略。
2026-04-28 cs.AI cs.CL cs.RO
The Breeze 2 Herd of Models: Traditional Chinese LLMs Based on Llama with Vision-Aware and Function-Calling Capabilities
MediaTek Research(联发科研究院)
该研究基于Llama 3.2推出3B和8B参数的多模态模型Breeze2,通过大规模预训练增强繁体中文能力,新增函数调用与视觉理解功能,在同类模型中表现领先并开源及展示移动端运行能力。
2025-02-11 cs.CL
Rank diversity of languages: Generic behavior in computational linguistics
Universidad Nacional Autónoma de México(墨西哥国立自治大学)
语言的统计研究主要集中在词的等级频率分布上。相反,我们在这里引入一个衡量单词等级如何随时间变化的方法,并将此分布称为\emph{rank diversity}。我们计算了自1800年以来以六种欧洲语言出版的书籍的多样性,发现它遵循普遍的对数正态分布。基于对数正态分布的平均值和标准差,我们定义了三种不同的语言词的制度:“头”由几乎不改变他们的排名在时间上的话,“机构”是一般使用的话,而“尾巴”是由特定的上下文的话,并改变他们的排名相当大的时间。头部和身体反映了语言学家为基本交流所确定的语言核心的大小。我们提出了一个高斯随机游走模型,它再现了单词在时间上的排名变化,从而多样性。单词的等级多样性可以理解为等级随机变化的结果,其中变化的大小取决于等级本身。我们发现,核心大小是相似的所有语言研究。
2015-05-14 cs.CL
From Local to Global: Navigating Linguistic Diversity in the African Context
Makerere University(马凯雷雷大学)
本研究针对非洲受关注较少的本土方言与阿拉伯语方言的NLP处理难题,提出改进方法并验证其有效性,可为相关企业优化客户体验与产品开发提供支持,还可作为教学工具助力激发学习兴趣与科技创业。
2023-05-02 cs.CL cs.LG
Generative AI and linguistic diversity in academic writing and publishing: Perspectives from World Englishes
本文通过5位学者的结构化对话,探讨GenAI对学术写作语言多样性的影响,提出需制定公平政策、培养AI素养等应对建议,指出GenAI既可能强化语言层级也可成为抵抗载体。
2026-07-31 cs.CL
Experiences Build Characters: The Linguistic Origins and Functional Impact of LLM Personality
University of Sheffield(谢菲尔德大学);University of Oklahoma(俄克拉荷马大学)
本研究通过持续预训练和大五人格框架,揭示了大语言模型人格的形成机制,发现模型能力在特定性格类型中表现最佳,并揭示了训练数据语言特征对推理性能的影响。
2026-03-06 cs.AI cs.CL
BERnaT: Basque Encoders for Representing Natural Textual Diversity
HiTZ Center - Ixa, University of the Basque Country UPV/EHU(希茨中心 - Ixa,巴斯克国家大学UPV/EHU)
本文提出BERnaT模型,通过结合标准、社交媒体和历史文本构建新语料库,训练三种配置的编码器模型,评估框架区分标准和多样任务,结果表明混合训练模型在各类任务中表现更优。
2026-03-23 cs.AI cs.CL
The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models
University of Southern California(南加利福尼亚大学);Information Science Institute(信息科学研究所)
该研究通过三项针对超88万篇文本的研究,发现广泛使用大语言模型作为写作助手会降低语言多样性,使写作风格同质化、复杂性方差下降21%-50%,对多领域存在潜在影响。
2026-08-26 cs.CL
DiverseDialogue: A Methodology for Designing Chatbots with Human-Like Diversity
University of Pennsylvania(宾夕法尼亚大学);National Institutes of Health(美国国立卫生研究院)
本文提出DiverseDialogue方法,通过基于真实人类交互特征自动优化提示,显著提升LLM模拟对话的人类相似性和语言多样性,平均特征误差降低54%。
2024-08-30 cs.CL
RC-GRPO: Reward-Conditioned Group Relative Policy Optimization for Multi-Turn Tool Calling Agents
New Laboratory of Pattern Recognition (NLPR), State Key Laboratory of Multimodal Artificial Intelligence Systems (MAIS), Institute of Automation, Chinese Academy of Sciences(模式识别新实验室、多模态人工智能系统国家重点实验室、自动化研究所,中国科学院);School of Mathematics and Statistics(数学与统计学学院);Statistics, Lanzhou University(统计学,兰州大学);Shanghai Innovation Institute(上海创新研究院);Microsoft Research(微软研究院);Nanjing University(南京大学);Zhongguancun Academy(中关村学院)
RC-GRPO通过奖励条件化策略优化提升多轮工具调用性能,有效解决组内奖励稀疏导致的更新问题。
2026-02-03 cs.AI cs.CL
Diversity and Language Technology: How Techno-Linguistic Bias Can Cause Epistemic Injustice
University of Amsterdam(阿姆斯特丹大学);University of Trento(特伦托大学);IMT Atlantique(大西洋国立高等工业、信息与自动化技术学院);University of Hamburg(汉堡大学)
本文揭示AI语言技术中的技术语言偏见,指出其源于对多样性的简单化理解,导致系统无法表征边缘语言社区概念,并引发认知不公正等社会政治后果。
2023-07-25 cs.CL cs.CY
SynAE: A Framework for Measuring the Quality of Synthetic Data for Tool-Calling Agent Evaluations
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院)
本文提出SynAE框架,用于评估多轮工具调用代理合成数据的质量,通过四个指标类别评估合成数据的有效性、保真度和多样性,揭示单一指标不足以全面表征合成数据质量。
2026-05-21 cs.CL cs.LG cs.SE
IndicEval-XL: Bridging Linguistic Diversity in Code Generation Across Indic Languages
Deutsche Telekom Digital Labs(德国电信数字实验室)
针对现有代码生成基准以英语为中心的问题,提出IndicEval-XL基准,覆盖6种印度语言和12种编程语言,旨在提升多语言代码生成评估的包容性,并公开数据集以促进研究。
2025-02-26 cs.CL cs.SE
TrackList: Tracing Back Query Linguistic Diversity for Head and Tail Knowledge in Open Large Language Models
ATILF, University of Lorraine - CNRS, France(ATILF,洛林大学 - CNRS,法国);Center for Data Science in Humanities, Chosun University, South Korea(人文数据科学中心,全州大学,韩国)
TrackList研究了预训练数据对LLMs回答多样化语言查询的影响,发现LLMs在定义型问题表现最佳,但在例子型问题表现最差,且更倾向于改写流行知识而非尾部和技术知识。
2025-11-27 cs.CL
Using Linguistic Typology to Enrich Multilingual Lexicons: the Case of Lexical Gaps in Kinship
National University of Mongolia(蒙古国立大学);University of Trento(特伦托大学)
本文介绍了一种利用词汇类型学知识,丰富词汇资源的方法。我们通过词汇空缺和语言特定词的概念来捕捉多样性现象,并使用一种系统的方法来大规模地半自动地推断空缺。作为亲属术语领域的第一个结果,我们发布了一个词汇语义资源,包括198个领域概念,1,911个单词和37,370个缺口,涵盖699种语言。我们看到了使用我们这样的资源来改进各种跨语言NLP任务的潜力,我们通过评估机器翻译系统的下游应用程序来证明这一点。
2022-04-11 cs.CL
ToolFlow: Boosting LLM Tool-Calling Through Natural and Coherent Dialogue Synthesis
The Chinese University of Hong Kong(香港中文大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
针对工具调用合成数据中工具相关性弱、对话连贯性不足的问题,本文提出 ToolFlow 流程,结合基于图的采样、计划生成与多智能体交互合成,显著提升数据质量及 LLaMA-3.1-8B 的工具调用表现。
2025-03-17 cs.CL
DART-SD: Diamond-topology Aware Retrieval and Tuning for Self-Distillation of Multi-Turn Tool-Calling Agents
ByteDance(字节跳动);University of Science and Technology of China(中国科学技术大学)
本文针对多轮工具调用智能体训练中的拓扑崩溃问题,提出DART-SD框架,通过建模拓扑、检索恢复参考与渐进自蒸馏提升策略多样性,性能优于传统全轨迹基线。
2026-08-20 cs.AI cs.CL cs.LG
Modeling the human lexicon under temperature variations: linguistic factors, diversity and typicality in LLM word associations
University of Fribourg(弗里堡大学);LLF (Université Paris Cité / CNRS)(LLF(巴黎Cité大学/国家科学研究中心));Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学)
研究通过比较人类与LLM生成的词关联,探讨模型对人类词汇模式的捕捉准确性,发现大模型倾向于生成典型但变量小的响应,而小模型则更变量但典型性低,温度设置影响这一平衡。
2026-03-18 cs.CL
Investigating a Benchmark for Training-set free Evaluation of Linguistic Capabilities in Machine Reading Comprehension
The University of Manchester(曼彻斯特大学)
本文研究机器阅读理解语言能力的无训练集评估,提出用合成挑战集替代众包数据,并证明其在自然度与词汇多样性上有效,同时揭示SOTA模型可能只学会答题而未真正掌握语言现象。
2024-08-09 cs.CL
RouteNator: A Router-Based Multi-Modal Architecture for Generating Synthetic Training Data for Function Calling LLMs
Adobe Inc.(Adobe公司)
提出基于路由器的多模态架构RouteNator,利用领域资源和多模态语言模型生成高质量合成数据,解决LLM函数调用微调中真实数据缺失问题,显著提升分类与参数选择性能。
2025-05-15 cs.CL cs.LG
Diversidade linguística e inclusão digital: desafios para uma ia brasileira
Departamento de Letras Vernáculas(本土语言系);Universidade Federal de Sergipe - UFS(塞尔希培联邦大学 - UFS)
本文探讨语言多样性在生成AI发展中的威胁,分析技术应用中多样性选择偏差的影响及标准化语言的恶性循环。
2024-11-02 cs.CL cs.CY
Towards General Agentic Intelligence via Environment Scaling
Tongyi Lab(通义实验室);Alibaba Group(阿里巴巴集团)
本文提出通过环境缩放迈向通用智能体智能,设计可扩展框架自动构建异构模拟环境以拓宽函数调用场景,并采用两阶段微调策略训练出显著提升函数调用能力的AgentScaler模型。
2025-09-16 cs.CL
Self-Guided Function Calling in Large Language Models via Stepwise Experience Recall
The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences(认知与决策智能复杂系统重点实验室,自动化研究所,中国科学院);School of Artificial Intelligence, University of Chinese Academy of Sciences(人工智能学院,中国科学院大学);Nanjing University of Information Science & Technology(南京信息工程大学);Institute of Computing Technology, Chinese Academy of Sciences(计算技术研究所,中国科学院)
SEER通过逐步经验回忆方法,提升大语言模型在多步骤工具使用中的准确性和效率。
2026-02-10 cs.CL
Data Turnstile: A Scalable Open Framework for Function-Calling Data Generation
Amazon AGI(亚马逊AGI)
该研究提出开源框架Data Turnstile,可基于用户定义API规范生成高质量函数调用合成训练数据,经其微调的小型语言模型在BFCL、τ²-bench等基准上性能大幅提升,缩小了与更大规模模型的差距。
2026-08-03 cs.CL
Losing our Tail, Again: (Un)Natural Selection & Multilingual LLMs
Research Centre for Cognitive Science & Artificial Intelligence(认知科学与人工智能研究中心);Department of Computational Cognitive Science(计算认知科学系);Tilburg University(蒂尔堡大学)
本文探讨多语言大语言模型中翻译技术导致语言多样性丧失的问题,指出模型崩溃可能使语言形式、语法特征和文化内涵消失,呼吁保护多语言多样性。
2026-04-23 cs.CL
Language Diversity across the Consonant Inventories: A Study in the Framework of Complex Networks
Microsoft Research India(微软印度研究院);Malaviya National Institute of Technology, Jaipur(斋浦尔马拉维亚国家理工学院)
在本文中,我们试图通过一个基于复杂网络的增长模型来解释世界上一些主要语系的辅音库存中存在的语言多样性的出现。这个模型只有一个参数,这意味着在其他基于偏好连接的生长过程中引入少量的随机性。使用该模型参数的实验表明,在一个家族内的语言中辅音的选择远比跨家族的选择更优先。这一结果的含义是双重的-(a)说话者天生倾向于获得某些语言结构,而不是其他语言结构;(b)共同的祖先促使一个家族内的语言之间的优先联系比跨家族的语言之间的优先联系更强。此外,我们的观察表明,这一参数可能承担的调查中的语言家族存在的时间相关。
2009-04-08 cs.CL physics.comp-ph physics.soc-ph
Diversifying Neural Text Generation with Part-of-Speech Guided Softmax and Sampling
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Center for Data Science, Peking University(北京大学数据科学中心);The MOE Key Laboratory of Computational Linguistics, Peking University(北京大学计算语言学教育部重点实验室)
神经文本生成模型可能会受到低多样性问题的困扰。各种解码策略和基于训练的方法已经被提出,以促进多样性,只有利用上下文特征,但很少考虑到结合句法结构线索。在这项工作中,我们建议使用语言注释,即,词性(POS),用于指导文本生成。详细地说,我们引入了POS Guided Softmax来显式地对两个后验概率进行建模:(i)下一个POS,以及(ii)来自目标POS词汇表的下一个令牌。进一步提出了一种POS引导抽样策略,通过丰富POS的多样性来解决低多样性问题。大量的实验和人工评估表明,与现有的最先进的方法相比,我们的POS引导Softmax和采样(POSG)可以生成更多样化的文本,同时保持相当的质量。
2022-09-10 cs.AI cs.CL
Pre-Training BERT on Arabic Tweets: Practical Considerations
Qatar Computing Research Institute(卡塔尔计算研究所);HBKU(卡塔尔哈马德·本·哈利法大学)
为下游NLP任务预训练来自Transformers的双向编码器表示(BERT)是一项非常重要的任务。我们预训练了5个BERT模型,这些模型在训练集的大小、正式和非正式阿拉伯语的混合以及语言预处理方面有所不同。所有这些都旨在支持阿拉伯方言和社交媒体。实验突出了数据多样性的中心地位和语言感知分割的有效性。他们还强调,更多的数据或更多的训练步骤并不需要更好的模型。我们的新模型在多个下游任务上实现了新的最先进的结果。由此产生的模型以QARiB的名义发布给社区。
2021-02-21 cs.AI cs.CL
Voice of a Continent: Mapping Africa's Speech Technology Frontier
The University of British Columbia(不列颠哥伦比亚大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学);Invertible AI
本文系统绘制非洲语音数据集与技术空间地图,提出综合基准 SimbaBench 和 Simba 模型家族,在多种非洲语言任务上取得最先进性能,并揭示资源、数据质量与语系关系对性能的影响。
2025-07-04 cs.CL
Where Are We? Evaluating LLM Performance on African Languages
The University of British Columbia(不列颠哥伦比亚大学);MBZUAI;Invertible AI(可逆AI)
本文通过Sahara基准系统评估大语言模型在非洲语言上的表现,揭示政策导致的数据不平等如何使多数本土语言被边缘化,并提出政策改革与包容性数据实践建议。
2025-06-03 cs.CL
PILOT: Steering Synthetic Data Generation with Psychological & Linguistic Output Targeting
PILOT框架通过将自然语言画像转换为结构化心理语言学画像来引导大语言模型生成合成数据,实验表明基于模式的方法能显著减少画像重复并提高输出连贯性,混合引导则在多样性与一致性之间取得平衡。
2025-09-18 cs.AI cs.CL
Data-Driven Function Calling Improvements in Large Language Model for Online Financial QA
Shenzhen Technology University(深圳技术大学);FiT, Tencent(腾讯FiT);Huazhong University of Science and Technology(华中科技大学);McGill University(麦吉尔大学);The Hong Kong University of Science and Technology(香港科技大学);Shenzhen University(深圳大学)
本文提出数据驱动管道提升LLM在金融场景中的函数调用能力,通过构建数据集、数据增强和模型训练,解决通用LLM在金融领域适应性差的问题。
2026-04-07 cs.CL cs.IR
English is Not All You Need: Systematically Exploring the Role of Multilinguality in LLM Post-Training
UC Santa Barbara(加州大学圣巴巴拉分校);Amazon(亚马逊)
研究通过220次监督微调实验,探讨训练语言覆盖、模型规模和任务领域间的相互作用,发现增加后训练语言覆盖对各任务和模型规模均有益,低资源语言受益最大,高资源语言趋于稳定。单语种多语言性可提升英语表现和跨语言泛化,英语独占后训练效果不佳。
2026-09-22 cs.AI cs.CL
Sequence-to-Sequence Models for Data-to-Text Natural Language Generation: Word- vs. Character-based Processing and Output Diversity
Institute for Natural Language Processing (IMS)(自然语言处理研究所);Universität Stuttgart(斯图加特大学)
我们提出了一个基于单词和基于字符的序列到序列模型的数据到文本的自然语言生成,生成结构化输入的自然语言描述的比较。在最近两代挑战的数据集上,我们的模型实现了与最佳挑战提交相比相当或更好的自动评估结果。随后的详细统计和人工分析揭示了两种输入表示之间的差异以及生成文本的多样性。在一个由模板生成的合成训练数据的对照实验中,我们展示了神经模型学习模板的新组合的能力,从而超越了它们所训练的语言结构。
2018-10-11 cs.CL
Building and curating conversational corpora for diversity-aware language science and technology
Radboud University(拉德堡德大学);Centre for Language Studies(语言研究中心)
我们提出了一个分析管道和最佳实践指南,用于构建和策划不同语言的日常对话语料库。调查语言文档语料库和其他资源,涵盖67种语言和品种,从28门,我们描述了编译和策展过程,指定最小的属性的统一格式的international数据,并开发质量控制的方法,考虑到轮流和时间。两个案例研究显示了会话数据在以下方面的广泛用途:(i)绘制人类交互基础设施;(ii)跟踪当前ASR解决方案的挑战和机遇。语言多样性的会话语料库可以为语言科学提供新的见解,为语言技术提供更强的经验基础。
2022-05-10 cs.CL
LaiDA: Linguistics-aware In-context Learning with Data Augmentation for Metaphor Components Identification
School of Computer and Artificial Intelligence, Zhengzhou University(郑州大学计算机与人工智能学院)
针对隐喻成分识别的复杂性与语境依赖难题,提出融合语言学感知与数据增强的LaiDA框架,通过图注意力网络检索相似示例微调大语言模型,在NLPCC2024相关子任务中获第二名。
2024-08-10 cs.CL
Understanding Task Design Trade-offs in Crowdsourced Paraphrase Collection
University of Michigan(密歇根大学)
语言多样的数据集对于训练和评估强大的机器学习系统至关重要,但数据汇集是一个昂贵的过程,通常需要专家。众包释义生成过程是扩展自然语言数据集的有效手段,但对设计任务时出现的权衡分析有限。本文首次系统研究了众包释义收集的关键因素。我们考虑指令,激励措施,数据域和工作流程的变化。我们手动分析释义的正确性、语法性和语言多样性。我们的观察结果提供了新的洞察力的准确性和多样性之间的权衡,在人群的反应,作为任务设计的结果,为未来的释义生成程序提供指导。
2017-10-19 cs.CL cs.HC
Cheetah: Natural Language Generation for 517 African Languages
The University of British Columbia(不列颠哥伦比亚大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出了支持517种非洲语言的大规模多语言自然语言生成模型Cheetah,在六项下游任务中五项显著优于其他模型,促进了低资源语言NLP的发展。
2024-01-10 cs.CL
Beware of Words: Evaluating the Lexical Diversity of Conversational LLMs using ChatGPT as Case Study
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Universidad Politécnica de Madrid(马德里理工大学);Universidad de Valladolid(巴利亚多利德大学)
本文以ChatGPT为案例,提出评估对话式大语言模型生成文本词汇丰富度的方法,揭示词汇多样性受模型版本、参数(如存在惩罚)和角色设定的影响,并公开数据集与工具以推动相关研究。
2024-10-21 cs.CL
Autoencoder-Based Framework to Capture Vocabulary Quality in NLP
University of Houston(休斯顿大学)
本文提出基于自编码器的框架,利用神经网络容量动态评估词汇丰富性、多样性和复杂性,弥补传统指标在上下文和语义捕捉上的不足,并在DIFrauD和Project Gutenberg数据集上验证了其鲁棒性。
2025-02-28 cs.CL
Type Diversity Enables Transformers to Generalise Compositionally
Aalto University(阿尔托大学);University of Helsinki(赫尔辛基大学)
本研究提出类型多样性(而非Transformer固有缺陷)是导致结构泛化比词汇泛化更困难的原因,并通过创建COGS和SLOG的语言学多样化变体验证了该假设,同时反驳了复合发散解释,并探讨了其他数据集属性的影响。
2026-09-14 cs.CL
Bridging the Language Gap: Synthetic Voice Diversity via Latent Mixup for Equitable Speech Recognition
University of California Los Angeles, Department of Statistics(加州大学洛杉矶分校统计学系)
本文提出了一种通过潜在混合提升合成语音多样性的方法,以改善低资源语言的语音识别性能。
2025-11-25 cs.CL
Quality Controlled Paraphrase Generation
IBM Research(IBM研究院);Bar Ilan University(巴伊兰大学)
释义生成在各种下游任务中得到了广泛的应用。大多数任务主要受益于高质量的释义,即那些语义相似,但语言不同,从原来的句子。生成高质量的释义是一项挑战,因为随着语言多样性的增加,保持意义变得越来越困难。最近的工作取得了很好的结果,通过控制的特定方面的释义,如其句法树。然而,它们不允许直接控制所生成的释义的质量,并且具有低灵活性和可扩展性。在这里,我们提出了$QCPG$,一个质量导向的控制释义生成模型,允许直接控制质量维度。此外,我们提出了一种方法,给定一个句子,确定点的质量控制空间,预计将产生最佳生成的释义。我们表明,我们的方法是能够产生的释义保持原来的含义,同时实现更高的多样性比不受控制的基线。模型、代码和数据可以在https://github.com/IBM/quality-controlled-paraphrase-generation中找到。
2022-04-01 cs.CL
Breaking Physical and Linguistic Borders: Multilingual Federated Prompt Tuning for Low-Resource Languages
University of Cambridge(剑桥大学);University College London(伦敦大学学院);Samsung AI Center(三星人工智能中心);Flower Labs(Flower实验室)
本文提出多语言联邦提示微调范式,在遵守数据共享限制的同时利用参数高效微调,实验表明其相比传统本地跨语言迁移方法准确率提升6.9%,并显著改善低资源语言的数据效率和跨语言互增强能力。
2025-07-02 cs.CL