A Novel Dataset for Financial Education Text Simplification in Spanish
Instituto Tecnológico de Costa Rica(哥斯达黎加技术学院);Universidad de Costa Rica(哥斯达黎加大学);Universidad Pompeu Fabra(庞培法布拉大学)
针对西班牙语文本简化数据集稀缺的问题,研究构建了含5314组句对的西班牙语金融教育文本简化数据集FEINA,对比了GPT-3等系统的简化效果以验证数据增强可行性,数据集已公开。
2023-12-15 cs.AI
Spanish TrOCR: Leveraging Transfer Learning for Language Adaptation
KTH Royal Institute of Technology(瑞典皇家理工学院);CentraleSupélec, université Paris-Saclay(中央高等电力学院,巴黎-萨克雷大学);Qantev(宽迪夫科技)
本研究探索TrOCR架构的西班牙语迁移学习,提出资源高效的多语言OCR数据集构建流水线,对比两种适配方法,证明微调方案效果更优,推出当前最优的开源西班牙语OCR模型并公开相关资源。
2024-07-09 cs.AI cs.CL
A Rule-Based Approach For Aligning Japanese-Spanish Sentences From A Comparable Corpora
Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
统计机器翻译系统(SMT)的性能与其使用的平行语料库的质量和长度成正比。然而,对于某些语言对来说,它们相当缺乏。长期的目标是建立一个用于SMT的日语-西班牙语平行语料库,然而,缺乏有用的日语-西班牙语平行语料库。为了解决这个问题,在这项研究中,我们提出了一种方法来提取日语-西班牙语平行句子从维基百科使用词性标注和基于规则的方法。这种方法的主要焦点是两种语言的句法特征。对样品进行了人体评价,与基线相比,显示出有希望的结果。
2012-11-19 cs.AI cs.CL
Multilingual Controlled Generation And Gold-Standard-Agnostic Evaluation of Code-Mixed Sentences
South City International School(南城国际学校);IISER Kolkata(加尔各答印度科学教育与研究学院)
针对语码混合评估问题,提出受控生成方法参数化语码混合度并生成多句等价翻译,引入不依赖黄金标准的评估指标GAME,其标准差低于BLEU,并发布4语言对数据集。
2024-10-14 cs.AI cs.CL
A Survey of Spanish Clinical Language Models
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Instituto de Ingeniería del Conocimiento(知识工程研究所)
本综述聚焦西班牙语临床领域的编码器语言模型,回顾17个相关语料库,对多种模型进行基准测试(微调超3000个模型),并公开语料库与最佳模型以促进结果复现与未来挑战。
2023-08-04 cs.AI cs.CL cs.LG
SpaDeLeF: A Dataset for Hierarchical Classification of Lexical Functions for Collocations in Spanish
Instituto Politécnico Nacional (IPN)(墨西哥国立理工学院);Centro de Investigación en Computación (CIC)(计算机研究中心)
本研究构建了西班牙语动词-名词搭配词汇功能层级分类数据集SpaDeLeF,含37类功能的树状层级结构,通过新闻依存分析匹配生成,提供基线与数据划分,填补相关标注数据缺口。
2023-11-07 cs.CL
ClinText-SP and RigoBERTa Clinical: a new set of open resources for Spanish Clinical NLP
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Instituto de Ingeniería del Conocimiento(知识工程研究所)
本研究推出西班牙语最大公开临床语料库ClinText-SP与领域自适应预训练的临床语言模型RigoBERTa Clinical,二者性能优于现有模型,公开发布后将推动临床NLP研究与医疗应用发展。
2025-03-24 cs.AI cs.CL
LyricSIM: A novel Dataset and Benchmark for Similarity Detection in Spanish Song LyricS
Universidad de Salamanca(萨拉曼卡大学);Universidad Nacional de Educacion a Distancia(国立远程教育大学);IE University(IE大学)
该研究构建并标注西班牙语歌曲歌词相似度数据集LyricSIM,通过63名母语者标注和一致性筛选得到676对高质量样本,并评测多种单语及多语言模型,建立可复用基准。
2023-06-02 cs.CL cs.IR
Lexical Simplification Benchmarks for English, Portuguese, and Spanish
Universitat Pompeu Fabra(庞培法布拉大学);Manchester Metropolitan University(曼彻斯特城市大学);George Mason University(乔治梅森大学)
即使在高度发达的国家,也有15- 30%的人口只能理解使用基本词汇书写的文本。他们对日常文本的理解有限,这使他们无法在社会中发挥积极作用,并在医疗保健,法律代表或民主选择方面做出明智的决定。词汇简化是一项自然语言处理任务,旨在通过用简单的词汇和表达替换复杂的词汇和表达,同时保留原始含义,使每个人都能理解文本。在过去的20年里,它引起了相当大的关注,并且已经为各种语言提出了全自动的词汇简化系统。阻碍该领域发展的主要障碍是缺乏用于构建和评估词汇简化系统的高质量数据集。我们提出了一个新的基准数据集的词汇简化英语,西班牙语和(巴西)葡萄牙语,并提供有关数据选择和注释程序的细节。这是第一个提供三种语言词汇简化系统直接比较的数据集。为了展示数据集的可用性,我们采用了两个具有不同架构的最先进的词汇简化系统(神经与\非神经)到所有三种语言(英语,西班牙语和巴西葡萄牙语),并评估它们在我们新数据集上的表现。为了更公平的比较,我们使用了几个评估指标,这些指标反映了系统功效的各个方面,并讨论了它们的优点和缺点。我们发现,一个国家的最先进的神经词汇简化系统优于一个国家的最先进的非神经词汇简化系统在所有三种语言。更重要的是,我们发现最先进的神经词汇简化系统对英语的表现明显优于西班牙语和葡萄牙语。
2022-09-12 cs.CL
Sentence Compression in Spanish driven by Discourse Segmentation and Language Models
École Polytechnique de Montréal(蒙特利尔高等理工学院);Universitat Pompeu Fabra(庞培法布拉大学)
以前的工作表明,自动文本摘要(ATS)的句子提取可以提高使用句子压缩。在这项工作中,我们提出了一个句子压缩的方法指导下的水平句语篇分割和概率语言模型(LM)。这里给出的结果表明,所提出的解决方案是能够生成连贯的摘要与语法压缩的句子。这种方法很简单,可以移植到其他语言中。
2012-12-17 cs.CL cs.IR
APEX-VW: A Document-Level English-Spanish Post-Editing Dataset in the Healthcare Domain
Universitat Politècnica de València(瓦伦西亚理工大学);Lancaster University(兰卡斯特大学);Universidad de Granada(格拉纳达大学)
本文提出APEX-VW医疗领域文档级英西后编辑数据集,含4.2万词文档及专业后编辑数据,可用于术语规范化等研究,为相关任务提供基准。
2026-08-11 cs.CL
S-DiverSe: Spanish Diverse Speech
Scientific Research, Telefónica Innovación Digital(科学研究,西班牙电信数字创新公司);Universidad Autónoma de Madrid(马德里自治大学);Brno University of Technology(布尔诺理工大学)
研究受神经疾病影响的西班牙语语音识别难题,构建含22名患者语音的S-DiverSe语料库,分析其构成并报告结果,发现启发式文本后处理对域外神经疾病西班牙语语音更稳健。
2026-07-07 cs.CL cs.SD
GeBioToolkit: Automatic Extraction of Gender-Balanced Multilingual Corpus of Wikipedia Biographies
我们介绍GeBioToolkit,一个工具,用于提取多语言平行语料库在句子级别,从维基百科的传记文件和性别信息。尽管维基百科中存在性别不平等,但该工具包旨在提取性别平衡的语料库。虽然我们的工具包可以定制为任何数量的语言(和不同的领域),但在这项工作中,我们提供了英语,西班牙语和加泰罗尼亚语的2,000个句子的语料库,这些句子已经由母语人士进行了后期编辑,成为机器翻译评估的高质量数据集。虽然GeBioCorpus旨在成为第一个非合成性别平衡的测试数据集之一,但GeBioToolkit旨在为标准化程序铺平道路,以产生性别平衡的数据集
2019-12-10 cs.CL
MEL: Legal Spanish Language Model
Instituto de Ingeniería del Conocimiento (IIC)(知识工程研究所);Universidad Politécnica de Madrid(马德里理工大学)
本文提出基于XLM-RoBERTa-large微调的西班牙语法律语言模型MEL,通过在BOE等法律文本上训练,显著提升了法律文本理解能力,并在多种NLP任务中展现出应用潜力。
2025-01-27 cs.CL
MaSS: A Large and Clean Multilingual Corpus of Sentence-aligned Spoken Utterances Extracted from the Bible
Univ. Grenoble Alpes(格勒诺布尔大学);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);LIG(信息与信号处理实验室);LIDILEM(语言、数字、管理、教育与多语制实验室)
CMU Wilderness Multilingual Speech Dataset(Black,2019)是一个新发布的多语言语音数据集,基于新约的记录阅读。它提供的数据可以为潜在的700种语言构建自动语音识别(ASR)和文本到语音(TTS)模型。然而,由于所有语言的源内容(圣经)都是相同的这一事实,迄今为止还没有得到充分利用,因此本文提出在不同语言的语音片段之间添加多语言链接,并共享了一个包含8种语言(56种语言对)的8,130个平行口语的大而干净的数据集。我们将这个语料库命名为MaSS(多语言句子对齐口语语料库)。所涵盖的语言(巴斯克语,英语,芬兰语,法语,匈牙利语,罗马尼亚语,俄语和西班牙语)允许研究语音到语音对齐以及类型不同的语言对的翻译。最终语料库的质量是通过对语料库子集(100个话语,8个语言对)进行的人类评价来证明的。最后,我们展示了最终产品的实用性双语语音检索任务。
2020-02-26 cs.CL
COM2SENSE: A Commonsense Reasoning Benchmark with Complementary Sentences
University of Southern California(南加州大学);Sharif University of Technology(谢里夫理工大学);University of California, Los Angeles(加州大学洛杉矶分校)
常识推理对人类来说是直观的,但对人工智能(AI)来说是一个长期的挑战。预训练语言模型的最新进展在几个常识基准数据集上显示出有希望的结果。然而,这些基准评估模型的常识推理能力的可靠性和全面性仍然不清楚。为此,我们引入了一个新的常识推理基准数据集,包括自然语言真/假语句,每个样本与其互补配对,产生4k个句子对。我们提出了一个成对的准确性度量,可靠地衡量代理的能力,执行常识推理在给定的情况下。该数据集是众包的,并通过对抗性模型在环设置进行增强,以激励具有挑战性的样本。为了便于系统地分析常识能力,我们沿着知识领域,推理场景和计算能力的维度设计我们的数据集。实验结果表明,我们最强的基线(UnifiedQA-3B),微调后,达到约71%的标准准确度和约51%的成对准确度,远低于人类的表现(两个指标约95%)。该数据集可在https://github.com/PlusLabNLP/Com2Sense上获得。
2021-06-02 cs.AI cs.CL
Evaluation Benchmarks and Learning Criteria for Discourse-Aware Sentence Representations
Toyota Technological Institute at Chicago(芝加哥丰田技术研究院);University of Chicago(芝加哥大学)
先前关于预训练的句子嵌入和基准的工作集中在独立句子的能力上。我们提出了DiscoEval,一个测试套件的任务,以评估句子表示是否包括更广泛的上下文信息。我们还提出了各种训练目标,利用维基百科的自然注释来构建能够对话语进行建模的句子编码器。我们对使用我们提出的训练目标进行预训练的句子编码器以及其他流行的预训练句子编码器在DiscoEval和其他句子评估任务上进行了基准测试。从经验上讲,我们表明,这些培训目标有助于编码不同方面的信息在文档结构。此外,BERT和ELMo表现出较强的性能与DiscoEval的个人隐藏层显示不同的特点。
2019-11-07 cs.CL
HISPASpoof: A New Dataset For Spanish Speech Forensics
Video and Image Processing Laboratory (VIPER), School of Electrical and Computer Engineering, Purdue University(视频与图像处理实验室(VIPER)、电气与计算机工程学院、普渡大学)
针对西班牙语在语音取证中代表不足的问题,本文提出了首个大规模西班牙语数据集HISPASpoof,包含六种口音真实语音和六个零样本TTS系统生成的合成语音,为合成语音检测与归因提供了关键基准。
2025-09-11 cs.AI cs.LG
Extended Multilingual Protest News Detection -- Shared Task 1, CASE 2021 and 2022
KNAW Humanities Cluster(荷兰皇家艺术与科学学院人文集群);Koc University(科奇大学);Mersin University(梅尔辛大学);Huawei(华为);UNC Charlotte(北卡罗来纳大学夏洛特分校);Birmingham City University(伯明翰城市大学);ETH Zurich(苏黎世联邦理工学院);National Institute of Japanese Literature(日本国立文学研究所);Bulgarian Academy of Sciences(保加利亚科学院);University of São Paulo(圣保罗大学);Sabanci University(萨班哲大学)
我们报告了CASE 2022多语言抗议事件检测共享任务1的结果。该任务是CASE 2021的延续,CASE 2021由四个子任务组成,即i)文档分类,ii)句子分类,iii)事件句子共指识别,以及iv)事件提取。CASE 2022扩展包括扩展测试数据,使用更多以前可用语言(即英语、印地语、葡萄牙语和西班牙语)的数据,并为子任务1(文档分类)添加普通话、土耳其语和乌尔都语的新测试数据。使用来自CASE 2021的英语、葡萄牙语和西班牙语的训练数据。因此,预测印地语、汉语、土耳其语和乌尔都语的文档标签发生在zero-shot设置中。CASE 2022研讨会也接受为预测CASE 2021的测试数据而开发的系统的报告。我们观察到,CASE 2022参与者提交的最佳系统在zero-shot设置中为新语言实现了79.71和84.06之间的F1宏。获胜的方法主要是集成模型和合并多种语言的数据。在所有语言中,CASE 2021数据中最好的两个提交都优于去年子任务1和子任务2的提交。在CASE 2021中,只有以下场景的表现没有被新提交的案例所超越:Subtask 3 Portuguese \& Subtask 4 English。
2022-11-21 cs.AI cs.CL cs.LG
HEAD-QA v2: Expanding a Healthcare Benchmark for Reasoning
HEAD-QA v2扩展了医疗推理数据集,包含12000个西班牙专业考试问题,评估多种LLM性能,发现模型规模和推理能力是主要影响因素。
2026-03-30 cs.CL
The Daunting Dilemma with Sentence Encoders: Success on Standard Benchmarks, Failure in Capturing Basic Semantic Properties
Auburn University(奥本大学)
本文回顾性比较五种流行句子编码器,发现它们虽在SentEval基准上表现优异,但在复述、同义词替换、反义词替换和句子乱序等基本语义属性捕捉上仍存在显著缺陷。
2023-09-07 cs.CL
WinoWhat: A Parallel Corpus of Paraphrased WinoGrande Sentences with Common Sense Categorization
University of Antwerp(安特卫普大学)
本研究评估了不同规模生成式模型在WinoGrande基准上的常识推理能力,发布了复述语料库WinoWhat并进行五类常识分类评估,发现模型在新语料库上表现显著下降,表明其推理能力被高估,且基准记忆对此影响极小。
2025-03-31 cs.AI cs.CL
Computational Semantics and Evaluation Benchmark for Interrogative Sentences via Combinatory Categorial Grammar
Kyoto University(京都大学);Keio University(庆应义塾大学)
本文在组合范畴语法框架下提出疑问句的组合语义,并构建问答数据集QSEM进行评估,揭示了CCG理论能力与现有解析器之间的差距。
2023-12-22 cs.AI cs.CL cs.LO
A Durability and Cross-Language Transfer Benchmark for a Validated Teaching-Feedback Classification Protocol
Universidad de Guadalajara(瓜达拉哈拉大学)
研究教学反馈分类协议的复用性问题,通过在原始西班牙数据上跨三代表示方法重新运行,并转移到英语,发现该协议具有耐久性,模型选择是部署决策而非方法特性。
2026-07-14 cs.CL cs.LG
Generalistic or Specific Embeddings, Which is Better? An Empirical Study on Search for Clinical Coding in Non-English Languages
TietAI
本研究通过使用大型生成语言模型生成的合成数据微调双语编码器,构建两阶段检索器,解决了非英语语言临床编码检索中召回率下降的问题,并在多语言基准上取得了优于BioBERT-ST的性能。
2026-05-28 cs.AI cs.CL cs.LG
$τ$-Multilingual: Benchmarking Voice Agents Across Languages
Sierra;Mercor;Princeton University(普林斯顿大学)
提出τ-Multilingual多语言语音代理基准,扩展至五种语言,发现韩语和普通话任务完成度显著下降,并发布语言包与评估工具。
2026-09-30 cs.AI cs.CL cs.SD
Bangla Sentence Function Classification: Corpus Development, Model Benchmarking, and Interpretability
Daffodil International University(达福德国际大学);Kennesaw State University(肯尼索州立大学)
本文构建了包含10,000个孟加拉语句子的四类功能标注语料库,通过TF-IDF特征与双层集成模型(DLE)实现0.95的准确率和宏F1,并利用LIME提供可解释性分析。
2026-09-15 cs.AI cs.CL cs.LG
Beyond Single-Sentence Prompts: Upgrading Value Alignment Benchmarks with Dialogues and Stories
Zhengzhou University of Light Industry(郑州轻工业大学);Tianjin University(天津大学)
针对单句提示难以检测LLM价值偏见的问题,提出融合多轮对话与叙事场景的升级基准,有效暴露潜在偏见,推动更现实的AI伦理评估。
2025-03-28 cs.AI cs.CL cs.CY
Revealing the Blind Spot of Sentence Encoder Evaluation by HEROS
National Taiwan University(国立台湾大学);Massachusetts Institute of Technology(麻省理工学院)
该研究针对传统句子文本相似度基准的评估盲区,构建高词汇重叠最小对诊断数据集HEROS,测试发现多数无监督句子编码器对否定不敏感,训练数据集是编码器相似度判断的主要决定因素。
2023-06-13 cs.CL
Neural sentence embedding models for semantic similarity estimation in the biomedical domain
Medical University of Vienna(维也纳医科大学)
背景技术背景:在这项研究中,我们调查了目前最先进的神经句子嵌入模型的有效性,从生物医学文献的句子的语义相似性估计。我们在PubMed开放获取数据集中的170万篇文章上训练了不同的神经嵌入模型,并基于生物医学基准集对它们进行了评估,该基准集包含由人类专家注释的100个句子对和来自原始基准集的较小矛盾子集。研究结果:Pearson相关系数为0.819,我们基于Paragraph Vector Distributed Memory算法的最佳无监督模型的性能优于BIOSSES生物医学基准集上先前获得的最新结果。此外,我们提出的监督模型,结合不同的字符串为基础的相似性度量与神经嵌入模型超越了以前的本体依赖的监督国家的最先进的方法在皮尔逊的r(r=0.871)的生物医学基准集。与原始基准测试的有希望的结果相反,我们发现我们最好的模型在较小的矛盾子集上的性能很差。结论:在这项研究中,我们强调了基于神经网络的模型在生物医学领域的语义相似性估计的价值,表明它们可以跟上,甚至超过以前的最先进的方法,语义相似性估计依赖于在生物医学基准集上进行评估时,精心策划的本体的可用性。然而,捕捉生物医学句子中的矛盾和否定成为进一步工作的一个重要领域。
2021-10-01 cs.CL
Gender Bias in MT for a Genderless Language: New Benchmarks for Basque
本文通过引入两个新数据集,研究巴斯克语翻译中的性别偏见问题,发现模型存在系统性偏好阳性形式的现象。
2026-03-09 cs.CL
StylePTB: A Compositional Benchmark for Fine-grained Controllable Text Style Transfer
Carnegie Mellon University(卡内基梅隆大学)
语篇风格转换的目的是在保持源句核心意义不变的情况下,可控地生成具有目标风格变化的语篇。许多现有的风格转换基准主要集中在个人的高层次语义变化(例如,积极到消极),这使得在高层次的可控性,但不提供涉及句子结构,强调和句子的内容细粒度的控制。在本文中,我们介绍了一个大规模的基准,StylePTB,(1)成对的句子经历了21个细粒度的风格变化,跨越原子词汇,句法,语义和文本的主题转移,以及(2)多个转移的组成,允许建模细粒度的风格变化作为更复杂,更高层次的转移的构建块。通过对StylePTB上的现有方法进行基准测试,我们发现它们很难对细粒度的更改进行建模,并且更难组合多种样式。因此,StylePTB带来了新的挑战,我们希望这将鼓励未来的研究在可控的文本风格转移,组合模型,学习解开表示。解决这些挑战将是迈向可控文本生成的重要步骤。
2021-04-12 cs.AI cs.CL cs.LG
NeuroVoz: a Castillian Spanish corpus of parkinsonian speech
Escuela Técnica Superior de Ingenieros de Telecomunicación, Universidad Politécnica de Madrid(马德里理工大学电信工程高等技术学院);Hospital General Universitario Gregorio Marañón(格雷戈里奥·马拉尼翁大学综合医院)
本文提出NeuroVoz,一个包含112名卡斯蒂利亚西班牙语说话者(含PD患者与健康对照)的言语语料库,涵盖多种任务及专家评估,支持PD筛查,基准准确率达89%。
2025-02-26 cs.AI cs.CL cs.SD
A User-Centered Evaluation of Spanish Text Simplification
Microsoft Corporation(微软公司)
该研究使用复杂句与复杂词语料评估生产环境中的西班牙语文本简化,发现神经网络优于可读性评分、单语模型优于多语言模型,并指出现有模型依赖虚假特征。
2023-08-15 cs.CL cs.LG
A Large-Scale Benchmark for Vietnamese Sentence Paraphrases
University of Information Technology(信息科技大学);Vietnam National University(越南国立大学)
本文构建首个大规模越南语句子复述高质量数据集ViSP(含120万句对),通过混合方法保障质量,用多种模型实验验证,为越南语复述研究提供基础。
2025-02-11 cs.CL
A Benchmark Arabic Dataset for Commonsense Explanation
Jordan University of Science and Technology(约旦科技大学)
机器的语言理解和常识知识验证是一项具有挑战性的任务,目前仍在对阿拉伯语文本进行研究和评估。在本文中,我们提出了一个基准阿拉伯语数据集的常识解释。该数据集由没有意义的阿拉伯语句子组成,以及三个选择,以从中选择解释为什么句子是错误的。此外,本文提出的基线结果,以协助和鼓励在这一领域的研究的未来评估。该数据集在Creative Commons CC-BY-SA 4.0许可下分发,可以在GitHub上找到
2020-12-18 cs.AI cs.CL cs.LG
Towards Annotating and Creating Sub-Sentence Summary Highlights
University of Central Florida(中佛罗里达大学);Amazon(亚马逊)
突出显示是一个强有力的工具,可以挑出重要的内容并加以强调。在子句级别创建摘要亮点是特别可取的,因为子句比整句更简洁。它们也比单个单词和短语更适合,这些单词和短语可能会导致不流畅,支离破碎的摘要。在本文中,我们试图通过注释值得总结的子句和教学分类器来生成摘要亮点。我们的任务是共同选择重要的句子,并从每个句子中识别出一个信息量最大的文本单元。这个公式大大降低了句子压缩中涉及的任务复杂性。我们的研究提供了新的基准和基线,在子句水平上产生的亮点。
2019-10-17 cs.CL
Classifying Interpretive Canons at the Sentence Level: A Benchmark from the German Federal Constitutional Court
Freie Universität Berlin(柏林自由大学)
本研究构建句子级基准,评估大语言模型分类德国宪法法院解释准则的能力,发现文义解释易、体系解释难,专家提示优于GEPA优化提示。
2026-09-24 cs.CL cs.CY
FHSTP@EXIST 2025 Benchmark: Sexism Detection with Transparent Speech Concept Bottleneck Models
St. P\" o lten University of Applied Sciences, 3100 St. Pölten, Austria
针对 EXIST 2025 性别歧视识别任务,本文提出可解释的 SCBM 与融合 Transformer 的 SCBMT,并结合增强数据微调 XLM-RoBERTa,在多语评测中取得前列成绩。
2025-07-28 cs.AI cs.CL cs.CY
Parallel Corpus for Indigenous Language Translation: Spanish-Mazatec and Spanish-Mixtec
Instituto Politécnico Nacional (IPN)(国立理工学院);Transdisciplinary Research for Augmented Innovation - Laboratory (TRAI-L)(增强创新跨学科研究实验室);Tecnológico Nacional de México(墨西哥国家技术学院)
本文构建了西班牙语-马萨特克语和西班牙语-米斯特克语平行语料库,并通过微调M2M100-48模型验证其在低资源机器翻译中的有效性,强调土著语言作为目标语言时表现更优。
2023-05-27 cs.CL
Language Variety Identification with True Labels
George Mason University(乔治梅森大学);University of Helsinki(赫尔辛基大学);Cambridge University(剑桥大学);Rochester Institute of Technology(罗切斯特理工学院)
语言识别是许多IR和NLP应用中重要的第一步。然而,大多数公开可用的语言识别数据集都是在假设每个实例的黄金标签由文本的检索位置确定的情况下编译的。研究表明,这是一个有问题的假设,特别是在非常相似的语言的情况下(例如,克罗地亚语和塞尔维亚语)和民族语言变体(例如,巴西和欧洲葡萄牙语),其中文本可能不包含特定语言或变体的独特标记。为了克服这一重要限制,本文提出了DSL True Labels(DSL-TL),这是第一个用于语言种类识别的人工注释多语言数据集。DSL-TL总共包含12,900个葡萄牙语实例,分为欧洲葡萄牙语和巴西葡萄牙语;西班牙语,分为阿根廷西班牙语和卡斯蒂利亚西班牙语;英语,分为美国英语和英国英语。我们训练了多个模型来区分这些语言变体,并详细介绍了结果。本文提出的数据和模型提供了一个可靠的基准,朝着强大的和公平的语言品种识别系统的发展。我们向研究社区免费提供DSL-TL。
2023-03-02 cs.CL
The SIGMORPHON 2022 Shared Task on Morpheme Segmentation
National University of Mongolia(蒙古国立大学);University of Trento(特伦托大学);Georgetown University(乔治城大学);University of Vienna(维也纳大学);Graduate center, City University Of New York(纽约城市大学研究生中心);Charles University(查理大学);University of Ostrava(俄斯特拉发大学);ETH Zürich(苏黎世联邦理工学院);University of Melbourne(墨尔本大学)
SIGMORPHON 2022的语素分割共享任务挑战系统将单词分解为一系列语素,并涵盖了大多数类型的形态:复合词,派生词和屈折变化。子任务1,词级词素分割,覆盖了9种语言(捷克语,英语,西班牙语,匈牙利语,法语,意大利语,俄语,拉丁语,蒙古语)的500万个单词,并收到了来自7个团队的13个系统提交,最好的系统在所有语言中的平均F1得分为97.29%,从英语(93.84%)到拉丁语(99.38%)。子任务2,词素级词素分割,覆盖了3种语言(捷克语,英语,蒙古语)的18,735个句子,收到了来自3个团队的10个系统提交,最好的系统比所有三种最先进的子词标记化方法(BPE,ULM,Morfessor2)的绝对性能高出30.71%。为了便于错误分析和支持任何类型的未来研究,我们发布了所有系统预测,评估脚本和所有黄金标准数据集。
2022-06-15 cs.CL
BERT4SO: Neural Sentence Ordering by Fine-tuning BERT
Université de Montréal(蒙特利尔大学);School of Information, Renmin University of China(中国人民大学信息学院);Mila - Québec Artificial Intelligence Institute(米拉-魁北克人工智能研究所)
句子排序的目的是将给定文本的句子以正确的顺序排列。最近的工作将其视为一个排名问题,并将深度神经网络应用于其中。在这项工作中,我们提出了一种名为BERT 4SO的新方法,通过微调BERT进行句子排序。我们连接所有句子并通过使用多个特殊标记和精心设计的段(区间)嵌入来计算它们的表示。跨多个句子的标记可以相互关注,这大大增强了它们的交互。我们还提出了一个基于边际的列表排序损失的基础上ListMLE,以促进优化过程。在五个基准数据集上的实验结果证明了该方法的有效性。
2021-05-12 cs.CL
Findings of the TSAR-2022 Shared Task on Multilingual Lexical Simplification
Universitat Pompeu Fabra(庞培法布拉大学);Manchester Metropolitan University(曼彻斯特城市大学);George Mason University(乔治梅森大学)
我们报告了TSAR-2022关于多语言词汇简化的共享任务的结果,该任务是与EMNLP 2022一起举办的文本简化,可访问性和可读性TSAR-2022研讨会的一部分。这项任务要求自然语言处理研究社区提供方法,以推进英语,葡萄牙语和西班牙语多语言词汇简化的最新技术。共有14个团队提交了他们的词汇简化系统的结果,提供了测试数据。共享任务的结果表明,新的基准词汇简化英语词汇简化的定量结果明显高于西班牙语和(巴西)葡萄牙语。
2023-02-06 cs.CL cs.LG
Can an Old Dog Be Taught New Tricks? Taking LLMs Beyond Sentence Level Translation
探讨能否让大语言模型超越逐句翻译范式,提出基于RAG的PAT系统,通过与语料库结合让大语言模型进行全文翻译生成草稿,经评估发现其能朝重新表述发展,但提升重新表述有效性仍需更多工作,还讨论了相关设计与评估等要点。
2026-07-16 cs.CL
Benchmarking BERT-based Models for Sentence-level Topic Classification in Nepali Language
Language Processing Research Lab, Kathmandu University Kavre, Nepal
本研究评估了多种BERT变体在尼泊尔语句子级主题分类中的性能,发现印度语模型MuRIL-large表现最佳,F1分数达90.60%。
2026-02-27 cs.CL cs.LG
Learning Generic Sentence Representations Using Convolutional Neural Networks
Duke University(杜克大学);Microsoft Research(微软研究院)
我们提出了一种新的编码器-解码器方法来学习分布式句子表示,适用于多种目的。该模型采用卷积神经网络作为编码器,将输入句子映射成连续向量,采用长短期记忆递归神经网络作为解码器。考虑了几个任务,包括句子重建和未来的句子预测。此外,提出了一种分层编码器-解码器模型来对句子进行编码以预测多个未来句子。通过在大量小说集上训练我们的模型,我们获得了一个高度通用的卷积语句编码器,在实践中表现良好。几个基准数据集上的实验结果,并在广泛的应用程序,证明了该模型的优越性竞争的方法。
2017-07-26 cs.CL cs.LG
Spanish Resource Grammar version 2023
Universidade da Coruña(拉科鲁尼亚大学)
本文介绍了基于 HPSG 形式体系的西班牙语资源语法(SRG)最新版,其随附经人工验证的 2,291 句树库,可用于语言学理论实证测试、高质量语义分析器训练及二语习得假设的鲁棒实证评估。
2024-03-26 cs.CL
Modeling Topics and Sociolinguistic Variation in Code-Switched Discourse: Insights from Spanish-English and Spanish-Guaraní
本研究利用大型语言模型构建标注流程,分析西班牙-英语和西班牙-瓜拉尼语混合话语中的主题与社会语言学变异,揭示性别、语言主导地位与话语功能的关系,并扩展了双语现象的定量证据。
2025-12-03 cs.CL
A Library for Automatic Natural Language Generation of Spanish Texts
University of Vigo(维戈大学)
本文提出一个基于知识和统计方法的西班牙语自动自然语言生成库,从最小词集生成完整句子,并创建了高覆盖率的西班牙语词典,可应用于辅助沟通和自动报告生成。
2024-05-27 cs.CL
Spanish and LLM Benchmarks: is MMLU Lost in Translation?
ETSI de Telecomunicación(电信高级工程师学院);Universidad Politécnica de Madrid(马德里理工大学);Facultad de Filosofía y Letras(哲学与文学学院);Universidad Autónoma de Madrid(马德里自治大学);SomosNLP
本文研究了自动翻译对LLM基准测试MMLU在西班牙语评估中的影响,发现部分测试失败归因于翻译错误,强调需由专家修订或适配非英语基准测试。
2024-05-28 cs.AI cs.CL
Addressing Exposure Bias With Document Minimum Risk Training: Cambridge at the WMT20 Biomedical Translation Task
Department of Engineering, University of Cambridge(剑桥大学工程系)
2020年WMT生物医学翻译任务评估了Medline摘要翻译。这是一个小领域的翻译任务,意味着有限的相关训练数据具有非常独特的风格和词汇。在这些数据上训练的模型容易受到暴露偏差效应的影响,特别是当训练句子对彼此之间的翻译不完美时。如果模型学会忽略源句子,这可能会导致推理过程中的不良行为。UNICAM条目在微调期间使用最小风险培训的强大变体解决了这个问题。我们对比这种方法与数据过滤,以消除“问题”的训练样本。在MRT微调下,我们在英-德和英-西两个方向的生物医学翻译中都取得了良好的效果。特别是,我们实现了最好的英语到西班牙语的翻译结果和第二好的西班牙语到英语的结果,尽管只使用单一的模型,没有集成。
2020-10-11 cs.CL
An Unsupervised Semantic Sentence Ranking Scheme for Text Documents
University of Massachusetts, Lowell(马萨诸塞大学洛厄尔分校)
本文提出了语义句子排名(SSR),一个无监督的计划自动排名句子在一个单一的文件,根据其相对重要性。特别地,SSR从文本文档中提取关键词和短语,并使用语义度量来分别构建短语和词的语义短语图和句子的语义句子图。它应用了两种偏向文章结构的PageRank变体,对第一个图上的短语和单词以及第二个图上的句子进行评分。然后,它将这些分数结合起来,生成每个句子的最终分数。最后,SSR解决了一个多目标优化问题,排名句子的基础上,他们的最终得分和主题的多样性,通过语义子主题聚类。在二次时间内运行的SSR的实现,它优于,在SummBank基准,每个单独的法官的排名,并与所有法官的综合排名相比。
2020-04-28 cs.CL cs.IR cs.LG
RoBERTuito: a pre-trained language model for social media text in Spanish
Universidad de Buenos Aires(布宜诺斯艾利斯大学);CONICET(国家科学技术研究委员会)
自BERT出现以来,Transformer语言模型和迁移学习已成为自然语言理解任务的最新研究成果。最近,一些工作面向特定领域的预训练专门制作的模型,例如科学论文,医学文档,用户生成的文本等。这些特定于领域的模型已被证明在大多数任务中显着提高性能。然而,对于英语以外的其他语言,这种模型并不广泛可用。在这项工作中,我们提出了RoBERTuito,一个预先训练的语言模型,用于用户生成的西班牙语文本,经过超过5亿条推文的训练。在涉及用户生成文本的基准任务上进行的实验表明,RoBERTuito在西班牙语中的表现优于其他预先训练的语言模型。除此之外,我们的模型在语言代码转换评估基准(LinCE)的一些英语-西班牙语任务中取得了最佳结果,并且在英语任务中与单语模型相比也具有竞争力。为了促进进一步的研究,我们在HuggingFace模型中心公开了RobERTuito以及用于预训练它的数据集。
2022-05-04 cs.AI cs.CL