Cleaner Pretraining Corpus Curation with Neural Web Scraping
Northeastern University(东北大学);Tsinghua University(清华大学);Carnegie Mellon University(卡内基梅隆大学)
针对复杂网页导致传统爬虫难以提取干净文本的问题,本文提出NeuScraper神经网页爬虫,相较基线提升超过20%,可用于提升语言模型预训练语料质量。
2024-06-15 cs.CL
GrepSeek: Training Search Agents for Direct Corpus Interaction
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
提出GrepSeek,一种通过两阶段训练(冷启动数据集+GRPO优化)和语义保持的分片并行执行引擎,训练紧凑型搜索代理直接与文本语料库交互(通过shell命令),在开放域问答中取得最优F1和精确匹配。
2026-10-01 cs.AI cs.CL cs.IR
Training the Knowledge Base through Evidence Distillation and Write-Back Enrichment
Peking University(北京大学);Georgia Institute of Technology(佐治亚理工学院);Tsinghua University(清华大学)
本文提出WriteBack-RAG框架,通过标注示例识别检索成功区域,提取相关文档并蒸馏为紧凑知识单元,提升RAG系统性能,平均提升2.14%。
2026-03-26 cs.AI cs.CL cs.IR
Cross-Lingual Token Arbitrage: Optimizing Code Agent Context Windows via Local LLM Preprocessing
提出一种预处理的边缘端提示重写中间件,利用本地Llama 3.2模型进行跨语言翻译和结构重写,在保持或提升任务准确率的同时减少34-47%的提示令牌和最高18.8%的总令牌消耗。
2026-08-04 cs.AI
AFCS: Atomic-Fact-Conditioned Synthesis for Factual Knowledge Pretraining
Hunyuan Team, Tencent(腾讯混元团队)
本研究提出AFCS流水线,通过原子事实条件合成生成知识语料库,在OLMo-3-7B等模型的持续预训练实验中,其在多个问答基准上优于WRAP等方法,且事实级合成效果更优。
2026-10-15 cs.AI cs.CL
Association Is Not Similarity: Learning Corpus-Specific Associations for Multi-Hop Retrieval
Independent Researcher(独立研究者)
本文提出AAR方法,通过对比学习在嵌入空间中学习语料特定的关联关系,提升多跳检索的召回率,且无需评估集调优。
2026-02-13 cs.AI cs.CL cs.IR
Knowledge-Driven Agentic Scientific Corpus Distillation Framework for Biomedical Large Language Models Training
Computer Network Information Center, Chinese Academy of Sciences, Beijing, China(中国科学院计算机网络信息中心);University of Chinese Academy of Sciences, Beijing, China(中国科学院大学);Duke-NUS Medical School, National University of Singapore, Singapore(新加坡国立大学杜克-新加坡医学部)
本文提出一种知识驱动的代理框架,用于生物医学大语言模型训练中的语料库精简,通过多代理协作提升问答任务性能。
2025-12-18 cs.AI cs.CL q-bio.QM
Mangosteen: An Open Thai Corpus for Language Model Pretraining
Vidyasirimedhi Institute of Science and Technology(维多亚西里米迪科学技术研究所);Chulalongkorn University(朱拉隆功大学);AI Singapore(AI新加坡)
本文提出Mangosteen,一个470亿token的开源泰语预训练语料库,通过泰语适配的Dolma清洗流程构建,实验证明其显著提升泰语基准性能,并完整开源全部资源以支持可复现的区域LLM研究。
2025-07-22 cs.CL
NeuroAgent: LLM Agents for Multimodal Neuroimaging Analysis and Research
Stevens Neuroimaging and Informatics Institute, Keck School of Medicine, University of Southern California(史蒂文斯神经影像与信息学研究所,凯克医学院,南加州大学);Viterbi School of Engineering, University of Southern California(维特比工程学院,南加州大学);Alfred E. Mann Department of Biomedical Engineering, Viterbi School of Engineering, University of Southern California(阿尔弗雷德·E·曼生物医学工程部门,维特比工程学院,南加州大学)
NeuroAgent通过LLM驱动的代理框架自动化多模态神经影像预处理与分析,支持自然语言查询,提升神经影像研究的自动化与可重复性。
2026-05-07 cs.AI
Temporal Misgrounding in Legal RAG: A Versioned-Corpus Benchmark for French Tax Law
Talia(塔利亚);Databricks(Databricks公司)
该研究针对法律RAG的时间错位问题,构建法国税法版本化语料库基准FiscalQA Pro,发现现有模型时间推理能力差,端到端多版本检索器性能优异,还发布了相关数据集与代码。
2026-08-11 cs.AI cs.CL cs.IR
Hierarchical Indexing with Knowledge Enrichment for Multilingual Video Corpus Retrieval
School of Computing and Information, University of Pittsburgh, PA, USA(计算与信息学院,匹兹堡大学);Wuhan University of Technology(武汉理工大学);Hunan University(湖南大学)
针对多语言医学视频检索任务mVCR,提出多阶段框架:将字幕分块并用知识图谱事实丰富,构建层次化树索引,结合粗到细树搜索与轻量LLM重排序,在避免穷举打分的同时实现块级精度,达到SOTA性能。
2025-10-10 cs.CL
ks-lit-3m: A 3.1 million word kashmiri text dataset for large language model pretraining
Independent Researcher(独立研究者)
本文提出KS-LIT-3M数据集,通过开发InPage到Unicode转换器和严格预处理,解决克什米尔语预训练数据稀缺问题,为自然语言处理研究提供高质量资源。
2026-01-03 cs.AI cs.CL
A Comparative Study of Pretrained Language Models on Thai Social Text Categorization
Chulalongkorn University(朱拉隆功大学)
社交媒体上用户生成内容的数据量不断增长,即使在资源稀缺的语言中,也提供了几乎无限的未标记数据语料库。在本文中,我们证明了两个泰国社会文本分类任务的最先进的结果,可以实现预训练语言模型上的一个大的嘈杂的泰国社会媒体语料库超过12.6亿令牌,后来微调的下游分类任务。由于内容的语言噪音和特定领域的性质,我们为泰国社交媒体设计的独特数据预处理步骤被用来简化模型的训练理解。我们比较了四种现代语言模型:ULMFiT、ELMo与biLSTM、OpenAI GPT和BERT。我们系统地比较了不同维度的模型,包括预训练和微调的速度,困惑,下游分类基准以及有限预训练数据的性能。
2019-12-17 cs.CL cs.LG stat.ML
Transforming Sensitive Documents into Quantitative Data: An AI-Based Preprocessing Toolchain for Structured and Privacy-Conscious Analysis
Department of Public Health Sciences, Stockholm University(公共健康科学系,斯德哥尔摩大学)
提出一种基于本地LLM的模块化预处理工具链,通过标准化、匿名化和翻译处理敏感法律文本,生成文档级嵌入,在保护隐私的同时支持大规模半自动化内容分析。
2025-07-11 cs.CL stat.ME
KletterMix: Climbing Toward High-Quality German Pretraining Data - The Full Report
AI & ML Group, TU Darmstadt(人工智能与机器学习小组,德累斯顿技术大学);Lab1141;Lamarr Institute(拉马尔研究所);Fraunhofer IAIS(弗劳恩霍夫人工智能研究所);hessian.AI(海斯坦.AI);German Research Center for AI (DFKI)(德国人工智能研究中心(DFKI));Centre for Cognitive Science, TU Darmstadt(认知科学中心,德累斯顿技术大学)
通过翻译高质量英语语料库构建德语预训练语料库KletterMix,并验证其在德语下游任务中的有效性。
2026-07-29 cs.CL
IHUBERT: Vector-Based Semantic Deduplication and Domain-Balanced Pretraining for Persian Resources
Department of Artificial Intelligence and Cognitive Science, Imam Hossein Comprehensive University(人工智能与认知科学系,伊玛目·侯赛因综合大学)
提出IHUBERT,一个基于RoBERTa-base的波斯语预训练模型,通过多阶段预处理(包括基于向量数据库的语义去重和领域平衡)在45GB语料上训练,在多项NLU任务上取得领先结果,尤其抽取式问答表现突出。
2026-06-19 cs.AI cs.CL
Building High-Quality Datasets for Portuguese LLMs: From Common Crawl Snapshots to Industrial-Grade Corpora
Institute of Computing, University of Campinas(计算机学院,坎皮纳斯大学);Maritaca AI
本研究提出可扩展的葡萄牙语网络语料构建方法,产出120B token语料,达到工业级水平,并验证了语言特定过滤管道(含STEM和有毒内容分类)及持续预训练对模型性能提升的有效性。
2025-09-10 cs.CL
Grounded autonomous research: a fault-tolerant LLM pipeline from corpus to manuscript in frontier computational physics
Princeton University(普林斯顿大学)
提出一个端到端LLM流水线,从11,083篇arXiv论文语料库出发,自主完成前沿计算物理研究,包括构思方向、复现文献、第一性原理计算和撰写论文,通过冗余设计实现容错。
2026-07-03 cond-mat.mtrl-sci cs.AI physics.comp-ph
NebulaExp-8B: An Empirical Post-Training Pipeline via Full-Scale Ablation Research
ZTE NebulaL0 Post-Training Team(中兴通讯NebulaL0后训练团队)
提出NebulaExp透明后训练流程,基于Qwen3-8B-base,通过数据清洗、三阶段SFT和GRPO RL优化指令与推理分支,并探索OPD/MOPD替代RL,在8B模型上实现性能提升。
2026-06-26 cs.AI
AI Scientists Are Only as Good as Their Evidence: A Stratified Ablation of Proprietary Data and Reasoning Skills in Drug-Asset Valuation
Noah AI Research(Noah AI研究)
通过分层消融实验,发现药物资产估值中AI科学家的决策上限由专有证据集决定,而非仅依赖推理框架;加入专有数据后决策质量显著提升。
2026-06-08 cs.AI
MegaMath: Pushing the Limits of Open Math Corpora
MBZUAI(穆罕默德·本·扎耶德人工智能大学)
提出开源数学预训练数据集MegaMath,通过优化网络数据提取、召回数学代码及合成数据,构建371B tokens语料库,在数量与质量上均居现有开源数据集首位。
2025-04-03 cs.AI cs.CL cs.LG
VectraYX-Nano: A 42M-Parameter Spanish Cybersecurity Language Model with Curriculum Learning and Native Tool Use
Globant
本文提出了一种基于西班牙语的网络安全语言模型VectraYX-Nano,通过课程学习和原生工具调用,展示了在网络安全领域的应用与改进。
2026-05-21 cs.CL
The Nuts and Bolts of Natural Language to SQL Translation: A Systematic Analysis of Model Pipeline Optimisation Approaches and their Interactions
Huawei Ireland Research Centre(华为爱尔兰研究中心)
研究NL2SQL翻译问题,通过集成NatSQL中间表示、增加预处理和微调步骤、开发重排器模型等方法,并结合SmBoP和RASAT架构进行消融及Shapley分析,揭示组件交互对结果的影响,为轻量级模型开发提供参考。
2026-07-14 cs.AI cs.CL cs.DB
uniblock: Scoring and Filtering Corpus with Unicode Block Information
RWTH Aachen University(亚琛工业大学)
自然语言处理中的预处理流水线通常包括去除由非法字符组成的句子的步骤。非法字符的定义和具体的删除策略取决于任务、语言、领域等,这往往导致令人厌倦的重复编写规则。在本文中,我们介绍了一个简单的统计方法,单块,来克服这个问题。对于每个句子,uniblock使用字符的Unicode块信息生成固定大小的特征向量。然后使用变分推理在一些干净的语料库上估计高斯混合模型。然后,学习的模型可以用于对句子进行评分和过滤语料库。在情感分析、语言建模和机器翻译三个方面的实验结果表明了该方法的简单性和有效性。
2019-08-26 cs.CL
Structure Over Scale: Schema-Constrained Causal Graphs for RAG
Boston Consulting Group(波士顿咨询集团)
研究针对GraphRAG问题,提出HCG-RAG,用模式约束因果图取代开放式提取,构建紧凑两层图。该方法成本低,答案质量优,在医学等基准测试中表现出色,对比实验显示因果图作为检索过滤器有优势,表明图内容比节点数量更重要。
2026-07-28 cs.AI cs.CL cs.IR
Colloquial Persian POS (CPPOS) Corpus: A Novel Corpus for Colloquial Persian Part of Speech Tagging
Iran Telecommunication Research Center (ITRC)(伊朗电信研究中心);Faculty of New Sciences and Technologies, University of Tehran(德黑兰大学新科技学院);Sharif University of Technology(谢里夫理工大学)
针对现有波斯语词性标注语料库多为正式文本、处理口语化社交文本效果不佳的问题,本文构建了含超52万标注词元的CPPOS口语化波斯语词性标注语料库,经实验验证,基于该语料库训练的BiLSTM模型性能较原有数据集提升14%。
2023-10-01 cs.CL
No Detectable Change in Side-Level WER from Prompt-Level Context: A Preregistered Ablation on a Production Oral-History Corpus
AI for Altruism(利他智能)
该预注册实验在生产级口述历史转录工具上发现,提示词层面上下文未改变侧边级WER,仅短语有小幅改善,需结合序列对齐指标评估上下文机制。
2026-09-01 cs.AI cs.CL cs.SD
Reasoning-Augmented Representations for Multimodal Retrieval
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Kookmin University(韩国高丽大学)
本研究提出一种增强推理的多模态检索方法,通过外部化推理和语义密集表示提升检索性能,尤其在知识密集型查询和组合修改请求中表现优异。
2026-02-06 cs.AI cs.CV cs.IR
KoSpeech: Open-Source Toolkit for End-to-End Korean Speech Recognition
Kwangwoon University(光云大学);KakaoBrain
我们介绍了KoSpeech,一个开源软件,它是基于深度学习库PyTorch的模块化和可扩展的端到端韩语自动语音识别(ASR)工具包。已经发布了几个自动语音识别开源工具包,但它们都处理非韩语语言,如英语(例如ESPnet,Espresso)。虽然AI Hub开放了1,000小时的韩语语音语料库KsponSpeech,但没有建立预处理方法和基线模型来比较模型性能。因此,我们提出了KsponSpeech语料库的预处理方法和基准测试的基线模型。我们的基线模型基于Listen,Attend and Spell(LAS)架构,能够方便地定制各种训练超参数。通过KoSpeech,我们希望这可以为那些研究韩语语音识别的人提供指导。我们的基线模型在KsponSpeech语料库中仅使用声学模型就达到了10.31%的字符错误率(CER)。我们的源代码在这里。
2020-09-26 cs.CL cs.SD eess.AS
VisDocAgentBench: Benchmarking Agents for Visually Rich Document Retrieval
State Key Lab of General AI, School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院通用人工智能省部共建国家重点实验室)
该研究提出VisDocAgentBench基准,对比静态与智能体检索,发现视觉检索优于OCR文本检索,智能体可改善双桥项检索性能,为检索智能体发展提供方向。
2026-08-27 cs.AI cs.CV cs.IR
Shades of BLEU, Flavours of Success: The Case of MultiWOZ
Charles University(查理大学);Institute of Formal and Applied Linguistics(形式与应用语言学研究所)
MultiWOZ数据集(Budzianowski等人,2018)经常用于对面向任务的对话系统的上下文响应能力进行基准测试。在这项工作中,我们确定了数据预处理和报告中的三个基于语料库的指标在这个数据集上使用的不一致,即,BLEU评分和Inform & Success率。我们指出了MultiWOZ基准测试的一些问题,如不满意的预处理,不足或指定的评估指标,或刚性数据库。我们在尽可能公平的设置中重新评估了7个端到端和6个策略优化模型,我们发现它们的报告分数不能直接比较。为了便于将来系统的比较,我们发布了独立的标准化评估脚本。最后,我们对未来基于语料库的基准测试工作提出了一些基本建议。
2021-06-10 cs.CL
My Boli: Code-mixed Marathi-English Corpora, Pretrained Language Models and Evaluation Benchmarks
Pune Institute of Computer Technology(浦那计算机技术学院);Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
针对马拉地语语码混合研究资源匮乏的问题,该工作构建了千万级Mr-En语码混合语料库,训练了两款基于BERT的预训练模型,发布了三类下游任务基准数据集,实验证明其模型性能优于现有SOTA模型。
2023-07-20 cs.CL cs.LG
Dual-Stream Cross-Anchor Correction Grounding Long-Form Captions and the Domain Limits of Object-Level Anchors
针对多模态大语言模型的长文本描述对象幻觉问题,本文提出双流跨锚校正方法,通过耦合感知流与认知流提升精度,在长文本场景下实现最优性能,且存在域条件性限制。
2026-08-20 cs.CL cs.CV
How Much Does Corpus Choice Change Dependency-Distance Estimates?
该研究对比Universal Dependencies v2.18的38组同语言树库对,发现树库选择会显著影响依存距离估计的跨语言排序,仅依存长度最小化的定性规律稳定存在。
2026-09-07 cs.CL
BiST: A Gold Standard Bangla-English Bilingual Corpus for Sentence Structure and Tense Classification with Inter-Annotator Agreement
Kennesaw State University(肯尼索州立大学)
BiST是一个精心编纂的孟加拉语-英语双语语料库,用于句子级别的语法分类,标注了句法结构和时态。该语料库包含30,534个句子,通过多阶段框架和Fleiss Kappa值确保高质量标注,支持语法建模任务。
2026-04-06 cs.AI cs.CL
MathPile: A Billion-Token-Scale Pretraining Corpus for Math
Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Nanjing University of Science and Technology(南京理工大学)
本研究推出包含约95亿token的高质量数学核心预训练语料库MathPile,经多流程数据处理与污染检测,通过持续预训练提升了数学推理基准性能,并开源相关资源以推动领域发展。
2024-10-29 cs.AI cs.CL cs.LG
Does Neural Complexity Improve Health Misinformation Detection? A Leakage-Controlled Cross-Corpus Benchmark
Manchester Metropolitan University(曼彻斯特城市大学)
本研究通过泄漏控制的跨语料基准比较五种神经架构、集成模型和经典基线,发现模型复杂度无稳定优势,基准构建影响更大,为健康错误信息检测的模型选择提供了可复现依据。
2026-10-06 cs.CL cs.LG
CourseBlueprint: A Structured Pipeline for Adaptive Pedagogical Video Generation Grounded in Course Corpora
Department of Computer Science, Rensselaer Polytechnic Institute(计算机科学系,拉特格斯理工学院);Department of Biomedical Engineering, Rensselaer Polytechnic Institute(生物医学工程系,拉特格斯理工学院)
提出CourseBlueprint流程,通过结构化教学蓝图(含先决条件图、自适应控制、参与合约)从课程语料库生成自适应教学视频,实验证明显式教学合约比表面流畅性更关键。
2026-06-23 cs.AI cs.CV cs.CY
Simplify-then-Translate: Automatic Preprocessing for Black-Box Machine Translation
Virginia Tech(弗吉尼亚理工大学);Netflix Inc.(奈飞公司)
黑盒机器翻译系统已被证明对各种应用程序非常有用,但在设计上很难适应,调整到特定的领域,或建立在其之上。在这项工作中,我们介绍了一种方法来改善这种系统,通过自动预处理(APP)使用句子简化。首先提出了一种利用黑盒机器翻译系统通过回译自动生成大型领域内释义语料库的方法,并利用该方法训练释义模型,使原句“简化”,更有利于翻译。该模型用于对多个低资源语言对的源语句进行预处理。我们表明,这种预处理导致更好的翻译性能相比,非预处理的源句子。我们进一步进行并排的人工评估,以验证简化句子的翻译比原始句子更好。最后,我们通过调查语言对的翻译容易程度(由BLEU测量)与该语言对的反向翻译产生的简化模型质量(由SARI测量)之间的关系,为生成简化模型语料库提供了一些建议语言对的指导,并将其与低资源翻译的下游任务联系起来。
2020-05-27 cs.CL
FT Speech: Danish Parliament Speech Corpus
IT University of Copenhagen(哥本哈根信息技术大学);Interactions LLC(Interactions有限责任公司)
本文介绍了FT演讲,一个新的语音语料库创建的记录会议的丹麦议会,也被称为Folketing(FT)。该语料库包含超过1,800小时的转录语音,共有434名发言者。它是显着更大的持续时间,词汇量和自发的讲话量比现有的公共语音语料库丹麦,这在很大程度上是有限的朗读和听写数据。我们概述了设计考虑,包括预处理方法和对齐过程。为了评估语料库的质量,我们训练自动语音识别系统上的新资源,并将它们与丹麦部分Språkbanken,丹麦最大的公共ASR语料库培训的系统进行比较。我们的基线结果表明,我们在新语料库上实现了14.01 WER。FT Speech与域内语言数据的组合提供了与专门在Sprakbanken上训练的模型相当的结果,表明FT Speech可以很好地转移到这个数据集。有趣的是,我们的研究结果表明,情况并非相反。这表明FT Speech为促进更多自发语音的丹麦语ASR研究提供了宝贵的资源。
2020-10-28 cs.CL cs.LG cs.SD
A Crowdsourced Open-Source Kazakh Speech Corpus and Initial Speech Recognition Baseline
Institute of Smart Systems and Artificial Intelligence (ISSAI)(智能系统与人工智能研究所(ISSAI));Nazarbayev University(纳扎尔巴耶夫大学)
我们提出了一个哈萨克语的开源语音语料库。哈萨克语语音语料库(KSC)包含约332小时的转录音频,其中包括来自不同地区和年龄组以及性别的参与者所说的153,000多句话。它由哈萨克族母语人士仔细检查,以确保高质量。KSC是最大的公开数据库,旨在推进各种哈萨克语语音和语言处理应用程序。在本文中,我们首先描述了数据收集和预处理程序,然后描述了数据库规格。我们也分享我们的经验和面临的挑战,在数据库建设,这可能会有益于其他研究人员计划建立一个低资源的语言语音语料库。为了证明数据库的可靠性,我们进行了初步的语音识别实验。实验结果表明,音频和成绩单的质量是有希望的(2.8%的字符错误率和8.7%的单词错误率的测试集)。为了实现实验的可重复性并简化语料库的使用,我们还为我们的语音识别模型发布了ESPnet配方。
2021-01-13 cs.CL cs.SD eess.AS
CTL-MTNet: A Novel CapsNet and Transfer Learning-Based Mixed Task Net for the Single-Corpus and Cross-Corpus Speech Emotion Recognition
Xiamen University(厦门大学);Fujian University of Technology(福建理工大学)
语音情感识别(SER)已成为人机交互领域的研究热点。SER的一个基本挑战是从不同的说话人或语言中提取共同的属性,特别是当一个特定的源语料库必须被训练来识别来自另一个语音语料库的未知数据时。为了解决这一问题,本文提出了一种基于CapsNet和迁移学习的混合任务网(CTLMTNet)来同时处理电子商务语料库和跨语料库的SER任务。对于单语料库任务,通过在CapsNet中嵌入自注意力机制,设计了卷积池和注意力CapsNet的组合模块CPAC,引导模块专注于可以馈送到不同胶囊中的重要特征。CPAC提取的高级特征提供了足够的区分能力。此外,CTL-MTNet采用语料库自适应对抗模块(CAAM)处理跨语料库任务,通过结合CPAC和边缘差异差异(MDD),它可以通过提取强情感共性来学习域不变的情感表示。实验包括消融研究和可视化的单语料库和跨语料库的任务,使用四个著名的SER数据集在不同的语言进行性能评估和比较。结果表明,在这两个任务中,CTL-MTNet在所有情况下都表现出比许多最先进的方法更好的性能。源代码和补充材料可在https://github.com/MLDMXM2017/CTLMTNet上获得
2022-07-18 cs.AI cs.CL cs.LG
Data interference: emojis, homoglyphs, and issues of data fidelity in corpora and their results
Università degli Studi di Modena e Reggio Emilia(摩德纳和雷焦艾米利亚大学)
本文研究分词过程中表情符号和同形异义字符对语料库数据保真度的干扰,提出预处理方法以确保数字文本的准确表征,从而提升定量与定性语料分析的可靠性和可重复性。
2025-07-02 cs.CL
Forging GEMs: Advancing Greek NLP through Quality-Based Corpus Curation
Novelcore;Department of Statistics & Insurance University of Piraeus(统计与保险系 帕里埃斯大学)
针对希腊语数据稀缺和架构局限,提出GEMs模型家族,通过质量策展语料库训练,在三个基准上显著提升准确率,最高达3.6%。
2025-10-24 cs.AI cs.CL
BanglaKontho: Closing the Long-Form Gap in Bangla Text-to-Speech
Vivasoft Limited(Vivasoft有限公司)
针对孟加拉语长格式TTS资源不足,提出20小时单说话人语料库BanglaKontho及文本规范化器,基线MB-iSTFT-VITS显著优于IndicTTS-Bn,并公开数据。
2026-09-25 cs.CL
ViGoEmotions: A Benchmark Dataset For Fine-grained Emotion Detection on Vietnamese Texts
University of Information Technology, Ho Chi Minh City, Vietnam(胡志明市信息科技大学);Vietnam National University, Ho Chi Minh City, Vietnam(越南国家大学胡志明市分校)
本文提出ViGoEmotions数据集,包含20664条越南语社交媒体评论,细粒度情感分类为27种。通过评估不同预处理策略,发现将表情符号转为文本能提升基线模型性能,而保留表情符号对ViSoBERT和CafeBERT效果最佳。
2026-03-26 cs.CL
SignDATA: Data Pipeline for Sign Language Translation
Computer Science and Information Engineering National Central University(计算机科学与信息工程国家级中央大学);Electrical Engineering National Changhua University Of Education(电气工程国家彰化教育大学)
本文提出SignDATA,一种标准化手语数据集的预处理工具包,支持端到端的姿势和视频处理流程,通过可配置的接口实现统一输出,提升手语研究的可重复性和比较性。
2026-04-22 cs.CL cs.CV
Mix and Match: An Empirical Study on Training Corpus Composition for Polyglot Text-To-Speech (TTS)
Alexa AI, Amazon(亚马逊Alexa人工智能部门)
使用单语语料库训练多语言神经文本转语音(NTTS)模型已经成为构建基于语音克隆的多语言NTTS系统的流行方式。为了训练这些模型,了解训练语料库的组成如何影响多语言语音合成的质量是至关重要的。在这种情况下,经常会听到这样的问题:“考虑到两种语言的接近性,包括更多的西班牙语数据是否有助于我的意大利语合成?".不幸的是,我们发现关于这一主题的现有文献在这方面缺乏完整性。在目前的工作中,我们进行了广泛的消融研究,旨在了解各种因素的培训语料库,如语言的家庭关系,性别组成,和扬声器的数量,有助于多语言合成的质量。我们的研究结果包括观察到,女性说话者数据在大多数情况下是首选的,它并不总是有益的,有更多的发言者从目标语言变体的训练语料库。本文的研究结果对语料的获取和语料库的建立有一定的参考价值。
2022-07-04 cs.CL cs.LG eess.AS
PashtoCorp: A 1.25-Billion-Word Corpus, Evaluation Suite, and Reproducible Pipeline for Low-Resource Language Development
Independent Researcher(独立研究员)
本文介绍了PashtoCorp,一个包含12.5亿词的Pashto语料库,通过可重复的流水线和多种数据源,显著提升了低资源语言的NLP研究水平。
2026-03-17 cs.CL cs.IR cs.LG
Spelling Correction in Healthcare Query-Answer Systems: Methods, Retrieval Impact, and Empirical Evaluation
Oracle Corporation(Oracle公司)
本文研究了医疗问答系统中拼写纠正对检索的影响,通过实证分析发现拼写纠正显著提升检索性能,尤其在查询端纠正效果更佳。
2026-02-25 cs.CL
ComposeRAG: A Modular and Composable RAG for Corpus-Grounded Multi-Hop Question Answering
University of Houston(德克萨斯大学休斯敦分校);Seoul National University(首尔国立大学);Snowflake AI Research(Snowflake人工智能研究)
提出ComposeRAG,将RAG流水线分解为原子化可组合模块并引入自我反思机制,通过验证优先设计显著提升多跳问答的准确率与接地保真度。
2025-05-30 cs.CL
Parser, Chunking, and Embedding Interactions in Retrieval-Augmented Generation over Indian Government Regulatory Documents
本研究通过因子实验联合评估解析器、分块和嵌入模型在印度政府监管文档RAG中的交互作用,发现无单一检索器占优且证据保留近饱和,检索差异主要由排序质量决定。
2026-09-29 cs.AI cs.CL cs.IR
The role of context in neural pitch accent detection in English
School of Informatics(信息学院);University of Edinburgh(爱丁堡大学)
韵律是自然语言中丰富的信息源,是对比等现象的标记。为了使这些信息可用于下游任务,我们需要一种方法来检测语音中的韵律事件。我们提出了一种新的音调重音检测模型,灵感来自Stehwien等人的工作。(2018),他们提出了一种基于CNN的模型来完成这项任务。我们的模型通过使用完整的话语作为输入并添加LSTM层来更好地利用上下文。我们发现,这些创新导致提高从87.5%到88.7%的准确性音调口音检测美国英语语音在波士顿大学广播新闻语料库,一个国家的最先进的结果。我们还发现,一个简单的基线,只是预测每个内容词的音高重音产生82.2%的准确率,我们建议这是这个任务的适当基线。最后,我们进行消融测试,表明音高是最重要的声学特征,这项任务和本语料库。
2020-10-12 cs.CL cs.SD eess.AS