RMBR: A Regularized Minimum Bayes Risk Reranking Framework for Machine Translation
Sichuan University(四川大学);University of Macau(澳门大学)
束搜索是神经机器翻译(NMT)中使用最广泛的解码方法。在实践中,在n个候选中具有最高对数概率的前1个候选被选择为优选的一个。然而,该前1候选可能不是n最佳列表中的最佳整体翻译。最近,有人提出了最小贝叶斯风险(MBR)解码来提高NMT的质量,NMT寻求平均最接近n最佳列表中其他候选的共识翻译。我们认为MBR仍然存在以下问题:效用函数只考虑候选者之间的词汇级相似性;期望效用考虑整个n-最佳列表,这是耗时的,尾列表中的候选者不足可能会损害性能;只考虑候选者之间的关系。为了解决这些问题,我们设计了一个正则化的MBR重排序框架(RMBR),它考虑基于语义的相似性,并通过截断列表来计算每个候选人的预期效用。我们期望所提出的框架进一步考虑每个候选者的翻译质量和模型不确定性。因此,建议的质量正则化和不确定性正则化纳入框架。在多个翻译任务上的大量实验证明了该方法的有效性。
2022-03-01 cs.CL
Coordinate System Selection for Minimum Error Rate Training in Statistical Machine Translation
最小出错率训练(MERT)是统计机器翻译中广泛使用的训练过程。该方法的一个普遍问题是搜索空间容易收敛于局部最优,且所得权值集不符合特征函数的真实分布。本文将坐标系选择引入到MERT的搜索算法中。与以前的方法不同,在以前的方法中,每个维度只对应于一个独立的特征函数,我们通过将其中一个维度移动到一个新的方向来创建多个坐标系。MERT的基本思想很简单,但很关键,即MERT的训练过程应该基于由搜索方向形成的坐标系,而不是直接基于特征函数。实验表明,通过调整集合结果选择坐标系,可以在没有任何其他语言知识的情况下获得更好的结果。
2014-05-10 cs.CL
BLEURT Has Universal Translations: An Analysis of Automatic Metrics by Minimum Risk Training
Nanjing University(南京大学);ByteDance(字节跳动)
本文通过最小风险训练系统分析主流自动评估指标,发现BLEURT和BARTScore存在通用对抗翻译等鲁棒性缺陷,归因于训练数据分布偏差和指标范式倾向,并提出词元级约束以增强指标鲁棒性并提升机器翻译性能。
2023-07-10 cs.CL
Continual Learning of Neural Machine Translation within Low Forgetting Risk Regions
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Tencent(腾讯)
本文考虑了大规模预训练神经机器翻译模型的持续学习,而不访问以前的训练数据或引入模型分离。我们认为,广泛使用的正则化为基础的方法,执行多目标学习与辅助损失,遭受错误估计的问题,并不能总是实现以前的和新的任务之间的良好平衡。为了解决这个问题,我们提出了一个两阶段的训练方法的基础上的局部特征的实际损失。我们首先搜索低遗忘风险区域,当参数更新时,模型可以保持前一个任务的性能,以避免灾难性遗忘问题。然后,我们可以在该区域内仅使用新的训练数据来继续训练模型以适应新的任务。具体地说,我们提出了两种方法来搜索低遗忘风险区域,这是基于损失的曲率和参数对模型输出的影响,分别。我们对领域自适应和更具挑战性的语言自适应任务进行了实验,实验结果表明,与几个强基线相比,我们的方法可以取得显著的改进。
2022-11-04 cs.CL
Cyber Risks of Machine Translation Critical Errors : Arabic Mental Health Tweets as a Case Study
Birmingham City University(伯明翰城市大学);De Montfort University(德蒙福特大学);University of Surrey(萨里大学)
本文构建阿拉伯语心理健康帖子机器翻译严重错误数据集,揭示NMT流利幻觉难以被用户和常用质量指标识别的伦理与安全风险。
2024-05-19 cs.CL
Understanding the Properties of Minimum Bayes Risk Decoding in Neural Machine Translation
Department of Computational Linguistics, University of Zurich(苏黎世大学计算语言学系);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
神经机器翻译(NMT)目前表现出诸如产生太短的翻译和过度生成频繁词的偏差,并且对训练数据中的复制噪声或域移位表现出较差的鲁棒性。最近的工作将这些缺点与束搜索(NMT中的事实标准推理算法)联系在一起,Eikema & Aziz(2020)提出对无偏样本使用最小贝叶斯风险(MBR)解码。在本文中,我们经验性地研究了MBR解码的一些先前报道的偏见和失败的情况下,束搜索的属性。我们发现,MBR仍然表现出的长度和令牌的频率偏差,由于MT度量作为效用函数,但MBR也增加了对复制噪声的鲁棒性在训练数据和域移位。
2021-05-18 cs.CL cs.LG
Linear-time Minimum Bayes Risk Decoding with Reference Aggregation
University of Zurich(苏黎世大学)
针对 MBR decoding 成本高且效用计算复杂度为二次方的问题,本文提出利用聚合参考表示近似成对指标分数,将复杂度降至 $O(n)$ 并保留大部分质量提升。
2026-11-11 cs.CL
Unveiling the Power of Source: Source-based Minimum Bayes Risk Decoding for Neural Machine Translation
Institute of Science Tokyo(东京科学研究所);Nara Institute of Science and Technology(奈良科学技術大學)
本文提出基于源的最小贝叶斯风险解码,利用准源作为支持假设,通过无参考质量估计度量提升神经机器翻译的解码效果。
2025-05-26 cs.AI cs.CL
THUMT: An Open Source Toolkit for Neural Machine Translation
Tsinghua University(清华大学);Jiangsu Collaborative Innovation Center for Language Competence(江苏语言能力协同创新中心);Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院)
本文介绍了清华大学自然语言处理研究组开发的一个开源的神经机器翻译工具包THUMT。THUMT在Theano之上实现了标准的基于注意力的编码器-解码器框架,并支持三个训练标准:最大似然估计,最小风险训练和半监督训练。它具有一个可视化工具,用于显示神经网络中隐藏状态与上下文单词之间的相关性,这有助于分析NMT的内部工作原理。在中英文数据集上的实验表明,使用最小风险训练的THUMT显著优于GroundHog,一个最先进的NMT工具包。
2017-06-20 cs.CL
High Quality Rather than High Model Probability: Minimum Bayes Risk Decoding with Neural Metrics
Google Research(谷歌研究院)
在神经机器翻译中,通常假设具有最高估计概率的句子也应该是具有人类测量的最高质量的翻译。在这项工作中,我们质疑这一假设,并表明模型估计和翻译质量只有模糊的相关性。我们将最小贝叶斯风险(MBR)解码应用于无偏样本,以优化翻译质量的各种自动化指标,作为束搜索的替代推理策略。MBR解码不是以具有最高模型概率的假设为目标,而是提取具有最高估计质量的假设。我们的实验表明,将神经翻译模型与基于神经参考的度量BLEURT相结合,可以显著改善人类评估。这种改进是通过与经典波束搜索输出不同的平移获得的:这些平移具有低得多的模型似然性,并且不太受BLEU等表面度量的青睐。
2022-04-25 cs.AI cs.CL cs.LG
Chasing COMET: Leveraging Minimum Bayes Risk Decoding for Self-Improving Machine Translation
Laniqo(拉尼克公司);Faculty of Mathematics and Computer Science, Adam Mickiewicz University(亚当·密茨凯维奇大学数学与计算机科学学院)
本文提出用 COMET 作为 MBR 解码效用指标,并基于模型自身正向翻译微调,实现机器翻译在领域适配和低资源场景下的迭代自我改进。
2024-05-20 cs.AI cs.CL cs.LG
Target-Side Augmentation for Document-Level Machine Translation
Zhejiang University(浙江大学);Westlake University(西湖大学);Nanyang Technological University(南洋理工大学);Westlake Institute for Advanced Study(西湖高等研究院)
针对文档级机器翻译的数据稀疏问题,提出用DA模型生成多个潜在目标译文以平滑训练分布,并在News和Europarl上取得新SOTA。
2023-06-04 cs.CL
DC-MBR: Distributional Cooling for Minimum Bayesian Risk Decoding
Zhejiang University(浙江大学);Westlake University(西湖大学);Tsinghua University(清华大学);Tencent(腾讯);Westlake Institute for Advanced Study(西湖高等研究院)
针对MBR在标签平滑下因序列级分布过度倾斜而表现不佳的问题,提出分布冷却方法DC-MBR,通过调低Softmax温度操纵输出熵,理论证明其与预调标签平滑等价,并在NMT基准上验证了有效性。
2023-05-18 cs.CL
Faster Minimum Bayes Risk Decoding with Confidence-based Pruning
University of Cambridge(剑桥大学)
本文提出一种基于置信度剪枝的MBR解码算法,通过逐步增加样本并剪枝低置信度假设,在保持准确率的同时大幅减少样本需求和效用函数调用次数。
2023-11-25 cs.CL
Minimum Bayes Risk Decoding for Error Span Detection in Reference-Free Automatic Machine Translation Evaluation
Institute of Science Tokyo(东京科学研究所);National Institute of Information and Communications Technology(信息与通信技术国家研究所);Nara Institute of Science and Technology(奈良科学技術研究所)
本文提出使用最小贝叶斯风险解码改进无参考自动机器翻译评估中的错误跨度检测,通过减少计算成本并提升性能。
2026-07-24 cs.AI cs.CL cs.LG
Exploring Prediction Uncertainty in Machine Translation Quality Estimation
University of Sheffield(谢菲尔德大学);University of Melbourne(墨尔本大学)
机器翻译质量评估是一项非常困难的任务,这降低了它在现实世界翻译环境中的实用性。如果质量预测伴随着不确定性的测量,这种情况可以得到改善。然而,在这个任务中的模型,传统上只评估的点估计指标,不考虑预测的不确定性。我们研究质量估计的概率方法,可以提供校准良好的不确定性估计,并根据其完整的后验预测分布对其进行评估。我们还展示了这种后验信息如何在不对称风险场景中发挥作用,该场景旨在捕捉翻译工作流程中的典型情况。
2016-06-30 cs.CL
A Preordered RNN Layer Boosts Neural Machine Translation in Low Resource Settings
Stony Brook University(石溪大学);Amirkabir University of Technology(阿米尔卡比尔理工大学)
神经机器翻译(NMT)模型足够强大,可以将语义和句法信息从源语言传递到目标语言。然而,这些模型需要大量的数据来学习参数。因此,对于数据稀缺的语言,这些模型有表现不佳的风险。我们建议增加基于注意力的神经网络与重新排序的信息,以减轻缺乏数据。这种增强功能将英语到波斯语和波斯语到英语的翻译质量提高了6%,比基线模型的BLEU绝对值高。
2021-12-28 cs.CL
Epsilon Sampling Rocks: Investigating Sampling Strategies for Minimum Bayes Risk Decoding for Machine Translation
Google Research(谷歌研究院);OpenAI;Carnegie Mellon University(卡内基梅隆大学);Instituto Superior Técnico(高等技术学院)
本文探究了机器翻译中MBR解码的不同采样策略,发现基于epsilon-sampling的MBR解码在四个语言对上显著优于束搜索及其他采样方法。
2023-05-18 cs.AI cs.CL cs.LG
Structure-Conditional Minimum Bayes Risk Decoding
University of Amsterdam(阿姆斯特丹大学);University of Zurich(苏黎世大学);UCL(伦敦大学学院)
针对开放任务中MBR解码忽视潜在结构的问题,提出三种轻量效用函数改进以增强结构敏感性,在AlpacaEval和MT-Bench上胜率提升达13.7个百分点。
2025-10-23 cs.CL
AdvAug: Robust Adversarial Augmentation for Neural Machine Translation
Google Research(谷歌研究院)
在本文中,我们提出了一种新的对抗增强方法的神经机器翻译(NMT)。其主要思想是最小化从两个邻近分布中采样的虚拟句子的邻近风险,其中关键的一个是用于对抗性句子的新颖邻近分布,该邻近分布描述了以观察到的训练句子对为中心的平滑内插嵌入空间。然后,我们讨论了我们的方法,AdvAug,训练NMT模型使用序列到序列学习中的虚拟句子的嵌入。在中英、英法和英德翻译基准测试上的实验表明,AdvAug在Transformer上实现了显著的改进(高达4.9个BLEU点),并且在不使用额外语料的情况下,大大优于其他数据增强技术(例如回译)。
2020-07-03 cs.CL
Towards Privacy-Preserving Machine Translation at the Inference Stage: A New Task and Benchmark
本文提出隐私保护机器翻译任务,设计了三个基准数据集和评估指标,旨在保护文本中隐私信息,填补翻译领域隐私保护研究的空白。
2026-03-16 cs.AI cs.CL
Efficient Minimum Bayes Risk Decoding using Low-Rank Matrix Completion Algorithms
Google(谷歌公司)
本文提出利用低秩矩阵补全技术近似最小贝叶斯风险(MBR)解码,通过交替最小二乘法恢复部分效用分数矩阵,在保持翻译质量的同时大幅减少计算量。
2024-06-05 cs.CL cs.LG
Multi-layer Representation Fusion for Neural Machine Translation
Northeastern University(东北大学);YingKou Institute of Technology(营口理工学院)
神经机器翻译系统需要许多堆叠层用于深度模型。但是预测依赖于最顶层的句子表示,无法访问低级表示。这使得训练模型变得更加困难,并对预测造成信息丢失的风险。在本文中,我们提出了一种多层表示融合(MLRF)的方法来融合堆叠层。特别是,我们设计了三个融合函数来从堆栈中学习更好的表示。实验结果表明,我们的方法产生的提高了0.92和0.56 BLEU点的强Transformer基线上的IWESTA德-英和NIST中-英MT任务分别。其结果是新的国家的最先进的德英翻译。
2020-02-16 cs.CL
From Scarcity to Efficiency: Investigating the Effects of Data Augmentation on African Machine Translation
ML Collective(ML集体)
针对低资源非洲语言机器翻译,本文评估结合回译的句子拼接与 switch-out 两种数据增强方法,在六种语言上使 BLEU 至少提升 25%。
2025-10-18 cs.CL
Counterfactual Learning from Bandit Feedback under Deterministic Logging: A Case Study in Statistical Machine Translation
Heidelberg University(海德堡大学);Amazon Development Center(亚马逊开发中心)
统计机器翻译(SMT)的反事实学习的目标是从记录的数据中优化目标SMT系统,这些数据包括用户反馈到另一个历史SMT系统预测的翻译。风险规避的商业SMT系统确定性地记录最可能的翻译这一事实带来了挑战。缺乏对SMT输出空间的充分探索似乎与反事实学习的理论要求相矛盾。我们表明,从确定性的强盗日志反事实学习是可能的,但通过平滑确定性的组件在学习。这可以通过避免经验风险最小化中的退化行为的加性和乘性控制变量来实现。我们的模拟实验表明,从确定性的强盗反馈的反事实学习的改善高达2 BLEU点。
2017-12-14 cs.CL cs.LG stat.ML
Understanding and Addressing the Under-Translation Problem from the Perspective of Decoding Objective
Pattern Recognition Center, WeChat AI, Tencent Inc(腾讯微信AI模式识别中心)
本研究从解码目标角度分析神经机器翻译中欠翻译的成因,提出利用预测EOS的置信度作为检测器并加强惩罚,以准确检测和纠正欠翻译输出。
2024-05-29 cs.CL
Bayesian Optimisation for Machine Translation
University of Oxford(牛津大学);DeepMind Technologies(深度思维科技公司)
本文提出了新的贝叶斯优化算法的统计机器翻译系统的最小出错率训练。我们探索两类算法,有效地探索翻译空间,第一个基于N-最好的列表和第二个基于超图表示,companion代表指数数量的翻译选项。我们的算法表现出更快的收敛速度,并能够获得较低的出错率比现有的翻译模型的具体方法,所有在一个通用的贝叶斯优化框架。此外,我们还引入了一个随机嵌入算法来扩展我们的方法到稀疏的高维特征集。
2014-12-22 cs.CL cs.LG
Noun Phrase Reference in Japanese-to-English Machine Translation
本文论述了在机器翻译中区分名词短语指称用法的必要性。我们认为,区分名词短语的通用,指称和归属的使用是最低限度的必要生成文章和数字正确时,从日语翻译成英语。启发式确定这些差异提出了一个日本到英语的机器翻译系统。最后,结果表明,使用所提出的语法的正确使用的文章和数量的日语到英语的机器翻译系统ALT-J/E中产生的名词短语的百分比从65%提高到77%。
1996-01-23 cmp-lg cs.CL
Learning Confidence for Transformer-based Neural Machine Translation
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Tencent(腾讯)
置信度估计旨在量化模型预测的置信度,提供成功的预期。当在现实环境中给定噪声样本和分布外数据时,经过良好校准的置信度估计可以实现准确的故障预测和适当的风险测量。然而,这一任务对于神经机器翻译(NMT)仍然是一个严峻的挑战,其中来自softmax分布的概率无法描述模型何时可能出错。为了解决这个问题,我们提出了一个无监督的置信度估计学习与NMT模型的训练。我们将置信度解释为NMT模型需要多少提示才能做出正确的预测,提示越多表明置信度越低。具体来说,NMT模型可以选择要求提示来提高翻译准确性,但代价是一些轻微的惩罚。然后,我们通过计算模型使用的提示数量来近似他们的置信水平。我们证明了我们学习的置信度估计在广泛的句子/单词级质量估计任务中达到了很高的准确性。分析结果验证了我们的置信度估计可以正确评估两种真实场景中的潜在风险:(1)发现噪声样本和(2)检测域外数据。我们进一步提出了一种新的基于置信度的特定于实例的标签平滑方法,该方法基于我们学习的置信度估计,其性能优于标准标签平滑。
2022-03-22 cs.AI cs.CL
A Hybrid Morpheme-Word Representation for Machine Translation of Morphologically Rich Languages
National University of Singapore(新加坡国立大学)
我们提出了一种独立于语言的方法,用于改进统计机器翻译的形态丰富的语言,使用混合词素-单词表示,翻译的基本单位是词素,但在翻译过程的所有阶段都尊重单词边界。我们的模型通过以下方式扩展了经典的基于短语的模型:(1)单词边界感知的词素级短语提取,(2)使用单词级BLEU的词素级翻译模型的最小错误率训练,以及(3)与词素和单词级语言模型的联合评分。通过与经典模型的结合,进一步改进了模型。使用Europarl对英语到芬兰语的评估(714 K句子对; 1550万英语单词)显示,与基于BLEU和人类判断的经典模型相比,统计学上有显着改善。
2019-11-19 cs.CL cs.LG
Counterfactual Learning for Machine Translation: Degeneracies and Solutions
Heidelberg University(海德堡大学);INRIA SequeL / Orange labs(法国国家信息与自动化研究所 SequeL / 橙色实验室)
反事实学习是一种通过离线学习用户交互过程中记录的反馈来改进基于Web的机器翻译服务的自然场景。为了避免向用户显示劣质翻译的风险,在这种情况下,大多数无探索的确定性日志记录策略都已到位。我们分析了可能的退化的逆和重新加权的倾向评分估计,在随机和确定性的设置,并将它们与最近提出的技术确定性日志下的反事实学习。
2017-12-14 cs.CL cs.LG stat.ML
Addressing Exposure Bias With Document Minimum Risk Training: Cambridge at the WMT20 Biomedical Translation Task
Department of Engineering, University of Cambridge(剑桥大学工程系)
2020年WMT生物医学翻译任务评估了Medline摘要翻译。这是一个小领域的翻译任务,意味着有限的相关训练数据具有非常独特的风格和词汇。在这些数据上训练的模型容易受到暴露偏差效应的影响,特别是当训练句子对彼此之间的翻译不完美时。如果模型学会忽略源句子,这可能会导致推理过程中的不良行为。UNICAM条目在微调期间使用最小风险培训的强大变体解决了这个问题。我们对比这种方法与数据过滤,以消除“问题”的训练样本。在MRT微调下,我们在英-德和英-西两个方向的生物医学翻译中都取得了良好的效果。特别是,我们实现了最好的英语到西班牙语的翻译结果和第二好的西班牙语到英语的结果,尽管只使用单一的模型,没有集成。
2020-10-11 cs.CL
Distributionally Robust Multilingual Machine Translation
Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);Facebook AI
多语言神经机器翻译(MNMT)学习使用单个模型翻译多个语言对,从而潜在地提高部署模型的准确性和内存效率。然而,语言之间的严重数据不平衡阻碍了模型在语言对之间的一致性。在本文中,我们提出了一个新的学习目标MNMT基于分布鲁棒优化,最大限度地减少了最坏情况下的预期损失的语言对。我们进一步展示了如何使用迭代的最佳响应方案来实际优化大型翻译语料库的这一目标,与标准的经验风险最小化相比,该方案既有效又可以忽略不计的额外计算成本。我们对来自两个数据集的三组语言进行了广泛的实验,并表明我们的方法在多对一和一对多翻译设置下的平均和每种语言性能方面始终优于强基线方法。
2021-09-09 cs.AI cs.CL cs.LG
Centroid-Based Efficient Minimum Bayes Risk Decoding
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);National Institute of Information and Communications Technology(信息通信研究机构)
针对 MBR 解码需与全部参考翻译计算期望分数而导致的二次时间开销,本文提出 CBMBR,通过聚类参考翻译并用簇质心计分,实现 5.7 倍加速且最高提升 0.5 COMET。
2024-06-11 cs.CL
Uncertainty Signals for Network Intent Translation: Risk Ranking and Ambiguity Localization
Khalifa University(哈利法大学)
本研究针对LLM生成的网络意图翻译配置,提出用采样预测不确定性排序风险、令牌级熵定位歧义,验证了两类信号在部署流程中的应用潜力。
2026-09-07 cs.CL cs.NI
Improving Minimum Bayes Risk Decoding with Multi-Prompt
Georgia Institute of Technology(佐治亚理工学院);School of Interactive Computing(交互计算学院)
针对指令微调LLM因提示敏感性导致生成性能不稳定的问题,提出多提示解码方法,结合MBR解码集成多提示生成的候选结果,在多任务、模型和指标下均提升了生成性能。
2024-10-03 cs.CL
mbrs: A Library for Minimum Bayes Risk Decoding
Nara Institute of Science and Technology (NAIST)(奈良科学技术大学(NAIST))
mbrs 是一个用于最小贝叶斯风险解码的开源库,可灵活组合多种度量、期望估计和算法变体,并注重速度测量、透明性、可复现性与可扩展性。
2024-10-21 cs.CL
Overfitting Mitigation via Singular Value Decomposition in Minimum Bayes Risk Decoding
Nara Institute of Science and Technology (NAIST)(奈良科学技术研究所(NAIST));The University of Tokyo(东京大学)
本研究针对最小贝叶斯风险解码的度量过拟合问题,提出SVD-MBR方法,通过奇异值分解解耦真实共识与度量噪声,在广义度量上取得显著性能提升,且去噪效果具度量依赖性。
2026-09-02 cs.CL
It's MBR All the Way Down: Modern Generation Techniques Through the Lens of Minimum Bayes Risk
Carnegie Mellon University(卡内基梅隆大学)
本文介绍最小贝叶斯风险(MBR)解码方法,证明多种近期NLP生成方法是其特例,为相关方法提供理论解释,给出变体有效性的理论与实证结果,并提出应用建议与未来方向。
2023-10-02 cs.CL
Enhancing Factuality through Consensus and Consistency in Summarization Using Minimum Bayes Risk Decoding
Nara Institute of Science and Technology(奈良科学技术研究所);Chungnam National University(全南国立大学);Institute of Science Tokyo(东京科学研究所)
提出ConSUM方法,利用最小贝叶斯风险解码建立候选摘要间的共识,并结合与源文档的一致性指标进行重排序,以提升摘要的事实性。
2026-05-28 cs.CL
Theoretical Guarantees for Minimum Bayes Risk Decoding
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);CyberAgent;Advanced Telecommunications Research Institute International(国际电气通信基础技术研究所)
本文从理论上证明最小贝叶斯风险解码在参考集大小$n$下以$O(n^{-1/2})$速率高概率逼近最优解,并指出其收敛速度在多种情况下优于最大后验解码,解释了其经验有效性。
2025-06-20 cs.CL
Uncertainty Quantification for LLMs through Minimum Bayes Risk: Bridging Confidence and Consistency
Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·泽亚德人工智能大学)
本文提出通过最小贝叶斯风险连接模型置信度与输出一致性,改进大语言模型的不确定性量化方法。
2025-12-09 cs.CL
Diversity Explains Inference Scaling Laws: Through a Case Study of Minimum Bayes Risk Decoding
Nara Institute of Science and Technology(奈良科学技术研究所);The University of Tokyo(东京大学)
本文从偏差—多样性分解角度理论分析MBR解码,证明多样性提升的有效性,并解释多样本推理缩放定律,且经多任务实验验证。
2025-06-06 cs.CL
Responsible Integration of AI in Cancer Genomics: Barriers, Risks, and Pathways to Trustworthy Clinical Translation
Robert Koch Institute(罗伯特·科赫研究所);European Commission(欧洲委员会);Deree-The American College of Greece(希腊 Deree 美国学院);Åbo Akademi University(奥布学术大学);Arcada University of Applied Sciences(阿卡达应用科学大学);University of Münster(明斯特大学)
本综述分析AI与NLP在癌症基因组学临床转化中的障碍,提出应对四大相互关联失败领域的框架与路线图,强调需从系统层面解决问题而非仅提升模型能力。
2026-09-15 cs.AI cs.CL
Non-Autoregressive Minimum Bayes' Risk Decoding for Fast Speech Recognition
NTT, Inc.(日本NTT公司)
提出基于最小贝叶斯风险解码的非自回归解码框架,通过单次前向计算高效采样多个候选,在保持速度优势的同时提升识别性能。
2026-06-17 cs.CL eess.AS
Uncertainty-Aware Decoding with Minimum Bayes Risk
Technical University of Darmstadt(达姆施塔特工业大学);ETH Zurich(苏黎世联邦理工学院);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
本文将最小贝叶斯风险解码推广为不确定性感知解码方法,通过引入参数后验改进输出选择与弃权决策,并在不增加开销的情况下提升性能。
2025-03-07 cs.AI cs.CL cs.LG
OCR Improves Machine Translation for Low-Resource Languages
University of Michigan(密歇根大学);Meta AI;Microsoft Turing(微软图灵研究院)
我们的目标是调查目前的OCR系统的性能低资源的语言和低资源的脚本。我们介绍并公开提供一个新的基准,OCR4MT,由真实和合成数据,丰富的噪音,为60个低资源的语言在低资源脚本。我们在基准测试中评估最先进的OCR系统,并分析最常见的错误。我们表明,OCR单语数据是一个有价值的资源,可以提高性能的机器翻译模型,当用于回译。然后,我们进行消融研究,以调查OCR错误如何影响机器翻译的性能,并确定什么是最低水平的OCR质量所需的单语数据是有用的机器翻译。
2022-03-13 cs.CL
On the True Distribution Approximation of Minimum Bayes-Risk Decoding
Nagoya University(名古屋大学);CyberAgent(CyberAgent公司)
本文研究最小贝叶斯风险解码中采样分布逼近真实参考分布的问题,提出用异常检测衡量逼近程度,并首次实证证明异常分数与解码性能变化密切相关。
2024-03-31 cs.AI cs.CL
Agreement-Constrained Probabilistic Minimum Bayes Risk Decoding
Nara Institute of Science and Technology (NAIST)(奈良先端科学技术大学院大学);NTT, Inc.(日本电信电话株式会社)
本文提出基于共识约束的概率最小贝叶斯风险解码方法,通过知识蒸馏模型提升矩阵补全效果,从而在保持翻译质量的同时降低计算成本。
2025-12-01 cs.AI cs.CL cs.LG
Hyperparameter-Free Approach for Faster Minimum Bayes Risk Decoding
CyberAgent(赛博agent(CyberAgent))
针对MBR解码计算昂贵且CBP依赖超参数调优的问题,本文提出无超参数的AMBR,利用CSH近似求解medoid识别,并在三类生成任务上达到与Oracle调参CBP相当的效果。
2024-06-12 cs.AI cs.CL
Mitigating Metric Bias in Minimum Bayes Risk Decoding
Google(谷歌公司)
本研究针对最小贝叶斯风险解码中的度量偏差问题,发现神经指标会高估解码质量,并提出通过集成多个效用指标来缓解该偏差,从而提升解码性能。
2024-11-05 cs.AI cs.CL
Minimum Bayes' Risk Decoding for System Combination of Grammatical Error Correction Systems
ALTA Institute(ALTA研究所);University of Cambridge(剑桥大学)
本文针对语法纠错系统组合问题,提出一种与编辑F-score直接关联的最小贝叶斯风险解码方法,并扩展候选句子集合,在多个数据集上验证了其有效性及对精确率、召回率和F-score的可控性。
2023-10-27 cs.AI cs.CL
Document-Level Text Generation with Minimum Bayes Risk Decoding using Optimal Transport
CyberAgent
针对文档级文本生成中效用函数难以评估整篇文档的问题,提出基于Wasserstein距离的MBR-OT解码方法,利用句子级效用函数计算文档效用,在多项任务中优于标准MBR。
2025-05-29 cs.AI cs.CL
Model-Based Minimum Bayes Risk Decoding for Text Generation
CyberAgent(赛博agent公司)
本文提出 MBMBR,用推理时可获得的模型概率替代 MBR 中的 Monte Carlo 概率估计,并在多类文本生成任务及模型上验证其性能优于 MBR。
2024-06-12 cs.AI cs.CL