mbrs: A Library for Minimum Bayes Risk Decoding
Nara Institute of Science and Technology (NAIST)（奈良科学技术大学（NAIST））
mbrs 是一个用于最小贝叶斯风险解码的开源库，可灵活组合多种度量、期望估计和算法变体，并注重速度测量、透明性、可复现性与可扩展性。
2024-10-21 cs.CL
Overfitting Mitigation via Singular Value Decomposition in Minimum Bayes Risk Decoding
Nara Institute of Science and Technology (NAIST)（奈良科学技术研究所（NAIST））；The University of Tokyo（东京大学）
本研究针对最小贝叶斯风险解码的度量过拟合问题，提出SVD-MBR方法，通过奇异值分解解耦真实共识与度量噪声，在广义度量上取得显著性能提升，且去噪效果具度量依赖性。
2026-09-02 cs.CL
Follow the Wisdom of the Crowd: Effective Text Generation via Minimum Bayes Risk Decoding
Stanford University（斯坦福大学）；Oxford University（牛津大学）
在开放式自然语言生成中，现有的文本解码方法通常难以生成既多样又高质量的文本。贪婪和束搜索已知会遭受文本退化和语言多样性问题，而温度、top-k和核采样通常会产生多样但低质量的输出。在这项工作中，我们提出了人群抽样，贝叶斯风险最小化的解码方法的基础上，家庭，以解决这种多样性的质量权衡。受“群体智慧”原则的启发，群体抽样试图从候选人池中选择具有最小预期风险的候选人（即，最高预期奖励）。群体抽样可以被视为许多现有方法的概括，包括多数投票，在实践中，它可以被用作现有抽样方法的直接替代品。大量的实验表明，人群抽样在广泛的任务（包括摘要、数据到文本、翻译和文本风格转换）中提供了3-7个ROUGE和BLEU点的改进，同时在WebNLG和WMT'16上实现了最先进的新结果。
2022-11-14 cs.CL cs.LG
Case-Based Decision-Theoretic Decoding with Quality Memories
NTT, Inc.（日本电信电话株式会社）
针对MBR解码难以处理域外知识的问题，提出基于案例的决策论（CBDT）解码，利用域数据示例估计期望效用，结合MBR在多个翻译和图像描述任务中优于MBR解码。
2025-09-16 cs.CL
Sticking to the Facts: Confident Decoding for Faithful Data-to-Text Generation
Google Research（谷歌研究院）
我们解决了数据到文本生成中的幻觉问题，即，减少了源不支持的文本的生成。我们推测，幻觉可能是由编码器-解码器模型生成内容短语而不关注源引起的;因此，我们提出了一个置信度分数，以确保模型在必要时关注源，以及一个变分贝叶斯训练框架，可以从数据中学习分数。WikiBio上的实验（Lebretet等人，2016）数据集表明，根据PANITOS评分（Dhingra等人，2019年）和人类评估。我们还报告了WebNLG的强有力的结果（Gardent等人，2017）dataset.
2020-11-02 cs.CL
Mitigating Metric Bias in Minimum Bayes Risk Decoding
Google（谷歌公司）
本研究针对最小贝叶斯风险解码中的度量偏差问题，发现神经指标会高估解码质量，并提出通过集成多个效用指标来缓解该偏差，从而提升解码性能。
2024-11-05 cs.AI cs.CL
Unveiling the Power of Source: Source-based Minimum Bayes Risk Decoding for Neural Machine Translation
Institute of Science Tokyo（东京科学研究所）；Nara Institute of Science and Technology（奈良科学技術大學）
本文提出基于源的最小贝叶斯风险解码，利用准源作为支持假设，通过无参考质量估计度量提升神经机器翻译的解码效果。
2025-05-26 cs.AI cs.CL
Generating Diverse and High-Quality Texts by Minimum Bayes Risk Decoding
CyberAgent（赛博代理公司）
本文将多样性目标引入 MBR 解码，提出 DMBR 与 KMBR 两种算法，在编码器-解码器模型和大语言模型的多任务实验中取得质量与多样性的更优权衡。
2024-06-12 cs.AI cs.CL
Later-stage Minimum Bayes-Risk Decoding for Neural Machine Translation
The University of Tokyo（东京大学）
对于延长的时间段，序列生成模型依赖于束搜索算法来生成输出序列。然而，当模型对次优预测过度自信时，束搜索的正确性降低。在本文中，我们建议在稍后阶段执行最小贝叶斯风险（MBR）解码的一些额外的步骤。为了加快MBR解码速度，我们在GPU上以批处理模式计算贝叶斯风险。在我们的实验中，我们发现MBR重新排序与大的光束尺寸。后期MBR解码优于简单的MBR重新排名在机器翻译任务。
2017-06-08 cs.CL
Epsilon Sampling Rocks: Investigating Sampling Strategies for Minimum Bayes Risk Decoding for Machine Translation
Google Research（谷歌研究院）；OpenAI；Carnegie Mellon University（卡内基梅隆大学）；Instituto Superior Técnico（高等技术学院）
本文探究了机器翻译中MBR解码的不同采样策略，发现基于epsilon-sampling的MBR解码在四个语言对上显著优于束搜索及其他采样方法。
2023-05-18 cs.AI cs.CL cs.LG
Better Instruction-Following Through Minimum Bayes Risk
C3 AI；Carnegie Mellon University（卡内基梅隆大学）；Instituto de Telecomunicações（电信研究所）；Instituto Superior Técnico（高等技术学院）；University of Lisbon（里斯本大学）
本研究探索了最小贝叶斯风险（MBR）解码提升指令遵循LLM性能，并利用直接偏好优化进行自我训练，以保留改进并降低测试时成本。
2025-02-25 cs.AI cs.CL
Direct Preference Optimization for Neural Machine Translation with Minimum Bayes Risk Decoding
University of Cambridge（剑桥大学）
针对多语言大语言模型的MBR解码计算成本高的问题，提出用DPO强化学习技术微调模型，仅用小型单语微调集即可在推理无额外计算的情况下提升多个NMT测试集的翻译性能。
2024-04-12 cs.CL
Agreement-Constrained Probabilistic Minimum Bayes Risk Decoding
Nara Institute of Science and Technology (NAIST)（奈良先端科学技术大学院大学）；NTT, Inc.（日本电信电话株式会社）
本文提出基于共识约束的概率最小贝叶斯风险解码方法，通过知识蒸馏模型提升矩阵补全效果，从而在保持翻译质量的同时降低计算成本。
2025-12-01 cs.AI cs.CL cs.LG
Minimum Bayes Risk Decoding for Error Span Detection in Reference-Free Automatic Machine Translation Evaluation
Institute of Science Tokyo（东京科学研究所）；National Institute of Information and Communications Technology（信息与通信技术国家研究所）；Nara Institute of Science and Technology（奈良科学技術研究所）
本文提出使用最小贝叶斯风险解码改进无参考自动机器翻译评估中的错误跨度检测，通过减少计算成本并提升性能。
2026-07-24 cs.AI cs.CL cs.LG
High Quality Rather than High Model Probability: Minimum Bayes Risk Decoding with Neural Metrics
Google Research（谷歌研究院）
在神经机器翻译中，通常假设具有最高估计概率的句子也应该是具有人类测量的最高质量的翻译。在这项工作中，我们质疑这一假设，并表明模型估计和翻译质量只有模糊的相关性。我们将最小贝叶斯风险（MBR）解码应用于无偏样本，以优化翻译质量的各种自动化指标，作为束搜索的替代推理策略。MBR解码不是以具有最高模型概率的假设为目标，而是提取具有最高估计质量的假设。我们的实验表明，将神经翻译模型与基于神经参考的度量BLEURT相结合，可以显著改善人类评估。这种改进是通过与经典波束搜索输出不同的平移获得的：这些平移具有低得多的模型似然性，并且不太受BLEU等表面度量的青睐。
2022-04-25 cs.AI cs.CL cs.LG
Non-Autoregressive Minimum Bayes' Risk Decoding for Fast Speech Recognition
NTT, Inc.（日本NTT公司）
提出基于最小贝叶斯风险解码的非自回归解码框架，通过单次前向计算高效采样多个候选，在保持速度优势的同时提升识别性能。
2026-06-17 cs.CL eess.AS
Theoretical Guarantees for Minimum Bayes Risk Decoding
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；CyberAgent；Advanced Telecommunications Research Institute International（国际电气通信基础技术研究所）
本文从理论上证明最小贝叶斯风险解码在参考集大小$n$下以$O(n^{-1/2})$速率高概率逼近最优解，并指出其收敛速度在多种情况下优于最大后验解码，解释了其经验有效性。
2025-06-20 cs.CL
Linear-time Minimum Bayes Risk Decoding with Reference Aggregation
University of Zurich（苏黎世大学）
针对 MBR decoding 成本高且效用计算复杂度为二次方的问题，本文提出利用聚合参考表示近似成对指标分数，将复杂度降至 $O(n)$ 并保留大部分质量提升。
2026-11-11 cs.CL
Identifying Weaknesses in Machine Translation Metrics Through Minimum Bayes Risk Decoding: A Case Study for COMET
University of Zurich（苏黎世大学）；University of Edinburgh（爱丁堡大学）
在评估机器翻译系统时，神经指标与人类判断的相关性令人印象深刻，但在我们能够安全地优化这些指标之前，我们应该意识到（并理想地消除）对获得高分的不良翻译的偏见。我们的实验表明，基于样本的最小贝叶斯风险解码可以用来探索和量化这些弱点。当将此策略应用于COMET的en-de和de-en时，我们发现COMET模型对数字和命名实体的差异不够敏感。我们进一步表明，这些偏差很难通过简单地对额外的合成数据进行训练来完全消除，并发布我们的代码和数据以促进进一步的实验。
2022-09-26 cs.CL
Centroid-Based Efficient Minimum Bayes Risk Decoding
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；National Institute of Information and Communications Technology（信息通信研究机构）
针对 MBR 解码需与全部参考翻译计算期望分数而导致的二次时间开销，本文提出 CBMBR，通过聚类参考翻译并用簇质心计分，实现 5.7 倍加速且最高提升 0.5 COMET。
2024-06-11 cs.CL
Improving Minimum Bayes Risk Decoding with Multi-Prompt
Georgia Institute of Technology（佐治亚理工学院）；School of Interactive Computing（交互计算学院）
针对指令微调LLM因提示敏感性导致生成性能不稳定的问题，提出多提示解码方法，结合MBR解码集成多提示生成的候选结果，在多任务、模型和指标下均提升了生成性能。
2024-10-03 cs.CL
Chasing COMET: Leveraging Minimum Bayes Risk Decoding for Self-Improving Machine Translation
Laniqo（拉尼克公司）；Faculty of Mathematics and Computer Science, Adam Mickiewicz University（亚当·密茨凯维奇大学数学与计算机科学学院）
本文提出用 COMET 作为 MBR 解码效用指标，并基于模型自身正向翻译微调，实现机器翻译在领域适配和低资源场景下的迭代自我改进。
2024-05-20 cs.AI cs.CL cs.LG
Understanding the Properties of Minimum Bayes Risk Decoding in Neural Machine Translation
Department of Computational Linguistics, University of Zurich（苏黎世大学计算语言学系）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
神经机器翻译（NMT）目前表现出诸如产生太短的翻译和过度生成频繁词的偏差，并且对训练数据中的复制噪声或域移位表现出较差的鲁棒性。最近的工作将这些缺点与束搜索（NMT中的事实标准推理算法）联系在一起，Eikema & Aziz（2020）提出对无偏样本使用最小贝叶斯风险（MBR）解码。在本文中，我们经验性地研究了MBR解码的一些先前报道的偏见和失败的情况下，束搜索的属性。我们发现，MBR仍然表现出的长度和令牌的频率偏差，由于MT度量作为效用函数，但MBR也增加了对复制噪声的鲁棒性在训练数据和域移位。
2021-05-18 cs.CL cs.LG
Sampling-Based Approximations to Minimum Bayes Risk Decoding for Neural Machine Translation
University of Amsterdam（阿姆斯特丹大学）
在NMT中，我们搜索模型分布的模式以形成预测。通过束搜索发现的模式和其他高概率平移已经被证明在许多方面经常是不充分的。这妨碍了通过更好的搜索来提高翻译质量，因为这些特殊的翻译最终被解码算法选中，这是一个被称为束搜索诅咒的问题。最近，已经提出了一种近似最小贝叶斯风险（MBR）解码作为一种替代的决策规则，可能不会遭受同样的问题。我们分析了这种近似，并建立它没有等价的束搜索诅咒。然后，我们设计的近似解耦的成本，从预期效用的鲁棒估计的成本探索。这允许更大的假设空间，这是有益的。我们还表明，模式搜索策略可以帮助构建紧凑的有前途的假设集，MBR是有效的，在他们确定良好的翻译。我们进行实验的三种语言对不同的资源量：英语和德语，罗马尼亚语和尼泊尔语。
2022-10-25 cs.CL
Re-evaluating Minimum Bayes Risk Decoding for Automatic Speech Recognition
CyberAgent
本文评估了最小贝叶斯风险解码在英语和日语自动语音识别和语音翻译任务中的性能，发现其在多数实验设置中优于束搜索，显示出在高精度任务中的潜力。
2026-05-13 cs.CL cs.LG eess.AS
Efficient Minimum Bayes Risk Decoding using Low-Rank Matrix Completion Algorithms
Google（谷歌公司）
本文提出利用低秩矩阵补全技术近似最小贝叶斯风险（MBR）解码，通过交替最小二乘法恢复部分效用分数矩阵，在保持翻译质量的同时大幅减少计算量。
2024-06-05 cs.CL cs.LG
DC-MBR: Distributional Cooling for Minimum Bayesian Risk Decoding
Zhejiang University（浙江大学）；Westlake University（西湖大学）；Tsinghua University（清华大学）；Tencent（腾讯）；Westlake Institute for Advanced Study（西湖高等研究院）
针对MBR在标签平滑下因序列级分布过度倾斜而表现不佳的问题，提出分布冷却方法DC-MBR，通过调低Softmax温度操纵输出熵，理论证明其与预调标签平滑等价，并在NMT基准上验证了有效性。
2023-05-18 cs.CL
Diversity Explains Inference Scaling Laws: Through a Case Study of Minimum Bayes Risk Decoding
Nara Institute of Science and Technology（奈良科学技术研究所）；The University of Tokyo（东京大学）
本文从偏差—多样性分解角度理论分析MBR解码，证明多样性提升的有效性，并解释多样本推理缩放定律，且经多任务实验验证。
2025-06-06 cs.CL
Enhancing Factuality through Consensus and Consistency in Summarization Using Minimum Bayes Risk Decoding
Nara Institute of Science and Technology（奈良科学技术研究所）；Chungnam National University（全南国立大学）；Institute of Science Tokyo（东京科学研究所）
提出ConSUM方法，利用最小贝叶斯风险解码建立候选摘要间的共识，并结合与源文档的一致性指标进行重排序，以提升摘要的事实性。
2026-05-28 cs.CL
Faster Minimum Bayes Risk Decoding with Confidence-based Pruning
University of Cambridge（剑桥大学）
本文提出一种基于置信度剪枝的MBR解码算法，通过逐步增加样本并剪枝低置信度假设，在保持准确率的同时大幅减少样本需求和效用函数调用次数。
2023-11-25 cs.CL
Structure-Conditional Minimum Bayes Risk Decoding
University of Amsterdam（阿姆斯特丹大学）；University of Zurich（苏黎世大学）；UCL（伦敦大学学院）
针对开放任务中MBR解码忽视潜在结构的问题，提出三种轻量效用函数改进以增强结构敏感性，在AlpacaEval和MT-Bench上胜率提升达13.7个百分点。
2025-10-23 cs.CL
Unleashing the True Potential of Sequence-to-Sequence Models for Sequence Tagging and Structure Parsing
Emory University（埃默里大学）
序列到序列（S2S）模型在各种文本生成任务上取得了显着的成功。然而，使用S2S模型学习复杂结构仍然具有挑战性，因为外部神经模块和额外的词汇通常被补充以预测非文本输出。我们提出了一个系统的研究S2S建模使用包含解码的四个核心任务：词性标注，命名实体识别，选区和依存句法分析，开发有效的开发方法成本为零的额外参数。特别是，3词汇不同的线性化模式和相应的约束解码方法的设计和评估。实验表明，虽然更多的词汇化模式产生更长的输出序列，需要更重的训练，他们的序列更接近自然语言，使他们更容易学习。此外，使用我们的约束解码的S2S模型优于使用外部资源的其他S2S方法。我们最好的模型在所有4个任务中的表现都优于或接近最先进的水平，这为S2S模型生成非顺序结构带来了希望。
2023-02-05 cs.CL
RMBR: A Regularized Minimum Bayes Risk Reranking Framework for Machine Translation
Sichuan University（四川大学）；University of Macau（澳门大学）
束搜索是神经机器翻译（NMT）中使用最广泛的解码方法。在实践中，在n个候选中具有最高对数概率的前1个候选被选择为优选的一个。然而，该前1候选可能不是n最佳列表中的最佳整体翻译。最近，有人提出了最小贝叶斯风险（MBR）解码来提高NMT的质量，NMT寻求平均最接近n最佳列表中其他候选的共识翻译。我们认为MBR仍然存在以下问题：效用函数只考虑候选者之间的词汇级相似性;期望效用考虑整个n-最佳列表，这是耗时的，尾列表中的候选者不足可能会损害性能;只考虑候选者之间的关系。为了解决这些问题，我们设计了一个正则化的MBR重排序框架（RMBR），它考虑基于语义的相似性，并通过截断列表来计算每个候选人的预期效用。我们期望所提出的框架进一步考虑每个候选者的翻译质量和模型不确定性。因此，建议的质量正则化和不确定性正则化纳入框架。在多个翻译任务上的大量实验证明了该方法的有效性。
2022-03-01 cs.CL
MBR and QE Finetuning: Training-time Distillation of the Best and Most Expensive Decoding Methods
Google（谷歌公司）
本文提出MBR微调与QE微调，通过在训练时蒸馏MBR解码和QE重排序的质量提升，在推理时保持高效解码，显著提升了NMT等NLG任务的模型质量。
2024-03-25 cs.CL
On Next-Token Prediction in LLMs: How End Goals Determine the Consistency of Decoding Algorithms
Department of Statistics University of Michigan（统计学系 密歇根大学）
该研究首次在大语言模型语境下探究greedy、随机采样等四种解码算法与不同损失函数目标的一致性，发现仅随机采样符合真实分布采样目标，其余算法无普适最优性，凸显了按任务目标选解码算法的重要性。
2025-05-16 cs.CL cs.LG stat.ML
