随机选择BPE合并操作会带来什么变化？变化不大
What changes when you randomly choose BPE merge operations? Not much
AI总结：
本研究提出三种BPE随机变体，探究随机化合并操作对形态丰富语言翻译任务的影响，发现两种变体性能与标准BPE相近，第三种降幅低于预期，揭示了BPE变体的研究价值。
摘要：
我们提出了三种简单的字节对编码（BPE）随机变体，并探究随机化合并操作的选择是否会显著影响下游机器翻译任务。我们聚焦于向形态丰富语言的翻译，假设该任务可能对子词的选择方法较为敏感。使用贝叶斯线性模型的分析表明，其中两种变体的性能与标准BPE几乎无法区分，而第三种变体的性能下降幅度低于我们的预期。我们得出结论：尽管标准BPE已被广泛使用，但仍存在一系列值得研究的潜在有趣变体。我们的代码可在以下网址获取：https://github.com/bltlab/random-bpe。
英文摘要：
We introduce three simple randomized variants of byte pair encoding (BPE) and explore whether randomizing the selection of merge operations substantially affects a downstream machine translation task. We focus on translation into morphologically rich languages, hypothesizing that this task may show sensitivity to the method of choosing subwords. Analysis using a Bayesian linear model indicates that two of the variants perform nearly indistinguishably compared to standard BPE while the other degrades performance less than we anticipated. We conclude that although standard BPE is widely used, there exists an interesting universe of potential variations on it worth investigating. Our code is available at: https://github.com/bltlab/random-bpe.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
