MixTeX: 通过合成预训练和有限微调实现数据高效的LaTeX OCR
MixTeX: Data-Efficient LaTeX OCR via Synthetic Pretraining and Limited Fine-Tuning
AI总结：
提出MixTeX，通过合成预训练（无需真实LaTeX源）和少量真实样本微调，实现数据高效的LaTeX OCR，在英中印刷和手写基准上优于依赖大数据集的方法。
摘要：
LaTeX OCR将科学文档图像转换为可编辑的LaTeX代码。现有系统依赖大型配对数据集，这些数据集收集成本高，且对于低资源语言有限。本文提出了MIXTEX，一种数据高效的系统，使用合成预训练而无需真实的LaTeX源。与依赖arXiv数据集的Nougat不同，我们通过随机配对语法正确的维基百科文本与LaTeX公式来生成训练数据，仅需语法正确性。这消除了对真实文档集合的依赖，实现了可扩展的数据生成（1.2亿个token），并支持低资源语言。在合成预训练之后，适应仅需400个真实样本。在包含印刷和手写英文及中文的977样本基准上的评估表明，这种两阶段策略在需要更少人力和计算的情况下，优于在大型真实数据集上训练的方法。数据、代码和模型公开可用。
英文摘要：
LaTeX OCR converts scientific document images into editable LaTeX code. Existing systems rely on large paired datasets, which are costly to collect and limited for low-resource languages. This paper presents MIXTEX, a data-efficient system using synthetic pretraining without real LaTeX sources. Unlike Nougat that depends on arXiv datasets, we generate training data by randomly pairing grammatical Wikipedia text with LaTeX formulas, requiring only syntactic correctness. This eliminates dependency on real document collections, enables scalable data generation (120M tokens), and supports low-resource languages. Following synthetic pretraining, adaptation requires only 400 real samples. Evaluation on a 977-sample benchmark with printed and handwritten English and Chinese shows that this two-stage strategy outperforms methods trained on large real datasets while requiring less human effort and computation. Data, code, and models are publicly available.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
