PluRel: Synthetic Data unlocks Scaling Laws for Relational Foundation Models
Stanford University(斯坦福大学);SAP Labs LLC(SAP实验室)
PluRel通过合成多表关系数据库,实现了关系基础模型在扩展定律上的突破,展示了合成数据在提升模型泛化能力方面的潜力。
2026-07-15 cs.AI cs.DB cs.LG
SynLexLM: Scaling Legal LLMs with Synthetic Data and Curriculum Learning
Georgia Institue of Technology(佐治亚理工学院)
针对法律领域数据匮乏与通用预训练不足的问题,提出SynLexLM方法,结合课程学习与Gemini Pro合成数据增强预训练法律LLM,旨在提升BigLaw-Bench等基准性能并普及法律AI。
2025-04-29 cs.CL cs.LG
Demystifying Synthetic Data in LLM Pre-training: A Systematic Study of Scaling Laws, Benefits, and Pitfalls
FAIR at Meta(Meta 的 FAIR)
该研究通过大规模实验系统探究合成数据在LLM预训练中的作用,明确不同类型合成数据、混合比例、模型规模等对训练效果的影响,为合成数据的合理应用提供实践指导。
2025-10-02 cs.AI cs.CL cs.LG
Generating Synthetic Clinical Data that Capture Class Imbalanced Distributions with Generative Adversarial Networks: Example using Antiretroviral Therapy for HIV
the University of New South Wales(新南威尔士大学);Hospital Universitario San Cecilio(圣塞西利奥大学医院);Karolinska Institutet(卡罗林斯卡学院);Università degli Studi di Siena(锡耶纳大学);Universität zu Köln(科隆大学);Australian National University(澳大利亚国立大学)
由于临床数据的高度机密性,通常不能自由分发,这阻碍了医疗保健领域机器学习的发展。缓解这个问题的一种方法是使用生成对抗网络(GANs)生成真实的合成数据集。然而,已知GANs遭受模式坍塌,从而产生低多样性的输出。这降低了合成医疗保健数据的质量,并可能导致其忽略少数人口统计学的患者或忽视不太常见的临床实践。在本文中,我们扩展了经典的GAN设置与一个额外的变分自编码器(VAE),并包括一个外部存储器重放潜在的功能观察到的真实样本的GAN发电机。使用人类免疫缺陷病毒的抗逆转录病毒疗法(ART HIV)作为案例研究,我们表明,我们的扩展设置克服了模式坍塌,并生成一个合成数据集,准确地描述了严重不平衡的类分布中常见的现实世界的临床变量。此外,我们证明了我们的合成数据集与非常低的患者披露风险相关,并且它保留了地面真实数据集的高水平实用性,以支持下游机器学习算法的开发。
2023-01-20 cs.LG
A Deep Dive into Scaling RL for Code Generation with Synthetic Data and Curricula
University of Tübingen(图宾根大学);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
本文提出多轮合成数据生成流程,通过教师模型迭代优化问题难度,提升代码生成性能,并系统研究任务难度、课程调度和环境多样性对强化学习训练的影响。
2026-03-25 cs.AI cs.LG
Scaling Synthetic Data Creation with 1,000,000,000 Personas
Tencent AI Lab(腾讯AI实验室)
本文提出利用 LLM 内部多元视角的人格驱动数据合成方法,并构建包含 10 亿人格的 Persona Hub,以大规模生成数学推理、指令、知识文本、游戏 NPC 和工具等多样化合成数据,推动合成数据范式变革。
2025-05-08 cs.CL cs.LG
Mechanistic Design and Scaling of Hybrid Architectures
Together AI;Stanford University(斯坦福大学);Hessian AI;RIKEN(理化学研究所);Arc Institute;CZ Biohub;Liquid AI
本研究提出端到端机制架构设计(MAD)流程,基于小规模合成任务测试预测扩展定律,发现的混合架构在70M-7B参数规模下优于Transformer++等主流架构,验证了合成任务对架构扩展性能的预测价值。
2024-08-19 cs.LG
Think, Prune, Train, Improve: Scaling Reasoning without Scaling Models
Department of Computer Science, Stanford University(计算机科学系,斯坦福大学)
提出思考-剪枝-训练迭代框架,利用自生成推理轨迹和真实标签剪枝提升模型性能,在GSM8K上使小模型达到大模型水平,甚至超越GPT-4o。
2025-04-25 cs.LG
Diversify, Don't Fine-Tune: Scaling Up Visual Recognition Training with Synthetic Images
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Meta
本文提出一种无需生成式微调的新框架,利用现成生成模型、LLM和CLIP解决类别歧义、多样性和领域偏移,通过上下文与风格多样化方法,将合成数据扩展至ImageNet的6倍,持续提升识别性能并增强域外泛化。
2025-01-21 cs.AI cs.CV cs.LG
BeyondWeb: Lessons from Scaling Synthetic Data for Trillion-scale Pretraining
DatologyAI
针对LLM预训练单纯扩数据量遇数据墙的问题,提出合成数据生成框架BeyondWeb,其生成的合成数据在14项基准评估中优于Cosmopedia等现有数据集,训练速度更快,还得出合成数据质量优化的关键见解。
2025-08-19 cs.CL cs.LG
ReSyn: Autonomously Scaling Synthetic Environments for Reasoning Models
Carnegie Mellon University(卡内基梅隆大学);Amazon Web Services(亚马逊网络服务)
ReSyn通过生成多样化推理环境,利用验证器监督和任务多样性提升推理语言模型的推理能力。
2026-02-23 cs.AI cs.LG
FineInstructions: Scaling Synthetic Instructions to Pre-Training Scale
University of Pennsylvania(宾夕法尼亚大学);University of Toronto(多伦多大学);Vector Institute(向量研究所)
研究针对大语言模型监督训练数据有限的问题,提出将互联网规模预训练文档知识转化为合成指令和答案训练对的程序,生成FineInstructions数据集,经实验验证该方法在预训练中表现优于其他技术。
2026-08-03 cs.CL cs.LG
Genetic Instruct: Scaling up Synthetic Generation of Coding Instructions for Large Language Models
NVIDIA
提出Genetic-Instruct,一种基于进化原理的可扩展算法,从种子指令合成大规模高质量编码指令,通过三个LLM协作生成,微调后显著提升代码生成能力。
2025-05-22 cs.CL cs.LG cs.NE
Scaling Cheap Synthetic Pretraining Improves Indoor Radio-Map Prediction
YerevaNN(耶列瓦神经网络研究所);Yerevan State University(埃里温国立大学);Institute of Informatics and Telematics, National Research Council(意大利国家研究委员会信息与电信研究所)
本文提出自动生成室内布局的生成器与开源近似射线追踪器,生成1.28亿合成样本预训练ResNet-101等模型,在五项任务中使预测误差平均降低15%,验证了低成本合成预训练可提升室内无线电地图预测性能。
2026-10-13 cs.AI cs.LG
UI-Oceanus: Scaling GUI Agents with Synthetic Environmental Dynamics
Key Lab of HCST (PKU), MOE(高可信软件技术教育部重点实验室(北京大学);北京大学计算机学院);School of Computer Science, Peking University(北京通明湖信息技术应用创新中心);Beijing Tongming Lake Information Technology Application Innovation Center(腾讯微信);WeChat, Tencent Inc.(西蒙菲莎大学);Simon Fraser University(德克萨斯大学达拉斯分校);University of Texas at Dallas(复旦大学系统与先进计算研究所);Fudan University Institute of Systems for Advanced Computing(上海开放计算系统研究所);Shanghai Institute of Systems for Open Computing
本文提出UI-Oceanus框架,通过地面真实环境反馈掌握交互物理,解决GUI代理扩展中的数据瓶颈问题,实验表明其在离线和在线导航中均优于基线方法。
2026-02-11 cs.AI cs.LG
Contrast-invariant deep ptychography neural networks
Argonne National Laboratory(阿贡国家实验室);SLAC National Accelerator Laboratory(SLAC国家加速器实验室);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
针对叠层成像神经网络分布外泛化时的缩放不一致问题,提出分解策略与合成物体采样策略,在5个实验数据集上将傅里叶误差较PtychoPINN-torch基线降低最多5倍,提升了其实际应用可行性。
2026-08-05 cs.LG
Synthetic Oversampling: Theory and A Practical Approach Using LLMs to Address Data Imbalance
Harvard University(哈佛大学);University of California, Berkeley(加州大学伯克利分校);Rutgers University(罗格斯大学)
本文利用大语言模型理论和实践方法,提出解决数据不平衡问题的新理论框架,并通过实验验证合成过采样在提升模型性能方面的有效性。
2026-02-08 cs.LG stat.ML
STAN: Synthetic Network Traffic Generation with Generative Neural Models
Virginia Tech(弗吉尼亚理工大学);Micro Focus(明略集团(Micro Focus))
近年来,深度学习模型取得了巨大的成功,但由于缺乏真实的数据集,网络安全等领域的进展受到阻碍。由于隐私原因,组织不愿意共享这些数据,即使是在内部也是如此。另一种方法是使用合成生成的数据,但现有的方法在捕获属性之间和跨时间的复杂依赖结构的能力方面受到限制。本文介绍了STAN(自回归神经模型的合成网络流量生成),这是一种为后续下游应用生成真实合成网络流量数据集的工具。我们的新神经架构在任何给定的时间捕获时间依赖性和属性之间的依赖性。它集成了卷积神经层、混合密度神经层和softmax层,并对连续和离散变量进行建模。我们评估STAN的性能方面产生的数据的质量,通过训练它的模拟数据集和一个真实的网络流量数据集。最后,为了回答这个问题-真实的网络流量数据是否可以用合成数据来代替,以训练具有可比精度的模型?我们训练了两个基于自监督的异常检测模型。结果显示,仅在合成数据上训练的模型的准确性仅略有下降。虽然目前的结果是令人鼓舞的,在生成的数据质量和训练数据没有任何明显的数据泄漏方面,在未来,我们计划通过对生成的数据进行隐私攻击来进一步验证这一事实。其他未来的工作包括验证长期依赖性的捕获和进行模型训练
2021-08-03 cs.CR cs.LG
The Synthinel-1 dataset: a collection of high resolution synthetic overhead imagery for building segmentation
Duke University(杜克大学)
最近,深度学习-即卷积神经网络(CNN)-已经为在大开销上构建分割的任务产生了令人印象深刻的性能(例如,卫星)图像基准。然而,这些基准数据集只捕获一小部分的变化,存在于现实世界的开销图像,限制了正确的训练,或评估,模型的能力,为现实世界的应用。不幸的是,由于图像的成本和图像的手动逐像素标记,开发捕获甚至一小部分真实世界变化的数据集通常是不可行的。在这项工作中,我们开发了一种方法来快速,廉价地生成大型和多样化的虚拟环境,我们可以从其中捕获合成的开销图像,用于训练分割CNN。使用这种方法,生成并公开发布一系列合成的架空图像-称为Synthinel-1,具有完整的像素建筑标签。我们使用几个基准数据集来证明,当用于增强真实世界的训练图像时,Synthinel-1始终是有益的,特别是当CNN在新的地理位置或条件下进行测试时。
2020-01-15 cs.CV cs.LG
DeepPersona: A Generative Engine for Scaling Deep Synthetic Personas
UCSD(加州大学圣地亚哥分校);KU Leuven(鲁汶大学);SJTU(上海交通大学);University of Michigan(密歇根大学);Denison University(德尼森大学);Amazon(亚马逊);Meta
DeepPersona通过双阶段分类学引导方法生成深度合成人设,提升LLM个性化和人类模拟的准确性与多样性。
2025-11-30 cs.AI cs.LG
Robust Logical Anomaly Detection under Capture Shifts via Synthetic Anomalies
Middle East Technical University(中东技术大学);Graduate School of Informatics(信息学院)
该研究针对捕获偏移下逻辑异常检测的鲁棒性问题,提出基于合成异常的分类器框架,在异构扰动下大幅提升了AUROC,降低了对捕获条件的敏感性。
2026-10-14 cs.CV cs.LG
Image Projective Transformation Rectification with Synthetic Data for Smartphone-captured Chest X-ray Photos Classification
Macao Polytechnic University(澳门理工大学)
针对智能手机拍摄的胸部X光照片因投影变换导致分类困难,提出基于深度学习的投影变换校正网络(PTRN),预测变换矩阵自动校正,在CheXphoto竞赛中以AUC 0.850获第一,消除变换负面影响。
2022-11-30 cs.AI cs.CV cs.LG
SynthTools: A Framework for Scaling Synthetic Tools for Agent Development
提出基于LLM的端到端管道SynthTools,通过环境生成、模拟、验证和任务构建,生成大规模多样化工具使用环境,提升智能体工具使用能力。
2026-05-26 cs.AI cs.LG cs.SE
A New Path: Scaling Vision-and-Language Navigation with Synthetic Instructions and Imitation Learning
Google Research(谷歌研究院);New York University(纽约大学);Carnegie Mellon University(卡内基梅隆大学);Apple(苹果公司)
本文提出利用合成导航指令和GAN生成新视角图像构建大规模VLN数据集,并通过模仿学习训练Transformer智能体,在RxR上显著超越现有RL方法。
2023-04-17 cs.CL cs.CV cs.LG
Alternating Synthetic and Real Gradients for Neural Language Modeling
使用时间反向传播(BPTT)训练递归神经网络(RNN)具有已知的缺点,例如难以捕获序列中的长期依赖性。尚未发现BPTT的成功替代品。最近,已经提出了通过解耦神经接口模块的具有合成梯度的BP来代替BPTT用于训练RNN。另一方面,已经表明,用合成梯度和真实梯度学习的表示是不同的,尽管它们在功能上是相同的。在这个项目中,我们将探索将合成和真实梯度与神经语言建模任务相结合的方法。从经验上讲,我们证明了在语言建模任务定期热重启后,使用合成和真实梯度交替训练的有效性。
2022-06-03 cs.LG cs.NE
PolyGen: Fully Synthetic Vision-Language Training via Multi-Generator Ensembles
Politecnico di Milano, AIRLab(米兰理工学院,AIRLab);University of Tokyo, Computer Vision and Media Lab(东京大学,计算机视觉与媒体实验室)
PolyGen通过多生成器集合提升合成数据的视觉-语言预训练效果,实现更稳健的特征空间和更高的多任务性能。
2026-02-01 cs.AI cs.CV cs.LG
Scaling Online Complex Event Detection with Synthetic Supervision and Mamba-Based Neural Algorithmic Reasoning
University of California, Los Angeles(加州大学洛杉矶分校);University of Brescia(布雷西亚大学);Hong Kong University of Science and Technology(香港科学与技术大学);US Army DEVCOM Army Research Laboratory(美国陆军 DEVCOM 军事研究实验室);Amazon(亚马逊)
针对在线复杂事件检测的规则学习瓶颈,提出NAROCE框架,利用合成轨迹预训练Mamba推理器并适配传感器数据,在压力测试中优于基线且大幅降低标注与计算需求。
2026-09-14 cs.AI cs.LG
Synthetic Benchmarks Overstate Forward-Forward Scaling: Real-Data Limits of Layer-Local Training
Amplimit
通过DTG-FF方法在真实数据上评估前向-前向学习的扩展性,发现其与反向传播的差距随类别数增加而扩大,合成任务高估了其迁移能力,且内存优势不成立。
2026-10-08 cs.AI cs.CV cs.LG
Learning with Synthetic Data via SGD in High-Dimensional Linear Regression
Renmin University of China(中国人民大学);The University of Hong Kong(香港大学)
本研究通过高维线性回归中的SGD分析,发现混合训练合成数据导致模型崩溃,而两阶段训练可避免此问题,并提供了风险界、缩放定律及两阶段训练优于纯真实训练的充要条件。
2026-09-10 cs.AI cs.LG stat.ML
CauKer: Classification Time Series Foundation Models Can Be Pretrained on Synthetic Data
Université Paris Cité(巴黎大学);Huawei Noah’s Ark Lab(华为诺亚实验室)
CauKer通过生成因果一致的合成时间序列数据,实现对分类时间序列基础模型的样本高效预训练。
2026-03-09 cs.AI cs.LG
Algorithmic Task Capture, Computational Complexity, and Inductive Bias of Infinite Transformers
研究定义了变换器在任意任务规模下可控误差和对数样本适应的能力,分析了无限宽度变换器在不同 regime 中的计算复杂性上限,并揭示了变换器在高效多项式时间启发式方案中对高复杂度算法的偏倚。
2026-05-07 cond-mat.dis-nn cs.LG stat.ML
Bayesian Prediction of Future Street Scenes using Synthetic Likelihoods
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland Informatics Campus(萨尔兰信息学园区)
对于自主智能体在现实世界中成功运行,预测未来场景状态的能力是一个关键的能力。在现实世界的场景中,未来的状态变得越来越不确定和多模态,特别是在长时间范围内。基于丢弃的贝叶斯推理提供了一种计算上易于处理的,理论上有充分依据的方法来学习可能的假设/模型,以处理不确定的未来,并做出与观察结果相对应的预测--经过很好的校准。然而,事实证明,这样的方法不足以捕捉复杂的现实世界的场景,甚至落后于准确性相比,简单的确定性方法。这是因为使用的对数似然估计不鼓励多样性。在这项工作中,我们提出了一种新的贝叶斯公式预测未来的场景状态,它利用合成似然性,鼓励学习不同的模型,以准确地捕捉未来场景状态的多模态性质。我们表明,我们的方法实现了准确的最先进的预测和校准的概率,通过广泛的实验,对城市景观数据集的场景预测。此外,我们表明,我们的方法概括了不同的任务,如数字生成和降水预测。
2019-01-18 cs.CV cs.LG
SynthCLIP: Are We Ready for a Fully Synthetic CLIP Training?
KAUST(阿卜杜拉国王科技大学);University of Oxford(牛津大学)
SynthCLIP提出完全基于合成数据训练CLIP模型,利用TTI和LLM生成大规模数据集,并分析数据策略与扩展趋势,发布SynthCI-30M数据集及开源资源。
2024-07-18 cs.AI cs.CV cs.LG
Generating Benchmark Health Data Using a Tabular Diffusion Transformer
针对现有合成表格数据生成方法难以处理多异构表格的局限,本文提出两阶段跨表格数据生成框架,结合扩散Transformer实现高保真合成数据生成,验证了其有效性。
2026-08-17 cs.AI cs.LG
Scaling Ambiguity: Augmenting Human Annotation in Speech Emotion Recognition with Audio-Language Models
University of Melbourne(墨尔本大学);Xi'an Jiaotong University(西安交通大学)
本文通过音频-语言模型生成合成标注,提升语音情感识别中模糊情感的真实分布可靠性,实验表明合成标注在低歧义区域效果显著,但高歧义情况需进一步优化。
2026-01-21 cs.AI cs.LG cs.SD
OnlineSTL: Scaling Time Series Decomposition by 100x
Splunk(Splunk公司);Pinecone(Pinecone公司)
将复杂的时间序列分解为趋势、季节性和剩余分量是一个重要的原语,它有助于时间序列异常检测、变点检测和预测。虽然已知许多批处理算法用于时间序列分解,但是没有一个在高吞吐量和实时响应至关重要的在线可扩展设置中运行良好。在本文中,我们提出了OnlineSTL,一种新的在线算法的时间序列分解,这是高度可扩展的,部署在高分辨率,高摄取率的数据的实时指标监测。在不同的合成和真实世界的时间序列数据集上的实验表明,OnlineSTL在保持分解质量的同时实现了数量级的加速(100倍)。
2022-08-04 cs.DB cs.LG
Sparrow: Data-Efficient Video-LLM with Text-to-Image Augmentation
USTC(中国科学技术大学);NJU(南京大学);THU(清华大学);XMU(厦门大学)
Sparrow 针对视频大语言模型数据规模扩展中指令多样性不足导致学习效率低的问题,提出从纯文本指令合成视频样本来增强训练,在更少样本下实现与大规模训练相当甚至更优的性能,并提升长视频理解能力。
2025-07-22 cs.CL cs.CV cs.LG
StereoEngine: Scaling Stereo Bimanual Robot Data without Stereo Cameras
University of Southern California(南加州大学)
针对机器人操纵领域大规模真实立体数据集稀缺的瓶颈,提出StereoEngine,通过两种互补方法合成立体数据,其生成数据可提升双机械臂操纵性能
2026-10-12 cs.CV cs.LG cs.RO
DUET: Detection Utilizing Enhancement for Text in Scanned or Captured Documents
Samsung SDS(三星SDS)
我们提出了一种用于文档图像中文本检测的新型深度神经模型。为了在有噪声的扫描文档中进行鲁棒的文本检测,通过添加文本增强的辅助任务来利用多任务学习的优点。也就是说,我们提出的模型被设计为执行噪声降低和文本区域增强以及文本检测。此外,我们还利用经过完全标记的合成文档图像丰富了该模型的训练数据,从而克服了标记文档图像数据的不足。为了有效利用合成数据和真实数据,训练过程分为两个阶段。第一阶段是以完全监督的方式仅训练合成数据。然后在第二阶段添加仅具有检测标签的真实数据。实际数据的增强任务是弱监督的,其信息来自其检测标签。我们的方法在一个真实的文档数据集上进行了验证,其性能超过了其他文本检测方法。此外,消融进行,结果证实了有效的合成数据,辅助任务,和弱监督。鉴于现有的文本检测研究主要集中在场景中的文本,我们提出的方法是优化的应用程序的文本扫描文档。
2021-06-10 cs.AI cs.CV cs.LG
Noise-Aware Statistical Inference with Differentially Private Synthetic Data
University of Helsinki(赫尔辛基大学);Aalto University(阿尔托大学);University of Manchester(曼彻斯特大学)
虽然在数据隐私社区中,差分隐私(DP)下的合成数据的生成受到了很多关注,但合成数据的分析却少得多。现有的工作表明,简单地分析DP合成数据,就好像它是真实的一样,不会产生有效的人口水平数量的推断。例如,置信区间变得太窄,我们用一个简单的实验来证明。我们解决这个问题,结合合成数据分析技术,从该领域的多重插补(MI),合成数据生成使用噪声感知(NA)贝叶斯建模到一个管道NA+MI,允许计算准确的不确定性估计人口水平的数量从DP合成数据。为了实现NA+MI的离散数据生成使用的边缘查询的值,我们开发了一种新的噪声感知的合成数据生成算法NAPSU-MQ使用最大熵的原则。我们的实验表明,管道是能够产生准确的置信区间DP合成数据。间隔变得更宽,隐私更紧,以准确捕获DP噪声带来的额外不确定性。
2023-02-24 cs.CR cs.LG stat.ML
On the Effect of Purely Synthetic Training Data for Different Automatic Speech Recognition Architectures
RWTH Aachen University(亚琛工业大学);AppTek GmbH(AppTek有限公司)
本文用类似FastSpeech-2的TTS生成纯合成语音训练三类ASR架构,并通过说话人嵌入与模型规模消融分析合成与真实数据的性能差距。
2024-10-26 cs.CL cs.LG cs.SD
Mutual Information Scaling and Expressive Power of Sequence Models
Massachusetts Institute of Technology(麻省理工学院)
序列模型将概率分配给可变长度序列,例如自然语言文本。序列模型捕捉时间相关性的能力可以通过相关性和互信息的时间尺度来表征。在本文中,我们研究了循环神经网络(RNN)的互信息,包括长短期记忆和自我注意网络,如Transformers。通过对线性RNN的理论研究和对非线性RNN的实证研究相结合,我们发现它们的互信息随时间距离呈指数衰减。另一方面,Transformers可以更有效地捕获长距离互信息,使得它们在建模具有慢幂律互信息的序列(例如自然语言和股票价格)时是优选的。我们讨论这些结果与统计力学的联系。我们还指出了许多自然语言数据集的非均匀性问题。我们希望这项工作提供了一个新的视角来理解序列模型的表达能力,并为改进它们的体系结构提供新的思路。
2019-05-10 cond-mat.dis-nn cs.IT cs.LG