Synthetic Information towards Maximum Posterior Ratio for deep learning on Imbalanced Data
University of South Florida(南佛罗里达大学)
本文针对类别不平衡数据,提出通过优化类别后验比在高熵少数类邻域生成合成数据的方法,并在41个数据集上验证其提升深度学习性能的有效性。
2024-01-05 cs.AI cs.LG
LLMs as Master Forgers: Generating Synthetic Time Series Data for Manufacturing
Liverpool John Moores University(利物浦约翰摩尔大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校);IIT Patna(印度理工学院巴特那分校);Stony Brook University(石溪大学);IIT Indore(印度理工学院印多尔分校);UMass Amherst(马萨诸塞大学阿默斯特分校)
本文提出利用大型语言模型(LLMs)微调并结合检索增强生成(RAG)技术,为制造业生成合成时间序列数据,以解决标记数据稀缺问题,实验证明该方法在捕捉时间依赖性和提升异常检测等下游任务性能上优于ARIMA和LSTM等传统模型。
2026-09-16 cs.AI cs.LG
Generating Synthetic Relational Tabular Data via Structural Causal Models
CONTACT Software GmbH(CONTACT软件公司)
本文提出基于结构因果模型的新框架,用于生成包含跨表因果关系和复杂依赖关系的合成关系型表格数据,并通过实验验证其能够模拟真实场景,弥补现有方法仅针对单表数据的不足。
2025-07-04 cs.AI cs.LG stat.AP
Generating Reliable Synthetic Clinical Trial Data: The Role of Hyperparameter Optimization and Domain Constraints
Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) Dresden/Leipzig(德累斯顿/莱比锡可扩展数据分析与人工智能中心(ScaDS.AI));Technical University Dresden(德累斯顿工业大学);University Hospital Carl Gustav Carus, Technical University Dresden(德累斯顿工业大学卡尔·古斯塔夫·卡鲁斯大学医院)
本研究通过超参数优化和领域约束优化合成临床试验数据,发现Tab DDPM在提升数据质量方面表现最佳,同时强调了预处理和后处理在减少违规中的重要性。
2025-12-15 cs.AI cs.LG
Generating Synthetic Mobility Networks with Generative Adversarial Networks
Institute of Information Science and Technologies, National Research Council(国家研究委员会信息科学与技术研究所);IMT School for Advanced Studies(IMT高等研究学院);University of Pisa(比萨大学);Free University of Bolzano(博尔扎诺自由大学);University of Trento(特伦托大学);Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会)
人口迁移在复杂的社会现象(如交通拥堵、隔离和流行病扩散)中发挥着越来越重要的作用,这引起了多个学科科学家的兴趣。在这篇文章中,我们解决移动网络的生成,即,生成一个城市的整个移动网络,一个加权有向图,其中节点是地理位置,加权边表示这些位置之间的人的移动,从而描述了城市内的整个移动集合流。我们的解决方案是MoGAN,这是一种基于生成对抗网络(GANs)的模型,用于生成真实的移动网络。我们在公共的自行车和出租车数据集上进行了大量的实验,以证明MoGAN在生成网络的真实性方面优于经典的引力和辐射模型。我们的模型可用于数据增强和执行模拟和假设分析。
2022-12-14 cs.AI cs.LG
Deceptive Diffusion: Generating Synthetic Adversarial Examples
School of Mathematics, University of Edinburgh(爱丁堡大学数学学院);School of Computing Science, University of Glasgow(格拉斯哥大学计算科学学院)
本文提出欺骗性扩散概念,训练生成式AI直接产生任意数量的对抗图像,可用于大规模增强防御训练,并揭示了扩散模型在部分训练数据被隐秘毒化时会按比例生成误导输出的新脆弱性。
2024-06-28 cs.AI cs.LG
DECAF: Generating Fair Synthetic Data Using Causally-Aware Generative Networks
University of Cambridge(剑桥大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);The Alan Turing Institute(艾伦图灵研究所)
机器学习模型因在训练数据中反映不公平的偏见而受到批评。我们不是通过直接引入公平学习算法来解决这个问题,而是专注于生成公平的合成数据,这样任何下游学习器都是公平的。从不公平的数据生成公平的合成数据-同时保持对底层数据生成过程(DGP)的真实性-是不平凡的。在本文中,我们介绍了DECAF:一个基于GAN的公平合成数据生成器的表格数据。使用DECAF,我们将DGP显式地嵌入生成器的输入层中作为结构因果模型,允许每个变量以其因果父变量为条件进行重建。这个过程使推理时间去偏置,其中偏置的边缘可以被策略性地移除,以满足用户定义的公平性要求。DECAF框架是通用的,与几种流行的公平性定义兼容。在我们的实验中,我们表明,DECAF成功地消除了不必要的偏见,并与现有的方法相比,能够生成高质量的合成数据。此外,我们提供了理论保证的发电机的收敛性和下游模型的公平性。
2021-11-04 cs.LG stat.ML
Bt-GAN: Generating Fair Synthetic Healthdata via Bias-transforming Generative Adversarial Networks
Linköping University(林雪平大学)
提出Bt-GAN,一种基于GAN的医疗合成数据生成器,通过信息约束生成过程解决虚假相关性,利用基于分数的加权采样保留子群体密度,在保持SOTA准确率的同时显著提升公平性。
2024-04-26 cs.AI cs.LG
Generating High-quality Privacy-preserving Synthetic Data
Department of Computer Science and Software Engineering, Université Laval(计算机科学与软件工程系,拉瓦尔大学);Caisses Desjardins du Québec(魁北克银行)
本文提出了一种后处理框架,通过模式修补和k最近邻过滤提升合成数据质量与隐私保护,实验证明其在分布保真度和隐私指标上的改进效果。
2026-02-06 cs.AI cs.LG
CausalProfiler: Generating Synthetic Benchmarks for Rigorous and Transparent Evaluation of Causal Machine Learning
Department of Computer Science, University of Bath, UK(英国巴斯大学计算机科学系);Ekimetrics, Paris, France(法国巴黎Ekimetrics公司);TAU, LISN, Inria Saclay, France(法国萨克雷Inria研究所);INSA Rouen Normandie, Normandie University, LITIS, Rouen, France(法国鲁昂Normandie大学)
CausalProfiler是一种生成合成因果基准的工具,用于严格和透明评估因果机器学习方法,通过随机采样不同条件下的因果模型、数据和查询,提供覆盖保证和透明假设。
2026-08-20 cs.AI cs.LG
Enabling Granular Subgroup Level Model Evaluations by Generating Synthetic Medical Time Series
Institute of Data Science, Faculty of Science and Engineering, Maastricht University(数据科学研究所,科学与工程学院,马斯特里赫特大学);Department of Advanced Computing Sciences, Faculty of Science and Engineering, Maastricht University(先进计算科学系,科学与工程学院,马斯特里赫特大学);VITO(VITO研究院)
本文提出一种框架,利用合成ICU时间序列数据训练和评估预测模型,特别是在细粒度人口亚组中。引入Enhanced TimeAutoDiff,通过分布对齐惩罚增强潜在扩散目标,减少真实-合成与真实-真实评估差距,提升亚组模型评估的鲁棒性和可靠性。
2025-10-22 cs.AI cs.LG
Beyond Mode Collapse: Generating Diverse Synthetic Expert Conversations via Generative Flow Networks
University of Michigan(密歇根大学)
本文提出用生成流网络生成多样化合成专家对话,解决数据模式坍缩问题,在辅导和情感支持领域优于强化学习和端到端LLM基线,提升下游任务训练信号。
2026-10-01 cs.AI cs.CL cs.LG
Learning and Generating Diverse Residential Load Patterns Using GAN with Weakly-Supervised Training and Weight Selection
Department of Data Science and AI, Faculty of Information Technology and Monash Energy Institute, Monash University(数据科学与人工智能系,信息科技学院和莫纳什能源研究所,莫纳什大学)
针对住宅负荷数据稀缺问题,提出RLP-GAN弱监督GAN框架,结合过完备自编码器和权重选择生成多样负荷模式,在417户真实数据上优于现有模型,并发布百万级合成数据集。
2025-04-25 cs.AI cs.LG
Generating Benchmark Health Data Using a Tabular Diffusion Transformer
针对现有合成表格数据生成方法难以处理多异构表格的局限,本文提出两阶段跨表格数据生成框架,结合扩散Transformer实现高保真合成数据生成,验证了其有效性。
2026-08-17 cs.AI cs.LG
SynMorph: Generating Synthetic Face Morphing Dataset with Mated Samples
Norwegian University of Science and Technology (NTNU)(挪威科技大学);Darmstadt University of Applied Sciences (HDA)(达姆施塔特应用科学大学)
针对人脸变形攻击检测领域大规模公开数据集匮乏的问题,提出生成含2450个身份、超10万样本的SynMorph合成数据集,经评估其质量与攻击潜力优于现有SOTA合成数据集,且可用于训练检测算法。
2025-03-22 cs.AI cs.CV cs.LG
Generating Synthetic Time Series Data for Cyber-Physical Systems
Mississippi State University(密西西比州立大学);Eng. Research and Dev. Center Department of Defence(国防部工程研究与开发中心)
针对Transformer在时间序列数据增强领域研究不足的问题,本文提出融合多项先验的架构并经时域相似性度量测试,揭示了领域挑战与未来研究方向。
2024-04-12 cs.LG
Generating High Fidelity Synthetic Data via Coreset selection and Entropic Regularization
University of California, Los Angeles(加州大学洛杉矶分校)
生成模型能够合成从数据分布中提取的数据点,但是,并非所有生成的样本都是高质量的。在本文中,我们建议使用coresets选择方法和“熵正则化”的组合来选择最高保真的样本。我们利用一个基于能量的模型,它类似于一个变分自动编码器,具有一个推理和生成器模型,其潜在先验由基于能量的模型复杂化。在一个半监督学习的情况下,我们表明,增加标记的数据集,通过添加我们选择的样本子集,导致更好的精度提高,而不是使用所有的合成样本。
2023-01-31 cs.LG
DualAlign: Generating Clinically Grounded Synthetic Data
本文提出DualAlign框架,通过统计对齐和语义对齐生成具有临床基础的合成数据,结合真实症状轨迹提升数据保真度与合理性,在阿尔茨海默病案例中显著提升了LLaMA 3.1-8B模型的性能。
2025-09-05 cs.AI cs.CL cs.CY
Generating Higher-Fidelity Synthetic Datasets with Privacy Guarantees
Artificial Intelligence Lab(人工智能实验室);EPFL(洛桑联邦理工学院(瑞士))
本文考虑了在常见的机器学习开发任务中增强用户隐私的问题,例如数据注释和检查,通过用生成对抗网络的样本代替真实数据。我们建议采用贝叶斯差分隐私的手段,以实现严格的理论保证,同时提供更好的隐私效用权衡。我们通过实验证明,与以前的工作相比,我们的方法产生了更高保真的样本,允许(1)检测更微妙的数据错误和偏差,以及(2)通过直接在人工样本上训练时实现高准确性来减少对真实数据标签的需求。
2020-03-02 cs.AI cs.CR cs.LG
Between Generating Noise and Generating Images: Noise in the Correct Frequency Improves the Quality of Synthetic Histopathology Images for Digital Pathology
Technion - IIT(以色列理工学院);Rambam Health Care Campus(兰巴姆医疗中心)
人工智能和机器学习技术有望彻底改变数字病理学领域。然而,这些模型需要大量的数据,而无偏训练数据的可用性是有限的。合成图像可以增强现有的数据集,以改进和验证AI算法。然而,控制细胞特征在其中的精确分布仍然具有挑战性。其中一个解决方案是利用条件生成对抗网络,该网络将语义掩码作为输入,而不是随机噪声。与其他领域不同,勾勒出组织的确切细胞结构是困难的,大多数输入掩码都描绘了细胞类型的区域。然而,使用基于网格的掩模会在合成图像中引入固有的伪影-这是由于多边形大小和单个单元大小之间的不匹配。在这项工作中,我们表明,引入随机单像素噪声与适当的空间频率到多边形语义掩模可以显着提高合成图像的质量。我们使用我们的平台来生成化学治疗肺活检的合成图像。我们使用三重验证程序测试图像的质量。首先,我们表明,添加适当的噪声频率产生87%的相似性度量的改善,通过添加实际的单细胞功能。其次,我们证明了合成图像通过图灵测试。最后,我们表明,将这些合成图像添加到训练集可以提高PD-L1语义分割性能方面的AI性能。我们的工作提出了一种简单而强大的方法,用于按需生成合成数据,以消除有限数据集的偏差,从而提高算法的准确性并验证其鲁棒性。
2023-02-13 cs.CV cs.LG eess.IV
UserBoost: Generating User-specific Synthetic Data for Faster Enrolment into Behavioural Biometric Systems
King’s College London(伦敦国王学院);University of Oxford(牛津大学)
针对行为生物识别系统用户注册负担重的问题,提出UserBoost方法,用正则化自编码器生成用户特定合成手势数据,结合真实数据训练认证模型,可使类WatchAuth系统注册手势数减少超40%且不升高错误率。
2024-07-12 cs.CR cs.LG
TabularARGN: A Flexible and Efficient Auto-Regressive Framework for Generating High-Fidelity Synthetic Data
MOSTLY AI
本文提出TabularARGN自回归生成框架,通过训练所有条件概率支持公平性生成、缺失填补和任意列条件生成,在保证高合成质量的同时显著降低训练与推理时间。
2025-02-06 cs.LG
SynGAN: Towards Generating Synthetic Network Attacks using GANs
University of Luxembourg(卢森堡大学);Palindrome Technologies(回文技术公司);Columbia University(哥伦比亚大学)
没有安全考虑的快速数字化转型导致了全球规模的网络攻击的兴起。防御这些攻击的第一道防线是网络入侵检测系统(NIDS)。然而,一旦部署,这些系统就像黑匣子一样工作,误报率很高,没有可衡量的有效性。需要通过模拟现实世界的网络攻击突变来不断测试和改进这些系统。我们提出了SynGAN,一个使用生成对抗网络(GAN)生成对抗网络攻击的框架。SynGAN利用真实的攻击流量生成恶意数据包流突变,可以提高NIDS攻击检测率。作为第一步,我们比较了两个公共数据集,NSL-KDD和CICIDS 2017,用于生成合成的分布式拒绝服务(DDoS)网络攻击。我们使用梯度提升分类器评估攻击质量(真实与合成)。
2019-08-26 cs.LG stat.ML
Generating Accurate Synthetic Survival Data by Conditioning on Outcomes
King Abdullah University of Science and Technology (KAUST)(卡斯特大学);Duke University(杜克大学)
本文提出一种通过结果条件生成协变量的方法,以生成准确的合成生存数据,解决删失挑战,并在真实数据集上优于基线,提升下游模型性能。
2025-08-05 cs.LG stat.ML
Generating Synthetic Ground Truth Distributions for Multi-step Trajectory Prediction using Probabilistic Composite Bézier Curves
Fraunhofer IOSB(弗劳恩霍夫应用信息处理研究所);Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心)
针对基准数据集缺乏真实轨迹分布、难以使用 Wasserstein 距离等指标评估概率预测模型的问题,提出基于复合概率 Bézier 曲线生成完整轨迹概率分布的方法,并示范模型评估。
2024-04-05 cs.LG
Generating Synthetic Free-text Medical Records with Low Re-identification Risk using Masked Language Modeling
University of Cambridge(剑桥大学);The University of Manchester(曼彻斯特大学);Tsinghua University(清华大学)
针对医疗记录隐私限制与合成数据多样性难以兼顾的问题,提出基于掩码语言建模的合成系统,在保留关键医疗信息、最小化重标识风险(3.5%)与推理成本的同时,生成高质量数据,且下游性能媲美真实数据。
2025-01-29 cs.CL cs.LG
CorGAN: Correlation-Capturing Convolutional Generative Adversarial Networks for Generating Synthetic Healthcare Records
Virginia Polytechnic Institute and State University (Virginia Tech)(弗吉尼亚理工学院暨州立大学(弗吉尼亚理工))
深度学习模型在图像分类和语音处理等领域表现出高质量的性能。然而,使用电子健康记录(EHR)数据创建深度学习模型需要解决该领域研究人员特有的特定隐私挑战。这件事的重点是在确保隐私的同时生成现实的合成数据。在本文中,我们提出了一种新的框架,称为相关捕获生成对抗网络(CorGAN),生成合成的医疗记录。在CorGAN中,我们利用卷积神经网络通过结合卷积生成对抗网络和卷积自动编码器来捕获数据表示空间中相邻医学特征之间的相关性。为了证明模型的保真度,我们展示了CorGAN在各种机器学习设置(如分类和预测)中生成的合成数据与真实数据的性能相似。我们还对合成数据的现实特征进行了隐私评估和统计分析。这项工作的软件是开源的,可在https://github.com/astorfi/cor-gan上获得。
2020-03-04 cs.LG stat.ML
Generating Synthetic Multispectral Satellite Imagery from Sentinel-2
Radiant Earth Foundation(Radiant Earth基金会);Benson Hill(Benson Hill公司);Sunbird AI(Sunbird AI公司)
多谱段卫星图像为许多环境和社会经济应用提供了全球范围的宝贵数据。然而,基于这些图像构建监督机器学习模型可能需要在全球范围内不可用的地面参考标签。在这里,我们提出了一个生成模型,以产生多分辨率多光谱图像的基础上哨兵-2数据。由此产生的合成图像与人类的真实图像无法区分。该技术为未来的工作铺平了道路,以产生标记的合成图像,可用于数据增强在数据稀缺的地区和应用。
2020-12-05 cs.CV cs.LG eess.IV
GlucoSynth: Generating Differentially-Private Synthetic Glucose Traces
University of Virginia(弗吉尼亚大学);Dexcom(德康公司)
本文提出隐私保护 GAN 框架 GlucoSynth,通过保持葡萄糖事件基序间关系并结合差分隐私机制,在 120 万条轨迹上验证其生成高质量合成葡萄糖轨迹的能力优于已有方法。
2023-10-31 cs.CR cs.LG
Generating Synthetic Health Sensor Data for Privacy-Preserving Wearable Stress Detection
ScaDS.AI Dresden/Leipzig, Leipzig University(ScaDS.AI 德累斯顿/莱比锡,莱比锡大学)
本文提出一种利用GAN和差分隐私生成隐私保护的智能手表健康传感器数据,用于提升可穿戴压力检测的模型性能。
2024-05-14 cs.AI cs.CR cs.LG
BIGBOY1.2: Generating Realistic Synthetic Data for Disease Outbreak Modelling and Analytics
Department of Mathematical Sciences, Indian Institute of Science Education and Research, Mohali(数学科学系,印度科学教育与研究学院,莫哈利)
本文提出开源合成数据集生成器BIGBOY1.2,通过支持SEIR等仓室逻辑、自定义季节性和噪声注入生成可配置的流行病时间序列,解决了疾病暴发建模中数据不完整和缺乏标准化数据集的问题,为比较传统流行病学模型与现代机器学习方法提供了基准。
2025-08-10 cs.LG q-bio.PE
Generating Synthetic Clinical Data that Capture Class Imbalanced Distributions with Generative Adversarial Networks: Example using Antiretroviral Therapy for HIV
the University of New South Wales(新南威尔士大学);Hospital Universitario San Cecilio(圣塞西利奥大学医院);Karolinska Institutet(卡罗林斯卡学院);Università degli Studi di Siena(锡耶纳大学);Universität zu Köln(科隆大学);Australian National University(澳大利亚国立大学)
由于临床数据的高度机密性,通常不能自由分发,这阻碍了医疗保健领域机器学习的发展。缓解这个问题的一种方法是使用生成对抗网络(GANs)生成真实的合成数据集。然而,已知GANs遭受模式坍塌,从而产生低多样性的输出。这降低了合成医疗保健数据的质量,并可能导致其忽略少数人口统计学的患者或忽视不太常见的临床实践。在本文中,我们扩展了经典的GAN设置与一个额外的变分自编码器(VAE),并包括一个外部存储器重放潜在的功能观察到的真实样本的GAN发电机。使用人类免疫缺陷病毒的抗逆转录病毒疗法(ART HIV)作为案例研究,我们表明,我们的扩展设置克服了模式坍塌,并生成一个合成数据集,准确地描述了严重不平衡的类分布中常见的现实世界的临床变量。此外,我们证明了我们的合成数据集与非常低的患者披露风险相关,并且它保留了地面真实数据集的高水平实用性,以支持下游机器学习算法的开发。
2023-01-20 cs.LG
Toward Generating Synthetic CT Volumes using a 3D-Conditional Generative Adversarial Network
University of Maryland, Baltimore County(马里兰大学巴尔的摩分校);National Institutes of Health Clinical Center(美国国立卫生研究院临床中心);Networking Health;OpenKneck Inc(OpenKneck公司)
我们提出了一种新的条件生成对抗网络(cGAN)架构,该架构能够从噪声和/或像素化近似中生成体素中的3D计算机断层扫描,并有可能生成完整的合成3D扫描体积。我们认为条件cGAN是一种生成3D CT体积的易处理方法,尽管由于GPU内存限制,生成全分辨率深度伪影的问题目前是不切实际的。我们提出了自动编码器,去噪和去像素化任务的结果,这些任务在两个新的COVID 19 CT数据集上进行了训练和测试。我们的评估指标,峰值信噪比(PSNR)范围从12.53 - 46.46 dB,结构相似性指数(SSIM)范围从0.89到1。
2021-04-02 cs.CV cs.LG eess.IV
Auditing and Generating Synthetic Data with Controllable Trust Trade-offs
IBM(国际商业机器公司(IBM))
本文提出一个整体审计框架和可信度指数,用于评估合成数据集与生成模型在防偏差、保真度、效用、鲁棒性和隐私保护方面的权衡,并通过TrustFormers实现可控可信度的合成数据生成。
2024-06-09 cs.AI cs.LG stat.ML
Generating Synthetic but Plausible Healthcare Record Datasets
ESCI-UPF
对于ML的医疗保健应用以及许多其他科学和工程领域来说,生成“看起来像”给定真实数据的数据集是一项有趣的任务。在本文中,我们提出了一种新的方法,一般应用到二进制数据集的基础上学习的潜变量矩,我们以前用于聚类患者数据集的参数的方法。我们将我们的方法与最近提出的基于生成对抗方法的建议(MedGan)进行了比较,发现我们生成的合成数据集至少在两个意义上更加真实:真实和合成实例更难通过随机森林和MMD统计来区分。最可能的解释是,我们的方法不会遭受“模式崩溃”,这是一个公认的问题,GANs。此外,我们生成的生成模型很容易解释,不像相当模糊的GANs。我们的实验是在两个包含ICD-9诊断代码的患者数据集上进行的:公开可用的MIMIC-III数据集和一个包含7年来在巴塞罗那圣保罗医院因充血性心力衰竭入院的数据集。
2018-07-04 cs.LG stat.ML
Improved $α$-GAN architecture for generating 3D connected volumes with an application to radiosurgery treatment planning
Toronto Metropolitan University(多伦多都会大学)
生成对抗网络(GANs)在几个计算机视觉任务中获得了极大的关注,用于生成高质量的合成数据。由于该领域的数据稀缺性,包括诊断成像和放射治疗在内的各种医疗应用可以从合成数据生成中受益匪浅。然而,医学图像数据通常保持在3D空间中,并且生成模型在生成这种合成数据时遭受维度问题的灾难。在本文中,我们研究了GANs用于生成连接的3D体积的潜力。我们提出了一个改进版本的3D $α$ -GAN,结合各种架构增强。在连接的3D球体和椭球体的合成数据集上,我们的模型可以生成与训练数据具有相似几何特征的完全连接的3D形状。我们还表明,我们的3D GAN模型可以成功地生成高质量的3D肿瘤体积和相关的治疗规范(例如,等中心点位置)。与训练数据相似的不变矩以及完全连接的3D形状证实了改进的3D $α$ -GAN隐式地学习训练数据分布,并生成逼真的样本。改进的3D $α$ -GAN的能力使其成为生成合成医学图像数据的有价值的来源,可以帮助该领域的未来研究。
2022-07-13 cs.CV cs.LG eess.IV
Generating Spatial Synthetic Populations Using Wasserstein Generative Adversarial Network: A Case Study with EU-SILC Data for Helsinki and Thessaloniki
NORCE Norwegian Research Center AS(挪威NORCE研究中心);Centre for Modelling Social Systems(社会系统建模中心)
本研究利用 Wasserstein 生成对抗网络结合 EU-SILC 数据,为赫尔辛基和塞萨洛尼基生成空间合成人口,发现平衡数据与边缘特征表征不足是当前深度生成方法面临的主要挑战,可能导致模拟歧视。
2025-01-27 cs.LG cs.MA
A Pipeline for Generating, Annotating and Employing Synthetic Data for Real World Question Answering
Filament AI;University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所);Queen Mary University of London(伦敦玛丽女王大学)
问答(QA)是一个不断发展的研究领域,通常用于促进从文档中提取信息。最先进的QA模型通常是在维基百科等领域通用语料库上预先训练的,因此往往在没有微调的情况下在域外文档上挣扎。我们证明了合成特定领域的数据集可以很容易地使用域通用模型生成,同时仍然提供了显着的改善QA性能。我们为这项任务提供了两个新工具:一个用于验证合成QA数据并在其上训练下游模型的灵活管道,以及一个在线界面,以方便对生成的数据进行人工注释。使用这个接口,crowdworker标记了1117个合成QA对,然后我们使用它们来微调下游模型,并将特定领域的QA性能提高了8.75 F1。
2022-11-30 cs.CL cs.LG
FairGen: Fair Synthetic Data Generation
Mastercard(万事达卡);Credgenics;GoTo Group(GoTo集团)
随着机器学习在银行、制药、教育技术等领域的日益普及,采用负责任的人工智能方法来确保模型不会不公平地歧视任何群体变得至关重要。由于缺乏干净的训练数据,生成对抗技术更适合生成合成数据,这些数据具有几种最先进的架构,这些架构在各个领域都很容易获得,从非结构化数据(如文本,图像)到结构化数据集建模欺诈检测等等。这些技术克服了诸如类不平衡、有限的训练数据、由于隐私问题而限制对数据的访问的若干挑战。专注于生成公平数据的现有工作要么适用于特定的GAN架构,要么很难在GANs之间进行调整。在本文中,我们提出了一个管道,以产生更公平的合成数据独立的GAN架构。本文提出了一种预处理算法,以识别和删除偏差诱导样本。特别是,我们声称,在生成合成数据时,大多数GANs会放大训练数据中存在的偏差,但通过删除这些偏差诱导样本,GANs本质上更关注真实的信息样本。我们在两个开源数据集上的实验评估展示了所提出的管道如何生成公平的数据,以及在某些情况下如何提高性能。
2022-12-01 cs.AI cs.CY cs.LG
MedDiff: Generating Electronic Health Records using Accelerated Denoising Diffusion Model
Harvard University(哈佛大学);Emory University(埃默里大学)
由于对患者隐私保护的担忧,医疗保健领域的机器学习研究比其他应用领域缓慢且有限。可以利用高质量、真实的合成电子健康记录(EHR)来加速用于研究目的的方法开发,同时减轻与数据共享相关的隐私问题。目前最先进的合成EHR生成模型是生成对抗网络,这是出了名的难以训练,并可能遭受模式坍塌。去噪扩散概率模型是一类受统计热力学启发的生成模型,最近已被证明可以在某些领域生成高质量的合成样本。目前还不清楚这些是否可以推广到大规模,高维EHR的生成。在本文中,我们提出了一种新的生成模型的基础上扩散模型,这是第一个成功的应用于电子健康档案。我们的模型提出了一种机制来执行类条件采样,以保留标签信息。我们还引入了一种新的采样策略,以加快推理速度。我们的经验表明,我们的模型优于现有的最先进的合成EHR生成方法。
2023-02-08 cs.AI cs.CR cs.LG
Methods for generating and evaluating synthetic longitudinal patient data: a systematic review
University of Turku(图尔库大学)
本文针对医疗保健领域纵向患者数据的隐私保护需求,通过系统综述绘制并描述了现实场景中生成和评估合成纵向患者数据的方法,指出当前研究在隐私保护机制及多维度评估方面的不足,为该领域进一步研究提供方向。
2024-12-02 cs.CR cs.LG stat.AP
Row Conditional-TGAN for generating synthetic relational databases
Croesus(克洛伊索斯);Croesus Lab(克洛伊索斯实验室)
除了再现独立表的表格数据属性之外,合成关系数据库还需要对相关表之间的关系进行建模。在本文中,我们提出了行条件-表格生成对抗网络(RC-T GAN),这是一种新型生成对抗网络(GAN)模型,它扩展了表格式GAN以支持建模和合成关系数据库。RC-T GAN通过将父行的条件数据合并到子表的GAN的设计中来对表之间的关系信息进行建模。我们进一步扩展了RC-TGAN模型的影响,祖表行可能对他们的孙子行,为了防止这种连接的丢失时,父表的行未能传输此关系信息。使用8个真实的关系数据库的实验结果表明,与基准系统相比,合成的关系数据库的质量有了显著的提高,证明了RC-TGAN在保持原始数据库表之间关系方面的有效性。
2022-11-14 cs.DB cs.LG
Style Transfer with Time Series: Generating Synthetic Financial Data
OPTrust;University of Toronto(多伦多大学)
在金融市场中,训练能够很好地推广到实时部署的深度学习模型是一个具有挑战性的问题。由于高维数、有限的观测、不断变化的数据分布和低信噪比,挑战出现了。高维度可以使用鲁棒的特征选择或降维来处理,但由于大多数深度神经网络的参数空间很大,有限的观察结果往往会导致模型过拟合。我们提出了一个金融时间序列的生成模型,它允许我们在数百万条模拟路径上训练深度学习模型。我们表明,我们的生成模型能够创建现实的路径,嵌入的方式随机过程不能的市场的基本结构。
2019-12-18 cs.LG q-fin.ST stat.ML
Towards Realistic Synthetic User-Generated Content: A Scaffolding Approach to Generating Online Discussions
Google(谷歌公司)
针对直接用大语言模型生成在线讨论结构还原度低、可控性差的问题,提出基于脚手架(讨论串紧凑表示)的多步生成框架,适配不同平台,并配套评估指标验证合成数据的代表性与真实性。
2024-08-15 cs.CL cs.IR cs.LG
Generating Synthetic Satellite Imagery With Deep-Learning Text-to-Image Models -- Technical Challenges and Implications for Monitoring and Verification
Berliner Hochschule für Technik(柏林应用技术大学);Princeton University(普林斯顿大学);Einstein Center Digital Future(爱因斯坦数字未来中心)
本研究利用深度学习文本生成图像模型探索合成卫星图像生成方法,评估其真实度与性能,分析其缓解遥感数据短缺的作用及对监测核查的影响。
2024-04-11 cs.AI cs.CV cs.HC
SynC: A Unified Framework for Generating Synthetic Population with Gaussian Copula
University of Toronto(多伦多大学);Northeastern University(东北大学);Arima Inc.(Arima公司);PwC Canada(普华永道加拿大);Carnegie Mellon University(卡内基梅隆大学)
合成人口生成是将来自不同来源和/或粒度级别的多个社会经济和人口数据集组合在一起,并将其缩小到个人级别的过程。虽然它是许多数据科学任务的基本步骤,但缺乏有效和标准的框架。在这项研究中,我们提出了一个多阶段的框架,称为SynC(通过高斯Copula合成人口),以填补空白。SynC首先去除数据中潜在的离群值,然后使用高斯copula模型拟合过滤后的数据,以正确捕获抽样调查数据的依赖性和边缘分布。最后,SynC利用预测模型将数据集合并为一个数据集,然后相应地对其进行缩放以匹配边际约束。我们在这项工作中做出了三项重要贡献:1)提出一种新的框架,用于通过结合最先进的机器学习和统计技术,从聚合数据源生成个体级数据,2)证明其作为特征工程工具的价值,以及在难以通过两个真实世界数据集进行收集的情况下数据汇集的替代方案,3)发布易于使用的框架实现,以实现可重复性,以及4)确保该方法在生产层面上可扩展,并且可以轻松地纳入新数据。
2019-11-11 cs.LG stat.ML
RISC: Generating Realistic Synthetic Bilingual Insurance Contract
Université Laval(拉瓦尔大学)
本文提出开源Python包RISC及数据集RISCBAC,生成1万份基于魁北克法规的法英双语汽车保险合同,为无监督和监督NLP任务提供复杂文档研究资源。
2023-04-09 cs.CL cs.LG
Towards Generating Large Synthetic Phytoplankton Datasets for Efficient Monitoring of Harmful Algal Blooms
University of Waterloo(滑铁卢大学);Blue Lion Labs(蓝狮实验室);Mila(米拉人工智能研究所);University of Montreal(蒙特利尔大学)
气候变化正在增加有害藻华(HAB)的频率和严重程度,这导致水产养殖场的大量鱼类死亡。这导致海洋污染和温室气体(GHG)排放,因为死鱼要么被倾倒到海洋中,要么被运往垃圾填埋场,这反过来又对气候产生负面影响。目前,对有害藻类和其他浮游植物进行计数的标准方法是在显微镜下人工观察和计数。这是一个耗时、繁琐和容易出错的过程,导致农民的管理决策受到影响。因此,自动化这一过程,以快速和准确的有害藻华监测是非常有帮助的。然而,这需要大量和多样的浮游植物图像数据集,并且这样的数据集很难快速生成。在这项工作中,我们探讨了生成新的高分辨率逼真的合成浮游植物图像的可行性,在同一图像中包含多个物种,给出了一个小的数据集的真实图像。为此,我们采用生成对抗网络(GANs)来生成合成图像。我们使用标准图像质量指标评估了三种不同的GAN架构:ProjectedGAN、FastGAN和StyleGANv2。我们经验表明,高保真合成浮游植物图像的生成使用的训练数据集只有961个真实的图像。因此,这项工作证明了GANs从小型训练数据集创建大型浮游植物合成数据集的能力,为可持续系统监测有害藻华迈出了关键一步。
2022-08-03 cs.CV cs.LG eess.IV
PyAWD: A Library for Generating Large Synthetic Datasets of Acoustic Wave Propagation
Machine Learning Group, Université Libre de Bruxelles, Belgium(布鲁塞尔自由大学机器学习组)
针对地震数据稀疏限制机器学习应用的问题,提出Python库PyAWD,用于生成模拟二维和三维非均匀介质中声波传播的大规模高分辨率合成数据集,并通过震源检索任务验证了其有效性。
2025-04-29 cs.LG
Generating Photo-Realistic Training Data to Improve Face Recognition Accuracy
School of Engineering and Technology(工程与技术学院);University of Hertfordshire(赫特福德大学);GBG plc(GBG集团)
在本文中,我们研究了使用合成数据来增强人脸数据集的可行性。特别是,我们提出了一种新的生成对抗网络(GAN),可以从非身份相关的属性解开身份相关的属性。这是通过训练一个嵌入网络来完成的,该网络将离散的身份标签映射到遵循简单先验分布的身份潜在空间,并训练一个以该分布的样本为条件的GAN。我们提出的GAN允许我们通过生成训练集中主体的合成图像和不在训练集中的新主体的合成图像来增强人脸数据集。通过使用GAN训练的最新进展,我们证明了我们的模型生成的合成图像是照片般逼真的,并且与仅使用真实图像训练的模型相比,使用增强数据集进行训练确实可以提高人脸识别模型的准确性。
2018-10-31 cs.CV cs.LG stat.ML
Generating Feasible and Diverse Synthetic Populations Using Diffusion Models
PKU-Wuhan Institute for Artificial Intelligence(北京大学武汉人工智能研究院)
提出基于扩散模型的人口合成方法,通过估计潜在联合分布,在恢复缺失采样零的同时最小化结构零,在可行性和多样性间取得更优平衡。
2025-08-06 cs.LG
A Deep Learning Approach Towards Generating High-fidelity Diverse Synthetic Battery Datasets
本文针对电池数据集稀缺且缺乏多样化充放电模式的问题,提出多种基于深度学习的数据增强方法,用于合成高保真多样化电池数据集,以帮助研究人员在有限数据条件下构建更优的电池状态估计模型。
2023-04-09 cs.LG
CK4Gen: A Knowledge Distillation Framework for Generating High-Utility Synthetic Survival Datasets in Healthcare
Centre for Big Data Research in Health (CBDRH)(健康大数据研究中心);The University of New South Wales(新南威尔士大学)
本文提出CK4Gen框架,利用Cox比例风险模型的知识蒸馏生成保留风险比和生存曲线的高效用合成生存数据集,在四个基准数据集上验证优于VAEs和GANs,并通过数据增强提升生存模型性能。
2024-10-22 cs.LG
SurvivalGAN: Generating Time-to-Event Data for Survival Analysis
University of Cambridge(剑桥大学);University of California, Los Angeles(加州大学洛杉矶分校);Alan Turing Institute(艾伦·图灵研究所)
合成数据正成为一种越来越有前途的技术,成功的应用可以提高隐私、公平和数据民主化。虽然有许多方法可以生成合成表格数据,但对于特定场景来说,这项任务仍然是不平凡的,也是未经探索的。其中一个场景是生存数据。在这里,关键的困难是审查:在某些情况下,我们不知道事件发生的时间,或者甚至不知道是否发生。删失和时间范围的不平衡导致生成模型经历三种特定于生存分析的新失效模式:(1)生成太少的风险成员;(2)生成太多的风险成员;(3)过早删失。我们正式这些故障模式,并提供了三个新的生成指标来量化它们。在此之后,我们提出了SurvivalGAN,这是一种生成模型,它首先通过解决删失和事件范围的不平衡来处理生存数据,其次通过使用专用机制来近似事件/删失时间。我们通过对医学数据集的广泛实验来评估这种方法。SurvivalGAN在生成生存数据方面优于多个基线,特别是解决了通过新指标测量的故障模式,此外还提高了在合成数据上训练的生存模型的下游性能。
2023-02-24 cs.LG