Generating Synthetic Fair Syntax-agnostic Data by Learning and Distilling Fair Representation
Northeastern University（东北大学）
本文提出基于知识蒸馏的公平数据生成方法，通过小型架构蒸馏潜在空间中的公平表示，在公平性、样本质量和数据效用上分别提升5%、5%和10%。
2024-08-20 cs.AI cs.LG
FALCON: A Model and Dataset Agnostic Framework for Synthetic Data Generation for NL2SQL Pairs
University of California, Santa Cruz（加州大学圣克鲁兹分校）；Adobe（Adobe公司）
FALCON提出一种模型与数据集无关的框架，利用保留字SQL种子和角色提示生成复杂度高、歧义感知的合成NL2SQL数据，并通过对齐过滤保留难度，实验证明其训练模型在复杂查询上优于基线。
2026-10-05 cs.CL cs.DB cs.LG
Language-Agnostic Representation Learning of Source Code from Structure and Context
Technical University of Munich（慕尼黑工业大学）；Stanford University（斯坦福大学）
源代码（上下文）及其解析的抽象语法树（AST;结构）是同一计算机程序的两个互补表示。传统上，机器学习模型的设计者主要依赖于结构或上下文。我们提出了一个新的模型，它联合学习上下文和源代码的结构。与以前的方法相比，我们的模型只使用语言无关的功能，即，可以直接从AST计算的源代码和功能。除了获得国家的最先进的单语代码摘要的所有五个程序设计语言在这项工作中考虑，我们提出了第一个多语言代码摘要模型。我们发现，对来自多个程序设计语言的非并行数据进行联合训练可以改善所有语言的结果，其中最大的收益是低资源语言。值得注意的是，仅从上下文进行多语言训练并没有带来同样的改进，突出了将结构和上下文结合起来进行代码表示学习的好处。
2021-03-21 cs.LG cs.SE
Exploring the Task-agnostic Trait of Self-supervised Learning in the Context of Detecting Mental Disorders
Indian Institute of Technology Guwahati（印度古瓦哈蒂理工学院）
本研究在检测MDD和PTSD背景下，利用音频和视频数据探索SSL生成的任务无关表示，通过提出固定目标列表和修改SSL编码器超参数生成全局表示，提升了精神障碍检测性能并验证了任务无关特性。
2024-03-22 cs.AI cs.LG eess.SP
How Faithful is your Synthetic Data? Sample-level Metrics for Evaluating and Auditing Generative Models
Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学博德研究所）；MIT（麻省理工学院）；Cambridge University（剑桥大学）；UCLA（加州大学洛杉矶分校）
为生成模型设计与领域和模型无关的评估指标是一个重要且尚未解决的问题。大多数现有的指标，这是专门为图像合成设置，表现出有限的能力，诊断不同的故障模式的生成模型在更广泛的应用领域。在本文中，我们引入了一个三维的评价指标，（$α$ -精度，$β$ -召回，真实性），其特征的保真度，多样性和泛化性能的任何生成模型在域不可知的方式。我们的度量标准将统计差异度量与精确召回分析相结合，从而实现模型保真度和多样性的样本和分布级诊断。我们引入泛化作为一个额外的，独立的维度（对多样性的权衡），量化模型复制训练数据的程度-在对隐私要求的敏感数据建模时，这是一个关键的性能指标。这三个度量分量对应于（可解释的）概率量，并通过样本级二进制分类进行估计。我们的指标的样本级性质激发了一种新的用例，我们称之为模型审计，其中我们判断（黑盒）模型生成的单个样本的质量，丢弃低质量样本，从而以事后方式提高整体模型性能。
2022-07-13 cs.LG stat.ML
Model Agnostic Differentially Private Causal Inference
Inria, Université de Montpellier, INSERM, France（Inria、蒙彼利埃大学、INSERM、法国）
本文提出了一种无模型差分隐私因果推断框架，通过分离干扰估计与隐私保护，实现了对平均治疗效应的隐私保护估计，并在合成和真实数据上验证了其有效性。
2026-01-30 cs.LG stat.ML
EchoPress: Query-Agnostic KV Cache Pruning via Virtual Context Reconstruction
EPFL（洛桑联邦理工学院）
EchoPress提出无需训练的KV缓存剪枝方法，通过虚拟上下文重建近似注意力分数，在保持准确率的同时大幅降低压缩开销和预填充时间。
2026-10-02 cs.LG
PAGE: Domain-Incremental Adaptation with Past-Agnostic Generative Replay for Smart Healthcare
Princeton University（普林斯顿大学）
PAGE是一种面向智能医疗的域增量适应策略，通过过去无关的生成重放实现知识保留，并集成扩展归纳共形预测提供统计保证，在三个疾病数据集上达到先进性能，并减少75%临床工作量。
2024-03-13 cs.AI cs.LG
Batch-ICL: Effective, Efficient, and Order-Agnostic In-Context Learning
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Ant Group（蚂蚁集团）
本文将上下文学习视为元优化过程，解释了LLM对示例顺序敏感的原因，并提出Batch-ICL算法，通过聚合N个独立1-shot前向计算的元梯度至零样本查询，实现顺序无关且高效推理，其变体还能进一步提升性能。
2024-06-05 cs.CL cs.LG
Accelerating Reproducible Research in Synthetic EHR Generation
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出一个轻量级端到端基准框架，统一数据加载、标准化训练和架构无关评估，重新实现多种基线模型并添加GPT-2基线，通过隐私-效用评估套件和自助置信区间分析长尾性能问题，推动社区驱动的可复现性。
2026-06-05 cs.LG
KVzip: Query-Agnostic KV Cache Compression with Context Reconstruction
Seoul National University（首尔大学）；Neural Processing Research Center（神经处理研究中心）；NAVER AI Lab（NAVER人工智能实验室）
本文提出查询无关的 KV 缓存压缩方法 KVzip，通过基于 LLM 的上下文重建评估 KV 对重要性并驱逐低价值缓存，实现跨查询复用，在最长 170K tokens 上下文中显著降本提速且优于查询感知方法。
2025-09-30 cs.DB cs.LG
Anomaly Detection in Power Grids via Context-Agnostic Learning
New Jersey Institute of Technology（新泽西理工学院）；University of Vermont（佛蒙特大学）
针对现有电网异常检测方法未考虑物理上下文变化、扩展性不足的问题，提出上下文感知算法GridCAL，将潮流测量转换为上下文无关值构建统一统计模型，在大规模电网中实现了更优的检测准确率与计算效率。
2024-04-11 cs.LG stat.AP
Agnostic Federated Learning
Google Research（谷歌研究院）；Courant Institute of Mathematical Sciences, New York（纽约大学库朗数学科学研究所）
大规模应用程序中的一个关键学习场景是联邦学习，其中基于源自大量客户端的数据训练集中式模型。我们认为，通过现有的训练和推理，联邦模型可以偏向于不同的客户端。相反，我们提出了一个新的不可知联邦学习框架，其中集中式模型针对由客户端分布的混合物形成的任何目标分布进行了优化。我们进一步表明，这个框架自然产生公平的概念。我们提出了数据相关的Rademacher复杂性保证学习与此目标，指导定义的算法不可知的联邦学习。我们也给出了一个快速的随机优化算法来解决相应的优化问题，我们证明了收敛界，假设一个凸的损失函数和假设集。我们进一步实证证明了我们的方法在几个数据集的好处。除了联邦学习之外，我们的框架和算法还可以用于其他学习场景，如云计算、领域自适应、漂移以及其他训练和测试分布不一致的环境。
2019-02-01 cs.LG stat.ML
RIS-Kernel: A Model-Agnostic Architecture for Long-Context LLM Inference via Sparse Attention
Federal University of Uberlândia (UFU)（乌贝兰迪亚联邦大学）
研究针对大语言模型全自注意力复杂度高限制长上下文分析的问题，提出RIS-Kernel模型无关架构，通过稀疏随机几何降低复杂度，经实验验证其在不同设置下的有效性及在普通CPU服务器上实现长上下文推理的可行性。
2026-10-14 cs.LG
Artificial Inductive Bias for Synthetic Tabular Data Generation in Data-Scarce Scenarios
Information Processing and Telecommunications Center（信息处理与电信中心）；ETS Ingenieros de Telecomunicación（电信工程学院）；Universidad Politécnica de Madrid（马德里理工大学）
针对深度生成模型生成合成表格数据依赖大量训练数据的问题，提出将人工归纳偏置结合迁移学习与元学习注入生成过程的方法，在低数据场景下显著提升生成数据质量，且模型无关，适用于医疗、金融等领域。
2025-07-31 cs.AI cs.LG
Domain-Agnostic Neural Topic Modeling with Contextual Token-Level Semantic Graph Representation
TelePIX AI Center（TelePIX人工智能中心）；Samsung Electronics（三星电子）；School of Computing & Frontier AI Research Centre Macquarie University（麦考瑞大学计算与前沿人工智能研究中心）
该研究提出领域无关框架DARTopic，通过构建词级语义图并联合训练GNN编码器与主题推理模块，在多领域基准测试中优于基线且效率更优。
2026-08-18 cs.CL cs.LG
RestoreKV: Recovering Full-Cache Behavior Under Aggressive Query-Agnostic KV Cache Eviction
RestoreKV通过学习型恢复补充与查询无关的KV缓存驱逐方案，仅优化0.4%参数，在多主干、多基准上大幅降低压缩性能下降，提升长上下文处理能力且开销极小。
2026-08-04 cs.CL cs.LG
Task-Agnostic Continual Reinforcement Learning: Gaining Insights and Overcoming Challenges
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Cleanlab；Seoul National University（首尔国立大学）；HEC Montréal（蒙特利尔高等商学院）；Canada CIFAR AI Chair（加拿大CIFAR人工智能讲席）；Amazon Web Services（亚马逊云科技）
本文研究了任务无关持续学习与多任务学习的性能差异，提出基于回放的循环强化学习（3RL）方法，在合成任务和Meta-World基准上验证其优势，发现3RL在高维度等挑战性设置中优于基线甚至多任务方法，并揭示任务无关方法在资源受限环境中的潜力。
2023-05-17 cs.LG
Detecting and Mitigating Test-time Failure Risks via Model-agnostic Uncertainty Learning
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
在部署生产数据时，可靠地预测机器学习（ML）系统的潜在故障风险是值得信赖的AI的一个重要方面。本文介绍了Risk Advisor，一种新的事后元学习器，用于估计任何已经训练好的黑盒分类模型的失败风险和预测不确定性。除了提供风险评分外，风险顾问还将不确定性估计分解为任意和认知不确定性分量，从而对引起故障的不确定性来源提供信息性见解。因此，Risk Advisor可以区分由数据可变性、数据偏移和模型限制引起的故障，并就缓解措施（例如，收集更多数据以对抗数据移位）。在各种黑盒分类模型系列以及涵盖常见ML故障场景的真实世界和合成数据集上进行的广泛实验表明，Risk Advisor可以可靠地预测所有场景中的部署时故障风险，并优于强大的基线。
2021-09-09 cs.IR cs.LG stat.ML
Data-Driven Covariate Selection for Nonparametric and Cycle-Agnostic Causal Effect Estimation
Leiden University（莱顿大学）
本文提出一种基于条件独立性的本地数据驱动方法，用于非参数和周期无关的因果效应估计，证明其在存在循环因果模型时的有效性，并通过合成数据验证了方法的可靠性。
2026-05-07 cs.LG
Learning a Domain-Agnostic Visual Representation for Autonomous Driving via Contrastive Loss
Seoul National University（首尔大学）
深度神经网络在自动驾驶应用中得到了广泛的研究，例如语义分割或深度估计。然而，以监督的方式训练神经网络需要大量的注释标签，这是昂贵和耗时的collect.Recent研究利用从虚拟环境中收集的合成数据，这是更容易获得和更准确的数据相比，从现实世界中，但他们通常遭受由于固有的域移位问题的泛化能力差。在本文中，我们提出了一个领域不可知的对比学习（DACL），这是一个两阶段的无监督领域自适应框架与循环对抗训练和对比损失。DACL引导神经网络学习领域无关的表示，以克服训练数据和测试数据分布之间存在差异时的性能下降。我们提出的方法实现了更好的性能相比，以前的国家的最先进的方法，在单目深度估计任务，也显示了有效性的语义分割任务。
2021-03-10 cs.CV cs.LG cs.RO
Model-Agnostic Solutions for Deep Reinforcement Learning in Non-Ergodic Contexts
Data Analytics Lab, Vrije Universiteit Brussel（自由大学布鲁塞尔数据分析实验室）；Mobilise, Vrije Universiteit Brussel（Mobilise，自由大学布鲁塞尔）；School of Engineering and Applied Sciences, Harvard University（工程与应用科学学院，哈佛大学）
本文提出在非平衡环境中通过引入时间依赖性改进深度强化学习策略，以获得更优的解决方案。
2026-01-13 cs.LG
Agnostic Private Density Estimation for GMMs via List Global Stability
McMaster University（麦克马斯特大学）；Vector Institute（矢量研究院）；Google（谷歌公司）
针对不可知场景下高维高斯混合模型的私有密度估计问题，研究人员引入列表全局稳定性的不可知变体，构建对应学习器，首次证明了该问题的样本复杂度上界。
2024-10-06 cs.CR cs.DS cs.IT
Explainable Systematic Analysis for Synthetic Aperture Sonar Imagery
University of Florida（佛罗里达大学）；University of Missouri（密苏里大学）
在这项工作中，我们提出了一个深入和系统的分析，使用工具，如本地可解释的模型不可知解释（LIME）（arXiv：1602.04938）和发散措施，以分析什么变化导致性能的改善，在微调模型合成孔径声纳（SAS）数据。我们研究了微调过程中的因素，如类不平衡的敏感性。我们的研究结果不仅显示了海底纹理分类的改进，而且还提供了对哪些特征在提高性能方面发挥关键作用的更深入的了解，以及对SAS图像中海底分类的深度学习模型进行微调的平衡数据的重要性的了解。
2021-03-16 cs.LG eess.IV
Goal-Directed Search Outperforms Goal-Agnostic Memory Compression in Long-Context Memory Tasks
Astera Institute（Astera研究所）
SUMER通过目标导向搜索在长上下文记忆任务中超越传统记忆压缩方法，达到SOTA性能。
2025-11-20 cs.AI cs.CL cs.LG
MedEqualizer: A Framework Investigating Bias in Synthetic Medical Data and Mitigation via Augmentation
The Ohio State University（俄亥俄州立大学）
本研究评估了基于GAN的合成医疗数据在人口统计属性上的公平性，发现存在显著失衡，并提出模型无关的增强框架MedEqualizer，通过在生成前丰富代表性不足的子组来显著改善数据集的人口统计平衡。
2025-11-02 cs.LG
CA$^2$T-Net: Category-Agnostic 3D Articulation Transfer from Single Image
UC Berkeley（加州大学伯克利分校）；Amazon（亚马逊）
我们提出了一种神经网络方法来将运动从铰接对象的单个图像转移到静止状态（即，无关节）3D模型。我们的网络学习预测对象的姿势、部分分割和相应的运动参数，以再现输入图像中显示的清晰度。该网络由三个不同的分支组成，它们采用共享的联合图像形状嵌入，并进行端到端的训练。与以前的方法不同，我们的方法是独立的对象的拓扑结构，可以与对象从任意类别。我们的方法，只训练合成数据，可用于自动动画网格，从真实图像推断运动，并在测试时将关节连接到功能相似但几何形状不同的3D模型。
2023-03-22 cs.AI cs.CV cs.GR
MASON: A Model AgnoStic ObjectNess Framework
Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）
本文提出了一种简单，但非常有效的方法来定位图像中的主要前景对象，像素级精度。所提出的方法“MASON”（Model-AgnoStic ObjectNess）使用深度卷积网络为任何图像生成类别独立和模型不可知的热图。该网络没有针对任务进行明确的训练，因此可以与任何其他网络或任务一起使用。我们表明，这个框架可扩展到各种各样的图像，并说明了MASON在三个不同的应用环境中的有效性。
2018-09-20 cs.AI cs.CV cs.LG
Decouple-and-Sample: Protecting sensitive information in task agnostic data release
MIT Media Lab（麻省理工学院媒体实验室）
我们提出消毒，安全和任务无关的数据发布框架。虽然发布数据集继续在计算机视觉的各种应用中产生重大影响，但其影响主要是在数据共享不受隐私问题限制时实现的。我们通过在两个阶段的过程中净化数据集来缓解这些担忧。首先，我们引入了一个全局解耦阶段，用于将原始数据分解为敏感和非敏感的潜在表示。其次，我们设计了一个局部采样阶段，综合产生差分隐私的敏感信息，并将其与非敏感的潜在特征合并，以创建一个有用的表示，同时保护隐私。这个新形成的潜在信息是具有匿名敏感信息的原始数据集的任务不可知表示。虽然大多数算法以任务相关的方式净化数据，但少数任务无关的净化技术通过审查敏感信息来净化数据。在这项工作中，我们表明，如果敏感信息可以私下合成，一个更好的隐私效用权衡。我们通过在现有基准任务上超越最先进的基线并演示使用现有技术不可能完成的任务来验证消毒剂的有效性。
2022-03-17 cs.CR cs.CV cs.CY
Continuous Domain Adaptation with Variational Domain-Agnostic Feature Replay
Imagia；Montreal Institute for Learning Algorithms (MILA), University of Montreal（蒙特利尔学习算法研究所（MILA），蒙特利尔大学）；Dalhousie University（达尔豪西大学）；Canadian Institute for Advanced Research (CIFAR)（加拿大高级研究所（CIFAR））
非平稳环境下的学习是机器学习面临的最大挑战之一。非平稳性可以由任务漂移引起，即，给定输入数据的标签的条件分布中的漂移，或域漂移，即，输入数据的边缘分布的漂移。本文的目的是解决这一挑战的背景下，连续领域自适应，其中模型需要学习新的任务，适应新的领域在一个非平稳的环境，同时保持以前学到的知识。为了处理这两个漂移，我们提出变分域不可知特征重放，一种方法，由三个组成部分：一个推理模块，过滤的输入数据域不可知表示，生成模块，促进知识转移，和求解器模块，应用过滤和可转移的知识来解决查询。我们解决了两个基本的情况下，在连续的领域自适应，证明了我们提出的方法的有效性，为实际使用。
2020-03-09 cs.CV cs.LG stat.ML
Synthetic Context Generation for Question Generation
Rice University（莱斯大学）；Adobe（奥多比公司）
针对问题生成任务中带上下文的领域数据集难获取的问题，提出用大语言模型基于问答对生成合成上下文来训练QG模型，实验证明合成上下文有效，微调小模型性能优于提示大模型，且与真实上下文效果相当。
2024-06-19 cs.CL cs.LG
Post-processing Private Synthetic Data for Improving Utility on Selected Measures
MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
针对私有合成数据生成算法忽略下游任务需求的问题，提出一种基于随机一阶算法寻找最优重采样权重的后处理技术，在保留强隐私保证与数据集质量的同时，有效提升了合成数据在用户选定度量上的效用。
2023-10-19 cs.CR cs.DB cs.IT
Comparing Task-Agnostic Embedding Models for Tabular Data
CONTACT Software GmbH, Bremen, Germany（CONTACT软件公司，不莱梅，德国）
本文对比了表格数据的无任务嵌入模型，发现简单特征工程方法在性能上可与基础模型相比或更优，且计算资源需求更低。
2026-02-04 cs.AI cs.LG
Boosting Efficiency in Task-Agnostic Exploration through Causal Knowledge
Department of Computer Science and Engineering, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系）；Halicioğlu Data Science Institute (HDSI), University of California San Diego（加州大学圣迭戈分校哈利乔格鲁数据科学研究所）；Guangdong Institute of Intelligence Science and Technology（广东省智能科学与技术研究院）
本文提出因果探索策略，利用底层因果知识指导任务无关强化学习中的数据收集与模型训练，通过主动选择能产生有益因果洞察的行动，显著提升了世界模型学习的样本效率和可靠性，并提供了理论收敛保证与实证验证。
2024-07-30 cs.AI cs.LG
Selection-p: Self-Supervised Task-Agnostic Prompt Compression for Faithfulness and Transferability
The Hong Kong University of Science and Technology（香港科技大学）；Tencent AILab（腾讯AI实验室）
本文提出Selection-p，一种基于自监督持续预训练的任务无关提示压缩方法，通过少量参数对token进行保留或丢弃的概率预测，在实现高达10倍压缩率的同时保持性能，并具备跨模型的强可迁移性。
2024-10-21 cs.AI cs.CL cs.LG
Empowering Time Series Analysis with Synthetic Data: A Survey and Outlook in the Era of Foundation Models
Salesforce AI Research（Salesforce AI研究院）；National University of Singapore（新加坡国立大学）；Squirrel Ai Learning（松鼠人工智能学习）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文综述合成数据如何支撑TSFMs与TSLLMs，梳理生成策略及其在预训练、微调和评估中的作用，并展望未来研究方向。
2025-03-14 cs.LG
MOSIC: Model-Agnostic Optimal Subgroup Identification with Multi-Constraint for Improved Reliability
Cornell University（康奈尔大学）；Weill Cornell Medicine（韦尔·科恩医学中心）；Operations Research and Information Engineering（运筹学与信息工程）
提出统一优化框架，将约束直接融入子群识别优化过程，通过梯度下降-上升算法求解，实现模型无关且满足多约束的最优子群识别。
2026-06-15 cs.LG
Revisiting Model-Agnostic Private Learning: Faster Rates and Active Learning
University of California Santa Barbara（加州大学圣巴巴拉分校）；University of California, San Diego（加州大学圣地亚哥分校）
教师团体的私人聚合（PATE）框架是最近最有前途的差异化私人学习方法之一。现有的理论分析表明，PATE始终学习任何VC类的可实现的设置，但在更一般的情况下，最佳分类器的出错率是有界远离零解释其成功的不足。我们通过引入Tsybakov噪声条件（TNC）来填补这一空白，并建立更强大，更可解释的学习边界。这些界限提供了新的见解，当PATE的作品和改善现有的结果，即使在较窄的可实现的设置。我们还研究了使用主动学习来节省隐私预算的令人信服的想法，实证研究表明了这种新想法的有效性。证明中的新组件包括对多数投票分类器的更精细的分析-这可能是独立的兴趣-以及观察到合成的“学生”学习问题在Tsybakov噪声条件下几乎可以通过构建来实现。
2022-03-11 cs.CR cs.LG
Prediction with Incomplete Data under Agnostic Mask Distribution Shift
Shanghai Jiao Tong University（上海交通大学）；Communication University of China（中国传媒大学）
针对不完整数据在不可知掩码分布偏移下的预测问题，提出双重参数化联合近似各掩码不变最优预测器并进行去相关的方法 StableMiss，有效提升了泛化与鲁棒性。
2023-05-18 cs.AI cs.LG
MAML-en-LLM: Model Agnostic Meta-Training of LLMs for Improved In-Context Learning
University of Virginia（弗吉尼亚大学）；Amazon Alexa（亚马逊 Alexa）
本文提出 MAML-en-LLM 元训练方法，通过学习真正可泛化的参数增强 LLM 的上下文学习与未见任务适应能力，并在多种任务和数据设置下优于现有 SOTA 方法。
2024-05-19 cs.CL cs.LG
Beyond Marginals: A Multi-Dimensional Evaluation Framework for Multi-Table Synthetic Data Generation
Microsoft（微软）
针对多表合成数据缺乏统一评估框架的问题，提出SynEval六维评估框架，联合评估保真度、结构、完整性、效用、隐私和边缘情况，并生成加权质量分数。
2026-10-07 cs.DB cs.LG
LiBaGS: Lightweight Boundary Gap Synthesis for Targeted Synthetic Data Selection
Department of Computer Science（计算机科学系）；University of Toronto（多伦多大学）；The Hospital for Sick Children UHN（Sick Children医院 UHN）；KITE Research Institute（KITE研究机构）；T-CAIREM Vector Institute（T-CAIREM向量研究所）；Vector Institute（向量研究所）
LiBaGS通过结合决策边界接近度、预测不确定性、真实数据密度和支持有效性，选择信息丰富且可能留在真实数据流形上的合成样本，改进了合成数据选择的准确性。
2026-05-13 cs.AI cs.LG
Fake it till you make it: Learning transferable representations from synthetic ImageNet clones
NAVER LABS Europe（NAVER欧洲实验室）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）
最近的图像生成模型，如稳定扩散已经展示了令人印象深刻的能力，从一个简单的文本提示开始生成相当逼真的图像。这样的模型是否会使真实图像变得过时，无法用于训练图像预测模型？在本文中，我们通过调查在训练ImageNet分类模型时对真实图像的需求来回答这个挑衅性问题的一部分。仅提供用于构建数据集的类名，我们探索了Stable Diffusion生成ImageNet合成克隆的能力，并测量了这些克隆对于从头开始训练分类模型的有用性。我们表明，通过最小和类不可知的提示工程，ImageNet克隆能够缩小合成图像生成的模型与使用真实图像训练的模型之间的大部分差距，对于我们在本研究中考虑的几个标准分类基准。更重要的是，我们证明了在合成图像上训练的模型具有很强的泛化特性，并且与在真实数据上训练的模型表现相当。项目页面：https://europe.naverlabs.com/imagenet-sd/
2023-03-28 cs.CV cs.LG
Modality-Agnostic Style Transfer for Holistic Feature Imputation
Pohang University of Science and Technology（浦项科技大学）；University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；University of North Carolina at Greensboro（北卡罗来纳大学格林斯伯勒分校）
针对阿尔茨海默病多模态影像数据缺失问题，提出基于域对抗训练和生成对抗网络的模态无关风格迁移框架，在保留AD特征的同时生成缺失模态，实验证明合成数据具有实际可用性。
2025-03-03 cs.CV cs.LG eess.IV
