What's Behind PPO's Collapse in Long-CoT? Value Optimization Holds the Secret
ByteDance Seed（字节跳动 Seed）
本文揭示了PPO在长CoT任务中失败的原因是价值初始化偏差和奖励信号衰减，提出VC-PPO方法，通过预训练价值模型和解耦GAE计算解决这些问题，在AIME上显著提升了性能。
2025-03-03 cs.LG
The Secret Revealer: Generative Model-Inversion Attacks Against Deep Neural Networks
Fudan University（复旦大学）；University of California at Berkeley（加州大学伯克利分校）；Tsinghua University（清华大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文研究了模型反演攻击，其中对模型的访问被滥用来推断有关训练数据的信息。自首次引入以来，鉴于训练数据通常包含隐私敏感信息，此类攻击引起了严重关注。到目前为止，成功的模型反演攻击仅在简单模型上得到证明，例如线性回归和逻辑回归。以前尝试反转神经网络，即使是具有简单架构的神经网络，也未能产生令人信服的结果。我们提出了一种新的攻击方法，称为生成模型反演攻击，它可以以高成功率反演深度神经网络。我们不是从头开始重建私人训练数据，而是利用部分公共信息（可能非常通用）通过生成对抗网络（GAN）学习分布先验，并使用它来指导反演过程。此外，我们从理论上证明了模型的预测能力及其对反转攻击的脆弱性确实是同一枚硬币的两面-高度预测的模型能够在特征和标签之间建立强相关性，这与对手利用什么来发起攻击完全一致。我们广泛的实验表明，所提出的攻击提高了约75%的识别精度比现有的工作，从一个国家的最先进的人脸识别分类器重建人脸图像。我们还表明，差分隐私，在其规范形式，是无济于事的，以抵御我们的攻击。
2020-04-18 cs.LG stat.ML
Secrets of GFlowNets' Learning Behavior: A Theoretical Study
School of Data Science（数据科学学院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文从收敛性、样本复杂度、隐式正则化和鲁棒性四个维度对GFlowNets的学习行为进行严格理论分析，揭示其学习动态机制，为设计部署提供原则性指导并推动其理论发展。
2025-05-04 cs.LG stat.ML
Secret Sharing based Secure Regressions with Applications
Ant Financial Services Group（蚂蚁金融服务集团）；Shandong Normal University（山东师范大学）
如今，不断扩大的数据量的利用对Web技术产生了巨大的影响，同时也引起了各种类型的安全问题。一方面，如果不同的组织能够以某种方式协作共享他们的数据以进行技术改进，那么人们高度期待潜在的收益。另一方面，由于商业或社会方面的考虑，数据持有者和数据提供者都可能对数据安全产生担忧。为了在技术改进和安全限制之间取得平衡，我们为多个数据持有者实现了安全和可扩展的协议，以训练线性回归和逻辑回归模型。我们建立我们的协议的基础上的秘密共享方案，这是可扩展的和有效的应用。此外，我们提出的范例可以推广到任何安全的多方训练方案，其中只使用矩阵求和和矩阵乘法。我们证明了我们的方法，通过实验表明，我们提出的协议的可扩展性和效率，最后提出其实际应用。
2020-04-10 cs.CR cs.LG stat.ML
Your Diffusion Model is Secretly a Zero-Shot Classifier
Carnegie Mellon University（卡内基梅隆大学）
本文提出 Diffusion Classifier，利用大规模文本到图像扩散模型的密度估计执行零样本分类，在多模态组合推理上优于判别式方法，且在 ImageNet 类条件模型上表现出更强的分布偏移鲁棒性。
2023-09-13 cs.AI cs.CV cs.LG
On the "steerability" of generative adversarial networks
Massachusetts Institute of Technology（麻省理工学院）
当代机器学习的一个公开秘密是，许多模型在标准基准上运行得很好，但在实验室之外却无法推广。这归因于有偏见的训练数据，其提供对真实世界事件的不良覆盖。生成模型也不例外，但生成对抗网络（GANs）的最新进展表明，这些模型现在可以合成惊人的逼真和多样化的图像。照片的生成建模是一个解决的问题吗？我们表明，虽然目前的GANs可以很好地拟合标准数据集，但它们仍然不能成为视觉流形的综合模型。特别是，我们研究他们的能力，以适应简单的转换，如相机的运动和颜色的变化。我们发现，模型反映了它们所训练的数据集的偏差（例如，中心对象），但它们也表现出一定的泛化能力：通过在潜在空间中“转向”，我们可以在仍然创建逼真图像的同时改变分布。我们假设分布偏移的程度与训练数据分布的宽度有关。因此，我们进行实验来量化GAN转换的限制，并引入技术来缓解这个问题。代码发布在我们的项目页面：https://ali-design.github.io/gan_steerability/
2020-02-17 cs.CV cs.LG
Your Diffusion Model is Secretly a Certifiably Robust Classifier
Tsinghua University（清华大学）；RealAI
该研究证明扩散分类器具有O(1)利普希茨性与固有可认证鲁棒性，通过推广至高斯损坏数据分类得到加噪扩散分类器（NDCs），在CIFAR-10上实现了更优的可认证鲁棒性。
2025-02-22 cs.CV cs.LG
The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks
Google Brain（谷歌大脑）；University of California, Berkeley（加州大学伯克利分校）；National University of Singapore（新加坡国立大学）
本文描述了一种测试方法，用于定量评估生成序列模型（一种常见的机器学习模型）无意中记忆罕见或独特的训练数据序列的风险。因为这样的模型有时是在敏感数据上训练的（例如，用户的私人消息的文本），这种方法可以通过允许深度学习从业者选择最小化这种记忆的训练手段来有益于隐私。在实验中，我们表明，无意识的记忆是一个持久的，难以避免的问题，可能会产生严重的后果。具体来说，对于在不考虑记忆的情况下训练的模型，我们描述了新的，有效的程序，可以提取独特的，秘密的序列，如信用卡号码。我们表明，我们的测试策略是一个实用和易于使用的第一道防线，例如，通过描述其在谷歌智能撰写中定量限制数据暴露的应用，这是一个商业文本完成神经网络，经过数百万用户电子邮件的训练。
2019-07-16 cs.AI cs.CR cs.LG
Privacy-preserving Logistic Regression with Secret Sharing
University of Groningen（格罗宁根大学）；UTHealth School of Biomedical Informatics, The University of Texas（得克萨斯大学健康科学中心生物医学信息学院）
逻辑回归（LR）是一种广泛使用的分类方法，用于在许多医疗数据分类任务中对二元结果进行建模。收集和组合来自不同数据托管人和司法管辖区的数据集的研究可以从增加的统计能力中受益，以支持其分析目标。然而，将来自这些不同来源的数据组合在一起会产生需要解决的重大隐私问题。在本文中，我们提出了基于秘密共享的隐私保护逻辑回归协议使用牛顿-拉夫森方法。我们提出的方法是基于安全的多方计算（MPC）与不同的安全设置来分析数据所拥有的几个数据持有人。我们在合成数据和真实数据集上进行了实验，并将它们与普通逻辑回归模型的效率和准确性进行了比较。实验结果表明，该协议是高效和准确的。本研究以隐私保护的方式引入迭代算法来简化逻辑回归模型的联邦训练。我们的实现结果表明，我们的改进方法可以处理用于安全地训练来自多个源的逻辑回归的大型数据集。
2021-05-14 cs.LG
SecretFan: Synthesizing Realistic Data without Breaking Privacy
CISPA Helmholtz Center for Information Security（CISPA赫尔姆霍尔茨信息安全部）；Saarland University（萨尔兰州大学）
提出将合成数据生成视为引导测试生成问题，结合生成对抗网络（GAN）的判别器和模糊测试生成器，在保护隐私的同时生成高可用性合成数据。
2026-06-05 cs.LG
QuanText: Protecting Dataset-Level Secrets in Textual Data Sharing
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
QuanText提出一种免训练、模型无关的文本数据发布机制，通过随机量化扰动全局机密及相关属性分布，在保护数据集级机密的同时保持效用，并优于现有基线。
2026-09-21 cs.CR cs.LG
Subverting Privacy-Preserving GANs: Hiding Secrets in Sanitized Images
NYU Tandon School of Engineering（纽约大学坦登工程学院）
前所未有的数据汇集和共享加剧了对隐私的担忧，并导致人们对隐私保护工具的兴趣日益增加，这些工具可以从图像中删除敏感属性，同时为其他任务保留有用的信息。目前，最先进的方法使用隐私保护生成对抗网络（PP-GAN）来实现这一目的，例如，在不泄露用户身份的情况下实现可靠的面部表情识别。然而，PP-GAN并不提供隐私的正式证明，而是依赖于使用基于深度学习（DL）的鉴别器的敏感属性上的分类准确性来实验性地测量信息泄漏。在这项工作中，我们通过颠覆现有的面部表情识别隐私保护GANs来质疑这种检查的严格性。我们表明，可以将敏感的识别数据隐藏在这种PP-GAN的经过消毒的输出图像中，以便以后提取，这甚至可以允许重建整个输入图像，同时满足隐私检查。我们通过基于PP-GAN的架构展示了我们的方法，并使用两个公共数据集提供定性和定量评估。我们的实验结果提出了关于需要对PP-GAN进行更严格的隐私检查的基本问题，并提供了对这些问题的社会影响的见解。
2020-09-19 cs.AI cs.CR cs.CV
Secure PAC Bayesian Regression via Real Shamir Secret Sharing
Aalborg University（奥尔堡大学）
本文针对多方数据隐私保护下的线性回归问题，提出基于实数 Shamir 秘密共享的安全 PAC 贝叶斯回归协议，并给出安全求逆与安全高斯消元两种求解方法，在保护数据隐私的同时实现模型学习。
2023-04-17 cs.CR cs.LG
Generative Modelling with High-Order Langevin Dynamics
FRDC；Fujitsu（富士通）
本文提出高阶朗之万动力学（HOLD）生成建模方法，通过同时建模位置、速度和加速度，在CIFAR-10和CelebA-HQ上显著提升生成质量与速度，FID达到1.85。
2025-01-02 cs.AI cs.CV cs.LG
Masked Diffusion Models are Secretly Time-Agnostic Masked Models and Exploit Inaccurate Categorical Sampling
Department of Computer Science & Technology, Institute for AI, Tsinghua University（1 计算机科学与技术系，人工智能研究院，清华大学）；NVIDIA（2 英特尔）
本文揭示 MDMs 在训练和采样上时间无关且等价于掩码模型，提出 FHS 采样器实现 20 倍加速，并发现 32 位浮点精度导致的数值问题会降低有效温度与 token 多样性，使以往评估不够公平。
2025-04-30 cs.AI cs.CL cs.LG
Watermarking Generative Categorical Data
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本文提出一种生成式分类数据水印的新型统计框架，通过拆分并修改数据分布在分布层面嵌入秘密信号，并利用插入逆算法与总变差距离进行验证，特别适合现代合成数据生成范式。
2024-11-16 cs.CR cs.LG
Privacy-Preserving Classification with Secret Vector Machines
EPFL（洛桑联邦理工学院）；Cliqz
如今，大量有价值的数据分布在数百万用户持有的设备中，例如个人电脑、电话或物联网设备。许多公司收集这些数据的目的是将其用于训练机器学习模型，使他们能够改进服务。然而，用户持有的数据往往是敏感的，收集这些数据在隐私方面存在问题。我们通过提出一种新的方法来解决这个问题，这种方法类似于最近提出的联邦学习范式，但在更严格的隐私要求下，训练模型的服务器被认为是不可信的，并且可能是恶意的。因此，我们通过设计而不是信任来保护用户隐私。特别是，我们的框架，称为秘密向量机（SecVM），提供了一种算法，用于训练线性支持向量机（SVM）的设置中，数据持有客户端与不可信的服务器通过交换旨在不透露任何个人身份信息的消息进行通信。我们从两个方面来评估我们的模型。首先，在离线评估中，我们训练SecVM从推文中预测用户性别，这表明我们可以在不牺牲分类性能的情况下保护用户隐私。其次，我们为Cliqz Web浏览器实现了SecVM的分布式框架，并将其部署在具有数千个客户端的大规模在线评估中用于预测用户性别，大幅超过基线，从而展示了SecVM适用于生产环境。
2020-08-19 cs.CR cs.LG stat.ML
Copyright-Aware Incentive Scheme for Generative Art Models Using Hierarchical Reinforcement Learning
EPFL（洛桑联邦理工学院）；The Chinese University of Hong Kong（香港中文大学）；Nanyang Technological University（南洋理工大学）；Sony AI（索尼人工智能）
针对扩散模型生成艺术中的版权侵权问题，提出基于版权度量、TRAK贡献估计和分层强化学习预算分配的新方法，在三个数据集上优于八个基准，实现版权感知的贡献者激励与补偿。
2024-11-06 cs.GT cs.LG
DRIFT: Removing Diffusion Watermarks by Deflecting the Generative Trajectory
University of New South Wales（新南威尔士大学）；Griffith University（格里菲斯大学）
DRIFT通过结合部分前向扩散与随机反向重采样偏转生成轨迹，以黑盒方式去除扩散水印，在九种水印上实现98-100%攻击成功率并保持最佳图像质量。
2026-09-09 cs.CR cs.LG
Multiverse: Your Language Models Secretly Decide How to Parallelize and Merge Generation
Carnegie Mellon University（卡内基梅隆大学）；Nvidia（英伟达）
受AR-LLM隐式并行性启发，研究团队提出支持原生并行生成的Multiverse模型，通过数据、算法、系统协同设计实现快速迁移，微调后性能比肩同规模AR-LLM且效率最高提升2倍，全生态已开源。
2025-06-13 cs.LG
Generative Adversarial Privacy
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）
我们提出了一个数据驱动的框架，称为生成对抗隐私（GAP）。受生成对抗网络（GANs）最新进展的启发，GAP允许数据持有者直接从数据中学习私有化机制。在GAP下，找到最佳的隐私机制制定为私有化者和对手之间的约束极大极小博弈。我们表明，适当选择的对抗性损失函数，GAP提供隐私保证，对强大的信息理论的对手。我们还评估了GAP的性能上的GENKI人脸数据库。
2019-06-26 cs.CR cs.GT cs.IT
A Comprehensive Survey of AI-Generated Content (AIGC): A History of Generative AI from GAN to ChatGPT
Lehigh University（理海大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
最近，ChatGPT与DALL-E-2和Codex一起获得了社会的极大关注。因此，许多人对相关资源产生了兴趣，并试图揭开其令人印象深刻的表现背后的背景和秘密。事实上，ChatGPT和其他生成式人工智能（GAI）技术都属于人工智能生成内容（AIGC）的范畴，即通过AI模型创建数字内容，如图像、音乐和自然语言。AIGC的目标是使内容创建过程更加高效和易于访问，从而以更快的速度生产高质量的内容。AIGC是通过从人类提供的指令中提取和理解意图信息，并根据其知识和意图信息生成内容来实现的。近年来，大规模模型在AIGC中变得越来越重要，因为它们提供了更好的意图提取，从而改善了生成结果。随着数据的增长和模型的规模，模型可以学习的分布变得更加全面，更接近现实，从而产生更真实和高质量的内容。本文从单模态交互和多模态交互两个方面综述了生成模型的发展历史、基本组成和最新研究进展。从单峰性的角度，介绍了文本和图像的生成任务和相关模型。从多模态的角度，我们介绍了上述模态之间的交叉应用。最后，我们讨论了AIGC存在的问题和未来的挑战。
2023-03-07 cs.AI cs.CL cs.LG
3D pride without 2D prejudice: Bias-controlled multi-level generative models for structure-based ligand design
Astex Pharmaceuticals（阿斯泰克斯制药公司）
基于结构的分子设计的生成模型为药物发现带来了巨大的希望，有可能加快药物开发周期，同时提高候选药物的质量并降低成本。然而，数据稀疏性和偏差是开发3D感知模型的两个主要障碍。在这里，我们提出了一种基于多级对比学习的第一种训练协议，以提高偏差控制和数据效率。该框架利用了可用于配体-蛋白质复合物数据集的2D生成建模的大型数据资源。其结果是分层生成模型，拓扑上是公正的，可解释的和可定制的。我们展示了如何通过将生成后处理去卷积为化学，拓扑和结构背景因素，我们不仅避免了生成模型设计和评估中的常见陷阱，而且还详细了解了生成过程本身。这种改进的透明度除了允许对新奇性与熟悉性进行细粒度控制之外，还显著地帮助了方法开发。
2022-04-22 cs.LG q-bio.BM stat.ML
Context-Aware Generative Adversarial Privacy
Arizona State University（亚利桑那州立大学）；Stanford University（斯坦福大学）
保护已发布数据集的实用性，同时提供可证明的隐私保证是一个众所周知的挑战。一方面，上下文无关的隐私解决方案，如差分隐私，提供了强有力的隐私保障，但往往导致效用显著降低。另一方面，上下文感知隐私解决方案，如信息理论隐私，实现了改进的隐私-效用权衡，但假设数据持有者可以访问数据集统计数据。我们通过引入一种称为生成对抗隐私（GAP）的新颖的上下文感知隐私框架来规避这些限制。GAP利用生成对抗网络（GANs）的最新进展，允许数据持有者从数据集本身学习私有化方案。在GAP下，学习隐私机制被制定为两个参与者之间的约束极大极小博弈：一个私有化器以限制对个人私有变量的推断攻击风险的方式对数据集进行净化，另一个对手试图从净化的数据集推断私有变量。为了评估GAP的性能，我们研究了两个简单的（但规范的）统计数据集模型：（a）二进制数据模型，和（b）二进制高斯混合模型。对于这两种模型，我们推导出博弈理论上的最优极大极小隐私机制，并表明从数据中学习的隐私机制（以生成对抗的方式）与理论上的最优隐私机制相匹配。这表明我们的框架可以很容易地应用于实践，即使在没有数据集统计的情况下。
2017-12-03 cs.AI cs.CR cs.GT
