Face anonymization preserving facial expressions and photometric realism
Department of Informatics, Systems and Communication, University of Milano-Bicocca（信息学、系统与通信系，米兰-比科卡大学）
本文提出一种保留面部表情和光度真实性的面部匿名化框架，通过引入密集面部地标和轻量级后处理模块，提升匿名化效果，并设计专用评估指标量化表情保真度、光照一致性和颜色保留。
2026-03-18 cs.CV
Color Prompting for Data-Free Continual Unsupervised Domain Adaptive Person Re-Identification
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）；National University of Singapore（新加坡国立大学）；Institute of North Electronic Equipment（北方电子设备研究所）
针对持续无监督域自适应行人重识别的遗忘与隐私问题，提出基于轻量提示网络的颜色提示方法CoP，通过学习颜色分布实现风格迁移，无数据场景下抗遗忘与新域泛化效果优于图像回放方法。
2023-08-21 cs.CV
CamPro: Camera-based Anti-Facial Recognition
Zhejiang University（浙江大学）
本文提出CamPro方法，通过调整摄像头图像信号处理器配置和设计图像增强器，生成不含敏感个人信息但保留非敏感视觉应用所需功能的图像，将面部识别准确率降至0.3%并抵御自适应攻击。
2023-12-30 cs.CR cs.CV
Adversarial Camouflage
University of Luxembourg（卢森堡大学）
本文提出对抗性伪装方法，通过在面部区域投影优化图案，提升隐私保护效果，降低面部识别模型性能，验证了攻击的跨模型转移性。
2026-03-23 cs.AI cs.CV
Inverting Black-Box Face Recognition Systems via Zero-Order Optimization in Eigenface Space
AIRI；Skoltech（斯克尔切技术学院）；MSU（莫斯科大学）；Elea AI
针对仅能获取相似度得分的高难度黑盒人脸识别模型反转场景，提出在PCA特征脸空间内做零阶优化的DarkerBB方法，在多个基准上实现了该设置下最优的验证准确率且查询效率具竞争力，凸显了相关隐私风险。
2025-06-11 cs.AI cs.CV
Surveilling Surveillance: Estimating the Prevalence of Surveillance Cameras with Street View Data
Stanford University（斯坦福大学）
近年来，政府机构和公民个人在公共场所使用视频监控引起了相当大的关注，特别是考虑到人脸识别技术的快速发展。但系统地衡量摄像头的普及程度和位置一直很困难，这阻碍了评估监控对隐私和公共安全影响的努力。在这里，我们结合计算机视觉，人类验证，统计分析，以估计监控摄像机的空间分布。具体来说，我们建立了一个摄像头检测模型，并将其应用于从美国10个大城市和世界其他6个主要城市采样的160万张街景图像，并由人类专家验证了积极的模型检测。在调整了我们模型的估计召回率，并考虑了我们采样图像的空间覆盖范围后，我们能够估计从道路上可见的监控摄像头的密度。在我们考虑的16个城市中，每公里监控摄像头的估计数量从0.2（洛杉矶）到0.9（首尔）不等。在对美国10个城市的详细分析中，我们发现摄像头集中在商业，工业和混合区，以及非白人居民比例较高的社区-即使在调整土地使用后，这种模式仍然存在。这些结果有助于为正在进行的关于使用监控技术的讨论提供信息，包括其对有色人种社区的潜在不同影响。
2021-08-31 cs.CV cs.CY
Homomorphic Encryptions for Privacy Preserving Vision
提出使用全同态加密在加密数据上直接进行CNN推理，通过修改传统CNN层适配加密方案，在MNIST等数据集上实现分类精度几乎无下降，并扩展支持多通道输入、多层卷积和平均池化。
2026-06-25 cs.CR cs.CV
Conservative Plane Releasing for Spatial Privacy Protection in Mixed Reality
University of New South Wales（新南威尔士大学）；University of Sydney（悉尼大学）
增强现实（AR）或混合现实（MR）平台需要空间理解来检测对象或表面，通常包括它们的结构（即空间几何形状）和光度（例如颜色和纹理）属性，以允许应用将虚拟或合成对象看似“锚定”在现实世界对象上;在某些情况下，甚至允许物理对象和虚拟对象之间的交互。这些功能需要AR/MR平台以高分辨率和高频率捕获3D空间信息;然而，这些对用户隐私造成了前所未有的风险。除了被检测到的对象之外，空间信息还以高特异性揭示用户的位置，例如用户在房屋的哪个部分。在这项工作中，我们建议利用空间概括加上保守的释放，以提供空间隐私，同时保持数据效用。我们设计了一个对手，建立在现有的位置和形状识别方法的3D数据作为攻击者，提出的空间隐私的方法可以进行评估。然后，我们模拟用户在空间内的移动，当他们利用从Microsoft HoloLens收集的3D点云移动时，可以显示更多的空间。结果表明，揭示不超过11个广义平面-从连续揭示的空间积累足够大的半径，即$r\leq1.0m$ -可以使对手无法识别用户的空间位置至少一半的时间。此外，如果累积的空间具有较小的半径，即每个连续揭示的空间是$r\leq 0.5m$，则我们可以释放多达29个广义平面，同时享受更好的数据效用和隐私。
2020-04-17 cs.CR cs.CV cs.HC
CSVAR: Enhancing Visual Privacy in Federated Learning via Adaptive Shuffling Against Overfitting
针对联邦学习中过拟合导致的隐私泄露问题，提出CSVAR图像洗牌框架，利用区域方差自适应划分图像块并在空间与颜色通道间洗牌，有效平衡了视觉隐私保护与模型效用。
2025-06-02 cs.CR
Class Attribute Inference Attacks: Inferring Sensitive Class Information by Diffusion-Based Attribute Manipulations
Technical University of Darmstadt（达姆施塔特工业大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；Hessian Center for AI (hessian.AI)（黑森人工智能中心（hessian.AI））；LAION
该研究提出首个基于扩散模型的黑盒类别属性推断攻击CAIA，可准确推断图像分类器未公开的类别敏感属性，且发现对抗鲁棒模型的隐私泄露风险高于标准模型，揭示了鲁棒性与隐私的权衡关系。
2023-06-13 cs.CR cs.CV cs.LG
Privacy-Aware Communication Over a Wiretap Channel with Generative Networks
Imperial College London（帝国理工学院）
我们使用端到端学习研究通过窃听通道的隐私感知通信。Alice想通过二进制对称信道向Bob发送源信号，而被动窃听者Eve则试图根据其偷听到的信号推断Alice的源的某些敏感属性。由于我们通常无法获得真实的分布，我们提出了一种数据驱动的方法，使用变分自编码器（VAE）的联合源信道编码（JSCC）。我们通过模拟与有色MNIST数据集，我们的方法提供了高的重建质量在接收器，同时混淆窃听者的潜在敏感属性，其中包括颜色和厚度的数字。最后，我们考虑了一个并行信道的情况下，我们的方法安排的信息传输，使窃听者携带的敏感信息，而非敏感信息更脆弱的信道具有较高的噪声水平。
2022-02-14 cs.CR cs.IT cs.LG
You Don't Know My Favorite Color: Preventing Dialogue Representations from Revealing Speakers' Private Personas
Hong Kong University of Science and Technology（香港科技大学）；WeBank（微众银行）
社交聊天机器人，也被称为聊天聊天机器人，随着大型预训练语言模型的快速发展。尽管取得了巨大的进步，但最近出现了隐私问题：大语言模型的训练数据可以通过模型反演攻击提取。另一方面，用于训练聊天机器人的数据集包含两个人之间的许多私人对话。在这项工作中，我们进一步研究了通过语言建模训练的聊天机器人的隐藏状态的隐私泄漏，这还没有得到很好的研究。我们表明，说话人的人物角色可以推断，通过一个简单的神经网络与高精度。为此，我们提出了有效的防御目标，以保护隐藏状态的人物泄漏。我们进行了大量的实验，证明我们提出的防御目标可以大大降低攻击的准确性从37.6%到0.5%。同时，所提出的目标保留了语言模型强大的生成能力。
2022-04-26 cs.CL cs.CR cs.LG
Security measurement of a medical communication scheme based on chaos and DNA coding
为了对彩色DICOM图像中的敏感信息进行加密，提出了一种基于混沌和DNA编码的医学隐私保护方案（MPPS），该方案利用两个混沌系统耦合产生密码原语。MPPS的设计者根据一些经验分析和实验结果，声称它可以抵抗选择明文攻击和其他一些经典的攻击模型。但这种说法是没有根据的。在本文中，我们研究了MPPS和DNA编码的基本性质，然后我们提出了一个有效的选择明文攻击，以揭示其等价的秘密密钥。该攻击只需要$\lceil \log_{256}(3\cdot M\cdot N)\rceil+4$对选择的普通图像和相应的密码图像，其中$M \times N$和"3”分别是RGB彩色图像的大小和颜色通道的数量。此外，从现代密码学的角度对其他声称的优势提出了质疑。理论和实验结果都支持所提出的攻击和其他报告的安全故障的效率。密码分析结果将促进DNA编码在多媒体隐私数据保护中的正确应用，特别是在DICOM图像中。
2022-06-20 cs.CR
Don't Peek at My Chart: Privacy-preserving Visualization for Mobile Devices
针对移动设备可视化易被旁人偷看导致隐私泄露的问题，提出一种基于人类视觉感知的掩蔽方案，通过调整空间频率和亮度对比度，使图表近距离可读而远距离不可见，有效保护隐私。
2023-05-21 cs.CR cs.HC
Channel Leakage, Information-Theoretic Limitations of Obfuscation, and Optimal Privacy Mask Design for Streaming Data
New York University（纽约大学）
在本文中，我们首先引入了信道泄漏的概念，作为信道输入和信道输出之间的最小互信息。正如其名称所示，信道泄漏量化了对恶意接收器的最小信息泄漏。从广义上讲，它可以被看作是信道容量的双重概念，它表征了到目标接收机的最大信息传输。我们得到明确的公式的信道泄漏的情况下，白色高斯，有色高斯的情况下，和衰落的情况下。然后，我们利用这一概念调查的基本限制混淆的隐私失真权衡（以及隐私权权衡）的流数据，特别是，我们推导出分析权衡方程的固定的情况下，非固定的情况下，和有限时间的情况下。我们的研究结果还明确指出，如何设计的隐私面具在一个最佳的方式。
2020-09-29 cs.CR cs.IT cs.LG
Encryption of Audio Signals Using the Elzaki Transformation and the Lorenz Chaotic System Lorenz Chaotic System
本研究提出一种结合 Lorenz 混沌理论与 Elzaki 变换的音频信号加密新方法，通过双曲函数 Maclaurin 级数展开和模运算生成密钥，实验证明该方法有效且具备实际应用的安全性。
2024-09-21 cs.CR
Semantic Deep Hiding for Robust Unlearnable Examples
DSO National Laboratories（新加坡国防科技研究院）；NTU-PKU Joint Research Institute（南洋理工大学-北京大学联合研究院）
本文提出深度隐藏（DH）方案，利用可逆神经网络隐藏富含高级特征的语义图像，并通过潜在特征集中和语义图像生成模块增强不可学习样本的鲁棒性，有效防止未经授权的数据探索。
2024-06-25 cs.CR cs.CV
Breaking Data Silos: Towards Open and Scalable Mobility Foundation Models via Generative Continual Learning
Center for Urban Science and Computation（城市科学与计算中心）；Tsinghua University（清华大学）
MoveGCL通过生成持续学习实现开放和可扩展的移动基础模型，解决数据孤岛问题，实现跨机构协作与隐私保护。
2025-12-29 cs.CR cs.LG
Bottlenecks CLUB: Unifying Information-Theoretic Trade-offs Among Complexity, Leakage, and Utility
University of Geneva（日内瓦大学）；Harvard University（哈佛大学）；Imperial College London（帝国理工学院）
瓶颈问题是近年来在机器学习和信息论领域受到越来越多关注的一类重要的优化问题。它们被广泛应用于生成模型、公平机器学习算法、隐私保护机制的设计，并作为信息论性能界出现在各种多用户通信问题中。在这项工作中，我们提出了一个一般的优化问题，称为复杂性泄漏效用瓶颈（CLUB）模型，它（i）提供了一个统一的理论框架，概括了大多数最先进的文献中的信息理论隐私模型，（ii）建立了一个新的解释流行的生成和歧视模型，（iii）构建了新的见解生成压缩模型，以及（iv）可以用于公平生成模型。我们首先制定的CLUB模型作为一个复杂性约束的隐私效用优化问题。然后，我们将其与密切相关的瓶颈问题，即信息瓶颈（IB），隐私漏斗（PF），确定性IB（DIB），条件熵瓶颈（CEB）和条件PF（CPF）联系起来。我们表明，俱乐部模型概括了所有这些问题，以及大多数其他信息理论的隐私模型。然后，我们构建了深变分CLUB（DVCLUB）模型，采用神经网络参数化相关的信息量的变分近似。在这些信息量的基础上，我们提出了监督和无监督DVCLUB模型的统一目标。在无监督设置中利用DVCLUB模型，然后将其与最先进的生成模型连接起来，例如变分自动编码器（VAE），生成对抗网络（GANs）以及Wasserstein GAN（WGAN），Wasserstein自动编码器（WAE）和对抗自动编码器（AAE）模型通过最优传输（OT）问题。然后，我…
2022-07-11 cs.CR cs.IT cs.LG
