Personalized 3D Spatiotemporal Trajectory Privacy Protection with Differential and Distortion Geo-Perturbation
China University of Mining and Technology（中国矿业大学）；Hefei University of Technology（合肥工业大学）；University of Padua（帕多瓦大学）；Peking University（北京大学）；University of Houston（休斯顿大学）；Kyung Hee University（庆熙大学）
针对3D时空轨迹中攻击者利用时空相关性和高度信息导致隐私泄露的问题，提出3DSTPM机制，结合3D地理不可区分性和失真隐私，通过窗口自适应隐私预算分配和PF扰动，平衡隐私保护与服务质量。
2026-06-09 cs.CR
Road Network-Aware Personalized Trajectory Protection with Differential Privacy under Spatiotemporal Correlations
本文提出了一种基于道路网络的个性化轨迹保护机制，结合差分隐私与地理不可区分性，通过动态分配隐私预算和Permute-and-Flip机制，在保护隐私的同时维持服务质量。
2025-11-26 cs.CR
Private Web Browser Forensics: A Case Study of the Epic Privacy Browser
有组织的犯罪，以及个人罪犯，是受益于保护私人浏览器提供给那些谁会进行非法活动，如洗钱，贩毒，在线交换虐待儿童的材料，等提供给用户的保护史诗隐私浏览器说明了这些好处。该浏览器目前在全球约180个国家使用。本文概述了通过Epic隐私浏览器的实时和事后状态分析提供的证据的位置和类型。这项研究确定了浏览器在使用过程中的功能，使用后可以恢复证据的方式，以及恢复材料的工具和有效呈现。
2018-01-04 cs.CR
Privacy-Aware Recommendation with Private-Attribute Protection using Adversarial Learning
推荐是帮助用户找到与其兴趣相关的信息的关键应用之一。然而，恶意攻击者可以通过推荐来推断用户的私人信息。先前的工作在与推荐系统共享之前混淆用户项数据。这种方法在执行数据混淆时没有显式地解决推荐的质量。此外，它不能保护用户免受基于建议的私有属性推理攻击。这项工作是第一次尝试建立一个推荐与属性保护（RAP）模型，同时推荐相关的项目和计数器私有属性推理攻击。我们的方法的关键思想是制定这个问题作为一个对抗性的学习问题，有两个主要组成部分：私人属性推理攻击者，和贝叶斯个性化推荐。攻击者试图根据用户的项目列表和建议来推断用户的私有属性信息。推荐器的目标是提取用户的兴趣，同时利用攻击者来规范推荐过程。实验表明，该模型既保持了推荐服务的质量，又保护了用户免受私有属性推理攻击。
2019-11-22 cs.CR cs.IR cs.SI
Distributed Differentially Private Ranking Aggregation
在协同决策中，排序聚合通常被用来帮助将多个排序组合成单个代表。为了保护每个个体的实际排名，经常使用一些隐私保护策略，例如差分隐私。然而，这并没有考虑到从个人那里收集所有排名的策展人是不值得信赖的情况。本文提出了一种基于分布式差分隐私框架的解决方案。该机制收集个人的局部差异私有排名，然后使用洗牌模型随机排列成对排名，以进一步增强隐私保护。最后的代表是由分层等级聚合。对该机制进行了理论分析，并与现有方法进行了实验比较，结果表明该机制在输出准确性和隐私保护方面都具有竞争力。
2022-02-07 cs.CR
On the Protection of Private Information in Machine Learning Systems: Two Recent Approaches
Google（谷歌）；Pennsylvania State University（宾夕法尼亚州立大学）
最近，机器学习的显着增长导致了对机器学习所依赖的数据隐私的强烈兴趣，以及保护隐私的新技术。然而，关于隐私的旧思想可能仍然有效和有用。本说明回顾了两个最近的著作隐私的智慧，在光的一些早期的文献，特别是由Saltzer和施罗德在20世纪70年代蒸馏的原则。
2017-08-26 cs.CR cs.LG stat.ML
Differentially Private Label Protection in Split Learning
ByteDance（字节跳动）
分裂学习是一种分布式训练框架，它允许多方在垂直分区的数据（按属性分区）上联合训练机器学习模型。其思想是，只有中间计算结果，而不是私有特征和标签，在各方之间共享，以便原始训练数据保持私有。然而，最近的研究表明，分裂学习的明文实现存在严重的隐私风险，半诚实的对手可以很容易地重建标签。在这项工作中，我们提出了\textsf{TPSL}（转录私有分裂学习），一个通用的梯度扰动为基础的分裂学习框架，提供可证明的差分隐私保证。差分隐私不仅对模型权重，而且对分布式计算设置中的通信消息强制执行。我们在大规模真实数据集上的实验证明了\textsf{TPSL}对标签泄漏攻击的鲁棒性和有效性。我们还发现，\textsf{TPSL}有一个更好的实用性，隐私权衡比基线。
2022-03-04 cs.CR cs.DS cs.LG
Generalization Techniques Empirically Outperform Differential Privacy against Membership Inference
不同的私有训练算法提供了对机器学习中最流行的攻击之一的保护：成员推断攻击。然而，这些隐私算法会导致模型分类准确性的损失，因此会产生隐私效用权衡。差分隐私在深度学习中提供强大的理论保护保证所需的噪声量通常会使模型无法使用，但作者观察到，即使是较低的噪声水平也可以提供可接受的经验保护，以抵御现有的成员推断攻击。在这项工作中，我们寻找替代差分隐私对经验保护成员推断攻击。我们研究了简单地遵循良好的机器学习实践（没有考虑隐私设计）对成员推理的保护。我们评估了最先进的技术，如预训练和锐度感知最小化，单独和差分私人训练算法的性能，并发现，当使用早期停止，没有差分隐私的算法可以提供更高的效用和更高的隐私比他们的差分私人同行。这些发现挑战了差分隐私是一种很好的防御现有成员推断攻击的信念
2021-10-11 cs.CR
PrivTrace: Differentially Private Trajectory Synthesis by Adaptive Markov Model
发布轨迹数据（个人的运动信息）非常有用，但它也引起了隐私问题。为了处理隐私问题，在本文中，我们应用差分隐私，数据隐私的标准技术，与马尔可夫链模型，生成合成轨迹。我们注意到，现有的研究都使用马尔可夫链模型，因此提出了一个框架来分析马尔可夫链模型在这个问题中的使用。在此基础上，提出了一种自适应地使用一阶和二阶马尔可夫模型的PrivTrace算法。我们评估PrivTrace和现有的方法在合成和真实世界的数据集，以证明我们的方法的优越性。
2022-10-05 cs.CR
Reexamination of the realtime protection for user privacy in practical quantum private query
本文重新审视了量子私有查询中实时保护用户隐私的两种现有技术，发现其均存在漏洞，并给出了具体作弊策略，指出需更谨慎地处理内部参与者的诚实性检查。
2024-07-27 cs.CR quant-ph
LSTM-TrajGAN: A Deep Learning Approach to Trajectory Privacy Protection
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
基于位置的服务的流行促成了个人层面轨迹数据的爆炸式增长，也引发了公众对隐私问题的担忧。在这项研究中，我们提出了一种新的LSTM-TrajGAN方法，这是一种端到端的深度学习模型，用于生成隐私保护的合成轨迹数据，用于数据共享和发布。我们设计了一个损失度量函数TrajLoss来衡量模型训练和优化的轨迹相似性损失。该模型在真实世界的语义轨迹数据集上的自动用户链接任务上进行评估。与其他常见的地理掩蔽方法相比，我们的模型可以更好地防止用户被重新识别，它也保留了必要的空间，时间和主题的真实轨迹数据的特征。该模型更好地平衡了轨迹隐私保护的有效性和空间和时间分析的效用，为GeoAI驱动的隐私保护提供了新的见解。
2020-06-14 cs.AI cs.CR cs.LG
Differentially Private Spatiotemporal Trajectory Synthesis with Retained Data Utility
提出DP-STTS差分隐私时空轨迹合成器，通过起始时空立方体分布与1阶Markov过程模型，在差分隐私下平衡隐私保护与数据效用，实验证明其具有良好数据效用。
2024-08-23 cs.CR
Graph Analysis in Decentralized Online Social Networks with Fine-Grained Privacy Protection
图分析师不能直接获得分散的社交网络中的全局结构，并且分析这样的网络需要从个体用户收集社交图的局部视图。由于用户之间的边缘可能会在局部视图中揭示敏感的社交交互，因此通常期望在数据汇集过程中应用差分隐私，这提供了强大且严格的隐私保证。在实际的去中心化社交图中，由于不同的敏感度水平，不同的边具有不同的隐私要求。然而，现有的社交图谱的差异私有分析为所有边缘提供了相同的保护。为了解决这个问题，这项工作提出了细粒度的隐私概念以及用于私有图分析的新颖算法。首先，我们设计了一个细粒度的关系差分隐私（FGR-DP）的概念，社会图分析，强制执行不同的隐私要求的边缘不同的保护。然后，我们设计算法的三角形计数和k-星级计数，分别，可以准确地估计子图计数给定细粒度的保护社会边缘。我们还分析了估计误差的上限，包括k星和三角形计数，并显示其优越的性能相比，国家的最先进的。最后，我们在两个真实的社交图数据集上进行了大量的实验，并证明了所提出的机制满足FGR-DP具有更好的实用性比国家的最先进的机制，由于更细粒度的保护。
2022-12-10 cs.CR
Protecting Personalized Trajectory with Differential Privacy under Temporal Correlations
本文针对车载自组织网络中轨迹隐私泄露问题，提出个性化轨迹隐私保护机制 PTPPM，利用时间相关性确定保护位置集合并结合 Permute-and-Flip 扰动机制，在满足服务质量的同时提升隐私保护效果。
2024-01-20 cs.CR
PCT-TEE: Trajectory-based Private Contact Tracing System with Trusted Execution Environment
现有的基于蓝牙的私人接触追踪（PCT）系统可以私下检测人们是否与COVID-19患者有过直接接触。然而，我们发现现有的系统缺乏功能和灵活性，这可能会影响接触追踪的成功。具体地说，它们不能检测间接接触（例如，即使没有直接接触，人们也可能因为使用同一部电梯而接触到冠状病毒）;他们也不能灵活改变“风险接触”的规则，例如接触多少小时或与COVID-19患者的距离有多近被视为风险接触，这可能会随着环境情况而改变。在本文中，我们提出了一个有效和安全的接触跟踪系统，使直接接触和间接接触。为了解决上述问题，我们需要利用用户的轨迹数据进行私人接触追踪，我们称之为基于自动化的PCT。我们将此问题形式化为时空私有集相交问题。通过分析不同的方法，如同态加密，可以扩展到解决这个问题，我们确定可信执行环境（TEE）是一个建议的方法来实现我们的要求。主要的挑战是如何在有限的TEE安全内存下设计时空私有集求交算法。为此，我们设计了一个基于TEE的系统，具有灵活的轨迹数据编码算法。我们对真实数据的实验表明，该系统可以在几秒钟内处理数千万条轨迹数据记录上的数千次查询。
2021-12-31 cs.CR cs.CY
DPTraj-PM: Differentially Private Trajectory Synthesis Using Prefix Tree and Markov Process
本文提出DPTraj-PM方法，在差分隐私框架下结合前缀树和m阶马尔可夫过程合成轨迹数据集，在保护隐私的同时显著提升了数据效用。
2024-04-22 cs.CR
Bounding Training Data Reconstruction in Private (Deep) Learning
Meta AI；Meta
差分隐私被广泛接受为防止ML中数据泄露的事实上的方法，传统观点认为它提供了强大的隐私攻击保护。然而，现有的DP语义保证集中在成员推理，这可能会高估对手的能力，并不适用于成员身份本身是不敏感的。在本文中，我们推导出第一个语义保证DP机制对训练数据重建攻击下的正式威胁模型。我们发现，两种不同的隐私会计方法-仁义差分隐私和费舍尔信息泄漏-都提供了强大的语义保护，以防止数据重建攻击。
2022-06-23 cs.CR cs.LG
An Economic Analysis of Privacy Protection and Statistical Accuracy as Social Choices
统计机构面临着发布准确统计数据和保护答卷人隐私的双重任务。增加隐私保护需要降低准确性。认识到这是一个资源分配问题，我们提出了一个经济的解决方案：在增加隐私的边际成本等于边际收益的地方运营。我们的生产模型来自计算机科学，假设数据是使用有效的差分私有算法发布的。最优选择权衡了对准确统计数据的需求和对隐私的需求。美国的例子统计程序显示了我们的框架如何指导决策。进一步的进展需要更好地理解为隐私和统计准确性付费的意愿。
2018-08-20 cs.CR
LLM-based Privacy Data Augmentation Guided by Knowledge Distillation with a Distribution Tutor for Medical Text Classification
College of Science, National University of Defense Technology, Hunan, China（国防科技大学科学学院，湖南，中国）；College of Computer, National University of Defense Technology, Hunan, China（国防科技大学计算机学院，湖南，中国）；The CoAI Group, DCST, BNRist, Tsinghua University, Beijing（清华大学北京人工智能研究院，北京）
本文提出一种结合LLM和知识蒸馏的隐私数据增强方法，通过分布导师控制生成分布，提升医学文本分类的隐私保护与性能。
2024-02-26 cs.CL cs.CR
CLIOPATRA: Extracting Private Information from LLM Insights
University College London（伦敦大学学院）；University of California, Riverside（加州大学河滨分校）；Google Research（谷歌研究）
提出CLIOPATRA攻击，通过注入恶意聊天突破多层启发式隐私保护，从LLM洞察系统中提取目标用户敏感信息，在合成医疗聊天中高达65%成功率且几乎100%精确。
2026-10-13 cs.CR
Differential Privacy for Markov Chain State Trajectories
Georgia Institute of Technology（佐治亚理工学院）
该研究针对马尔可夫链状态轨迹的隐私泄露问题，提出一种在线差分隐私框架，通过最小化最短路径总边权重生成私有轨迹，实验显示其在3-差分隐私下熵降最多80%，能兼顾隐私与数据实用性。
2026-08-11 cs.CR
Conflicting Interactions Among Protection Mechanisms for Machine Learning Models
Aalto University（阿尔托大学）；University of Waterloo（滑铁卢大学）
目前，基于机器学习（ML）的系统在不同的领域得到了广泛的应用。鉴于其受欢迎程度，ML模型已成为各种攻击的目标。因此，安全/隐私和ML交叉领域的研究蓬勃发展。通常，此类工作侧重于个别类型的安全/隐私问题及其缓解措施。然而，在实际部署中，ML模型需要同时受到多个问题的保护。一种安全或隐私问题的最佳保护机制可能会与旨在解决其他问题的机制产生负面影响。尽管具有实际意义，但尚未充分研究发生此类冲突的可能性。我们首先提供了一个框架来分析这种“冲突的相互作用”。然后，我们专注于系统地分析一个问题的保护机制之间的成对交互，模型和数据所有权验证，以及另外两类ML保护机制：差异私有训练和对模型规避的鲁棒性。我们发现，几个成对的相互作用导致冲突。我们探讨了避免此类冲突的潜在方法。首先，我们研究了超参数松弛的影响，发现没有平衡两种保护机制性能的最佳点。其次，我们探讨修改一种类型的保护机制（所有权验证），以便将其与可能受冲突机制（差异化私有训练或模型规避的鲁棒性）影响的因素解耦，是否可以避免冲突。我们表明，这种方法可以避免所有权验证机制之间的冲突时，结合不同的私人训练，但没有影响模型规避的鲁棒性。最后，我们确定了研究其他类型的ML保护机制之间的相互作用的景观的差距。
2022-11-21 cs.CR cs.LG
Generative Models with Information-Theoretic Protection Against Membership Inference Attacks
J.P. Morgan AI Research（摩根大通人工智能研究院）；Index Exchange（Index Exchange（索引交易所））
深度生成模型，如生成对抗网络（GANs），通过估计高维数据的底层分布来合成各种高保真数据样本。尽管GANs取得了成功，但它们可能会从训练数据中泄露私人信息，从而容易受到对抗攻击，例如成员推断攻击，其中对手的目标是确定记录是否是训练集的一部分。我们提出了一个信息理论动机的正则化项，防止生成模型过拟合训练数据，并鼓励推广。我们表明，这种惩罚最大限度地减少了具有不同成员资格的数据上训练的生成器组件之间的JensenShannon分歧，并且可以使用额外的分类器以低成本实现。我们在图像数据集上的实验表明，通过提出的正则化（仅增加很小的计算成本），GANs能够保护隐私并生成高质量的样本，从而实现比非私有和差异私有更好的下游分类性能生成模型。
2022-05-31 cs.CR cs.LG
All Rivers Run to the Sea: Private Learning with Asymmetric Flows
University of Southern California（南加州大学）；Samsung（三星）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出 Delta 框架，通过将信息敏感的低维主数据流放入私有小模型、将高维残差数据流经量化和差分隐私处理后交由云 GPU 大模型处理，在保证差分隐私的同时实现高性能训练与推理。
2024-03-30 cs.CR cs.LG
Hide and Seek (HaS): A Lightweight Framework for Prompt Privacy Protection
Tencent（腾讯）；Xuanwu Lab, Tencent（腾讯玄武实验室）
本文提出HaS轻量级框架，通过训练小模型去匿名化LLM返回结果，在最小计算开销下实现提示词隐私保护，并在翻译和分类任务中达到隐私与效用的最佳平衡。
2023-09-06 cs.AI cs.CR
On Using Secure Aggregation in Differentially Private Federated Learning with Multiple Local Steps
University of Helsinki（赫尔辛基大学）；Telefónica Research（西班牙电信研究机构）
本文提出一种新分析方法，使联邦学习在多个本地步骤中仍能利用安全聚合，从而在有限通信轮数下实现更高实用性的模型并保证隐私保护。
2025-03-24 cs.CR cs.LG
Statistical Properties of Sanitized Results from Differentially Private Laplace Mechanism with Univariate Bounding Constraints
在发布和共享数据和信息时，保护个人隐私是一个共同关注的问题。差分隐私（DP）形式化隐私的概率条款，而不做假设的背景知识的数据入侵者，从而提供了一个强大的隐私保护的概念。DP的实际应用涉及开发差异隐私机制，以在预先指定的隐私预算中生成经过消毒的结果。对于具有诸如比例和相关系数之类的公共已知边界的统计数据的净化，边界约束将需要被并入差分私有机制中。有很少的工作检查的后果的边界约束的准确性的消毒结果和统计推断的人口参数的基础上消毒的结果。在本文中，我们形式化的差分私人截断和边界膨胀截断（BIT）的程序发布统计与公开已知的边界约束。截断和BIT拉普拉斯程序的统计精度和有效性的消毒统计的影响进行了评估，通过模拟研究的理论和经验。
2019-05-26 cs.CR stat.ME
Differential Privacy for Protecting Private Patterns in Data Streams
针对复杂事件处理中数据流隐私保护质量低的问题，提出模式级差分隐私保证及两种仅处理相关数据的机制，实验表明在同等隐私强度下数据质量更优。
2023-05-11 cs.CR cs.DB
PSI (Ψ): a Private data Sharing Interface
我们提供了PSI（“私人数据共享接口”）的概述，该系统是我们正在开发的，旨在使社会科学和其他领域的研究人员能够共享和探索具有差分隐私的强大隐私保护的隐私敏感数据集。
2018-08-04 cs.CR cs.CY stat.ME
PrivGraph: Differentially Private Graph Data Publication by Exploiting Community Information
针对图数据发布中的隐私风险，提出利用社区信息的差分隐私图合成算法PrivGraph，通过社区划分与信息提取重建图，在六个真实数据集和七个指标上验证有效性。
2023-10-13 cs.CR
SPIKE: Secure and Private Investigation of the Kidney Exchange problem
背景：肾脏交换问题（KEP）解决了需要替代器官的患者与相容的活体供体的匹配问题。理想情况下，许多医疗机构应该参与匹配计划，以增加成功匹配的机会。然而，为了满足法律要求，当前系统使用复杂的基于策略的数据保护机制，其有效地排除了较小的医疗设施的参与。采用安全多方计算（MPC）技术提供了一种技术方法来满足对高度敏感的个人健康信息的数据保护要求，同时减少监管负担。结果如下：我们已经设计，实现，并基准SPIKE，一个安全的基于MPC的隐私保护KEP计算的解决方案，找到匹配的捐助者-接受者对图结构。SPIKE在不到4分钟的时间内匹配了40对长度为2的循环，在运行时的性能比以前的最先进协议高出400倍，同时提供了医学上更强大的解决方案。结论：我们展示了如何解决KEP在一个强大的和隐私保护的方式实现实际的性能。MPC技术的使用在技术层面上满足了许多数据保护要求，允许较小的医疗保健提供者直接参与肾脏交换，减少了法律程序。
2022-04-21 cs.CR q-bio.QM
Local Differentially Private Heavy Hitter Detection in Data Streams with Bounded Memory
提出HG-LDP框架，通过设计新颖的本地差分隐私随机化方法，在有界内存下实现准确的Top-$k$项检测，在内存效率、隐私保护和检测准确性间取得优越权衡。
2023-11-27 cs.CR
FedCIP: Federated Client Intellectual Property Protection with Traitor Tracking
针对联邦学习中服务器隐私推理与恶意客户端持续模型窃取问题，本文提出兼容安全聚合且可追踪叛徒的 FedCIP 客户端知识产权保护方案。
2023-06-02 cs.CR
Segmented Private Data Aggregation in the Multi-message Shuffle Model
本文首次在多消息混洗差分隐私模型中研究分段私有数据聚合，通过为用户提供灵活隐私保护并匿名化隐私级别选择，优化毯式消息配置和隐私放大分析，使估计误差降低约50%。
2024-12-29 cs.CR
CPR: Retrieval Augmented Generation for Copyright Protection
AWS AI Labs（亚马逊人工智能实验室）
本文提出CPR方法，通过在推理时混合公共与私有分布的扩散分数，在检索增强图像生成中实现强版权保护，并证明其满足近访问自由性，在提升生成质量的同时支持信用归属和高效遗忘。
2024-03-27 cs.AI cs.CR cs.CV
Secret-Protected Evolution for Differentially Private Synthetic Text Generation
TikTok；Department of Statistics, Rutgers University（统计学系，罗格斯大学）
提出Secret-Protected Evolution（SecPE）框架，通过秘密感知保护扩展私有演化，在满足松弛Gaussian DP的同时实现更紧密的实用性-隐私权衡并降低计算复杂度，在多个基准上优于基线方法。
2025-10-13 cs.CL cs.CR cs.NE
GCON: Differentially Private Graph Convolutional Network via Objective Perturbation
针对图卷积网络在差分隐私下训练导致消息聚合失真和效用降低的问题，提出GCON，通过目标函数扰动保持图卷积过程不变，提供紧致敏感度界限，在边差分隐私下实现更优模型效用。
2025-01-30 cs.CR
Malware Resistant Data Protection in Hyper-connected Networks: A survey
该综述针对现有研究未同时涵盖恶意软件攻击模式与防御策略的空白，整合了现代复杂恶意软件的攻击模式分类与基于机器学习的检测方法，梳理了分析技术并指出未来研究方向。
2023-07-24 cs.CR
Locally Private Estimation with Public Features
School of Statistics, Renmin University of China（中国人民大学统计学院）；Center for Applied Statistics, School of Statistics, Renmin University of China（中国人民大学统计学院应用统计中心）
该研究开启含公共特征的局部差分隐私学习研究，定义半特征LDP场景，提出HistOfTree估计器，理论达极小极大最优收敛率，实证在合成与真实数据上表现更优，显著降低非参数回归的极小极大收敛率。
2025-02-11 cs.CR cs.LG stat.ML
Bistochastically private release of longitudinal data
本文针对纵向数据隐私问题，提出基于双重随机扩展的随机响应方法，实现数据集与个体轨迹保护的灵活调节，方法简单且实用。
2025-08-14 cs.CR stat.ME
LDPTrace: Locally Differentially Private Trajectory Synthesis
LDPTrace提出一种本地差分隐私轨迹合成框架，通过利用用户轨迹的三个关键模式并以低计算成本生成高相似度轨迹，同时提出隐私安全的网格粒度选择方法，实验验证其有效性与高效性。
2023-10-13 cs.CR cs.DB
Label Leakage and Protection in Two-party Split Learning
Carnegie Mellon University（卡内基梅隆大学）；ByteDance Inc.（字节跳动公司）
两方分裂学习是一种流行的技术，用于跨特征分区数据学习模型。在这项工作中，我们探讨了一方是否有可能在分割训练期间从另一方窃取私有标签信息，以及是否有方法可以防止这种攻击。具体来说，我们首先制定了一个现实的威胁模型，并提出了一个隐私损失度量来量化分裂学习中的标签泄漏。然后，我们证明了在威胁模型中存在两种简单而有效的方法，可以让一方准确地恢复另一方拥有的私有地面实况标签。为了对抗这些攻击，我们提出了几种随机扰动技术，包括$\texttt{Marvell}$，这种方法通过最小化最坏情况下对手的标签泄漏量（通过我们的量化度量测量）来战略性地找到噪声扰动的结构。我们经验证明我们的保护技术对识别的攻击的有效性，并表明，特别是$\texttt{Marvell}$已改善隐私效用权衡相对于基线方法。
2022-05-24 cs.CR cs.LG
Malicious web script-based cyber attack protection technology
最近基于Web的网络攻击正在演变成一种新的攻击形式，例如利用网页内的JavaScript的私人信息窃取和DDoS攻击。这些攻击可以通过访问网站进行，而不会分发恶意代码和感染。基于脚本的网络攻击很难被传统的安全设备（如防火墙和IPS）检测到，因为它们会在正常Web请求的响应消息中注入恶意脚本。此外，它们很难追踪，因为DDoS等攻击可以通过访问网页进行。由于这些原因，预计它们可能导致直接损害和巨大的连锁反应。为了应对这些问题，在这篇文章中，提出了一个建议的技术，用于检测恶意脚本，通过实时的Web内容分析，并自动生成检测签名的恶意JavaScript。
2015-02-13 cs.CR
A Differentially Private Algorithm for Range Queries on Trajectories
我们提出了一种新的算法，以确保$ε$ -差分隐私回答范围查询的轨迹数据。为了保证隐私，差分隐私机制在数据或查询中加入噪声，从而在查询中引入错误，并潜在地降低信息的效用。与最先进的方法相比，我们的方法实现了显着降低的错误，因为它是第一个数据和查询感知的方法，这样的查询。私下回答关于轨迹数据的范围查询的关键挑战是确保准确的计数。简单地将轨迹表示为点的集合而不是点的\emph{sequence}通常将导致高度不准确的查询答案，因为它忽略了轨迹中的位置点的顺序依赖性，即，会破坏弹道数据的一致性此外，轨迹通常不均匀地分布在整个城市中，并且均匀地添加噪声通常会导致较差的效用。为了实现差分隐私，我们的算法自适应地添加噪声的输入数据，根据给定的查询集。它首先将数据空间私有地划分成均匀的区域，并计算每个区域的流量密度。区域和它们的密度，除了给定的查询集，然后被用来估计在查询空间的轨迹的分布，这确保了给定的查询集的高精度。我们展示了我们的算法的准确性和效率，使用广泛的经验评估真实和合成数据集。
2019-07-18 cs.CR cs.DB
Disclosure Risk from Homogeneity Attack in Differentially Private Frequency Distribution
差分隐私（DP）提供了一个鲁棒的模型来实现对发布信息的隐私保证。我们通过DP随机化机制研究了净化的多维频率分布对同质性攻击（HA）的保护效力。HA允许攻击者获得其目标的敏感属性的精确值，而不必从发布的数据中识别它们。我们提出了HA的披露风险的措施，并得出DP的隐私损失参数和HA的披露风险之间的封闭形式的关系。的封闭形式的关系的可用性有助于理解DP和隐私损失参数的抽象概念，把它们放在一个具体的隐私攻击的背景下，并提供了一个角度选择隐私损失参数时，采用DP机制在信息消毒和释放在实践中。我们应用封闭形式的数学关系在现实生活中的数据集，以证明披露风险的评估，由于HA在不同的私人消毒频率分布在各种隐私损失参数。
2023-03-11 cs.CR
Guidelines for Implementing and Auditing Differentially Private Systems
差分隐私是一种信息理论对算法和代码的约束。它提供了隐私泄露的量化和正式的隐私保证，目前被认为是隐私保护的黄金标准。在本文中，我们提供了一个初始的“最佳实践”开发差异隐私平台，单元测试的技术，具体到差分隐私，准则检查差分隐私是否被正确地应用在应用程序中，参数设置和建议。本文的起源是Facebook和Social Science One的一项倡议，旨在为社会科学研究人员提供对URL共享数据集的编程访问。为了在保护隐私的同时最大限度地利用数据进行研究，研究人员应该通过支持差分隐私的交互式平台访问数据。本文的目的是提供一般可以在各种系统中重复使用的指导方针和建议。出于这个原因，除了详细信息和理论出现在学术论文中的系统外，不会命名特定的平台。
2020-05-12 cs.CR
PSA: Private Set Alignment for Secure and Collaborative Analytics on Large-Scale Data
本研究针对跨企业数据协作中的客户记录对齐隐私问题，提出两级隐私保护的PSA协议，基于改进的不经意交换网络实现百万级数据集秒级对齐，性能较同态方案提升百倍，并补充了相关算法的新证明。
2024-10-07 cs.CR
Balancing the privacy-utility trade-off: How to draw reliable conclusions from private data
Federal Statistical Office（联邦统计局）
本文提出基于假设检验的新视角，量化相对披露风险，分析DP对统计显著性检验的影响，为非技术利益相关者提供隐私效用权衡的实用指导。
2026-08-31 cs.CR stat.ME
Data Poisoning against Differentially-Private Learners: Attacks and Defenses
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
数据投毒攻击旨在通过反向修改训练集来操纵由学习算法产生的模型。我们认为差分隐私作为对这种类型的攻击的防御措施。我们表明，这样的学习者是抵抗数据投毒攻击时，对手只能中毒少量的项目。然而，这种保护会随着对手毒害更多数据而降低。为了说明这一点，我们设计了针对目标和输出扰动学习器的攻击算法，这是差分私有机器学习的两种标准方法。实验表明，我们的方法是有效的，当攻击者被允许中毒足够多的训练项目。
2019-07-05 cs.CR cs.LG
Shuffled Differentially Private Federated Learning for Time Series Data Analytics
Beijing Institute of Technology（北京理工大学）
针对时间序列数据联邦学习中的隐私保护与时间依赖性学习干扰问题，提出结合本地差分隐私与混洗技术的隐私放大算法，在五种数据集上验证其准确率损失极小且优于集中式差分隐私方法。
2023-07-30 cs.AI cs.CR cs.LG
Over-the-Air Federated Learning with Enhanced Privacy
联邦学习（FL）已经成为一种很有前途的学习范式，其中只有局部模型参数（梯度）是共享的。私人用户数据永远不会离开本地设备，从而保护数据隐私。然而，最近的研究表明，即使用户从不共享本地数据，在没有保护的情况下交换模型参数也会泄露私人信息。此外，在无线系统中，模型参数的频繁传输会造成巨大的带宽消耗和网络拥塞时，模型是大的。为了解决这个问题，我们提出了一个新的FL框架，有效的空中参数聚合和强大的隐私保护的用户数据和模型。我们通过在终端设备上引入成对可消除的随机人工噪声（PCR-AN）来实现这一点。与现有的基于空中计算（AirComp）的FL方案相比，我们的设计提供了更强的隐私保护。我们分析了所提出的无线FL聚合算法的保密能力和收敛速度。
2022-12-22 cs.CR eess.SP
SoK: Can Trajectory Generation Combine Privacy and Utility?
University of New South Wales（新南威尔士大学）；CSIRO’s Data61（联邦科学与工业研究组织数据61）；Cyber Security CRC（网络安全合作研究中心）
本文提出一个包含五个设计目标的隐私保护轨迹发布框架，系统评估了现有方法与六种序列生成模型，发现现有方案均无法兼顾严格隐私与效用，指出提供语义保证的生成式轨迹模型仍是未解难题。
2024-06-27 cs.CR cs.LG
Differentially Private Regression for Discrete-Time Survival Analysis
Nanyang Technological University（南洋理工大学）
在生存分析中，回归模型用于了解解释变量的影响（例如，年龄、性别、体重等）到生存概率。然而，对于医疗数据等敏感的生存数据，当使用医疗数据来拟合回归模型时，人们对数据集中个人的隐私存在严重担忧。最接近的工作，解决这种隐私问题的工作是Cox回归的线性项目的原始数据到一个较低的维度空间。然而，这种方法的缺点是，这种投影没有正式的隐私保证。在这项工作中，我们的目标是提出解决方案的回归问题的生存分析与保护的差分隐私，这是一个黄金标准的隐私保护在数据隐私研究。为此，我们扩展了输出扰动和目标扰动的方法，最初提出的保护差分隐私的经验风险最小化（ERM）问题。此外，我们还提出了一种新的抽样方法的基础上的马尔可夫链蒙特卡罗（MCMC）方法，以实际保证差分隐私更好的准确性。我们表明，我们提出的方法实现了良好的准确性相比，非私人的结果，同时保证差分隐私的私人数据集中的个人。
2017-08-25 cs.CR cs.DB cs.LG
Differentially Private Federated Learning: A Systematic Review
Stevens Institute of Technology（史蒂文斯理工学院）；University of Connecticut（康涅狄格大学）；Tongji University（同济大学）；Northeastern University（东北大学）；The Hong Kong Polytechnic University（香港理工大学）；East China Normal University（华东师范大学）；Institute of Science Tokyo（东京科学研究所）
该研究针对现有差分隐私联邦学习系统综述的不足，提出基于隐私模型定义、保障特性与联邦场景的新分类体系，梳理相关应用，为隐私保护联邦学习提供研究参考与未来方向。
2025-10-02 cs.CR cs.LG
