FedCAPrivacy: Privacy-Preserving Heterogeneous Federated Learning with Anonymous Adaptive Clustering
针对联邦学习中的异构性和隐私风险,提出匿名自适应聚类方法,通过不经意洗牌匿名化保护身份,结合迭代自适应频率衰减策略,构建FedCAPrivacy,实现约7倍性能提升并保持高隐私。
2025-03-30 cs.CR
Mitigating the Privacy Issues in Retrieval-Augmented Generation (RAG) via Pure Synthetic Data
针对检索增强生成(RAG)检索私有数据时的隐私泄露风险,提出两阶段合成数据生成范式SAGE,在保证检索性能的同时大幅降低隐私风险,为RAG安全应用提供新思路。
2025-02-19 cs.CR
Privacy-Preserving Socialized Recommendation based on Multi-View Clustering in a Cloud Environment
针对推荐服务中用户偏好易泄露敏感信息的问题,提出一种引入在线社交网络信息的隐私保护社交化推荐协议,可计算用户相似度且防隐私泄露,经分析验证性能优异、具备实际可行性。
2025-05-21 cs.CR
Distributed Clustering in the Anonymized Space with Local Differential Privacy
对收集的数据进行聚类和分析可以改善大数据、物联网应用中的用户体验和服务质量。然而,直接发布原始数据带来了潜在的隐私问题,这为隐私保护聚类带来了挑战和机遇。本文在局部差分隐私框架下研究了分布式环境下的非交互式聚类问题。我们首先扩展了位向量,一种新的匿名化机制是功能性和隐私保护。基于改进的编码机制,我们提出了kCluster算法,可用于聚类的匿名空间。我们表明,修改后的编码机制可以很容易地实现在现有的聚类算法,只依赖于距离信息,如DBSCAN。理论分析和实验结果验证了所提方案的有效性。
2019-06-27 cs.CR cs.DB
PRAG: End-to-End Privacy-Preserving Retrieval-Augmented Generation
Shandong University(山东大学);Tsinghua University(清华大学);Inspur Yunzhou Industrial Internet Co., Ltd.(浪潮云洲工业互联网有限公司)
PRAG提出一种端到端隐私保护的检索增强生成系统,通过双模式架构在不牺牲云托管RAG可扩展性的情况下实现文档和查询的端到端保密性,实验显示其在大规模数据集上具有竞争力的召回率和抗攻击能力。
2026-04-30 cs.CR
Fully Oblivious Differential Privacy for Frequency Estimation in the Augmented Shuffle Model with Trusted Processors
ISM/ROIS/AIST/RIKEN AIP(综合研究大学院大学/日本国立自然科学研究所/产业技术综合研究所/理化学研究所人工智能研究中心);UEC(电气通信大学);AIST(产业技术综合研究所)
针对混洗模型中混洗器与数据收集者共谋的信任问题,引入可信执行环境(TEE)并定义全遗忘差分隐私(FODP),提出基于内存大小混淆的通用框架及三种具体算法,利用计数最小草图优化效率,在Intel SGX上验证有效性。
2026-08-28 cs.CR
Utility-efficient Differentially Private K-means Clustering based on Cluster Merging
差分隐私广泛应用于数据分析中。具有差分隐私的最先进的$k$均值聚类算法通常为每次迭代计算向质心添加等量的噪声。在本文中,我们提出了一种新的差分私有$k$均值聚类算法,DP-KCCM,显着提高了聚类的效用,通过添加自适应噪声和合并集群。该算法首先生成$n \times k$初始质心,然后在每次迭代中加入自适应噪声,得到$n \times k$簇,最后将这些簇合并为$k$簇,从而得到具有差分隐私的$k$簇.我们从理论上证明了该算法的差分隐私。令人惊讶的是,大量的实验结果表明:1)具有等量噪声的聚类合并在一定程度上提高了效用; 2)尽管仅添加自适应噪声并不能提高效用,但将聚类合并和自适应噪声相结合进一步显著提高了效用。
2020-10-03 cs.CR
Fine-Grained Privacy Extraction from Retrieval-Augmented Generation Systems via Knowledge Asymmetry Exploitation
Xidian University(西安电子科技大学);Macquarie University(麦考瑞大学)
本文提出一种利用知识不对称性从RAG系统中细粒度提取隐私信息的攻击框架,通过自适应提示和神经网络训练实现高隐私提取率。
2025-11-22 cs.CR
Developing Non-Stochastic Privacy-Preserving Policies Using Agglomerative Clustering
我们考虑一个非随机的隐私保护问题,其中对手的目的是推断敏感信息$S$从公开访问的数据$X$,而不使用统计。我们考虑生成和释放$X$的量化$\hat{X}$的问题,以最小化$S$到$\hat{X}$的隐私泄露,同时保持一定的实用性水平(或者,相反地,量化损失)。变量$S$和$S$被视为有界和非概率的,但在其他方面是通用的。我们考虑两个现有的非随机隐私措施,即最大的不确定性减少$L_0(S \rightarrow \hat{X})$和细化信息$I_*(S; \hat{X})$(也称为最大信息)的$S$。对于每个隐私措施,我们提出了一个相应的凝聚聚类算法,收敛到一个局部最优的量化解决方案$\hat{X}$迭代合并元素的字母表中的$X$。为了实例化这个问题的解决方案,我们考虑两个具体的实用措施,最坏情况下的分辨率$X$通过观察$\hat{X}$和最大失真的发布数据$\hat{X}$。我们表明,最大最小信息$I_*(S; \hat{X})$的值可以通过将混淆图划分为连通子图来确定。因此,可以通过合并连接子图的节点来减少$I_*(S; \hat{X})$。与概率信息论隐私的关系也进行了研究,注意到G{á}cs-K{<$}rner公共信息是$I_*$的随机版本,并表明统计不可测性的可达性。
2020-07-12 cs.CR
Privacy-Preserving Optimal Parameter Selection for Collaborative Clustering
Case Western Reserve University(凯斯西储大学)
本文研究协同聚类中隐私保护下的最优参数选择,利用差分隐私随机响应机制在保证聚类质量的同时降低成员推断攻击风险。
2024-06-08 cs.CR cs.LG
Beyond Text: Unveiling Privacy Vulnerabilities in Multi-modal Retrieval-Augmented Generation
Michigan State University(密歇根州立大学);Jilin University(吉林大学)
该研究首次系统分析多模态检索增强生成(MRAG)在视觉-语言、语音-语言模态下的隐私漏洞,提出黑盒场景下的组合式结构化提示攻击方法,证实攻击者可通过操纵查询提取隐私信息,凸显研发隐私保护MRAG技术的紧迫性。
2025-05-20 cs.CL cs.CR
Contrastive Explainable Clustering with Differential Privacy
University of Virginia(弗吉尼亚大学);Biocomplexity Institute and Initiative(生物复杂性研究所);Bar-Ilan University(巴伊兰大学)
本文提出将对比解释与差分隐私结合用于k-median和k-means聚类,证明差分隐私解释能达到与非隐私解释基本相同的效用界限,在保护隐私的同时提供个性化且不显著损害聚类效用的解释。
2025-06-01 cs.CR cs.LG
Noise-Augmented Privacy-Preserving Empirical Risk Minimization with Dual-purpose Regularizer and Privacy Budget Retrieval and Recycling
University of Notre Dame(圣母大学)
我们提出了噪声增强的隐私保护经验风险最小化(NAPP-ERM),解决了不同的隐私保证的ERM。现有的隐私保护ERM方法可能会受到过度正则化的影响,使用l2项来实现目标正则化之上的强凸性。NAPP-ERM改进了当前的方法,并通过适当设计的增强数据迭代地实现目标正则化,并通过单个自适应加权的两用l2正则化器提供强凸性,从而减轻过度正则化。当目标正则化用于变量选择时,我们提出了一种新的正则化器,同时实现隐私和稀疏性保证。最后,我们提出了一种策略,以检索隐私预算时,满足强凸性的要求,这可以返回给用户,这样的DP的ERM是保证在一个较低的隐私成本比原来计划的,或被回收到ERM优化过程中,以减少注入DP噪声,提高DP-ERM的效用。从实现的角度来看,NAPP-ERM可以通过优化给定噪声增强数据的非扰动目标函数来实现,因此可以利用现有的工具进行非私有ERM优化。我们通过大量的实验说明了NAPP-ERM对变量选择和预测的过度正则化和私人预算检索的缓解效果。
2021-10-16 cs.CR cs.LG stat.ML
Augmented Shuffle Differential Privacy Protocols for Large-Domain Categorical and Key-Value Data
针对现有增强混洗DP协议无法适配大域数据的问题,提出基于哈希过滤和多重加密的FME协议,可高效完成大域分类与键值数据的频率估计,兼具隐私性、抗攻击性和准确性。
2025-09-02 cs.CR
PrivAR: Client-Side Privacy Framework for Real-Time Location-Based Augmented Reality
Rochester Institute of Technology(罗切斯特理工学院);University of Colorado Denver(科罗拉多大学丹佛分校)
研究针对实时基于位置的增强现实应用的隐私保护问题,提出PrivAR客户端隐私框架,引入平面阶梯机制和带中间值的平面阶梯机制,经理论分析、多数据集评估及原型验证,有效提升AR QoS并增强隐私保护,降低更新开销。
2026-07-22 cs.CR
A Validated Privacy-Utility Preserving Recommendation System with Local Differential Privacy
本文提出了一种新的推荐系统保护隐私和效用。它依赖于本地的差分隐私(LDP)的浏览用户发送他的嘈杂的偏好配置文件,扰动布隆过滤器,服务提供商。这种方法的独创性是多方面的。首先,据我们所知,该方法是第一个在用户侧包括两个扰动轮- PRR(永久随机响应)和IRR(瞬时随机响应)-在一个完整的用户简档。其次,建立了完整的验证实验链,使用基于神经网络或XGBoost的机器学习解码算法对扰动后的Bloom过滤器进行解码,使用聚类Kmeans工具对用户进行聚类。第三,大量的实验表明,我们的方法实现了良好的实用性和隐私的权衡,即90 $\%$聚类成功率,分别。80.3 $\%$,分别用于LDP $ε= 0.8$的值。$ε= 2$。第四,实验和理论分析给出了具体的结果,我们的方法的阻力合理的可否认性和抵抗平均攻击。
2021-09-23 cs.CR
A Prototype-Oriented Clustering for Domain Shift with Source Privacy
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft(微软)
域转移下的无监督聚类(UCDS)研究如何从多个源域的大量未标记数据中转移知识,以学习目标域中未标记数据的表示。在本文中,我们引入面向原型的聚类与蒸馏(PCD),不仅提高了现有的UCDS方法的性能和适用性,而且还解决了保护源域的数据和模型的隐私的问题。PCD首先通过对齐原型和数据的分布来构建源聚类模型。然后通过源模型提供的聚类标签将知识提取到目标模型,同时对目标数据进行聚类。最后,它在目标领域数据上精化目标模型,而不需要源模型的指导。在多个基准测试的实验表明,我们的源私有聚类方法的有效性和通用性。
2023-02-09 cs.CR cs.LG
Clustering based Privacy Preserving of Big Data using Fuzzification and Anonymization Operation
大数据被数据挖掘机用于分析目的,其中可能包含敏感信息。在这个过程中,它给研究人员带来了一些隐私方面的挑战。现有的隐私保护方法在保护敏感数据的同时,由于算法的不同,导致数据重构的局限性。提出了一种基于聚类的大数据隐私保护概率模型,用于保护敏感信息。模型,以达到最小的干扰和最大的隐私。在我们的模型中,敏感信息是安全的后,确定敏感数据从数据集群修改或推广它。得到的数据集进行分析,以计算我们的模型的准确性水平方面的隐藏数据,丢失的数据作为重建的结果。进行了大量的实验,以证明我们提出的模型的结果。基于聚类的大数据中个体数据的隐私保护具有最小的扰动和成功的重建,除了使用标准的性能评估措施外,还突出了我们模型的重要性。
2020-01-06 cs.CR cs.DB
Near-Optimal Correlation Clustering with Privacy
Google Research(谷歌研究院);Sorbonne University(索邦大学);UC Davis(加州大学戴维斯分校);Microsoft Research(微软研究院)
相关聚类是无监督学习中的一个核心问题,其应用范围包括社区发现、重复检测、自动标记等。在相关聚类问题中,一个接收一组节点作为输入,对于每个节点,一个共同聚类偏好列表,目标是输出一个聚类,最大限度地减少与指定节点偏好的不一致。在本文中,我们介绍了一个简单的和计算效率高的算法的相关聚类问题与可证明的隐私保证。我们的近似保证比以前的工作中所示的更强,是最佳的对数因子。
2022-03-02 cs.CR cs.DS cs.LG
Privacy-Preserving Retrieval-Augmented Generation with Differential Privacy
University of California, San Diego(加州大学圣迭戈分校);University of California, Los Angeles(加州大学洛杉矶分校)
针对RAG输出可能泄露敏感信息的问题,本研究探索差分隐私下的RAG,提出仅为需敏感信息的token分配隐私预算的算法,在ε≈10时优于非RAG基线。
2025-11-11 cs.AI cs.CL cs.CR
Guaranteeing Data Privacy in Federated Unlearning with Dynamic User Participation
针对现有基于聚类的联邦遗忘方案存在梯度信息泄露、难适配动态用户的问题,提出集成SecAgg协议的隐私保护联邦遗忘框架,在保证遗忘效果的同时提升隐私性与动态用户参与下的鲁棒性。
2024-11-01 cs.CR
SoK: Privacy Risks and Mitigations in Retrieval-Augmented Generation Systems
Technical University of Munich School of Computation, Information(慕尼黑技术大学计算与信息学院)
本文系统梳理了检索增强生成系统中的隐私风险及缓解措施,提出了隐私风险分类和流程图,揭示了缓解措施的现状和关键考虑因素。
2026-01-07 cs.CL cs.CR
Privacy-preserving Continual Federated Clustering via Adaptive Resonance Theory
Osaka Metropolitan University(大阪公立大学);Okayama University(冈山大学);Universiti Malaya(马来亚大学);Southern University of Science and Technology(南方科技大学);Tokyo Metropolitan University(东京都立大学)
本文提出一种基于自适应共振理论的隐私保护持续联邦聚类算法,无需预先指定簇数即可处理分布未知或持续变化的数据,并在合成与真实数据集上取得优于现有联邦聚类方法的性能。
2023-09-07 cs.CR cs.LG cs.NE
The Good and The Bad: Exploring Privacy Issues in Retrieval-Augmented Generation (RAG)
Michigan State University(密歇根州立大学);Jilin University(吉林大学);Baidu, Inc.(百度公司)
本文通过新型攻击实证评估RAG隐私,发现其会泄露私有检索库,但同时可缓解LLM训练数据泄露,并为检索增强LLM隐私保护提供见解。
2024-02-23 cs.AI cs.CL cs.CR
Innovating Augmented Reality Security: Recent E2E Encryption Approaches
本文探讨了端到端加密(E2EE)在保护隐私与阻碍执法之间的双重角色,分析了其对现代数字通信隐私的关键重要性及所带来的挑战。
2025-09-12 cs.CR
Local Differential Privacy-Preserving Spectral Clustering for General Graphs
针对一般图而非 SBM 假设,本文分析局部差分隐私下边翻转对谱聚类的影响,证明 O(log n/n) 翻转率可保持聚类稳定,并给出 Θ(log n) 的隐私预算界限。
2025-05-14 cs.CR cs.SI
Privacy-Preserving Clustering of Unstructured Big Data for Cloud-Based Enterprise Search Solutions
基于云的企业搜索服务(例如,Amazon Kendra)通过在企业大数据集上为他们提供方便的搜索解决方案来吸引大数据所有者。然而,由于对数据隐私的合理担忧,处理机密大数据(例如,凭证文件)的个人和企业不愿意完全接受此类服务。已经探索了基于客户端加密的解决方案,以减轻隐私问题。尽管如此,这种解决方案阻碍了数据处理,特别是聚类,这在处理不同形式的大数据时至关重要。例如,聚类对于限制搜索空间和在大数据集上执行实时搜索操作至关重要。为了克服加密大数据聚类中的障碍,我们提出了三种形式的非结构化加密大数据集,即静态,半动态和动态数据集的隐私保护聚类方案。为了保护数据隐私,所提出的聚类方案基于数据的统计特征来起作用,并确定(A)合适的聚类数量和(B)每个聚类的适当内容。从评估的聚类方案在三个不同的数据集上获得的实验结果表明,与其他加密数据的聚类方案相比,聚类的一致性提高了30%至60%。在隐私保护的企业搜索系统中使用聚类方案,搜索时间减少了78%,而搜索准确率提高了35%。
2022-06-09 cs.CR cs.DB cs.DC
Quantifying the Tradeoff Between Cybersecurity and Location Privacy
当涉及到基于位置的服务(LBS)时,用户隐私保护可能与用户和行程的安全性相冲突。虽然LBS提供商可以采用隐私保护机制来混淆客户数据,但车辆位置数据和轨迹的准确性对于检测异常至关重要,特别是当LBS采用机器学习方法时。本文旨在解决这一困境,通过评估位置服务的位置隐私和安全之间的权衡。特别是,我们研究了应用位置数据隐私保护技术对两个检测器性能的影响,即基于密度的空间聚类应用程序与噪声(DBSCAN)和递归神经网络(RNN)。实验结果表明,通过对位置数据应用隐私,DBSCAN比RNN对拉普拉斯噪声更敏感,尽管它们在没有隐私保护的情况下对行程数据实现了相似的检测精度。进一步的实验表明,DBSCAN是不可扩展的大型数据集包含数百万的行程,因为聚类行程需要大量的计算。另一方面,DBSCAN只需要RNN使用的不到10%的数据就可以在不进行模糊处理的情况下应用于车辆数据时实现类似的性能,这表明基于聚类的方法可以很容易地应用于小型数据集。根据研究结果,考虑到用户对隐私的需求、可用车辆行程数据的大小以及LBS应用的实时性约束,我们推荐了两种轨迹异常检测器在应用隐私保护时的使用场景。
2021-12-10 cs.CR
Private Retrieval Augmented Generation via Random Projection
University of Chicago(芝加哥大学)
本文针对RAG系统的数据存储库隐私风险,提出基于随机投影的轻量方法,在保留语义相似性的同时缓解数据提取攻击,性能优于差分隐私方法,可作为隐私保护RAG的实用基线。
2026-10-16 cs.AI cs.CR
On the Price of Differential Privacy for Spectral Clustering over Stochastic Block Models
Nokia Bell Labs(诺基亚贝尔实验室);Princeton University(普林斯顿大学)
本文研究随机块模型下社区检测的边差分隐私谱聚类方法,提出隐私算法并刻画隐私预算与恢复准确性之间的权衡,同时给出信息论保证。
2025-05-09 cs.CR cs.IT cs.LG
Differentially Private User-based Collaborative Filtering Recommendation Based on K-means Clustering
协同过滤(CF)推荐算法以其优异的推荐性能而闻名,但已有研究表明,CF推荐算法可能会因k-最近邻(KNN)攻击而导致用户隐私泄露。最近,差分隐私(DP)的概念已被应用于协同过滤推荐算法的隐私保护。然而,据我们所知,现有的差异私人CF推荐方案的推荐性能(如召回率和精度)下降到一个不可接受的水平。为了解决协同过滤推荐系统性能下降的问题,提出了一种基于k-means聚类的差异化隐私用户协同过滤推荐方案(KDPCF)。具体而言,为了提高推荐性能,我们首先通过k-means聚类将数据集聚类到类别中,并适当调整目标用户所属的目标类别的大小,使得只有大小合适的目标类别中的用户才能用于推荐。然后,采用一种指数机制而不是多个指数机制的组合,从目标类别中一次性有效地选择出一组邻居,并基于邻居集进行推荐。我们从理论上证明了我们的方案实现了差分隐私。根据经验,我们使用MovieLens数据集来评估我们的推荐系统。实验结果表明,与现有的计划相比,显着的性能增益。
2018-12-05 cs.CR
Achieving Data Utility-Privacy Tradeoff in Internet of Medical Things: A Machine Learning Approach
物联网在医疗卫生领域的应用--医疗物联网(IoMT)的出现和快速发展,给现代医疗卫生系统带来了诸多变化和挑战。特别地,机器学习技术可用于处理IoMT中涉及的数据,用于医学分析和疾病诊断。然而,在这一过程中,个人隐私信息的披露必须得到相当的重视,特别是敏感的医疗数据。聚类分析是医学分析和疾病诊断的重要技术。为了在物联网中实现隐私保护的聚类分析,提出了一种基于MapReduce框架的高效差异私有数据聚类方案(EDPDCS)。在EDPDCS中,我们优化隐私预算的分配和初始质心的选择,以提高差分隐私K-means聚类算法的准确性。具体地,根据每次迭代的总隐私预算和最小隐私预算,将K-means算法的迭代次数设置为固定值。此外,提出了一种改进的初始质心选择方法,以提高聚类算法的准确性和效率。最后,我们证明了所提出的EDPDCS可以提高差分私有k-means算法的准确性,通过比较我们的算法在两个数据集上产生的归一化聚类内方差(NICV)与其他两种算法。
2019-02-08 cs.CR
Augmented Shuffle Protocols for Accurate and Robust Frequency Estimation under Differential Privacy
本文针对差分隐私混洗模型易受数据投毒和合谋攻击的问题,提出增强混洗框架及三种本地无噪声协议,通过二项分布和非对称双侧几何分布生成虚拟数据,在保证DP的同时实现更高实用性和鲁棒性。
2025-04-10 cs.CR
DPM: Clustering Sensitive Data through Separation
Universität zu Lübeck(吕贝克大学);Universität Münster(明斯特大学);Universität Hamburg(汉堡大学)
提出隐私保护聚类算法DPM,通过几何分离递归聚类并隐私估计超参数,在标准指标上达到最优效用,且聚类结果更接近非隐私KMeans,无需预设类别数。
2024-08-20 cs.CR cs.LG
Privacy Challenges and Solutions in Retrieval-Augmented Generation-Enhanced LLMs for Healthcare Chatbots: A Review of Applications, Risks, and Future Directions
Centre for Smart Health, School of Nursing(智能健康中心、护理学院);The Hong Kong Polytechnic University(香港理工大学);Department of Electrical and Electronic Engineering(电子与电气工程系);Faculty of Health Sciences(健康科学学院);University of Maribor(马里博大学)
本综述分析医疗保健中RAG增强型大语言模型的隐私挑战,综合相关研究,通过流水线框架剖析风险与保护机制,指出临床验证等关键差距并提出方向,为构建兼顾临床有效性与隐私保护的系统提供框架与路线图。
2025-11-17 cs.AI cs.CR
Privacy Preserving Multi-Server k-means Computation over Horizontally Partitioned Data
k-means聚类是数据采掘中最常用的聚类算法之一。近年来,大量的研究集中在当数据集被划分为多方或当数据集太大而无法由数据所有者处理时的算法上。在后一种情况下,通常会雇佣一些服务器来执行集群任务。数据集由数据所有者在服务器之间划分,这些服务器一起执行k-means并将聚类标签返回给所有者。这种方法的主要挑战是防止服务器获得有关所有者实际数据的大量信息。过去已经设计了几种算法,它们提供了加密解决方案来执行隐私保护k-means。我们提供了一个新的方法来执行k-means在一个大的集合使用多个服务器。我们的技术避免了繁重的加密计算,而是使用简单的随机化技术来保护数据的隐私。计算的k-means与在没有任何随机化的情况下对原始数据集计算的k-means具有完全相同的效率和准确性。我们认为,我们的算法是安全的诚实,但好奇和被动的对手。
2019-06-29 cs.CR
Consistent Spectral Clustering of Network Block Models under Local Differential Privacy
该研究针对局部边差分隐私下的SBM与DCBM网络谱聚类问题,采用边翻转随机响应机制,推导了匹配无隐私场景收敛速率的理论保证,并通过实验验证了稠密及温和稀疏网络下的一致性结果。
2021-09-20 cs.CR cs.SI math.ST
Privacy Preserving K-Means Clustering: A Secure Multi-Party Computation Approach
GMV(GMV公司)
知识发现是人工智能的主要目标之一。这些知识通常存储在分布在不同环境中的数据库中,访问和从中提取数据是一项繁琐(或不可能)的任务。对于这个困难,我们必须补充的是,这些数据可能包含私人数据,因此信息永远不会离开源。隐私保护机器学习(PPML)有助于克服这一困难,采用加密技术,允许知识发现,同时确保数据隐私。K-means是一种数据采掘技术,用于发现知识,将包含相似特征的数据点分组在聚类中。本文重点介绍了隐私保护机器学习应用于K-means,使用最近的协议,从criptography领域。该算法适用于不同的情况下,数据可能是水平或垂直分布。
2020-09-22 cs.CR cs.LG stat.ML
Differentially Private Explanations for Clusters
本文提出差分隐私聚类解释框架DPClustX,在保护敏感数据的同时自动揭示黑盒聚类结果中各簇的显著特征,并通过实验证明其在严格隐私约束下仍能提供准确且有洞察力的解释。
2025-06-06 cs.CR cs.DB
Exposing Privacy Risks in Graph Retrieval-Augmented Generation
The Pennsylvania State University(宾夕法尼亚州立大学)
本文针对图检索增强生成(Graph RAG)系统,研究其数据提取漏洞,通过定制攻击发现其在减少原始文本泄露的同时更易泄露实体及关系等结构化数据,分析隐私挑战并探索防御机制。
2025-08-24 cs.AI cs.CR cs.IR
Privacy-Preserving and Outsourced Multi-User k-Means Clustering
隐私保护数据采掘(PPDM)技术在过去的十年中得到了广泛的研究。通常,数据采掘过程中涉及的实体是具有有限计算和存储资源的最终用户或组织。因此,此类实体可能想要避免参与PPDM过程。为了克服这个问题并利用云计算的许多其他好处,将PPDM任务外包到云环境最近受到了特别的关注。我们考虑的情况下,n个实体外包他们的数据库(加密格式)到云,并要求云执行集群任务的组合数据在隐私保护的方式。我们把这样的过程称为隐私保护和外包分布式集群(PPODC)。在本文中,我们提出了一种新的和有效的解决方案的PPODC问题的基础上,k-means聚类算法。我们的解决方案的主要新颖之处在于,通过一个有效的转换技术,完全避免了计算集群中心所需的安全划分操作。我们的解决方案以迭代方式安全地构建集群,并在预定的终止条件成立时将最终集群中心返回给所有实体。该方案在标准半诚实模型下保护了所有参与实体的数据机密性。据我们所知,我们的工作是第一次讨论和提出一个全面的解决方案,以PPODC问题,对参与实体产生微不足道的成本。我们从理论上估计了该协议的计算和通信成本,并通过在真实数据集上的实验证明了其实用价值。
2014-12-14 cs.CR cs.DB
LADFA: A Framework of Using Large Language Models and Retrieval-Augmented Generation for Personal Data Flow Analysis in Privacy Policies
Institute of Cyber Security for Society (iCSS) \& School of Computing, University of Kent Canterbury United Kingdom;Honda Research Institute Europe GmbH Germany;Institute of Cyber Security for Society (iCSS) \& School of Computing, University of Kent;Honda Research Institute Europe GmbH
LADFA利用大型语言模型和检索增强生成技术,实现对隐私政策中个人数据流的自动化分析与可视化。
2026-01-15 cs.AI cs.CR
Efficient Privacy-Preserving Retrieval Augmented Generation with Distance-Preserving Encryption
College of Computing and Data Science(计算与数据科学学院);Nanyang Technological University(南洋理工大学)
ppRAG通过CAPRISE加密技术,在不可信云环境中实现高效隐私保护的检索增强生成,提升隐私和效率,适用于资源受限用户。
2026-01-18 cs.AI cs.CR
Differentially Private Synthetic Text Generation for Retrieval-Augmented Generation (RAG)
NEC Corporation(日本电报电话公司);Institute of Science Tokyo(东京科学研究院);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
本文提出DP-SynRAG框架,通过生成差分隐私合成RAG数据库提升隐私保护下的RAG性能,避免重复噪声注入并保持固定隐私预算。
2026-05-12 cs.CL cs.CR cs.LG
FastLloyd: Federated, Accurate, Secure, and Tunable $k$-Means Clustering with Differential Privacy
University of Waterloo(滑铁卢大学)
针对横向联邦 $k$-means 中安全计算开销高与差分隐私效用差的问题,FastLloyd 结合计算型 DP 和安全聚合,并提出新的 DP 聚类机制,实现五个数量级加速且提升聚类效用。
2025-06-10 cs.CR cs.LG
Improving the Utility of Differentially Private Clustering through Dynamical Processing
Chung-Ang University(中央大学);Seoul National University(首尔大学)
针对差分隐私聚类在非凸簇上效用不佳的问题,提出受 Morse 理论启发的动态处理框架,分层连接 Gaussian 子簇,在几乎不增加隐私损失的前提下显著提升了相同隐私水平下的聚类性能。
2024-08-22 cs.CR cs.LG
ClustCrypt: Privacy-Preserving Clustering of Unstructured Big Data in the Cloud
存储在云中的大数据的安全性和机密性是许多组织采用云服务的重要考虑因素。解决这些问题的一种常见方法是客户端加密,其中数据在存储到云中之前在客户端机器上加密。然而,在云中加密数据限制了数据聚类的能力,这是许多数据分析应用程序(如搜索系统)的关键部分。为了克服这一局限性,本文提出了一种名为ClustCrypt的方法,用于在云中对加密的非结构化大数据进行基于主题的高效聚类。ClustCrypt根据加密数据的统计特征动态估计最佳簇数。它还提供了加密数据的聚类方法。我们在一个安全的基于云的语义搜索系统(S3BD)的上下文中部署ClustCrypt。在三个数据集上评估ClustCrypt的实验结果表明,集群的一致性平均提高了60%。ClustCrypt还将搜索时间开销减少了78%,并将搜索结果的准确性提高了35%。
2019-08-14 cs.CR cs.DC
Self-Supervised Representations for Binary Program Clustering: From Empirical Study to Retrieval-Augmented Learning
Faculty of Information Technology, Brno University of Technology(布尔诺理工大学信息技术学院);Kempelen Institute of Intelligent Technologies (KInIT)(肯佩伦智能技术研究所(KInIT));Faculty of Electrical Engineering and Information Technology, Slovak University of Technology(斯洛伐克理工大学电气与信息技术学院)
本研究系统探究SSL和TRL在二进制程序聚类中的应用,提出VIME-R方法,在Ember和Bodmas数据集上实现同质性提升2.7%-5.8%,为自动化恶意软件分析提供新方向。
2026-08-04 cs.CR cs.LG
Security and Privacy in Retrieval-Augmented Generation: Architectures, Threats, Defenses, and Future Directions for Building Trustworthy Systems
Department of Electrical and Electronics Engineering(电子与电气工程系);Birla Institute of Technology and Science, Pilani, Pilani Campus(比拉理工学院和科学学院,比拉校区);Department of Computer Engineering, KIIT University(计算机工程系,KIIT大学);Quantum Cloud Computing and Distributed Systems (qCLOUDS) Laboratory(量子云计算与分布式系统(qCLOUDS)实验室);Department of Computing and Information Systems(计算与信息系统系);The University of Melbourne(墨尔本大学)
本文综述了检索增强生成系统在集中式、设备端、联邦和混合范式下的隐私与安全挑战,提出了涵盖检索、上下文构建和生成阶段的统一威胁分类,并分析了攻击类别及防御策略。
2026-06-25 cs.CL cs.CR
MC-GEN:Multi-level Clustering for Private Synthetic Data Generation
University of South Florida(南佛罗里达大学);Snap Inc.(Snap公司)
随着机器学习和数据科学的发展,企业和研究机构之间为避免数据稀缺而进行的数据共享非常普遍。然而,共享包含隐私信息的原始数据集可能会导致隐私泄露。一个可靠的解决方案是利用私人合成数据集,保留原始数据集的统计信息。在本文中,我们提出了MC-GEN,隐私保护合成数据生成方法下的差分隐私保证机器学习分类任务。MC-GEN采用多级聚类和差分私有生成模型来提高合成数据的效用。在实验评估中,我们评估了参数的影响和MC-GEN的有效性,结果表明MC-GEN在一定的隐私保证下对多分类任务都能取得显著的效果。此外,我们比较MC-GEN与现有的三种方法。结果表明,MC-GEN在实用性方面优于其他方法。
2022-11-29 cs.CR cs.LG
Context-Aware Metric Differential Privacy for Vehicle Trajectory Data
University of North Texas(北德克萨斯大学)
提出上下文感知度量差分隐私(C-mDP)框架,通过将上下文依赖融入隐私和效用模型,并利用条件独立性简化线性规划,在相同隐私预算下提升车辆轨迹数据的效用。
2026-05-25 cs.CR
Mind the Hook: Source-Level Auditing of Privacy Defenses in Retrieval-Augmented Generation
Northeastern University(东北大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Southern Methodist University(南卫理公会大学)
该研究针对RAG的黑盒隐私分数解读难题,提出活跃路径审计方法,通过梳理源级钩子、映射泄漏通道、金丝雀验证,复现分析DP与LPRAG防御的隐私效果,贡献方法论与案例研究。
2026-08-11 cs.CR cs.LG
Differential Privacy for Clustering Under Continual Observation
McGill University(麦吉尔大学);IST Austria(奥地利科学技术研究所)
针对持续观察下经历点插入和删除的数据集聚类问题,提出首个加性误差仅与更新次数对数相关的 $\varepsilon$-差分隐私 $k$-means 近似算法,通过结合降维与贪心近似实现,并部分扩展至 $k$-median。
2023-07-27 cs.CR cs.DS cs.LG
Privacy-Preserving Vertical K-Means Clustering
University of Twente(特文特大学);University of Waterloo(滑铁卢大学);RBC Borealis(加拿大皇家银行博雷利斯公司);University of Oldenburg(奥尔登堡大学)
本文针对垂直划分数据下的隐私保护聚类问题,提出基于同态加密与差分隐私的K-Means方案,将通信复杂度从O(nkt)降至O(n+kt),在保持聚类准确性的同时大幅降低通信开销和运行时间,使其适用于广域网部署。
2025-04-10 cs.CR cs.LG