Inference-Based Similarity Search in Randomized Montgomery Domains for Privacy-Preserving Biometric Identification
相似性搜索对于许多重要的应用是必不可少的,并且通常涉及基于其与查询的相似性对高维数据进行大规模搜索。在生物识别应用中,最近的漏洞研究表明,对抗性机器学习可以通过利用生物识别相似性信息来危害生物识别系统。现有的生物计量隐私保护方法通常基于安全生物计量模板的成对匹配,并且在搜索效率和可扩展性方面具有固有的限制。在本文中,我们提出了一个基于推理的框架,隐私保护的相似性搜索在汉明空间。我们的方法建立在一个模糊的距离测量,可以隐藏汉明距离在一个动态的间隔。这样的机制使我们能够系统地设计统计可靠的方法来检索最有可能的候选人,而不知道确切的距离值。我们进一步建议应用蒙哥马利乘法生成搜索索引,可以承受对抗性的相似性分析,并表明随机蒙哥马利域的信息泄漏可以忽略不计的小。我们在公共生物特征数据集上的实验表明,基于推理的方法可以实现接近安全计算方法的最佳性能的搜索精度,但与加密原语相比,相关的成本降低了几个数量级。
2017-11-05 cs.CR cs.IR
Protecting Genomic Privacy by a Sequence-Similarity Based Obfuscation Method
Princeton University(普林斯顿大学);The Hong Kong Polytechnic University(香港理工大学)
在后基因组时代,大规模的个人DNA序列被生产和收集用于基因医学诊断和新药发现,然而,这同时对个人基因组隐私的保护提出了严峻的挑战。现有的基因组隐私保护方法要么耗时,要么准确性低。为了解决这些问题,本文提出了一种基于序列相似性的混淆方法,即IterMegaBLAST,用于快速可靠地保护个人基因组隐私。具体来说,给定从DNA序列数据集中随机选择的序列,我们首先使用MegaBLAST从数据集中找到其最相似的序列。这两个比对的序列形成一个簇,通过DNA泛化晶格方案为该簇生成混淆序列。这些过程被迭代地执行,直到数据集中的所有序列被聚类并且它们的混淆序列被生成。在两个基准数据集上的实验结果表明,在相同的匿名程度下,IterMegaBLAST在效用准确度和时间复杂度方面都明显优于现有的最先进的方法.
2017-08-08 cs.CR cs.LG
PrivMin: Differentially Private MinHash for Jaccard Similarity Computation
在大数据的许多工业应用中,Jaccard相似度计算已被广泛用于测量两个用户分别拥有的两个配置文件或集合之间的距离。然而,具有不可预测知识的一个半诚实用户也可以推断出私有或敏感信息(例如,原始集合中单个元素的存在)。在本文中,我们的目标是解决隐私问题的Jaccard相似性计算与严格的差分隐私保证。为了实现这一点,我们首先定义了条件$ε$ -DPSO,一个宽松的差分隐私定义关于集合操作,并证明了基于MinHash的Jaccard相似性计算(MH-JSC)满足此定义。为了在MH-JSC中实现严格的差分隐私,我们提出了PrivMin算法,该算法包括两个隐私操作:1)通过在MinHash签名生成过程中引入指数噪声,生成PrivMinHash值。2)随机MinHashing步骤选择通过采用随机响应技术来私下选择MinHashing阶段中使用指数机制部署的几个步骤。在真实数据集上的实验表明,该算法在保持隐私性的同时,能够有效地保留计算相似度的效用.
2017-05-20 cs.CR cs.DS
Implementation of Privacy-preserving SimRank over Distributed Information Network
近年来,信息网络分析引起了人们的广泛关注。在网络分析的所有方面中,节点的相似性度量已经在许多应用中被证明是有用的,例如聚类、链接预测和社区识别,仅举几例。由于大型网络中的链接数据本质上是稀疏的,应注意收集更多的数据可以提高相似性度量的质量。这给了不同的参与方合作的动力。在本文中,我们解决的问题,基于链接的相似性度量的节点分布在不同的缔约方的信息网络。针对数据隐私问题,提出了一种基于全同态加密的隐私保护SimRank协议,为链路提供密码保护。
2012-09-29 cs.CR cs.SI
The Inadequacy of Similarity-based Privacy Metrics: Privacy Attacks against "Truly Anonymous" Synthetic Datasets
UCL and SAS(伦敦大学学院和SAS);UC Riverside(加州大学河滨分校)
本文揭示基于相似性的临时隐私度量不可靠,并提出重构攻击 ReconSyn,仅凭黑盒访问即可恢复训练数据中 78-100% 的离群点,证明此类度量会破坏端到端差分隐私保障。
2025-05-07 cs.AI cs.CR cs.LG
Contrastive Learning-Based privacy metrics in Tabular Synthetic Datasets
Aindo(艾因多(Aindo));University of Trieste(的里雅斯特大学)
本文提出基于对比学习的嵌入方法改进表格合成数据隐私评估,实验表明简单高效的隐私度量可与符合GDPR的先进方法相媲美。
2025-03-10 cs.CR cs.LG
Similarity Weighted Aggregation with Global Differential Privacy for Federated Brain Lesion Segmentation
Turku University of Applied Sciences(图尔库应用科学大学)
本研究提出DP-SimAgg框架,结合相似度加权聚合与服务器端差分隐私,在FeTS 2022数据集上验证其可在保护隐私的同时保持脑病灶分割的竞争力性能。
2026-08-04 cs.AI cs.CR cs.CV
Efficient Byzantine-Robust and Provably Privacy-Preserving Federated Learning
提出BPFL方法,结合零知识证明与同态加密,在联邦学习中同时实现拜占庭鲁棒性与可证明的隐私保护,且保持高效性。
2024-07-29 cs.CR
Privacy-Preserving Federated Learning Framework for Risk-Based Adaptive Authentication
School of Electrical Engineering and Computer Science, University of Ottawa, Canada(渥太华大学电气与计算机工程学院)
本文提出联邦学习框架FL-RBA2,通过相似性变换将Non-IID用户特征转为IID向量,结合差分隐私与消息认证码,在保护隐私的同时实现稳健的基于风险的自适应认证。
2025-09-19 cs.CR
Do Not Return Similarity: Face Recovery with Distance
机器学习(ML)已经被集成到各种系统中,帮助开发人员以比人类更高的精度解决问题。然而,在将ML模型集成到系统中时,开发人员可能会意外地对ML模型的输出不够关心,主要是因为他们对ML和AI不熟悉,从而导致严重的后果,例如伤害数据所有者的隐私。在这项工作中,我们专注于理解滥用ML模型嵌入的风险,这是使用ML的一种重要和流行的方式。为了显示结果,我们揭示了几种嵌入意外泄漏的渠道。正如我们的研究所示,由政府组织部署的人脸验证系统只泄漏到真实用户的距离,允许攻击者准确地恢复验证者预安装照片的嵌入。此外,正如我们发现的那样,通过泄露的嵌入,攻击者可以轻松地恢复输入的照片,而质量损失可以忽略不计,这对用户的隐私造成了毁灭性的后果。这是通过我们设计的GAN类结构模型实现的,在黑箱假设下,流行的人脸嵌入模型的成功率为93.65%。
2019-08-06 cs.CR
Privacy-Preserving Socialized Recommendation based on Multi-View Clustering in a Cloud Environment
针对推荐服务中用户偏好易泄露敏感信息的问题,提出一种引入在线社交网络信息的隐私保护社交化推荐协议,可计算用户相似度且防隐私泄露,经分析验证性能优异、具备实际可行性。
2025-05-21 cs.CR
Differentially Private Sketches for Jaccard Similarity Estimation
IT University of Copenhagen(哥本哈根信息技术大学)
本文描述了两个局部差分私有算法释放用户向量,使这些向量之间的Jaccard相似性可以有效地估计。基本构建块是众所周知的MinHash方法。为了实现隐私-效用权衡,MinHash使用广义随机响应和拉普拉斯机制的变体以两种方式进行扩展。理论分析提供了绝对误差的界限,实验显示了合成数据和真实数据的实用性-隐私权衡。本文最后对相关工作进行了批判性的讨论。
2020-08-18 cs.CR cs.IR cs.LG
Speech Pseudonymisation Assessment Using Voice Similarity Matrices
随着语音技术的发展和隐私保护立法的不断完善,人们迫切需要为语音应用开发隐私保护解决方案。这些都是必不可少的,因为语音信号传达了丰富的、个人的和潜在敏感的信息。匿名化,最近的语音隐私倡议的重点,是一种策略,以保护发言人的身份信息。假名化解决方案的目的不仅是掩盖说话人的身份,并保持语言的内容,质量和自然性,这是匿名化的目标,但也要保持语音的独特性。现有的匿名化评估指标不合适,完全缺乏匿名化评估指标。基于语音相似性矩阵,本文提出了第一个直观的可视化的语音信号和两个新的客观评估指标的语音合成性能。它们反映了两个关键的非身份化要求,即去识别和声音独特性。
2020-08-30 cs.CR eess.AS
A Scalable Algorithm for Privacy-Preserving Item-based Top-N Recommendation
近年来,推荐系统已成为在线服务中不可或缺的组成部分。有效的推荐对于提高各种在线商务应用的服务质量至关重要。然而,严重的隐私问题已经提出了推荐系统,需要收集用户的私人信息进行推荐。与此同时,电子商务的成功产生了大量的信息,使得可扩展性成为推荐系统设计中的一个关键挑战。因此,推荐系统需要保护用户的隐私,同时以低复杂度的计算实现高质量的推荐。提出了一种可扩展的基于隐私保护项的top-N推荐方案,在保证用户隐私信息得到保护的同时,降低了计算复杂度,实现了高质量的推荐。此外,该方法的计算复杂度随着用户数量的增加而缓慢增加,从而为隐私保护推荐系统提供了高的可扩展性。更具体地说,所提出的方法包括两个关键部分:(1)基于MinHash的相似性估计和(2)客户端隐私保护预测生成。我们使用真实数据进行的理论和实验分析证明了所提出方法的效率和有效性。
2018-11-06 cs.CR
A Codon Frequency Obfuscation Heuristic for Raw Genomic Data Privacy
基因组数据为临床研究人员提供了研究各种患者疾病的巨大机会。然而,同样的数据包含揭示信息,其中一些患者可能希望保持隐藏。于是问题就出现了:一个实体如何处理完整的DNA数据,同时隐藏基因组序列中的某些敏感信息,并保持DNA数据的效用?作为对这个问题的回答,我们提出了一个密码子频率混淆启发式,其中在相同的氨基酸组中完成具有高表达基因的密码子频率值的重新分配,生成混淆的DNA序列。我们的初步结果表明,它可能会发布一个混淆的DNA序列与原始DNA序列的相似性(效用)的期望水平。
2014-10-12 cs.CR
Similarity-based Label Inference Attack against Training and Inference of Split Learning
Beijing University of Posts and Telecommunications(北京邮电大学);Pengcheng Laboratory(鹏城实验室)
本文揭示了分割学习交换的中间结果会泄漏私有标签,基于梯度与特征相似性设计三种标签推断攻击,在训练和推理阶段实现接近100%攻击准确率,并能有效抵抗多种最先进防御机制。
2024-03-22 cs.AI cs.CR cs.LG
AMPPERE: A Universal Abstract Machine for Privacy-Preserving Entity Resolution Evaluation
实体解析是识别不同数据集中引用现实世界中相同实体的记录的任务。在敏感域(例如金融账户、医院健康记录)中,实体解析必须满足隐私要求,以避免向不受信任方泄露个人身份信息等敏感信息。现有的解决方案要么过于算法特定,要么在计算的准确性、隐私和运行时效率之间存在隐含的权衡。我们提出了AMMPERE,一个抽象的计算模型进行普遍的隐私保护实体决议。AMPPERE提供了抽象,封装了多种算法和平台无关的方法,使用Jaccard相似性的变体来执行私有数据匹配和实体解析。具体来说,我们表明,双方可以执行实体解析他们的数据,而不会泄露敏感信息。我们严格比较和分析的可行性,性能开销和隐私保护性能的这些方法的Sharemind多方计算(MPC)平台上,以及PALISADE,基于格的同态加密库。AMPPERE系统证明了隐私保护实体解决方案对真实世界数据的有效性,同时提供了防止信息泄露的诱导成本的精确表征。
2021-11-04 cs.CR
Efficient and Privacy-preserving Voice-based Search over mHealth Data
家庭物联网设备在医疗保健系统中扮演着智能个人助理的重要角色。它们通常带有语音功能,为老年人、残疾人和患者增加额外的可用性和便利性。在本文中,我们提出了一个有效的和隐私保护的基于语音的搜索方案,以提高效率和隐私的家庭医疗保健应用。我们考虑的应用场景中,患者使用的设备来记录和上传他们的语音到服务器和护理人员搜索感兴趣的声音的病人的语音内容,情绪,音调和背景声音的基础上。我们的方案保留了语音数据的丰富性和隐私性,并使准确和有效的基于语音的搜索,而在当前的系统中,使用语音识别的语音数据的丰富性和隐私性受到损害。具体地说,我们的方案通过采用同态加密来实现隐私;只有加密的语音数据被上传到服务器,而服务器无法访问原始语音数据。此外,我们的计划,使服务器能够有选择地和准确地响应照顾者的查询的语音数据的基础上语音的特征相似性。我们评估我们的计划,通过真实的实验表明,我们的计划,即使隐私保护可以成功地匹配相似的语音数据,平均准确率为80.8%。
2018-09-12 cs.CR
Faster Privacy-Preserving Computation of Edit Distance with Moves
我们考虑一个有效的两方协议,安全计算字符串的相似性w.r.t.扩展的编辑距离测量。这里,分别拥有串$x$和$y$的两方想要联合计算$\mathrm{EDM}(x,y)$的近似值,即包括将$x$变换为$y$所需的子串移动的编辑操作的最小数量,而不泄露任何私有信息。最近,基于同态加密提出了第一个安全的两方协议,但由于其高通信和轮复杂度,这种方法不适合长字符串。在本文中,我们提出了一种改进的算法,显着降低轮的复杂性,而不牺牲其密码强度。我们检查我们的算法的性能相比,以前的DNA序列。
2019-11-28 cs.CR
Privacy-Preserving Text Inference for Health-Misinformation Classification and Semantic Retrieval
National Research Council Canada(加拿大国家研究委员会);Florida Atlantic University(佛罗里达大西洋大学)
本研究设计了基于CKKS同态加密的隐私保护文本推理框架,用于健康虚假信息分类与语义检索,实验验证了其预测性能与效率优势,为相关应用提供了技术支撑。
2026-11-06 cs.CR cs.LG
Accurate and Efficient Suffix Tree Based Privacy-Preserving String Matching
计算不同组织持有的字符串之间的相似性而不揭示这些字符串的任务在健康信息学,国家人口普查,基因组学和欺诈检测等领域越来越重要。大多数现有的隐私保护字符串比较函数要么基于比较编码字符q-gram的集合,只允许加密字符串的精确匹配,要么针对具有小字母表的长基因组序列。基于集合的隐私保护相似度函数通常用于在隐私保护记录链接的上下文中比较名称和地址字符串,不考虑子字符串的位置。因此,两个非常不同的字符串可能被认为是一个精确的匹配,导致错误的链接记录。现有的基于集合的技术也不能识别跨两个字符串的最长公共子串的长度。在本文中,我们提出了一种新的方法,准确和有效的隐私保护字符串匹配的基础上,使用链式哈希编码的后缀树。我们将一个基于哈希的编码技术后,编码的后缀,以提高隐私对频率攻击,如利用本福德定律。我们的方法允许执行各种操作,而不需要显示要比较的字符串:最长公共子串的长度,两个字符串是否具有相同的开头,中间或结尾,以及两个字符串之间的最长公共子串相似性。这些函数允许更准确地比较,例如,银行账户、信用卡或电话号码,这不能与现有的隐私保护字符串匹配技术进行适当的比较。我们对几个不同类型字符串的数据集进行了评估,验证了我们所提出的方法的隐私性和准确性。
2021-04-07 cs.CR cs.DB
Multi-Party Privacy-Preserving Record Linkage using Bloom Filters
隐私保护记录链接(PPRL),识别记录,对应于同一个真实世界的实体,由不同的各方持有的多个数据源,而不透露任何敏感信息这些记录的问题,越来越多地需要在许多现实世界的应用领域。这方面的例子包括公共卫生监督、犯罪和欺诈侦查以及国家安全。已经开发了各种技术来解决PPRL的问题,其中大多数考虑将仅来自两个来源的数据连接起来。然而,在许多实际应用中,需要链接来自两个以上来源的数据。在本文中,我们提出了一个可行的解决方案,多方PPRL使用两个有效的隐私技术:布隆过滤器编码和分布式安全求和。我们提出的协议有效地识别匹配的记录集,所有数据源具有一定的最小阈值以上的相似性。虽然是有效的,我们的协议也是安全的半诚实的对手模型下,没有一方可以了解任何其他方的数据的任何敏感信息,但所有各方了解他们的记录具有较高的相似性,由其他各方持有的记录。我们评估我们的协议,一个大型的真实选民登记数据库显示的可扩展性,链接质量和隐私的方法。
2016-12-28 cs.CR cs.DB
Privacy-Preserving Federated Learning Scheme with Mitigating Model Poisoning Attacks: Vulnerabilities and Countermeasures
该研究发现双服务器隐私保护联邦学习方案在防御模型投毒时存在隐私泄露漏洞,提出含双陷门FHE、安全归一化判断、安全余弦相似度检测的PBFL方案,兼具隐私保护与抗投毒能力,效率优于现有方案。
2025-07-30 cs.CR
Preserving Privacy in Software Composition Analysis: A Study of Technical Solutions and Enhancements
针对软件成分分析(SCA)需上传源代码至远程服务器导致的隐私问题,首次分析其隐私需求并提出技术方案全景图,优化基于多方计算(MPC)的框架,将开销从184倍降至8.5%且不损失隐私与准确性。
2024-12-01 cs.CR cs.SE
A Security-assured Accuracy-maximised Privacy Preserving Collaborative Filtering Recommendation Algorithm
基于邻域的协同过滤是推荐系统中广泛使用的一种方法。然而,在过滤过程中泄露客户隐私的风险最近引起了公众的关注。具体地说,$k$ NN攻击通过利用非敏感信息创建$k$伪最近邻来泄露目标用户的敏感信息。在目前针对$k$ NN攻击的解决方案中,概率方法表现出了较强的隐私保护效果。然而,现有的概率方法既不能保证足够的预测精度,由于全局随机性,也不能提供有保证的安全性实施对$k$ NN攻击。为了克服目前的概率方法的问题,我们提出了一种新的方法,分区概率邻居选择,以确保所需的安全保证,同时达到最佳的预测精度对$k$ NN攻击。在本文中,我们定义的$k$邻居的相似性的总和作为准确性度量$α$,用户分区的数量,我们选择的$k$邻居,作为安全性度量$β$。与现有的全局选择邻居的方法不同,本文的方法从具有指数差分隐私的每个组中选择邻居,以降低噪声的大小。理论和实验分析表明,在保证对$k$ NN攻击同样安全的前提下,该方法保证了最优的预测精度。
2015-06-04 cs.CR
Speech Privacy Leakage from Shared Gradients in Distributed Learning
University of Tennessee, Knoxville(田纳西大学诺克斯维尔分校);Intuit AI Research(财捷人工智能研究院)
分布式机器学习范例,如联邦学习,最近已被采用在许多隐私关键的应用程序的语音分析。然而,这样的框架容易受到来自共享梯度的隐私泄露攻击。尽管在图像领域进行了广泛的努力,但对梯度语音隐私泄漏的探索非常有限。在本文中,我们探讨了在分布式学习环境中从共享梯度中恢复私人语音/说话人信息的方法。我们进行实验的关键字定位模型与两种不同类型的语音特征,通过测量原始和恢复的语音信号之间的相似性来量化泄漏的信息量。我们进一步证明了在分布式学习框架下,在不访问用户数据的情况下推断各种水平的侧信道信息(包括语音内容和说话人身份)的可行性。
2023-02-21 cs.CR cs.LG
CryptoMask : Privacy-preserving Face Recognition
针对第三方人脸数据库场景下的隐私担忧,提出结合同态加密与安全多方计算的CryptoMask隐私人脸识别系统,通过新型编码策略降本提效,信息泄露更少,在亿级人脸库下计算和通信速度大幅提升。
2023-07-22 cs.CR
Randomization Techniques to Mitigate the Risk of Copyright Infringement
Stanford University(斯坦福大学);Google(谷歌公司);University of Washington(华盛顿大学)
本文研究随机化方法以补充现有版权保护技术,发现使用近访问自由度(NAF)度量实质相似性具挑战性且差分隐私(DP)模型成本高,而检索模型可能提供更可控的方案。
2024-08-21 cs.CR cs.LG
ScoreShield: Differentially Private Release of Similarity Scores
School of Engineering and Applied Sciences, Harvard University(哈佛大学工程与应用科学学院);School of Engineering, École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院工程学院)
研究生物识别等应用中相似度分数隐私保护问题,提出ScoreShield先扰动后投影机制,添加校准高斯噪声并投影到可行性集,满足(ε,δ)-DP,给出效用保证,在多任务中评估,改进了风险的n依赖性。
2026-07-29 cs.CR cs.CV cs.IR
Privacy-Preserving Hamming Distance Computation with Property-Preserving Hashing
针对属性保留哈希下仅用哈希表示亚线性近似汉明距离的问题,研究者基于已有阈值框架提出三种复杂度渐优的构造,证明强密码保障下可实现近似距离恢复,平衡相似性估计的效率与安全。
2025-03-22 cs.CC cs.CR
Multi-Party Private Set Intersection: A Circuit-Based Protocol with Jaccard Similarity for Secure and Efficient Anomaly Detection in Network Traffic
本文将两方SCS协议扩展为多方基于电路的PSI协议,支持Jaccard相似度计算,可在保护隐私的网络流量分析中高效检测异常。
2024-01-23 cs.CR
Privacy-Preserving Product-Quantized Approximate Nearest Neighbor Search Framework for Large-scale Datasets via A Hybrid of Fully Homomorphic Encryption and Trusted Execution Environment
本文提出PPPQ-ANN框架,结合全同态加密和可信执行环境,优化大规模数据集的隐私保护近邻搜索,实现快速数据库生成和高吞吐量检索。
2026-04-20 cs.CR
Token-Level Privacy in Large Language Models
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Nuclear Research Center – Negev(内盖夫核研究中心)
针对NLP交互中现有隐私保护方法忽略上下文信息的问题,提出token级隐私保护机制dchi-stencil,结合语义与上下文信息在dchi差分隐私框架下提供强隐私保证,实现了更优的隐私与效用平衡。
2025-03-05 cs.CL cs.CR
Gromov-Wasserstein Discrepancy with Local Differential Privacy for Distributed Structural Graphs
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Samsung Research America, inc.(三星美国研究公司)
学习结构化数据之间的相似性,尤其是图之间的相似性,是结构化数据挖掘的基本问题之一。除了像图核这样的方法之外,Gromov-Wasserstein(GW)距离最近引起了很大的关注,因为它可以灵活地捕获拓扑和特征特征,以及处理排列不变性。然而,结构化数据广泛分布于不同的数据采掘和机器学习应用中。由于隐私问题,访问分散的数据仅限于单个客户端或不同的筒仓。为了解决这些问题,本文提出了一个隐私保护框架,分析了在联邦风格下从图神经网络中学习到的节点嵌入的GW差异,然后基于多比特编码器显式地放置局部差分隐私(LDP)来保护敏感信息。我们的实验表明,强大的隐私保护的$\varepsilon$ -LDP算法保证,所提出的框架不仅保留隐私图学习,但也提出了一个噪声结构度量下GW距离,从而在分类和聚类任务的性能相当,甚至更好。此外,我们的理由背后的基于LDP的GW距离分析和经验。
2022-02-01 cs.CR cs.LG
GoldenRetriever: Non-Interactive Homomorphic Encrypted Retrieval for Privacy-Preserving RAG
University of Central Florida(中佛罗里达大学);Florida International University(佛罗里达国际大学);University of Florida(佛罗里达大学)
针对现有隐私保护RAG检索方案延迟高、易泄露的问题,提出基于阈值选择的非交互式同态加密检索框架,通过CKKS同态计算与掩码极化方法实现高效安全的检索,性能优于排名式加密方法。
2026-08-03 cs.CL cs.CR cs.IR
DP2Guard: A Lightweight and Byzantine-Robust Privacy-Preserving Federated Learning Scheme for Industrial IoT
Southeast University(东南大学);National University of Singapore(新加坡国立大学);Huazhong University of Science and Technology(华中科技大学);Jinan University(暨南大学);Queensland University of Technology(昆士兰科技大学);The University of Hong Kong(香港大学);Nanyang Technological University(南洋理工大学)
DP2Guard通过轻量梯度掩码和混合防御策略提升工业物联网中联邦学习的隐私和鲁棒性,减少通信与计算开销,有效防御四种高级中毒攻击。
2026-05-07 cs.CR cs.DC
Ensembler: Protect Collaborative Inference Privacy from Model Inversion Attack via Selective Ensemble
University at Buffalo(布法罗大学)
本文提出可扩展框架Ensembler,通过在对抗服务器上利用选择性模型集成来混淆客户端私有信息重建,有效抵御模型反演攻击,在仅产生4.8%推断时间开销下,结构相似性比基线最多提升43.5%。
2024-12-23 cs.CR cs.LG
PrivacyXray: Detecting Privacy Breaches in LLMs through Semantic Consistency and Probability Certainty
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院)
PrivacyXray通过分析LLM内部状态的语义一致性和概率确定性,利用四个指标检测隐私泄露,在五个模型上平均准确率达92.69%,较现有方法提升20.06%。
2025-06-24 cs.AI cs.CR
Words Blending Boxes. Obfuscating Queries in Information Retrieval using Differential Privacy
针对现有差分隐私查询混淆方法仅理论上保障隐私、实际易因语义相似泄露用户信息需求的问题,提出新型机制Word Blending Boxes,通过安全盒保护查询词汇,兼具理论与实际隐私保护效果,可有效集成到现有信息检索系统中。
2024-05-15 cs.CR cs.IR
Secure Storage and Privacy-Preserving Scanpath Comparison via Garbled Circuits in Eye Tracking
Technical University of Munich(慕尼黑工业大学)
本文提出基于混淆电路的方法,实现眼动追踪数据的安全存储和隐私保护的扫描路径比较,支持双端协作和服务器辅助两种模式,实验验证其在不同网络条件下具有实用性。
2026-04-21 cs.CR cs.HC
Privacy-Preserving Identification via Layered Sparse Code Design: Distributed Servers and Multiple Access Authorization
我们提出了一种新的计算效率的隐私保护的身份识别框架的基础上分层稀疏编码。该框架的核心思想是一个具有模糊性的稀疏化变换学习,它由一个训练好的线性映射、一个分量非线性和一个隐私放大组成。我们介绍了一个实用的识别框架,它包括两个阶段:公共和私人识别。公共不可信服务器基于存储在其侧的稀疏隐私保护码本提供快速搜索服务。私有可信服务器或本地客户端应用使用公共搜索的结果和存储在其一侧的分层稀疏码本来执行细化的精确相似性搜索。在解码域中执行私有搜索,并且基于客户端的授权级别来选择私有搜索的准确性。所提出的方法的效率在于编码、解码、“加密”(模糊化)和“解密”(净化)的计算复杂性以及码本的存储复杂性。
2018-06-07 cs.CR cs.DB cs.DC
LightFR: Lightweight Federated Recommendation with Privacy-preserving Matrix Factorization
联邦推荐系统(FRS)使多个本地设备能够在不传输本地原始数据的情况下联合训练共享模型,具有隐私保护的优点,已成为一种流行的推荐模式。然而,以往的FRS工作是在连续嵌入空间中通过内积进行相似性搜索,这在项目规模非常大时会导致效率瓶颈。我们认为,联邦设置中的这种方案忽略了资源受限的用户设备中的有限容量(即,存储空间、计算开销和通信带宽),并且使其更难被部署在大规模推荐系统中。此外,它已被证明,在服务器和客户端之间传输的实值形式的局部梯度可能会泄漏用户的隐私信息。为此,我们提出了一个轻量级的联邦推荐框架与隐私保护矩阵分解,LightFR,能够生成高质量的二进制代码,通过利用学习哈希技术在联邦设置下,从而享受快速的在线推理和经济的内存消耗。此外,我们设计了一个有效的联邦离散优化算法,以协同训练模型参数之间的服务器和客户端,可以有效地防止来自恶意方的实值梯度攻击。通过在四个真实数据集上的广泛实验,我们证明了我们的LightFR模型在推荐准确性,推理效率和数据隐私方面优于几种最先进的FRS方法。
2022-12-24 cs.CR cs.IR
Analysing Fairness of Privacy-Utility Mobility Models
Imperial College London(伦敦帝国理工学院);University of Washington(华盛顿大学)
本文定义了一组基于轨迹结构相似性和熵的人类移动性公平性指标,并据此评估两个基于GAN和表示学习的隐私保护模型,发现它们在群体公平上达标但违反个人公平性,揭示了重识别任务与个人公平性之间的张力。
2023-04-10 cs.AI cs.CR cs.CY
BinaryShield: Cross-Service Threat Intelligence in LLM Services using Privacy-Preserving Fingerprints
Microsoft Redmond, USA(微软红mond分校);Microsoft New York, USA(微软纽约分校)
BinaryShield通过隐私保护技术实现跨服务威胁情报共享,提升LLM安全防护能力。
2026-02-28 cs.AI cs.CL cs.CR
Sub-Linear Privacy-Preserving Near-Neighbor Search
在近邻搜索(NNS)中,一个新的客户端查询一个数据库(由服务器保存),以获得给定的相似性度量的最相似的数据(近邻)。隐私保护变体(PP-NNS)要求服务器和客户端都不应了解有关另一方数据的信息,除非可以从NNS的结果中推断出。当前数据集规模的压倒性增长以及在线世界中缺乏真正安全的服务器使得现有的解决方案不切实际;这是由于其高计算要求或可能损害隐私的不现实假设。在数据库的大小中具有查询时间{ \it sub-linear}的PP-NNS已经被Li等人建议为开放的研究方向(CCSW'15)。在本文中,我们提供了第一个这样的算法,称为安全的局部敏感索引(SLSI),它有一个次线性的查询时间和处理诚实,但好奇的各方的能力。在我们的建议的核心在于一个安全的二进制嵌入方案产生的一种新的概率变换局部敏感哈希家庭。我们提供了隐私保障的信息理论约束,并使用真实世界数据集上的大量经验证据支持我们的理论主张。
2019-10-17 cs.CR cs.DB cs.IR
Semi-Private Computation of Data Similarity with Applications to Data Valuation and Pricing
针对两方数据估值中相似度计算的隐私保护问题,提出基于相关性的多方计算协议,实现精确与近似相似度计算,复杂度与样本数线性相关,并给出近似误差界限。
2023-04-11 cs.CR cs.IT math.IT
Privacy-Preserved Big Data Analysis Based on Asymmetric Imputation Kernels and Multiside Similarities
School of Information Technology, Monash University(莫纳什大学信息技术学院)
本文提出了一种有效的不完全数据分类方法,其中样本的条目由于隐私保护而丢失或被掩盖。为了处理这些不完全的数据,一个新的核函数与非对称的内在映射的建议。这种新的核使用三边相似性来形成核矩阵。测试实例和训练样本之间的相似性不仅依赖于它们之间的距离,而且依赖于测试样本和训练样本所属的类的质心之间的关系。这减少了有偏估计相比,典型的方法,当只有一个训练样本用于核矩阵的形成。此外,质心生成不涉及任何聚类算法。建议的内核是能够通过使用类相关的平均值进行数据填补。这增强了Fisher判别比和数据的可辨别性。在两个开放数据库上进行了实验,以评估所提出的方法。结果表明,该方法的精度高于基线。这些研究结果证明了拟议构想的有效性。
2016-11-21 cs.CR cs.LG
Driving Privacy Forward: Mitigating Information Leakage within Smart Vehicles through Synthetic Data Generation
本文提出通过TVAE模型生成合成数据以缓解智能车辆数据隐私泄露问题,构建了14种车载传感器漏洞分类法,并在保真度、效用和隐私指标上实现了90.1%统计相似性与78%分类准确率,有效防止了驾驶员画像。
2024-10-11 cs.CR cs.LG
Efficient Privacy-Preserving Retrieval Augmented Generation with Distance-Preserving Encryption
College of Computing and Data Science(计算与数据科学学院);Nanyang Technological University(南洋理工大学)
ppRAG通过CAPRISE加密技术,在不可信云环境中实现高效隐私保护的检索增强生成,提升隐私和效率,适用于资源受限用户。
2026-01-18 cs.AI cs.CR
Generative Model-Based Attack on Learnable Image Encryption for Privacy-Preserving Deep Learning
在本文中,我们提出了一种新的基于生成模型的攻击可学习的图像加密方法提出的隐私保护深度学习。人们已经研究了各种可学习的加密方法来保护普通图像的敏感视觉信息,其中一些方法已经被研究为对所有现有攻击都具有足够的鲁棒性。然而,以前的攻击图像加密只集中在传统的密码分析攻击或反向翻译模型,所以这些攻击不能恢复任何视觉信息,如果块置乱加密步骤,这有效地破坏了全局信息,应用。因此,在本文中,生成模型进行了探索,以评估这种模型是否可以恢复敏感的视觉信息从加密图像的第一次。首先指出加密图像在嵌入空间上与普通图像有一定的相似性。通过利用从加密图像中泄露的信息,我们提出了一个引导生成模型作为对可学习图像加密的攻击,以恢复个人可识别的视觉信息。我们通过利用两种最先进的生成模型以两种方式实现所提出的攻击:基于StyleGAN的模型和基于潜在扩散的模型。实验在CelebA-HQ和ImageNet数据集上进行。实验结果表明,该方法重建的图像与普通图像具有相似性。
2023-03-09 cs.CR cs.CV
Privacy-Preserving Aggregation for Decentralized Learning with Byzantine-Robustness
本文提出SecureDL协议,通过安全多方计算保护客户端模型更新隐私,并利用余弦相似度和归一化鲁棒检测排除有害更新,有效抵御去中心化学习中的拜占庭攻击,即使在80%恶意客户端下仍保持高准确率。
2024-04-27 cs.AI cs.CR
An Accuracy-Assured Privacy-Preserving Recommender System for Internet Commerce
推荐系统是一种通过计算用户的历史数据和兴趣来预测用户潜在偏好的工具,在网上购物等各种互联网应用中显示出越来越重要的作用。作为一种著名的推荐方法,基于邻域的协同过滤近年来引起了广泛的关注。在过滤过程中泄露用户隐私信息的风险已经引起了人们的关注。在目前的解决方案中,概率技术已经显示出强大的隐私保护效果。在面对$k$最近邻攻击时,由于全局随机性的引入,现有的方法都没有提供数据效用保证。在本文中,为了克服推荐精度损失的问题,我们提出了一种新的方法,分区概率邻居选择,以确保所需的预测精度,同时保持对$k$ NN攻击的高安全性。我们将$k$邻居的相似性之和定义为准确性度量alpha,用户分区的数量,我们选择$k$邻居,作为安全性度量beta。我们将$k$最近邻攻击推广到beta k最近邻攻击。不同于现有的方法,选择邻居在整个候选列表随机,我们的方法选择邻居从每个排他性分区大小$k$的概率递减。理论和实验分析表明,为了提供一个准确性保证的推荐,我们的分区概率邻居选择方法产生了更好的推荐准确性和系统安全性之间的权衡。
2015-06-04 cs.CR cs.IR
Balancing Privacy and Efficiency: Music Information Retrieval via Additive Homomorphic Encryption
University of Washington(华盛顿大学)
该研究提出基于加法同态加密的音乐检索方法,实现音乐专用推理攻击量化、结构感知加法原语优化,在四组音频数据集上验证其兼具隐私性与高效扩展性。
2026-07-30 cs.AI cs.CR cs.DB
Exploit the Leak: Understanding Risks in Biometric Matchers
LIMOS, Université Clermont-Auvergne, CNRS, Mines Saint-Étienne(利摩日科学与优化实验室、克莱蒙奥弗涅大学、法国国家科学研究中心、圣艾蒂安矿业学院);LMBP, Université Clermont-Auvergne, CNRS, Mines Saint-Étienne(物理与应用力学实验室、克莱蒙奥弗涅大学、法国国家科学研究中心、圣艾蒂安矿业学院)
本文分析了生物特征匹配器在距离评估中的信息泄漏风险,提供了泄漏场景目录,并以计算成本量化各场景引发的攻击影响,从而评估系统安全水平。
2024-07-30 cs.CR cs.CV