A Seed for Privacy -- semi-automatic privacy-revealing data detection in databases and data streams
University of Olso(奥斯陆大学)
研究针对共享数据库和数据流中隐私泄露问题,开发pArborist工具,结合数据模式与生产者输入,半自动创建查询识别标记隐私泄露事件,实验显示其在召回率、精确率及检测能力上表现出色,远超现有方法。
2026-07-16 cs.CR cs.DB cs.LG
Connecting Pixels to Privacy and Utility: Automatic Redaction of Private Information in Images
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland Informatics Campus(萨尔兰信息学园区)
图像传达了广泛的个人信息。如果这些图像在社交媒体平台上共享,则这些个人信息会泄露,这与所描绘的人的隐私相冲突。因此,我们的目标是采用自动化方法来编辑此类私人信息,从而保护个人的隐私。通过进行用户研究,我们发现,模糊的图像区域相关的私人信息导致隐私,同时保留实用的图像。此外,通过改变区域的大小,可以实现不同的隐私-效用权衡。我们的研究结果主张“节录分割”的范例。因此,我们提出了第一个相当大的私人图像数据集“在野外”,在广泛的隐私类中使用像素和实例级别标签进行注释。我们提出了第一个自动编辑各种私人信息的模型。
2017-12-04 cs.CR cs.CV cs.CY
An automatic differentiation system for the age of differential privacy
Technical University of Munich(慕尼黑工业大学);Imperial College London(帝国理工学院);University of Oxford(牛津大学);OpenMined;IIIT Hyderabad(海得拉巴国际信息技术学院)
我们介绍了氚,一个基于自动微分的灵敏度分析框架的差异私有(DP)机器学习(ML)。在此设置中的最佳噪声校准需要有效的雅可比矩阵计算和L2灵敏度的严格界限。我们的框架实现了这些目标,依赖于一个功能分析为基础的敏感性跟踪方法,我们简要概述。这种方法与基于静态图的自动微分自然无缝地互操作,与以前的工作相比,它可以在编译时间上实现数量级的改进。此外,我们证明,优化整个计算图的灵敏度,一次产生实质上更严格的估计相比,区间界限传播技术的真实灵敏度。我们的工作自然适合DP的最新发展,如个人隐私会计,旨在提供改进的隐私效用权衡,并代表了一个步骤,可访问的机器学习工具与先进的隐私会计系统的集成。
2022-04-05 cs.CR cs.LG
SSO-Monitor: Fully-Automatic Large-Scale Landscape, Security, and Privacy Analyses of Single Sign-On in the Wild
单点登录(SSO)将网站上的关键身份验证过程转移到底层SSO协议及其正确实现。为了加强SSO安全性,IETF和W3C等组织维护了应对已知威胁的安全机制。人们可以假设这些安全最佳实践广泛部署在网站上。我们证明这个假设是一个谬误。我们介绍了SSO-MONITOR,一个开源的全自动大规模SSO环境,安全和隐私分析工具。与以前的所有工作相比,SSO-MONITOR使用高度可扩展的全自动工作流程,具有新颖的基于视觉的SSO检测技术,增强的安全性和隐私分析以及不断更新的监控结果。它接收域列表作为输入,以发现登录页面、识别支持的身份提供程序(IdP)并执行SSO。它进一步揭示了与纸面上的安全最佳实践相比,SSO在野外的当前安全级别。使用SSO-MONITOR,我们自动识别了1,632个网站,其中有3,020个Apple,Facebook或Google登录。我们的持续监测也揭示了这些数字随时间变化的速度。SSO-MONITOR可以自动登录到每个SSO网站。它通过跟踪HTTP和浏览器内通信来记录登录,以自动检测广泛的安全和隐私问题。我们介绍了一种新的HTTP参数的深层次检查,我们称之为SMARTPARMS。使用SMARTPARMS进行安全分析,我们发现了5个客户端应用程序(Client)秘密泄漏和337个CSRF保护薄弱的案例中的URL参数。我们还发现了447个没有CSRF保护的案例,342个不安全…
2023-02-02 cs.CR
PriveShield: Enhancing User Privacy Using Automatic Isolated Profiles in Browsers
PriveShield通过浏览器扩展自动创建隔离配置文件,在不修改浏览器底层的情况下阻止在线跟踪,实验显示在54个真实场景中91%有效阻止重定向广告。
2025-01-03 cs.CR
Privacy-driven Access Control in Social Networks by Means of Automatic Semantic Annotation
在在线社交网络(OSN)中,用户通常通过发布消息来泄露关于他们自己的敏感信息。同时,由于以下问题,它们(在许多情况下)不能适当地管理对该敏感信息的访问:i)由OSN实现的访问控制机制的僵化,以及ii)许多用户缺乏关于数据隐私和访问控制的技术知识。为了解决这些限制,在本文中,我们提出了一个动态的,透明的和隐私驱动的访问控制机制,在OSN中发布的文本消息。隐私驱动的概念是通过分析要发布的消息的语义来实现的,并据此评估其内容的敏感程度。为此目的,所提出的系统依赖于一个自动语义注释机制,通过使用知识库和语言工具,能够关联的意义要发布的信息。通过这种注释,我们的机制自动检测的信息是敏感的,根据数据的发布者的隐私要求,关于类型的读者,可以访问这些数据。最后,我们的访问控制机制自动创建净化版本的用户的出版物根据类型的读者访问他们。因此,我们的建议,它可以集成到现有的社交网络,提供了一个自动的,无缝的和内容驱动的保护用户出版物,这是一致的,她的隐私要求和类型的读者访问它们。作为系统设计的补充,我们还讨论了系统的可行性,通过一个真实的例子来说明它,并评估其准确性和有效性超过标准的方法。
2016-07-04 cs.CR cs.CY cs.SI
Body Shape Privacy in Images: Understanding Privacy and Preventing Automatic Shape Extraction
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);CISPA Helmholtz Center for Information Security(亥姆霍兹信息安全研究中心);Saarland Informatics Campus(萨尔兰信息学园区)
姿态和体型估计的现代方法最近甚至在具有挑战性的现实世界条件下也取得了很好的性能。即使从穿着衣服的人的单个图像,也可以推断出很好地捕捉用户的体重组和体型类型的看起来真实的体型。这开辟了一系列应用领域,特别是在时尚领域,虚拟试穿和推荐系统可以利用这些新的自动化提示。然而,对裸体的真实描绘被认为是高度隐私的,因此可能不会得到大多数人的同意。因此,我们要问的是,是否可以有效地避免自动提取这些信息。虽然对抗性扰动已被证明对操纵机器学习模型的输出有效-特别是端到端深度学习方法-最先进的形状估计方法由多个阶段组成。我们进行了不同的策略,可用于有效地操纵自动形状估计,同时保留原始图像的整体外观的第一次调查。
2020-10-22 cs.AI cs.CR cs.CV
Sample-efficient proper PAC learning with approximate differential privacy
Google Research(谷歌研究院);MIT(麻省理工学院)
本文证明了在不考虑隐私参数和精度参数的情况下,正确学习一类近似差分隐私的Littlestone维数$d$的样本复杂度为$\tilde O(d^6)$.该结果回答了Bun等人(FOCS 2020)的问题,通过改进样本复杂度上的$2^{O(d)}$上限。在我们的工作之前,私人学习一类有限Littlestone维数的样本复杂性的有限性只为不适当的私人学习者所知,而我们的学习者是适当的这一事实回答了Bun等人的另一个问题,这也是Bousquet等人提出的问题(NeurIPS 2020)。使用Bousquet等人开发的机器,然后,我们证明了净化一个二元假设类的样本复杂度在其Littlestone维数和对偶Littlestone维数上至多是多项式。这意味着一个类是sanitizable当且仅当它有有限的Littlestone维数。我们的证明的一个重要组成部分是一个新的属性的二元假设类,我们称之为不可约化,这可能是独立的利益。
2020-12-07 cs.CR cs.LG
FedBit: Accelerating Privacy-Preserving Federated Learning via Bit-Interleaved Packing and Cross-Layer Co-Design
Microelectronics Thrust The Hong Kong University of Science
针对 FHE 联邦学习的高计算与通信开销,提出软硬件协同框架 FedBit,通过位交错打包、FPGA 加速和数据流优化实现显著提速并降低通信成本。
2025-09-27 cs.AR cs.CR cs.LG
Privacy-preserving Automatic Speaker Diarization
INESC-ID/IST, University of Lisbon(里斯本大学INESC-ID/IST);Carnegie Mellon University(卡内基梅隆大学);Mohammed bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学)
本文针对自动说话人分离的隐私泄露问题,提出结合安全多方计算与安全模哈希的隐私保护方案,应用于说话人嵌入提取和凝聚层次聚类,在两种安全设置下实现实时因子1.1和1.6的合理性能与效率权衡。
2023-04-18 cs.CR cs.SD eess.AS
PrivFramework: A System for Configurable and Automated Privacy Policy Compliance
当今大规模的数据汇集,加上最近消费者数据泄露的激增,导致人们越来越关注数据隐私和相关风险。传统的数据隐私保护系统专注于降低保管风险,并且缺乏授权数据所有者的特征。作为最终用户,可用于指定和强制执行自己的数据隐私偏好的选项有限。为了解决这些问题,我们提出PrivFramework,一个用户可配置的框架,自动隐私政策的遵守。PrivFramework允许数据所有者编写强大的隐私策略来保护他们的数据,并自动针对Python编写的分析程序执行这些策略。使用静态分析PrivFramework自动检查授权的分析程序是否符合用户定义的策略。
2020-12-09 cs.CR
Sensitivity analysis in differentially private machine learning using hybrid automatic differentiation
Technical University of Munich(慕尼黑工业大学);OpenMined;Imperial College London(帝国理工学院)
近年来,出现了能够部署到数据驱动任务(如机器学习(ML))的隐私保护的正式方法,如差分隐私(DP)。要用个体隐私损失的原则性分析所需的封闭式推理来验证大规模ML,需要引入新的工具来进行自动敏感性分析,并通过计算流程跟踪个人数据及其特征。为此,我们引入了一种新的\textit{hybrid}自动微分(AD)系统,它结合了反向模式AD的效率,能够获得一个封闭形式的表达式中的任何给定的数量的计算图。这使得能够对任意可微函数组合的敏感性进行建模,例如在私有数据上训练神经网络。我们通过分析统计数据库查询的个人DP保证来证明我们的方法。此外,我们调查我们的技术的应用程序的DP神经网络的训练。我们的方法可以使原则推理的隐私损失的数据处理的设置,并进一步发展的自动敏感性分析和隐私预算系统。
2021-08-17 cs.CR cs.LG cs.SC
Cross-Flow Correlations Survive Synthesis: Measuring Source-Level Privacy Leakage in Synthetic Network Traces
Princeton University(普林斯顿大学)
本文揭示SynNetGens在合成网络轨迹中保留跨流行为相关性,导致源级隐私泄露,提出TraceBleed攻击并评估五种数据集和六种SynNetGens,发现流或数据包级差分隐私无法保护源隐私,除非降质到不可用水平。
2026-05-08 cs.CR cs.NI
Private Prediction via PAC Privacy
Massachusetts Institute of Technology(麻省理工学院)
针对API场景下的私有预测,提出基于PAC隐私的实例级噪声校准方法,实现自适应查询下互信息线性累积,在CIFAR-10上以极低预算达到高精度,并支持通过蒸馏发布可公开查询的模型。
2026-06-15 cs.CR cs.LG
PACZero: PAC-Private Fine-Tuning of Language Models via Sign Quantization
CWI Amsterdam(阿姆斯特丹信息与计算科学研究所);MIT Cambridge(麻省理工学院);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
提出PACZero系列零阶机制,通过符号量化实现零互信息下的PAC隐私微调,在SST-2和SQuAD上取得竞争性结果。
2026-11-09 cs.AI cs.CR cs.LG
Privacy attacks for automatic speech recognition acoustic models in a federated learning framework
Avignon Université(阿维尼翁大学);Université de Lille(里尔大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Centrale Lille(里尔中央理工学院)
本文研究了在自动语音识别(ASR)中从个性化说话人自适应神经网络声学模型(AM)中有效提取说话人信息的方法。这个问题在ASR声学模型的联邦学习的上下文中尤其重要,其中基于从多个客户端接收的更新在服务器上学习全局模型。我们提出了一种方法来分析信息的神经网络AM的基础上的神经网络足迹的所谓的指标数据集。使用这种方法,我们开发了两种攻击模型,旨在从更新的个性化模型中推断说话人身份,而无需访问实际用户的语音数据。在TED-LIUM 3语料库上的实验表明,本文提出的方法是非常有效的,可以提供1- 2%的等出错率(EER)。
2022-01-14 cs.CL cs.CR cs.SD
Analysis of Privacy Policies to Enhance Informed Consent (Extended Version)
在本报告中,我们提出了一种方法,以加强个人数据处理的知情同意。该方法依赖于用于表达、比较和分析隐私策略的隐私策略语言。我们描述了一种工具,它可以自动报告与给定隐私政策相关的隐私风险,以提高数据主体的意识,并允许他们做出更明智的选择。隐私策略的风险分析以物联网为例进行说明。
2019-03-15 cs.CR
Batch-oriented Element-wise Approximate Activation for Privacy-Preserving Neural Networks
针对隐私保护神经网络中全同态加密难以处理非线性激活的问题,提出批量逐元素近似激活方法,以低阶多项式近似ReLU,结合知识蒸馏,在4096图像批量下精度提升1.65%,摊销时间降低99.5%。
2024-03-16 cs.CR
Catering to Your Concerns: Automatic Generation of Personalised Security-Centric Descriptions for Android Apps
Android用户越来越关注他们的数据隐私和设备安全。为了提高用户的安全意识,最近的自动技术通过执行程序分析来产生以安全为中心的描述。然而,生成的文本并不总是解决用户的关切,因为它们通常过于技术性,普通用户无法理解。此外,不同的用户有不同的语言偏好,这与文本不匹配。受此挑战的激励,我们开发了一种创新方案,通过生成安全描述,以清晰易懂的术语解释Android应用程序的隐私和安全相关方面,帮助用户避免恶意软件和隐私泄露应用程序。我们实现了一个原型系统,PERRACTION,生成个性化的安全为中心的描述,自动学习用户的安全问题和语言偏好,以产生面向用户的描述。我们通过实验和用户研究来评估我们的方案。结果清楚地表明,与现有的描述生成器相比,PERFECTION的描述的可读性和用户的安全意识的改善。
2020-08-26 cs.CR
An Effective Privacy-Preserving Data Coding in Peer-To-Peer Network
编码并行(COPE)是一种简单但非常有效的无线网络中的数据编码机制。然而,COPE给攻击者留下了风险,当他们通过网络移动到他们的目的节点时,他们很容易获得保存在数据包中的私有信息。因此,在我们的工作中,一个轻量级的加密方法,即范围,提出了巩固COPE对诚实,但好奇和恶意攻击。诚实但好奇的攻击服务于那些准确遵守协议但试图了解尽可能多的私人信息的对手。此外,这种攻击因此不是破坏性的。然而,它可能会为更危险的攻击留下后门,给系统带来灾难。恶意攻击不仅试图学习私有信息,而且还试图修改数据包以达到有害目的。在我们的工作中,SCOPE协议是防御这两种攻击。COPE数据包中的私有信息通过椭圆曲线加密(ECC)进行加密,并将附加信息插入到SCOPE数据包中,用于使用轻量级哈希椭圆曲线数字签名算法(ECDSA)进行认证过程。然后我们证明了我们的新协议仍然保证是一个安全的数据编码方法,并且是轻量级的,可以有效地在对等无线网络中运行
2018-06-14 cs.CR
Automatic de-identification of Data Download Packages
《通用数据保护条例》(GDPR)授予所有自然人访问其个人数据的权利,前提是这些数据由数据控制者处理。数据控制者有义务以电子格式共享数据,并且通常以所谓的数据下载包(DDP)提供数据。这些DDP包含了公共和私人实体在公民数字生活过程中收集的所有数据,为社会科学家提供了宝贵的财富。然而,数据可以是非常私密的。为了保护研究参与者在使用DDP进行科学研究时的隐私,我们开发了去识别软件,该软件能够处理DDP的典型特征,例如定期更改的文件结构,视觉和文本内容,不同的文件格式,不同的文件结构和用户名。我们调查的软件的性能,并说明如何软件可以针对特定的DDP结构。
2021-05-04 cs.CR
Link Before You Share: Managing Privacy Policies through Blockchain
随着众多在线内容提供方、实用程序和应用程序的出现,每个在线内容提供方、实用程序和应用程序都具有其自己的特定版本的隐私策略及其相关联的开销,对于关心的用户来说,管理和跟踪他们与提供方共享的机密信息变得越来越困难。用户同意提供商收集和共享他们的个人身份信息(PII)。我们开发了一个新颖的框架,可以自动跟踪有关提供商如何存储、使用和共享用户PII数据的详细信息。我们将数据隐私本体与区块链的属性相结合,以开发自动访问控制和审计机制,在跨第三方共享数据时强制执行用户的数据隐私政策。我们还通过实现一个工作系统LinkShare验证了这个框架。在本文中,我们详细描述了我们的框架以及LinkShare系统。大数据用户可以采用我们的方法,自动将其隐私政策应用于数据操作,并跟踪数据在不同利益相关者之间的流动。
2017-10-15 cs.CR
NL2GDPR: Automatically Develop GDPR Compliant Android Application Features from Natural Language
Baidu Research(百度研究院)
最近的隐私泄露事件和更严格的政策法规要求公司和移动应用程序的合规标准要高得多。然而,这些义务也给应用程序开发人员带来了重大挑战,他们需要遵守这些包含各种观点、活动和角色的法规,特别是对于在这方面经验较少或资源有限的小公司和开发人员。为了解决这些障碍,我们开发了一个自动工具NL2GDPR,它可以从开发人员的自然语言描述中生成策略,同时还确保应用程序的功能符合通用数据保护条例(GDPR)。NL2 GDPR是利用百度认知计算实验室开发的信息抽取工具OIA(Open Information Annotation)开发的。NL2GDPR的核心是一个以隐私为中心的信息抽取模型,并附加了GDPR策略查找器和策略生成器。我们进行了全面的研究,以掌握在提取以隐私为中心的信息和生成隐私政策的挑战,同时利用优化这一特定的任务。借助NL2GDPR,我们可以分别实现92.9%、95.2%和98.4%的准确率,正确识别与个人数据存储、处理和共享类型相关的GDPR政策。据我们所知,NL2GDPR是第一个允许开发人员自动生成GDPR合规策略的工具,只需要输入自然语言来描述应用程序功能。请注意,其他非GDPR相关功能可能与生成的功能集成,以构建复杂的应用程序。
2022-08-29 cs.CL cs.CR
Probing Privacy Leaks in LLM-based Code Generation via Test Generation
Nanjing University(南京大学);Tsinghua University(清华大学);Nanyang Technological University(南洋理工大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Soochow University(苏州大学);Hainan University(海南大学)
本文提出一种模拟实际隐私相关代码生成场景的管道,采用测试驱动策略提取生成测试用例中的记忆信息,通过自动构建隐私特征库提高隐私泄露检测效果,实验表明检测到的隐私泄露增加2.56倍。
2026-05-14 cs.CR cs.SE
The TCF doesn't really A(A)ID -- Automatic Privacy Analysis and Legal Compliance of TCF-based Android Applications
Chalmers University of Technology(查尔姆斯理工大学);University of Gothenburg(哥德堡大学);Utrecht University(乌得勒支大学)
研究发现TCF在Android应用中普遍存在,但多数应用在无合法依据下共享用户数据,违反隐私保护法律。
2026-02-27 cs.CR cs.CY
MiniScope: Automated UI Exploration and Privacy Inconsistency Detection of MiniApps via Two-phase Iterative Hybrid Analysis
针对小程序隐私风险缺乏有效检测机制的问题,提出两阶段混合分析工具MiniScope,结合UI探索与跨包分析等技术,在12万余个小程序中发现大量隐私不一致问题,并推动开发者整改。
2024-12-12 cs.CR cs.SE
Towards End-to-End Private Automatic Speaker Recognition
保护隐私的自动说话人验证系统的发展一直是许多研究的焦点,其目的是允许用户在不冒语音隐私风险的情况下进行身份验证。然而,当前的隐私保护方法假设用于认证的模板语音表示(或扬声器嵌入)由用户本地提取。这提出了两个重要问题:首先,说话人嵌入提取模型的知识可能会为认证系统带来安全性和鲁棒性的责任,因为这种知识可能会帮助攻击者制作能够误导系统的对抗性示例;第二,从服务提供商的观点来看,说话者嵌入提取模型可以说是系统中最有价值的组件之一,因此,将其公开是非常不可取的。在这项工作中,我们将展示如何使用安全多方计算,同时保持扬声器的声音和服务提供商的模型私有的扬声器嵌入可以被提取。此外,我们表明,它是可能的,以获得合理的安全性和计算成本之间的权衡。这项工作是补充那些显示如何认证可以私下进行,因此可以被认为是另一个步骤,完全私人自动说话人识别。
2022-06-23 cs.CR eess.AS
Privacy-Preserving Federated Recurrent Neural Networks
本研究提出RHODE系统,依托多方同态加密实现跨机构联邦学习下RNN的隐私保护训练与预测,通过多维打包提升加密运算效率,支持加密梯度裁剪,实验验证其性能接近非安全方案且扩展性良好,为加密联邦RNN训练提供首个基础模块系统。
2023-05-03 cs.CR
AVP-Inspect: Coordinated Cyber-Physical Testing for Privacy Analysis of COTS Apple Vision Pro Applications
George Mason University(乔治梅森大学);William & Mary(威廉与玛丽学院)
针对Apple Vision Pro应用隐私分析,提出协同网络-物理测试框架AVP-Inspect,通过自动设备控制、3D UI探索和隐私分类检测,在324个应用中识别出58.0%存在隐私违规。
2026-09-10 cs.CR
AlignDP: Hybrid Differential Privacy with Rarity-Aware Protection for LLMs
Microsoft(微软)
AlignDP通过混合差分隐私与稀有性感知保护,有效阻止大语言模型的知识转移,通过PAC和RAPPOR技术实现稀有和非稀有字段的隐私保护。
2025-12-19 cs.AI cs.CR cs.LG
Packet2Vec: Utilizing Word2Vec for Feature Extraction in Packet Data
Sandia National Laboratories(桑迪亚国家实验室)
深度学习的一个有吸引力的好处是能够从大部分原始数据中自动提取目标问题的相关特征,而不是利用人工工程和容易出错的手工特征。虽然深度学习在图像分类和自然语言处理等领域取得了成功,但其在原始网络数据包数据的特征提取以进行入侵检测方面的应用在很大程度上尚未开发。在本文中,我们修改了Word 2 Vec的方法,用于文本处理,并将其应用到数据包的自动特征提取。我们称这种方法为Packet 2 Vec。对于2009年DARPA网络数据集上的良性流量与恶意流量的分类任务,我们获得了0.988-0.996之间的受试者工作特征(ROC)的曲线下面积(AUC)和0.604-0.667之间的精确度/召回率曲线的AUC。
2020-04-29 cs.CR cs.LG
Metric geometry of the privacy-utility tradeoff
本文利用度量隐私和度量几何,提出用“熵尺度”刻画最优隐私-精度权衡,并通过多种度量空间示例验证该框架的适用性。
2024-05-01 cs.CR cs.DS math.PR
Whispering Under the Eaves: Protecting User Privacy Against Commercial and LLM-powered Automatic Speech Recognition Systems
Beijing University of Posts and Telecommunications(北京邮电大学);National University of Singapore(新加坡国立大学)
针对实时语音通信中的隐私泄露问题,提出AudioShield框架,通过潜在空间可迁移通用对抗扰动(LS-TUAP)和目标特征自适应技术,在保护语音免受多类ASR系统窃听的同时显著提升了音频质量与实时性。
2025-04-01 cs.CR cs.LG cs.SD
Secure PAC Bayesian Regression via Real Shamir Secret Sharing
Aalborg University(奥尔堡大学)
本文针对多方数据隐私保护下的线性回归问题,提出基于实数 Shamir 秘密共享的安全 PAC 贝叶斯回归协议,并给出安全求逆与安全高斯消元两种求解方法,在保护数据隐私的同时实现模型学习。
2023-04-17 cs.CR cs.LG
TraceSecure: Towards Privacy Preserving Contact Tracing
接触者追踪被广泛用于对抗COVID-19的传播。已经开发了许多应用程序,允许根据用户生成的位置和交互数据自动进行跟踪。然而,人们担心使用这些应用程序时用户数据的隐私和安全性。对于感染病毒的用户来说,这些问题至关重要,因为他们通常需要释放所有数据。出于保护用户隐私的需要,我们提出了两种解决方案。我们的第一个解决方案建立在当前的“基于消息”的方法,我们的第二个利用秘密共享和加法同态加密的想法。
2020-04-08 cs.CR
Parameter-Efficient Transfer Learning under Federated Learning for Automatic Speech Recognition
Google(谷歌公司)
本文研究在保护数据隐私下提升ASR模型在用户特定领域性能的挑战,采用联邦学习与参数高效的领域自适应方法解决海量数据需求与高通信开销问题,证明配备适当适配器的联邦微调能达到与集中式微调相近的性能,为隐私保护ASR服务提供新方向。
2024-08-19 cs.CR cs.LG eess.AS
Detecting Compressed Cleartext Traffic from Consumer Internet of Things Devices
Princeton University(普林斯顿大学)
数据加密是保护消费者设备互联网通信隐私不受网络观察者侵犯的主要方法。因此,自动检测网络流量中未加密数据的能力是审计互联网连接设备的重要工具。现有的方法识别包含明文的网络数据包,但不能区分包含加密数据的数据包与包含压缩的未加密数据的数据包,这可以通过反转压缩算法来容易地恢复。这使得消费者保护倡导者很难识别以压缩未加密格式发送敏感数据的设备。在这里,我们提出了第一种技术,以自动区分加密的压缩未加密的网络传输的每个数据包的基础上。我们应用了三种机器学习模型,并使用在原始数据包数据上训练的卷积神经网络实现了最高66.9%的准确率。这个结果是这个以前未研究的机器学习问题的基线,我们希望这将激发进一步的关注和准确性的提高。为了促进对这一主题的持续研究,我们向公众提供了我们的训练和测试数据集。
2018-05-07 cs.CR cs.LG
FLVoogd: Robust And Privacy Preserving Federated Learning
Delft University of Technology(代尔夫特理工大学);University of Greenwich(格林威治大学)
在这项工作中,我们提出了FLVoogd,一个更新的联邦学习方法,其中服务器和客户端协作消除拜占庭攻击,同时保护隐私。特别是,服务器使用自动的基于密度的空间聚类的应用程序与噪声(DBSCAN)结合S2 PC集群的良性大多数,而不获取敏感的个人信息。同时,客户端建立双模型,并进行基于测试的距离控制,以调整他们的本地模型向全球之一,以实现个性化。我们的框架是自动和自适应的,服务器/客户端不需要在训练过程中调整参数。此外,我们的框架利用安全多方计算(SMPC)操作,包括乘法,加法和比较,不需要昂贵的操作,如除法和平方根。对来自图像分类领域的一些常规数据集进行评价。实验结果表明,FLVoogd在大多数情况下都能有效地拒绝恶意上传,同时避免了服务器端的数据泄露。
2022-06-24 cs.AI cs.CR cs.LG
A Speech Representation Anonymization Framework via Selective Noise Perturbation
University of Southern California(南加州大学);Institute for Creative Technologies(创意技术研究所)
当将语音信号传送到诸如自动语音识别(ASR)和语音情感识别(SER)之类的云服务时,隐私和安全是主要关注点。语音匿名化的现有解决方案主要集中在语音转换或语音修改,以将原始话语转换为具有相似内容但不同或没有身份相关信息的另一个话语。然而,在隐私保护表示形式下共享语音数据的替代方法在很大程度上还未被探索。在本文中,我们提出了一个语音匿名化框架,通过噪声扰动的高效用表示使用预先训练的语音编码器提取的一个选定的子集,实现隐私。该子集使用基于transformer的隐私风险显着性估计器来选择。我们验证我们的框架上的四个任务,即自动说话人验证(ASV),ASR,SER和意图分类(IC)的隐私和效用评估。实验结果表明,与VoicePrivacy 2022挑战赛的语音匿名化基线相比,我们的方法能够实现具有竞争力甚至更好的实用性,提供相同水平的隐私。此外,易于控制的扰动量允许我们的框架具有灵活的隐私-效用权衡范围,而无需重新训练任何组件。
2022-10-28 cs.CR cs.SD eess.AS
SplitAMC: Split Learning for Robust Automatic Modulation Classification
Yonsei University(延世大学)
本文提出基于分割学习框架的SplitAMC,通过交换粉碎数据及梯度保护隐私、降低延迟并增强抗噪性,在所有SNR下准确率和延迟均优于CentAMC与FedeAMC。
2023-04-17 cs.CR cs.DC cs.IT
Towards hyperparameter-free optimization with differential privacy
Amazon(亚马逊);Emory University(埃默里大学)
本研究将自动学习率调度与自动逐样本梯度裁剪结合,适配于任意模型和优化器的差分隐私优化,显著降低超参数调优成本,同时实现最先进的DP性能。
2025-03-02 cs.CL cs.CR cs.CV
Tight Differential Privacy Blanket for Shuffle Model
随着最近对数字经济的关注,个人数据的重要性最近大幅增加。随着这一趋势的发展,数据市场的模式开始成为一个以获得高质量个人信息为交换动机的过程。为了正式保证保护数字经济中涉及的敏感数据的隐私,\emph{differential privacy (DP)}是首选技术,最近引起了社区的广泛关注。然而,通过确保最高级别的隐私保护,同时保留数据的实用性,优化隐私-实用性权衡至关重要。在本文中,我们从理论上推导出充分和必要条件,有紧$(ε,\,δ)$ -DP毯的洗牌模型,据我们所知,还没有被证明之前,并因此,表征最好的可能的DP保护洗牌模型,可以在数据市场中实施,以确保隐私保护的数字经济交易。
2022-05-09 cs.CR
IPPO: A Privacy-Aware Architecture for Decentralized Data-sharing
在线跟踪器个性化广告活动,与传统渠道相比,其功效呈指数级增长。这样做的缺点是,成千上万的大多数未知的系统拥有我们的个人资料,并在我们不知情的情况下侵犯我们的隐私。IPPO通过基于区块链的去中心化数据市场发布匿名数据,扭转局面,重新赋予用户数据的权力。我们还提出了一种基于机器学习和大数据分析的服务,以自动识别网络跟踪器并基于营养标签概念构建隐私标签(PL)。本文介绍了IPPO的动机、愿景、架构和研究挑战。
2020-01-17 cs.CR cs.NI
Skeptic: Automatic, Justified and Privacy-Preserving Password Composition Policy Selection
提出Skeptic工具,基于真实密码数据构建概率分布并模拟用户重选行为,自动选择均匀性最优的密码组合策略,无需访问原始数据即可论证选择,并验证了与实证研究的一致性。
2024-03-15 cs.CR
Toward sensitive document release with privacy guarantees
隐私已成为现代信息社会的一个严重问题。每天交换或向不受信任方发布的许多数据的敏感性要求负责任的组织采取适当的隐私保护措施。如今,这些数据中的大部分是文本(例如,电子邮件、社交媒体上发布的消息、医疗保健结果等)这由于其非结构化和语义性质而对自动数据保护方法构成了挑战。事实上,文本文档通常是手动保护的,这个过程称为文档编校或清理。为此,人类专家识别敏感术语(即,可能揭示身份和/或机密信息的术语)并相应地保护它们(例如,通过移除或优选地通过泛化)。为了减轻专家从这个繁重的任务,在以前的工作中,我们介绍了理论基础的C-消毒,一个固有的语义隐私模型,提供了基础的自动文档编辑/消毒算法的发展,并提供了明确的和先验的隐私保证数据保护;尽管它的潜在好处,C-消毒在应用于实践时仍然存在一些限制(主要是关于灵活性,效率和准确性)。在本文中,我们提出了一个新的更灵活的模型,命名为(C,g(C))-消毒,它使一个直观的配置之间的权衡所需的保护水平(即,受控的信息公开)和保存受保护数据的效用(即,要保留的语义量)。此外,我们还提出了一套技术解决方案和算法,提供了一个有效的和可扩展的实现模型,并提高其实际的准确性,我们也通过实证实验说明。
2017-01-02 cs.CR
Android OS Privacy Under the Loupe -- A Tale from the East
中国目前是Android智能手机用户最多的国家。我们使用静态和动态代码分析技术相结合的方法来研究中国最受欢迎的三家供应商的Android智能手机上预装的系统应用程序传输的数据。我们发现,数量惊人的预装系统、供应商和第三方应用程序被授予了危险的权限。通过流量分析,我们发现这些包向许多第三方域传输与用户设备(永久标识符),地理位置(GPS坐标,网络相关标识符),用户配置文件(电话号码,应用程序使用情况)和社交关系(例如,呼叫历史),而无需同意或甚至通知。这带来了严重的去匿名化和跟踪风险,当用户离开中国时,这些风险会延伸到中国境外,并要求更严格地执行最近通过的数据隐私立法。
2023-02-03 cs.CR
Machine-Readable Privacy Certificates for Services
在服务网络上对个人数据进行隐私感知处理需要管理来自技术和法律领域的许多问题。已经提出了几种方法来匹配隐私要求(在客户端侧)和隐私保证(在服务提供商侧)。尽管如此,确保有效的数据保护(在可能的情况下)仍然依赖于大量的人工努力,并使组织面临重大的(不)合规风险。在本文中,我们提出的想法,一个隐私认证计划的生产和管理机器可读的文物的形式的隐私证书可以发挥重要作用,对解决这个问题。数字隐私证书表示服务的隐私属性保持不变的原因,并描述支持它的隐私措施。此外,隐私证书可用于自动选择证书与客户端策略(隐私要求)匹配的服务。我们的建议依赖于Assert4Soa项目中开发的概念模型的演变,以及专门为表示隐私属性而定制的证书格式。为了验证我们的方法,我们提出了一个工作的例子,显示如何隐私财产保留为基础的不可链接性可以认证的银行金融服务。
2013-07-26 cs.CR
PriCL: Creating a Precedent A Framework for Reasoning about Privacy Case Law
我们介绍PriCL:第一个框架表达和自动推理隐私判例法的先例。PriCL在表达世界属性的底层逻辑中是参数化的,并为法院判决、其理由、理由适用的情况以及法院层次结构提供支持。此外,该框架提供了隐私判例法和规范的概念,现有的基于规则的隐私研究之间的紧密联系。在自动化方面,我们确定了隐私案件的主要推理任务,如推断法律许可或提取规范。为了解决这些任务,我们提供了通用算法,具有特别有效的实现在一个表达的底层逻辑。最后,我们推导出一个基于法律概念的演绎的定义,并随后提出了一个等价的刻画的逻辑可满足性。
2015-01-14 cs.CR cs.LO
Toward the Cure of Privacy Policy Reading Phobia: Automated Generation of Privacy Nutrition Labels From Privacy Policies
提出首个从隐私政策自动生成隐私营养标签的框架,以解决隐私政策阅读恐惧症,在数据收集实践上F1为0.75,安全实践平均F1为0.93,能检测90.1%低报问题。
2023-06-19 cs.CR cs.SE
Empowering Manufacturers with Privacy-Preserving AI Tools: A Case Study in Privacy-Preserving Machine Learning to Solve Real-World Problems
本文提出一个隐私保护平台,使中小型制造商能安全共享数据,并通过食品晶体图像分析用例开发并部署了自动计数与尺寸分布表征工具,在保护专有数据的同时提升质量控制效率。
2025-07-02 cs.AI cs.CR cs.CV
Private Estimation when Data and Privacy Demands are Correlated
UC Berkeley, USA(加州大学伯克利分校)
针对数据与隐私需求相关时的私有估计问题,提出算法并在PAC误差和均方误差下建立理论保证,实现极小极大最优,实验验证优于基线。
2025-04-19 cs.CR cs.LG stat.ML
Aegis: A Trusted, Automatic and Accurate Verification Framework for Vertical Federated Learning
iSING Lab, Hong Kong University of Science and Technology(香港科技大学iSING实验室);Clustar Technology Co., Ltd.(星云科技股份有限公司);Peng Cheng Lab(鹏城实验室)
垂直联邦学习(VFL)利用各种隐私保护算法,例如,同态加密或基于SecureBoost的秘密共享,以确保数据隐私。然而,这些算法都需要一个半诚实的安全定义,这在现实世界的应用中引起了关注。在本文中,我们提出了Aegis,一个可信的,自动的,准确的验证框架来验证VFL作业的安全性。Aegis与当地各方分开,以确保框架的安全。此外,它通过将VFL作业定义为有限状态机来统一验证不同的算法并重现整个作业以提供更准确的验证,从而自动适应不断发展的VFL算法。我们在金融和医疗数据集上使用不同的威胁模型实施和评估Aegis。评价结果表明:1)Aegis可以检测到95%的威胁模型,2)它在84%的VFL作业时间内提供细粒度的验证结果。
2021-08-23 cs.AI cs.CR cs.DC