Privacy Technologies for Financial Intelligence
School of Information Technology, Deakin University（迪肯大学信息技术学院）；Data61, CSIRO（CSIRO数据61）；School of Computing, Australian National University（澳大利亚国立大学计算机学院）
本文探讨了隐私技术在金融犯罪检测中的应用，旨在提升金融智能领域的检测能力。
2026-02-15 cs.CR
Privacy-preserving Fuzzy Name Matching for Sharing Financial Intelligence
针对金融机构间数据共享受限的问题，提出基于全同态加密和MinHash签名的隐私保护模糊姓名匹配方案，利用聚类提升效率，仅揭示潜在匹配可能性，搜索性能满足需求且通信开销大幅降低。
2024-11-08 cs.CR
Context-aware Data Aggregation with Localized Information Privacy
University of Arizona（亚利桑那大学）
本文提出了局部信息隐私（LIP），作为一种新的隐私定义，它允许统计聚合，同时保护用户的隐私，而不依赖于可信的第三方。上下文感知的概念被纳入LIP的先验知识的引入，这使得设计的隐私保护的数据聚合。我们表明，LIP放松本地化差分隐私（LDP）的概念，明确建模对手的知识。然而，它比$2ε$ -LDP和$ε$ -互信息保密性更严格。与其他方法相比，局部先验的结合允许LIP实现更高的效用。然后，我们提出了一个隐私保护数据聚合的优化框架，目标是在满足LIP隐私约束的同时最小化预期平方误差。实用性和隐私的权衡下得到几个模型的封闭形式。然后，我们验证我们的分析{数值分析}使用合成和真实世界的数据。结果表明，我们的LIP机制提供了更好的实用性和隐私的权衡比LDP和先验分布不均匀时，LIP的优势更加显着。
2018-07-31 cs.CR cs.IT cs.LG
Differential Privacy as a Mutual Information Constraint
差分隐私是一个精确的数学约束，旨在确保数据库中的各个信息片段的隐私，即使在查询正在回答有关聚合。直觉上，人们必须接受差分隐私能保证什么和不能保证什么。例如，该定义可以防止一个强大的对手知道数据库中除了一个条目之外的所有条目，从而进一步推断最后一个条目。这一强对抗假设可能被忽略，导致对差分隐私的隐私保证的误解。在这里，我们给出了一个等价的定义隐私使用的互信息，使一些差分隐私的微妙之处。互信息差分隐私在其强度方面实际上夹在$ε$ -差分隐私和$(ε,δ)$ -差分隐私之间。与以前使用无条件互信息的作品相比，差分隐私从根本上与条件互信息相关，伴随着数据库分布的最大化。除了对差分隐私给出一个更简单、更直观的定义外，使用互信息的概念优势在于，它的属性已经被很好地理解了。差分隐私的几个属性很容易验证的互信息替代，如合成定理。
2016-08-12 cs.CR cs.IT math.IT
On the Information Privacy Model: the Group and Composition Privacy
如何以保护数据集中包含其数据的个人隐私的方式查询数据集是一个重要的问题。信息隐私模型是香农信息理论模型的一种变体，通过控制每个对手从查询输出中获得的个人数据的信息量来保护个人的隐私。该模型还假设每个对手对查询数据集的不确定性不是很小，以提高数据的效用。在本文中，我们证明了该模型的组隐私和组合隐私性质的一些结果，其中组隐私保证了一组个体的隐私被保护，而组合隐私保证了多个查询也保护了一个个体的隐私。我们将这两个性质的证明归结为两个信道容量之差的估计。我们的证明大大受益于一些信息理论的工具和方法。
2019-07-22 cs.CR cs.IT math.IT
Constructing Privacy Channels from Information Channels
数据隐私保护研究如何在查询数据集的同时保护数据集中包含其敏感信息的个人隐私。信息隐私模型通过使用噪声信道（称为隐私信道）来从查询的输出中过滤掉个人的大部分信息，从而保护个人的隐私。本文研究了如何构建隐私通道，这是具有挑战性的，因为它需要评估的最大量的披露信息的每个人所包含的查询的输出，称为个人信道容量。我们的主要贡献是一个有趣的结果，它可以转换的问题，评估一个隐私信道的个人信道容量，这等于评估的能力的无限数量的信道的问题，到有限数量的信道的容量评估的问题。这一结果为我们利用信息论中的结果来构建隐私通道提供了一条途径。作为一些例子，它被用来构建几个基本的隐私信道，如随机响应隐私信道，指数隐私信道和高斯隐私信道，它们分别是差分隐私的随机响应机制，指数机制和高斯机制的对应物。
2019-10-21 cs.CR cs.IT math.IT
Information-theoretic metrics for Local Differential Privacy protocols
本地差分隐私（LDP）协议允许聚合器获得关于用户群的敏感数据的人口统计，同时保护各个用户的隐私。为了理解聚合器效用和用户隐私之间的权衡，我们引入了新的信息理论度量效用和隐私。与其他LDP指标相反，这些指标突出了这样一个事实，即用户和聚合器对根本不同的信息域感兴趣。我们展示了我们的指标如何与$\varepsilon$ -LDP，\emph{de facto}标准的隐私度量，给后者的信息理论解释。此外，我们使用我们的指标来定量研究一些流行的协议的隐私效用权衡。
2019-10-17 cs.CR cs.IT math.IT
Quantifying Privacy via Information Density
本文通过信息密度上下界约束，建立了局部信息隐私、非对称局部信息隐私、逐点最大泄漏与局部差分隐私之间的新关系，并证明信息密度下界与风险规避型对手在猜测框架和代价函数框架下的等价性，为隐私机制设计提供理论依据。
2024-02-20 cs.CR cs.IT math.IT
An Information-Theoretic Privacy Criterion for Query Forgery in Information Retrieval
在以前的工作中，我们提出了一个新的信息理论隐私准则查询伪造领域的信息检索。我们的标准衡量隐私风险之间的分歧用户和人口的查询分布，并考虑作为一个特定的情况下，用户的分布熵。在这项工作中，我们做出了双重贡献。首先，我们彻底解释和证明我们以前的工作中提出的隐私度量，阐述了著名的熵最大化方法和使用熵和分歧作为隐私的措施之间的密切联系。其次，我们试图弥合隐私和信息理论社区之间的差距，通过大量调整我们原来的工作，以达到更广泛的受众，不熟悉信息论和类型的方法的一些技术。
2011-11-17 cs.CR cs.IT math.IT
$α$-Mutual Information: A Tunable Privacy Measure for Privacy Protection in Data Sharing
McGill University（麦吉尔大学）
本文提出以$α$-互信息作为可调隐私度量，通过对抗深度学习框架优化数据发布，在图像和时间序列数据上验证其优于互信息基线，并增强对侧信息攻击的鲁棒性。
2023-10-27 cs.CR cs.IT cs.LG
A Graph Symmetrisation Bound on Channel Information Leakage under Blowfish Privacy
School of Computing and Information Systems, University of Melbourne（墨尔本大学计算与信息系统学院）；Australian Tax Office（澳大利亚税务局）；School of Mathematics and Statistics, University of Melbourne（墨尔本大学数学与统计学院）
Blowfish隐私是差分隐私的最新概括，它可以提高效用，同时保持具有语义保证的隐私策略，这是推动计算机科学中差分隐私流行的一个因素。本文将Blowfish隐私与通信理论界提出的一种度量信息通道隐私损失的重要方法：最小熵泄漏联系起来。输入数据相邻关系中的对称性对于差分隐私和最小熵泄漏之间的已知连接是中心的。但是，虽然差分隐私具有很强的对称性，Blowfish相邻关系对应于任意简单的图形，由于该框架的灵活的隐私政策。要绑定的最小熵泄漏的河豚私人机制，我们组织我们的分析对称分区对应的轨道图自同构群。一个满足我们的渐近相等界的构造证明了紧性。
2021-10-13 cs.CR cs.IT cs.LG
Privacy for Fairness: Information Obfuscation for Fair Representation Learning with Local Differential Privacy
HKUST（香港科技大学）；ShanghaiTech University（上海科技大学）；Data61, CSIRO（Data61 联邦科学与工业研究组织数据61分部）
本文提出基于信息瓶颈和局部差分隐私的信息混淆理论框架，通过变分表示编码方法在保护隐私的同时实现公平表示学习，并经实验验证其有效性。
2024-02-16 cs.CR cs.IT cs.LG
Maximal Information Leakage based Privacy Preserving Data Disclosure Mechanisms
通常需要向公共领域公开训练数据，同时保护某些敏感标签的隐私。我们使用信息理论的措施来开发这样的隐私保护数据披露机制。我们的机制涉及扰动的方式，在隐私效用权衡的平衡的数据向量。我们使用输出数据向量和机密标签之间的最大信息泄漏作为我们的隐私度量。我们首先研究了理论上的Bernoulli-Gaussian模型，并研究了只有高斯分布的平均值可以被扰动时的隐私效用权衡。我们表明，最佳的解决方案是相同的情况下，当使用错误的概率在对手的效用进行测量。然后，我们考虑将该框架应用于数据驱动的环境，并提供对Sibson互信息的经验近似。通过对MNIST和FERG数据集进行实验，我们表明，我们提出的框架实现了相当于或更好的隐私比以前的方法的基础上互信息。
2019-04-04 cs.CR cs.IT math.IT
Quick survey of graph-based fraud detection methods
University of Bucharest（布加勒斯特大学）；The Research Institute University of Bucharest (ICUB)（布加勒斯特大学研究院（ICUB））
一般来说，异常检测是区分具有明确定义的模式或签名的正常数据样本和不符合预期轮廓的数据样本的问题。金融交易、客户评论、社交媒体帖子都以关系信息为特征。在这些网络中，欺诈行为可能表现为一个独特的图形边缘，例如垃圾邮件、节点或更大的子图结构，例如当一组客户参与洗钱计划时。最常见的是，这些网络被表示为属性图，数字特征补充了关系信息。我们提出了一个调查的异常检测技术用于欺诈检测，利用图形结构的数据和包含在属性的上下文信息。
2021-01-11 cs.CR cs.LG stat.ML
Information Density Bounds for Privacy
KTH Royal Institute of Technology（皇家理工学院）；Inria Saclay（巴黎萨克雷国家研究院）；University of New South Wales, Canberra（新南威尔士大学堪培拉分校）
本文通过引入点wise最大成本（PMC）隐私度量，探讨了隐私保护中信息密度下限的设定，并揭示了PMC与LDP等隐私机制之间的关系，填补了隐私度量分类学中的空白。
2026-03-13 cs.CR cs.IT math.IT
Development and Analysis of Deterministic Privacy-Preserving Policies Using Non-Stochastic Information Theory
CSIRO’s Data61（澳大利亚联邦科学与工业研究组织数据61）；Department of Electrical and Electronic Engineering at the University of Melbourne（墨尔本大学电气与电子工程系）
本文提出了一种基于非随机信息论的确定性隐私度量方法，通过最小化信息泄露来衡量隐私保护，证明了k-匿名方法实际上并不具备隐私保护特性。
2019-01-23 cs.CR cs.IT cs.SY
Taking a Lesson from Quantum Particles for Statistical Data Privacy
隐私正受到前所未有的丰富数据推动的人工智能革命的威胁。差分隐私是一种隐私保护的候选方案，但由于缺乏系统的参数设置方法（称为隐私预算），它容易受到对抗攻击的影响，行为保守，并导致错误实现。另一种方法是使用熵的信息理论隐私，其缺点是需要私有数据的先验分布。在这里，通过使用Fisher信息，信息理论的隐私框架进行了扩展，以避免不必要的假设的私人数据。通过最小化Fisher信息提取的最佳隐私保护加性噪声必须遵循与时间无关的薛定谔方程。隐私和效用之间的一个基本的权衡也被证明，让人想起海森堡不确定性原理。
2019-08-14 cs.CR cs.IT math.IT
Explaining epsilon in local differential privacy through the lens of quantitative information flow
本文结合信息论与QIF的g-leakage框架，为局部差分隐私的epsilon参数提供操作性解释，证明其作为容量度量可通过对数提升和最大情形g-leakage表征，解决了epsilon的可解释性问题。
2023-05-18 cs.CR cs.IT math.IT
Privacy-Aware Location Sharing with Deep Reinforcement Learning
基于位置的服务（LBS）已经变得广泛流行。尽管这些服务具有实用性，但它们引起了对隐私的担忧，因为它们需要与不受信任的第三方共享位置信息。在这项工作中，我们研究的隐私效用权衡位置共享机制。现有的方法主要集中在共享单个位置的隐私或近视的位置跟踪隐私，他们都没有考虑到过去和当前位置之间的时间相关性。虽然这些方法保留了当前时间的隐私，但它们可能会在跟踪级别泄漏大量信息，因为对手可以利用跟踪中的时间相关性。我们提出了一个信息理论上最优的隐私保护位置发布机制，考虑到时间相关性。我们通过用户真实位置轨迹和发布位置轨迹之间的互信息来度量隐私泄露。为了解决历史相关的互信息最小化问题，我们将该问题重新表示为马尔可夫决策过程（MDP），并使用异步行动者-批评者深度强化学习（RL）解决它。
2019-10-03 cs.CR cs.IT math.IT
Privacy Against Statistical Inference
我们提出了一个通用的统计推断框架，以捕捉隐私的威胁所引起的用户发布的数据，一个被动的，但好奇的对手，公用事业的限制。我们表明，应用这个一般框架的设置，对手使用的自我信息成本函数自然会导致一个非渐近信息理论的方法来表征最佳可实现的隐私效用约束。基于这些结果，我们引入了两个隐私度量，即平均信息泄漏和最大信息泄漏。我们证明，在这两个指标下，得到的设计问题，找到最佳的映射从用户的数据到隐私保护输出可以被铸造作为一个修改后的率失真问题，反过来，可以制定为一个凸规划。最后，我们比较了我们的框架与差分隐私。
2012-10-08 cs.CR cs.IT math.IT
Differential Privacy versus Quantitative Information Flow
差分隐私是数据库社区中非常流行的隐私概念。粗略地说，这个想法是，如果两个不同条目产生某个答案的概率之比受e^ε约束，则随机化查询机制提供了足够的隐私保护。在匿名性和信息流领域，存在类似的对控制信息泄漏的关注，即限制从可观察量推断秘密信息的可能性。近年来，研究人员提出用信息论中的互信息概念来量化泄漏。有两种主要的方法属于这一类：一种是基于香农熵，另一种是基于雷尼最小熵。后者与所谓的贝叶斯风险有关，贝叶斯风险表示猜测秘密的概率。在本文中，我们将展示如何建模的查询系统中的信息理论的渠道，我们比较的概念差分隐私与互信息。我们表明，差分隐私的概念是严格强，在这个意义上，它意味着一个绑定的互信息，但不是反之亦然。
2010-12-20 cs.CR cs.DB cs.IT
Privacy Information Classification: A Hybrid Approach
Auckland University of Technology（奥克兰理工大学）；University of Tasmania（塔斯马尼亚大学）；Nagoya Institute of Technology（名古屋工业大学）
每天都有大量的信息发布到在线社交网络上。个人隐私相关信息也可能在最终用户无意识中泄露。识别与隐私相关的数据并保护在线社交网络用户免受隐私泄露的影响是非常重要的。在此背景下，本研究旨在提出并发展一种混合隐私分类方法，以检测并分类来自OSN的隐私信息。所提出的混合方法采用深度学习模型和基于本体的模型来进行隐私相关的信息抽取。大量的实验进行了验证所提出的混合方法，和实证结果表明，其优越性，在协助在线社交网络用户的隐私泄漏。
2021-01-27 cs.AI cs.CR
Information Theoretic Evaluation of Privacy-Leakage, Interpretability, and Transferability for Trustworthy AI
Software Competence Center Hagenberg（哈根贝格软件能力中心）；University of Rostock（罗斯托克大学）
为了开发考虑到可信AI的指导方针和原则的机器学习和深度学习模型，引入了一种新的信息理论可信AI框架。一个统一的方法，“隐私保护的可解释性和可转移的学习”被认为是研究和优化隐私，可解释性和可转移性方面之间的权衡。变分成员映射贝叶斯模型用于分析近似的定义的信息理论措施的隐私泄漏，可解释性和可转让性。该方法包括近似的信息理论的措施，通过最大限度地利用变分优化的下限。该研究提出了一种统一的信息理论方法，以严格的分析方式研究可信AI的不同方面。该方法是通过大量的实验基准数据集和现实世界的生物医学应用程序有关的个人使用心率变异性分析的精神压力的检测证明。
2022-04-12 cs.AI cs.CR cs.LG
The Privacy Funnel from the viewpoint of Local Differential Privacy
我们考虑一个数据库$\vec{X} = (X_1,\cdots,X_n)$包含$n$用户的数据。数据聚合器想要公开数据库，但希望净化数据集以隐藏与$X_i$相关的敏感数据$S_i$。在隐私漏斗中考虑此设置，隐私漏斗使用互信息作为泄漏度量。这种方法的缺点是互信息不能给出最坏情况的保证，并且找到最佳的消毒协议可能在计算上是禁止的。我们解决这些问题，通过使用差分隐私指标，并通过考虑本地协议的一个条目上的时间。我们表明，在本地差分隐私和本地信息隐私泄漏指标，可以有效地获得最佳协议，但是，本地信息隐私都更紧密地结合隐私漏斗的隐私要求的情况下，更有效地计算。我们还考虑的情况下，每个用户都有多个属性（即$X_i = (X^1_i,\cdots,X^m_i)$），我们定义\emph{Side-channel Resistant Local Information Privacy}，我们给出了有效的方法来找到满足这一标准的协议，同时仍然提供良好的实用程序。探索性实验证实了这些方法的有效性。
2020-03-07 cs.CR cs.DB cs.IT
Differential Privacy: on the trade-off between Utility and Information Leakage
差分隐私是数据库社区中非常流行的隐私概念。粗略地说，这个想法是，如果两个相邻数据集给出相同答案的概率之比受e^n约束，则随机化查询机制提供了足够的隐私保护。在信息流领域，存在对控制信息泄漏的类似关注，即限制从可观察量推断秘密信息的可能性。近年来，研究人员提出用Rényi min互信息来量化泄漏，这是一个与贝叶斯风险严格相关的概念。在本文中，我们将展示如何建模的查询系统中的信息理论的渠道，我们比较的概念差分隐私与互信息。我们发现，差分隐私意味着一个界上的互信息（但不是反之亦然）。此外，我们证明了我们的界是紧的。然后，我们考虑随机化机制的效用，它表示随机化答案平均与真实答案的接近程度。我们表明，差分隐私的概念意味着效用上的界限，也紧，我们提出了一种方法，在一定条件下建立一个最佳的随机化机制，即提供最佳效用的机制，同时保证差分隐私。
2011-08-25 cs.CR cs.DB cs.IT
Precise evaluation of leaked information with universal2 privacy amplification in the presence of quantum attacker
当窃听者具有相关的量子态时，我们处理密钥提取。我们提出了不同于Renner的量子隐私放大定理，它是基于1+s阶量子条件Rényi熵的。利用这些定理，我们得到了一个指数递减率的泄漏信息和渐近含糊率，这还没有得到迄今为止在量子设置。
2012-10-11 cs.CR cs.IT math.IT
An information theorist's tour of differential privacy
本文从信息论视角解读差分隐私，将差分隐私算法建模为数据到输出的信道，梳理信息论与差分隐私理论及应用的关键关联，为相关信息度量赋予操作意义。
2025-10-11 cs.CR cs.IT math.IT
Unifying Privacy Accounting: Information Equivalence and Information Loss
本文统一了四种差分隐私曲线概念，证明信息等价性，并量化RDP与zCDP间的信息损失，指出保留完整RDP曲线可显著降低噪声方差并提升DP-SGD准确率。
2026-10-05 cs.CR cs.IT math.IT
Measuring and Controlling Split Layer Privacy Leakage Using Fisher Information
Pennsylvania State University（宾夕法尼亚州立大学）；Meta AI；Georgia Institute of Technology（佐治亚理工学院）；Cornell University（康奈尔大学）
拆分学习和推理建议运行跨客户端设备和云拆分的大型模型的训练/推理。然而，这样的模型分割强加了隐私问题，因为流经分割层的激活可能泄漏关于客户端的私有输入数据的信息。目前还没有好的方法来量化有多少私人信息通过分离层泄露，也没有好的方法来将隐私提高到所需的水平。在这项工作中，我们提出使用Fisher信息作为隐私度量来测量和控制信息泄漏。我们表明，费舍尔信息可以提供一个直观的理解有多少私人信息泄漏通过分裂层，在一个无偏重建攻击者的错误界的形式。然后，我们提出了一个隐私增强技术，ReFIL，可以强制执行用户所需的水平的费舍尔信息泄漏在分裂层，以实现高隐私，同时保持合理的效用。
2022-09-21 cs.CR cs.LG
The Economics of Privacy and Utility: Investment Strategies
由于个人信息的不受限制的披露，不可避免的隐私泄露激发了对健壮的隐私保护机制的广泛研究。然而，现有的研究大多局限于在静态环境下解决问题，而忽略了随着时间的推移隐私泄漏。不幸的是，这种隐私处理在实际环境中是不够的，在实际环境中，用户随着时间的推移连续地公开他们的个人信息，导致用户的敏感信息的累积泄漏。在本文中，我们考虑在有限的时间范围内的隐私泄漏和调查的最佳策略，以最大限度地提高所披露的数据的效用，同时限制有限的地平线隐私泄漏。我们认为一个简单的隐私机制，涉及压缩用户的数据之前，每次披露，以满足未来的隐私所需的约束。我们进一步激励几种算法来优化动态隐私效用权衡，并通过广泛的综合性能测试来评估它们的性能。
2022-07-04 cs.CR cs.GT cs.IT
Bounding the Invertibility of Privacy-preserving Instance Encoding using Fisher Information
Pennsylvania State University（宾夕法尼亚州立大学）；Meta AI；Georgia Institute of Technology（佐治亚理工学院）；Cornell University（康奈尔大学）
本文提出基于Fisher信息的理论化隐私度量，用于界定隐私保护实例编码的可逆性，兼具直观性与实用性，并在理论与实证层面验证其有效性。
2023-05-06 cs.CR cs.LG
Almost Perfect Privacy for Additive Gaussian Privacy Filters
我们研究的最大互信息的一个随机变量$Y$（代表非私人信息）显示通过加性高斯信道时，保证只有$ε$位的信息被泄露的随机变量$X$（代表私人信息），与$Y$。用$g_ε(X,Y)$表示这个量，我们表明，对于完美的隐私，即，对于任意一对绝对连续的随机变量$ε=0$，我们得到了$g_0(X,Y)=0$，然后导出了小的$ε$的$g_ε(X,Y)$的二阶近似。这种近似被证明是有关的强数据处理不等式的联合分布$P_{XY}$在适当的条件下的互信息。接下来，出于对数据隐私的操作解释，我们制定了隐私效用权衡在相同的设置使用估计理论的数量，并获得明确的界限$ε$是足够小的时候，这个权衡使用的近似公式推导出$g_ε(X,Y)$。
2016-08-13 cs.CR cs.IT math.IT
Private Information Retrieval With Arbitrary Privacy Requirements for Graph-Based Storage
University of Maryland, College Park（马里兰大学帕克分校）
本文重新定义了私有信息检索中隐私的定义，以适应灵活的隐私需求。通过路径图和环形图两种存储设置，探讨了不同隐私设置下的容量界限或精确容量。
2026-05-11 cs.CR cs.IT cs.NI
Privacy-Preserving State Estimation with Crowd Sensors: An Information-Theoretic Respective
University of Melbourne（墨尔本大学）
本文研究了使用群体传感器进行线性时不变动态系统隐私保护状态估计问题，通过设计具有信息论视角的隐私保护噪声，实现隐私与效用的平衡。
2025-09-21 cs.CR cs.IT cs.SY
Local Information Privacy and Its Application to Privacy-Preserving Data Aggregation
在本文中，我们研究了本地信息隐私（LIP），并设计了基于LIP的统计聚集机制，同时保护用户的隐私，而不依赖于可信的第三方。上下文感知的概念被纳入LIP，它可以被看作是明确的建模对手的背景知识。它可以利用先验分布设计隐私保护机制，这可能比本地差分隐私（LDP）等上下文无关概念实现更好的实用性与隐私权衡。我们提出了一个优化框架，以最大限度地减少在数据聚合的均方误差，同时保护隐私的每个单独的用户的输入数据或相关的潜在变量，同时满足LIP约束。然后，我们研究了两种不同类型的应用程序：（加权）求和和直方图估计，并推导出最佳的上下文感知数据扰动参数为每种情况下，基于随机响应类型的机制。我们进一步比较了LIP和LDP之间的效用-隐私权衡，并从理论上解释了为什么先验知识的引入扩大了扰动参数的可行区域，从而导致更高的效用。我们还将基于LIP的隐私机制扩展到更一般的情况下，确切的先验知识是不可用的。最后，我们验证了我们的分析模拟使用合成和真实世界的数据。结果表明，我们的基于LIP的隐私机制提供了更好的实用性和隐私的权衡比LDP，和LIP的优势是更显着的先验分布时，更偏斜。
2020-11-29 cs.CR cs.DB cs.IT
Learning Robust and Privacy-Preserving Representations via Information Theory
Illinois Institute of Technology（伊利诺伊理工学院）；Milwaukee School of Engineering（密尔沃基工学院）；University of Connecticut（康涅狄格大学）
本文提出信息论框架，通过表示学习同时抵御安全与隐私攻击，并推导出鲁棒性与隐私间的固有权衡及隐私泄露保证。
2024-12-15 cs.CR cs.LG
On the Relation Between Identifiability, Differential Privacy and Mutual-Information Privacy
本文研究了可识别性、差分隐私和互信息隐私这三种不同隐私概念之间的关系。在一个统一的隐私失真框架下，失真被定义为输入和输出数据库的汉明距离，我们建立了这三个隐私概念之间的一些基本联系。给定失真级别$D$，将$ε_{\mathrm{i}}^*(D)$定义为最小（最佳）可识别性级别，并且将$ε_{\mathrm{d}}^*(D)$定义为最小差分隐私级别。我们刻画了$ε_{\mathrm{i}}^*(D)$和$ε_{\mathrm{d}}^*(D)$，并证明了在一定范围内，$D$的$ε_{\mathrm{i}}^*(D)-ε_X\leε_{\mathrm{d}}^*(D)\leε_{\mathrm{i}}^*(D)$，其中$ε_X$是依赖于原始数据库$X$分布的常数，当$X$分布均匀时，$ε_X$减小到零.此外，我们表明，可识别性和互信息隐私是一致的，在这个意义上，给定的失真水平$D$，机制，优化的互信息隐私也最小化的可识别性水平。
2015-08-22 cs.CR
PrivacyRestore: Privacy-Preserving Inference in Large Language Models via Privacy Removal and Restoration
South China University of Technology（华南理工大学）；Pazhou Laboratory（琶洲实验室）；Hong Kong University of Science and Technology（香港科学与技术大学）
针对LLM推理中隐私保护不足、性能下降或开销大的问题，提出即插即用的PrivacyRestore方法，通过服务器训练并发布恢复向量，客户端聚合后发送至服务器，在推理时利用激活引导恢复隐私，有效保护隐私且保持可接受的性能与开销。
2025-05-28 cs.AI cs.CR
Privacy issues on biometric systems
Escola Universitaria Politècnica de Mataró（马塔罗理工学院）
在21世纪，人们对隐私问题有着浓厚的兴趣。技术允许在未经个人同意的情况下获取个人信息，计算机使分享和处理这些信息成为可能，这可能带来破坏性的影响。从某种意义上说，生物特征信息是个人信息，所以当有人声称生物特征信息是对个人隐私的企图时，重要的是要有意识地了解什么是真的，什么是假的。在本文中，涉及到这个问题的关键点。
2022-02-23 cs.CR cs.LG
It's My Agent, Not Me: Personal Privacy Boundaries in AI-Delegated Information Sharing
Department of Human Centered Design & Engineering, University of Washington（华盛顿大学人中心设计与工程系）；School of Information Sciences, University of Illinois（伊利诺伊大学香槟分校信息科学学院）；Khoury College of Computer Sciences, Northeastern University（东北大学计算机科学学院）
本研究提出基于AI的判别性任务引出隐私边界，通过受试者间实验发现沟通角色、AI委托及隐私需求影响披露接受度，主张将细微隐私边界作为AI对齐目标。
2026-10-15 cs.AI cs.CR
When and where do you want to hide? Recommendation of location privacy preferences with local differential privacy
近年来，相当精确地获得位置信息已经变得容易。但此类信息的获取存在个人身份识别、敏感信息泄露等风险，需要保护位置信息的隐私。为此，人们应该知道他们的位置隐私偏好，即他/她是否可以在每个地点和时间发布位置信息。然而，每个用户做出这样的决定并不容易，并且每次设置隐私偏好是麻烦的。因此，我们提出了一种方法来推荐位置隐私偏好的决策。与现有方法相比，该方法利用矩阵分解提高了推荐的准确率，并利用局部差分隐私严格保护隐私，而现有方法没有实现形式化的隐私保护。此外，我们还找到了一个位置隐私偏好的最佳粒度，即如何表达位置隐私保护中的信息。为了评估和验证我们的方法的实用性，我们已经整合了两个现有的数据集，以创建一个丰富的用户数量方面的信息。从使用该数据集的评估结果中，我们证实了我们的方法可以准确地预测位置隐私偏好，并且它提供了一种合适的方法来定义位置隐私偏好。
2019-04-24 cs.CR cs.DB
Information-theoretic Estimation of the Risk of Privacy Leaks
本文利用MIC等信息论度量估计隐私保护变换中的泄露风险，扩展ρ1-to-ρ2框架并融合熵、互信息与匿名程度，提出计算高效的混合最坏情况隐私损失估计方法。
2025-06-14 cs.CR
A Privacy-Preserving Logistics Information System with Traceability
物流信息系统是为物流管理者提供信息以监控和跟踪物流业务的交互式系统。近年来，随着网上购物的兴起，LIS变得越来越重要。然而，由于个人信息缺乏有效的保护，隐私保护问题成为用户最为关注的问题。针对LIS系统中用户的隐私保护问题，提出了一种结合多重签名和假名的隐私保护LIS系统（PPLIST）。在我们的PPLIST方案中，为了保护隐私，每个用户可以在不同的物流服务中生成和使用不同的别名。一个物流的处理过程是有记录的，不可伪造的。此外，如果物流信息异常，跟踪方可以对用户进行去匿名化，并找到他们的真实身份。因此，我们的PPLIST有效地平衡了隐私和可追溯性之间的关系。
2021-09-11 cs.CR
Information-Theoretic Privacy Control for Sequential Multi-Agent LLM Systems
Department of Computer Science, Rensselaer Polytechnic Institute, Troy New York（计算机科学系，雷士拉尔理工大学，特洛伊新 York）
本研究提出了一种信息论视角下的隐私控制框架，用于解决序列多智能体LLM系统中因信息流而产生的隐私泄露问题，通过约束信息流实现隐私与效用的平衡。
2026-02-13 cs.CR cs.LG cs.MA
Privacy Bills of Materials: A Transparent Privacy Information Inventory for Collaborative Privacy Notice Generation in Mobile App Development
本文提出 PriBOM 隐私物料清单方法，通过团队角色协作、静态分析与隐私声明分析预填充，支持移动应用透明化隐私文档和隐私声明生成。
2025-03-16 cs.CR cs.SE
Research on the Design of a Short Video Recommendation System Based on Multimodal Information and Differential Privacy
University of Houston（休斯顿大学）；Brown University（布朗大学）；Case Western Reserve University（凯斯西储大学）；Johns Hopkins University（约翰霍普金斯大学）
针对短视频推荐系统利用多模态信息时的隐私泄露问题，本文提出融合多模态特征提取与差分隐私保护的系统，提升推荐准确率并保障隐私，性能优于主流方法。
2025-03-27 cs.AI cs.CR cs.IR
Understanding the Relationship Between Personal Data Privacy Literacy and Data Privacy Information Sharing by University Students
本研究通过调查美国大学生，发现高隐私素养者采用更多样化的隐私保护措施并更积极参与隐私讨论，建议加强大学教育以提升数据隐私意识。
2025-05-24 cs.CR
Unexpected Information Leakage of Differential Privacy Due to Linear Property of Queries
差分隐私是一个被广泛接受的隐私保护概念，拉普拉斯机制是处理数字数据的差分隐私机制的一个著名实例。在本文中，我们发现，差分隐私没有考虑的线性性质的查询，导致意外的信息泄漏。具体地，线性属性使得可以将一个查询划分成两个查询，诸如$q(D)=q(D_1)+q(D_2)$（如果$D=D_1\cup D_2$和$D_1\cap D_2=\emptyset$）。如果攻击者试图获得$q(D)$的答案，只要他们知道$D_2$，他们不仅可以发出查询$q(D)$，而且可以发出$q(D_1)$并自己计算$q(D_2)$。通过对同一查询进行不同的划分，攻击者可以利用差分隐私机制获得该查询的多个不同答案。然而，从攻击者的角度和从差分隐私机制的角度来看，如果分割设计得很巧妙，则总消耗的隐私预算是不同的。由于隐私预算是控制差分隐私机制合法发布信息量的关键参数，因此差异会导致意想不到的信息泄露。为了证明这种意外的信息泄漏，我们提出了一种针对Laplace机制的成员推断攻击.
2020-10-18 cs.CR
Privacy-Preserving Dynamic Personalized Pricing with Demand Learning
New York University（纽约大学）；Massachusetts Institute of Technology（麻省理工学院）；University of Florida（佛罗里达大学）
电子商务的普及使零售商能够随时获得详细的客户个人信息，这些信息已被广泛用于定价决策。当涉及到个性化信息时，如何保护这些信息的隐私权成为实践中的一个关键问题。在本文中，我们考虑一个动态定价问题的$T$时间段与\emph{unknown}需求函数的价格和个性化的信息。在每次$t$，零售商观察到达的顾客的个人信息并提供价格。然后，顾客做出购买决策，零售商将利用该决策来学习潜在的需求函数。在此过程中可能存在严重的隐私问题：第三方代理可能会从定价系统的价格变化中推断出个性化信息和购买决策。利用计算机科学中的差分隐私的基本理论框架，提出了一种隐私保护的动态定价策略，该策略在保证零售商收益最大化的同时，避免了个体消费者信息和购买决策信息的泄露。为此，我们首先介绍了\emph{anticipating} $(\varepsilon, δ)$的概念-差分隐私，是专为动态定价问题。我们的政策实现了隐私保证和遗憾方面的性能保证。粗略地说，对于$d$维的个性化信息，当客户信息被逆向选择时，我们的算法达到了$\tilde{O}(\varepsilon^{-1} \sqrt{d^3 T})$量级的期望遗憾。对于随机的个性化信息，遗憾界可以进一步改进为$\tilde{O}(\sqrt{d^2T} + \varepsilon^{-2} d^2)$
2021-07-25 cs.CR cs.GT cs.LG
Correction to Local Information Privacy and Its Applications to Data Aggregation
本文修正了先前提出的LIP隐私保护机制在有效隐私参数范围上的错误，提出了扩展该范围的算法，并讨论了修正结果对原实验的影响。
2024-10-16 cs.CR
Connecting Pixels to Privacy and Utility: Automatic Redaction of Private Information in Images
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland Informatics Campus（萨尔兰信息学园区）
图像传达了广泛的个人信息。如果这些图像在社交媒体平台上共享，则这些个人信息会泄露，这与所描绘的人的隐私相冲突。因此，我们的目标是采用自动化方法来编辑此类私人信息，从而保护个人的隐私。通过进行用户研究，我们发现，模糊的图像区域相关的私人信息导致隐私，同时保留实用的图像。此外，通过改变区域的大小，可以实现不同的隐私-效用权衡。我们的研究结果主张“节录分割”的范例。因此，我们提出了第一个相当大的私人图像数据集“在野外”，在广泛的隐私类中使用像素和实例级别标签进行注释。我们提出了第一个自动编辑各种私人信息的模型。
2017-12-04 cs.CR cs.CV cs.CY
Composition Attacks and Auxiliary Information in Data Privacy
隐私是数据发布的一个越来越重要的方面。然而，关于隐私的推理充满了陷阱。其中最重要的是辅助信息（也称为外部知识、背景知识或辅助信息），对手从其他渠道（如网络、公共记录或领域知识）收集这些信息。本文探讨了如何在面对丰富的，现实的辅助信息来源的原因隐私。具体来说，我们调查了当前匿名化方案在保护隐私方面的有效性，当多个组织独立发布重叠人群的匿名数据时。1.我们调查组合攻击，其中对手使用独立的匿名发布违反隐私。我们解释了为什么最近提出的模型有限的辅助信息无法捕捉组合攻击。我们的实验表明，即使是一个简单的组合攻击的实例可以在实践中侵犯隐私，目前提出的技术的一大类。这个类包括k-匿名和几个最近的变体。2.从更积极的方面来看，某些基于随机化的隐私概念（如差分隐私）可证明可以抵抗组合攻击，事实上，可以抵抗任意边信息的使用。这种阻力使匿名方案的独立设计成为可能，而不需要显式地跟踪其他版本。我们给出了这一性质的精确表达式，并证明了一类重要的差分隐私松弛也满足这一性质。这显著地扩大了已知的能够实现模块化设计的协议的类别。
2008-03-31 cs.CR cs.DB
Re-Evaluating Privacy in Centralized and Decentralized Learning: An Information-Theoretical and Empirical Study
本研究通过信息论分析与实证实验，重新评估了集中式与去中心化联邦学习的隐私性，发现在无完全可信服务器的实际场景中DFL隐私保护更强，并指出了以往研究假设的局限性。
2024-09-21 cs.CR
A Novel Framework using Elliptic Curve Cryptography for Extremely Secure Transmission in Distributed Privacy Preserving Data Mining
隐私保护数据采掘是一种在挖掘过程中确保个人信息隐私的方法。最重要的任务是从分布的多个数据库中检索信息。数据一旦进入数据仓库，就可以被挖掘算法用来检索机密信息。建议的框架有两个主要任务，安全传输和保密信息在采矿过程中。安全传输是通过使用椭圆曲线密码和数据失真的隐私保护，确保高度安全的环境。
2012-04-12 cs.CR cs.DB
