Privacy-Utility Tradeoff Based on $α$-lift
针对以$\alpha$-lift为隐私度量、互信息为效用度量的隐私-效用权衡优化难题,结合$\alpha=\infty$最优解与$\alpha$-lift凸性提出启发式估计算法,数值实验验证了算法有效性并给出性能良好的参数范围。
2024-06-21 cs.IT math.IT
Privacy-Utility Tradeoff for Hypothesis Testing Over A Noisy Channel
我们研究了在噪声信道中具有隐私约束的假设检验问题,并推导了在Neyman-Pearson准则下的最优检验性能。感兴趣的基本限制是隐私效用权衡(PUT)之间的指数的类型II错误概率和泄漏的信息源受到恒定的约束类型I错误概率。我们提供了一个精确的表征的渐近放置任何非零I型错误概率。我们的结果意味着容忍较大的I类错误概率不能提高PUT。这样的结果被称为强逆定理或强不可能定理。为了证明强逆定理,我们应用了最近在(Tyagi和Watanabe,2020)中提出的技术,并进一步证明了它的通用性。几个问题的强逆定理,如假设检验对噪声信道的独立性(Sreekumar和Gündüz,2020)和假设检验与通信和隐私约束(Gilani \emph{et al.},2020),建立或恢复为我们的结果的特殊情况。
2021-05-27 cs.IT math.IT
Privacy-Utility Tradeoff in a Guessing Framework Inspired by Index Coding
本文研究了隐私和实用性的权衡在一个单一的试验多终端猜测(估计)框架使用的系统模型,启发索引编码。在数据管理者处存在$n$独立的离散源。有$m$合法用户和一个对手,每个对手都有一些关于源的辅助信息。数据管理者向合法用户广播源的扭曲函数,这也被对手偷听到。在效用方面,每个合法用户希望完美地重建一些未知源,并在剩余未知源的估计正确性方面获得一定的增益。在隐私方面,数据管理者希望最大限度地减少最大泄漏:在接收到广播数据后,对手在估计其未知源的任何目标函数时的最坏情况猜测增益。给定的系统设置,我们得到基本的性能下限的最大泄漏的对手,这是由混淆图的概念和性能界限的索引编码问题的启发。我们还详细介绍了一个贪婪的隐私增强机制,它的灵感来自凝聚聚类算法的信息瓶颈和隐私漏斗问题。
2020-06-18 cs.IT math.IT
The Right to Be Forgotten under Correlation: Privacy-Utility Tradeoffs
Technical University of Munich(慕尼黑工业大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Rutgers University(罗格斯大学)
该研究针对关联数据集的隐私保护算法,分析局部机制与二元马尔可夫关联下隐私-效用的最优权衡,将机制设计分解为序列局部问题,最优机制为有限时域确定性马尔可夫决策过程的解。
2026-10-14 cs.CR cs.IT math.IT
Notes on Information-Theoretic Privacy
我们研究隐私和效用之间的权衡的情况下,隐私和效用的互信息来衡量。对于二进制的情况下,我们充分刻画了这种权衡的情况下,完美的隐私,也给了一个上限的情况下,一些隐私泄漏是允许的。然后,我们引入了一个新的量,它量化了可观察数据中包含的私人信息的量,然后将其连接到隐私和效用之间的最佳权衡。
2015-10-08 cs.IT math.IT
An Algorithm for Enhancing Privacy-Utility Tradeoff in the Privacy Funnel and Other Lift-based Measures
针对隐私漏斗这一非凸隐私-效用权衡优化难题,提出比提升度宽松、比互信息严格且可高效求解的隐私度量,结合启发式算法,在相同隐私预算下提升效用,并拓展至其他基于提升度的度量,经数值与理论验证有效。
2024-08-19 cs.IT math.IT
Tunable Measures for Information Leakage and Applications to Privacy-Utility Tradeoffs
我们引入了一个可调的信息泄漏措施,称为最大α泄漏。该度量量化了对手从数据的发布中推断数据集的任何(潜在随机)函数的最大收益。对手的推理能力,反过来,量化的一类对抗损失函数,我们引入$α$ -损失,$α\in[1,\infty]$。$α$的选择决定了具体的对抗行动,范围从细化$α=1$的信念(关于数据的任何函数)到猜测$α=\infty$的最可能值,同时细化介于两者之间的$α$的信念的$α^{th}$矩。最大α泄漏然后量化在数据的所有可能函数上的$α$损失下的对抗增益。特别地,对于$α=1$和$α=\infty$的极值,最大α泄漏分别简化为互信息和最大泄漏。对于$α\in(1,\infty)$,该测量被示出为阶为$α$的Arimoto信道容量。我们表明,最大的α-泄漏满足数据处理不等式和次加性属性,从而允许一个弱的组合物的结果。在这些属性的基础上,我们使用最大α泄漏作为隐私措施和研究的问题,数据发布的隐私保证,其中发布的数据的效用是通过一个硬失真约束确保。与平均失真不同,硬失真提供了保真度的确定性保证。我们表明,在硬失真约束下,对于$α>1$的最佳机制是独立的$α$,因此,得到的最佳折衷是相同的所有值的$α>1$。最后,最大阿尔法泄漏作为隐私措施的可调性也说明了平均汉明失真作为实用措施的二进制数据。
2019-08-19 cs.IT math.IT
Optimal Maximal Leakage-Distortion Tradeoff
大多数用于发布具有隐私保证的数据的方法将随机性引入数据集,这降低了所发布数据的实用性。在本文中,我们研究了隐私-效用权衡,以最大泄漏的隐私措施和期望汉明失真的效用措施。我们研究三个不同但相关的问题。首先,我们假设数据生成分布(即,先验)是已知的,并且我们找到了最优的隐私机制,该机制在最大泄漏的约束下实现了最小的失真。然后,我们假设先验属于某个分布集,我们制定了一个最小-最大问题,以找到最坏情况下的先验在集合中可实现的最小失真,受到最大泄漏约束。最后,我们定义了一个偏序隐私机制的基础上产生的最大失真。我们的研究结果表明,当先验分布是已知的,最佳的隐私机制充分披露的符号与最大的先验概率,并抑制符号与最小的先验概率。此外,我们发现,包含更均匀的分布的先验集合导致更大的失真,而更均匀地分布在符号上的隐私预算的隐私机制会产生更小的最坏情况下的失真。
2021-05-03 cs.IT math.IT
Robust Privatization with Multiple Tasks and the Optimal Privacy-Utility Tradeoff
本文研究多任务效用约束下隐私保护数据发布的最优隐私-效用权衡,将非凸优化问题分解为多个并行隐私漏斗问题,显式求解最优机制并给出无泄露阈值和线性规划求解最优权重的方法。
2024-09-01 cs.IT math.IT
On the Lift, Related Privacy Measures, and Applications to Privacy-Utility Tradeoffs
本文提出不对称局部信息隐私(ALIP)以处理提升不对称性,在看门狗和最优随机响应机制中提高效用,并引入提升逆度量以限制最小提升泄露,实现隐私-效用权衡。
2023-03-02 cs.IT math.IT
The Privacy-Utility Tradeoff of Robust Local Differential Privacy
我们考虑数据$X=(S,U)$的数据发布协议,其中$S$是敏感的;发布的数据$Y$包含尽可能多的关于$X$的信息,作为$\operatorname{I}(X;Y)$测量,而不会泄露太多关于$S$的信息。我们引入鲁棒局部差分隐私(RLDP)框架来衡量隐私。这一框架依赖于数据的基本分布,而数据的基本分布需要根据现有数据进行估计。强大的隐私保证,确保隐私的所有分布在一个给定的集合$\mathcal{F}$,我们研究了两种情况下:当$\mathcal{F}$是所有分布的集合,当$\mathcal{F}$是一个置信度集产生的$χ^2$测试公开可用的数据集。在前一种情况下,我们引入了一个新的释放协议,我们证明是最佳的低隐私制度。在后一种情况下,我们提出了四个算法,从一个给定的数据集构建RLDP协议。其中之一是通过一个多面体近似$\mathcal{F}$,并使用稳健优化的结果来产生高实用性的发布协议。然而,该算法依赖于顶点枚举,并且对于大的输入空间变得计算上不可访问。其他三种算法是低复杂度的,并建立在随机响应的基础上。实验证明,所有四个算法提供了显着改善的效用比常规LDP。
2021-01-22 cs.CR cs.IT math.IT
The tradeoff between the utility and risk of location data and implications for public good
MIT Media Lab(麻省理工学院媒体实验室)
本文探讨了位置数据在效用与风险之间的权衡,分析了其在公共利益中的应用及私人市场中的使用差异。
2019-12-09 cs.CY cs.IT math.IT
Privacy-Utility Tradeoffs in Quantum Information Processing
Department of Mathematics, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校数学系)
本文研究了量子信息处理中隐私与效用的权衡,提出通过去极化机制优化隐私-效用平衡,并展示了私有学习可观测量期望值所需的样本数与隐私和准确性参数的关系。
2026-02-11 cs.CR cs.IT cs.LG
Energy and Utility Optimization in Wireless Networks with Random Access
能量消耗是无线网络中关注的主要问题。能量最小化增加了网络节点在不充电或更换电池的情况下正常工作的时间。网络性能的另一个标准是数据传输速率,它通常由网络效用函数量化。在这些标准之间存在着内在的权衡,加强其中一个标准可能会使另一个标准恶化。在本文中,我们考虑网络效用最大化(NUM)和能量最小化的双标准优化问题。该问题是制定随机接入(RA)媒体接入控制(MAC)的ad-hoc网络。首先,我们优化性能的MAC和效用定义为一个单调递增的函数的链路吞吐量。在这一部分中,我们研究了能量和效用之间的最优权衡。在第二部分中,我们将效用定义为端到端速率的函数,并同时优化MAC层和传输层。我们计算最佳持续概率和端到端速率。最后,利用对偶定理,将问题分解为更小的子问题,分别在节点层和网络层求解。这种分解避免了对中央单元的需要,同时保持了分层的好处。
2010-11-23 cs.IT math.IT
Utility Maximization for Uplink MU-MIMO: Combining Spectral-Energy Efficiency and Fairness
在绿色通信的推动下,能量效率(EE)已成为设计无线通信系统的新的重要标准。然而,高能效往往导致低频谱效率(SE),这刺激了EE-SE权衡的研究。在本文中,我们专注于如何最大化的效用在上行链路多用户多输入多输出(MU-MIMO)系统中,我们将不仅考虑EE-SE权衡在一个统一的方式,但也确保用户公平性的物理层。我们首先制定的效用最大化问题,但它原来是非凸的。通过利用该问题的结构,我们找到了一个凸化过程,原来的非凸问题转化为一个等价的凸问题,它具有相同的全局最优与原问题。根据凸化过程,我们提出了一个集中式算法来解决效用最大化问题,但它需要所有用户的全局信息。因此,我们提出了一个原始-对偶分布式算法,不需要全局信息,只是消耗少量的开销。此外,我们还证明了分布式算法可以收敛到全局最优解。最后,数值实验结果表明,该算法既能捕获用户分集,实现EE-SE折衷,又能保证用户公平性,验证了原-对偶分布式算法的有效性.
2016-05-07 cs.IT cs.NI math.IT
The Privacy-Utility Tradeoff in Rank-Preserving Dataset Obfuscation
本文研究数据集混淆中秩保持与用户匿名性的权衡,通过大偏差理论刻画单字母机制的性能极限,并将最优混淆信道建模为可高效求解的凸优化问题。
2023-05-11 cs.CR cs.DB cs.IT
Information-theoretic metrics for Local Differential Privacy protocols
本地差分隐私(LDP)协议允许聚合器获得关于用户群的敏感数据的人口统计,同时保护各个用户的隐私。为了理解聚合器效用和用户隐私之间的权衡,我们引入了新的信息理论度量效用和隐私。与其他LDP指标相反,这些指标突出了这样一个事实,即用户和聚合器对根本不同的信息域感兴趣。我们展示了我们的指标如何与$\varepsilon$ -LDP,\emph{de facto}标准的隐私度量,给后者的信息理论解释。此外,我们使用我们的指标来定量研究一些流行的协议的隐私效用权衡。
2019-10-17 cs.CR cs.IT math.IT
Infinite Horizon Privacy in Networked Control Systems: Utility/Privacy Tradeoffs and Design Tools
本文研究网络化控制系统的无限时域隐私问题,提出基于线性坐标变换与加性相关高斯向量的扭曲机制,并将其合成为凸规划,在控制性能退化上界约束下最小化系统状态与远程估计间的互信息以最大化隐私。
2023-07-27 cs.CR cs.IT cs.SY
Exact Optimality of Communication-Privacy-Utility Tradeoffs in Distributed Mean Estimation
Stanford University(斯坦福大学);Hongik University(弘益大学)
本文研究通信与本地差分隐私约束下的均值估计问题,证明精确最优需使用旋转对称共享随机码本,并提出基于随机旋转单纯形和k-最近编码的机制,实现非渐近精确最优。
2023-10-29 cs.CR cs.DC cs.IT
Utility and Privacy of Data Sources: Can Shannon Help Conceal and Reveal Information?
私有信息从无数大型集中式可搜索数据存储库中“泄漏”(无意中或通过恶意设计)的问题推动了对分析框架的需求,该分析框架明确量化私有数据的安全程度(隐私),同时仍为多个合法信息消费者提供有用的利益(实用程序)。率失真理论被证明是开发这样的框架的自然选择,该框架包括以下内容:数据源的建模,开发独立于应用的效用和隐私度量,量化效用-隐私权衡而不管数据源的类型或提供隐私的方法,开发用于处理外部知识问题的边信息模型,研究了多查询数据源的连续泄露问题。
2010-02-06 cs.IT math.IT
Privacy Under Hard Distortion Constraints
我们研究的问题,数据披露的隐私保证,其中所披露的数据的效用是通过一个\emph{hard distortion}约束确保。与平均失真不同,硬失真提供了保真度的确定性保证。对于隐私度量,我们使用一个可调的信息泄漏度量,即\textit{maximal $α$-leakage}($α\in[1,\infty]$),并制定隐私效用权衡问题。由此产生的解决方案强调,在硬失真约束下,解决方案的性质对于本地和非本地隐私要求保持不变。更准确地说,我们表明,最佳机制和最佳权衡是不变的任何$α>1$ ;即,可调泄漏测量仅表现为两个极值中的任一个,即,$α=1$的互信息和$α=\infty$的最大泄漏。
2018-05-31 cs.IT math.IT
Smart Meter Privacy: A Utility-Privacy Framework
智能电表测量中的终端用户隐私是智能电网中众所周知的挑战。到目前为止,所提供的解决方案都与特定的技术有关,例如电池或数据使用的假设。现有的解决方案也没有量化任何这种隐私保护方法所造成的利益(效用)损失。利用信息论中的工具,提出了一种新的框架,该框架抽象了智能电表数据的隐私性和实用性要求。这导致了一个新的隐私效用权衡问题,最小的假设是易处理的。特别是对于一个平稳的高斯马尔可夫模型的电力负荷,它示出的最佳效用和隐私保护的解决方案需要过滤掉的频率分量是低功率,这种方法似乎包括大多数建议的隐私方法。
2011-08-10 cs.IT math.IT
A Shannon-Theoretic Approach to the Storage-Retrieval Tradeoff in PIR Systems
我们认为,在私人信息检索(PIR)系统的存储检索率权衡使用香农理论的方法。我们的重点主要是规范的两个消息两个数据库的情况下,提出了一种基于随机码本生成和合并技术的编码方案。这种编码方案揭示了PIR和经典的多描述信源编码问题之间的隐藏联系。我们首先表明,当检索率保持最佳,所提出的非线性计划可以实现更好的性能超过任何线性计划。此外,一个非平凡的存储检索率的权衡,可以实现超越这个极端点和其他最佳极端点之间的空间共享,实现检索一切的策略。我们进一步表明,与一种类似的方法的净化技术,可以提取零错误的PIR码的随机码。外边界也进行了研究和比较,以建立优于线性码的非线性码。
2023-01-05 cs.IT math.IT
Achieving Dalenius' Goal of Data Privacy with Practical Assumptions
School of Information Engineering and Artificial Intelligence, Lanzhou University of Finance and Economics(兰州财经大学信息工程与人工智能学院);Gansu Province Key Laboratory of Smart Commerce(甘肃省智慧商务重点实验室);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
本文提出基于信息论的隐私框架,通过有限知识约束实现Dalenius安全,改进效用-隐私权衡并增强抗相关攻击能力。
2025-12-29 cs.CR cs.IT math.IT
Extremal Mechanisms for Pointwise Maximal Leakage
本文研究逐点最大泄漏(PML)隐私度量与凸效用函数下的隐私-效用权衡,推导了最优权衡的闭式解,并提出计算PML最优机制的线性规划。
2024-08-27 cs.IT eess.SP math.IT
Cache Aided Wireless Networks: Tradeoffs between Storage and Latency
我们调查的基本信息理论的限制,高速缓存辅助的无线网络,其中边缘节点(或发射机)被赋予高速缓存,可以存储流行的内容,如多媒体文件。这种架构旨在通过主动将流行的多媒体内容推到更靠近无线网络边缘的位置来本地化流行的多媒体内容,从而减轻回程负载。这种网络的信息理论模型,其中包括引入一个新的度量,即归一化的交付时间(NDT),它捕获的最坏情况下的时间提供任何请求的内容给用户。我们提出了新的结果之间的权衡延迟,通过NDT测量,和边缘节点的缓存存储容量。特别是,提出了一种新的信息理论的无损检测下限缓存辅助网络。这个界的最优性示出了几个系统参数。
2015-12-24 cs.IT math.IT
Time-Data Tradeoffs in Structured Signals Recovery via the Proximal-Gradient Homotopy Method
在本文中,我们描述的数据时间权衡的近似梯度同伦方法用于解决线性反问题的亚高斯测量。我们的结果是尖锐的一个绝对常数的因素。我们证明,在没有强凸性假设的情况下,当测量数量足够大时,邻近梯度同伦更新可以实现线性收敛率。数值模拟验证了我们的理论结果。
2022-02-06 cs.IT math.IT
Local Information Privacy and Its Application to Privacy-Preserving Data Aggregation
在本文中,我们研究了本地信息隐私(LIP),并设计了基于LIP的统计聚集机制,同时保护用户的隐私,而不依赖于可信的第三方。上下文感知的概念被纳入LIP,它可以被看作是明确的建模对手的背景知识。它可以利用先验分布设计隐私保护机制,这可能比本地差分隐私(LDP)等上下文无关概念实现更好的实用性与隐私权衡。我们提出了一个优化框架,以最大限度地减少在数据聚合的均方误差,同时保护隐私的每个单独的用户的输入数据或相关的潜在变量,同时满足LIP约束。然后,我们研究了两种不同类型的应用程序:(加权)求和和直方图估计,并推导出最佳的上下文感知数据扰动参数为每种情况下,基于随机响应类型的机制。我们进一步比较了LIP和LDP之间的效用-隐私权衡,并从理论上解释了为什么先验知识的引入扩大了扰动参数的可行区域,从而导致更高的效用。我们还将基于LIP的隐私机制扩展到更一般的情况下,确切的先验知识是不可用的。最后,我们验证了我们的分析模拟使用合成和真实世界的数据。结果表明,我们的基于LIP的隐私机制提供了更好的实用性和隐私的权衡比LDP,和LIP的优势是更显着的先验分布时,更偏斜。
2020-11-29 cs.CR cs.DB cs.IT
Computation-Utility-Privacy Tradeoffs in Bayesian Estimation
Harvard(哈佛大学);ETH Zurich(苏黎世联邦理工学院);MIT(麻省理工学院)
本文首次提出高效的算法,在保证隐私的前提下实现贝叶斯估计的最优误差,同时揭示了计算与统计之间的差距。
2026-03-18 cs.CC cs.DS cs.IT
An Information-Theoretic Characterization of MIMO-FAS: Optimization, Diversity-Multiplexing Tradeoff and $q$-Outage Capacity
本文采用信息论方法研究MIMO-FAS的性能极限,提出QR MIMO-FAS次优方案最大化高SNR下速率,推导了最优分集复用折衷,并引入q-中断容量指标,证明MIMO-FAS显著优于传统MIMO。
2023-10-25 cs.IT math.IT
A Generalized Information Bottleneck Method: A Decision-Theoretic Perspective
Shonan Institute of Technology(湘南工科大学);Nihon University(日本大学)
本文从决策理论视角出发,提出一种基于H-互信息的泛化信息瓶颈方法,通过交替优化算法实现压缩与效用的权衡。
2026-02-20 cs.IT math.IT
The Economics of Privacy and Utility: Investment Strategies
由于个人信息的不受限制的披露,不可避免的隐私泄露激发了对健壮的隐私保护机制的广泛研究。然而,现有的研究大多局限于在静态环境下解决问题,而忽略了随着时间的推移隐私泄漏。不幸的是,这种隐私处理在实际环境中是不够的,在实际环境中,用户随着时间的推移连续地公开他们的个人信息,导致用户的敏感信息的累积泄漏。在本文中,我们考虑在有限的时间范围内的隐私泄漏和调查的最佳策略,以最大限度地提高所披露的数据的效用,同时限制有限的地平线隐私泄漏。我们认为一个简单的隐私机制,涉及压缩用户的数据之前,每次披露,以满足未来的隐私所需的约束。我们进一步激励几种算法来优化动态隐私效用权衡,并通过广泛的综合性能测试来评估它们的性能。
2022-07-04 cs.CR cs.GT cs.IT
Context-aware Data Aggregation with Localized Information Privacy
University of Arizona(亚利桑那大学)
本文提出了局部信息隐私(LIP),作为一种新的隐私定义,它允许统计聚合,同时保护用户的隐私,而不依赖于可信的第三方。上下文感知的概念被纳入LIP的先验知识的引入,这使得设计的隐私保护的数据聚合。我们表明,LIP放松本地化差分隐私(LDP)的概念,明确建模对手的知识。然而,它比$2ε$ -LDP和$ε$ -互信息保密性更严格。与其他方法相比,局部先验的结合允许LIP实现更高的效用。然后,我们提出了一个隐私保护数据聚合的优化框架,目标是在满足LIP隐私约束的同时最小化预期平方误差。实用性和隐私的权衡下得到几个模型的封闭形式。然后,我们验证我们的分析{数值分析}使用合成和真实世界的数据。结果表明,我们的LIP机制提供了更好的实用性和隐私的权衡比LDP和先验分布不均匀时,LIP的优势更加显着。
2018-07-31 cs.CR cs.IT cs.LG
On Maximal Correlation, Mutual Information and Data Privacy
在\cite{Asoodeh}中定义的速率隐私功能作为一个分布式私有数据系统中的隐私和效用之间的权衡,其中隐私和效用都是使用互信息来测量的。在这里,我们使用最大相关性代替隐私约束中的互信息。我们首先得到一些一般的性质和最大相关性的界限,然后修改的速率隐私函数考虑隐私约束的估计问题。当最大相关隐私被设置为某个阈值$ε>0$时,我们找到了这个问题中效用的一个界,并构造了一个达到这个界的显式隐私方案。
2015-10-08 cs.IT math.IT math.ST
On the Fundamental Tradeoff of Joint Communication and Quickest Change Detection with State-Independent Data Channels
该研究率先探究集成感知通信场景下通信与最快变化检测的信息论权衡,构建对应问题模型,提出基于恒定子块组成码和SCS检测规则的内界及匹配的部分逆定理,验证其渐近最优性并给出多类信道的权衡示例。
2024-10-10 cs.IT eess.SP math.IT
On the Rate-Distortion-Complexity Tradeoff for Semantic Communication
Pengcheng Laboratory(鹏城实验室)
本文提出了一种速率-失真-复杂度(RDC)框架,通过引入语义距离和复杂度约束,分析了语义通信中速率、失真和模型复杂度之间的三重折衷关系,并通过实验验证了理论结果。
2026-05-07 cs.AI cs.IT math.IT
Delay Constrained Utility Maximization in Multihop Random Access Networks
Department of Electrical Engineering and Advanced Communications Research Institute, Sharif University of Technology(电气工程系与先进通信研究所,谢里夫理工大学)
针对多跳随机接入网络中的时延问题,提出基于时延约束的效用最大化框架,通过分布式优化实现速率、能量与时延的最优折中。
2010-11-23 cs.IT cs.NI cs.SY
Fundamental Limits of Obfuscation for Linear Gaussian Dynamical Systems: An Information-Theoretic Approach
New York University(纽约大学)
在本文中,我们研究的基本限制混淆的隐私失真权衡线性高斯动力系统通过信息论的方法。特别是,我们得到的分析公式,捕捉基本的隐私失真权衡时,隐私掩码被添加到动态系统的输出,同时明确指出如何设计的隐私掩码在一个最佳的方式:隐私掩码应该是彩色高斯与功率谱形状具体基于系统和噪声属性。
2020-10-29 cs.CR cs.IT cs.LG
Robust Machine Learning via Privacy/Rate-Distortion Theory
Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Tufts University(塔夫茨大学);Arizona State University(亚利桑那州立大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
强大的机器学习公式已经出现,以解决深度神经网络对对抗性示例的普遍脆弱性。我们的工作绘制了最优鲁棒学习和隐私效用权衡问题之间的联系,这是率失真问题的推广。通过求解最大条件熵问题,可以找到鲁棒分类器和对抗性扰动之间博弈的鞍点。这种信息理论的观点揭示了鲁棒性和干净的数据性能之间的基本权衡,这最终源于底层数据分布和扰动约束的几何结构。
2021-05-18 cs.CR cs.GT cs.IT