Efficient and Model-Agnostic Parameter Estimation Under Privacy-Preserving Post-randomization Data
针对后随机化方法(PRAM)扰动的隐私保护数据下现有参数估计方法的局限,提出一种适用于通用估计方程定义参数、无模型假设的高效估计方法,且证明其达到半参数效率界。
2024-03-12 stat.ME
Towards Differentially Private Text Representations
National University of Singapore(新加坡国立大学);The University of Melbourne(墨尔本大学);Monash University(莫纳什大学);Northeastern University(东北大学)
大多数深度学习框架要求用户将其本地数据或模型更新汇集到可信服务器,以训练或维护全局模型。在许多应用程序中,可以访问用户信息的可信服务器的假设是不合适的。为了解决这个问题,我们在不可信服务器设置下开发了一个新的深度学习框架,该框架包括三个模块:(1)嵌入模块,(2)随机化模块和(3)分类器模块。对于随机化模块,我们提出了一种新的本地差分隐私(LDP)协议,以减少隐私参数$ε$的准确性的影响,并提供增强的灵活性,在选择随机化概率LDP。分析和实验表明,我们的框架提供了可比的性能,甚至更好的非私有框架和现有的LDP协议,展示了我们的LDP协议的优势。
2020-06-25 cs.CL cs.CR cs.LG
A Unified Approach to Differentially Private Bayes Point Estimation
统计学和系统辨识中的参数估计依赖于可能包含敏感信息的数据。为了保护这些敏感信息,提出了\emph{differential privacy}(DP)的概念,它通过在估计中引入随机化来加强保密性。用于差分私有估计的标准算法基于向传统点估计方法的输出添加适量的噪声。这导致了准确性和隐私性的权衡,因为增加更多的噪音会降低准确性,同时增加隐私性。在本文中,我们提出了一个新的统一贝叶斯私有点(UBaPP)的方法来贝叶斯点估计的数据生成机制下的DP约束下的未知参数,实现了更好的准确性和隐私的权衡比传统的方法。我们验证了我们的方法在一个简单的数值例子的性能。
2022-11-18 math.OC stat.ML
Differentially Private Model Selection with Penalized and Constrained Likelihood
在统计披露控制中,数据分析的目标是双重的:发布的信息必须提供有关相关人群的准确和有用的统计数据,同时最大限度地减少个人记录被识别的可能性。近年来,差分隐私的概念在理论计算机科学、机器学习和统计学中受到了广泛的关注。它为保护个人敏感信息提供了严格和有力的概念。一个基本的问题是如何将差异隐私纳入传统的统计推断程序。本文研究了差分隐私约束下多元线性回归的模型选择问题。我们表明,模型选择程序的基础上惩罚最小二乘或似然差分私有的正则化和随机化的组合,并提出了两种算法来做到这一点。我们表明,我们的私人程序是一致的,基本上相同的条件下,相应的非私人程序。我们还发现,在差分隐私下,该过程变得更加敏感的调谐参数。我们说明和评估我们的方法,使用模拟研究和两个真实数据的例子。
2016-07-14 stat.ME
Randomization matters. How to defend against strong adversarial attacks
Université Paris-Dauphine, PSL Research University(巴黎多芬大学,PSL研究大学);CNRS(法国国家科学研究中心);Institut LIST, CEA(法国原子能与替代能源委员会列表研究所);Université Paris-Saclay(巴黎萨克雷大学)
有没有一个分类器可以确保对所有对抗攻击的最佳鲁棒性?本文从博弈论的角度回答了这一问题。我们发现,对抗攻击和防御形成一个无限的零和游戏,经典的结果(如Sion定理)不适用。我们证明了当分类器和Advertisement都是确定性的时候,我们的博弈中不存在纳什均衡,因此在确定性的情况下对上述问题给出了否定的答案。尽管如此,在随机化方案中,这个问题仍然是开放的。我们解决这个问题,表明,在温和的条件下的数据集分布,任何确定性分类器可以优于随机的。这为使用随机化提供了论据,并引导我们构建一种新的算法,用于构建对强对抗攻击具有鲁棒性的随机分类器。实验结果验证了我们的理论分析,并表明我们的防御方法大大优于对抗性训练对最先进的攻击。
2021-01-06 cs.CR cs.LG stat.ML
Statistical Verification of Traffic Systems with Expected Differential Privacy
交通系统是一个多智能体的网络物理系统,其性能与人类福祉密切相关。它们在开放的环境中工作,并且受到来自各种来源的不确定性的影响,使得它们的性能难以通过传统的基于模型的方法进行验证。或者,统计模型检验(SMC)可以通过顺序地抽取样本数据来验证它们的性能,直到可以以期望的统计精度推断性能规范的正确性。这项工作旨在验证具有隐私的交通系统,其动机是所使用的数据可能包括个人信息(例如,每日行程),并通过观察SMC算法的执行而无意中泄露。为了在SMC中形式化地捕获数据隐私,我们引入了期望差分隐私(EDP)的概念,它约束了当数据发生变化时,算法执行在期望意义上可以改变多少。相应地,我们引入了一个指数随机化机制的SMC算法,以实现EDP。我们的案例研究交通路口的Vissim仿真表明,高精度的SMC在交通模型验证,而不显着牺牲计算效率。案例研究还表明,EDP成功地绑定算法输出,以保证隐私。
2023-02-28 cs.CR cs.SY eess.SY
Arbitrary Decisions are a Hidden Cost of Differentially Private Training
EPFL(洛桑联邦理工学院);Harvard University(哈佛大学)
本文揭示差分隐私训练中的随机化导致预测多重性,即同等隐私模型对同一输入可产生不同预测,且隐私越强差异越大,呼吁部署前审计此成本。
2023-05-15 cs.CR cs.CY cs.LG
Seeding with Differentially Private Network Information
University of Pittsburgh(匹兹堡大学);George Mason University(乔治梅森大学)
研究在隐私保护下利用不完整接触数据进行影响最大化播种算法优化,通过差分隐私技术提升隐私保护与算法性能的平衡。
2026-06-19 cs.CC cs.MA cs.SI
Plausible Deniability for Privacy-Preserving Data Synthesis
UIUC(伊利诺伊大学厄巴纳-香槟分校);Cornell Tech(康奈尔科技学院)
发布完整的数据记录是数据隐私中最具挑战性的问题之一。一方面,许多流行的技术,如数据去识别是有问题的,因为它们依赖于对手的背景知识。另一方面,严格的方法,如指数机制的差分隐私通常是计算上不切实际的用于释放高维数据或不能保持高效用的原始数据,由于其广泛的数据扰动。本文提出了一个标准,称为似是而非的可否认性,提供了一个正式的隐私保证,特别是释放敏感数据集:输出记录可以被释放,只有当一定数量的输入记录是不可区分的,隐私参数。这个概念不依赖于对手的背景知识。此外,它可以有效地通过隐私测试进行检查。我们提出的机制来生成合成数据集与输入数据和相同的格式具有相似的统计特性。我们从理论和实验两方面研究了这种技术。一个关键的理论结果表明,合理的可否认性机制产生不同的私人合成数据与适当的随机化。我们证明了这种生成技术在大型数据集上的效率;它被证明可以保留原始数据在各种统计分析和机器学习措施方面的效用。
2017-08-26 cs.CR cs.DB cs.LG
Exact Optimality of Communication-Privacy-Utility Tradeoffs in Distributed Mean Estimation
Stanford University(斯坦福大学);Hongik University(弘益大学)
本文研究通信与本地差分隐私约束下的均值估计问题,证明精确最优需使用旋转对称共享随机码本,并提出基于随机旋转单纯形和k-最近编码的机制,实现非渐近精确最优。
2023-10-29 cs.CR cs.DC cs.IT
A randomization-based perspective of analysis of variance: a test statistic robust to treatment effect heterogeneity
在有限总体环境中考虑了Neyman原假设(无平均治疗效应)的Fisher随机化检验,该环境与两种以上治疗的完全随机化实验相关。从理论和计算两方面对使用$F$统计量进行此类检验的后果进行了检查,并认为在治疗效应异质性下,在Fisher随机化检验中使用$F$统计量可能会严重增加内曼原假设下的I型错误。提出了一种替代的检验统计量,导出了它在Fisher和Neyman原假设下的渐近分布,并证明了它的优点。
2017-07-24 math.ST stat.ME stat.TH
Cross-Validation with Antithetic Gaussian Randomization
Duke University(杜克大学);University of Michigan(密歇根大学)
本文提出了一种基于反向高斯随机化的交叉验证方法,用于解决样本分割不可行的问题,通过等相关高斯随机化结构减少偏置并提高预测误差估计的准确性。
2026-02-08 math.ST stat.ME stat.TH
Inference on Average Treatment Effect under Minimization and Other Covariate-Adaptive Randomization Methods
协变量自适应随机化方案,如最小化和分层排列区组,经常应用于临床试验中,以平衡预后因素之间的治疗分配。协变量自适应随机化后推理的现有理论发展主要限于可以指定响应和协变量之间的正确模型或随机化方法具有良好理解的属性的情况。基于随机化中使用的协变量水平分层和对随机化中未使用的协变量的进一步调整,在本文中,我们提出了几种估计量,用于平均处理效应的无模型推断,平均处理效果定义为两种处理下的响应均值之间的差异。我们建立了所有流行的协变量自适应随机化方案下的估计量的渐近正态性,包括理论性质尚不清楚的最小化,我们证明了渐近分布对于协变量自适应随机化方法是不变的。一致方差估计量构造渐近推断。研究了估计量的渐近相对效率和有限样本性质。我们建议在协变量自适应随机化后使用我们提出的估计量进行有效和无模型推断。
2020-07-19 stat.ME
A unified framework for covariate adjustment under stratified randomization
本文提出分层随机化下协变量调整与统计推断的统一框架,证明局部线性核加权最小二乘回归调整的有效性,并针对高维数据提出基于样本分割的机器学习推断算法,通过多种数据场景比较不同方法的估计表现。
2023-12-03 math.ST stat.ME stat.TH
Valid test for multi-arm trials with generalized linear models under covariate-adaptive randomization
George Washington University(乔治华盛顿大学)
针对协变量自适应随机化下广义线性模型多臂试验,提出修正Wald统计量分布问题的调整检验统计量,结合Simes型多重检验程序控制一类错误,经模拟和真实试验验证有效。
2026-08-27 math.ST stat.ME stat.TH
A Graph-Theoretic Approach to Randomization Tests of Causal Effects Under General Interference
当一个单位的结果取决于另一个单位的治疗分配时,存在干扰。例如,一条街道上的密集警务可能会对邻近街道产生溢出效应。经典的随机化测试通常在这种情况下失败,因为许多感兴趣的零假设在干扰下不再尖锐。一个有希望的替代方法是在给定的原假设是尖锐的单元和分配的子集上构建条件随机化测试。然而,找到这些子集是具有挑战性的,并且现有方法仅限于特殊情况或具有有限的能力。在本文中,我们提出了有效的和易于实现的随机化测试的一般类的零假设任意干扰下的单位。我们的核心思想是将感兴趣的假设表示为单元和分配之间的二分图,并找到此图的适当二分图。重要的是,原假设在此biclique内是尖锐的,从而能够进行基于条件随机化的检验。我们还将二簇的大小与统计功效联系起来。此外,我们可以应用现成的图聚类方法来有效地和大规模地找到这样的bicliques。我们说明了我们的方法在设置与集群干扰,并显示出优势,专门为该设置设计的方法。然后,我们将我们的方法应用到一个大规模的警务实验在麦德林,哥伦比亚,干扰有一个空间结构。
2021-05-25 stat.AP stat.ME
Asymptotic Validity and Finite-Sample Properties of Approximate Randomization Tests
本文提出非渐近界,分析近似随机化检验与原始检验的尺寸差异,给出数据不变性下有效性的新条件,并解释小样本表现。
2024-04-22 stat.ME stat.ML
Global Average Treatment Effects for Individualized Randomization Experiments with Aggregate Data
Shanghai University of Finance and Economics(上海财经大学);London School of Economics and Political Science(伦敦政治经济学院);DiDi China Ride Hailing Business Group(滴滴中国网约车业务组);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
针对个体随机实验中存在时空干扰且仅能获取聚合数据的问题,提出IRE-VCDP模型以估计全局平均处理效应(GATE),并给出估计与推断方法及理论保证。
2026-05-26 stat.ME
Adaptive Randomization in Network Data
网络数据在近年来的研究中频繁出现。例如,在比较不同类型治疗的效果时,已经提出了网络模型来改进估计和假设检验的质量。在本文中,我们专注于有效地估计平均处理效应使用自适应随机化过程中的网络。我们的工作模型的因果框架,其中一个主题的治疗结果是受其自身的协变量以及其邻居。此外,我们考虑的情况下,当我们分配治疗当前主题,只有现有的主题的子网络被揭示。提出了新的随机化程序,以最大限度地减少处理效应之间估计差异的均方误差。在网络数据中,由于节点数和连接数同时增加,通常很难获得理论性质。在温和的假设下,我们提出的方法是密切相关的时变非齐次马尔可夫链。然后,我们使用李雅普诺夫函数推导出所提出的程序的理论性质。所提出的程序的优点也证明了广泛的模拟和实验上的真实网络数据。
2020-09-02 stat.ME
Response-adaptive randomization in clinical trials: from myths to practical considerations
响应自适应随机化(RAR)是更广泛的一类数据依赖性抽样算法的一部分,临床试验通常用作激励应用程序。在这种情况下,患者分配到治疗是由随机化概率决定的,随机化概率根据累积的反应数据而变化,以实现实验目标。自20世纪30年代以来,RAR已经从生物统计学文献中获得了大量的理论关注,并且一直是许多争论的主题。在过去的十年中,它受到了应用和方法论社区的重新考虑,这是由众所周知的实际例子及其在机器学习中的广泛使用所驱动的。关于这一主题的论文对它的有用性提出了不同的观点,这些观点不容易调和。这项工作的目的是通过提供一个统一的,广泛的和新的审查方法和实际问题时,考虑在临床试验中使用RAR的辩论,以解决这一差距。
2022-06-07 stat.AP stat.ME
Improving the Balance of Unobserved Covariates From Information Theory in Multi-Arm Randomization with Unequal Allocation Ratio
针对不等分配比例多臂随机化中未观测协变量不平衡理论性质未知的问题,提出分析其矩与分布的一般框架,应用于CR、STR-PB和CAR,并引入熵度量协变量相关性以改善平衡。
2024-12-18 stat.AP stat.ME
Fast Algorithms for Exact Confidence Intervals in Randomized Experiments with Binary Outcomes
Rutgers University(罗格斯大学)
本文提出了一种快速算法,用于在随机化实验中计算二元结果的精确置信区间,通过减少随机化检验次数,提高了效率。
2026-02-24 stat.ME
Debiased Inverse-Variance Weighted Estimator in Two-Sample Summary-Data Mendelian Randomization
孟德尔随机化(MR)已成为一种流行的方法,通过使用遗传变异作为工具变量来研究可改变的暴露对结果的影响。MR中的一个挑战是,每个遗传变异解释了暴露中相对较小比例的方差,并且存在许多这样的变异,这种设置被称为许多弱工具。为此,我们提供了一个理论表征的统计特性的两个流行的估计在MR,逆方差加权(IVW)估计和IVW估计与筛选仪器使用一个独立的选择数据集,在许多弱的工具。然后,我们提出了一个去偏IVW估计,一个简单的修改IVW估计,这是强大的许多弱工具,不需要筛选。此外,我们提出了两种工具选择方法,以提高效率的新估计时,选择数据集可用。扩展的去偏IVW估计处理平衡的水平多效性也进行了讨论。最后,我们在模拟和真实数据集上展示了我们的结果。
2020-10-10 stat.ME
Design-based theory for causal inference
本文系统回顾了基于设计的因果推断理论的最新进展,探讨了高维数据、非合规和网络干扰等复杂情境下的方法扩展,并展望了未来的发展方向。
2025-11-27 stat.ME
Balancing the privacy-utility trade-off: How to draw reliable conclusions from private data
Federal Statistical Office(联邦统计局)
本文提出基于假设检验的新视角,量化相对披露风险,分析DP对统计显著性检验的影响,为非技术利益相关者提供隐私效用权衡的实用指导。
2026-08-31 cs.CR stat.ME
Multivariable Bidirectional Mendelian Randomization via Bayesian Directed Cyclic Graphical Models with Correlated Errors
Texas A&M University(德克萨斯农工大学);Massachusetts General Hospital(麻省总医院);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出一种基于贝叶斯定向循环图模型的多变量双向孟德尔随机化方法,用于处理反馈回路和未测量混杂因素,提升基因调控网络因果推断的准确性。
2026-01-14 stat.AP stat.ME