Bayesian inference for stochastic differential equation mixed effects models of a tumor xenography study
我们考虑贝叶斯推断随机微分方程混合效应模型（SDEMMs）举例说明肿瘤治疗和再生长的小鼠。我们产生一个广泛的研究如何SDEMEM可以使用精确的推理的基础上，伪边缘MCMC和近似推理通过贝叶斯合成似然（BSL）。我们研究了一个两室SDEMEM，这些对应的分数的肿瘤细胞杀死和存活的治疗，分别。病例研究数据考虑了两个治疗组和一个对照组的肿瘤异种移植研究，每组包含5-8只小鼠。从案例研究和模拟的结果表明，SDEMEM是能够重现所观察到的增长模式，BSL是一个强大的工具，在SDEMEMs推理。最后，我们比较适合的SDEMEM一个类似的常微分方程模型。由于样本量小，需要强先验信息来识别SDEMEM中的所有模型参数，并且无法确定两个模型中哪一个在预测肿瘤生长曲线方面更好。在模拟研究中，我们发现每组17只小鼠的样本BSL能够识别所有模型参数并区分治疗组。
2019-02-17 stat.AP stat.CO stat.ME
Efficient semidefinite-programming-based inference for binary and multi-class MRFs
Carnegie Mellon University（卡内基梅隆大学）；Bosch Center for AI（博世人工智能中心）
成对马尔可夫随机场（MRF）中的概率推理，即计算分区函数或计算变量的MAP估计，是概率图模型中的一个基本问题。半定规划松弛一直是分析概率推理性质的理论上强有力的工具，但由于求解所得SDP的典型求解器的高计算成本而不实用。在本文中，我们提出了一种有效的方法来计算分区函数或MAP估计在成对MRF，而不是利用最近提出的基于坐标下降的快速半定解算器。我们还将半定松弛从典型的二进制MRF到完整的多类设置，并开发了一个紧凑的半定松弛，可以再次有效地解决使用求解器。我们表明，该方法大大优于（无论是在解决方案的质量和速度方面）现有的最先进的近似推理，从以前的工作中得出的基准问题。我们还表明，我们的方法可以扩展到大型MRF域，如计算机视觉中使用的全连接成对CRF模型。
2021-05-01 cs.LG stat.ML
Fast approximate Bayesian inference for stable differential equation models
由于模型参数之间的非线性相互作用和缺乏可识别性，机械模型的推理是具有挑战性的。在这里，我们专注于一类特定的机械模型，我们长期稳定的微分方程。在这些模型中的动态近似线性系统的一个稳定的固定点。我们利用这一属性开发快速近似方法后验推理。我们说明了我们的方法使用模拟数据的机制神经科学模型与EEG数据。更一般地说，稳定的微分方程模型和相应的推理方法是有用的平稳时间序列数据的分析。与现有技术相比，我们的方法快了几个数量级，特别适合于分析长时间序列（> 10，000个时间点）和中等维度（10-50个状态变量和10-50个参数）的模型。
2017-12-12 stat.CO
Differentially Private Bayesian Inference for Exponential Families
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
私人推理的研究已经引发了对数据分析的日益关注，当它源于敏感的来源。我们提出了第一种方法，私人贝叶斯推断指数家庭，适当占噪声引入的隐私机制。它是有效的，因为它只适用于足够的统计数据，而不是个人数据。与其他方法不同，它在非渐近数据制度中给出了适当校准的后验信念。
2018-10-26 cs.CR cs.LG stat.ML
Bayesian inference for Stable Levy driven Stochastic Differential Equations with high-frequency data
在这篇文章中，我们考虑了由纯跳稳定Levy过程驱动的随机微分方程（SDE）的参数贝叶斯推断，该过程在高频下被观察到。在实际感兴趣的大多数情况下，似然函数是不可用的，所以我们使用准似然，并在未知参数上放置相关的先验。在正则性条件下证明了后验存在Bernstein-von Mises定理。然后，我们开发了一个马尔可夫链蒙特卡罗（MCMC）算法贝叶斯推理和辅助我们的理论结果，我们展示了如何规模大都会黑斯廷斯建议时，数据的频率增长，以防止接受率为零的大数据限制。我们的算法的数值例子，有助于验证我们的理论研究结果。
2017-07-27 math.ST stat.TH
On the Differential Privacy of Bayesian Inference
The University of Melbourne（墨尔本大学）；Univ-Lille-3（里尔第三大学）；Chalmers University of Technology（查尔姆斯理工大学）
我们研究了如何将贝叶斯推理的结果传达给第三方，同时保持差分隐私的强有力保证。我们的主要贡献是概率图模型上的私有贝叶斯推理的四种不同算法。这些包括两种机制，用于将噪声添加到贝叶斯更新，或者直接添加到后验参数，或者添加到其傅立叶变换，以保持更新一致性。我们还利用最近推出的后验抽样机制，我们证明了离散贝叶斯网络的具体但一般情况下的界限，我们引入了最大后验私有机制。我们的分析包括效用和隐私边界，一个新的重点是图结构对隐私的影响。工作的例子和实验与贝叶斯朴素贝叶斯和贝叶斯线性回归说明我们的机制的应用。
2015-12-22 cs.AI cs.CR cs.LG
Nonparametric inference of stochastic differential equations based on the relative entropy rate
从数据中检测复杂系统的信息目前正在经历一场革命，这是由大数据和机器学习方法的出现所推动的。发现控制方程和量化复杂系统的动力学特性是核心挑战之一。本文设计了一种非参数方法，从具有不同漂移函数的随机微分方程的观测值中学习相对熵率，并利用高斯过程核理论给出了相应于相对熵率的估计.同时，这种方法能够提取控制方程。我们用几个例子来说明我们的方法。数值实验表明，该方法不仅适用于多项式漂移函数，而且适用于有理漂移函数。
2021-12-09 math.DS math.ST stat.TH
On Asymptotic Inference in Stochastic Differential Equations with Time-Varying Covariates
在这篇文章中，我们介绍了一个系统的随机微分方程（SDEs）组成的时间依赖的协变量，并考虑固定和随机效应设置。我们还允许与漂移函数相关的函数部分依赖于未知参数。在这个一般的构造下，通过对已有的相关定理所要求的正则性条件的验证，我们建立了极大似然估计的相合性和渐近正态性。此外，我们考虑了贝叶斯方法学习的总体参数，并证明了相应的后验分布的一致性和渐近正态性。我们补充我们的理论研究与模拟和真实的数据分析，在每种情况下获得令人鼓舞的结果。
2017-10-13 math.ST stat.TH
Differentially Private Bayesian Inference for Generalized Linear Models
Aalto University（阿尔托大学）；University of Helsinki（赫尔辛基大学）；University of Manchester（曼彻斯特大学）
广义线性模型（GLM），如逻辑回归，是数据分析师最广泛使用的工具之一，通常用于敏感数据集。大量的现有工作，调查差分隐私（DP）约束下的GLM只提供私人点估计的回归系数，并不能量化参数的不确定性。在这项工作中，逻辑和泊松回归作为运行的例子，我们介绍了一个通用的噪声感知DP贝叶斯推理方法GLM在手，给出了一个嘈杂的总和的汇总统计量。量化不确定性使我们能够确定哪些回归系数在统计上与零显著不同。我们提供了一个以前未知的严密的隐私分析和实验证明，从我们的模型中获得的后验，同时坚持强隐私保证，接近非私人后验。
2021-05-12 cs.CR cs.LG stat.ML
Fast Convergent Algorithms for Expectation Propagation Approximate Bayesian Inference
提出了一种新的算法来解决连续变量图模型的贝叶斯推断的期望传播松弛问题。与以往的算法相比，我们的方法是可证明收敛的。通过将来自（Opper&Winther 05）的收敛EP思想与协方差解耦技术（Wipf&Nagarajan 08，Nickisch&Seeger 09）相结合，它比最常用的EP求解器至少快一个数量级。
2010-12-16 stat.ML
Efficient inference for differential equation models without numerical solvers
针对微分方程模型传统推断依赖数值求解、易受截断误差干扰的问题，提出无需数值求解的推断方法，彻底规避截断误差，并提供开源工具支持其在多类生物数据分析模型中的应用。
2024-12-13 stat.ME
Model-based Differentially Private Data Synthesis and Statistical Inference in Multiply Synthetic Differentially Private Data
我们提出了基于模型的差分私有合成（modips）的方法在贝叶斯框架中释放个人级的代理/合成数据集的隐私保证给定的原始数据。modips技术将差分隐私的概念集成到基于模型的数据合成中。我们介绍了几个变种的一般modips方法和不同的程序来获得隐私保护后验样本，modips的关键步骤。通过发布多个合成数据集，可以解释MODIPS中消毒和合成过程的不确定性，并通过本文提出的推理组合规则进行量化。我们进行了实证研究，研究合成集的数量和隐私预算分配方案对基于合成数据的推断的影响。
2021-04-26 stat.ME
Online Local Differential Private Quantile Inference via Self-normalization
本文提出一种基于二元查询和自归一化的在线局部差分隐私分位数估计算法，无需估计冗余参数即可获得紧致置信区间，并证明其最优性。
2023-08-07 stat.ME
Differentially Private Estimation and Inference in High-Dimensional Regression with FDR Control
The University of Hong Kong（香港大学）；Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Rutgers University（罗格斯大学）
本文提出新的方法进行高维线性回归中的差分隐私估计与推断。引入DP-BIC选择未知稀疏性参数，开发DP去偏差算法，通过稀疏性进行隐私保护推断，并通过DP多重检验控制FDR。
2026-04-10 stat.ME
Covariate-Adjusted Inference for Differential Analysis of High-Dimensional Networks
对应于疾病状况的生物网络之间的差异可以帮助描述潜在的疾病机制。现有的差分网络分析方法没有考虑网络对协变量的依赖性。因此，这些方法可以检测由协变量对疾病状况和网络的影响引起的虚假差分连接。为了解决这个问题，我们提出了一个通用的协变量调整测试差分网络分析。我们的方法通过测试原假设来评估差分网络连接性，即对于具有相同协变量且仅疾病状态不同的个体，网络是相同的。我们在一项模拟研究中实证表明，与不考虑协变量的朴素假设检验程序相比，协变量调整检验具有改进的第一类错误控制。我们还表明，有设置中，我们提出的方法提供了改进的功率来检测差分连接。我们说明了我们的方法，将其应用于检测乳腺癌基因共表达网络的亚型的差异。
2021-05-17 stat.ME
A New Framework for Inference on Markov Population Models
在这项工作中，我们构建了一个联合高斯似然近似推理马尔可夫人口模型。我们证明了马尔可夫人口模型可以近似为一个系统的线性随机微分方程的时变系数。我们证明了随机微分方程系统收敛于一组常微分方程。我们得到我们提出的联合高斯确定性极限近似（JGDLA）模型的限制系统的常微分方程。其结果是一种方法的推断马尔可夫人口模型，完全依赖于解决方案的系统确定性方程。我们表明，我们的方法不需要随机填充，并表现出更好的预测能力相比，Euler-Maruyama计划在模拟的易感染的恢复数据集。我们使用JGDLA来拟合一个随机的暴露-感染-恢复系统与钻石公主号COVID-19游轮数据集。
2021-01-02 stat.ME
Asymptotic Anytime-Valid Quantile Inference under Local Differential Privacy
Tsinghua University（清华大学）；Shanghai University of Finance and Economics（上海财经大学）
针对局部差分隐私下顺序分位数推断的难题，提出结合随机化响应与动态链式并行随机梯度下降的在线方法，实现渐近任意时刻有效的置信序列与最佳臂识别。
2026-09-21 stat.ME
Direct estimation and inference of differential Granger causality between two high-dimensional time series
University of Colorado Anschutz Medical Campus（科罗拉多大学安舒茨医学校区）；Fred Hutchinson Cancer Center（弗雷德·哈钦森癌症中心）；University of Washington（华盛顿大学）
本文提出直接估计与推断高维时间序列间差分格兰杰因果关系的新框架，通过Yule-Walker方程直接建模差分结构，实现稀疏差分估计与选择后推断，并在EEG数据中验证有效性。
2026-10-06 stat.ME
Assessing Sensitivity to Unconfoundedness: Estimation and Inference
本文提供了一套方法来量化的稳健性的处理效应估计使用unconfoundedness假设（也称为选择上的可观或条件独立性）。具体而言，我们估计并推断各种治疗效果参数的界限，如平均处理效应（ATE）和治疗对治疗的平均效果（ATT），在非参数松弛的无混淆假设下，由标量敏感性参数c索引。这些松弛允许对不可观测的有限选择，这取决于c的值。对于足够大的c，这些界限等于没有假设的界限。使用非标准的自举方法，我们展示了如何构建这些边界函数的置信带是一致的所有值的c。我们说明了这些方法的实证应用效果的国家支持工作示范计划。我们在配套的Stata模块中实现这些方法，以便在实践中使用。
2020-12-31 econ.EM stat.ME
Differentially Private Variational Inference for Non-conjugate Models
Helsinki Institute for Information Technology (HIIT)（赫尔辛基信息技术研究所）；University of Helsinki（赫尔辛基大学）
许多机器学习应用程序都是基于从人们那里收集的数据，例如他们的口味和行为以及生物特征和遗传数据。无论应用程序有多重要，都必须确保个人身份或数据隐私在分析中不会受到损害。差分隐私构成了一个强大的框架，可以防止从计算输出中违反数据主体隐私。许多重要的贝叶斯推断方法的不同的私有版本已经被提出，但缺乏一个有效的统一的方法适用于任意模型。在这方面的贡献，我们提出了一个差异私人变分推断方法具有非常广泛的适用性。它是建立在双随机变分推断，最近的进展，提供了一个变分解决方案的一大类模型。通过对梯度的裁剪和扰动，将微分隐私加入到双随机变分推断中。该算法通过子采样的隐私放大，提高了算法的效率。我们证明了该方法可以达到接近非私人水平的准确性下，合理的强隐私保证，明显改善了以前的采样为基础的替代品，特别是在强隐私制度。
2017-04-10 cs.CR cs.LG stat.ME
Statistical Inference for Stochastic Differential Equations with Memory
在本文中，我们构建了一个框架做统计推断离散观测随机微分方程（SDEs）的驱动噪声有“记忆”。经典的推理模型假设驱动噪声是布朗运动，或“白噪声”，因此意味着马尔可夫假设。我们专注于驱动噪声是分数布朗运动的情况下，这是一个常见的连续时间建模设备，用于捕获长程记忆。由于可能性是棘手的，我们继续通过数据增强，适应熟悉的离散化和缺失数据的方法开发的白噪声的情况下。除了其他参数之外，我们还将Hurst指数视为未知，并从数据中估计它。通过混合蒙特卡罗算法对参数和缺失数据同时进行后验采样，以改善混合。我们指出，由于驾驶噪声的长程相关性，仔细离散化的基本噪声是必要的有效推理。我们的方法可以适用于其他类型的粗糙路径驱动过程，如高斯“有色”噪声。该方法被用来估计在美国短期利率的记忆参数的演变。
2013-07-03 stat.AP stat.ME
Federated Learning of Quantile Inference under Local Differential Privacy
本文提出一种在局部差分隐私下基于随机梯度下降的分位数推断联邦学习方法，通过扰动梯度实现隐私保护，并建立渐近正态性与置信区间，适应数据异质性。
2025-09-26 stat.ME stat.ML
Inference on Breakdown Frontiers
给定一组基线假设，细分边界是导致特定结论的一组假设与不导致特定结论的一组假设之间的边界。在具有二元治疗的潜在结果模型中，我们考虑两个结论：首先，ATE至少是一个特定值（例如，非负的）和第二受益于治疗的单位的比例至少是特定值（例如，至少50%）。对于这些结论，我们推导出两种假设的分解边界：一种是指基线随机分配治疗假设的松弛，另一种是指基线秩不变性假设的松弛。这些类别的假设嵌套的点识别假设的随机分配和秩不变性和相反的一端没有约束的治疗选择或潜在的结果之间的依赖结构。这一前沿提供了一个定量的衡量标准，衡量结论对基线点识别假设的放松的稳健性。我们推导出$\sqrt{N}$一致的样本模拟估计这些前沿。然后，我们提供了两个渐近有效的自助程序，用于构建较低的统一置信带的崩溃前沿。作为鲁棒性的度量，估计的击穿边界及其相应的置信带可以与在点识别假设下获得的传统点估计和置信区间一起呈现。我们说明了这种方法的实证应用的影响，儿童抚养工资。我们发现，充分弱的结论是鲁棒的秩不变和随机分配的同时失败，而一些更强的结论是相当强大的秩不变的失败，但不一定放松随机分配。
2019-02-02 econ.EM stat.ME
Differentially Private Federated Learning: Servers Trustworthiness, Estimation, and Statistical Inference
Rutgers University（罗格斯大学）
本文研究了差分隐私联邦学习中的高维估计与推断挑战，分别在不可信和可信中央服务器场景下证明了估计困难并提出了针对线性回归的新型联邦估计算法及统计推断方法。
2024-04-25 cs.CR cs.LG math.ST
Inference for High-dimensional Differential Correlation Matrices
受基因组学中差异共表达分析的启发，本文考虑高维差异相关矩阵的估计和检验。一个自适应阈值的过程中引入和理论保证。极小极大收敛速度的建立和建议的估计是自适应率最优的集合的成对相关矩阵与近似稀疏的差异。仿真结果表明，该过程显着优于其他两个自然的方法，是基于单独的相关矩阵的估计。该程序还说明了通过分析的乳腺癌数据集，它提供了证据，在基因共表达水平的几个基因，其中的一个子集已被事先验证，与乳腺癌。还考虑了对差分相关矩阵的假设检验。一个测试，这是特别适合于测试对稀疏的替代品，介绍。此外，还讨论了其它相关问题，包括单个稀疏相关矩阵的估计、差分协方差阵的估计和差分互相关矩阵的估计。
2015-10-21 math.ST stat.ME stat.TH
Statistical inference for a stochastic generalized logistic differential equation
本文针对随机广义Logistic微分方程，利用最大似然法和二次变差过程估计三个未知参数，并证明估计量的强相合性，同时在完整与不完整数据情形下通过期望最大化算法进行验证。
2024-05-06 math.PR math.ST stat.ME
Statistical Inference for Differentially Private Stochastic Gradient Descent
Center for Data Science, Zhejiang University（浙江大学数据科学中心）；Department of Statistics, Rutgers University（罗格斯大学统计系）；Faculty of Business and Economics, The University of Hong Kong（香港大学商学院）
本文提出了一种在差分隐私随机梯度下降中构建有效置信区间的两种方法，通过分析渐近方差分解，实现了在隐私保护下的统计推断。
2025-12-12 cs.LG stat.ME stat.ML
