Selecting the number of principal components: estimation of the true rank of a noisy matrix
主成分分析(PCA)是多元统计学中的一种众所周知的工具。使用PCA的一个重大挑战是组件数量的选择。为了解决这一问题,我们提出了一个基于精确分布的方法,用于假设检验和噪声矩阵中信号的置信区间的构建。假设高斯噪声,我们使用的条件分布的奇异值的Wishart矩阵和推导出精确的假设检验和置信区间的真实信号。本文基于Taylor,Loftus和Tibshirani(2013)用于测试全局null的方法:我们将其推广到测试任何数量的主成分,并导出具有更大功率的集成版本。在模拟研究中,我们发现,我们提出的方法比较以及现有的方法。
2015-05-31 stat.ME
Thresholds For Detecting An Anomalous Path From Noisy Environments
我们考虑“在迷宫中寻找线索”的复合假设测试问题,其中一个试图检测一个异常的有向路径在一个格子的2D框边n的基础上观察框的节点。在信号假设下,我们观察到所有节点的单位方差的独立高斯变量,异常路径的均值为零,异常路径上的均值为μ_n。所有节点上的标准高斯分布Arias-Castro等人(2008)表明,如果信号假设下的未知有向路径已经知道初始位置,则如果μ_n >> 1/ \sqrt log n,则检测是可能的(在极大极小意义上),而如果μ_n << 1/ log n \sqrt log log n,则检测是不可能的。在本文中,我们表明,即使未知路径的初始位置是未知的,这一结果仍然成立。与Arias-Castro et al.(2008)的情况一样,这里的上界也适用于无向路径。改进是通过用多项式统计量替换Arias-Castro等人(2008)中使用的线性检测统计量来实现的,多项式统计量是通过对二次统计量进行多尺度分析来引导其性能而获得的。我们的分析是基于Lacoin(2010)中分析无规聚合物的思想。
2017-04-20 math.ST stat.TH
Social Learning and Distributed Hypothesis Testing
研究了分布式假设检验和社会学习问题。网络中的各个节点接收噪声局部(私有)观测,其分布由离散参数(假设)参数化。条件分布在节点处是局部已知的,但是真实的参数/假设是未知的。更新规则进行了分析,其中节点首先执行贝叶斯更新他们的信念(分布估计)的参数的基础上,他们的本地观察,这些更新,他们的邻居,然后执行“非贝叶斯”的线性共识使用他们的邻居的对数信念。在本文中,我们表明,在温和的假设下,任何节点在任何不正确的假设的信念收敛到零指数快速,我们的特点是指数的学习速度,这是给定的网络结构和观测值的分布之间的分歧。我们的主要结果是建立在收敛速率上的集中性质。
2016-05-16 cs.IT math.IT math.OC
Change-point inference on volatility in noisy Itô semimartingales
本文研究了基于独立同分布的离散观测的广义Itô半鞅的现货波动过程的结构突变检验问题。微结构噪声我们构建了一个相合检验建立在填充渐近结果的某些泛函的光谱现货波动率估计。在原假设下,利用极值理论建立了一个弱极限定理。我们证明了一致性的测试和相关的估计的变化点。仿真研究说明了有限样本的性能的方法和效率增益相比,跳跃采样的方法。
2018-09-22 math.PR math.ST stat.TH
On High dimensional Poisson models with measurement error: hypothesis testing for nonlinear nonconvex optimization
The University of California, San Francisco(加州大学旧金山分校);Tongji University(同济大学);Syracuse University(雪城大学)
本文研究了高维协变量含有噪声的Poisson回归模型的估计和检验问题,该模型在噪声大数据分析中有着广泛的应用。校正由于协变量噪声引起的估计偏差导致非凸目标函数最小化。处理高维问题进一步导致我们增加一个顺从的惩罚项的目标函数。我们建议通过最小化惩罚目标函数来估计回归参数。我们推导了估计量的L1和L2收敛速度,并证明了变量选择的相合性。我们进一步建立了参数的任何子集的渐近正态性,其中该子集可以有无限多个组件,只要其基数增长足够慢。我们基于估计量的渐近正态性开发Wald和score检验,这允许检验子集成员的线性函数。我们研究了有限样本的性能所提出的测试广泛的模拟。最后,所提出的方法被成功地应用到阿尔茨海默病神经影像学倡议的研究,这激励了这项工作最初。
2022-12-31 cs.LG math.ST stat.TH
Tight Regret Bounds for Noisy Optimization of a Brownian Motion
Imperial College London(帝国理工学院);National University of Singapore(新加坡国立大学)
我们考虑一维布朗运动的贝叶斯优化问题,其中$T$自适应选择的观测值被高斯噪声破坏。我们表明,最小可能的预期累积遗憾和最小可能的预期简单遗憾量表分别为$Ω(σ\sqrt{T / \log (T)}) \cap \mathcal{O}(σ\sqrt{T} \cdot \log T)$和$Ω(σ/ \sqrt{T \log (T)}) \cap \mathcal{O}(σ\log T / \sqrt{T})$,其中$σ^2$是噪声方差。因此,我们的上限和下限紧到$\mathcal{O}( (\log T)^{1.5} )$的因子。上限使用基于置信界限和布朗运动的马尔可夫性质(以及其他有用的性质)的算法,下限基于二进制假设检验的简化。
2022-01-15 cs.IT cs.LG math.IT
Practical route to entanglement-assisted communication over noisy bosonic channels
纠缠态在量子信息处理中有着巨大的优势,但损耗和噪声阻碍了它在实际应用中的应用。尽管几十年来人们已经知道,通过纠缠可以显著增强有损和有噪声的玻色子信道上的经典通信容量,但没有实用的编码和解码方案可用于实现任何纠缠使能的优点。在这里,我们报告结构化的编码和解码方案,这样的纠缠辅助通信的情况。具体来说,我们表明,纠缠双模压缩真空态的相位编码饱和的纠缠辅助经典通信容量在一个非常嘈杂的信道,克服了没有纠缠援助的隐蔽通信的基本限制。然后,我们构造接收机的离散相位调制下的最佳假设检验协议和连续相位调制下的最佳噪声相位估计协议。我们的研究结果为在射频和微波光谱范围内的纠缠辅助通信和传感铺平了道路。
2020-03-12 physics.app-ph physics.optics quant-ph
Balancing the privacy-utility trade-off: How to draw reliable conclusions from private data
Federal Statistical Office(联邦统计局)
本文提出基于假设检验的新视角,量化相对披露风险,分析DP对统计显著性检验的影响,为非技术利益相关者提供隐私效用权衡的实用指导。
2026-08-31 cs.CR stat.ME
Active sequential hypothesis testing
考虑一个决策者,他负责动态地收集观察结果,以便以快速的方式增强他关于感兴趣的潜在现象的信息,同时考虑错误声明的惩罚。由于问题的连续性,决策者依赖于他当前的信息状态,以适应性地选择最“信息”感测行动之间可用的。本文利用动态规划的结果,建立了最优总费用的下界。下限表征的基本限制的最大可实现的信息采集速率和最佳的可靠性。此外,上界通过分析两个启发式策略的动态选择的行动。结果表明,第一次提出的启发式实现渐近最优性,渐近最优性的概念,由于BELCOFF,意味着所提出的政策和最佳的总成本达到的总成本之间的相对差异接近于零的惩罚错误的声明(因此收集的样本的数量)增加。第二个启发式算法只在有限的环境中实现渐近最优,如嘈杂的动态搜索的问题。然而,通过考虑依赖于假设的数量,在技术条件下,这第二个启发式实现非零的信息采集率,建立一个下界的最大可实现的速率和误差指数。在一个嘈杂的动态搜索与大小无关的噪声的情况下,所得到的非零率和误差指数被证明是最大的。
2013-12-18 cs.IT math.IT math.OC
Outperformance Portfolio Optimization via the Equivalence of Pure and Randomized Hypothesis Testing
研究了在固定初始资本的情况下,通过动态交易最大化在随机基准上的超额收益概率的投资组合问题。在一般的不完全市场框架下,这个随机控制问题可以转化为一个复合的纯假设检验问题。我们分析这个纯测试问题和它的随机对应之间的连接,并从后者,我们得到一个最大的表现优于概率的对偶表示。此外,在完全市场环境下,我们给出了杠杆交易所交易基金的最大超额收益问题的一个封闭解,对于一般基准,在不完全随机因子模型下,我们给出了最大超额收益概率的Hamilton-Jacobi-Bellman PDE刻画.
2013-03-31 q-fin.PM stat.AP
Derivative Estimation from Coarse, Irregular, Noisy Samples: An MLE-Spline Approach
针对粗糙非均匀采样且含高斯噪声的数值微分问题,提出带高阶导数$L_2$范数约束的MLE-样条方法,含两种可权衡平滑性与速度的形式,仿真验证其在低采样高噪场景下性能优于现有微分器。
2025-07-29 cs.SY eess.SY math.OC
Robust Hypothesis Testing via Lq-Likelihood
本文介绍了一种稳健的假设检验方法:Lq似然比型检验(LqRT)。通过推导该检验统计量的渐近分布,从解析和数值两方面证明了其稳健性,并研究了其影响函数和崩溃点的性质。与传统的似然比检验(LRT)和其他鲁棒性检验相比,本文提出的选择调整参数q的方法提供了良好的效率/鲁棒性权衡。仿真和实际数据分析提供了进一步的证据,所提出的LqRT方法的优点。特别是,对于在存在粗差污染的情况下测试位置参数的特殊情况,LqRT在各种污染水平下主导Wilcoxon-Mann-Whitney检验和符号检验。
2016-09-25 stat.AP
Integral curves of noisy vector fields and statistical problems in diffusion tensor imaging: nonparametric kernel estimation and hypotheses testing
设$v$是有界开集$G\subset {\mathbb {R}}^d$中的向量场.假设$v$在$G.$中独立且均匀分布的随机点$X_i, i=1,...,n,$处被观察到具有随机噪声。问题是估计从给定点$x(0)=x_0\in G$开始的微分方程\[\frac{dx(t)}{dt}=v(x(t)),\qquad t\geq 0,x(0)=x_0\in G,\]的积分曲线,并对积分曲线达到指定集合$Γ\subset G.$的假设进行统计检验。Watson型核回归估计,证明了估计的积分曲线的渐近正态性,并导出了极限高斯过程的均值和协方差函数的微分和积分方程。这提供了一种不仅跟踪积分曲线,而且跟踪其估计的协方差矩阵的方法。我们还研究了从积分曲线到足够光滑曲面$Γ\subset G$的平方最小距离的渐近分布。在此基础上,我们开发的假设,积分曲线达到$Γ$的测试程序。这种性质的问题是感兴趣的扩散张量成像,脑成像技术的基础上测量的扩散张量在离散位置在大脑白质,其中水分子的扩散是典型的各向异性。扩散张量数据用于估计扩散的主导方向,并从这些方向之后的初始位置跟踪白质纤维。我们的方法带来了更严格的统计工具来分析这个问题,特别是假设检验程序,可能是有用的轴突连接的白质的研究。
2007-10-18 math.ST stat.TH
Optimal Rates and Tradeoffs in Multiple Testing
多重假设检验是统计学中的一个中心话题,但是尽管对错误发现率(FDR)和相应的被称为错误未发现率(FNR)的第二类错误概念进行了大量的研究,但对多重检验的基本限制的细粒度理解尚未得到发展。我们的主要贡献是推导出一个精确的非渐近FNR和FDR之间的权衡广义高斯序列模型的一个变体。我们的分析是灵活的,足以允许分析的设置,其中的问题参数随假设$n$的数量,包括各种稀疏和密集的制度(与$o(n)$和$\mathcal{O}(n)$信号)。此外,我们证明了Benjamini-Hochberg算法以及Barber-Candès算法都是速率最优的常数在这些制度。
2017-05-15 math.ST stat.AP stat.ME
Low coordinate degree algorithms I: Universality of computational thresholds for hypothesis testing
该研究提出基于Efron-Stein分解分析低坐标度函数(LCDF)的方法,证明其在稀疏信号检测中的信道普适性,推广了多类模型的计算下界,为统计-计算间隙普适性提供证据。
2024-03-12 cs.DS math.PR math.ST
Minimax testing of a composite null hypothesis defined via a quadratic functional in the model of regression
本文研究了非参数多元回归模型下复合原假设的检验问题。对于给定的二次函数$Q$,原假设声明回归函数$f$满足约束$Q[f]=0$,而替代假设对应于$Q[f]$远离零的函数。一方面,我们提供了极大极小化率的测试和确切的分离常数,以及尖锐的最佳测试程序,对角和非负二次泛函。我们考虑光滑类的椭球形和检查,我们的条件得到满足,在特定情况下,对应于各向异性的Sobolev类椭球。在这种情况下,我们提出了一个封闭的形式的极大极小速率和分离常数。另一方面,二次泛函的极小极大率既不是正的也不是负的,使得出现两种不同的状态:“正则”和“非正则”。在“规则”情况下,极大极小化速率等于$n^{-1/4}$,而在“不规则”情况下,速率取决于平滑类,并且比“规则”情况下慢。我们将其应用到测试在嘈杂的环境中观察到的两个功能的规范的平等的问题。
2013-01-04 math.ST stat.TH
Multiple Testing of Linear Forms for Noisy Matrix Completion
University of Pennsylvania(宾夕法尼亚大学);City University of Hong Kong(香港城市大学);Hong Kong University of Science and Technology(香港科技大学);Columbia University(哥伦比亚大学)
针对大规模推荐系统中噪声矩阵补全的多元线性形式检验问题,提出一种数据分割与对称聚合方法,通过构造具有锐利渐近性质的统计量控制错误发现率,在近最优样本量下实现有效FDR控制与统计功效。
2026-07-01 cs.LG math.ST stat.ME
Effect of the U.S.--China Trade War on Stock Markets: A Financial Contagion Perspective
在本文中,我们调查了美国的影响--基于高频金融数据,从金融传染的角度看中国贸易战对股票市场的影响。具体来说,为了解释中美股票市场之间的风险传染,我们建立了一个新的跳跃-扩散过程。例如,我们考虑三个渠道的波动传染-如综合波动,正跳变,负跳变-和每个股票市场能够影响其他股票市场作为一个隔夜风险因素。我们发展了一个模型参数的拟极大似然估计,并建立了它的渐近性质。此外,为了识别传染渠道和测试结构突变的存在,我们提出了假设检验程序。通过实证研究,我们发现了金融危机从美国向中国传染的证据,以及风险传染渠道从综合波动率向负跳跃变化的证据。
2021-11-18 q-fin.ST stat.ME
Robust nonparametric detection of objects in noisy images
我们提出了一种新的统计假设检验方法检测噪声图像中的目标。该方法使用的结果从渗流理论和随机图论。我们提出了一种算法,允许检测未知形状的对象中存在的非参数噪声的未知水平和未知的分布。没有边界形状的约束施加在对象上,只有一个弱体条件的对象的内部是必需的。该算法具有线性复杂度和指数精度,适用于实时系统。在本文中,我们进一步发展我们的方法的数学形式主义,并探讨重要的联系,渗透和统计物理的数学理论。我们证明我们的测试过程的一致性和算法复杂性的结果。此外,我们不仅解决的方法的渐近行为,但也有限样本性能的测试。
2011-02-23 math-ph math.MP math.PR