Nonparametric estimation for an autoregressive model
研究了带未知分布噪声的自回归模型在给定不动点的非参数估计问题。核估计的修改建议。估计的渐近极小极大和效率的性质。
2008-06-18 math.ST stat.TH
Adaptive nonparametric confidence sets
我们构造了各种统计模型中希尔伯特空间值参数的诚实置信区域。置信集可以以任意自适应估计为中心,并且具有最佳适应于给定模型选择的直径。后一种调整必然在范围上受到限制。我们回顾了自适应置信区域的概念,并将自适应置信区域的直径的最佳比率与极小极大比率联系起来,用于测试和估计。应用包括有限正态均值模型、白噪声模型、密度估计和随机设计回归。
2006-05-17 math.ST stat.TH
Distributed Nonparametric Regression under Communication Constraints
University of Pennsylvania(宾夕法尼亚大学);Yale University(耶鲁大学)
研究了多机分布数据下光滑函数的非参数估计问题。我们假设在每台机器上收集来自白噪声模型的独立样本,并且需要在中央机器上构建底层真函数的估计量。我们对每台机器可以用来向中央机器传输信息的比特数进行了限制。我们的结果给出了各种设置下的统计风险的渐近下界和匹配上界。我们确定了三种制度,这取决于机器的数量,在每台机器上可用的数据的大小,和通信预算之间的关系。当沟通预算较小时,统计风险仅取决于此沟通瓶颈,而与样本量无关。在通信预算较大的情况下,恢复了非分布估计设置中的经典极小极大风险。在中间状态下,统计风险取决于样本量和通信预算。
2018-06-23 cs.LG math.ST stat.ML
Testing additivity in nonparametric regression under random censorship
本文研究了右删失数据下多元回归函数的非参数估计。更确切地说,我们提出了一个统计量,被证明是渐近正态分布下的添加剂的假设,并可以用来测试在删失回归设置的可加性。
2008-02-07 math.ST stat.TH
Nonparametric estimation over shrinking neighborhoods: Superefficiency and adaptation
超效率和适应性的理论下,灵活的性能指标,提供了一个多分辨率的风险和桥梁之间的差距逐点和全球估计。这个理论提供了一个有用的基准空间自适应估计的评估,并表明,可能的超效率的程度极大极小率最优估计严重依赖于大小的邻居的风险进行测量。小波程序给出了适应率最佳给定的收缩邻域,包括在一个点的均方误差和平均积分平方误差在整个区间的极端情况下。这些自适应程序是基于一个新的小波块阈值方案,该方案结合了常用的水平分块的小波系数(在相同的分辨率水平)和垂直分块的系数(在不同的分辨率水平)。
2005-04-25 math.ST stat.TH
Nonparametric Distributed Learning Architecture for Big Data: Algorithm and Applications
现代数据集的规模和复杂性急剧增加,使得传统的“集中式”统计推断变得难以为继。除了与大数据学习相关的计算挑战之外,许多数据类型(例如离散,连续,分类等)的存在也是一个挑战。使得自动化和可扩展性变得困难。一个直接的问题是如何设计一个数据密集型的统计推断架构,而不改变上个世纪为“小”数据开发的基本统计建模原则。为了解决这个问题,我们提出了MetaLP,一个灵活的,分布式的统计建模框架。
2018-02-26 stat.AP stat.CO stat.ME
Nonparametric estimation of the distribution of the autoregressive coefficient from panel random-coefficient AR(1) data
本文讨论了一组长度为$n$的$N$随机系数AR(1)数据的自回归系数$a \in (-1,1)$的分布函数$G(x)$的非参数估计,通过单个AR(1)过程的滞后1样本自相关的经验分布函数.在$G(x)$上,当$N$和$n$趋于无穷大时,在一定的正则性条件下,证明了经验分布函数和一类核密度估计的相合性和渐近正态性.讨论了Beta分布$a$的简单假设和复合假设的Kolmogorov-Smirnov拟合优度检验。拟合优度检验的模拟研究比较了我们的非参数估计量的有限样本性能与Beran等人(2010)中讨论的参数模拟的性能。
2016-10-05 math.ST stat.TH
Optimal nonparametric estimation of the expected shortfall risk
National University of Singapore(新加坡国立大学);University of Tübingen(蒂宾根大学)
本文提出了一种鲁棒的非参数估计方法,用于最优估计预期短差风险,且在数据被恶意修改时仍能保持优良性能。
2026-02-12 math.PR math.ST q-fin.MF
Nonparametric Estimation of an Additive Model With a Link Function
本文讨论了具有已知连接函数的非参数可加模型的可加分量的一个估计。当加性分量是两次连续可微的时,估计量是渐近正态分布的,其收敛速率的概率为n^{-2/5}。不管解释变量的维数是多少,这都是正确的。因此,与现有的渐近正态估计相比,新的估计没有维数灾难。此外,估计量具有预言性质。每个附加成分的渐近分布与其他成分确定已知时的渐近分布相同。
2005-08-30 math.ST stat.TH
Optimally-Tuned Nonparametric Linear Equalization for Massive MU-MIMO Systems
本文研究了大规模多用户多输入多输出(MU-MIMO)无线系统中的线性均衡问题。我们首先提供了简单的条件,天线配置的众所周知的线性最小均方误差(L-MMSE)均衡器提供接近最佳的频谱效率,我们分析其性能的存在下,在信号和/或噪声功率的参数失配。然后,我们提出了一种新的,最佳调谐的非参数优化器(NOPE)的大规模MU-MIMO系统,它完全避免了发射信号和噪声功率的知识。我们表明,NOPE实现了相同的性能的L-MMSE均衡器在大天线的限制,我们证明了其在现实中,有限维系统的功效。从实践的角度来看,NOPE在计算上是高效的,并且避免了参数估计通常所需的专用训练
2017-05-08 cs.IT eess.SP math.IT
Curve registration by nonparametric goodness-of-fit testing
曲线配准问题出现在从神经科学到道路交通建模的许多不同的应用领域中。在目前的工作中,我们提出了一个非参数测试框架,我们开发了一个广义的似然比检验进行曲线配准。我们首先证明,在原假设下,得到的检验统计量是渐近分布的卡方随机变量。该结果通常被称为Wilks现象,为规定的渐近显着性水平的检验提供了自然阈值,并根据$χ^2$检验的$p$值提供了失拟的自然测量。我们还证明了所提出的测试是一致的,\textit{i.e.},它的权力是渐近等于$1$。数值模拟证明了所提出的方法的有限样本性质。作为应用,介绍了一种新的数字图像局部描述子,并对其鉴别能力进行了实验评估。
2015-02-19 math.ST stat.TH
Composite Likelihood Inference by Nonparametric Saddlepoint Tests
复合似然函数类为复杂统计模型的近似推理提供了一个灵活而强大的工具,当完全似然函数无法指定或无法计算时,可以使用它进行近似推理。然而,当考虑关于多维参数的假设检验时,复合似然方法的强度变暗,因为似然比、Wald和得分型检验统计量的有限样本行为与Godambe信息矩阵相关联。因此,Godambe信息的不准确估计转化为不准确的p值。在本文中,它是如何准确的推断,可以通过使用一个完全非参数鞍点检验统计量来自复合得分函数。所提出的统计量是渐近卡方分布的二阶相对误差,并不依赖于Godambe信息。通过仿真研究证明了该方法的有效性。
2013-06-23 math.ST stat.ME stat.TH
Estimation in the convolution structure density model. Part I: oracle inequalities
在$\bR^d$上的卷积结构密度模型的框架下,研究了$\bL_p$ -损失下的非参数估计问题,即$p\in [1,\infty)$.该观测方案是直接观测和间接观测下的密度估计两种经典统计模型的推广。在第一部分中,原始逐点选择规则从家庭的“核型”估计提出。对于所选的估计量,我们证明了一个$\bL_p$ -范数预言不等式及其几个结果。在第二部分中,自适应极小极大估计下的问题$\bL_p$ -损失的各向异性Nikol'skii类的规模解决。我们充分刻画了极大极小风险的行为,在函数类和风险的定义中,正则性参数和范数指标之间存在不同的关系。我们证明了在第一部分中提出的选择规则导致建设的最佳或接近最佳(对数因子)的自适应估计。
2017-04-14 math.ST stat.TH
Federated Nonparametric Hypothesis Testing with Differential Privacy Constraints: Optimal Rates and Adaptive Tests
University of Pennsylvania(宾夕法尼亚大学)
本文研究差分隐私约束下联邦非参数拟合优度检验,建立极小极大分离速率的匹配上下界并揭示相变现象,证明共享随机性可提升一次性协议性能,并提出能以极小代价自适应未知正则性参数的数据驱动检验方法。
2024-06-10 cs.LG math.ST stat.ML
Minimax Nonparametric Two-sample Test under Smoothing
我们考虑两组之间的概率密度比较的问题。提出了一种新的概率张量积光滑样条框架来模拟两个变量的联合密度。在这种框架下,概率密度比较相当于测试相互作用的存在/不存在。我们提出了一种用于此类相互作用检验的惩罚似然比检验,并表明在原假设下检验统计量是渐进卡方分布的。此外,我们得到了一个尖锐的minimax检验率的基础上的伯恩斯坦宽度的非参数两样本检验,并表明我们提出的检验统计量是minimax最优的。此外,一个数据自适应调整标准的发展,以选择惩罚参数。仿真和实际应用表明,所提出的测试优于传统的方法在各种情况下。
2021-01-11 math.ST stat.AP stat.ME
A nonparametric test for elliptical distribution based on kernel embedding of probabilities
针对现有椭圆分布检验方法的局限性,提出基于概率核嵌入的通用非参数检验方法,证明其统计性质并通过模拟和真实数据集验证了有效性。
2024-03-27 math.ST stat.ME stat.TH
Nonparametric estimation by convex programming
本文研究的问题是:给定(1)${\mathbb{R}}^n$中的凸紧集$X$,仿射映射$x\mapsto A(x)$,概率密度的参数族$\{p_μ(\cdot)\}$,(2)$N$ i.i.d.随机变量$ω$的观测值(对于某些(未知的)$x\in X$以密度$p_{A(x)}(\cdot)$分布)估计给定线性形式在$x$处的值$g^Tx$。对于几个家庭$\{p_μ(\cdot)\}$没有额外的假设$X$和$A$,我们开发计算效率高的估计程序,这是最小最优,在一个绝对常数因子。然后,我们应用这些例程恢复$x$本身的欧几里德规范。
2009-08-21 math.ST stat.TH
High-Confident Nonparametric Fixed-Width Uncertainty Intervals and Applications to Projected High-Dimensional Data and Common Mean Estimation
非参数两阶段程序,以构建固定宽度的置信区间进行了研究,以量化的不确定性。它表明,随机中心极限定理(RCLT)的有效性伴随着一致的和渐近无偏估计的渐近方差已经保证了一致性和第一以及二阶效率的两个阶段的程序。这在置信区间长度趋于$0$的常见渐近下以及置信水平趋于$1$的新提出的高置信度渐近下都成立。该方法的动机是并适用于分布式大数据的数据分析,数据查询的成本不可忽略。本文讨论了以下问题:均值的固定宽度区间,观测高维数据时的投影,以及在序约束下使用非线性共同均值估计时的共同均值。该程序进行了研究,通过模拟和实际数据分析说明。
2019-10-07 math.ST stat.ME stat.TH
Asymptotic Equivalence for Nonparametric Generalized Linear Models
本文证明了非高斯非参数回归模型在 Le Cam 亏缺距离下渐近等价于高斯噪声回归模型,并利用部分和过程的 Hungarian 构造的泛函版本完成了证明。
2024-12-19 math.ST stat.TH
hermiter: R package for Sequential Nonparametric Estimation
本文介绍了R包hermiter,该包利用基于Hermite级数的估计器实现单变量和双变量概率密度、累积分布、分位数及相关系数的估计,特别适用于序贯和大数据单遍批量估计,并支持并行与分布式计算。
2023-07-02 stat.CO
Nonparametric Density Estimation Using Partially Rank-Ordered Set Samples With Application in Estimating the Distribution of Wheat Yield
研究了基于部分秩序集(PROS)抽样设计的秩基观测值的未知密度函数$f$的非参数估计. PROS抽样设计在环境、生态和医学研究中有许多应用,在这些研究中,感兴趣变量的精确测量是昂贵的,但是可以通过除实际测量之外的任何方式相对于感兴趣变量订购少量抽样单元,并且这可以以低成本完成。PROS观测值涉及独立的顺序统计量,它们不是同分布的,大多数常用的非参数技术不能直接应用于它们。我们首先基于不完美的PROS采样过程开发了$f$的核密度估计,并研究了其理论性质。然后,我们考虑了当底层分布假设是对称的问题,并介绍了$f$的一些插件核密度估计。我们使用EM型算法来估计与不完美的PROS设计相关的错位概率。最后,我们通过几个模拟研究和一个案例研究来扩展我们的结果的各种数值说明,以估计小麦产量的分布,使用种植小麦的土地总面积作为一个容易获得的辅助信息。我们的结果表明,PROS密度估计性能优于SRS和RSS。
2014-01-06 math.ST stat.TH
Adaptive estimation of planar convex sets
在本文中,我们考虑自适应估计的一个未知的平面紧凑,凸集从噪声测量其支撑函数在一个统一的网格。研究了点处支撑函数的估计问题和凸集的估计问题。数据驱动的自适应估计,并建立其最优性。对于逐点估计,它示出的估计最佳适应于每一个紧凑的,凸集,而不是一个大的参数空间的集合,在传统的极大极小理论的非参数估计。对于集合估计,估计器自适应地达到最佳的收敛速率。在这两个问题中,我们的分析对未知集没有平滑性假设。
2015-08-15 math.ST stat.TH
Nonparametric estimation of the mixing density using polynomials
我们考虑从$n$ i.i.d.估计混合密度$f$的问题。观测值根据混合密度分布,混合分布未知。与有限混合模型相比,这里的隐藏变量的分布不局限于一个有限集,而是分布在一个给定的区间上。提出了一种构造混合密度$f$的包含勒让德多项式的正交级数估计的方法。标准正交序列的构造因混合模型而异。最小最大的上界和下界的平均积分平方误差提供适用于各种情况下。在指数混合的特定情况下,它示出的估计是自适应的特定的平滑类的集合,更准确地说,存在一个常数$A\textgreater{}0$,使得,当为了$m$的投影估计验证$m\sim A \log(n)$,估计达到极大极小率在此集合。其他情况下,如伽玛形状的混合物和规模的混合物的compounds支持的密度,包括Beta混合物进行了研究。最后,给出了混合密度$f$支持度的一致估计.
2015-05-23 math.ST stat.TH
Smoluchowski processes and nonparametric estimation of functionals of particle displacement distributions from count data
假设粒子在$\bR^d$中随机分布,并且它们彼此独立地进行相同的随机运动。Smoluchowski过程描述了观测区域中粒子数量随时间的波动。本文研究Smoluchowski过程的性质并考虑相关的统计问题。在本文的第一部分,我们重新审视概率性质的Smoluchowski过程中的一个统一的和原则的方式:明确的公式产生的泛函和时刻,平稳性和高斯近似的条件进行了讨论,并突出了其他随机模型的关系。第二部分讨论Smoluchowki过程的统计。我们考虑两种不同的模型的粒子位移过程:无偏匀速运动(当一个粒子沿直线随机匀速运动)和布朗运动位移。在无偏匀速运动的情况下,研究了平均速度和速度分布的估计问题;在布朗位移模型下,研究了扩散系数的估计问题。在所有这些设置中,我们开发的估计可证明的准确性保证。
2021-08-16 math.PR math.ST stat.TH
Computational Limits of A Distributed Algorithm For Smoothing Spline
在本文中,我们将探讨统计与计算的权衡,以解决一个基本的问题,在分布式算法的应用:什么是最小的计算成本,在获得统计最优?在平滑样条设置中,我们观察到部署的机器数量的相变现象,最终成为计算成本的简单代理。具体来说,建立了机器数量的一个明确的上界:当数量低于这个界限时,统计最优性(在非参数估计或检验方面)是可以实现的;否则,统计最优性就变得不可能了。这些尖锐的边界部分捕获本文所考虑的分布式算法的内在计算限制,并完全由回归函数的平滑度决定。作为一个侧面的评论,我们认为,样本分裂可以被看作是一种替代形式的正则化,发挥类似的作用,平滑参数。
2017-07-21 math.ST stat.TH
Nonparametric Multi Change Point Detection for Markov Chains via Adaptive Clustering
Northwestern University(西北大学)
研究针对非独立同分布数据集的马尔可夫链变化点检测难题,提出结合马尔可夫链拉德马赫复杂度与惩罚自适应聚类的非参数算法,可准确获取变化点,证明速率紧密性并讨论计算考量。
2026-07-15 math.ST stat.ME stat.TH
Accelerated convergence for nonparametric regression with coarsened predictors
我们认为,非参数估计的回归函数的情况下,精确测量的预测被用来估计回归曲线粗糙,即不太精确或污染的预测。具体地,虽然具有独立且同分布的数据的样本$(W_1,Y_1),...,(W_n,Y_n)$可用,其表示具有精确测量的预测因子的观察,其中$\mathrm{E}(Y_i|W_i)=g(W_i)$代替平滑回归函数$g$,感兴趣的目标是另一个平滑回归函数$m$,其与作为$W_i$的噪声版本的预测因子$X_i$有关。然后,我们的目标是回归函数$m(x)=E(Y|X=x)$,其中$X$是$W$的污染版本,即$X=W+δ$。假设误差的密度是已知的,或者重复的数据是类似的,但不一定是相同的,变量$X$。在这两种情况下,在适当的条件下,我们得到了$\sqrt{n}$ -速度的收敛估计及其衍生物,并建立了一个功能极限定理。弱收敛到高斯极限过程意味着点态和一致的置信区间和$m$的极值和零点的$\sqrt{n}$ -相容估计。结果表明,这些结果被保存在更一般的模型,其中$X$是由一个解释变量。有限样本的性能进行了研究,在模拟和说明了一个真实的数据的例子。
2008-03-20 math.ST stat.TH
Nonparametric estimation of surface integrals
未知物体边界上曲面积分的估计对于统计学中的非参数方法是一个挑战,在物理和图像分析等领域具有强大的应用。如果可以确定是否随机射击击中身体,Cuevas等人。35(2007)1031- 1051]通过考虑在包含身体的盒子处的镜头来估计边界测量(平面集合的边界长度和三维对象的表面积)。这些作者所考虑的统计,以及在随后的论文中,是基于闵可夫斯基内容的估计,并取决于一个平滑参数,必须仔细选择。对于相同的采样方案,我们引入了一种新的方法,绕过这个问题,提供强一致的估计的边界测量和标量函数的表面积分,提供一个可以收集的功能值在样本点。例如,在实验中,物体的密度可以通过撞击的物理特性来测量,或者在温度和湿度等量通过随机分布的传感器来观察的情况下。我们的方法是基于随机Delaunay三角剖分,并涉及一个简单的程序,从一个密集的点云内部和外部的身体表面重建。我们获得基本的渐近估计,进行模拟和讨论,通过谷歌地球的数据,咸海海岸及其悬崖的图像分析的应用。
2011-03-08 math.ST stat.TH
Parametric and Nonparametric Tests for Speckled Imagery
合成孔径雷达(SAR)作为一种远程成像方法具有举足轻重的作用。SAR图像是由相干光照射获得的,图像中存在相干斑噪声。这种污染的统计建模是很好地描述根据乘法模型和其隐含的G 0分布。SAR图像的理解和场景元素识别是该领域的一个重要目标。特别地,寻求可靠的图像对比工具。针对SAR图像对比度评价新工具的提出,研究了基于随机散度的SAR图像对比度评价新方法。我们提出了几个分歧的措施,专门为G 0分布的数据。我们还介绍了一个非参数的方法的基础上的Kolmogorov-Smirnov距离为G 0数据。我们设计和评估基于这些措施的测试,并根据其测试的大小和功率量化其性能。使用蒙特卡罗模拟,我们提出了一个稳健性分析的检验统计量和极大似然估计几个程度的创新污染。据确定,拟议的测试的基础上三角形和算术几何措施优于Kolmogorov-Smirnov方法。
2012-07-10 cs.GR stat.CO
Nonparametric Regression for 3D Point Cloud Learning
在过去的二十年里,我们看到在各个领域收集的不规则形状的点云数量呈指数级增长。基于点云实体建模的重要性,本文提出了一种基于四面体分割的多变量样条函数的三维实体建模方法,用于提取点云信号并建立三维实体模型。该平滑方法可以有效地去除点云的噪声或去模糊,并提供实际信号的多分辨率重建。此外,它可以处理稀疏和不规则分布的点云,并恢复底层轨迹。所提出的平滑和插值方法也提供了一种自然的方法来减少大量的数据。此外,我们建立了所提出的方法的理论保证。具体来说,我们推导出的估计的收敛速度和渐近正态性,并说明收敛速度达到最佳的非参数收敛速度。通过大量的仿真研究和实际数据的例子,我们证明了所提出的方法优于传统的平滑方法的估计精度和效率的数据减少。
2023-02-18 stat.CO
Confidence Diagram of Nonparametric Ranking for Uncertainty Assessment in Large Language Models Evaluation
Harvard Chan School of Public Health(哈佛陈曾熙公共卫生学院);Columbia University(哥伦比亚大学);Duke University(杜克大学);University of Miami(迈阿密大学)
本文针对大语言模型排序评估问题,提出基于非参数上下文排序的假设检验框架,并引入置信图概念以有向图形式刻画排序置信集,通过推广高斯乘子自助法证明其有效性,实验表明该方法能为不同医学领域中大语言模型的性能评估提供可靠洞见。
2025-02-10 cs.LG stat.ME stat.ML
A review of distributed statistical inference
本文系统综述了基于分而治之思想的分布式统计推断方法,涵盖参数、非参数及常用模型,并分析了通信成本与估计精度的权衡。
2023-04-13 stat.CO
Distributed Nonparametric Sequential Spectrum Sensing under Electromagnetic Interference
提出了一种非参数分布式顺序算法,用于快速检测认知无线电系统中的频谱空洞。两个或多个本地节点做出决定,并通过报告多址信道(MAC)通知融合中心(FC),融合中心然后做出最终决定。在存在衰落、重尾电磁干扰(EMI)和离群值的情况下,本地节点使用能量检测,FC使用均值检测。主信号、通道增益或EMI的统计数据是未知的。不同的非参数顺序算法进行比较,以选择合适的算法在本地节点和FC使用。最近开发的随机游走测试的修改被选择用于能量检测的本地节点以及用于均值检测的融合中心。通过仿真和分析表明,非参数分布式算法的衰落,EMI的存在下,表现良好,是鲁棒的离群值。该算法本质上是迭代的,使得计算和存储需求最小。
2015-04-30 cs.IT math.IT
Nonparametric Maximum Entropy Probability Density Estimation
给定独立同分布的随机变量样本,提出了一种新的非参数最大熵方法来估计潜在的连续单变量密度函数(pdf)。通过基于单顺序统计量的对数似然函数最大化,在通过使用蒙特卡洛随机搜索方法迭代改进的试验累积分布函数序列进行转换之后,找到估计值。通过评估随机变量对采样均匀随机数据的统计特性的改善进行量化。质量是确定使用经验得出的评分函数,是缩放为样本大小不变。评分函数识别非典型波动,针对非典型波动设置阈值以定义客观标准,该客观标准在试验迭代继续改进模型pdf时防止欠拟合,并且在过拟合发生之前停止迭代周期。不需要事先了解数据。pdf模型的集合用于反映由于随机样本中的统计波动而引起的不确定性,并且使用显示与大小不变统计量的偏差的缩放残差分位数图来可视化估计的质量。这些考虑导致一种易于处理的方法,该方法整体地采用随机变量的关键原理及其统计特性,并结合采用正交基函数和数据驱动的自适应算法。基准测试表明,随着样本量的增加,pdf估计值很容易收敛到真实的pdf。几个测试的概率密度,包括不连续性,多分辨率尺度,重尾和奇异性的PDF的情况下,表明了稳健的结果,提出了一个普遍适用的方法统计推断。
2016-06-28 math.PR stat.ME
A New Algorithm for Distributed Nonparametric Sequential Detection
本文考虑了非参数序贯假设检验问题,即当原假设下的分布是完全已知的,而备择假设对应的分布是其他一些具有松散约束的未知分布时。我们提出了一个简单的算法来解决这个问题。这些问题主要来自于无线传感器网络和认知无线电中的频谱感知。还提出了利用空间多样性的分散版本。分析了它的性能,证明了它的渐近性质。该算法的模拟和分析的性能进行比较,与以前的算法解决相同的问题,类似的假设。我们还修改了算法,以优化性能时,两个假设发生的先验概率的信息是已知的。
2013-11-14 cs.IT math.IT
How to Optimally Allocate Resources for Coded Distributed Computing?
今天的数据中心拥有丰富的计算资源,托管由多达数万或数十万台机器组成的服务器集群。为了在数据中心上执行复杂的计算任务,很自然地将计算分布在许多节点上以利用并行处理。然而,随着我们分配越来越多的计算资源到一个计算任务,并进一步分布计算,大量的(部分)计算数据必须在节点之间的计算任务的连续阶段之间移动,因此通信负载可能成为瓶颈。本文研究了分布式计算中计算资源的优化分配问题,目标是使分布式计算中计算和通信两个阶段的总执行时间最小。特别是,我们认为一个通用的MapReduce型分布式计算框架,其中的计算被分解成三个阶段:\emph{Map},\emph{Shuffle},和\emph{Reduce}。我们专注于最近提出的\emph{Coded Distributed Computing}方法MapReduce和研究在这个框架中的计算资源的最优分配。对于所有的问题参数值,我们的特点,应用于分布式处理的服务器的最佳数量,提供的地图和减少任务的最佳位置,并提出了一个最佳的编码数据洗牌计划,以尽量减少总的执行时间。为了证明所提出的方案的最优性,我们首先推导出一个匹配的信息论逆的执行时间,然后我们证明,在所有可能的资源分配计划,实现最小的执行时间,我们所提出的方案使用的服务器的数量正好是最少的。
2017-02-23 cs.DC cs.IT math.IT
Distributed Learning in Wireless Sensor Networks
在无线传感器网络等应用中的分布式或分散式检测和估计问题通常被认为是在参数模型的框架中,其中对自然的统计描述进行了强有力的假设。在某些应用中,这样的假设是有道理的,从这些模型设计的系统显示出希望。然而,在其他情况下,先验知识充其量是模糊的,将这种知识转化为统计模型是不可取的。应用程序,如这些铺平了道路,分布式检测和估计的非参数研究。在本文中,我们回顾了作者最近的工作,其中一些基本模型的分布式学习被认为是。这些模型符合非参数统计学经典工作的精神,适用于无线传感器网络。
2005-03-26 cs.IT cs.LG math.IT
Generalized Analysis of a Distributed Energy Efficient Algorithm for Change Detection
在\cite{icassp}中,提出了一种基于Page算法的能量有效的分布式变化检测方案.在本文中,我们考虑这个算法的非参数版本。在\cite{icassp}中的算法中,每个传感器都运行CNOUM,并且仅在CNOUM高于某个阈值时才进行传输。来自传感器的传输在物理层被融合。信道被建模为多址接入信道(MAC)与噪声损坏。融合中心执行另一个CANUUM来检测变化。在本文中,我们推广的算法,也包括非参数矩阵,并提供了一个统一的分析。
2009-08-10 cs.IT cs.PF math.IT
Semi-Nonparametric Estimation of Distribution Divergence in Non-Euclidean Spaces
针对非欧样本空间同胚映射未知、难以直接构建通用核的问题,提出结合可学习参数映射与欧氏空间通用核的半非参数方法,用于估计分布的全变分距离与卡方散度,证明了其渐近一致性并给出统计分析。
2023-12-19 cs.IT math.IT
How to Read and Update Coded Distributed Storage Robustly and Optimally?
本文研究稳健动态编码分布式存储(RDCDS)问题,推导出更新阈值、读取下载成本和更新上传成本的最优下界,并基于阶梯码思想构造了同时达到这些下界的方案。
2024-08-21 cs.IT math.IT
The Gaussian Many-Help-One Distributed Source Coding Problem
在N个不同的终端上观察到联合高斯无记忆源。目标是以分布式方式有效地对观测进行编码,以便能够在解码器处根据二次保真度标准重建任何一个观测,比如第一个观测。我们的主要结果是一个精确的表征率失真区域时,源的协方差矩阵满足“树结构”的条件。在这种情况下,一个自然的模拟-数字分离方案最佳地权衡了分布式量化率元组和重建中的失真:每个编码器由一个点对点高斯矢量量化器和一个Slepian-Wolf合并编码器组成。我们还提供了一个部分的逆,表明树结构条件是基本的。
2008-05-13 cs.IT math.IT
Distributed Regression in Sensor Networks: Training Distributively with Alternating Projections
近年来,无线传感器网络(WSNs)引起了广泛的关注,并激发了分布式信号处理的新挑战。分布或分散估计的问题经常被认为是在参数模型的背景下。然而,参数方法的成功受到模型所作强统计假设的适当性的限制。在本文中,一个更灵活的非参数模型分布回归被认为是适用于各种无线传感器网络的应用,包括现场估计。在这里,从标准的正则化核最小二乘估计,消息传递算法的分布式估计在无线传感器网络的推导。该算法可以看作是连续正交投影(SOP)算法的一个实例。该算法的各个实际方面进行了讨论,并通过数值模拟验证了该方法的潜力。
2005-07-18 cs.AI cs.CV cs.DC
Exponentially Consistent Nonparametric Linkage-Based Clustering of Data Sequences
Indian Institute of Technology Madras(印度理工学院马德拉斯学院);Purdue University(普渡大学)
本文提出在较宽松条件下SLINK聚类可实现指数一致性,并设计序列算法SLINK-SEQ,减少样本需求,扩展了非参数聚类理论。
2025-08-06 cs.IT cs.LG eess.SP