Fourier methods for smooth distribution function estimation
在本文中,我们展示了如何使用傅里叶变换方法来分析核广义函数函数估计的渐近行为。根据分布的特征函数和核的傅里叶变换,给出了平均积分平方误差的精确表达式,从而得到了最优带宽序列的极限值。在我们的结果中的假设是温和的,足以使它们适用时,在估计中使用的内核是一个超级内核,甚至sinc内核,这允许提取一些有趣的后果,作为一类分布的存在,内核估计实现了一阶改进的效率超过经验分布函数。
2013-10-16 math.ST stat.TH
A Fourier Analytical Approach to Estimation of Smooth Functions in Gaussian Shift Model
设$\mathbf{x}_j = \mathbfθ + \mathbfε_j$、$j=1,\dots,n$为i.i.d.。具有未知均值$\mathbfθ \in \mathbb{R}^d$和未知协方差矩阵$\mathbfΣ\in \mathbb{R}^{d\times d}$的高斯随机向量$\mathbf{x}\sim\mathcal{N}(\mathbfθ,\mathbfΣ)$的副本。本文的目的是研究$f(\mathbfθ)$的估计,其中$f$是一个给定的光滑函数,其光滑性由Besov型范数表征。感兴趣的问题存在于高维区域,其中固有维度可以随着样本大小$n$而增长。灵感来自A. N. Kolmogorov的无偏估计和Littlewood-Paley理论,我们开发了一个新的估计的基础上的傅立叶分析方法,实现有效的偏差减少。证明了当$f$的光滑性指数大于Koltchinskii等人最近发现的阈值时,该算法的渐近正态性和有效性。al.(2018)用于Hölder类型类。数值模拟验证了我们的分析。实现的简单性和它的优越性,插件的方法表明,新的估计器可以应用到广泛的现实世界中的应用。
2020-12-22 cs.IT math.IT math.ST
Resolvable Fourier Degree and Minimax Estimation on theBoolean Hypercube
Sorbonne Université(索邦大学);Institut universitaire de France(法国高等学术研究院)
本文研究布尔超立方体上傅里叶-索博列夫预算下的高维非参数回归,提出可解傅里叶度刻画极小极大风险,并扩展至单调回归及未知支撑情形。
2026-09-15 math.ST stat.TH
Estimation and Inference for Latent Markov Models by Fourier Recursions
Guanghua School of Management, Peking University(光华管理学院,北京大学);Department of Statistics, London School of Economics(伦敦政治经济学院统计系)
本文提出一种理论上精确的傅里叶递归框架,用于非高斯非线性潜在马尔可夫模型的估计与推断,提供统一截断实现和首个一般渐近理论,模拟和破产数据应用验证了其有效性和稳定性。
2026-09-09 stat.ME
Adaptive nonparametric estimation in heteroscedastic regression models. Part 1: Sharp non-asymptotic Oracle inequalities
对于噪声方差依赖于未知回归的异方差回归估计问题,构造了一种自适应非参数估计方法。构造了二次风险的一个非渐近上界(一个预言不等式).
2008-04-10 math.ST stat.TH
Density Estimation on the Binary Hypercube using Transformed Fourier-Walsh Diagonalizations
本文提出一种基于 Fourier-Walsh 对角化与单调变换的通用二元密度估计框架,统一并推广了 Aitchison-Aitken 核,在保持正定性的同时实现速度与灵活性的灵活权衡。
2023-04-11 stat.ME
Quasi-likelihood analysis for adaptive estimation of a degenerate diffusion process
本文针对退化扩散过程提出自适应拟似然分析方法,并证明拟最大似然估计与拟贝叶斯估计在自适应方案下具有渐近正态性和矩收敛性。
2024-06-07 math.ST stat.TH
Adaptive optimal kernel density estimation for directional data
本文主要研究方向数据的非参数密度估计问题。提出了一种新的核密度估计带宽选择规则。我们的过程是自动的,完全数据驱动的,并适应密度的平滑程度。我们得到了一个预言不等式和L2误差下的最优收敛速度。我们的理论结果与模拟说明。
2018-08-07 math.ST stat.TH
Adaptive estimation of planar convex sets
在本文中,我们考虑自适应估计的一个未知的平面紧凑,凸集从噪声测量其支撑函数在一个统一的网格。研究了点处支撑函数的估计问题和凸集的估计问题。数据驱动的自适应估计,并建立其最优性。对于逐点估计,它示出的估计最佳适应于每一个紧凑的,凸集,而不是一个大的参数空间的集合,在传统的极大极小理论的非参数估计。对于集合估计,估计器自适应地达到最佳的收敛速率。在这两个问题中,我们的分析对未知集没有平滑性假设。
2015-08-15 math.ST stat.TH
Adaptive nonparametric estimation in heteroscedastic regression models. Part 2: Asymptotic efficiency
本文讨论了作者在2007年的论文中提出的用于估计未知非参数回归的自适应方法的渐近性质。我们证明了这个过程是渐近有效的二次风险。这意味着该过程的渐近二次风险与一个尖锐的下界一致。
2008-04-10 math.ST stat.TH
Adaptive Density Estimation in the Pile-up Model Involving Measurement Errors
受荧光寿命测量的启发,本文考虑了堆积模型中的非参数密度估计问题。自适应非参数估计提出的堆积模型在其简单的形式,以及在额外的测量误差的情况下。此外,预言型风险界的平均集成平方误差(MISE)。最后,评估的估计方法进行了模拟研究和应用到真正的荧光寿命数据。
2010-11-02 stat.AP
Adaptive estimation over anisotropic functional classes via oracle approach
研究了高斯白噪声模型中各向异性Nikolskii类在$L_p$ --损失下的自适应极小极大估计问题,即$1\leq p\leq\infty,$.我们提出了一个新的数据驱动的选择方案的基础上的估计过程,从家庭的核估计具有不同的带宽。对于建议的估计,我们建立了所谓的Lp-范数预言不等式,并使用它来推导极大极小自适应结果。我们证明了率自适应估计的存在性和充分刻画行为的极大极小风险的正则性参数和规范指标之间的不同关系的定义的功能类和风险。特别地,我们发现了极大极小风险的一些新的渐近性质,包括存在一致相合估计的充要条件。我们还提供了详细的概述现有的方法和结果,并制定开放的问题,自适应极大极小估计。
2014-05-18 math.ST stat.TH
Adaptive estimation for nonparametric circular regression with errors in variables
针对变量含误差的圆回归问题,本文构建自适应估计器并分析其理论收敛速率,通过仿真与真实数据验证方法有效性,为圆型或线型协变量场景提供非参数估计方案。
2025-08-26 math.ST stat.TH
Adaptive non-asymptotic confidence balls in density estimation
我们建立了一个真实值样本$X_1,...,X_n$的共同密度$s$的置信球。我们使用的方法来估计投影的$s$到有限维线性空间和模型选择过程中选择一个最优逼近空间。覆盖属性确保所有$n\geq2$和球是自适应的线性空间的集合。
2010-07-26 math.ST stat.TH
Adaptive Estimation and Statistical Inference for High-Dimensional Graph-Based Linear Models
我们考虑了高维图基线性模型的自适应估计和统计推断。在我们的模型中,回归系数的坐标对应于底层的无向图。此外,给定的图控制回归向量的分段多项式结构。在自适应估计部分,我们应用基于图的正则化技术,并提出了一个家庭的局部自适应估计称为Graph-Piecewise-Polynomial-Lasso。我们进一步研究了图分段多项式套索的一步更新问题的统计推断。我们发展了相应的理论,包括固定设计和亚高斯随机设计。最后,我们通过大量的模拟研究说明了我们的方法的优越性能,并以拟南芥微阵列数据集的应用作为结论。
2020-01-29 math.ST stat.ME stat.TH
Optimal adaptive estimation of linear functionals under sparsity
考虑高斯序列模型中线性泛函的估计问题,其中R^d中的未知向量θ属于一类s-稀疏向量,且s未知.我们建议一个自适应估计实现非渐近收敛速率,不同于最大极小率的对数因子。我们还表明,这种最佳的自适应率不能提高时,s是未知的。此外,我们还讨论了同时适应s和噪声方差σ ^2的问题。我们提出了一个估计器,当s和σ ^2都未知时,它可以达到最优的自适应速率。
2017-10-06 math.ST stat.TH
Adaptive RKHS Fourier Features for Compositional Gaussian Process Models
Department of Computer Science The University of Manchester(计算机科学系 曼彻斯特大学)
本文将基于常微分方程的自适应 RKHS 傅里叶特征扩展至组合型高斯过程,通过卷积操作实现幅度与相位调制,并嵌入双重随机变分推断框架,提升了各类回归任务的预测性能。
2025-04-27 cs.LG stat.ML
Stochastic Adaptive Fourier Decomposition for Operator Learning
University of Sydney(悉尼大学);University of Macau(澳门大学);Macau University of Science and Technology(澳门科技大学)
针对傅里叶神经算子固定基与硬截断的局限,提出SAFDNO,利用神经极点预测器构建自适应TM系统,在九个PDE基准上六项规则网格问题最优,并提升超分辨率性能。
2026-10-06 cs.LG
Fast Kernel Density Estimation with Density Matrices and Random Fourier Features
MindLab(思维实验室);Universidad Nacional de Colombia(哥伦比亚国立大学)
核密度估计(KDE)是一种应用最广泛的非参数密度估计方法。事实上,它是一种基于内存的方法,即,它使用整个训练数据集进行预测,这使得它不适合当前大多数大数据应用。一些策略,如基于树或基于散列的估计,已被提出来提高核密度估计方法的效率。新的密度核密度估计方法(DMKDE)使用密度矩阵,量子力学的形式主义,和随机傅立叶特征,显式核近似,以产生密度估计。这种方法起源于KDE,可以被认为是一种近似方法,没有基于内存的限制。在本文中,我们系统地评估了新的DMKDE算法,并将其与其他国家的最先进的快速程序近似的核密度估计方法在不同的合成数据集。我们的实验结果表明,DMKDE与其竞争对手的计算密度估计和优势时,高维数据进行。我们已经将所有代码作为开源软件库提供。
2022-08-04 cs.LG quant-ph
Fourier Phase Retrieval with Extended Support Estimation via Deep Neural Network
School of Electrical Engineering, Korea Advanced Institute of Science and Technology(韩国科学技术院电气工程学院)
我们考虑从傅立叶变换幅度的稀疏相位恢复的问题,以恢复$k$ -稀疏信号矢量和它的支持$\mathcal{T}$。我们利用扩展支持估计$\mathcal{E}$,其大小大于$k$,满足$\mathcal{E} \supseteq \mathcal{T}$,并通过训练的深度神经网络(DNN)获得。为了使DNN可学习,它通过利用模傅立叶不变性将$\mathcal{E}$提供为$\mathcal{T}$的等价解的并集。可以通过DNN在较短的运行时间内估计集合$\mathcal{E}$,并且可以根据DNN输出而不是通过对$\mathcal{E}$应用硬阈值来根据完整索引集确定支持$\mathcal{T}$。因此,基于DNN的扩展支持估计以依赖于$k$的低复杂度负担改善了信号的重构性能。数值结果表明,与基于局部搜索的贪婪稀疏相位恢复方法和Fienup方法相比,该方法具有更低的复杂度和更好的性能.
2019-08-13 cs.LG stat.ML
NPNet: A Non-Parametric Network with Adaptive Gaussian-Fourier Positional Encoding for 3D Classification and Segmentation
Sirjan University of Technology(锡尔詹理工大学);Clemson University(克莱姆森大学)
NPNet通过自适应高斯-傅里叶位置编码实现3D点云分类和分割,无需学习权重,具有高效的内存和推理性能。
2026-01-31 cs.CV cs.LG
Adaptive Random Fourier Features Training Stabilized By Resampling With Applications in Image Regression
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学);RWTH Aachen University(亚琛工业大学)
本文提出一种增强的ARFF训练算法,通过粒子滤波器重采样稳定训练并降低参数敏感性,省略Metropolis测试以减少超参数和计算成本,在函数回归与图像回归任务中验证了有效性。
2025-04-30 cs.LG
Fourier PINNs: From Strong Boundary Conditions to Adaptive Fourier Bases
Scientific Computing and Imaging Institute(科学计算与成像研究所);University of Utah(犹他大学);Kahlert School of Computing(卡勒特计算学院)
针对PINNs难以学习高频和多尺度解的问题,提出傅里叶PINNs,通过预指定密集傅里叶基增强网络,并开发自适应基选择算法,显著提升高频分量学习能力,且不限制边界条件或域几何。
2025-02-24 cs.LG
Spectrum Prediction in the Fractional Fourier Domain with Adaptive Filtering
College of Electronic and Information Engineering, Nanjing University of Aeronautics and Astronautics(南京航空航天大学电子与信息工程学院);College of Internet of Things, Nanjing University of Posts and Telecommunications(南京邮电大学物联网学院);College of Electronic Engineering, Shanghai Jiao Tong University(上海交通大学电子工程学院)
针对现有时域或频域频谱预测方法难以分离可预测模式与噪声的问题,提出SFFP框架,通过自适应FrFT模块转换域、自适应滤波模块抑制噪声并保留特征、复值神经网络预测,在真实数据上优于主流方法。
2025-08-25 cs.IT cs.LG math.IT
Adaptive Fourier Neural Operators: Efficient Token Mixers for Transformers
NVIDIA(英伟达);California Institute of Technology(加州理工学院);Stanford University(斯坦福大学)
视觉Transformer在表示学习方面取得了巨大的成功。这主要是由于通过自我注意进行有效的令牌混合。然而,这与像素的数量成二次方,这对于高分辨率输入变得不可行。为了应对这一挑战,我们提出了自适应傅立叶神经运算器(AFNO)作为一个有效的令牌混合器,学习在傅立叶域混合。AFNO基于算子学习的原则基础,允许我们将令牌混合作为连续的全局卷积,而不依赖于输入分辨率。这一原理以前被用于设计FNO,它在傅立叶域中有效地解决了全局卷积,并在学习具有挑战性的偏微分方程方面表现出了希望。为了应对视觉表示学习中的挑战,例如图像和高分辨率输入的不连续性,我们提出了对FNO的原则性架构修改,从而提高内存和计算效率。这包括在通道混合权重上施加块对角结构,在令牌之间自适应地共享权重,以及通过软阈值和收缩来稀疏化频率模式。所得到的模型是高度并行的,具有准线性复杂度,并且在序列大小上具有线性记忆。AFNO在效率和准确性方面优于用于Few-Shot分割的自注意力机制。对于具有Segformer-B3主干的Cityscapes分割,AFNO可以处理65 k的序列大小,并且优于其他有效的自我注意力机制。
2022-03-27 cs.CV cs.LG
An Adaptive Random Fourier Features approach Applied to Learning Stochastic Differential Equations
Computer, Electrical and Mathematical Sciences and Engineering(计算机、电气与数学科学与工程系);King Abdullah University of Science and Technology(国王阿卜杜勒阿齐兹科技大学);Chair of Mathematics for Uncertainty Quantification(不确定性量化数学教授职位);RWTH Aachen University(亚琛工业大学);Alexander von Humboldt Professor in Mathematics for Uncertainty Quantification(不确定性量化数学亚历山大·冯·洪堡教授职位)
本文提出基于自适应随机傅里叶特征与Metropolis采样的训练算法,从快照数据学习随机微分方程的漂移与扩散项,并在多个基准问题上验证其性能达到或超越Adam优化。
2025-07-21 cs.LG
Effective Probabilistic Time Series Forecasting with Fourier Adaptive Noise-Separated Diffusion
AMSS, Chinese Academy of Sciences(中国科学院自动化研究所);AMAP, Alibaba Group(阿里巴巴集团)
本研究提出FALDA概率时间序列预测框架,基于DMRR框架结合傅里叶分解与轻量去噪器DEMA,降低认知不确定性,在六个基准上长期预测表现优于现有方法,且比SOTA点预测方法性能最高提升9%。
2025-05-16 cs.LG
Brain Effective Connectivity Estimation via Fourier Spatiotemporal Attention
Beijing University of Technology(北京工业大学);Pennsylvania State University(宾夕法尼亚州立大学)
提出FSTA-EC方法,融合傅里叶去噪注意力与联合时空注意力,从高噪声fMRI中同时建模空间动态与时间依赖,提升脑有效连接估计性能。
2025-03-14 cs.LG
Learnable Adaptive Time-Frequency Representation via Differentiable Short-Time Fourier Transform
提出统一的STFT可微公式,支持基于梯度的参数优化并与神经网络联合训练,解决了传统调优的次优与高计算成本问题,有效增强了时频表示并提升了下游任务性能。
2025-06-26 cs.LG cs.SD eess.AS
FEATHer: Fourier-Efficient Adaptive Temporal Hierarchy Forecaster for Time-Series Forecasting
Changwon National University(昌原国立大学)
FEATHer 通过轻量级多尺度分解、共享密集时间内核和频率感知分支门控等方法,在受限边缘设备上实现了准确的长期时间序列预测。
2026-01-16 cs.AI cs.LG
Fourier Weak SINDy: Spectral Test Function Selection for Robust Model Identification
Sibley School of Mechanical and Aerospace Engineering, Cornell University(科尼尔大学机械与航空航天工程学院)
本文提出一种基于弱形式稀疏方程学习和频谱密度估计的无导数方程学习方法,通过正交正弦测试函数提升鲁棒性和可解释性,有效识别混沌和超混沌ODE基准。
2026-07-28 cs.LG math.DS
FourCastNet: A Global Data-driven High-resolution Weather Model using Adaptive Fourier Neural Operators
NVIDIA Corporation(英伟达公司);University of Michigan(密歇根大学);Rice University(莱斯大学);California Institute of Technology(加州理工学院);Purdue University(普渡大学)
FourCastNet是傅立叶预测神经网络的缩写,是一个全球数据驱动的天气预报模型,以$0.25^{\circ}$分辨率提供准确的短期到中期全球预测。FourCastNet准确地预测高分辨率,快速时间尺度的变量,如地面风速,降水和大气水蒸气。它对规划风能资源、预测热带气旋、超热带气旋和大气河流等极端天气事件具有重要意义。FourCastNet与ECMWF综合预报系统(IFS)的预报精度相匹配,IFS是一种最先进的数值天气预报(NWP)模型,在大尺度变量的短时间内,同时在具有复杂精细结构的变量(包括降水)方面优于IFS。FourCastNet在不到2秒的时间内生成为期一周的预测,比IFS快了几个数量级。FourCastNet的速度使得能够创建快速和廉价的大型集合预报,其中包含数千个集合成员,以提高概率预报。我们讨论了数据驱动的深度学习模型(如FourCastNet)如何成为气象学工具包的一个有价值的补充,以帮助和增强NWP模型。
2022-02-22 cs.LG physics.ao-ph
Online Estimation of the Koopman Operator Using Fourier Features
University of Pennsylvania(宾夕法尼亚大学)
针对 Koopman 算子辨识依赖人工观测量字典和完整数据集的问题,本文提出利用 Fourier features 与在线数据联合学习观测量和算子的优化方案,实现复杂动力系统演化重构与全局特征表示。
2023-08-11 cs.LG cs.RO
FourCastNet: Accelerating Global High-Resolution Weather Forecasting using Adaptive Fourier Neural Operators
NVIDIA(英伟达);Lawrence Berkeley Lab(劳伦斯伯克利实验室);Caltech(加州理工学院)
极端天气在气候变化的放大下,正在全球范围内造成日益严重的破坏性影响。目前使用的物理为基础的数值天气预报(NWP)的准确性有限,由于高计算成本和严格的时间到解决方案的限制。我们报告说,数据驱动的深度学习地球系统仿真器FourCastNet可以预测全球天气,并生成比NWP快五个数量级的中期预报,同时接近最先进的准确性。FourCast-Net在三个超级计算系统上进行了优化和有效扩展:Selene,Perlmutter和JUWELS Booster,最多可达3,808个NVIDIA A100 GPU,混合精度达到140.8 petaFLOPS(该规模峰值的11.9%)。在3,072个GPU上的JUWELS Booster上测量的训练FourCastNet的求解时间为67.4分钟,相对于最先进的NWP,推理的求解时间快了80,000倍。FourCastNet可以提前一周生成准确的即时天气预报,支持更好地捕捉极端天气的巨大集合,并支持更高的全球预报分辨率。
2022-08-08 cs.AI cs.CV cs.LG
Modulated Adaptive Fourier Neural Operators for Temporal Interpolation of Weather Forecasts
NVIDIA Corporation(英伟达公司)
本文提出调制AFNO(ModAFNO)层,通过目标时间嵌入自适应调节网络,将6小时间隔天气预报插值为1小时序列,RMSE较线性插值降低约50%。
2024-10-24 cs.LG physics.ao-ph
Frequency-adaptive tensor neural networks for high-dimensional multi-scale problems
SKLMS, Academy of Mathematics and Systems Science, Chinese Academy of Sciences, Beijing, 100190, PR China(数学与系统科学研究院,中国科学院,北京,100190,中国);School of Mathematical Sciences, University of Chinese Academy of Sciences, Beijing 100190, PR China(中国科学院大学数学科学学院,北京,100190,中国);College of Mathematics and Statistics, Chongqing University(重庆大学数学与统计学院)
本文提出频率自适应张量神经网络,通过引入随机傅里叶特征和离散傅里叶变换,缓解高维多尺度问题的维度灾难,提升对高频特征的捕捉能力。
2026-05-14 cs.LG math-ph math.MP