The Area of the Convex Hull of Sampled Curves: a Robust Functional Statistical Depth Measure
LTCI, Télécom Paris, Institut Polytechnique de Paris(LTCI,巴黎电信学院,巴黎综合理工学院)
随着物联网时代传感器的普及,统计观测越来越多地以大规模(多变量)时间序列的形式提供。作为无监督的异常检测任务,航空安全管理、复杂基础设施的健康监测或欺诈检测等大量应用现在可以依赖于以更细的粒度获取和存储的此类功能数据。统计深度的概念,它反映了中心的任意观察w.r.t.在这方面,统计总体可能发挥关键作用,异常对应于具有“小”深度的观测。在近几十年来的理论和计算发展的支持下,它已被证明是非常有用的,特别是在函数空间中。然而,文献中记载的大多数方法包括独立评估形成时间序列的每个点的中心性,因此对可能的形状变化表现出一定的不敏感性。在本文中,我们提出了一个新的概念的功能深度的基础上的面积的凸包采样曲线,捕捉逐渐偏离中心,甚至超出了包络线的数据,在一个自然的方式。我们讨论的实际意义的功能深度和调查,其中之一是满意的概念,我们在这里推广的深度。估计和计算问题也得到解决,各种数值实验提供了经验证据的相关性的方法。
2020-02-13 cs.LG math.ST stat.ME
The Design of Global Correlation Quantifiers and Continuous Notions of Statistical Sufficiency
使用第一性原理的推断,我们设计了一组泛函的目的\textit{ranking}联合概率分布相对于它们的相关性。从一个一般的功能,我们通过\textit{Principle of Constant Correlations}(PCC),这限制了相关功能的行为在统计独立的推理转换下,以一致的方式施加其所需的行为。PCC指导我们选择适当的设计准则来构造所需的泛函。由于推导依赖于将变量空间划分为$n$不相交子空间的选择,因此我们设计的一般泛函是$n$ -partite information(NPI),其中\textit{total correlation}和\textit{mutual information}是其特例。因此,这些泛函被发现是唯一能够确定是否一定类别的推理转换,$ρ\xrightarrow{*}ρ'$,保持,破坏或创建相关性。这通过排除其他可能的全局相关性量词来提供概念上的清晰性。最后,推导和结果使我们能够量化统计充分性的非二进制概念。我们的研究结果表达了在给定的推理变换或变量映射下保留的相关性的百分比。
2020-03-19 cs.IT math.IT physics.data-an
A Novel Statistical Method Based on Dynamic Models for Classification
随机过程的实现往往是观测到的时间数据或函数数据。人们对动态或功能数据的分类越来越感兴趣。函数型数据的基本特征是函数型数据具有无限维,并且高度相关。如何有效地对动态数据和函数数据进行降维,挖掘其动态特征,是动态数据分类的一个关键问题。然而,很少有统计方法的动态数据分类直接使用丰富的动态特征的数据。本文提出用二阶常微分方程(ODE)来描述动态过程,用主微分分析来估计常微分方程中的常数或时变参数。我们研究微分动力学特性的动态系统在不同的条件下,包括稳定性和瞬态响应,这决定了动态系统如何保持其功能和性能在广泛的随机内部和外部扰动。我们使用ODE中的参数作为分类器的特征。作为原理的证明,将所提出的方法应用于心电数据分析中的正常和异常QRS波群的分类,对心血管疾病的诊断具有重要的临床价值。我们表明,基于ODE的分类方法在QRS波群分类优于目前广泛使用的神经网络的功能数据的傅立叶展开系数作为其特征。我们期望基于动态模型的分类方法可以为功能数据分类开辟一条新的途径。
2014-10-26 stat.ML
Statistical-Query Lower Bounds via Functional Gradients
Microsoft Research NYC(微软研究院纽约中心);University of Texas at Austin(得克萨斯大学奥斯汀分校);Institute for Advanced Study(高等研究院)
我们给出了关于高斯边缘的不可知学习任何非多项式激活的第一个验证查询下界(例如,ReLU,乙状结肠,征)。对于ReLU回归的特定问题(相当于不可知地学习ReLU),我们证明了任何具有容差$n^{-(1/ε)^b}$的查询算法必须至少使用$2^{n^c} ε$查询某些常数$b, c > 0$,其中$n$是维度,$ε$是精度参数。我们的研究结果排除了一般(而不是相关)SQ学习算法,这是不寻常的实值学习问题。我们的技术涉及一个梯度提升过程,用于“放大”Diakonikolas等人(COLT 2020)和Goel等人(ICML 2020)关于双层神经网络计算的函数的SQ维度的最近下限。关键的新成分是使用非标准的凸函数在提升过程中。这也产生了两种常见的学习模型之间的最佳可能的减少:不可知学习和概率概念。
2020-10-22 cs.DS cs.LG stat.ML
Functional trustworthiness of AI systems by statistically valid testing
Software Competence Center Hagenberg(哈根贝格软件能力中心);Institute for Machine Learning(机器学习研究所);Johannes Kepler University Linz(林茨约翰内斯·开普勒大学);TÜV AUSTRIA Holding(奥地利TÜV集团)
本文批评欧盟AI法案合格评定缺乏真正功能保证,提出以应用分布定义、风险化最低性能要求和独立随机样本统计测试为核心的功能可信性框架。
2023-10-04 cs.AI cs.LG stat.ML
Statistical Optimality of Divide and Conquer Kernel-based Functional Linear Regression
Shanghai Key Laboratory for Contemporary Applied Mathematics, Fudan University(复旦大学上海现代应用数学重点实验室)
本文研究了目标函数不在RKHS内时分治函数线性回归估计量的收敛性能,利用积分算子方法建立了有限样本上界,并证明了其渐近最优性及无噪声情况下的任意快收敛速率。
2024-02-18 cs.LG stat.ML
Computationally Efficient Robust Estimation of Sparse Functionals
Carnegie Mellon University(卡内基梅隆大学)
许多传统的统计程序对模型假设的微小偏差非常敏感。这个问题在现代的高维环境中更加严重,在这种环境中,问题维度可以随着样本量的增长而增长,甚至可能超过样本量。本文研究了稀疏泛函的稳健估计问题,并在高维情形下给出了一种计算和统计上都有效的算法。我们的理论确定了一组统一的确定性条件下,我们的算法保证准确的恢复。通过进一步确定这些确定性条件对于广泛的统计模型具有高概率,我们的理论适用于许多相当感兴趣的问题,包括稀疏均值和协方差估计;稀疏线性回归;和稀疏广义线性模型。
2017-02-24 cs.DS cs.LG stat.ML
Overlapping Batch Confidence Intervals on Statistical Functionals Constructed from Time Series: Application to Quantiles, Optimization, and Estimation
本文提出基于重叠批次与 OB-x 极限的时间序列统计泛函置信区间方法,在多种估计任务中显著优于子采样和 bootstrap。
2023-07-17 cs.CE math.PR math.ST
Statistical Aspects of SHAP: Functional ANOVA for Model Interpretation
Arizona State University(亚利桑那州立大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
该研究探讨了SHAP算法与功能方差分析的关联,指出SHAP近似的挑战源于特征分布选择和$2^p$个方差分析项数量,同时对比了机器学习可解释性与敏感性分析的不同约束条件。
2026-08-04 stat.ME stat.ML
Statistical Inference for Low-Rank Tensor Models
本文提出统一框架,通过去偏与切空间投影推断低Tucker秩张量的一般及结构化线性泛函,实现渐近正态与极小化极大最优置信区间,填补了高维张量统计推断的方法论空白。
2025-01-27 math.ST stat.ME stat.ML
Statistical learning for constrained functional parameters in infinite-dimensional models
Emory University(埃默里大学);Harvard University(哈佛大学);University of California, Berkeley(加州大学伯克利分校)
本文提出一个通用框架,通过拉格朗日型惩罚风险最小化和约束特定路径,在无限维模型中估计满足等式或不等式约束的函数值参数,并给出闭式或递归解及最优性条件。
2025-07-18 cs.CY cs.LG stat.ME
Statistical description and dimension reduction of continuous time categorical trajectories with multivariate functional principal components
Université Bourgogne Europe, CNRS, Institut de Mathématiques de Bourgogne(欧洲勃艮第大学,法国国家科学研究中心,勃艮第数学研究所);Inrae, Centre des Sciences du Goût et de l’Alimentation(法国国家农业食品与环境研究院,味觉与食品科学中心)
本文提出利用多变量函数主成分分析对连续时间分类轨迹进行统计描述与降维,通过二元随机指示函数将问题转化为函数数据分析,展示了在感官感知数据上的应用。
2026-10-12 stat.ME stat.ML