Geometry-aware similarity metrics for neural representations on Riemannian and statistical manifolds
Département d’Etudes Cognitives, École Normale Supérieure – PSL（认知研究系，巴黎高等师范学院 – 巴黎文理研究大学）；Gatsby Unit, University College London（盖茨比计算神经科学单元，伦敦大学学院）；Département d’Informatique, École Normale Supérieure – PSL（计算机科学系，巴黎高等师范学院 – 巴黎文理研究大学）
本文提出MSA方法，利用Riemannian几何工具比较神经表示的内在几何，用于解纠缠深度网络特征、比较非线性动态和研究扩散模型。
2026-03-30 cs.AI cs.LG math.DG
Probabilistic feature extraction, dose statistic prediction and dose mimicking for automated radiation therapy treatment planning
目的：我们提出了一个通用的框架，用于量化剂量相关量的预测不确定性，并在自动化放射治疗治疗计划的背景下，在剂量模拟问题中利用这些信息。方法：采用特征提取、剂量统计预测和剂量模拟三步流水线。特别是，这些特征由卷积变分自动编码器产生，并用作先前开发的非参数贝叶斯统计方法的输入，估计预定义剂量统计集合的多变量预测分布。然后使用专门开发的目标函数来构建基于所产生的分布的概率剂量模拟问题，从而创建可交付的治疗计划。结果：使用94例前列腺癌患者的回顾性治疗计划数据集进行数值实验。我们发现，由变分自动编码器提取的特征捕获与剂量统计预测问题实质相关的几何信息，并且与剂量统计以比手工特征更正则化的方式相关。估计的预测分布是合理的，优于一个非输入依赖的基准方法，和可交付的计划产生的概率剂量模拟同意更好地与他们的临床同行比非概率的制定。结论：我们表明，剂量相关的量的预测可以扩展到包括不确定性估计，这样的概率信息可以利用在剂量模仿问题。所提出的管道产生的治疗计划类似于他们原来的同行，说明了一个整体的方法来自动规划的基础上概率建模的优点。
2021-07-07 physics.med-ph stat.ML
Debias Coarsely, Sample Conditionally: Statistical Downscaling through Optimal Transport and Probabilistic Diffusion Models
Google Research（谷歌研究院）；California Institute of Technology（加州理工学院）
本文提出一种基于最优传输去偏与概率扩散模型条件采样的两阶段非配对统计降尺度框架，在8倍和16倍上采样下从有偏低分辨率数据中准确恢复物理统计量，解决了天气与气候模拟中的关键难题。
2023-10-30 cs.LG physics.app-ph
Probabilistic Learning Vector Quantization on Manifold of Symmetric Positive Definite Matrices
Shenyang Institute of Automation, Chinese Academy of Sciences（中国科学院沈阳自动化研究所）；Institutes for Robotics and Intelligent Manufacturing, Chinese Academy of Sciences（中国科学院机器人与智能制造创新研究院）；University of Chinese Academy of Sciences（中国科学院大学）；University of Birmingham（伯明翰大学）；Beijing Normal University（北京师范大学）；Zhejiang University（浙江大学）
在本文中，我们开发了一种新的分类方法的流形值数据的概率学习矢量量化的框架。在许多分类场景中，数据可以自然地由对称正定矩阵表示，这些矩阵本质上是存在于弯曲黎曼流形上的点。由于黎曼流形的非欧几何性，传统的欧几里德机器学习算法在这类数据上的效果很差。在本文中，我们推广的概率学习矢量量化算法的数据点生活在流形上的对称正定矩阵配备黎曼自然度量（仿射不变度量）。利用导出的黎曼距离，推导出概率学习的黎曼空间量化算法，通过黎曼梯度下降得到学习规则。对合成数据、图像数据和运动想象脑电数据的实证研究证明了所提出方法的优越性能。
2021-02-01 cs.LG stat.ML
Probabilistic Numerical Methods for Partial Differential Equations and Bayesian Inverse Problems
本文发展了一种求解偏微分方程的概率数值方法，并研究了该方法在偏微分方程约束反问题中的应用。这种方法使具有挑战性的反问题的解决方案，同时会计，在统计原则的方式，由于PDE的数值解的离散化误差的影响。特别是，该方法赋予数值PDE求解器的故障鲁棒性，在存在大量离散化误差的情况下，统计推断被驱动为更保守。更进一步，选择偏微分方程求解器的问题被视为贝叶斯实验设计中的一个问题，其目的是最大限度地减少求解器误差对统计推断的影响;这里还考虑了非线性偏微分方程的挑战。该方法适用于参数推断问题，其中离散化误差不可忽略，必须考虑到，以达到统计上有效的结论。
2017-07-11 cs.NA math.NA math.ST
Riemannian AmbientFlow: Towards Simultaneous Manifold Learning and Generative Modeling from Corrupted Data
Department of Mathematics, University of California, Los Angeles（数学系，加州大学洛杉矶分校）；Department of Statistics and Data Science, University of California, Los Angeles（统计与数据科学系，加州大学洛杉矶分校）
提出Riemannian AmbientFlow框架，通过变分推断和数据驱动黎曼几何，从损坏观测中同时学习概率生成模型和非线性数据流形，并理论保证误差可控与双Lipschitz流形参数化。
2026-05-27 cs.LG math.DG math.OC
A Contemporary Overview of Probabilistic Latent Variable Models
在本文中，我们提供了一个概念性的概述，潜变量模型的概率建模框架内，概述，强调组成的性质和相互联系的看似不同的模型通常在统计实践中遇到的。
2017-07-09 stat.ML stat.OT
Probabilistic morphisms and Bayesian nonparametrics
在本文中，我们开发了一种概率态射的函子语言，并将其应用于贝叶斯非参数的一些基本问题。首先，我们扩展和统一的Kleisli范畴的概率态射提出的Lawvere和Giry的统计模型提出的Chentsov和Morse-Sacksteder的范畴。然后，我们介绍了贝叶斯统计模型的概念，它形式化了贝叶斯统计中具有给定先验分布的参数空间的概念。{We使用概率态射重新讨论后验分布的存在性}。特别地，我们给出了贝叶斯统计模型的后验分布的一个显式公式，假设基本参数空间是Souslin空间，样本空间是完备连通有限维黎曼流形的一个子集.然后利用Sethuraman构造的Dirichlet映射的函子性质，给出了任意可测空间上Dirichlet测度存在性的一个新的证明.
2021-03-21 math.CT math.PR math.ST
Probabilistic temperature forecasting with statistical calibration in Hungary
天气预报主要基于确定性数值天气预报模式的输出。这些模式在不同的初始条件下多次运行，产生预报集合，用于估计未来大气变量的分布。然而，这些合奏通常是欠分散和未校准的，因此需要后处理。在目前的工作中，贝叶斯模型平均（BMA）适用于校准合奏的匈牙利气象局（HMS）的业务有限区域模型Enhancement预测系统产生的温度预报。我们描述了两种可能的BMA模型的HMS的温度数据，并表明，BMA后处理显着提高校准和概率预测，虽然点预测的准确性是相当不变的。
2013-03-08 stat.AP
Probabilistic Programming with Sufficient Statistics for faster Bayesian Computation
本文提出在Stan概率编程中利用充分统计量改写似然函数，显著加速非共轭先验下高斯线性回归、分层随机效应及因子分析等模型的贝叶斯推断，并证明部分可改写模型也能获得计算增益。
2025-02-07 stat.CO
Vecchia Gaussian Processes: on probabilistic and statistical properties
Bocconi University（博科尼大学）；the University of Hong Kong（香港大学）
本文研究了Vecchia近似在Matérn高斯过程中的概率和统计性质，提出固定基数的父集选择方法，并证明了非参数回归模型中后验收缩的最优速率。
2026-03-11 math.ST stat.ME stat.TH
Functional probabilistic programming for scalable Bayesian modelling
贝叶斯推断涉及统计学家或从业者对统计模型的规范，并仔细考虑每个参数代表什么。这导致特别可解释的模型，可用于解释观测数据中存在的关系。贝叶斯模型在实验只有少量观测时以及数据驱动决策的透明度很重要的应用中很有用。传统上，贝叶斯统计中的参数推断涉及为每个新提出的统计模型构建定制的MCMC（马尔可夫链蒙特卡罗）方案。这导致不考虑合理的模型，因为有效的推理方案的开发或实现具有挑战性。概率编程的目的是通过开发一种与参数推理算法解耦的用于模型规范的领域特定语言（DSL）来减少执行贝叶斯推断的障碍。本文介绍了函数式编程原理，可用于开发嵌入式概率编程语言。可以使用任何通用推理算法来执行模型推理。在本文中使用哈密顿蒙特卡罗（HMC），一个有效的MCMC方法，需要的非归一化对数后验的梯度，使用自动微分计算。这些概念使用Scala编程语言进行说明。
2019-08-06 stat.CO
Summary statistics from training images as prior information in probabilistic inversion
提出了一种将概念地质模型中的先验信息用于地球物理数据概率反演的策略。概念地质模型由多点统计训练图像（TI）表示，具有预期的岩性单元和构造模式。来自TI实现的集合的信息以两种不同的方式使用。首先，通过分析实现中的频率内容来识别主导模式，这大大减少了频率-幅度域中的模型参数空间。其次，使用全局汇总度量（例如模型粗糙度）的分布来制定先验概率密度函数。逆问题是制定在贝叶斯框架和后验概率分布抽样使用马尔可夫链蒙特卡罗模拟。该方法的实用性和适用性证明了两个案例研究中，合成井间探地雷达走时数据反演恢复2-D孔隙度场。使用来自TI的先验信息通过去除反演伪影和改善个体参数估计来显著增强后验模型的可靠性。所提出的方法减少了高维参数空间反演中固有的模糊性，适应了广泛的汇总统计和地球物理正演问题。
2017-01-05 physics.geo-ph stat.ME
A probabilistic view on Riemannian machine learning models for SPD matrices
LAMSADE, CNRS, PSL Univ. Paris-Dauphine, France（LAMSADE、CNRS、巴黎-第纳夫大学）；LITIS, INSA Rouen-Normandy, Rouen, France（LITIS、 Rouen-诺曼底大学）；Inria center, University of Bordeaux / LaBRI, Talence, France（Inria中心、波尔多大学 / LaBRI）；TAU, LISN, University Paris-Saclay, France（TAU、LISN、巴黎-萨克雷大学）
本文提出将SPD矩阵黎曼流形上的机器学习工具统一在概率框架下，通过高斯分布重新解释分类器并用于异常检测与降维，为扩展其他方法奠定基础。
2025-11-03 cs.LG math.ST stat.ML
Probabilistic Integration: A Role in Statistical Computation?
在科学计算中出现了一个研究前沿，其中数值误差被认为是可以建模的认识不确定性的来源。这提出了一些统计挑战，包括统计方法的设计，使通过（可能是确定性的）计算工作流的概率的相干传播。本文探讨的情况下，概率数值方法在日常统计计算。我们的重点是数值积分，概率积分器配备了一个完整的分布在其输出，反映了一个未知的数值误差的存在。我们的主要技术贡献是首次建立了这些方法的后收缩率。这些表明，概率积分原则上可以享受“两全其美”，利用蒙特卡罗方法的抽样效率，同时提供一个原则性的路线，以评估数值误差对科学结论的影响。几个实质性的应用程序提供了说明和关键的评价，包括统计建模，计算机图形和计算机模型的油藏的例子。
2017-10-18 cs.NA math.NA math.ST
Tensor-on-Tensor Regression: Riemannian Optimization, Over-parameterization, Statistical-computational Gap, and Their Interplay
Data Science Institute, University of Chicago（芝加哥大学数据科学研究所）
本文研究未知秩张量对张量回归，提出黎曼梯度下降和黎曼高斯-牛顿方法，证明其在秩过度参数化下仍能线性或二次收敛到统计最优估计，并揭示高阶张量场景中适度过度参数化在样本量上几乎零成本。
2024-01-15 cs.LG math.OC math.ST
Riemannian statistics meets random matrix theory: towards learning from high-dimensional covariance matrices
黎曼高斯分布最初被引入作为学习模型的基本构建块，其目的是捕获正定矩阵（这里称为协方差阵）的统计总体的内在结构。虽然这种模型的潜在应用已经引起了极大的关注，一个主要的障碍仍然站在这些应用的方式：似乎不存在计算与黎曼高斯分布的高维空间的协方差阵的归一化因子的实用方法。本文表明，这种失踪的方法来自一个意想不到的新的连接与随机矩阵理论。其主要贡献是证明了实、复或四元数协方差阵的黎曼高斯分布等价于正交、酉或辛对数正规矩阵系综。这种等价性产生了一个非常有效的近似的归一化因子，在一个相当简单的解析表达式。由于这种近似的误差减少类似于尺寸的平方反比。数值实验表明，这种新的近似可以解锁的困难，阻碍了应用程序的高维协方差阵的真实世界的数据集。然后，本文转向黎曼高斯分布的块Toeplitz协方差阵。这些等价于另一种随机矩阵集合，这里称为“acosh-normal”集合。正交和酉“acosh-normal”系综分别对应于块Toeplitz与Toeplitz块的情况，以及块Toeplitz（与一般块）协方差阵的情况。
2022-12-26 math.PR math.ST stat.CO
GeomNet: A Neural Network Based on Riemannian Geometries of SPD Matrix Space and Cholesky Space for 3D Skeleton-Based Interaction Recognition
CY Cergy Paris Université（赛尔齐-蓬图瓦兹大学）；ENSEA（法国高等电力学院）；CNRS（法国国家科学研究中心）
在本文中，我们提出了一种新的方法表示和分类的两人互动的三维骨架序列。我们的方法的关键思想是使用高斯分布来捕捉统计的R n和对称正定（SPD）矩阵的空间。主要的挑战是如何将这些分布参数化。为此，我们开发的方法嵌入高斯分布在矩阵群的李群和黎曼对称空间的理论的基础上。我们的方法依赖于基础流形的黎曼几何，并具有从3D关节位置编码高阶统计的优势。我们表明，所提出的方法实现了竞争力的结果，在两个人的互动识别的三个基准的三维人类活动的理解。
2021-11-25 cs.CV cs.LG stat.ML
Only Bayes should learn a manifold (on the estimation of differential geometric structure from data)
Technical University of Denmark（丹麦技术大学）；Section for Cognitive Systems（认知系统部）
我们研究了嵌入在高维欧氏空间中的数据流形的微分几何结构的学习。我们首先分析了基于核的算法，并表明在通常的正则化下，非概率方法不能恢复微分几何结构，而是找到大多数线性流形或空间配备了传送。为了正确地学习微分几何结构，非概率方法必须应用强制大梯度的正则化，这违背了常识。我们重复概率方法的分析，发现在合理的先验下，几何结构可以恢复。充分利用恢复的结构，但是，需要发展的随机扩展经典黎曼几何。我们在这方面采取了早期步骤。最后，我们将分析部分扩展到基于神经网络的现代模型，从而突出了当前深度生成模型的几何和概率缺陷。
2019-09-26 cs.LG stat.ML
Differential Privacy Over Riemannian Manifolds
在这项工作中，我们考虑的问题，释放一个差异私人统计摘要，驻留在一个黎曼流形。我们提出了一个扩展的拉普拉斯或K-范数机制，利用内在的距离和体积的流形上。我们还考虑详细的具体情况下，摘要是居住在流形上的数据的Fréchet平均。我们证明了我们的机制是速率最优的，并且仅取决于流形的维度，而不取决于任何周围空间的维度，同时还展示了忽略流形结构如何降低消毒摘要的效用。我们说明我们的框架在统计学中特别感兴趣的两个例子：对称的正定矩阵，这是用于协方差阵的空间，和球，它可以被用来作为一个空间建模离散分布。
2021-11-03 math.DG math.ST stat.ML
First-Order Efficiency for Probabilistic Value Estimation via A Statistical Viewpoint
Carnegie Mellon University（卡内基梅隆大学）；The Ohio State University（俄亥俄州立大学）
该研究针对概率值估计的效率问题，提出效率感知代理调整估计器EASE，通过一阶展开推导均方误差准则，使EASE在各类概率值估计任务中性能优于现有方法。
2026-09-01 cs.AI stat.ME stat.ML
