Bayesian optimization with local search
Shanghai Jiao Tong University(上海交通大学);University of Birmingham(伯明翰大学)
全局优化在广泛的现实世界问题中得到应用。多起点方法是一类流行的全局优化技术,它基于在多个起点进行局部搜索的思想。在这项工作中,我们提出了一个新的多启动算法的起点是在贝叶斯优化框架。具体地,该方法可以被理解为通过对原始目标函数进行局部搜索来构造新函数,其中新函数获得与原始函数相同的全局最优解。然后应用贝叶斯优化来找到新的局部搜索定义函数的全局最优解。
2020-06-30 cs.LG math.OC stat.ML
An Empirical Study on Ensemble-Based Transfer Learning Bayesian Optimisation with Mixed Variable Types
RMIT University(皇家墨尔本理工大学)
本研究通过实证分析,提出基于正则化回归的加权策略和预热初始化,以提升转移学习贝叶斯优化的性能。
2026-01-22 cs.LG stat.ML
Update Rules for Parameter Estimation in Bayesian Networks
Stanford University(斯坦福大学);AT&T Labs(AT&T实验室)
本文从在线学习的角度重新研究了具有缺失值和隐变量的贝叶斯网络中的参数估计问题。我们提供了一个统一的参数估计框架,包括在线学习,其中模型不断适应新的数据情况,因为他们到达,和更传统的批量学习,其中一个预先积累的样本集用于一次性模型选择过程。在批处理的情况下,我们的框架包括贝叶斯网络的梯度投影算法和EM算法。该框架还导致新的在线和批量参数更新计划,包括EM的参数化版本。我们提供的经验和理论结果表明,参数化EM允许更快的收敛到最大似然参数比标准EM。
2013-02-06 cs.LG stat.ML
On Cold Posteriors of Probabilistic Neural Networks: Understanding the Cold Posterior Effect and A New Way to Learn Cold Posteriors with Tight Generalization Guarantees
University of Copenhagen(哥本哈根大学)
本文研究概率神经网络中的冷后验效应,提出一种具有紧泛化保证的学习冷后验的新方法,通过温度调整平衡似然与先验以提升预测性能。
2024-10-20 cs.LG stat.ML
Improved model-based clustering performance using Bayesian initialization averaging
期望最大化(EM)算法是一种常用的通过坐标上升求混料模型参数的最大似然估计的方法。该算法的一个严重缺陷是,在多模态似然函数的情况下,它可能会陷入局部最大值。当使用次优起始值来初始化算法时,经常会出现此问题。贝叶斯初始化平均(BIA)被提出作为一种集成方法来产生高质量的初始值的期望最大化算法。竞争的试验起始值集合被组合为加权平均值,然后将其用作完整EM运行的起始位置。该方法还可以扩展到变分贝叶斯(VB)方法,一类类似于EM的算法,基于模型后验的近似。BIA方法证明了真正的连续,分类和网络数据集,收敛的对数似然和相关的聚类解决方案。这些与使用竞争初始化方法(如随机启动、分层聚类和确定性退火)产生的输出相比毫不逊色,在合理的计算成本下,在较高百分比的情况下获得了最高可用的最大似然估计。不同的聚类解决方案所获得的局部极大值的影响进行了讨论。
2018-08-30 stat.CO
Learning search spaces for Bayesian optimization: Another view of hyperparameter transfer learning
Amazon(亚马逊);Google Brain(谷歌大脑)
贝叶斯优化(BO)是一种成功的方法来优化黑盒函数,是昂贵的评估。虽然传统方法孤立地优化每个黑盒函数,但最近人们对通过跨多个相关黑盒函数传递知识来加速BO感兴趣。在这项工作中,我们介绍了一种方法来自动设计BO搜索空间,依靠以前的黑盒功能的评估。我们从定义一组任意的搜索范围的先验考虑搜索空间的几何形状,从历史数据中学习的常见做法。这种简单而有效的策略可以用来赋予许多现有的BO方法迁移学习属性。尽管它的简单性,我们表明,我们的方法大大提高BO通过减少搜索空间的大小,从而加速各种黑盒优化问题的优化。特别是,所提出的方法结合随机搜索的结果,在一个无参数,易于实现,强大的超参数优化策略。我们希望这将构成一个自然的基线,为进一步的研究试图热启动BO。
2019-09-27 cs.LG stat.ML
ExpertBayes: Automatically refining manually built Bayesian networks
CRACS INESC TEC LA;University of Porto(波尔图大学);University of Wisconsin, Madison(威斯康星大学麦迪逊分校)
贝叶斯网络结构通常仅使用数据并从空网络或朴素贝叶斯结构开始构建。很多时候,在某些领域,如医学,先验结构知识是已知的。该结构可以自动或手动细化,以寻找更好的性能模型。在这项工作中,我们采用专家构建的贝叶斯网络,并表明对原始网络的微小扰动可以以非常小的计算成本产生更好的分类器,同时保持原始模型的大部分预期含义。
2014-06-10 cs.AI cs.LG stat.ML
Automatic Tuning of Stochastic Gradient Descent with Bayesian Optimisation
许多机器学习模型需要基于运行随机梯度下降的训练过程。这些算法的效率的一个关键因素是学习率计划的选择。虽然使用贝叶斯优化找到良好的学习率时间表已经被几位作者解决,但以数据驱动的方式动态调整它是一个悬而未决的问题。这对于需要训练单个昂贵模型的用户具有很高的实际重要性。为了解决这个问题,我们引入了一个原始的概率模型,用于跟踪优化器,基于潜在的高斯过程和自回归/回归公式,可以灵活地调整新的学习率值引起的行为突变。如图所示,该模型非常适合解决一系列问题:首先,用于冷启动运行的学习率的在线适应;然后,用于调整一组类似任务的调度(在经典BO设置中),以及为新任务热启动它。
2020-06-25 cs.LG math.OC stat.ML
AutoPrognosis: Automated Clinical Prognostic Modeling via Bayesian Optimization with Structured Kernel Learning
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Alan Turing Institute(艾伦·图灵研究所)
从大规模医疗数据中获得的临床预后模型可以为关键的诊断和治疗决策提供信息。为了使机器学习(ML)在预后研究中的离线使用成为可能,我们开发了AUTOPROGNOSIS:一种用于自动设计为临床预后量身定制的预测建模管道的系统。AUTOPROGNOSIS使用一种新的批处理贝叶斯优化(BO)算法有效地优化了管道配置的集合,该算法在BO过程的同时学习管道高维超参数空间的低维分解。这是通过将管道性能建模为具有高斯过程先验的黑盒函数,并通过具有Dirichlet先验的稀疏加性核来建模管道基线算法之间的相似性来实现的。元学习用于通过使用模拟经验贝叶斯方法的算法校准先验来用来自类似患者队列的外部数据暖启动BO。该系统通过向临床医生提供逻辑关联规则来自动解释其预测,这些规则将患者特征与预测的风险层联系起来。我们使用10个代表心血管患者护理各个方面的主要患者队列来证明AUTOPROGNOSIS的效用。
2018-02-20 cs.LG stat.ML
How Ominous is the Premonition of Future Global Warming?
Visva Bharati University(维斯瓦·巴拉蒂大学);Indian Statistical Institute(印度统计研究所)
本文通过贝叶斯多重检验范式评估GCMs未来预测的有效性,发现其不支持剧烈未来全球变暖。
2026-02-22 stat.AP stat.ME
Warm-starting Contextual Bandits: Robustly Combining Supervised and Bandit Feedback
Microsoft Research(微软研究院);University of Maryland(马里兰大学);Yale University(耶鲁大学)
我们研究了从完全标记的监督数据和上下文强盗数据的混合中学习的可行性。我们特别考虑了这两个数据源之间的基础学习信号可能不同的设置。从理论上讲,我们的状态和证明无遗憾算法的学习,是强大的两个源之间的错位成本分布。从经验上讲,我们在大量的数据集上评估了其中的一些算法,表明我们的方法在实践中是可行的和有帮助的。
2019-06-21 cs.LG stat.ML
A Bayesian spatiotemporal model for reconstructing climate from multiple pollen records
全新世(过去12,000年)的温度变化,包括从最后一个冰河时代到温暖气候的过渡,在芬兰南部,瑞典和爱沙尼亚的多个地点根据湖泊沉积物岩心的花粉化石数据进行重建。提出了一种新的贝叶斯统计方法,允许重建的温度历史,通过共享的环境响应参数和空间依赖性进行交互。过去温度的先验分布部分基于数值气候模拟。重建中的特征与基于更常用的重建技术的定量气候重建一致。结果表明,新的时空方法可以提供更平滑,更少的不确定性和更真实的比特定地点的个人重建的定量重建。
2015-11-05 stat.AP
Empirical Bayes for Dynamic Bayesian Networks Using Generalized Variational Inference
本文提出结合广义变分推断的经验贝叶斯方法,从结构与权重点估计构建数据驱动先验,以学习可量化DAG结构及参数后验不确定性的动态贝叶斯网络。
2024-06-28 cs.LG math.ST stat.TH
Bayesian inference and the parametric bootstrap
参数自助法可用于贝叶斯后验分布的有效计算。重要性抽样公式采用了一种简单的形式,涉及到指数族中的偏差,并且从Jeffreys不变先验出发特别简单。因为身份证。由于自助抽样的本质,熟悉的公式描述了贝叶斯估计的计算准确性。除了计算方法,该理论提供了贝叶斯和频率分析之间的联系。贝叶斯推断的频率论精度的有效算法的开发和演示中的模型选择的例子。
2013-01-14 stat.AP
Optimizing Posterior Samples for Bayesian Optimization via Rootfinding
University of Houston(休斯顿大学)
提出一种基于全局求根的后验样本优化策略,为梯度优化器提供兼顾探索与利用的少量起始点,在高维下线性扩展并显著提升GP-TS等方法的内外循环优化性能。
2025-04-01 cs.LG math.OC stat.ML
Exploring Turn Signal Usage Patterns in Lane Changes: A Bayesian Hierarchical Modelling Analysis of Realistic Driving Data
本研究利用瑞典哥德堡真实高速驾驶数据和BHM分析变道转向灯使用模式,发现仅约60%提前打灯,并识别相关影响因素以支持交通安全政策与自动驾驶算法设计。
2023-06-02 stat.AP
Sensitivity-Aware Amortized Bayesian Inference
Heidelberg University(海德堡大学);University of Stuttgart(斯图加特大学);TU Dortmund University(多特蒙德工业大学);Rensselaer Polytechnic Institute(伦斯勒理工学院)
提出敏感性感知的摊销贝叶斯推断(SA-ABI)方法,通过权重共享、快速推断和深度集成高效整合敏感性分析,避免重复拟合,为复杂建模提供隐藏维度的洞察。
2024-08-28 cs.LG stat.ME stat.ML
Geometric Ergodicity of Gibbs Samplers in Bayesian Penalized Regression Models
我们考虑三个贝叶斯惩罚回归模型,并表明,各自的确定性扫描吉布斯采样器是几何遍历的回归问题的尺寸无关。我们证明了几何遍历的吉布斯采样贝叶斯融合套索,贝叶斯组套索,和贝叶斯稀疏组套索。几何遍历性与矩条件一起导致蒙特卡罗平均值的马尔可夫链中心极限定理的存在,并确保可靠的输出分析。我们的几何遍历性的结果,使我们也可以提供默认的吉布斯采样器的起始值。
2017-07-04 math.ST stat.CO stat.TH
Learned Preconditioning for a Primal-Dual Interior-Point Method
University of California, Los Angeles(加州大学洛杉矶分校);University of Central Florida(中佛罗里达大学)
针对内点法计算瓶颈,提出pdLIP,将学习预条件与原始-对偶投影搜索结合,用循环神经网络预测对角预条件器,避免海森计算和牛顿求解,在多种约束问题上实现63-67%的迭代减少。
2026-09-29 cs.LG math.OC
Probabilistic modelling of atmosphere-surface coupling with a copula Bayesian network
University of Oslo(奥斯陆大学);Norwegian Meteorological Institute(挪威气象局)
本研究开发了Copula贝叶斯网络(CBN)用于概率性插值温度廓线,替代NWP系统中的T2m诊断,有效减少了冬季稳定边界层的暖偏差并考虑了次网格空间变率的不确定性,为NWP参数化发展提供了适用性标准。
2025-09-15 physics.ao-ph stat.AP
A Bayesian Spatially Varying Coefficient Model for Surface Urban Heat Island Estimation
University of Bologna(博洛尼亚大学);Lazio Region Health Service(拉齐奥大区卫生局);Regional Agency for Prevention, Environment and Energy of Emilia-Romagna(艾米利亚-罗马涅大区预防、环境和能源署)
本研究提出贝叶斯空间变系数模型,将LST分解为基线空间场与局地时间趋势,结合Landsat 8数据估算博洛尼亚SUHI,揭示其空间异质性与时间变化,为城市热监测提供不确定性感知的基础。
2026-10-16 stat.AP
Bayesian and Variational Bayesian approaches for flows in heterogenous random media
本文研究非均质随机介质中的渗流问题。我们提出了一种高效的正演模拟技术,是专为变分贝叶斯反演。作为一个出发点,提出的前向模拟技术分解的解决方案到可分离的函数(相对于随机性和空间),其中每一项计算的基础上变分方法的总和。这类似于适当的广义分解(PGD)。接下来,我们应用多尺度技术来求解每个项,并进一步将随机函数分解为1D字段。因此,我们提出的方法提供了一个近似层次的解决方案,因为我们增加了扩展中的术语数量,也增加了每个术语的空间分辨率。我们使用变分贝叶斯近似的分层解决方案分布进行反问题的不确定性量化。我们进行了详细的数值研究,以探讨所提出的不确定性量化技术的性能,并显示理论后验浓度。
2018-02-09 stat.AP stat.CO
Optimal Multiple Stopping Rule for Warm-Starting Sequential Selection
Université Paris-Saclay(巴黎萨克雷大学);ENS Paris-Saclay(巴黎萨克雷高等师范学院);CNRS(法国国家科学研究中心);Centre Borelli(博雷利中心)
在本文中,我们提出了热启动动态排队算法,开发使用动态规划,标准的在线选择问题的一个变种。该问题允许工作位置在过程开始时是空闲的或已经被占用。在整个选拔过程中,决策者会一个接一个地面试新的候选人,并为他们每个人公布一个质量分数。根据这些信息,她可以通过立即做出不可撤销的决定,最多(重新)分配一次工作。我们放宽了硬性要求的类动态规划算法,完全知道的分布,从该分布的候选人的分数绘制,通过提出扩展的部分和无信息的情况下,决策者可以学习的基本分数分布顺序,而面试的候选人。
2020-02-12 cs.AI cs.DS cs.LG
JUMBO: Scalable Multi-task Bayesian Optimization using Offline Data
UC Berkeley(加州大学伯克利分校);FAIR(FAIR(Meta AI 研究院))
多任务贝叶斯优化(MBO)的目标是最大限度地减少准确优化目标黑盒函数所需的查询数量,并允许访问其他辅助函数的离线评估。当离线数据集很大时,现有方法的可扩展性是以牺牲表达性和推理质量为代价的。我们提出了JUMBO,MBO算法,通过基于来自训练两个高斯过程(GP)的采集信号的组合来查询额外的数据来避开这些限制:直接在输入域中操作的冷GP和在使用离线数据预训练的深度神经网络的特征空间中操作的暖GP。这样的分解可以动态地控制从在线和离线数据导出的信息的可靠性,并且预训练的神经网络的使用允许大的离线数据集的可扩展性。从理论上讲,我们推导出的遗憾界的JUMBO,并表明,它实现了无遗憾的条件下,类似于GP-UCB(Srinivas等。2010)。从经验上讲,我们证明了显着的性能改善现有的方法在两个现实世界的优化问题:超参数优化和自动化电路设计。
2022-03-10 cs.AI cs.LG
Bayesian online learning in the one-pass regime: Frequentist validity and uncertainty quantification
Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机性研究所);Pohang University of Science and Technology(浦项科技大学)
提出一种针对单次遍历的贝叶斯在线学习算法,通过预热阶段确保稳定更新,证明后验达到最优收敛率并建立在线Bernstein-von Mises定理,实现无需小批量样本量发散的不确定性量化。
2026-06-11 math.ST stat.ML stat.TH
Advice on describing Bayesian analysis of neutron and X-ray reflectometry
由于现代软件和硬件的可用性,贝叶斯分析在中子和X射线反射计分析中变得越来越流行。这些分析的可理解性和可复制性可能会受到文献中贝叶斯方法核心概率分布表示方式不一致的损害。在这里,我们提供了如何报告贝叶斯分析的结果,适用于中子和X射线反射计的建议。这包括明确报告初始起始条件、先验概率和任何分析的结果,以及作为误差条的贝叶斯等价物的后验概率,以实现可复制性并提高理解。我们相信,基于我们在该领域的工作经验,这一建议将使反射计社区的分析重现性更好,并提高结果的质量和可用性。
2023-01-22 cond-mat.mtrl-sci cond-mat.soft stat.AP
The False Dilemma: Bayesian vs. Frequentist
统计推理有两个主要的对立学派,频率主义和贝叶斯方法。直到最近,频率论或经典方法一直主导着科学研究,但贝叶斯主义以一种开始改变这种情况的强烈冲动重新出现。最近的争论的首要地位的两种方法之一,似乎是未完成的哲学水平,但科学实践正在给予越来越重要的位置贝叶斯方法。本文避开哲学争论,从科学家日常实践的实用主义角度出发,探讨贝叶斯方法论在科学研究中的重要作用。几个事实和操作值被描述为理解变化的核心集合。
2008-04-03 math.ST stat.TH
A Bayesian Framework for Combining Valuation Estimates
获得更准确的股票价值估计是股票选择的起点,在嘈杂的市场中基于价值的指数,并通过战术风格轮换击败基准指数。不幸的是,贴现现金流、可比方法和基本面分析通常会产生不一致的估值估计。此外,估值估计通常与市场价格不一致。一个人能否通过对包括市场价格在内的各个估计进行平均来形成一个优越的估值估计?本文提出了一个贝叶斯框架,用于将两个或多个估计组合成一个更优的估值估计。该框架证明了对几个估计数求平均值以得出最后点估计数的常见做法是合理的。
2007-07-24 cs.CE nlin.AO nlin.CD
A randomized maximum a posterior method for posterior sampling of high dimensional nonlinear Bayesian inverse problems
我们提出了一个随机的最大后验概率(rMAP)的方法来产生近似样本的后验在高维贝叶斯反问题所管辖的大规模的正问题。我们推导出的rMAP方法:1)铸造的问题计算MAP点作为一个随机最优化问题; 2)互换优化和期望;和3)近似的期望与蒙特卡罗方法。对于特定的随机数据和先验均值,rMAP简化为极大似然方法(RML)。它也可以被看作是一个迭代随机牛顿法。线性和非线性反问题的rMAP样本的收敛性进行了分析。每个rMAP样本都需要求解一个PDE约束优化问题;为了解决这些问题,我们采用了最先进的信赖域不精确牛顿共轭梯度法,并基于灵敏度的热启动。提出了一种近似的Metropolization方法来减少rMAP样本中的偏差。将提出各种数值方法,以证明在高维非线性贝叶斯逆问题的后验采样的rMAP方法的潜力。
2016-02-11 stat.CO
Spectral likelihood expansions for Bayesian inference
提出了一种贝叶斯推断的谱方法。它追求的是后验概率密度的仿真。出发点是似然函数在正交多项式方面的级数展开。从这个谱似然展开所有感兴趣的统计量可以计算半解析。后验形式上表示为参考密度和多项式基函数的线性组合的乘积。模型证据和后验矩都与展开系数有关。该公式避免了马尔可夫链蒙特卡罗模拟,并允许使用线性最小二乘法代替。从经典统计学和逆建模的简单应用的基础上,讨论和证明了频谱贝叶斯推断的优点和缺点。
2016-04-26 stat.CO
Warm-starting PDE solvers with any-dimensional machine learning
Columbia University(哥伦比亚大学);Brown University(布朗大学);Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出利用对称性条件,使低维训练的PDE求解器可零样本或热启动求解高维PDE,并在多个方程上验证了性能提升与数据效率优势。
2026-10-01 cs.LG stat.ML
On Warm-Starting Neural Network Training
Microsoft Research NYC(微软研究院(纽约));Princeton University(普林斯顿大学)
在机器学习系统的许多实际部署中,数据是零碎地到达的。这些学习场景可以是被动的,其中数据由于问题的结构属性而递增地到达(例如,每日财务数据)或活动的,其中根据其质量的度量来选择样本(例如,实验设计)。在这两种情况下,我们都在构建一系列模型,这些模型包含了越来越多的数据。我们希望序列中的每一个模型都是高性能的,并利用到那时为止可用的所有数据。传统的直觉认为,当解决这种形式的一系列相关优化问题时,应该可以使用前一个问题的解决方案进行初始化-“热启动”优化,而不是从头开始-并看到挂钟时间的减少。然而,在实践中,这种热启动似乎比具有新的随机初始化的模型产生更差的泛化性能,即使最终的训练损失是相似的。虽然某些超参数设置似乎允许实践者缩小这种泛化差距,但它们似乎只在损害热启动的挂钟增益的情况下才能做到这一点。然而,非常希望能够热启动神经网络训练,因为它将显著减少与构建高性能深度学习系统相关联的资源使用。在这项工作中,我们将仔细研究这种经验现象,并试图了解它何时以及如何发生。我们还提供了一个令人惊讶的简单技巧,可以在几种重要情况下克服这种病理学,并提供了阐明其一些特性的实验。
2020-12-31 cs.LG cs.NE stat.ML
A comparative study of self-starting CUSUM control charts for location shifts
本研究比较评估了用于正态数据均值偏移检测的参数化自启动 CUSUM 控制图(PRC 与自启动 CUSUM),通过广泛模拟和先验敏感性分析验证了各方法的性能表现。
2024-10-16 stat.OT
Bayesian Models and Methods in Public Policy and Government Settings
从20世纪50年代的新贝叶斯复兴开始,许多统计学家认为在政府和公共政策环境中使用贝叶斯方法是不合适的,特别是主观贝叶斯方法,因为它们依赖于先验分布。但是贝叶斯框架通常提供了回答这些设置中提出的问题的主要方法,并且贝叶斯应用的数量和多样性近年来急剧增长。通过一系列的例子,历史和最近的,我们认为,贝叶斯方法与正式和非正式的评估先验和似然函数被广泛接受,应该成为公共场合的规范。我们的例子包括人口普查和小面积估计,美国大选之夜预测,向美国食品和药物管理局报告的研究,评估全球气候变化,以及测量老年人残疾的潜在下降。
2011-08-10 stat.ME
Optimal experimental design via Bayesian optimization: active causal structure learning for Gaussian process networks
MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Cambridge(剑桥大学);Amazon(亚马逊);The Alan Turing Institute(艾伦·图灵研究所)
我们通过有针对性的干预措施来研究因果发现的问题。从几个观测测量开始,我们遵循贝叶斯主动学习方法来执行这些实验,这些实验在当前模型的预期中,最大限度地提供有关潜在因果结构的信息。与以前的工作不同,我们考虑设置连续随机变量与非线性函数关系,建模与高斯过程先验。为了解决所产生的问题,选择从一个不可数的一组可能的干预措施,我们建议使用贝叶斯优化,有效地最大限度地提高预期的信息增益的蒙特卡罗估计。
2019-10-09 cs.LG stat.ML
Faster high-accuracy log-concave sampling via algorithmic warm starts
NYU(纽约大学);MIT(麻省理工学院)
从实践和理论的角度来看,理解从$\mathbb{R}^d$上的强对数凹和对数平滑分布$π$到高精度的采样的复杂性是一个基本问题。在实践中,高精度的采样器,如经典的大都会调整的朗之万算法(MALA)仍然是事实上的黄金标准;在理论上,通过近端采样器减少,可以理解,这样的采样器是关键的采样,甚至超过对数周期(特别是,对于满足等周假设的分布)。在这项工作中,我们改进了这个采样问题的尺寸依赖$\tilde{O}(d^{1/2})$,而以前最好的结果为MALA是$\tilde{O}(d)$。这结束了关于MALA复杂性的长期工作,并且还导致了在强对数和更高条件下对高精度采样的最新保证(由于上述减少)。我们的出发点是,MALA的复杂性提高到$\tilde{O}(d^{1/2})$,但仅在热启动(初始化时具有恒定的Rényi散度w.r.t. $π$)。以前的算法需要更长的时间来找到一个温暖的开始比使用它,并关闭这个差距仍然是一个重要的开放问题在该领域。我们的主要技术贡献解决了这个问题,建立了第一个$\tilde{O}(d^{1/2})$ Rényi混合率的离散欠阻尼朗之万扩散。为此,我们开发了新的差分隐私启发技术的基础上雷尼分歧与Orlicz-Wasserstein的变化,这使我们能够回避长期的挑战,证明快速收敛的hypocorctive微分方程。
2023-02-20 cs.DS cs.LG math.AP