Loss-based Objective and Penalizing Priors for Model Selection Problems
提出风险均衡先验和风险惩罚先验，作为贝叶斯模型选择中仅依赖模型空间和损失函数的客观先验，揭示了损失函数对先验属性的影响，并通过变量选择和聚类分析验证。
2023-11-22 stat.ME
Variational Bayesian Imaging with an Efficient Surrogate Score-based Prior
California Institute of Technology（加州理工学院）
提出一种基于证据下界的高效代理先验，用于变分贝叶斯成像，在保持后验估计准确性的同时将优化速度提升至少两个数量级，为高维图像逆问题提供了实用解决方案。
2024-08-27 cs.CV
Bayesian Variable Selection and Estimation Based on Global-Local Shrinkage Priors
本文研究了具有全局-局部收缩先验的线性回归模型的贝叶斯变量选择问题。我们提出了一个变量选择程序，选择一个变量，如果后验均值的比例，相应的系数的普通最小二乘估计大于$1/2$。在正交设计的假设下，证明了当局部参数具有多项式尾先验时，该方法具有预言性质，即可以同时获得变量选择的一致性和最优估计率.然而，如果相反，指数尾先验被用于局部参数，所提出的方法不具有预言属性。
2016-05-25 stat.ME
Comparing Spike and Slab Priors for Bayesian Variable Selection
建立回归模型的一个重要任务是决定哪些回归变量应该包含在最终模型中。在贝叶斯方法中，变量选择可以使用混合先验进行，对于受选择影响的效应，混合先验具有尖峰和平板分量。由于尖峰集中在零处，因此变量选择基于将相应的回归效应分配给板组件的概率。这些后验包含概率可以通过MCMC采样来确定。在本文中，我们比较了几个尖峰和板先验的MCMC实现方面的后验包含概率和它们的抽样效率模拟数据。此外，我们调查后验包含概率分析不同的平板在两个简单的设置。应用程序的变量选择与穗和板先验的精神病患者的数据集，其目标是确定影响代谢的协变量。
2018-12-18 stat.ME
Mixtures of g-Priors for Generalised Additive Model Selection with Penalised Splines
我们提出了一个客观的贝叶斯方法来选择协变量和惩罚样条变换广义加性模型。为模型参数指定一个合理的默认先验，并结合模型本身的多重性校正先验，对于这项任务至关重要。在这里，我们使用了良好的研究和良好的行为连续混合的g先验作为默认先验。我们在正态模型中引入该方法，并将其推广到非正态指数族。仿真研究和文献中的应用说明了所提出的方法。一个有效的实现是在R-包“hypergsplines”。
2012-08-20 stat.ME
Estimation of partially known Gaussian graphical models with score-based structural priors
Rice University（莱斯大学）；King Juan Carlos University（胡安·卡洛斯国王大学）
本文提出一种融合图上先验信息的部分已知高斯图模型支持估计算法，利用退火朗之万扩散和图神经网络估计分数函数，从后验分布采样以提升估计性能。
2024-02-23 cs.LG stat.ML
Model selection-based estimation for generalized additive models using mixtures of g-priors: Towards systematization
本文研究广义可加模型的贝叶斯模型选择估计，通过Laplace近似扩展至指数分布族，发现g-先验混合比单位信息先验更有效，且基于模型选择的方法优于其他贝叶斯方法。
2024-08-30 stat.ME
Plug-and-Play Priors as a Score-Based Method
Washington University in St. Louis（华盛顿大学圣路易斯分校）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
本研究提出将即插即用（PnP）方法视为基于分数的方法的新视角，通过数学关系将主流SBM适配为PnP先验，无需重训练即可复用SBM，还能实现两类重建方法的同先验直接比较。
2024-12-15 cs.CV eess.IV
Variable Fusion and Selection via a Spike-and-Slab Approach with Nonlocal Priors
The Institute of Statistical Mathematics（统计数学研究所）；Graduate School of Mathematics, Kyushu University（九州大学大学院数学院）；Faculty of Mathematics, Kyushu University（九州大学数学系）
本文提出一种基于贝叶斯模型平均框架的变量融合与选择方法，通过设计非局部先验实现变量融合与选择的联合建模。
2026-07-20 stat.ME
On the safe use of prior densities for Bayesian model selection
贝叶斯推断在模型选择中的应用是当前研究的热点。在这个框架中，模型通过它们的边际似然性或它们的相似性进行比较，称为贝叶斯因子。然而，边际可能性取决于先前的选择。对于模型选择，甚至扩散先验实际上可以提供非常多的信息，这与参数估计问题不同。此外，当先验不适当时，相应模型的边际似然是不确定的。在这项工作中，我们讨论了边际似然的先验灵敏度问题及其在模型选择中的作用。我们还评论使用无信息先验，这是非常常见的选择在实践中。几个实际的建议进行了讨论，许多可能的解决方案，在文献中提出，设计目标先验模型选择进行了说明。其中一些还允许使用不适当的先验。边际似然法和众所周知的信息标准之间的连接也被提出。我们描述的主要问题和可能的解决方案说明数值例子，也提供了一些相关的代码。其中一个涉及到系外行星探测的实际应用。
2022-06-10 stat.CO stat.ME stat.ML
The Importance of Prior Choice in Model Selection: a Density Dependence Example
我们进行贝叶斯分析的丰度数据为10种北美鸭，使用的结果，调查的证据有利于生物动机的假设，在这些物种的密度依赖的原因和机制。我们探索我们的方法来检测密度相关的影响，无论是通过模拟和分析的真实数据的能力。先验选择对预测精度的影响也进行了研究。我们的结论是，我们的先验，这是出于考虑系统的动态利益，提供了明确的进步，由以前的作者使用的鸭子数据集的先验。我们使用这个分析作为一个激励的例子来证明仔细的参数事先选择的重要性，如果我们要执行一个平衡的模型选择程序。我们还提出了一些简单的指导方针，可以遵循各种各样的建模框架，模糊的参数先验选择是不是一个可行的选择。这些将产生参数先验，不仅大大减少了选择某些模型的偏差，但提高了所得模型平均预测器的预测能力。
2011-08-24 stat.ME
Bayesian sparse graphical models and their mixtures using lasso selection priors
我们提出了高斯图形模型的贝叶斯方法，导致稀疏和自适应收缩的精度（逆协方差）矩阵的估计。我们的方法是基于套索型正则化先验导致简约的参数化的精度矩阵，这是必不可少的几个应用程序，涉及学习变量之间的关系。在这种情况下，我们引入了一种新类型的选择之前，开发一个稀疏结构的精度矩阵，使大多数元素正好为零，除了确保正定性-从而进行模型选择和估计同时进行。我们将这些方法扩展到有限和无限混合高斯图形模型的聚类数据使用Dirichlet过程先验。我们讨论了适当的后验模拟方案，以实现后验推理在所提出的模型，包括评估的归一化常数，这是感兴趣的参数的功能，从而导致相关矩阵的限制。我们评估我们的方法的操作特性，通过几个模拟和应用到真实的数据集。
2013-10-03 stat.ME
Robust Bayesian variable selection with sub-harmonic priors
本文研究了一般球对称误差分布线性模型中的贝叶斯变量选择问题。我们提出了次谐波先验出现的Zellner的g-先验的贝叶斯因子是独立的基本误差分布的混合物的一类，只要它是在球对称类。由于这种不变性球对称误差分布，我们把我们的方法作为一个强大的贝叶斯变量选择方法。我们证明了我们的贝叶斯因子具有模型选择的一致性和连贯性。我们还开发了拉普拉斯近似贝叶斯因子的一些最近研究的混合物的g先验最近出现在文献中（包括我们自己的）的高斯误差。在每种情况下，这些近似值都由基于BIC的高斯贝叶斯因子乘以先验超参数的简单有理函数和相应模型的R^2给出。我们还扩展了模型选择的一致性为几个g先验贝叶斯因子方法高斯误差的整个类的球对称误差分布。此外，我们证明了我们的类的次谐波先验是唯一的在一个大类的混合物的g-先验在文献中研究的是强大的，在我们的意义上。模拟研究和两个真实数据集的分析表明，我们的鲁棒贝叶斯因子相对于BIC和其他混合的g先验方法的良好性能。
2013-03-11 math.ST stat.ME stat.TH
Bayesian Image-on-Scalar Regression with a Spatial Global-Local Spike-and-Slab Prior
在这篇文章中，我们提出了一种新的空间全局-局部尖峰和板选择图像标量回归之前。我们认为贝叶斯分层高斯过程模型的图像平滑，使用灵活的逆Wishart过程之前，处理图像内的依赖性，并提出了一个通用的全局-局部空间选择之前，扩展了丰富的一类研究良好的选择先验。与现有的构造不同，我们实现了同时的全局（即，在协变量水平上）和局部（即，在像素/体素级）通过引入“参与率”参数进行选择，该参数测量各个协变量影响观察到的图像的概率。这与硬阈值策略一起导致两个级别的选择之间的依赖性，在局部级别引入额外的稀疏性，并允许全局选择被局部选择告知，所有这些都以基于模型的方式进行。我们设计了一个有效的吉布斯采样器，允许推断大图像数据。我们模拟数据表明，参数是可解释的，并导致有效的选择。最后，我们使用自闭症脑成像数据交换（ABIDE）研究的数据证明了所提出的模型的性能。据我们所知，该模型的建设是第一次在贝叶斯文献中，同时实现图像平滑，参数估计和两个级别的变量选择图像上的标量回归。
2022-12-16 stat.AP stat.ME
On integral priors for multiple comparison in Bayesian model selection
University of Murcia（穆尔西亚大学）；CIBER de Epidemiología y Salud Pública (CIBERESP)（公共卫生与流行病学网络中心（CIBERESP））；Biomedical Research Institute of Murcia Pascual Parrilla–IMIB（穆尔西亚生物医学研究所帕斯夸尔·帕里利亚-IMIB）；Université Paris Dauphine PSL（巴黎第九大学PSL）；University of Warwick（华威大学）
本文提出了一种用于贝叶斯模型选择中多重比较的积分先验方法，通过构建遍历马尔可夫链来获得先验分布，并展示了其在模型比较中的有效性。
2026-02-17 stat.ME
Consistent Bayesian Sparsity Selection for High-dimensional Gaussian DAG Models with Multiplicative and Beta-mixture Priors
高维多元数据的协方差阵估计是现代统计学中一个具有挑战性的重要问题。在本文中，我们专注于高维高斯DAG模型，稀疏性诱导的逆协方差阵的Cholesky因子L。在最近的工作中，（[Cao，Khare和Ghosh，2019]），我们为分层贝叶斯DAG模型建立了高维稀疏选择一致性，其中Erdos-Renyi先验被放置在Cholesky因子L中的稀疏模式上，并且DAG-Wishart先验被放置在产生的非零Cholesky条目上。在本文中，我们显着改进和扩展这项工作，（a）考虑更多样化和有效的先验的稀疏模式在L中，即β-混合先验和乘法先验，（b）建立稀疏选择一致性显着放宽条件下的p，和真实模型的稀疏模式。我们通过数值模拟证明了我们的理论结果的有效性，并使用进一步的模拟来证明我们的稀疏性选择方法与现有的最先进的方法，包括频率论和贝叶斯方法在各种设置中具有竞争力。
2019-03-08 math.ST stat.ME stat.TH
Bayesian Region Selection and Prediction in Poisson Regression with Spatially Dependent Global-Local Shrinkage Prior
Yale School of Public Health（耶鲁大学公共卫生学院）；University of Arizona（亚利桑那大学）
本文提出一种新的全局-局部收缩先验，用于泊松回归中空间变量的选择与预测，结合条件自回归先验和超重尾先验，以处理空间依赖性和稀疏结构，提升预测精度。
2026-05-06 stat.AP stat.ME
Posterior Model Consistency in Variable Selection as the Model Dimension Grows
回归分析中变量选择的贝叶斯方法的一致性分析大多涉及两两一致性，即贝叶斯因子的一致性。然而，回归中的变量选择是在给定的一类回归模型中进行的，其中自然变量选择器是模型的后验概率。在本文中，我们分析了后验模型概率的一致性时，随着样本量的增长，潜在的回归数量的增长。后验模型一致性的新颖之处在于，它不仅依赖于通过贝叶斯因子得到的模型参数的先验，而且还依赖于模型的先验，因此它是为模型和模型参数选择先验的有用工具。我们已经发现，通常用于变量选择的某些类别的先验会产生后验模型不一致性，而这些先验的混合物会改善这种不受欢迎的行为。对于中等样本量，我们评估贝叶斯成对变量选择程序，通过比较其频率论I型和II型错误概率。这提供了有价值的信息来区分变量选择常用的模型参数的先验。
2015-07-29 stat.ME
Whitened Score Diffusion: A Structured Prior for Imaging Inverse Problems
针对传统分数扩散模型处理各向异性高斯扩散时需协方差求逆的问题，提出白化分数扩散模型，规避求逆实现稳定训练，在多成像任务上性能优于传统扩散先验，代码已开源。
2025-11-15 eess.IV eess.SP stat.AP
Bayesian feature selection with strongly-regularizing priors maps to the Ising Model
Boston University（波士顿大学）
识别与预测和/或分类任务相关的小特征子集是机器学习和统计中的一个核心问题。特征选择任务对于现代数据集尤其重要，并且在计算上很困难，因为现代数据集的特征数量可以与样本数量相当，甚至超过样本数量。在这里，我们表明，贝叶斯推断的特征选择具有普遍的形式，并减少到计算磁化的伊辛模型，在一些温和的条件下。我们的研究结果利用观察到的证据采取了普遍的形式强正规化先验-先验，即使在无限的数据限制后验概率有很大的影响。我们推导出广义线性模型的特征选择的显式表达式，广义线性模型是一大类统计技术，包括线性和逻辑回归。我们通过分析基于逻辑回归的分类器中的特征选择来说明我们方法的强大功能，该分类器经过训练以区分notMNIST数据集中的字母B和D。
2014-11-03 cond-mat.stat-mech cs.LG stat.ML
Selection of inverse gamma and half-t priors for hierarchical models: sensitivity and recommendations
虽然先验选择的重要性是众所周知的，建立指导方针，选择先验的分层模型仍然是一个活跃的，有时有争议的，贝叶斯方法研究领域。文献中经常讨论单个先验族的超参数的选择，但很少在类似的模型和超参数下比较不同的先验族。使用模拟数据，我们评估了逆伽马和半$t$先验估计随机效应的标准差在三个分层模型中的性能：8所学校模型，随机截距纵向模型和简单的多个结果模型。我们使用一系列先验超参数比较了两个先验家族的性能，其中一些在文献中已经提出，另一些允许直接比较半- $t$和逆伽马先验对。估计非常小的随机效应标准差值会导致收敛问题，尤其是对于半$t$先验。对于大多数设置，我们发现，后验分布的标准差有较小的偏差下半$t$先验比他们的逆伽马对应。逆伽马先验一般给出类似的覆盖范围，但具有比它们的半$t$先验对应物更小的间隔长度。我们对这两个先验家族的研究结果将为分层模型的先验规范提供信息，使从业者能够更好地将他们的先验与他们各自的模型和目标保持一致。
2021-08-26 stat.ME
On Bayesian Exponentially Embedded Family for Model Order Selection
The University of Rhode Island（罗德岛大学）
本文利用指数嵌入族方法推导了贝叶斯模型的序选择规则，称为贝叶斯EEF。与许多其他贝叶斯模型选择方法不同，贝叶斯EEF可以使用模糊的正确先验和不正确的无信息先验来客观地提取参数先验。此外，该规则的惩罚项是参数维数的一半和参数与观测数据之间的估计互信息之和。这有助于揭示EEF在模型阶数选择中的作用机制，并从信息论的角度对模型阶数选择的最优惩罚项选择和先验选择等问题提供新的见解.最后给出了线性模型选阶的重要实例，说明了算法和参数的选取。最后，使用Jeffreys先验的贝叶斯EEF与频率主义策略导出的EEF规则一致。这显示了频率论和贝叶斯哲学在模型选择中的另一个有趣的关系。
2018-12-21 cs.LG stat.ML
On Supervised Selection of Bayesian Networks
University of Helsinki（赫尔辛基大学）
给定一组可能的模型（例如，贝叶斯网络结构）和数据样本，在无监督模型选择问题中，任务是选择关于域联合概率分布的最准确的模型。与此相反，在监督模型选择中，先验已知所选模型将在未来用于涉及更“集中”的预测分布的预测任务。虽然可以通过边缘化从联合概率分布中产生集中的预测分布，但实际上，无监督意义上的最佳模型不一定在监督域中表现良好。特别是，标准边际似然得分是无监督任务的标准，虽然经常用于监督模型选择，但在此类任务中表现不佳。在本文中，我们研究了边际似然得分的监督贝叶斯网络选择任务的经验性能，通过使用大量的公开可用的分类数据集，并比较结果与其他模型选择标准，包括经验交叉验证方法，监督边际似然测度的近似，结果表明，边缘似然得分在有监督的模型选择中表现不佳，而Dawids序贯概率方法则获得了最好的结果。
2013-01-23 cs.LG stat.ML
On the Choice of Model Space Priors and Multiplicity Control in Bayesian Variable Selection: An Application to Streaming Logistic Regression
The University of Iowa（爱荷华大学）
本文探讨了贝叶斯变量选择中模型空间先验的选择对流式逻辑回归的影响，提出了一种简化MD先验并评估其在稀疏性和多重性控制中的有效性。
2025-12-27 stat.CO stat.ME
Multi-Goal Prior Selection: A Way to Reconcile Bayesian and Classical Approaches for Random Effects Models
两水平正态分层模型在统计理论和应用中发挥着重要的作用。在本文中，我们首先介绍了一个一般的调整极大似然方法的未知方差分量的模型和相关的经验最佳线性无偏预测的随机效应。然后，我们讨论了一个新的想法，选择先验的超参数。先验，称为多目标先验，产生超参数和随机效应的贝叶斯解，这些解与线性混合模型中的相应经典解在几个属性方面相匹配（在高阶渐近意义上）。此外，我们首次建立了分析等价的后验方差下提出的多目标先验和相应的参数bootstrap二阶均方误差估计的背景下的随机效应模型。
2019-01-24 stat.ME
HRTF Estimation using a Score-based Prior
Aalto University（阿尔托大学）；University of Hamburg（汉堡大学）
提出一种利用基于分数扩散模型先验的 HRTF 估计方法，在混响和语音激励下联合建模房间脉冲响应，性能优于包括 oracle 推荐器在内的基线。
2024-10-02 cs.LG cs.SD eess.AS
Robust Bayesian Predictive Model Selection using Bregman Divergence
Harvard University（哈佛大学）；University of Connecticut（康涅狄格大学）
针对基于对数得分的ELPD对异常值和尾部不匹配敏感的问题，提出基于Bregman散度的广义ELPD框架，通过β-散度族控制低密度观测影响，实现稳健模型选择。
2026-06-09 stat.ME
Bayesian Variable Selection on Small Sample Trial Data via Adaptive Posterior-Informed Shrinkage Prior
针对小样本临床试验（如CGT、超罕见病领域）的变量选择需求，提出自适应后验信息收缩先验（APSP）贝叶斯方法，通过自适应借用外部信息提升效率并保持稳健性，模拟及CIT研究应用验证其优于传统方法。
2025-11-17 stat.ME
Taming Score-Based Diffusion Priors for Infinite-Dimensional Nonlinear Inverse Problems
University of Basel（巴塞尔大学）；Rice University（莱斯大学）；Ecole Polytechnique, IP Paris（巴黎综合理工学院（巴黎IP））；University of California Irvine（加州大学欧文分校）
本文提出一种函数空间中的采样方法，利用无限维基于分数的扩散模型作为先验，结合Langevin型MCMC算法，解决非线性贝叶斯逆问题，并提供收敛性分析及实验验证。
2024-05-24 cs.LG cs.NA math.NA
Focused Forcing: Content-Aware Per-Frame KV Selection for Efficient Autoregressive Video Diffusion
SJTU（上海交通大学）；SDU（山东大学）；HUST（华中科技大学）；UTokyo（东京大学）；HKUST（香港科技大学）；SCUT（上海大学）；Shanghai AI Lab（上海人工智能实验室）
本文提出了一种无需训练的KV选择方法，通过结合注意力分数和历史帧的多样性分数，保留最相关和有区别的历史帧，从而在不牺牲质量的情况下提高自回归视频扩散的效率。
2026-10-30 cs.AI cs.CV
Learning networks determined by the ratio of prior and data
Graduate School of Information Systems, University of Electro-Communications（电气通信大学信息系统研究生院）
最近的报告描述了Dirichlet先验中的等效样本容量（ESS）在贝叶斯网络学习中起着重要作用。本文对贝叶斯网络的边际似然得分进行了渐近分析。结果表明，在贝叶斯网络学习中，ESS和样本容量的比例决定了增加弧的代价。弧的数量随着ESS的增加而单调增加;弧的数量随着ESS的减少而单调减少。此外，边际似然分数通过改变先验知识提供了各种分数度量的统一表达。
2012-03-15 cs.LG stat.ML
Model Selection in Bayesian Neural Networks via Horseshoe Priors
贝叶斯神经网络（BNN）最近受到越来越多的关注，因为它们能够提供良好校准的后验不确定性。然而，模型选择-甚至选择节点的数量-仍然是一个悬而未决的问题。在这项工作中，我们将马蹄铁先验应用于贝叶斯神经网络的节点预激活，这有效地关闭了无助于解释数据的节点。我们证明了我们的先验知识可以防止BNN拟合不足，即使所需的节点数量被严重高估。此外，这种对节点数量的模型选择并不以牺牲预测或计算性能为代价;事实上，我们学习的是更小的网络，其预测性能与当前方法相当。
2017-05-29 stat.ML
Echoes in the Noise: Posterior Samples of Faint Galaxy Surface Brightness Profiles with Score-Based Likelihoods and Priors
Université de Montréal（蒙特利尔大学）；Ciela Institute（谢拉研究所）；Mila（米拉研究所）；ICRAR（国际射电天文学研究中心）；Kavli IPMU（卡弗里数物连携宇宙研究机构）；CCA, Flatiron Institute（熨斗研究所计算天体物理学中心）；Trottier Space Institute（特罗蒂尔空间研究所）；Perimeter Institute（圆周理论物理研究所）
本文提出结合分数似然与扩散模型先验的贝叶斯图像去卷积框架，在HST数据中恢复出此前仅JWST可见的暗弱星系结构。
2023-11-29 astro-ph.IM cs.CV
Adaptive Prior Selection in Gaussian Process Bandits with Thompson Sampling
Department of Computer Science and Engineering, Chalmers University of Technology and University of Gothenburg（计算机科学与工程系，楚尔姆斯理工大学和哥德堡大学）
本文提出两种算法，通过高斯过程强化学习进行先验选择和后悔最小化，理论分析证明了HP-GP-TS的亚线性后悔界，并通过实验验证其有效性。
2026-06-08 cs.LG stat.ML
Bayesian network marker selection via the thresholded graph Laplacian Gaussian prior
在许多研究领域中，在大规模网络中选择信息节点变得越来越重要。现有的方法大多只关注局部网络结构，对于大规模问题计算量大。在广义线性模型（GLM）框架下，提出了一种新的贝叶斯网络标记选择先验模型：广义图拉普拉斯高斯（TGLG）先验模型，该模型采用图拉普拉斯矩阵来表征全局网络结构中相邻标记之间的条件依赖关系.在较弱的条件下，我们证明了该模型在网络中边数和节点数不同的情况下具有后验一致性。我们还开发了一个大都市调整的朗之万算法（MALA）的有效后验计算，这是可扩展的大规模网络。我们说明了所提出的方法与现有的替代品相比，通过广泛的模拟研究和分析的乳腺癌基因表达数据集的癌症基因组图谱（TCGA）的优越性。
2018-09-29 math.ST stat.ME stat.TH
Bayesian variable selection with shrinking and diffusing priors
我们认为，贝叶斯方法的变量选择中存在的高维协变量的基础上的分层模型，将先验分布的回归系数以及模型空间。我们采用了著名的尖峰和板条高斯先验的一个独特的功能，即先验方差依赖于样本量，通过适当的收缩可以实现。我们显示了强选择的一致性，该方法的真实模型的后验概率收敛到一个甚至当协变量的数量几乎呈指数增长的样本量。这可以说是最强的选择一致性的结果，已在贝叶斯变量选择文献，但所提出的方法可以通过后验抽样与一个简单的吉布斯采样器进行。此外，我们认为，所提出的方法是渐近相似的模型选择与$L_0$惩罚。我们还通过实证工作证明了所提出的方法相对于一些国家的最先进的替代品的优良性能。
2014-05-26 math.ST stat.TH
Power-Expected-Posterior Priors for Variable Selection in Gaussian Linear Models
在线性模型中贝叶斯变量选择的期望后验先验（EPP）方法的背景下，我们结合了幂先验和单位信息先验方法的思想，同时产生最小信息先验并减少训练样本的影响。结果是，在实践中，我们的功率预期后验（PEP）方法是足够不敏感的训练样本的大小n*，由于PEP的单位信息的建设，一个可以采取n* 等于全数据样本量n和免除训练样本。在本文中，我们专注于高斯线性模型和开发我们的方法在两个不同的基线先验选择：独立Jeffreys（或参考）前，产生的J-PEP后，和Zellner g先验，导致Z-PEP。我们发现，在参考基线先验下，PEP贝叶斯因子的渐近性与Schwartz的BIC准则的渐近性是等价的，从而保证了PEP方法在模型选择中的一致性。我们比较我们的方法的性能，在模拟研究和一个真实的例子，涉及预测的空气污染物浓度从气象协变量，与各种先前定义的变量的贝叶斯因素的客观变量选择。我们的先验，由于其单位信息结构，导致变量选择过程，（1）系统地比具有最小训练样本的基本EPP更简约，同时不牺牲期望的性能特征来实现这种简约;（2）对训练样本的大小是鲁棒的，因此享受上述的优点，完全避免训练样本;以及（3）识别实现良好的样本外预测性能的最大后验模型。
2014-05-20 stat.CO
Random tree Besov priors: Data-driven regularisation parameter selection
Delft University of Technology（代尔夫特理工大学）；Delft Institute of Applied Mathematics（代尔夫特应用数学研究所）
本文提出了一种基于随机树Besov先验的数据驱动正则化参数选择算法，用于提高贝叶斯反演的计算效率和表达能力。
2026-01-19 math.PR math.ST stat.TH
Criteria for Bayesian model choice with application to variable selection
在客观贝叶斯模型选择中，没有一个单一的标准在定义客观先验分布时占主导地位。事实上，许多标准已经被单独提出并用于提出不同的优先选择。我们首先正式提出了各种标准中最普遍和最令人信服的标准，以及一个新的标准。然后，我们说明了这些标准在确定目标模型选择先验的潜力，考虑他们的应用程序的问题，在正常的线性模型的变量选择。这导致了一个新的模型选择目标，具有许多令人信服的属性。
2012-09-24 math.ST stat.TH
Null-Calibrated Conformal Selection via Target-Membership Scores
CROID Research and aSSIST University（CROID研究院和aSSIST大学）
提出基于目标隶属度分数的共形选择方法，通过零校准（NCCS）生成有限样本有效的零p值，在方差驱动和多模态目标上优于传统预测导向分数。
2026-06-23 cs.LG stat.ML
Generalized Fisher Score for Feature Selection
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
Fisher评分是应用最广泛的有监督特征选择方法之一。然而，它根据Fisher准则下的得分独立地选择每个特征，这导致了一个次优的特征子集。在本文中，我们提出了一个广义的Fisher评分联合选择功能。它的目的是找到一个子集的功能，最大限度地提高了传统的Fisher评分的下限。由此产生的特征选择问题是一个混合整数规划，它可以重新表示为二次约束线性规划（QCLP）。该算法采用割平面算法求解，在每次迭代中交替使用多元岭回归和投影梯度下降算法求解多核学习问题。在基准数据集上的实验表明，该方法优于Fisher评分以及许多其他国家的最先进的特征选择方法。
2012-02-14 cs.LG stat.ML
Exploiting Transitivity for Top-k Selection with Score-Based Dueling Bandits
University of Warwick（华威大学）
研究了具有分数信息的Dueling Bandit问题中的top-k子集选择问题。现实世界的成对排序问题往往表现出高度的传递性和先前的工作建议抽样方法，利用这种传递性，通过使用参数偏好模型，如布拉德利-特里-卢斯（BTL）和瑟斯顿模型。到目前为止，这项工作的重点是样本结果是赢/输二元反应的情况下。我们扩展到选择问题，抽样结果包含定量信息，提出了一个瑟斯顿风格的模型和适应成对最优计算预算分配子集选择（POCBAm）抽样方法，利用该模型进行有效的样本选择。我们对标准POCBAM和其他竞争算法的实证性能进行比较。
2020-12-31 cs.LG
Learning Gradually Non-convex Image Priors Using Score Matching
University Hospital Bonn（波恩大学医院）；Graz University of Technology（格拉茨技术大学）
在本文中，我们提出了一个统一的框架去噪得分为基础的模型的背景下，渐进的非凸能量最小化。我们表明，足够大的噪声方差，相关的负对数密度-能量-成为凸。因此，基于去噪分数的模型基本上遵循分级非凸性启发式。我们应用这个框架来学习广义领域的专家图像先验近似的联合密度的噪声图像及其相关的方差。这些先验可以很容易地被纳入到现有的优化算法求解反问题，自然实现了快速和强大的渐进非凸性机制。
2023-02-21 cs.CV cs.LG
Model selection with proper scoring rules on data sets of time series: prefer the mean scaled score
SUPSI, Istituto Dalle Molle di Studi sull’Intelligenza Artificiale (IDSIA), Lugano, Switzerland（SUPSI，日内瓦智能研究 institute（IDSIA），卢加诺，瑞士）
针对时间序列数据集上的概率模型选择问题，发现均值、中位数和平均秩三种统计量因分数分布偏斜导致冲突决策，随着测试集增大结论趋于一致，但短测试集下仅均值分数能识别真模型。
2026-06-25 cs.LG stat.ML
ELBD: Efficient score algorithm for feature selection on latent variables of VAE
Zhejiang University（浙江大学）
在本文中，我们开发的证据下界差（ELBD）的概念，在此基础上，一个有效的得分算法来实现VAE及其变种的潜变量的特征选择。此外，我们提出了弱收敛近似算法来优化VAE相关的模型，通过加权的“更重要”的潜变量选择，并相应地增加证据下限。我们讨论了两种不同的高斯后验，均值场和全协方差，为潜变量，并作出相应的理论分析，以支持算法的有效性。在7个公共数据集上对我们的算法和其他9种特征选择方法进行了大量的对比实验，以解决生成任务。实验结果证明了算法的有效性。最后，我们将ELBD扩展到它的推广版本，并将后者应用于5个新的公共数据集的分类任务，取得了令人满意的实验结果。
2022-10-10 cs.LG stat.ML
Dirichlet process mixtures of block $g$ priors for model selection and prediction in linear models
Google Inc.（谷歌公司）；Department of Statistics, University of Washington（华盛顿大学统计学系）
本文提出块g先验的狄利克雷过程混合用于线性模型中的模型选择和预测，通过允许不同参数块的差异收缩并考虑预测变量的相关结构，实现了模型选择与连续收缩先验的桥梁。
2026-05-12 cs.LG stat.ME
Posterior samples of source galaxies in strong gravitational lenses with score-based priors
Université de Montréal（蒙特利尔大学）；Mila（米拉（魁北克人工智能研究所））；Ciela（Ciela研究所）；Flatiron Institute（熨斗研究所）；CIFAR（加拿大高等研究院）
推断准确的后验的引力透镜源的亮度的高维表示是一个重大的挑战，部分原因是由于准确量化先验的困难。在这里，我们报告使用的分数为基础的模型来编码前的背景星系的不失真的图像的推断。该模型在一组未失真星系的高分辨率图像上进行训练。通过将似然得分添加到先验得分并使用逆时随机微分方程求解器，我们从后验中获得样本。我们的方法产生独立的后验样本和模型的数据几乎下降到噪声水平。我们展示了如何平衡的可能性和先验满足我们的期望，在实验中与分布数据。
2022-11-29 astro-ph.IM cs.CV cs.LG
BWS: Best Window Selection Based on Sample Scores for Data Pruning across Broad Ranges
Samsung Research（三星研究院）；Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
本文提出了一种通用高效的数据子集选择方法BWS，通过基于难度分数排序样本并选择最佳窗口子集，结合核岭回归评估质量，在广泛选择比例范围内优于基线方法。
2024-06-05 cs.LG stat.ML
Distance Rank Score: Unsupervised filter method for feature selection on imbalanced dataset
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Univ. Savoie Mont Blanc（萨瓦大学）；CNRS（法国国家科学研究中心）；Optimistik
本文提出一种基于斯皮尔曼秩相关的无监督过滤特征选择方法，通过观测距离与特征距离的秩相关性避免方差法在不平衡多类数据上的缺陷，并在多个聚类任务中验证其有效性。
2023-05-31 cs.LG stat.ML
Exploring Structured Semantic Priors Underlying Diffusion Score for Test-time Adaptation
Beijing Institute of Technology（北京理工大学）；Beihang University（北京航空航天大学）；Kuaishou Technology（快手科技）；Inceptio Technology（嬴彻科技）
本文提出DUSA方法，利用扩散分数中的结构化语义先验，仅从单个去噪时间步提取知识，实现图像分类器与密集预测器的高效测试时自适应。
2025-01-01 cs.CV cs.LG
Subset Selection Based On Multiple Rankings in the Presence of Bias: Effectiveness of Fairness Constraints for Multiwinner Voting Score Functions
TU Berlin（柏林工业大学）；Yale University（耶鲁大学）；Nanjing University（南京大学）
本文研究存在偏差的多排名子集选择问题，证明群体公平性约束可提升选择质量，发现不同多胜者得分函数对排名数量的依赖存在指数与多项式级差异，提出子模函数平滑度概念，可为得分函数选择提供指导和实证工具。
2023-06-16 cs.AI cs.CY cs.DS
Decoupled Learning and Selection in Slate Recommendation for Privacy and Stability Under Noisy Scores
University of Bergen（卑尔根大学）；Centre for the Science of Learning & Technology (SLATE)（学习与技术科学中心（SLATE））；City University of Macau（澳门城市大学）
本研究提出榜单推荐中解耦评分学习与选择的方法，通过差分隐私范围契约和日志边际证书，在噪声评分下保证排序稳定性，实验验证了其有效性。
2026-09-25 cs.IR cs.LG
Deep Feature Selection Using a Novel Complementary Feature Mask
University of Stuttgart（斯图加特大学）；Advantest Europe GmbH（爱德万测试欧洲有限公司）
特征选择在过去的几十年里在机器学习中引起了广泛的关注，因为它可以在保持特征的原始物理意义的同时降低数据维度，这使得比特征提取具有更好的可解释性。然而，大多数现有的特征选择方法，特别是基于深度学习的方法，通常只关注具有大的重要性分数的特征，而忽略了训练过程中具有较小重要性分数的特征以及重要候选特征的顺序。这可能是有风险的，因为在训练过程中可能会不幸地忽略一些重要和相关的特征，从而导致次优解决方案或误导性选择。在我们的工作中，我们处理的特征选择，利用具有较低的重要性分数的功能，并提出了一个特征选择框架的基础上，一个新的互补特征掩模。我们的方法是通用的，可以很容易地集成到现有的基于深度学习的特征选择方法中，以提高它们的性能。在基准数据集上进行的实验表明，该方法可以选择比现有技术更具代表性和信息量的特征。
2022-09-25 cs.LG
Partition Scores Are Not System Scores: Deployment-Fidelity Gaps in Decomposed Algorithm Selection
University of Oregon（俄勒冈大学）；City University of Hong Kong（香港城市大学）
本研究定义部署保真度差距，证明分解式算法选择中分区分数高估可部署系统性能，并在五个基准上验证该差距为正，建议并排报告两类分数。
2026-09-15 cs.AI cs.LG
