Controlling Privacy Loss in Sampling Schemes: an Analysis of Stratified and Cluster Sampling
Boston University（波士顿大学）；Institute for Employment Research（就业研究所）；University of Maryland（马里兰大学）；Apple（苹果公司）；Harvard John A. Paulson School of Engineering and Applied Sciences（哈佛大学约翰·A·保尔森工程与应用科学学院）
本研究将差分隐私的隐私放大分析扩展到数据依赖的复杂抽样方案，发现分层抽样与整群抽样不仅不能放大隐私，反而可能导致隐私退化，并提供了相关见解。
2023-06-21 cs.CR cs.LG stat.ME
Label-Efficient Monitoring of Classification Models via Stratified Importance Sampling
Amazon（亚马逊）
本文提出基于分层重要性采样的方法，以提高分类模型监控的标注效率和性能。
2026-01-29 cs.LG stat.AP
Acceleration of Large Margin Metric Learning for Nearest Neighbor Classification Using Triplet Mining and Stratified Sampling
University of Waterloo（滑铁卢大学）
度量学习是流形学习中的一种技术，其目标是找到一个投影子空间，分别用于增加和减少类间和类内方差。一些度量学习方法基于具有锚正负三元组的三元组学习。最近邻分类的大间隔度量学习是实现这一目标的基本方法之一。最近，已经引入了具有三重态损失的连体网络。许多三元组挖掘方法已被开发的暹罗网络，然而，这些技术还没有被应用于最近邻分类的大间隔度量学习的三元组。在这项工作中，受连体网络挖掘方法的启发，我们提出了几种用于大间隔度量学习的三元组挖掘技术。此外，一个分层的方法，提出了加速和可扩展性的优化，其中三元组选择分层超球分层抽样。我们分析了三个公开可用的数据集，即，Fisher Iris、ORL Faces和MNIST数据集。
2020-09-29 cs.CV cs.LG stat.ML
Variance Matters: Improving Domain Adaptation via Stratified Sampling
Institute of Sound and Vibration Research（声学与振动研究所）；University of Southampton（南安普顿大学）
本文提出VaRDASS方法，通过分层抽样减少领域适应中的方差，提升领域差异估计精度和目标领域性能。
2025-12-04 cs.LG
Optimal Off-Policy Evaluation from Multiple Logging Policies
Cornell University（康奈尔大学）；Tokyo Institute of Technology（东京工业大学）
我们研究了来自多个日志记录策略的非策略评估（OPE），每个日志记录策略生成固定大小的数据集，即，分层抽样以前的工作指出，在这种情况下，不同的重要性采样估计量的方差的顺序是依赖于实例的，这带来了一个两难的选择，其中重要性采样的权重使用。在本文中，我们通过找到多个记录器的OPE估计量来解决这个难题，其中任何情况下的方差最小，即，高效的一特别是，我们建立了分层抽样下的效率界，并提出了一个估计实现这一界限时，一致的$q$估计。为了防止错误指定的$q$ -功能，我们还提供了一种方法来选择控制变量的假设类，以最大限度地减少方差。大量的实验证明了我们的方法有效地利用来自多个记录器的非策略数据的分层采样的好处。
2020-10-21 cs.LG stat.ME stat.ML
Optimal Multi-way Decision Trees for Stratified Sampling in Online Controlled Experiments
University of Tsukuba（筑波大学）
针对在线实验分层抽样中方差缩减效果依赖分层构建的问题，提出基于最优多路决策树的OMST方法，通过路径选择与精确方差最小化优化分层，实现更优或相当的方差缩减且保持可解释性。
2026-09-22 cs.LG stat.CO
MSTGD:A Memory Stochastic sTratified Gradient Descent Method with an Exponential Convergence Rate
Guangdong University of Finance and Economics（广东财经大学）；National University of Singapore（新加坡国立大学）
针对当前主流梯度优化算法忽略或混淆了参数更新引起的梯度期望和方差的波动效应，结合分层抽样策略，设计了一种新的具有指数收敛速度的\underline{M}记忆\underline{T}随机修正梯度分解（\underline{MST} GD）算法.具体而言，MSTGD采用两种策略进行方差缩减：第一种策略是根据使用的历史梯度的比例p进行方差缩减，该比例p由迭代前后样本梯度的均值和方差估计得到;第二种策略是按类别分层抽样。在这两种策略下设计的统计量$\bar{G}_{mst}$可以自适应无偏，其方差以几何速率衰减。这使得基于$\bar{G}_{mst}$的MSTGD能够获得$λ^{2(k-k_0)}$形式的指数收敛速率（$λ\in (0,1)$，k是迭代步数，$λ$是与比例p相关的变量）。与声称实现指数收敛速率的大多数其他算法不同，收敛速率与诸如数据集大小N、批量大小n等参数无关，理论和实验结果表明了MSTGD的有效性
2022-02-21 cs.LG stat.ML
Adaptive Machine Learning-Driven Multi-Fidelity Stratified Sampling for Failure Analysis of Nonlinear Stochastic Systems
Department of Civil and Environmental Engineering, University of Michigan, Ann Arbor, MI 48109, USA（土木与环境工程系，密歇根大学，安阿伯，MI 48109，USA）
针对非线性随机系统小失效概率估算计算成本高的问题，提出结合自适应深度学习元模型的多保真度分层采样方案，在保证精度的同时显著降低计算量。
2025-08-01 cs.AI cs.LG
Stochastic Emulation using Generalized Stratified Sampling for Performance-Based Risk Optimization of Structures
University of São Paulo（圣保罗大学）；University of Michigan（密歇根大学）；Federal University of Paraná（巴拉那联邦大学）
本研究提出结合广义分层抽样（GSS）与随机多项式混沌展开（SPCE）的框架，用于结构性能导向风险优化，可准确估算结构响应分布尾部并减少非线性模型评估次数。
2026-08-06 cs.LG stat.CO stat.ML
A Gradient Sampling Algorithm for Stratified Maps with Applications to Topological Data Analysis
Oxford University（牛津大学）；Université Côte d’Azur（蔚蓝海岸大学）；Inria（法国国家信息与自动化研究所）；Université Gustave Eiffel（古斯塔夫·埃菲尔大学）；Université Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）
我们引入了一种新的梯度下降算法，扩展了著名的梯度采样方法的分层光滑的目标函数，这被定义为局部Lipschitz函数，是光滑的一些定期片-所谓的层-周围的欧几里德空间的类。对于这类函数，我们的算法实现了次线性收敛速度。然后，我们将我们的方法应用于目标函数的基础上（扩展）持久的同源映射计算低星过滤器，这是一个核心工具的拓扑数据分析。为此，我们提出了一个有效的探索相应的分层使用的Cayley图的置换群。最后，我们提供了基准和新的拓扑优化问题，以证明我们的框架的实用性和适用性。
2021-09-03 cs.CG cs.LG math.AT
Stratified Experience Replay: Correcting Multiplicity Bias in Off-Policy Reinforcement Learning
Northeastern University（东北大学）；Harvard University（哈佛大学）
深度强化学习（RL）方法依赖于经验重放来近似小批量监督学习设置;然而，与监督学习不同，访问大量训练数据对泛化至关重要，基于重放的深度RL似乎在存在无关数据的情况下很难实现。最近的研究表明，当重放内存变得太大时，深度Q网络（DQN）的性能会下降。这表明过时的经验在某种程度上影响了深度RL的性能，而这不应该是像DQN这样的非策略方法的情况。因此，我们重新检查的动机，均匀采样的重放内存，并发现它可能是有缺陷的，当使用函数近似。我们表明，尽管传统的智慧-从均匀分布采样不会产生不相关的训练样本，因此在训练过程中的偏见梯度。我们的理论规定了一个特殊的非均匀分布，以消除这种影响，我们提出了一个分层抽样方案，有效地实现它。
2021-02-22 cs.AI cs.LG
Towards Efficient Disaster Response via Cost-effective Unbiased Class Rate Estimation through Neyman Allocation Stratified Sampling Active Learning
School of Statistics, Renmin University of China（中国人民大学统计学院）；International Research Institute of Disaster Science, Tohoku University（东北大学灾害科学国际研究所）
本文提出基于Neyman分层抽样的主动学习算法，以30%-60%的标注成本实现无偏类别率估计，提升灾害评估效率，解决抽样偏差与冷启动问题。
2024-05-28 cs.LG stat.AP
Variance-Reduced Heterogeneous Federated Learning via Stratified Client Selection
在联邦学习的研究中，用户选择策略被广泛用于解决交流效率问题。然而，由于所选择的子集的更新的大的方差，先验选择方法与有限的采样率不能在异构FL的收敛性和准确性。为了解决这个问题，在本文中，我们提出了一种新的分层客户端选择方案，以减少追求更好的收敛性和更高的精度的方差。具体来说，为了减轻异质性的影响，我们开发了基于客户的本地数据分布的分层，以获得近似的同质层，以便在每个层中进行更好的选择。集中在一个有限的抽样率的情况下，我们接下来提出了一个优化的样本量分配方案，考虑到阶层的变异性的多样性，与进一步减少方差的承诺。在理论上，我们阐述了不同的选择方案之间的显式关系的方差，在异构设置下，我们证明了我们的选择方案的有效性。实验结果证实，我们的方法不仅允许更好的性能相对于国家的最先进的方法，但也与流行的FL算法兼容。
2022-04-27 cs.DC cs.LG
Optimal Survey Design for Private Mean Estimation
Purdue University（普渡大学）
本研究在差分隐私框架下，针对多种隐私机制提出首个隐私感知分层抽样方案，将最优调查设计转化为优化问题，证明方差目标强凸性并给出高效求解算法，可最小化隐私均值估计的方差。
2025-01-30 cs.CR cs.LG math.ST
Optimizing FPGA and Wafer Test Coverage with Spatial Sampling and Machine Learning
Interdisciplinary Faculty of Science and Engineering（科学与工程跨学科学院）
本文提出短距离消除（SDE）算法，结合分层采样和k-means采样形成S-SDE与K-SDE策略，在晶圆和FPGA测试数据预测中显著降低RMSD并提升精度。
2025-06-04 cs.LG
A Novel Stochastic Stratified Average Gradient Method: Convergence Rate and Its Complexity
Guangdong University of Finance & Economics（广东财经大学）；Wayne State University（韦恩州立大学）
SGD（随机梯度下降）算法是求解大规模优化问题的一种常用算法。然而，由于SGD算法固有的梯度方差，SGD算法不能像FGD（Full梯度下降）算法那样获得线性收敛速度。为了解决这一问题，提出了小批量SGD算法，以在收敛速度和迭代代价方面取得折衷。本文给出了一个广义的CVI（Convergence-Variance Inequality）方程，形式化地描述了收敛速度与梯度方差的相互作用。然后引入了一种新的算法SSAG（随机分层平均梯度）来减少梯度方差，该算法基于分层采样和迭代平均两种技术，这是SAG（随机平均梯度）的关键思想。此外，SSAG算法能以较小的存储和迭代代价获得$\mathcal {O}((1-\fracμ{8CL})^k)$的线性收敛速度，其中$C\geq 2$为训练数据的类别数.这种收敛速度主要取决于类之间的方差，而不是类内的方差。在$C\ll N$（$N$是训练数据大小）的情况下，SSAG的收敛速度远远优于SAG的$\mathcal {O}((1-\fracμ{8NL})^k)$的收敛速度。实验结果表明，SSAG算法的性能优于SAG算法和许多其他算法。
2017-12-03 cs.AI cs.LG stat.ML
