Optimized Tradeoffs for Private Prediction with Majority Ensembling
Carnegie Mellon University(卡内基梅隆大学);Google DeepMind(谷歌DeepMind)
针对私有预测中多数集成的隐私-效用权衡问题,提出数据依赖随机响应多数(DaRRM)算法,通过数据依赖噪声函数γ优化效用,证明其在固定效用下隐私增益达基线2倍,且实证中展现显著效用提升。
2024-11-27 cs.CR cs.LG
Ensembling Portfolio Strategies for Long-Term Investments: A Distribution-Free Preference Framework for Decision-Making and Algorithms
Scuola Normale Superiore(高等师范学院);Scuola Superiore Sant’Anna(圣安娜高等学校)
本文提出一种无分布偏好的组合策略集成框架,可在不依赖统计假设的情况下组合任意数量策略,实验表明其长期累计财富超越最佳单一策略,且加速变体性能更优。
2025-02-06 cs.IT cs.LG math.IT
Model-free and Bayesian Ensembling Model-based Deep Reinforcement Learning for Particle Accelerator Control Demonstrated on the FERMI FEL
Paris Lodron University(巴黎洛德伦大学);CERN(欧洲核子研究组织)
强化学习在加速器控制方面有着巨大的前景。本文的主要目标是展示如何利用这种方法在操作层面上的加速器物理问题。尽管无模型强化学习在多个领域取得了成功,但样本效率仍然是一个瓶颈,这可能会被基于模型的方法所涵盖。我们比较适合纯粹的基于模型的无模型强化学习应用于FERMI自由电子激光系统的强度优化。我们发现,基于模型的方法表现出更高的代表性的权力和样本效率,而无模型的方法的渐近性能略优。基于模型的算法使用不确定性感知模型以DYNA风格实现,而无模型算法基于定制的深度Q学习。在这两种情况下,算法的实现方式,这提出了增加的噪声鲁棒性,无处不在的加速器控制问题。代码发布在https://github.com/MathPhysSim/FERMI_RL_Paper。
2022-01-26 cs.AI cs.LG cs.SY
Do Ensembling and Meta-Learning Improve Outlier Detection in Randomized Controlled Trials?
Centre for Data Science and Digital Health, Hamilton Health Sciences(汉密尔顿健康科学中心数据科学与数字健康中心);Department of Statistical Sciences, University of Toronto(多伦多大学统计科学系);Institute for Health Policy, Management and Evaluation, University of Toronto(多伦多大学卫生政策、管理与评估研究所);Department of Medicine, McMaster University(麦克马斯特大学医学系);Population Health Research Institute(人口健康研究所)
该研究针对多中心随机对照试验的异常数据识别任务,评估6种无监督异常检测算法,提出元学习概率集成MePE,发现小型集成平均性能优于各类元学习方法,为相关领域应用提供参考。
2023-11-09 cs.LG
Empowering Bayesian Neural Networks with Functional Priors through Anchored Ensembling for Mechanics Surrogate Modeling Applications
University of Southern California(南加州大学)
本文提出基于锚定集成的贝叶斯神经网络训练方案,利用函数空间先验和权重低秩相关性整合先验知识,并在力学材料代理建模中验证了其精度与不确定性估计能力。
2024-09-08 cs.LG stat.ML
Personalized Online Machine Learning
University of California, Berkeley(加利福尼亚大学伯克利分校);University of California San Francisco(加利福尼亚大学旧金山分校);Université de Paris(巴黎大学);MAP5 (UMR CNRS 8145)(MAP5(法国国家科学研究中心联合研究单位8145))
在这项工作中,我们介绍了个性化的在线超级学习者(POSL)-在线集成算法的流数据的优化过程,可适应不同程度的个性化。也就是说,POSL优化了关于基线协变量的预测,因此个性化可以从完全个性化(即,关于基线协变量受试者ID的优化)到许多个体(即,关于共同基线协变量的优化)。作为在线算法,POSL是实时学习的。POSL可以利用多种候选算法,包括具有不同训练和更新时间的在线算法,在程序期间从不更新的固定算法,从许多个体的时间序列中学习的池化算法,以及从单个时间序列中学习的个性化算法。POSL的这种混合的基础学习策略的集合取决于收集的数据量,时间序列的平稳性,以及一组时间序列的相互特征。从本质上讲,POSL根据数据中的底层(未知)结构决定是否跨样本学习,通过时间学习,或者两者兼而有之。对于反映现实预测场景的各种模拟,以及在医疗数据应用中,我们研究了POSL相对于其他当前集成和在线学习方法的性能。我们表明,POSL是能够提供可靠的预测时间序列数据,并调整不断变化的数据生成环境。我们进一步培养POSL的实用性,通过将其扩展到时间序列在时间顺序上动态进入/退出的设置。
2021-09-21 cs.LG stat.ML
Cross-Cluster Weighted Forests
Harvard T.H. Chan School of Public Health(哈佛T.H. 柏林公共卫生学院);Dana-Farber Cancer Institute(达纳-法伯癌症研究所)
研究针对生物应用数据异质性问题,提出跨簇加权森林(CCWF)方法,通过无监督聚类、在各簇拟合随机森林并加权组合,理论分析表明其更准确,模拟和实际数据验证其性能比经典随机森林高30%-40%。
2026-07-17 cs.LG stat.ML
A Deep Neural Networks ensemble workflow from hyperparameter search to inference leveraging GPU clusters
TotalEnergies SE(道达尔能源公司);Univ. Lille(里尔大学);CNRS(法国国家科学研究中心)
带有集成的自动机器学习(或带有集成的AutoML)旨在自动构建深度神经网络(DNN)的集成,以实现定性预测。DNN的包围是众所周知的,以避免过度拟合,但他们是内存和时间消耗的方法。因此,理想的AutoML将在一个单一的运行时间中产生关于准确性和推理速度的不同集合。虽然以前的AutoML工作专注于搜索最佳模型以最大限度地提高其泛化能力,但我们提出了一种新的AutoML来构建更大的准确和多样化的个体模型库,然后构建集成。首先,我们广泛的基准测试表明,异步Hyperband是构建大量不同模型以组合它们的有效且健壮的方法。在此基础上,提出了一种基于多目标贪心算法的集成选择方法,通过控制计算代价来生成准确的集成。最后,我们提出了一种新的算法来优化的DNN集成在GPU集群的基础上分配优化的推理。所产生的AutoML与集成方法在训练阶段和推理阶段都使用高效的GPU集群在两个数据集上显示出稳健的结果。
2022-08-30 cs.DC cs.LG
Document Image Classification with Intra-Domain Transfer Learning and Stacked Generalization of Deep Convolutional Neural Networks
Valeo India Pvt. Ltd.(法雷奥印度私人有限公司);University of Bonn(波恩大学);Indian Statistical Institute(印度统计研究所)
在这项工作中,提出了一个基于区域的深度卷积神经网络框架,用于文档结构学习。这项工作的贡献包括有效的训练区域为基础的分类器和有效的集成文件图像分类。通过从ImageNet数据集上的预训练VGG 16架构导出权重来使用初级的“域间”迁移学习,以在整个文档图像上训练文档分类器。利用基于区域的影响建模的性质,二级“域内”迁移学习用于图像片段的深度学习模型的快速训练。最后,利用基于堆叠泛化的集成来组合基础深度神经网络模型的预测。该方法在流行的RVL-CDIP文档图像数据集上实现了92.2%的最新准确率,超过了现有算法的基准。
2018-08-30 cs.CV cs.LG
Twin Neural Network Regression is a Semi-Supervised Regression Algorithm
Perimeter Institute for Theoretical Physics(圆周理论物理研究所);University of Waterloo(滑铁卢大学);National Research Council of Canada(加拿大国家研究委员会);Vector Institute for Artificial Intelligence(向量人工智能研究所)
孪生神经网络回归(TNNR)是一种半监督回归算法,只要存在其他标记的锚数据点,它就可以在未标记的数据点上训练。TNNR被训练来预测两个不同数据点的目标值之间的差异,而不是目标本身。通过综合看不见的数据点的目标与所有训练数据点的目标之间的预测差异,可以获得对原始回归问题的非常准确的预测。由于预测差的任何循环的总和应该为零,因此循环可以被提供给训练数据,即使循环内的数据点本身是未标记的。半监督训练显著提高了TNNR的性能,这已经是最先进的了。
2021-06-11 cs.LG
Voting based ensemble improves robustness of defensive models
Department of Computer Science, University of Texas at Austin(德克萨斯大学奥斯汀分校计算机科学系)
发展对抗性扰动的鲁棒模型一直是一个活跃的研究领域,并且已经提出了许多算法来训练个体鲁棒模型。利用这些预训练的鲁棒模型,我们的目标是研究是否有可能创建一个集成来进一步提高鲁棒性。以前的几次尝试通过集成软标签预测来解决这个问题,并且根据最新的攻击方法已经证明是脆弱的。在本文中,我们证明了如果鲁棒训练损失足够多样化,则简单的基于硬标签的投票集成可以提高每个模型的鲁棒误差。此外,给定一个健壮的模型池,我们开发了一种原则性的方法来选择要集成的模型。最后,为了验证改进的鲁棒性,我们进行了大量的实验,研究如何攻击基于投票的集成和开发几个新的白盒攻击。在CIFAR-10数据集上,通过集成几个最先进的预训练防御模型,我们的方法可以实现59.8%的鲁棒准确率,优于所有现有的防御模型,而无需使用额外的数据。
2020-11-28 cs.CR cs.CV cs.LG
Scalable computation of prediction intervals for neural networks via matrix sketching
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院)
解释现代神经网络预测中的不确定性在许多领域都是一项具有挑战性的重要任务。用于不确定性估计的现有算法需要修改模型架构和训练过程(例如,贝叶斯神经网络)或显著增加预测的计算成本,例如基于集成的方法。这项工作提出了一种新的算法,可以应用于一个给定的训练神经网络,并产生近似的预测区间。该方法基于统计学中经典的delta方法,但通过使用矩阵草图来近似雅可比矩阵,从而提高了计算效率。由此产生的算法是有竞争力的国家的最先进的方法,从UCI存储库的各种回归数据集上构建预测区间。
2022-05-06 cs.LG stat.ML
A Trust Crisis In Simulation-Based Inference? Your Posterior Approximations Can Be Unfaithful
University of Liège(列日大学);University of Vienna(维也纳大学)
我们提出了广泛的经验证据表明,目前的贝叶斯模拟为基础的推理算法可以产生计算不忠实的后验近似。我们的研究结果表明,所有基准算法-(顺序)神经后验估计,(顺序)神经比率估计,顺序神经似然估计和近似贝叶斯计算的变体-都可能产生过度自信的后验近似,这使得它们对于科学用例和证伪主义者的调查不可靠。不解决这个问题可能会减少基于模拟的推理的适用范围。出于这个原因,我们认为,研究工作应该对保守的近似推理算法的理论和方法的发展,目前的研究方向朝着这个目标。在这方面,我们展示了经验证据,即集成后代理提供了更可靠的近似值,并缓解了这个问题。
2022-12-04 cs.LG stat.ML
Balancing Value Underestimation and Overestimation with Realistic Actor-Critic
Harbin Engineering University(哈尔滨工程大学)
无模型深度强化学习(RL)已成功应用于具有挑战性的连续控制领域。然而,差的样本效率阻碍了这些方法在现实世界领域中的广泛应用。本文介绍了一种新的无模型算法,现实演员-评论家(RAC),它可以与任何非政策RL算法,以提高样本效率。RAC采用通用价值函数逼近器(UVFA)来同时学习具有相同神经网络的策略族,每个策略族在低估和高估之间具有不同的权衡。为了学习此类政策,我们引入了不确定性惩罚Q学习,它利用多个批评者集合的不确定性来建立Q函数的各种置信区间。我们在MuJoCo基准上评估RAC,与SAC相比,在最具挑战性的Humanoid环境中实现了10倍样本效率和25%的性能改进。
2022-10-26 cs.LG
Twin Neural Network Improved k-Nearest Neighbor Regression
Homes Plus Magazine Inc.(霍姆斯普拉斯杂志公司)
本研究提出基于双神经网络的改进k近邻回归算法,通过预测目标差值并集成近邻锚点的预测结果求解回归问题,在中小型数据集上表现优于神经网络与传统k近邻回归。
2023-10-01 cs.LG
Hyperparameter optimization with REINFORCE and Transformers
Walmart Global Tech India(沃尔玛全球技术印度)
强化学习已经为神经结构搜索(NAS)带来了有希望的结果。在本文中,我们演示了如何通过使用简化的Transformer块来建模策略网络来提高其性能。简化的Transformer使用基于注意力的2流机制来建模超参数依赖关系,同时避免层归一化和位置编码。我们认为这种简约的设计平衡了模型的复杂性和表现力,使其适合在有限的探索预算下在高维搜索空间中发现最佳架构。我们演示了如何通过以下方式进一步提高算法的性能:a)使用演员-评论家风格的算法,而不是普通的香草策略梯度; b)将具有共享参数的Transformer块集成在一起,每个块以不同的自回归因子分解顺序为条件。我们的算法作为NAS和通用超参数优化(HPO)算法都工作得很好:它在NAS-Bench-101上的性能优于大多数算法,NAS-Bench-101是一个用于基准NAS算法的公共数据集。特别是,它优于基于RL的方法,使用替代架构来建模策略网络,强调了在这种设置中使用基于注意力的网络的价值。作为一种通用的HPO算法,它在发现跨2个回归任务的更准确的多层感知器模型架构方面优于随机搜索。在设计实验和报告结果时,我们遵守Lindauer和Hutter中列出的指导方针。
2020-11-05 cs.LG cs.NE stat.ML
Stochastic Deconvolutional Neural Network Ensemble Training on Generative Pseudo-Adversarial Networks
PVH Corp.(PVH集团)
生成对抗网络的训练是一项艰巨的任务,主要是由于网络的性质。一个这样的问题是当发电机和振荡器开始振荡,而不是收敛到一个固定点。另一种情况可能是当一个代理变得比另一个更熟练时,这导致另一个代理的学习能力下降,从而降低了整个系统的学习能力。此外,存在模式崩溃的问题,其涉及生成器输出崩溃为单个样本或一小组类似样本。为了训练GANs,需要仔细选择与各种其他方法一起使用的体系结构来改进训练。即使在应用这些方法时,与所选择的参数相关的训练的稳定性也很低。提出了随机集成作为训练GANs时提高稳定性的方法。
2018-02-07 cs.CV cs.LG stat.ML
Semi-Supervised Learning for Text Classification by Layer Partitioning
Alexa AI, Amazon(亚马逊Alexa人工智能部门)
最近的神经半监督学习算法依赖于对输入向量或其表示添加小扰动。这些方法在计算机视觉任务中是成功的,因为图像形成连续的流形,但不适合离散输入,如句子。为了适应这些方法的文本输入,我们提出了一个神经网络$M$分解成两个组件$F$和$U$,使$M = U\circ F$。然后冻结$F$中的层,并且在训练的大部分时间内仅更新$U$中的层。通过这种方式,$F$充当特征提取器,将输入映射到高级表示,并使用dropout添加系统噪声。然后,我们可以使用任何最先进的SSL算法(如$Π$ -model、temporal ensembling、mean teacher等)来训练$U$。此外,这种逐渐解冻的时间表还可以防止预训练模型发生灾难性遗忘。实验结果表明,我们的方法相比,最先进的方法,特别是在短文本提供了改进。
2019-11-26 cs.CL cs.LG stat.ML
Nonstationary data stream classification with online active learning and siamese neural networks
KIOS Research and Innovation Center of Excellence(KIOS卓越研究与创新中心);University of Cyprus(塞浦路斯大学)
近年来,我们目睹了越来越多的信息在各种应用领域中以流的方式变得可用。因此,出现了对在线学习方法的需求,该在线学习方法在运行中训练预测模型。然而,一系列公开的挑战阻碍了它们在实践中的部署。这些是,在数据逐个实时到达时学习,从具有有限地面真实信息的数据中学习,从非平稳数据中学习,以及从严重不平衡的数据中学习,同时占用有限的内存用于数据存储。我们提出了ActiSiamese算法,它通过结合在线主动学习,siamese网络和多队列存储器来解决这些挑战。它开发了一种新的基于密度的主动学习策略,该策略考虑潜在(而不是输入)空间中的相似性。我们进行了广泛的研究,比较了不同的主动学习预算和策略的作用,有/没有记忆的性能,有/没有集成的性能,在合成和真实世界的数据集,在不同的数据非平稳特性和类不平衡水平。ActiSiamese优于基线和最先进的算法,并且在严重不平衡的情况下有效,即使只有一小部分到达实例的标签可用。我们向社区公开发布我们的代码。
2022-10-03 cs.LG
Symmetry Induces Structure and Constraint of Learning
MIT(麻省理工学院);NTT Research(NTT研究院)
本研究揭示了损失函数对称性对机器学习模型学习行为的影响,证明了镜面反射对称性会诱导模型参数约束,并利用该理论框架解释了稀疏性、低秩性、可塑性丧失等现象,提出了一种利用对称性以可微方式执行硬约束的算法。
2024-06-01 cs.LG stat.ML
Sparse Mutation Decompositions: Fine Tuning Deep Neural Networks with Subspace Evolution
Colorado State University(科罗拉多州立大学)
神经进化是将进化算法与神经网络相结合的一个很有前途的研究领域。神经进化方法的一个流行的子类,称为演化策略,依赖于密集的噪声扰动来变异网络,这对于具有数百万参数的大型模型来说可能是采样效率低下和具有挑战性的。我们介绍了一种方法来缓解这个问题,通过分解密集突变到低维子空间。以这种方式限制突变可以显着减少方差,因为网络可以在保持性能的同时处理更强的扰动,这使得深度网络的进化更加可控和有针对性。这种方法对于微调预训练模型的任务非常有效,随着网络规模的不断扩大和开源模型的越来越广泛,这是一个越来越有价值的研究领域。此外,我们还展示了这项工作如何自然地与集成学习联系在一起,其中稀疏突变鼓励儿童之间的多样性,这样他们的组合预测就可以可靠地提高性能。我们对神经进化的微调和集成进行了首次大规模探索,在众所周知的困难ImageNet数据集上,我们看到了小的泛化改进,只有一个单一的进化代,使用了近十几个不同的深度神经网络架构。
2023-02-12 cs.LG cs.NE