Non-exponentially weighted aggregation: regret bounds for unbounded loss functions
RIKEN AIP(理化学研究所革新智能综合研究中心)
我们处理的问题,在线优化与一般的,可能是无界的,损失函数。众所周知,当损失有界时,指数加权聚集策略(EWA)会导致$T$步后的$\sqrt{T}$出现后悔.在本文中,我们研究了一个广义聚集策略,其中的权重不再指数依赖于损失。我们的策略是基于跟随正规化领导者(FTRL):我们最小化预期损失加上一个正规化,这是一个$ϕ$ -分歧。当正则化子为库尔贝克-莱布勒散度时,我们得到了EWA的一个特例.使用替代分歧可以实现无限的损失,在某些情况下,以最坏的遗憾界限为代价。
2021-06-17 cs.LG stat.ML
Optimal Binary Classifier Aggregation for General Losses
University of California, San Diego(加州大学圣地亚哥分校)
我们解决了在半监督二进制分类设置中聚集具有已知损失界限的预测器集合的问题,以最小化未标记数据上发生的预测损失。我们找到了一个非常一般的一类损失函数,包括所有凸和许多非凸损失的最小最大最优预测,扩展了最近的分析问题的误分类错误。其结果是一个家庭的半监督集成聚合算法是有效的线性学习凸优化,但极小极大最优没有任何松弛。他们的决策规则采用决策理论中熟悉的形式-将sigmoid函数应用于集成裕度的概念-而没有基于裕度的学习中通常所做的假设。
2016-11-07 cs.LG stat.ML
From Inexact Gradients to Byzantine Robustness: Acceleration and Optimization under Similarity
Centre de Mathématiques Appliquées, École polytechnique, Institut Polytechnique de Paris, Palaiseau France(应用数学中心、巴黎高等理工学院、巴黎理工研究所,Palaiseau法国);Centre Inria de l'Univ. Grenoble Alpes, CNRS, LJK, Grenoble, France(格勒诺布尔阿尔卑斯大学Inria中心、法国国家科学研究中心、LJK,格勒诺布尔法国)
本文提出通过不精确梯度 oracle 将拜占庭鲁棒分布式优化问题转化为一般优化问题,并提出两种加速方案以提升收敛速度。
2026-02-03 cs.LG math.OC
Hybrid-MST: A Hybrid Active Sampling Strategy for Pairwise Preference Aggregation
University of Nantes(南特大学);University of Cambridge(剑桥大学);Tencent Games(腾讯游戏)
在本文中,我们提出了一种混合主动抽样策略的成对偏好聚合,其目的是恢复潜在的评级的测试候选人从稀疏和嘈杂的成对标签。该方法采用贝叶斯优化框架和Bradley-Terry模型来构造效用函数,进而求出每一对的期望信息增益。为了提高计算效率,采用高斯-厄米求积法估计EIG。在这项工作中,提出了一种混合主动采样策略,无论是使用全球最大(GM)EIG采样或最小生成树(MST)采样,在每次试验中,这是由测试预算。所提出的方法已在模拟和真实世界的数据集上得到验证,其中它显示出比最先进的方法更高的偏好聚合能力。
2018-10-20 cs.LG stat.ML
Vertical Federated Learning over Cloud-RAN: Convergence Analysis and System Optimization
ShanghaiTech University(上海科技大学);Tsinghua University(清华大学);Shanghai Jiao Tong University(上海交通大学)
本文提出基于云无线接入网的纵向联邦学习系统,利用空中计算和协作聚合解决通信瓶颈,通过收敛性分析与联合优化收发器和前传量化提升学习性能。
2023-05-04 cs.IT cs.LG eess.SP
Learning-To-Ensemble by Contextual Rank Aggregation in E-Commerce
Alibaba Group(阿里巴巴集团)
电子商业中的包围模型结合了来自多个子模型的预测,以提高排名和收入。工业集成模型通常是深度神经网络,遵循监督学习范式来推断来自子模型的给定输入的转化率。然而,该过程具有以下两个问题。首先,逐点评分方法忽略了项目之间的关系并导致同质的显示结果,而多样化的显示有益于用户体验和收入。其次,学习范式关注排名指标,并不直接优化收入。在我们的工作中,我们提出了一个新的学习到Ensemble(LTE)框架RAEGO,它取代了集成模型与上下文的排名聚合器(RA),并探讨了最佳权重的子模型的评估器生成器优化(EGO)。为了实现最佳的在线性能,我们提出了一个新的排名聚合算法TournamentGreedy作为一个改进的经典排名聚合器,这也产生了最好的平均加权肯德尔Tau距离(KTD)之间的所有考虑的算法与二次时间复杂度。在假设最佳输出列表在子模型的KTD度量上是Pareto最优的情况下,我们证明了RA算法在探索最优权值方面具有更高的效率和覆盖率。结合贝叶斯优化和梯度下降的思想,我们解决了在线上下文黑盒优化任务,找到最佳的权重,为子模型给定一个选定的RA模型。RA-EGO已部署在我们的在线系统中,并显着提高了收入。
2023-02-02 cs.AI cs.LG
CSIT-Free Model Aggregation for Federated Edge Learning via Reconfigurable Intelligent Surface
The Chinese University of Hong Kong(香港中文大学);the University of Electronic Science and Technology of China(电子科技大学)
针对FEEL系统中CSIT不可用的空中模型聚合问题,提出利用RIS对齐级联信道并联合优化RIS与接收机,以凸差分算法求解非凸问题,达到接近基于CSIT方案的精度。
2021-07-25 cs.IT cs.LG cs.NI
Graph Probability Aggregation Clustering
School of Automation Science and Engineering, Xi’an Jiaotong University(西安交通大学自动化科学与工程学院);China Mobile Xiong’an Information and Communication Technology Co., Ltd.(中国移动雄安信息通信技术有限公司);China Mobile Information System Integration Co., Ltd.(中国移动信息系统集成有限公司)
提出图概率聚合聚类(GPAC),统一全局与局部聚类目标,通过多约束优化和硬分配加速,实现高效且性能优越的模糊聚类。
2025-02-27 cs.CV cs.LG
Rapid mixing of a Markov chain for an exponentially weighted aggregation estimator
Metropolis-Hastings方法常用于构造以给定的$π$作为平稳分布的马尔可夫链。即使$π$只知道一个难处理的比例比例常数,该方法也有效。这种链的多项式时间收敛结果(快速混合)对于其中状态空间的大小潜在地随模型维度呈指数增长的高维概率模型是难以获得的。在贝叶斯背景下,Yang,Wainwright和Jordan(2016)(=YWJ)使用路径方法证明了高维线性模型的快速混合。本文提出了一种改进的YWJ方法,简化了理论论证,提高了收敛速率。新的方法说明了一个应用程序的指数加权聚集估计。
2019-09-25 math.ST stat.CO stat.TH
Equilibrium Aggregation: Encoding Sets via Optimization
DeepMind(深度思维);CHARM Therapeutics(CHARM 治疗公司)
处理神经网络中的集合或其他无序的、潜在可变大小的输入通常通过将多个输入张量聚合成单个表示来处理。虽然已经存在一些聚合方法,从简单的总和池到多头注意力,但从理论和经验角度来看,它们的代表性都很有限。在寻找一个更强大的聚合策略时,我们提出了一种基于优化的方法,称为均衡聚合。我们发现,许多现有的聚合方法可以恢复为特殊情况下的均衡聚合,它是证明更有效的在一些重要的情况下。平衡聚合可以在许多现有的架构和应用程序中用作直接替代。我们验证了它的效率在三个不同的任务:中位数估计,类计数,和分子性质预测。在所有实验中,均衡聚合比我们测试的其他聚合技术实现了更高的性能。
2022-07-03 cs.AI cs.LG stat.ML
Policy-GNN: Aggregation Optimization for Graph Neural Networks
Texas A&M University(德州农工大学)
图数据在许多现实世界的应用中是普遍存在的。近年来,图神经网络(graph neural networks,GNNs)越来越受到人们的关注。GNNs的目标是通过利用可堆叠的网络模块聚集来自邻居的信息来建模局部图结构并捕获层次模式。由于观察到不同的节点通常需要不同的聚合迭代才能完全捕获结构信息,因此在本文中,我们建议对不同节点的聚合迭代进行显式采样,以提高GNN的性能。这是一个具有挑战性的任务,制定一个有效的聚合策略,为每个节点,给定的复杂的图形和稀疏的功能。此外,由于我们需要将采样节点馈送到不同数量的网络层中,因此推导出有效的算法并不简单。为了解决上述挑战,我们提出了Policy-GNN,这是一个元策略框架,它将GNN的采样过程和消息传递建模为组合学习过程。具体来说,Policy-GNN使用元策略来自适应地确定每个节点的聚合数量。通过利用来自模型的反馈,使用深度强化学习(RL)来训练元策略。我们进一步引入参数共享和缓冲机制来提高训练效率。在三个真实世界基准数据集上的实验结果表明,Policy-GNN显著优于最先进的替代方案,显示了GNN聚合优化的前景。
2020-06-26 cs.LG stat.ML
Consensual Aggregation on Random Projected High-dimensional Features for Regression
Sorbonne Université Pierre et Marie Curie (Paris 6)(索邦大学皮埃尔和玛丽·居里大学(巴黎第六大学))
在本文中,我们提出了一个基于核的共识聚集随机投影的高维特征的回归预测的研究。该聚集方案由两个步骤组成:第一步,使用Johnson-Lindenstrauss引理将大量回归估计量给出的预测的高维特征随机投影到较小的子空间中,第二步,在投影特征上实现基于核的一致聚集。我们从理论上表明,聚合方案的性能接近的性能上实现的原始高维特征的聚合,具有很高的概率。此外,我们数值说明,聚合方案坚持其性能非常大,高度相关的功能,由不同类型的机器的预测。聚合方案使我们能够灵活地合并大量的冗余机器,简单地构建没有模型选择或交叉验证。所提出的方法的效率说明通过几个实验评估不同类型的合成和真实的数据集。
2022-04-06 cs.LG stat.ML
FedAWA: Adaptive Optimization of Aggregation Weights in Federated Learning Using Client Vectors
Jilin University(吉林大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织Data61);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对联邦学习中数据异构性导致的聚合权重分配不合理问题,提出基于客户端向量自适应调整聚合权重的FedAWA方法,在保护隐私的同时提升了全局模型的稳定性与泛化能力,经多场景实验验证了其优越性。
2025-03-20 cs.LG
A Unified Framework for Gradient Aggregation in Multi-Objective Optimization
Cheriton School of Computer Science(切尔顿计算机科学学院);University of Waterloo(滑铁卢大学);Vector Institute(向量研究所);The Chinese University of Hong Kong(香港中文大学)
提出一个统一框架,通过充分对齐条件建立梯度聚合方法的收敛率,并引入基于CVaR的capped MGDA算法,在对抗联邦学习中验证鲁棒性。
2026-05-28 cs.AI cs.LG math.OC
Efficiency Boost in Decentralized Optimization: Reimagining Neighborhood Aggregation with Minimal Overhead
Arizona State University(亚利桑那州立大学);TCS Research(TCS研究);Indian Institute of Technology, Bombay(印度班加罗尔理工学院)
本文提出DYNAWEIGHT框架,通过根据相邻服务器本地损失动态分配聚合权重,以极小的通信和内存开销显著加速去中心化学习,并可与任意服务器级优化算法兼容。
2025-09-26 cs.AI cs.LG
Adaptive Consensus Gradients Aggregation for Scaled Distributed Training
Huawei Tel Aviv Research Center(华为特拉维夫研究中心)
本文提出一种基于子空间优化的自适应梯度加权聚合方法,并引入子空间动量加速收敛,在MLPerf任务上优于传统梯度平均,且通信和计算开销低。
2024-11-06 cs.AI cs.DC cs.LG
Federated Transfer Learning with Dynamic Gradient Aggregation
Microsoft(微软)
介绍了一个联邦学习(FL)仿真平台。目标场景是基于该平台的声学模型训练。据我们所知,这是第一次尝试应用FL技术的语音识别任务,由于固有的复杂性。该平台采用模块化设计,能够支持不同的任务。作为该平台的一部分,提出了一种新的分层优化方案和两种梯度聚合方法,与其他分布式或FL训练算法(如BMUF和FedAvg)相比,训练收敛速度几乎提高了一个数量级。除了增强的收敛速度之外,分层优化还在训练管道中提供了额外的灵活性。在分层优化的基础上,提出了一种基于数据驱动权值推理的动态梯度聚集算法。该聚合算法充当梯度质量的正则化器。最后,为FL量身定制的无监督训练管道作为一个单独的训练场景。所提出的系统的实验验证是基于两个任务:第一,LibriSpeech任务显示出7倍的速度和6%的字出错率减少(WERR)相比,基线结果。第二个任务是基于会话自适应,提供了20%的WERR比有竞争力的生产就绪LAS模型的改进。所提出的联邦学习系统在收敛速度和整体模型性能方面都优于分布式训练的黄金标准。
2020-08-06 cs.DC cs.LG stat.ML
FedSCAM (Federated Sharpness-Aware Minimization with Clustered Aggregation and Modulation): Scam-resistant SAM for Robust Federated Optimization in Heterogeneous Environments
Department of Computer Science, Lahore University of Management Sciences, Lahore, Pakistan(计算机科学系,拉合尔管理科学大学,拉合尔,巴基斯坦)
FedSCAM通过动态调整扰动半径和聚合权重,提升联邦优化在异构环境中的鲁棒性和收敛速度。
2025-12-29 cs.AI cs.LG
Unsupervised Submodular Rank Aggregation on Score-based Permutations
University of Washington(华盛顿大学);The University of Tokyo(东京大学);University San Pablo CEU(圣巴布罗CEU大学)
无监督的基于得分的排序聚合算法在许多应用中得到了广泛的应用,但尚未得到深入的研究。本文研究了在无监督的情况下,使用子模优化算法对基于分数的排列进行秩聚合。具体来说,我们提出了一个无监督的方法的基础上的Lovasz Bregman分歧建立线性结构的凸和嵌套结构的凹目标函数。此外,在训练过程中应用随机优化方法,可以保证有效的推理算法。信息检索、组合分布式神经网络、社交网络中的影响者和分布式自动语音识别任务的实验结果证明了所提方法的有效性。
2017-09-06 cs.AI cs.LG
Riemannian Low-Rank Model Compression for Federated Learning with Over-the-Air Aggregation
Shenzhen Research Institute of Big Data(深圳大数据研究院);Hong Kong University of Science and Technology(香港科技大学)
本文针对联邦学习中的低秩模型压缩问题,提出一种基于黎曼流形优化的不放宽低秩约束的新方法,并设计带预编码器的交替优化算法以支持高效的空中聚合,实验证明其优于现有基线。
2023-06-04 cs.LG eess.SP
Aggregation on Learnable Manifolds for Asynchronous Federated Optimization
Department of Engineering Science Oxford University(牛津大学工程科学系);Department of Computing Imperial College London(伦敦帝国理工学院计算机系);GlaxoSmithKline(葛兰素史克)
针对异步联邦学习中的损失屏障与陈旧更新干扰,提出基于黎曼流形曲线学习的AsyncBezier与OrthoDC方法,在多个数据集上提升准确率与公平性。
2025-10-10 cs.LG
Robust Federated Learning against both Data Heterogeneity and Poisoning Attack via Aggregation Optimization
The Hong Kong University of Science and Technology(香港科技大学);Microsoft Research Asia(微软亚洲研究院)
跨客户端的非IID数据分发和中毒攻击是现实世界的联邦学习(FL)系统中的两个主要挑战。虽然他们都吸引了很大的研究兴趣与特定的策略开发,没有已知的解决方案管理,以解决他们在一个统一的框架。为了普遍克服这两个挑战,我们提出了SmartFL,一个通用的方法,优化服务器端的聚合过程与少量的代理数据收集的服务提供商本身通过子空间训练技术。具体地,使用服务器收集的代理数据来优化每个参与客户端在每轮的聚合权重,这实质上是客户端模型所跨越的凸包中的全局模型的优化。由于在每一轮,在服务器端优化的可调参数的数量等于参与客户端的数量(因此与模型大小无关),因此我们能够仅使用少量代理数据(例如,约100个样品)。通过优化的聚合,SmartFL确保了对异构和恶意客户端的鲁棒性,这在现实世界的FL中是理想的,其中一个或两个问题都可能发生。我们提供的SmartFL的收敛性和泛化能力的理论分析。根据经验,SmartFL在使用非IID数据分发的FL和使用恶意客户端的FL上都实现了最先进的性能。源代码将被释放。
2022-11-20 cs.CV cs.DC cs.LG
Convergence of Value Aggregation for Imitation Learning
Georgia Institute of Technology(佐治亚理工学院)
价值聚合是解决模仿学习问题的一般框架。基于数据聚合的思想,在在线学习环境中,通过迭代交错策略优化和评估来生成策略序列。虽然存在一个好的政策,在政策序列可以保证非渐近,鲜为人知的序列的收敛性或最后的政策的性能。在本文中,我们揭穿了共同的信念,价值聚合总是产生一个收敛的政策序列,提高性能。此外,我们确定了一个临界稳定条件的收敛性,并提供了一个紧密的非渐近界上的最后一个政策的性能。这些新的理论见解让我们用正则化来稳定问题,这消除了在随机问题中识别策略序列中的最佳策略的不方便过程。
2018-01-22 cs.LG stat.ML
Disentangled Federated Learning for Tackling Attributes Skew via Invariant Aggregation and Diversity Transferring
University of Science and Technology of China (USTC)(中国科学技术大学);Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所)
属性倾斜阻碍了现有联邦学习(FL)框架在客户端之间的优化方向一致,从而导致性能下降和收敛不稳定。其核心问题在于:1)非因果的、仅局部有效的领域特定属性被无意地混入到全局聚集中。2)纠缠属性的单阶段优化不能同时满足两个冲突的目标,即,泛化和个性化。为了解决这些问题,我们提出了解纠缠联邦学习(DFL),将特定领域和交叉不变的属性分解为两个互补的分支,由提出的交替局部全局优化独立训练。重要的是,收敛性分析证明,FL系统可以稳定收敛,即使不完整的客户端模型参与全球聚合,这大大扩展了FL的应用范围。大量的实验验证,DFL促进FL更高的性能,更好的解释性,更快的收敛速度,相比SOTA FL方法在手动合成和现实的属性偏斜数据集。
2022-06-14 cs.AI cs.LG
ML4CO-KIDA: Knowledge Inheritance in Dataset Aggregation
Peking University(北京大学);Megvii Research(旷视研究院)
机器学习组合优化(ML4CO)NeurIPS 2021竞赛旨在通过用机器学习模型替换关键启发式组件来改进最先进的组合优化求解器。在对偶任务上,我们设计了模型来进行分支决策,以促进对偶边界更快地增加。我们提出了一种知识继承方法,从数据集聚合过程中概括不同模型的知识,命名为KIDA。我们的改进克服了一些缺陷的基线图神经网络为基础的方法。此外,我们在双重任务中赢得了$1$ \textsuperscript{st} Place。希望本报告能为开发人员和研究人员提供有益的经验。该代码可在https://github.com/megvii-research/NeurIPS2021-ML4CO-KIDA上获得。
2022-02-03 cs.AI cs.LG
Device Scheduling for Relay-assisted Over-the-Air Aggregation in Federated Learning
East China Normal University(华东师范大学);Guangxi Information Center(广西信息中心);Shanghai Jiao Tong University(上海交通大学)
该研究针对联邦学习的梯度聚合效率问题,提出中继辅助的大规模联邦学习框架,通过转化为稀疏优化问题求解非凸的设备调度与功率分配联合优化问题,实现约束下调度设备数最大化,仿真验证了方案有效性。
2023-12-15 cs.LG
Stabilizing Black-Box Prompt Optimization with Textual Regularization and Signal Aggregation
提出TRAS框架,利用成功预测的文本正则化与蒙特卡洛信号聚合,解决黑盒提示优化中的不稳定性和语义漂移,提升准确率与收敛速度。
2026-06-24 cs.LG
Learning from History for Byzantine Robust Optimization
EPFL(洛桑联邦理工学院)
拜占庭鲁棒性最近受到了极大的关注,因为它对分布式和联邦学习非常重要。尽管如此,我们发现现有算法中存在严重缺陷,即使参与者的数据分布相同。首先,我们展示了现实的例子,即使在没有任何拜占庭攻击者的情况下,当前最先进的强大的聚合规则也无法收敛。其次,我们证明了,即使聚合规则可能成功地限制在一个单一的回合中的攻击者的影响,攻击者可以耦合他们的攻击跨时间最终导致发散。为了解决这些问题,我们提出了两个令人惊讶的简单策略:一个新的强大的迭代裁剪过程,并结合工人的势头,以克服时间耦合攻击。这是第一个可证明的标准随机优化设置的鲁棒方法。我们的代码在https://github.com/epfml/byzantine-robust-optimizer上开源。
2021-06-29 cs.DC cs.LG math.OC
Graph Theory Meets Federated Learning over Satellite Constellations: Spanning Aggregations, Network Formation, and Performance Optimization
University at Buffalo—SUNY(纽约州立大学布法罗分校)
Fed-Span结合图论与联邦学习,通过生成性聚合和优化,提升卫星星座分布式学习的性能与效率。
2025-12-02 cs.DC cs.LG cs.NI
Covert Model Poisoning Against Federated Learning: Algorithm Design and Optimization
Nanjing University of Science and Technology(南京理工大学);National Research Tomsk Polytechnic University(托木斯克国立研究理工大学);Data61, CSIRO(联邦科学与工业研究组织Data61);Pohang University of Science and Technology (POSTECH)(浦项科技大学);Princeton University(普林斯顿大学)
联邦学习(Federated Learning,FL)作为一种分布式机器学习框架,在参数传输过程中容易受到外部攻击。FL中的攻击者可以控制多个参与者客户端,并故意制作上传的模型参数以操纵系统输出,即模型中毒(MP)。在本文中,我们的目标是提出有效的MP算法来对抗最先进的防御聚合机制(例如,Krum和Trimmed的意思是)在服务器上实现而不被注意到,即,隐蔽MP(CMP)。具体来说,我们首先制定的MP作为一个优化问题,通过最小化操作模型和指定的一个之间的欧几里得距离,由防御性聚合规则的约束。然后,我们开发CMP算法对不同的防御机制的基础上,其相应的优化问题的解决方案。此外,为了降低优化的复杂度,我们提出了低复杂度的CMP算法与轻微的性能下降。在攻击者不知道防御聚合机制的情况下,设计了一种盲CMP算法,该算法根据未知防御聚合生成的聚合模型,适当调整被操纵模型。我们的实验结果表明,提出的CMP算法是有效的,大大优于现有的攻击机制。
2021-01-28 cs.DC cs.LG
A Dynamic Aggregation Strategy Enhanced Efficient Global Optimization Algorithm for Solving High-Dimensional Turbomachinery Design Problems
AVIC Shenyang Engine Design Institute(中国航发沈阳发动机设计研究所)
提出DA-EGO算法,通过动态分解高维空间并自适应调整子空间,在有限预算下高效求解高维叶轮机械设计优化问题,并在基准和实际案例中验证有效性。
2026-09-16 cs.CE cs.LG
Federated Learning with Unbiased Gradient Aggregation and Controllable Meta Updating
Tsinghua University(清华大学);Tencent(腾讯)
联邦学习(FL)的目标是在由大量智能边缘设备组成的分散系统中训练机器学习模型。联邦平均(FedAvg)是FL设置中的基本算法,它提出了设备上的训练和模型聚合,以避免传输原始数据所带来的潜在的沉重通信成本和隐私问题。然而,通过理论分析,我们认为:1)局部更新的多个步骤会导致梯度偏差; 2)在FedAvg中,预期的目标分布与训练范式下的优化目标之间存在不一致性。为了解决这些问题,我们首先提出了一个无偏的梯度聚集算法与保持跟踪梯度下降和梯度评估策略。然后,我们引入了一个额外的可控Meta更新过程与一小组的数据样本,表明预期的目标分布,提供一个明确的和一致的优化目标。这两个改进都是与模型和任务无关的,可以单独或一起应用。实验结果表明,所提出的方法具有更快的收敛速度,并在不同的网络结构,在各种FL设置实现更高的精度。
2020-12-16 cs.DC cs.LG stat.ML
Clustering Binary Data by Application of Combinatorial Optimization Heuristics
University of Costa Rica(哥斯达黎加大学);Costa Rica Institute of Technology(哥斯达黎加理工学院)
我们研究二进制数据的聚类方法,首先定义聚集标准,衡量集群的紧凑性。介绍了五种新颖的基于邻域和群体行为的组合优化方法:模拟退火、阈值接受和禁忌搜索,遗传算法和蚁群算法。实施的方法,执行适当的校准参数的情况下,化学,以确保良好的结果。从一组由准蒙特卡罗实验生成的16个数据表中,使用L1相异度,分层聚类和一个版本的k均值:围绕中心点或PAM分区,对其中一个聚合进行比较。模拟退火的性能非常好,特别是与经典方法相比。
2020-01-06 cs.LG stat.ML
Byzantine-Resilient Federated Learning via Distributed Optimization
Institut Polytechnique de Paris(巴黎综合理工学院);Aalborg University(奥尔堡大学)
本文针对联邦学习中的拜占庭攻击,提出利用PDMM分布式优化的容错共识机制替代传统聚合协议,并在多数据集与多种攻击下验证其更高效用、更快收敛与更强稳定性。
2025-03-13 cs.AI cs.LG
A survey on secure decentralized optimization and learning
KTH Royal Institute of Technology(KTH皇家理工学院);Digital Futures(数字未来机构);Hong Kong University of Science and Technology(香港科技大学);University of Victoria(维多利亚大学)
该综述梳理安全去中心化优化与学习领域的十年进展,介绍基础框架、隐私保护算法的密码学工具集成、鲁棒聚合与共识协议设计,并探讨未来方向。
2024-08-16 cs.LG math.OC
HO-SFL: Hybrid-Order Split Federated Learning with Backprop-Free Clients and Dimension-Free Aggregation
Department of Electrical and Computer Engineering, The University of Hong Kong, Hong Kong SAR, China(电子与计算机工程系,香港大学,香港特别行政区,中国)
提出HO-SFL框架,通过拉格朗日框架重构分割学习,服务器执行一阶更新而客户端进行零阶优化,实现无反向传播客户端、维度无关聚合,理论证明收敛速度与一阶方法相当,实验验证通信和内存成本显著降低。
2026-09-29 cs.AI cs.LG
GUPO: Gradient Uncertainty-aware Policy Optimization for Post-Training Large Language Models
针对GRPO中组梯度冲突导致策略更新效果差的问题,提出GUPO方法,通过贝叶斯框架建模组梯度并结合狄利克雷公式校准梯度贡献,经多基准实验验证其有效性。
2026-08-19 cs.LG
Federated Learning via Intelligent Reflecting Surface
ShanghaiTech University(上海科技大学);Xiamen University(厦门大学);Tsinghua University(清华大学);Hong Kong University of Science and Technology(香港科技大学);Peng Cheng Laboratory(鹏城实验室)
基于空中计算(AirComp)的联邦学习(FL)能够利用多个接入信道的波形叠加特性实现快速模型聚合。然而,模型聚合性能受到不利的无线传播信道的严重限制。在本文中,我们提出利用智能反射表面(IRS)来实现基于AirComp的FL的快速而可靠的模型聚合。为了优化学习性能,我们制定了一个优化问题,该优化问题联合优化设备选择,基站(BS)处的聚合波束形成器,以及IRS处的相移,以在特定均方误差(MSE)要求下最大化参与每个通信回合的模型聚合的设备的数量。为了解决制定的高度棘手的问题,我们提出了一个两步优化框架。具体来说,我们在第一步中诱导设备选择的稀疏性,然后在第二步中解决一系列MSE最小化问题以找到最大可行设备集。然后,我们提出了一个交替的优化框架,支持的低秩优化的凸函数的差分编程算法,有效地设计聚合波束形成器在BS和相位移在IRS。仿真结果将表明,与基线算法相比,我们提出的算法和IRS的部署可以实现更低的训练损失和更高的FL预测准确度。
2020-11-12 cs.IT cs.LG eess.SP
Projection Optimization: A General Framework for Multi-Objective and Multi-Group RLHF
Carnegie Mellon University(卡内基梅隆大学)
本文提出投影优化框架,将非线性聚合最大化转化为线性子问题,实现多目标与多组RLHF的高效优化,达到次线性遗憾并支持免训练算法。
2025-02-24 cs.AI cs.LG
A General Theory for Federated Optimization with Asynchronous and Heterogeneous Clients Updates
Université Côte d’Azur(蔚蓝海岸大学);Inria Sophia Antipolis(法国国家信息与自动化研究所索菲亚·安提波利斯分部);Accenture Labs(埃森哲实验室)
我们提出了一个新的框架来研究异步联邦学习优化梯度更新延迟。我们的理论框架扩展了标准的FedAvg聚合方案,通过引入随机聚合权重来表示客户端更新时间的可变性,例如由于异构硬件功能。我们的形式主义适用于一般的联邦设置,客户端具有异构数据集,并执行至少一个步骤的随机梯度下降(SGD)。我们证明了这样一个计划的收敛性,并提供了足够的条件,相关的最小是最佳的联邦问题。我们表明,我们的一般框架适用于现有的优化方案,包括集中式学习,FedAvg,异步FedAvg和FedBuff。这里提供的理论可以为设计异质条件下的联邦学习实验提供有意义的指导。特别是,我们在这项工作中开发FedFix,FedAvg的一个新的扩展,使高效的异步联邦训练,同时保持同步聚合的收敛稳定性。我们经验证明我们的理论上的一系列实验表明,异步FedAvg导致快速收敛的稳定性为代价,我们最终证明了同步和异步FedAvg FedFix的改进。
2022-06-21 cs.LG
LAPA-based Dynamic Privacy Optimization for Wireless Federated Learning in Heterogeneous Environments
College of Electronics and Information Engineering, Tongji University(同济大学电子与信息工程学院);Commonwealth Science and Industrial Research Organization (CSIRO)(共同科学与工业研究组织);School of Electrical and Information Engineering Faculty of Engineering, The University of Sydney(悉尼大学电气与信息工程学院)
本文提出LAPA策略,为异构无线联邦学习中的设备个性化分配隐私预算,并利用DDPG优化传输功率,以平衡隐私与效用,提升聚合性能。
2025-05-26 cs.AI cs.LG
FedPCD: Priority-Constrained Federated Aggregation
American University of Sharjah(沙迦美国大学);Massachusetts Institute of Technology(麻省理工学院)
FedPCD是一种优先级约束的联邦优化框架,通过分离全局优化目标与客户端保护,在异质联邦学习基准中实现更高全局准确率、更优最差客户端准确率及更快收敛,性能优于现有最优基线。
2026-10-12 cs.LG
Robust Model Aggregation for Heterogeneous Federated Learning: Analysis and Optimizations
School of Electronic and Optical Engineering, Nanjing University of Science and Technology(南京理工大学电子工程与光电技术学院);Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算系);Data61, CSIRO(联邦科学与工业研究组织数据61分部);Digital Economy Research Institute, Nanjing University of Science and Technology(南京理工大学数字经济研究院);Institute of High Performance Computing, A*STAR(新加坡科技研究局高性能计算研究所);Digital Research Institute, ENN Group(新奥集团数字研究院);Department of Electronic Engineering, Shanghai Jiao Tong University(上海交通大学电子工程系);National Mobile Communications Research Laboratory, Southeast University(东南大学移动通信国家重点实验室)
针对异构联邦学习中传统同步框架性能下降、异步框架存在更新不一致的问题,提出时间驱动同步联邦学习框架与判别式模型选择算法,可降低延迟并提升准确率。
2024-05-11 cs.DC cs.LG
CoDream: Exchanging dreams instead of models for federated aggregation with heterogeneous models
Massachusetts Institute of Technology(麻省理工学院);University of California San Diego(加利福尼亚大学圣迭戈分校)
CoDream提出在数据空间而非参数空间进行联邦聚合,通过协作优化随机初始化数据来捕获全局数据分布,实现模型无关、通信高效且保护隐私的异构联邦学习。
2024-02-27 cs.AI cs.LG
Dynamic Gradient Aggregation for Federated Domain Adaptation
Microsoft(微软)
提出了一种新的联邦学习(FL)的学习算法。该方案基于加权梯度聚合,使用两步优化来提供灵活的训练管道。在这里,提出了两种不同风格的聚合方法,与其他分布式或FL训练算法(如BMUF和FedAvg)相比,收敛速度提高了一个数量级。此外,聚合算法充当梯度质量的正则化器。我们调查我们的FL算法在监督和无监督语音识别(SR)的情况下的效果。基于三个任务执行实验验证:首先,LibriSpeech任务与基线结果相比显示出7倍的加速和6%的单词出错率降低(WERR)。第二个任务是基于会话适配,在强大的LAS模型上提供20%的WERR。最后,我们的无监督流水线应用于会话SR任务。建议FL系统优于基线系统的收敛速度和整体模型性能。
2021-06-14 cs.DC cs.LG
Hierarchical Aggregations for High-Dimensional Multiplex Graph Embedding
University of Quebec at Montreal(蒙特利尔魁北克大学)
针对高维多路图嵌入中维度多、潜在结构复杂的问题,提出基于层次聚合的HMGE方法,通过非线性组合和互信息最大化实现无监督学习,在链接预测和节点分类任务上表现良好。
2023-12-28 cs.AI cs.LG cs.SI
Contextual Model Aggregation for Fast and Robust Federated Learning in Edge Computing
Princeton University(普林斯顿大学);Purdue University(普渡大学)
联邦学习是网络边缘分布式机器学习的主要候选者,因为它具有低通信复杂性和隐私保护等吸引人的特性。然而,现有的算法面临的问题,由于在边缘的数据分布,计算和通信能力的相当大的异质性的缓慢收敛和/或鲁棒性的性能。在这项工作中,我们通过关注联邦学习系统中模型聚合的关键组成部分并研究执行此任务的最佳算法来解决这两个问题。特别是,我们提出了一个上下文聚合方案,实现了最佳的上下文相关的限制损失减少在每一轮的优化。上述上下文相关的界限是从该轮中的特定参与设备和对总体损失函数的平滑性的假设导出的。我们表明,这种聚集导致在每一轮的损失函数的明确减少。此外,我们可以将我们的聚合与许多现有的算法,以获得上下文版本。我们的实验结果表明,显着改善的收敛速度和鲁棒性的上下文版本相比,原来的算法。我们还考虑了上下文聚合的不同变体,即使在最极端的设置中也显示出强大的性能。
2022-03-23 cs.AI cs.DC cs.LG
A Reinforcement Learning Framework for Resource Allocation in Uplink Carrier Aggregation in the Presence of Self Interference
DRDO-Defence Electronics Research Laboratory(国防电子研究实验室);Qualcomm India Private Limited(高通印度私人有限公司);Department of ECE, Indian Institute of Science(印度科学研究院电子工程系);Department of Electrical and Computer Engineering, Duke University(达特茅斯大学电气与计算机工程系)
本文提出了一种基于强化学习的上行载波聚合资源分配框架,通过自定义奖励函数有效处理自干扰问题,提升系统吞吐量。
2025-11-22 cs.IT cs.LG eess.SP