Cooperative Behavior Planning for Automated Driving using Graph Neural Networks
Robert Bosch GmbH(罗伯特·博世有限公司);Ulm University(乌尔姆大学)
由于静态优先规则和遮挡限制了优先交通的视野,城市交叉口容易出现延误和效率低下。现有的改善交通流的方法,广泛称为自动交叉口管理系统,大多是基于非学习预留方案或优化算法。基于机器学习的技术在规划单个自我车辆方面显示出有希望的结果。本文提出利用机器学习算法,通过多车辆联合规划来优化城市交叉口的交通流。基于学习的行为规划提出了几个挑战,需要合适的输入和输出表示以及大量的地面实况数据。我们解决前一个问题,使用灵活的基于图形的输入表示伴随着一个图神经网络。这允许有效地编码场景,并固有地为所有涉及的车辆提供单独的输出。为了学习一个合理的策略,而不依赖于模仿的专家示范,合作规划任务被认为是一个强化学习问题。我们在自动驾驶决策的开源模拟环境中对所提出的方法进行了训练和评估。相比先进先出的计划和交通由静态优先级规则,学习规划显示出显着的增益流量,同时减少诱导停止的数量。除了合成模拟,该方法还基于从公开可用的inD数据集获取的真实交通数据进行评估。
2022-07-26 cs.LG cs.RO
Cooperative Causal GraphSAGE
Yanshan University(燕山大学);Hebei Key Laboratory of information transmission and signal processing(河北省信息传输与信号处理重点实验室)
针对Causal GraphSAGE忽略采样节点整体协作关系的问题,提出结合合作博弈论的CoCa-GraphSAGE,通过CoCa-sampling算法基于Shapley值选择协作因果效应显著的邻域节点,生成更稳定的节点嵌入,提升了扰动下的鲁棒性。
2025-05-20 cs.GT cs.LG
Inferring Group Intent as a Cooperative Game. An NLP-based Framework for Trajectory Analysis
Cornell University(康奈尔大学)
提出一个基于NLP的生成模型和合作博弈框架,通过Fisher信息特征函数和Graph Transformer神经网络从噪声观测中推断群体轨迹意图。
2026-05-26 cs.LG eess.SP
Open Ad Hoc Teamwork with Cooperative Game Theory
University of Manchester(曼彻斯特大学);University of Freiburg(弗莱堡大学);Aalto University(阿尔托大学)
本文通过合作博弈理论为开放自组织团队协作(OAHT)的联合Q值表示建立新理论,并基于图策略学习框架提出CIAO算法,以可证明的实现技巧提升学习效果。
2024-07-07 cs.LG cs.MA
Automatic Intersection Management in Mixed Traffic Using Reinforcement Learning and Graph Neural Networks
Robert Bosch GmbH(罗伯特·博世有限公司);Ulm University(乌尔姆大学)
本研究提出基于强化学习和图场景表示的协作多智能体规划方法,用于解决混合交通中的自动交叉口管理问题,显著提升了车辆通行量并减少了交互延误。
2023-07-28 cs.LG cs.RO
AMPNet: Asynchronous Model-Parallel Training for Dynamic Neural Networks
Google Brain(谷歌大脑);Microsoft Research(微软研究院)
正在开发和进入市场的新型机器学习硬件有望以与GPU一样深刻的方式彻底改变深度学习。然而,现有的用于深度学习的软件框架和训练算法尚未发展到完全利用新一波硅的能力。我们已经看到了现有算法的局限性,这些算法通过复杂的和依赖于实例的控制流来利用结构化输入,这就禁止了minimizing。我们提出了一个异步模型并行(AMP)的训练算法,是专门由互联设备的网络上的训练。通过在多核CPU上的实现,我们表明AMP训练在相似数量的时期内收敛到与传统同步训练算法相同的精度,但即使对于小的minibatch大小,也可以更有效地利用可用硬件,从而显着缩短整体训练时间。我们的框架为扩展一类新的深度学习模型打开了大门,这些模型目前无法有效训练。
2017-06-22 cs.AI cs.DC cs.LG
Cooperative neural networks (CoNN): Exploiting prior independence structure for improved classification
Georgia Institute of Technology(佐治亚理工学院);PARC(帕洛阿尔托研究中心)
我们提出了一种新的方法,称为合作神经网络(CoNN),它使用一组合作训练的神经网络,以捕捉潜在的表示,利用事先给定的独立结构。该模型比基于指数族分布的传统图形模型更灵活,但比传统的深度网络或变分自编码器包含更多的域特定先验结构。该框架非常通用,可以用来利用任何图形模型的独立结构。我们说明的技术,我们可以转移到一个合作的神经网络,CoNN-sLDA的流行的潜在狄利克雷分配(LDA)模型的独立结构。CoNN-sLDA在监督文本分类任务上的实证评估表明,先验独立结构的理论优势可以在实践中实现-与最先进的技术相比,我们在具有挑战性的MultiSent数据集上的错误减少了23%。
2019-06-01 cs.LG stat.ML
Amortising Inference and Meta-Learning Priors in Neural Networks
Helmholtz AI(海德堡人工智能研究所);Munich Center for Machine Learning(慕尼黑机器学习中心);Technical University of Munich(慕尼黑技术大学);University of Technology Nuremberg(纽伦堡技术大学)
本文提出了一种在神经网络中通过amortized变分推断学习权重先验的方法,用于贝叶斯深度学习和概率元学习,实现了灵活的生成模型和新的元学习能力。
2026-02-09 cs.LG stat.ML
Integrating User and Item Reviews in Deep Cooperative Neural Networks for Movie Recommendation
University of Patras(帕特雷大学)
用户评价包括在线平台上的大量信息。这种信息源被大多数现有的推荐系统所忽视,尽管它有可能缓解稀疏性问题并提高建议的质量。这项工作提出了一个深度模型,用于从评论文本中同时学习项目属性和用户行为。深度合作神经网络(DeepCoNN)是由两个并行的神经网络在其最后一层连接而成的建议模型。其中一个网络专注于从用户提交的评论中学习用户行为,而另一个网络则从用户评论中学习物品属性。在顶部,添加了一个共享层来连接这两个网络。与因子分解机器方法类似,共享层允许为人和事物获取的潜在因子彼此交互。根据实验结果,在许多数据集上,DeepCoNN超过了所有基线推荐系统。
2022-06-22 cs.IR cs.LG
Partial Inverse Design of High-Performance Concrete Using Cooperative Neural Networks for Constraint-Aware Mix Generation
本文提出一种合作神经网络框架,用于高性能混凝土的局部反向设计,通过整合填补缺失数据模型和替代强度预测器,实现高效且准确的混合设计生成。
2026-09-07 cs.AI cs.LG
Using Cooperative Game Theory to Prune Neural Networks
Dodners Institute(多德纳斯研究所);Radboud University(拉德堡德大学);New York University(纽约大学);Google DeepMind(谷歌DeepMind)
本文提出基于合作博弈论解概念的GTAP方法,通过估计神经元联合影响进行剪枝,在保持准确性的同时减小网络规模,并在前馈和卷积网络上优于现有方法。
2023-11-17 cs.AI cs.CE cs.GT
Training Quantized Deep Neural Networks via Cooperative Coevolution
Southern University of Science and Technology(南方科技大学)
这项工作考虑了一个具有挑战性的深度神经网络(DNN)量化任务,该任务旨在训练量化的DNN,而不涉及任何全精度操作。大多数以前的量化方法不适用于此任务,因为它们依赖于全精度梯度来更新网络权重。为了填补这一空白,在这项工作中,我们提倡使用进化算法(EA)来搜索DNN的最佳低位权重。为了有效地解决诱导的大规模离散问题,我们提出了一种新的EA合作协同进化的基础上,重复分组的网络权重的基础上,在其值的信心,并专注于优化的信心最小的。据我们所知,这是第一个工作,应用EA训练量化DNN。实验表明,我们的方法超越了以前的量化方法,可以训练一个4位的ResNet-20的Cifar-10数据集上具有相同的测试精度作为其全精度对应。
2022-05-23 cs.AI cs.LG cs.NE
CoopNet: Cooperative Convolutional Neural Network for Low-Power MCUs
Politecnico di Torino(都灵理工大学)
定点量化和二值化是将卷积神经网络(CNN)部署在由低功耗微控制器单元(MCU)供电的端节点上所采用的两种归约方法。虽然大多数现有的作品使用它们作为独立的优化,这项工作的目的是证明有利润的联合合作,导致推理引擎具有更低的延迟和更高的准确性。被称为CoopNet,所提出的异构模型的构思,实现和测试的现成的MCU与小的片上存储器和计算资源很少。在三种不同的CNN上进行的实验结果使用ARM Cortex-M系列的低功耗RISC内核作为测试台,通过显示相对于ARM的实质性改进来验证CoopNet提案。其中量化和二进制化被分别应用的设计。
2020-01-25 cs.CV cs.LG eess.IV
Cooperative Variance Estimation and Bayesian Neural Networks for Disentangling Aleatoric and Epistemic Uncertainties
Faculty of Mechanical Engineering, Delft University of Technology, Mekelweg 2, Delft, 2628 CD, The Netherlands(代尔夫特理工大学机械工程学院);School of Engineering, Brown University, 184 Hope St., Providence, RI 02912, USA(布朗大学工程学院)
提出通过合作训练方差估计网络与贝叶斯神经网络,实现偶然不确定性与认知不确定性的分离,并提升均值估计性能。
2026-08-03 cs.LG stat.ML
Cooperative Initialization based Deep Neural Network Training
IIT Kanpur(印度理工学院坎普尔分校)
研究人员提出了各种激活函数。这些激活函数帮助深度网络学习非线性行为,对训练动态和任务性能产生重大影响。这些激活的性能还取决于权重参数的初始状态,即,不同的初始状态导致网络性能的差异。在本文中,我们提出了一种使用ReLU激活函数训练深度网络的合作初始化方法,以提高网络性能。我们的方法使用多个激活函数在最初的几个时期的更新的所有权重参数集,同时训练网络。这些激活函数相互协作,克服了它们在权值参数更新方面的缺点,从而有效地学习了更好的“特征表示”,并在以后提高了网络性能。基于协同初始化的训练也有助于减少过拟合问题,并且在提高性能的同时不会增加最终模型中的参数数量和推断(测试)时间。实验表明,我们的方法优于各种基线,同时,在各种任务,如分类和检测表现良好。在CIFAR-100数据集上,使用我们的方法训练的模型的Top-1分类准确率对于VGG-16提高了2.8%,对于ResNet-56提高了2.1%。
2020-01-05 cs.CV cs.LG
Using Convolutional Neural Networks for Relative Pose Estimation of a Non-Cooperative Spacecraft with Thermal Infrared Imagery
City, University of London(伦敦大学城市学院);European Space Agency(欧洲空间局)
最近对在轨服务和主动碎片清除任务的兴趣推动了对能够进行非合作会合机动的技术的需求。这种机动对追踪航天器的感知能力造成沉重负担。本文演示了卷积神经网络(CNN)能够提供一个初步的粗略姿态估计的目标从被动热红外相机饲料。热成像摄像机为可见光摄像机提供了一种有前途的替代方案,可见光摄像机在弱光条件下挣扎,并且容易过度曝光。通常,目标的热信息是不可用的先验,因此,本文提出了使用可见光图像训练网络。模型的鲁棒性在两个不同的目标上得到了证明,首先是在合成数据上,然后是在实验室环境中针对ADR任务期间可能面临的现实场景。鉴于CNN在关键应用中的黑箱性质,人们对它的使用非常关注,我们使用创新技术来解释什么对我们的网络和故障条件很重要。
2021-05-28 cs.AI cs.CV cs.LG
A Modality-Aware Cooperative Co-Evolutionary Framework for Multimodal Graph Neural Architecture Search
Department of Computer Science and Information Technology, La Trobe University(计算机科学与信息技术系,拉特罗布大学);Institute for Sustainable Industries and Liveable Cities, Victoria University(可持续产业与宜居城市研究所,维多利亚大学)
提出模态感知协同协同进化框架MACC-MGNAS,用于多模态图神经架构搜索,通过分治协调、双轨代理和多样性指标,在漏洞协同利用数据集上以3 GPU小时达到81.67% F1,优于现有方法。
2025-09-23 cs.LG cs.NE
An On-Device Federated Learning Approach for Cooperative Model Update between Edge Devices
Keio University(庆应义塾大学)
大多数边缘AI专注于资源有限的边缘设备上的预测任务,而训练则在服务器机器上完成。然而,在边缘设备上需要重新训练或定制模型,因为随着时间的推移,模型会随着环境的变化而变得过时。为了遵循这样的概念漂移,最近提出了一种基于神经网络的设备学习方法,使得边缘设备在运行时训练传入数据以更新它们的模型。在这种情况下,由于训练是在分布式边缘设备处完成的,所以问题是仅有限量的训练数据可用于每个边缘设备。为了解决这个问题,一种方法是协作学习或联邦学习,其中边缘设备通过使用从其他设备收集的结果来交换它们的训练结果并更新它们的模型。在本文中,作为一个设备上的学习算法,我们专注于OS-ELM(在线顺序极端学习机),顺序训练模型的基础上最近的样本,并将其与自动编码器异常检测。我们将其扩展为设备上的联邦学习,以便边缘设备可以交换它们的训练结果,并通过使用从其他边缘设备收集的结果来更新它们的模型。这种合作模型更新是一次性的,但它可以重复应用于同步他们的模型。我们的方法进行了评估,从汽车驾驶数据集,人类活动数据集和MNIST数据集生成的异常检测任务。结果表明,所提出的设备上联邦学习可以通过将来自多个边缘设备的训练结果与传统的基于反向传播的神经网络和传统的联邦学习方法一样准确地集成来产生合并模型,并且具有更低的计算或通信成本。
2021-06-27 cs.DC cs.LG stat.ML
Cooperative data-driven modeling
Delft University of Technology(代尔夫特理工大学);Brown University(布朗大学)
针对人工神经网络的灾难性遗忘问题阻碍力学协同建模的难题,提出一种可用于固体力学的持续学习方法,能顺序学习多个本构定律且遗忘少、数据效率更高,助力力学界协同解决复杂问题。
2024-03-08 cond-mat.mtrl-sci cs.LG cs.NA
Stream-Based Active Learning with Cooperative Neural Networks for Data-Efficient Partial Inverse Design: An Automotive Glass Run Channel Case Study
Pukyong National University(国立釜庆大学);DRB Co., Ltd.(DRB株式会社)
针对部分逆向设计数据获取昂贵的问题,提出CoNN-AL框架,结合流式主动学习与协作神经网络,在汽车玻璃导槽数据集上以2.3%标签达到近全数据性能,显著减少标注需求。
2026-10-08 cs.AI cs.LG
Bias Reduction via Cooperative Bargaining in Synthetic Graph Dataset Generation
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
一般来说,为了从数据集中得出可靠的结论,所有分析的人群必须在所述数据集中表示。拥有不满足此条件的数据集通常会导致选择偏差。此外,图形已被用于模拟各种各样的问题。虽然合成图可以用来增强可用的真实图数据集,以克服选择偏差,无偏的合成数据集的生成是复杂的与当前的工具。在这项工作中,我们提出了一种方法来找到一个合成的图形数据集,具有一个甚至表示的图形与不同的度量。然后,除其他外,所得到的数据集可以用于对图处理技术进行基准测试,如不同图神经网络(GNN)模型的准确性或通过不同图处理加速框架获得的加速比。
2022-05-27 cs.LG
Nested Mixture of Experts: Cooperative and Competitive Learning of Hybrid Dynamical System
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
基于模型的强化学习(MBRL)算法可以获得显著的样本效率,但需要适当的网络结构来表示系统动态。当前的方法包括使用分析参数化的白盒建模和使用深度神经网络的黑盒建模。然而,两者都可能在学习过程中遭受偏差-方差权衡,并且都没有提供将领域知识注入网络的结构化方法。作为替代方案,灰箱建模利用神经网络训练中的先验知识,但仅用于简单系统。在本文中,我们设计了一个嵌套的混合专家模型(NMOE)表示和学习混合动力系统。NMOE结合了白盒和黑盒模型,同时优化了偏差-方差权衡。此外,NMOE提供了一种结构化的方法,用于通过合作或竞争地训练联想专家来整合各种类型的先验知识。先验知识包括机器人与环境的物理接触以及它们的运动学和动力学特性的信息。在本文中,我们演示了如何将先验知识到我们的NMOE在各种连续控制域,包括混合动力系统。我们还展示了我们的方法在数据效率,推广到看不见的数据,偏差方差权衡方面的有效性。最后,我们使用MBRL设置评估我们的NMOE,其中模型与基于模型的控制器集成并在线训练。
2021-04-29 cs.LG cs.RO
Weighted Double Deep Multiagent Reinforcement Learning in Stochastic Cooperative Environments
Tianjin University(天津大学);Soochow University(苏州大学)
近年来,多智能体深度强化学习(DRL)受到越来越广泛的关注。现有的多智能体动态学习算法在随机协作环境中由于智能体同时更新策略而导致的非平稳性问题上效率低下。本文将最近提出的加权双重估计扩展到多智能体领域,提出了一个多智能体DRL框架,命名为加权双重深度Q网络(WDDQN)。通过使用加权双重估计器和深度神经网络,WDDQN不仅可以有效地减少偏差,而且还可以扩展到具有原始视觉输入的场景。为了实现多智能体领域的有效合作,我们引入了宽松的奖励网络和计划重放策略。实验表明,WDDQN优于现有的DRL和multiaent DRL算法,即,双DQN和宽松的Q学习,在随机合作环境中的平均回报和收敛速度。
2018-04-14 cs.AI cs.LG cs.MA
Low-Latency Cooperative Spectrum Sensing via Truncated Vertical Federated Learning
The Future Network of Intelligence Institute(未来网络智能研究院);The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
近年来,无线数据传输需求的指数级增长增加了精确频谱感知方法以提高频谱效率的紧迫性。传统的基于单个次用户测量的频谱感知方法的不可靠性促使了协作频谱感知的研究。在这项工作中,我们提出了一个垂直的联邦学习(VFL)框架,利用分布式功能,在多个SU不损害数据隐私。然而,VFL中的重复训练过程面临着高通信延迟的问题。为了加快训练过程,我们提出了一个截断垂直联邦学习(T-VFL)算法,其中的训练延迟大大减少了标准的VFL算法与信道感知的用户调度策略。T-VFL的收敛性能通过数学分析和仿真结果证明。此外,为了保证T-VFL算法的收敛性能,我们总结了VFL框架下神经网络结构的三条设计规则,并通过仿真验证了其有效性。
2022-08-07 cs.DC cs.IT cs.LG
Agent-Agnostic Centralized Training for Decentralized Multi-Agent Cooperative Driving
University of Freiburg(弗莱堡大学);Ruhr University Bochum(波鸿鲁尔大学);University of Technology Nuremberg(纽伦堡工业大学)
本文提出一种智能体无关的集中训练方法,利用带掩码注意力神经网络的非对称演员-评论家模型和单智能体强化学习,学习去中心化协同驾驶策略,以改善瓶颈路段交通流并缓解保守驾驶导致的减速。
2024-09-03 cs.LG cs.RO
Feature Sharing and Integration for Cooperative Cognition and Perception with Volumetric Sensors
University of Central Florida(中佛罗里达大学);InfoTech Labs, Toyota Motor North America(丰田汽车北美公司InfoTech实验室)
计算和通信系统的最新进展已经导致引入高性能神经网络和高速无线车载通信网络。因此,出现了合作感知和认知等新技术,通过为部分遮挡目标的检测提供解决方案并扩大感知范围,解决了传感设备的固有局限性。然而,设计一个可靠的协作认知或感知系统需要解决有限的网络资源和不同来源共享的数据之间的差异所带来的挑战。在本文中,我们研究了不同的合作感知技术的要求,限制和性能,并提出了深入分析的概念,深度特征共享(DFS)。我们探讨了不同的合作目标检测设计,并评估其性能的平均精度。我们使用Volony数据集进行实验研究。结果表明,DFS方法对GPS噪声引起的定位误差不太敏感。此外,结果证明,DFS方法的检测增益所造成的增加更多的合作参与者在场景中是可比的原始信息共享技术,而DFS使设计的灵活性,以满足通信的要求。
2020-12-04 cs.AI cs.CV cs.LG
Sparse Self-Federated Learning for Energy Efficient Cooperative Intelligence in Society 5.0
University of Bologna(博洛尼亚大学);Free University of Bozen(博兹恩自由大学);Radboud University(拉德堡德大学)
针对传统联邦学习在 Society 5.0 物联网生态中能耗与带宽过高的问题,提出 SParSeFuL 方法,结合聚合计算与神经网络稀疏化,实现资源感知的自组织以降低能耗和带宽。
2025-07-10 cs.LG
Fast and Accurate Cooperative Radio Map Estimation Enabled by GAN
The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院);Pengcheng Lab(鹏城实验室)
本文提出GAN-CRME方法,利用生成对抗网络和深度神经网络估计器,在无发射机信息下快速准确估计无线电地图,降低数据采集成本,并能在地图信息不准确时进行误差校正。
2024-02-05 cs.CV cs.IT cs.LG
Cooperative Learning for Cost-Adaptive Inference
North Carolina State University(北卡罗来纳州立大学);Collins Aerospace(柯林斯宇航公司)
提出协作训练框架,通过知识蒸馏训练队友网络与领导者网络,实现推理时动态调整网络深度以平衡性能与成本,并支持任意架构,达到与完整网络相当的准确性。
2023-12-26 cs.LG
Cooperative Policy Learning with Pre-trained Heterogeneous Observation Representations
Microsoft Research(微软研究院);Beijing University of Posts and Telecommunications(北京邮电大学);Hong Kong University of Science and Technology(香港科技大学);Microsoft ARD Incubation Team(微软ARD孵化团队)
多智能体强化学习(MARL)已经越来越多地被探索学习合作政策,以最大化一定的全球回报。许多现有的研究利用MARL中的图神经网络(GNN)在交互图上传播关键的协作信息,建立在相互连接的代理上。然而,香草GNN方法在处理复杂的现实世界场景中产生了很大的缺陷,因为通用的消息传递机制在异构顶点之间是无效的,而且,简单的消息聚合函数无法准确地建模来自多个邻居的组合交互。虽然采用具有更多信息的消息传递和聚合机制的复杂GNN模型可以明显地有利于异构顶点表示和协作策略学习,但另一方面,它可能增加MARL的训练难度,并且与原始全局奖励相比,需要更强烈和直接的奖励信号。为了应对这些挑战,我们提出了一个新的协作学习框架与预先训练的异构观察表示。特别是,我们采用了基于编码器-解码器的图形注意力来学习复杂的交互和异构表示,可以更容易地利用MARL。此外,我们设计了一个预训练与本地演员-评论家算法,以减轻合作策略学习的困难。在真实场景中进行的大量实验表明,我们的新方法可以显着优于现有的MARL基线以及在行业中广泛使用的运筹学解决方案。
2020-12-24 cs.AI cs.LG
Learning Practical Communication Strategies in Cooperative Multi-Agent Reinforcement Learning
University of Southern California(南加州大学)
在多智能体强化学习中,通信对于鼓励智能体之间的合作至关重要。在现实的无线网络中,由于网络条件随代理的移动性和传输过程的随机性而变化,通信可能是高度不可靠的。我们提出了一个框架来学习实际的通信策略,解决三个基本问题:(1)当:代理学习的通信时间不仅基于消息的重要性,但也无线信道条件。(2)内容:代理通过无线网络测量增加消息内容,以更好地选择游戏和通信动作。(3)如何:代理使用一种新的神经消息编码器来保存接收到的消息中的所有信息,而不管消息的数量和顺序如何。在现实的无线网络设置下模拟标准的基准测试,我们显示出显着的改进,在游戏性能,收敛速度和通信效率相比,国家的最先进的。
2022-09-02 cs.AI cs.LG cs.MA
Improving Device-Edge Cooperative Inference of Deep Learning via 2-Step Pruning
Tsinghua University(清华大学);Hitachi (China) Research & Development Cooperation(日立(中国)研究开发有限公司)
深度神经网络(DNN)是许多机器学习应用的最先进的解决方案,并且已经在移动设备上广泛使用。在资源受限的移动设备上运行DNN通常需要边缘服务器通过计算卸载提供帮助。然而,由于移动设备上的计算资源与无线资源之间的紧密相互作用,通过带宽受限的无线链路进行卸载是不平凡的。现有的研究集中在合作推理,DNN模型划分在不同的神经网络层,这两个部分分别在移动终端和边缘服务器上执行。由于DNN层的输出数据大小可能大于原始数据的大小,因此在有限的无线带宽下,卸载层之间的中间数据可能遭受高传输延迟。在本文中,我们提出了一个有效和灵活的两步修剪框架,用于移动设备和边缘服务器之间的DNN分区。在我们的框架中,DNN模型只需要在训练阶段修剪一次,迭代地删除不重要的卷积滤波器。通过限制修剪区域,我们的框架可以大大减少设备的无线传输工作量或总的计算工作量。在训练阶段生成一系列修剪模型,框架可以从中自动选择以满足不同的延迟和准确性要求。此外,增加了对中间数据的编码,以提供额外的传输工作量减少。实验结果表明,与不进行剪枝的DNN模型相比,该框架在传输负载上最多可减少25.6 $\times$,在总计算量上最多可减少6.01 $\times$,在端到端延迟上最多可减少4.81 $\times$.
2019-03-08 cs.LG cs.NI
A Cooperative Autoencoder for Population-Based Regularization of CNN Image Registration
Scientific Computing and Imaging Institute, University of Utah(犹他大学科学计算与成像研究所);School of Computing, University of Utah(犹他大学计算学院)
空间变换是各种医学图像分析应用中的使能器,其需要将图像对准到公共坐标系。对这种变换的群体分析预计将捕获潜在的图像和形状变化,因此需要这些变换来产生解剖学上可行的对应关系。这通常通过对变形场进行基于平滑度的通用正则化来实现。或者,基于群体的正则化已经被证明在解剖学上不知道(即,数据独立)失败。最近,深度网络已经用于无监督图像配准,这些方法在计算上更快,并且保持了最先进方法的准确性。然而,这些网络在变形场上使用平滑惩罚,并忽略了变换的人口水平统计。我们提出了一种新的神经网络架构,同时学习和使用人口水平的空间变换的统计来规范的神经网络的无监督图像配准。这种正则化的形式是一个瓶颈自动编码器,它编码的人口水平的信息的变形领域在一个低维流形。所提出的架构产生的变形场,描述人口水平的功能和相关的对应关系在解剖学上相关的方式,并在统计上紧凑相对于国家的最先进的方法,同时保持计算效率。我们证明了所提出的架构上的合成数据集,以及二维和三维医疗数据的功效。
2019-08-19 cs.CV cs.LG
Learning Fair Policies in Decentralized Cooperative Multi-Agent Reinforcement Learning
UM-SJTU Joint Institute, Shanghai Jiao Tong University(上海交通大学密西根学院);Shanghai Jiao Tong University(上海交通大学)
我们考虑在(深度)合作多智能体强化学习(MARL)中学习公平策略的问题。我们形式化的原则性的方式作为优化的福利函数,明确编码公平的两个重要方面:效率和公平的问题。作为一种解决方法,我们提出了一种新的神经网络架构,它是由两个子网络专门设计考虑到公平性的两个方面。在实验中,我们证明了公平优化的两个子网络的重要性。我们的整体方法是通用的,因为它可以容纳任何(次)可微福利函数。因此,它与文献中提出的各种公平概念(例如,字典式极大极小、广义基尼社会福利函数、比例公平)。我们的解决方案方法是通用的,可以在各种MARL设置中实现:集中式培训和分散式执行,或完全分散式。最后,我们在各个领域的实验验证我们的方法,并表明它可以比以前的方法更好地执行。
2021-06-22 cs.AI cs.LG cs.MA
The Cooperative Network Architecture: Learning Structured Networks as Representation of Sensory Patterns
Zurich University of Applied Sciences(苏黎世应用科学大学);University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院);Frankfurt Institute for Advanced Studies(法兰克福高级研究 institute)
本文提出协同网络架构,通过结构化神经网络动态学习和组合感官模式,实现噪声鲁棒性和图形补全能力,为神经表示和不变物体识别提供新方法。
2025-11-21 cs.AI cs.CV cs.LG
FedLoc: Federated Learning Framework for Data-Driven Cooperative Localization and Location Data Processing
The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳));SRIBD(深圳大数据研究院);Wuhan University(武汉大学)
本文结合机器学习和大数据方法,研究了基于数据驱动学习模型的协同定位和位置数据处理。我们首先回顾(1)联邦学习背景下的最新算法,(2)两种广泛使用的学习模型,即深度神经网络模型和高斯过程模型,以及(3)各种分布式模型超参数优化方案。然后,我们展示了各种实际用例,这些用例是从标准的、新出版的和未出版的作品中总结出来的,涵盖了广泛的定位服务,包括协同静态定位/指纹识别、室内目标跟踪、使用低采样GPS的室外导航以及时空无线交通数据建模和预测。实验结果表明,近集中的数据拟合和预测性能可以实现一组协作移动用户运行分布式算法。所有调查的用例都属于我们新提出的联邦本地化(FedLoc)框架,该框架的目标是在不牺牲用户隐私的情况下协作构建准确的位置服务,特别是与地理轨迹相关的敏感信息。最后对未来的研究方向进行了展望。
2020-05-25 cs.DC cs.LG cs.SY
Tensor-based Cooperative Control for Large Scale Multi-intersection Traffic Signal Using Deep Reinforcement Learning and Imitation Learning
Tsinghua University(清华大学)
交通信号控制一直被认为是智能交通系统中的一个重要课题。大多数现有的学习方法主要集中在孤立的交叉点,并遭受效率低下的训练。针对大规模多交叉口交通信号协同控制问题,建立了一种基于端到端学习的协同控制模型,并提出了相应的有效训练方法。在该模型中,输入的交通状态在多个交叉口表示为一个张量,这不仅显着降低了维数比使用单一的矩阵,但也避免了信息丢失。在输出端,控制策略采用多维布尔向量表示信号状态是否发生变化,简化了表示形式,符合实际相位变化规律。该模型采用多任务学习结构,通过学习获得协作策略。与单纯用强化学习对模型进行训练不同,我们采用模仿学习将基于规则的模型与神经网络结合起来进行预训练,从而提供了一个可靠的、令人满意的阶段解,并大大加快了收敛速度。然后,采用强化学习方法继续进行精细训练,并结合近端策略优化算法解决多维输出情况下的策略崩溃问题。在数值实验中,所提出的模型的优点与相关的国家的最先进的方法进行了比较。
2019-09-30 cs.LG stat.ML
Deep Multi-Task Learning for Cooperative NOMA: System Design and Principles
Hong Kong University of Science and Technology(香港科技大学);University of Sydney(悉尼大学);La Trobe University(拉筹伯大学);CSIRO DATA61(澳大利亚联邦科学与工业研究组织数据61)
非正交多址接入(NOMA)技术被视为未来无线物联网(IoT)网络的一个有前途的组成部分,可以支持大规模连接,同时显著提高频谱效率。协作NOMA能够进一步提高恶劣信道条件下用户的通信可靠性。然而,传统的系统设计受到几个固有的限制,并且从比特出错率(BER)的角度来看没有被优化。在本文中,我们开发了一种新的深度合作NOMA方案,借鉴了深度学习(DL)的最新进展。我们开发了一种新的混合级联深度神经网络(DNN)架构,使得整个系统可以以整体的方式进行优化。在此基础上,构造了多个损失函数来量化BER性能,并提出了一种新的面向多任务的两阶段训练方法,以自监督的方式解决端到端训练问题。然后基于信息论分析了DNN每个模块的学习机制,为所提出的DNN架构及其相应的训练方法提供了见解。我们还适应所提出的计划,以处理训练和推理之间的功率分配(PA)不匹配,并将其与信道编码,以打击信号恶化。仿真结果验证了它的优势,在各种场景中的正交多址接入(OMA)和传统的合作NOMA方案。
2020-07-27 cs.IT cs.LG eess.SP
Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation
University of Science and Technology of China(中国科学技术大学);Huawei Technologies co. ltd(华为技术有限公司);Shenzhen University(深圳大学)
最近的研究表明,图神经网络(GNNs)是脆弱的,很容易被小扰动欺骗,这引起了人们对在各种安全关键应用中调整GNNs的相当大的关注。在这项工作中,我们专注于新兴的,但关键的攻击,即,图注入攻击(GIA),其中对手通过注入假节点,而不是修改现有的结构或节点属性中毒的图形。受对抗攻击与扰动图上的异质性增加有关的研究结果(对手倾向于连接不同的节点)的启发,我们提出了一个通用的防御框架CHAGNN,通过图数据和模型的合作同伦增强来对抗GIA。具体来说,该模型在每一轮训练中为未标记的节点生成伪标签,以减少具有不同标签的节点的异质边缘。更干净的图被反馈到模型,产生更多信息的伪标签。在这种迭代的方式,模型的鲁棒性,然后有望增强。本文从理论上分析了同质性增强的效果,并为该方案的有效性提供了保证。实验结果经验证明了CHAGNN的有效性,与最近的最先进的防御方法在不同的现实世界的数据集。
2022-11-15 cs.LG cs.SI
Training Detection-Range-Frugal Cooperative Collision Avoidance Models for Quadcopters via Neuroevolution
University at Buffalo(布法罗大学)
避免小型无人机(UAV)之间碰撞的合作自主方法是UAV在民用空域内安全集成的核心。一种潜在的在线合作方法是互惠行动的概念,其中两个无人机采取预先训练的相互一致的行动,不需要主动在线协调(从而避免与之相关的计算负担和风险)。本文提出了一种基于学习的方法来训练这种相互机动。使用进化算法同时优化神经网络的拓扑结构和权重的神经进化被用作学习方法--它在一组样本方法场景上运行。与大多数现有的工作(最小化旅行距离,能量或风险)不同,这里的训练过程侧重于最小化所需检测范围的目标;这对w.r.t.减轻了对复杂感测的依赖性及其在各种环境下的可靠性。一个专门设计的实验和线搜索用于确定每个样本场景的最小检测范围。为了允许有效的训练过程,分类器用于丢弃控制器会失败的动作(而不模拟它们)。通过神经进化获得的模型被观察到很好地推广到(即,成功避免碰撞)看不见的接近场景。
2019-05-31 cs.LG cs.NE cs.RO
A Privacy-preserving Distributed Training Framework for Cooperative Multi-agent Deep Reinforcement Learning
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));School of Data Science(数据科学学院)
深度强化学习(Deep Reinforcement Learning,DRL)在训练过程中有时需要大量的数据来收敛,在某些情况下,智能体的每个动作都可能产生后悔。这种障碍自然会促使不同的数据集或环境所有者进行合作,以共享他们的知识,并更有效地训练他们的代理。然而,如果我们直接合并来自不同所有者的原始数据,就会引发隐私问题。为了解决这个问题,我们提出了一种新的深度神经网络(DNN)架构,具有全局NN和局部NN,以及分布式训练框架。我们允许全局权重由所有协作代理更新,而局部权重仅由它们所属的代理更新。通过这种方式,我们希望全局权重可以共享这些合作者之间的共同知识,而局部神经网络可以保持专门的属性,并确保代理与其特定的环境兼容。实验表明,该框架能够有效地帮助处于相同或相似环境中的智能体在训练过程中进行协作,并获得更高的收敛速度和更好的性能。
2021-09-30 cs.AI cs.LG
ABG: A Multi-Party Mixed Protocol Framework for Privacy-Preserving Cooperative Learning
协作学习是一种由两个或多个数据拥有者共同训练模型的学习方法,被广泛用于解决机器学习中训练数据不足的问题。如今,迫切需要机构和组织合作训练模型,同时保持彼此的数据私密。为了解决协作学习中的隐私保护问题,安全外包计算和联邦学习是两种典型的方法。然而,这两种方法在协作学习中的运用都存在着许多不足。对于安全的外包计算,需要引入半诚实服务器。一旦外包服务器勾结或进行其他主动攻击,数据的隐私将被泄露。对于联邦学习,它很难应用于垂直分区数据分布在多方的场景。在这项工作中,我们提出了一个多方混合协议框架,ABG $^n$,它有效地实现任意转换之间的算术共享(A),布尔共享(B)和混淆电路共享(G)的$n$ -党的场景。基于ABG $^n$,我们设计了一个隐私保护的多方协作学习系统,该系统允许不同的数据拥有者在数据安全和隐私保护方面合作进行机器学习。此外,我们设计了一些典型的机器学习方法,如逻辑回归和神经网络特定的隐私保护计算协议。与以往的工作相比,该方法具有更广泛的适用范围,并且不需要依赖于额外的服务器。最后,我们评估了ABG $^n$在本地设置和公共云设置上的性能。实验表明,ABG $^n$具有良好的性能,尤其是在低延迟的网络环境中。
2022-02-10 cs.CR cs.LG
A neural-network based anomaly detection system and a safety protocol to protect vehicular network
本论文提出一种基于LSTM的机器学习异常行为检测系统(MDS)及车队解散安全协议,在VeReMi数据集离线训练并实时测试,能有效防止车队场景中异常行为引发的事故,提升协作式智能交通系统的驾驶安全。
2024-11-11 cs.AI cs.LG cs.NI
Cooperative Multi-Agent Learning for Navigation via Structured State Abstraction
Nokia Bell Labs(诺基亚贝尔实验室);University of Oulu(奥卢大学)
本文提出一种新颖的神经网络架构,联合学习自适应状态空间抽象与通信协议,显著减小了协作多智能体导航任务中的状态空间,提升了策略奖励并减少了训练迭代次数。
2024-02-12 cs.LG cs.MA
Neural Payoff Machines: Predicting Fair and Stable Payoff Allocations Among Team Members
Radboud University(拉德堡德大学);DeepMind(深度思维);Donders Institute for Brain, Cognition and Behaviour(唐德斯脑、认知与行为研究所)
在许多多智能体环境中,参与者可以组成团队,以实现可能远远超过其个人能力的集体成果。衡量代理人的相对贡献并为他们分配促进长期合作的奖励份额是一项艰巨的任务。合作博弈论提供了解决方案的概念,确定分配方案,如Shapley值,公平地反映了个人对团队或核心绩效的贡献,这减少了代理人放弃团队的动机。这些方法的应用包括确定有影响力的特征和分担合资企业或团队组建的成本。不幸的是,使用这些解决方案需要解决计算障碍,因为它们很难计算,即使在受限的设置中。在这项工作中,我们展示了如何合作博弈论的解决方案可以通过训练神经网络提出公平和稳定的收益分配,提炼成一个学习模型。我们表明,我们的方法创建的模型可以推广到远离训练分布的游戏,并且可以预测比训练期间观察到的更多玩家的解决方案。我们的框架的一个重要应用是可解释的AI:我们的方法可以用于在许多情况下加速Shapley值计算。
2022-08-18 cs.AI cs.GT cs.LG
Deep neural networks for collaborative learning analytics: Evaluating team collaborations using student gaze point prediction
University of Delaware(特拉华大学);Computer and Information Sciences(计算机与信息科学学院)
对协作任务中团队绩效的自动评估是学习分析和计算机支持的协同工作研究的关键。有一个越来越多的兴趣在使用凝视导向的线索来评估团队的协作和合作。然而,由于时间和成本的限制,使用眼睛跟踪器收集注视数据并不总是可行的。在本文中,我们介绍了一个自动化的团队评估工具的基础上,凝视点和联合视觉注意(JVA)信息提取的计算机视觉解决方案。然后,我们评估团队合作的本科解剖学学习活动(N=60,30支球队)作为一个测试用户的研究。结果表明,高JVA与学生学习成绩呈正相关(r(30)= 0.50,p <0.005)。此外,参与两个实验组并使用交互式三维解剖模型的团队比对照组具有更高的JVA(F(1,28)= 6.65,p <0.05)和更好的知识保持(F(1,28)= 7.56,p <0.05)。不同性别的团队在JVA上没有显著差异。这项工作的结果提供了一种新的相互注意为基础的措施,客观地评估团队协作动态学习科学和协作计算的影响。
2020-10-16 cs.CY cs.HC cs.LG
Cooperative Classification and Rationalization for Graph Generalization
University of Science and Technology of China(中国科学技术大学);State Key Laboratory of Cognitive Intelligence(认知智能国家重点实验室);Douyin Vision Co., Ltd(抖音视觉有限公司)
针对图神经网络分布外泛化难的问题,提出由分类和合理化模块组成的C2R方法,通过环境条件生成、依据子图分离、知识蒸馏对齐及多环境协同学习提升泛化能力,实验验证了其有效性。
2024-03-10 cs.AI cs.LG
Online Vertical Federated Learning for Cooperative Spectrum Sensing
University of Miami(迈阿密大学)
针对基于深度学习的协作频谱感知集中式学习存在的通信开销与隐私风险,以及现有纵向联邦学习方案难应对流式数据和目标偏移的问题,提出在线纵向联邦学习框架,经理论和实验验证其性能优于基准。
2023-12-18 cs.LG cs.NI eess.SP
Distributed Multi-Objective Dynamic Offloading Scheduling for Air-Ground Cooperative MEC
College of Electronic and Information Engineering, Nanjing University of Aeronautics and Astronautics(南京航空航天大学电子信息工程学院);School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);Beijing Institute of Technology(北京理工大学);Yangtze Delta Region Academy of Beijing Institute of Technology (Jiaxing)(北京理工大学长三角研究院(嘉兴));Advanced Technology Research Institute of Beijing Institute of Technology (Jinan)(北京理工大学先进技术研究院(济南));Advanced Research Institute of Multidisciplinary Science, Beijing Institute of Technology(北京理工大学先进交叉科学研究院)
本文提出一种集成MORL与核方法的分布式多目标动态轨迹规划与卸载调度方案,利用n步回报和核神经网络,显著改善空地协同MEC中的积压性能、能耗及决策时间。
2024-03-16 cs.IT cs.LG math.IT
Decentralized Neural Networks for Robust and Scalable Eigenvalue Computation
提出一种基于分布式协作神经网络的去中心化算法,使多个智能体协作估计大型矩阵的最小特征值,在通信延迟或中断下仍保持稳健与可扩展,性能优于集中式方法。
2024-09-19 cs.LG cs.NA math.NA