JointMatch: A Unified Heterogeneous Graph Neural Solver for Large-Scale Ride-Sharing Matching
针对网约车匹配中请求配对与车辆分配分离导致收入损失和扩展性差的问题，提出统一异构图求解器JointMatch，通过空间稀疏化线性扩展并用GNN一次打分，在纽约出租车数据上超越基线和两阶段方法，速度提升20倍以上。
2026-09-18 cs.AI
FLORA: A deep learning approach to predict forest attributes from heterogeneous LiDAR data
Univ Gustave Eiffel, Géodata Paris, IGN, LASTIG（古斯塔夫·埃菲尔大学，巴黎地理数据，IGN，LASTIG）；Univ Gustave Eiffel, Géodata Paris, IGN, LIF（古斯塔夫·埃菲尔大学，巴黎地理数据，IGN，LIF）；Université de Lorraine, Géodata Paris, IGN, LIF（洛林大学，巴黎地理数据，IGN，LIF）
提出FLORA框架，利用八叉树骨干网络与生态时空辅助变量，从异构LiDAR点云预测六种森林属性，在法国32,052个样地验证，主导高rRMSE约12.3%。
2026-07-01 cs.AI cs.CV
Hierarchical fuzzy neural networks with privacy preservation for heterogeneous big data
异构大数据给机器学习带来了许多挑战。其巨大的规模、高维度和固有的不确定性使得机器学习的几乎每个方面都很困难，从提供足够的处理能力到保持模型的准确性，再到保护隐私。然而，也许最令人担忧的问题是，大数据往往夹杂着敏感的个人数据。因此，我们提出了一个隐私保护层次模糊神经网络（PP-HFNN），以解决这些技术挑战，同时也减轻隐私问题。该网络的训练与两阶段的优化算法，并在层次结构的低级别的参数学习与计划的基础上，众所周知的交替方向的乘法器，它不会透露本地数据给其他代理。层次结构的高层协调由交替优化方法处理，该方法收敛非常快。整个训练过程是可扩展的，快速的，并且不会像基于反向传播的方法那样遭受梯度消失问题。在回归和分类任务上进行的综合仿真证明了所提出的模型的有效性。
2022-09-18 cs.AI cs.CR cs.LG
Data-driven Projection Generation for Efficiently Solving Heterogeneous Quadratic Programming Problems
Communication Science Laboratories, NTT, Inc.（NTT通信科学实验室）；The University of Osaka（大阪大学）；The University of Tokyo（东京大学）；RIKEN AIP（日本研究机构AIP）
我们提出了一个数据驱动的框架，有效地解决二次规划（QP）的问题，通过减少变量的数量在高维QP使用实例特定的投影。一个基于图神经网络的模型被设计成生成针对每个QP实例的投影，使我们能够产生高质量的解决方案，即使是以前看不见的问题。该模型在异构QP上进行训练，以最小化在投影解决方案上评估的预期目标值。这被公式化为一个双层优化问题;内部优化使用QP求解器在给定投影下求解QP，而外部优化更新模型参数。我们开发了一个有效的算法来解决这个双层优化问题，它计算参数梯度，而不通过求解器反向传播。我们提供了一个理论分析的泛化能力，解决问题的投影矩阵产生的神经网络。实验结果表明，我们的方法产生高质量的可行解，减少计算时间，优于现有的方法。
2025-10-30 cs.AI cs.LG math.OC
A GAN Approach for Node Embedding in Heterogeneous Graphs Using Subgraph Sampling
Academia Sinica（中央研究院）；National Chenchi University（国立政治大学）；National Taiwan University（国立台湾大学）
本文提出一种结合GNN与GAN的异构图节点嵌入框架，通过对抗学习同时生成合成节点和边，以缓解类别不平衡问题，并在多个真实数据集上验证了其在少数类节点识别任务中的优越性能。
2024-11-23 cs.AI cs.LG cs.SI
CTRL: Continuous-Time Representation Learning on Temporal Heterogeneous Information Network
University of Alberta（阿尔伯塔大学）；Tencent（腾讯）；Sun Yat-Sen University（中山大学）
针对现有时序异构图表示学习方法归纳能力不足、忽略高阶拓扑演化的问题，提出整合异质注意力、边基霍克斯过程和动态中心性的CTRL模型，通过未来子图预测训练，在三个基准数据集上性能优于现有最优方法。
2024-05-11 cs.AI cs.LG cs.SI
CauseCollab: Causal Unified and Modality-Agnostic Network for Heterogeneous Collaborative Perception
State Key Laboratory of Networking and Switching Technology（网络与交换技术国家重点实验室）；Beijing University of Posts and Telecommunications（北京邮电大学）
本文针对异构协同感知的语义不一致与误差累积问题，提出CauseCollab因果统一模态无关网络，通过因果度量学习与上下文引导统一转换器实现跨模态语义一致，在OPV2V等数据集上取得SOTA性能。
2026-09-04 cs.AI
Cooperative Policy Learning with Pre-trained Heterogeneous Observation Representations
Microsoft Research（微软研究院）；Beijing University of Posts and Telecommunications（北京邮电大学）；Hong Kong University of Science and Technology（香港科技大学）；Microsoft ARD Incubation Team（微软ARD孵化团队）
多智能体强化学习（MARL）已经越来越多地被探索学习合作政策，以最大化一定的全球回报。许多现有的研究利用MARL中的图神经网络（GNN）在交互图上传播关键的协作信息，建立在相互连接的代理上。然而，香草GNN方法在处理复杂的现实世界场景中产生了很大的缺陷，因为通用的消息传递机制在异构顶点之间是无效的，而且，简单的消息聚合函数无法准确地建模来自多个邻居的组合交互。虽然采用具有更多信息的消息传递和聚合机制的复杂GNN模型可以明显地有利于异构顶点表示和协作策略学习，但另一方面，它可能增加MARL的训练难度，并且与原始全局奖励相比，需要更强烈和直接的奖励信号。为了应对这些挑战，我们提出了一个新的协作学习框架与预先训练的异构观察表示。特别是，我们采用了基于编码器-解码器的图形注意力来学习复杂的交互和异构表示，可以更容易地利用MARL。此外，我们设计了一个预训练与本地演员-评论家算法，以减轻合作策略学习的困难。在真实场景中进行的大量实验表明，我们的新方法可以显着优于现有的MARL基线以及在行业中广泛使用的运筹学解决方案。
2020-12-24 cs.AI cs.LG
Federated Split BERT for Heterogeneous Text Classification
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）
预训练的BERT模型在许多自然语言处理（NLP）任务中取得了令人印象深刻的性能。然而，在许多现实情况下，文本数据通常分散在许多客户端上，并且由于隐私保护和法规而无法上传到中央服务器。联邦学习（FL）使多个客户端协作训练一个全局模型，同时保持本地数据的隐私。一些研究已经在联邦学习环境中研究了BERT，但是异构（例如，非IID）数据仍然未被充分探索。为了解决这个问题，我们提出了一个框架，FedSplitBERT，它处理异构数据，并通过将BERT编码器层分为局部部分和全局部分来降低通信成本。局部部分参数仅由局部客户端训练，而全局部分参数通过聚合多个客户端的梯度来训练。由于BERT的庞大规模，我们探索了一种量化方法，以进一步降低通信成本，以最小的性能损失。我们的框架是现成的，并兼容许多现有的联邦学习算法，包括FedAvg，FedProx和FedAdam。我们的实验验证了该框架的有效性，它优于基线方法的显着保证金，而量化的FedSplitBERT可以减少$11.9\times$的通信成本。
2022-05-26 cs.AI cs.CL cs.LG
Referential communication in heterogeneous communities of pre-trained visual deep networks
Universitat Pompeu Fabra（庞培法布拉大学）；ICREA（加泰罗尼亚研究与高级研究所）
本文研究异构预训练视觉网络群体如何通过自监督形成共享指称协议，并验证该协议可泛化到新类别、易被新网络学习且能捕捉高层语义特征。
2025-04-08 cs.AI cs.CV cs.LG
Expert Finding in Heterogeneous Bibliographic Networks with Locally-trained Embeddings
Facebook（脸书）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Amazon AI（亚马逊人工智能）
专家发现是工业界和学术界的一项重要任务。对于各种查询，对具有适当专业知识的候选人进行排名具有挑战性。此外，不同类型的对象相互作用，自然形成异构信息网络。本文从文本内容分析和权威性排序两个方面研究了异构书目网络中的专家发现问题。在文本内容分析方面，提出了一种基于概念层次结构的局部嵌入学习的查询扩展方法，该方法特别适合于语义较窄的查询.与全局嵌入学习相比，局部训练的嵌入学习将词项映射到一个受相关主题约束的潜在语义空间中，从而为特定查询保留了更精确和微妙的信息。考虑到候选人的排名，异构的信息网络结构，而在很大程度上被忽略了在以前的研究中的专家发现，提供了额外的信息。具体来说，对象之间不同类型的交互作用起着不同的作用。我们提出了一种排名算法来估计网络中对象的权威性，单独对待每个强类型的边缘类型。为了证明所提出的框架的有效性，我们将所提出的方法应用到一个大规模的书目数据集，超过200万个条目和100万名研究人员候选人。实验结果表明，该框架优于现有的方法，一般和特定的查询。
2018-03-09 cs.AI cs.CL cs.IR
Neural Dynamics-Informed Pre-trained Framework for Personalized Brain Functional Network Construction
本文提出一种基于神经动态的预训练框架，用于构建个性化脑功能网络，通过提取个性化神经活动表示并指导脑分区和相关性估计，提升了异质场景下的性能。
2026-03-08 cs.AI cs.LG
SoftGPT: Learn Goal-oriented Soft Object Manipulation Skills by Generative Pre-trained Heterogeneous Graph Transformer
The Chinese University of Hong Kong（香港中文大学）；The Hong Kong Polytechnic University（香港理工大学）；Idiap Research Institute（Idiap研究所）
针对家庭场景软体物体操作难题，提出预训练模型SoftGPT，结合异构图表示与GPT动力学模型，通过思考过程提供展开，高效学习多种操作技能并支持从人类示范直接学习。
2023-09-03 cs.AI cs.RO
Syntax-informed Question Answering with Heterogeneous Graph Transformer
National University of Singapore（新加坡国立大学）
大型神经语言模型正在为问答和其他自然语言和信息处理任务提供最先进的性能。这些模特的训练费用很高。我们建议评估这种预先训练的模型是否可以从添加明确的语言学信息中受益，而不需要从头开始重新训练。我们提出了一种基于语言学的问答方法，该方法扩展并微调了预训练的基于transformer的神经语言模型，该模型具有用异构图Transformer编码的符号知识。我们说明了这种方法，通过添加语法信息的形式依赖和选区图形结构连接令牌和虚拟顶点。一个比较实证的性能评估与BERT作为其基线和斯坦福大学的问答数据集证明了所提出的方法的竞争力。我们认为，在结论和初步实验的进一步结果，该方法是可扩展的进一步语言学信息，包括语义和语用。
2022-05-23 cs.AI cs.CL
An Upload-Efficient Scheme for Transferring Knowledge From a Server-Side Pre-trained Generator to Clients in Heterogeneous Federated Learning
Shanghai Jiao Tong University（上海交通大学）；Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Queen’s University Belfast（贝尔法斯特女王大学）
针对异构联邦学习中知识迁移难的问题，提出以预训练生成器为桥梁的FedKTL上传高效方案，通过生成任务相关原型对实现知识迁移，性能优于现有方法且适配云边场景。
2024-08-19 cs.AI cs.DC
Coordinated Heterogeneous Distributed Perception based on Latent Space Representation
Bielefeld University（比勒费尔德大学）；Queensland University of Technology（昆士兰科技大学）
我们研究了一种基于多模态深度生成模型的潜在空间的分布式感知增强方法。我们的贡献提供了以下好处的见解：由于由变分自动编码器（VAE）训练的信息的共享潜在表示，检测可以在配备有单峰传感器的机器人之间有效地交换。由于VAE的生成特性，传感器融合可以异步应用。深度Q网络（DQN）经过训练，通过将机器人协调到感兴趣点（POI）来最大限度地减少潜在空间中的不确定性，其中它们的传感器模态可以提供有关POI的有益信息。此外，我们表明，不确定性的降低可以被定义为训练DQN的直接奖励信号。
2018-09-12 cs.AI cs.LG cs.RO
Customizing Student Networks From Heterogeneous Teachers via Adaptive Knowledge Amalgamation
Zhejiang University（浙江大学）；Stevens Institute of Technology（史蒂文斯理工学院）；Alibaba-Zhejiang University Joint Institute of Frontier Technologies（阿里巴巴-浙江大学前沿技术联合研究院）
开发人员已经在线发布了大量训练有素的深度网络。这些网络可能专注于不同的任务，并且在许多情况下针对不同的数据集进行了优化。在本文中，我们研究如何利用这种异构的预先训练的网络，称为教师，以便训练一个定制的学生网络，解决一组由用户定义的选择性任务。我们假设没有人类注释可用，每个教师可能是单任务或多任务。为此，我们引入了一个双步骤的策略，首先从共享同一子任务的异构教师中提取特定于任务的知识，然后合并提取的知识来构建学生网络。为了便于训练，我们采用了一种选择性学习方案，对于每个未标记的样本，学生只从具有最小预测模糊性的老师那里自适应地学习。我们评估了所提出的方法在几个数据集和实验结果表明，学生，学习这种自适应知识融合，取得的成绩甚至比那些教师。
2019-08-20 cs.AI cs.CV cs.LG
Heterogeneous-Branch Collaborative Learning for Dialogue Generation
School of Computer Science, Beijing Institute of Technology（北京理工大学计算机学院）
随着深度学习的发展，高级对话生成方法通常需要更大量的计算资源。获得高性能和轻量级模型的一种有前途的方法是知识蒸馏，它在很大程度上依赖于预先训练的强大教师。协作学习，又称在线知识蒸馏，是在缺乏训练有素的大型教师模型的情况下进行一阶段小组蒸馏的有效方式。然而，以前的工作有一个严重的分支同质性问题，由于相同的训练目标和独立的相同的训练集。为了缓解这个问题，我们在网络分支的训练中考虑对话属性。每个分支基于所选择的子集学习与属性相关的特征。此外，我们提出了一种基于双组的知识蒸馏方法，包括积极蒸馏和消极蒸馏，以进一步多样化的不同分支的特征，在一个稳定的和可解释的方式。所提出的方法显着改善分支异构性，并优于两个广泛使用的开放域对话数据集上的最先进的协作学习方法。
2023-03-21 cs.AI cs.CL
Compressing Pre-trained Transformers via Low-Bit NxM Sparsity for Natural Language Understanding
Colorado School of Mines（科罗拉多矿业学院）；Microsoft（微软）
近年来，大型预训练的Transformer网络在许多自然语言理解任务中表现出显着的改进。然而，由于延迟和成本限制，这些模型的巨大规模为其微调和在线部署带来了重大挑战。支持N：M半结构化稀疏性和低精度整数计算的新硬件是提高DNN模型服务效率的一种有前途的解决方案。然而，很少有研究系统地研究预训练的Transformer网络在多大程度上受益于这些技术的组合，以及如何最好地压缩Transformer的每个组件。我们提出了一个灵活的压缩框架NxMiFormer，使用ADMM和基于ST的QAT同时进行稀疏化和量化。此外，我们还提出了廉价的启发式搜索算法，该算法可以识别满足压缩比约束的有前途的异构压缩配置。当在NLU基准测试的GLUE套件中进行评估时，我们的方法可以实现BERT模型编码器的高达93%的压缩，同时保留98.2%的原始模型精度并充分利用硬件的功能。通过搜索启发式找到的异构配置保持了99.5%的基线准确度，同时仍然将模型压缩了87.5%。
2022-06-30 cs.AI cs.CL
MLLM-Routed Heterogeneous Ensembles for Robust Cross-Dataset Image Classification
The Bredesen Center for Interdisciplinary Research and Graduate Education（布雷德森跨学科研究与研究生教育中心）；University of Tennessee Knoxville（田纳西大学诺克斯维尔分校）
该研究针对跨数据集图像分类泛化难题，提出ARMDIL模型，通过MLLM智能体动态路由图像到适配的视觉骨干，兼具竞争力、高适应性与可解释性，为通用视觉系统奠定基础。
2026-08-28 cs.AI cs.CL cs.CV
HEALNet: Multimodal Fusion for Heterogeneous Biomedical Data
University of Cambridge（剑桥大学）
本文提出HEALNet多模态早期融合注意力架构，在共享潜在空间中保留模态结构并捕捉跨模态交互，可处理缺失模态且支持直观检查；在TCGA四个癌症数据集的WSI与多组学生存分析中达到最先进性能。
2024-10-28 cs.AI cs.LG
Fast and Accurate Transferability Measurement for Heterogeneous Multivariate Data
Seoul National University（首尔国立大学）；Samsung Research, Samsung Electronics Co., Ltd.（三星电子株式会社三星研究院）
给定一组异构源数据集及其分类器，我们如何快速找到对特定目标任务最有用的源数据集？我们解决了测量源和目标数据集之间的可转移性的问题，其中源和目标具有不同的特征空间和分布。我们提出Transmeter，一个快速，准确的方法来估计两个异构的多元数据集的可转移性。我们解决了三个挑战，在测量两个异构的多变量数据集之间的可转移性：减少时间，最大限度地减少域间隙，并提取有意义的同质表示。为了克服上述问题，我们利用了一个预先训练的源模型，一个对抗网络和一个编码器-解码器架构。在异构多变量数据集上进行的大量实验表明，Transmeter提供了最准确的可转移性测量，其性能比竞争对手快10.3倍。我们还表明，选择最好的源数据与Transmeter其次是一个完整的传输导致最佳的传输精度和最快的运行时间。
2021-01-29 cs.AI cs.LG stat.ML
Generation of Speaker Representations Using Heterogeneous Training Batch Assembly
Academia Sinica（中央研究院）
在传统的说话人日志化系统中，一个经过良好训练的说话人模型是从长语音会话中连续和部分重叠的片段中提取表示的关键组件。为了与后端分割和聚类更加一致，我们提出了一种新的基于CNN的说话人建模方案，该方案考虑了每个训练段和批次中说话人的异质性。我们将训练数据随机合成地扩充为一组片段，每个片段包含多个说话者和一些重叠部分。该方法根据说话人占用率对每段语音进行软标记，并在模型训练中采用标准交叉熵损失。通过这种方式，说话人模型应该能够为每个多说话人段生成几何上有意义的嵌入。实验结果表明，我们的系统是优于基线系统使用x向量在两个说话人日记任务。在NIST SRE和Switchboard数据集上训练的CALLHOME任务中，我们的系统实现了DER的相对减少12.93%。在CHiME-6的轨道2中，我们的系统分别提供了DER、JER和WER的13.24%、12.60%和5.65%的相对降低。
2022-03-30 cs.AI cs.CL cs.LG
Training Semantic Segmentation on Heterogeneous Datasets
Eindhoven University of Technology（埃因霍温理工大学）
本文在传统的单数据集同质训练的基础上，对语义分割进行了探索，提出了语义分割的异质训练问题。HTSS涉及多个异构数据集的同时训练，即从语义分割的角度来看，具有冲突标签空间和不同（弱）注释类型的数据集。HTSS公式将深度网络暴露给更大且以前未探索的信息聚合，这些信息可以在三个方向上潜在地增强语义分割：i）性能：在可见数据集上增加分割度量，ii）泛化：在不可见数据集上改进分割度量，以及iii）知识性：增加可识别语义概念的数量。为了研究HTSS的这些好处，我们提出了一个统一的框架，该框架将异构数据集纳入一个单一的网络训练管道，遵循既定的FCN标准。我们的框架首先管理异构数据集，将它们转换为通用格式，然后同时在所有数据集上训练单一骨干FCN。为了实现这一点，它转换弱注释，这是不兼容的语义分割，每像素的标签，并分层到一个通用的分类标签空间。经过训练的HTSS模型在广泛的数据集上展示了性能和泛化增益，并扩展了推理标签空间，从而产生了数百个语义类。
2023-01-18 cs.AI cs.CV cs.LG
Compare Where It Matters: Using Layer-Wise Regularization To Improve Federated Learning on Heterogeneous Data
Sungkyunkwan University（成均馆大学）
本文提出FedCKA框架，通过CKA识别神经网络重要层并施加逐层正则化，在异构数据联邦学习中超越现有方法，同时提升效率与可扩展性。
2021-12-01 cs.AI cs.DC cs.LG
Incremental Learning for Heterogeneous Structure Segmentation in Brain Tumor MRI
Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）
本文提出一种用于脑肿瘤MRI异构结构分割的增量学习方法，通过散度感知双流模块和互补伪标签训练方案，在持续变化的目标域中更新分割模型，缓解灾难性遗忘并支持终身模型扩展。
2023-05-30 cs.AI cs.CV cs.LG
Deep Indexed Active Learning for Matching Heterogeneous Entity Representations
IIT Bombay（印度理工学院孟买分校）；IBM Research, Almaden（IBM阿尔马登研究中心）
给定两个大的记录列表，实体解析（ER）的任务是从列表的笛卡尔积中找到对应于同一真实世界实体的对。通常，这些任务的被动学习方法需要大量的标记数据来产生有用的模型。主动学习是低资源环境下的一种有前途的ER方法。然而，搜索空间，为用户找到信息样本进行标记，二次增长的实例对任务，使主动学习难以规模。在这种情况下，以前的工作依赖于手工制作的谓词，预先训练的语言模型嵌入，或规则学习来从笛卡尔积中删除不太可能的对。这个阻塞步骤可能会错过产品空间中的重要区域，导致召回率低。我们提出了DIAL，一种可扩展的主动学习方法，它联合学习嵌入，以最大限度地提高阻塞的召回率和匹配阻塞对的准确性。DIAL使用Index-By-Committee框架，其中每个委员会成员基于强大的预训练Transformer语言模型学习表示。我们强调了匹配器和阻塞器在创建训练数据和用于训练其参数的目标方面的惊人差异。在五个基准数据集和一个多语言记录匹配数据集上的实验表明了该方法在查准率、查全率和运行时间方面的有效性。代码可在https://github.com/ArjitJ/DIAL上获得
2022-01-18 cs.AI cs.DB cs.LG
Musketeer: Joint Training for Multi-task Vision Language Model with Task Explanation Prompts
The Chinese University of Hong Kong（香港中文大学）；AWS AI Labs（AWS AI实验室）
提出Musketeer，一种多任务视觉语言模型，通过任务解释提示（TEP）减少任务干扰，实现参数共享，性能媲美或超越单任务基线。
2024-03-14 cs.AI cs.CL cs.CV
G2PTL: A Pre-trained Model for Delivery Address and its Applications in Logistics System
Cainiao Network（菜鸟网络）
针对物流配送地址编码中地理知识缺失的问题，提出地理图预训练模型G2PTL，结合文本语义与图关系编码，在菜鸟系统四个下游任务中显著提升性能。
2023-08-31 cs.AI
