FedHERO: A Federated Learning Approach for Node Classification Task on Heterophilic Graphs
University of Virginia(弗吉尼亚大学);Florida State University(佛罗里达州立大学)
针对联邦图学习中异配图导致的模型聚合性能下降问题,提出FedHERO框架,利用带结构学习器的双通道GNN提取通用结构知识,提升各客户端模型性能。
2025-05-26 cs.AI cs.DC cs.LG
Piecewise Constant Spectral Graph Neural Network
Université Paris-Saclay CentraleSupélec, Inria, France(巴黎-萨克雷大学中央超算研究所、法国国家信息与自动化技术研究院)
本文提出分段常数谱图神经网络PieCoN,通过结合常数谱滤波器与多项式滤波器并自适应划分频谱区间,解决低阶多项式滤波器谱表征能力不足的问题,在异配图数据集上表现尤为突出。
2025-05-07 cs.AI cs.LG
Towards Leveraging AutoML for Sustainable Deep Learning: A Multi-Objective HPO Approach on Deep Shift Neural Networks
Institute of Artificial Intelligence, Leibniz University Hannover(莱布尼茨汉诺威大学人工智能研究所)
针对深度学习计算成本高的问题,提出结合多保真度HPO与多目标优化,在深度移位神经网络上同时最大化精度和最小化能耗,实验获得超80%精度且低计算开销。
2026-06-17 cs.AI cs.LG
Exploring the Potential of Large Language Models for Heterophilic Graphs
Singapore Management University(新加坡管理大学);Beijing University of Post and Telecommunication(北京邮电大学)
针对异配图中节点文本未被充分利用的问题,提出结合 LLM 边判别、边重加权与模型蒸馏的两阶段框架,提升 GNN 节点分类性能。
2025-02-15 cs.AI cs.CL cs.LG
Spectro-Riemannian Graph Neural Networks
Carnegie Mellon University(卡内基梅隆大学);Texas A&M University(德克萨斯农工大学);Amazon(亚马逊公司)
本文提出谱-黎曼图神经网络CUSP,首次统一曲率与谱信号,通过混合曲率谱滤波、曲率拉普拉斯算子和分层池化,在节点分类与链路预测上超越现有模型。
2025-06-04 cs.AI cs.LG stat.ML
Discovering Invariant Neighborhood Patterns for Heterophilic Graphs
Zhejiang University(浙江大学);The Pennsylvania State University(宾夕法尼亚州立大学)
本文针对非异配图上的邻域模式分布偏移问题,提出 INPL 框架,通过 ANP 和 INHGL 模块学习自适应且 invariant 的图表示,并在真实非异配图上取得领先性能。
2025-08-15 cs.LG cs.SI
Graph Negative Feedback Bias Correction Framework for Adaptive Heterophily Modeling
本文提出GNFBC框架,通过负反馈机制校正GNNs在异质图上的偏差,提升模型性能。
2026-03-04 cs.AI cs.LG
Does Homophily Help in Robust Test-time Node Classification?
The University of Queensland(昆士兰大学)
本文提出基于同质性的测试时图结构转换方法GrapHoST,通过预测同质性分数自适应调整图结构,无需训练即可提升预训练GNN在节点分类上的鲁棒性,在九个基准数据集上取得最高10.92%的性能提升。
2025-10-25 cs.AI cs.LG
Using Subgraph GNNs for Node Classification:an Overlooked Potential Approach
East China Normal University(东华师范大学)
SubGND通过引入子图分类方法和自适应特征缩放机制,在异质设置中实现了与全局GNNs相当或更优的节点分类性能。
2026-01-13 cs.AI cs.LG
ATLAS: Adaptive Topology-based Learning at Scale for Homophilic and Heterophilic Graphs
University of North Texas(德克萨斯大学)
ATLAS通过多分辨率社区特征编码图结构,实现无传播的规模化学习,在同质与异质图中均表现出色。
2026-08-26 cs.LG
Learning Graph Quantized Tokenizers
Meta AI
提出GQT(Graph Quantized Tokenizer),通过多任务图自监督学习解耦分词器与Transformer训练,并利用RVQ学习分层离散token,结合token调制使Transformer在22个基准中的20个达到SOTA。
2025-04-02 cs.AI cs.LG cs.NE
CP$^2$: Leveraging Geometry for Conformal Prediction via Canonicalization
Amsterdam Machine Learning Lab, University of Amsterdam(阿姆斯特丹机器学习实验室,阿姆斯特丹大学);UvA-Bosch Delta Lab, University of Amsterdam(UvA-博奇德尔塔实验室,阿姆斯特丹大学)
针对几何数据偏移破坏共形预测保证的问题,提出将几何位姿规范化信息融入共形过程,以恢复覆盖保证并提升鲁棒性,实验验证其优于等变与增强基线。
2025-06-19 cs.AI cs.LG stat.ML
Shift-Aware Calibration for Fine-Tuned CLIP: Leveraging Image-Text Alignment
Nanjing University(南京大学)
研究针对微调CLIP时预测置信度与准确性不一致问题,提出无需训练的移位感知校准(SAC)方法,利用原始与微调CLIP输出对数差异作校准信号,经实验验证该方法在多数据集和微调方法上提升了校准效果。
2026-07-28 cs.CV cs.LG
Leveraging Gradients for Unsupervised Accuracy Estimation under Distribution Shift
Univ. Rennes 2, CNRS, IRISA(里昂第二大学、国家科学研究中心、IRISA);College of Computing and Data Science Nanyang Technological University(南洋理工大学计算机与数据科学学院);Huawei Noah’s Ark Lab(华为诺亚实验室);Inria(法国国家信息与自动化技术研究院);Huawei Noah’s Ark Lab Paris, France(巴黎华为诺亚实验室,法国);Huawei Noah’s Ark Lab Shenzhen, China(深圳华为诺亚实验室,中国)
本文提出利用测试数据上单步交叉熵损失反向传播的分类层梯度范数,在无标签且存在分布偏移时估计模型准确率,并通过理论分析与多架构实验证明其优于现有方法。
2025-05-12 cs.LG
Addressing Graph Anomaly Detection via Causal Edge Separation and Spectrum
Tianjin University(天津大学)
针对异常网络异配结构导致GNN技术失效问题,提出基于因果边分离的频谱神经网络CES2-GAD,通过分离图边、混合频谱滤波等步骤提升检测效果,实验验证其有效性。
2025-08-20 cs.LG
Robust Calibration For Improved Weather Prediction Under Distributional Shift
ML Collective(机器学习社区);RV College of Engineering(RV工程学院)
本文针对分布偏移下的域外天气预报与不确定性估计问题,提出结合混合专家、先进数据增强与鲁棒事后校准的深度神经网络方法,在表格数据上取得了比提升树模型更准确且校准更好的结果。
2024-01-08 cs.AI cs.LG
Gradient Inversion Transcript: Leveraging Robust Generative Priors to Reconstruct Training Data from Gradient Leakage
提出GIT生成式方法,利用定制生成先验从泄漏梯度高效重建训练数据,加速优化收敛并提升质量,在多种挑战下鲁棒性优于现有方法。
2025-05-26 cs.AI cs.LG
GCL-OT: Graph Contrastive Learning with Optimal Transport for Heterophilic Text-Attributed Graphs
Yating Ren, Yikun Ban, Huobin Tan
GCL-OT通过最优传输和定制机制解决文本属性图中的异质性问题,提升结构-文本对齐效果。
2026-01-28 cs.LG
Beyond Smoothing: Unsupervised Graph Representation Learning with Edge Heterophily Discriminating
Monash University(莫纳什大学);Griffith University(格里菲斯大学)
无监督图表示学习(UGRL)已引起越来越多的研究关注,并在多个图分析任务中取得了可喜的成果。依赖于同质性假设,现有的UGRL方法倾向于沿着所有边平滑学习的节点表示,忽略连接具有不同属性的节点的异质性边的存在。因此,目前的方法很难推广到异嗜图,其中不同的节点是广泛连接的,也容易受到对抗攻击。为了解决这个问题,我们提出了一种新的无监督图表示学习方法与边缘hEterophily discriminaTing(GREET),学习表示,通过区分和利用homophilic边缘和heterophilic边缘。为了区分两种类型的边缘,我们建立了一个边缘推理机,推断边缘同质/异质性的特征和结构信息。我们训练的边缘网络在一个无监督的方式,通过最大限度地减少精心制作的锚定的排名损失,随机采样的节点对作为支点。节点表示是通过对比从所区分的同性和异性边缘获得的双通道编码来学习的。通过有效的交互机制,边缘鉴别和表示学习可以在训练阶段相互促进。我们在14个基准数据集和多个学习场景上进行了广泛的实验,以证明GREET的优越性。
2022-11-25 cs.LG cs.SI
DiffWire: Inductive Graph Rewiring via the Lovász Bound
ELLIS Alicante(ELLIS阿利坎特研究所);University of Alicante(阿利坎特大学)
图神经网络(GNN)已被证明在处理与图相关的任务方面取得了有竞争力的结果,例如节点和图分类、链接预测以及各种领域中的节点和图聚类。大多数GNN使用消息传递框架,因此被称为MPNN。尽管MPNN的结果很有希望,但据报道,MPNN存在过度平滑、过度挤压和覆盖不足的问题。图重新布线和图池化已经在文献中被提出作为解决这些限制的解决方案。然而,大多数最先进的图重布线方法不能保持图的全局拓扑结构,既不是可微的也不是归纳的,并且需要调整超参数。在本文中,我们提出了DiffWire,一种新的框架,用于MPNN中的图重新布线,该框架是原则性的,完全可微的,并且通过利用Lovász界来实现无参数。所提出的方法通过在MPNN中提出两个新的互补层来为图重新布线提供统一的理论:CT层,一个学习通勤时间并将其用作边缘重新加权的相关函数的层;和GAP层,一个根据网络的性质和手头的任务来优化频谱间隙的层。我们分别用图分类的基准数据集来实证验证这些层中每一层的价值。我们还对使用CT层进行同性和异性节点分类任务进行了初步研究。DiffWire将通勤时间的可学习性与曲率的相关定义结合在一起,为创建更具表现力的MPNN打开了大门。
2022-11-30 cs.AI cs.LG
Using a Local Surrogate Model to Interpret Temporal Shifts in Global Annual Data
Wilfrid Laurier University(威尔弗里德劳里埃大学)
本文使用LIME局部代理模型解释全球年度数据的时间变化,识别关键驱动因素,并通过多种插补方法处理缺失值,经实证评估验证其有效性。
2024-04-18 cs.AI cs.LG
Robust Calibration with Multi-domain Temperature Scaling
University of California, Berkeley(加州大学伯克利分校)
不确定性量化对于将机器学习模型可靠地部署到高风险应用领域至关重要。当训练分布和测试分布不同时,即使是轻微的分布偏移,不确定性量化也更具挑战性。尽管在现实世界的应用中,分布的变化无处不在,现有的不确定性量化方法主要研究的分布中设置的训练和测试分布是相同的。在本文中,我们开发了一个系统的校准模型来处理分布偏移,利用数据从多个领域。我们提出的方法--多域温度定标--利用域中的异质性来提高分布偏移下的校准鲁棒性。通过对三个基准数据集的实验,我们发现我们提出的方法在分布内和分布外测试集上的性能都优于现有方法。
2022-06-06 cs.AI cs.LG stat.ML
Leveraging Unlabeled Data to Predict Out-of-Distribution Performance
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
现实世界的机器学习部署的特点是源(训练)和目标(测试)分布之间的不匹配,这可能导致性能下降。在这项工作中,我们研究的方法,预测目标域的准确性,只使用标记的源数据和未标记的目标数据。我们提出了平均保留置信度(ATC),这是一种实用的方法,它可以学习模型置信度的阈值,预测精度为模型置信度超过该阈值的未标记示例的比例。ATC在几种模型架构、分布偏移类型(例如,由于合成腐败,数据集复制或新的亚群)和数据集(Wilds,ImageNet,Breeds,CIFAR和MNIST)。在我们的实验中,ATC估计目标性能$2$ - $4\times$比以前的方法更准确。我们还探讨了这个问题的理论基础,证明,在一般情况下,识别的准确性是一样困难的识别最佳预测,因此,任何方法的有效性取决于(也许未说明)的性质的转变的假设。最后,分析我们的方法在一些玩具分布,我们提供了有关它的工作时的见解。代码可在https://github.com/saurabhgarg1996/ATC_code/上获得。
2022-10-15 cs.LG stat.ML
Making Classic GNNs Strong Baselines Across Varying Homophily: A Smoothness-Generalization Perspective
Zhejiang Key Laboratory of Accessible Perception and Intelligent Systems, Zhejiang University(浙江可及感知与智能系统重点实验室,浙江大学);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);School of Software Technology, Zhejiang University(浙江大学软件学院);China University of Mining and Technology(中国矿业大学);Department of Computer Science, New York University Shanghai(纽约大学上海分校计算机科学系)
本文从平滑性-泛化困境出发,提出IGNN架构,通过三个设计原则平衡不同跳数的泛化与平滑性,使经典GNN在不同同质性水平下成为强基线,并在30个基线上验证了优越性。
2025-10-24 cs.AI cs.LG cs.SI
Rectifying Group Irregularities in Explanations for Distribution Shift
University of Pennsylvania(宾夕法尼亚大学)
本文提出群体感知偏移解释(GSE)方法,通过最差群体优化修正分布偏移解释中的群体不规则性,在保持群体结构的同时提升解释的可行性与鲁棒性。
2023-05-25 cs.LG
CurvGAD: Leveraging Curvature for Enhanced Graph Anomaly Detection
Carnegie Mellon University(卡内基梅隆大学)
CurvGAD 提出混合曲率图自编码器,通过曲率等变几何重建和曲率不变结构与属性重建两条并行流水线,利用网络内在曲率识别几何异常并解耦非几何异常,在 10 个真实数据集上相比最先进 GAD 方法提升最高 6.5%。
2025-06-04 cs.AI cs.LG
Online Adaptation to Label Distribution Shift
Cornell University(康奈尔大学);Facebook AI Research(Facebook 人工智能研究院)
机器学习模型在现实世界中部署时经常遇到分布偏移。在本文中,我们专注于适应标签分布偏移在线设置,测试时的标签分布是不断变化的,模型必须动态地适应它,而不观察到真正的标签。利用一种新的分析,我们表明,缺乏真正的标签并不妨碍估计的预期测试损失,这使得减少在线标签偏移适应传统的在线学习。根据这一观察,我们提出了经典的在线学习技术,如跟随领导者(FTL)和在线梯度下降(OGD)的启发自适应算法,并推导出他们的遗憾界限。我们根据经验验证我们的研究结果在模拟和现实世界的标签分布偏移,并表明OGD是特别有效和强大的各种具有挑战性的标签偏移的情况。
2022-01-05 cs.LG stat.ML
Learning Latent Causal Dynamics
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
时间序列建模的一个关键挑战是如何在未知的分布变化下学习和快速校正模型。在这项工作中,我们提出了一个原则性的框架,称为LiLY,首先恢复时间延迟的潜在因果变量,并确定它们的关系,从测量的时间数据下不同的分布变化。然后,校正步骤被公式化为利用来自新环境的几个样本学习低维变化因子,利用所识别的因果结构。具体而言,该框架分解未知的分布转变为过渡分布变化所造成的固定动态和随时间变化的潜在因果关系,并通过全球观测的变化。本文从非参数潜在因果动态的非线性混合出发,建立了非参数潜在因果动态在固定动态和变化动态下的可辨识性理论。通过实验,我们表明,时间延迟的潜在因果影响可靠地识别从不同的分布变化下的观测变量。通过利用这种变化的模块化表示,我们可以有效地学习在未知的分布变化下仅用少量样本来校正模型。
2022-02-23 cs.AI cs.LG stat.ML
Learning to Adapt to Online Streams with Distribution Shifts
The Pennsylvania State University(宾夕法尼亚州立大学);Google Research(谷歌研究院)
测试时自适应(Test-time adaptation,TTA)是一种通过在推理过程中利用未标记的测试数据来减少训练集和测试集之间的分布差距的技术。在这项工作中,我们将TTA扩展到一个更实际的场景,其中测试数据以在线流的形式出现,随着时间的推移会经历分布偏移。现有的方法面临着两个挑战:依赖于一个大的测试数据批次从同一个域和没有明确建模的连续分布演化过程。为了解决这两个挑战,我们提出了一种元学习方法,该方法可以在元训练期间教会网络适应分布变化的在线流。因此,训练后的模型可以在测试中对分布偏移进行连续自适应,而不管批量大小限制如何,正如它在训练期间所学习的那样。我们对TTA的基准数据集进行了广泛的实验,结合了广泛的在线分布转移设置。我们的研究结果表明,与最先进的方法相比,我们的方法得到了一致的改进,这表明了我们方法的有效性。此外,我们在视频分割任务中取得了优异的性能,突出了我们的方法在现实世界中的应用潜力。
2023-03-02 cs.LG
Robust Generalization despite Distribution Shift via Minimum Discriminating Information
University of Konstanz(康斯坦茨大学);ETH Zurich(苏黎世联邦理工学院);Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
在分布偏移下表现良好的训练模型是机器学习的核心挑战。在本文中,我们介绍了一个建模框架,除了训练数据,我们有部分结构知识的移位测试分布。我们采用最小判别信息的原则来嵌入现有的先验知识,并使用分布鲁棒优化来考虑由于有限的样本的不确定性。通过利用大偏差的结果,我们获得了明确的泛化界限,关于未知的移位分布。最后,我们通过在两个不同的应用程序上展示我们的框架的多功能性:(1)在系统偏差数据上训练分类器和(2)马尔可夫决策过程中的离线评估。
2021-10-26 cs.IT cs.LG math.IT
Wild-Time: A Benchmark of in-the-Wild Distribution Shift over Time
Pennsylvania State University(宾夕法尼亚州立大学);Stanford University(斯坦福大学)
当测试分布与训练分布不同时会发生分布偏移,并且它会显著降低部署在现实世界中的机器学习模型的性能。时间偏移--由时间的流逝引起的分布偏移--通常逐渐发生,并且具有时间戳元数据的附加结构。通过利用时间戳元数据,模型可以潜在地从过去分布偏移的趋势中学习并推断未来。虽然最近的工作已经研究了分布偏移,但时间偏移仍然未被探索。为了解决这一差距,我们策划了Wild-Time,这是一个由5个数据集组成的基准,反映了各种现实应用中出现的时间分布偏移,包括患者预后和新闻分类。在这些数据集上,我们系统地对13种先前的方法进行了基准测试,包括领域泛化,持续学习,自监督学习和集成学习中的方法。我们使用两种评估策略:固定时间分割评估(Eval-Fix)和数据流评估(Eval-Stream)。Eval-Fix是我们的主要评估策略,旨在提供一个简单的评估协议,而Eval-Stream对于某些真实世界的应用程序更现实。在这两种评估策略下,我们观察到从分布到分布数据的平均性能下降了20%。现有的方法无法弥补这一差距。代码可在https://wild-time.github.io/上获得。
2023-01-16 cs.LG
Invariant Anomaly Detection under Distribution Shifts: A Causal Perspective
Institute for Machine Learning(机器学习研究所);Department of Computer Science(计算机科学系);ETH Zürich(苏黎世联邦理工学院)
本文从因果视角提出一种基于不变表示的正则化方法,增强异常检测模型在分布偏移下的鲁棒性,实验显示显著提升分布外性能。
2023-12-21 cs.LG
From Fragile to Certified: Wasserstein Audits of Group Fairness Under Distribution Shift
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Tübingen AI Center(图宾根人工智能中心);Mila Québec AI Institute(魁北克人工智能研究所);McGill University(麦吉尔大学)
针对分布偏移下群体公平性指标脆弱、审计不可靠的问题,提出基于Wasserstein分布鲁棒框架的ε-WDF公平性审计方法,推导高效估计器DRUNE并提供理论保证,实验验证其在分布偏移下可稳定评估公平性。
2025-09-30 cs.LG
Rectifying Distribution Shift in Cascaded Precipitation Nowcasting
Southeast University(东南大学)
RectiCast通过双流匹配模型校正降水现在预报中的分布偏移,提升预测精度。
2026-02-22 cs.LG
Label-free estimation of clinically relevant performance metrics under distribution shifts
University of Bern, Switzerland(伯尔尼大学);Department of Diabetes, Endocrinology, Nutritional Medicine and Metabolism, Inselspital, Bern University Hospital, University of Bern, Switzerland(糖尿病、内分泌学、营养医学和代谢学部门,伯尔尼大学医院,伯尔尼大学,瑞士)
针对临床场景下目标数据集无标签难评估模型性能的问题,研究推广现有方法实现混淆矩阵直接估计,经胸部X光数据测试可可靠预测临床相关计数指标,同时也揭示了现有技术的失效模式。
2025-07-30 cs.LG
One Prompt Fits All: Universal Graph Adaptation for Pretrained Models
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学院);School of Economics and Management, Beijing University of Posts and Telecommunications(北京邮电大学经济管理学院);Department of Data Science, George Washington University(乔治华盛顿大学数据科学系)
针对图提示学习机制不清与场景适应性差的问题,提出UniPrompt方法,通过理论分析揭示表示级提示本质,适配任意预训练模型并释放其能力,在域内和跨域场景中取得强性能。
2025-10-14 cs.LG
Tackling Distribution Shift in LLM via KILO: Knowledge-Instructed Learning for Continual Adaptation
Concordia University(康科迪亚大学)
提出KILO框架,结合动态知识图谱与指令微调,在四个领域上优于基线,有效缓解LLM持续学习中的分布偏移与灾难性遗忘。
2025-08-05 cs.CL cs.LG
On Continuous Monitoring of Risk Violations under Unknown Shift
UvA-Bosch Delta Lab, University of Amsterdam(UvA-Bosch Delta Lab,阿姆斯特丹大学);University of Amsterdam(阿姆斯特丹大学);Johns Hopkins University(约翰霍普金斯大学)
本文提出一种基于“通过下注进行检验”的序贯假设检验框架,用于在未知分布漂移下实时监控风险违规并控制误报率,适用于异常检测和集合预测。
2025-06-19 cs.LG stat.ML
Estimating calibration error under label shift without labels
KU Leuven(鲁汶大学)
针对实际部署中目标域标签缺失、无法估计标签偏移下校准误差的问题,提出基于带标签源分布重要性重加权的无标签校准误差估计方法,可实现一致且渐近无偏的估计,经多数据集多场景验证有效可靠。
2023-12-14 cs.CV cs.LG stat.ML
Distributionally Robust and Safe Imitation Learning
University of California Berkeley(加利福尼亚大学伯克利分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
研究针对模仿学习对分布变化敏感及安全风险问题,提出分布鲁棒且安全的模仿学习框架,利用泰勒级数模仿学习和分布鲁棒自适应控制应对不同诱导变化,在无人机案例中验证了方法有效性。
2026-07-16 cs.LG cs.SY eess.SY
TS-SNN: Temporal Shift Module for Spiking Neural Networks
Zhejiang University(浙江大学);Dalian University of Technology(大连理工大学)
本文提出TS-SNN,通过轻量级时序偏移模块在单时间步内整合过去、现在和未来的脉冲特征,以极低额外计算成本在多个基准上实现最先进性能并保持低能耗。
2025-07-11 cs.AI cs.NE
Leveraging Systematic Knowledge of 2D Transformations
University of Technology Sydney(悉尼科技大学);School of Electrical and Data Engineering(电气与数据工程学院)
针对深度学习模型在分布外场景下性能下降的问题,提出基于因果框架的合成数据训练方法获取二维变换系统性知识,并设计CED架构模拟人类视觉感知,显著提升协变量偏移下的分类准确率。
2024-04-23 cs.CV cs.LG
Distance Matters For Improving Performance Estimation Under Covariate Shift
Imperial College London(帝国理工学院)
本文提出一种基于测试样本与训练分布距离的“距离检查”方法,用于改善协变量偏移下的模型性能估计,在13个图像分类任务上取得显著提升。
2023-08-14 cs.CV cs.LG
Hypergraph Diffusion for High-Order Recommender Systems
针对现有基于GNN的推荐模型在异质性交互和过平滑方面的局限,提出小波增强超图扩散框架WaveHDNN,结合异质性感知协同编码器与多尺度分组结构编码器,并利用跨视图对比学习,有效提升了推荐性能。
2025-01-28 cs.AI cs.DB cs.IR
Multi-task Learning by Leveraging the Semantic Information
University of Western Ontario(西安大略大学);Vector Institute(向量研究所)
多任务学习的一个关键目标是调整任务之间的分布,以便它们之间的信息可以传输和共享。然而,现有的方法只关注边缘特征分布的匹配,而忽略了语义信息,这可能会影响学习性能。为了解决这个问题,我们提出了利用标签信息在多任务学习中探索任务之间的语义条件关系。首先,基于Jensen-Shannon发散度的概念,从理论上分析了多任务学习的泛化界,为多任务学习中标签信息的价值提供了新的见解.我们的分析还导致了一个具体的算法,共同匹配的语义分布和控制标签分布的分歧。为了证实所提出的方法的有效性,我们首先比较了算法与几个基线在一些基准,然后测试的算法在标签空间移位的条件下。实验结果表明,所提出的方法可以优于大多数基线,并达到最先进的性能,特别是显示的好处下的标签偏移的条件。
2021-03-03 cs.AI cs.LG
Meta-GPS++: Enhancing Graph Meta-Learning with Contrastive Learning and Self-Training
College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院);University of Trento(特伦托大学);Zhuhai College of Science and Technology(珠海科技学院)
针对少样本节点分类中同质/异质图适配、随机干扰、未标记数据利用不足及任务差异化缺失等问题,提出Meta-GPS++框架,结合原型初始化、对比学习、自训练及S²变换,在真实数据集上取得优越性能。
2024-07-20 cs.LG cs.SI
Leveraging AutoML for Sustainable Deep Learning: A Multi-Objective HPO Approach on Deep Shift Neural Networks
L3S Research Center(L3S研究中心)
提出结合多保真超参数优化与多目标优化自动设计深度移位神经网络,在图像分类中同时提升性能约20%并减少排放超60%,揭示量化策略中的模型特定权衡。
2026-06-23 cs.LG
Neural Link Prediction with Walk Pooling
Nanjing Normal University(南京师范大学);Universität Basel(巴塞尔大学)
图神经网络通过联合利用图拓扑结构和节点属性来实现链接预测的高精度。然而,拓扑是间接表示的;基于子图分类的最先进的方法用到目标链路的距离标记节点,因此,尽管存在拓扑信息,但它被池化所缓和。这使得利用与网络形成机制相关的环和基序等特征具有挑战性。我们提出了一个链接预测算法的基础上,一个新的池方案称为WalkPool。WalkPool结合了拓扑拓扑学的表达能力和神经网络的特征学习能力。它通过相邻路径的随机游走概率来概括一个假定的链路。它不是从原始图中提取转移概率,而是通过关注学习到的特征来计算"预测"潜在图的转移矩阵;这可以被解释为特征敏感的拓扑指纹。WalkPool可以利用无监督节点功能,或者与GNN和端到端训练相结合。它在所有常见的链接预测基准上都优于最先进的方法,包括homophilic和heterophilic,有和没有节点属性。将WalkPool应用于一组无监督GNN显著提高了预测准确性,这表明它可以用作通用图池方案。
2022-03-16 cs.LG cs.SI
TRUST: Leveraging Text Robustness for Unsupervised Domain Adaptation
提出TRUST方法,利用语言模态鲁棒性指导视觉模型的无监督域适应,通过基于描述生成伪标签并估计其不确定性来重新加权分类损失,同时引入多模态软对比学习损失对齐特征空间,在DomainNet和GeoNet上达到SOTA。
2025-08-08 cs.CV cs.LG
PolyFormer: Scalable Node-wise Filters via Polynomial Graph Transformer
Renmin University of China(中国人民大学)
针对现有谱图神经网络滤波器灵活性不足及可扩展性受限的问题,提出基于注意力机制的可扩展节点级滤波器PolyAttn及模型PolyFormer,在保持高效的同时增强表达性,实验证明其性能优越且可处理亿级节点图。
2024-07-19 cs.LG
Word Sense Detection Leveraging Maximum Mean Discrepancy
Université Côte d’Azur, CNRS, LJAD, France(法国阿尔卑斯海岸大学、国家科学研究中心、LJAD研究所)
针对词义变化检测任务,本文提出了利用最大均值差异筛选语义变量、量化时间维度变化的MMD-Sense-Analysis方法,可识别词义转变并解释其多时期演变,是MMD首次应用于该领域,经实证验证有效。
2025-06-13 cs.CL cs.LG stat.ML
General Quantification of Covariate and Concept Shifts
South China University of Technology(华南理工大学)
本文提出基于熵正则化最优传输的$\gamma^{*}$-概念偏移定义,统一协变量与概念偏移的误差界,并开发可估计的DataShifts算法,为分布偏移下的学习误差提供通用量化工具。
2026-09-11 cs.AI cs.LG stat.ML
Two Shifts for Crop Mapping: Leveraging Aggregate Crop Statistics to Improve Satellite-based Maps in New Regions
Stanford University(斯坦福大学)
田间作物类型制图对于农业监测的各种应用至关重要,卫星图像正成为制作作物类型图的日益丰富和有用的原始投入。尽管如此,在许多地区,利用卫星数据绘制作物类型图仍然受到缺乏用于训练监督分类模型的田间作物标签的限制。当训练数据在一个区域中不可用时,可以转移在相似区域中训练的分类器,但是作物类型分布的变化以及区域之间特征的变换导致分类精度降低。我们提出了一种方法,使用聚合水平的作物统计数据,以纠正分类占这两种类型的转变。为了调整作物类型组成的变化,我们提出了一个方案,用于适当地重新加权分类器输出的每个类的后验概率。为了调整特征的偏移,我们提出了一种方法来估计和去除平均特征向量中的线性偏移。我们证明,这种方法导致整体分类精度大幅提高时,使用线性判别分析(LDA)映射在Occitanie,法国和肯尼亚西部省的作物类型。当使用LDA作为我们的基础分类器时,我们发现,在法国,我们的方法导致11个不同培训部门的错误分类减少了2.8%至42.2%(平均值= 21.9%),在肯尼亚,三个培训地区的错误分类减少了6.6%,28.4%和42.7%。虽然我们的方法是由LDA分类器统计动机,它可以应用于任何类型的分类器。作为一个例子,我们展示了它的成功应用,以改善随机森林分类器。
2021-09-02 cs.CV cs.LG stat.AP
APT: Affine Prototype-Timestamp For Time Series Forecasting Under Distribution Shift
针对分布偏移下时间序列预测中现有模型依赖局部统计归一化的局限,提出轻量插件模块APT,通过时间戳条件原型学习生成仿射参数注入归一化-预测流程,兼容多骨干网络且显著提升分布偏移下的预测性能。
2025-11-17 cs.LG