Learning Universal Predictors
Google DeepMind(谷歌DeepMind)
本研究探索元学习的极限,提出用通用图灵机生成训练数据,将Solomonoff归纳摊销到神经网络中,经理论分析与多架构多生成器实验验证,UTM数据可训练出具备通用预测策略学习能力的网络。
2024-01-26 cs.AI cs.LG
Temporal Smoothness Regularisers for Neural Link Predictors
University of California, Los Angeles(加州大学洛杉矶分校);Cornell University(康奈尔大学)
本文提出了一种基于时间平滑正则化器的神经链接预测方法,在三个数据集上实现了更准确的结果。
2024-11-05 cs.LG
Classification Using Link Prediction
Amirkabir University of Technology(阿米尔卡比尔理工大学)
图中的链接预测是检测在不久的将来会形成的丢失链接的问题。使用数据的图形表示,我们可以将分类问题转化为链接预测问题,其目的是找到未标记数据(未标记节点)与其类之间的缺失链接。据我们所知,尽管许多算法使用数据的图形表示进行分类,但没有一个算法使用链接预测作为其分类过程的核心。在这项工作中,我们提出了一种新的算法,称为CULP(分类使用链接预测),它使用一种新的结构,即标签嵌入图或LEG和链接预测找到类的未标记的数据。不同的链接预测器以及兼容性得分-我们提出的一种新的链接预测器,专门为我们的设置设计-已经被使用,并显示出对不同数据集进行分类的有希望的结果。本文进一步改进了CULP设计一个扩展名为CULM,它使用多数表决(因此在首字母缩略词中的M)的过程与权重成比例的预测的置信度,以使用多个链接预测器的预测能力,并利用低层次的数据特征。大量的实验结果表明,CULP和CULM都具有很高的准确性,并与最先进的图分类器和一般分类器竞争。
2018-10-01 cs.LG stat.ML
Auto-Regressive Next-Token Predictors are Universal Learners
Harvard University(哈佛大学);Kempner Institute for the Study of Natural and Artificial Intelligence(坎普纳自然与人工智能研究所)
本文提出研究自回归下一词元预测器的理论框架,证明在CoT数据上训练的简单线性预测器即可近似图灵机计算的任意函数,并引入长度复杂度,揭示了LLM的强大能力主要源于自回归训练方案而非特定架构。
2024-07-29 cs.CL cs.LG
Discriminative Link Prediction using Local Links, Node Features and Community Structure
IIT Kharagpur(印度理工学院克勒格布尔分校);IIT Bombay(印度理工学院孟买分校)
链接预测(LP)算法被给出一个图,并且必须对每个节点、作为新链接的候选的其他节点进行排名。LP强烈受到社交搜索和推荐应用的推动。LP技术通常专注于全局属性(图电导,命中或通勤时间,Katz得分)或局部属性(Adamic-Adar和许多变体,或节点特征向量),但很少结合这些信号。此外,这两个极端都没有利用社区中间层的链接密度。在本文中,我们描述了一个歧视LP算法,利用两个新的信号。首先,一个共同的聚类算法提供社区级的链接密度估计,这是用来限定观察到的链接与惊喜值。第二,在要预测的链接的直接邻域中的链接不被解释在表面值,而是通过节点特征相似性的局部模型。这些信号被组合成一个判别链接预测器。我们使用文献中标准的五个不同数据集来评估新的预测因子。与标准LP方法(包括Adamic-Adar和随机游走)相比,我们报告了显着的准确性提升。除了新的预测器之外,另一个贡献是用于对LP算法进行基准测试和报告的严格协议,它揭示了这里研究的所有预测器的优势和劣势区域,并将新提案确定为最稳健的。
2013-10-17 cs.LG cs.SI physics.soc-ph
Towards Understanding Link Predictor Generalizability Under Distribution Shifts
Michigan State University(密歇根州立大学)
针对链接预测任务中分布偏移研究不足的问题,本文提出利用结构特性引入受控分布偏移的LPShift划分策略,并通过16种变体上的实验揭示了图结构对模型泛化性能的显著影响。
2025-07-16 cs.AI cs.LG
A Universal Trade-off Between the Model Size, Test Loss, and Training Loss of Linear Predictors
University of California, Berkeley(加州大学伯克利分校);University of California, San Diego(加州大学圣地亚哥分校)
本文建立了线性预测器在模型规模、超额测试损失和训练损失之间的通用非渐近权衡,并证明低测试损失模型要么训练损失接近噪声水平,要么参数数量远大于精确拟合所需的最小值,同时通过 Marchenko-Pastur 渐近分析揭示了过参数化程度增加时与分布无关界的一致性。
2023-04-18 cs.LG stat.ML
Large Electron Model: A Universal Ground State Predictor
Massachusetts Institute of Technology(麻省理工学院);Department of Physics(物理系)
提出Large Electron Model,一种基于Fermi Sets架构的神经网络模型,通过在整个哈密顿参数流形上生成变分波函数,准确预测二维谐振势中相互作用电子的基态,并泛化到未见耦合强度和粒子数,为材料发现提供了基于变分原理的基座模型方法。
2026-06-01 cond-mat.str-el cs.AI cs.LG
Adapting Neural Link Predictors for Data-Efficient Complex Query Answering
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学);Elsevier(爱思唯尔);University of Copenhagen(哥本哈根大学);University of Edinburgh(爱丁堡大学)
本文提出参数高效的自适应模型 CQD$^{\mathcal{A}}$,通过重新校准冻结的神经链接预测器分数来高效回答复杂查询,仅增加0.03%参数,在显著减少训练数据的同时提升推理准确性并支持原子否定查询。
2023-07-11 cs.AI cs.LG cs.LO
Complex Query Answering with Neural Link Predictors
University College London(伦敦大学学院);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);University of Amsterdam(阿姆斯特丹大学);Elsevier(爱思唯尔)
神经链接预测器对于识别大规模知识图谱中的缺失边缘非常有用。然而,仍然不清楚如何使用这些模型来回答在许多领域中出现的更复杂的查询,例如使用逻辑合取词($\land$)、析取词($\lor$)和存在量词($\exists$)的查询,同时考虑缺失的边。在这项工作中,我们提出了一个框架,有效地回答复杂的查询不完整的知识图谱。我们将每个查询转换为端到端的可微分目标,其中每个原子的真值由预先训练的神经链接预测器计算。然后,我们分析两个解决方案的优化问题,包括基于梯度和组合搜索。在我们的实验中,所提出的方法比最先进的方法(在数百万个生成的查询上训练的黑盒神经模型)产生更准确的结果,而不需要在大量不同的复杂查询集上进行训练。使用数量级较少的训练数据,我们在包含事实信息的不同知识图谱中获得了从8%到40%的相对改进。最后,我们证明,这是可能的解释我们的模型的结果,在中间的解决方案确定为每个复杂的查询原子。我们所有的源代码和数据集都可以在https://github.com/uclnlp/cqd上获得。
2021-03-18 cs.AI cs.LG cs.LO
A Unified Approach to Universal Prediction: Generalized Upper and Lower Bounds
Bilkent University(比尔肯大学)
我们研究了序列预测的实值,任意和未知序列下的平方误差损失,以及最好的参数预测出一个大的,连续类的预测。受计算学习理论最近结果的启发,我们避免任何统计假设,并定义了一般参数预测类的性能。特别是,我们提出了通用的下限和上限的相对性能的预测任务转化为一个参数学习问题。我们首先介绍了这种相对性能的下限混合专家模型的框架,在那里我们表明,对于任何顺序算法,总是存在一个序列的性能的顺序算法是下界为零。然后,我们引入了一个顺序的学习算法来预测这样的任意和未知的序列,并计算其总平方预测误差的上界为每个有界序列。我们进一步表明,在某些情况下,我们实现了匹配的下限和上限证明我们的算法是最佳的,在一个强大的极大极小的意义上,他们的性能不能进一步提高。作为一个有趣的结果,我们还证明了,对于最坏的情况下,随机算法的性能可以实现顺序算法,使随机算法不提高性能。
2014-01-22 cs.LG
Towards Adaptive Unknown Authentication for Universal Domain Adaptation by Classifier Paradox
Nanjing University of Posts and Telecommunications(南京邮电大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
通用领域自适应(UniDA)是一种通用的无监督领域自适应设置,其解决自适应中的领域和标签偏移。它的主要挑战在于如何识别非共享或未知类中的目标样本。以前的方法通常致力于描述样本的“置信度”以及用于拒绝未知的阈值,并跨域对齐共享类的特征分布。然而,它仍然很难预先指定一个“信心”的标准和阈值,这是适应各种真实的任务,和未知数的错误预测进一步招致的不对齐的功能在共享类。在本文中,我们提出了一种新的UniDA方法与自适应未知认证的分类器paradigm(UACP),考虑到样本与矛盾的预测可能是未知的不属于源类。在UACP中,复合分类器是由两种类型的预测器联合设计的。也就是说,多类(MC)预测器将样本分类到多个源类中的一个,而二进制一对全(OVA)预测器进一步验证MC预测器的预测。验证失败或悖论的样本被识别为未知数。此外,代替共享类的特征对齐,在输出空间中进行隐式域对齐,使得跨域的样本共享相同的决策边界,尽管具有特征差异。实证结果验证了UACP在开集和通用UDA设置。
2022-07-10 cs.CV cs.LG
Your Temporal Link Predictor Is Blind to Who Is Active: A Missing Factor That Transfers Across Models
Harvard University(哈佛大学);Wuhan University(武汉大学);University of California, Berkeley(加州大学伯克利分校);Tsinghua University(清华大学)
本研究揭示时序链接预测忽略源节点活跃性这一关键因素,提出轻量级SNAM模型,仅用不到20个参数即可跨模型提升性能,在多个数据集上取得领先。
2026-10-06 cs.LG cs.SI
Dynamic Link Prediction for New Nodes in Temporal Graph Networks
Tongji University(同济大学);EIT Institute for Advanced Study(EIT高等研究院);Naval Medical University(海军军医大学)
针对时间图网络中新节点动态链接预测的少样本问题,提出基于元学习的新模型,利用跨度记忆编码器和预测器,通过跨度与节点适应学习隐式信息,在三个公开数据集上超越现有方法。
2023-10-15 cs.LG
Universal Local Error and Realized Amplification for the First-Order EDM Predictor
CREST(Crest 研究中心);ENSAE Paris(巴黎国立统计与经济管理学院);Institut Polytechnique de Paris(巴黎理工学院)
本文分析一阶EDM扩散采样器的误差,分离局部离散化误差及其放大,证明通用局部界并给出全局误差$O(e^{\Lambda_K}/K)$,实验验证了放大对误差衰减的影响。
2026-10-08 cs.LG stat.ML
A Novel Universal Solar Energy Predictor
Mahatma Gandhi Institute of Technology(圣雄甘地技术学院)
太阳能是地球上最经济、最清洁的可持续能源之一。然而,太阳能的吞吐量是高度不可预测的,因为它依赖于大量的条件,包括天气、季节和其他生态/环境条件。因此,太阳能预测是优化太阳能利用、提高太阳能系统效率的必然要求。传统上,太阳能的优化由主题专家使用他们的领域知识来进行;尽管即使是专家连续地调谐太阳能系统也是不切实际的。我们坚信,可以利用机器学习的力量,通过从通常容易获得的历史数据中学习各种条件与太阳能生产之间的相关性,来更好地优化太阳能生产。为此,本文使用朴素贝叶斯分类器预测安装的太阳能计划的每日总发电量。在预测过程中,一年的历史数据集,包括每日温和的温度,每日总日照时数,每日总的全球太阳辐射和每日总光伏发电量参数被用作分类值特征。通过这种朴素贝叶斯程序的灵敏度和精度的措施,提高了光伏能源预测,也对太阳能发电的其他太阳能特性的后果进行了评估。
2019-02-20 cs.CY cs.LG
Plain Transformers are Surprisingly Powerful Link Predictors
Department of Computer Science and Engineering, Michigan State University, East Lansing, MI, USA.(计算机科学与工程系,密歇根州立大学,东兰辛,MI,美国。);Department of Computer Science(计算机科学系);Engineering, Michigan State University, East Lansing, MI, USA.(工程,密歇根州立大学,东兰辛,MI,美国。)
提出PENCIL,一种仅编码器的普通Transformer,通过采样局部子图的注意力机制替代手工先验,在保持标准Transformer可扩展性的同时,隐式泛化多种启发式方法,实现高效且参数经济的链接预测。
2026-09-29 cs.AI cs.LG
U-CNNpred: A Universal CNN-based Predictor for Stock Markets
Simon Fraser University(西蒙弗雷泽大学);University of Tehran(德黑兰大学)
金融市场预测系统的性能在很大程度上取决于它所使用的特征的质量。虽然研究人员使用了各种技术来增强股票的特定特征,但很少注意提取代表金融市场一般机制的特征。在本文中,我们研究的重要性,提取这样的一般特征在股市预测领域,并显示它如何可以提高金融市场预测的性能。我们提出了一个名为U-CNNpred的框架,它使用基于CNN的结构。一个基础模型是在一个专门设计的分层训练过程中,在来自许多金融市场的历史数据池中进行训练的,以便从不同的市场中提取共同的模式。我们的实验中,我们使用了标准普尔500指数中的数百只股票以及世界各地的14个著名指数,表明该模型在预测市场的方向性运动时可以优于基线算法。我们还表明,基础模型可以进行微调,以预测新市场,并实现更好的性能相比,最先进的基线算法,专注于从零开始构建市场特定的模型。
2019-11-28 cs.LG q-fin.CP stat.ML
Batch Universal Prediction
School of Computer and Communication Sciences EPFL(洛桑联邦理工学院计算机与通信科学学院)
本文从通用预测视角评估大语言模型,提出批量遗憾指标,并分析其在无记忆源和一阶马尔可夫源下加常数预测器的渐近值。
2024-02-06 cs.IT cs.LG math.IT
Universal time-series forecasting with mixture predictors
Antsiranana, 2019(安蒂斯里亚纳,2019)
本书研究序列概率预测中的混合预测器,证明其在一般概率设置下的普适性并指出局限,面向研究生和研究人员,理论性强。
2025-04-19 cs.AI cs.IT cs.LG
Stacking Models for Nearly Optimal Link Prediction in Complex Networks
University of Colorado(科罗拉多大学);University of Southern California(南加利福尼亚大学);Harvard University(哈佛大学);Temple University(天普大学);Santa Fe Institute(圣塔菲研究所)
大多数真实世界的网络都是不完全观察到的。能够准确预测哪些链路缺失的算法可以大大加快网络数据的收集速度,提高网络模型的有效性。现在存在许多算法来预测缺失的链接,给定一个部分观察到的网络,但它仍然是未知的是否存在一个单一的最佳预测,如何链接可预测性不同的方法和网络从不同的领域,以及如何接近最优性目前的方法。我们回答这些问题,系统地评估203个单独的链接预测算法,代表三个流行的家庭的方法,适用于一个大型语料库的548个结构不同的网络从六个科学领域。我们首先表明,个别算法表现出广泛的多样性的预测误差,这样,没有一个预测或家庭是最好的,或最坏的,在所有现实的输入。然后,我们通过元学习来利用这种多样性,构建一系列“堆叠”模型,将预测器组合到一个算法中。应用于广泛的合成网络,我们可以分析计算最佳性能,这些堆叠模型实现了最佳或接近最佳的准确性水平。应用于现实世界的网络,堆叠模型也是优越的,但它们的准确性因领域而异,这表明链接预测在社交网络中可能比在生物或技术网络中更容易。这些结果表明,链接预测的最新技术来自于组合各个算法,从而实现接近最佳的预测。最后,我们简要讨论了进一步改进这些结果的局限性和机会。
2019-09-17 cs.LG cs.SI physics.data-an
Rethinking Complex Queries on Knowledge Graphs with Neural Link Predictors
Tsinghua University(清华大学);HKUST(香港科技大学)
本文重新审视知识图谱复杂查询的查询嵌入方法,系统分析其表述与目标差距及复杂性,提出包含十种新型查询的数据集,并设计神经符号方法FIT,在模糊逻辑支持下实现可证明推理的端到端学习,取得优于现有方法的性能。
2024-10-22 cs.AI cs.DB cs.LG
SingularTrajectory: Universal Trajectory Predictor Using Diffusion Model
AI Graduate School, GIST(光州科学技术院AI研究生院)
本文提出基于扩散模型的通用轨迹预测框架SingularTrajectory,通过构建Singular空间统一人类动力学表示并引入自适应锚点与级联去噪过程,在五种轨迹预测任务上显著提升了性能。
2024-03-27 cs.CV cs.LG cs.RO
Multimodal Zero-Shot Prediction for Transaction Data at Scale
Visa Inc.(维萨公司)
该研究提出通用零样本预测框架MINT,通过轻量级嵌入注入等技术连接交易序列编码器与LLM,在交易预测问答任务中性能领先且资源消耗更低,证实紧凑交易嵌入更具优势。
2026-11-13 cs.CL cs.LG
Are We Wasting Time? A Fast, Accurate Performance Evaluation Framework for Knowledge Graph Link Predictors
KTH Royal Institute of Technology(KTH皇家理工学院);Gavagai;Ericsson(爱立信);Silo AI
针对知识图谱链接预测标准评估计算量大、随机采样评估准确性差的问题,提出基于关系推荐器引导候选选择的评估框架,在保证精度的同时大幅降低计算耗时。
2024-01-25 cs.AI cs.LG
Pairwise Learning for Neural Link Prediction
WeChat Pay, Tencent(腾讯微信支付);WeChat Search, Tencent(腾讯微信搜索)
在本文中,我们的目标是提供一个有效的成对学习神经链接预测(PLNLP)框架。该框架将链接预测视为成对的学习排序问题,并且由四个主要组件组成,即,邻域编码器、链接预测器、负采样器和目标函数。该框架是灵活的,任何通用的图神经卷积或链接预测特定的神经结构可以被用作邻域编码器。对于链接预测器,我们设计了不同的评分函数,可以根据不同类型的图进行选择。在负采样器中,我们提供了几种采样策略,这些策略是针对具体问题的。至于目标函数,我们建议使用一个有效的排名损失,近似最大化的标准排名指标AUC。我们在Open Graph Benchmark的4个链接属性预测数据集上评估了所提出的PLNLP框架,包括ogbl-ddi,ogbl-collab,ogbl-ppa和ogbl-ciation 2。PLNLP在ogbl-ddi和ogbl-collab上实现了top 1性能,在ogbl-ciation 2上仅使用基本神经架构实现了top 2性能。性能证明了PLNLP的有效性。
2022-01-21 cs.AI cs.LG cs.SI
Optimality of Universal Bayesian Sequence Prediction for General Loss and Alphabet
各种最优性的通用序列预测的基础上贝叶斯混合一般,特别是Solomonoff的预测方案,将进行研究。如果序列$x_1x_2x_3...$的真实生成分布$μ$已知,则可以用链式规则计算在给定过去观测值$x_1...x_{t-1}$的情况下在时间$t$观测到$x_t$的概率。如果$μ$是未知的,但已知属于可数或连续类$\M$,则可以将预测基于贝叶斯混合$ξ$,该贝叶斯混合$ξ$定义为分布$ν\in\M$的$w_ν$加权和或积分。基于$ξ$的贝叶斯最优通用预测方案的累积期望损失与基于$μ$的贝叶斯最优但不可行的预测方案的损失接近。我们表明,界限是紧的,没有其他预测可以导致显着更小的界限。此外,对于各种性能指标,我们显示$ξ$的帕累托最优性,并给出奥卡姆剃刀参数的选择$w_ν\sim 2^{-K(ν)}$的权重是最优的,其中$K(ν)$是描述$ν$的最短程序的长度。结果被应用于机会游戏,定义为一系列的赌注,观察和奖励。预测方案(和界限)进行比较,流行的预测专家的意见为基础。扩展到无限的字母表,部分,延迟和概率预测,分类,和更积极的系统进行了简要讨论。
2003-11-13 cs.AI cs.LG math.PR
A PAC-Bayesian Link Between Generalisation and Flat Minima
Inria(法国国家信息与自动化研究所);PSL Research University(巴黎文理研究大学);Univ. Rennes(雷恩大学);CNRS(法国国家科学研究中心);IRISA(雷恩信息与自动化研究所);University College London(伦敦大学学院)
针对过参数化机器学习模型泛化能力的开放问题,该研究结合PAC-Bayes工具箱与庞加莱、对数索伯列夫不等式,提出含梯度项的新型泛化界,揭示平坦极小值对泛化性能的积极影响。
2025-02-11 cs.LG stat.ML
Low-Complexity Nonparametric Bayesian Online Prediction with Universal Guarantees
Amadeus SAS(艾玛迪斯公司);Université Côte d’Azur(蔚蓝海岸大学);Inria(法国国家信息与自动化研究所)
我们提出了一种新的非参数在线预测的离散标签条件下的多变量连续功能。该预测器基于由具有随机选择的方向和递归贝叶斯分布的完整k-d树引起的特征空间离散化,其允许自动学习表征条件分布的最相关特征尺度。我们证明了它的逐点普适性,即,它实现了标准化的对数损失性能,其渐近地与给定特征的标签的真实条件熵一样好。处理第$n$个样本点的时间复杂度是相对于生成数据点的分布的概率的$O(\log n)$,而其他精确的非参数方法需要处理所有过去的观测。在具有挑战性的数据集上的实验表明,与标准和最先进的方法相比,我们的算法的计算和统计效率。
2020-01-31 cs.IT cs.LG math.IT
Accurate Link Prediction for Edge-Incomplete Graphs via PU Learning
Seoul National University(首尔国立大学)
针对边不完整图的链接预测难题,提出基于PU学习的PULL方法,通过潜变量和期望图结构避免过拟合,在五个真实数据集上性能超越基线。
2024-12-12 cs.AI cs.LG cs.SI
Homogeneous Architecture Augmentation for Neural Predictor
Sichuan University(四川大学);Peking University(北京大学)
神经架构搜索(NAS)可以为手头的任务自动设计性能良好的深度神经网络(DNN)架构。然而,NAS的一个瓶颈是主要由于昂贵的性能评估而导致的令人望而却步的计算成本。神经预测器可以直接估计性能,而无需对待评估的DNN进行任何训练,因此越来越受到研究人员的关注。尽管它们很受欢迎,但它们也受到严重的限制:缺乏有效训练神经预测器的注释DNN架构。在本文中,我们提出了DNN架构的神经预测器同质架构增强(HAAP)来解决上述问题。具体地说,在HAAP中提出了一种同构结构增强算法,利用同构表示生成足够的训练数据。此外,one-hot编码策略被引入到HAAP中,以使DNN架构的表示更加有效。实验在NAS-Benchmark-101和NAS-Bench-201数据集上进行。实验结果表明,所提出的HAAP算法优于最先进的相比,但有更少的训练数据。此外,两个基准数据集上的消融研究也显示了同质结构增强的普遍性。
2021-07-28 cs.LG cs.NE
Effects of Locality and Rule Language on Explanations for Knowledge Graph Embeddings
Inria(法国国家信息与自动化研究所);Univ. Rennes(雷恩大学);CNRS(法国国家科学研究中心);Irisa(雷恩信息与自动化系统研究所)
知识图谱(KG)是许多AI相关任务(如推理或问答)的关键工具。这反过来又推动了幼儿园链接预测的研究,即从现有知识中预测缺失关系的任务。基于KG嵌入的解决方案在这方面已经显示出了有希望的结果。不利的一面是,这些方法通常无法解释它们的预测。虽然一些工作已经提出计算基于嵌入的链接预测器的事后规则解释,但这些努力大多采用具有无界原子的规则,例如,·In(x,y)=> residence(x,y),在全局范围内学习,即,整个KG。这些作品都没有考虑到具有有界原子的规则的影响,例如国籍(x,英格兰)=>说话(x,英语),或者从KG的区域学习的影响,即,本地范围。因此,我们研究这些因素对基于规则的解释嵌入为基础的链接预测的质量的影响。我们的研究结果表明,更具体的规则和局部范围可以提高解释的准确性。此外,这些规则可以提供关于用于链接预测的KG嵌入的内部工作的进一步见解。
2023-02-14 cs.AI cs.LG
Link, Synthesize, Retrieve: Universal Document Linking for Zero-Shot Information Retrieval
Amazon AGI(亚马逊AGI);University of Toronto(多伦多大学);Vector Institute(向量研究所)
本文提出 Universal Document Linking(UDL)算法,通过熵选择相似性模型并结合 NER 与相似性分数链接文档,以增强跨数据集的合成查询生成,在零样本 IR 中优于现有方法。
2024-10-25 cs.AI cs.IR cs.LG
OOD Link Prediction Generalization Capabilities of Message-Passing GNNs in Larger Test Graphs
Purdue University(普渡大学);Ludwig-Maximilians-Universitat München(慕尼黑大学)
这项工作提供了关于图消息传递神经网络(gMPNN)-如图神经网络(GNN)-执行归纳分布外(OOD)链接预测任务的能力的第一个理论研究,其中部署(测试)图的大小大于训练图。我们首先证明了非渐近界,表明基于置换等变(结构)节点嵌入gMPNN的链接预测可以收敛到一个随机猜测的测试图变得更大。然后,我们提出了一个理论上合理的gMPNN输出结构成对(2节点)嵌入,并证明非渐近界显示,随着测试图的增长,这些嵌入收敛到一个连续函数的嵌入,保留其预测链接OOD的能力。随机图上的实验结果与我们的理论结果一致。
2022-10-10 cs.AI cs.LG cs.NA
Breaking the Dyadic Barrier: Rethinking Fairness in Link Prediction Beyond Demographic Parity
针对链路预测中现有二元公平性定义掩盖子群体差异、人口统计学均等不适用排序任务的问题,提出新评估框架及轻量级后处理结合解耦预测器的方法,缓解偏差并优化公平性-效用权衡。
2025-11-16 cs.AI cs.LG cs.SI