Unsupervised Adversarial Graph Alignment with Graph Embedding
Xiamen University（厦门大学）；Tencent AI Lab（腾讯人工智能实验室）
图对齐，也称为网络对齐，是社会网络分析中的一项基本任务。许多最近的工作依赖于部分标记的交叉图节点对应，即，锚链接。然而，由于隐私和安全问题，对于不同场景的锚链接的手动标记可能是禁止的。在没有任何锚链接的情况下对齐两个图是一项至关重要且具有挑战性的任务。在本文中，我们提出了一个无监督对抗图对齐（UAGA）框架，以完全无监督的方式学习不同图的两个嵌入空间之间的交叉图对齐（\emph{i.e.,}没有现有的锚链接，也没有用户的个人资料或属性信息）。所提出的框架学习每个图的嵌入空间，然后尝试通过对抗训练对齐两个空间，然后进行细化过程。我们进一步扩展我们的UAGA方法增量UAGA（iUAGA），迭代地揭示未观察到的用户链接的伪锚链接的基础上。这可以用于进一步提高嵌入质量和对准精度。此外，所提出的方法将有利于一些现实世界的应用，\emph{e.g.,}链接预测在社交网络。在真实数据上的综合实验证明了我们提出的方法UAGA和iUAGA在无监督图对齐中的有效性。
2019-07-01 cs.LG cs.SI
TempNodeEmb:Temporal Node Embedding considering temporal edge influence matrix
School of Computer Science, Zhoukou Normal University（周口师范学院计算机科学学院）；School of Engineering and IT, University of New South Wales（新南威尔士大学工程与信息技术学院）；Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（中国科学院重庆绿色智能技术研究院）；Huayin Institute of Technology（淮阴工学院）
理解现实世界中复杂系统的进化模式，如人类相互作用、交通网络、生物相互作用和计算机网络，对我们的日常生活有着重要的意义。预测这种网络中节点之间的未来联系揭示了时间网络演化的一个重要方面。为了分析网络，它们被映射到邻接矩阵，然而，单个邻接矩阵不能表示复杂的关系（例如时间模式），因此，一些方法考虑时间网络的简化表示，但在高维和一般稀疏矩阵中。因此，邻接矩阵不能被机器学习模型直接用于进行网络或节点级预测。为了克服这个问题，提出了用于学习节点或边的低维向量的自动化框架，作为预测网络中的时间模式（诸如链接预测）的最新技术。然而，这些模型未能考虑网络的时间维度。这一差距促使我们在这项研究中提出了一种新的节点嵌入技术，该技术利用了网络的进化性质，在每个时间步考虑一个简单的三层图神经网络，并通过给定的角度方法提取节点方向。为了证明我们提出的算法的效率，我们评估了我们提出的算法对六个国家的最先进的基准网络嵌入模型的效率，在四个真实的时态网络数据，结果表明，我们的模型优于其他方法在预测未来的链接时态网络。
2020-08-16 cs.LG cs.SI
Semi-supervised Graph Embedding Approach to Dynamic Link Prediction
The University of Tokyo（东京大学）
我们提出了一个简单的离散时间半监督图嵌入方法，在动态网络中的链接预测。学习的嵌入反映了来自时间和横截面网络结构的信息，这是通过将损失函数定义为来自过去动态的监督损失和预测当前网络中的邻域上下文的无监督损失的加权和来执行的。我们的模型也能够学习不同的嵌入形成和溶解动力学。这些关键方面有助于我们的模型的预测性能，我们提供了三个真实世界的动态网络的实验表明，我们的方法是可比的最先进的方法在链接形成预测和优于最先进的基线方法在链接解散预测。
2016-10-14 cs.LG cs.SI physics.soc-ph
Explaining Link Predictions in Knowledge Graph Embedding Models with Influential Examples
Accenture Labs（埃森哲实验室）
研究了知识图谱嵌入模型中链接预测的解释问题。我们提出了一个基于实例的方法，利用潜在的空间表示的节点和边缘的知识图谱来解释预测。我们通过观察有影响力的三元组删除后模型性能的逐步退化来评估识别三元组的重要性。我们的实验表明，这种方法产生的解释优于基线KGE模型的两个公开可用的数据集。
2022-12-05 cs.LG
TeRoR: Decoupled Temporal Rotation with Relational Circular Region for Temporal Knowledge Graph Embedding
South China Normal University（华南师范大学）
针对TeRo模型在关系映射特性和时间信息表达上的不足，提出TeRoR方法，通过解耦实体嵌入的时间演化、独立旋转头尾实体增强时间建模，并利用半径约束头实体在尾实体圆形区域内以捕捉关系映射特性，在四个数据集上取得竞争性能。
2026-06-29 cs.LG
Graph-Level Embedding for Time-Evolving Graphs
Dartmouth College（达特茅斯学院）；Millennium Management, LLC（千禧管理有限责任公司）；Georgia Institute of Technology（佐治亚理工学院）
针对动态网络缺乏低维图级表示方法的问题，提出结合多层图、时间回溯随机游走和文档级语言模型的时序图级嵌入方法，并在五个数据集上验证其优于基线。
2023-06-01 cs.AI cs.LG cs.SI
Temporal Knowledge Graph Embedding Model based on Additive Time Series Decomposition
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）
知识图谱（KG）嵌入是近年来研究的热点。大多数KG嵌入模型从时间未知的三元组学习。然而，在三元组旁边包含时间信息将进一步提高KGE模型的性能。在这方面，我们提出ATiSE，时间KG嵌入模型，将时间信息到实体/关系表示使用加法时间序列分解。此外，考虑到实体/关系表示随时间演变过程中的时间不确定性，我们将时间KG的表示映射到多维高斯分布空间中。每个实体/关系在一个时间步嵌入的平均值显示了当前的预期位置，而其协方差（时间上是平稳的）表示其时间不确定性。实验结果表明，ATiSE在四个时间KG上的链接预测方面处于领先地位。
2020-10-28 cs.AI cs.LG stat.ML
MultiSAGE: a multiplex embedding algorithm for inter-layer link prediction
University of Catania（卡塔尼亚大学）；INFN Sezione di Catania（意大利国家核物理研究所卡塔尼亚分部）；University of Namur（那慕尔大学）；Queen Mary University of London（伦敦玛丽女王大学）
图表示学习的研究近年来受到了极大的关注。然而，到目前为止，大多数研究都集中在单层图的嵌入。处理多层结构的表示学习问题的少数研究依赖于层间链接已知的强假设，这限制了可能的应用范围。在这里，我们提出了MultiSAGE，这是GraphSAGE算法的一个推广，它允许嵌入多路复用网络。我们表明，MultiSAGE能够重建层内和层间的连接，优于GraphSAGE，这是专为简单的图形。接下来，通过一个全面的实验分析，我们揭示了嵌入的性能，无论是在简单的和多路复用的网络，显示无论是图的密度或链接的随机性强烈影响嵌入的质量。
2022-06-24 cs.DM cs.LG cs.SI
Robust Graph Embedding with Noisy Link Weights
Kyoto University（京都大学）；RIKEN Center for Artificial Intelligence Project (AIP)（理化学研究所人工智能项目中心）
我们提出了$β$ -图嵌入鲁棒学习特征向量的数据向量和噪声链接权重。一个新引入的经验矩$β$ -分数减少污染的影响，并鲁棒地测量潜在的正确的预期权重的链接和指定的生成模型之间的差异。所提出的方法是计算易处理的，我们采用了一个小批量为基础的有效的随机算法，并证明该算法局部最小化的经验矩$β$得分。我们在合成和真实世界的数据集上进行数值实验。
2019-02-22 cs.LG stat.ML
Time-aware Graph Embedding: A temporal smoothness and task-oriented approach
Nanyang Technological University（南洋理工大学）；Alibaba Group（阿里巴巴集团）；Victoria University（维多利亚大学）；Simon Fraser University（西蒙弗雷泽大学）；South China University of Technology（华南理工大学）
知识图谱嵌入是近年来研究的热点之一，其目的是学习实体和关系的低维表示。然而，大多数知识图谱的嵌入方法只关注固定三元组中的结构关系，而忽略了时态信息。目前，已有的时间感知图嵌入方法只关注事实的可扩展性，而忽略了时间平滑性。时间平滑性是描述事实与其上下文之间交互的模型，因此能够捕获细粒度的时间关系。这导致嵌入相关应用程序的性能有限。为了解决这个问题，本文提出了一种鲁棒的时间感知图嵌入（RTGE）方法，结合时间平滑。本文的两个主要创新点在这里。首先，RTGE在时间感知图嵌入的学习过程中集成了时间平滑性的度量。通过提出的附加平滑因子，RTGE可以保持给定图的结构信息和演化模式。其次，RTGE提供了一个通用的面向任务的负采样策略与时间感知的信息，这进一步提高了所提出的算法的自适应能力，并在各种任务中获得优异的性能发挥了至关重要的作用。在多个基准任务上进行的大量实验表明，RTGE可以提高实体/关系/时间范围预测任务的性能。
2020-07-22 cs.LG stat.ML
Towards Spatio-Temporal Cross-Platform Graph Embedding Fusion for Urban Traffic Flow Prediction
University of Connecticut（康涅狄格大学）
本文提出了一种新的时空跨平台图嵌入融合方法STC-GEF，用于城市交通流预测。设计了一种基于图卷积网络（GCN）的空间嵌入模块来提取交通流数据中复杂的空间特征。此外，为了捕捉不同时间间隔的交通流数据之间的时间依赖性，我们设计了一个基于递归神经网络的时间嵌入模块。基于不同运输平台行程数据（例如，出租车、Uber和Lyft）可以相互关联，我们设计了一种有效的融合机制，该机制将来自不同交通平台的行程数据组合起来，并进一步将它们用于跨平台交通流预测（例如，整合出租车和共乘平台，用于出租车交通流量预测）。我们基于纽约市黄色出租车和拼车（Lyft）的真实出行数据进行了广泛的真实世界实验研究，并验证了STC-GEF融合不同交通平台数据和预测交通流的准确性和有效性。
2022-08-21 cs.LG
Temporal Knowledge Graph Completion using Box Embeddings
University of Oxford（牛津大学）
知识图谱完成是基于知识图谱中的现有数据推断缺失事实的任务。时间知识图谱完成（TKGC）是该任务到时间知识图谱的扩展，其中每个事实另外与时间戳相关联。目前的TKGC方法主要建立在现有的嵌入模型上，这些模型是为（静态）知识图谱完成而开发的，并将这些模型扩展到包含时间，其中的想法是学习实体，关系和时间戳的潜在表示，然后使用学习到的表示来预测在各个时间步丢失的事实。本文在静态知识图谱嵌入模型BoxE的基础上，提出了一种面向TKGC的嵌入模型BoxTE。我们发现，BoxTE是充分的表达，并具有很强的归纳能力的时间设置。然后，我们实证评估我们的模型，并表明它实现了国家的最先进的结果在几个TKGC基准。
2021-09-18 cs.AI cs.LG
Complex Embeddings for Simple Link Prediction
Xerox Research Centre Europe（施乐欧洲研究中心）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；University College London（伦敦大学学院）
在统计关系学习中，链接预测问题是自动理解大型知识库结构的关键。在以前的研究中，我们建议解决这个问题，通过潜在的因式分解。然而，这里我们使用了复值嵌入。复合嵌入的合成可以处理大量的二元关系，其中包括对称和反对称关系。与神经张量网络和全息嵌入等最先进的模型相比，我们基于复杂嵌入的方法可以说更简单，因为它只使用Hermitian点积，这是实向量之间标准点积的复杂对应物。我们的方法可扩展到大型数据集，因为它在空间和时间上都保持线性，同时在标准链接预测基准上始终优于其他方法。
2016-06-20 cs.AI cs.LG stat.ML
Self-attention Presents Low-dimensional Knowledge Graph Embeddings for Link Prediction
University of Tehran（德黑兰大学）
一些模型试图通过在更低的维度中嵌入知识图谱来解决链接预测问题，也称为知识图谱完成。然而，国家的最先进的结果是在相当大的增加嵌入的维数的成本，导致可扩展性问题的情况下，巨大的知识库。Transformers最近已经成功地用作知识图谱的强大编码器，但是可用的模型仍然具有可扩展性问题。为了解决这个问题，我们引入了一个基于transformer的模型来获得有表现力的低维嵌入。我们利用大量的自注意力头的关键应用查询相关的投影捕捉实体和关系之间的互信息。以WN 18 RR和FB 15 k-237作为标准链接预测基准测试的实验结果表明，该模型与当前最先进的模型具有相当的性能。值得注意的是，与最近五个最好的最先进的竞争对手相比，我们得到了令人鼓舞的结果，嵌入的维度平均减少了66.9%。
2022-11-26 cs.AI cs.LG
Linking Physicians to Medical Research Results via Knowledge Graph Embeddings and Twitter
University of Bonn（波恩大学）；Fraunhofer Institute for Intelligent Analysis and Information Systems（弗劳恩霍夫智能分析与信息系统研究所）
向专业人员通报其领域的最新研究成果是医疗保健领域的一项特别重要的任务，因为该领域的任何发展都直接改善了患者的健康状况。同时，社交媒体是一种允许公众即时共享信息的基础设施，因此它最近在医疗应用中变得流行。在这项研究中，我们应用多距离知识图谱嵌入（MDE）将医生和外科医生与最新的医学突破联系起来，这些突破作为研究成果在Twitter上共享。我们的研究表明，使用这种方法，医生可以了解他们领域的新发现，因为他们有一个专门的专业账户。
2020-02-21 cs.AI cs.IR cs.LG
ChronoR: Rotation Based Temporal Knowledge Graph Embedding
University of Florida（佛罗里达大学）；Texas A&M University（德克萨斯A&M大学）
尽管时态知识图谱的重要性和丰富性，目前的研究主要集中在静态图上的推理。本文研究时态知识图谱上的推理问题。特别是时间链接预测的任务。一般来说，这是一个困难的任务，由于数据的非平稳性，数据异构性，及其复杂的时间依赖性。我们提出了时序旋转嵌入（ChronoR），这是一种用于学习实体，关系和时间表示的新模型。学习密集表示经常被用作在知识图谱上执行推理的有效且通用的方法。所提出的模型学习由关系和时间参数化的k维旋转变换，使得在使用旋转变换每个事实的头部实体之后，它落在其对应的尾部实体附近。通过使用高维旋转作为其变换算子，ChronoR捕获了时态知识图谱的时态和多关系特征之间的丰富交互。实验表明，ChronoR能够在时间知识图谱链接预测的基准数据集上胜过许多最先进的方法。
2021-03-18 cs.LG cs.SC
Convolutional Hypercomplex Embeddings for Link Prediction
Paderborn University（帕德博恩大学）；Globo（环球集团）
知识图谱嵌入的研究主要集中在两个最小的赋范除代数，$\mathbb{R}$和$\mathbb{C}$。最近的研究结果表明，四元数值嵌入的三线性积可以是一种更有效的手段来解决链接预测。此外，基于实值嵌入卷积的模型通常会产生链接预测的最新结果。本文研究了卷积运算与超复数乘法的复合。我们提出了四种方法QMult，OMult，ConvQ和ConvO来解决链接预测问题。QMult和OMult可以被认为是之前最先进方法（包括DistMult和ComplEx）的四元数和八元数扩展。ConvQ和ConvO建立在QMult和OMult的基础上，以残差学习框架的方式包含卷积运算。我们在包括WN 18 RR、FB 15 K-237和YAGO 3 -10在内的七个链接预测数据集上评估了我们的方法。实验结果表明，随着知识图谱的大小和复杂度的增长，学习超复值向量表示的好处变得更加明显。ConvO在MRR、Hit@1和Hit@3方面优于FB 15 K-237上的最先进方法，而QMult、OMult、ConvQ和ConvO在所有指标上都优于YAGO 3 -10上的最先进方法。结果还表明，链接预测性能可以进一步提高通过预测平均。为了促进可重复的研究，我们提供了一个开源的方法实现，包括培训和评估脚本以及预训练模型。
2021-11-18 cs.IR cs.LG
TeRo: A Time-aware Knowledge Graph Embedding via Temporal Rotation
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫应用信息学研究所）
在过去的几年里，人们对学习知识图谱中实体和关系的表示产生了浓厚的兴趣。然而，最近可用的时间知识图（TKG），包含每个事实的时间信息，需要在这样的TKG推理超时。在这方面，我们提出了一种新的TKG嵌入的方法，TeRo，它定义的实体嵌入的时间演化作为一个旋转从初始时间到当前时间在复向量空间。特别地，对于涉及时间间隔的事实，每个关系被表示为一对对偶复嵌入，以分别处理关系的开始和结束。我们表明，我们提出的模型克服了现有的KG嵌入模型和TKG嵌入模型的局限性，并具有学习和推断各种关系模式随着时间的推移的能力。四个不同的TKG上的实验结果表明，TeRo显着优于现有的最先进的链接预测模型。此外，我们还分析了时间粒度对TKG上链接预测的影响，据我们所知，这在以前的文献中还没有研究过。
2020-10-24 cs.AI cs.CL cs.LG
xERTE: Explainable Reasoning on Temporal Knowledge Graphs for Forecasting Future Links
Institute of Informatics, LMU Munich（慕尼黑大学信息学研究所）；Corporate Technology, Siemens AG（西门子股份公司中央研究院）；Department of Informatics, Technical University of Munich（慕尼黑工业大学信息学系）
建模随时间演化的知识图谱（KG）最近得到了越来越多的关注。在这里，图表示学习已经成为时间KG上的链接预测的主导范例。然而，基于嵌入的方法在很大程度上是以黑箱方式运行的，缺乏解释其预测的能力。本文提供了一个链接预测框架，原因在查询相关的子图的时间KG和联合模型的结构依赖和时间动态。特别是，我们提出了一个时间关系注意力机制和一个新的反向表示更新计划，以指导周围的查询封闭子图的提取。子图通过时间邻居的迭代采样和注意力传播来扩展。我们的方法提供了人类可以理解的证据来解释预测。我们评估我们的模型的四个基准时间知识图谱的链接预测任务。虽然更易于解释，但与以前的最佳KG预测方法相比，我们的模型在Hits@1上获得了高达20%的相对改进。我们还对53名受访者进行了调查，结果表明，该模型提取的链接预测证据与人类的理解一致。
2021-04-01 cs.AI cs.LG
Embedding Symbolic Temporal Knowledge into Deep Sequential Models
National University of Singapore（新加坡国立大学）
序列和时间序列经常出现在机器人任务中，例如，活动识别和模仿学习。近年来，深度神经网络（DNN）已经成为一种有效的数据驱动方法，用于在给定足够的训练数据和计算资源的情况下处理序列。然而，当数据有限时，更简单的模型（如基于逻辑/规则的方法）工作得非常好，特别是当相关的先验知识应用于其构建时。然而，与DNN不同的是，这些“结构化”模型可能难以扩展，并且不能很好地处理原始的非结构化数据。在这项工作中，我们试图学习灵活的DNN，但在可用时利用先验时间知识。我们的方法是嵌入表示为线性时序逻辑（LTL）的符号知识，并使用这些嵌入来指导深度模型的训练。具体来说，我们通过图神经网络构造基于语义的LTL公式自动机的嵌入。实验表明，这些学习嵌入可以导致下游机器人任务，如顺序动作识别和模仿学习的改进。
2021-01-28 cs.AI cs.LG cs.RO
MEIM: Multi-partition Embedding Interaction Beyond Block Term Format for Efficient and Expressive Link Prediction
National Institute of Informatics（国立信息学研究所）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学）
知识图嵌入的目的是预测知识图谱中实体之间缺失的关系。基于张量分解的模型，如ComplEx，在效率和表达能力之间提供了良好的权衡，这是至关重要的，因为现实世界的知识图谱的大小。最近的多分区嵌入相互作用（MEI）模型通过使用块项张量格式包含这些模型，并提供了一个系统的解决方案的权衡。然而，MEI有几个缺点，其中一些来自其包含的基于张量分解的模型。在本文中，我们解决这些缺点，并介绍了多分区嵌入相互作用改进的超越块项格式（MEIM）模型，独立的核心张量的合奏效果和软正交的最大秩映射，除了多分区嵌入。MEIM提高了表现力，同时仍然非常高效，帮助它超越强大的基线，并使用相当小的嵌入大小在困难的链接预测基准上实现最先进的结果。源代码发布于https://github.com/tranhungnghiep/MEIM-KGE。
2022-10-04 cs.AI cs.LG
Integrating Transductive And Inductive Embeddings Improves Link Prediction Accuracy
IIT Bombay（印度理工学院孟买分校）
近年来，归纳图嵌入模型、\emph{viz.}、图神经网络（GNN）在在线社交网络中的链接预测（LP）方面变得越来越准确。这种网络的性能在很大程度上取决于输入节点的特征，这些特征在网络和应用中各不相同。选择适当的节点功能仍然依赖于应用程序，通常是一个悬而未决的问题。此外，由于隐私和道德问题，个性化节点特征的使用往往受到限制。事实上，来自在线社交网络的许多公开可用的数据不包含任何节点特征（例如，人口统计学）。在这项工作中，我们提供了一个全面的实验分析，表明利用转导技术（例如，Node2Vec）来获得初始节点表示，在此之后，归纳节点嵌入技术接管，导致链接预测准确性的实质性改进。我们证明，对于各种各样的GNN变体，从Node2Vec获得的节点表示向量作为GNN的高质量输入特征，从而提高LP性能。
2021-08-23 cs.AI cs.IR cs.LG
DynG2G: An Efficient Stochastic Graph Embedding Method for Temporal Graphs
Brown University（布朗大学）；McGovern Institute for Brain Research, Massachusetts Institute of Technology（麻省理工学院麦戈文脑科学研究所）；National Institute of Technology, Silchar（锡尔查尔国家理工学院）
动态图嵌入由于能够学习复杂时序图的低维图表示并具有较高的精度而受到广泛关注。然而，最近的进展主要集中在学习节点嵌入作为静态图的确定性“向量”，而忽略了关键图的时间动态和与潜在空间中的节点嵌入相关的不断变化的不确定性。在这项工作中，我们提出了一种有效的随机动态图嵌入方法（DynG2G），该方法应用了一种使用基于节点三元组的对比损失训练的感应前馈编码器。每个时间戳的每个节点被编码为潜在空间中的时间相关概率多元高斯分布，因此我们可以实时量化节点嵌入的不确定性。我们采用了八种不同的基准，代表了大小的多样性（从96个节点到87，626个节点，从13，398条边到4，870，863条边）和动态的多样性。我们通过对这八个动态图基准测试的广泛实验证明，DynG2G在捕获底层时间节点嵌入方面实现了新的最先进的性能。我们还证明了DynG2G可以预测不断变化的节点嵌入不确定性，这在量化动态系统随时间的内在维数方面起着至关重要的作用。我们得到的最佳嵌入维数，$L_o$，与有效维数的不确定性，$D_u$的普遍关系，我们推断，$L_o=D_u$的所有情况下。这意味着我们在DynG2G中采用的不确定性量化方法正确地捕获了这种不断发展的图形的动态的内在维度，尽管每个时间戳的图形具有不同的性质和组成。此外，该$L_0 - D_u$相关性提供了清晰的路径，以通过设置$L \ge D_u$来自适应地选择每个时间戳处的最…
2022-04-27 cs.AI cs.LG
Learning Hierarchy-Aware Knowledge Graph Embeddings for Link Prediction
University of Science and Technology of China（中国科学技术大学）
知识图谱嵌入，旨在将实体和关系表示为低维向量（或矩阵，张量等），已被证明是预测知识图谱中缺失链接的强大技术。现有的知识图谱嵌入模型主要集中在对称/反对称、反转、组合等关系模式的建模上。然而，许多现有的方法无法建模语义层次结构，这是常见的在现实世界中的应用。为了解决这个问题，我们提出了一种新的知识图谱嵌入模型-即层次感知知识图谱嵌入（HAKE）-将实体映射到极坐标系。HAKE的灵感来自于极坐标系中的同心圆可以自然地反映层次结构。具体而言，径向坐标旨在对层次结构中不同级别的实体进行建模，并且具有较小半径的实体预计处于较高级别;角坐标旨在区分层次结构中相同级别的实体，并且这些实体预计具有大致相同的半径但不同的角度。实验表明，HAKE可以有效地建模知识图谱中的语义层次结构，并显着优于现有的最先进的方法在基准数据集上的链接预测任务。
2022-04-06 cs.CL cs.LG stat.ML
From One Point to A Manifold: Knowledge Graph Embedding For Precise Link Prediction
Tsinghua University（清华大学）
知识图谱嵌入的目的是通过将实体和关系转换到连续的向量空间中来提供一种数值化的知识表示范式。然而，现有的方法不能对知识图谱进行精细的描述，从而不能做出精确的预测。其原因有二：一是作为一个不适定的代数系统，二是应用了过于严格的几何形式。由于精确的预测是至关重要的，我们提出了一个基于流形的嵌入原则（\textbf{ManifoldE}），它可以被视为一个适定的代数系统，扩展的位置黄金三元组从一个点在当前的模型在我们的流形。大量的实验表明，所提出的模型实现了对国家的最先进的基线，特别是对于精确的预测任务的实质性改善，但仍保持高效率。
2017-06-17 cs.AI cs.LG
TAMI: Taming Heterogeneity in Temporal Interactions for Temporal Graph Link Prediction
Beijing Normal-Hong Kong Baptist University（北京师范大学-香港 Baptist大学）；University College Dublin（都柏林大学）；The Hong Kong University of Science and Technology（香港科学与技术大学）；Texas State University（德克萨斯州立大学）；Guangdong Provincial / Zhuhai Key Laboratory of IRADS, China（广东/珠海IRADS重点实验室，中国）
针对时间交互异质性导致链接预测失效的问题，提出TAMI框架，含LTE和LHA组件，集成现有时间图神经网络，在多个数据集上提升预测性能。
2025-10-23 cs.AI cs.LG
Leveraging Static Models for Link Prediction in Temporal Knowledge Graphs
Utrecht University（乌得勒支大学）
在知识图谱嵌入（KGE）中包含事实的时间范围为改进所得到的嵌入提供了重要的机会，并且因此为下游应用中的提高的性能提供了重要的机会。然而，很少有研究工作集中在这一领域，许多研究报告显示，与没有时间范围训练的模型（静态模型）相比，结果只略有改善。此外，而不是利用现有的静态模型的工作，他们介绍了特定的时间知识图谱的新模型。我们提出了一个新的视角，利用现有的静态嵌入模型的力量，集中精力操纵数据，而不是。我们的方法SpiMe从信号处理领域和图嵌入的早期工作中汲取灵感。我们表明，SpliMe竞争或优于目前的最先进的时间KGE。此外，我们发现目前用于评估静态模型在时间图上的性能的过程中存在的问题，并介绍了两种方法来抵消它们。
2021-06-29 cs.AI cs.CL cs.LG
OOD Link Prediction Generalization Capabilities of Message-Passing GNNs in Larger Test Graphs
Purdue University（普渡大学）；Ludwig-Maximilians-Universitat München（慕尼黑大学）
这项工作提供了关于图消息传递神经网络（gMPNN）-如图神经网络（GNN）-执行归纳分布外（OOD）链接预测任务的能力的第一个理论研究，其中部署（测试）图的大小大于训练图。我们首先证明了非渐近界，表明基于置换等变（结构）节点嵌入gMPNN的链接预测可以收敛到一个随机猜测的测试图变得更大。然后，我们提出了一个理论上合理的gMPNN输出结构成对（2节点）嵌入，并证明非渐近界显示，随着测试图的增长，这些嵌入收敛到一个连续函数的嵌入，保留其预测链接OOD的能力。随机图上的实验结果与我们的理论结果一致。
2022-10-10 cs.AI cs.LG cs.NA
Adversarial Robustness of Probabilistic Network Embedding for Link Prediction
Ghent University（根特大学）
在当今的网络社会中，许多现实世界的问题可以形式化为预测网络中的链接，例如Facebook的友谊建议，电子商务推荐，以及引文网络中的科学合作预测。链接预测问题越来越多地通过网络嵌入方法来解决，这是由于它们具有最先进的性能。然而，与更简单的基线相比，这些方法缺乏透明度，因此它们对对抗攻击的鲁棒性可能是一个值得关注的问题：对网络的一个或几个小的对抗性修改是否会对链接预测产生很大影响使用网络嵌入模型时的性能？先前的研究已经研究了网络嵌入模型的对抗鲁棒性，重点是节点和图级别的分类。另一方面，对于链路预测下游任务的鲁棒性研究较少，本文通过研究链接预测的条件网络嵌入（CNE）模型的对抗鲁棒性来填补这一空白。更具体地说，给定CNE和一个网络，我们测量模型的链接预测对网络的小对抗扰动的敏感性，即节点对的链接状态的变化。因此，我们的方法可以识别网络中最容易受到这种扰动的链接和非链接，供分析师进一步调查。我们分析了最敏感和最不敏感的扰动的特征，并根据经验证实，我们的方法不仅成功地识别出最脆弱的链接和非链接，而且由于有效的近似，它可以以一种有效的方式进行识别。
2021-07-05 cs.LG cs.SI
Deep Hashing for Signed Social Network Embedding
Beijing Institute of Technology（北京理工大学）；Huazhong University of Science and Technology（华中科技大学）
网络嵌入是一种很有前途的网络表示方法，可以方便地处理和分析许多签名社交网络，如链接预测和节点分类。近年来，已有的几种嵌入算法都采用了特征散列算法来提高嵌入效率，并取得了很大的成功。然而，现有的基于特征散列的嵌入算法仅考虑签名社交网络中的正链接。直观地说，负面链接也有助于提高性能。因此，在本文中，我们提出了一种新的深度哈希方法，通过同时考虑正负链接，用于签名社交网络嵌入。大量的实验表明，该方法优于几个国家的最先进的基线，通过链接预测任务在两个现实世界中签署的社交网络。
2019-08-16 cs.LG cs.SI
High-order joint embedding for multi-level link prediction
University of California, Irvine（加州大学尔湾分校）
链接预测是从观测到的网络中推断出潜在的链接，是网络分析中的基本问题之一。与传统的图表示模型只预测双向成对关系不同，本文提出了一种新的基于张量的联合网络嵌入方法，将成对链接和超链接同时编码到一个潜在空间中，该方法在推断潜在的不可观察超链接时捕获了成对链接和多路链接之间的依赖关系.所提出的嵌入过程的主要优点是，它结合了节点之间的成对关系和子组结构，以捕获更丰富的网络信息。此外，该方法引入了链接之间的层次依赖关系来推断潜在的超链接，并导致更好的链接预测。在理论上，我们建立了所提出的嵌入方法的估计一致性，并提供了一个更快的收敛速度相比，链接预测利用成对链接或超链接。仿真环境和Facebook自我网络的数值研究表明，所提出的方法提高了超链接和成对链接预测的准确性相比，现有的链接预测算法。
2021-11-07 cs.LG cs.SI stat.ML
Node Embedding over Temporal Graphs
Technion, Israel Institute of Technology（以色列理工学院）；eBay Research（易贝研究院）
在这项工作中，我们提出了一种方法，在时间图的节点嵌入。我们提出了一种算法，学习时间图的节点和边随着时间的推移的演变，并将这种动态的时间节点嵌入框架中的不同的图形预测任务。我们提出了一个联合损失函数，该函数通过学习组合节点的历史时间嵌入来创建节点的时间嵌入，使得它针对给定任务进行优化（例如，链接预测）。该算法使用静态节点嵌入进行初始化，然后在不同时间点对节点的表示进行对齐，并最终在联合优化中适应给定的任务。我们评估了我们的方法的有效性，在各种时间图的时间链接预测和多标签节点分类的两个基本任务，比较有竞争力的基线和算法的替代品。我们的算法在许多数据集和基线上都显示出了性能上的改进，并且对于内聚性较低、聚类系数较低的图特别有效。
2021-05-19 cs.LG cs.SI stat.ML
Dynamic Network Embeddings for Network Evolution Analysis
网络嵌入学习将节点表示为低维向量，以保持节点和网络社区之间的接近性，以进行网络分析。时间边缘（例如，关系、联系人和电子邮件）对于网络演化分析是重要的，但是现有的网络嵌入方法很少能够从时间边缘捕获动态信息。本文提出了一种新的动态网络嵌入方法来有效地分析动态网络的演化模式。我们的方法使用随机游走来保持节点之间的邻近性，并应用动态伯努利嵌入训练离散时间网络嵌入在同一个向量空间中，没有对齐，以保持稳定节点的时间连续性。我们通过链接预测和进化节点检测将我们的方法与几种最先进的方法进行了比较，实验表明我们的方法在这些任务中具有更好的性能。我们的方法进一步验证了两个现实世界的动态网络，通过检测不断发展的节点和可视化他们的时间轨迹在嵌入式空间。
2019-06-24 cs.LG cs.SI
weg2vec: Event embedding for temporal networks
ISI Foundation（ISI基金会）；Alma Mater Studiorum University of Bologna（博洛尼亚大学）；Central European University（中欧大学）；Univ de Lyon（里昂大学）；ENS de Lyon（里昂高等师范学院）；INRIA（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；IXXI（里昂复杂系统研究所）
网络嵌入技术是强大的，以捕捉网络中的结构化的，并确定其本地结构之间的相似性。然而，传统的网络嵌入模型是针对静态结构开发的，通常只考虑节点，当网络随时间变化时，它们受到严重挑战。时间网络在描述真实系统方面可能具有优势，但它们编码的是更复杂的信息，到目前为止，只有少数几种方法才能有效地表示这些信息。在这里，我们提出了一种新的时间网络的事件嵌入方法，称为weg2vec，它建立在事件的时间和结构相似性上，以学习时间网络的低维表示。这种投影成功地捕捉到了涉及不同时间不同节点的事件之间的潜在结构和相似性，并提供了预测在时间结构上展开的传播过程的最终结果的方法。
2019-11-06 cs.LG cs.SI physics.soc-ph
Large-Scale Privacy-Preserving Network Embedding against Private Link Inference Attacks
Shanghai University of Finance and Economics（上海财经大学）；Peking University（北京大学）；Beihang University（北京航空航天大学）
网络嵌入通过低维信息向量表示网络节点。虽然它通常对各种下游任务有效，但它可能会泄露网络的一些私有信息，例如隐藏的私有链接。在这项工作中，我们解决了一个新的问题，保护隐私的网络嵌入对私人链接推理攻击。基本上，我们建议通过添加或删除链接来扰动原始网络，并期望在扰动后的网络上生成的嵌入可以泄漏很少的私有链接信息，但对各种下游任务具有很高的实用性。为了实现这一目标，我们首先提出了一般的测量，以量化隐私增益和效用损失所产生的候选网络扰动，然后我们设计了一个PPNE框架，以确定最佳的扰动解决方案与最佳的隐私效用权衡迭代的方式。此外，我们提出了许多技术来加速PPNE，并确保其可扩展性。例如，由于包括DeepWalk和LINE在内的skip-gram嵌入方法可以被视为具有封闭形式嵌入结果的矩阵分解，因此我们设计了有效的隐私增益和效用损失近似方法，以避免在每次迭代中对每个候选网络扰动进行重复耗时的嵌入训练。在真实网络数据集（多达数百万个节点）上的实验验证了PPNE通过牺牲更少的效用和获得更高的隐私保护来优于基线。
2022-05-28 cs.AI cs.LG cs.SI
Temporal Network Embedding with Micro- and Macro-dynamics
Beijing University of Posts and Communications（北京邮电大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Case Western Reserve University（凯斯西储大学）
网络嵌入的目的是将节点嵌入到一个低维空间中，同时捕捉网络的结构和性质。虽然已经提出了不少有前途的网络嵌入方法，但大多数都集中在静态网络上。事实上，时间网络，通常随着时间的推移在微观和宏观动力学方面的演变，是无处不在的。微观动力学详细描述了网络结构的形成过程，宏观动力学则是网络规模的演化模式。微观动力学和宏观动力学都是网络演化的关键因素，然而，如何优雅地捕捉它们的时间网络嵌入，特别是宏观动力学，尚未得到很好的研究。在本文中，我们提出了一种新的时间网络嵌入方法与微观和宏观动力学，命名为$\rm{M^2DNE}$。具体而言，对于微观动力学，我们认为边的建立作为时序事件的发生，并提出了一个时间注意点过程来捕捉网络结构的形成过程中的细粒度的方式。对于宏观动力学，我们定义了一个一般的动力学方程参数与网络嵌入捕捉内在的演化模式，并施加约束，在更高的结构水平上的网络嵌入。时间网络中微观和宏观动态的相互演化交替影响学习节点嵌入的过程。在三个真实世界的时间网络上进行的大量实验表明，$\rm{M^2DNE}$不仅在传统任务中，网络重建，而且在时间趋势相关的任务中，例如，规模预测
2019-09-10 cs.LG cs.SI stat.ML
Dynamic Node Embeddings from Edge Streams
WPI（伍斯特理工学院）；Adobe Research（奥多比研究院）；Intel Labs（英特尔实验室）
网络随着时间的推移不断发展，增加，删除和改变链接和节点。这种时间网络（或边缘流）由一系列带时间戳的边缘组成，似乎无处不在。尽管准确建模的时间信息的重要性，大多数嵌入方法完全忽略它或近似的时间网络使用一系列的静态快照图。在这项工作中，我们提出使用时间行走的概念来学习来自时间网络的动态嵌入。时间行走捕获时间上有效的交互（例如，信息流、疾病传播）在动态网络中以无损的方式进行。基于时间行走的概念，我们描述了一个一般类的嵌入称为连续时间动态网络嵌入（CTDNEs），完全避免的问题和问题时，出现近似的时间网络作为一个序列的静态快照图。与以前的工作不同，CTDNE直接从时间网络中以最细的时间粒度学习动态节点嵌入，因此只使用时间有效的信息。因此，CTDNE自然支持以流实时方式对节点嵌入的在线学习。最后，实验证明了这类嵌入方法的有效性，这些方法利用了时间遍历，因为它在所有方法和图形中实现了11.9%的AUC平均增益。
2020-07-17 cs.AI cs.LG cs.SI
On the Equivalence of Holographic and Complex Embeddings for Link Prediction
NTT Communication Science Laboratories（NTT通信科学实验室）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
我们展示了两种最先进的链接预测/知识图谱完成方法的等价性：Nickel等人的全息嵌入和Trouillon等人的全息嵌入。的复杂嵌入。我们首先考虑全息嵌入的频谱版本，利用傅里叶变换中的频域进行有效的计算。对所得方法的分析表明，它可以被视为复杂嵌入的一个实例，在训练时对初始向量施加某些约束。相反，任何复杂的嵌入都可以转换为等效的全息嵌入。
2017-09-22 cs.LG
HTGN-BTW: Heterogeneous Temporal Graph Network with Bi-Time-Window Training Strategy for Temporal Link Prediction
Northeastern University（东北大学）；Microsoft Research Asia（微软亚洲研究院）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
随着电子商务网络、社交网络等时态网络的发展，时态链接预测问题近年来受到越来越多的关注。WSDM Cup 2022的时间链接预测任务期望一个可以同时在两种时间图上工作的单一模型，这两种时间图具有非常不同的特征和数据属性，以预测给定类型的链接是否会在给定的时间跨度内在两个给定的节点之间发生。我们的团队，这里命名为nothing，将此任务视为异构时态网络中的链接预测任务，并提出了一个通用模型，即，异构时态图网络（Heterogeneous Temporal Graph Network，HTGN），解决了时间间隔不固定、链路类型多样的时态链接预测问题。也就是说，HTGN可以适应链路的异构性和在任意给定时间段内具有不固定时间间隔的预测。为了对模型进行训练，我们设计了一种双时间窗训练策略（BTW），该策略在两种时间窗下分别训练两种小批量。因此，对于最终测试，我们在数据集A上实现了0.662482的AUC，在数据集B上实现了0.906923的AUC，并以0.628942的平均T得分获得了第二名。
2022-02-25 cs.AI cs.LG cs.SI
Benchmarking Network Embedding Models for Link Prediction: Are We Making Progress?
Ghent University（根特大学）；Dept. of Electronics and I. S.（电子与信息系统系）
网络嵌入方法将网络的节点映射到嵌入空间中的向量，使得这些表示对于估计网络中的节点对之间的相似性或接近度的一些概念是有用的。然后，通过下游预测任务的结果来展示这些节点表示的质量。然而，诸如链接预测之类的常用基准任务呈现出复杂的评估管道和丰富的设计选择。这一点，再加上缺乏标准化的评价机制，可能会掩盖该领域的实际进展。在本文中，我们的目标是阐明最先进的网络嵌入方法的链接预测，并显示，使用一致的评估管道，只有薄的进展，在过去几年中取得的。我们在这里提出的新进行的基准测试，包括17种嵌入方法，也表明许多方法甚至比简单的嵌入方法更好。最后，我们认为，标准化的评估工具可以修复这种情况，并促进在这一领域的未来进展。
2020-09-03 cs.AI cs.LG cs.SI
Temporal Network Embedding via Tensor Factorization
Emory University（埃默里大学）；Xidian University（西安电子科技大学）
静态图结构数据的表示学习在许多实际应用中表现出了显著的影响。然而，很少有人注意到时间网络的演化性质，其中的边缘往往随着时间的推移而变化。这种时间网络的嵌入应该编码图结构信息和时间演变模式。现有的方法在学习时间演化网络表示未能捕捉时间的相互依赖性。在本文中，我们提出了太妃糖，一种新的方法的时间网络表示学习的基础上张量分解。我们的方法利用张量-张量积算子对跨时间信息进行编码，从而可以捕获演化网络中的周期性变化。实验结果表明，Toffee优于现有的方法在多个真实世界的时间网络生成有效的嵌入链接预测任务。
2021-08-22 cs.LG
Multi-Relation Aware Temporal Interaction Network Embedding
Zhejiang University（浙江大学）
时间交互网络在许多领域中形成，例如，电子商务、在线教育和社交网络服务。时态交互网络嵌入可以有效地挖掘时态交互网络中的信息，对上述领域具有重要意义。通常，交互的发生不仅影响直接参与交互的节点（交互节点），而且影响交互节点的邻居节点。然而，现有的时态交互网络嵌入方法只利用历史交互关系挖掘邻居节点，忽略了其他关系类型。本文提出了一种多关系感知的时态交互网络嵌入方法（MRATE）。MRATE基于历史交互，挖掘历史交互关系、共同交互关系和交互序列相似关系，得到交互节点的邻居嵌入。MRATE中的层次多关系感知聚集方法首先利用图注意力网络（GATs）聚集通过同一关系类型传播的交互影响，然后通过自注意机制将聚集的多关系类型的交互影响合并。在三个公开的时态交互网络数据集上进行了实验，实验结果表明了MRATE的有效性。
2021-10-09 cs.LG
From Static to Dynamic Node Embeddings
University of Michigan（密歇根大学）；Adobe Research（Adobe研究（Adobe Research））
我们介绍了一个通用的框架，利用图形流数据的时间预测为基础的应用程序。我们提出的框架包括新的方法来学习一个适当的图形时间序列表示，建模和加权的时间依赖关系，并推广现有的嵌入方法，这样的数据。虽然先前关于动态建模和嵌入的工作集中于使用基于特定时间尺度的图形的时间序列来表示带时间戳的边缘流（例如，1个月），我们提出了一个$ε$图的时间序列，每个图使用一个固定数量的边缘的概念，并显示其优越性，在以前的工作中使用的时间尺度表示。此外，我们提出了一些新的时间模型的概念的基础上的时间可达图和加权时间摘要图。这些时间模型，然后使用现有的基础（静态）嵌入方法，使他们能够纳入和适当的模型在数据中的时间依赖性。从调查的6个时间网络模型（对于7个基本嵌入方法中的每一个），我们发现前3个时间模型总是那些利用新的$ε$图时间序列表示。此外，该框架的动态嵌入方法几乎总是比专门为这种时间预测任务开发的现有最先进的动态节点嵌入方法实现更好的预测性能。最后，本文的研究结果对于设计更好的动态嵌入方法具有一定的参考价值。
2020-09-21 cs.AI cs.LG cs.SI
DyANE: Dynamics-aware node embedding for temporal networks
University of Tsukuba（筑波大学）；Aix Marseille Univ（艾克斯-马赛大学）；Université de Toulon（土伦大学）；CNRS（法国国家科学研究中心）；Tokyo Institute of Technology（东京工业大学）；University of Turin（都灵大学）；ISI Foundation（ISI基金会）
网络节点的低维向量表示已被证明可以成功地将图形数据提供给机器学习算法，并提高不同任务的性能。然而，大多数嵌入技术都是为了实现网络结构和模式的密集、低维编码而开发的。在这里，我们提出了一种节点嵌入技术，旨在提供低维特征向量，这些特征向量提供时间网络上发生的动态过程的信息，而不是网络结构本身的信息，目标是实现与这些过程的演变和结果相关的预测任务。我们实现这一点，通过使用修改后的超邻接表示的时间网络和标准的嵌入技术的基础上的静态图的随机行走。我们表明，由此产生的嵌入向量是有用的预测任务有关的范式动态过程，即传染病传播经验的时间网络。特别是，我们说明了我们的方法预测节点的流行病状态在一个单一的传播过程的情况下的性能。我们展示了如何将此任务框定为嵌入向量上的监督多标签分类任务，使我们能够从随机时间的部分节点采样中估计整个系统的时间演变，并对即时预报传染病动态产生潜在影响。
2020-08-29 cs.LG cs.SI physics.soc-ph
An embedding-based distance for temporal graphs
ISI Foundation（ISI基金会）；Aix-Marseille Univ（艾克斯-马赛大学）；Université de Toulon（土伦大学）；CNRS（法国国家科学研究中心）；CPT（理论物理中心）
本文提出一种基于时间尊重随机游走嵌入的时间图距离度量，可处理节点数和时间跨度不同的图，并通过实验验证其能有效区分图的拓扑与时间特性差异。
2024-11-19 cs.LG cs.SI physics.soc-ph
Just Propagate: Unifying Matrix Factorization, Network Embedding, and LightGCN for Link Prediction
针对链路预测领域缺乏对不同模型通用认知的问题，本文提出涵盖矩阵分解、代表性网络嵌入与图神经网络方法的统一框架，通过初步分析揭示关键设计因素，为方法创新提供启发。
2024-10-26 cs.AI cs.LG
TFLEX: Temporal Feature-Logic Embedding Framework for Complex Reasoning over Temporal Knowledge Graph
Beijing University of Posts and Telecommunications（北京邮电大学）；University of Bonn（波恩大学）；National University of Defense Technology（国防科技大学）
针对时序知识图谱的复杂推理，提出TFLEX框架，结合向量逻辑与时间算子，支持一阶逻辑操作，实验验证其有效性。
2023-10-15 cs.LG
Neural graph embeddings as explicit low-rank matrix factorization for link prediction
Institute of Artificial Intelligence, Medical University of Vienna（维也纳医科大学人工智能研究所）
学习高质量的神经图嵌入一直是通过最小化模拟随机游动中同现节点的逐点互信息（PMI）来实现的。这种设计选择主要是通过直接应用非常成功的词嵌入算法word2vec来预测社交网络、共同引用网络和生物网络中新链接的形成而推广的。然而，这种拟态设计的图嵌入方法需要截断来自具有低PMI的节点对的信息。为了避免这个问题，我们提出了一种改进的方法来学习低秩分解嵌入，将信息从这样的不太可能的节点对，并表明它可以提高链接预测性能的基线方法从1.2%到24.2%。根据我们的结果和观察，我们概述了进一步的步骤，可以改善设计的下一个图嵌入算法的基础上矩阵分解。
2022-08-25 cs.AI cs.LG cs.NA
NPGLM: A Non-Parametric Method for Temporal Link Prediction
Sharif University of Technology（谢里夫理工大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
本文试图解决信息网络中的时间链接预测问题。这意味着预测链接在未来出现所需的时间，给定其在当前网络快照中提取的特征。为此，我们引入了一种概率非参数的方法，称为“非参数广义线性模型”（NP-GLM），它推断出隐藏的潜在概率分布的链路出现时间给定的功能。然后，我们提出了一个学习算法的NP-GLM和推理方法来回答时间相关的查询。在合成数据和真实新浪微博社交网络上进行的大量实验证明了NP-GLM在解决时间链接预测问题时的有效性。
2017-06-21 cs.AI cs.LG cs.SI
Embedding Learning on Multiplex Networks for Link Prediction
University of Rostock（罗斯托克大学）；Leibniz-Institute for Food Systems Biology at Technical University Munich（慕尼黑工业大学莱布尼茨食品系统生物学研究所）；Stellenbosch Institute of Advanced Study（斯泰伦博斯高等研究院）；CNRS（法国国家科学研究中心）；INSERM（法国国家健康与医学研究院）
本文综述了多层网络上嵌入学习用于链接预测的模型，提出分类方法和公平评估流程，旨在提升嵌入学习方法的性能和可操作性。
2026-02-02 cs.LG
ECOLA: Enhanced Temporal Knowledge Embeddings with Contextualized Language Representations
University of Oxford（牛津大学）；LMU Munich（慕尼黑大学）；Technical University of Munich（慕尼黑工业大学）；Technical University of Darmstadt（达姆施塔特工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对现有文本增强方法无法适配时序知识图谱的问题，提出融合上下文化语言表示的ECOLA方法，通过时间感知的文本注入增强时序知识嵌入，在三个新数据集的链接预测任务上最高实现287%的Hits@1相对提升。
2023-05-04 cs.CL cs.LG
STAEformer: Spatio-Temporal Adaptive Embedding Makes Vanilla Transformer SOTA for Traffic Forecasting
Southern University of Science and Technology（南方科技大学）；The University of Tokyo（东京大学）；University of Technology Sydney（悉尼科技大学）
针对交通预测中捕捉复杂时空模式的难题，本研究提出时空自适应嵌入组件，搭配普通Transformer构建的STAEformer在5个真实数据集上达SOTA，验证了该嵌入在捕捉时空关联与时序信息上的关键作用。
2023-10-08 cs.LG
Runtime Monitoring of Perception-Based Autonomous Systems via Embedding Temporal Logic
Software and Societal Systems Department（软件与社会系统部门）；Carnegie Mellon University（卡内基梅隆大学）；General Robotics（通用机器人）；Aeronautics and Astronautics Department（航空与航天系）；University of Washington（华盛顿大学）
本文提出嵌入时序逻辑（ETL），在学习的嵌入空间中直接进行监控，通过观测嵌入与目标嵌入的距离定义谓词，能够捕捉高阶感知概念，如视觉目标相似性或避免语义区域，通过时序运算符表达时间扩展和序列行为。
2026-05-14 cs.LG
Demand Forecasting from Spatiotemporal Data with Graph Networks and Temporal-Guided Embedding
POSTECH（浦项科技大学）；Statice GmbH（Statice有限公司）；Kakao Brain；Kakao Mobility
短期需求预测模型通常结合卷积层和递归层来提取数据中复杂的时空模式。长期历史也被用来考虑作为时间序列数据的周期性和季节性模式。在本研究中，我们提出了一种高效的架构，即时间引导网络（TGNet），它利用图网络和时间引导嵌入。图网络将不变特征提取到相邻区域的排列中，而不是卷积层。时间引导的嵌入从训练数据中显式地学习时间上下文，并替换来自数天/数周前的长期历史的输入。TGNet学习自回归模型，该模型以时间引导嵌入的预测目标的时间背景为条件。最后，我们的模型在来自现实世界的三个时空需求数据集上实现了与其他基线竞争的性能，但可训练参数的数量比最先进的基线小约20倍。我们还表明，时间引导嵌入学习时间上下文的预期和TGNet具有强大的预测性能，即使是非典型事件的情况。
2019-10-07 cs.LG stat.ML
