Differentiable Mapping Networks: Learning Structured Map Representations for Sparse Visual Localization
Google(谷歌);National University of Singapore(新加坡国立大学)
映射和定位,最好是从少量的观察,是机器人的基本任务。我们通过将空间结构(可微映射)和端到端学习结合在一个新的神经网络架构中来解决这些任务:可微映射网络(DMN)。DMN构造了一个空间结构化的视图嵌入图,并使用它进行后续的视觉定位与粒子滤波。由于DMN架构是端到端可微的,因此我们可以使用梯度下降来联合学习地图表示和定位。我们将DMN应用于稀疏视觉定位,其中机器人需要在新的环境中相对于来自已知视点的少量图像进行定位。我们使用模拟环境和具有挑战性的现实世界街景数据集来评估DMN。我们发现,DMN学习有效的地图表示视觉定位。空间结构的好处随着较大的环境、用于映射的更多视点以及当训练数据稀缺时而增加。项目网址:http://sites.google.com/view/differentiable-mapping
2020-05-19 cs.CV cs.LG cs.RO
Simultaneous Multiple-Prompt Guided Generation Using Differentiable Optimal Transport
Google Brain(谷歌大脑);Apple(苹果公司)
深度学习的最新进展,如强大的生成模型和联合文本图像嵌入,为计算创造力社区提供了新的工具,为艺术追求开辟了新的视角。通过从文本提示生成图像来操作的文本到图像合成方法提供了一个恰当的例子。这些图像是用一个潜向量生成的,该潜向量被逐步细化以符合文本提示。为此,在生成的图像内对补丁进行采样,并与公共文本图像嵌入空间中的文本提示进行比较;然后使用梯度下降更新潜在向量,以减少这些补丁和文本提示之间的平均距离。虽然这种方法为艺术家提供了足够的自由来定制图像的整体外观,但通过他们在生成模型中的选择,对简单标准(距离的平均值)的依赖通常会导致模式坍塌:整个图像被绘制为所有文本提示的平均值,从而失去了它们的多样性。为了解决这个问题,我们建议使用最佳运输(OT)文献中找到的匹配技术,从而产生能够忠实地反映多种多样的提示的图像。我们提供了大量的插图显示,OT避免了一些陷阱所产生的估计向量的平均距离,并证明了我们提出的方法在实验中,定性和定量表现更好的能力。
2022-04-18 cs.CV cs.GR cs.LG
Neural Cluster First, Route Second: Capacitated Vehicle Routing via Differentiable Optimal Transport
MIT(麻省理工学院);TUM(塔尔博特大学)
本文提出神经CFRS框架,通过可微最优传输层实现一次性非自回归解决有容量车辆路径问题,理论保证了对空间对称性的抽象,并在实际应用中表现出鲁棒性和高效性。
2026-09-29 cs.AI cs.LG
Data-Driven Room Acoustic Modeling Via Differentiable Feedback Delay Networks With Learnable Delay Lines
Politecnico di Milano(米兰理工大学);University of Surrey(萨里大学)
针对延迟网络模型自动参数调优的难题,提出带可训练延迟线的可微分FDN方法,可通过反向传播同时学习全部参数,优化感知驱动的时域损失,实验证明其匹配声学特性的效果优于现有遗传算法和解析设计方法。
2024-10-08 cs.LG cs.SD eess.AS
Differentiable Attenuation Filters for Feedback Delay Networks
本文提出了一种基于反馈延迟网络的可微衰减滤波器设计方法,通过参数均衡器实现对频率依赖回声衰减的精细控制,提升了回声系统的性能并降低了计算成本。
2025-11-25 cs.LG cs.SD
Differentiable Product Quantization for End-to-End Embedding Compression
Google Research(谷歌研究院);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
嵌入层通常用于将离散符号映射到反映其语义含义的连续嵌入向量。尽管它们有效,但嵌入层中的参数数量随着符号数量线性增加,并对内存和存储限制提出了严峻的挑战。在这项工作中,我们提出了一个通用的和端到端的可学习的压缩框架,称为微分产品量化(DPQ)。我们提出了DPQ的两个实例,它们利用不同的近似技术来实现端到端学习中的可微性。我们的方法可以很容易地作为任何现有嵌入层的替代方案。从经验上讲,DPQ在三种不同语言任务的10个数据集上提供了显著的压缩比(14-238 $\times$),性能成本可以忽略不计或没有。
2020-06-25 cs.AI cs.CL cs.LG
Embedded Safety-Aligned Intelligence via Differentiable Internal Alignment Embeddings
Sardar Vallabhbhai National Institute of Technology (SVNIT)(萨达尔·瓦拉布尔·尼尔达理工学院)
本文提出嵌入式安全对齐智能框架,通过可微内部对齐嵌入实现多智能体强化学习中的安全对齐,探讨了反事实对齐惩罚、感知注意力等机制及理论性质。
2025-12-20 cs.AI cs.LG
Semi-supervised Network Embedding with Differentiable Deep Quantisation
Monash University(莫纳什大学);University of Electronic Science and Technology of China(电子科技大学)
学习网络的准确低维嵌入是一项至关重要的任务,因为它有助于许多下游网络分析任务。对于大型网络,经过训练的嵌入通常需要大量的空间来存储,这使得存储和处理成为一个挑战。基于我们以前在半监督网络嵌入方面的工作,我们开发了d-SNEQ,这是一种用于网络嵌入的基于DNN的可微量化方法。d-SNEQ结合了秩损失以使学习的量化码具有丰富的高阶信息,并且能够大幅压缩训练嵌入的大小,从而减少存储占用并加快检索速度。我们还提出了一个新的评价指标,路径预测,公平和更直接地评估模型的性能上的高阶信息的保存。我们对四个具有不同特征的真实网络的评估表明,d-SNEQ在链接预测、路径预测、节点分类和节点推荐方面优于许多最先进的嵌入方法,同时具有更高的空间和时间效率。
2022-03-19 cs.LG cs.SI
AMES: A Differentiable Embedding Space Selection Framework for Latent Graph Inference
University of Cambridge(剑桥大学);University of Oxford(牛津大学)
本文提出AMES框架,通过反向传播为潜图推断可微地选择最佳嵌入空间,在五个基准数据集上取得优异性能,并提供可解释性方法以定量比较不同嵌入空间的贡献。
2023-11-20 cs.LG cs.SI stat.ML
Faithful Differentiable Reasoning with Reshuffled Region-based Embeddings
TU Wien(维也纳技术大学);University of Oxford(牛津大学);Cardiff University(卡迪夫大学)
针对现有基于区域的KG嵌入可捕获规则库受限的问题,提出基于排序约束的RESHUFFLE模型,可忠实表示更大类别规则库,并由GNN学习实体嵌入以实现可微推理。
2025-07-26 cs.AI cs.LG
Differentiable Neural Input Search for Recommender Systems
Shanghai Jiao Tong University(上海交通大学)
潜在因素模型是最先进的推荐系统的驱动力,具有将原始输入特征向量化为密集嵌入的重要见解。不同特征嵌入的维度通常根据经验设置为相同的值,这限制了潜在因素模型的预测性能。现有的工作已经提出了启发式或基于强化学习的方法来搜索混合特征嵌入维度。出于效率考虑,这些方法通常从候选维度的受限集合中选择嵌入维度。然而,这种限制会损害维度选择的灵活性,导致搜索结果的次优性能。在本文中,我们提出了可微神经输入搜索(DNIS),这是一种通过连续松弛和可微优化在更灵活的空间中搜索混合特征嵌入维度的方法。其核心思想是引入一个软选择层来控制每个嵌入维度的重要性,并根据模型的验证性能来优化该层。DNIS是模型不可知的,因此可以无缝地与现有的潜在因素模型结合起来进行推荐。我们在三个公开的真实世界数据集上进行了各种潜在因素模型架构的实验,用于评级预测,点击率(CTR)预测和top-k项目推荐。结果表明,我们的方法实现了最好的预测性能相比,现有的神经输入搜索方法具有更少的嵌入参数和更少的时间成本。
2020-09-10 cs.IR cs.LG
Pixel Embedding: Fully Quantized Convolutional Neural Network with Differentiable Lookup Table
LeapMind Inc.(LeapMind公司);Woven by Toyota, Inc.(丰田旗下Woven公司);Mirai Hoshu K.K.(Mirai Hoshu株式会社)
提出像素嵌入方法,通过可微查找表将输入像素替换为低比特向量,实现完全量化神经网络,在ImageNet和CIFAR-100上显著降低量化误差并加速推理。
2024-07-23 cs.AI cs.CV cs.LG
Understanding Differentiable Embeddings Through Differential and Integral Geometry
Stony Brook University(石溪大学)
该研究提出统一几何框架,整合多种可微嵌入诊断方法,证明积分视角不可约,实验验证其能准确估计单细胞嵌入可信性并区分不同类型嵌入。
2026-08-10 cs.LG
Unsupervised Differentiable Multi-aspect Network Embedding
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Emory University(埃默里大学);POSTECH(浦项科技大学);Yahoo! Research(雅虎研究院)
网络嵌入是一种有影响力的图挖掘技术,用于将图中的节点表示为分布式向量。然而,大多数网络嵌入方法专注于学习每个节点的单个向量表示,这最近因不能对节点的多个方面建模而受到批评。为了捕获每个节点的多个方面,现有的研究主要依赖于在实际嵌入之前执行的离线图聚类,这导致每个节点的聚类成员资格(即,节点方面分布)在嵌入模型的整个训练中固定。我们认为,这不仅使每个节点总是具有相同的方面分布,而不管其动态上下文,但也阻碍了模型的端到端训练,最终导致最终的嵌入质量在很大程度上依赖于聚类。在本文中,我们提出了一种新的端到端的框架多方面的网络嵌入,称为asp 2 vec,其中每个节点的方面是动态分配的基础上,其本地上下文。更准确地说,在多个方面中,我们根据当前上下文动态地为每个节点分配一个方面,并且我们的方面选择模块通过Gumbel-Softmax技巧是端到端可区分的。我们还引入了方面正则化框架,以捕获多个方面之间的相互作用的相关性和多样性。我们进一步证明,我们提出的框架可以很容易地扩展到异构网络。在各种类型的同构网络和异构网络上对各种下游任务进行了大量的实验,证明了asp 2 vec的优越性。
2020-07-07 cs.IR cs.LG stat.ML
Embedding Theory of Reservoir Computing and Reducing Reservoir Network Using Time Delays
Soochow University(苏州大学);Fudan University(复旦大学);Potsdam Institute for Climate Impact Research (PIK)(波茨坦气候影响研究所(PIK));Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本文通过延迟嵌入与广义嵌入理论证明储层计算本质为高维嵌入,统一标准与延迟RC框架,并利用时间延迟显著缩减网络规模,单神经元储层即可完成重构预测任务。
2023-05-09 cs.LG math.DS
Delay Embedding Theory of Neural Sequence Models
Department of Brain and Cognitive Sciences, Massachusetts Institute of Technology(麻省理工学院脑与认知科学系)
该研究基于延迟嵌入理论,通过在含噪部分观测时间序列上训练1层Transformer解码器和状态空间序列模型,验证序列模型可构建系统嵌入,且状态空间模型归纳偏置更强、参数效率更高、动力学任务误差更低,搭建了动力系统与深度学习序列模型的新关联。
2024-06-17 cs.LG cs.NE
SPADE: Split-and-Delay Embeddings for Autoregressive High-Granularity Calorimeter Simulation
Institute for Experimental Physics, Universität Hamburg(实验物理研究所,汉堡大学);Deutsches Elektronen-Synchrotron DESY(德国电子同步辐射光源DESY)
提出SPADE自回归变压器,通过独立嵌入多特征令牌并延迟特征流,利用标准自注意力学习令牌内相关性,在ILD探测器点云簇射生成中优于现有模型。
2026-06-11 cs.LG hep-ex hep-ph
Beyond Vector Spaces: Compact Data Representation as Differentiable Weighted Graphs
Yandex;Skoltech(斯科尔科沃科学技术研究所);Lomonosov Moscow State University(罗蒙诺索夫莫斯科国立大学)
学习有用的表示是现代机器学习成功的关键因素。目前,表示学习主要依赖于将数据嵌入到欧几里得空间中。然而,最近的工作表明,在某些领域的数据是更好地模拟非欧几里德度量空间,不适当的几何形状可能会导致性能较差。在本文中,我们的目标是消除嵌入空间几何所施加的归纳偏见。也就是说,我们建议将数据映射到更一般的非向量度量空间:具有最短路径距离的加权图。通过设计,这样的图可以用适当的边和权重配置来模拟任意几何形状。我们的主要贡献是PRODIGE:一种通过梯度下降学习端到端数据的加权图表示的方法。更大的通用性和更少的模型假设使PRODIGE比现有的基于嵌入的方法更强大。我们通过对各种任务的广泛实验,包括分类,压缩和协同过滤,证实了我们的方法的优越性。
2019-10-16 cs.LG stat.ML
Cherry-Picking Gradients: Learning Low-Rank Embeddings of Visual Data via Differentiable Cross-Approximation
ETH Zürich(苏黎世联邦理工学院);IE University(IE大学);HSE University(俄罗斯高等经济学院)
我们提出了一个端到端的可训练框架,通过只查看一小部分条目来处理大规模视觉数据张量。我们的方法将神经网络编码器与张量训练分解相结合,以学习低秩潜在编码,再加上交叉近似(CA)通过原始样本的子集来学习表示。CA是一种自适应采样算法,它原生于张量分解,避免了显式处理全高分辨率数据。相反,它会主动选择本地代表性样本,我们会根据需要从内核中提取这些样本。所需的样本数量只会随着输入的大小而按比例增长。我们对网络中张量的隐式表示使得能够处理大型网格,这些网格在未压缩形式下无法处理。所提出的方法对于大规模多维网格数据(例如,3D断层扫描),以及对于需要大的感受野上的上下文的任务(例如,预测整个器官的医学状况)。该代码可在https://github.com/aelphy/c-pic上获得。
2021-11-12 cs.CV cs.LG
SPADE4: Sparsity and Delay Embedding based Forecasting of Epidemics
University of Waterloo(滑铁卢大学);Dalhousie University(达尔豪斯大学)
针对传统仓室模型难以捕捉流行病真实动态、数据稀缺下预测难的问题,提出基于稀疏性与延迟嵌入的SPADE4方法,结合稀疏回归随机特征模型与Takens定理,在模拟和真实数据上表现均优于仓室模型。
2023-06-13 cs.LG physics.soc-ph q-bio.PE
Recurrent Neural Networks for Partially Observed Dynamical Systems
University of California, Santa Cruz(加州大学圣克鲁兹分校)
复杂非线性动力学在许多领域都是普遍存在的。此外,我们很少能够接触到控制动态的所有相关状态变量。原则上,延迟嵌入允许我们考虑未观测到的状态变量。在这里,我们提供了一个代数方法延迟嵌入,允许明确的近似误差。我们还提供了一阶近似误差对系统大小的渐近依赖性。更重要的是,这种延迟嵌入的公式可以直接使用递归神经网络(RNN)来实现。这一观察扩展了延迟嵌入和RNN的可解释性,并促进了将结构和其他约束原则性地纳入这些方法。
2022-04-05 cs.LG nlin.CD
A Novel Reservoir Computing Framework for Chaotic Time Series Prediction Using Time Delay Embedding and Random Fourier Features
Advanced Design and Analysis Group CSIR-Central Mechanical Engineering Research Institute(CSIR中央机械工程研究所先进设计与分析组)
提出结合时延嵌入与随机傅里叶特征的新型储备池计算框架RFF-RC,无需循环架构即可揭示重构相空间的潜在动态关系,在典型混沌系统上实现了高预测精度与鲁棒的长期预测。
2025-11-04 cs.AI cs.LG cs.NE
Mixed Delay/Nondelay Embeddings Based Neuromorphic Computing with Patterned Nanomagnet Arrays
University of Kentucky(肯塔基大学);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Argonne National Laboratory(阿贡国家实验室)
针对PNA储备池仅用非延迟空间嵌入导致节点或维数需求过大的问题,本文提出单节点延迟/非延迟混合嵌入方案,并在NARMA与Mackey Glass任务上取得更优性能。
2024-12-05 cs.ET cs.LG
Derivative Delay Embedding: Online Modeling of Streaming Time Series
University of Tenneessee(田纳西大学)
来自现实世界的惊人数量的流时间序列需要更高效和有效的在线建模解决方案。对于时间序列建模,大多数现有的工作做了一些不切实际的假设,如输入数据是固定的长度或对齐,这需要额外的努力分割或规范化的原始流数据。虽然一些文献声称他们的方法是不变的数据长度和错位,他们太耗时的流时间序列建模在线的方式。我们提出了一种新的和更实用的在线建模和分类方案,DDE-MGM,它不对时间序列做任何假设,同时保持高效率和最先进的性能。微分延迟嵌入(DDE)的发展,以增量方式将时间序列的嵌入空间,其中的数据的固有特性被保存为递归模式,而不管流的长度和错位。然后,提出了一种非参数马尔可夫地理模型(MGM)的模型和分类的模式在网上的方式。实验结果表明,所提出的DDE-MGM的有效性和优越的分类精度在在线设置相比,国家的最先进的。
2016-09-24 cs.LG
Machine Learning of Time Series Using Time-delay Embedding and Precision Annealing
University of California, San Diego(加州大学圣地亚哥分校);Universität Potsdam(波茨坦大学);Scripps Institution of Oceanography(斯克里普斯海洋学研究所)
指派机器学习来预测时间序列的片段需要估计具有来自时间序列的输入/输出对的ML模型的参数。利用统计数据同化和监督机器学习之间的等价性,我们重新审视了这一任务。机器的训练方法利用精确退火方法来识别动作的全局最小值(-log[P])。通过这种方式,我们能够确定为时间序列产生良好的泛化(预测)所需的训练对的数量。我们从一个标量时间序列$s(t_n); t_n = t_0 + n Δt$,并使用非线性时间序列分析的方法,展示了如何产生一个$D_E > 1$维时间延迟嵌入空间中的时间序列没有假邻居观察到的$s(t_n)$时间序列。在该$D_E$维空间中,我们探索使用前馈多层感知器作为在$D_E$维输入上操作并产生$D_E$维输出的网络模型。
2019-06-14 cs.LG
Recurrent Pixel Embedding for Instance Grouping
University of California, Irvine(加州大学欧文分校)
我们引入了一个可区分的,端到端的可训练框架,用于解决像素级分组问题,如由两个新组件组成的实例分割。首先,我们回归像素到一个超球面嵌入空间,使来自同一组的像素具有高余弦相似性,而来自不同组的像素具有低于指定的保证金的相似性。我们分析了嵌入维数和边缘的选择,将它们与球面上均匀分布点问题的理论结果联系起来。其次,分组实例,我们利用均值漂移聚类的一个变体,实现为一个由内核带宽参数化的递归神经网络。这个循环分组模块是可微的,具有收敛动力学和概率可解释性。通过这个模块反向传播组加权损失,可以让学习专注于纠正在后续聚类过程中无法解决的嵌入错误。我们的框架,而概念上简单,理论上丰富,也是实际有效的和计算效率。我们证明了国家的最先进的实例分割的对象提案生成的实质性改进,以及展示分类任务,如边界检测和语义分割的分组损失的好处。
2017-12-22 cs.CV cs.LG cs.MM
A Time-Series Foundation Model by Universal Delay Embedding
Hangzhou Institute for Advanced Study, University of Chinese Academy of Sciences(中国科学院大学杭州高等研究院);Shanghai Jiao Tong University(上海交通大学);Fudan University(复旦大学);Ocean University of China(中国海洋大学);South China University of Technology(华南理工大学)
本研究提出预训练基础模型 UDE,通过整合延迟嵌入表示与 Koopman 算子预测实现时间序列预测,在多个基准上均方误差平均降低超20%,兼具卓越泛化性与可解释性。
2025-09-15 cs.AI cs.LG
Learning Differentiable Particle Filter on the Fly
University of Surrey(萨里大学)
针对可微粒子滤波器现有离线监督训练存在部署延迟、易受分布偏移影响的问题,提出基于无监督损失的在线学习框架,在无真实状态的在线场景下通过滤波操作实现最大似然参数更新,仿真实验验证了其有效性。
2023-12-16 cs.LG
Personalized Subgraph Federated Learning with Differentiable Auxiliary Projections
Nanyang Technological University(南洋理工大学);Shenzhen MSU-BIT University(深圳MSU-BIT大学)
针对子图联邦学习中的非IID问题,提出FedAux框架,通过可学习APV、软排序与一维卷积刻画客户端特征,并由服务器相似度加权聚合模型,理论与实验均验证其优势。
2025-09-30 cs.AI cs.LG
Exact Recovery of Non-Random Missing Multidimensional Time Series via Temporal Isometric Delay-Embedding Transform
The School of Mathematics and Statistics, Xi’an Jiaotong University, Xi’an, Shaanxi, 710049, P. R. China(西安交通大学数学与统计学院)
本文提出LRTC-TIDT模型,通过时间等距延迟嵌入变换实现非随机缺失多维时间序列的精确恢复。
2025-12-11 cs.LG
Riemannian Geometry with differentiable ambient space and metric operator
我们证明,可以通过将黎曼流形$\mathcal{M}$的切丛与平凡丛$\mathcal{M} \times \mathcal{E}$的子丛进行识别来研究黎曼几何,平凡丛是通过将$\mathcal{M}$可微嵌入到欧几里得空间$\mathcal{E}$中获得的。给定这样的嵌入,我们可以将$\mathcal{M}$上的度量张量扩展为作用在$\mathcal{E}$上的(正定)算子值函数,从而给出嵌入的环境结构。局部坐标系中的克里斯托弗符号和黎曼曲率的公式对这种设置有简单的推广。对于从嵌入流形$\mathcal{M}\subset \mathcal{E}$浸入的黎曼浸入$\mathfrak{q}:\mathcal{M}\to \mathcal{B}$,我们定义了浸入的环境结构,并得到了类似的公式,其中O'Neil张量用水平丛$\mathcal{H}\mathcal{M}$的投影表示.利用这个框架,我们给出了二重切丛$\mathcal{T}\mathcal{T}\mathcal{M}$和水平丛的切$\mathcal{T}\mathcal{H}\mathcal{M}$的嵌入和淹没的环境结构,描述了水平丛在基底流形的切丛上的纤维化,并将正则翻转的概念推广到淹没的情形.得到了自然约化齐性空间中Jacobi场的水平提升公式和Jacobi场的一个新的封闭形式公式。我们构造自然度量这些双切线丛,特别是…
2021-05-04 cs.LG cs.SY eess.SY
Attention-Enhanced Convolutional Autoencoder and Structured Delay Embeddings for Weather Prediction
Department of Aerospace Engineering, University of Michigan(航空航天工程系,密歇根大学)
针对短期天气预报任务,本研究提出结合注意力增强ResNet卷积自编码器与潜在空间延迟嵌入线性算子的高效降阶建模框架,验证了其分布内预测性能,分析了泛化局限与误差瓶颈,为混沌系统建模及混合气候建模方案提供了参考。
2025-11-16 cs.LG physics.ao-ph
Soft Smoothness for Audio Inpainting Using a Latent Matrix Model in Delay-embedded Space
Nagoya Institute of Technology(名古屋工业大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
本文提出了一种新的平滑时间序列信号重构方法。本研究的一个关键概念是不考虑信号空间中的模型,而是考虑延迟嵌入空间。换句话说,我们间接地将时间序列信号表示为矩阵的逆延迟嵌入的输出,并且矩阵是受约束的。基于逆延迟嵌入下的模型,我们提出用光滑因子向量约束矩阵为秩1。该模型与卷积模型和二次变分(QV)正则化密切相关。特别地,所提出的方法可以表征为QV正则化的推广。此外,我们表明,该方法提供了软光滑比QV正则化。通过音频修复和去唇的实验,与现有的几种插值方法和稀疏建模方法进行了比较,证明了该方法的优越性。
2022-03-18 cs.LG cs.SD eess.AS
Universal set of Observables for Forecasting Physical Systems through Causal Embedding
University of Pretoria(比勒陀利亚大学)
提出因果嵌入方法,利用驱动动力系统派生的元素对学习函数,实现与底层系统拓扑共轭及通用可计算的动力学预测,克服现有储备池计算和Takens延迟嵌入的缺陷。
2026-10-14 cs.LG math.DS
Forecasting high-dimensional dynamics exploiting suboptimal embeddings
Institute of Industrial Science, The University of Tokyo(东京大学工业科学研究所);Kozo Keikaku Engineering Inc.(构计工程株式会社);International Research Center for Neurointelligence (WPI-IRCN), The University of Tokyo(东京大学国际神经智能研究中心(WPI-IRCN));Mathematics and Informatics Center, The University of Tokyo(东京大学数学与信息学中心)
延迟嵌入是一种利用延迟坐标重构动力系统的方法,作为一种无模型方法,被广泛应用于非线性时间序列的预测。当观察到多变量时间序列时,可以应用几个现有的框架来产生组合从各种嵌入导出的多个预测的单个预测。然而,这些框架的性能并不总是令人满意的,因为它们随机选择嵌入或使用蛮力,并且不考虑要组合的嵌入的多样性。在这里,我们开发了一个预测框架,克服了这些现有的问题。该框架利用各种“次优嵌入”通过组合优化最小化样本误差获得。该框架在现有的样本玩具数据集和真实世界的洪水数据集框架中取得了最好的结果。我们表明,该框架适用于广泛的数据长度和尺寸。因此,该框架可以应用于神经科学、生态学、金融、流体动力学、天气和防灾等各个领域。
2019-07-02 cs.LG stat.ML
Congestion-Aware Dynamic Axonal Delay for Spiking Neural Networks
University of Electronic Science and Technology of China(电子科技大学)
本文提出了一种考虑拥堵的动态轴突延迟机制,通过分解延迟为通道级静态基础延迟和全局活动条件位移,提升事件驱动任务的准确性,同时减少参数数量。
2026-07-14 cs.LG
Analogical Inference for Multi-Relational Embeddings
Carnegie Mellon University(卡内基梅隆大学)
大规模多关系嵌入是指学习大型知识图谱中实体和关系的潜在表示的任务。一个有效的和可扩展的解决方案,这个问题是基于知识的推理在广泛的应用中的真正成功的关键。本文提出了一种新的框架,优化潜在的表示方面的\textit{analogical}属性的嵌入式实体和关系。通过以可微的方式制定学习目标,我们的模型具有理论能力和计算可扩展性,并且在基准数据集上显著优于大量代表性基线方法。此外,该模型提供了一个优雅的统一的几个著名的方法在多关系嵌入,这可以被证明是我们的框架的特殊实例。
2017-07-06 cs.AI cs.CL cs.LG