A Multi-Dataset Benchmark of Multiple Instance Learning for 3D Neuroimage Classification
Department of Computer Science（计算机科学系）；Tufts University（塔夫茨大学）；Predictive Analytics and Comparative Effectiveness Center（预测分析与比较效果中心）；Tufts Medical Center（塔夫茨医疗中心）；Kaiser Permanente Southern California（Kaiser Permanente 南加州地区）
本文通过三个CT和四个MRI数据集比较了简单MIL、基于注意力的MIL、3D CNN和3D ViTs，发现简单均值池化MIL在四个中等规模任务中表现优异，且训练速度快25倍，揭示了现有MIL方法的局限性。
2026-04-29 cs.LG
Towards Diverse Perspective Learning with Selection over Multiple Temporal Poolings
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；INEEJI
针对时间序列分类中单一时间池化视角存在局限的问题，提出多时间池化选择方法SoM-TP，结合注意力机制与多样化视角学习实现动态池化选择，在UCR/UEA数据集上取得优于现有模型的效果。
2024-03-14 cs.AI cs.LG
Multivariate Time Series Classification with Hierarchical Variational Graph Pooling
Chongqing University（重庆大学）；Zhejiang University（浙江大学）；University of California, Los Angeles（加州大学洛杉矶分校）
随着传感技术的发展，多元时间序列分类（MTSC）近年来受到了广泛的关注。现有的基于深度学习的MTSC技术主要依赖于卷积或递归神经网络，主要关注单个时间序列的时间依赖性。因此，他们很难直接表达多变量之间的成对依赖关系。此外，当前的时空建模（例如，基于图神经网络（GNN）的图分类）方法本质上是扁平的，并且不能以分级方式聚集中心数据。为了解决这些局限性，我们提出了一种新的基于图池的框架MTPool，以获得富有表现力的全局表示MTS。首先通过图结构学习模块利用变量间的相互作用将MTS切片转换为图，并通过时间卷积模块获得时空图节点特征。为了得到全局图级表示，我们设计了一个基于“编码器-解码器”的变分图池模块，用于创建自适应聚类分配的质心。然后，我们将GNN和我们提出的变分图池层结合起来，用于联合图表示学习和图粗化，之后图逐渐粗化到一个节点。最后，一个可微分类器采用这种粗化的表示来得到最终的预测类。在10个基准数据集上的实验表明，MTPool在MTSC任务中的性能优于最先进的策略。
2021-11-06 cs.AI cs.LG
STAMP: Spatial-Temporal Adapter with Multi-Head Pooling
Carnegie Mellon University（卡内基梅隆大学）；University of Pittsburgh School of Medicine（匹兹堡大学医学学院）
STAMP通过多头池化机制，利用通用TSFMs生成的单变量嵌入，隐式建模EEG数据的空间-时间特性，实现与现有EEGFMs相当的性能。
2025-11-20 cs.AI cs.LG
Revisiting Global Pooling through the Lens of Optimal Transport
Gaoling School of Artificial Intelligence（高瓴人工智能学院）；Renmin University of China（中国人民大学）
全局池是许多机器学习模型和任务中最重要的操作之一，然而，其实现在实践中通常是经验性的。在这项研究中，我们通过最佳运输的镜头开发了一个新的和坚实的全球汇集框架。我们证明，大多数现有的全球池化方法相当于解决一些专业化的不平衡的最优运输（UOT）问题。使UOT问题的参数可学习，我们统一在同一个框架中的各种全局池化方法，并相应地，提出了一个广义的全局池化层称为UOT-Pooling（UOTP）的神经网络。除了基于经典的Sinkhorn-scaling算法实现UOTP层外，本文还设计了一种新的基于Bregman ADMM算法的模型架构，该架构具有更好的数值稳定性，能够更有效地再现已有的池化层。我们在多个应用场景中测试了我们的UOTP层，包括多实例学习、图分类和图像分类。我们的UOTP层可以模仿传统的全局池化层，也可以学习一些新的池化机制，从而获得更好的性能。
2022-09-29 cs.LG
Temporal-attentive Covariance Pooling Networks for Video Recognition
Dalian University of Technology（大连理工大学）；Tianjin University（天津大学）
对于视频识别任务，一个全局表示概括的视频片段的整个内容起着重要的作用，最终的性能。然而，现有的视频架构通常通过使用简单的全局平均池化（GAP）方法来生成它，该方法捕获视频的复杂动态的能力有限。对于图像识别任务，有证据表明协方差池比GAP具有更强的表征能力。不幸的是，在图像识别中使用的这种普通协方差池是无序的代表，它不能建模视频中固有的时空结构。因此，本文提出了一种时间关注的协方差池（TCP），插入在深度架构的末尾，以产生强大的视频表示。具体来说，我们的TCP首先开发了一个时间注意力模块，以自适应地校准时空特征，用于随后的协方差池，近似地产生细心的协方差表示。然后，时间协方差池化执行关注协方差表示的时间池化，以表征校准特征的帧内相关性和帧间互相关。因此，所提出的TCP可以捕获复杂的时间动态。最后，一个快速的矩阵功率归一化引入利用几何的协方差表示。请注意，我们的TCP是模型不可知的，可以灵活地集成到任何视频架构中，从而使TCPNet能够进行有效的视频识别。对六个基准进行了广泛的实验（例如，Kinetics，Something-Something V1和Charades）使用各种视频架构显示我们的TCPNet明显优于其同行，同时具有较强的泛化能力。源代码是公开的。
2021-11-06 cs.CV cs.LG
Beyond Temporal Pooling: Recurrence and Temporal Convolutions for Gesture Recognition in Video
Ghent University（根特大学）；Google DeepMind（谷歌DeepMind）
最近的研究已经证明了递归神经网络在机器翻译、图像描述和语音识别方面的强大功能。然而，对于捕获视频中的时间结构的任务，仍然存在许多开放的研究问题。目前的研究建议使用一个简单的时间特征池策略，以考虑到视频的时间方面。我们证明，这种方法是不够的手势识别，时间信息是更具歧视性相比，一般的视频分类任务。我们探索了视频中手势识别的深层架构，并提出了一种新的端到端可训练神经网络架构，该架构结合了时间卷积和双向递归。我们的主要贡献是双重的;首先，我们证明了递归对于这项任务至关重要;其次，我们证明了添加时间卷积会带来显着的改进。我们在Montalbano手势识别数据集上评估了不同的方法，在那里我们获得了最先进的结果。
2016-02-10 cs.AI cs.CV cs.LG
Deep Adaptive Temporal Pooling for Activity Recognition
Singapore University of Technology and Design（新加坡科技设计大学）；Institute for Infocomm Research（资讯通信研究院）；Keele University（基尔大学）
深度神经网络最近在人类活动识别方面取得了有竞争力的准确性。然而，有改进的空间，特别是在建模长期的时间重要性和确定视频中不同时间段的活动相关性。为了解决这个问题，我们提出了一个可学习和可区分的模块：深度自适应时间池（DATP）。DATP应用自注意力机制来自适应地池化不同视频片段的分类分数。具体而言，使用帧级特征，DATP回归不同时间段的重要性并为它们生成权重。值得注意的是，DATP仅使用视频级别标签进行训练。除了视频级别的活动类标签外，不需要额外的监督。我们进行了广泛的实验，以调查各种输入功能和不同的权重模型。实验结果表明，DATP可以学习为关键视频片段分配大的权重。更重要的是，DATP可以改善帧级特征提取器的训练。这是因为在反向传播期间，相关的时间段被分配了大的权重。总体而言，我们在UCF 101，HMDB 51和Kinetics数据集上实现了最先进的性能。
2018-08-22 cs.AI cs.CV cs.LG
SPOTR: Spatio-temporal Pooling One-Token Reconstruction for Universal Physiological Signal Self-supervised Learning
New Cornerstone Science Laboratory, Guangdong Provincial Key Laboratory of In-Memory Computing Chips, Shenzhen Graduate School, Peking University（新基石科学实验室，广东省存算一体芯片重点实验室，北京大学深圳研究生院）；Guangdong Provincial Key Laboratory of Ultra High Definition Immersive Media Technology, Shenzhen Graduate School, Peking University（广东省超高清沉浸式媒体技术重点实验室，北京大学深圳研究生院）
提出SPOTR框架，通过单令牌全局瓶颈压缩-重建预训练，解决生理信号自监督学习在异构数据集上的性能瓶颈，在线性探测下显著提升AUC并降低计算开销。
2026-06-23 cs.AI cs.LG
Topological Pooling on Graphs
Temple University（天普大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
图神经网络（GNN）在各种图学习任务中取得了巨大的成功，从图分类到异常检测。最近出现了许多在GNN中采用图池操作的方法，其目标是在图表示学习期间保留图属性和结构特征。然而，大多数现有的图池操作遭受的局限性，依赖于节点的邻居加权和嵌入，这导致不充分的编码丰富的拓扑结构和节点属性所表现出的现实世界的网络。通过调用持久同源性和地标的概念，我们提出了一种新的拓扑池层和证人复杂的拓扑嵌入机制，使我们能够系统地整合隐藏的拓扑信息在本地和全球水平。具体来说，我们设计了新的可学习的局部和全局拓扑表示Wit-TopoPool，使我们能够同时从图中提取丰富的判别拓扑信息。在11个不同的基准数据集上对18个基线模型进行的实验以及图分类任务表明，Wit-TopoPool在所有数据集上的性能都明显优于所有竞争对手。
2023-03-25 cs.LG
DPSNN: A Differentially Private Spiking Neural Network with Temporal Enhanced Pooling
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出差分隐私脉冲神经网络DPSNN，将差分隐私与SNN结合，并设计时间增强池化TEP方法以在强隐私保护下保持高性能。
2023-04-11 cs.AI cs.LG cs.NE
Attentive Temporal Pooling for Conformer-based Streaming Language Identification in Long-form Speech
Google LLC（谷歌有限责任公司）
本文介绍了一种基于一致性层的语言识别系统。我们提出了一个专注的时间池机制，允许模型通过循环形式在长格式音频中携带信息，从而可以以流式方式执行推理。此外，我们研究了两个域适应方法，允许适应现有的语言识别模型，而无需重新训练模型参数为一个新的域。我们在不同的模型大小约束下对不同的模型拓扑进行了比较研究，发现基于一致性的模型显著优于基于LSTM和Transformer的模型。我们的实验还表明，注意的时间池和域适应提高模型的准确性。
2022-05-01 cs.CL cs.LG eess.AS
Jointly Attentive Spatial-Temporal Pooling Networks for Video-based Person Re-Identification
Huazhong University of Science and Technology（华中科技大学）；IBM T.J. Watson Research Center（IBM T.J. Watson 研究中心）；Northwestern University（西北大学）；AI Foundations, IBM Research（IBM 研究院 AI 基础部门）
人的身份识别是视觉监控和人机交互中的一个重要应用。在这项工作中，我们提出了一种新的联合时空注意力池网络（ASTPN）的视频为基础的人重新识别，这使得特征提取器知道当前输入的视频序列，在某种程度上，相互依赖的匹配项可以直接影响对方的表示的计算。具体地，空间池化层能够从每个帧中选择区域，而执行的注意力时间池化可以在序列上选择信息帧，这两个池化都由来自距离匹配的信息引导。在iLIDS-VID、PRID-2011和MARS数据集上进行了实验，结果表明该方法优于现有的最新方法。我们还分析了联合池在这两个方面可以提高人的re-id性能比单独使用它们中的任何一个更有效。
2017-09-29 cs.CV cs.LG stat.ML
An Effective Transformer-based Contextual Model and Temporal Gate Pooling for Speaker Identification
Shibaura Institute of Technology（芝浦工业大学）
本文提出一种基于Transformer的端到端说话人识别模型及Temporal Gate Pooling池化方法，利用Conformer编码器和BEST-RQ预训练，在VoxCeleb1上以28.5M参数实现87.1%准确率，精度媲美317.7M参数的wav2vec2。
2023-09-10 cs.AI cs.LG cs.SD
Comment on "No-Reference Video Quality Assessment Based on the Temporal Pooling of Deep Features"
在Neural Processing Letters 50，3（2019）中，提出了一种用于盲视频质量评估的机器学习方法。它基于视频帧特征的时间池化，这些特征取自深度卷积神经网络的最后一个池化层。该方法在两个已建立的基准数据集上进行了验证，结果远远优于以前的最先进的。在这封信中，我们报告了我们仔细重新实现的结果。性能结果，声称在文件中，不能达到，甚至低于国家的最先进的大幅度。我们表明，最初报告的错误的性能结果是两种情况下的数据泄漏的后果。来自训练数据集外部的信息用于微调阶段和模型评估。
2020-05-09 cs.CV cs.LG cs.MM
Learnable Spatial-Temporal Positional Encoding for Link Prediction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Meta AI；Arizona State University（亚利桑那州立大学）
针对现有位置编码固定、未考虑时序演化、搭配注意力计算成本高的问题，提出可学习时空位置编码模型L-STEP，从时空谱验证其保图属性，MLP即可达到Transformer性能，在多基准数据集上取得领先效果且运行效率更优。
2025-06-11 cs.AI cs.LG
Learning and Clustering on Temporal Graphs: Principles, Primitives, and Pooling
该研究针对时序图聚类任务，从原理、基元与池化三方面展开，提出 GPU 加速基元实现高效时序聚类，为理论导向的池化提供路径，明确了算法与神经模型的适用场景。
2026-08-05 cs.LG cs.SI
Enhancing Hyperspace Analogue to Language (HAL) Representations via Attention-Based Pooling for Text Classification
Undergraduate Students, Department of Computer and Automatic Control Engineering, Faculty of Mechanical and Electrical Engineering, Lattakia University（本科生，计算机与自动控制工程系，机械与电气工程学院，拉塔基亚大学）
本文通过引入可学习的温度缩放加性注意力机制，改进HAL表示，以提升文本分类性能，实验显示在IMDB数据集上准确率提升6.74个百分点。
2026-03-20 cs.AI cs.CL cs.LG
Fully Learnable Neural Reward Machines
La Sapienza University of Rome（拉维亚大学罗马分校）；Peoples' Friendship University of Russia (RUDN University)（俄罗斯人民友谊大学）；Joint Institute for Nuclear Research（联合核子研究所）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；University of Skövde（斯德哥尔摩大学）
本文提出全可学习神经奖励机（FLNRM），端到端学习符号接地函数和自动机，无需先验知识，兼具深度强化学习的易用性与自动机的可解释性，并在实验中优于基于RNN的方法。
2025-09-23 cs.AI cs.LG
Sequence-to-Sequence Model with Transformer-based Attention Mechanism and Temporal Pooling for Non-Intrusive Load Monitoring
Qom University of Technology（库姆理工大学）；London South Bank University（伦敦南岸大学）
本研究针对智能建筑非侵入式负荷监测的准确率提升问题，提出融合Transformer注意力机制与时序池化的Seq2Seq模型，捕捉数据长期依赖及电器稳态、瞬态行为，经公开数据集验证，该方法在准确率和计算效率上均优于现有前沿技术。
2023-06-08 cs.CV cs.LG eess.SP
Emotion Recognition with Spatial Attention and Temporal Softmax Pooling
École de technologie supérieure（高等技术学院）
基于视频的情感识别是一项具有挑战性的任务，因为它需要区分表示情感的人脸的小变形，同时对由于不同身份而引起的更强的视觉差异保持不变。最先进的方法通常使用复杂的深度学习模型，如递归神经网络（RNN，LSTM，GRU），卷积神经网络（CNN，C3D，残差网络）及其组合。在本文中，我们提出了一种更简单的方法，该方法将在面部图像的公共数据集上预训练的CNN与（1）空间注意力机制相结合，以针对给定的情感定位面部的最重要区域，以及（2）时间softmax池化，以选择给定视频的最重要帧。在具有挑战性的MITTIW数据集上的结果表明，这种方法可以实现比更复杂的方法更高的准确性。
2019-10-04 cs.CV cs.LG stat.ML
LDAC-Net: A Learnable Multi-Lag Differencing Attention-Convolution Network for Drift-Robust Recognition with Low-Cost MOX Gas Sensors
Manchester Metropolitan University（曼彻斯特城市大学）
该研究针对低成本MOX气体传感器信号漂移等问题，提出LDAC-Net网络，在SmellNet等数据集上的识别准确率优于现有方法，证明可学习预处理比固定差分更有效。
2026-08-27 cs.AI cs.LG
Spatio-Temporal Attention Pooling for Audio Scene Classification
University of Kent（肯特大学）；University of Oxford（牛津大学）
声学场景在其内容上是丰富和冗余的。在这项工作中，我们提出了一个时空注意力池层与卷积递归神经网络相结合，以从有区别的模式中学习，同时抑制那些与声学场景分类无关的模式。该网络中的卷积层从时频输入中学习不变特征。然后，双向递归层能够对所得卷积特征的时间动态进行编码。然后，通过从两个指定的注意力层学习的空间和时间注意力向量的外积形成二维注意力掩码，以加权并将递归输出汇集到最终的特征向量中用于分类。该网络的训练与类间数据增强产生的类间的例子。实验表明，该方法不仅优于一个强大的卷积神经网络基线，但也设置了新的国家的最先进的性能LITIS鲁昂数据集。
2019-06-28 cs.LG cs.SD eess.AS
Regularized Optimal Transport Layers for Generalized Global Pooling Operations
Renmin University of China（中国人民大学）
全局池是许多机器学习模型和任务中最重要的操作之一，用于信息融合和结构化数据（如集合和图）表示。然而，没有坚实的数学基础，它的实际实现往往依赖于经验机制，从而导致次优，甚至不满意的性能。在这项工作中，我们开发了一个新的和广义的全球汇集框架，通过镜头的最佳运输。所提出的框架是从期望最大化的角度解释。本质上，它旨在学习样本索引和特征维度之间的最佳传输，使相应的池化操作最大化输入数据的条件期望。我们证明，大多数现有的池化方法是相当于解决一个正则化的最优运输（ROT）问题，不同的专业化，更复杂的池化操作可以实现分层解决多个ROT问题。为了使ROT问题的参数可学习，我们开发了一系列正则化最优传输池（ROTP）层。我们将ROTP层实现为一种新的深度隐式层。它们的模型结构对应于不同的优化算法。我们在几个代表性的集合级机器学习场景中测试了我们的ROTP层，包括多实例学习（MIL），图分类，图集表示和图像分类。实验结果表明，应用我们的ROTP层可以降低全局池的设计和选择的难度--我们的ROTP层既可以模仿一些现有的全局池方法，也可以引入一些新的池层来更好地拟合数据。代码可在\url{https://github.com/SDS-Lab/ROT-Pooling}上获得。
2022-12-13 cs.CV cs.LG stat.ML
LEAF: A Learnable Frontend for Audio Classification
Google Research（谷歌研究院）
Mel滤波器组是固定的、工程化的音频特征，其模仿人类感知，并且一直被用于音频理解的历史中。然而，它们不可否认的品质被手工制作的基本限制所抵消。在这项工作中，我们表明，我们可以训练一个单一的可学习的前端，优于梅尔滤波器组的广泛的音频信号，包括语音，音乐，音频事件和动物的声音，提供了一个通用的学习前端音频分类。为此，我们引入了一种新的原则性，轻量级，完全可学习的架构，可以用作梅尔滤波器组的直接替代品。我们的系统学习音频特征提取的所有操作，从滤波到池化，压缩和归一化，并且可以以可忽略的参数成本集成到任何神经网络中。我们对八个不同的音频分类任务进行了多任务训练，并显示了我们的模型在梅尔滤波器组和以前的可学习替代方案上的一致改进。此外，我们的系统优于Audioset上当前最先进的可学习前端，参数数量级更少。
2021-01-21 cs.LG cs.SD eess.AS
Towards Spatio-temporal Sea Surface Temperature Forecasting via Static and Dynamic Learnable Personalized Graph Convolution Network
Beijing University of Posts and Telecommunications（北京邮电大学）
针对海表温度预测中动态时空依赖建模不足的问题，本文提出SD-LPGC，用两个图学习层分别刻画长期稳定与短期演化模式，并通过个性化卷积融合，实验达到最先进性能。
2023-04-12 cs.AI cs.LG physics.ao-ph
Online Continual Learning in Keyword Spotting for Low-Resource Devices via Pooling High-Order Temporal Statistics
Samsung Research UK（三星英国研究院）
针对嵌入式设备关键词识别的在线持续学习需求，提出时序感知池化构建增强特征空间，结合TAP-SLDA方法增量更新类别高斯模型，在GSC数据集上取得11.3%的相对平均性能提升。
2023-07-24 cs.LG cs.SD eess.AS
Shape Adaptor: A Learnable Resizing Module
Imperial College London（帝国理工学院）；Adobe Research（Adobe研究院）
我们为神经网络提出了一种新的嵌入式模块：形状适配器，这是一种建立在传统嵌入式层（如池化、双线性采样和跨步卷积）之上的嵌入式增强。虽然传统的分层有固定的和确定性的整形因子，我们的模块允许一个可学习的整形因子。我们的实现使形状适配器能够在没有任何额外监督的情况下进行端到端训练，通过这种方式，可以以完全自动化的方式为每个任务优化网络架构。我们在七个图像分类数据集上进行了实验，结果表明，通过简单地使用一组我们的形状适配器而不是原始的分层，在所有数据集上，性能都比人类设计的网络一致地提高。此外，我们还展示了形状适配器在其他两个应用程序中的有效性：网络压缩和迁移学习。源代码可在https://github.com/lorenmt/shape-adaptor上获得。
2020-08-10 cs.CV cs.LG stat.ML
Incorporating Learnable Membrane Time Constant to Enhance Learning of Spiking Neural Networks
Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）；Centre de Recherche Cerveau et Cognition (CERCO), UMR5549 CNRS - Univ. Toulouse 3（大脑与认知研究中心（CERCO），CNRS UMR5549 - 图卢兹第三大学）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）
脉冲神经网络（SNN）由于具有时间信息处理能力、低功耗和高生物相容性而引起了人们极大的研究兴趣。然而，制定有效的和高性能的学习算法的SNN仍然是具有挑战性的。大多数现有的学习方法只学习权重，并且需要手动调整与膜相关的参数，这些参数决定了单个尖峰神经元的动态。这些参数通常被选择为对于所有神经元都是相同的，这限制了神经元的多样性，从而限制了所得到的SNN的表达能力。在本文中，我们从观察到的灵感，膜相关的参数是不同的大脑区域，并提出了一个训练算法，不仅能够学习突触的权重，但也SNN的膜时间常数。我们发现，结合可学习的膜时间常数可以使网络对初始值不太敏感，并可以加快学习。此外，我们重新评估了SNN中的池化方法，发现最大池化不会导致显著的信息丢失，并且具有计算成本低和二进制兼容性的优点。我们评估了所提出的方法在传统静态MNIST，Fashion-MNIST，CIFAR-10数据集和神经形态N-MNIST，CIFAR 10-DVS，DVS 128手势数据集上的图像分类任务。实验结果表明，该方法在几乎所有的数据集上都优于最先进的精度，使用更少的时间步长。我们的代码可在https://github.com/fangwei123456/Parametric-Leaky-Integrate-and-Fire-Spiking-Neuron上获得。
2021-08-17 cs.CV cs.LG cs.NE
Learnable quantum spectral filters for hybrid graph neural networks
Department of Computer Engineering（计算机工程系）；Istanbul Medeniyet University（伊斯坦布尔梅德尼yet大学）
本文提出一种基于参数化量子傅里叶电路的卷积与池化层，利用拉普拉斯算子特征空间近似实现指数级信号压缩，结合经典预测头构建混合图神经网络，在TUDataset上取得优异分类效果。
2025-07-11 cs.LG quant-ph
A Novel Learnable Dictionary Encoding Layer for End-to-End Language Identification
Sun Yat-sen University（中山大学）；Duke Kunshan University（昆山杜克大学）；Tencent Inc.（腾讯公司）；Jiangsu Jinling Science and Technology Group Limited（江苏金陵科技集团有限公司）
本文提出了一种新的可学习的字典编码层，用于端到端的语言识别。该方法与传统的GMM i向量方法在理论和实践上都是一致的。在CNN的基础上，模拟了传统的GMM训练机制和超向量编码过程。该层可以从可变长度的输入序列中累积高阶统计量，并生成话语级固定维向量表示。与传统方法不同，我们的新方法提供了一个端到端的学习框架，其中固有的字典直接从损失函数中学习。字典和分类器的编码表示是联合学习的。该表示是无序的，因此适合于语言识别。我们在NIST LRE 07闭集任务上进行了初步实验，结果表明，与简单的平均池化相比，我们提出的字典编码层实现了显着的错误减少。
2018-04-02 cs.LG cs.SD eess.AS
Temporal Bilinear Encoding Network of Audio-Visual Features at Low Sampling Rates
Insight Centre for Data Analytics（洞察数据分析中心）；Dublin City University（都柏林城市大学）
当前基于深度学习的视频分类架构通常在大量数据上进行端到端训练，并且需要大量的计算资源。本文的目的是利用视听信息的视频分类与每秒1帧的采样率。我们提出了时间双线性编码网络（TBEN）的编码音频和视觉长距离的时间信息，使用双线性池，并证明双线性池是优于平均池的时间维度上的视频与低采样率。为了进一步提高分类器的鲁棒性，我们还在TBEN中嵌入了标签层次结构。在FGA240细粒度分类数据集上的实验结果表明，TBEN算法的分类命中率达到了最新水平（hit@1=47.95%）。我们还利用了将TBEN与视觉语义和运动特征等多个解耦模式相结合的可能性：以1 FPS采样的UCF 101实验达到了接近最先进的准确率（hit@1=91.03%），同时需要的计算资源比竞争方法少得多。
2020-12-18 cs.CV cs.LG
Learning Deep Temporal Representations for Brain Decoding
Middle East Technical University（中东技术大学）；Koc University（科奇大学）
功能性磁共振成像产生高维数据，其中用于大脑解码任务（预测大脑状态）的标记样本的数量少于理想数量。在这项研究中，我们提出了一种新的深度时间卷积神经网络架构与空间池的大脑解码，其目的是降低特征空间的维数，同时提高分类性能。卷积模型每层的时间表示（滤波器）是通过利用未标记的fMRI数据以无监督的方式与正则化自动编码器一起学习的。在多个级别中学习的时间表示捕获时间域中的时间，并且被观察到是一个丰富的激活模式库，其也表现出与实际血流动力学响应的相似性。此外，卷积架构中的空间池化层在不丢失过多信息的情况下降低了维度。通过采用所提出的时间卷积架构与空间池，原始输入的fMRI数据被映射到一个非线性的，高表达性和低维的特征空间进行最终的分类。此外，我们提出了一个简单的启发式超参数调整时，没有验证数据。提出的方法进行了测试的10类识别记忆实验与9名受试者。结果支持所提出的模型的效率和潜力，相比基线多体素模式分析技术。
2015-01-12 cs.LG cs.NE
Auto-pooling: Learning to Improve Invariance of Image Features from Image Sequences
The University of Tokyo（东京大学）
从图像中学习不变表示是计算机视觉面临的最大挑战之一。空间池被广泛用于创建对空间移位的不变性，但它仅限于卷积模型。在本文中，我们提出了一种新的池化方法，可以从图像序列中学习软聚类的功能。它被训练以提高特征的时间一致性，同时保持信息损失最小。我们的方法不使用空间信息，因此它也可以用于非卷积模型。对自然视频中提取的图像进行的实验表明，该方法可以将相似的特征聚类在一起。当通过卷积特征进行训练时，自动池化在图像分类任务上优于传统的空间池化，即使它不使用特征的空间拓扑。
2013-03-18 cs.CV cs.LG
Vessel Traffic Flow Prediction on Sparse Data via Spatio-Temporal Graph Neural Networks with a Learnable Tweedie Head
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
针对船舶交通流数据高度稀疏且间歇性爆发的问题，提出一种模型无关的可学习Tweedie头作为即插即用输出模块，通过优化闭合形式的Tweedie单元偏差并预测均值，同时学习节点级方差幂以捕获港口区域异质性，在真实AIS数据上显著提升RMSE。
2026-06-05 cs.LG stat.ML
Acoustic Classification of Maritime Vessels using Learnable Filterbanks
Technical University of Denmark（丹麦技术大学）
提出深度学习模型CATFISH，通过可训练频谱前端学习Gabor滤波器组动态提取频率特征，在VTUAD数据集上以96.63%准确率超越基准12个百分点，实现跨场景海上船舶声学分类。
2025-05-29 cs.LG cs.SD eess.AS
Sea-Net: A Small and Inherently Interpretable Neural Network for Time Series Classification
Centre de Recherche en Informatique, Signal et Automatique de Lille (CRIStAL)（里尔信息、信号与自动化研究中心）；University of Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
该研究针对传统时间序列分类模型MILLET参数多、不适合边缘设备的问题，提出轻量级SEA-Net架构，在保持高分类与解释性能的同时大幅减小模型规模，为边缘端可解释时间序列分类提供了实用方案。
2026-10-14 cs.CV cs.LG
Exploring the Encoding Layer and Loss Function in End-to-End Speaker and Language Recognition System
Duke Kunshan University（昆山杜克大学）；Sun Yat-sen University（中山大学）
在本文中，我们探讨了端到端的说话人和语言识别系统中的编码/池化层和损失函数。首先，一个统一的和可解释的端到端系统的说话人和语言识别的开发。它接受可变长度的输入，并产生一个话语水平的结果。在端到端系统中，编码层在将可变长度输入序列聚合成话语级表示中起作用。除了基本的时间平均池，我们引入了一个自注意池层和一个可学习的字典编码层，以获得话语级表示。在开集说话人确认的损失函数方面，为了得到更有鉴别力的说话人嵌入，在端到端系统中引入了中心损失和角度softmax损失。在Voxceleb和NIST LRE 07数据集上的实验结果表明，本文提出的编码层和损失函数可以显著提高端到端学习系统的性能.
2018-04-14 cs.LG cs.SD eess.AS
Central limit theorems for the outputs of fully convolutional neural networks with time series input
本文研究全卷积神经网络在时间序列输入下的输出分布，证明在短程依赖线性过程中，使用全局平均池化层的输出渐近正态，且随观测时间序列长度趋于无穷时极限成立，提出改进的全局加权池化方法。
2026-03-31 cs.LG stat.ME
Beyond Fixed Patches: Enhancing GPTs for Financial Prediction with Adaptive Segmentation and Learnable Wavelets
School of Computer Science and Technology, Tongji University（同济大学计算机科学与技术学院）；School of Mathematical Sciences, Tongji University（同济大学数学科学学院）；Seek Data Group, Emoney Inc.（Seek Data集团，Emoney公司）
本文提出GPT4FTS框架，通过动态片段分割和可学习小波变换提升GPTs在金融预测中的性能。
2026-01-18 cs.LG
Multi-Step Short-Term Wind Speed Prediction with Rank Pooling and Fast Fourier Transformation
State Key Laboratory of NBC Protection for Civilian（国民核生化防护国家重点实验室）
针对真实风速数据间歇性强、波动大导致浅层模型预测困难的问题，提出融合排序池化局部特征、FFT全局特征与MLP/LSTM及线性回归的深度混合模型，经10年真实数据验证，预测精度优于现有先进的单一及混合模型。
2023-05-05 cs.LG physics.ao-ph
TI-DeepONet: Learnable Time Integration for Stable Long-Term Extrapolation
本文提出TI-DeepONet，通过结合神经算子与自适应时间步长，解决神经算子在长期外推中的稳定性问题，提升预测精度与效率。
2026-03-16 cs.LG
SimPool: Towards Topology Based Graph Pooling with Structural Similarity Features
近年来，用于图的深度学习方法取得了快速进展，其中将卷积神经网络（CNN）推广到图数据是一个很大的焦点。CNN通常通过交替卷积层和池化层来实现，其中池化层对网格进行子采样，并交换空间或时间分辨率以增加特征维度。虽然图的广义卷积算子已经被广泛研究并证明是有用的，但图的分层粗化仍然具有挑战性，因为图中的节点没有空间局部性，也没有自然顺序。本文提出了两个主要的贡献，第一个是基于邻接矩阵计算结构相似性特征的差分模块。这些结构相似性特征可以与各种算法一起使用，但是在本文中，重点和第二个主要贡献是将这些特征与重新访问的池化层DiffPool arXiv：1806.08804集成，以提出称为SimPool的池化层。这是通过将网络简化的概念与分层局部池的概念联系起来来实现的，网络简化是通过图中的结构相似性来实现的。实验结果表明，作为端到端图神经网络架构的一部分，SimPool计算节点集群分配，其功能更类似于CNN在标准网格中对局部感受野进行操作所使用的局部保持池化操作。此外，实验结果表明，这些功能是有用的归纳图分类任务，而不增加参数的数量。
2020-06-03 cs.LG stat.ML
Enhancing Traffic Prediction with Learnable Filter Module
针对交通数据中固有的随机噪声导致时空神经网络过拟合的问题，提出一种基于傅里叶变换的可学习滤波器模块，通过在频域自适应滤除噪声并恢复至时域，有效提升了现有交通预测模型的输入数据质量与预测精度。
2023-10-24 cs.LG
STN-TGAT: Top-K Portfolio Construction via Prior-Guided Graph Attention with Learnable Soft-Threshold Sparsification
University College London（伦敦大学学院）；University of Oxford（牛津大学）
本文针对现实投资场景下股票排名与投资组合构建问题，提出STN-TGAT，集成时间Transformer与图注意力网络，结合基于NMI的先验图及软阈值稀疏化机制，纳入实际投资考量，实证显示其在预测和盈利方面优于基准模型，为投资组合构建提供有效框架。
2026-07-23 cs.LG
EEGminer: Discovering Interpretable Features of Brain Activity with Learnable Filters
Imperial College London（帝国理工学院）；Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；National and Kapodistrian University of Athens（雅典国立卡波迪斯特里亚大学）；Cogitat Ltd.（Cogitat有限公司）
大脑活动模式与不同的大脑过程有关，可用于识别不同的大脑状态并进行行为预测。然而，相关特征并不显而易见和容易获得。为了从正在进行的EEG活动的多通道记录中挖掘信息丰富的潜在表示，我们提出了一种新的可区分的解码管道，包括可学习的过滤器和预定的特征提取模块。具体来说，我们引入了由广义高斯函数参数化的滤波器，这些滤波器为稳定的端到端模型训练提供了平滑的导数，并允许学习可解释的特征。对于特征模块，我们使用信号幅度和功能连接估计。我们证明了我们的模型在SEED数据集上对EEG信号的情感识别的实用性，以及在前所未有的大小的新EEG数据集上的实用性（即，761名受试者），其中我们确定了音乐感知的一致趋势和相关的个体差异。这些发现的特征与之前的神经科学研究一致，并提供了新的见解，例如在听音乐时左右颞区之间的功能连接特征存在显著差异。这与文献中提出的关于音乐感知的颞叶各自的专门化相一致。
2022-02-02 cs.HC cs.LG
Retrieving Continuous Time Event Sequences using Neural Temporal Point Processes with Learnable Hashing
University of Washington Seattle（西雅图华盛顿大学）；Indian Institute of Technology Delhi（印度理工学院德里分校）；Indian Institute of Technology Bombay（印度理工学院孟买分校）
针对连续时间事件序列（CTES）大规模检索被忽视的问题，提出首个端到端CTES检索框架NeuroSeqRet，结合可训练反扭曲、MTPP引导的相关性模型与可学习哈希，实现准确率显著提升。
2023-07-13 cs.IR cs.LG
LORCK: Learnable Object-Resembling Convolution Kernels
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）；FSBI National Medical Research Radiological Center of the Ministry of Health of the Russian Federation（俄罗斯联邦卫生部国家医学研究放射中心）
某些中空器官（例如膀胱）的分割由于其复杂的几何形状、软组织中模糊的强度梯度以及数据注释例程的繁琐手动过程而特别难以自动化。然而，在这些器官的放射图像中准确定位壁和癌区域是肿瘤学中的重要步骤。为了解决这个问题，我们提出了一类新的空心内核，它们学会“模仿”分割器官的轮廓，有效地复制其形状和结构复杂性。我们训练了一系列的U-网类神经网络使用所提出的内核，并证明了优越性的想法，在各种时空卷积的情况下。具体地，扩张的空心核架构优于现有技术的空间分割模型，而添加时间块，例如，Bi-LSTM为膀胱分割挑战建立了一个新的多类基线。我们的空内核的基础上的时空模型达到平均骰子得分为0.936，0.736，和0.712膀胱的内壁，外壁，和肿瘤区域，分别。这些结果为其他特定领域的深度学习应用铺平了道路，在这些应用中，分割对象的形状可用于形成适当的卷积核，以提高分割结果。
2020-12-07 cs.CV cs.LG eess.IV
