Bridging Spherical Black-Box Optimizers
The University of Tokyo（东京大学）
将进化策略、共识优化和积分优化统一为理论框架，通过引入混合优化器控制平坦偏好和模态，在连续控制和语言模型合并任务中提升性能与鲁棒性。
2026-06-25 cs.LG math.OC
Generalized Spherical Neural Operators: Green's Function Formulation
University of Dundee, United Kingdom（英国邓迪大学）；University of Cambridge, United Kingdom（英国剑桥大学）
本文提出基于可设计球面格林函数及其谐波展开的广义算子设计框架，提出适应非等变系统的GSNO算子，结合多尺度谱模型与球面上下采样构建SHNet，实验证明其在扩散磁共振成像、浅水动力学和全球天气预测中优于现有方法。
2026-04-09 cs.LG
Neural Operators for Biomedical Spherical Heterogeneity
University of Dundee（邓迪大学）；University of Cambridge（剑桥大学）；Fudan University（复旦大学）
GSNO通过融合等变、不变和各向异性格林函数运算，有效建模生物医学中的球形异质性和各向异性，提升真实世界系统的适应性与效率。
2026-01-10 cs.LG
Theory of Deep Convolutional Neural Networks II: Spherical Analysis
City University of Hong Kong（香港城市大学）
基于各种结构和架构的深度神经网络的深度学习在许多实际应用中已经很强大，但缺乏足够的理论验证。在本文中，我们考虑一族深度卷积神经网络，其应用于$\mathbb{R}^d$的单位球面$\mathbb{S}^{d-1}$上的近似函数。我们的分析提出了一致逼近的速度时，近似函数位于Sobolev空间$W^r_\infty (\mathbb{S}^{d-1})$与$r>0$或采取加性脊形式。我们的工作从理论上验证了深度卷积神经网络的建模和逼近能力，然后进行下采样和一个或两个完全连接的层。我们的球面分析的关键思想是使用球面谐波空间的再生核的内积形式，然后应用滤波器的卷积因子分解来实现生成的线性特征。
2020-07-28 cs.LG math.FA stat.ML
Clebsch-Gordan Nets: a Fully Fourier Space Spherical Convolutional Neural Network
The University of Chicago（芝加哥大学）；Toyota Technological Institute（丰田工业研究所）
Cohen \emph{et al.}最近的工作通过使用群表示理论和非交换调和分析的思想，以旋转不变的方式学习球面图像，取得了最先进的结果。在本文中，我们提出了一个概括的这项工作，一般表现出更好的性能，但从实现的角度来看，实际上是更简单。所提出的架构的一个不寻常的功能是，它使用的Clebsch-Gordan变换作为其唯一的非线性源，从而避免重复的前向和后向傅立叶变换。本文的基本思想推广到构造神经网络是不变的其他紧凑组的行动。
2018-11-10 cs.LG stat.ML
Automatic and Structure-Aware Sparsification of Hybrid Neural ODEs
Institute for Computational and Mathematical Engineering（计算与数学工程研究所）；Stanford University（斯坦福大学）
本文提出了一种混合神经ODEs的自动稀疏化方法，结合领域知识与数据驱动正则化，以提高预测性能和稳定性，同时保持机理合理性。
2026-03-03 cs.LG stat.ML
Hybrid LQG-Neural Controller for Inverted Pendulum System
本文提出了一种混合系统控制器，结合神经网络和LQG控制器。直接在倒立摆系统上采用遗传算法对神经网络控制器进行了优化。无故障优化过程规定了一个相对较小的区域的渐近稳定的神经控制器，这是集中在调节点。所提出的混合控制器结合了遗传优化神经控制器和LQG控制器的优点，在一个单一的系统控制器。高品质的调节过程是通过利用神经控制器实现的，而系统的稳定性，在瞬态过程和广泛的操作是通过应用LQG控制器保证。将该混合控制器应用于一个固有不稳定的倒立摆系统的仿真模型，验证了该控制器的有效性。
2003-11-30 cs.LG cs.NE
A Hybrid Brain-Computer Interface Using Motor Imagery and SSVEP Based on Convolutional Neural Network
Southern University of Science and Technology（南方科技大学）
基于脑电的脑机接口的关键在于神经元解码，采用混合型脑机接口范式，即融合多种范式，可以提高其准确性。然而，混合脑机接口通常需要对每个范例中的脑电信号进行单独的处理过程，这大大降低了脑电信号特征提取的效率和模型的通用性。在这里，我们提出了一种基于双流卷积神经网络（TSCNN）的混合脑机接口。它结合了稳态视觉诱发电位（SSVEP）和运动想象（MI）范式。TSCNN在训练过程中自动学习提取两种范式下的脑电特征，在测试数据中解码准确率较MI模式提高了25.4%，较SSVEP模式提高了2.6%。此外，TSCNN的多功能性得到验证，因为它提供了相当大的性能，在单一模式（70.2%的MI，93.0%的SSVEP）和混合模式的情况下（95.6%的MI-SSVEP混合）。我们的工作将促进基于EEG的BCI系统的实际应用。
2022-12-10 cs.LG
Spherical convolutional neural networks can improve brain microstructure estimation from diffusion MRI data
UCL Great Ormond Street Institute of Child Health, University College London（伦敦大学学院大奥蒙德街儿童健康研究所）；Great Ormond Street Hospital（大奥蒙德街医院）；Lund University（隆德大学）
本文提出用旋转不变的球形卷积神经网络从扩散MRI数据估计脑微结构参数，在临床数据上优于球形均值技术和多层感知机，并展示了向三室模型及神经胞体密度估计的通用扩展能力。
2024-02-26 cs.LG eess.IV physics.med-ph
MambaNet: A Hybrid Neural Network for Predicting the NBA Playoffs
Michigan State University（密歇根州立大学）；InStat Sports Performance Analysis Company（InStat运动表现分析公司）
在本文中，我们提出了Mambanet：一个混合神经网络预测篮球比赛的结果。与其他主要关注赛季比赛的研究相反，这项研究调查了季后赛。MambaNet是一种混合神经网络架构，它处理球队和球员比赛统计数据的时间序列，并生成球队赢得或输掉NBA季后赛的概率。在我们的方法中，我们利用特征模仿网络来提供游戏统计数据的潜在信号处理特征表示，以进一步处理卷积，递归和密集神经层。使用六个不同的数据集进行了三个实验，以评估我们的架构对广泛的以前的研究的性能和概括性。我们的最终方法成功地预测了AUC从0.72到0.82，大大超过了表现最好的基线模型。
2022-10-31 cs.LG
Impact of Spherical Coordinates Transformation Pre-processing in Deep Convolution Neural Networks for Brain Tumor Segmentation and Survival Prediction
Macquarie University（麦考瑞大学）；Australian Institute of Health Innovation（澳大利亚健康创新研究院）
预处理和数据增强在深度卷积神经网络（DCNN）中起着重要作用。尽管有多种方法旨在实现数据集的标准化和增强，但我们在这里提出了一种新方法，旨在为DCNN提供球面空间变换的输入数据，与标准笛卡尔空间图像和体积相比，该方法可以更好地促进特征学习。在这项工作中，球坐标变换已被用作预处理方法，与正常MRI体积结合使用，提高了脑肿瘤分割（BraTS）挑战2020数据集上脑肿瘤分割和患者总生存期（OS）预测的准确性。然后，应用LesionEncoder框架从DCNN模型中自动提取特征，在验证数据集上实现了0.586的OS预测准确度，这是BraTS 2020排行榜上的最佳结果之一。
2020-11-23 cs.CV cs.LG eess.IV
Hybrid Neural Models For Sequence Modelling: The Best Of Three Worlds
LIG（格勒诺布尔信息学实验室）；Lattice CNRS（法国国家科学研究中心Lattice实验室）；ALMAnaCH Inria（法国国家数字科学技术研究所ALMAnaCH）
我们提出了一个神经架构，它具有过去几年最成功的神经模型的主要特征：双向RNN，编码器-解码器和Transformer模型。对三个序列标记任务的评估产生的结果是接近国家的最先进的所有任务，并优于它的一些，显示这种混合架构的这种任务的相关性。
2019-09-16 cs.LG stat.ML
Hybrid FedGraph: An efficient hybrid federated learning algorithm using graph convolutional neural network
The Catholic University of Korea（韩国天主教大学）；Northwestern University（西北大学）
针对现有联邦学习对更常见的混合数据分布场景研究不足的问题，提出通用算法FedGraph，引入图卷积神经网络捕捉特征共享信息，并设计隐私保护的聚类算法聚合客户端深度特征。
2024-04-15 cs.DC cs.LG
Hybrid Time-Domain Behavior Model Based on Neural Differential Equations and RNNs
IEEE Publication Technology Group（IEEE出版技术组）
针对传统连续时域电路建模的拟合与效率局限，提出结合神经微分方程与RNN的NODE-RNN、NCDE-RNN混合模型，经PIN二极管数据验证精度提升显著，且兼容现有仿真平台，为高精度电路时域建模提供新思路。
2025-06-17 cs.LG
A hybrid quantum-classical neural network with deep residual learning
South China University of Technology（华南理工大学）；University of Oulu（奥卢大学）
受经典神经网络成功的启发，人们做出了巨大的努力来将经典有效的神经网络发展成量子概念。本文提出了一种新的具有深度残差学习的混合量子-经典神经网络（Res-HQCNN）。首先分析了如何将残差块结构与量子神经网络相结合，并给出了相应的训练算法。同时，提供了将深度残差学习转化为量子概念的优点和缺点。因此，该模型可以以端到端的方式进行训练，类似于经典神经网络中的反向传播。为了探索Res-HQCNN的有效性，我们在经典计算机上对有噪声或无噪声的量子数据进行了广泛的实验。实验结果表明，与现有技术相比，Res-HQCNN在学习未知酉变换方面表现更好，对噪声数据具有更强的鲁棒性。此外，还讨论了残差学习与量子神经网络相结合的可能方法。
2021-05-24 cs.LG
A two-stage hybrid model by using artificial neural networks as feature construction algorithms
Kennesaw State University（肯尼索州立大学）；Atlanticus Services Corporation（大西洋服务公司）
我们提出了一个两阶段的混合方法与神经网络作为新的银行卡响应分类的特征构造算法。混合模型使用一个非常简单的神经网络结构作为新的特征构造工具在第一阶段，然后新创建的功能被用作额外的输入变量在逻辑斯谛回归在第二阶段。并将该模型与传统的单阶段模型在信贷客户反应分类方面进行了比较。据观察，建议的两阶段模型优于一阶段模型的准确性，ROC曲线下的面积，KS统计。通过使用神经网络技术创建新特征，识别变量之间的潜在非线性关系。该模型采用简单的神经网络结构，克服了神经网络训练时间长、拓扑结构复杂、可解释性有限的缺点。
2018-12-06 cs.LG stat.ML
Symbiotic Hybrid Neural Network Watchdog For Outlier Detection
Baylor University（贝勒大学）
神经网络在很大程度上是黑箱。被训练来对水果进行分类的神经网络可以将长颈鹿的图片分类为香蕉。一个神经网络看门狗的工作是识别这些输入，允许分类器忽略这些数据。我们研究看门狗是否应该从神经网络分离或共生连接。我们提出的经验证据表明，共生看门狗的性能优于当神经网络是不相交的。
2021-04-21 cs.LG eess.IV
Autoregressive Surrogate Modeling of the Solar Wind with Spherical Fourier Neural Operator
Dept. of Computer Science, Georgia State University（计算机科学系，佐治亚州立大学）；Predictive Science Inc.（预测科学公司）
本文提出基于球面傅里叶神经算子的自回归方法，用于建模太阳风径向速度，相较于传统MHD模型，该方法更高效且能灵活处理边界条件不确定性，提升远距离区域的预测精度。
2025-11-25 cs.LG
Hybrid training of optical neural networks
University of Oxford（牛津大学）；OxONN
光学神经网络正在成为一种有前途的机器学习硬件类型，能够进行节能的并行计算。当今的光学神经网络主要是在数字仿真器上进行计算机训练后进行光学推理。然而，各种无法精确建模的物理缺陷可能会导致数字仿真器和物理系统之间的臭名昭着的现实差距。为了解决这一挑战，我们演示了混合训练的光学神经网络的权重矩阵进行训练，神经元激活函数计算光学通过网络的前向传播。我们研究了三种不同网络的混合训练的有效性：光学线性分类器，混合光电网络和复值光学网络。我们对计算机模拟训练进行了比较研究，结果表明混合训练对不同类型的静态噪声具有鲁棒性。我们的平台无关的混合训练方案可以应用于各种各样的光学神经网络，这项工作铺平了道路，先进的全光学训练机器智能。
2022-05-27 cs.ET cs.LG eess.IV
Hybrid machine-learned homogenization: Bayesian data mining and convolutional neural networks
University of Stuttgart（斯图加特大学）
除了通常部署的特征用于微结构性能预测之外，本研究旨在通过开发新的特征描述符来改进机器学习预测。因此，贝叶斯注入的数据采掘进行获取样本包含无法解释的当前特征集的特征，并提出合适的特征描述符来描述这些特征。特征描述符的迭代开发产生了37个新特征，能够将预测误差减少约三分之一。为了进一步改进预测模型，部署卷积神经网络（Conv Nets）以监督机器学习方式生成辅助特征。Conv Nets能够超越基于特征的方法。这方面的一个关键因素是新提出的数据增强计划和所谓的深度初始模块的开发。基于特征的方法和卷积神经网络的组合导致混合神经网络：在单个模型中并行部署两个神经网络原型实现了低于1%的相对均方根误差，与在相同数据上操作的先前模型相比，误差减少了一半以上。混合神经网络被发现足够强大的扩展到预测可变的材料参数，从低到高的相位差，同时允许任意的微观结构的几何形状在同一时间。
2023-02-24 cs.LG
Ternary Hybrid Neural-Tree Networks for Highly Constrained IoT Applications
Arm ML Research Lab（安谋机器学习研究实验室）
基于机器学习的应用在物联网设备中越来越普遍。这些设备的功率和存储限制使得运行现代神经网络特别具有挑战性，限制了可以在物联网系统上部署的新应用程序的数量。已经提出了许多压缩技术，每种都有自己的权衡。我们提出了一个混合网络，结合了目前的神经和树为基础的学习技术的优势，结合三进制量化，并显示相关的模型设计空间的详细分析。使用这种混合模型，我们获得了11.1%的计算量减少，模型大小减少52.2%，并在一个国家的最先进的关键字定位神经网络，在整体内存占用减少30.6%，在准确性可以忽略不计的损失。
2019-03-04 cs.LG stat.ML
Hybrid Zonotopes Exactly Represent ReLU Neural Networks
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出利用混合zonotope等价表示ReLU前馈全连接神经网络，证明二元变量复杂度随网络规模线性增长，并通过非线性函数逼近、MPC闭环可达性与验证及MNIST分类鲁棒性案例验证了该方法的实用性。
2023-04-05 cs.LG cs.SY eess.SY
A Hybrid Complex-valued Neural Network Framework with Applications to Electroencephalogram (EEG)
York University（约克大学）
在这篇文章中，我们提出了一个新的EEG信号分类框架，通过集成复值和实值卷积神经网络（CNN）与离散傅立叶变换（DFT）。所提出的神经网络架构由一个复值卷积层、两个实值卷积层和三个全连接层组成。我们的方法可以有效地利用DFT中包含的相位信息。我们使用两个模拟EEG信号和基准数据集验证我们的方法，并将其与两个广泛使用的框架进行比较。我们的方法大大减少了所使用的参数的数量，并提高了准确性，与现有的方法相比，在分类基准数据集，并显着提高性能，在分类模拟脑电信号。
2022-07-28 cs.LG
Efficient Neural Hybrid System Learning and Transition System Abstraction for Dynamical Systems
School of Computer and Cyber Sciences, Augusta University（奥古斯塔大学计算机与网络科学学院）；School of Electrical Engineering, Southwest Jiaotong University（西南交通大学电气工程学院）
本文提出一种用于动力系统的神经网络混合建模框架，通过低层多神经网络模型学习局部动力学，并用高层模型将其抽象为支持计算树逻辑验证的转移系统，实现高效且可解释的动力学学习与系统辨识。
2024-11-15 cs.LG cs.SY eess.SY
A Hybrid Objective Function for Robustness of Artificial Neural Networks -- Estimation of Parameters in a Mechanical System
Trier University（特里尔大学）；IEE S.A.（IEE公司）；Trier University of Applied Sciences（特里尔应用技术大学）
在几项研究中，混合神经网络已被证明比普通数据驱动的神经网络对噪声输入数据更鲁棒。我们考虑的任务，估计的机械车辆模型的加速度曲线的基础上的参数。我们介绍了一个卷积神经网络架构，能够预测的参数为一个家庭的车辆模型，不同的未知参数。我们介绍了一个卷积神经网络架构，给定的顺序数据预测的参数的基础数据的动态。该网络使用两个目标函数进行训练。第一种方法是一种更天真的方法，它假设真实参数是已知的。第二个目标结合了基本动态的知识，因此被认为是混合方法。我们表明，在鲁棒性方面，后者优于第一个目标的噪声输入数据。
2020-04-16 cs.LG stat.ML
Hybrid Spiking Neural Network -- Transformer Video Classification Model
University of Tehran（德黑兰大学）
本文提出一种受大脑皮层柱启发、融合SNN与Transformer的时间序列分类混合架构，配套多种编码与训练流程，并公开全部实现。
2024-11-29 cs.CV cs.LG
S-R2D2: a spherical extension of the R2D2 deep neural network series paradigm for wide-field radio-interferometric imaging
EPFL, École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院（EPFL））；Institute of Sensors, Signal, and Systems, Heriot-Watt University（赫瑞瓦特大学传感器、信号与系统研究所）
针对R2D2范式无法满足宽视场球面成像需求的问题，提出球面扩展S-R2D2，通过调整迭代方案纳入宽视场测量模型并设计联合训练损失，实现了高分辨率高动态范围球面图像的快速准确重建。
2025-03-03 astro-ph.IM cs.CV cs.LG
Hybrid graph convolutional neural networks for landmark-based anatomical segmentation
Research Institute for Signals, Systems and Computational Intelligence, sinc(i)（信号、系统与计算智能研究所）；CONICET（国家科学技术研究委员会）；Universidad Nacional del Litoral（国立滨海大学）
在这项工作中，我们解决的问题，基于地标的分割解剖结构。我们提出了HybridGNet，一种编码器-解码器神经架构，它将图像特征编码的标准卷积与图形卷积神经网络相结合，以解码解剖结构的合理表示。我们基准测试所提出的架构，考虑其他标准的地标和基于像素的模型，在胸部X射线图像的解剖分割，并发现HybridGNet是更强大的图像遮挡。我们还表明，它可以用来构建基于地标的分割像素级注释。我们的实验结果表明，HybridGNet产生准确的和解剖学上合理的基于地标的分割，通过自然地将形状约束的解码过程中，通过频谱卷积。
2021-06-17 cs.CV cs.LG eess.IV
CHyLL: Learning Continuous Neural Representations of Hybrid Systems
University of California, Berkeley（加州大学伯克利分校）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
CHyLL通过学习混合系统的连续神经表示，解决了连续和离散动态结合的挑战，实现了无轨迹分割的高精度流动预测和拓扑不变量识别。
2025-12-10 cs.AI cs.LG cs.RO
Spherical Motion Dynamics: Learning Dynamics of Neural Network with Normalization, Weight Decay, and SGD
Megvii Technology（旷视科技）；Peking University（北京大学）
在这项工作中，我们全面揭示了神经网络的学习动力学与规范化，重量衰减（WD），和SGD（动量），命名为球面运动动力学（SMD）。大多数相关的工作研究SMD集中在“均衡”条件下的“有效学习率”，其中权重范数保持不变。然而，他们对为什么SMD可以达到平衡条件的讨论要么是缺席，要么是不太令人信服。我们的工作通过直接探索平衡条件的原因来研究SMD。具体来说，1）引入了SMD中导致平衡条件的假设条件，证明了在给定的假设条件下，权范数可以线性收敛：2）提出了“角度更新”来代替有效学习率来衡量SMD中神经网络的演化，证明了角度更新也可以线性收敛到理论值; 3）我们在各种计算机视觉任务上验证了我们的假设和理论结果，包括ImageNet和MSCOCO。实验结果表明，我们的理论研究结果与经验观察。
2020-11-27 cs.CV cs.LG stat.ML
Sarcasm Detection using Hybrid Neural Network
Twitter, Inc（推特公司）；Facebook AI（脸书人工智能）
讽刺检测已经引起了研究界的极大兴趣，然而预测文本中讽刺的任务仍然是机器难以解决的问题。过去的研究大多利用twitter数据集，这些数据集是通过基于标签的监督收集的，但这些数据集在标签和语言方面是嘈杂的。为了克服这些缺点，我们引入了一个新的数据集，它包含了一个讽刺新闻网站和一个真正的新闻网站的新闻标题。接下来，我们提出了一个混合神经网络架构与注意力机制，它提供了关于什么实际上使句子讽刺的见解。通过实验，我们表明，该模型提高了约5%的分类精度方面的基线。
2022-10-13 cs.LG stat.ML
Inference with Hybrid Bio-hardware Neural Networks
Beihang University（北京航空航天大学）；Lehigh University（理海大学）
为了理解大脑中的学习过程，已经通过对详细的神经元特性和动力学建模来探索生物学上合理的算法。另一方面，神经网络的简化多层模型在诸如图像分类和语音识别的计算任务上已经显示出巨大的成功。然而，可以为这些学习应用实现良好精度的计算模型与生物合理模型非常不同。本文研究了体外活神经网络的生物似然模型是否可以用于执行机器学习任务并实现良好的推理精度。提出了一种新的双层生物硬件混合神经网络。生物层忠实地模拟体外活神经网络中突触、神经元和网络稀疏度的变化。硬件层是一个计算性的全连接层，可以调整参数以优化精度。提出了几种技术来提高所提出的混合神经网络的推理精度。例如，自适应预处理技术有助于所提出的神经网络实现不同的活神经网络稀疏度的良好的学习精度。建议的混合神经网络与现实的神经元参数和变化达到了98.3%的测试准确率的手写数字识别任务的完整MNIST数据集。
2019-09-05 cs.LG cs.NE q-bio.NC
A Hybrid Quantum-Classical Neural Network Architecture for Binary Classification
University of Florida（佛罗里达大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
深度学习是当今机器学习中使用的最成功、影响最深远的策略之一。然而，神经网络的规模和效用仍然受到当前用于训练它们的硬件的极大限制。随着传统计算机迅速接近物理极限，这些问题变得越来越紧迫，这将在未来几年减缓性能的提高。出于这些原因，科学家们已经开始探索替代计算平台，如量子计算机，用于训练神经网络。近年来，变分量子电路已经成为在有噪声的中间尺度量子设备上进行量子深度学习的最成功的方法之一。我们提出了一种混合量子-经典神经网络结构，其中每个神经元是一个变分量子电路。我们经验性地分析了这种混合神经网络在一系列二进制分类数据集上的性能，使用模拟的通用量子计算机和最先进的通用量子计算机。在模拟硬件上，我们观察到，混合神经网络实现了大约10%的分类精度和20%的成本最小化比一个单独的变量量子电路。在量子硬件上，我们观察到每个模型只有在量子位“与”门计数足够小时才能表现良好。
2022-01-11 cs.LG quant-ph
A hybrid quantum-classical neural network for learning to route
Instituto de Pesquisas Eldorado（Eldorado研究所）；Universidade Federal de Santa Catarina（圣卡塔琳娜联邦大学）；Universidade Federal do Rio Grande do Sul（南里奥格兰德联邦大学）
该研究探究用小型量子神经网络替代基于注意力的路由模型的参数密集型模块，发现编码器前馈替换可减少56.6%参数，是可行的混合模块压缩策略，未体现量子优势。
2026-09-02 cs.LG quant-ph
Hybrid Bayesian Neural Networks with Functional Probabilistic Layers
IBM（国际商业机器公司）
贝叶斯神经网络提供了一种直接和自然的方式来扩展标准深度神经网络，以通过使用概率层来支持概率深度学习，传统上，概率层对权重（和偏差）不确定性进行编码。具体地，混合贝叶斯神经网络利用标准确定性层以及在网络中合理定位的几个概率层来进行不确定性估计。贝叶斯推理的一个主要方面和好处是，先验知识原则上提供了对先验知识进行编码的方法，以用于推理和预测。然而，由于权重没有直观的解释，因此很难指定权重的先验知识。此外，权重的先验与网络计算的函数之间的关系很难表征。相比之下，函数解释起来很直观，并且是直接的，因为它们将输入映射到输出。因此，很自然地指定函数的先验知识来编码先验知识，并将它们用于基于函数的推理和预测。为了支持这一点，我们提出了混合贝叶斯神经网络与功能概率层编码功能（和激活）的不确定性。我们讨论了它们在函数贝叶斯推理、函数变分推理、稀疏高斯过程和稀疏变分高斯过程中的基础。我们进一步使用GPflus进行了一些概念验证实验，GPflus是一个新的库，提供高斯过程层，并支持它们与确定性Keras层一起使用，以形成混合神经网络和高斯过程模型。
2021-07-14 cs.LG stat.ML
Design and development of opto-neural processors for simulation of neural networks trained in image detection for potential implementation in hybrid robotics
University of Cincinnati（辛辛那提大学）；Visvesvaraya Technological University（维斯韦斯瓦拉亚理工大学）
本文设计光神经处理器，提出利用光遗传精确激活和基于 STDP 的反向传播间接训练模拟活体神经网络，用于图像检测并可潜在部署于混合机器人，准确率媲美传统训练算法。
2024-01-17 cs.AI cs.ET cs.LG
Evolutionary-Neural Hybrid Agents for Architecture Search
Jagiellonian University（雅盖隆大学）；Google AI（谷歌人工智能）
神经结构搜索已经显示出自动设计神经网络的潜力。基于深度强化学习的智能体可以学习复杂的架构模式，并探索广阔的组合搜索空间。另一方面，进化算法提供了更高的样本效率，这对于这样的资源密集型应用是至关重要的。为了捕捉这两个世界的最好的，我们提出了一类进化神经混合代理（Evo-NAS）。我们表明，Evo-NAS代理优于神经和进化代理时，适用于一套文本和图像分类基准架构搜索。在一个高复杂度的架构搜索空间的图像分类，Evo-NAS代理超越了常用的代理实现的准确性，只有1/3的搜索成本。
2020-02-15 cs.LG cs.NE stat.ML
Detecting Algorithmically Generated Domains Using a GCNN-LSTM Hybrid Neural Network
僵尸网络使用域生成算法（DGA）在C&C服务器和僵尸程序之间建立一个隐形的C&C通信通道。DGA可以周期性地产生大量的伪随机算法生成域（AGD）。AGD检测算法提供了一个轻量级的，有前途的解决方案，以响应现有的DGA技术。本文提出了一种用于AGD检测的GCNN（门控卷积神经网络）-LSTM（长短期记忆）混合神经网络（GLHNN）。在GLHNN中，GCNN被应用于在LSTM之上从域名中提取信息特征，LSTM进一步处理特征序列。GLHNN的实验验证，使用代表AGD涵盖六类DGA。GLHNN与最先进的检测模型进行了比较，并在这些测试模型中展示了最佳的整体检测性能。
2022-08-06 cs.CR cs.LG
Spherical Fourier Neural Operators: Learning Stable Dynamics on the Sphere
NVIDIA Corp.（英伟达公司）；Caltech（加州理工学院）
本文提出Spherical FNO，将FNO推广到球面几何以消除DFT平坦几何假设导致的伪影与耗散，并在大气动力学预测中实现长达1,460步的稳定自回归模拟。
2023-06-06 cs.LG cs.NA math.NA
Accurate Differential Operators for Hybrid Neural Fields
Cornell University（康奈尔大学）
针对混合神经场空间导数不精确导致渲染与仿真伪影的问题，本文提出基于局部多项式拟合的事后算子和自监督微调方法，在保持原始信号的同时获得精确导数，并在渲染、碰撞仿真和偏微分方程求解中验证了其有效性。
2025-06-01 cs.AI cs.CV cs.GR
Automatic low-bit hybrid quantization of neural networks through meta learning
IBM Research – China（IBM中国研究院）
模型量化是一种广泛用于压缩和加速深度神经网络（DNN）推理的技术，特别是在部署到计算能力和功耗预算有限的边缘或物联网设备时。跨所有层的均匀比特宽度量化通常是次优的，并且针对不同层的混合量化的探索对于有效的深度压缩至关重要。本文采用元学习方法自动实现神经网络的低比特混合量化。MetaQuantNet与量化函数一起被训练以生成目标DNN的量化权重。然后，我们应用遗传算法搜索最佳的混合量化政策，满足压缩约束。使用搜索到的最佳量化策略，我们随后进行重新训练或微调，以进一步提高量化目标网络的性能。大量的实验表明，搜索的混合量化方案的性能优于均匀位宽对应。与现有的基于强化学习（RL）的混合量化搜索方法相比，这种方法依赖于繁琐的探索，我们的元学习方法对于任何压缩要求都更有效，因为MetaQuantNet只需要训练一次。
2020-04-24 cs.CV cs.LG stat.ML
Multi-Modal Hybrid Deep Neural Network for Speech Enhancement
Institute of High Performance Computing（高性能计算研究所）；Institute for Infocomm Research（资讯通信研究院）
深度神经网络（DNN）已经成功地增强了噪声语音信号。通过学习从受损语音信号的特征到参考干净语音信号的特征的非线性映射函数来实现增强。预测特征的质量可以通过提供对噪声鲁棒的附加侧信道信息（诸如视觉提示）来提高。在本文中，我们提出了一种新的深度学习模型的灵感来自人类的视听感知的见解。在所提出的统一混合架构中，来自处理视觉线索的卷积神经网络（CNN）的特征和来自处理音频信号的完全连接的DNN的特征使用双向长短期记忆（BiLSTM）网络来集成。使用反向传播联合学习混合模型的参数。我们比较了混合模型与传统DNN和BiLSTM模型的增强语音质量。
2016-06-15 cs.LG cs.NE cs.SD
HyBNN and FedHyBNN: (Federated) Hybrid Binary Neural Networks
Vellore Institute of Technology（韦洛尔理工学院）
二进制神经网络（BNN），即权重和激活被约束为-1（0）和+1的神经网络，是深度神经网络的替代方案，其提供更快的训练、更低的内存消耗和轻量级模型，非常适合用于资源受限的设备，同时能够利用其深度神经网络对应物的架构。然而，在BNN中使用的输入二值化步骤导致严重的精度损失。在本文中，我们介绍了一种新的混合神经网络架构，混合二进制神经网络（HyBNN），由一个任务无关的，一般的，全精度的变分自编码器与二进制潜在空间和任务特定的二进制神经网络，能够大大限制由于输入二进制化的准确性损失，通过使用全精度变分自编码器作为特征提取器。我们使用它将深度神经网络最先进的准确性与二进制神经网络更快的训练时间，更快的测试时间推理和功率效率相结合。我们表明，我们提出的系统是能够非常显着优于香草二进制神经网络与输入二进制。我们还介绍了FedHyBNN，一个高通信效率的联邦对应HyBNN，并证明它是能够达到相同的精度，其非联邦等效。我们提供源代码、实验参数和模型，网址为：https://anonymous.4open.science/r/HyBNN。
2022-05-19 cs.AI cs.DC cs.LG
Bayesian Inference of Primordial Magnetic Field Parameters from CMB with Spherical Graph Neural Networks
Laboratorio de Inteligencia Artificial (SavIA Lab), Grupo Signos, Departamento de Matemáticas, Universidad El Bosque（人工智能实验室（SavIA实验室）、Signos小组、数学系、埃尔博斯克大学）
本文提出基于球面图神经网络的贝叶斯框架，用于从CMB地图中准确估计原始磁场参数并量化不确定性。
2025-10-23 astro-ph.CO cs.AI cs.LG
Application of Spherical Convolutional Neural Networks to Image Reconstruction and Denoising in Nuclear Medicine
Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）；University of British Columbia（不列颠哥伦比亚大学）
本研究将等变球面卷积神经网络（SCNNs）应用于核医学图像重建与去噪，解决了传统CNNs依赖大量训练数据的问题，在降低计算成本的同时提升了处理质量并减少了对训练集的依赖。
2025-01-30 cs.LG eess.IV physics.med-ph
Hybrid deep additive neural networks
Department of Statistics, Seoul National University（首尔国立大学统计系）；Department of Data Science, Ewha Womans University（梨花女子大学数据科学系）
针对传统多层感知机依赖线性组合、参数较多且性能受限的问题，本文提出融合加性回归的深度网络及与传统网络结合的混合架构，证明其通用逼近性，并通过模拟和真实数据验证其以更少参数取得更优性能。
2024-12-06 cs.LG stat.ML
Efficient Reachability Analysis for Convolutional Neural Networks Using Hybrid Zonotopes
Department of Mechanical Engineering, University of Wisconsin-Madison（威斯康星大学麦迪逊分校机械工程系）
针对现有前馈神经网络可达性分析难以兼顾可扩展性与准确性的问题，提出基于混合zonotope与神经网络约简技术的卷积神经网络可达集计算方法，实现复杂度与精度的灵活权衡并通过算例验证有效性。
2025-03-13 cs.LG cs.SY eess.SY
Efficient Hybrid Network Architectures for Extremely Quantized Neural Networks Enabling Intelligence at the Edge
Purdue University（普渡大学）
最近“物联网”（IOT）的出现增加了对基于AI的边缘计算的需求。这就需要在计算和存储方面寻找神经网络的有效实现。虽然极端量化已被证明是在全精度网络上实现显著压缩的强大工具，但它可能导致性能显著下降。在这项工作中，我们提出了具有二进制和全精度部分的极度量化的混合网络架构，以模拟全精度网络的分类性能，同时确保显着的能源效率和内存压缩。我们探讨了几种混合网络架构，并分析了网络的准确性，能源效率和内存压缩方面的性能。我们对ResNet和VGG网络架构进行了分析。在提出的网络架构中，我们证明了具有全精度剩余连接的混合网络是最佳的，它可以获得接近全精度网络的精度，同时实现出色的内存压缩，在VGG-19的情况下高达21.8倍。这项工作展示了一种混合网络的有效方法，这种方法可以实现接近全精度网络的性能，同时实现显著的压缩，进一步提高了在基于物联网的边缘设备中使用此类网络进行节能神经计算的可行性。
2019-02-01 cs.LG stat.ML
Hybrid Neural Coded Modulation: Design and Training Methods
Hallym University（翰林大学）；KIOST（韩国海洋科学技术院）；Hanyang University（汉阳大学）
提出了一种由内码和外码组成的混合编码调制方案。外码可以是具有有效软解码能力的任何标准二进制线性码（例如，低密度奇偶校验（LDPC）码）。内部代码使用深度神经网络（DNN）来设计，深度神经网络（DNN）获取信道编码比特并输出调制符号。为了训练DNN，我们建议使用受广义互信息启发的损失函数。所得到的星座图被示出优于具有5G标准LDPC码的调制阶数16和64的传统的基于正交幅度调制（QAM）的编码方案。
2022-02-04 cs.IT cs.LG math.IT
Hybrid clustering-classification neural network in the medical diagnostics of reactive arthritis
Kharkiv National University of Radio Electronics（哈尔科夫国立无线电电子大学）；Kharkiv Medical Academia of Post-Graduate Education（哈尔科夫医学研究生教育学院）；Uzhhorod National University（乌日霍罗德国立大学）
提出了一种混合聚类-分类神经网络。该网络允许在由于学习率参数的合理选择和在聚类过程中引入模糊推理的特殊过程而导致的类重叠的条件下增加信息处理的质量，这在有外部学习信号（监督的）和没有外部学习信号（无监督的）的情况下都发生。作为相似性度量邻域函数或隶属度函数，余弦结构被使用，这允许提供由于自学习-学习过程的高度灵活性，并提供一些新的有用的性质。实验结果证实了所提出的混合聚类-分类神经网络的有效性，并将其应用于反应性关节炎的诊断。
2016-10-21 cs.LG cs.NE stat.ML
DeepSphere: Efficient spherical Convolutional Neural Network with HEALPix sampling for cosmological applications
Swiss Data Science Center (SDSC)（瑞士数据科学中心）；EPFL（洛桑联邦理工学院）；ETH Zurich（苏黎世联邦理工学院）
卷积神经网络（CNN）是深度学习工具箱的基石，并导致了人工智能的许多突破。这些网络大多是为常规的欧几里德域开发的，例如支持图像，音频或视频的域。由于它们的成功，基于CNN的方法在宇宙学中越来越受欢迎。宇宙学数据通常以球形映射的形式出现，这使得传统CNN的使用更加复杂。球面地图常用的像素化方案是分层等面积等纬度像素化（HEALPix）。我们提出了一个球形CNN，用于分析完整和部分HEALPix映射，我们称之为DeepSphere。球形CNN通过将球体表示为图来构造。图是通用的数据结构，可以作为连续流形的离散表示。使用基于图形的表示，我们定义了许多标准的CNN操作，如卷积和池化。由于过滤器被限制为径向的，我们的卷积与球体上的旋转等变，而DeepSphere可以保持不变或与旋转等变。这样，DeepSphere就是图CNN的一个特例，它是为球体的HEALPix采样量身定制的。这种方法在计算上比使用球面谐波执行卷积更有效。我们证明了弱透镜质量映射从两个宇宙学模型的分类问题的方法，并比较性能的CNN与两个基线分类。结果表明，DeepSphere的性能始终优于或等于这两个基线。对于高噪声水平和仅覆盖球体一小部分的数据，DeepSphere的分类精度通常比这些基线高10%。最后，我们展示了如何将学习的过滤器可视化以反思神经网络。
2019-03-26 astro-ph.CO astro-ph.IM cs.AI
A Hybrid Latent Variable Neural Network Model for Item Recommendation
Brigham Young University（杨百翰大学）；University of Arkansas（阿肯色大学）
协同过滤用于向用户推荐项目，而不需要项目本身的知识，并且往往优于其他技术。然而，协同过滤遭受冷启动问题，这发生在项目尚未被评级或用户尚未对任何项目进行评级时。将附加信息（如项目或用户描述）添加到协同过滤中可以解决冷启动问题。在本文中，我们提出了一个神经网络模型与潜在的输入变量（潜在的神经网络或LNN）作为一种混合协同过滤技术，解决了冷启动问题。LNN优于基于内容的过滤器（基于项目描述进行推荐）和其他混合方法，同时保持最先进的协同过滤技术的准确性。
2014-06-09 cs.IR cs.LG cs.NE
The Role of Quantum in Hybrid Quantum-Classical Neural Networks: An Empirical Assessment
Research Unit Medical Informatics（医学信息学研究单元）；RISC Software GmbH（RISC软件公司）
本文通过系统评估混合量子经典神经网络，探讨量子组件对性能的实际影响，发现量子组件在多数情况下会降低性能，呼吁在近期应用中谨慎使用。
2026-10-26 cs.AI cs.LG quant-ph
Hybrid Session-based News Recommendation using Recurrent Neural Networks
NVIDIA（英伟达）；Instituto Tecnológico de Aeronáutica (ITA)（航空技术学院（ITA））；University of Klagenfurt（克拉根福大学）
我们描述了一个混合的元架构-CHAMELEON -基于会话的新闻推荐，能够利用各种信息类型使用循环神经网络。我们在两个公共数据集上评估了我们的方法，使用一个时间评估协议，以现实的方式模拟新闻门户网站的动态。我们的研究结果证实了使用RNN对会话点击序列进行建模并利用有关用户和文章的辅助信息的好处，从而比其他基于会话的算法具有更高的推荐准确性和目录覆盖率。
2020-06-22 cs.IR cs.LG stat.ML
