Time-Efficient Hybrid Hyperparameter Tuning Approach for Cardiovascular Disease Classification
Department of Computer Science, Institute of Science, Banaras Hindu University(计算机科学系,科学学院,班纳拉森胡大学);School of Computer Science, University of Petroleum and Energy Studies(计算机科学学院,石油与能源研究大学)
本文提出一种结合随机搜索和网格搜索的混合超参数调优方法,提升心血管疾病分类模型的准确性和效率,实验表明该方法在性能和计算时间上均优于传统方法。
2026-05-16 cs.AI cs.LG cs.PF
JITuNE: Just-In-Time Hyperparameter Tuning for Network Embedding Algorithms
ICT, CAS(中国科学院计算技术研究所);Tsinghua University(清华大学)
网络嵌入(NE)可以为大规模网络生成简洁的节点表示,并能够将常见的机器学习方法直接应用于网络结构。已经提出了各种NE算法,并将其用于许多应用中,例如节点分类和链接预测。NE算法通常包含对性能至关重要的超参数,但是超参数调整过程可能是耗时的。希望在指定的时间长度内调整超参数。虽然AutoML方法已经被应用于NE算法的超参数调整,但如何在给定的时间内调整NE算法的超参数的问题还没有研究过。在本文中,我们提出了JITuNE,一个即时超参数调整框架NE算法。我们的JITuNE框架,使NE算法的时间约束超参数调整,采用层次网络概要的调整和传输的知识获得概要到整个网络。概要的分层生成和时间约束的调优方法使得能够约束总体调优时间。大量的实验表明,JITuNE可以显着提高NE算法的性能,优于国家的最先进的方法在相同数量的算法运行。
2021-01-19 cs.LG
An Efficient Hierarchical Kriging Modeling Method for High-dimension Multi-fidelity Problems
University of South China(南华大学)
多保真度克里格模型是一种很有前途的替代设计技术,因为它可以通过融合低保真和高保真数据来平衡模型精度和样品制备成本。然而,随着问题维数的增加,建立多保真度Kriging模型的成本显着增加。针对这一问题,提出了一种高效的分层克里金建模方法。在建立低保真模型时,利用最大信息系数计算超参数的相对值。由此,将确定超参数的极大似然估计问题转化为一维优化问题,可以高效求解,从而显著提高建模效率。局部搜索进一步利用超参数的搜索空间来提高模型精度。高保真度模型以类似的方式建立,其中低保真度模型的超参数作为高保真度模型的超参数的相对值。所提出的方法的性能与传统的调整策略进行了比较,通过测试他们超过10个分析问题和工程问题的建模的压缩机转子的等熵效率。实验结果表明,该方法的建模时间显着减少,而不牺牲模型的精度。对于压气机转子等熵效率的建模,与传统的策略相比,所提出的方法的成本节省约90%。同时,该方法具有较高的精度。
2022-12-31 cs.LG
Fuzzy hyperparameters update in a second order optimization
LogicWizard EURL(逻辑巫师有限责任公司);School of Computing(计算机学院);University of Leeds(利兹大学)
本研究提出一种混合方法,通过在线有限差分近似对角 Hessian 矩阵并结合模糊推理更新超参数,有效加速了二阶优化的收敛并取得竞争力结果。
2024-03-08 cs.AI cs.LG math.OC
Likelihood-Free Inference and Hierarchical Data Assimilation for Geological Carbon Storage
Stanford University(斯坦福大学)
针对地质碳封存中地质超参数高度不确定且似然难处理的问题,提出结合SMC-ABC、ESMDA与3D循环R-U-Net代理模型的层级数据同化框架,后验结果与拒绝采样一致且加速1至2个数量级。
2025-02-15 cs.LG math.DS physics.geo-ph
Hierarchical Proxy Modeling for Improved HPO in Time Series Forecasting
IBM Research(IBM研究院);Indian Institute of Technology(印度理工学院)
本文提出 H-Pro,利用分层时间序列中高层预测作为测试期代理来优化底层预测器超参数,在多个公开数据集及 M5 竞赛获胜方法上展现优势。
2023-11-02 cs.AI cs.LG
Bayesian Hierarchical Models and the Maximum Entropy Principle
Department of Statistics, The University of Auckland(奥克兰大学统计系)
本文探讨了贝叶斯分层模型中参数先验的依赖关系,证明当超参数给出的先验为最大熵分布时,边缘先验也具有最大熵性质,且约束条件不同。
2026-04-30 cs.LG physics.data-an stat.ME
BITS for GAPS: Bayesian Information-Theoretic Sampling for hierarchical GAussian Process Surrogates
Department of Chemical and Biomolecular Engineering, University of Notre Dame, Notre Dame, IN 46556, USA(化学与生物分子工程系,诺特大学)
提出BITS for GAPS框架,通过贝叶斯层次建模将超参数不确定性传播到采样准则中,实现基于高斯过程代理模型的信息论实验设计,并在汽液平衡案例中验证其提升预测精度和信息增益的效果。
2026-03-23 cs.LG stat.ML
A hierarchical approach for assessing the vulnerability of tree-based classification models to membership inference attack
Department of Computer Science and Creative Technologies(计算机科学与创意技术系);University of the West of England(西英格兰大学)
本文提出分层方法评估基于树的分类模型对成员推断攻击的脆弱性,通过前瞻性分析和后置检查减少昂贵评估需求。
2025-06-12 cs.CR cs.LG
A Hierarchical Hybrid AI Approach: Integrating Deep Reinforcement Learning and Scripted Agents in Combat Simulations
Marine Corps Warfighting Lab(海军陆战队作战实验室);Naval Postgraduate School(海军研究生院)
本文提出一种分层混合AI方法,结合脚本代理和深度强化学习,以提升战斗模拟中智能代理的适应性和可靠性。
2025-11-28 cs.AI cs.LG cs.MA
Avoiding The Double Descent Phenomenon of Random Feature Models Using Hybrid Regularization
Emory University(埃默里大学)
我们证明了混合正则化方法自动避免随机特征模型(RFM)训练中出现的双下降现象的能力。双下降现象的标志性特征是在插值阈值处正则化间隙中的尖峰,即当RFM中的特征的数量等于训练样本的数量时。为了弥补这一差距,本文考虑的混合方法结合了两种最常见的正则化形式:早期停止和权重衰减。该方案不需要超参数调整,因为它自动选择停止迭代和权重衰减超参数,通过使用广义交叉验证(GCV)。这也避免了专用验证集的必要性。虽然混合方法的好处已经很好地证明了不适定逆问题,但我们的工作提出了机器学习的第一个用例。为了揭示正则化的必要性和激励混合方法,我们进行了详细的数值实验启发图像分类。在这些例子中,混合方案成功地避免了双下降现象,并产生RFM,其推广与经典的正则化方法,其超参数最佳地使用测试数据调整。我们提供了我们的MATLAB代码实现本文中的数值实验在https://github.com/EmoryMLIP/HybridRFM。
2020-12-11 cs.LG stat.ML
HOBA: Hierarchical On-Policy Bidding Agents for Adaptive Online Advertising
Kuaishou Technology(快手科技)
针对在线广告投标系统问题,提出 HOBA 分层强化学习框架,在三个时间尺度解耦相关环节,通过实验验证其优于现有基线,大规模在线部署实现目标成本提升 3.6%,证明该范式有效。
2026-07-29 cs.AI cs.LG
Reinforcement Learning with Structured Hierarchical Grammar Representations of Actions
Imperial College London(帝国理工学院);Einstein Center for Neurosciences Berlin(柏林爱因斯坦神经科学中心);Technical University Berlin(柏林工业大学);MRC London Institute of Medical Sciences(英国医学研究委员会伦敦医学科学研究所)
从很小的时候起,人类就学会了使用语法原则来分层地将单词组合成句子。动作语法是一个平行的概念,即有一组潜在的规则(一种“语法”)来控制我们如何分层地组合动作以形成新的、更复杂的动作。我们引入了动作语法强化学习(AG-RL)框架,该框架利用动作语法的概念来不断提高强化学习代理的样本效率。AG-RL通过使用语法推理算法来推断训练中途代理的“动作语法”。代理的动作空间,然后增加了由语法识别的宏动作。我们将此框架应用于双深度Q学习(AG-DDQN)和Soft Actor-Critic(AG-SAC)的离散动作版本,并发现它分别在8个测试的Atari游戏中的8个(中位数+31%,最大+668%)和20个测试的Atari游戏中的19个(中位数+96%,最大+3,756%)中提高了性能,而无需实质性的超参数调整。我们还表明,AG-SAC在20个测试的Atari游戏中的17个中的样本效率方面击败了无模型的最先进水平(中位数+62%,最大值+13,140%),同样没有实质性的超参数调整。
2019-10-23 cs.AI cs.LG stat.ML
Tuning Mixed Input Hyperparameters on the Fly for Efficient Population Based AutoRL
University of Oxford(牛津大学);Amazon(亚马逊)
尽管最近在强化学习(RL)方面取得了一系列成功,但许多RL算法仍然对超参数敏感。因此,最近人们对AutoRL领域产生了兴趣,该领域寻求自动化设计决策以创建更通用的算法。最近的工作表明,基于群体的方法可能是有效的AutoRL算法,通过动态学习超参数时间表。特别是,PB 2算法能够通过将在线超参数优化公式化为时变GP-强盗问题,在RL任务中实现强大的性能,同时也提供了理论保证。然而,PB 2仅适用于连续超参数,这严重限制了它在实践中的实用性。在本文中,我们介绍了一种新的(可证明)有效的分层方法,用于优化连续和分类变量,使用一种新的时变强盗算法专门设计的人口为基础的训练制度。我们评估我们的方法上具有挑战性的Procgen基准,在那里我们表明,明确建模之间的依赖性数据增强和其他超参数提高泛化。
2021-06-30 cs.LG
DELMAR: Deep Linear Matrix Approximately Reconstruction to Extract Hierarchical Functional Connectivity in the Human Brain
University of California San Francisco(加州大学旧金山分校);James Madison University(詹姆斯·麦迪逊大学)
矩阵分解技术已经成为分析人脑功能连接层次结构的重要计算方法。然而,这些方法仍然存在四个缺点:1)。大训练样本; 2).手动调整超参数; 3).耗时且需要大量计算源; 4)。它不能保证收敛到唯一的不动点。因此,我们提出了一种新的深度矩阵分解技术,称为深度线性矩阵近似重建(DELMAR),以弥合上述差距。该方法的优点是:首先,DELMAR算法能够自动估计重要超参数;其次,DELMAR算法采用矩阵反向传播算法来减小潜在的累积误差;最后,引入正交投影算法来更新DELMAR算法中的所有变量,而不是直接计算逆矩阵。通过对三种对等方法和DELMAR算法在真实人脑功能MRI信号上的验证实验表明,该方法能够更快、更准确地识别出fMRI信号中的空间特征。此外,理论分析表明,DELMAR可以收敛到唯一的不动点,甚至可以精确逼近原始输入作为DNN。
2022-05-20 cs.AI cs.LG
Self-Tuning Sparse Attention: Multi-Fidelity Hyperparameter Optimization for Transformer Acceleration
Department of Computer Science University of Cincinnati(计算机科学系 哥伦比亚大学)
本文提出AFBS-BO框架,通过结合贝叶斯优化和二分搜索,自动优化Transformer各层和头的超参数,显著提升稀疏注意力机制的效率和性能。
2026-03-19 cs.AI cs.LG
Variational Quantum Conditional Boltzmann Machines for Time-Series Forecasting: Architectures, Symmetric Hyperparameter Evaluation, and a Nonlinear Benchmark
Centre of Finance DHBW Stuttgart(德国双应用科技大学斯图加特分校金融中心);Zentrum für Digitale Innovationen DHBW Ravensburg(德国双应用科技大学拉芬斯堡分校数字创新中心);DATEV eG(DATEV 合作社)
研究开发并评估四种用于时间序列预测的架构,通过对称超参数优化在两个数据集测试,发现当前样本量下无量子优势证据,经典CRBM表现良好,混合QCRBM与最强经典CRBM无显著差异,还通过分析得出相关结论。
2026-07-28 cs.LG q-fin.ST quant-ph
Exploiting Reuse in Pipeline-Aware Hyperparameter Tuning
Carnegie Mellon University(卡内基梅隆大学);Determined AI(Determined人工智能公司);University of Washington(华盛顿大学)
多级流水线的超参数调整引入了显著的计算负担。如果中间计算是相同的,工作可以在管道上重用,我们提出了一种管道感知的超参数调整方法。我们的方法优化了管道的设计和执行,以最大限度地提高重复利用率。我们设计的管道适合重用(i)引入一种新的混合超参数调整方法,称为网格随机搜索,(ii)减少平均训练时间在管道适应早期停止超参数调整方法。然后,我们通过为ML工作负载引入一个新的缓存问题(我们将其视为混合整数线性规划(ILP)),并随后评估相对于ILP的最佳解决方案的各种缓存策略,实现了在执行过程中重用的潜力。我们在模拟和真实世界的机器学习管道上进行实验,以表明管道感知的超参数调整方法可以在独立评估管道配置的数量级上提供加速。
2019-03-12 cs.LG stat.ML
Hierarchical Attentional Hybrid Neural Networks for Document Classification
Universidade Federal de Pernambuco(伯南布哥联邦大学)
文档分类是一项具有挑战性的任务,具有重要的应用。解决这个问题的深度学习方法最近受到了广泛关注。尽管取得了进展,所提出的模型没有有效地将文档结构的知识纳入体系结构中,也没有考虑到单词和句子的上下文重要性。在本文中,我们提出了一种新的方法,结合卷积神经网络,门控递归单元,和注意力机制的文件分类任务。本文的主要贡献是通过卷积层的分层表示来提取更有意义的、可推广的和抽象的特征。本文提出的方法改进了目前基于注意力的文档分类方法的结果。
2019-06-28 cs.AI cs.CL cs.LG
Reconciling meta-learning and continual learning with online mixtures of tasks
Duke University(杜克大学);UC Berkeley(加州大学伯克利分校);Princeton University(普林斯顿大学)
学习-学习或元学习利用数据驱动的归纳偏差来提高对新任务的学习效率。当转移不具有优势时,例如当任务相当不同或随着时间的推移而变化时,这种方法就会遇到困难。我们使用基于梯度的元学习和分层贝叶斯之间的连接,提出了一个Dirichlet过程混合的分层贝叶斯模型的参数的任意参数模型,如神经网络。与将归纳偏差合并到一组超参数中相比,我们的任务相关超参数选择方法更好地处理了潜在的分布偏移,这在一组不断发展的、基于图像的、少样本学习基准测试中得到了证明。
2019-06-19 cs.LG stat.ML
Accelerating Hierarchical Sparse Predictive Coding with Hybrid Amortized Inference
Department of Clinical Engineering, Komatsu University(小松大学临床工程系)
针对层次稀疏预测编码中迭代推理成本高的问题,提出混合摊销推理方法,结合LISTA式编码器快速初始化与少量能量校正步骤,在保持稀疏性和重建质量的同时显著降低延迟。
2026-07-28 cs.LG
Hybridising Reinforcement Learning and Heuristics for Hierarchical Directed Arc Routing Problems
University of Alabama at Birmingham(阿拉巴马大学伯明翰分校);State University of New York at Buffalo(纽约州立大学布法罗分校);Lancaster University(兰卡斯特大学)
本文针对分层有向容量约束弧路由问题(HDCARP)提出混合强化学习与启发式算法HRDA,利用强化学习动态引导局部搜索算子选择,在保持解质量的同时显著提升求解速度。
2025-01-01 cs.LG
From Semantics to Hierarchy: A Hybrid Euclidean-Tangent-Hyperbolic Space Model for Temporal Knowledge Graph Reasoning
Hainan University(海南大学);Guangdong Ocean University(广东海洋大学)
本文提出一种欧氏-切空间-双曲空间混合几何模型,通过多空间参数建模分别捕捉语义和层级信息,并在四个TKG基准上取得最高15.0%的相对误差降低。
2024-08-30 cs.AI cs.LG
Hybrid Losses for Hierarchical Embedding Learning
Queen Mary University of London(伦敦玛丽女王大学);Sony Computer Science Laboratories(索尼计算机科学实验室);New York University(纽约大学)
该研究利用树状标签层次结构,提出结合广义三元组与交叉熵的混合损失,在多任务框架中提升嵌入空间结构,并在OrchideaSOL数据集上验证了其在分类、检索和泛化上的优势。
2025-01-22 cs.IR cs.LG cs.SD
Federated learning with hierarchical clustering of local updates to improve training on non-IID data
Keele University(基尔大学)
联邦学习(FL)是一种在大规模分布式数据上执行机器学习任务的成熟方法。然而,在数据以非iid(非独立和相同分布)方式分布的设置中-这在现实世界中是典型的-与iid数据上的训练相比,FL产生的联合模型在测试集准确性和/或通信成本方面受到影响。我们发现,在某些类型的非iid数据存在的情况下,学习单个联合模型往往不是最佳的。在这项工作中,我们提出了一个修改FL通过引入一个层次聚类步骤(FL+HC)来分离集群的客户端的相似性,他们的本地更新的全球联合模型。一旦分离,集群将在专门的模型上独立和并行地进行训练。我们提出了一个强大的经验分析的超参数FL+HC几个iid和非iid设置。我们展示了FL+HC如何允许模型训练在更少的通信回合中收敛(在某些非iid设置下显着),而FL没有聚类。此外,FL+HC允许更大比例的客户端达到目标精度相比,标准FL。最后,我们提出了良好的默认超参数,以促进卓越的性能专业化模型,而无需修改底层的联邦学习通信协议的建议。
2020-05-06 cs.LG stat.ML
Hierarchical Synthetic Tabular Data Generation: A Hybrid Top-Down and Bottom-Up Framework
University of Southern California(南加州大学)
提出一种层次化混合自上而下和自下而上(H-TDBU)框架,通过解耦语义结构与随机纹理,结合结构驱动的逻辑约束和轻量级表格生成器,在弱多模态金融基准上提升合成数据的语义一致性和统计保真度。
2026-07-15 cs.LG
Weighted Sampling for Combined Model Selection and Hyperparameter Tuning
IBM Research(IBM研究院)
算法选择与超参数整定(CASH)组合问题的特点是超参数空间具有较大的层次性.无模型超参数调整方法可以有效地探索如此大的空间,因为它们在多台机器上是高度并行的。当没有先验知识或元数据存在以提高其性能时,这些方法通常对遵循均匀分布的随机配置进行采样。在这项工作中,我们提出了一种新的采样分布作为均匀采样的替代方案,并从理论上证明,它有更好的机会找到最好的配置在最坏的情况下设置。为了在实验环境中严格比较竞争方法,必须进行统计假设检验。我们发现,在自动化机器学习文献中,关于应该使用哪些方法,几乎没有达成一致。我们将这种差异与更广泛的统计文献推荐的方法进行对比,并确定了一种合适的方法。然后,我们选择了三个流行的无模型解决方案,以CASH和评估其性能,均匀采样以及建议的采样方案,在67个数据集从OpenML平台。我们调查的权衡之间的探索和开发的三种算法,并验证经验,建议的采样分布在所有情况下提高性能。
2019-11-21 cs.LG stat.ML
Hyperparameter Estimation for Sparse Bayesian Learning Models
University of Minnesota(明尼苏达大学);Syracuse University(雪城大学);Old Dominion University(欧道明大学)
针对SBL模型超参数估计的非凸与高维难题,提出基于AML范式的综合框架及含近端正则化的AMQ新范式,新算法在低信噪比下效率显著提升。
2024-01-04 cs.LG stat.CO
Hierarchical Hybrid Sliced Wasserstein: A Scalable Metric for Heterogeneous Joint Distributions
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对现有切片Wasserstein类度量仅适用于同构域分布、无法有效比较异构联合分布的问题,提出两种新切片算子并构建H2SW距离,验证了其在多类3D相关任务中的优异性能。
2024-10-08 cs.AI cs.CV cs.GR
HierTrain: Fast Hierarchical Edge AI Learning with Hybrid Parallelism in Mobile-Edge-Cloud Computing
Sun Yat-sen University(中山大学)
如今,深度神经网络(DNN)是许多新兴边缘AI应用的核心推动力。训练DNN的传统方法通常在中央服务器或云中心实现,用于集中式学习,由于大量数据样本从设备传输到远程云,这通常是耗时且需要资源的。为了克服这些缺点,我们考虑在移动边缘云计算(MECC)范式上加速DNN的学习过程。在本文中,我们提出了HierTrain,一个分层的边缘AI学习框架,它有效地将DNN训练任务部署在分层的MECC架构上。我们开发了一种新的\textit{hybrid parallelism}方法,这是HierTrain的关键,可以在边缘设备,边缘服务器和云中心三个级别上自适应地分配DNN模型层和数据样本。然后,我们制定了在层粒度和样本粒度上调度DNN训练任务的问题。解决这个优化问题使我们能够实现最小的训练时间。我们进一步实现了一个由边缘设备、边缘服务器和云服务器组成的硬件原型,并在其上进行了大量的实验。实验结果表明,HierTrain与基于云的分层训练方法相比,可以实现高达6.9倍的加速比。
2020-03-22 cs.DC cs.LG cs.NI
Hierarchical Dimensionless Learning (Hi-π): A physics-data hybrid-driven approach for discovering dimensionless parameter combinations
Northwestern Polytechnical University(西北工业大学)
本文提出物理-数据混合驱动的Hi-π方法,融合量纲分析与符号回归自动发现关键无量纲参数组合,并在多个流体力学经典问题中验证其有效性。
2025-07-24 cs.LG physics.data-an physics.flu-dyn
On-Device Information Extraction from SMS using Hybrid Hierarchical Classification
Samsung R&D Institute Bangalore(三星班加罗尔研发中心)
短信收件箱混乱是用户今天在数字世界中面临的严重问题之一,每个在线登录,交易,以及促销活动都会产生多个短信。这个问题不仅阻止用户有效地搜索和导航消息,但往往导致用户错过了相关的信息与相应的短信,如提供代码,付款提醒等,在本文中,我们提出了一个独特的架构来组织和提取适当的信息,从短信,并进一步显示在一个直观的模板。在所提出的架构中,我们使用混合分层长短期记忆(LSTM)-卷积神经网络(CNN)将SMS分类为多个类别,然后使用一组实体解析器从分类消息中提取相关信息。使用其预处理技术的架构不仅考虑到了在SMS数据中观察到的巨大变化,而且还使其在推理时间和大小方面对其设备(移动电话)功能有效。
2020-02-03 cs.CL cs.IR cs.LG
Self-Organizing mmWave MIMO Cell-Free Networks With Hybrid Beamforming: A Hierarchical DRL-Based Design
University of Manitoba(曼尼托巴大学)
在无小区无线网络中,分布式接入点(AP)通过使用相同的时间/频率资源来联合服务其覆盖区域内的所有用户设备(UE)。在本文中,我们开发了一种新的下行链路无小区多输入多输出(MIMO)毫米波(mmWave)网络架构,使所有的AP和UE动态自分区成一组独立的无小区的子网络在时隙的基础上。为此,我们提出了几种基于深度强化学习(DRL)的网络划分算法。此外,为了减轻不同的无小区子网络之间的干扰,我们开发了一种新的混合模拟波束控制-数字波束形成模型,该模型零强制无小区子网络之间的干扰,同时最大化每个子网络内所有UE的瞬时和速率。具体地,混合波束成形模型通过使用新的混合DRL凸优化方法来实现,其中AP和UE之间的模拟波束转向基于DRL进行,而数字波束成形建模并作为凸优化问题求解。用于网络聚类和混合波束控制的DRL模型被组合成单个分层DRL设计,该设计使得能够在网络训练和操作期间交换DRL代理的经验。我们还基准的DRL模型的聚类和波束控制的网络性能,收敛速度和计算复杂性方面的性能。
2021-03-17 cs.IT cs.LG math.IT
EnsembleFollower: A Hybrid Car-Following Framework Based On Reinforcement Learning and Hierarchical Planning
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Beihang University(北京航空航天大学)
提出EnsembleFollower,一种基于强化学习和分层规划的混合跟车框架,通过高层智能体动态选择或加权低层模型,结合加加速度约束运动学模型,在HighD数据集上实现更准确、灵活的类人跟车行为。
2023-08-30 cs.AI cs.LG cs.RO
Tuning structure learning algorithms with out-of-sample and resampling strategies
Queen Mary University of London(伦敦玛丽女王大学);School of Electronic Engineering and Computer Science(电子工程与计算机科学学院)
提出结构学习的样本外调整方法(OTSL),利用样本外和重采样策略估计最优超参数配置,在合成和真实数据集上提升了图形准确性。
2023-06-24 cs.LG stat.ML
HHNAS-AM: Hierarchical Hybrid Neural Architecture Search using Adaptive Mutation Policies
SUTD(新加坡科技设计大学)
本文提出HHNAS-AM方法,通过分层混合架构模板和基于Q-learning的自适应变异策略组织并高效遍历NAS搜索空间,在Spider数据集db_id预测任务上较基线提升8%测试准确率。
2025-08-20 cs.LG
HSAP: A Hierarchical Sequence-aware Parallelism for Hybrid-Context Generative Models
Southern University of Science and Technology(南方科技大学);International Digital Economy Academy(国际数字经济学院)
提出一种分层序列感知并行框架,通过JIT编译优化通信策略,解决混合上下文打包序列中的因果注意力计算问题,在多个指标上优于现有方法。
2026-07-01 cs.DC cs.LG
Provable Accuracy Bounds for Hybrid Dynamical Optimization and Sampling
Department of Electrical and Computer Engineering(电气与计算机工程系);University of Rochester(罗切斯特大学)
本文通过将混合模拟/数字大邻域局部搜索归约为块朗之万扩散算法,首次为其建立了非渐近收敛保证,并给出了器件偏差、超参数与性能之间的闭式精度界。
2025-05-07 cs.DS cs.LG math.ST
HPM-KD: Hierarchical Progressive Multi-Teacher Framework for Knowledge Distillation and Efficient Model Compression
Banco do Brasil S.A(巴西银行)
HPM-KD通过整合六个协同组件,实现高效模型压缩和知识蒸馏,提升压缩效率与准确性。
2025-12-10 cs.LG stat.AP
Hybrid-Hierarchical Fashion Graph Attention Network for Compatibility-Oriented and Personalized Outfit Recommendation
Tarbiat Modares University (TMU)(塔比亚特莫达雷斯大学)
针对现有研究独立处理穿搭兼容性和个性化推荐的问题,提出FGAT框架,通过用户-穿搭-商品三层图及图注意力机制联合建模,在POG数据集上多指标优于基线,提升推荐效果。
2025-08-20 cs.IR cs.LG
Quantum Hierarchical Reinforcement Learning via Variational Quantum Circuits
Wells Fargo(富国银行)
本研究证明变分量子电路可增强基于选项-评论家架构的分层强化学习智能体,在标准环境中以更少参数超越经典基线,并揭示量子电路设计原则与架构瓶颈。
2026-09-22 cs.LG quant-ph
A Tumor Aware DenseNet Swin Hybrid Learning with Boosted and Hierarchical Feature Spaces for Large-Scale Brain MRI Classification
Riphah International University(里法赫国际大学);Multimedia University(多媒体大学);University of Engineering and Applied Sciences(工程与应用科学大学)
本文提出了一种结合增强和分层特征空间的DenseNet-Swin混合学习框架,用于大规模脑MRI肿瘤分类,通过定制DenseNet和Swin模块提升检测精度和召回率。
2026-01-26 cs.CV cs.LG
RObotic MAnipulation Network (ROMAN) -- Hybrid Hierarchical Learning for Solving Complex Sequential Tasks
School of Informatics, University of Edinburgh, UK(信息学院,爱丁堡大学);Department of Computer Science, University College London, UK(计算机科学系,伦敦大学学院)
提出混合分层学习框架ROMAN,通过整合行为克隆、模仿学习和强化学习,协调多个专门处理子任务的神经网络,有效解决机器人长跨度复杂序列操作任务,并实现鲁棒的故障恢复与自适应行为。
2025-10-31 cs.LG cs.RO
Ensembled sparse-input hierarchical networks for high-dimensional datasets
神经网络在预测小样本量的高维数据方面的应用有限,因为它们往往过拟合,并且需要调整比现有的现成机器学习方法更多的超参数。通过对网络结构和训练过程的小修改,我们证明了密集神经网络可以成为这些设置中的实用数据分析工具。所提出的方法,平均稀疏输入分层网络(EASIER-net)的包围,适当修剪的网络结构,调整只有两个L1惩罚参数,一个控制输入的稀疏性,另一个控制隐藏层和节点的数量。如果不相关的协变量与响应仅弱相关,则该方法从真实支持中选择变量;否则,它表现出分组效应,其中强相关的协变量以相似的比率被选择。在一组不同大小的真实数据集上,EASIER-net以数据自适应的方式选择了网络架构,并平均实现了比现有方法更高的预测精度。
2020-05-11 cs.LG stat.ME stat.ML
Email Spam Detection Using Hierarchical Attention Hybrid Deep Learning Method
Duzce University(杜兹大学)
针对垃圾邮件增多带来的邮件管理难题,本文融合卷积神经网络、门控循环单元与注意力机制,提出分层特征提取的混合深度学习检测方法,并通过跨数据集评估证明其优于现有注意力模型。
2022-07-28 cs.CL cs.LG cs.NE