SeVeDo: A Heterogeneous Transformer Accelerator for Low-Bit Inference via Hierarchical Group Quantization and SVD-Guided Mixed Precision
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
SeVeDo通过分层分组量化和SVD引导混合精度,提高低比特推理的能效,实现13.8TOPS/W的峰值能效,优于传统设计。
2026-01-22 cs.AR cs.LG
LLM-Guided Runtime Parameter Optimization for Energy-Efficient Model Inference
Virginia Polytechnic and State University(弗吉尼亚理工大学)
本文提出一种结合人类反馈和大语言模型的运行时参数优化方法,以提高模型推理的能效,通过迭代优化快速找到高效参数配置。
2026-04-29 cs.LG cs.SE
An LLM-Guided Query-Aware Inference System for GNN Models on Large Knowledge Graphs
Concordia University(康科德大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
本文提出KG-WISE框架,通过将GNN模型分解为细粒度组件,并利用大语言模型生成查询模板,实现查询感知的高效推理,提升推理速度和降低内存使用。
2026-04-20 cs.DB cs.LG
Gradient-Based Program Synthesis with Neurally Interpreted Languages
AMLab, University of Amsterdam(阿姆斯特丹大学AMLab);Ndea;Department of Computing Science, University of Alberta(阿尔伯塔大学计算机科学系);Alberta Machine Intelligence Institute (Amii), Edmonton, Canada(阿尔伯塔机器智能研究所(Amii),加拿大爱德蒙顿)
本文提出神经语言解释器(NLI),通过端到端学习离散符号语言,结合梯度优化实现复杂程序合成,优于上下文学习和连续潜在程序网络。
2026-04-20 cs.AI cs.LG
Fast and Robust Likelihood-Guided Diffusion Posterior Sampling with Amortized Variational Inference
Institute of Foundation Models, MBZUAI(基础模型研究所,MBZUAI);Huawei Lagrange Mathematics and Computing Research Center, Paris, France(华为拉格朗日数学与计算研究中心,法国巴黎);Mohamed Bin Zayed University of AI, Chair of the ML Department, EPITA, Laboratoire Recherche de l'EPITA(穆罕默德·本·扎耶德人工智能大学,机器学习系主任,EPITA,EPITA研究实验室)
本文提出一种快速且稳健的扩散后验采样方法,通过幅度化变分推断保留显式似然引导,提升逆问题的效率与鲁棒性。
2026-02-06 cs.AI cs.LG stat.ML
Ontology-Guided Neuro-Symbolic Inference: Grounding Language Models with Mathematical Domain Knowledge
Advanced Institute for Artificial Intelligence (AI2)(人工智能研究院)
本研究通过引入形式化数学本体,提升语言模型在数学推理任务中的可靠性,验证了神经符号方法在增强形式化 grounding 方面的潜力与挑战。
2026-09-02 cs.AI cs.LG cs.SC
Tree-Guided MCMC Inference for Normalized Random Measure Mixture Models
Pohang University of Science and Technology(浦项科技大学)
标准化随机测度(Normalized Random Measures,NRM)是一类离散随机测度,通常用作贝叶斯非参数模型的先验。Dirichlet过程是NRM的一个众所周知的例子。大多数NRM混合模型的后验推理方法依赖于MCMC方法,因为它们易于实现并且其收敛性已经得到了很好的研究。然而,MCMC经常遭受缓慢的收敛时,接受率低。基于树的推理是另一种确定性后验推理方法,其中贝叶斯层次聚类(BHC)或增量贝叶斯层次聚类(IBHC)已分别为DP或NRM混合(NRMM)模型开发。虽然IBHC是NRMM模型后验推理的一种很有前途的方法,因为它的效率和在线推理的适用性,但它的收敛性不能保证,因为它使用了在多次试验后简单地选择最佳解决方案的算法。本文结合MCMC和IBHC的优点,提出了一种NRMM模型的混合推理算法。IBHC构建的树概述了数据的分区,这指导了Metropolis-Hastings程序采用适当的建议。继承MCMC的性质,我们的树引导MCMC(tgMCMC)是保证收敛,并享受快速收敛由于有效的建议指导树。在合成数据集和真实数据集上的实验证明了我们方法的优点。
2015-11-18 cs.LG stat.ML
Guided Speculative Inference for Efficient Test-Time Alignment of LLMs
Harvard SEAS(哈佛大学SEAS学院);Kempner Institute(Kempner研究所);IBM Research(IBM研究院)
本文提出引导推测推断(GSI),通过结合软最佳n次测试时间缩放、奖励模型和小型辅助模型的推测样本,提高大语言模型的奖励引导解码效率,并在多个基准测试中实现更高的准确性和更低的延迟。
2026-04-27 cs.LG stat.ML
Semantically-Guided Inference for Conditional Diffusion Models: Enhancing Covariate Consistency in Time Series Forecasting
针对条件扩散模型在时间序列预测中协变量不一致的问题,提出即插即用的推理时方法SemGuide,通过评分网络和重要性重加权增强语义对齐,提升预测准确性与协变量一致性。
2025-08-03 cs.AI cs.LG
Confidence-Calibrated Inference Expansion for Evaluator-Guided Test-Time Reasoning
School of Computing(计算机学院);National University of Singapore(新加坡国立大学)
该研究提出感知计算的三动作控制器,通过校准置信度优化评估器引导的测试时推理,在宽度扩展和修正任务上降低计算量并提升效用,将此类推理视为不确定性下的资源分配问题。
2026-10-16 cs.AI cs.CL cs.LG
QLASS: Boosting Language Agent Inference via Q-Guided Stepwise Search
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
QLASS 通过逐步估计 Q 值自动生成中间标注,结合推理树和过程奖励建模为语言智能体提供逐步指导,并提出 Q 引导生成策略,在有限监督下显著提升复杂交互任务的推理性能。
2025-02-04 cs.AI cs.LG
Logic-Guided Multistage Inference for Explainable Multidefendant Judgment Prediction
Data Science Institute, Shandong University(山东大学数据科学研究院)
本文提出一种基于逻辑引导的多阶段推理框架,用于提升多被告案件中罪责区分的准确性与可解释性。
2026-01-19 cs.AI cs.LG
Optimizing LLM Inference: Fluid-Guided Online Scheduling with Memory Constraints
Institute for Data, Systems, and Society, Massachusetts Institute of Technology(数据、系统与社会研究所,麻省理工学院);School of Mathematical Sciences, Peking University(北京大学数学科学学院);Alibaba Group(阿里巴巴集团)
本文提出流引导在线调度方法,通过等待阈值算法和嵌套等待算法,在内存约束下优化大语言模型推理的延迟和容量,减少过载时的延迟。
2026-06-16 cs.AI cs.DC cs.LG
NeuGuard: Lightweight Neuron-Guided Defense against Membership Inference Attacks
Lehigh University(理海大学);Illinois Institute of Technology(伊利诺伊理工学院)
针对机器学习模型的成员推断攻击(MIA)会导致模型训练中使用的训练数据集面临严重的隐私风险。针对成员推断攻击(MIA),提出了一种新颖有效的神经元引导防御方法NeuGuard。我们确定了一个关键的弱点,在现有的防御机制对MIA,其中他们不能同时防御两个常用的神经网络为基础的MIA,这两种攻击应单独评估,以确保防御效果。我们提出了NeuGuard,一种新的防御方法,联合控制输出和内部神经元的激活与目标,以引导训练集和测试集的模型输出具有接近的分布。NeuGuard算法由类方差最小化控制和层均衡输出控制两部分组成,类方差最小化控制的目标是约束最终输出神经元,层均衡输出控制的目标是约束每层的内层神经元。我们评估NeuGuard和比较它与国家的最先进的防御两个神经网络为基础的MIA,五个最强的度量为基础的MIA,包括新提出的标签只MIA三个基准数据集。结果表明,NeuGuard优于国家的最先进的防御提供了更好的实用性,隐私权衡,通用性和开销。
2022-12-12 cs.AI cs.CR cs.LG
Arithmetic-Intensity-Guided Fault Tolerance for Neural Network Inference on GPUs
Carnegie Mellon University(卡内基梅隆大学)
神经网络(NN)越来越多地用于安全关键域和倾向于不可靠的环境(例如,软错误),例如在航天器上。因此,赋予神经网络推理容错能力是至关重要的。基于神经网络的容错(ABFT)是一种新兴的容错方法。我们提出了一种自适应的方法,利用新兴的部署方案中未开发的机会,神经网络推理ABFT。GPU具有很高的计算-内存带宽比,而NN层具有广泛的算术强度。这使得一些层的计算限制和其他内存带宽限制,但目前的方法ABFT不考虑这些差异。我们首先调查ABFT计划最适合这些情况下。然后,我们提出了强度指导的ABFT,一个自适应的,算术强度指导的方法,选择最有效的ABFT方案为每个NN层。与传统的ABFT方法相比,强度引导的ABFT在许多NN上减少了1.09- 5.3 $\times$的执行时间开销。
2021-12-07 cs.DC cs.LG
Inference-Time Alignment in Diffusion Models with Reward-Guided Generation: Tutorial and Review
Genentech(基因泰克);Princeton University(普林斯顿大学);MIT(麻省理工学院);Texas A&M University(德克萨斯农工大学);UC Berkeley(加州大学伯克利分校)
本教程系统综述了扩散模型推理时对齐方法,统一了SMC引导、价值采样等算法框架,并提出了新算法,探讨了与微调、搜索算法及语言模型的联系,附有蛋白质设计代码。
2025-01-20 cs.AI cs.LG q-bio.QM
Language-guided Skill Learning with Temporal Variational Inference
Brown University(布朗大学);MIT(麻省理工学院);University of North Carolina, Chapel Hill(北卡罗来纳大学教堂山分校);MILA(米拉研究所);Microsoft Research(微软研究院)
我们提出一种利用LLM初始分割和层次变分推断的技能发现算法,通过最小描述长度目标平衡压缩与重用性,在BabyAI和ALFRED环境中加速学习并超越基线方法。
2024-05-27 cs.AI cs.CL cs.LG
GLIDE: Guided Layerwise Hybrid Attention for Efficient LLM Inference
研究针对大语言模型推理时KV缓存瓶颈问题,提出GLIDE引导式分层混合注意力机制,通过分层自适应平衡线性循环与softmax窗口,非均匀压缩softmax占用空间,实现性能-效率权衡,降低长上下文生成延迟。
2026-07-29 cs.AI cs.CL cs.LG
GLIDE: Graph-guided Leap Inference for Diffusion Estimation of Spatio-Temporal Point Processes
University of Electronic Science and Technology of China(电子科技大学)
提出GLIDE框架,利用多尺度历史图编码和双流架构作为条件,结合先验引导的跳跃推理机制,实现高效且准确的时空点过程下一个事件建模与预测。
2026-05-31 cs.LG
PITA: Preference-Guided Inference-Time Alignment for LLM Post-Training
Texas A&M University(德克萨斯A&M大学);Inria(法国国家信息与自动化研究所)
针对现有大语言模型推理时对齐方法依赖预训练奖励模型的缺陷,提出PITA框架,通过学习小型偏好引导策略在推理阶段调整token生成概率,无需奖励模型与LLM微调,在多类任务上验证了对齐有效性。
2025-11-13 cs.AI cs.CL cs.LG
Adaptive Soft Rolling KV Freeze with Entropy-Guided Recovery: Sublinear Memory Growth for Efficient LLM Inference
Institute of Information Technology(信息技术研究所);Kyrgyz State Technical University named after I. Razzakov(伊·拉扎科夫命名的吉尔吉斯斯坦技术大学)
ASR-KF-EGR通过自适应软冻结与熵引导恢复,实现高效大语言模型推理的亚线性内存增长,减少KV缓存占用同时保持生成质量。
2025-12-12 cs.AI cs.CL cs.LG
Observation-Guided Diffusion Probabilistic Models
LG AI Research(LG AI研究院);Seoul National University(首尔大学)
本文提出观测引导的扩散概率模型(OGDM),通过引入基于噪声水平条件判别器的观测引导损失项,在保持快速采样的同时提升生成质量,且不增加推理计算成本。
2024-04-01 cs.AI cs.LG
Gradient-Guided Reward Optimization for Inference-time Alignment
Purdue University(普渡大学)
提出梯度引导奖励优化(GGRO)方法,通过解码时注入梯度信号生成的引导令牌,在推理时微调生成轨迹,提升安全性、有用性和推理性能,并增强对奖励攻击的鲁棒性。
2026-06-08 cs.CL cs.LG
Quantum Diffusion Models for Few-Shot Learning
Mitsubishi Electric Research Laboratories (MERL)(三菱电机研究实验室(MERL))
针对少样本学习,提出基于量子扩散模型的三种标签引导推理框架,实验显示性能显著优于现有方法。
2024-11-06 cs.AI cs.LG
Improving Gradient-guided Nested Sampling for Posterior Inference
Mila – Québec Artificial Intelligence Institute(米拉-魁北克人工智能研究所);Université de Montréal(蒙特利尔大学);Ciela Institute(谢拉研究所);CCA – Flatiron Institute(计算天体物理学中心-弗拉蒂伦研究所);Cavendish Laboratory(卡文迪什实验室);Kavli Institute for Cosmology(卡夫利宇宙学研究所);Gonville and Caius College, University of Cambridge(剑桥大学冈维尔与凯斯学院);Canadian Institute for Advanced Research (CIFAR)(加拿大高等研究院)
本文提出融合可微编程、Hamiltonian切片采样、聚类与动态嵌套采样等技术的通用算法GGNS,并结合生成式流网络提升后验采样、模态发现和配分函数估计性能。
2023-12-06 cs.LG stat.CO stat.ME
Towards Interpretable and Inference-Optimal COT Reasoning with Sparse Autoencoder-Guided Generation
University of California, San Diego(加州大学圣地亚哥分校)
本研究提出用稀疏自编码器和聚类技术分析大语言模型内部token表示,构建推理轨迹图并定义奖励函数平衡利用与探索,以引导数学推理任务生成,提升大模型推理的可解释性与效果。
2025-10-02 cs.AI cs.LG
ConsistentEE: A Consistent and Hardness-Guided Early Exiting Method for Accelerating Language Models Inference
South China University of Technology(华南理工大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Pazhou Laboratory(琶洲实验室)
针对早退方法训练与推理目标不一致的问题,本文提出 ConsistentEE,通过强化学习、策略网络和硬度引导的奖励函数,让简单样本更重加速、困难样本更重准确率,并在多项 NLU 与生成任务上超过基线。
2024-04-07 cs.AI cs.CL cs.LG
Experience-Guided Adaptation of Inference-Time Reasoning Strategies
University of Pennsylvania(宾夕法尼亚大学);AWS AI(亚马逊AI)
针对现有智能体系统推理策略自适应能力不足的问题,本文提出EGuR框架,通过元策略基于经验动态生成全组件可调整的推理策略,在多个基准上实现准确率最高提升14%、成本最高降低111倍。
2025-11-14 cs.AI cs.LG
Knowledge-Guided Time-Varying Causal Inference for Arctic Sea Ice Dynamics
University of Maryland, Baltimore County(马里兰大学巴尔的摩分校)
本文提出KGCM-VAE模型,通过物理关系生成时变连续处理,结合MMD平衡潜在空间分布,提升SSH对海冰厚度的影响估计,实验证明其在预测海冰厚度响应和物理参数敏感性分析中的优越性。
2026-07-24 cs.AI cs.LG
EPIC: Efficient Predicate-Guided Inference-Time Control for Compositional Text-to-Image Generation
Graduate School of Artificial Intelligence, POSTECH(人工智能研究生院,POSTECH);Department of Computer Science & Engineering, POSTECH(计算机科学与工程系,POSTECH)
EPIC通过谓词引导的搜索方法提升组合式文本到图像生成的准确性,减少计算成本,提升生成质量。
2026-11-05 cs.CV cs.LG
STAR: Stage-Wise Attention-Guided Token Reduction for Efficient Large Vision-Language Models Inference
De Artificial Intelligence Lab(人工智能实验室)
针对大视觉语言模型视觉token推理计算开销大、现有单阶段免训练剪枝高剪枝率下性能下降明显的问题,提出分两阶段注意力引导的即插即用免训练token缩减框架STAR,实现加速同时保持甚至提升性能。
2025-05-18 cs.CV cs.LG
MAVIS: Multi-Objective Alignment via Inference-Time Value-Guided Selection
Department of Electrical and Computer Engineering, Texas A\&M University, College Station, Texas, USA(电气与计算机工程系,德克萨斯A&M大学,学院站,德克萨斯州,美国)
MAVIS通过推理时值引导选择实现多目标对齐,通过训练小价值模型动态调整LLM输出,提升多目标平衡性能。
2026-02-14 cs.LG
AERO: Entropy-Guided Framework for Private LLM Inference
提出熵引导框架AERO,通过逐头熵正则化器自适应重校准,策略性消除transformer中的非线性操作,解决加密推理中的延迟与通信开销及非线性移除引发的失败模式,实现3.4倍通信和1.4倍延迟节省且无性能损失。
2025-10-30 cs.CR cs.LG
KLASS: KL-Guided Fast Inference in Masked Diffusion Models
KAIST AI(韩国科学技术院人工智能学院)
KLASS通过利用令牌级KL散度实现快速稳定生成,显著提升扩散模型推理速度并保持高质量输出。
2026-03-05 cs.LG
Shapley-Guided Utility Learning for Effective Graph Inference Data Valuation
Rensselaer Polytechnic Institute(伦斯勒理工学院);AT&T Chief Data Office(AT&T首席数据办公室)
针对无测试标签下难以评估图推理中测试节点邻居数据价值的问题,提出结合Shapley值预处理与多特征的SGUL框架,实现高效可解释的图数据估值,性能优于现有基线。
2025-03-23 cs.GT cs.LG
Physics-guided Deep Markov Models for Learning Nonlinear Dynamical Systems with Uncertainty
National University of Singapore(新加坡国立大学);ETH Zürich(苏黎世联邦理工学院);Singapore-ETH Centre(新加坡-ETH中心)
在本文中,我们提出了一个概率物理指导的框架,称为物理指导的深度马尔可夫模型(PgDMM)。该框架的目标是从测量数据中推断非线性动态系统的特征和潜在结构,其中对潜在变量的精确推断通常是难以处理的。最近出现的一个选项涉及利用变分推理来执行近似推理。在这样的方案中,系统的转换和发射函数经由前馈神经网络(深度生成模型)被参数化。然而,由于神经网络函数的通用和高度通用的公式化,学习的潜在空间往往缺乏物理解释和结构化表示。为了解决这个问题,我们将基于物理的状态空间模型与深度马尔可夫模型连接起来,从而为非线性动力系统的无监督学习和识别提供了混合建模框架。所提出的框架利用了深度学习的表达能力,同时通过在潜在空间一侧施加物理驱动的限制来保留动力系统的驱动物理。我们证明了这样的融合的好处,在说明性的仿真例子和非线性系统的实验案例研究方面实现了更好的性能。我们的研究结果表明,所采用的转换和发射函数中涉及的基于物理的模型本质上是一个更结构化和物理上可解释的潜在空间,这对于增强和推广基于深度学习的模型的预测能力至关重要。
2022-05-25 cs.CE cs.LG nlin.CD
Mixed precision accumulation for neural network inference guided by componentwise forward error analysis
CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);ENS de Lyon(里昂高等师范学院)
本文提出基于组件级前向误差分析的混合精度累积策略,通过动态调整精度提升神经网络推理的成本-精度权衡。
2025-12-02 cs.AI cs.LG cs.NA
Road Network Guided Fine-Grained Urban Traffic Flow Inference
Sun Yat-Sen University(中山大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出道路感知交通流放大模型RATFM,利用路网先验知识结合多方向一维卷积与Transformer,从粗粒度交通流推断高质量细粒度交通流图,并在三个真实数据集上验证其优于现有方法。
2023-10-26 cs.AI cs.CV cs.LG
Inductive Spatio-Temporal Kriging with Physics-Guided Increment Training Strategy for Air Quality Inference
针对空气质量推断中虚拟节点与真实节点不一致的问题,本文提出PGITS,利用颗粒物平流扩散物理动态生成图结构并衔接两类节点,以提升归纳式时空克里金效果。
2025-03-12 cs.LG
Selective Guidance: Are All the Denoising Steps of Guided Diffusion Important?
Microsoft(微软)
本研究提出一种选择性优化Stable Diffusion引导推理管线的方法,通过在后期去噪步骤中仅计算条件噪声并消除无条件噪声计算,在几乎不影响视觉质量的前提下显著降低推理时间。
2023-05-16 cs.CV cs.LG
GTC: Guided Training of CTC Towards Efficient and Accurate Scene Text Recognition
Nanyang Technological University(南洋理工大学);SenseTime Group Ltd.(商汤集团有限公司)
连接主义时态分类和注意力机制是当前场景文本识别研究中的两种主要方法。与基于注意力的方法相比,CTC解码器具有更短的推理时间,但准确率较低。为了设计一个高效和有效的模型,我们提出了CTC的指导训练(GTC),其中CTC模型从更强大的注意力指导中学习更好的对齐和特征表示。CTC模型通过引导式训练,在保持快速推理速度的同时,实现了对规则和不规则场景文本的鲁棒和准确预测。此外,为了进一步利用CTC解码器的潜力,提出了一种图卷积网络(GCN)来学习提取的特征的局部相关性。在标准基准上的大量实验表明,我们的端到端模型实现了规则和不规则场景文本识别的新的最先进水平,并且比基于注意力的方法需要短6倍的推理时间。
2020-02-04 cs.CV cs.LG eess.IV
Guided Hyperparameter Tuning Through Visualization and Inference
University of Maryland, College Park(马里兰大学帕克分校)
对于深度学习从业者来说,优化模型性能的超参数调优可能是一项计算成本高昂的任务。虽然可视化可以帮助从业者将超参数设置与整体模型性能联系起来,但仍然需要大量的手动检查来指导下一批实验中的超参数设置。作为回应,我们提出了一个精简的可视化系统,使深度学习从业者能够更有效地探索,调整和优化超参数在一批实验。一个关键的想法是使用预测机制直接建议更优的超参数值。然后,我们将这种机制与当前的可视化实践结合起来,用于深度学习。此外,在模型超参数的背景下对选定性能指标的方差进行的分析显示了某些超参数对性能指标的影响。我们通过对深度学习模型构建器的用户研究来评估该工具,发现我们的参与者在采用该工具并将其作为工作流程的一部分方面没有什么问题。
2021-05-24 cs.HC cs.LG
Dual-Stage Value-Guided Inference with Margin-Based Reward Adjustment for Fast and Faithful VLM Captioning
Mohamed bin Zayed University of AI(莫扎德人工智能大学);University of Surrey(萨里大学);Jio Institute(乔研究所);UNSW(新南威尔士大学)
本文提出ViMaR,一种两阶段价值引导推理框架,通过边际奖励调整提升VLM描述的效率与保真度,实现4倍加速并跨模型泛化,自训练可提升视觉理解性能。
2025-06-18 cs.CV cs.LG
Spatio-temporal probabilistic forecast using MMAF-guided learning
TU Chemnitz, Faculty of Mathematics(图恩-切姆尼茨大学数学系)
本文提出一种理论引导的广义贝叶斯方法,用于训练随机前馈神经网络 ensemble,通过约束数据嵌入设计和优化过程,实现时空奥斯特瓦尔德过程的依赖性和因果结构。实验表明,该方法在多个时间尺度上保持校准,并展示浅层前馈架构在概率预测中可媲美甚至优于卷积或扩散深度学习架构。
2026-06-29 cs.LG math.ST stat.ML
GeoFunFlow-3D: A Physics-Guided Generative Flow Matching Framework for High-Fidelity 3D Aerodynamic Inference over Complex Geometries
School of Mathematical Sciences, University of Electronic Science and Technology of China(电子科技大学数学学院)
本文提出GeoFunFlow-3D框架,通过最优传输理论、高阶离散引擎和拓扑感知超分辨率模块,解决生成模型在物理一致性和高频特征保持中的挑战,提升三维空气动力学推断的精度与效率。
2026-04-25 cs.LG cs.NA math.NA
MATT-CTR: Unleashing a Model-Agnostic Test-Time Paradigm for CTR Prediction with Confidence-Guided Inference Paths
Alibaba Group(阿里巴巴集团)
提出一种模型无关的测试时范式MATT,利用特征组合的置信度分数生成多条推理路径并聚合预测,以缓解低置信度特征对CTR预测的影响。
2026-05-26 cs.IR cs.LG
EntMTP: Accelerating LLM Inference with Entropy Guided Multi Token Prediction
Cornell University(康奈尔大学)
提出EntMTP,一种无需训练的动态树注意力拓扑调度器,根据局部生成熵调整推测深度,在保持生成质量的同时最大化接受令牌吞吐量,相比Hydra和Medusa分别实现1.15倍和1.36倍加速。
2026-06-29 cs.CL cs.LG
Interpretable Relational Inference with LLM-Guided Symbolic Dynamics Modeling
School of Cyber Science and Technology, University of Science and Technology of China(中国科学技术大学计算机科学与技术学院)
本文提出COSINE框架,通过联合发现交互图和稀疏符号动力学,实现对复杂系统中潜在相互作用结构的可解释推断,实验表明其在合成系统和大规模真实世界数据中的鲁棒性。
2026-04-14 cs.LG
CARB: A Characterization-Guided Framework for CNN Inference Cost Prediction and Deployment Screening
Florida State University(佛罗里达州立大学)
针对资源受限GPU平台上CNN部署前推理成本估计的不足,提出CARB级联混合集成模型与两阶段部署筛选工作流,实现高精度成本预测与高效候选筛选。
2026-08-12 cs.AR cs.LG cs.PF
Tell Me Where to Look: Guided Attention Inference Network
Northeastern University(东北大学);Siemens Corporate Technology(西门子公司技术部)
只有粗糙标签的弱监督学习可以通过反向传播梯度获得深度神经网络的视觉解释,如注意力地图。然后,这些注意力图可用作诸如对象定位和语义分割之类的任务的先验。在一个通用的框架中,我们解决了以前建模这种注意力地图的方法的三个缺点:我们(1)第一次将注意力地图作为端到端训练的一个明确和自然的组成部分,(2)通过探索网络本身的监督来直接在这些地图上提供自我指导,以改善它们,(3)无缝地弥合使用弱监督和额外监督之间的差距。尽管它的简单,实验上的语义分割任务证明了我们的方法的有效性。我们显然超越了Pascal VOC 2012 val的最先进水平。测试集。此外,所提出的框架提供了一种方法,不仅解释了学习者的重点,但也反馈直接指导具体任务。在温和的假设下,我们的方法也可以被理解为现有的弱监督学习器的插件,以提高其泛化性能。
2018-02-27 cs.CV cs.LG
Prior-Guided Multi-Omic Transformers for Single-Cell Gene Regulatory Network Inference
Elmore Family School of Electrical and Computer Engineering(埃尔莫夫家庭电气与计算机工程学院);Purdue University(普渡大学);Department of Horticulture and Landscape Architecture(园艺与景观建筑系);School of Biological Sciences(生物科学学院)
提出EpiAwareNet框架,通过先验引导的多组学Transformer,结合基因-峰值交叉注意力模块和批量数据先验,从配对单细胞数据中重建基因调控网络。
2026-05-30 cs.LG
Prior-Guided Frequency-Calibrated Virtual EEG Channel Inference from Four Frontal Electrodes for Wearable EEG Augmentation
School of Biomedical Science and Engineering, South China University of Technology(生物医学工程学院,华南理工大学);School of Automation Science and Engineering, South China University of Technology(自动化科学与工程学院,华南理工大学)
提出FAVC-Net网络,通过频率校准从四个额叶电极生成13个未测量通道,联合优化波形保真度、频谱分配和鲁棒性,在PRED+CT数据集上实现最佳波形-频谱性能。
2026-07-07 cs.LG
Inference-Time Loss-Guided Colour Preservation in Diffusion Sampling
Constrained Image-Synthesis Lab(受限图像合成实验室)
本文提出一种无需额外训练的推理时颜色保持方法,通过区域约束和复合损失引导扩散模型,实现精准颜色控制。
2026-01-24 cs.CV cs.GR cs.LG
An inversion problem for optical spectrum data via physics-guided machine learning
Sungkyunkwan University(成均馆大学)
本文提出正则化循环推理机(rRIM),将物理原理融入训练与推理,从实验光谱中可靠反演配对胶水函数,并适用于第一类 Fredholm 积分方程的反演问题。
2024-04-03 cond-mat.str-el cs.LG physics.comp-ph