Parallel Chromatic MCMC with Spatial Partitioning
我们介绍了一种新的方法,并行MCMC推理模型与空间确定的条件独立关系,现有的技术利用图形模型结构是不适用的。我们的方法是由地震事件和信号的模型,在遥远的地区检测到的事件是近似独立的,在中间区域。我们通过对定义在潜在空间区域上的因子图着色来执行并行推理,而不是单个模型变量。评价地震同相轴检测模型,我们实现了显着的加速比串行MCMC的推理质量没有下降。
2016-12-08 stat.ML
Vertical Consensus Inference for High-Dimensional Random Partition
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出基于垂直共识推断(VCI)的高维数据聚类方法,通过划分数据为垂直分片以降低维度诅咒,结合熵正则化Wasserstein均值定义共识后验,实现基于随机划分的模型化推断。
2026-03-29 stat.CO stat.ME stat.ML
Gauging Variational Inference
计算配分函数是图模型应用中最重要的统计推断任务。由于它在计算上是难以处理的,近似方法已被用来解决这个问题在实践中,其中平均场(MF)和信念传播(BP)可以说是最流行和最成功的变分型方法。在本文中,我们提出了两个新的变分格式,即Gauged-MF(G-MF)和Gauged-BP(G-BP),分别改进MF和BP。这两种方法都通过利用所谓的规范变换来提供配分函数的下界,规范变换在保持配分函数不变的同时修改GM的因子。此外,我们证明了G-MF和G-BP都是精确的GM与一个特殊结构的单循环,即使裸MF和BP在这种情况下表现不佳。我们广泛的实验,完整的GM相对较小的尺寸和大型GM(高达300个变量)证实,新提出的算法优于和推广MF和BP。
2017-09-12 stat.ML
Inference Trees: Adaptive Inference with Exploration
我们引入推理树(IT),一类新的推理方法,建立在从蒙特卡罗树搜索的想法,以执行自适应采样的方式,平衡探索与开发,确保一致性,并在现有的自适应方法的病理学。IT自适应地从参数空间的分层分区中采样,同时以在线方式学习这些分区。这使得IT不仅能够识别高后部质量的区域,而且还能够保持不确定性估计,以跟踪可能错过重要后部质量的区域。IT可以基于提供边际似然的相合估计的任何推理方法。当与序贯蒙特卡罗结合使用时,它们特别有效,在这种情况下,它们可以捕获长期依赖关系,并产生超越建议适应的改进。
2018-06-25 stat.CO stat.ML
Variational inference for max-stable processes
最大稳定的过程提供了自然的模型,在一组空间站点观察到的空间极值建模。然而,最大稳定数据的全似然推断是复杂的似然函数的形式,因为它包含了一个网站的所有分区的总和。因此,要求和的项的数量随着站点的数量而快速增长,并且很快变得难以计算。我们提出了一个变分推断的方法来规避有问题的总和全似然推理。为了实现这一点,我们首先建立一个参数族的分区分布,分区可以从中采样。其次,我们结合最大稳定模型来优化该家族的参数,以找到最受数据支持的分区分布,并估计最大稳定模型参数。在模拟研究中,我们表明,我们的方法使全似然推理在更高的维度比以前的方法,并很容易适用于大量的观测数据集。此外,我们的方法可以很容易地扩展到贝叶斯设置。代码可在https://github.com/LPAndersson/MaxStableVI.jl上获得。
2022-12-14 stat.ME
New inference strategies for solving Markov Decision Processes using reversible jump MCMC
University of British Columbia(不列颠哥伦比亚大学)
本文提出基于可逆跳跃MCMC的改进推理策略,通过新目标分布和打破参数-轨迹相关性,实现高维空间中的最优策略估计。
2012-05-09 cs.LG cs.SY eess.SY
An Equal-Probability Partition of the Sample Space: A Non-parametric Inference from Finite Samples
Independent Researcher(独立研究者)
本文研究有限样本对任意连续分布的推断问题,提出基于次序统计量的等概率划分非参数方法,证明N个排序样本划分的N+1区间期望概率均为1/(N+1),并对比ECDF探讨其在密度、尾估计等鲁棒推断中的意义。
2025-07-29 cs.LG stat.ME stat.ML
MD-split+: Practical Local Conformal Inference in High Dimensions
Carnegie Mellon University(卡内基梅隆大学)
量化模型预测中的不确定性是寻求不仅仅是点预测的从业者的共同目标。一种需要最少假设的不确定性量化工具是共形推理,它可以帮助为黑盒模型创建概率有效的预测区域。经典的共形预测只提供边缘有效性,而在许多情况下,局部有效的预测区域是可取的。在应用局部共形预测时,决定如何最好地划分特征空间X仍然是一个悬而未决的问题。我们提出了MD分裂+,一个实用的局部共形方法,创建X分区的基础上本地化的模型性能的条件密度估计模型。我们的方法处理复杂的现实世界的数据设置,这些模型可能会被错误指定,并扩展到高维输入。我们讨论了我们的局部分区如何从一个无法实现的条件共形推理方法与预期的行为一致。我们还经验比较我们的方法对其他地方的共形方法。
2021-07-07 cs.LG stat.ML
Bayesian Nonparametric Space Partitions: A Survey
School of Mathematics and Statistics, University of New South Wales(新南威尔士大学数学与统计学院);School of Computer Science, Fudan University(复旦大学计算机科学技术学院);School of Computing and Information Systems, University of Melbourne(墨尔本大学计算与信息系统学院)
贝叶斯非参数空间划分(BNSP)模型提供了多种策略,用于将$D$维空间划分为一组块。通过这种方式,位于同一块中的数据点将共享某种同质性。BNSP模型可以应用于各种领域,如回归/分类树,随机特征构建,关系建模等。在本调查中,我们通过以下三个方面调查了BNSP研究的最新进展:模型,回顾了空间中生成分区的各种策略,并讨论了它们的理论基础“自洽性”;应用,其中包括当前的主流使用BNSP模型和他们的潜在的未来业务;和挑战,其中确定当前未解决的问题和有价值的未来研究课题。由于目前还没有对BNSP的文献进行全面的综述,我们希望通过本文的综述能够引起对这一课题的进一步探索和利用。
2021-02-28 cs.LG stat.ML
Black-box density function estimation using recursive partitioning
University of Bristol(布里斯托大学);Spotify(声田);University of Bath(巴斯大学);University of Cambridge(剑桥大学)
我们提出了一种新的方法来贝叶斯推断和一般贝叶斯计算,定义通过一个顺序的决策循环。我们的方法定义了一个递归分区的样本空间。它既不依赖于梯度,也不需要任何特定问题的调整,并且对于任何有界域的密度函数都是渐近精确的。输出是整个密度函数的近似值,包括归一化常数,通过有效的数据结构组织的分区。此类近似可用于证据估计或快速后验抽样,但也可作为处理更大类估计问题的构建模块。该算法表现出竞争力的性能,最近的国家的最先进的方法对合成和现实世界的问题,包括引力波物理参数推断。
2021-06-08 cs.LG stat.ML
Partition-Aware Scheduling for Mobile Heterogeneous Inference Co-Execution
University of Southern California(南加州大学)
本文提出一种分区感知的DAG调度框架,联合优化算子分区、设备分配与执行顺序,在移动异构平台上实现接近离线最优的推理延迟,且调度开销极低。
2026-09-15 cs.DC cs.LG cs.PF
An Experimental Comparison of Partitioning Strategies for Distributed Graph Neural Network Training
Technical University of Munich(慕尼黑工业大学);University of Bayreuth(拜罗伊特大学);University of Toronto(多伦多大学)
最近,图神经网络(GNN)作为能够在图结构数据上学习的深度学习的一个不断增长的领域获得了广泛的关注。然而,在大规模图上训练GNN的计算和内存要求使得有必要分布训练。分布式GNN训练的先决条件是将输入图划分为分布在计算集群的多台机器之间的较小部分。虽然图划分已经在图分析和图数据库方面进行了研究,但其对GNN训练性能的影响在很大程度上尚未探索。因此,目前还不清楚将计算工作投入到高质量的图划分中是否会在GNN训练场景中得到回报。在本文中,我们研究了分布式GNN训练的图划分的有效性。我们的研究旨在了解不同的因素,如GNN参数,小批量大小,图形类型,特征大小和横向扩展因子如何影响图分区的有效性。我们使用顶点和边分区对两个不同的GNN系统进行实验。我们发现,高质量的图分区是一种非常有效的优化,可以加快GNN训练并减少内存消耗。此外,我们的研究结果表明,投资的划分时间可以通过减少GNN训练时间快速摊销,使其成为大多数GNN场景的相关优化。与分布式图处理的研究相比,我们的研究表明,图划分在分布式GNN训练中起着更重要的作用,这激发了对图划分问题的进一步研究。
2024-08-12 cs.DC cs.LG
Spectral Approximate Inference
KAIST(韩国科学技术院);AITRICS
给定一个图模型(GM),计算其配分函数是最基本的推理任务,但它通常是计算上难以处理的。为了解决这个问题,迭代近似算法探索某些局部结构/一致性的GM已被调查,在实践中流行的选择。然而,由于它们的局部/迭代性质,它们通常输出差的近似值或甚至不收敛,例如,在低温状态下(大参数的硬实例)。为了克服这一局限性,我们提出了一种新的方法,利用GM的全局谱特征。我们的贡献是双重的:(a)首先提出了一种全多项式时间近似方案(FPTAS),用于近似与低秩耦合矩阵相关联的GM的配分函数;(b)对于一般的高阶GM,我们设计了一种谱平均场方案,利用(a)作为子程序,将高阶GM近似为秩1 GM的乘积,以有效地近似配分函数。所提出的算法在其运行时间和准确性方面比现有方法更鲁棒,即,既不受收敛问题的影响,也不依赖于硬局部结构,如我们的实验所示。
2019-05-14 cs.LG stat.ML
IBIA: An Incremental Build-Infer-Approximate Framework for Approximate Inference of Partition Function
IIT Madras(印度理工学院马德拉斯分校)
本文提出增量式IBIA框架,通过构建有界团大小的团树森林序列及两种正确性可证的算法,实现配分函数的高效近似推断,并在UAI基准上取得良好精度与运行效率。
2023-09-28 cs.AI cs.LG
White-box vs Black-box: Bayes Optimal Strategies for Membership Inference
University Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔综合理工学院);LJK(格勒诺布尔大学实验室);Facebook AI Research(Facebook人工智能研究院)
在给定样本和机器学习模型的训练参数的情况下,隶属度推断确定样本是否是训练集的一部分。在本文中,我们推导出的最佳策略的成员推断与一些假设的参数分布。我们证明了最优攻击只依赖于损失函数,因此黑盒攻击和白盒攻击一样好。由于最优策略是不听话的,我们提供了它的近似导致几种推理方法,并表明现有的成员资格推理方法是粗糙的近似这种最优策略。我们的成员攻击在各种设置中都优于最先进的技术,从简单的逻辑斯谛回归到更复杂的架构和数据集,如ResNet-101和Imagenet。
2019-08-29 cs.CR cs.LG stat.ML
Accurate inference of crowdsourcing properties when using efficient allocation strategies
University of Vermont(佛蒙特大学)
分配策略通过减少准确完成单个任务所需的工作来提高众包的效率。然而,这些算法通过优先将工人分配到容易的任务上来引入偏差,从而导致不再代表所有任务的已完成任务集。这种偏见挑战了对问题范围属性(如典型任务难度)或群体属性(如工人完成时间)的推断,这些重要信息超出了群体响应本身。在这里,我们研究的推理问题的属性时,使用分配算法,以提高人群的效率。我们介绍了决策显式概率抽样(DEPS),一种新的方法来执行推理的问题属性,同时考虑到潜在的偏见所引入的分配策略。真实和合成众包数据的实验表明,DEPS优于基线推理方法,同时仍然利用分配方法的效率收益。在使用非代表性数据时执行一般属性的准确推断的能力允许众包者从给定的众包数据集中提取更多的知识。
2022-04-27 cs.HC cs.LG stat.AP
Towards Faster Graph Partitioning via Pre-training and Inductive Inference
The Hong Kong University of Science & Technology(香港科技大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
本文提出PR-GPT方法,通过在小合成图上预训练深度图学习模型并进行归纳推理,为大规模图划分提供高质量初始化,再结合InfoMap等精化方法,在保持划分质量的同时显著提升推理效率。
2024-09-01 cs.LG cs.SI
Natural Evolution Strategies as a Black Box Estimator for Stochastic Variational Inference
Toronto Metropolitan University(多伦多都会大学)
针对 VAE 依赖重参数化技巧、限制模型类型的问题,本文提出基于自然进化策略的黑盒梯度估计器,无需假设分布形式即可支持更广泛的随机变分推断模型。
2023-08-15 cs.LG cs.NE
Target-Aware Bandit Allocation for Scalable Surrogate Optimization in Chemical Space
提出BOBa框架,通过多臂Bandit自适应分配计算资源到动作空间分区,消除全库代理推理瓶颈,在真实合成库上实现可调节的筛选性能与推理成本权衡。
2026-06-26 cs.LG
Causal Inference Based Single-branch Ensemble Trees For Uplift Modeling
Everbright Technology Co. LTD(光大科技有限公司)
在这篇手稿(MS)中,我们提出了因果推理为基础的单分支集成树隆起建模,即CIET。与预测概率建模的标准分类方法不同,CIET旨在实现由行为或治疗引起的结果预测概率的变化。根据我们的CIET,两个划分标准是专门设计的,以最大限度地提高治疗组和对照组之间的结果分布差异。接下来,一个新的单分支树是建立通过采取自顶向下的节点划分方法,和其余的样本进行审查,因为他们没有被覆盖的上层节点划分逻辑。在删失数据上重复树的构建过程,从而形成具有一组推理规则的单分支集成树。此外,实验表明,CIET优于以往的隆升模拟方法在隆升曲线下的面积(AUUC)和基尼系数显着。目前,信投贷已在国内某国家级金融控股集团应用于线上个人贷款。CIET还将有助于分析师将机器学习技术应用于更广泛的商业领域,如网络广告,医学和经济学的因果推理。
2023-02-03 cs.LG
PARIS and ELSA: An Elastic Scheduling Algorithm for Reconfigurable Multi-GPU Inference Servers
KAIST(韩国科学技术院)
在云机器学习(ML)推理系统中,为最终用户提供低延迟至关重要。然而,最大限度地提高服务器利用率和系统吞吐量对于ML服务提供商来说也是至关重要的,因为它有助于降低总拥有成本。GPU经常因ML推理的使用而受到批评,因为其庞大的计算和内存吞吐量在低批量推理场景下难以充分利用。为了解决这种限制,NVIDIA最近发布的Ampere GPU架构提供了将一个大型单片GPU“重新配置”为多个较小的“GPU分区”的功能。这一特性为云机器学习服务提供商提供了利用可重配置GPU的能力,不仅可以进行大批量训练,还可以进行小批量推理,从而实现高资源利用率。在本文中,我们研究了这种新兴的GPU架构与可重构性,以开发一个高性能的多GPU ML推理服务器。我们的第一个命题是一个复杂的可重构GPU的分区算法,系统地确定一组异构的多粒度GPU分区,最适合推理服务器的部署。此外,我们共同设计了一个弹性调度算法,为我们的异构分区GPU服务器,有效地平衡低延迟和高GPU利用率。
2022-02-27 cs.AI cs.AR cs.DC
Autodidactic Neurosurgeon: Collaborative Deep Inference for Mobile Edge Intelligence via Online Learning
University of Miami(迈阿密大学)
近年来,深度学习(DL)领域的突破性进展催生了许多智能移动应用和服务,但同时也给资源受限的移动设备带来了前所未有的计算挑战。本文在资源受限的移动终端和功能强大的边缘服务器之间构建了一个协同深度推理系统,旨在加入设备上处理和计算卸载的能力。该系统的基本思想是将深度神经网络(DNN)划分为运行在移动终端上的前端部分和运行在边缘服务器上的后端部分,关键挑战是如何定位最佳划分点以最小化端到端的推理延迟。与现有的DNN分区严重依赖于专用离线分析阶段来搜索最佳分区点的努力不同,我们的系统有一个内置的在线学习模块,称为自动教学神经外科医生(ANS),可以自动学习最佳分区点。因此,ANS是能够密切关注系统环境的变化,产生新的知识,自适应决策。ANS的核心是一种新的上下文强盗学习算法,称为$μ$ LinUCB,它不仅具有可证明的理论学习性能保证,而且是超轻量级的,易于现实世界的实现。我们实现了我们的系统上的视频流目标检测测试平台,以验证ANS的设计和评估其性能。实验表明,ANS在跟踪系统变化和减少端到端的推理延迟方面显着优于最先进的基准测试。
2021-02-02 cs.AI cs.LG
Exploration strategies for Gaussian process bandit optimization with inference regret guarantees
University of Texas at Dallas(德克萨斯大学达拉斯分校);Korea University(高丽大学)
本文针对贝叶斯优化累积遗憾无法刻画最终输出质量的问题,提出可嵌入任意贝叶斯优化流程的高效探索策略,经实验验证其能提升多类任务中贝叶斯优化的最终推荐效果。
2026-10-14 cs.LG math.OC stat.CO
Trustworthy DNN Partition for Blockchain-enabled Digital Twin in Wireless IIoT Networks
School of Electronic and Optical Engineering, Nanjing University of Science and Technology(南京理工大学电子与光学工程学院);Department of Computing, Hong Kong Polytechnic University(香港理工大学计算机系);Data61, CSIRO(数据61,CSIRO);Department of Electronics Engineering, Shanghai Jiao Tong University(上海交通大学电子工程系);National Mobile Communications Research Laboratory, Southeast University(东南大学国家移动通信研究中心)
本文提出区块链赋能的数字孪生框架,结合DNN划分与基于信誉的PoW/PoS共识机制,并通过Lyapunov优化动态分配通信与计算资源,以在保证可信性的同时最小化无线IIoT系统时延。
2024-05-28 cs.LG
Environment Inference for Invariant Learning
University of Toronto(多伦多大学);Vector Institute(向量研究所)
优雅地处理分布偏移的学习模型是领域泛化、鲁棒优化和公平性研究的核心。一个很有前途的公式是域不变学习,它确定了学习哪些特征是域特定的还是域不变的关键问题。在这个领域中的一个重要假设是,训练样本被划分为“域”或“环境”。我们关注的是不提供这种分区的更常见的设置。我们提出了EIIL,这是一个域不变学习的通用框架,它结合了环境推理来直接推断为下游不变学习提供最大信息的分区。我们表明,EIIL在CMNIST基准测试中的性能优于不变量学习方法,而无需使用环境标签,并且在Waterbirds和CivilComments数据集中的最差组性能上显著优于ERM。最后,我们建立EIIL和算法公平性之间的连接,这使得EIIL,以提高准确性和校准在一个公平的预测问题。
2021-07-15 cs.AI cs.LG
How Random is a Coin Toss? Bayesian Inference and the Symbolic Dynamics of Deterministic Chaos
符号动力学已被证明是一个宝贵的工具,在分析机制,导致不可预测性和随机行为的非线性动力系统。令人惊讶的是,连续状态空间的离散划分可以产生对行为的粗粒度描述,该粗粒度描述准确地描述了底层混沌吸引子的不变性质。特别是,信息生产率的度量-拓扑和度量熵率-可以从马尔可夫或生成分区的输出中估计。在这里,我们开发的贝叶斯推断k阶马尔可夫链的方法来找到生成分区和估计熵率从有限的离散化数据产生的粗粒度动力系统的样本。
2006-11-13 cs.IT cs.LG math.IT
Learning the Optimal Path and DNN Partition for Collaborative Edge Inference
University of Miami(迈阿密大学);Middle Tennessee State University(中田纳西州立大学)
本文研究网络参数未知且存在多条路径时协作边缘推理的最优路径选择与DNN层分配问题,将其建模为带切换成本的对抗性群组线性赌博机问题,并提出具有亚线性遗憾的B-EXPUCB算法,仿真验证其优于现有方法。
2024-10-02 cs.DC cs.LG
Energy-Efficient Transformer Inference: Optimization Strategies for Time Series Classification
Texas State University(德克萨斯州立大学)
针对Transformer在时间序列分类中计算需求高的问题,研究了结构化剪枝与量化优化策略,经三个数据集实验验证,静态量化降能耗29.14%且保性能,L1剪枝提推理速度63%且精度损失小,为资源受限环境部署提供支撑。
2025-05-21 cs.AI cs.LG cs.PF
Strategies for online inference of model-based clustering in large and growing networks
Exalead(Exalead公司);Universite de Lyon(里昂大学);Laboratoire Statistique et Génome(统计与基因组实验室);Laboratoire de Biométrie et Biologie Evolutive(生物计量与进化生物学实验室)
在本文中,我们适应在线估计策略进行基于模型的聚类大型网络。我们的工作集中在两个算法,第一个基于SAEM算法,第二个变分方法。这两种策略进行了比较,与现有的方法模拟和真实数据。本文运用该方法对2008年美国大选期间的政治网络进行了分析。我们表明,我们的在线EM为基础的算法提供了一个很好的权衡精度和速度之间,在随机图的背景下估计参数的混合分布。
2010-11-10 cs.LG stat.AP
AI Accelerators for Large Language Model Inference: Architecture Analysis and Scaling Strategies
本文跨GPU、混合封装和晶圆级引擎比较商用AI加速器的LLM推理架构,量化性能差异与并行扩展策略,为硬件选型和下一代设计提供依据。
2025-05-13 cs.AR cs.LG
Dynamic DNN Decomposition for Lossless Synergistic Inference
Zhejiang Lab(之江实验室)
深度神经网络(DNN)在当今的数据处理应用中保持高性能。DNN推断是资源密集型的,因此难以适合移动终端。一种替代方案是将DNN推理卸载到云服务器。然而,这种方法需要在移动终端和云服务器之间进行大量的原始数据传输,这不适合于任务关键型和隐私敏感型应用,例如自动驾驶仪。为了解决这个问题,最近的进展使用边缘计算范式释放了DNN服务。现有的方法将DNN分成两个部分,并将两个分区部署到两个边缘计算层的计算节点。尽管如此,这些方法忽略了协作设备-边缘-云计算资源。此外,以前的算法需要整个DNN重新划分,以适应计算资源的变化和网络动态。此外,对于需要资源的卷积层,现有的工作没有给出在边缘侧不损失精度的并行处理策略。为了解决这些问题,我们提出了D3,这是一个动态DNN分解系统,用于协同推理而不会损失精度。所提出的系统引入了一种启发式算法,称为水平划分算法,分为三个部分的DNN。该算法可以在运行时间根据处理时间和网络状况部分调整分区。在边缘侧,垂直分离模块将特征图分离成可以在不同边缘节点上并行独立运行的图块。对五种流行DNN的广泛定量评估表明,D3在端到端DNN推理时间方面优于最先进的同行高达3.4倍,并将骨干网络通信开销降低了3.68倍。
2021-01-15 cs.DC cs.LG cs.NI
Towards Efficient Large Vision-Language Models: A Comprehensive Survey on Inference Strategies
George Mason University(乔治梅森大学)
本文综述了提升大型视觉语言模型推理效率的最新方法,从视觉token压缩、内存管理、架构设计和解码策略四个维度进行分类,并指出当前方法的局限性及未来研究方向。
2026-04-11 cs.CL cs.CV cs.LG
Breaking the Performance Ceiling in Reinforcement Learning requires Inference Strategies
InstaDeep;Stellenbosch University(斯坦陵博斯大学)
本研究通过引入推理策略在执行时间突破复杂多智能体强化学习的性能极限,实现17个任务中高达126%的性能提升。
2025-12-18 cs.AI cs.LG cs.MA
A Multi-Level Framework for Multi-Objective Hypergraph Partitioning: Combining Minimum Spanning Tree and Proximal Gradient
Xidian University(西安电子科技大学);Shihezi University(石河子大学)
本文提出一种结合多目标非凸松弛模型、加速近端梯度算法与最小生成树策略的超图划分框架,并辅以细化策略,在多个基准上相比现有划分器显著降低割边规模。
2025-09-26 cs.LG math.CO
Compute Aligned Training: Optimizing for Test Time Inference
Department of Statistics(统计学系);University of Michigan(密歇根大学)
本文提出计算对齐训练方法,通过将训练目标与测试时间策略对齐,提升大语言模型在测试时的推断性能。
2026-10-02 cs.AI cs.LG
On Sampling and Greedy MAP Inference of Constrained Determinantal Point Processes
Microsoft Research, India(微软研究院(印度))
子集选择问题要求给定数据的一个小的、多样的但具有代表性的子集。当成对相似性被核捕获时,子矩阵的行列式提供了子集内项目的多样性或独立性的度量。拟阵理论给出了另一个独立性的概念,从而产生了拟阵约束下的行列式点过程(DPP)的优化和采样问题。分区约束,作为一个特殊的情况下,自然出现时,将额外的标签或聚类信息,除了内核,在DPP。在拟阵的行/列指标的约束下寻找最大行列式子矩阵已经在以前研究过。然而,在拟阵约束下从DPP采样的相应问题一直没有得到解决,超出了简单的基数约束的k-DPP。我们给出了第一个多项式时间算法,在分区约束下,对任何常数的分区数,从DPP精确采样。我们补充这一复杂性理论的障碍,排除了这样的结果下一般拟阵的约束。我们的实验表明,分区约束的DPPs提供更大的灵活性和多样性比k-DPPs和他们的天真的扩展,同时在运行时间是合理有效的。我们还表明,一个简单的贪婪初始化,然后局部搜索提供了改进的近似保证的问题,MAP推理从k-DPPs条件良好的内核。我们的实验表明,这种改善是显着的k值较大,支持我们的理论结果。
2016-07-06 cs.DS cs.LG math.PR
Joint Partitioning and Placement of Foundation Models for Real-Time Edge AI
Technical University of Munich, Germany(慕尼黑技术大学,德国);Florida Atlantic University, USA(佛罗里达大学,美国);Carl Zeiss AG, Germany(蔡司股份公司,德国)
本文提出一种动态框架,通过在运行时解决模型的空间放置和内部划分问题,以应对边缘环境中计算和网络资源的波动,提升推理效率与隐私保护。
2025-11-30 cs.DC cs.LG cs.NI