Recursive Estimation of Conditional Kernel Mean Embeddings
Institute for Computer Science and Control (SZTAKI)(计算机科学与控制研究所(SZTAKI));Eötvös Loránd University (ELTE)(厄特沃什·罗兰大学(ELTE))
本文提出一种在Bochner空间中递归估计条件核均值映射的新算法,将Stone定理推广到局部紧波兰空间上的希尔伯特空间值回归,证明了弱与强L2一致性并给出强渐近界,在欧氏空间、黎曼流形和函数空间子集上验证了效果。
2024-08-30 cs.LG stat.ME stat.ML
A Rigorous Theory of Conditional Mean Embeddings
条件均值嵌入(CME)已被证明是许多机器学习应用中的强大工具。他们允许有效的条件下的概率分布内相应的再生核希尔伯特空间(RKHS),通过提供一个线性代数关系的内核平均嵌入的相应的联合和条件概率分布。在现有的文献中,中心和非中心协方差算子都被用来定义日冕物质抛射。在本文中,我们开发了一个数学上严格的理论,这两种变体,讨论各自的优点和问题,并显着削弱CME的适用条件。在这个过程中,我们展示了一个美丽的连接到高斯条件在希尔伯特空间。
2020-04-14 math.FA math.ST stat.ML
Optimal Rates for Regularized Conditional Mean Embedding Learning
Gatsby Computational Neuroscience Unit(盖茨比计算神经科学研究所);University College London(伦敦大学学院);Freie Universität Berlin(柏林自由大学)
该研究针对条件均值嵌入(CME)核岭回归估计的一致性问题,在误设定场景下通过算子空间与新向量值插值空间的同构性,推导出自适应统计学习速率,证明其匹配最优$O(log n /n)$速率且上界最优。
2023-12-12 cs.LG stat.ML
Conditional generation of multi-modal data using constrained embedding space mapping
IBM Research-Tokyo(IBM东京研究院)
我们提出了一个条件生成模型,映射到一个共同的潜在空间,从而提取它们之间的语义关系的低维嵌入的多种形式的数据。首先提取特定于模态的嵌入,随后执行约束优化过程以将两个嵌入空间投影到公共流形。个体嵌入是从这个公共潜在空间中生成的。然而,为了实现独立的条件推理,用于从公共潜在空间表示中单独提取对应的嵌入,我们部署了代理变量技巧-其中,单个共享潜在空间被每个模态的相应单独潜在空间替换。我们设计了一个目标函数,使得在训练过程中,我们可以通过最小化它们的概率分布函数之间的距离来迫使这些独立的空间彼此靠近。实验结果表明,学习的联合模型可以推广到学习的概念,双MNIST数字与颜色的附加属性,从文本和语音输入。
2017-07-26 cs.AI cs.CV cs.LG
The linear conditional expectation in Hilbert space
线性条件期望(LCE)提供了条件期望的最佳线性(或更确切地说,仿射)估计,因此在近似贝叶斯推理,特别是贝叶斯线性方法中起着重要的作用。本文在无限维希尔伯特空间的背景下建立了LCE的分析性质。此外,在仿射希尔伯特-施密特算子的空间工作,我们建立了一个正则化程序,这个LCE。作为一个重要的应用,我们得到了一个简单的替代推导和直观的理由的条件均值嵌入公式,一个广泛用于机器学习的概念,通过将它们嵌入到再生核希尔伯特空间中来执行随机变量的条件。
2020-12-07 math.FA math.ST stat.ML
Conditional mean embeddings and optimal feature selection via positive definite kernels
The University of Iowa(爱荷华大学);Southern Illinois University Edwardsville(南伊利诺伊大学爱德华兹维尔分校);Mathematical Reviews(数学评论)
本文提出基于谱分析和正定核凸集优化的新算子方法,用于条件均值嵌入和最优特征选择,通过二次优化核选择实现特征表示。
2023-05-14 cs.LG math.FA
Conditional Generative Moment-Matching Networks
Tsinghua University(清华大学)
最大均值差异(MMD)已成功应用于学习深度生成模型,以通过内核均值嵌入来表征变量的联合分布。在本文中,我们提出了条件生成矩匹配网络(CGMMN),它学习一个条件分布给定一些输入变量的基础上的条件最大均值差异(CMMD)标准。通过随机梯度下降执行学习,其中梯度通过反向传播计算。我们评估了CGMMN在广泛的任务,包括预测建模,上下文生成和贝叶斯暗知识,它通过学习一个相对较小的CGMMN学生网络从贝叶斯模型中提取知识。我们的结果表明,在所有的任务竞争力的表现。
2016-06-14 cs.LG
Crime Event Embedding with Unsupervised Feature Selection
Georgia Institute of Technology(佐治亚理工学院)
我们提出了一种新的事件嵌入算法的犯罪数据,可以共同捕捉时间,位置和复杂的自由文本组件的每个事件。嵌入是通过正则化的限制玻尔兹曼机(RBM),我们引入了一种新的方式来规范施加$\ell_1$惩罚RBM的观测变量的条件分布。这种正则化的选择执行特征选择,并且它还导致有效的计算,因为梯度可以以闭合形式计算。特征选择迫使嵌入基于最重要的关键字,这捕获了常见的操作方式(M。O.)的犯罪系列通过对大规模犯罪数据集的数值实验,我们证明了我们的正则化RBM可以实现更好的事件嵌入,并且所选特征具有高度的人类理解可解释性。
2018-11-04 cs.LG stat.ML
Kernel Conditional Density Operators
Zalando Research(Zalando研究部);Zalando SE(Zalando股份公司);Freie Universität Berlin(柏林自由大学);MPI for Intelligent Systems(智能系统马克斯·普朗克研究所)
我们引入了一种新的条件密度估计模型,称为条件密度算子(CDO)。它自然地捕获多变量,多模态输出密度,并显示出与最近的神经条件密度模型和高斯过程竞争的性能。该模型是基于一种新的方法来重建的概率密度从他们的内核平均嵌入绘制连接到再生核希尔伯特空间(RKHS)中的Radon-Nikodym衍生物的估计。我们证明了有限的样本界的估计误差在一个标准的密度重建的情况下,独立的问题维数。有趣的是,当使用的内核也是概率密度时,CDO允许我们有效地评估和采样输出密度。我们证明了所提出的模型的多功能性和性能的合成和真实世界的数据。
2019-10-29 cs.LG math.ST stat.ML
Conditional Distributional Treatment Effect with Kernel Conditional Mean Embeddings and U-Statistic Regression
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Technion, Israel Institute of Technology(以色列理工学院)
我们建议分析的条件分布处理效应(CoDiTE),这与更常见的条件平均处理效应(CATE),是设计来编码治疗的分布方面超出了平均值。我们首先介绍一个正式的定义与概率测度之间的距离函数的CoDiTE。然后,我们通过内核条件均值嵌入,再加上假设检验,告诉我们是否有任何条件的分布效应的治疗,讨论了与最大均值差异相关的CoDiTE。最后,我们调查了什么样的条件分布效应的治疗,无论是在探索性的方式通过条件见证函数,并通过U-统计回归的定量方式,概括的CATE高阶矩。在合成、半合成和真实数据集上的实验证明了该方法的优点。
2021-06-10 cs.LG stat.ML
Noise Contrastive Meta-Learning for Conditional Density Estimation using Kernel Mean Embeddings
University of Oxford(牛津大学)
当前的元学习方法专注于学习变量之间关系的函数表示,即在回归中估计条件期望。然而,在许多应用中,我们面临着条件分布,它不能仅仅用期望值来有意义地概括(由于多模态等原因)。因此,我们考虑元学习环境中的条件密度估计问题。我们引入了一种新的元学习技术,它结合了神经表示和噪声对比估计与再生核希尔伯特空间的条件均值嵌入的既定文献。该方法在合成和现实世界的问题上进行了验证,展示了在多个条件密度估计任务中共享学习表示的实用性。
2021-02-23 cs.LG stat.ML
An Asymptotic Test for Conditional Independence using Analytic Kernel Embeddings
CREST(法国 Crest 研究中心);ENSAE(法国国家统计与经济管理学院);Facebook AI Research(脸书人工智能研究院);Université Paris-Dauphine(巴黎多芬大学);Technion(以色列理工学院)
我们提出了一个新的条件依赖性度量和条件独立性的统计检验。该措施是基于两个非常适合的分布在一组有限的位置评估的分析内核嵌入之间的差异。在条件独立性的原假设下得到了它的渐近分布,并由此设计了一个一致性统计检验,通过一系列的实验表明,即使在高维情况下,我们的新检验在I类和第二类错误方面也优于现有的方法.
2022-06-16 cs.LG stat.ML
Exact Distribution-Free Hypothesis Tests for the Regression Function of Binary Classification via Conditional Kernel Mean Embeddings
SZTAKI: Institute for Computer Science and Control(SZTAKI:计算机科学与控制研究所);Eötvös Loránd Research Network(厄特沃什·罗兰研究网络)
本文提出了两种基于条件核均值嵌入的二分类回归函数的统计假设检验方法。回归函数是分类中的基本对象,因为它决定了贝叶斯最优分类器和误分类概率。提出了一个基于回归的框架,并结合条件核均值映射的一致点估计,以构造分布自由的假设检验。这些测试以灵活的方式引入,使我们能够控制任何样本量的第一类错误的确切概率。我们还证明了这两种方法在弱统计假设下是一致的,即,第二类错误概率逐点收敛到零。
2021-06-07 cs.LG stat.ML
Bayesian Learning of Conditional Kernel Mean Embeddings for Automatic Likelihood-Free Inference
The University of Sydney(悉尼大学);CSIRO(澳大利亚联邦科学与工业研究组织);NVIDIA(英伟达)
在无似然设置的可能性评估是棘手的,近似贝叶斯计算(ABC)解决了艰巨的推理任务,发现合理的参数解释的观察模拟程序。然而,它们需要大量的模拟调用。重要的是,决定模拟差异度量的超参数至关重要地平衡了推理精度和样本效率,但很难调整。在本文中,我们提出了内核嵌入似然自由推理(KELFI),一个整体框架,自动学习模型超参数,以提高推理精度有限的模拟预算。通过利用条件均值嵌入的似然平滑性,我们非参数地近似似然和后验作为代理密度,并从封闭形式的后验均值嵌入中采样,其超参数在其近似边缘似然下学习。我们的模块化框架在生态学中具有挑战性的推理问题上表现出更高的准确性和效率。
2019-03-03 cs.LG stat.ML
Neural-Kernel Conditional Mean Embeddings
Graduate University of Advanced Studies (SOKENDAI)(高等研究生院(SOKENDAI));The Institute of Statistical Mathematics(统计数学研究所);The University of Adelaide(阿德莱德大学)
提出一种结合深度学习和核条件均值嵌入的新方法,通过端到端神经网络优化避免Gram矩阵求逆,在条件密度估计和强化学习中表现优异。
2024-03-16 cs.LG stat.ML
Conditional t-SNE: Complementary t-SNE embeddings through factoring out prior information
Ghent University(根特大学);Facebook AI(脸书人工智能);University of Bristol(布里斯托大学)
简化和流形学习方法,如t-分布随机邻居嵌入(t-SNE)通常用于将高维数据映射到二维空间,以可视化和探索数据。然而,两个维度通常不足以捕获数据中的所有结构,突出的结构通常是已知的,并且如何以类似有效的方式提取剩余的信息并不明显。为了填补这一空白,我们引入了\emph{conditional t-SNE}(ct-SNE),这是t-SNE的一个推广,它以标签的形式从嵌入中扣除了先验信息。为了实现这一目标,我们提出了一个条件版本的t-SNE目标,获得一个单一的,集成的,优雅的方法。ct-SNE有一个额外的参数t-SNE,我们研究其影响,并显示如何有效地优化目标。分解出先验知识允许在嵌入中捕获互补结构,提供新的见解。在人工数据和大量真实数据上的定性和定量实证结果表明,ct-SNE是有效的,达到了预期的目标。
2019-05-24 cs.LG stat.ML
Pre-trained Word Embeddings for Goal-conditional Transfer Learning in Reinforcement Learning
University of Antwerp(安特卫普大学);imec(比利时微电子研究中心)
强化学习(RL)算法通常从白板开始,没有任何环境的先验知识,也没有任何先验技能。然而,这通常导致低样本效率,需要与环境的大量相互作用。在终身学习环境中尤其如此,在这种环境中,代理需要不断扩展其能力。在本文中,我们研究了预训练的任务无关的语言模型如何使目标条件RL代理更具样本效率。我们通过促进不同相关任务之间的迁移学习来做到这一点。我们实验证明我们的方法对一组对象导航任务。
2020-07-10 cs.AI cs.LG stat.ML
Class-conditional embeddings for music source separation
MERL(三菱电机研究实验室)
在音乐混合物中分离出单个乐器有无数潜在的应用,考虑到最近的深度学习方法所达到的性能水平,这似乎是迫在眉睫的。虽然大多数音乐声源分离技术为每个乐器学习一个独立的模型,但我们建议在深度聚类和深度吸引子网络的启发下,为混合物中所有乐器的时频箱使用一个公共嵌入空间。此外,辅助网络用于生成高斯混合模型(GMM)的参数,其中嵌入空间中的GMM分量上的后验分布可以用于创建将各个源从混合物中分离的掩模。除了在MUSDB-18数据集上优于掩码推理基线外,我们的嵌入空间很容易解释,可用于基于查询的分离。
2018-11-07 cs.LG cs.SD eess.AS
Few-Shot Learning with Metric-Agnostic Conditional Embeddings
Pacific Northwest National Laboratory(太平洋西北国家实验室);Seattle Research Center(西雅图研究中心)
从少量样本中学习高质量的类表示是面向少样本学习的度量学习方法中的一个关键问题。为了实现这一点,我们引入了一种新的架构,类表示的条件为每个Few-Shot试验的基础上的目标图像。我们还偏离了传统的度量学习方法,通过训练网络来执行类之间的比较,而不是依赖于静态度量比较。这允许网络决定每个类的哪些方面对于手头的比较是重要的。我们发现,这种灵活的架构在实践中效果良好,实现了加州理工大学UCSD鸟类细粒度分类任务的最先进的性能。
2018-02-12 cs.LG stat.ML
Vector-Valued Distributional Reinforcement Learning Policy Evaluation: A Hilbert Space Embedding Approach
Department of Statistics, University of Illinois Urbana-Champaign(统计系,伊利诺伊大学厄巴纳-香槟分校);Department of Bioinformatics and Biostatistics, University of Louisville(生物信息学与生物统计学系,路易斯维尔大学)
本文提出了一种基于希尔伯特空间嵌入的多维分布式强化学习框架,通过核均值嵌入估计价值分布,解决了多维状态-动作空间中瓦瑟斯坦距离计算的计算挑战。
2026-09-22 cs.LG stat.ME stat.ML
Polyphone Disambiguation for Mandarin Chinese Using Conditional Neural Network with Multi-level Embedding Features
Duke Kunshan University(昆山杜克大学);Taiyuan University of Technology(太原理工大学);Sun Yat-sen University(中山大学)
本文描述了一种用于汉语多音字消歧的条件神经网络结构。该系统是由一个双向循环神经网络组件作为一个句子编码器,积累上下文相关性,其次是一个预测网络,映射的多音字嵌入随着条件,以相应的发音。我们从预训练的词到向量查找表中获得词级条件。多音字消歧的目的之一是解决汉语文语转换系统前端处理中存在的同形异义词问题。我们的系统达到了94.69\%的准确率在公开可用的多音字数据集。为了进一步验证我们在条件特征上的选择,我们分别研究了多层次条件下的多音字消歧系统。实验结果表明,基于词级和词级条件嵌入的汉语多音字消歧方法都能取得较好的消歧效果。
2019-07-03 cs.CL eess.AS stat.ML
Bayesian Deconditional Kernel Mean Embeddings
University of Sydney(悉尼大学);CSIRO(澳大利亚联邦科学与工业研究组织);NVIDIA(英伟达)
条件核均值嵌入形成了一个有吸引力的非参数框架来表示函数的条件均值,描述了许多复杂模型的观测过程。然而,恢复的原始基础功能的利益,其条件平均值被观察到是一个具有挑战性的推理任务。我们正式deconciliar内核意味着嵌入作为这个逆问题的解决方案,并表明,它可以自然地被视为一个非参数贝叶斯规则。关键的是,我们引入了任务转换高斯过程的概念,并建立deconciliar内核的手段作为其后验预测的意思。这种联系为去卷积核均值嵌入提供了贝叶斯解释和不确定性估计,解释了它们的正则化超参数,并揭示了核超参数学习的边际似然性。这些启示进一步实现了实际应用,如无似然推理和学习大数据的稀疏表示。
2019-06-01 cs.LG stat.ML
Computationally Efficient PAC RL in POMDPs with Latent Determinism and Conditional Embeddings
Cornell University(康奈尔大学);Princeton University(普林斯顿大学)
研究了大规模部分可观测马尔可夫决策过程(POMDPs)的函数逼近强化学习,其中状态空间和观测空间都很大甚至是连续的。特别地,我们考虑POMDP的Hilbert空间嵌入,其中潜在状态的特征和观测的特征允许观测发射过程的条件Hilbert空间嵌入,并且潜在状态转移是确定性的。在最优潜在状态-动作$Q$ -函数在状态特征上是线性的,并且最优$Q$ -函数在动作上有间隙的函数近似设置下,我们提供了一个寻找\emph{exact optimal}策略的\emph{computationally and statistically efficient}算法.我们展示了我们的算法的计算和统计复杂性尺度多项式的地平线和内在维度的观察空间上的功能。此外,我们证明了确定性的潜在转移和间隙假设是必要的,以避免统计复杂性指数的水平或维度。由于我们的保证没有明确的依赖于状态和观测空间的大小,我们的算法可证明规模大规模POMDPs。
2022-06-24 cs.LG stat.ME stat.ML
Verifiable Regularity Criterion for Conditional Expectation Operators and Conditional Mean Embeddings with Applications to Nonparametric Regression, Bayesian Inverse Problems, and Koopman Operators
Technische Universität Ilmenau(伊尔梅瑙工业大学);Freie Universität Berlin(柏林自由大学);Chemnitz University of Technology(开姆尼茨工业大学)
该研究提出了条件期望算子与条件均值嵌入的可验证正则性准则,验证其在三类场景下的适用性,为相关领域提供了统一分析框架。
2026-08-07 cs.LG cs.NA math.DS
Embedding-Bias in Conditional Independence Testing
University of Copenhagen(哥本哈根大学)
本文研究条件独立性检验中用嵌入替代原始变量导致的偏差问题,提出基于残差相关检验的稳健方法,在合成数据、文本嵌入及语言模型生成文本上验证了该方法的有效性。
2026-10-09 cs.LG stat.ML
Conditional Distribution Compression via the Kernel Conditional Mean Embedding
School of Mathematics University of Bristol(数学系 伯明翰大学);Mathematical Institute University of Oxford(数学研究所 奥克斯福德大学)
本文提出ACKH和ACKIP方法,通过线性时间贪心算法压缩条件分布,实验表明其在条件分布压缩任务中优于联合分布压缩和贪心选择方法。
2026-01-16 cs.LG stat.CO stat.ME
CSNE: Conditional Signed Network Embedding
Ghent University(根特大学)
签名网络是一种数学结构,可以编码实体之间的积极和消极关系,例如朋友/敌人或信任/不信任。最近,几篇论文研究了这些网络的有用的低维表示(嵌入)的构建,用于预测缺失的关系或符号。现有的符号预测嵌入方法通常在其优化函数中强制不同的状态或平衡理论概念。然而,这些理论往往是不准确或不完整的,这对方法的性能产生了负面影响。在这种情况下,我们引入了条件签名网络嵌入(CSNE)。我们的概率方法将网络中符号的结构信息与细粒度细节分开建模。结构信息以先验的形式表示,而嵌入本身用于捕获细粒度信息。然后,这些组件以严格的方式集成。CSNE的准确性取决于存在足够强大的结构先验建模签署的网络,目前在文献中不可用。因此,作为第二个主要贡献,我们发现是非常有价值的,在其本身的权利,我们还介绍了一种新的方法来构建先验的最大熵(MaxEnt)原则的基础上。这些先验可以模拟节点的\emph{polarity}(它们的链接为正的程度)以及有符号的\emph{triangle counts}(网络中结构平衡程度的度量)。在各种真实网络上的实验证实了CSNE在符号预测任务上的表现优于最先进的技术。此外,MaxEnt先验本身虽然不如完全CSNE准确,但在非常有限的计算成本下实现了与最先进技术竞争的准确性,从而在资源受限的情况下提供了出色的运行时间-准确性权衡。
2020-05-25 cs.LG cs.SI stat.ML
Distance Profile Embedding for Independence and Conditional Independence Testing of Random Objects
The Pennsylvania State University(宾夕法尼亚州立大学)
该研究提出距离剖面嵌入(DPE)方法,构建适配非欧几里得随机对象的独立性与条件独立性检验统一框架,可处理对象值条件变量,避免置换检验高计算负担,经模拟与真实数据验证有效。
2026-08-03 econ.EM math.ST stat.AP
Conditional Graph Neural Processes: A Functional Autoencoder Approach
Intel Corporation(英特尔公司)
我们引入了一种新的编码器-解码器架构,将功能过程嵌入到潜在向量空间中。然后可以对该嵌入进行解码,以在任意域上对编码函数进行采样。这个自动编码器概括了最近引入的随机过程的条件神经过程(CNP)模型。我们的架构采用了图神经网络的最新进展,以处理不规则采样的功能。因此,我们将我们的模型称为条件图神经过程(CGNP)。图神经网络可以有效地利用度量空间的“局部”结构,在度量空间上定义函数/过程。本文的贡献是双重的:(i)一种新的基于图的编码器-解码器架构的功能和过程嵌入,以及(ii)使用度量空间的结构,这种类型的表示的重要性的演示。
2018-12-13 cs.AI cs.LG stat.ML
Sequential Decision Making on Unmatched Data using Bayesian Kernel Embeddings
University of Oxford(牛津大学);Carnegie Mellon University(卡内基梅隆大学)
顺序最大化函数期望的问题寻求最大化感兴趣的函数的期望值,而无需直接控制其特征。相反,这些特征的分布取决于给定的上下文和代理所采取的动作。与贝叶斯优化相反,函数的参数不受代理的控制,而是由代理基于给定上下文的动作间接确定。如果要将特征的信息包括在最大化问题中,则需要考虑这些特征的完整条件分布,而不仅仅是其期望。此外,该函数本身是未知的,仅对此类函数的噪声观测进行计数,并且可能需要使用不匹配的数据集。我们提出了一种新的算法,考虑到来自两个条件分布的特征和未知函数的估计的不确定性,通过建模前者作为贝叶斯条件均值嵌入和后者作为一个高斯过程。我们的算法在经验上优于目前最先进的算法在实验中进行。
2022-10-25 cs.LG stat.ML
SPIRE: Conditional Personalization for Federated Diffusion Generative Models
Department of Electrical and Computer Engineering, University of California Los Angeles(电气与计算机工程系,加州大学洛杉矶分校)
针对扩散模型规模过大难以实现联邦设备端个性化的问题,提出SPIRE框架,通过分解全局主干与轻量客户端嵌入实现参数高效微调,建立理论支撑,实验证明其适配新客户端性能优异且鲁棒。
2025-06-14 cs.LG stat.ML
Conditional Invertible Flow for Point Cloud Generation
Tooploox;University of Wrocław(弗罗茨瓦夫大学);Wrocław University of Science and Technology(弗罗茨瓦夫理工大学);NavAlgo
本文重点介绍了一种新的三维点云生成方法,利用可逆的流动为基础的模型。该方法的主要思想是将点云视为使用云特定的神经网络建模的3D空间中的概率密度。为了捕捉点云之间的相似性,我们依赖于网络之间的参数共享,每个云只有一个小的嵌入向量来定义它。我们使用可逆流网络来生成单个点云,并正则化嵌入向量。我们以定性和定量的方式评估模型的生成能力。
2019-10-16 cs.CV cs.LG stat.ML
Deep Nonparametric Conditional Independence Tests for Images
Humboldt-Universität zu Berlin(柏林洪堡大学);Hasso-Plattner-Institut for Digital Engineering(哈索·普拉特纳数字工程研究所)
针对图像等高维变量,提出深度非参数条件独立性检验(DNCITs),结合嵌入映射与非参数检验,并在模拟、UKB脑影像数据及混杂控制研究中验证其有效性,提供R包实现。
2024-11-09 cs.LG eess.IV math.ST
Joint Embedding Variational Bayes
University of Waterloo(滑铁卢大学);Department of Systems Design Engineering(系统设计工程系)
本文提出变分联合嵌入(VJE),一种无需重建的潜在变量框架,用于表示空间中的非对比自监督学习。通过直接在目标表示上定义条件似然,最大化对称的条件证据下界(ELBO),并利用极坐标分解分离角度一致性和幅度一致性,缓解范数诱导的病态问题。
2026-04-24 cs.LG stat.ML
Music Genre Classification using Masked Conditional Neural Networks
University of York(约克大学)
条件神经网络(CLNN)和掩蔽条件神经网络(MCLNN)利用多维时间信号的性质。CLNN捕获窗口中的帧之间的条件时间影响,并且MCLNN中的掩码在网络链路上执行遵循滤波器组样模式的系统稀疏性。该掩码诱导网络学习频带中的时频表示,从而允许网络维持频率偏移。此外,MCLNN中的掩码自动探索一系列特征组合,通常通过详尽的手动搜索完成。我们已经使用Ballroom和Homburg音乐流派数据集评估了MCLNN的性能。除了基于卷积神经网络的模型之外,MCLNN已经实现了与最先进的手工尝试相竞争的准确性。
2019-04-10 cs.LG stat.ML
Density-Matrix Spectral Embeddings for Categorical Data: Operator Structure and Stability
Universidad Cardenal Herrera-CEU, CEU Universities(卡德纳尔埃雷拉大学,CEU大学)
本文提出基于密度矩阵的类别数据降维方法,通过类条件频率构建密度矩阵,实现低维谱嵌入,并在高基数和不平衡数据上验证其有效性。
2026-03-02 cs.NA math.NA stat.ML
Conditional Forecasting of Margin Calls using Dynamic Graph Neural Networks
Università degli Studi di Milano(米兰大学);European Systemic Risk Board Secretariat, European Central Bank(欧洲系统性风险委员会秘书处、欧洲中央银行);ETH Zurich(苏黎世联邦理工学院)
本研究提出一种动态图神经网络架构,在利率互换交易网络模拟数据上验证其可准确预测21天内的净变动保证金,为金融压力测试和系统性风险监测提供新工具。
2024-10-30 cs.LG q-fin.RM stat.ML
Causal Adversarial Network for Learning Conditional and Interventional Distributions
Arizona State University(亚利桑那州立大学);Army Research Lab(陆军研究实验室)
我们提出了一个生成式因果对抗网络(CAN),用于从条件和干预分布中学习和采样。与需要给出因果图的现有CauseGAN相比,我们提出的框架从数据中学习因果关系并相应地生成样本。建议的CAN包括一个双重的过程,即标签生成网络(LGN)和条件图像生成网络(CIGN)。LGN是一种基于GAN的架构,它通过标签从因果模型中学习和采样。然后将采样的标签馈送到CIGN,CIGN是一种条件GAN架构,它学习标签和像素以及像素本身之间的关系,并基于它们生成样本。该框架配备了干预机制,可以实现。该模型用于从介入分布生成样本。我们定量和定性地评估CAN的性能,并根据经验表明,我们的模型能够生成干预性和条件性样本,而无需访问CelebA数据上人脸生成应用的因果图。
2020-09-21 cs.LG stat.ML
Conditions Under Which Conditional Independence and Scoring Methods Lead to Identical Selection of Bayesian Network Models
City University, London(伦敦城市大学)
在处理从数据推断贝叶斯网络结构的任务的论文中,经常提到有两种不同的方法:(i)在测试边缘的存在或其他情况时应用条件独立性测试;(ii)使用评分度量搜索模型空间。在这里,我认为,对于完整的数据和一个给定的节点排序这种分工是一个神话,通过显示,交叉熵方法检查条件独立性是数学上相同的方法的基础上区分模型的整体拟合优度对数得分。
2013-01-10 cs.AI cs.LG stat.ML
Environmental Sound Recognition using Masked Conditional Neural Networks
University of York(约克大学)
用于声音识别的基于神经网络的体系结构通常是从其他应用领域改编而来的,这些应用领域可能不会利用声音相关的属性。条件神经网络(CLNN)被设计为考虑时间信号中跨帧的关系属性,其扩展掩蔽条件神经网络(MCLNN)在网络中嵌入滤波器组行为,这强制网络在频带而不是频段中学习。此外,它自动探索不同的特征组合,类似于手工制作识别任务的最佳特征组合。我们将MCLNN应用于ESC-10数据集的环境声音。与最先进的卷积神经网络和手工制作的尝试相比,MCLNN实现了具有竞争力的准确性。
2019-04-11 cs.LG cs.SD eess.AS
Conditional Distribution Function Estimation Using Neural Networks for Censored and Uncensored Data
神经网络的大多数工作集中在估计一个连续的响应变量的条件均值给定的一组协变量。在这篇文章中,我们考虑使用神经网络估计的条件分布函数的删失和未删失数据。该算法是建立在专门为Cox回归与时间相关的协变量构建的数据结构。在不强加任何模型假设的情况下,我们考虑了一个基于全似然的损失函数,其中条件风险函数是唯一未知的非参数参数,可以应用无约束优化方法。通过仿真研究,我们表明所提出的方法具有令人满意的性能,而部分似然方法和传统的神经网络与$L_2$损失产生偏差的估计模型的假设被违反时.我们进一步说明了所提出的方法与几个现实世界的数据集。在https://github.com/bingqing0729/NNCDE上提供了所提出的方法的实施。
2022-07-06 stat.ME stat.ML