A Simple Unified Approach to Testing High-Dimensional Conditional Independences for Categorical and Ordinal Data
Radboud University(拉德堡德大学)
本文提出一种简单统一的高维条件独立性检验方法,适用于分类和有序数据,在稠密图模型检验与结构学习中优于现有基线,并兼具易实现、对称性和合理计算成本等优点。
2022-12-22 cs.LG stat.ML
C-ShipGen: A Conditional Guided Diffusion Model for Parametric Ship Hull Design
Massachusetts Institute of Technology(麻省理工学院)
本文提出条件引导扩散模型C-ShipGen,在给定主尺度等约束下生成低阻力船体设计,无需重新训练,五个测试用例中总阻力较优化船体降低超过25%,可显著缩短船舶设计周期。
2024-05-10 cs.CE cs.LG cs.SY
Causal Discovery via Conditional Independence Testing with Proxy Variables
Peking University(北京大学);Fudan University(复旦大学)
本文针对连续变量因果发现中未观测混杂导致的偏差问题,提出一种基于离散化和代理变量的非参数条件独立性检验方法,并证明其渐近性质,在合成与真实数据上验证了有效性。
2024-05-02 cs.LG stat.ME
Feature Shift Detection: Localizing Which Features Have Shifted via Conditional Distribution Tests
Purdue University(普渡大学)
虽然以前的分布偏移检测方法可以识别是否发生了偏移,但这些方法无法定位哪些特定特征导致了分布偏移-这是诊断或修复任何潜在问题的关键步骤。例如,在军事传感器网络中,用户将希望检测何时一个或多个传感器已被破坏,并且关键的是,他们将希望知道哪些特定传感器可能被破坏。因此,我们首先定义了一个形式化的多个条件分布假设检验,并提出了非参数和参数统计检验的问题。为了提高效率和灵活性,我们建议使用基于密度模型得分函数(即相对于输入的梯度)的测试统计量-它可以在单个向前和向后传递中轻松计算所有维度的测试统计量。任何密度模型都可以用于计算必要的统计数据,包括深度密度模型,如归一化流或自回归模型。我们还开发了用于识别多变量时间序列数据中何时何地发生变化的方法,并使用模拟和真实世界数据上的真实攻击模型显示多个场景的结果。
2021-07-14 cs.LG stat.ML
Treeffuser: Probabilistic Predictions via Conditional Diffusions with Gradient-Boosted Trees
Columbia University(哥伦比亚大学);Fero Labs(费罗实验室)
Treeffuser提出一种结合条件扩散模型与梯度提升树的表格数据概率预测方法,实现非参数、易训练且校准良好的预测分布,在合成与真实数据上优于现有方法,并成功应用于Walmart库存分配。
2024-10-22 cs.LG stat.ML
Noise Flow: Noise Modeling with Conditional Normalizing Flows
York University(约克大学);Borealis AI(Borealis人工智能公司);Samsung AI Center(三星人工智能中心)
图像噪声的建模与合成是计算机视觉应用中的一个重要方面。文献中广泛使用的长期存在的加性白高斯和异方差(信号相关)噪声模型只提供了真实传感器噪声的粗略近似。本文介绍了噪声流,一个强大的和准确的噪声模型的基础上,最近归一化流架构。噪声流结合了完善的基本参数噪声模型(例如,信号相关的噪声)与规范化流网络的灵活性和表现力。其结果是一个单一的,全面的,紧凑的噪声模型包含少于2500个参数,但能够代表多个相机和增益因子。Noise Flow显著优于现有的噪声模型,比相机校准的噪声水平函数提高了0.42 nats/像素,这意味着采样噪声的可能性提高了52%。Noise Flow是第一次认真尝试超越简单的参数模型,利用深度学习和数据驱动的噪声分布的力量。
2019-08-22 cs.CV cs.LG eess.IV
VaPar Synth -- A Variational Parametric Model for Audio Synthesis
Indian Institute of Technology Bombay(印度理工学院孟买分校);ENS Paris-Saclay(巴黎-萨克雷高等师范学院)
随着数据驱动的统计建模和丰富的计算能力的出现,研究人员越来越多地转向深度学习来进行音频合成。这些方法试图直接在时域或频域中对音频信号进行建模。为了更灵活地控制所生成的声音,利用更直接地对应于诸如音高、动态和音色的音乐属性的信号的参数表示来工作可能更有用。我们提出了VaPar合成器-变分参数合成器,它利用一个条件变分自动编码器(CVAE)训练一个合适的参数表示。我们证明了我们提出的模型的能力,通过重建和生成的乐器音调灵活控制其音高。
2020-03-30 cs.LG cs.SD eess.AS
Simulating Tariff Impact in Electrical Energy Consumption Profiles with Conditional Variational Autoencoders
EDF R&D(法国电力集团研发部);Laboratoire de mathématiques d’Orsay(奥赛数学实验室);Université Paris-Sud(巴黎南大学);CNRS(法国国家科学研究中心);Université Paris-Saclay(巴黎萨克雷大学);INRIA(法国国家信息与自动化研究所);Département d’Informatique de l’École Normale Supérieure(巴黎高等师范学院计算机系);PSL Research University(巴黎文理研究大学);INESC Technology and Science (INESC TEC)(INESC科技与科学研究所(INESC TEC))
家庭用电的有效需求响应(DR)计划的实施将受益于能够模拟不同电价计划影响的数据驱动方法。本文提出了一种新的方法,基于条件变分自编码器(CVAE)生成,从电价配置文件结合外源天气和日历变量,每日消费配置文件的消费者划分在不同的集群。首先,根据消费者的消费行为和价格反应性,将大量的消费者聚集到集群中。聚类方法基于因果关系模型,该模型衡量特定关税对消费水平的影响。然后,使用CVAE为每个集群生成每日电能消耗曲线。这种非参数的方法相比,半参数数据生成器的基础上广义可加模型,并使用先验知识的能源消耗。在公开数据集上的实验表明,该方法在生成原始数据的平均值时表现出与半参数方法相当的性能。这种新方法的主要贡献是能够在生成的消费概况中再现反弹和副作用。事实上,在一个时间窗口内实施特别电费也可能影响这一时间窗口之外的消费。另一个贡献是聚类方法根据消费者的日常消费情况和对关税变化的弹性对消费者进行细分。这两个结果相结合是非常相关的系统运营商,零售商和能源监管机构的未来DR政策的事前测试。
2020-06-10 cs.LG eess.SP stat.ML
A non-parametric conditional factor regression model for high-dimensional input and response
University of Technology, Sydney(悉尼科技大学)
在本文中,我们提出了一个非参数条件因子回归(NCFR)模型的输入和响应的高维域。NCFR以两种方式增强了线性回归:a)引入低维潜在因子,导致降维; b)将印度巴菲特过程(Indian Buffet Process)集成为潜在因子的先验,以导出无限稀疏维度。实验结果比较NCRF的几个替代品提供证据显着的预测性能。
2013-07-02 cs.LG stat.ML
Loss-Conditional PINNs for Parametric PDE Families
Faculty of Computer Science HSE University(俄罗斯莫斯科高等经济学院计算机科学系);VK and HSE University(VK与莫斯科高等经济大学)
提出LC-PINN,通过将损失权重或物理系数作为网络输入并随机采样,实现单一模型参数化整个PDE族,无需配对数据,在多个参数化方程上匹配或优于逐权重重训练的PINN基线。
2026-06-03 cs.LG
Non-Parametric Rehearsal Learning via Conditional Mean Embeddings
National Key Laboratory for Novel Software Technology, Nanjing University, China(南京大学新型软件技术国家重点实验室);School of Artificial Intelligence, Nanjing University, China(南京大学人工智能学院)
本文提出一种非参数化重现学习方法,通过条件均值嵌入处理动作诱导的分布变化,解决避免不良未来问题,无需假设数据生成过程的具体形式。
2026-05-09 cs.LG
More Powerful Conditional Selective Inference for Generalized Lasso by Parametric Programming
Nagoya Institute of Technology(名古屋工业大学);RIKEN(理化学研究所)
条件选择性推理作为一种新的数据驱动假设的统计推断框架,已经得到了广泛的研究。条件SI的基本概念是使推理以选择事件为条件,这使得即使在基于数据选择假设时也能够进行准确和有效的统计推断。条件SI主要是在模型选择的背景下研究的,如香草套索或广义套索。现有方法的主要限制是由于过度调节而导致的低统计功效,这是计算易处理性所需的。在这项研究中,我们提出了一个更强大的和一般的条件SI方法的一类问题,可以转化为二次参数规划,其中包括广义套索。该方法的核心思想是计算最优解在所选检验统计量方向上的连续路径,并根据该路径识别出与模型选择事件相对应的数据空间子集,从而避免了上述过度条件化的主要缺点,同时在多个方面提高了SI的性能和实用性.我们进行了几个实验来证明我们所提出的方法的有效性和效率。
2021-05-11 cs.LG stat.ML
Conditional simulation via entropic optimal transport: Toward non-parametric estimation of conditional Brenier maps
CalTech(加州理工学院);Center for Data Science, New York University(纽约大学数据科学中心);Massachusets Institute of Technology(麻省理工学院);Courant Institute of Mathematical Sciences, New York University(纽约大学柯朗数学科学研究所)
针对条件模拟中条件 Brenier 映射缺乏统计与算法保证的问题,提出基于熵最优传输的非参数估计器,利用缩放二次成本下最优传输映射的渐近收敛性,并在基准数据集上验证了其性能。
2024-11-11 cs.LG math.OC stat.ML
Distributionally Robust Local Non-parametric Conditional Estimation
Stanford University(斯坦福大学);HEC Montréal(蒙特利尔高等商学院)
给定特定协变量值的条件估计(即,局部条件估计或函数估计)对于工程、社会和自然科学中的应用是普遍有用的。现有的数据驱动的非参数估计主要集中在结构化的同质数据(例如,弱独立和稳定的数据),因此它们对对抗性噪声敏感,并且在低样本量下可能表现不佳。为了缓解这些问题,我们提出了一种新的分布鲁棒估计,通过最小化Wasserstein模糊集中所有对抗分布的最坏情况条件预期损失来生成非参数局部估计。我们表明,尽管一般是棘手的,本地估计可以有效地找到通过凸优化广泛适用的设置下,它是强大的腐败和异质性的数据。合成和MNIST数据集的实验表明,这类新的估计的竞争力。
2020-10-12 cs.LG math.ST stat.ML
Beyond Time Induction: Structured Conditional Neural Solvers for Parametric Stochastic-Volatility Pricing
University College London(伦敦大学学院);Aicraft
该研究针对参数随机波动率定价问题,提出结构化条件神经求解器BeTINN,在Heston随机波动率PDE上验证其可提升归一化期权价值与关键敏感性指标的联合精度,为结构化条件适应性及导数感知评估提供支撑。
2026-10-15 cs.CE cs.LG q-fin.CP
An implicit function learning approach for parametric modal regression
Univ. of Alberta(阿尔伯塔大学);Amii(阿尔伯塔机器智能研究院);Vector Institute(向量研究所);Univ. of Toronto(多伦多大学)
对于多值函数-例如当给定输入的目标上的条件分布是多模态时-标准回归方法并不总是可取的,因为它们提供了条件均值。模态回归算法通过找到条件模式来解决这个问题。然而,大多数方法都是非参数方法,因此很难扩展。此外,参数逼近器,如神经网络,有助于学习输入和目标之间的复杂关系。在这项工作中,我们提出了一个参数模态回归算法。我们使用隐函数定理来开发一个目标,用于学习输入和目标上的联合函数。我们在几个合成问题上经验性地证明了我们的方法(i)可以学习多值函数并产生条件模式,(ii)可以很好地扩展到高维输入,(iii)甚至可以更有效地处理某些单峰问题,特别是高频函数。我们证明了我们的方法在现实世界的模态回归问题和两个常规回归数据集上具有竞争力。
2020-10-29 cs.LG stat.ML
Discriminative conditional restricted Boltzmann machine for discrete choice and latent variable modelling
Ryerson University(瑞尔森大学);Polytechnique Montréal(蒙特利尔高等理工学院)
估计潜在行为的传统方法通常使用主观的态度问题,并且这些调查问题可能并不总是可用的。我们假设,另一种方法可以用于潜变量估计通过无向图形模型。例如,非参数人工神经网络。在这项研究中,我们探索使用生成非参数建模方法来估计潜变量的先验选择分布,而无需传统的使用测量指标。一个受限制的玻尔兹曼机被用来表示潜在的行为因素,通过分析观察到的选择和解释变量之间的关系信息。该算法适用于离散选择场景中的潜在行为分析,我们使用一种图形化的方法来评估和理解估计参数向量值的语义含义。我们说明了我们的方法在金融工具选择数据集上,并对参数的敏感性和稳定性进行统计分析。我们的研究结果表明,通过非参数统计检验,我们可以提取有用的潜在信息的行为的潜在结构,通过机器学习方法,并提出强大的和显着的影响选择过程。此外,我们的建模框架通过采样和验证显示了输入可变性的鲁棒性。
2017-06-01 cs.LG
Deep Multivariate Models with Parametric Conditionals
Dresden University of Technology(德累斯顿技术大学);Czech Technical University in Prague(布拉格捷克技术大学)
本文提出了一种基于参数条件的深度多变量模型,通过联合概率分布的条件表示提升模型在多种下游任务中的适用性,并利用马尔可夫链核进行学习。
2026-02-02 cs.LG stat.ML
Deep Learning Methods for the Noniterative Conditional Expectation G-Formula for Causal Inference from Complex Observational Data
CAUSALab(因果实验室);Harvard T.H. Chan School of Public Health(哈佛陈曾熙公共卫生学院)
针对传统参数化NICE G公式估计量易因模型误设产生因果估计偏差的问题,提出基于多任务循环神经网络的深度学习框架,在含不同时间依赖的模拟数据中实现了更低的生存结局因果效应估计偏差,降低了对模型误设的敏感性。
2024-10-28 cs.LG stat.ML
Neural-Kernelized Conditional Density Estimation
NAIST(奈良先端科学技术大学院大学);UCL(伦敦大学学院);Univ. Helsinki(赫尔辛基大学)
条件密度估计是解决机器学习中各种问题的通用框架。在现有的方法中,非参数和/或基于核的方法通常难以用于大型数据集,而基于神经网络的方法通常对概率密度进行限制性的参数假设。在这里,我们提出了一种新的方法来估计基于得分匹配的条件密度。与现有的方法相比,我们采用可扩展的神经网络,但不做明确的参数假设密度。将分数匹配应用于神经网络的关键挑战是计算对数密度模型的一阶和二阶导数。我们通过开发一种新的神经核化方法来解决这一挑战,该方法可以应用于具有随机梯度下降的大型数据集,而再生核允许轻松计算分数匹配所需的导数。我们证明了神经核函数逼近器具有通用的逼近能力,并且我们的方法在条件密度估计中是一致的。数值结果表明,我们的方法是有用的高维条件密度估计,并与现有的方法相比毫不逊色。最后,我们证明了所提出的方法有有趣的连接到两个概率原则框架的表示学习:非线性充分降维和非线性独立成分分析。
2018-06-05 cs.LG stat.ML
Gaussian Joint Embeddings For Self-Supervised Representation Learning
本文提出基于生成联合建模的高斯联合嵌入(GJE)和其多模态扩展GMJE,通过联合密度建模替代黑盒预测,实现对潜在空间几何的控制,并解决传统方法在多模态逆问题中的局限性。
2026-03-26 cs.LG
Deep Conditional Transformation Models
KOF Swiss Economic Institute, ETH Zurich(瑞士经济研究所,苏黎世联邦理工学院);University of Zurich(苏黎世大学);LMU Munich(慕尼黑大学)
学习结果变量的累积分布函数(CDF)以一组特征为条件仍然具有挑战性,特别是在高维环境中。条件转换模型提供了一种半参数方法,允许在没有明确的参数分布假设和只有几个参数的情况下对一大类条件CDF进行建模。然而,这类现有的估计方法要么在其复杂性和对非结构化数据源(如图像或文本)的适用性方面受到限制,要么缺乏可解释性,要么仅限于某些类型的结果。我们通过引入深度条件转换模型来缩小这一差距,该模型统一了现有方法,并允许在一个整体框架中学习可解释的(非)线性模型项和更复杂的神经网络预测器。为此,我们提出了一种新的网络架构,提供不同的模型定义的细节,并推导出合适的约束条件以及网络正则化条款。我们通过数值实验和应用证明了我们的方法的有效性。
2021-04-06 cs.LG stat.ML
Efficient distributional regression trees learning algorithms for calibrated non-parametric probabilistic forecasts
Swiss Data Science Center(瑞士数据科学中心);EPFL(瑞士联邦理工学院);ETH Zürich(苏黎世联邦理工学院)
本文提出高效算法用于校准非参数概率预测,通过min-max堆等数据结构提升计算效率,展示其在WIS和CRPS损失函数下的竞争力,并利用树结构实现可解释的群体条件覆盖保障。
2026-05-13 cs.DS cs.LG
Reduced Order Models and Conditional Expectation -- Analysing Parametric Low-Order Approximations
Institute of Scientific Computing, Technische Universität Braunschweig(布伦瑞克工业大学科学计算研究所)
本文将参数化降阶模型视为参数到低维流形的映射,并将其与机器学习中通过最小化均方误差逼近条件期望的训练过程相联系,从而为统一分析及推广损失函数提供视角。
2025-02-13 cs.LG cs.NA math.NA
Context models on sequences of covers
我们提出了一类模型,通过一个简单的结构,使精确的,增量的,非参数的,多项式时间,贝叶斯推断的条件措施。该方法依赖于在条件变量上创建一系列覆盖,并为覆盖内的每个集合维护不同的模型。通过在覆盖序列内指定随机游动的概率模型,推理仍然是容易处理的。我们证明了问题的条件密度估计,这是我们所知的第一个封闭形式,非参数贝叶斯方法来解决这个问题的方法。
2011-05-30 cs.LG stat.ML
Hypothesis Testing for Class-Conditional Noise Using Local Maximum Likelihood
University of Bristol(布里斯托大学);GSK(葛兰素史克)
针对现有类别条件标签噪声假设检验依赖过强参数假设、易出现模型误设的问题,提出基于局部最大似然估计的非参数逻辑回归检验方法,拓展了检验适用范围,并通过实验验证了其优劣。
2023-12-15 cs.LG stat.ML
Vectorized Conditional Neural Fields: A Framework for Solving Time-dependent Parametric Partial Differential Equations
University of Stuttgart(斯图加特大学);Stuttgart Center for Simulation Science (SimTech)(斯图加特模拟科学中心);International Max Planck Research School for Intelligent Systems (IMPRS-IS)(国际马克斯·普朗克智能系统研究院)
针对现有Transformer类PDE求解方法存在的二次复杂度及缺少理想代理模型特性的问题,提出可并行计算多查询点解、结合注意力机制与双条件约束的VCNeFs框架,实验证明其性能优于多数现有ML代理模型。
2024-07-13 cs.AI cs.CV cs.LG
Identification and Estimation of Conditional Average Partial Causal Effects via Instrumental Variable
Yokohama National University(横滨国立大学);Iowa State University(爱荷华州立大学)
本文研究了连续处理下揭示异质因果效应的条件平均部分因果效应(CAPCE),在工具变量设定下提供了较以往更弱假设的识别条件,并开发了sieve、参数化和基于RKHS的三类估计器且验证了其有效性。
2024-05-30 cs.LG stat.ML