Conformal Prediction Assessment: A Framework for Conditional Coverage Evaluation and Selection
Qiuzhen College, Tsinghua University（清华大学求真书院）；Yau Mathematical Sciences Center, Tsinghua University（清华大学丘成桐数学科学中心）
本文提出CPA框架，通过训练可靠性估计器评估条件覆盖，引入CVI指数分解可靠性并证明其一致性，实验表明CPA能有效诊断局部失效模式。
2026-03-28 cs.LG stat.ME stat.ML
Feature Selection in Conditional Random Fields for Map Matching of GPS Trajectories
GPS轨迹的地图匹配服务于从噪声GPS观测序列中恢复道路网络上的原始路线的目的。它是许多基于位置的服务的基础技术。然而，低采样率的城市道路网地图匹配仍然是一个具有挑战性的任务。本文研究了条件随机场在引入大量上下文特征和特征选择方面的特点，并将其应用于低采样率下的GPS轨迹地图匹配。出租车轨迹数据集上的实验表明，我们的方法可以实现有竞争力的结果，以及成功地降低模型的复杂性计算有限的应用程序。
2014-09-02 cs.AI cs.LG stat.ML
Discovering Conditionally Salient Features with Statistical Guarantees
Stanford University（斯坦福大学）
特征选择的目标是识别与解释结果变量相关的重要特征。这个领域的大部分工作都集中在识别全局相关特征上，这些特征是使用整个数据集的证据与结果相关的特征。我们研究了一个更细粒度的统计问题：条件特征选择，其中一个特征可能是相关的，这取决于其他特征的值。例如，在遗传关联研究中，变体$A$可能与整个数据集中的表型相关，但以变体$B$存在为条件，它可能与表型无关。在这个意义上，变体$A$是全局相关的，但是以$B$为条件，它在特征空间的该区域中不再是局部相关的。我们提出了一个概括的敲除过程，执行条件特征选择，同时控制概括的错误发现率（FDR）的条件设置。通过利用特征/响应无模型框架的仿冒品，即使当我们执行条件特征选择时，统计FDR保证的质量也不会降低。我们实现了这种方法，并提出了一种算法，自动划分的特征空间，使其增强在不同区域的选择集之间的差异，并验证了统计理论的结果与实验。
2019-05-29 cs.LG stat.ML
Conditional mean embeddings and optimal feature selection via positive definite kernels
The University of Iowa（爱荷华大学）；Southern Illinois University Edwardsville（南伊利诺伊大学爱德华兹维尔分校）；Mathematical Reviews（数学评论）
本文提出基于谱分析和正定核凸集优化的新算子方法，用于条件均值嵌入和最优特征选择，通过二次优化核选择实现特征表示。
2023-05-14 cs.LG math.FA
Stochastic Conditional Gradient++
University of Pennsylvania（宾夕法尼亚大学）；Yale University（耶鲁大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
在本文中，我们考虑一般的非遗忘随机最优化的基础随机性可能会改变在优化过程中，并取决于点的功能是评估。我们开发了随机Frank-Wolfe++（$\text{SFW}{++} $），条件梯度法的一个有效的变种，用于最小化受凸体约束的光滑非凸函数。利用$O(1/ε^3)$随机梯度证明了$\text{SFW}{++} $收敛于$ε$ -一阶稳定点.一旦有了进一步的结构，$\text{SFW}{++}$的理论保证，就其解的收敛速度和质量而言，都会提高。特别地，为了使凸函数最小化，当使用$O(1/ε^2)$随机梯度时，$\text{SFW}{++} $实现$ε$近似最优。据了解，这个速率是最佳的随机梯度评估。类似地，为了最大化单调连续DR-次模函数，$\text{SFW}{++} $的稍微不同的形式，称为随机连续贪婪++（$\text{SCG}{++} $），在使用$O(1/ε^2)$随机梯度时实现了紧$[(1-1/e)\text{OPT} -ε]$解。通过信息论的论证，我们还证明了$\text{SCG}{++} $的收敛速度是最优的。最后，对于非单调连续DR-次模函数的最大化问题，我们可以利用$O(1/ε^2)$随机梯度得到一个$[(1/e)\text{OPT} -ε]$解。我们应该强调的是，我们的结果和我们的新的方差减少技术平凡地扩展到标准和更容易遗忘的随机最优化设置（非）凸和连续sub…
2020-09-08 cs.LG math.OC
Conditional Inference Trees and Forests for Feature Selection
Amazon Web Services（亚马逊云服务）
研究条件推理树和森林作为top-k特征排序方法，通过实验验证其性能，发现Bonferroni校正和自适应停止对运行时间影响显著，而森林特征采样可能遗漏重要特征。
2026-07-03 cs.LG stat.ML
Conditional Mean and Variance Estimation via \textit{k}-NN Algorithm with Automated Variance Selection
Harvard T.H. Chan School of Public Health（哈佛大学T.H. Chan公共卫生学院）；University of Santiago de Compostela（圣西蒙大学）；University of California, Los Angeles（加州大学洛杉矶分校）
提出一种结合数据驱动变量选择的k-NN回归方法，联合估计条件均值与方差，实现快速收敛并在模拟和生物医学应用中优于传统k-NN。
2025-10-27 cs.LG stat.CO stat.ME
Markov Blanket Ranking using Kernel-based Conditional Dependence Measures
University of Pittsburgh School of Medicine（匹兹堡大学医学院）
开发特征选择算法，超越纯粹的相关性，对观测数据进行更具因果性的分析，是科学中的一个重要问题。有几种算法试图通过发现目标的马尔可夫毯来做到这一点，但它们都包含一个前向选择步骤，变量必须通过该步骤才能被包括在条件集中。因此，这些算法可能不会考虑所有可能的条件多变量组合。我们提出了一个向后消除方法，使用基于核的条件依赖措施，以确定马尔可夫毯在一个完全多变量的方式来改善这个限制。该算法易于实现，并在合成数据集和真实数据集上与其他方法进行了比较。
2014-05-03 cs.LG stat.ML
Information-theoretic Feature Selection via Tensor Decomposition and Submodularity
University of Virginia（弗吉尼亚大学）；University of Minnesota（明尼苏达大学）
通过最大化所选特征向量与目标变量之间的高阶互信息进行的特征选择是在选择最大化预测模型性能的相关特征的最佳子集方面的黄金标准。然而，这种方法通常需要所有特征和目标的多变量概率分布的知识，并且涉及具有挑战性的组合优化问题。最近的工作表明，任何联合概率质量函数（PMF）都可以通过正则多元（张量秩）分解表示为朴素贝叶斯模型。在本文中，我们引入了一个低秩张量模型的联合PMF的所有变量和间接目标作为一种方式，以减轻复杂性和最大限度地提高分类性能的给定数量的功能。通过对联合PMF进行低秩建模，可以通过学习联合分布的主成分来规避维度灾难。通过间接地预测朴素贝叶斯模型的潜在变量而不是原始目标变量，可以将特征选择问题公式化为服从基数约束的单调子模函数的最大化-这可以使用具有性能保证的贪心算法来解决。几个标准数据集的数值实验表明，所提出的方法相比有利的最先进的这个重要的问题。
2020-10-30 cs.LG stat.ML
Estimating Conditional Mutual Information for Dynamic Feature Selection
Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）
本文面向动态特征选择，提出以判别式方法估计特征与响应变量的条件互信息，并扩展支持可变预算、非均匀成本、先验信息和部分输入，实验显示其性能稳定优于近期方法。
2024-09-08 cs.IT cs.LG math.IT
Efficient Approximate Solutions to Mutual Information Based Global Feature Selection
Arizona State University（亚利桑那州立大学）；Bosch Research and Technology Center（博世研究与技术中心）；University of Michigan（密歇根大学）
互信息（MI）在开发分类器模型时经常用于特征选择。估计MI的一个子集的功能往往是棘手的。我们证明，在条件独立的假设下，一个子集的功能之间的MI可以表示为条件互信息（CMI）对功能之间。但是选择具有最高CMI的特征被证明是一个很难的组合问题。在这项工作中，我们采用了两个独特的全球方法，截断功率方法（TPower）和低秩双线性近似（LowRank），解决特征选择问题。这些算法提供了很好的近似NP-难CMI的特征选择问题。我们通过实验证明了这些程序在多个数据集上的有效性，并将其与现有的基于MI的全局和迭代特征选择程序进行了比较。
2017-06-23 cs.LG stat.ML
Generating Diverse and Consistent QA pairs from Contexts with Information-Maximizing Hierarchical Conditional VAEs
KAIST（韩国科学技术院）；AITRICS；Maru Inc（42Maru公司）
问答（QA）中最关键的挑战之一是标记数据的稀缺性，因为使用人工注释获得目标文本域的问答（QA）对的成本很高。解决这个问题的另一种方法是使用从问题上下文或大量非结构化文本（例如维基百科）自动生成的QA对。在这项工作中，我们提出了一个分层的条件变分自编码器（HCVAE）生成QA对给定的非结构化文本作为上下文，同时最大限度地提高生成的QA对之间的互信息，以确保其一致性。我们在几个基准数据集上验证了我们的信息最大化分层条件变分自编码器（Info-HCVAE），方法是仅使用生成的QA对（基于QA的评估）或使用生成的和人类标记的对（半监督学习）进行训练，以评估QA模型（BERT基础）的性能。结果表明，我们的模型在两个任务的所有基线上都获得了令人印象深刻的性能增益，只使用了一小部分数据进行训练。
2020-06-15 cs.CL cs.LG
Towards Dynamic Feature Acquisition on Medical Time Series by Maximizing Conditional Mutual Information
ETH Zurich（苏黎世联邦理工学院）；ETH AI Center（苏黎世联邦理工学院人工智能中心）；Helmholtz AI（亥姆霍兹人工智能研究所）；Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对医学时间序列，提出一种通过最大化条件互信息、仅用下游损失端到端训练的动态特征获取方法，优于随机策略，匹配无限制预算模型，但未超越静态策略。
2024-07-18 cs.AI cs.LG
Maximizing Conditional Independence for Unsupervised Domain Adaptation
Sun Yat-Sen University（中山大学）
无监督领域自适应研究如何将学习器从一个有标记的源域迁移到一个具有不同分布的未标记目标域。现有的方法主要集中在匹配源域和目标域的边缘分布，这可能会导致来自同一类但不同域的样本不对齐。在本文中，我们处理这种错位，从一个新的角度实现类条件转移。我们的目标是在再生核Hilbert空间中最大化给定类的特征和域的条件独立性。条件独立性度量的优化可以看作是最小化特征和域之间的某种互信息的替代。一个可解释的经验估计的条件依赖推导和连接的无条件的情况下。此外，我们还考虑了类条件分布，给出了目标误差的上界，这为大多数类条件转移方法提供了一个新的理论视角。除了无监督的领域自适应，我们将我们的方法扩展到多源的情况下，在一个自然和优雅的方式。在四个基准上的大量实验验证了所提出的模型在无监督领域自适应和多源领域自适应中的有效性。
2022-03-07 cs.CV cs.LG
Conditional Variable Selection for Intelligent Test
University of Stuttgart（斯图加特大学）；Advantest Europe GmbH（爱德万测试欧洲有限公司）
智能测试需要对大规模高维数据进行高效、有效的分析。传统上，分析通常由人类专家进行，但在大数据时代，它是不可扩展的。为了应对这一挑战，最近将变量选择引入智能测试。然而，在实践中，我们会遇到某些情况，其中某些变量（例如，被测设备的某些特定处理条件）必须在变量选择后保持不变。我们称之为条件变量选择，这对于嵌入式或基于深度学习的变量选择方法还没有得到很好的研究。在本文中，我们讨论了一种新的条件变量选择框架，可以选择最重要的候选变量给定一组预选变量。
2022-07-01 cs.LG
Experts in the Loop: Conditional Variable Selection for Accelerating Post-Silicon Analysis Based on Deep Learning
University of Stuttgart（斯图加特大学）；Advantest Europe GmbH（爱德万测试欧洲有限公司）
硅后验证是现代半导体制造中最关键的工艺之一。具体而言，正确和深入理解所制造器件的测试用例是实现硅后调整和调试的关键。该分析通常由经验丰富的人类专家执行。然而，随着半导体工业的快速发展，测试用例可以包含数百个变量。由此产生的高维性对专家提出了巨大的挑战。因此，一些最近的现有工作已经引入了数据驱动的变量选择算法来解决这些问题，并取得了显着的成功。然而，对于这些方法，专家不参与训练和推理阶段，这可能会导致偏见和不准确，由于缺乏先验知识。因此，这项工作的第一次旨在设计一种新的条件变量选择方法，同时保持专家在循环中。通过这种方式，我们希望我们的算法可以更有效地训练，以确定在某些专家知识下最关键的变量。大量的实验合成和真实世界的数据集，从工业已经进行，并显示了我们的方法的有效性。
2022-09-30 cs.LG
ProMix: Combating Label Noise via Maximizing Clean Sample Utility
Zhejiang University（浙江大学）；Nanyang Technological University（南洋理工大学）；NetEase Fuxi AI Lab（网易伏羲人工智能实验室）
本文提出ProMix框架，通过匹配高置信度选择技术动态扩展干净样本集，并设计新型半监督学习框架训练无偏分类器，最大化干净样本效用以对抗标签噪声，在多个基准上取得显著提升。
2023-08-03 cs.LG
Class-Conditional Distribution Balancing for Group Robust Classification
Dalian University of Technology（大连理工大学）
本文提出了一种基于类别条件分布平衡的鲁棒分类方法，通过样本重新加权策略消除对偏见注释的依赖，有效消除虚假相关性，提升模型在现实世界中的泛化能力。
2025-12-01 cs.CV cs.LG
Big portfolio selection by graph-based conditional moments method
Shanghai University of Finance and Economics（上海财经大学）；University of Hong Kong（香港大学）
如何进行大投资组合选择是一个重要的问题，但对研究者和实践者来说都是一个挑战。在本文中，我们提出了一个新的基于图的条件矩（GRACE）方法来做投资组合选择的基础上，成千上万的股票或更多。GRACE方法首先通过因子增强的时间图卷积网络学习股票收益率的条件分位数和均值，该网络通过由来自领域知识的股票到股票关系集以及来自资产定价知识的因子到股票关系集构建的因子超图来指导学习过程。接下来，GRACE方法通过使用分位数条件矩（QCM）方法从学习到的条件分位数学习股票收益率的条件方差、偏度和峰度。QCM方法是一种有监督的学习过程来学习这些条件高阶矩，因此它在很大程度上克服了经典高维GARCH类方法的计算困难。此外，QCM方法允许在建模条件分位数在一定程度上，由于其回归为基础的性质的错误规范。最后，GRACE方法使用学习到的条件均值、方差、偏度和峰度来构造几个绩效指标，这些指标是对股票进行排序的标准，以在著名的10-decile框架中进行投资组合选择。NASDAQ和NYSE股票市场的应用程序表明，GRACE方法的性能远远优于其竞争对手，特别是当性能指标是由条件方差，偏度和峰度。
2023-01-27 cs.LG stat.ML
Information Subtraction: Learning Representations for Conditional Entropy
Tsinghua-Berkeley Shenzhen Institute（清华-伯克利深圳学院）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）；Tsinghua University（清华大学）
本文提出 Information Subtraction 框架，通过同时最大化和最小化信息项学习解耦表示，将条件信息移除扩展到连续变量，并在公平学习与领域泛化中验证有效。
2025-01-02 cs.LG
Learning conditional independence structure for high-dimensional uncorrelated vector processes
Aalto University（阿尔托大学）
我们制定和分析的图形模型选择方法推断的条件独立图的高维非平稳高斯随机过程（时间序列）从有限长度的观察。假设观察到的过程样本随时间不相关，并且具有随时间变化的边缘分布。该选择方法是基于测试的过程组件的小子集获得的条件方差。这允许应付高维制度，其中的样本量可以（大大）小于过程的尺寸。我们描述了所需的样本量，使得所提出的选择方法以高概率成功。
2016-09-13 cs.LG stat.ML
Conditional Uncorrelation and Efficient Non-approximate Subset Selection in Sparse Regression
Xi’an Jiaotong University（西安交通大学）；State Key Laboratory of Management and Control for Complex Systems（复杂系统管理与控制国家重点实验室）
给定$m$ $d$ -维响应变量和$n$ $d$ -维预测变量，稀疏回归为线性近似$1\leq k \leq d-1$的每个响应变量找到最多$k$预测变量.稀疏回归中的关键问题是子集选择，这通常具有很高的计算代价。近年来，提出了许多改进的近似子集选择方法。然而，非近似的子集选择方法却很少受到关注，而这对于数据分析中的许多问题是非常必要的。本文从相关性的角度考虑稀疏回归问题，给出了条件不相关性的计算公式。在此基础上，提出了一种有效的非近似子集选择方法，该方法不需要计算回归方程中的任何系数。通过该方法，稀疏回归中每个候选子集的计算复杂性从$O(\frac{1}{6}{k^3}+mk^2+mkd)$降低到$O(\frac{1}{6}{k^3}+\frac{1}{2}mk^2)$。由于维数$d$一般为观测或实验的个数且足够大，因此该方法可以大大提高非近似子集选择的效率。
2020-11-24 cs.LG stat.ML
Conditions Under Which Conditional Independence and Scoring Methods Lead to Identical Selection of Bayesian Network Models
City University, London（伦敦城市大学）
在处理从数据推断贝叶斯网络结构的任务的论文中，经常提到有两种不同的方法：（i）在测试边缘的存在或其他情况时应用条件独立性测试;（ii）使用评分度量搜索模型空间。在这里，我认为，对于完整的数据和一个给定的节点排序这种分工是一个神话，通过显示，交叉熵方法检查条件独立性是数学上相同的方法的基础上区分模型的整体拟合优度对数得分。
2013-01-10 cs.AI cs.LG stat.ML
Denoised Conformal Alignment for Reliable Selection of Conditional Average Treatment Effect Predictions
Shanghai Jiao Tong University（上海交通大学）；Shanghai University of Finance and Economics（上海财经大学）；National University of Defense Technology（国防科学技术大学）；School of Statistics and Data Science（统计与数据科学学院）；Institute of Big Data Research（大数据研究院）
针对选择性部署下边际保形保证无法控制选中子集可靠性的问题，提出去噪保形对齐方法，通过伪结果构建代理误差、减除条件方差分量，在控制FDR的同时大幅提升统计功效。
2026-07-07 cs.LG stat.ML
Informative Gene Selection for Microarray Classification via Adaptive Elastic Net with Conditional Mutual Information
Virginia State University（弗吉尼亚州立大学）；Henan Normal University（河南师范大学）
由于弹性网具有在弱正则化条件下获得更好性能的优点，在统计学、机器学习、生物信息学等领域引起了广泛的关注。特别地，弹性网的变型，自适应弹性网（AEN），集成了自适应分组效应。在本文中，我们的目标是开发一种新的算法：自适应弹性网与条件互信息（AEN-CMI），进一步提高AEN将条件互信息到基因选择过程。我们应用这种新算法来筛选两种癌症的重要基因：结肠癌和白血病。与支持向量机、经典弹性网和自适应弹性网等算法相比，AEN-CMI算法以最少的基因数获得了最好的分类性能。
2018-06-13 cs.IT cs.LG math.IT
Unbiased split variable selection for random survival forests using maximally selected rank statistics
University of KwaZulu-Natal（夸祖鲁-纳塔尔大学）
分析生存数据最常用的方法是Cox回归模型。然而，考克斯模型可能被错误地指定，其比例假设可能并不总是得到满足。生存预测的另一种方法是生存结果的随机森林。随机生存森林的标准分裂准则是对数秩检验统计量，它倾向于用许多可能的分裂点分裂变量。条件推理森林避免了这种分裂变量选择偏差。但是，默认情况下，在条件推断森林中使用线性秩统计量来选择最佳拆分变量，该变量无法检测自变量中的非线性效应。另一种方法是使用最大选择的秩统计量进行分裂点选择。与条件推断森林一样，拆分变量在p值尺度上进行比较。然而，在条件推理森林中使用的条件蒙特卡罗方法，而不是使用p值近似。我们描述了几个p值的近似和建议的随机森林方法的实施。模拟研究表明，无偏的分裂变量选择是可能的。然而，在无偏的分割变量选择和运行时间之间存在权衡。在模拟和真实数据集上的预测性能的基准研究中，如果将信息二分变量与具有更多类别的无信息变量相结合，则新方法的性能优于随机生存森林，并且如果包括非线性协变量效应，则优于条件推理森林。在运行时比较中，如果使用简单的p值近似，则该方法被证明在计算上比两种替代方法更快。
2018-05-16 cs.LG stat.ML
Adaptive Conditional Expert Selection Network for Multi-domain Recommendation
OPPO
针对多领域推荐中MOE方法存在的可扩展性差和区分度低问题，提出CESAA方法，通过条件专家选择模块和自适应专家聚合模块，在计算效率与模型性能间取得平衡。
2024-11-11 cs.IR cs.LG
A Method to Model Conditional Distributions with Normalizing Flows
University of Chicago（芝加哥大学）
在这项工作中，我们研究了使用规范化流模型的条件分布。特别是，我们使用我们提出的方法来分析逆问题的可逆神经网络通过最大化后验似然。我们的方法只使用一个单一的损失，是很容易的训练。这是对先前方法的改进，该方法用可逆神经网络解决类似的逆问题，但涉及几个损失项与ad-hoc加权的组合。此外，我们的方法提供了一个自然的框架，将条件规范化流，因此，我们可以训练一个可逆的网络进行条件生成。我们分析了我们的方法，并与以前的方法进行了仔细的比较。简单的实验表明了该方法的有效性，更全面的实验评估正在进行中。
2019-11-05 cs.CV cs.LG stat.ML
More Powerful Conditional Selective Inference for Generalized Lasso by Parametric Programming
Nagoya Institute of Technology（名古屋工业大学）；RIKEN（理化学研究所）
条件选择性推理作为一种新的数据驱动假设的统计推断框架，已经得到了广泛的研究。条件SI的基本概念是使推理以选择事件为条件，这使得即使在基于数据选择假设时也能够进行准确和有效的统计推断。条件SI主要是在模型选择的背景下研究的，如香草套索或广义套索。现有方法的主要限制是由于过度调节而导致的低统计功效，这是计算易处理性所需的。在这项研究中，我们提出了一个更强大的和一般的条件SI方法的一类问题，可以转化为二次参数规划，其中包括广义套索。该方法的核心思想是计算最优解在所选检验统计量方向上的连续路径，并根据该路径识别出与模型选择事件相对应的数据空间子集，从而避免了上述过度条件化的主要缺点，同时在多个方面提高了SI的性能和实用性.我们进行了几个实验来证明我们所提出的方法的有效性和效率。
2021-05-11 cs.LG stat.ML
Gaussian Experts Selection using Graphical Models
University of Tuebingen（图宾根大学）
局部近似是将高斯过程（GP）扩展到大数据的流行方法。局部近似通过将原始数据集划分为子集并在每个子集上训练局部专家来降低时间复杂度。假设专家之间的条件依赖性或独立性，聚合专家的预测。在专家之间施加\emph{conditional independence assumption}（CI）使得不同专家预测的聚合具有时间效率，但代价是不确定性量化较差。另一方面，建模依赖专家可以提供精确的预测和不确定性量化的代价不切实际的高计算成本。通过消除弱专家通过理论指导的专家选择步骤，我们大大降低了计算成本的聚集依赖的专家，同时确保校准的不确定性量化。我们利用无向图模型的文献中的技术，使用稀疏精度矩阵编码专家之间的条件依赖关系，以选择最重要的专家。莫列奥夫
2021-08-31 cs.LG stat.ML
Maximizing Mutual Information for Tacotron
Tencent AI Lab（腾讯人工智能实验室）；The Chinese University of Hong Kong（香港中文大学）
端到端的语音合成方法已经实现了接近人类质量的性能。然而，与基于HMM和基于NN的帧到帧回归方法相比，它们容易出现一些合成错误，如丢失或重复的单词和不完全的合成。我们将较高的话语错误率归因于条件自回归模型的局部信息偏好，以及模型的不适定训练目标，该目标主要描述自回归模块的训练状态，而很少描述条件模块的训练状态。受InfoGAN的启发，本文提出了在CAR语音合成模型中最大化文本条件与预测声学特征之间的互信息，以增强它们之间的依赖性，从而缓解局部信息偏好问题，降低发音错误率。最大化互信息的训练目标可以被认为是自回归模块和条件模块之间的依赖性的度量。实验结果表明，该方法可以有效地降低误发音率。
2019-11-18 cs.CL cs.LG cs.SD
Models and Selection Criteria for Regression and Classification
Microsoft Research（微软研究院）
当进行回归或分类时，我们感兴趣的是给定一组输入变量X的结果或类变量Y的条件概率分布。我们考虑贝叶斯模型来完成这项任务。特别是，我们研究了一类特殊的模型，我们称之为贝叶斯回归/分类（BRC）模型，它可以分解为独立的条件（y| x）和输入（x）模型。这些模型很方便，因为条件模型（我们关心的完整模型的一部分）可以自己分析。我们研究了将任意贝叶斯模型转换为BRC模型的做法，并认为这种做法通常是不合适的，因为它忽略了可能对学习很重要的先验知识。此外，我们还研究了从数据中学习模型的贝叶斯方法。我们讨论了适用于抑制/分类的贝叶斯模型选择的两个标准：Spiegelhalter等人（1993）和Buntine（1993）描述的一个。我们使用Dawid（1984）的前提框架对比了这两个准则，并给出了这两个准则一致的充分条件。
2013-02-06 cs.LG stat.ML
Using Weisfeiler-Leman Features for Algorithm Selection in Constraint Optimisation
University of Southern Denmark（南丹麦大学）
本文提出基于Weisfeiler-Leman的自动化特征提取方法，构建\texttt{WLc}割表示，在MiniZinc挑战赛实例上验证其在SVM等算法选择任务中优于传统特征，为约束优化算法选择提供新方案。
2026-10-09 cs.AI cs.LG
Conditional Visual Servoing for Multi-Step Tasks
University of Freiburg（弗莱堡大学）
视觉伺服已被有效地用于将机器人移动到特定的目标位置或跟踪记录的演示。它不需要手动编程，但通常限于一个演示映射到一个环境状态的设置。我们提出了一个模块化的方法来扩展视觉伺服的多个演示序列的情况下。我们称之为条件伺服，因为我们选择下一个演示条件的观察机器人。这种方法提出了一种有吸引力的策略来解决多步问题，因为单个演示可以灵活地组合成一个控制策略。我们提出了不同的选择函数，并比较它们在模拟的形状排序任务。与重投影误差产生最好的整体效果，我们实现了一个真正的机器人上的选择功能，并显示所提出的条件伺服的功效。有关我们实验的视频，请查看我们的项目页面：https://lmb.informatik.uni-freiburg.de/projects/conditional_servoing/
2022-05-17 cs.CV cs.LG cs.RO
Conditional independence for pretext task selection in Self-supervised speech representation learning
通过解决借口任务，自监督学习（SSL）利用未标记的数据来提取有用的潜在表示，以取代下游任务中的传统输入特征。一个常见的借口任务包括在从原始信号中导出的伪标签上预训练SSL模型。该技术特别与语音数据相关，其中各种有意义的信号处理特征可以用作伪标签。然而，为语音或其他类型的数据选择伪标签的过程仍然是未开发的，目前依赖于观察最终下游任务的结果。然而，由于大量的计算（因此碳）成本，这种方法在规模上是不可持续的。因此，本文介绍了一个实用的和理论的框架来选择相关的伪标签相对于一个给定的下游任务。更确切地说，我们提出了一个基于条件独立理论的伪标签效用函数估计器，它不需要任何训练。对说话人识别和自动语音识别进行的实验验证了我们的估计器，显示出在下游任务上观察到的性能与我们的方法获得的效用估计之间的显着相关性，促进了自监督语音表示学习的相关伪标签的前景。
2021-07-01 cs.LG cs.SD eess.AS
Iterative Conditional Fitting for Gaussian Ancestral Graph Models
University of Washington（华盛顿大学）
由Richardson和Spirtes（2002）引入的祖先图模型将马尔可夫随机场和贝叶斯网络推广到一类具有全局马尔可夫性的图，该全局马尔可夫性在条件和边缘化下是封闭的。通过设计，祖先图精确地编码了条件独立结构，这些结构可以从具有选择和未观察到的（隐藏/潜在）变量的贝叶斯网络中产生。因此，祖先图模型提供了一个潜在的非常有用的框架，探索性的模型选择时，未观察到的变量可能会参与数据生成过程，但没有特定的隐藏结构可以指定。本文提出了高斯祖先图模型中极大似然估计的迭代条件拟合（ICF）算法。该名称反映了在该过程的每一步中，在受到约束的情况下估计条件分布，而边缘分布保持固定。这种方法与著名的迭代比例拟合算法是对偶的，在迭代比例拟合算法中，边缘分布被拟合，而条件分布保持固定。
2012-07-11 cs.LG stat.ME stat.ML
Exact Learning Augmented Naive Bayes Classifier
The University of Electro-Communications（电气通信大学）
早期的研究表明，贝叶斯网络（BN）的分类精度通过最大化类变量的条件对数似然（CLL），给定的特征变量，比通过最大化边际似然（ML）获得的更高。然而，在早期的研究中，两个分数的表现之间的差异可能是由于他们使用近似学习算法，而不是精确的。本文比较了使用CLL近似学习的BN的分类精度与使用ML精确学习的BN的分类精度。结果表明，在大数据情况下，最大似然比最大似然比得到的贝叶斯网络的分类准确率要高。然而，结果也表明，使用ML的精确学习BN的分类精度比其他方法差得多时，样本量小，类变量有许多父母。为了解决这个问题，我们提出了一个精确学习的增强朴素贝叶斯分类器（ANB），它确保了一个类变量没有父母。所提出的方法是保证渐近估计的同类后，准确学习BN。对比实验证明了该方法的优越性能。
2021-07-07 cs.AI cs.LG stat.ML
