Deep Active Inference as Variational Policy Gradients
University of Edinburgh(爱丁堡大学)
主动推理是一种源自神经科学的行动理论,它将行动和规划视为一个贝叶斯推理问题,通过最小化单个量(变分自由能)来解决。主动推理承诺一个统一的行动和感知的帐户,加上生物学上合理的过程理论。尽管有这些潜在的优势,当前的主动推理实现只能处理小的、离散的策略和状态空间,并且通常需要知道环境动态。在本文中,我们提出了一种新的深度主动推理算法,该算法使用深度神经网络作为灵活的函数逼近器来近似密钥密度,这使得主动推理能够扩展到更大和更复杂的任务。我们在一套OpenAIGym基准测试任务上展示了我们的方法,并获得了与常见强化学习基线相当的性能。此外,我们的算法显示出与最大熵强化学习和策略梯度算法的相似性,这揭示了主动推理框架和强化学习之间有趣的联系。
2019-07-08 cs.LG cs.NE
ContraBAR: Contrastive Bayes-Adaptive Deep RL
Technion(以色列理工学院)
提出 ContraBAR 元强化学习算法,用对比预测编码 CPC 替代变分信念推断,并证明其表征足以实现贝叶斯最优性,可在线上、离线及图像观测场景中取得先进性能。
2023-06-04 cs.AI cs.LG stat.ML
Formal Models of Active Learning from Contrastive Examples
University of Waterloo(滑铁卢大学);MPI-INF(马克斯·普朗克研究所);Ruhr-University Bochum(波恩鲁尔大学);University of Chicago(芝加哥大学);University of Regina(里贾纳大学)
本文提出理论框架,正式研究对比示例对主动学习样本复杂度的影响,并揭示其与自导向学习模型的联系。
2025-06-18 cs.LG
Bayesian policy selection using active inference
Ghent University - imec(根特大学-imec)
学习根据观察采取行动是人工智能体能够成功和强大地完成任务的核心要求。强化学习(RL)是用于学习此类策略的众所周知的技术。然而,目前的强化学习算法通常必须处理奖励塑造,难以推广到其他环境,并且通常样本效率低下。在本文中,我们探讨了主动推理和自由能原理,这是一种来自神经科学的规范理论,它解释了自组织生物系统如何通过维护世界模型和将动作选择作为推理问题来运行。我们将这个概念应用到RL社区已知的一个典型问题,山地车问题,并展示了主动推理如何包括RL和示教学习。
2019-04-25 cs.AI cs.LG cs.NE
Active Inference as a Convex Markov Decision Process
Max Planck Institute for Human Cognitive and Brain Sciences(马克斯·普朗克人类认知与脑科学研究所)
研究将主动推理构建为策略优化,证明其可表述为凸马尔可夫决策过程,分析了相关公式并推导MD算法,表明结合世界模型学习与策略优化能赋予主动推理执行性强化学习结构,为其奠定理论基础。
2026-10-14 cs.AI cs.LG stat.ML
Deep Active Inference for Partially Observable MDPs
Radboud University(拉德堡德大学)
深度主动推理已被提出作为处理大型策略和状态空间的感知和动作的可扩展方法。然而,目前的模型仅限于完全可观察的领域。在本文中,我们描述了一个深度主动推理模型,可以直接从高维感官输入中学习成功的策略。深度学习架构优化预期自由能的变体,并通过变分自编码器对连续状态表示进行编码。我们在OpenAI基准测试中表明,我们的方法具有与深度Q学习(一种最先进的深度强化学习算法)相当或更好的性能。
2020-09-08 cs.AI cs.LG cs.NE
Scaling active inference
University of Sussex(萨塞克斯大学);RIKEN Centre for Brain Science(理化学研究所脑科学中心);Canadian Institute for Advanced Research(加拿大高等研究院)
在强化学习(RL)中,智能体通常在部分可观察和不确定的环境中运行。基于模型的强化学习表明,这是通过学习和利用世界的概率模型来实现的。“主动推理”是认知和计算神经科学中一个新兴的规范性框架,它提供了一个统一的解释生物制剂如何实现这一点。在这个框架下,推理、学习和行动都来自于一个单一的命令,即最大限度地利用贝叶斯证据来构建一个利基世界模型。然而,该过程的实现迄今为止仅限于低维和理想化的情况。在这里,我们提出了一个适用于高维任务的主动推理的工作实现,其原理证明结果表明,在强无模型基线上,有效的探索和样本效率的数量级增加。我们的研究结果证明了大规模应用主动推理的可行性,并突出了主动推理和当前基于模型的RL方法之间的操作同源性。
2019-11-24 cs.AI cs.IT cs.LG
A Novel Resource Allocation for Anti-jamming in Cognitive-UAVs: an Active Inference Approach
University of Genoa(热那亚大学);Queen Mary University of London(伦敦玛丽女王大学);Italian National Consortium for Telecommunications(意大利国家电信联盟)
提出了一种基于主动推理的认知无线电抗干扰资源分配策略($\textit{AIn}$),并以认知无人机为例进行了仿真研究。提出了一种主动广义动态贝叶斯网络(Active-GDBN)来表示外部环境,将信号的物理动态特性和无人机与干扰机之间的动态相互作用共同编码在频谱中。我们将行动和计划转化为贝叶斯推理问题,可以通过在在线学习期间避免意外状态(最小化异常)来解决。仿真结果验证了所提出的$\textit{AIn}$方法在最小化异常(最大化奖励)方面的有效性,并与传统的跳频和Q学习方法进行了比较,结果表明该方法具有较高的收敛速度。
2022-08-10 cs.AI cs.IT cs.LG
Reinforcement Learning through Active Inference
Sackler Centre for Consciousness Science(萨克勒意识科学中心);Evolutionary & Adaptive Systems Research Group(进化与自适应系统研究组);University of Sussex(萨塞克斯大学);University of Edinburgh(爱丁堡大学);Canadian Institute for Advanced Research(加拿大高级研究所)
强化学习(RL)的核心原则是智能体寻求最大化累积奖励之和。相比之下,主动推理,认知和计算神经科学中的一个新兴框架,提出代理人采取行动,以最大限度地提高有偏见的生成模型的证据。在这里,我们说明了来自主动推理的想法如何通过(i)提供探索和利用的内在平衡,以及(ii)提供更灵活的奖励概念来增强传统的RL方法。受主动推理的启发,我们开发并实现了一个新的决策目标,我们称之为预期未来的自由能。我们证明了所得到的算法成功地平衡了探索和利用,同时在几个具有挑战性的RL基准测试中实现了稳健的性能,具有稀疏,形状良好,没有奖励。
2020-02-28 cs.AI cs.IT cs.LG
Supervised Contrastive Learning with Structure Inference for Graph Classification
Beijing University of Technology(北京工业大学)
近年来,高级图神经网络在图分类方面显示出巨大的潜力。与节点分类不同的是,图分类需要对不同层次的拓扑信息进行分层积累,以生成有区别的图嵌入,节点分类可以直接使用从本地邻居聚合的节点嵌入来学习节点标签。尽管如此,如何充分探索图结构并制定有效的图分类管道仍然是基本的。本文提出了一种基于结构推理的有监督对比学习的图神经网络。首先,我们提出了一个数据驱动的图增强策略,可以发现额外的连接,以增强现有的边集。具体地说,我们诉诸于一个结构推理阶段的基础上扩散级联,以恢复可能的连接与高节点相似性。其次,为了提高图神经网络的对比度,我们提出了使用监督对比损失进行图分类。通过标签信息的整合,可以将one-vs-many对比学习扩展到many-vs-many,从而将拓扑相似度较高的图级嵌入拉近。监督对比损失和结构推理可以自然地并入分层图神经网络中,其中拓扑模式可以被充分探索以产生有区别的图嵌入。实验结果表明,该方法的有效性与最近的国家的最先进的方法相比。
2022-03-15 cs.LG
MoMo: Conditioned Contrastive Representation Learning for Preference-Modulated Planning
Massachusetts Institute of Technology(麻省理工学院)
MoMo通过特征线性调制和低秩神经调制,实现基于偏好调节的对比表征学习,使规划保守性在推理时可连续调节,提升时间与偏好一致性。
2026-05-14 cs.LG
Mitigating Sampling Bias and Improving Robustness in Active Learning
Intel Labs(英特尔实验室);Intel Corporation(英特尔公司)
本文提出了简单有效的方法,以减轻采样偏差在主动学习,同时实现最先进的精度和模型的鲁棒性。我们引入了监督对比主动学习,利用对比损失的主动学习在监督设置。我们提出了一个无偏的查询策略,选择信息丰富的数据样本的不同特征表示与我们的方法:监督对比主动学习(SCAL)和深度特征建模(DFM)。我们经验证明,我们提出的方法减少采样偏差,实现最先进的准确性和模型校准的主动学习设置与查询计算26倍的速度比贝叶斯主动学习的分歧和11倍的速度比CoreSet。所提出的SCAL方法在对数据集移位和分布外的鲁棒性方面有很大的优势。
2021-09-13 cs.LG
Enhancing Asynchronous Time Series Forecasting with Contrastive Relational Inference
Ant Group(蚂蚁集团)
针对现有TPP模型未显式建模事件交互的问题,提出基于对比关系推理的霍克斯过程CRIHP,结合NRI与变分推理,通过强度学习对比关系约束,在三个真实数据集上验证了捕捉事件交互的有效性,代码将集成入EasyTPP。
2023-10-07 cs.LG
Robust Contrastive Active Learning with Feature-guided Query Strategies
Intel Labs(英特尔实验室);Intel Corporation(英特尔公司)
我们介绍了监督对比主动学习(SCAL),并提出了有效的查询策略,在主动学习的基础上的特征相似性(featuresim)和主成分分析的特征重建误差(free),以选择信息丰富的数据样本与不同的特征表示。我们证明了我们提出的方法实现了最先进的精度,模型校准和减少采样偏差的主动学习设置平衡和不平衡的数据集上的图像分类任务。我们还评估了模型对主动学习环境中不同查询策略引起的分布偏移的鲁棒性。使用广泛的实验,我们表明,我们提出的方法优于高性能的计算密集型方法的一个大的利润率,导致9.9%的平均腐败错误,7.2%的预期校准误差下的数据集移位和8.9%的AUROC高出分布外检测。
2022-08-14 cs.AI cs.LG
Active Contrastive Learning of Audio-Visual Video Representations
Microsoft(微软);Sun Yat-sen University(中山大学);Microsoft Research(微软研究院)
对比学习已被证明通过最大化实例的不同视图之间的互信息(MI)的下限来产生音频和视觉数据的可概括表示。然而,获得严格的下限需要MI中的样本量指数,因此需要大量的阴性样本。我们可以通过构建一个大型的基于负样本的字典来合并更多的样本,但是即使有大量的负样本,性能改进也有理论上的限制。我们假设,\textit{random negative sampling}导致一个高度冗余的字典,导致下游任务的次优表示。在本文中,我们提出了一种主动对比学习方法,该方法构建了一个具有多样性和信息性项目的\textit{actively sampled}字典,该字典提高了负样本的质量,并提高了数据中具有高互信息的任务的性能,例如,视频分类我们的模型在具有挑战性的音频和视频下游基准测试中实现了最先进的性能,包括UCF 101,HMDB 51和ESC 50。\footnote{Code is available at: \url{https://github.com/yunyikristy/CM-ACC}}
2021-04-16 cs.CV cs.LG
When Contrastive Learning Meets Active Learning: A Novel Graph Active Learning Paradigm with Self-Supervision
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
本文研究了图上的主动学习,其目的是发现信息量最大的节点,以最大化图神经网络的性能。以前,大多数图AL方法专注于从精心选择的标记数据集中学习节点表示,忽略了大量未标记的数据。受对比学习(CL)成功的启发,我们提出了一种新的范式,无缝集成图AL与CL。在能够以自我监督的方式利用丰富的未标记数据的能力的同时,由AL选择的节点进一步提供可以更好地指导表示学习的语义信息。此外,以前的工作测量节点的信息量,而不考虑GNN的邻域传播方案,因此可能会选择噪声节点。我们认为,由于GNN的平滑性质,来自同构子图的中心节点应该最有利于模型训练。为此,我们提出了一个极大极小选择方案,明确利用邻域信息和发现同伦子图,以促进积极的选择。在五个公共数据集上进行的全面、无混淆的实验表明,我们的方法优于最先进的方法。
2021-04-16 cs.LG stat.ML
Active Learning by Acquiring Contrastive Examples
University of Sheffield(谢菲尔德大学);EPFL(洛桑联邦理工学院);HEIG-VD(瑞士西部应用科学与艺术大学伊韦尔东校区)
主动学习的常见采集函数使用不确定性或多样性采样,旨在分别从未标记数据池中选择困难和多样的数据点。在这项工作中,利用两个世界中最好的,我们提出了一个采集功能,选择选择\textit{contrastive examples},即数据点是相似的模型特征空间,但模型输出最大不同的预测可能性。我们比较了我们的方法,CAL(对比主动学习),在四个自然语言理解任务和七个数据集的一组不同的收购功能。我们的实验表明,CAL在所有任务中,无论是在域内还是域外数据上,都始终优于或等于最佳执行基线。我们还对我们的方法进行了广泛的消融研究,并进一步分析了所有主动获取的数据集,表明CAL与其他策略相比在不确定性和多样性之间实现了更好的权衡。
2021-09-08 cs.AI cs.CL cs.LG
Inference via Interpolation: Contrastive Representations Provably Enable Planning and Inference
Princeton University(普林斯顿大学);UC Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学)
针对高维时间序列的概率推断难题,提出将对比学习变体应用于时间序列,证明其学到的表示遵循高斯-马尔可夫链,推断可转化为低维矩阵求逆,特殊情形下等价于表示插值,并通过46维内的数值模拟验证了理论。
2025-05-21 cs.LG stat.ML
Enhancing Active Learning for Sentinel 2 Imagery through Contrastive Learning and Uncertainty Estimation
本文提出结合半监督学习、对比学习与MC Dropout不确定性估计的主动学习方法,在Sentinel-2影像分析中显著提高标注效率并保持高分类准确率。
2024-06-25 cs.CV cs.LG
Teaching an Active Learner with Contrastive Examples
University of Chicago(芝加哥大学);MPI-SWS(马克斯·普朗克软件系统研究所)
我们研究的问题,主动学习与额外的扭曲,学习者是由一个有帮助的教师协助。我们考虑以下自然的交互协议:在每一轮,学习者提出一个查询,要求一个实例$x^q$的标签,教师提供所要求的标签$\{x^q, y^q\}$以及解释性信息,以指导学习过程。在本文中,我们以附加对比示例($\{x^c, y^c\}$)的形式查看该信息,其中$x^c$是从受$x^q$约束的集合中挑选的(例如,具有相同标签的不同实例)。我们的重点是设计一个教学算法,可以提供一个信息序列的对比例子,学习者加快学习过程。我们表明,这导致了一个具有挑战性的序列优化问题,在给定的一轮算法的选择取决于历史的相互作用。我们研究了一种有效的教学算法,自适应地挑选这些对比的例子。我们基于两个问题相关的参数为我们的算法获得了强有力的性能保证,并进一步表明,对于特定类型的主动学习者(例如,一个广义的二叉搜索学习器),所提出的教学算法表现出强大的近似保证。最后,我们说明了我们的界限,并通过两个数值案例研究证明了我们的教学框架的有效性。
2021-12-10 cs.LG stat.ML
ALICE: Active Learning with Contrastive Natural Language Explanations
Stanford University(斯坦福大学);University of California, Davis(加州大学戴维斯分校)
训练监督神经网络分类器通常需要许多带注释的训练样本。收集和注释大量的数据点是昂贵的,有时甚至是不可行的。传统的标注过程使用低带宽的人机通信接口:分类标签,每个标签只提供几个比特的信息。我们提出了主动学习与对比解释(ALICE),一个专家在环训练框架,利用对比自然语言解释,以提高学习中的数据效率。ALICE学会首先使用主动学习来选择信息量最大的标签类对,以从专家那里引出对比性的自然语言解释。然后使用语义解析器从这些解释中提取知识。最后,它通过动态改变学习模型的结构来整合提取的知识。我们应用ALICE在两个视觉识别任务,鸟类物种分类和社会关系分类。我们发现,通过结合对比解释,我们的模型优于用多40-100%的训练数据训练的基线模型。我们发现,增加1个解释导致与增加13-30个标记的训练数据点类似的性能增益。
2020-09-22 cs.CL cs.CV cs.HC
On Contrastive Learning for Likelihood-free Inference
University of Edinburgh(爱丁堡大学);DeepMind(深度思维)
无似然方法在随机模拟器模型中执行参数推断,其中评估似然性是棘手的,但可以采样合成数据。这种无似然问题的一类方法使用分类器来区分使用模拟器生成的参数观察样本对和从一些参考分布中采样的对,其隐式地学习与似然成比例的密度比。另一类流行的方法适合条件分布的参数后直接,和一个特定的最近的变体允许使用灵活的神经密度估计这一任务。在这项工作中,我们表明,这两种方法可以统一在一个一般的对比学习计划,并澄清他们应该如何运行和比较。
2020-12-18 cs.LG stat.ML
A Contrastive Divergence for Combining Variational Inference and MCMC
Columbia University(哥伦比亚大学);University of Cambridge(剑桥大学);DeepMind(深度思考)
我们开发了一种方法,结合马尔可夫链蒙特卡罗(MCMC)和变分推断(VI),利用这两种推理方法的优点。具体来说,我们通过运行几个MCMC步骤来改进变分分布。为了使推理易于处理,我们引入了变分对比发散(VCD),这是一种新的发散,取代了VI中使用的标准Kullback-Leibler(KL)发散。VCD捕获初始变分分布与其改进版本(在运行MCMC步骤后获得)之间的差异的概念,并且它渐近收敛于变分分布与感兴趣的后验之间的对称化库尔贝克-莱布勒散度。VCD目标可以通过随机最优化相对于变参数有效地优化。我们的实验表明,优化VCD导致更好的预测性能的两个潜变量模型:逻辑矩阵分解和变分自动编码器(VAE)。
2019-05-28 cs.LG stat.ML
Quantifying and Mitigating Privacy Risks of Contrastive Learning
CISPA Helmholtz Center for Information Security(CISPA 亥姆霍兹信息安全研究中心 (CISPA Helmholtz Center for Information Security))
在过去的十年中,数据是推动机器学习(ML)发展的关键因素。然而,高质量的数据,特别是标记的数据,往往是困难和昂贵的收集,利用大规模的未标记的数据,自监督学习,以对比学习,介绍。对比学习的目的是映射从训练样本导出的不同视图(例如,通过数据增强)在它们的表示空间中更近,而从不同样本导出的不同视图更远。通过这种方式,对比模型学习为数据样本生成信息表示,然后用于执行下游ML任务。最近的研究表明,机器学习模型容易受到各种隐私攻击。然而,目前的大部分努力集中在用监督学习训练的模型上。同时,通过对比学习获得的数据样本的信息表示也可能导致严重的隐私风险。在本文中,我们进行了第一次隐私分析的对比学习通过镜头的成员推理和属性推理。我们的实验结果表明,在图像数据集上训练的对比模型不太容易受到成员推断攻击,但更容易受到属性推理攻击相比,监督模型。前者是由于对比模型不太容易过拟合,而后者是由于对比模型表达数据样本的能力。为了弥补这种情况,我们提出了第一个隐私保护的对比学习机制,Talos,依赖于对抗训练。实验结果表明,Talos可以成功地降低属性推理风险的对比模型,同时保持他们的成员隐私和模型效用。
2021-09-21 cs.CR cs.LG
SoftCVI: Contrastive variational inference with self-generated soft labels
School of Mathematics, Bristol University, UK(数学系,布里斯托尔大学)
SoftCVI通过对比估计框架将变分分布参数化为分类器,利用未归一化后验生成软标签进行训练,无需正负样本,在多种贝叶斯推断任务中实现了稳定且覆盖质量的推断性能。
2025-05-04 cs.LG stat.ML
Deep Active Learning with Contrastive Learning Under Realistic Data Pool Assumptions
Seoul National University of Science and Technology(首尔科学技术大学)
主动学习的目标是从未标记的数据池中识别出信息量最大的数据,使模型能够快速达到所需的准确性。这尤其有利于深度神经网络,其通常需要大量的标记样本来实现高性能。大多数现有的主动学习方法都是在理想环境中进行评估的,在理想环境中只有与目标任务相关的样本,即,分布内样本存在于未标记的数据池中。然而,从野外收集的数据池很可能包括与目标任务完全不相关的样本和/或过于模糊而无法分配单个类标签的样本,即使是对于oracle。我们认为,假设一个未标记的数据池组成的样本来自不同的分布是更现实的。在这项工作中,我们引入了新的主动学习基准,包括模糊的,任务无关的分布以及分布样本。我们还提出了一个主动学习方法,旨在获得信息的分布中的样本优先。所提出的方法利用标记和未标记的数据池,并通过对比学习构建的特征空间上的聚类选择样本。实验结果表明,所提出的方法需要更低的注释预算比现有的主动学习方法,以达到相同的准确率水平。
2023-03-25 cs.CV cs.LG
AC2L-GAD: Active Counterfactual Contrastive Learning for Graph Anomaly Detection
RMIT University(皇家墨尔本理工大学);The University of Queensland(昆士兰大学)
AC2L-GAD 通过主动反事实对比学习方法,在图异常检测中有效解决标签稀缺和类别不平衡问题,提升检测性能。
2026-01-29 cs.AI cs.LG
Statistical applications of contrastive learning
University of Edinburgh(爱丁堡大学)
似然函数在统计推断和实验设计中起着至关重要的作用。然而,它是计算上棘手的几个重要类别的统计模型,包括基于能量的模型和基于模拟器的模型。对比学习是一种直观的和计算上可行的替代基于可能性的学习。在这里,我们首先提供了一个介绍对比学习,然后展示了我们如何使用它来获得不同的统计问题的方法,即基于能量的模型的参数估计,贝叶斯推断基于模拟器的模型,以及实验设计。
2022-04-29 cs.LG stat.ML
Dual Propagation: Accelerating Contrastive Hebbian Learning with Dyadic Neurons
Chalmers University of Technology(查尔姆斯理工大学)
本文提出基于能量的二元神经元模型 dual propagation,用两个内在状态的差值与均值编码误差和活动,只需一次逐层闭式推理;实验显示其在 Imagenet32x32 等数据集上准确率和运行时间均与反向传播等效。
2023-06-07 cs.LG
Frequency-Masked Embedding Inference: A Non-Contrastive Approach for Time Series Representation Learning
School of Intelligence Science and Technology, University of Science and Technology Beijing(北京科技大学智能科学与技术学院);Institute of Artificial Intelligence, University of Science and Technology Beijing(北京科技大学人工智能研究院)
针对对比学习依赖正负样本且难以建模时间序列连续语义的问题,本文提出非对比方法 FEI,通过双向频率掩码提示与嵌入推理学习表示,并在8个数据集上验证其泛化优势。
2025-01-06 cs.AI cs.LG
Enhancing IMU-Based Online Handwriting Recognition via Contrastive Learning with Zero Inference Overhead
Friedrich-Alexander-Universität Erlangen-Nürnberg(弗里德里希-艾萨克-亚历山大大学埃尔朗根-纽伦堡);STABILO International GmbH(STABILO国际有限公司);Ludwig-Maximilians-Universität München(路德维希-马克西米利安大学慕尼黑);Munich Center for Machine Learning(慕尼黑机器学习中心);Helmholtz Zentrum München - German Research Center for Environmental Health(海德堡中心慕尼黑 - 德国环境健康研究中心)
提出ECHWR训练框架,利用对比学习对齐传感器信号与语义文本嵌入,在不增加推理成本下提升在线手写识别准确率,在OnHW-Words500数据集上字符错误率降低达10.4%。
2026-06-23 cs.CV cs.LG
Contrastive Reasoning in Neural Networks
Georgia Institute of Technology(佐治亚理工学院)
神经网络将数据表示为高维流形中训练权重的投影。训练的权重充当由因果类依赖性组成的知识库。建立在识别这些依赖关系的特征上的推理被称为前馈推理。基于经典的因果归纳推理模型,这种推理机制是合理的。基于归纳推理的前馈推理由于其数学上的简单性和易操作性而被广泛应用。然而,前馈模型不能很好地推广到未经训练的情况。为了减轻这种泛化的挑战,我们建议使用一个效果到原因的推理模型,原因溯因。这里,特征表示给定一定效果的现有权重依赖性的变化。我们将这种变化称为对比,将随之而来的推理机制称为对比推理。在本文中,我们形式化的结构对比推理,并提出了一种方法来提取神经网络的对比度的概念。我们在神经网络的推理流程的两个阶段中展示了对比推理的价值:推断和直观地解释对象识别应用的决策。我们通过报告在CIFAR-10 C,噪声STL-10和VisDA数据集上分别提出的对比框架下平均准确率提高了3.47%,2.56%和5.48%,说明了对比识别失真图像的价值。
2021-03-23 cs.AI cs.CV cs.LG
Forget-me-not! Contrastive Critics for Mitigating Posterior Collapse
Columbia University(哥伦比亚大学)
变分自编码器(VAE)遭受后验崩溃,其中用于建模和推理的强大神经网络优化目标,而没有有意义地使用潜在表示。我们引入推理批评,检测和激励后崩溃,要求潜变量和观察之间的对应关系。通过将批评者的目标与自监督对比表示学习中的文献相连接,我们从理论和经验上证明了优化推理批评者增加了观察和潜在之间的互信息,减轻了后崩溃。这种方法很容易实现,并且需要比现有方法少得多的训练时间,但在三个已建立的数据集上获得了有竞争力的结果。总的来说,该方法为使用变分自编码器桥接先前断开的对比学习和概率建模框架奠定了基础,强调了两个社区在其交叉点可能会发现的好处。
2022-07-19 cs.LG stat.ML
Learn from the Learnt: Source-Free Active Domain Adaptation via Contrastive Sampling and Visual Persistence
Tsinghua University(清华大学);BNRist(北京国家信息科学与技术研究院)
本文研究无源主动领域自适应(SFADA)问题,提出LFTL范式,通过对比主动采样选择信息量大的目标样本,并利用视觉持久性引导自适应进行特征对齐,在三个基准上实现了最先进性能与高计算效率。
2024-07-26 cs.AI cs.CV cs.LG
Neuro-Symbolic Contrastive Learning for Cross-domain Inference
University of Durham(杜伦大学);University of Tokyo(东京大学);Kyoto University(京都大学);National Institute of Informatics(信息学国立研究院)
针对预训练语言模型在自然语言推理中过度依赖浅层启发式、归纳逻辑编程受限于离散输入的问题,提出神经符号对比学习方法,通过可微分优化提升逻辑准确性,显著增强模型跨域推理的泛化与推理能力。
2025-02-13 cs.CL cs.LG
A Context-Contrastive Inference Approach To Partial Diacritization
Microsoft(微软);EPFL(洛桑联邦理工学院)
针对阿拉伯语完全变音符号标注可能妨碍阅读的问题,本文提出CCPD上下文对比推理方法,仅标注带与不带上下文预测不一致的字符,并给出质量指标和TD2模型。
2024-08-09 cs.CL cs.LG
Embed and Emulate: Contrastive representations for simulation-based inference
The University of Chicago(芝加哥大学)
本文提出基于对比学习的SBI新方法E&E,通过学习低维潜在嵌入和快速仿真器高效处理高维数据与多模态后验,无需昂贵模拟即可实现优于现有方法的参数估计。
2024-09-27 cs.LG stat.ML
Spatio-Temporal Contrastive Self-Supervised Learning for POI-level Crowd Flow Inference
Shanghai Jiao Tong University(上海交通大学);JD Intelligent Cities Research(京东智能城市研究院);JD iCity, JD Technology(京东科技京东智能城市)
针对POI级客流推断中数据质量低、标注少等挑战,提出自监督对比学习框架CSST,通过构建空间邻接图并利用交换预测从无标签数据预训练,再结合精确数据微调,在真实数据集上显著优于从头训练的模型。
2023-09-12 cs.AI cs.LG
Contrastive Mixture of Posteriors for Counterfactual Inference, Data Integration and Fairness
Microsoft Research(微软研究院);BenevolentAI(BenevolentAI公司);University of Oxford(牛津大学);Human Technopole(人类技术园)
学习有意义的数据表示,可以解决诸如批量效应校正和反事实推理等挑战,是包括计算生物学在内的许多领域的核心问题。采用条件VAE框架,我们表明,边际独立的表示和条件变量之间起着关键作用,在这两个挑战。我们提出了对比混合后验(CoMP)的方法,使用一种新的错位罚款定义的混合物的变分后验来执行这种独立性在潜在的空间。我们发现,CoMP有吸引力的理论特性相比,以前的方法,我们证明了反事实的CoMP下的额外假设的可识别性。我们在一系列具有挑战性的任务上展示了最先进的性能,包括将人类肿瘤样本与癌细胞系对齐,预测转录组水平的扰动响应,以及对单细胞RNA测序数据进行批量校正。我们还发现了与公平表示学习的相似之处,并证明了CoMP在该领域的共同任务上具有竞争力。
2022-06-26 cs.LG q-bio.GN stat.ML
Masked Contrastive Learning for Anomaly Detection
Seoul National University(首尔国立大学)
异常检测是安全关键软件系统的一个基本方面,然而,它仍然是一个长期存在的问题。许多分支的工程已被提出,以减轻复杂性,并已证明其效率。特别地,基于自监督学习的方法由于其在没有附加标签的情况下学习不同表示的能力而引起了人们的兴趣。在自监督学习策略中,对比学习是一个特定的框架,验证了它们在包括异常检测在内的各个领域的优越性。然而,对比学习的主要目标是学习没有任何标签的任务不可知的特征,这并不完全适合识别异常。在本文中,我们提出了一个特定于任务的对比学习的变种命名为屏蔽对比学习,这是更适合异常检测。此外,我们提出了一种新的推理方法,称为自集成推理,通过利用辅助自我监督任务学习的能力,进一步提高性能。通过结合我们的模型,我们可以在各种基准数据集上显著优于以前的最先进方法。
2023-01-30 cs.CV cs.LG
ViCLSR: A Supervised Contrastive Learning Framework with Natural Language Inference for Natural Language Understanding Tasks
University of Information Technology, Ho Chi Minh City, Vietnam(越南胡志明市信息技术大学);Vietnam National University, Ho Chi Minh City, Vietnam(越南国家大学)
本文提出ViCLSR,一种针对越南语优化的监督对比学习框架,利用NLI数据集提升句子表示,优于PhoBERT等模型,在多个NLU任务中取得显著提升。
2026-03-22 cs.AI cs.CL cs.LG
MoCLIM: Towards Accurate Cancer Subtyping via Multi-Omics Contrastive Learning with Omics-Inference Modeling
Bioinformatics Center, Kyoto University(京都大学生物信息学中心);SANKEN, Osaka University(大阪大学SANKEN(蛋白质研究所))
本研究针对多组学数据提升癌症亚型分型效果的问题,提出MoCLIM表征学习框架,通过多组学对比学习得到统一表征实现亚型聚类,在6个癌症数据集上验证了其在小样本高维场景下的优异性能与高可解释性。
2023-08-24 cs.AI cs.LG q-bio.GN
Detection and Recovery Against Deep Neural Network Fault Injection Attacks Based on Contrastive Learning
Northeastern University(东北大学)
针对深度神经网络部署时易受故障注入攻击的问题,提出基于对比学习的CFDR框架,可实现实时检测与少量无标注数据下的快速恢复,在CIFAR-10上验证了有效性。
2024-01-30 cs.AI cs.CR cs.CV
InferES : A Natural Language Inference Corpus for Spanish Featuring Negation-Based Contrastive and Adversarial Examples
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Universitat de Barcelona(巴塞罗那大学)
在本文中,我们提出了InferES -原始语料库的自然语言推理(NLI)在欧洲西班牙语。我们提出,实施和分析各种语料库创建策略,利用专家语言学家和人群工作者。InferES的目标是提供高质量的数据,同时促进对自动化系统的系统评估。具体来说,我们专注于测量和提高机器学习系统在基于否定的对抗性示例上的性能,以及它们在分布外主题上进行概括的能力。我们在InferES(8,055个黄金示例)上对两个Transformer模型进行了各种场景的训练。我们最好的模型获得了72.8%的准确率,留下了很大的改进空间。“仅假设”基线的性能仅比大多数高2%-5%,这表明注释工件比以前的工作少得多。我们发现,在InferES上训练的模型在各个主题(分布内和分布外)上都有很好的泛化能力,并且在基于否定的对抗性示例上表现良好。
2022-10-06 cs.AI cs.CL cs.LG
EncoderMI: Membership Inference against Pre-trained Encoders in Contrastive Learning
Duke University(杜克大学);Huazhong University of Science and Technology(华中科技大学)
给定一组未标记的图像或(图像,文本)对,对比学习旨在预训练图像编码器,该图像编码器可用作许多下游任务的特征提取器。在这项工作中,我们提出了EncoderMI,第一个成员推理方法对图像编码器预先训练的对比学习。特别是,给定输入和对图像编码器的黑盒访问,EncoderMI旨在推断输入是否在图像编码器的训练数据集中。EncoderMI可以1)由数据所有者用于审计其(公共)数据是否在未经其授权的情况下被用于预训练图像编码器,或者2)由攻击者用于在训练数据是私有/敏感的情况下损害其隐私。我们的EncoderMI利用图像编码器对其训练数据的过拟合。特别地,过拟合图像编码器更有可能针对其训练数据集中(或不在其训练数据集中)的输入的两个增强版本输出更多(或更少)相似的特征向量。我们在自己在多个数据集上预训练的图像编码器以及对比图像预训练(CLIP)图像编码器上评估EncoderMI,CLIP图像编码器是在从互联网收集并由OpenAI发布的4亿(图像,文本)对上预训练的。我们的研究结果表明,EncoderMI可以实现高准确率,精确度和召回率。我们还探讨了通过早期停止来防止过拟合的对策。我们的结果表明,它实现了EncoderMI的准确性和图像编码器的实用性之间的权衡,即,它会降低EncoderMI的准确性,但也会导致基于图像编码器构建的下游分类器的分类准确性损失。
2021-08-25 cs.CR cs.CV cs.LG
CLMIA: Membership Inference Attacks via Unsupervised Contrastive Learning
Anhui University(安徽大学)
本文提出名为CLMIA的成员推理攻击方法,利用无监督对比学习训练攻击模型,仅需少量已知成员状态数据微调,在标记身份信息较少的真实场景下表现优于现有方法。
2024-11-17 cs.AI cs.CR cs.LG
UCD: Unlearning in LLMs via Contrastive Decoding
MIT(麻省理工学院);Boston University(波士顿大学)
本研究针对大语言模型的机器遗忘需求,提出基于对比解码的推理阶段遗忘算法UCD,通过两个不同训练设置的小模型引导原模型输出,在TOFU和MUSE基准上实现了遗忘效果与模型效用的更好平衡。
2025-06-12 cs.CL cs.CR cs.LG
Backpropagation at the Infinitesimal Inference Limit of Energy-Based Models: Unifying Predictive Coding, Equilibrium Propagation, and Contrastive Hebbian Learning
MRC Brain Networks Dynamics Unit(英国医学研究理事会脑网络动力学部门);University of Oxford(牛津大学)
大脑如何进行信用分配是神经科学中一个尚未解决的基本问题。已经提出了许多“生物学上合理的”算法,这些算法计算的梯度近似于反向传播(BP)计算的梯度,并且以更接近满足神经电路所施加的约束的方式进行操作。许多这样的算法利用基于能量的模型(EBM)的框架,其中模型中的所有自由变量被优化以最小化全局能量函数。然而,在文献中,这些算法是孤立存在的,没有统一的理论将它们联系在一起。在这里,我们提供了一个全面的理论的条件下,EBM可以近似BP,这让我们统一了许多的BP近似结果在文献中(即,预测编码,平衡传播,和对比赫布学习),并证明他们的近似BP产生于一个简单的和一般的数学性质的EBM在自由相平衡。然后,可以用不同的能量函数以不同的方式利用该属性,并且这些特定的选择产生一族BP近似算法,其既包括文献中的已知结果,又可以用于导出新的结果。
2022-08-03 cs.AI cs.LG q-bio.NC
Robust Multimodal Learning via Entropy-Gated Contrastive Fusion
针对现实多模态系统输入缺失时标准融合层无法兼顾鲁棒性与校准性的问题,提出轻量的自适应熵门控对比融合层AECF,在多数据集上显著提升掩码输入mAP、降低ECE,且仅增少量耗时,可即插即用。
2026-11-09 cs.LG stat.ML
Deep Contrastive Learning for Feature Alignment: Insights from Housing-Household Relationship Inference
University of Delaware(特拉华大学)
本研究针对住房与家庭特征关系理解有限的问题,提出适用于无明确标签实体关系学习的双编码器深度对比学习模型,在ACS PUMS数据上验证了其在特拉华州的优越性及北卡罗来纳州的泛化能力,并揭示了关键影响因素。
2025-02-16 cs.CY cs.LG
Geometry of Friston's active inference
Araya Inc.(荒谷公司)
我们重建了卡尔弗里斯顿的积极推理,并给出了它的几何解释。
2018-11-20 cs.AI cs.LG
Active Inference or Control as Inference? A Unifying View
RWTH Aachen University(亚琛工业大学);Technical University Darmstadt(达姆施塔特工业大学)
主动推理(Active Inference,AI)是计算神经科学的一个有说服力的理论框架,旨在将动作和感知描述为基于推理的计算。然而,这个框架还没有提供实用的感觉运动控制算法,与其他方法竞争。在这项工作中,我们框架主动推理通过镜头的控制推理(CaI),身体的工作,提出了轨迹优化的推理。从“概率数值”的更广泛的角度来看,CaI提供了原则性的,数值上鲁棒的最优控制求解器,提供不确定性量化,并可以扩展到近似推理的非线性问题。我们表明,人工智能可以被框定为部分观察到的CaI时,成本函数被定义为具体的观察状态。
2020-10-01 cs.LG stat.ML
Active Inference Meeting Energy-Efficient Control of Parallel and Identical Machines
Politecnico di Milano(米兰理工学院);Rutgers University(罗格斯大学)
本研究将主动推理应用于制造系统节能控制,通过深度主动推理智能体控制并行同型机器,引入多步转移和混合视野方法应对随机性与延迟,实验验证了其有效性。
2024-11-13 cs.AI cs.LG
Deep Active Inference for Autonomous Robot Navigation
IDLab, Department of Information Technology(信息技术系IDLab)
主动推理是一种支持生物主体在现实世界中感知和行动的理论。主动推理的核心是基于大脑是一个近似贝叶斯推理引擎的原则,建立一个内部生成模型,以驱动代理实现最小的惊喜。虽然这一理论已经在认知神经科学的基础上显示出有趣的结果,但它的应用仍然局限于小的、预定义的传感器和状态空间的模拟。在本文中,我们利用深度学习的最新进展来构建更复杂的生成模型,这些模型可以在没有预定义状态空间的情况下工作。状态表示是从真实世界的高维感知数据(如摄像机帧)中端到端学习的。我们还表明,这些生成模型可以用来从事积极的推理。据我们所知,这是深度主动推理在现实世界机器人导航任务中的首次应用。
2020-03-06 cs.AI cs.LG