Smaller Abstract State Spaces Enable Cross-Scale Generalization in Reinforcement Learning
Department of Computer Science(计算机科学系);University of Saskatchewan(萨斯喀彻温大学);Saskatoon, Saskatchewan, Canada(加拿大萨斯喀彻温省萨斯喀彻温市)
本文提出了一种理论模型,通过扩展POMDP中的状态抽象框架,定义了 successor-weighted model reduction,从而在强化学习代理中实现跨尺度泛化,并分析了抽象状态空间大小对泛化能力的影响。
2026-05-19 cs.AI cs.LG
Abstraction Mechanisms Predict Generalization in Deep Neural Networks
深度神经网络(DNN)的一个长期问题是理解它们令人困惑的泛化能力。我们通过\textit{cognitive abstraction mechanisms}的非传统角度来处理这个问题,从最近的神经科学工作中汲取灵感,使我们能够定义DNN的认知神经激活度量(CNA),这是给定输入的信息复杂性(熵)与网络深层中较高激活值的集中度之间的相关性。CNA对泛化能力具有高度预测性,在对超过100个小网络和网络架构组合的广泛评估中,表现优于基于范数和边缘的泛化度量,特别是在存在加性噪声和/或训练标签损坏的情况下。这些强有力的实证结果表明了CNA作为泛化度量的有用性,并鼓励进一步研究信息复杂性与网络深层表示之间的联系,以便更好地理解DNN的泛化能力。
2020-04-17 cs.LG q-bio.NC stat.ML
Inference of Abstraction for a Unified Account of Reasoning and Learning
Cardiff University(卡迪夫大学)
受神经科学贝叶斯方法启发,提出统一解释推理与学习的概率推断理论,将推理视为通过抽象从数据推导符号知识的过程,并通过逻辑证明和MNIST数据集验证其正确性。
2024-02-14 cs.AI cs.LG cs.LO
Consciousness-Inspired Spatio-Temporal Abstractions for Better Generalization in Reinforcement Learning
McGill University(麦吉尔大学);Microsoft Research Montreal(微软研究院蒙特利尔分部);Université de Montréal(蒙特利尔大学);Mila(米拉研究所);Sony AI(索尼人工智能公司);Google DeepMind(谷歌DeepMind)
提出受人类意识启发的Skipper框架,通过时空抽象自动分解任务为子任务,以有向图代理问题端到端学习,在零样本泛化上优于现有分层规划方法。
2024-03-16 cs.AI cs.LG
Learning Discrete State Abstractions With Deep Variational Inference
Khoury College of Computer Sciences, Northeastern University(东北大学Khoury计算机科学学院)
在具有大状态空间的域中,抽象对于有效的顺序决策至关重要。在这项工作中,我们提出了一个信息瓶颈的方法学习近似互模拟,一种类型的状态抽象。我们使用深度神经编码器将状态映射到连续嵌入。我们将这些嵌入映射到一个离散表示使用的动作条件隐马尔可夫模型,这是训练端到端的神经网络。我们的方法适用于高维状态的环境,并从马尔可夫决策过程中代理收集的经验流中学习。通过这种学习的离散抽象模型,我们可以在多目标强化学习设置中有效地规划看不见的目标。我们测试我们的方法在简化的机器人操作域的图像状态。我们还将其与以前的基于模型的方法进行比较,在离散网格世界的环境中找到互模拟。源代码可在https://github.com/ondrejba/discrete_abstractions上获得。
2021-01-11 cs.LG stat.ML
Neural Constraint Satisfaction: Hierarchical Abstraction for Combinatorial Generalization in Object Rearrangement
UC Berkeley(加州大学伯克利分校);Meta AI Research(Meta人工智能研究院);Princeton University(普林斯顿大学);UT Austin(德克萨斯大学奥斯汀分校)
对象重排是一个挑战体现代理,因为解决这些任务需要概括在一个组合的大型集合的实体和它们的位置的配置。更糟糕的是,这些实体的表征是未知的,必须从感官知觉中推断出来。我们提出了一个层次化的抽象方法来揭示这些潜在的实体,并实现非结构化的视觉输入的组合泛化。通过构建一个因式分解的过渡图从像素推断的实体表示的集群,我们展示了如何学习干预代理模型中的实体状态和作用于环境中的对象之间的对应关系。我们使用这种对应关系来开发一种控制方法,该方法可以推广到不同数量和配置的对象,在模拟重排任务中进行评估时,其性能优于当前的离线深度RL方法。
2023-03-20 cs.AI cs.CV cs.LG
Advancing Generalization Across a Variety of Abstract Visual Reasoning Tasks
Warsaw University of Technology(华沙理工大学);AGH University of Krakow(AGH科技大学)
针对抽象视觉推理任务中分布外泛化难的问题,提出具备组卷积、归一化和并行设计的PoNG模型,在多个基准上展现出更强的泛化能力。
2025-05-19 cs.AI cs.CV cs.LG
Towards A Unified Policy Abstraction Theory and Representation Learning Approach in Markov Decision Processes
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部)
策略的表示和优化是智能决策系统的核心问题。该问题的根本挑战是策略空间的大规模和高复杂性,这加剧了策略学习的难度,特别是在现实世界的场景中。近年来,低维隐空间中的策略表示方法在策略评估和优化方面显示出了巨大的潜力。在这些研究中涉及的关键问题是,我们应该根据什么标准抽象的政策空间所需的压缩和推广。然而,无论是策略抽象的理论还是策略表示学习的方法,在文献中的研究都较少。在这项工作中,我们首先努力填补空缺。首先,我们提出了一个统一的策略抽象理论,包含三种类型的策略抽象相关联的政策功能在不同的水平。然后,我们将它们概括为三个量化距离的策略度量(即,相似性),以便更方便地用于学习策略表示。此外,我们提出了一种基于深度度量学习的策略表示学习方法。在实证研究中,我们分别考察了所提出的政策度量和表示在表征政策差异和传达政策概括方面的功效。我们在策略优化和评估问题上进行了实验,包括信任域策略优化(TRPO),多样性引导的演化策略(DGES)和离策略评估(OPE)。有些自然,实验结果表明,没有一个普遍的最佳抽象的所有下游学习问题,而影响无关的政策抽象可以是一个普遍的首选。
2022-09-16 cs.LG cs.NE
Neural Abstract Reasoner
Sofia High School of Mathematics(索菲亚数学高中);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Sciro Research(西罗研究中心)
抽象推理和逻辑推理是神经网络的难题,但对于它们在高度结构化领域的应用至关重要。在这项工作中,我们证明了一种众所周知的技术,如谱正则化,可以显着提高神经学习器的能力。我们介绍神经抽象推理机(NAR),一个记忆增强架构,能够学习和使用抽象规则。我们表明,当用谱正则化训练时,NAR在抽象和推理语料库上实现了$78.8\%$的准确性,比最著名的人类手工符号求解器提高了4倍。我们提供了一些直观的谱正则化的影响,在抽象推理领域的理论推广界和Solomonoff的理论归纳推理的基础上。
2020-11-12 cs.AI cs.LG
Learning Algebraic Representation for Systematic Generalization in Abstract Reasoning
University of California, Los Angeles(加州大学洛杉矶分校);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);Tsinghua University(清华大学);Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院)
智能是由联结主义者还是古典主义者实现的?虽然联结主义方法取得了超人的表现,但越来越多的证据表明,这种特定任务的优势在系统概括中特别脆弱。这一观察存在于联结主义者和古典主义者之间的核心争论中,后者不断主张在认知结构中进行代数处理。在这项工作中,我们遵循古典主义者的呼吁,并提出了一种混合的方法来提高系统的概括推理。具体来说,我们展示了一个原型与代数表示的抽象时空推理任务的乌鸦的渐进矩阵(RPM),并提出了代数意识的神经半符号(ALANS)的学习。ALANS学习者的动机是抽象代数和表征理论。它由一个神经视觉感知前端和一个代数抽象推理后端组成:前端从基于对象的表示中总结视觉信息,而后端将其转换为代数结构,并在飞行中诱导隐藏的操作符。诱导运算符稍后被执行以预测答案的表示,并且选择与预测最相似的选择作为解决方案。大量的实验表明,通过将代数处理,ALANS学习者优于各种纯连接模型在域需要系统的概括。我们进一步展示了学习的代数表示的生成性质;它可以通过同构来解码以生成答案。
2022-07-20 cs.AI cs.CV cs.LG
Latent Plan Transformer for Trajectory Abstraction: Planning as Latent Space Inference
Department of Statistics and Data Science, UCLA(统计与数据科学系, UCLA);Salesforce Research(Salesforce 研究);Akool Research(Akool 研究);Xi’an Jiaotong University(西安交通大学);Department of Computer Science, UCLA(计算机科学系, UCLA)
本文提出Latent Plan Transformer(LPT),通过潜在变量推断将规划视为潜在空间推断,从次优轨迹中学习时间一致的抽象并提升长期决策性能。
2025-08-18 cs.LG
Neural Causal Abstractions
Columbia University(哥伦比亚大学)
本文提出一种通过聚类变量及其域构建的神经因果抽象方法,结合神经因果模型与表示学习,在有限数据和高维图像场景下实现可学习的多粒度因果识别、估计与采样。
2024-02-23 cs.AI cs.LG
On a generalization of the Jensen-Shannon divergence and the JS-symmetrization of distances relying on abstract means
Sony Computer Science Laboratories, Inc.(索尼计算机科学实验室公司)
Jensen-Shannon散度是无界Kullback-Leibler散度的一个著名的有界对称化,它度量了总Kullback-Leibler散度对平均混合分布的影响。然而,高斯分布之间的詹森-香农发散并没有封闭的形式。为了绕过这个问题,我们提出了一个广义的詹森-香农(JS)的分歧,使用抽象的手段,产生封闭形式的表达式时,平均值是根据参数的分布族选择。更一般地说,我们定义的JS-对称化的任何距离使用广义统计的混合物来自抽象的手段。特别地,我们首先证明了几何平均值非常适合于指数族,并报告了两个封闭形式的公式(i)相同指数族概率密度之间的几何Jensen-Shannon发散,和(ii)反向Kullback-Leibler发散的几何JS对称化。作为第二个说明性的例子,我们表明,调和平均值是非常适合的规模柯西分布,并报告一个封闭形式的公式的调和简森-香农分歧规模柯西分布之间。我们还定义了矩阵之间的广义Jensen-Shannon发散(例如,量子Jensen-Shannon分歧),并考虑这些新的Jensen-Shannon分歧的聚类。
2022-09-20 cs.IT cs.LG math.IT
The ConceptARC Benchmark: Evaluating Understanding and Generalization in the ARC Domain
Santa Fe Institute(圣塔菲研究所)
本文提出ConceptARC基准,围绕概念组系统评估ARC领域中的抽象与泛化能力,实验表明人类显著优于GPT-4等机器求解器,揭示了当前AI在概念抽象上的不足。
2023-05-11 cs.AI cs.LG
Real-World Robot Control by Deep Active Inference With a Temporally Hierarchical World Model
Graduate School of Integrated Design Engineering, Keio University(Keio大学整合设计工程研究院)
本文提出一种结合时序分层世界模型的深度主动推断框架,用于在不确定环境中实现机器人高成功率的操作与探索性动作切换。
2025-12-01 cs.AI cs.LG cs.RO
Model-Invariant State Abstractions for Model-Based Reinforcement Learning
University of Alberta(阿尔伯塔大学);FAIR(脸书人工智能研究院)
动力学模型的准确性和泛化性是基于模型的强化学习(MBRL)成功的关键。随着任务复杂性的增加,学习精确动力学模型的样本效率也会降低。然而,许多复杂的任务在动态中也表现出稀疏性,即,动作对系统动力学仅具有局部影响。在本文中,我们利用这个属性的因果不变性的角度来看,在单任务设置,引入一种新的类型的状态抽象称为\textit{model-invariance}。与先前形式的状态抽象不同,模型不变性状态抽象利用状态变量的因果稀疏性。这允许组合泛化到看不见的状态,这是状态抽象的非因子形式无法做到的。我们证明了一个最佳的政策,可以学习这个模型不变的状态抽象,并显示在一个简单的玩具域改进的泛化。接下来,我们提出了一种实用的方法来近似学习复杂域的模型不变表示,并通过在具有挑战性的任务(例如基于MuJoCo的Humanoid)上显示出比标准最大似然方法更好的建模性能来验证我们的方法。最后,在MBRL设置中,我们在其他连续控制任务的主机上显示出相对于样本效率的强大性能增益。
2021-06-07 cs.AI cs.LG cs.RO
A-I-RAVEN and I-RAVEN-Mesh: Two New Benchmarks for Abstract Visual Reasoning
Warsaw University of Technology(华沙理工大学);AGH University of Krakow(AGH克拉科夫大学)
针对抽象视觉推理领域的模型泛化与知识迁移评估需求,提出A-I-RAVEN与I-RAVEN-Mesh两个新基准,经13个主流模型测试揭示了现有方法的相关缺陷。
2025-05-16 cs.AI cs.CV cs.LG
Hierarchy-GBP: Accelerating Factor Graph Inference via Abstraction and Recovery
Imperial College London(伦敦帝国理工学院)
提出Hierarchy-GBP(H-GBP)框架,通过抽象与恢复两阶段加速高斯信念传播(GBP)的因子图推理,解决全局误差并细化局部误差,显著提升收敛速度,并在位姿图优化和光束法平差中实现最先进性能。
2026-10-07 cs.CV cs.LG cs.RO
Distributional Active Inference
University of Southern Denmark(丹麦南部大学)
本文提出了一种将主动推断整合到分布式强化学习框架中的形式抽象,以提升复杂环境机器人系统最优控制的样本效率。
2026-08-06 cs.LG
Generalization Gap in Amortized Inference
University College London(伦敦大学学院)
基于似然的概率模型推广到未知数据的能力是许多机器学习应用(如无损压缩)的核心。在这项工作中,我们研究了一类流行的概率模型-变分自动编码器(VAE)的推广。我们讨论了影响VAE的两个泛化差距,并表明过拟合通常由摊销推理主导。基于这一观察,我们提出了一个新的训练目标,提高了摊销推理的泛化能力。我们展示了我们的方法如何可以提高性能的背景下,图像建模和无损压缩。
2022-10-15 cs.LG stat.ML
Neural networks for abstraction and reasoning: Towards broad generalization in machines
University of Cambridge(剑桥大学)
本研究探索多种神经网络方法(包括改进的DreamCoder和大型语言模型)解决抽象与推理语料库(ARC)任务,通过新语言、识别模型、编码方案及集成分析提升广泛泛化能力,并发布arckit库。
2024-02-05 cs.AI cs.CL cs.LG
Brain-Inspired Planning for Better Generalization in Reinforcement Learning
McGill University(麦吉尔大学)
本论文受人类大脑规划机制启发,提出空间抽象注意力、Skipper任务分解框架和可行性评估器,以提升强化学习智能体的零样本系统化泛化能力并避免妄想性规划。
2025-11-09 cs.AI cs.LG
Hierarchical Active Inference using Successor Representations
Paul G. Allen Center for Computer Science and Engineering, University of Washington(保罗·G·阿伦计算机科学与工程中心,华盛顿大学)
本文提出基于分层主动推断的行动规划模型,结合环境层次模型与成功表示实现高效规划,展示了如何通过低层表示学习高层抽象状态,并在多个规划和强化学习任务中验证了方法有效性。
2026-04-17 cs.AI cs.CV cs.LG
Stability-based Generalization Bounds for Variational Inference
Indiana University(印第安纳大学)
本文针对含 VI 的近似贝叶斯算法,在随机梯度下降优化场景下提出基于稳定性的算法专属泛化界,补充 PAC-Bayes 并在现代神经网络上得到非空且更紧的结果。
2025-02-17 cs.LG
MGMD-GAN: Generalization Improvement of Generative Adversarial Networks with Multiple Generator Multiple Discriminator Framework Against Membership Inference Attacks
Bangladesh University of Engineering and Technology(孟加拉工程技术大学)
本文提出MGMD-GAN框架,通过多生成器与多判别器结合不相交训练数据分区学习混合分布,缩小泛化差距,从而有效提升模型对抗成员推理攻击的安全性。
2024-10-10 cs.LG
Estimates on the generalization error of Physics Informed Neural Networks (PINNs) for approximating PDEs
ETH Zürich(苏黎世联邦理工学院)
针对 PINNs 求解 PDE 正问题,本文建立抽象框架并利用 PDE 稳定性,给出以训练误差和样本数表示的严格泛化误差上界,且通过非线性 PDE 示例与数值实验验证。
2023-12-06 cs.LG cs.NA math.AP
A Relational Inductive Bias for Dimensional Abstraction in Neural Networks
Princeton Neuroscience Institute(普林斯顿神经科学研究所);Princeton University(普林斯顿大学)
本文提出关系瓶颈这一归纳偏置,使神经网络学习因子化、正交的低维表征,从而提升泛化与学习效率,并涌现类人规律性偏置和类符号灵活性。
2024-02-28 cs.AI cs.LG
Generalization and Membership Inference Attack a Practical Perspective
Department of Computer Engineering Sharif University of Technology Tehran, Iran(计算机工程系 巴尔赫大学 波斯湾伊朗)
本文通过实证方法探讨MIA成功率与模型泛化之间的关系,发现先进泛化技术可显著降低攻击性能,同时提升模型泛化并减少攻击效果。
2026-04-21 cs.AI cs.LG
ArcMemo: Abstract Reasoning Composition with Lifelong LLM Memory
针对大语言模型推理轨迹中模式易丢失的问题,提出概念级终身记忆方法ArcMemo,在ARC-AGI基准上较无记忆基线获7.5%相对提升,实现测试时持续自我提升。
2025-10-04 cs.AI cs.CL cs.LG
Learning Abstract Representations through Lossy Compression of Multi-Modal Signals
National Research Council(国家研究委员会)
开放式学习的一个关键能力是形成对驱动复杂行为有用的越来越抽象的表征。抽象表示忽略了具体细节,便于概括。在这里,我们考虑在具有两个或多个输入模态的多模态环境中学习抽象表征。我们把这个问题作为一个有损压缩的问题,并表明通用的有损压缩的多模态感觉输入自然提取抽象的表示,往往剥离modalitiy具体的细节,并优先保留跨不同的方式共享的信息。此外,我们提出了一个架构来学习抽象表示,识别和保留的信息,共享跨多个模态,而丢弃任何模态特定的信息。
2021-09-03 cs.AI cs.LG cs.MM
Quantifying Membership Inference Vulnerability via Generalization Gap and Other Model Metrics
University of Central Florida(中佛罗里达大学);University of Texas San Antonio(德克萨斯大学圣安东尼奥分校)
我们演示了目标模型的泛化差距如何直接导致一个有效的确定性黑盒成员推断攻击(MIA)。这提供了基于简单度量的模型对MIA的安全性的上限。此外,这种攻击被证明是最佳的预期意义上只访问某些可能获得的度量有关的网络的训练和性能。实验表明,这种攻击在许多情况下与最先进的MIA的准确性相当。
2020-09-11 cs.CR cs.LG stat.ML
A Generalization Bound for Online Variational Inference
CREST, ENSAE, Institut Polytechnique de Paris(巴黎综合理工学院国立统计与经济行政学院 CREST);RIKEN Center for AI Project(理化学研究所人工智能项目中心)
贝叶斯推断提供了一个有吸引力的在线学习框架来分析序列数据,并提供了泛化保证,即使在模型不匹配和对手。不幸的是,精确的贝叶斯推断在实践中很少是可行的,并且通常采用近似方法,但是这样的方法保持了贝叶斯推断的泛化特性吗?在本文中,我们表明,这确实是一些变分推断(VI)算法的情况。我们认为一些现有的在线,回火VI算法,以及一个新的算法,并推导出其泛化界。我们的理论结果依赖于变分目标的凸性,但我们认为,该结果应持有更普遍的,目前的经验证据支持这一点。在本文中,我们的工作提出了理论上的理由,有利于在线算法依赖于近似贝叶斯方法。
2019-12-10 cs.LG math.ST stat.CO
Mitigating Annotation Artifacts in Natural Language Inference Datasets to Improve Cross-dataset Generalization Ability
Tencent(腾讯);Harbin Institute of Technology(哈尔滨工业大学)
自然语言推理(NLI)旨在预测给定前提和假设对之间的关系。然而,一些工作已经发现,在NLI数据集中广泛存在一种称为注释伪影的偏差模式,使得仅通过查看假设来识别标签成为可能。这种不规则性使得评价结果被高估,影响了模型的泛化能力。在本文中,我们考虑一个更值得信赖的设置,即,跨数据集评估。我们探讨了跨数据集测试中注释工件的影响。此外,我们提出了一个培训框架,以减轻偏见模式的影响。实验结果表明,该方法能有效地消除伪影对模型的负面影响,提高模型的泛化能力。
2019-10-05 cs.CL cs.LG
Federated Variational Inference: Towards Improved Personalization and Generalization
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Google Research(谷歌研究院)
本文针对跨设备联邦学习中客户端数据与模型异质性问题,提出基于层次生成模型和变分推断的FedVI算法,并通过PAC-Bayes分析给出泛化界,在FEMNIST和CIFAR-100上取得最优性能。
2023-05-25 cs.DC cs.LG
Estimates on the generalization error of Physics Informed Neural Networks (PINNs) for approximating a class of inverse problems for PDEs
ETH Zürich(苏黎世联邦理工学院)
针对PDE数据同化与唯一延拓反问题,论文建立抽象框架并利用条件稳定性证明PINN泛化误差估计,辅以四类线性PDE示例和数值实验验证。
2023-12-06 cs.LG cs.NA math-ph
Invariant Causal Prediction for Block MDPs
McGill University(麦吉尔大学);Mila(米拉研究所);Facebook AI Research(脸书人工智能研究院);University of Oxford(牛津大学);Deepmind(深度思维)
跨环境的泛化对于将强化学习算法成功应用于现实世界的挑战至关重要。在本文中,我们考虑的问题,学习抽象概括块MDP,家庭的环境与共享的潜在状态空间和动态结构的潜在空间,但不同的意见。我们利用因果推理的工具,提出了一种不变预测的方法来学习模型无关状态抽象(MISA),该模型无关状态抽象概括为多环境中的新观测。我们证明,对于某些类的环境,这种方法输出的状态抽象对应的因果特征集相对于回报的概率很高。我们进一步提供了更一般的边界模型误差和泛化误差在多环境设置,在因果变量的选择和状态抽象框架之间的连接的过程中,MDP。我们给出的经验证据表明,我们的方法在线性和非线性设置下都有效,在单任务和多任务基线上实现了更好的泛化。
2020-06-11 cs.AI cs.LG stat.ML
Semantic RL with Action Grammars: Data-Efficient Learning of Hierarchical Task Abstractions
Einstein Center for Neurosciences Berlin(柏林爱因斯坦神经科学中心);Technical University Berlin(柏林工业大学);Imperial College London(帝国理工学院)
分层强化学习算法已经成功地应用于具有稀疏奖励信号的时间信用分配问题。然而,国家的最先进的算法需要手动规范的子任务结构,一个样本效率低下的探索阶段或缺乏语义可解释性。另一方面,人类可以有效地检测由周围环境引起的层次子结构。有人认为,这种推理过程普遍适用于语言,逻辑推理以及运动控制。因此,我们提出了一个认知启发的强化学习架构,它使用语法归纳来识别子目标策略。通过将政策轨迹视为从环境的政策条件语言中采样的句子,我们在无监督语法推理的帮助下识别分层成分。由此产生的一组时间抽象被称为动作语法(Pastra & Aloimonos,2012),并将符号和连接主义方法统一到强化学习中。它可以用来促进有效的模仿、迁移和在线学习。
2019-09-23 cs.AI cs.CL cs.LG
Ablation, Statistical Inference, and Validation for KV-Cache Compression
Advanced Micro Devices, Inc.(超威半导体公司)
研究对Turbo-Quant和SpectralQuant KV缓存压缩进行系统比较,用统计验证方法评估非支配方案,发现基于特征基的方法在重尾数据上因协方差不稳定失败,在结构化模式下表现出色,有效语义维度适应校准预算。
2026-07-14 cs.AI cs.IT cs.LG
Improving Generalization with Flat Hilbert Bayesian Inference
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Monash University(莫纳什大学)
提出 FHBI 算法,通过再生核 Hilbert 空间中的对抗函数扰动与函数下降迭代提升贝叶斯推理泛化性,并在 VTAB-1K 的 19 个数据集上显著优于九种基线。
2025-06-08 cs.LG stat.ML
Object-Oriented Dynamics Learning through Multi-Level Abstraction
Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
基于对象的方法学习动作条件动力学已被证明是有希望的推广和解释。然而,现有的方法遭受的结构限制和优化困难的共同环境中的多个动态对象。在本文中,我们提出了一种新的自监督学习框架,称为多级抽象面向对象的预测器(MAOP),它采用了三个层次的学习架构,使有效的基于对象的动态学习从原始的视觉观察。我们还为MAOP设计了一个时空关系推理机制,以支持实例级动态学习和处理部分可观测性。我们的研究结果表明,MAOP显着优于以前的方法,在样本效率和泛化的新环境的学习环境模型。我们还证明了学习的动态模型可以在看不见的环境中进行有效的规划,与真实的环境模型相当。此外,MAOP学习语义和视觉上可解释的分离表示。
2019-12-05 cs.AI cs.CV cs.LG
Prediction-powered Generalization of Causal Inferences
Eric and Wendy Schmidt Center, Broad Institute of MIT and Harvard(埃里克和温迪·施密特中心,麻省理工学院与哈佛大学博德研究所);MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Department of Computational Precision Health, UC Berkeley and UCSF(加州大学伯克利分校与加州大学旧金山分校计算精准健康系)
针对RCT因果推断因样本有限难以泛化到目标人群的问题,提出利用观察性研究预测模型补充试验数据的泛化算法,在OS高质量时提升泛化效果,在低质量时保持稳健。
2024-06-05 cs.LG stat.ML
A Multi-Stage Rule-Chaining Framework for Compositional and Interpretable Cognitive Reasoning
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
提出多阶段规则链框架,整合三个求解器在符号、结构、概念层面进行组合推理,在ARC基准上实现超95%准确率,提升可解释性与泛化能力。
2026-09-11 cs.AI cs.LG
Domain Generalization via Inference-time Label-Preserving Target Projections
IIT Delhi(德里印度理工学院)
在一组具有不同统计数据的源域上训练的机器学习模型在看不见的目标域上的推广是一个具有挑战性的问题。虽然已经提出了许多方法来解决这个问题,但它们仅在训练期间利用源数据,而没有利用在推理时可获得单个目标示例的事实。受此启发,我们提出了一种方法,有效地使用目标样本在推理过程中超越单纯的分类。我们的方法有三个组成部分-(i)对源数据的标签保留特征或度量变换,使得源样本根据它们的类而不考虑它们的域而被聚类(ii)在这些特征上训练的生成模型(iii)目标点在源上的标签保留投影-通过使用所学习的度量在所述生成模型的输入空间上求解优化问题,在推理期间对所述特征流形进行优化。最后,将投影目标用于分类器。由于投影的目标特征来自源流形,并且通过设计具有与真实目标相同的标签,因此分类器期望在其上比真实目标表现得更好。我们证明,我们的方法优于国家的最先进的领域泛化方法在多个数据集和任务。
2021-07-19 cs.CV cs.LG
Small Sample Inference for Generalization Error in Classification Using the CUD Bound
University of Michigan(密歇根大学)
当使用小训练样本来构造分类器时,泛化误差的置信度度量是至关重要的。一种常见的方法是通过重采样估计泛化误差,然后假设重采样估计量遵循已知分布以形成置信集[Kohavi 1995,Martin 1996,Yang 2006]。或者,可以引导泛化误差的重新采样估计量以形成置信集。不幸的是,这些方法不能可靠地提供所需置信度的集合。差的性能似乎是由于缺乏作为学习分类器的函数的泛化误差的平滑性。这导致估计的泛化误差的非正态分布。我们构造了一个置信集的泛化误差之间的偏差的重采样估计和泛化误差的光滑上界。置信度集是通过自举这个上界形成的。在分类器的近似类可以表示为参数添加剂模型的情况下,我们提供了一个计算效率高的算法。该方法在一系列测试和模拟数据集上表现出优越的性能。
2012-06-13 cs.LG stat.ML
Inference Over Programs That Make Predictions
Babylon Health(巴比伦健康)
这个摘要扩展了以前的工作(arXiv:1407.2646,arXiv:1606.00075)使用概率编程的程序归纳。它描述了扩展该工作的可能的进一步步骤,使得最终自动概率程序合成可以概括任何合理的输入和输出集合,特别是关于文本、图像和视频数据。
2018-10-02 cs.LG cs.PL stat.ML
Graph schemas as abstractions for transfer learning, inference, and planning
Google DeepMind(谷歌DeepMind);Google Research(谷歌研究院)
受认知科学启发,提出图模式作为迁移学习抽象机制,通过潜在图学习与模式组合实现感知混叠下新环境的快速学习,在多项任务中表现优于基线。
2023-12-13 cs.AI cs.LG q-bio.NC
How Causal Abstraction Underpins Computational Explanation
探讨系统如何在合适表征载体上实现给定计算,认为因果语言尤其是因果抽象理论可提供视角,结合深度学习讨论相关主题,给出基于因果抽象的计算实现说明并研究表征作用,指出与泛化和预测相关探讨最有成效。
2026-07-10 cs.AI cs.CL cs.LG
Learning by Abstraction: The Neural State Machine
Stanford University(斯坦福大学)
我们引入神经状态机,寻求弥合人工智能的神经和符号视图之间的差距,并将它们的互补优势整合到视觉推理任务中。给定一个图像,我们首先预测一个概率图,表示其底层语义,并作为一个结构化的世界模型。然后,我们在图上执行顺序推理,迭代地遍历其节点以回答给定的问题或得出新的推理。与大多数旨在与原始感觉数据密切交互的神经架构相比,我们的模型在抽象的潜在空间中运行,通过将视觉和语言模态转换为基于语义概念的表示,从而实现增强的透明度和模块化。我们在VQA-CP和GQA上评估了我们的模型,这两个最近的VQA数据集涉及组合性,多步推理和多种推理技能,在这两种情况下都取得了最先进的结果。我们提供了进一步的实验来说明该模型在多个维度上的强大泛化能力,包括概念的新颖组合、答案分布的变化和看不见的语言结构,从而证明了我们方法的质量和有效性。
2019-11-25 cs.AI cs.CL cs.CV
Membership Inference Attacks and Generalization: A Causal Perspective
National University of Singapore(新加坡国立大学);Hong Kong University of Science and Technology(香港科技大学);Microsoft Research(微软研究院)
隶属度推断(MI)攻击突出了现有神经网络随机训练方法的隐私弱点。然而,人们并不很清楚它们为什么会出现。它们仅仅是不完美的概括的自然结果吗?在培训期间,我们应该解决哪些根本原因,以减轻这些攻击?为了回答这些问题,我们提出了第一种方法来解释MI攻击及其与基于原则因果推理的泛化的联系。我们提供因果关系图,定量解释所观察到的MI攻击性能达到$6$攻击变种。我们驳斥了几个先前的非定量假设,这些假设过度简化或高估了潜在原因的影响,从而未能捕捉到几个因素之间复杂的相互作用。我们的因果模型还显示了泛化和MI攻击之间的新联系,通过其共享的因果因素。我们的因果模型具有高预测能力($0.90$),即,他们的分析预测往往与看不见的实验中的观察相吻合,这使得通过他们进行分析成为一种实用的选择。
2022-10-30 cs.AI cs.CR cs.LG