Predictive Coding Graphs are a Superset of Feedforward Neural Networks
Department of Information & Computing Sciences, Utrecht University(信息与计算科学系,乌特勒支大学)
预测编码图(PCGs)作为前馈神经网络的超集,为机器学习提供了新的视角和方法。
2026-03-06 cond-mat.dis-nn cs.AI cs.LG
Predictive Coding Enhances Meta-RL To Achieve Interpretable Bayes-Optimal Belief Representation Under Partial Observability
University of Washington(华盛顿大学);Allen Institute for Neural Dynamics(神经动态研究院);Google DeepMind(谷歌DeepMind)
本研究受神经科学预测编码启发,将自监督预测模块引入元强化学习,以促进部分可观测环境下可解释的贝叶斯最优信念表示学习,实验证明该方法在表示质量、策略学习和泛化上均优于传统元强化学习。
2025-10-24 cs.AI q-bio.NC
Active Predictive Coding: A Unified Neural Framework for Learning Hierarchical World Models for Perception and Planning
University of Washington(华盛顿大学)
本文提出主动预测编码框架,通过分层世界模型解决人工智能中感知与规划的两大核心问题。
2022-10-23 cs.AI cs.CV cs.LG
Beyond Individuals: Collective Predictive Coding for Memory, Attention, and the Emergence of Language
Graduate School of Informatics(信息学研究科)
本文提出集体预测编码假说,将个体记忆与注意推广至群体层面,论证语言作为集体形成的外部表征,通过分布语义和下一词预测塑造群体认知并促成语言涌现。
2025-08-20 cs.AI cs.CL q-bio.NC
Relaxing the Constraints on Predictive Coding Models
University of Edinburgh(爱丁堡大学);University Sussex(苏塞克斯大学);Sackler Center for Consciousness Science(萨克勒意识科学中心);School of Engineering and Informatics(工程与信息学院);School of Informatics(信息学院);Evolutionary and Adaptive Systems Research Group(进化与自适应系统研究小组);University of Sussex(苏塞克斯大学)
预测编码是一种有影响力的皮质功能理论,它假定大脑执行的主要计算是预测误差的最小化,这是感知和学习的基础。在变分推理的高层次概念的激励下,已经开发出了可以实现其计算的皮层微电路的详细神经生理模型。此外,在某些条件下,预测编码已被证明近似于误差反向传播算法,从而为训练深度网络提供了一种相对生物学上合理的信用分配机制。然而,该算法的标准实现仍然涉及潜在的神经难以置信的功能,如相同的前向和后向权重,后向非线性导数和1-1错误单元连接。在本文中,我们表明,这些功能是不完整的算法,可以直接删除或通过学习额外的参数集与赫布更新规则没有明显的损害学习性能。因此,我们的工作放松了当前对潜在的微电路设计的限制,并有望为预测编码的神经形态实现开辟新的设计空间。
2020-10-10 cs.AI q-bio.NC stat.ML
A neuro-inspired architecture for unsupervised continual learning based on online clustering and hierarchical predictive coding
Georgia Institute of Technology(佐治亚理工学院)
我们提出,持续学习desiderata可以通过神经启发的架构,蒙特卡斯尔的皮质柱假说的基础上实现。所提出的架构涉及一个单一的模块,称为自学联想记忆(STAM),它模拟了皮质柱的功能。STAM在涉及前馈、横向和反馈连接的多级层次结构中重复。STAM网络以无监督的方式学习,基于在线聚类和分层预测编码的组合。这篇简短的论文只介绍了架构及其与神经科学的联系。数学公式和实验结果将在本文的扩展版本。
2018-10-22 cs.AI cs.LG q-bio.NC
Neuroscience-Inspired Memory Replay for Continual Learning: A Comparative Study of Predictive Coding and Backpropagation-Based Strategies
Dartmouth College(达特茅斯学院)
本文提出一种受神经科学启发的持续学习框架,通过比较预测编码与反向传播策略,展示预测编码在提升模型保留性能方面的优势。
2025-11-29 cs.AI cs.LG
Hierarchical Predictive Coding Models in a Deep-Learning Framework
贝叶斯预测编码是一种假定的神经形态学方法,用于获取更高级别的神经表征来解释感觉输入。虽然起源于神经科学界,但机器学习界也在努力研究这些模型。本文回顾了一些较知名的模型。我们的评论分析了模块连接和信息传输模式,试图找到跨模型使用的一般原则。我们还调查了最近在深度学习框架内构建这些模型的一些尝试。贝叶斯预测编码的一个定义特征是它使用自上而下的重构机制来预测传入的感官输入或其较低级别的表示。预测和实际输入之间的差异,称为预测误差,然后引起未来的学习,以改进和提高学习的更高级别表示的预测准确性。在深度学习发展之前,出现了用于描述新皮层计算的预测编码模型,并使用了我们命名为Rao-Ballard协议的模块之间的通信结构。该方案源自具有一些相当强的统计假设的贝叶斯生成模型。RB协议提供了一个规则来评估声称实现预测编码的深度学习模型的保真度。
2020-09-23 cs.AI cs.CV cs.LG
Hybrid Predictive Coding: Inferring, Fast and Slow
University of Sussex(萨塞克斯大学);VERSES Research Lab(VERSES研究实验室);University of Oxford(牛津大学)
预测编码是皮质神经活动的一个有影响力的模型。它提出感知信念是通过顺序地最小化“预测误差”-预测和观察数据之间的差异来提供的。这一提议隐含的观点是,感知需要多个神经活动周期。这与视觉感知的几个方面-包括复杂形式的物体识别-产生于在快速时间尺度上发生的初始“前馈扫描”的证据不一致,这排除了大量的重复活动。在这里,我们提出,前馈扫描可以被理解为执行摊销推理和递归处理可以被理解为执行迭代推理。我们提出了一种混合预测编码网络,它结合了迭代和摊销的推理在一个原则性的方式,通过描述一个单一的目标函数的双重优化。我们表明,由此产生的计划可以实现在一个生物上合理的神经架构,利用当地的赫布更新规则近似贝叶斯推断。我们证明了我们的混合预测编码模型结合了摊销和迭代推理的优点-获得快速和计算成本低的感知推理熟悉的数据,同时保持上下文敏感性,精度和迭代推理方案的样本效率。此外,我们展示了我们的模型是如何固有的敏感性,其不确定性和自适应平衡迭代和摊销推理,以获得准确的信念,使用最小的计算费用。混合预测编码提供了一个新的视角,在视觉感知过程中观察到的前馈和经常性活动的功能相关性,并提供了新的见解,不同方面的视觉现象学。
2022-04-06 cs.AI cs.LG q-bio.NC
Differentiable Generalised Predictive Coding
Otto-von-Guericke University(奥托·冯·格里克大学)
本文论述了与神经过程理论相一致的可微动力学模型,该模型将大脑功能视为解释观察结果的内部生成模型的分层细化。我们的工作扩展了现有的基于梯度的预测编码与自动微分的实现,并允许集成深度神经网络的非线性状态参数化。基于梯度的预测编码通过优化从刺激向潜在状态传播的精确加权预测误差来局部优化每层的推断状态和权重。预测向后流动,从潜在状态向较低层流动。这里建议的模型优化潜在状态的层次和动态预测。分层预测对预期内容和分层结构进行编码。动态预测捕获编码内容中的变化以及高阶导数。分层和动态预测相互作用,并解决相同的潜在状态的不同方面。我们将该模型应用于各种感知和规划任务的序列数据,并显示它们之间的相互依赖性。特别是,我们演示了如何学习采样距离并行地址有意义的位置数据采样在离散的时间步长。我们讨论的可能性,放松假设的线性层次结构有利于更灵活的图形结构与紧急性质。我们比较了模型的颗粒结构与描述生物网络中预测编码的典型微电路,并回顾了马尔可夫毯作为表征模块性的工具的连接。最后一节概述了在嵌套的时空层次结构中有效感知和规划的想法。
2021-12-08 cs.AI cs.LG cs.NE
A Study of Hidden-State Optimization Order in Predictive Coding Networks
该研究针对局部学习方法特征学习弱的问题,提出边界优先推理方案并实例化为预测编码网络,在CIFAR-10上提升了准确率,验证了该方案的有效性。
2026-11-10 cs.AI cs.LG
Preventing Deterioration of Classification Accuracy in Predictive Coding Networks
University of Sussex(萨塞克斯大学);University of Oxford(牛津大学)
预测编码网络(PCNs)旨在学习世界的生成模型。给定观察结果,然后可以反转该生成模型以推断这些观察结果的原因。然而,当训练PCN时,经常观察到明显的病理学,其中推理准确性达到峰值,然后随着进一步的训练而下降。这不能用过拟合来解释,因为训练和测试准确度同时下降。在这里,我们提供了一个彻底的调查这种现象,并表明它是由PCN的各层收敛的速度之间的不平衡所造成的。我们证明,这可以通过正则化每层的权重矩阵来防止:通过限制矩阵奇异值的相对大小,我们允许权重矩阵改变,但限制一层对其邻居的整体影响。我们还证明了类似的效果可以通过一个更生物合理和简单的计划,只是上限的重量。
2022-09-01 cs.AI q-bio.NC
Predictive Coding for Boosting Deep Reinforcement Learning with Sparse Rewards
UC Berkeley(加州大学伯克利分校)
虽然深度强化学习的最新进展使机器人能够学习复杂的行为,但具有长期视野和稀疏奖励的任务仍然是一个持续的挑战。在这项工作中,我们提出了一个有效的奖励塑造方法,通过预测编码来解决稀疏奖励问题。通过离线学习预测表示并将这些表示用于奖励塑造,我们可以获得了解环境结构和动态的奖励信号。特别是,我们的方法通过提供奖励信号来实现更好的学习,这些奖励信号1)理解环境动态2)强调对学习最有用的特征3)通过奖励累积来抵抗学习表示中的噪声。我们证明了这种方法在从机器人操作到导航的不同领域中的有用性,并且我们表明,通过预测编码产生的奖励信号对于学习和手工制作的奖励一样有效。
2020-08-03 cs.AI cs.LG stat.ML
Predictive Coding as a Neuromorphic Alternative to Backpropagation: A Critical Evaluation
Huawei Technologies R&D(华为技术研发部门)
本文批判性评估预测编码(PC)作为反向传播神经形态替代方案的潜力,证明现有PC变体的时间复杂度下界受反向传播限制,且其神经生物学合理性受限,表明PC作为直接替代方案潜力比先前设想的更有限。
2023-04-05 cs.AI cs.LG cs.NE
Closed-form predictive coding via hierarchical Gaussian filters
Center for Humanities Computing(人文计算中心);Aarhus University(奥胡斯大学);Interacting Minds Center(互动心灵中心)
本文提出通过分层高斯滤波器实现预测编码,恢复了精度加权的信息传递,实现了动态不确定性估计和Hebbian兼容的更新规则,从而在单个自由能目标下同时学习激活、权重和精度,无需全局误差信号,且无需迭代或自动微分。
2026-05-19 cs.AI cs.LG cs.NE
PredProp: Bidirectional Stochastic Optimization with Precision Weighted Predictive Coding
Otto-von-Guericke University(奥托·冯·格里克大学)
提出PredProp方法,通过精度加权优化预测编码网络的权重与状态,实现近似自然梯度下降,在图像基准测试中优于Adam,且可推广至深层PCN结构。
2023-05-05 cs.AI cs.LG cs.NE
A Synthesizable RTL Implementation of Predictive Coding Networks
University of California, Riverside(加州大学河滨分校)
本文提出一种可综合的RTL架构,实现离散时间预测编码更新,通过局部预测误差动态实现推理与学习,采用固定有限状态调度和序列MAC数据路径,提供可综合的硬件实现方案。
2026-05-02 cs.AI cs.AR cs.LG
Faster Convergence in Deep-Predictive-Coding Networks to Learn Deeper Representations
Naval Surface Warfare Center(海军水面作战中心);US Naval Sea Systems Command(美国海军海上系统司令部);University of Florida(佛罗里达大学)
深度预测编码网络(DPCNs)是分层的生成模型。它们依赖于前馈和反馈连接,以动态和上下文敏感的方式调节刺激的潜在特征表征。DPCNs的一个关键要素是一个前向-后向推理过程,以揭示稀疏,不变的特征。然而,这种推断是一个主要的计算瓶颈。由于学习停滞,它严重限制了网络深度。在这里,我们证明了为什么会出现这种瓶颈。然后,我们提出了一个新的前向推理策略的基础上加速邻近梯度。该策略具有比用于DPCCH的策略更快的理论收敛保证。它克服了学习停滞。我们还证明了它允许构建深度和广度的预测编码网络。这样的卷积网络实现了能够很好地捕捉网络训练对象的整个类别的感受野。与我们实验室以前的非卷积和卷积DPCCH相比,这改进了特征表示。它产生的无监督对象识别超过了卷积自动编码器,并与以监督方式训练的卷积网络相当。
2021-09-24 cs.AI cs.CV cs.NE
Pyramidal Predictive Network: A Model for Visual-frame Prediction Based on Predictive Coding Theory
South China University of Technology(华南理工大学);The Hong Kong Polytechnic University(香港理工大学)
视觉帧预测是一个像素密集的预测任务,从过去的帧推断未来的帧。现有的模型和方法存在着缺乏外观细节、预测精度低、计算量大等问题。在本文中,我们提出了一种新的神经网络模型的启发著名的预测编码理论来处理的问题。预测编码提供了一个有趣而可靠的计算框架,它将结合其他理论,如大脑皮层在不同水平上以不同的频率振荡,设计一个有效而可靠的预测网络模型用于视觉帧预测。具体来说,该模型由一系列递归和卷积单元组成,分别形成自顶向下和自底向上的流。每层神经元的更新频率随着网络层次的增加而降低,导致更高层次的神经元可以在更长的时间维度上捕获信息。实验结果表明,该模型具有较好的紧凑性,预测性能与现有方法相当,计算量小,预测精度高。代码可在https://github.com/Ling-CF/PPNet上获得。
2022-11-15 cs.AI cs.CV cs.HC
Empirical Evaluations of Seed Set Selection Strategies for Predictive Coding
Cleary Gottlieb Steen & Hamilton LLP(凯易律师事务所);Ankura Consulting Group, LLC(安库拉咨询集团有限责任公司)
训练文件对法律领域预测模型的性能有着重要的影响。然而,有有限的研究,探讨训练文件选择策略的有效性-特别是,用于选择种子集的策略,或一组文件的律师首先建立一个初始模型。由于对预测编码的这一重要组成部分的研究有限,本文的作者着手确定持续表现良好的策略。我们的研究表明,种子集选择策略可以对预测模型的精度产生重大影响。使律师能够获得这项研究的结果,将使他们能够启动最有效的预测建模过程,以梳理现代诉讼中通常存在的TB级数据。本研究使用四个实际的法律案件的文件,以评估八种不同的种子集选择策略。Attendant可以使用本文中包含的结果来增强他们的预测编码方法。
2019-03-21 cs.AI cs.IR
Encoding Longer-term Contextual Multi-modal Information in a Predictive Coding Model
National Institute of Advanced Industrial Science and Technology (AIST)(产业技术综合研究所);Plymouth University(普利茅斯大学);Waseda University(早稻田大学)
研究表明,在层次结构中,拓扑较高的水平可能代表了当前感觉事件的有意识类别,具有较慢的变化活动。他们试图通过传递预测的信息来预测较低级别的活动。另一方面,传入的感觉信息通过新的或令人惊讶的信号在更高水平上校正对事件的这种预测。我们提出了一个预测分层人工神经网络模型,在神经机器人平台上检查这一假设,基于AFA-PredNet模型。在该神经网络模型中,在分层预测编码的不同级别上存在不同的预测时间尺度,其在神经元中的时间参数中定义。此外,快速和缓慢变化的神经活动都受到主动运动活动的调制。基于该架构的神经机器人实验也进行了从VRep模拟器收集的数据的基础上。
2018-04-17 cs.AI cs.NE cs.RO
The Bayesian Reflex: A Predictive Coding Engine for Artificial Intelligence
Indian Statistical Institute(印度统计研究所)
该研究提出贝叶斯反射计算框架,结合预测编码三大支柱,利用近期算法突破实现可扩展的类脑持续学习、感知与决策,通过多领域应用为自适应AI提供蓝图。
2026-08-04 cs.AI cs.LG
Predictive Coding-based Deep Dynamic Neural Network for Visuomotor Learning
Korea Advanced Institute of Science and Technology(韩国科学技术院);Okinawa Institute of Science Technology(冲绳科学技术大学院大学)
本研究提出了一个基于预测编码框架的动态神经网络模型,用于感知和预测动态视觉本体感受模式。在我们之前的研究[1]中,我们已经证明了深度动态神经网络模型能够以无缝的方式协调视觉感知和动作生成。在当前的研究中,我们扩展了以前的模型下的预测编码框架,赋予该模型的感知和预测动态视觉本体感受模式的能力,以及通过最小化预测误差推断感知视觉信息背后的意图的能力。进行了一组合成实验,其中一个机器人学会模仿另一个机器人在模拟环境中的姿态。实验结果表明,在给定的意图状态下,该模型能够在没有外部环境输入的情况下,以自上而下的方式在心理上模拟可能到来的动态视觉本体感受模式。此外,结果强调了最小化预测误差在推断感知的视觉本体感受模式的潜在意图中的作用,支持镜像神经元系统的预测编码。结果还表明,最大限度地减少预测误差在一个模态诱导召回的相应表示的另一种模态收购在巩固学习的原始水平的视觉本体感受模式。
2017-06-08 cs.AI cs.LG cs.RO
Analog-Friendly Predictive Coding without Activation Derivatives
本文提出激活匹配的Bregman预测编码,消除激活导数,实现模拟友好的局部推理与学习规则,在分类和生成任务上性能与标准预测编码及反向传播相当。
2026-09-29 cs.AI cs.LG cs.NE
A General Close-loop Predictive Coding Framework for Auditory Working Memory
Ghent University(根特大学);Vrije Universiteit Brussel(布鲁塞尔自由大学);Queen Mary University of London(伦敦大学玛丽女王学院)
针对听觉工作记忆缺乏神经网络建模研究的问题,提出基于闭环预测编码的通用框架,并在环境声与语音基准上验证其记忆与语义表征能力。
2025-03-16 cs.AI cs.SD eess.AS
Contrastive Difference Predictive Coding
Carnegie Mellon University(卡内基梅隆大学);Princeton University(普林斯顿大学)
本文提出对比差分预测编码,通过拼接时间序列片段减少数据需求,用于目标条件强化学习,实验显示成功率中位数提升2倍,样本效率大幅提高。
2025-10-08 cs.AI cs.LG
JPC: Flexible Inference for Predictive Coding Networks in JAX
School of Engineering and Informatics(工程与信息学院);University of Sussex(萨塞克斯大学)
本文提出 JAX 库 JPC,用常微分方程求解器实现预测编码网络的灵活推理与训练,并以二阶求解器在保持性能的同时显著提升运行速度。
2024-12-04 cs.AI cs.LG cs.NE
Understanding Predictive Coding as an Adaptive Trust-Region Method
University of Sussex(萨塞克斯大学)
本文将预测编码建模为使用二阶信息的自适应信赖域算法,证明其学习动态介于反向传播梯度方向与信赖域方向之间,并从理论和实验上表明 PC 比 BP 更快逃离鞍点。
2023-05-29 cs.AI cs.LG cs.NE
Language Reconstruction with Brain Predictive Coding from fMRI Data
College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics(南京航空航天大学人工智能学院);The Key Laboratory of Brain-Machine Intelligence Technology, Ministry of Education(教育部脑机智能技术重点实验室);Institute of Trustworthy Embodied AI, Fudan University(复旦大学可信具身智能研究院)
本文提出PredFT模型,通过脑预测编码理论提升语言重建效果,实验表明其在自然语言理解fMRI数据集上优于现有解码模型。
2026-04-13 cs.AI cs.CL
A Stable, Fast, and Fully Automatic Learning Algorithm for Predictive Coding Networks
VERSES AI Research Lab(VERSES AI研究实验室);Institute of Logic and Computation, TU Wien(维也纳技术大学逻辑与计算研究所);MRC Brain Network Dynamics Unit, University of Oxford(牛津大学医学研究委员会脑网络动力学单元);Department of Computer Science, University of Oxford(牛津大学计算机科学系);State Key Laboratory of Reliability and Intelligence of Electrical Equipment, Hebei University(河北大学电力设备可靠性与智能化国家重点实验室)
本文提出增量预测编码(iPC)算法,通过改变突触权重更新的时间调度,使预测编码网络训练更稳定高效,并具有收敛性保证,在图像分类和语言模型基准上优于原始方法。
2024-02-07 cs.AI cs.LG cs.NE
Communication-Efficient Federated Learning via Predictive Coding
NC State University(北卡罗来纳州立大学)
联邦学习可以使远程工作人员能够协作地训练共享的机器学习模型,同时允许将训练数据保持在本地。在无线移动设备的使用情况下,由于有限的功率和带宽,通信开销是关键瓶颈。先前的工作已经利用了各种数据压缩工具,例如量化和稀疏化,以减少开销。在本文中,我们提出了一个基于预测编码的压缩方案的联邦学习。该方案在所有设备之间共享预测功能,并允许每个工作者传输从参考导出的压缩残差向量。在每一轮通信中,我们根据率失真代价选择预测器和量化器,并通过熵编码进一步减少冗余。大量的仿真表明,与其他基线方法相比,通信成本可以降低高达99%,甚至更好的学习性能。
2022-01-09 cs.AI cs.DC cs.LG
Dimensionality Reduction for Cyberattack Classification: A Comparative Evaluation of PCA and Linear Predictive Coding
University of California, Los Angeles(加州大学洛杉矶分校)
本文通过比较主成分分析(PCA)和线性预测编码(LPC)两种降维方法,研究网络攻击分类中的特征压缩技术,实验表明PCA在激进压缩下仍能保持分类性能,LPC则略有性能下降,但两者均能在最小影响分类准确率的情况下大幅降低特征维度。
2026-06-04 cs.AI cs.CR
World Models and Predictive Coding for Cognitive and Developmental Robotics: Frontiers and Challenges
Ritsumeikan University(立命馆大学);Keio University(庆应义塾大学);The University of Tokyo(东京大学);Università Milano-Bicocca(米兰比可卡大学);University of Essex(埃塞克斯大学);Donders Institute for Brain, Cognition and Behaviour(唐德斯脑、认知与行为研究所);Cajal International Neuroscience Center, Spanish National Research Council(西班牙国家研究委员会卡哈尔国际神经科学中心);Bogazici University(博阿齐奇大学);Queen Mary University of London(伦敦玛丽女王大学);The University of Electro-Communications(电气通信大学);National Autonomous University of Mexico(墨西哥国立自治大学);Universidad Autónoma del Estado de Morelos(莫雷洛斯州自治大学);Institute of Cognitive Sciences and Technologies, National Research Council of Italy(意大利国家研究委员会认知科学与技术研究所)
创造能够积极探索环境、不断获取知识和学习技能的自主机器人是认知和发展机器人技术所设想的最终成就。他们的学习过程应该以人类学习和认知发展的方式与他们的物质和社会世界互动为基础。基于这一背景,本文重点研究了世界模型和预测编码两个概念。最近,世界模型作为人工智能中相当感兴趣的话题再次引起了人们的关注。认知系统学习世界模型以更好地预测未来的感官观察并优化其策略,即,控制器。或者,在神经科学中,预测编码提出大脑不断预测其输入,并适应模拟其自身的动态和控制环境中的行为。这两种想法都可以被认为是机器人和人类能够持续或终身学习的认知发展的基础。虽然在认知机器人和神经机器人中已经进行了许多关于预测编码的研究,但是在人工智能中基于世界模型的方法和机器人中的预测编码之间的关系很少被讨论。因此,在本文中,我们澄清的定义,关系和这些主题的当前研究的现状,以及缺失的世界模型和预测编码与关键相关的概念,如自由能原则和主动推理的认知和发展机器人的背景下。此外,我们还概述了世界模型和预测编码所涉及的前沿和挑战,以进一步整合人工智能和机器人技术,以及创造未来具有真正认知和发展能力的机器人。
2023-01-14 cs.AI cs.LG cs.RO
Integration of Contrastive Predictive Coding and Spiking Neural Networks
Université Paris-Saclay(巴黎萨克雷大学);İstanbul Teknik Üniversitesi(伊斯坦布尔技术大学);Osmaniye Korkut Ata Üniversitesi(奥斯曼耶·科鲁特阿大学);Erzincan Binali Yıldırım Üniversitesi(埃尔津詹·比纳利·伊利德里姆大学);Hacettepe Üniversitesi(哈恰特佩大学)
本研究将对比预测编码(CPC)与脉冲神经网络(SNN)融合,构建更具生物合理性的脉冲式预测编码模型,在MNIST数据集上实现了序列样本分类的高准确率,验证了SNN可兼作编码机制,相关代码已开源。
2025-06-10 cs.AI eess.SP
Predictive Coding Based Multiscale Network with Encoder-Decoder LSTM for Video Prediction
South China University of Technology(华南理工大学);The Hong Kong Polytechnic University(香港理工大学)
针对传统预测编码模型无法预测未来的问题,提出嵌入编解码LSTM的多尺度预测编码视频预测模型,改进训练策略,在多个数据集上取得良好性能。
2023-10-08 cs.AI cs.CV
A General Framework for Development of the Cortex-like Visual Object Recognition System: Waves of Spikes, Predictive Coding and Universal Dictionary of Features
Kyoto University(京都大学)
本研究的重点是开发类皮层视觉物体识别系统。我们提出了一个总体框架,它包括三个层次(模块)。这些模块在功能上对应于V1、V4和IT领域。采用分层级别V4和IT之间的自底向上和自顶向下连接。输入和首选刺激之间的匹配程度越高,神经元的响应时间就越短。因此,关于单个刺激的信息在时间上是分布的,并通过尖峰波来传输。尖峰的相互连接和波实现了预测编码:基于由第一波尖峰传递的信息生成初始假设,并使用连续波携带的信息进行测试。开发被认为是V4中的特征和IT中的对象的提取和积累。一旦存储了特征,即使很少激活,也可以处理。这会导致更新功能存储库。因此,IT中的对象也会更新。这说明了V4、IT的生长过程和拓扑结构的动态变化以及它们之间的联系。
2011-02-14 cs.AI cs.CV cs.LG
BayesPCN: A Continually Learnable Predictive Coding Associative Memory
University of British Columbia(不列颠哥伦比亚大学)
联想记忆在人类智能中起着重要的作用,其机制与机器学习中的注意力有关。虽然机器学习社区最近重新燃起了对联想记忆的兴趣,但大多数工作都集中在记忆回忆($read$)上,而不是记忆学习($write$)。在本文中,我们提出了BayesPCN,一个分层的联想记忆,能够执行连续的一次性记忆写入,而无需元学习。此外,BayesPCN能够逐渐忘记过去的观测($forget$)以释放其内存。实验结果表明,贝叶斯PCN算法能够召回被破坏的i.i.d.与最先进的离线学习参数记忆模型相比,观察到数百到一千个“时间步”前的高维数据,而回忆能力没有大幅下降。
2022-11-12 cs.AI cs.LG
Predictive Coding Networks and Inference Learning: Tutorial and Survey
Utrecht University(乌得勒支大学);Leiden University(莱顿大学)
本文综述了预测编码网络与推断学习,展示了其作为更高效、更灵活的机器学习框架的潜力。
2026-03-06 cond-mat.dis-nn cs.AI cs.LG
Recurrent Auto-Encoder With Multi-Resolution Ensemble and Predictive Coding for Multivariate Time-Series Anomaly Detection
Korea University(高丽大学)
由于大规模的时间序列数据在实际应用中很容易被发现,因此多元时间序列异常检测在各个行业中发挥着重要作用。它可以通过基于时间序列数据预防故障和检测异常来提高生产率并降低维护成本。然而,多变量时间序列异常检测是具有挑战性的,因为真实世界的时间序列数据表现出复杂的时间依赖性。对于这项任务,关键是要学习一个丰富的表示,有效地包含正常行为的非线性时间动态。在这项研究中,我们提出了一个无监督的多变量时间序列异常检测模型RAE-MEPC学习信息正常表示的基础上,多分辨率集成和预测编码。我们引入多分辨率集成编码来捕获输入时间序列的多尺度依赖性。编码器分层地聚合从具有不同编码长度的子编码器提取的时间特征。根据这些编码特征,重构解码器基于多分辨率系综解码来重构输入时间序列,其中较低分辨率信息有助于解码具有较高分辨率输出的子解码器。预测编码被进一步引入以鼓励模型学习时间序列的时间依赖性。在真实世界基准数据集上的实验表明,该模型在多变量时间序列异常检测方面优于基准模型。
2022-02-21 cs.AI cs.LG
Relating Human Perception of Musicality to Prediction in a Predictive Coding Model
The Ohio State University(俄亥俄州立大学);Carnegie Mellon University(卡内基梅隆大学);Massachussetts Institute of Technology(麻省理工学院)
我们探索使用的神经网络的启发,预测编码建模人类的音乐感知。该网络是基于分层视觉皮层中经常性相互作用的计算神经科学理论开发的。当使用自监督学习对视频数据进行训练时,该模型表现出与人类视觉错觉一致的行为。在这里,我们调整这个网络来模拟分层听觉系统,并研究它是否会做出类似的选择人类关于一组随机音高序列的音乐性。当该模型用大量的古典器乐和流行旋律作为梅尔频谱图进行训练时,它对人类受试者认为音乐性较低的随机音高序列表现出更大的预测误差。我们发现,预测误差取决于有关后续音符,音高间隔和时间上下文的信息量。我们的研究结果表明,可预测性与人类对音乐性的感知相关,并且在音乐上训练的预测编码神经网络可用于表征有助于人类感知音乐的特征和主题。
2022-10-29 cs.AI cs.SD eess.AS
Virtual Agents in Live Coding: A Short Review
人工智能和实时编码很少被探索。本文将简要回顾在现场编码实践中使用虚拟代理的不同观点,回顾过去和现在,并指出未来的方向。
2021-06-28 cs.AI cs.HC cs.LG
Bridging the Gap between Probabilistic and Deterministic Models: A Simulation Study on a Variational Bayes Predictive Coding Recurrent Neural Network Model
KAIST(韩国科学技术院);Okinawa Institute of Science and Technology(冲绳科学技术大学院大学)
本文提出了一种新的变分贝叶斯预测编码RNN模型,该模型可以从样本中学习生成波动的时间模式。该模型学习最大化正则化和重建误差项的加权和的下界。我们研究了在学习波动的时间模式时,这种加权如何影响不同类型的信息处理的发展。仿真结果表明,重构项的强权重导致确定性混沌的发展,以模仿目标序列中观察到的随机性,而正则项的强权重导致随机动力学的发展,以模仿目标中观察到的概率过程。此外,结果表明,最广义的学习出现在这两个极端之间。本文的结论与自闭症谱系障碍和自由行动的潜在神经元机制方面的影响。
2017-09-15 cs.AI cs.LG
Active Predictive Coding Networks: A Neural Solution to the Problem of Learning Reference Frames and Part-Whole Hierarchies
Paul G. Allen School of Computer Science and Engineering(保罗·G·艾伦计算机科学与工程学院);University of Washington, Seattle(华盛顿大学西雅图分校)
我们介绍了主动预测编码网络(APCN),这是一类新的神经网络,它解决了Hinton和其他人在人工智能和大脑建模领域提出的一个主要问题:神经网络如何学习对象的内在参考系,并通过动态分配解析树中的节点将视觉场景解析为部分-整体层次结构?APCN通过使用一种新颖的思想组合来解决这个问题:(1)超网络用于动态生成递归神经网络,该网络以更高的对象级嵌入向量为条件来预测部件及其在内在参考系中的位置,以及(2)强化学习与反向传播结合使用,用于模型参数的端到端学习。APCN架构自然地适合于多层次的分层学习,并且与皮质功能的预测编码模型密切相关。使用MNIST,Fashion-MNIST和Omniglot数据集,我们证明了APCN可以(a)学习将图像解析为部分-整体层次结构,(b)学习组合表示,以及(c)将其知识转移到看不见的对象类。APCN能够动态生成具有对象部分位置的解析树,因此它为可解释的AI提供了一个新的框架,该框架利用了深度学习的进步,同时保留了可解释性和组合性。
2022-01-14 cs.AI cs.CV cs.LG
Early Exiting Predictive Coding Neural Networks for Edge AI
TICLab, International University of Rabat, Morocco(TICLab,拉巴特国际大学,摩洛哥);College of Computing, University Mohammed VI Polytechnic, Morocco(计算机学院,穆罕默德六世理工大学,摩洛哥);School of Electronic and Electrical Engineering, University of Leeds, UK(电子与电气工程学院,利兹大学,英国)
本文提出一种基于生物启发的浅层双向预测编码网络,通过早期退出减少计算量,实现高效边缘AI处理。
2026-03-31 cs.AI cs.CV cs.LG
Onboard deep lossless and near-lossless predictive coding of hyperspectral images with line-based attention
Politecnico di Torino(都灵理工大学)
针对星载高光谱图像压缩难题,提出逐行递归的预测神经网络LineRWKV,结合注意力与递归操作降低内存消耗,首次在无损和近无损压缩上超越CCSDS-123.0-B-2标准。
2024-03-26 cs.AI eess.IV
Bidirectional predictive coding
MRC Brain Network Dynamics Unit, University of Oxford, UK(英国牛津大学MRC脑网络动力学单位)
本文提出双向预测编码模型,结合生成与判别推理,通过能量景观优化,在生成和判别任务中表现优异,适用于多模态学习与信息缺失推理。
2025-12-17 cs.AI cs.LG
Temporal Predictive Coding For Model-Based Planning In Latent Space
VinAI Research(VinAI研究院);Stanford University(斯坦福大学)
高维观测是基于模型的强化学习(MBRL)应用于现实世界环境的一个主要挑战。为了处理高维感觉输入,现有方法使用表示学习来将高维观测映射到更适合于动态估计和规划的低维潜在空间。在这项工作中,我们提出了一个信息理论的方法,采用时间预测编码的环境中,可以预测跨时间的元素进行编码。由于这种方法的重点是编码时间可预测的信息,我们隐式地优先考虑编码的任务相关的组件在环境中的滋扰信息是可证明的任务无关。通过结合递归状态空间模型学习该表示,我们可以在潜在空间中执行规划。我们评估我们的模型上的一个具有挑战性的修改标准DMControl任务的背景被替换为自然的视频,包含复杂的,但不相关的信息的规划任务。我们的实验表明,我们的模型是优于现有的方法,在具有挑战性的复杂背景设置,同时保持竞争力与当前国家的最先进的模型在标准设置。
2021-06-14 cs.AI cs.LG
Bayesian Predictive Coding
VERSES AI Research Lab(VERSES AI研究实验室);School of Engineering and Informatics, University of Sussex(萨塞克斯大学工程与信息学院);Max Planck Institute of Animal Behavior(马克斯·普朗克动物行为研究所);Duke University(杜克大学)
本文提出了一种PC的贝叶斯扩展方法BPC,通过估计网络参数的后验分布来量化不确定性,同时保留了PC的局部性并产生闭式Hebbian权重更新,在保证生物合理性的同时改善了收敛性能。
2025-03-31 cs.AI cs.LG stat.ML
Sparse Deep Predictive Coding captures contour integration capabilities of the early visual system
Aix Marseille Univ(艾克斯-马赛大学);CNRS(法国国家科学研究中心);Inst Neurosci Timone(蒂莫内神经科学研究所);ISM(ISM研究所)
神经生理学和心理物理学实验都指出,在早期视觉皮层中,循环连接和反馈连接在处理依赖于上下文的信息中起着至关重要的作用。虽然许多模型已经在神经或表征层面上解释了反馈效应,但没有一个模型能够将这两个层面的分析结合起来。是否可以用同一个模型来描述两个层次的反馈效应?我们通过将预测编码(PC)和稀疏编码(SC)结合到分层和卷积框架中来回答这个问题。在该稀疏深度预测编码(SDPC)模型中,SC组件对每个层内的内部递归处理进行建模,并且PC组件使用前馈和反馈连接来描述层之间的交互。在这里,我们在两个不同的图像数据库上训练一个2层SDPC,并将其解释为早期视觉系统(V1和V2)的模型。我们首先证明,一旦训练收敛,SDPC表现出导向和本地化的感受野在V1和V2更复杂的功能。第二,我们分析了反馈对V1神经元经典感受野以外的神经组织的影响。这些映射类似于联想场,反映了良好延续的完形原则。我们证明,反馈信号重组互动地图和调制神经活动,以促进轮廓整合。第三,我们证明了在代表性的水平,SDPC反馈连接能够克服输入图像中的噪声。因此,SDPC在神经水平上捕获了关联场原理,从而在代表性水平上更好地消除模糊图像的歧义。
2019-10-17 cs.AI cs.CV cs.LG
A Machine Learning Perspective on Predictive Coding with PAQ
University of British Columbia(不列颠哥伦比亚大学)
PAQ8是一种开源无损数据压缩算法,目前在许多基准测试中达到了最佳压缩率。本报告从统计机器学习的角度详细描述了PAQ8。这表明,理解PAQ8的一些模块并使用这种理解来改进方法是可能的。然而,其他模块的行为的直观统计解释仍然难以捉摸。我们希望本报告中的描述将成为讨论的起点,这将增加我们的理解,导致PAQ8的改进,并促进知识从PAQ8转移到其他机器学习方法,如递归神经网络和随机记忆器。最后,该报告介绍了PAQ在机器学习任务中的广泛新应用,包括语言建模和自适应文本预测、自适应游戏、分类以及使用深度学习领域特征的压缩。
2011-08-16 cs.AI cs.CV cs.IR