Neuroscience needs Network Science
本文探讨网络科学在大脑研究中的应用,强调通过跨学科合作开发新方法,以深入理解大脑的结构、功能与动力学。
2023-05-11 q-bio.NC
Untangling cross-frequency coupling in neuroscience
交叉频率耦合(CFC)已被提出来协调跨空间和时间尺度的神经动力学。尽管它对理解健康和病理性脑功能具有潜在的相关性,但标准CFC分析和生理解释存在根本性问题。例如,明显的CFC可以出现,因为频谱相关性,由于共同的非平稳性,可能会出现在神经频率分量之间的相互作用完全没有。为了提供一个路线图,以改善机制的理解CFC,我们组织现有的和潜在的新的统计/建模方法,根据其生物物理的可解释性。虽然我们没有为所有描述的问题提供解决方案,但我们提供了一系列实用建议,以避免常见错误并提高CFC分析的可解释性。
2014-08-25 q-bio.NC
Applications of Discrete Mathematics for Understanding Dynamics of Synapses and Networks in Neuroscience
数学建模在神经科学中有着广泛的应用,无论是对单个突触还是整个神经元网络的动态建模。在第一部分中,我们模拟囊泡的补充和释放在感光突触,以更好地了解视觉信息是如何处理的。在第二部分中,我们探索了一个简单的神经网络模型,目的是发现网络结构如何塑造网络的行为。要完全理解视觉信息是如何被处理的,就需要了解信号在感光神经元的带状突触中的转换方式。这些突触具有带状结构,能够储存大约100个突触囊泡,通过释放不同数量的囊泡来响应视觉输入,从而实现分级响应。这些反应主要取决于色带的能力,以补充自己作为色带网站空后释放。因此,囊泡补充的速率是在视网膜中形成神经编码的重要因素。在与实验神经科学家的合作中,我们开发了一个数学模型来描述带状突触中囊泡释放和补充的动力学。为了更多地了解网络架构如何塑造网络的动态,我们研究了一种特定类型的阈值线性网络,它是由一个简单的有向图构建的。网络结构保证了动态的差异仅仅是由底层图的连通性差异引起的。通过设计,这些网络的活动是有界的,没有稳定的不动点。计算实验表明,这些网络中的大多数产生极限环,其中神经元按顺序发射。我们设计了一种算法,使用底层图的结构来预测射击顺序。使用该算法,我们对所有这种类型的网络在五个或更少的节点上进行分类。
2017-02-21 q-bio.NC
How brains are built: Principles of computational neuroscience
“如果我不能建造它,我就不理解它。诺贝尔奖得主理查德·费曼(Richard Feynman)说,根据他的衡量标准,我们对物理学了解一点,对化学了解较少,对生物学几乎一无所知。当我们完全理解一种现象时,我们就可以完全确定它的整个事件序列、原因和结果,从而有可能完全模拟它,而其所有内部机制都完好无损。达到这种程度的理解是罕见的。它与构建一个完整的机器设计是相称的,这个机器可以作为正在研究的东西的替身。要充分理解一个现象,以充分模拟它,就是要在计算上理解它。“计算”并不是指计算机本身。相反,它指的是使它们发挥作用的基本原则和方法。正如图灵奖获得者Edsger Dijkstra所说,计算科学“与计算机无关,就像天文学与望远镜无关一样。计算科学是研究从物理学到心理学的复杂现象背后的隐藏规则。因此,计算神经科学的目标是充分了解大脑,以便能够模拟它们的功能,从而包含科学和工程的双重目标:深入了解我们大脑的内部运作,并能够构建它们的拟像。就像今天简单的机器人在工厂到医院的环境中取代人类的身体能力一样,大脑工程将为我们的精神能力构建替身,甚至可能使我们能够在大脑破裂时修复我们的大脑。
2017-03-29 q-bio.NC
What can topology tell us about the neural code?
神经科学正在经历一个快速的实验进步和扩展的时期。新的数学工具,以前未知的神经科学界,现在被用来解决基本问题和分析新兴的数据集。与这一趋势相一致的是,过去十年中,神经科学中拓扑思想和方法的使用有所增加。在这次演讲中,我将概述拓扑学在神经科学中的最新应用,并解释为什么拓扑学是理解神经代码的一个特别自然的工具。注:这是我为时事公报所做的演讲,在西雅图举行的2016年联合数学会议上,华盛顿州。
2016-05-06 q-bio.NC
Biological Blueprints for Next Generation AI Systems
几十年来,神经科学的各种子领域丰富了人工智能。随着机器学习和人工神经网络的最新进展,许多神经科学家正在与人工智能研究人员和机器学习专家合作分析数据和构建模型。本文试图通过提供来自神经科学研究的见解如何帮助开发新的机器学习算法和人工神经网络架构的例子来证明这种合作的价值。我们调查了相关的神经科学必要的欣赏这些见解,然后描述我们如何能够将我们目前的理解相关的神经生物学到算法技术和架构设计。最后,我们描述了当前人工智能技术面临的一些主要挑战,并提出了克服这些挑战的途径,这些挑战借鉴了发展和比较认知神经科学的研究。
2019-12-01 q-bio.NC
From deep learning to mechanistic understanding in neuroscience: the structure of retinal prediction
NTT Research, Inc.(NTT研究公司);Stanford University(斯坦福大学);Google, Inc.(谷歌公司)
最近,深度前馈神经网络在模拟生物感觉处理方面取得了相当大的成功,在再现感觉神经元的输入-输出图方面。然而,这些模型对神经科学中解释的本质提出了深刻的问题。我们是否只是简单地用一个复杂系统(生物回路)替换另一个复杂系统(深层网络),而不理解其中任何一个?此外,除了神经表征之外,深度网络产生神经反应的计算机制是否与大脑中的相同?如果没有系统的方法来从深度神经网络模型中提取和理解计算机制,就很难评估深度学习方法在神经科学中的实用程度,也很难从深度网络中提取实验可检验的假设。我们开发了这样一个系统的方法相结合的降维和现代属性的方法来确定特定的视觉计算的相对重要性的interneurons。我们将这种方法应用于视网膜的深度网络模型,揭示了对视网膜如何作为预测特征提取器的概念性理解,该预测特征提取器发出与对不同时空刺激的预期偏差的信号。对于每个刺激,我们提取的计算机制与以前的科学文献是一致的,并在一种情况下产生一个新的机制假说。因此,总的来说,这项工作不仅深入了解了视网膜惊人的预测能力背后的计算机制,而且还将深度网络的框架作为神经科学模型置于更坚实的理论基础之上,提供了一个新的路线图,超越了比较神经表征,以提取和理解计算机制。
2019-12-12 cs.LG physics.bio-ph q-bio.NC
Efficient coding with chaotic neural networks: A journey from neuroscience to physics and back
本文以高效编码和皮层计算为线索,综述随机神经网络混沌、混沌涨落部分抑制等研究,阐明理论神经科学与非平衡统计物理的相互推动及未来交叉挑战。
2024-08-04 nlin.CD q-bio.NC
Real-Time Machine Learning Strategies for a New Kind of Neuroscience Experiments
本文探讨了实时机器学习在神经科学实验中的应用,分析了其在实时探测大脑状态以研究因果作用方面的潜力及面临的关键挑战,并指出大规模整合神经科学与元学习是推动该领域发展的重要方向。
2024-09-23 q-bio.NC
Testing the Tools of Systems Neuroscience on Artificial Neural Networks
神经科学家将一系列常见的分析工具应用于记录的神经活动,以便深入了解神经回路如何执行计算。尽管这些工具塑造了整个领域的进步,但我们几乎没有经验证据表明它们能有效地快速识别感兴趣的现象。在这里,我认为这些工具应该明确测试,人工神经网络(ANN)是一个适当的测试他们的理由。最近,人工神经网络作为从感知到记忆再到运动控制的一切模型的复兴源于人工神经网络和生物神经网络之间的大致相似性,以及训练这些网络执行复杂高维任务的能力。这些特性,再加上完美观察和操纵这些系统的能力,使它们非常适合用于审查系统和认知神经科学的工具。我在这里提供了执行此测试的路线图和适合在ANN上测试的工具列表。使用人工神经网络来反思这些工具在多大程度上提供了对神经系统的有效理解-以及理解在这里应该意味着什么-有可能加快大脑研究的进展。
2022-02-14 cs.NE q-bio.NC
Quantum Physics in Neuroscience and Psychology: A New Theory With Respect to Mind/Brain Interaction
大多数关于行为神经基础的神经心理学研究所采用的认知框架都包含这样一个假设,即大脑机制本身完全足以解释所有心理学描述的现象。这个假设源于这样一种想法,即大脑完全由物质粒子和场组成,因此所有的因果机制都必须完全根据这些元素的属性来制定。这种立场的一个后果是,具有内在精神和/或经验内容的心理学术语(如“感觉”、“知道”和“努力”)没有被列为神经心理学研究的主要因果因素:只要属性没有用物质术语描述,它们就被认为与大脑功能的因果机制无关。然而,这种将经验实在排除在因果基础之外的要求的起源是一种自然理论,这种理论在四分之三个世纪以来一直被认为是根本不正确的。这里解释了为什么认为物质因素本身在原则上可以解释与神经科学有关的所有因果机制在科学上是没有根据的。更重要的是,它解释了关键的量子效应如何可以引入到大脑动力学中,以一种简单实用的方式,提供了一种合理的连贯性,因果关系,基于物理的方式来理解和使用心理和物理数据,这些数据来自于越来越多的研究,这些研究是关于定向注意力和精神努力系统地改变大脑功能的能力。
2004-01-14 q-bio.NC
Triple Phase Transitions: Understanding the Learning Dynamics of Large Language Models from a Neuroscience Perspective
Osaka University(大阪大学);National Institute of Information and Communications Technology(信息通信研究机构);National Institute of Informatics(信息学研究所)
本研究从神经科学视角整合分析大语言模型训练中的三重相变,揭示其与大脑对齐、偏离及重新对齐的动态规律,为AI与神经科学交叉研究提供新见解。
2025-03-29 cs.AI cs.CL cs.LG
If deep learning is the answer, then what is the question?
神经科学研究正在经历一场小小的革命。机器学习和人工智能(AI)研究的最新进展为神经计算开辟了新的思路。许多研究人员对深层神经网络可能为生物大脑提供感知、认知和行动理论的可能性感到兴奋。这种观点有可能从根本上重塑我们理解神经系统的方法,因为深度网络执行的计算是从经验中学习的,而不是由研究人员赋予的。如果是这样,神经科学家如何使用深度网络来建模和理解生物大脑?对于那些试图解释计算或神经编码,或者希望理解感知、注意力、记忆和执行功能的神经科学家来说,前景如何?在这个视角中,我们的目标是为深度学习时代的系统神经科学研究提供路线图。我们讨论的概念和方法的挑战,比较行为,学习动力学和神经表示在人工和生物系统。我们强调了神经科学作为机器学习最新进展的直接结果而出现的新研究问题。
2020-04-17 q-bio.NC
Interpretability of artificial neural network models in artificial Intelligence vs. neuroscience
本文区分 AI 与神经科学对 ANN 可解释性的不同定义,主张二者可并行独立推进,并指出特征可视化和归因技术需结合大脑对应才具神经科学意义。
2022-06-07 q-bio.NC
Comparing high-dimensional neural recordings by aligning their low-dimensional latent representations
神经科学中的许多问题涉及对大量神经元的反应的理解。然而,当处理大规模神经活动时,解释变得困难,并且在两个动物之间或在不同时间点之间进行比较变得具有挑战性。我们在现代神经科学中面临的一个主要挑战是对应性,例如我们不能在完全相同的时间记录完全相同的神经元。如果没有某种方法来链接两个或多个数据集,比较不同的神经活动模式集合就变得不可能。在这里,我们描述了利用跨神经记录的共享潜在结构来解决这种对应性挑战的方法。我们回顾了将两个数据集映射到一个共享空间的算法,在这个空间中,它们可以直接进行比较,并认为对齐是跨时间、神经元子集和个体比较高维神经活动的关键。
2022-05-17 q-bio.NC
A brain basis of dynamical intelligence for AI and computational neuroscience
Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院)
现代人工智能(AI)的深度神经网络还没有达到生物智能的定义特征,包括抽象、因果学习和能效。虽然扩展到更大的模型已经为当前的应用程序提供了性能改进,但更多类似大脑的能力可能需要新的理论,模型和方法来设计人工学习系统。在这里,我们认为,这个重新评估大脑洞察力的机会应该刺激人工智能研究和理论驱动的计算神经科学(CN)之间的合作。为了激励神经计算的大脑基础,我们提出了一个动态的智能观,我们阐述了网络结构,时间动态和交互式学习的稀疏性概念。特别是,我们认为,时间动态,通过神经同步,嵌套振荡和灵活的序列表示,提供了一个丰富的计算层阅读和更新分层模型分布在长期记忆网络。此外,在AI和CN中采用以代理为中心的范式将加速我们对构建有用世界模型的复杂动态和行为的理解。AI/CN理论和目标的融合将揭示大脑和工程学习系统智能的动态原理。这篇文章的灵感来自我们在第六届美国/NIH大脑倡议研究者年会上关于动态神经科学和机器学习的研讨会。
2021-05-21 cs.AI q-bio.NC
Deep Learning for Cognitive Neuroscience
Justus-Liebig University Giessen(吉森尤斯利比希大学);Columbia University(哥伦比亚大学)
神经网络模型现在可以识别图像,理解文本,翻译语言,并在人类或超人水平上玩许多人类游戏。这些系统是高度抽象的,但受到生物大脑的启发,只使用生物学上合理的计算。在未来几年,神经网络可能会变得不那么依赖于从大量标记数据集中学习,并且在任务性能方面更加强大和通用。从他们的成功和失败中,我们可以了解大脑擅长的不同任务的计算要求。深度学习还提供了测试认知理论的工具。为了测试一个理论,我们需要大规模地实现所提出的信息处理系统,以便能够评估其可行性和涌现行为。深度学习使我们能够从原理和电路模型扩展到能够执行复杂任务的端到端可训练模型。认知神经科学家可以在许多层面上使用深度学习,从启发性的理论到作为完整的计算模型。深度学习的不断进步使我们更接近于理解认知和感知如何在大脑中实现-这是认知神经科学核心的重大挑战。
2019-03-04 cs.LG q-bio.NC
Representation biases: will we achieve complete understanding by analyzing representations?
Google DeepMind(谷歌DeepMind)
本文探讨了特征表征偏差对通过表征分析理解系统的挑战,指出简单特征可能被过度表征,导致PCA、回归和RSA等分析产生偏颇推断,并以同态加密为例说明表征与计算可能分离。
2025-08-13 cs.LG q-bio.NC
On Questions of Predictability and Control of an Intelligent System Using Probabilistic State-Transitions
本文通过数学方法探讨了利用神经活动预测生物体行为状态的可能性、神经与行为状态间的相互预测性、记忆成分的必要性以及预测的可计算性,为理解智能和设计脑机接口提供关键见解。
2025-03-29 q-bio.NC
Deep neuroethology of a virtual rodent
神经科学和深度学习的并行发展导致了相互富有成效的交流,推动了我们对感官和认知系统中真实和人工神经网络的理解。然而,这种场之间的相互作用在运动控制的研究中较少。在这项工作中,我们开发了一个虚拟的啮齿动物作为接地的研究体现控制的人工模型中的运动活动的平台。然后,我们使用这个平台通过训练一个模型来解决四个复杂的任务,来研究不同背景下的运动活动。使用熟悉的神经科学家的方法,我们描述的行为表示和算法所采用的不同层的网络使用神经行为学的方法来表征运动活动相对于啮齿动物的行为和目标。我们发现,该模型使用两类表示,分别编码特定于任务的行为策略和任务不变的行为运动学。这些表征反映在神经亚群的序列活动和种群动力学中。总的来说,虚拟啮齿动物促进了深度强化学习和运动神经科学之间的基础合作。
2019-11-21 q-bio.NC
Multilevel Interpretability Of Artificial Neural Networks: Leveraging Framework And Methods From Neuroscience
University of Cambridge(剑桥大学);University of Oxford(牛津大学);Imperial College London(帝国理工学院);Massachusetts Institute of Technology(麻省理工学院);Georgia Institute of Technology(佐治亚理工学院);New York University(纽约大学);Princeton University(普林斯顿大学)
本文提出多级可解释性框架,借鉴神经科学方法,依据 Marr 的三个分析层级剖析生物与人工神经网络,将内部结构与外部行为相联系,为理解智能系统提供统一路径。
2024-08-26 cs.AI q-bio.NC
A Minimal Intervention Definition of Reverse Engineering a Neural Circuit
在神经科学中,研究人员已经发展出了对系统进行逆向工程的非正式概念,例如,能够在某种意义上模拟或模拟一个系统。Jonas和Kording最近发表的一篇有影响力的论文使用神经科学技术研究了微处理器,表明理解神经系统的常用技术是不够的。部分困难,正如拉泽布尼克以前的工作指出,在于缺乏形式语言。我们提供了一个理论框架,定义逆向工程的计算系统,神经科学的背景下的动机。特别令人感兴趣的是最近的工作,越来越多的干预措施正在改变神经回路的功能,以了解系统和治疗疾病。从Lazebnik的观点出发,理解一个系统意味着你可以"修复它“,并受到神经科学中用例的激励,我们提出了以下关于逆向工程的要求:一旦代理声称已经逆向工程了一个神经回路,他们随后需要能够:(a)提供一组最小的干预来改变回路的输入/输出(I/O)行为到期望的行为;(b)在有限理性约束下操作时达到干预的最小集合(例如,有限的记忆),以排除暴力手段。在一定的假设下,我们表明,这逆向工程的目标属于类不可判定的问题。接下来,我们研究一些规范的计算系统和逆向工程目标(由所需的I/O行为指定),其中逆向工程确实可以执行。最后,使用一个范例网络,大脑中的“奖励网络”,我们总结了当前神经科学的理解状态,并讨论了计算机科学和信息理论概念如何为未来神经科学研究的目标提供信息。
2021-10-02 cs.IT math.IT q-bio.NC
Explanatory models in neuroscience: Part 1 -- taking mechanistic abstraction seriously
尽管最近神经网络模型在模拟动物在视觉感知任务上的表现方面取得了成功,但批评人士担心这些模型未能阐明大脑功能。我们认为,系统神经科学中解释的一个核心方法是机械建模,在这种方法中,理解系统需要充实系统的组成部分、组织和活动,以及它们如何引起感兴趣的行为。然而,对于模型描述机制的意义,以及神经网络模型是否具有解释性,仍然存在一些争议。我们认为,某些类型的神经网络模型实际上是很好的例子,机械模型,当正确的概念,机械映射部署。基于现有的工作模型到机制映射(3M),我们描述了这样一个概念,我们称之为3M ++的标准。这些标准要求我们首先确定一个既抽象又详细到足以"运行"的描述级别,然后使用与个体之间脑-脑映射相同的原则来构建模型-脑映射。也许令人惊讶的是,所需要的抽象是那些已经在实验神经科学中使用的,并且是在构建更熟悉的计算模型时使用的那种,就像脑间映射的原理非常符合那些已经用于收集和分析动物数据的原理一样。在配套文件中,我们解决优化和可理解性之间的关系,在功能进化的解释。总而言之,对计算模型的机械解释以及优化过程所阐明的形式和功能之间的依赖关系可以帮助我们理解为什么大脑系统是以它们的方式构建的。
2021-04-10 cs.NE q-bio.NC
Neural population geometry: An approach for understanding biological and artificial neural networks
Center for Theoretical Neuroscience, Columbia University(哥伦比亚大学理论神经科学中心)
实验神经科学的进步已经改变了我们探索神经回路结构和功能的能力。与此同时,机器学习的进步释放了人工神经网络(ANN)的非凡计算能力。虽然这两个领域有不同的工具和应用程序,但它们提出了类似的挑战:即理解如何通过高维表示嵌入和处理信息,以解决复杂的任务。解决这一挑战的一种方法是利用数学和计算工具来分析这些高维表示的几何形状,即,神经元群体几何学。我们回顾了几何方法的例子,提供了深入了解生物和人工神经网络的功能:表示解开知觉,几何理论的分类能力,解开和抽象的认知系统,拓扑表示认知地图,动态解开运动系统,和一个动态的认知方法。总之,这些发现说明了机器学习,神经科学和几何学交叉的一个令人兴奋的趋势,其中神经元群体几何学提供了一个有用的群体级机械描述符底层任务的实现。重要的是,几何描述适用于感觉模态、大脑区域、网络架构和时间尺度。因此,神经元群体几何有可能统一我们对生物和人工神经网络的结构和功能的理解,弥合单个神经元,群体和行为之间的差距。
2021-11-20 cs.LG q-bio.NC
Data mining the functional architecture of the brain's circuitry
该研究指出神经记录与行为监测技术的发展推动神经科学从局部走向全局,提出需借助数据挖掘桥接海量数据,发掘大脑功能架构,以应对从数据对齐到可解释行为模型的多层面挑战。
2025-01-16 q-bio.NC stat.AP
Relating transformers to models and neural representations of the hippocampal formation
University of Oxford(牛津大学);Stanford University(斯坦福大学);University College London(伦敦大学学院)
许多松散地基于大脑网络的深度神经网络架构最近被证明可以复制在大脑中观察到的神经放电模式。Transformer神经网络是最令人兴奋和最有前途的新架构之一,它的开发没有考虑大脑。在这项工作中,我们表明,当配备重复位置编码时,Transformers可以复制海马结构精确调整的空间表示;最明显的是位置和网格细胞。此外,我们表明,这一结果并不令人惊讶,因为它与神经科学目前的海马模型密切相关。我们还表明,Transformer版本提供了显着的性能增益超过神经科学版本。这项工作继续绑定人工和大脑网络的计算,提供了对大脑皮层相互作用的新理解,并表明更广泛的皮层区域如何执行超出当前神经科学模型的复杂任务,如语言理解。
2022-03-15 cs.LG cs.NE q-bio.NC
Emergence and reconfiguration of modular structure for synaptic neural networks during continual familiarity detection
本研究通过分析Hebbian前馈网络在持续熟悉度检测中的时间动态,发现网络模块化的涌现是性能的关键预测因子,且模块化随学习灵活性增强而增强,从而桥接人工与生物学习理解。
2023-11-10 q-bio.NC q-bio.QM
Contrastive Learning of Shared Spatiotemporal EEG Representations Across Individuals for Naturalistic Neuroscience
Tsinghua University(清华大学);Southern University of Science and Technology(南方科技大学)
本研究提出跨个体共享时空EEG表征对比学习框架CL-SSTER,通过时空卷积结合对比学习提取跨个体共享神经模式,在三类EEG数据集上取得最优被试间相关性,为自然神经科学研究提供可解释、可扩展的分析工具。
2024-07-14 cs.LG eess.SP q-bio.NC
Quantifying Neural Efficiency and Capacity: A Differential Equation Interpretation of Polynomial Contrasts
基于任务的神经成像工具,认知神经科学的研究提供了深入了解大脑如何应对不断增长的认知需求。神经-认知关系的理论模型是基于对大脑活动线性和非线性增加的观察而开发的。神经网络的效率和容量是目前理论模型的两个参数。这两个理论参数分别描述了大脑活动的增加速率和增加的上限。目前的工作表明,增加大脑活动的二次模型响应n-back任务是一个微分方程模型的解决方案。这种对分析常见认知任务的标准方法的重新解释提供了丰富的新见解。结果包括神经效率和能力的全脑测量。神经-认知关系的量化为支持当前认知神经科学理论提供了证据。此外,这些方法为理解工作记忆的神经机制提供了一个框架。这允许在概念研究框架内估计实验操作的影响。所提出的方法被应用于21名健康的年轻人,同时参与四个级别的n-back任务。所有的方法都可以很容易地应用于神经成像的标准当前软件包。
2016-06-20 q-bio.NC q-bio.QM
The PSPACE-hardness of understanding neural circuits
在神经科学中,理解神经回路功能的一个重要方面是确定回路中的哪些神经元(如果有的话)对神经回路所控制的生物行为至关重要。类似的问题是确定给定的一小组神经元是否足以显示行为,即使电路中的所有其他神经元都被停用。这样的神经元子集形成了被研究行为的所谓退化回路。实验技术的最新进展为研究人员提供了以非常高的分辨率激活和失活神经元子集的工具,即使在活体动物中也是如此。从这样的实验中收集的数据可以是以下形式:当给定的神经元子集被停用时,是否观察到所研究的行为?这种设置导致的算法问题,确定最小的重要或退化的神经元集时,作为输入的神经回路的描述。算法问题需要弄清楚哪些神经元子集应该被扰动(激活/去激活),然后使用来自这些扰动的数据来确定最小的生命或退化集。鉴于大量可能的扰动,以及神经回路的循环性质,在这种方法中组合爆炸的可能性已经在生物学和神经科学文献中被认识到。在本文中,我们证明了问题的最小或最小尺寸的退化集,并找到一组重要的神经元,神经回路作为输入,实际上是PSPACE困难的。更重要的是,我们证明了我们的硬度结果表明,一个更简单的问题,模拟这样的神经电路,本身是PSPACE硬。
2020-06-23 cs.CC cs.DM q-bio.NC
Analyzing biological and artificial neural networks: challenges with opportunities for synergy?
Facebook AI Research(脸书人工智能研究院);DeepMind(深度思维);Technical University of Munich(慕尼黑工业大学)
深度神经网络(DNN)在多个处理阶段转换刺激,以产生可用于解决复杂任务的表示,例如图像中的对象识别。然而,对他们如何实现这一目标的充分理解仍然难以捉摸。生物神经网络的复杂性大大超过了DNN的复杂性,这使得理解它们学习的表示更加具有挑战性。因此,机器学习和计算神经科学都面临着一个共同的挑战:我们如何分析它们的表示,以了解它们如何解决复杂的任务?我们回顾了计算神经科学家开发的数据分析概念和技术如何有助于分析DNN中的表示,反过来,最近开发的DNN分析技术如何有助于理解生物神经网络中的表示。我们探索这两个领域之间的协同作用的机会,例如使用DNN作为神经科学的计算机模型系统,以及这种协同作用如何导致关于生物神经网络的操作原理的新假设。
2018-10-31 cs.AI cs.CV cs.LG
RNNs of RNNs: Recursive Construction of Stable Assemblies of Recurrent Neural Networks
Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学);Google AI(谷歌人工智能)
循环神经网络(RNN)作为局部神经活动的模型在整个神经科学中被广泛使用。单个RNN的许多特性在理论上都得到了很好的表征,但是实验神经科学已经朝着研究多个相互作用领域的方向发展,RNN理论也需要同样的扩展。我们对这个问题采取了建设性的方法,利用非线性控制理论和机器学习的工具来表征稳定RNN的组合何时会稳定。重要的是,我们推导出允许交互RNN之间存在大量反馈连接的条件。我们使用基于梯度的技术参数化这些条件,以便于优化,并表明稳定性约束的“网络的网络”可以很好地执行具有挑战性的顺序处理基准任务。总而言之,我们的研究结果提供了一个原则性的方法来理解大脑中的分布式模块化功能。
2023-01-29 cs.LG math.DS q-bio.NC
Emergent complex neural dynamics
大脑中大量的时空活动模式是适应行为的基础。理解大脑的千亿神经元和千亿突触如何以灵活的方式产生这样一系列皮层结构的机制仍然是神经科学中的一个基本问题。一个似乎合理的解决方案是参与的普遍机制,新兴的复杂现象明显的动力系统附近的临界点的二阶相变。我们回顾了最近的理论和实证结果支持的概念,大脑是自然的临界附近,以及它的影响,更好地了解大脑。
2010-10-12 cond-mat.dis-nn physics.bio-ph q-bio.NC