Robust Data-Driven Predictive Control using Reachability Analysis
Jacobs University Bremen(不来梅雅各布大学);KTH Royal Institute of Technology(KTH皇家理工学院);University of California, Berkeley(加州大学伯克利分校)
针对具有有界过程和测量噪声的未知线性系统模型,提出了一种鲁棒数据驱动控制方案。提出了一种基于数据驱动可达区域的控制器,而不是传统预测控制中依赖于系统模型的控制器。数据驱动的可达区域是基于矩阵zonotope递归和计算的基础上,只有嘈杂的输入输出数据的轨迹的系统。我们假设测量和过程噪声包含在有界集合中。虽然我们假设这些界限的知识,没有关于噪声的统计特性的知识是假设的。在无噪声的情况下,我们证明了所提出的纯数据驱动的控制方案的结果在一个等效的闭环行为的名义模型预测控制计划。在测量和过程噪声的情况下,我们提出的方案保证了鲁棒的约束满足,这在安全关键应用中是必不可少的。数值实验表明,所提出的数据驱动控制器的有效性相比,基于模型的控制方案。
2022-07-13 cs.LG cs.SY eess.SY
Wasserstein Distributionally Robust Shallow Convex Neural Networks
Department of Electrical Engineering(电气工程系);Polytechnique Montréal(蒙特利尔理工学院);GERAD(GERAD研究中心);Mila(Mila研究中心)
本文提出Wasserstein分布鲁棒浅层凸神经网络,将ReLU浅层网络训练重构为凸优化并纳入分布鲁棒框架,以低随机性、可扩展方式实现可靠非线性预测,并通过实验验证其在能源预测等任务中的性能与稳定性。
2025-08-21 cs.LG math.OC
$\texttt{immrax}$: A Parallelizable and Differentiable Toolbox for Interval Analysis and Mixed Monotone Reachability in JAX
School of Electrical and Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院);Department of Electrical, Computer, and Energy Engineering, University of Colorado, Boulder(科罗拉多大学博尔德分校电气、计算机与能源工程系)
本文提出 immrax 工具箱,将区间分析与混合单调可达性分析作为函数变换集成到 JAX 中,从而获得即时编译、GPU 并行加速和自动微分能力,并在神经网络控制车辆和摆锤鲁棒控制等案例中验证了其性能。
2024-04-30 cs.LG cs.SY eess.SY
Robustness Verification of Deep Neural Networks using Star-Based Reachability Analysis with Variable-Length Time Series Input
Vanderbilt University(范德堡大学)
本文提出一种基于星集可达性分析和变长输入的时间序列回归神经网络鲁棒性验证方法,并在电池SOC和发动机RUL预测数据集上验证了其应对有界噪声的有效性。
2023-07-26 cs.AI cs.CY cs.LG
Neural Network Repair with Reachability Analysis
Vanderbilt University(范德堡大学);TRINA, Toyota NA R&D(丰田北美研发TRINA);University of Nebraska(内布拉斯加大学)
安全是下一代自动驾驶的关键问题,下一代自动驾驶可能严重依赖深度神经网络进行感知和控制。正式验证训练有素的DNN和学习系统在攻击、模型不确定性和感知错误下的安全性和鲁棒性对于安全自治至关重要。这项研究提出了一个框架,修复不安全的DNN在安全关键系统的可达性分析。修复过程受到对抗训练的启发,对抗训练在提高DNN的安全性和鲁棒性方面表现出了很高的效率。与传统的对抗性训练方法不同,对抗性示例来自随机攻击,可能不代表所有不安全行为,我们的修复过程使用可达性分析来计算确切的不安全区域,并识别足够有代表性的示例,以提高对抗性训练的有效性和效率。我们的框架的性能进行评估的两种类型的基准没有安全的模型作为参考。其中之一是用于飞机碰撞避免的DNN控制器,可访问训练数据。另一个是火箭着陆器,我们的框架可以与著名的深度确定性策略梯度(DDPG)强化学习算法无缝集成。实验结果表明,我们的框架可以成功地修复多个安全规范的所有实例,性能下降可以忽略不计。此外,为了提高可达性分析算法的计算和内存效率,我们提出了一种深度优先搜索算法,该算法结合了现有的精确分析方法与基于新集合表示的过近似方法。实验结果表明,我们的方法实现了五倍的改善,在运行时间和内存使用的两倍的改善相比,精确的分析。
2021-08-09 cs.LG
Automated Reachability Analysis of Neural Network-Controlled Systems via Adaptive Polytopes
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出了一种利用自适应模板多面体过近似神经网络动态系统可达集的新方法,通过线性层奇异值分解和激活函数形状调整多面体几何形状,并采用分支定界方法计算精确过近似,提升了可达性分析的准确性。
2023-05-15 cs.LG cs.SY eess.SY
Reachability Analysis of Deep Neural Networks with Provable Guarantees
University of Oxford(牛津大学);University of Liverpool(利物浦大学)
深度神经网络(DNN)的正确性是具有挑战性的。我们研究了前馈DNN的通用可达性问题,对于给定的网络输入集和其输出上的Lipschitz连续函数,计算函数值的上下界。因为网络和函数是Lipschitz连续的,所以在下界和上界之间的区间内的所有值都是可达的。我们展示了如何获得的安全验证问题,输出范围分析问题和鲁棒性措施,通过实例化的可达性问题。我们提出了一种新的算法,基于自适应嵌套优化来解决可达性问题。该技术已在一系列DNN上实施和评估,证明了其效率,可扩展性和处理比最先进的验证方法更广泛的网络类别的能力。
2018-05-06 cs.CV cs.LG stat.ML
Solving Parameter-Robust Avoid Problems with Unknown Feasibility using Reinforcement Learning
Department of Aeronautics and Astronautics, MIT(麻省理工学院航空与航天系)
本文提出Feasibility-Guided Exploration方法,通过识别可行初始条件并学习安全策略,提升在未知可行性下的避障性能。
2026-02-17 cs.LG cs.RO math.OC
Safe Model-Based Reinforcement Learning with an Uncertainty-Aware Reachability Certificate
Tsinghua University(清华大学);Harvard University(哈佛大学);University of Science and Technology Beijing(北京科技大学)
安全的强化学习(RL)解决了约束满意的策略,为RL在机器人等现实世界问题中更广泛的安全关键应用提供了一种有前途的方法。在所有安全的RL方法中,基于模型的方法由于其高样本效率而进一步减少了训练时间违规。然而,缺乏对模型不确定性的安全鲁棒性仍然是安全的基于模型的强化学习中的一个问题,特别是在训练时间安全性方面。在本文中,我们提出了一个分布式的可达性证书(DRC)和Bellman方程,以解决模型的不确定性和鲁棒持久安全状态的特征。此外,我们建立了一个安全的RL框架,以解决DRC及其相应的屏蔽策略所需的约束。我们还设计了一个线搜索方法,以保持安全,同时达到更高的回报,同时利用盾牌政策。经典的基准测试,如约束跟踪和导航的综合实验表明,该算法实现了可比的回报,在训练过程中的约束违反少得多。
2022-10-14 cs.LG cs.RO cs.SY
GraphReach: Position-Aware Graph Neural Network using Reachability Estimations
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校);Indian Institute of Technology Delhi(印度理工学院德里分校)
大多数现有的图神经网络(GNN)学习节点嵌入,编码其局部邻域,但不编码其位置。因此,两个相距甚远但位于相似局部邻域的节点映射到这些网络中的相似嵌入。这种限制妨碍了依赖于位置信息的预测任务的准确性能。在本文中,我们开发了GraphReach,一个位置感知的归纳GNN,通过相对于一组锚节点的可达性估计来捕获节点的全局位置。锚被策略性地选择,使得跨所有节点的可达性估计被最大化。我们发现,这种组合锚选择问题是NP-困难的,因此,开发一个贪婪的(1-1/e)近似启发式。对最先进的GNN架构的实证评估表明,GraphReach在准确性方面提供了高达40%的相对提高。此外,它对对抗攻击也更加鲁棒。
2021-08-20 cs.LG cs.SI stat.ML
Shallow Diffuse: Robust and Invisible Watermarking through Low-Dimensional Subspaces in Diffusion Models
University of Michigan(密歇根大学)
本文提出Shallow Diffuse,一种通过扩散模型中低维子空间实现鲁棒且不可见水印的技术,提升了水印的检测性和数据生成的一致性。
2026-02-12 cs.CR cs.CV cs.LG
Model-Agnostic Reachability Analysis on Deep Neural Networks
University of Exeter(埃克塞特大学);University of Liverpool(利物浦大学)
本文提出了一个名为DeepAgn的模型无关验证框架,基于Lipschitz连续性和全局收敛优化方案对深度神经网络进行可达性分析,无需访问网络内部结构,能解决最大安全半径计算和对抗样本生成等鲁棒性问题,并在处理超深网络时展现出卓越效率。
2023-04-03 cs.LG
Fundamental Limits in Formal Verification of Message-Passing Neural Networks
University of Kassel(卡塞尔大学)
输出可达性和对抗鲁棒性是神经网络最相关的安全属性之一。我们表明,在消息传递神经网络(MPNN)的背景下,一个常见的图神经网络(GNN)模型,形式化验证是不可能的。特别是,我们表明,输出可达的图分类MPNN,工作在图的无界大小,非平凡程度和充分表达节点标签,不能正式验证:有没有算法,正确回答(是或否),给定一个MPNN,是否存在一些有效的输入MPNN,使相应的输出满足给定的规格。然而,我们也表明,输出的可达性和对抗性的鲁棒性节点分类MPNN可以正式验证时,输入图的程度的限制是先验的。我们讨论了这些结果的影响,为了获得一个完整的图片的原则可能性,正式验证GNN,根据所涉及的GNN模型和输入输出规格的表现力。
2022-10-04 cs.LG cs.LO
Efficient Proximal Mapping of the 1-path-norm of Shallow Networks
EPFL(洛桑联邦理工学院)
证明了浅神经网络的1-路范数的两个新的重要性质。首先,尽管它的非光滑性和非凸性,它允许一个封闭的形式近似算子,可以有效地计算,允许使用随机近似梯度型方法正则化的经验风险最小化。第二,当激活函数是可微的,它提供了一个上界的Lipschitz常数的网络。这样的界限比Lipschitz常数的平凡逐层乘积更紧,促使其用于训练对对抗性扰动鲁棒的网络。在实际实验中,我们说明了使用邻近映射的优点,我们比较了鲁棒性-准确性的权衡引起的1-路径范数,L1-范数和逐层约束的Lipschitz常数(Parseval网络)。
2020-07-15 cs.LG math.OC stat.ML
Robustness of shallow graph embedding methods for community detection
Advanced Computing, Mathematics, and Data Division, Pacific Northwest National Laboratory(太平洋西北国家实验室高级计算、数学与数据部门);Department of Mathematics, Indiana University(印第安纳大学数学系);Computer Science and Mathematics Division, Oak Ridge National Laboratory(橡树岭国家实验室计算机科学与数学部门)
本研究通过节点删除扰动实验,比较了矩阵分解与随机游走两类浅层图嵌入方法在社区检测中的鲁棒性,发现node2vec和LLE表现最优,并指出网络规模、社区强度及扰动类型影响鲁棒性。
2026-09-10 cs.LG cs.SI physics.data-an
Steering Away from Memorization: Reachability-Constrained Reinforcement Learning for Text-to-Image Diffusion
Stanford University, Stanford, CA, USA(斯坦福大学);Yonsei University, Seoul, Korea(延世大学)
RADS通过约束强化学习方法,在保持生成质量的同时减少文本到图像扩散模型的记忆化问题。
2026-11-13 cs.AI cs.CV cs.LG
A Simple and Efficient Sampling-based Algorithm for General Reachability Analysis
Stanford University(斯坦福大学);Harvard University(哈佛大学);University of Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);CentraleSupélec(中央理工-高等电力学院)
在这项工作中,我们分析了一个有效的基于采样的通用可达性分析算法,这仍然是一个众所周知的挑战性问题,从神经网络验证到动力系统的安全分析的应用。该算法通过对输入进行采样,在真可达集上估计其图像,并将其$ε$填充凸包作为集合估计器,适用于一般的问题设置,实现简单。我们的主要贡献是使用随机集理论的渐近和有限样本精度保证的推导。这种分析通知算法设计,以获得一个$ε$接近可达集近似的概率高,提供了洞察可达性问题是最具挑战性的,并激励安全关键的应用程序的技术。在一个神经网络验证任务中,我们证明了这种方法比以前的工作更准确,速度也更快。根据我们的分析,我们还设计了一个鲁棒模型预测控制器,我们在硬件实验中证明。
2022-04-13 cs.AI cs.LG cs.RO
Probabilistic Verification and Reachability Analysis of Neural Networks via Semidefinite Programming
University of Pennsylvania(宾夕法尼亚大学)
量化神经网络的鲁棒性或验证其对输入不确定性或对抗性攻击的安全性已成为学习系统的重要研究领域。大多数结果集中在最坏的情况下,神经网络的输入在一个范数有界的不确定性集内扰动。在本文中,我们考虑一个概率设置,其中的不确定性是随机的,已知的前两个时刻。在这种情况下,我们讨论了两个相关的问题:(i)概率安全验证,其中的目标是找到违反安全规范的概率的上限;和(ii)置信椭圆估计,其中给定神经网络输入的置信椭圆,我们的目标是计算输出的置信椭圆。由于非线性激励函数的存在,这两个问题很难精确求解。为了简化分析,我们的主要思想是抽象的非线性激活函数的仿射和二次约束的组合,他们施加在他们的输入输出对。然后,我们表明,安全的抽象网络,这是足够的原始网络的安全性,可以使用半定规划分析。我们用数值实验说明了我们的方法的性能。
2019-10-09 cs.LG cs.SY eess.SY
Reachability-Based Formal Verification of Graph Neural Networks with Node and Edge Features
Vanderbilt University(范德堡大学)
本文提出GraphStar集扩展NNV框架,实现GNN形式化验证,在电力系统任务和图分类基准上提供更紧致的鲁棒性保证。
2026-09-25 cs.AI cs.LG
Demonstration of Robust and Efficient Quantum Property Learning with Shallow Shadows
Harvard University(哈佛大学);IBM Quantum(IBM量子计算部门);IBM T.J. Watson Research Center(IBM T.J.沃森研究中心);Berkeley Center for Quantum Information and Computation(伯克利量子信息与计算中心);University of California San Diego(加利福尼亚大学圣迭戈分校)
针对浅层随机电路测量中噪声导致的偏差,提出稳健浅层阴影协议,利用贝叶斯推断学习并缓解噪声,在超导量子处理器上以较低样本复杂度恢复期望值、保真度和纠缠熵,实现稳健高效的量子态表征。
2025-02-05 cond-mat.stat-mech cs.IT cs.LG
CARLE: A Hybrid Deep-Shallow Learning Framework for Robust and Explainable RUL Estimation of Rolling Element Bearings
School of Automation University of Science and Technology China(自动化学院 中国科学技术大学)
本文提出融合 Res-CNN、Res-LSTM、注意力机制与随机森林的 CARLE 框架,通过高斯滤波和 CWT 预处理提升轴承 RUL 估计的鲁棒性、泛化性与可解释性。
2025-10-10 cs.AI cs.LG
From Shallow to Deep: Pinning Semantic Intent via Causal GRPO
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
通过因果GRPO框架,解决大型语言模型对对抗性前缀攻击的脆弱性问题,实现意图固定以提升安全性和鲁棒性。
2026-03-03 cs.LG
Robust and Resource Efficient Identification of Shallow Neural Networks by Fewest Samples
TU München(慕尼黑工业大学);Czech Technical University in Prague(捷克理工大学);Duke University(杜克大学)
我们解决的结构识别和一致逼近的脊函数$f(x)=\sum_{i=1}^m g_i(a_i\cdot x)$的总和${\mathbb R}^d$,代表一个浅前馈神经网络的一般形式,从少量的查询样本。高阶微分,如在我们的构造性近似中所使用的,脊函数或其组合的总和,如在更深的神经网络中,产生神经网络权重识别和张量积分解识别之间的自然联系。在最浅前馈神经网络的情况下,二阶微分和二阶张量(即,矩阵)就像我们在本文中证明的那样。我们使用两种采样方案来执行近似微分-主动采样,其中采样点是通用的,主动的,随机设计的,和被动采样,其中采样点是从已知密度的分布随机预选。基于多个收集近似的一阶和二阶微分,我们的一般近似策略被开发为一系列的算法来执行各个子任务。我们首先通过近似权向量$a_1,\dots,a_m$的跨度来执行主动子空间搜索。然后,我们使用一个简单的替代,它减少了问题的维数从$d$到$m$。然后,该结构的核心是稳定和有效的近似权表示的秩- $1$矩阵$a_i \otimes a_i$,实现了制定他们的个人识别作为一个合适的非线性程序。我们证明了成功的识别权向量接近标准正交,我们也展示了我们如何可以constructively减少到这种情况下的白化过程,而不损失任何的一般性。
2021-05-06 cs.LG stat.ML
A Robust Prototype-Based Network with Interpretable RBF Classifier Foundations
针对深度原型网络(PBNs)的可解释性缺陷,提出组件分类(CBC)扩展模型,证明其鲁棒性并推导优化损失,实证显示该模型在基准上精度先进,解决可解释性问题且浅层变体优于其他浅层PBN。
2025-04-17 cs.AI cs.CV cs.LG
Learnability and Robustness of Shallow Neural Networks Learned With a Performance-Driven BP and a Variant PSO For Edge Decision-Making
Cranfield University(克兰菲尔德大学);Anhui Polytechnic University(安徽工程大学);Smart Perception Ltd(Smart Perception有限公司)
在许多情况下,如果没有GPU的好处,计算资源是有限的,特别是在支持物联网的系统的边缘设备中。在边缘设备中实现复杂的AI模型可能并不容易。通用逼近定理指出,浅神经网络(SNN)可以表示任何非线性函数。然而,SNN有多胖才足以解决边缘设备中的非线性决策问题?在本文中,我们专注于学习和鲁棒性的SNNs,获得了贪婪紧力启发式算法(性能驱动BP)和松散的力元启发式算法(PSO的变体)。进行两组实验以检查具有Sigmoid激活的SNN的可学习性和鲁棒性,通过KPI-PDBP和KPI-VPSO学习/优化,其中KPI(关键性能指标:错误(ERR),准确性(ACC)和$F_1$得分)是目标,驱动搜索过程。一个增量的方法被应用于检查隐藏的神经元数量对SNN的性能的影响,学习/优化的KPI-PDBP和KPI-VPSO。从工程角度来看,所有传感器都适合特定任务。因此,所有传感器读数都应与目标高度相关。因此,SNN的结构应该取决于问题空间的维度。实验结果表明,KPI-PDBP算法的隐层神经元数目可以达到问题空间的维数;在训练数据集上,KPI-PDBP算法产生的神经网络的学习性能和学习时间优于KPI-VPSO算法优化的神经网络;与其他经典的机器学习模型相比,ACC-PDBPs在几乎所有的测试数据集上都取得了较好的效果。
2020-08-13 cs.LG cs.NE cs.PF
Robustness Emerges Early in Training Dynamics, but Is Not Preserved
Institute of Microelectronics, Chinese Academy of Sciences(中国科学院微电子研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对深度神经网络训练中早期出现的鲁棒性无法保留的问题,提出含EPS和AWR两种无参数策略的框架,在多任务中显著提升性能。
2026-08-06 cs.CV cs.LG
Active Sensing and Deferred-Decision Trajectory Optimization for Robust Target Identification
Department of Electrical and Computer Engineering, Purdue University(普渡大学电气与计算机工程系);Department of Electrical Engineering, University of Notre Dame(诺丁汉大学电气工程系)
提出主动感知延迟决策轨迹优化(AS-DDTO)框架,通过引入轨迹依赖的信息获取项,在保持可达性的同时偏向早期识别区域,实现资源约束下的目标识别。
2026-06-23 cs.AI cs.LG cs.SY
TNODEV: Toolbox for Neural ODE Verification
Univ Gustave Eiffel, COSYS-ESTAS(古斯塔夫·埃菲尔大学,COSYS-ESTAS实验室)
提出TNODEV,首个集成伪造检查、区间可达性、验证循环和并行调度的神经ODE形式验证器,支持安全集包含和分类鲁棒性验证。
2026-10-22 cs.AI cs.LG cs.SY
Reachability-based safe learning for optimal control problem
Department of Computer Science, Systems and Communication, University of Milano Bicocca(米兰Bicocca大学计算机科学与通信系)
本文提出了一种结合系统部分已知状态空间模型和未知动态作为加性有界扰动的安全学习方法,旨在通过安全集选择最优动作以实现目标集,同时在学习过程中更新扰动并提升最优控制的鲁棒性。
2018-11-09 cs.LG cs.SY eess.SY
Formal Verification of CNN-based Perception Systems
Imperial College London(帝国理工学院)
我们解决的问题,验证基于神经的感知系统实现的卷积神经网络。我们定义了一个概念的基础上仿射和光度变换的局部鲁棒性。我们的概念不能被以前采用的鲁棒性的概念。所提出的方法是基于前馈神经网络的可达性分析,并依赖于MILP编码的CNN和转换的问题。我们提出了一个实现,并讨论了从MNIST数据集训练的CNN获得的实验结果。
2018-11-28 cs.CV cs.LG stat.ML
Comparison of a Parametric Physics-Informed Neural Network and a Tensorial Reduced-Order Model for the Shallow-Water Dam-Break Problem
University of Houston(休斯顿大学)
该研究针对参数化一维浅水溃坝问题,对比了无需时间积分的PINN与TROM两种降阶模型,发现引入激波感知配点可提升PINN鲁棒性,为相关流体降阶模型应用提供了参考。
2026-10-06 cs.LG cs.NA math.NA
Data-driven Reachability using Christoffel Functions and Conformal Prediction
IRT SystemX(IRT SystemX研究所);ENSTA Paris(巴黎高等先进技术学院);Institut Polytechnique de Paris(巴黎理工学院)
本文提出一种基于Christoffel函数与保形预测的数据驱动可达集近似方法,通过统计保证提高样本效率、放宽假设,并利用增量计算避免校准集,同时保持收敛性且对异常值鲁棒。
2023-09-16 cs.AI cs.LG stat.ME
NNV: The Neural Network Verification Tool for Deep Neural Networks and Learning-Enabled Cyber-Physical Systems
Vanderbilt University(范德堡大学);University of Pennsylvania(宾夕法尼亚大学)
本文介绍了神经网络验证(NNV)软件工具,这是一个基于集合的验证框架,用于深度神经网络(DNN)和支持学习的网络物理系统(CPS)。NNV的核心是一系列可达性算法,这些算法使用了各种集合表示,如多面体、星集、zonotopes和抽象域表示。NNV支持精确(健全和完整)和过近似(健全)可达性算法,用于验证具有各种激活函数的前馈神经网络(FFNN)的安全性和鲁棒性。对于具有学习能力的CPS,例如包含神经网络的闭环控制系统,NNV为线性对象模型和具有分段线性激活函数(例如ReLU)的FFNN控制器提供精确和过近似的可达性分析方案。对于类似的神经网络控制系统(NNCS),而不是具有非线性的植物模型,NNV支持过近似分析相结合的星集分析用于FFNN控制器与zonotope-based分析的非线性植物动态CORA建设。我们使用两个真实案例研究来评估NNV:第一个是ACAS Xu网络的安全性验证,第二个是基于深度学习的自适应巡航控制系统的安全性验证。
2020-04-12 cs.LG cs.SY eess.SY
A new inference approach for training shallow and deep generalized linear models of noisy interacting neurons
Sorbonne Université(索邦大学);INSERM(法国国家健康与医学研究院);CNRS(法国国家科学研究中心);Institut de la Vision(视觉研究所);Laboratoire de physique de l’École normale supérieure(巴黎高等师范学院物理实验室);PSL University(巴黎文理研究大学);Université de Paris(巴黎大学);Institute of Science and Technology Austria(奥地利科学技术研究所);Max Planck Institute for Dynamics and Self-organization(马克斯·普朗克动力学与自组织研究所)
广义线性模型是预测神经元网络响应外部刺激的相关随机活动的最有效的范例之一,在许多大脑领域都有应用。然而,当处理复杂的刺激,推断的耦合参数往往不概括在不同的刺激统计,导致性能下降和爆破不稳定性。在这里,我们开发了一个两步推理策略,使我们能够训练强大的广义线性模型的相互作用的神经元,明确分离的影响,在刺激的相关性,从网络的相互作用,在每个训练步骤。将这种方法应用于视网膜神经节细胞对复杂视觉刺激的反应,我们表明,与经典方法相比,以这种方式训练的模型表现出更好的性能,更稳定,产生强大的交互网络,并在复杂的视觉统计中推广良好。该方法可以扩展到深度卷积神经网络,从而产生对神经元放电率及其相关性具有高预测准确性的模型。
2020-11-15 cond-mat.dis-nn cs.LG q-bio.NC