On Embeddings and Inverse Embeddings of Input Design for Regularized System Identification
输入设计是系统辨识的一个重要问题，在经典的系统辨识中，最大似然/预测误差法对于新兴的正则化系统辨识，关于输入设计的研究才刚刚开始，它通常被表述为在一定约束条件下最小化贝叶斯均方误差矩阵的标量度量的非凸优化问题，最先进的方法是所谓的二次映射和逆嵌入（QMIE）方法，其中，提出了时域逆嵌入（TDIE）以找到二次映射的逆。在本文中，我们报告了一些新的结果的嵌入/逆嵌入的QMIE方法。首先，我们给出了频域逆嵌入（FDIE）的一般结果，即求离散时间傅里叶变换所描述的二次映射的逆。然后，我们从图形信号处理的角度展示了TDIE和FDIE之间的关系。最后，基于这种观点，我们进一步提出了一个图诱导嵌入及其逆，其中包括以前介绍的嵌入作为特殊情况。这从一个超越实域和频域观点的新观点加深了对输入设计的理解。
2022-09-27 cs.SY eess.SY
Continuous-Time System Identification and OCV Reconstruction of Li-ion Batteries via Regularized Least Squares
本文提出一种连续时间正则化最小二乘方法，直接从采样数据辨识锂离子电池参数，并联合估计OCV-SOC曲线，避免离散化误差，无需离线测试，仿真和实测验证有效。
2025-09-25 cs.SY eess.SY
On kernel design for regularized LTI system identification
School of Science and Engineering, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）理工学院）
本文提出从机器学习和系统理论角度设计核的方法，以嵌入LTI系统先验知识，优化核设计实现偏差-方差平衡。
2017-07-31 cs.SY eess.SY
System Identification Beyond the Nyquist Frequency: A Kernel-Regularized Approach
针对仅能获取慢速率输出的系统，本文提出一种核正则化的快速率模型辨识方法，突破奈奎斯特频率限制，单次实验即可准确辨识任意阶快速率模型，经仿真和晶圆台实验验证有效。
2025-06-17 cs.SY eess.SY
An EM Algorithm for Lebesgue-sampled State-space Continuous-time System Identification
本文研究Lebesgue采样下的连续时间状态空间系统辨识，利用输出数据的样本间行为推导出EM算法以估计状态空间和噪声协方差矩阵，并通过Monte Carlo仿真验证了方法的有效性。
2023-04-06 cs.SY eess.SY
On Robustness of Kernel-Based Regularized System Identification
提出了一种基于核的系统辨识方法。我们证明了有限冲激响应的正则化核基估计方法等价于一个鲁棒最小二乘问题，该问题具有一个由核矩阵定义的特定不确定集，因此，它被称为基于核的不确定集。我们提供了一个理论基础的鲁棒性的基于核的方法输入干扰。基于鲁棒正则化最小二乘方法，考虑了不同的系统辨识公式，其中一些公式采用了基于核的不确定性集。我们将这些方法应用于输入测量受到干扰的情况。随后，我们进行了广泛的数值实验，并比较结果，以检查在识别过程中利用基于核的不确定性集的影响。数值实验表明，基于核不确定集的鲁棒最小二乘辨识方法提高了估计对输入扰动的鲁棒性。
2021-05-26 cs.SY eess.SP eess.SY
Learning linear modules in a dynamic network using regularized kernel-based methods
为了识别互连动态网络中的一个系统（模块），通常必须解决多输入单输出（MISO）识别问题，该问题需要识别MISO设置中的所有模块。对于参数识别方法的应用，这将需要估计大量的参数，以及针对可能的大规模MISO问题的适当的模型阶数选择步骤，从而将识别算法的计算复杂度增加到超出可行性的水平。另一种识别方法，采用正则化的基于核的方法。保持一个参数模型的模块的兴趣，我们的零均值高斯过程（GP）的协方差矩阵（内核）的MISO结构中的剩余模块的脉冲响应建模（内核）由一阶稳定样条内核，占噪声模型影响的输出的目标模块，也可能不稳定的系统在MISO设置。使用经验贝叶斯（EB）方法，通过期望最大化（EM）算法来估计目标模块参数，该算法具有大幅降低的计算复杂性，同时避免了广泛的模型结构选择。数值模拟说明了所介绍的方法的潜力相比，与国家的最先进的局部模块识别技术。
2021-01-26 cs.SY eess.SY
Asymptotic Theory for Regularized System Identification Part I: Empirical Bayes Hyper-parameter Estimator
本文研究正则化有限脉冲响应模型估计中经验贝叶斯超参数估计器的渐近理论，通过分析其依分布收敛性和模型估计器的渐近分布，揭示了影响收敛性质的因素，并通过Monte Carlo仿真验证了理论结果。
2023-04-04 cs.SY eess.SY math.ST
Kernel-based identification using Lebesgue-sampled data
本文针对勒贝格采样下的连续时间系统辨识问题，提出基于核方法的非参数估计器，通过处理事件时间戳间的有界输出不确定性，实现比等距采样核方法更准确的模型和更高效的采样。
2024-02-23 cs.SY eess.SY
NARX Identification using Derivative-Based Regularized Neural Networks
Eindhoven University of Technology（埃因霍温理工大学）；IDSIA Dalle Molle Institute for Artificial Intelligence USI-SUPSI（IDSIA 达莱·莫勒人工智能研究所（USI-SUPSI））
提出了一种新的正则化方法用于非线性自回归外生（NARX）模型的辨识。正则化方法促进了过去输入样本对当前模型输出的影响的指数衰减。这是通过惩罚NARX模型模拟输出相对于过去输入的灵敏度来完成的。这促进了估计模型的稳定性，并提高了获得的模型质量。仿真实例表明了该方法的有效性，并对神经网络NARX模型进行了辨识。此外，它表明，所提出的正则化方法提高了模型精度的仿真误差性能相比，其他正则化方法和模型类。
2022-08-19 cs.LG cs.SY eess.SY
Regularized Identification with Internal Positivity Side-Information
在本文中，我们提出了一个脉冲响应识别方案，结合了系统的内部正边信息。正系统的实现理论为给定传递函数的正实现的存在性建立了具体的准则。这些传递函数的标准被翻译成一组适当的条件的形状和结构的脉冲响应的正系统。利用这些条件，冲激响应估计问题被配制成一个约束优化的再生核希尔伯特空间配备了一个稳定的内核，并施加适当的约束来编码的内部积极的边信息。优化问题是具有无限数量约束的无限维问题。导出了一个等价的凸二次规划形式的有限维凸优化问题。由此产生的等效重新制定所提出的方法适合于数值模拟和实际实施。蒙特卡罗数值实验评估的影响，将内部积极的边信息在建议的识别方案。该方法的有效性证明了使用数据从供热系统的实验。
2021-10-31 cs.SY eess.SY math.OC
Nonlinear system identification with regularized Tensor Network B-splines
TUDelft（代尔夫特理工大学）
本文介绍了张量网络B样条模型的正则化识别的非线性系统使用非线性自回归外源（NARX）的方法。利用张量网络理论，通过将高维权张量表示为低秩近似，来缓解多元B样条的维数灾难。基于交替线性方案的迭代算法被开发用于直接估计低秩张量网络近似，消除了需要显式地构造指数大的权重张量。这大大降低了计算和存储的复杂性，允许识别具有大量输入和滞后的NARX系统。该算法是数值稳定的，鲁棒的噪声，保证单调收敛，并允许直接纳入正则化。TNBS-NARX模型通过级联水箱基准非线性系统的识别进行了验证，在标准台式计算机上，TNBS-NARX模型在4秒内识别16维B样条曲面时达到了最先进的性能。GitHub上提供了一个开源的MATLAB实现。
2020-03-17 cs.LG cs.NA cs.SY
On Input Design for Regularized LTI System Identification: Power-constrained Input
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文针对基于核的正则化方法在LTI系统辨识中的输入设计问题，采用贝叶斯视角，提出两步方法解决功率约束下的输入设计优化问题。
2017-08-18 cs.SY eess.SY
Regularized linear system identification using atomic, nuclear and kernel-based norms: the role of the stability constraint
Department of Computer Engineering and Systems Science, University of Pavia, Pavia, Italy（计算机工程与系统科学系，帕维亚大学，帕维亚，意大利）
本文比较了不同正则化方法在系统识别中的表现，发现稳定样条核在稳定性和平滑性方面表现更优，提出了新的正则化方法。
2015-07-02 cs.LG cs.SY eess.SY
An Approach to Sparse Continuous-time System Identification from Unevenly Sampled Data
Luxembourg Centre for Systems Biomedicine, University of Luxembourg（卢森堡大学系统生物医学中心）
本文提出结合交叉验证与迭代子集增长方法，从非均匀采样数据中识别稀疏连续时间系统，通过最小二乘法解决系统动态问题。
2018-02-28 cs.SY eess.SY math.DS
Online Identification of Stochastic Continuous-Time Wiener Models Using Sampled Data
Swiss Federal Institute of Technology (ETH Zürich)（瑞士联邦理工学院（苏黎世联邦理工学院））；Inspire AG（因斯派尔股份有限公司）
针对随机Wiener模型辨识中忽略扰动致估计有偏、似然类方法对分布假设敏感且复杂度高的问题，提出一种基于输出误差预测器的递推在线估计算法，通过随机逼近实现连续时间随机Wiener模型辨识，适用于通用参数化且对扰动频谱假设鲁棒。
2024-03-09 cs.LG cs.SY eess.SP
Nonlinear State Space Model Identification Using a Regularized Basis Function Expansion
Uppsala University（乌普萨拉大学）；Aalto University（阿尔托大学）
本文提出利用基函数扩展方法对非线性状态空间模型进行黑箱识别，采用期望最大化算法迭代更新状态和参数，并引入正则化方案防止过拟合，通过仿真和实际数据验证方法有效性。
2015-10-02 cs.SY eess.SY stat.CO
On Kernel Design for Regularized Volterra Series Identification of Wiener-Hammerstein Systems
针对Wiener-Hammerstein系统，本文提出利用系统结构设计非零非对角块的Volterra核，实现$O(N^3)$复杂度，并利用可分离性降至$O(Nγ^2)$，通过仿真验证。
2025-05-27 cs.SY eess.SY
Regularized Least Squares Training of Quadratic Neural Networks with Applications to System Identification
Concordia University（康考迪亚大学）
本文提出一种带正则化的二次神经网络最小二乘训练方法，给出权重及灵敏度的闭式解，并建立与核范数最小化的联系，在系统辨识中验证了其有效性。
2026-09-17 cs.LG cs.SY eess.SY
Robust Bayesian Subspace Identification for Small Data Sets
从传统的子空间识别方法获得的模型估计可能会受到显着的方差。在大型模型或样本量有限的情况下，这种升高的方差会加剧。减少方差影响的常见解决方案是正则化估计，收缩估计和贝叶斯估计。在目前的工作中，我们调查后两种解决方案，尚未被应用于子空间识别。我们的实验结果表明，我们提出的估计可以减少估计风险的传统子空间方法的$40\%$。
2022-12-29 cs.SY eess.SY stat.ML
Identification of Structured LTI MIMO State-Space Models
Delft University（代尔夫特理工大学）；Weizmann Institute of Science（魏茨曼科学研究所）
本文提出一种基于差分凸规划的算法，通过将双变量优化转换为低秩约束优化问题，以高效求解结构状态空间模型的全局最优解。
2015-09-29 cs.SY eess.SY math.OC
A Sampling Theorem for Exact Identification of Continuous-time Nonlinear Dynamical Systems
低采样频率对从采样数据中准确识别连续时间（CT）动力系统提出了挑战，即使其模型是可识别的。提出了由Koopman算子建立的CT系统从采样数据中精确辨识的充分必要条件。该条件给出了精确辨识具有Koopman不变子空间的CT非线性动力系统的类Nyquist-Shannon临界频率：1）它建立了允许离散样本序列发现底层系统的采样频率的充分条件和2）它还建立了导致底层系统不可区分的系统混叠的采样频率的必要条件;以及3）原始CT信号不必如Nyquist-Shannon定理中所要求的那样被限带。理论判据已被证明在一些模拟的例子，包括线性系统，非线性系统的平衡，和极限环。
2022-04-29 cs.SY eess.SY math.DS
Recursive identification with regularization and on-line hyperparameters estimation
该研究提出一种带正则化的递推辨识算法，可同时在线估计模型参数与算法超参数，设计新核函数支撑算法构建，仿真验证显示其性能可与递推最小二乘算法对比。
2024-05-13 cs.SY eess.SY math.OC
System Identification with Time-Aware Neural Sequence Models
Ghent University（根特大学）；imec（比利时微电子研究中心）
已建立的递归神经网络非常适合解决涉及离散序列的各种预测任务。然而，它们在动态系统辨识的任务中表现不佳，当处理来自在时间上不均匀采样的连续变量的观测时，例如由于缺失观测。我们展示了如何这样的神经序列模型可以适应以自然的方式处理可变步长。特别是，我们引入了现有模型（包括门控递归单元）的时间感知和静态扩展，使它们能够通过适应观察时间来处理不均匀采样的系统观察，同时促进高阶时间行为。我们讨论的属性，并证明所提出的方法的有效性，基于两个工业输入/输出过程的样本。
2019-11-21 cs.LG cs.SY eess.SY
Discrete-Time Nonlinear Systems Identification with Probabilistic Safety and Stability Constraints
本文提出了一种离散时间非线性系统的辨识方法，同时以高概率满足系统的稳定性和安全性。极端学习机（ELM）的函数重建误差的高斯假设。一个二次约束二次规划（QCQP）开发的概率安全性和稳定性约束，只需要满足采样点内的不变区域。所提出的方法进行了验证，使用两个仿真例子：一个两个自由度（DoF）的机器人机械手与关节角度的约束，其轨迹保证保持在一个安全的设置和运动轨迹数据的手绘形状。
2022-10-03 cs.SY eess.SY
Infinite-Dimensional Sparse Learning in Linear System Identification
正则化方法已被广泛应用于模型结构未知的系统辨识问题。提出了一种基于原子范数正则化的无限维稀疏学习算法。原子范数正则化将传递函数分解为一阶原子模型，并解决选择稀疏极点集并识别相应系数的组套索问题。解决这个问题的困难在于存在无限多的可能的原子模型。这项工作提出了一个贪婪算法，产生新的候选原子模型最大限度地违反现有问题的最优性条件。该算法能够高精度地求解无限维群套索问题。通过迭代加权自适应群Lasso和互补对稳定性选择，进一步扩展了该算法，以减小极点位置估计的偏差和抑制误报。数值结果表明，该算法在脉冲响应拟合和极点位置估计方面都优于基准参数化和正则化方法。
2022-08-31 cs.SY eess.SY stat.ML
A Data-Driven Method for Microgrid System Identification: Physically Consistent Sparse Identification of Nonlinear Dynamics
McGill University（麦吉尔大学）
本文提出一种物理一致的非线性动力学稀疏辨识方法，利用相量测量单元数据准确建模微电网系统，通过仿真验证其在大扰动下的预测能力。
2026-05-13 cs.SY eess.SY
Influence Functions for Data Attribution in Linear System Identification and LQR Control
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出利用影响函数工具，通过结合正则化最小二乘辨识与无限时间LQR流程，分析数据对控制器性能的影响，实现高精度的数据归因与加速训练。
2026-03-24 cs.SY eess.SY
Regularization in Data-driven Predictive Control: A Convex Relaxation Perspective
University of California San Diego（加利福尼亚大学圣地亚哥分校）
本文通过凸松弛视角探讨数据驱动预测控制中正则化的作用，提出A-DDPC方法，通过迭代算法解决内层问题，实验表明其在减少偏差和方差误差方面优于现有方法。
2026-10-19 cs.SY eess.SY math.OC
Linear Time-Periodic System Identification with Grouped Atomic Norm Regularization
本文提出了一种新的线性时间周期（LTP）系统辨识方法。与以前的方法，完全分离的动态在不同的标签时间进行识别，该方法侧重于施加适当的结构约束的线性时不变（LTI）的LTP系统的重新制定。该方法采用线性时变系统的切换截断无限脉冲响应模型，其中结构约束被解释为要求所有子模型的非截断模型的极点位于相同的位置。这种约束是通过将LTI系统的原子范数正则化框架与回归中的组套索技术相结合来施加的。因此，估计的系统是一致的和低阶的，这是很难实现与其他现有的估计器。MonteCarlo模拟表明，分组原子范数方法不仅比其他正则化方法具有更好的结果，而且在高噪声水平下的模型拟合性能也优于子空间辨识方法。
2020-03-17 cs.SY eess.SY
System Identification for Continuous-time Linear Dynamical Systems
Princeton University（普林斯顿大学）；Princeton Neuroscience Institute（普林斯顿神经科学研究所）；Columbia University（哥伦比亚大学）；Data Science Institute, Columbia University（哥伦比亚大学数据科学研究所）；New York Genome Center（纽约基因组中心）
本文提出基于连续时间Itô随机微分方程的连续-离散滤波器系统辨识方法，通过贝叶斯推导的双滤波器后验解析形式和EM过程，支持非均匀采样数据，并推广了混合Kalman滤波器及非线性系统辨识方法的应用。
2024-06-27 cs.LG cs.SY eess.SY
Data-Efficient System Identification via Lipschitz Neural Networks
针对数据高效的非线性系统辨识问题，本研究采用Lipschitz神经网络，在未知系统Lipschitz连续的弱假设下提出误差界估计方法，仿真实验表明其优于经典方法，尤其在数据量少的场景优势更显著。
2025-08-20 cs.SY eess.SY
Set-membership identification of continuous-time MIMO systems via Tustin discretization
本文针对受未知但有界误差影响的采样数据，提出基于集员技术与Tustin离散化的连续时间MIMO系统辨识方法，克服导数测量困难，并将其转化为可求解的多项式优化问题，通过仿真与实验验证有效性。
2025-08-26 cs.SY eess.SY math.OC
Kernel-based Impulse Response Identification with Side-Information on Steady-State Gain
本文研究了当系统的稳态（或直流）增益存在边信息时的系统辨识问题。我们制定了一个一般的非参数识别方法作为一个无限维约束凸规划的再生核希尔伯特空间（RKHS）的稳定脉冲响应。该优化问题的目标函数是用RKHS范数正则化的经验损失，并考虑约束以强制集成稳态增益边信息。所提出的配方解决离散时间和连续时间的情况下。我们表明，该计划有一个唯一的解决方案，通过解决一个等价的有限维凸优化。当经验损失和正则化函数为二次函数且考虑精确边信息时，该解具有封闭形式。我们进行了广泛的数值比较，以验证所提出的识别方法的效率。
2022-11-06 cs.SY eess.SY math.OC
Dynamic relations in sampled processes
University of California, Irvine（加州大学尔湾分校）；Shanghai Jiao Tong University（上海交通大学）；KTH Royal Institute of Technology（皇家理工学院）
本文探讨了在不同采样率下动态关系的准确性问题，提出通过最细时间尺度构建随机模型以确定正确的动态依赖关系。
2018-07-24 cs.SY eess.SY math.OC
A novel Multiplicative Polynomial Kernel for Volterra series identification
Department of Information Engineering, University of Padova（信息工程系，帕多瓦大学）
本文提出了一种新的正则化网络用于Volterra模型的识别，通过引入由基本构建块乘积构成的新核，利用边际似然优化估计未知参数，实验表明该方法能更有效地选择影响系统输出的单项式，提升模型预测能力。
2019-11-12 cs.LG cs.SY eess.SY
The Existence and Uniqueness of Solutions for Kernel-Based System Identification
再生核希尔伯特空间（RKHS）的概念是近十年来在系统辨识中出现的。在由此产生的框架中，脉冲响应估计问题被制定为一个正则化的优化定义在一个无限维的RKHS组成的稳定的脉冲响应。随后的估计问题是很好地定义下的核心假设，限制到RKHS的卷积算子是连续的线性泛函。此外，根据这一假设，代表定理成立，因此，可以通过求解有限维程序来估计脉冲响应。因此，连续性特征在基于核的系统辨识中起着重要的作用。本文表明，这一中心假设是保证满足相当一般的情况下，即当内核是一个可积函数和输入信号有界。此外，优化问题的强凸性和卷积算子的连续性意味着基于核的系统辨识具有唯一解。因此，基于内核的系统辨识是一种定义明确的方法。
2022-04-17 cs.SY eess.SP eess.SY
Some of the variables, some of the parameters, some of the times, with some physics known: Identification with partial information
Princeton University（普林斯顿大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Whiting School of Engineering（怀廷工程学院）
针对非均匀采样、变量不全且仅掌握部分先验物理知识的实验数据，该研究提出基于数值积分和先验物理知识的神经网络架构，结合物理信息灰箱实现动力系统辨识，无需预处理数据即可学习未知项并估计参数。
2023-04-27 cs.CE cs.LG cs.SY
