Generalized Bilinear Deep Convolutional Neural Networks for Multimodal Biometric Identification
West Virginia University（西弗吉尼亚大学）
在本文中，我们建议采用一组模态专用卷积神经网络（CNN），融合，训练，并将它们优化在一起，用于人员分类任务。模态专用的CNN用于每个模态以提取模态特定的特征。我们证明，与卷积层的空间融合不同，融合可以在特定模态CNN的全连接层的输出上执行，而不会损失任何性能，并且参数数量显著减少。我们表明，在特征级别使用具有多模态融合的多个CNN，我们的性能显着优于使用单模态表示的系统。我们研究加权特征，双线性，紧凑的双线性特征级融合算法的多模态生物特征的人识别。最后，我们提出了一种广义紧双线性融合算法，将加权特征融合和紧双线性融合结合起来。我们提供了三个具有挑战性的数据库：CMU多PIE，BioCop和BIOMDATA的算法的结果。
2018-07-03 cs.LG stat.ML
Best Arm Identification in Graphical Bilinear Bandits
PSL - Université Paris Dauphine（巴黎文理研究大学-巴黎多芬大学）；CNRS（法国国家科学研究中心）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Liverpool University（利物浦大学）
我们引入了一个新的图形双线性强盗问题的学习者（或\emph{central entity}）分配武器的节点图，并观察每个边缘的噪声双线性奖励表示两个端点之间的相互作用。我们研究了最佳手臂识别问题，其中学习者希望找到最大化双线性奖励之和的图分配。通过有效地利用这个强盗问题的几何形状，我们提出了一个\emph{decentralized}分配策略的基础上随机抽样的理论保证。特别是，我们表征的图形结构（如星，完整或圆）的收敛速度的影响，并提出实证实验，证实这种依赖。
2021-06-10 cs.LG
Learning Partially Known Stochastic Dynamics with Empirical PAC Bayes
Heidelberg University（海德堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
神经随机微分方程模型的动态环境与神经网络分配到他们的漂移和扩散条款。他们的非线性的高表达能力是以牺牲不稳定的大自由参数的识别。本文提出了一个配方，以提高预测精度的模型，在三个步骤：i）占认知不确定性假设概率权重，ii）纳入部分知识的状态动态，和iii）训练所得的混合模型的目标来自PAC贝叶斯泛化界。我们在实验中观察到，这种方法有效地将部分和噪声先验知识转化为改进的模型拟合。
2021-02-26 cs.LG stat.ML
Bilinear residual Neural Network for the identification and forecasting of dynamical systems
IMT Atlantique（IMT大西洋学院）；Lab-STICC（通信与计算机科学实验室）；INRIA Bretagne-Atlantique（法国国家信息与自动化研究所布列塔尼-大西洋中心）
由于大规模观测和仿真数据集的可用性越来越高，数据驱动表示作为动力系统的有效和相关的计算表示出现在广泛的应用中，其中基于常微分方程的模型驱动模型仍然是最先进的方法。在这项工作中，我们研究神经网络（NN）作为物理健全的数据驱动的表示这样的系统。重新解释龙格-库塔方法的图形模型，我们认为残留NN架构，并引入双线性层嵌入非线性动力系统的内在特征。从经典动力系统的数值实验，我们证明了建议的NN为基础的架构的预测性能和模型识别方面的相关性。
2017-12-19 cs.LG eess.SP physics.data-an
Learning Bilinear Models of Actuated Koopman Generators from Partially-Observed Trajectories
Princeton University（普林斯顿大学）；Paderborn University（帕德博恩大学）
针对带驱动系统Koopman生成器逼近中基函数选择难和部分状态观测受限的问题，提出将其表示为双线性隐马尔可夫模型并用EM算法求解，在三个示例中验证了其有效性。
2023-10-24 cs.CE cs.LG cs.SY
Learning and Control Beyond Linearity: Towards a Non-asymptotic Theory for Bilinear Systems
Cornell University（康奈尔大学）；Imperial College London（帝国理工学院）；University of Stuttgart（斯图加特大学）；University of Washington Seattle（华盛顿大学西雅图分校）；Amazon Inc.（亚马逊公司）
本教程统一阐述双线性学习与控制，对比线性系统揭示其本质差异，介绍有限样本学习工具与保证，并讨论控制方法及与强化学习的联系。
2026-09-29 cs.LG cs.RO cs.SY
Improved rates for prediction and identification of partially observed linear dynamical systems
Duke University（杜克大学）
从部分观测值辨识线性时不变动态系统是控制理论中的一个基本问题。特别具有挑战性的是表现出长期记忆的系统。一个自然的问题是如何学习这样的系统与非渐近统计率取决于系统的固有维数（顺序）$d$，而不是在可能更大的内存长度。我们提出了一种算法，给出了一个单一的轨迹长度$T$与高斯观测噪声，学习系统的$\widetilde O\left(\sqrt\frac{d}{T}\right)$在$\mathcal{H}_2$错误的接近最优的速率，只有对数，而不是多项式依赖于内存长度。我们还给出了边界下的过程噪声和改进的边界学习实现的系统。我们的算法是基于多尺度低秩近似：SVD应用于几何增加大小的汉克尔矩阵。我们的分析依赖于仔细应用的浓度范围上的傅立叶域-我们给相关输入的样本协方差和$\mathcal H_\infty$范数估计，这可能是独立的利益更清晰的浓度范围。
2022-03-07 cs.LG cs.SY eess.SY
Scalable Identification of Partially Observed Systems with Certainty-Equivalent EM
Stanford University（斯坦福大学）
系统辨识是基于模型的控制、估计器设计和输出预测的关键步骤。本文研究部分可观测非线性系统的离线辨识问题。我们的经验表明，确定性等效近似期望最大化可以是一个可靠的和可扩展的方法，高维确定性系统，这是常见的机器人。我们制定确定性等价的期望最大化块坐标上升，并提供了一个有效的实现。该算法的耦合洛伦兹吸引子的模拟系统上进行测试，证明其识别高维系统，可以是棘手的基于粒子的方法的能力。我们的方法也被用来识别一个特技直升机的动力学。通过用未观察到的流体状态来增强状态，学习到比最先进的方法更好地预测直升机的加速度的模型。这个工作的代码库可以在https://github.com/sisl/CEEM上找到。
2020-06-20 cs.LG cs.RO cs.SY
Partial Counterfactual Identification for Infinite Horizon Partially Observable Markov Decision Process
Columbia University（哥伦比亚大学）
本文研究了给定一组观测数据的反事实查询的可能输出的边界问题。虽然各种文献的作品已经描述了方法来生成有效的算法，提供了一个最佳的边界的反事实查询，所有这些都假设一个有限的地平线因果图。本文旨在通过修改Q-学习算法来扩展以前的工作，以提供无限时域因果图的因果查询的信息边界。通过仿真，我们的算法被证明是更好地执行相比，现有的算法。
2022-08-31 cs.LG
Score-based Greedy Search for Structure Identification of Partially Observed Linear Causal Models
Carnegie Mellon University（卡内基梅隆大学）；Mohamed bin Zayed University of Artificial Intelligence（莫卧儿 bin Zayed 人工智能大学）
本文提出了一种基于得分的贪心搜索方法，用于识别包含潜在变量的线性因果模型结构，通过全局一致性保证结构可识别性，并在合成和真实数据上验证了方法的有效性。
2026-05-01 cs.LG
Learning Stable Deep Dynamics Models for Partially Observed or Delayed Dynamical Systems
ETH Zürich（苏黎世联邦理工学院）
了解复杂动态系统如何随时间演化是系统辨识的一个关键挑战。对于安全关键系统，保证学习模型收敛到某个平衡点通常是至关重要的。为此，神经常微分方程正则化神经李雅普诺夫函数是一个很有前途的方法时，状态完全观察。然而，对于实际应用，部分观测是规范。正如我们将证明的那样，初始化不可观测的增广状态可能成为神经常微分方程的一个关键问题。为了缓解这个问题，我们建议增加系统的历史状态。受离散时间系统状态增广的启发，我们得到了神经时滞微分方程。基于经典的时滞稳定性分析，我们展示了如何确保学习模型的稳定性，并从理论上分析了我们的方法。我们的实验表明，它适用于部分观测系统的稳定系统辨识和学习的延迟反馈控制的稳定反馈政策。
2021-12-10 cs.LG cs.SY eess.SY
A Comparative study of Artificial Neural Networks Using Reinforcement learning and Multidimensional Bayesian Classification Using Parzen Density Estimation for Identification of GC-EIMS Spectra of Partially Methylated Alditol Acetates
本研究报告的模式识别搜索引擎的开发，基于万维网的数据库的气相色谱-电子轰击质谱（GC-EIMS）的部分甲基化糖醇乙酸酯（PMAAs）。在这里，我们还报告了本研究所采用的两种模式识别技术的比较结果。第一种技术是使用贝叶斯分类器和Parzen密度估计器的统计技术。第二种技术涉及用强化学习训练的人工神经网络模块。我们在这里证明，这两个系统在识别光谱与少量的噪声表现良好。这两种系统的性能都随着信噪比（SNR）的降低而降低。当处理部分光谱（缺失数据）时，人工神经网络系统表现得更好。所开发的系统是在万维网上实现的，并打算使用提交的光谱记录在任何GC-EIMS仪器上的这些分子来识别PMAAs。因此，该系统对GC-EIMS光谱中的仪器和色谱柱相关变化不敏感。
2020-07-31 cs.LG cs.NE eess.SP
Learning Latent Dynamics for Partially-Observed Chaotic Systems
IMT Atlantique（大西洋-南特高等矿业电信学院）；Ifremer（法国海洋开发研究院）；IMEDEA, UIB-CSIC（地中海高级研究所（巴利阿里大学-西班牙高等科学研究理事会））；ODL
本文讨论了部分观测系统的潜在动力学表示的数据驱动识别，即，动态系统，其中一些组件是从来没有观察到的，重点是预测应用，包括长期渐近模式。而国家的最先进的数据驱动的方法依赖于延迟嵌入和线性分解的基础运营商，我们介绍了一个框架的基础上的数据驱动的识别的增强状态空间模型，使用基于神经网络的表示。对于给定的训练数据集，它相当于联合学习潜在空间中的ODE（常微分方程）表示并重建潜在状态。通过数值实验，我们证明了建议的框架w.r.t.在短期预测性能和长期行为方面采用最先进的方法。我们进一步讨论了所提出的框架与Koopman算子理论和Takens嵌入定理的关系。
2019-07-04 cs.LG stat.ML
Provably Efficient Reinforcement Learning in Partially Observable Dynamical Systems
Cornell University（康奈尔大学）；Princeton University（普林斯顿大学）
我们研究了部分可观测动力系统的函数逼近强化学习。我们提出了一个新的\textit{Partially Observable Bilinear Actor-Critic framework}，这是一般性的，足以包括模型，如可观察的表格部分可观察马尔可夫决策过程（POMDPs），可观察的线性二次高斯（LQG），预测状态表示（PSR），以及一个新引入的模型希尔伯特空间嵌入的POMDPs和可观察的POMDPs与潜在的低秩转换。在这个框架下，我们提出了一个演员-评论家风格的算法，能够执行不可知的策略学习。给定一个由基于内存的策略（查看最近观察的固定长度窗口）组成的策略类，以及一个由将内存和未来观察作为输入的函数组成的价值函数类，我们的算法学习与给定策略类中最好的基于内存的策略竞争。对于某些例子，如不完全可观测的表格POMDPs，可观测的LQG和可观测的POMDPs与潜在的低秩转换，通过隐含地利用其特殊属性，我们的算法甚至能够竞争的全局最优策略，而无需支付指数依赖于地平线上的样本复杂度。
2022-06-24 cs.LG math.ST stat.ME
Meta-Learners for Partially-Identified Treatment Effects Across Multiple Environments
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；University of Cambridge（剑桥大学）
针对多环境观测数据中存在重叠性和无混淆性违反的CATE估计问题，提出将环境作为工具变量进行部分识别的模型无关元学习器，并在模拟与真实数据上验证了其有效性。
2024-06-04 cs.AI cs.LG stat.ML
Proximal Reinforcement Learning: Efficient Off-Policy Evaluation in Partially Observed Markov Decision Processes
在将离线强化学习应用于观察数据时，例如在医疗保健或教育中，普遍关注的是观察到的行为可能会受到未观察到的因素的影响，从而导致在完美马尔可夫决策过程（MDP）模型假设下得出的混淆和偏差估计。在这里，我们通过考虑部分观察MDP（POMDP）中的政策外评估来解决这个问题。具体来说，我们考虑估计一个给定的目标政策的值在POMDP给定的轨迹，只有部分状态观测产生的不同的和未知的政策，可能取决于未观察到的状态。我们解决两个问题：什么条件下，让我们从观察到的数据，并确定目标的政策价值，给定的识别，如何最好地估计它。为了回答这些问题，我们扩展的框架，近端因果推理我们的POMDP设置，提供了各种设置，其中识别是可能的存在所谓的桥梁功能。然后，我们将展示如何在这些设置中构建半参数有效估计。我们将由此产生的框架称为近端强化学习（PRL）。我们证明了PRL的好处，在一个广泛的模拟研究和脓毒症管理的问题。
2023-03-22 cs.LG math.OC math.ST
A Framework for Leveraging Partially-Labeled Data for Product Attribute-Value Identification
KnowDis AI（诺迪斯人工智能公司）；Indian Institute of Technology, Delhi（德里印度理工学院）
提出 GenToC 模型，通过标记增强生成模型与 token 分类直接利用部分标注数据提取属性-值对，提升数据质量并训练高效 NER 模型，在 IndiaMART 平台实现准确率 89.5% 及 20.2% 的识别量增长。
2024-11-18 cs.AI cs.CL cs.IR
A finite-sample bound for identifying partially observed linear switched systems from a single trajectory
HUN-REN SZTAKI and ELTE（HUN-REN SZTAKI和ELTE）；Univ. Lille, CNRS, Centrale Lille, UMR 9189 CRIStAL；HUN-REN SZTAKI
该研究针对单轨迹下的线性切换系统辨识问题，推导了基于马尔可夫参数估计与Ho-Kalman算法变体的辨识算法的有限样本概率误差界，证明其在二次稳定假设下的统计一致性，为该场景下首个此类结果。
2025-05-16 cs.LG cs.SY eess.SY
Large-Scale System Identification Using a Randomized SVD
Columbia University（哥伦比亚大学）
从输入/输出数据学习动力系统是控制设计流水线中的基本任务。在部分观测的设置有两个组成部分，以识别：参数估计学习马尔可夫参数，和系统实现，以获得一个状态空间模型。在这两个子问题中，隐含地假设标准的数值算法，如奇异值分解（SVD）可以很容易地和可靠地计算。当试图将高维模型拟合到数据时，例如在网络物理系统设置中，即使计算SVD也是棘手的。在这项工作中，我们表明，使用随机方法获得的近似矩阵分解可以取代标准SVD的实现算法，同时保持非渐近（在数据集大小）的性能和鲁棒性保证的经典方法。数值例子表明，对于大型系统模型，这是唯一能够产生模型的方法。
2021-09-06 cs.LG cs.NA cs.SY
GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP, and Beyond
Northwestern University（西北大学）；Peking University（北京大学）；The Hong Kong University of Science and Technology（香港科技大学）；Yale University（耶鲁大学）
本文提出广义eluder系数（GEC）来刻画强化学习中探索与利用的权衡，涵盖MDP、POMDP等场景，并设计了一种通用的后验采样算法，通过次线性遗憾上界证明了其样本高效性。
2023-06-30 cs.AI cs.LG math.OC
Bounded nonlinear forecasts of partially observed geophysical systems with physics-constrained deep learning
IMT Atlantique（大西洋国立高等矿业电信学院）；University of Washington（华盛顿大学）；Ifremer（法国海洋开发研究院）；IMEDEA, UIB-CSIC（地中海高级研究所（巴利阿里群岛大学-西班牙国家研究委员会））；ODL（海洋数据实验室）
现实世界的地球物理系统的复杂性往往是复杂的事实，观察到的测量依赖于隐藏的变量。这些潜变量包括未解决的小尺度和/或快速演变的过程，部分观察到的耦合，或强迫耦合系统。海洋-大气动力学就是这种情况，因为未知的内部动力学会影响表面观测。因此，这种部分观测和高度非线性系统的计算相关表示的识别是具有挑战性的，并且通常限于短期预测应用。在这里，我们研究了隐式动态嵌入的物理约束学习，利用神经常微分方程（NODE）表示。一个关键的目标是限制他们的有界性，这促进了学习动力学的推广到任意初始条件。所提出的架构是在深度学习框架内实现的，其相关性是相对于代表地球物理动力学的不同案例研究的最先进的方案来证明的。
2022-03-02 cs.LG math.DS stat.ML
Off-Policy Evaluation for Episodic Partially Observable Markov Decision Processes under Non-Parametric Models
University of California, Irvine（加州大学欧文分校）；The George Washington University（乔治华盛顿大学）
研究了具有连续状态的部分可观测马尔可夫决策过程的离政策评估问题。受最近提出的近端因果推断框架的启发，我们开发了一个非参数识别结果，通过一系列所谓的V桥函数的帮助下，随时间变化的代理变量的政策价值估计。然后，我们开发了一个合适的Q评估型算法来估计V桥函数递归，其中一个非参数工具变量（NPIV）的问题是解决在每一步。通过分析这一具有挑战性的顺序NPIV问题，我们建立了有限样本误差界估计的V-桥功能，从而评估政策的价值，在样本量，地平线的长度和所谓的（本地）措施在每一步的不适定性。据我们所知，这是非参数模型下POMDPs中OPE的第一个有限样本误差界。
2022-10-16 cs.LG math.ST stat.ML
