Sample Complexity Lower Bounds for Linear System Identification
Royal Institute of Technology (KTH)(瑞典皇家理工学院(KTH))
本文基于线性系统辨识问题,推导了针对特定问题的样本复杂性下界,该下界在PAC框架下定义,用于确定系统参数的识别时间和精度。研究针对受控和不受控系统,为不受控系统推导了基于有限时间可控性格拉姆矩阵的下界,并推导了仅依赖系统谱的简化下界。对于受控系统,下界虽不如不受控系统明确,但可为设计最小样本复杂度的控制策略提供见解。
2019-03-25 cs.LG cs.SY eess.SY
Adaptive Bayesian Optimization for Robust Identification of Stochastic Dynamical Systems
National Institute of Standards and Technology(国家标准化与技术机构);Rice University(里士满大学);Department of Physics, Colorado State University(科罗拉多州立大学物理系);Electrical Engineering Department, University of Colorado(科罗拉多大学电气工程系);National Research Institute for Metals(金属研究国家研究所)
针对线性随机动力系统辨识中MLE易陷局部最优且计算复杂的问题,提出基于集成高斯过程的贝叶斯优化方法,通过卡尔曼滤波递归高效评估目标,在RMSE和统计一致性上优于MLE,甚至突破Cramer-Rao界。
2025-08-14 cs.LG stat.ME stat.ML
PAC-Causal Learnability: From Identification to Finite-Sample Guarantees
Duke University(杜克大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出PACC因果发现框架,将PAC学习原则扩展至因果推断,在有限数据与时间约束下为倾向评分、工具变量及SCCS等方法提供计算、样本效率与理论保证。
2026-10-16 cs.LG stat.ML
Finite Sample Identification of Wide Shallow Neural Networks with Biases
Technical University of Munich(慕尼黑工业大学);Deeptech Consulting(深科技咨询公司);Institute of Science and Technology Austria (ISTA)(奥地利科学技术研究所(ISTA))
人工神经网络是依赖于通常编码为权重和偏置的有限数量的参数的函数。从输入输出对的有限样本中识别网络的参数通常被称为\emph{teacher-student model},并且该模型代表了用于理解训练和泛化的流行框架。即使在最坏的情况下,这个问题是NP完全的,一个快速增长的文献-在添加适当的分布假设-已经建立了有限样本识别的两层网络与一些神经元$m=\mathcal O(D)$,$D$的输入尺寸。对于范围$D<m<D^2$,问题变得更加困难,并且对于由偏差参数化的网络也知之甚少。本文填补了这一空白,提供了建设性的方法和有限样本识别这类更广泛的偏置浅网络的理论保证。我们的方法是基于一个两步的管道:首先,我们恢复的方向的权重,利用二阶信息,接下来,我们确定的迹象,通过适当的代数评估,我们通过经验风险最小化通过梯度下降恢复的偏见。数值结果证明了我们的方法的有效性。
2022-11-08 cs.LG stat.ML
A Fast Parallel Tensor Decomposition with Optimal Stochastic Gradient Descent: an Application in Structural Damage Identification
The University of Sydney(悉尼大学)
结构健康监测(SHM)提供了一种经济的方法,其目的是通过连接到结构的多个网络传感器连续收集数据来增强对结构行为的理解。然后,利用这些数据来深入了解结构的健康状况,并及时做出有关其维护的经济决策。生成的SHM感测数据是非平稳的,并且以相关的多路形式存在,这使得批量/离线学习和标准的双向矩阵分析无法捕获所有这些相关性和关系。从这个意义上说,在线张量数据分析已成为捕获存储在张量$\mathcal{X} \in \mathbb{R} ^{I_1 \times \dots \times I_N} $中的高阶数据集中的底层结构的重要工具。CANDECOMP/PARAFAC(CP)分解已被广泛研究并应用于近似X × N加载矩阵A(1),. . .,A(N),其中N表示张量的阶。本文提出了一种新的算法FP-CPD,用于并行化张量$\mathcal{X} \in \mathbb{R} ^{I_1 \times \dots \times I_N} $的CANDECOMP/PARAFAC(CP)分解。我们的方法是基于随机梯度下降(SGD)算法,使我们能够并行化的学习过程,它是非常有用的在线设置,因为它更新$\mathcal{X}^{t+1}$在一个单步的。我们的SGD算法增加了Nesterov的加速梯度(NAG)和扰动方法,以加速和保证收敛。使用实验室和现实结构数据集的实验结果表明,该算法收敛速度快,可…
2021-11-04 cs.LG
Non-stochastic Best Arm Identification and Hyperparameter Optimization
University of Wisconsin(威斯康星大学);UCLA(加州大学洛杉矶分校)
受超参数优化任务的启发,我们引入了非随机最佳臂辨识问题。在多臂强盗文献中,累积后悔目标在非随机和随机环境下都有算法和分析,而据我们所知,最佳臂识别框架仅在随机环境下被考虑。我们在这个框架下引入非随机设置,确定一个已知的算法,非常适合这种设置,并分析其行为。接下来,通过利用标准机器学习算法的迭代性质,我们将超参数优化作为非随机最佳臂识别的实例,并根据经验评估我们提出的算法。我们的实证结果表明,通过分配更多的资源,有前途的超参数设置,我们通常实现可比的测试精度比基线方法快一个数量级。
2015-02-27 cs.LG stat.ML
Stochastic processes and feedback-linearisation for online identification and Bayesian adaptive control of fully-actuated mechanical systems
Oxford University(牛津大学)
本文提出了一种新的方法,结合概率识别与控制,利用随机过程先验条件和拉格朗日力学结构知识,通过反馈线性化实现对完全驱动机械系统的灵活非参数贝叶斯学习。
2014-04-01 cs.LG cs.SY eess.SY
Online Identification of Stochastic Continuous-Time Wiener Models Using Sampled Data
Swiss Federal Institute of Technology (ETH Zürich)(瑞士联邦理工学院(苏黎世联邦理工学院));Inspire AG(因斯派尔股份有限公司)
针对随机Wiener模型辨识中忽略扰动致估计有偏、似然类方法对分布假设敏感且复杂度高的问题,提出一种基于输出误差预测器的递推在线估计算法,通过随机逼近实现连续时间随机Wiener模型辨识,适用于通用参数化且对扰动频谱假设鲁棒。
2024-03-09 cs.LG cs.SY eess.SP
The Stochastic Occupation Kernel Method for System Identification
Portland State University(波特兰州立大学);Translational Genomics Research Institute(转化基因组学研究所)
针对随机微分方程的漂移与扩散项学习问题,提出基于占用核的两步法:先用占用核算法学习漂移项,再用半定规划学习扩散项平方,为随机系统非参数辨识提供新方法。
2024-06-21 cs.LG cs.SY eess.SY
Non-Asymptotic Bounds for Closed-Loop Identification of Sub-Exponentially Growing Nonlinear Stochastic Systems
Leibniz University Hannover(汉诺威莱布尼茨大学);University of Melbourne(墨尔本大学)
该研究针对离散时间不稳定闭环非线性随机系统,基于单轨迹数据开展最小二乘参数估计,在满足次指数输入到状态增长等条件下建立估计误差的非渐近保证,结果可用于现有工作之外的分析。
2026-08-27 cs.LG cs.SY eess.SY
Drift Identification for Lévy alpha-Stable Stochastic Systems
University of California, Merced(加州大学默塞德分校)
研究了一类随机系统辨识问题:给定Lévy $α$ -稳定噪声驱动的随机微分方程的时间序列观测值,估计其漂移场.对于间隔$[1,2)$中的$α$,噪声是重尾的,导致计算物理空间中的转变密度和/或似然性的方法的计算困难。我们提出了一种傅立叶空间方法,该方法以计算时间相关的特征函数为中心,即,含时密度的傅里叶变换。使用傅立叶级数参数化未知的漂移场,我们制定了一个损失的预测和经验特征函数之间的平方误差。我们通过伴随方法计算梯度来最小化这种损失。对于各种一维和二维的问题,我们证明了这种方法是能够学习漂移场的定性和/或定量协议与地面真理字段。
2022-12-06 cs.LG math.OC stat.CO
Variational Deep Learning for the Identification and Reconstruction of Chaotic and Stochastic Dynamical Systems from Noisy and Partial Observations
IMT Atlantique(大西洋国立高等矿业电信学院)
数据驱动的动力系统未知控制方程的恢复近年来受到越来越多的关注。然而,当处理噪声和部分观测时,控制方程的识别仍然具有挑战性。在这里,我们解决这一挑战,并研究变分深度学习方案。在所提出的框架内,我们共同学习一个推理模型,从一系列噪声和部分数据中重建系统的真实状态和这些状态的支配规律。在这样做的过程中,这个框架桥接了经典的数据同化和最先进的机器学习技术。我们还证明了它概括了最先进的方法。重要的是,推理模型和控制模型都嵌入了随机组件,以考虑随机变量、模型误差和重建不确定性。各种实验混沌和随机动力系统支持我们的计划w.r.t.的相关性。最先进的方法。
2021-02-16 cs.LG stat.ML
Bayesian Identification of Nonseparable Hamiltonian Systems Using Stochastic Dynamic Models
University of California San Diego(加州大学圣地亚哥分校);University of Michigan(密歇根大学)
提出了一种基于随机动态模型的不可分哈密顿系统的系统辨识和估计的概率贝叶斯公式。不可分的哈密顿系统出现在各种科学和工程应用的模型中,如天体物理学、机器人、涡旋动力学、带电粒子动力学和量子力学。数值实验表明,所提出的方法恢复动力系统具有更高的精度和减少预测的不确定性相比,国家的最先进的方法。结果进一步表明,在存在稀疏和噪声测量的情况下,远超出训练时间间隔的准确预测是可能的,这为所提出的方法提供了鲁棒性和可推广性。一个定量的好处是预测精度小于10%的相对误差超过12倍的时间比可比的最小二乘为基础的方法对基准问题。
2022-09-15 cs.LG cs.SY eess.SY
Mean-based Best Arm Identification in Stochastic Bandits under Reward Contamination
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院)
研究了$\textit{contaminated}$随机多臂强盗中的最佳臂识别问题。在这种情况下,从任何手臂获得的奖励都被来自概率为$\varepsilon$的对抗模型的样本所取代。被认为是一个固定的信心(无限地平线)设置,其中学习者的目标是确定最大的平均值的手臂。由于奖励的对抗性污染,每个手臂的平均值只能部分识别。本文提出了两种算法,一个基于间隙的算法和一个基于逐次消除,在亚高斯强盗最佳手臂识别。这些算法涉及的平均估计,实现了最佳的误差保证的偏差的真实均值从估计渐近。此外,这些算法渐近达到最佳的样本复杂度。具体而言,对于基于间隙的算法,样本复杂度是渐近最优的常数因子,而对于连续消除的算法,它是最优的对数因子。最后,数值实验来说明与现有的基线相比,算法的增益。
2021-11-14 cs.LG stat.ML
A Normal Map-Based Proximal Stochastic Gradient Method: Convergence and Identification Properties
National University of Singapore(新加坡国立大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
本文提出基于Robinson正常图的近端随机梯度方法,解决了传统PSGD在流形识别方面的不足,证明其在非凸问题中具有有限时间内的收敛性和识别能力。
2026-03-03 cs.LG math.OC
Best of both worlds: Stochastic & adversarial best-arm identification
Adobe Research, USA(Adobe研究院,美国);University of California, Berkeley, USA(加州大学伯克利分校,美国);Queensland University of Technology - ACEMS, Australia(昆士兰理工大学 - ACEMS,澳大利亚);Massachusetts Institute of Technology, USA(麻省理工学院,美国);SequeL team, INRIA Lille - Nord Europe, France(INRIA里尔 - 北欧,法国)
研究在任意对抗性奖励下的多臂老虎机最佳臂识别问题,探讨在随机和对抗场景下如何设计鲁棒的最优算法,证明无法同时满足两种场景的最优性,并提出一种参数无关算法在随机场景下达到下界,同时对抗鲁棒。
2026-10-20 cs.LG stat.ML
Two-Fidelity Best-Action Identification for Stochastic Minimax Tree
Department of Mathematics, Columbia University(哥伦比亚大学数学系);Stern School of Business, New York University(纽约大学斯特恩商学院)
针对随机极小极大树中的固定置信度最优动作识别问题,提出双保真度树搜索算法2FFS,结合极小极大快速扩展与MCTS随机采样,自适应选择廉价有偏评估或昂贵精确评估,理论证明固定置信度正确性、有限停止及多项式深度成本上界,实验表明比现有BAI-MCTS基线显著减少样本和计算。
2026-09-30 cs.AI cs.LG
Nonlinear Sequential Accepts and Rejects for Identification of Top Arms in Stochastic Bandits
Harvard University(哈佛大学)
我们解决的M-最好的手臂识别问题,在多武装匪徒。玩家只有有限的预算来探索K条手臂(M<K),一旦被拉动,每条手臂都会从一个固定的未知分布中(独立地)获得奖励。我们的目标是找到期望奖励意义上的前M臂。我们开发了一种算法,在轮中进行迭代停用武器。在每一轮,预算除以剩余手臂的非线性函数,并且手臂被相应地拉动。基于决策规则,可以接受或拒绝每一轮的停用臂。该算法输出理想情况下应该是前M个臂的接受臂。我们的错误识别概率的衰减率的特征,并建立非线性预算分配证明是有用的不同的问题环境(描述的竞争武器的数量)。我们提供了全面的数值实验表明,我们的算法优于国家的最先进的使用适当的非线性。
2017-07-09 cs.LG stat.ML
A Robust Probabilistic Approach to Stochastic Subspace Identification
The University of Sheffield(谢菲尔德大学)
针对随机子空间辨识(SSI)易受测量异常值干扰的问题,提出概率形式的Prob-SSI并证明其与经典算法等价,进一步开发出鲁棒Prob-SSI,可自动处理异常数据,在受污染数据和Z24 Bridge基准集上均优于传统SSI。
2023-05-26 cs.LG eess.SP stat.ML
Blind identification of stochastic block models from dynamical observations
Massachusetts Institute of Technology(麻省理工学院);University of Oxford(牛津大学);Rice University(莱斯大学)
我们考虑一个盲识别问题,在这个问题中,我们的目标是恢复一个网络的统计模型,而不知道网络的边缘,但仅仅基于节点观测的某个过程。更具体地说,我们专注于观察,包括从一个扩散过程的多个轨迹,在未知的网络演变的单个快照。我们将网络建模为从潜在随机块模型(SBM)的独立绘制中生成的,我们的目标是推断节点到块的分区以及该SBM的参数。我们讨论了一些不可识别的问题,这个问题,并提出了简单的谱算法,可证明解决分区恢复和参数估计问题,具有高精度。我们的分析依赖于随机矩阵理论和协方差估计的最新结果,以及相关的浓度不等式。我们用几个数值实验来说明我们的结果。
2019-12-03 cs.LG cs.SI physics.soc-ph
SPRT-based Efficient Best Arm Identification in Stochastic Bandits
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文针对指数族随机多臂老虎机的最优臂识别问题,提出基于似然比检验的SPRT算法,实现渐近最优样本复杂度与δ-PAC保证,并量化了现有方法的计算开销。
2023-06-23 cs.LG stat.ML
Vector Optimization with Stochastic Bandit Feedback
Bilkent University(比尔肯特大学)
我们介绍了随机强盗反馈向量优化问题,其中设计之间的偏好编码的多面体排序锥$C$。我们的设置一般化的最佳手臂识别问题,向量值的奖励扩展的概念,帕累托集超越多目标优化。我们通过定义一个新的依赖于锥的复杂性概念,称为排序复杂性,来描述($ε,δ$)-PAC帕累托集识别的样本复杂性。特别是,我们提供了间隙依赖和最坏情况下的样本复杂性的下限,并表明,在最坏的情况下,样本的复杂性尺度与平方的排序复杂性。此外,我们研究了朴素消除算法的样本复杂度,并证明了它几乎匹配的最坏情况下的样本复杂度。最后,我们通过实验验证了我们的理论结果,并说明了$C$和采样预算如何影响Pareto集,返回的($ε,δ$)-PAC Pareto集,以及识别的成功。
2023-03-07 cs.LG math.OC stat.ML
Finite-sample analysis of identification of switched linear systems with arbitrary or restricted switching
Delft University of Technology(代尔夫特理工大学);KTH Royal Institute of Technology(瑞典皇家理工学院)
对于切换系统的辨识问题,本文研究了切换策略对辨识误差的影响。用于识别的数据被假定为从全局渐近或边际稳定的切换系统下的开关是任意的或受到平均停留时间约束。然后,切换系统的最小二乘(LS)估计。为了捕捉切换策略的参数对LS估计误差的影响,在这项工作中开发了有限样本误差界。得到的误差界表明,当只存在稳定模式时,估计误差与开关参数成对数关系;而当存在不稳定模式时,估计误差界可随开关参数的变化而线性增大。这表明,在不稳定模式的存在下,切换策略应适当设计,以避免估计误差的显着增加。
2022-06-28 cs.LG cs.SY eess.SY
Frequency Response Identification of Low-Order Systems: Finite-Sample Analysis
Robust Systems Lab, ECE Department, Northeastern University(鲁棒系统实验室,电子与计算机工程系,东北大学)
提出一种基于重复噪声测量的频域估计器,通过Loewner矩阵核范数正则化和凸稳定性约束,在有限样本下给出误差界,并通过有理插值推广到所有频率。
2026-06-23 cs.LG cs.SY eess.SY
Asymptotically efficient adaptive identification under saturated output observation
KTH Royal Institute of Technology(KTH皇家理工学院);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院)
本文研究饱和输出观测下随机系统的渐近有效辨识问题,提出一种基于两步设计的自适应牛顿型算法,在一般激励条件下证明了估计的强相合性与渐近正态性,并渐近达到 Cramer-Rao 界。
2025-04-04 cs.LG cs.SY eess.SY
Best Arm Identification in Stochastic Bandits: Beyond $β-$optimality
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出一种计算高效且性能最优的随机多臂老虎机最佳臂识别算法,通过顺序估计最优分配至足够保真度,适用于任意均值参数化分布族,并超越现有$\eta$-最优方法。
2023-06-22 cs.LG stat.ML
Real-time Hybrid System Identification with Online Deterministic Annealing
Division of Decision and Control Systems, School of Electrical Engineering and Computer Science, KTH Royal Institute of Technology, Stockholm(决策与控制系统系,电气工程与计算机科学学院,皇家理工学院,斯德哥尔摩)
本文提出一种基于双时间尺度随机逼近的实时辨识方法,通过在线确定性退火逐步估计切换信号与模式数量,适用于分段仿射及一般切换系统,兼顾计算效率与性能-复杂度权衡,仿真验证有效。
2025-09-25 cs.LG cs.SY eess.SY
Multi-Agent Best Arm Identification in Stochastic Linear Bandits
Indiana University Bloomington(印第安纳大学伯明顿分校)
针对固定预算下随机线性老虎机,提出星型与任意网络的多智能体协作最优臂识别算法 MaLinBAI-Star 和 MaLinBAI-Gen,利用 G-最优设计与连续消除,实现错误概率指数衰减。
2025-05-24 cs.LG
Choosing Answers in $\varepsilon$-Best-Answer Identification for Linear Bandits
Univ. Lille(里尔大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);Centrale Lille(里尔中央理工学院)
在纯探索问题中,信息是按顺序收集的,以回答随机环境中的问题。虽然线性强盗的最佳臂识别近年来已被广泛研究,但很少有作品致力于识别一个臂,即$\varepsilon$ -接近最佳的一个(而不是最好的一个)。在这个有多个正确答案的问题中,识别算法应该集中在这些答案中的一个候选者上,并验证它是正确的。我们表明,挑选最高的平均值的答案不允许算法达到渐近最优的预期样本复杂性。相反,应识别\textit{furthest answer}。利用这种洞察力仔细选择候选答案,我们开发了一个简单的程序,以适应最佳臂识别算法来解决$\varepsilon$ -最佳答案识别转导线性随机土匪。最后,我们提出了一个渐近最优算法,这种设置,这是实现竞争力的经验表现对现有的修改最佳臂识别算法。
2022-06-09 cs.LG stat.ML
Stochastic stiffness identification and response estimation of Timoshenko beams via physics-informed Gaussian processes
Bauhaus-Universität Weimar(魏玛包豪斯大学);University of Cambridge(剑桥大学)
本文提出基于物理信息高斯过程的Timoshenko梁模型,通过贝叶斯推断和马尔可夫链蒙特卡洛实现随机刚度识别,并结合熵优化传感器布置,实现异构多保真数据融合与结构响应概率预测。
2023-09-21 cs.AI cs.LG
Best Arm Identification for Stochastic Rising Bandits
Politecnico di Milano(米兰理工大学)
本文针对随机上升老虎机(SRBs)的固定预算最佳臂识别问题,提出R-UCBE和R-SR两种算法,证明其识别保证并推导匹配下界,实验验证有效。
2024-05-27 cs.LG
System Identification via Meta-Learning in Linear Time-Varying Environments
Arizona State University(亚利桑那州立大学)
系统辨识是强化学习、控制理论和信号处理中的一个基本问题,即使对于线性时变(LTV)系统,相应样本复杂度的非渐近分析也是一个挑战性和难以实现的问题。为了解决这一挑战,我们开发了一个情节块模型的LTV系统中的模型参数保持不变,但从块块到块。基于观察到不同块之间的模型参数是相关的,我们把每个情节块作为一个学习任务,然后在多个块上运行元学习进行系统辨识,使用两个步骤,即离线元学习和在线自适应。本文对基于元学习的系统辨识的性能进行了全面的非渐近分析。为了解决样本相关性和每个块中小样本量的技术挑战,我们设计了一种新的双尺度鞅小球方法用于离线元学习,用于跨块的任意模型相关性结构。然后,我们量化的有限时间误差的在线自适应利用线性随机近似与相关样本的最新进展。
2020-11-25 cs.LG cs.SY eess.SY
Finding All ε-Good Arms in Stochastic Bandits
University of Wisconsin(威斯康星大学);University of Washington(华盛顿大学)
随机多武器土匪的纯探索问题旨在找到一个或多个武器的最大(或接近最大)的手段。示例包括查找ε-良好臂、最佳臂标识、前k臂标识以及查找均值高于指定阈值的所有臂。然而,在过去的工作中,找到所有ε-好臂的问题被忽视了,尽管可以说这可能是许多应用中最自然的目标。例如,病毒学家可能会对大量的候选治疗方法进行初步的实验室实验,并将所有ε-好的治疗方法转移到更昂贵的临床试验中。由于最终临床疗效不确定,因此确定所有ε-良好候选药物非常重要。从数学上讲,全ε-好臂识别问题提出了过去研究的纯探索目标中没有出现的重大新挑战和惊喜。我们介绍了两种算法来克服这些问题,并在纽约客字幕大赛收集的220万评级的大规模众包数据集以及测试数百种可能的抗癌药物的数据集上展示了它们的出色经验表现。
2020-09-11 cs.LG stat.ML
Probabilistic Sequential Shrinking: A Best Arm Identification Algorithm for Stochastic Bandits with Corruptions
National University of Singapore(新加坡国立大学);Institute of Operations Research and Analytics, National University of Singapore(新加坡国立大学运筹与分析研究所)
我们考虑一个最佳臂识别(BAI)问题的随机土匪对抗腐败的固定预算设置的T步骤。我们设计了一种新的随机算法,概率顺序收缩($u$)(PSS($u$)),这是不可知的腐败量。当每步损坏量(CPS)低于阈值时,PSS($u$)将具有倾向于$1$的概率的最佳臂或项目标识为$T\rightarrow \infty$。否则,最优性差距的识别项目退化优雅的CPS。我们认为,这样的分歧是必要的。在PSS($u$)中,参数$u$用于在最优性间隙和成功概率之间进行平衡。注入的随机化被证明是必不可少的,以减轻腐败的影响。为了证明这一点,我们设计了两种适用于任何算法的攻击策略。我们将其中一个应用于PSS的确定性模拟($u$),Karnin等人(2013)称为连续减半(SH)。攻击策略导致SH的高失败概率,但PSS($u$)保持鲁棒性。在没有损坏的情况下,PSS($2$)的性能保证与SH的性能保证相匹配。我们表明,当CPS是足够大的,没有算法可以实现BAI概率趋于$1$作为$T\rightarrow \infty$。数值实验证实了我们的理论研究结果。
2021-06-18 cs.IT cs.LG math.IT
Identification of Stochasticity by Matrix-decomposition: Applied on Black Hole Data
International Institute of Information Technology, Bangalore(班加罗尔国际信息技术学院)
提出一种结合SVD拓扑分析与PCA特征及SVM的双分支矩阵分解算法,用于判别时间序列是否随机,并在合成数据和黑洞GRS 1915+105数据上验证,12类中11类标签一致。
2023-07-15 cs.LG
PAC Identification of Many Good Arms in Stochastic Multi-Armed Bandits
Indian Institute of Technology Bombay(印度理工学院孟买分校)
研究了在$n$ -武装随机多臂强盗中从最佳$m$武装中识别任意$k$的问题.在PAC设置中,这个特定的问题概括了“最佳子集选择”和"从最佳m个臂中选择一个“的问题[arcsk 2017]。在众包和药物设计等应用中,确定单一的良好解决方案往往是不够的。此外,由于存在许多非常接近的解决方案,找到最佳子集可能很难。我们的概括识别出最好的$m$,其中$1 \leq k \leq m$,作为一个更有效的替代准确$k$武器。我们提出了一般$k$的最坏情况下的样本复杂度的下限,和一个完全顺序的PAC算法,\GLUCB,这是更简单的实例上的样本效率。此外,将我们的分析扩展到无限武装匪徒,我们提出了一种独立于$n$的PAC算法,该算法使用最多与下限相比的加性多对数样本数从最佳$ρ$部分的武器中识别出一个武器,从而改进了[arcsk 2017]和[Aziz+AKA:2018]。从最好的$ρ$分数识别$k > 1$不同的武器的问题并不总是定义良好的,对于这个问题的一个特殊的类,我们提出了下限和上限。最后,通过一个约化,我们建立了无限情况下的“one out of the best $ρ$”问题和有限情况下的“one out of the best $m$”问题的上界之间的关系。我们猜想,这是更有效地解决“小”有限的情况下,使用后者制定,而不是通过前者。
2019-01-24 cs.LG stat.ML
Sample Complexity of an Adversarial Attack on UCB-based Best-arm Identification Policy
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
在这项工作中,我研究的问题的对抗扰动奖励,在多臂强盗(MAB)设置。具体来说,我专注于对抗攻击的UCB型最佳臂识别策略应用于随机MAB。[1]中提出的UCB攻击导致非常频繁地拉动目标臂K。利用文献[1]的攻击模型,推导出了选择目标臂K作为最佳臂所需的样本复杂度,证明了文献[2]中给出的基于UCB的最佳臂识别算法的停止条件,可以由目标臂K在T轮内达到,其中T仅取决于臂的总数和臂的$σ^2-$亚高斯随机奖励的$σ$参数。
2022-09-13 cs.AI cs.CR cs.LG
Deep Learning for Interference Identification: Band, Training SNR, and Sample Selection
Purdue University(普渡大学)
我们研究了干扰源识别问题,通过识别属于3种不同无线技术的15个不同信道之一的镜头:蓝牙,Zigbee和WiFi。我们采用深度学习算法,对从2.4 GHz ISM频段中的10 MHz频段采集的接收样本进行训练。我们使用四种不同的深度神经网络架构中的任何一种获得了约89.5%的分类准确率:CNN,ResNet,CLDNN和LSTM,这证明了深度学习在所考虑的任务中的有效性的普遍性。有趣的是,我们提出的CNN架构需要大约60%的训练时间,同时实现略高的分类精度。然后,我们专注于CNN架构,并使用三种不同的方法进一步优化其训练时间,同时将分类准确性的损失降至最低:1-频带选择,其中我们仅使用属于较低和最高2 MHz频带的样本,2- SNR选择,其中我们仅使用属于单个SNR值的训练样本,以及3-样本选择,其中,我们尝试各种次奈奎斯特采样方法来选择与分类任务最相关的样本子集。我们的研究结果证实了快速深度学习用于无线干扰识别的可行性,表明训练时间可以减少多达30倍,准确性损失最小。
2019-05-16 cs.LG eess.SP stat.ML
Offline Contextual Bandit with Counterfactual Sample Identification
Criteo AI Lab(Criteo人工智能实验室);Criteo AI Lab, Fairplay joint team(Criteo人工智能实验室,Fairplay联合团队)
针对上下文赌博机直接奖励模型易受混淆影响的问题,提出反事实样本识别方法,通过比较动作与相同上下文下的反事实动作来识别成功动作,在理论与实际应用中均优于直接模型。
2025-09-03 cs.LG
Best Arm Identification for Contaminated Bandits
Massachusetts Institute of Technology(麻省理工学院)
本文研究了鲁棒统计背景下的主动学习。具体来说,我们提出了一个变种的最佳手臂识别问题的\emph{contaminated bandits},其中每个手臂拉有概率$\varepsilon$生成一个样本从任意的污染分布,而不是真正的底层分布。目标是以高概率确定最佳(或近似最佳)真实分布,其次是保证该分布的质量。污染的强盗设置的主要挑战是,真正的分布是只有部分可识别的,即使有无限的样本。为了解决这个问题,我们开发了紧密的,非渐近的样本复杂性边界的前两个强大的时刻(中位数和中位数绝对偏差)从污染的样本的高概率估计。这些浓度不等式的主要技术贡献的文件,可能是独立的利益。利用这些结果,我们适应几个经典的最佳手臂识别算法的污染的强盗设置,并推导出样本复杂度上界为我们的问题。最后,我们提供了匹配信息理论上的样本复杂度(小对数因子)的下界。
2019-05-15 cs.LG math.ST stat.ML
Sample Efficient Hierarchical Reinforcement Learning via Best Policy Identification
该研究提出HBPI-UCRL算法,通过并行学习高低层策略,在满足特定低层动力学条件时实现多项式样本复杂度,其样本效率优于非分层算法,为分层强化学习的经验成功提供理论支撑。
2026-08-03 cs.LG
Learning algorithms for identification of whisky using portable Raman spectroscopy
The University of Adelaide(阿德莱德大学);University of St Andrews(圣安德鲁斯大学);Robinson Research Institute(罗宾逊研究所);Institute for Photonics and Advanced Sensing(光子学与先进传感研究所);Centre of Light for Life(生命之光中心)
本文研究将机器学习算法与便携式拉曼光谱结合,用于威士忌品牌识别和乙醇/甲醇浓度检测,在28个商业样品上实现超过99%的品牌识别准确率,并展示了无需开瓶即可检测假冒掺假烈酒的实际应用潜力。
2023-09-22 cs.LG physics.data-an
Automatic Music Sample Identification with Multi-Track Contrastive Learning
Sony AI(索尼人工智能);Sony Group Corporation(索尼集团)
本文提出一种基于多轨对比学习的自监督方法,用于自动识别音乐采样并检索其来源,显著优于现有基线,且对流派和数据库规模具有鲁棒性。
2025-10-27 cs.AI cs.LG cs.SD