Identifying Outliers in Large Matrices via Randomized Adaptive Compressive Sampling
University of Minnesota – Twin Cities(明尼苏达大学双城分校)
本文探讨了在一个大的,否则低秩,矩阵定位离群列的问题。我们提出了一个简单的两步自适应传感和推理方法,并建立其性能的理论保证,我们的研究结果表明,准确的离群值识别是可以实现的,使用非常少的线性摘要的原始数据矩阵-作为低秩分量的平方秩加上离群值的数量,时间常数和对数因子。我们在两个程式化的应用程序,一个强大的协同过滤任务的动机,和其他显着图估计任务所产生的计算机视觉和自动监控实验证明了我们的方法的性能,并调查扩展设置的数据是嘈杂的,或可能不完整。
2014-11-19 cs.IT cs.LG math.IT
Nonparametric Online Regression while Learning the Metric
EPFL(洛桑联邦理工学院);Universitá degli Studi di Milano(米兰大学)
我们研究在线非参数回归算法,学习回归函数更平滑的方向。我们的算法学习的Mahalanobis度量的基础上的梯度外积矩阵$\boldsymbol{G}$的回归函数(自动适应此矩阵的有效秩),而同时绑定的遗憾-在相同的数据序列-在$\boldsymbol{G}$的频谱方面。在我们的分析作为一个初步的步骤,我们扩展了非参数在线学习算法哈赞和Megiddo,使其能够竞争对函数的Lipschitzness测量相对于任意Mahalanobis度量。
2017-10-23 cs.LG
Quantifying Distribution Shifts and Uncertainties for Enhanced Model Robustness in Machine Learning Applications
Norwegian University of Science and Technology(挪威科技大学)
本文利用范德瓦尔斯方程生成合成数据,并通过 KL 散度、Jensen-Shannon 距离和 Mahalanobis 距离等统计度量量化分布偏移与不确定性,提出以插值/外推区域判断作为增强模型鲁棒性和泛化能力的互补方法。
2024-05-03 cs.LG stat.ML
Toxicity Assessment in Preclinical Histopathology via Class-Aware Mahalanobis Distance for Known and Novel Anomalies
Tübingen AI Center, University of Tübingen(图宾根大学图宾根人工智能中心);Boehringer Ingelheim Pharma GmbH and Co.(勃林格殷格翰制药有限公司);Boehringer Ingelheim GmbH(勃林格殷格翰公司)
提出基于AI的异常检测框架,利用类别感知马氏距离和LoRA微调DINOv2,在啮齿动物肝脏全切片图像中识别健康组织、已知病理和分布外异常,实现像素级检测,降低假阴性和假阳性率。
2026-07-01 cs.AI cs.CV cs.LG
Uncertainty quantification for multiclass data description
University of Florida(佛罗里达大学)
本文提出了一种基于核马氏距离的多类数据描述模型(MDD-KM),该模型具有自适应超参数设置。MDD-KM提供了不确定性量化,并可用于为测试数据中存在分布外(OOD)样本的实际情况构建分类系统。给定测试信号,计算与信号和每个训练类之间的经验核Mahalanobis距离相关的量。由于这些量对应于相同的再生核希尔伯特空间,它们是可量化的,因此可以容易地被视为分类分数,而无需进一步应用融合技术。为了设置内核参数,我们利用的事实,即预测方差根据高斯过程(GP)是经验内核马氏距离时,使用集中式内核,并建议使用GP的负似然函数作为成本函数。我们对鸟类音符分类的实际问题进行了实验。我们报告了一个原型分类系统的基础上的层次线性动力系统MDD-KM作为一个组件。我们的分类系统不需要声音事件检测作为预处理步骤,并且能够在测试音频剪辑中的OOD样本(对应于不感兴趣的未知音符)中找到具有不同长度的训练鸟类音符的实例。利用领域知识从原始分类分数中做出明确的决策。我们证明了MDD-KM优于可能性K-最近邻的性能。
2021-08-29 cs.LG
Sparse Bayesian Generative Modeling for Compressive Sensing
TUM School of Computation, Information and Technology(慕尼黑工业大学计算、信息与技术学院);Technical University of Munich(慕尼黑工业大学)
本文提出一种新型正则化生成先验解决压缩感知线性逆问题,结合稀疏贝叶斯学习与生成模型适应性,支持少样本学习、免优化求解及不确定性量化,并经理论与实验验证。
2024-11-14 cs.LG eess.IV stat.ML
High SNR Consistent Compressive Sensing Without Signal and Noise Statistics
Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
在欠定线性回归模型、\textit{aka}、压缩感知中恢复稀疏向量的支持在许多信号处理应用中是重要的。高SNR一致性(HSC),即,随着信噪比(SNR)的增加,支撑恢复技术正确识别支撑的能力是一个越来越流行的标准,以限定支撑恢复技术的高SNR最优性。文献中可用于支持恢复技术的HSC结果适用于欠定线性回归模型,如最小绝对收缩和选择算子(LASSO),正交匹配追踪(OMP)等,假设\textit{a priori}噪声方差或信号稀疏性的知识。然而,这两个参数在大多数实际应用中是不可用的。此外,在欠定回归模型中估计噪声方差或信号稀疏性是极其困难的。这限制了现有HSC结果的实用性。在这篇文章中,我们提出了两种技术,\textit{viz.},剩余比最小化(RRM)和剩余比阈值与适应(RRTA)操作OMP算法没有\textit{a priroi}知识的噪声方差和信号稀疏性,并建立了他们的HSC解析和数值。据我们所知,这是第一个也是唯一一个在欠定回归模型中报告HSC的噪声统计不经意算法。
2018-11-17 cs.LG eess.SP stat.ML
Model-Aware Deep Architectures for One-Bit Compressive Variational Autoencoding
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
参数化数学模型在理解和设计复杂信息系统中起着核心作用。然而,他们往往不能考虑到这些系统固有的复杂的相互作用。相反,纯数据驱动的方法不需要明确的数学模型来生成数据,并且以可解释性为代价具有更广泛的适用性。在本文中,我们考虑一位压缩变分自编码器的设计,并提出了一种新的混合模型为基础的数据驱动的方法,使我们不仅可以设计的传感矩阵和量化阈值为一位数据采集,但也允许学习的潜在参数的迭代优化算法专门设计的一位稀疏信号恢复的问题。此外,该方法具有自适应学习合适的量化阈值的能力,为1比特压缩感知中的幅度恢复铺平了道路。我们的研究结果表明,一个显着的改进相比,最先进的基于模型的算法。
2019-11-27 cs.IT cs.LG eess.IV
High correlated variables creator machine: Prediction of the compressive strength of concrete
Institute of Structural Mechanics, Bauhaus-University Weimar(魏玛包豪斯大学结构力学研究所);School of Civil Engineering, Iran University of Science and Technology(伊朗科技大学土木工程学院);Ale Taha Institute of Higher Education(阿勒塔哈高等教育学院);Department of Geotechnical Engineering, Tongji University(同济大学岩土工程系);School of Civil Engineering, Khajeh Nasir Toosi University of Technology(哈杰·纳赛尔·图西工业大学土木工程学院)
本文提出了一种新的混合模型,用于预测混凝土的抗压强度超声脉冲速度(UPV)和回弹数(RN)。首先,收集了来自8项UPV和回弹锤(RH)试验研究的516个数据。然后,使用高相关变量生成器(HVCM)来创建与输出具有更好相关性的新变量,并改进预测模型。采用逐步回归(SBSR)、基因表达式编程(GEP)和自适应神经模糊推理系统(ANFIS)3种单一模型以及HCVCM-SBSR、HCVCM-GEP和HCVCM-ANFIS 3种混合模型对混凝土抗压强度进行预测。统计参数和误差项,如决定系数,均方根误差(RMSE),归一化均方误差(NMSE),分数偏差,最大正负误差,平均绝对百分比误差(MAPE),计算,以评估和比较模型。结果表明,HCVCM-ANFIS模型能更好地预测混凝土的抗压强度。HCVCM使ANFIS的决定系数提高了5%,RMSE提高了10%,NMSE提高了3%,MAPE提高了20%,最大负误差提高了7%。
2020-09-11 cs.LG
Batch-less stochastic gradient descent for compressive learning of deep regularization for image denoising
Univ. Bordeaux(波尔多大学);Bordeaux INP(波尔多国立理工学院);CNRS(法国国家科学研究中心);IMB(波尔多数学研究所)
针对图像去噪中深度正则化学习计算负担大的问题,提出两种适配压缩学习框架的无批次SGD变体,可从高度压缩数据库恢复参数,性能优于原有低维方法且有收敛保证,可用于基于块的图像去噪。
2023-10-02 cs.CV cs.IT cs.LG
LAPRAN: A Scalable Laplacian Pyramid Reconstructive Adversarial Network for Flexible Compressive Sensing Reconstruction
Arizona State University(亚利桑那州立大学)
本文研究了单图像压缩感知(CS)和重建问题。我们提出了一个可扩展的拉普拉斯金字塔重建对抗网络(LAPRAN),可以实现高保真度、灵活且快速的CS图像重建。LAPRAN遵循拉普拉斯金字塔的概念,通过多个阶段的重建对抗网络(RAN)逐步重建图像。在每个金字塔级别,CS测量值与上下文潜在向量融合以生成高频图像残差。因此,LAPRAN可以产生重建图像的层次结构,并且每个层次结构都具有增量分辨率和改进的质量。LAPRAN的可缩放金字塔结构使得能够以灵活的分辨率进行高保真CS重建,该分辨率适应于宽范围的压缩比(CR),这在现有方法中是不可行的。在多个公开数据集上的实验结果表明,与基于模型和数据驱动的基线相比,LAPRAN分别提供了平均7.47dB和5.98dB的PSNR,以及平均57.93%和33.20%的SSIM改善。
2018-11-03 cs.AI cs.CV cs.LG
An Extended Multi-Model Regression Approach for Compressive Strength Prediction and Optimization of a Concrete Mixture
Azad University, Central Tehran Branch (IAUCTB)(阿扎德大学中央德黑兰分校);RWTH Aachen University(亚琛工业大学)
由于与实验测试相关的显著延迟和成本,基于模型的混凝土抗压强度评估对于强度预测以及混合物优化都具有很高的价值。在这方面,最近的几项研究采用了最先进的回归模型,以实现一个良好的预测模型,采用现有的实验数据集。然而,尽管每个所采用的模型可以更好地适应输入数据的特定性质,但是由于对超参数的选择和学习策略的敏感性,每个单独模型的准确性是有限的。在目前的工作中,我们采取进一步的措施,通过加权组合的多元回归方法,提高预测模型的准确性。此外,(GA)为基础的多目标混合优化,提出了所获得的多元回归模型的基础上。特别是,我们提出了一个数据辅助的框架,人工神经网络,随机森林回归和多项式回归的基础上的回归方法联合实施预测混凝土的抗压强度。然后通过线性加权策略组合各个回归模型的结果,并在训练数据集上优化为二次凸优化问题。值得一提的是,由于制定的问题的凸性,全局最优加权策略,通过标准的数值求解器。采用建议的基于遗传算法的优化,帕累托前沿的成本CS贸易已获得采用可用的数据集。此外,所得到的准确性所提出的多模型预测方法被证明优于文献中的单模型回归方法的一个有价值的利润率,通过数值模拟。
2021-06-13 cs.LG
PAMD: Structured Adaptive Distances for Bisimulation Representations in Visual Reinforcement Learning
针对视觉强化学习中潜在距离选择影响性能的问题,提出PAMD(成对自适应马氏距离),它为测量潜在状态相似性参数化正定成对条件度量,是现有双模拟方法的简单插件,在视觉MuJoCo任务中显著提升了相关算法性能。
2026-07-21 cs.AI cs.LG
A data-driven approach to sampling matrix selection for compressive sensing
Colorado State University(科罗拉多州立大学);Physical Sciences Inc.(物理科学公司)
采样是压缩感知的任何实现的基本方面。通常,采样方法的选择由重建基础指导。然而,这种方法在某些硬件约束方面可能存在问题,并且不响应特定于域的上下文。我们提出了一种方法,用于定义一个顺序的采样基础,这是最佳的捕获数据的方差,从而允许有意义的感测在任何期望的压缩水平。我们专注于沃尔什-阿达玛采样的基础上,其相关的硬件约束,但我们的方法适用于任何采样的基础上的利益。我们说明了我们的方法对物理科学公司的有效性。Fabry-Pérot干涉仪传感器多光谱数据集,约翰霍普金斯应用物理实验室基于FTIR的长波红外传感器高光谱数据集,以及科罗拉多州立大学瑞士游侠深度图像数据集。光谱数据集由模拟实验组成,包括GAA和SF6等化学品的释放。我们结合我们的采样和重建与自适应相干估计器(ACE)和批量相干化学检测,我们将ACE值的算法阈值,以确定是否存在的化学品。我们在这种情况下比较不同采样方法的结果。我们在压缩率为90%的情况下成功检测到了化学物质。对于所有三个数据集,我们将我们的采样方法与采样基础的标准排序进行比较,例如随机,序列和序列的模拟,我们称之为“频率”。在一个例子中,在深度图像的测试集上,峰值信噪比提高了30%以上。
2019-06-20 cs.LG eess.IV eess.SP