首页/论文/0902.1284

arXiv 0902.12842009-02cs.LG

基于压缩感知的多标签预测

Multi-Label Prediction via Compressed Sensing

UC San Diego（加州大学圣地亚哥分校）；TTI-Chicago（芝加哥丰田技术研究院）；Rutgers University（罗格斯大学）

Daniel Hsu, Sham M. Kakade, John Langford, Tong Zhang

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

我们考虑多标签预测问题与大的输出空间的假设下，输出稀疏-目标（标签）向量有小的支持。我们开发了一个通用的理论流行的纠错输出编码方案的一个变体，利用压缩感知的思想，利用这种稀疏性。该方法可以看作是一个简单的减少从多标签回归问题的二元回归问题。我们表明，子问题的数量只需要对数的可能的标签的总数，使这种方法从根本上比其他更有效。我们还以遗憾变换界限（一般）的形式陈述并证明了该方法的鲁棒性保证，并且还提供了对线性预测设置的更详细分析。

英文摘要：

We consider multi-label prediction problems with large output spaces under the assumption of output sparsity -- that the target (label) vectors have small support. We develop a general theory for a variant of the popular error correcting output code scheme, using ideas from compressed sensing for exploiting this sparsity. The method can be regarded as a simple reduction from multi-label regression problems to binary regression problems. We show that the number of subproblems need only be logarithmic in the total number of possible labels, making this approach radically more efficient than others. We also state and prove robustness guarantees for this method in the form of regret transform bounds (in general), and also provide a more detailed analysis for the linear prediction setting.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

压缩感知：数学基础、实现与高级优化技术

Compressed Sensing: Mathematical Foundations, Implementation, and Advanced Optimization Techniques

本文探讨了压缩感知的数学基础、逻辑与病理现象，并将该信号重建技术应用于现实世界的信号处理。

2025-09-15cs.LG

Generative Model Adversarial Training for Deep Compressed Sensing

University of Central Florida（中佛罗里达大学）

Deep compressed sensing assumes the data has sparse representation in a latent space, i.e., it is intrinsically of low-dimension. The original data is assumed to be mapped from a low-dimensional space through a low-to-high-dimensional generator. In this work, we propound how to design such a low-to-high dimensional deep learning-based generator suiting for compressed sensing, while satisfying robustness to universal adversarial perturbations in the latent domain. We also justify why the noise is considered in the latent space. The work is also buttressed with theoretical analysis on the robust…

2021-06-20cs.LGeess.IV

鲁棒贝叶斯压缩感知

Robust Bayesian Compressed sensing

University of Electronic Science and Technology of China（电子科技大学）；Stevens Institute of Technology（斯蒂文斯理工学院）

我们考虑鲁棒压缩感知的问题，其目标是从被离群值破坏的压缩测量中恢复高维稀疏信号。提出了一种新的稀疏贝叶斯学习方法用于鲁棒压缩感知。该方法的基本思想是识别和去除稀疏信号恢复中的野值。为了自动识别离群值，我们采用了一组二进制指标超参数来指示哪些观测值是离群值。这些指标超参数被视为随机变量，并分配一个beta过程之前，使其值被限制为二进制。此外，高斯逆伽玛先验施加在稀疏信号，以促进稀疏性。基于这种分层先验模型，我们开发了一种变分贝叶斯方法来估计指示超参数以及稀疏信号。仿真结果表明，该方法实现了现有的鲁棒压缩感知技术的性能显着改善。

2016-10-21cs.LGstat.ML

Provable Compressed Sensing with Generative Priors via Langevin Dynamics

Iowa State University（爱荷华州立大学）；New York University（纽约大学）

Deep generative models have emerged as a powerful class of priors for signals in various inverse problems such as compressed sensing, phase retrieval and super-resolution. Here, we assume an unknown signal to lie in the range of some pre-trained generative model. A popular approach for signal recovery is via gradient descent in the low-dimensional latent space. While gradient descent has achieved good empirical performance, its theoretical behavior is not well understood. In this paper, we introduce the use of stochastic gradient Langevin dynamics (SGLD) for compressed sensing with a generativ…

2021-02-25cs.LGstat.ML

压缩感知：从研究到临床实践与数据驱动学习

Compressed Sensing: From Research to Clinical Practice with Data-Driven Learning

Stanford University（斯坦福大学）

MRI中的压缩感知能够实现高的二次采样因子，同时保持诊断图像质量。该技术能够缩短扫描持续时间和/或提高图像分辨率。此外，压缩感知可以增加来自所执行的每次扫描的诊断信息和值。总体而言，压缩感知在改善成像检查的诊断质量和患者体验方面具有显著的临床影响。然而，当将压缩感知从研究转移到临床时，存在许多挑战。这些挑战包括手工制作的图像先验、敏感的调整参数和较长的重建时间。数据驱动学习为应对这些挑战提供了解决方案。因此，压缩感知可以具有更大的临床影响。在本教程中，我们将回顾压缩感知公式，并概述将此公式转换为深度学习框架所需的步骤。python中的补充开源代码将用于演示使用开放数据库的这种方法。此外，我们将讨论在临床环境中应用数据驱动的压缩感知的考虑因素。

2019-03-19cs.CVcs.LGeess.IV

无线传感器网络中一比特压缩感知的稀疏扩散最速下降算法

Sparse Diffusion Steepest-Descent for One Bit Compressed Sensing in Wireless Sensor Networks

Qom University of Technology（库姆理工大学）；Swinburne University of Technology（斯威本科技大学）；Sharif University of Technology（谢里夫理工大学）

提出了一种基于稀疏扩散的最速下降算法，用于无线传感器网络中的一比特压缩感知。该方法利用扩散策略从分布式学习的一位压缩感知框架。为了仅从测量的符号协作地估计公共稀疏向量，使用最速下降来最小化合适的全局和局部凸代价函数。提出了稀疏向量的分布式学习扩散策略。仿真结果表明，提出的分布式算法的有效性相比，国家的最先进的非分布式算法在一位压缩感知框架。

2016-01-03cs.ITcs.LGmath.IT

更多相关论文收起更多论文

Variational Quantum Compressed Sensing for Joint User and Channel State Acquisition in Grant-Free Device Access Systems

Mitsubishi Electric Research Laboratories（三菱电机研究实验室）；University of New South Wales（新南威尔士大学）

This paper introduces a new quantum computing framework integrated with a two-step compressed sensing technique, applied to a joint channel estimation and user identification problem. We propose a variational quantum circuit (VQC) design as a new denoising solution. For a practical grant-free communications system having correlated device activities, variational quantum parameters for Pauli rotation gates in the proposed VQC system are optimized to facilitate to the non-linear estimation. Numerical results show that the VQC method can outperform modern compressed sensing techniques using an el…

2022-05-17cs.ETcs.LGeess.SP

用于图像压缩感知的深度学习稀疏三元投影

Deep Learning Sparse Ternary Projections for Compressed Sensing of Images

Vrije Universiteit Brussel（布鲁塞尔自由大学）；imec（比利时微电子研究中心）

压缩感知（CS）是一种采样理论，它允许使用由适当的投影矩阵实现的感知机制，从不完整数量的测量中重建稀疏（或可压缩）信号。CS理论基于随机高斯投影矩阵，其以高概率满足恢复保证;然而，稀疏三元{0，-1，+1}投影更适合于硬件实现。在本文中，我们提出了一种深度学习方法来获得非常稀疏的压缩感知三元投影。我们的深度学习架构以端到端的方式联合学习一对投影矩阵和重建算子。真实图像上的实验结果表明，所提出的方法的有效性相比，国家的最先进的方法，具有显着的优势，在复杂度。

2017-08-28cs.CVcs.LGstat.ML

具有结构相似性损失的压缩感知算子的深度学习

Deep Learning of Compressed Sensing Operators with Structural Similarity Loss

Technion Israel Institute of Technology（以色列理工学院）；McGovern Institute for Brain Research, Massachusetts Institute of Technology（麻省理工学院麦戈文脑科学研究所）

压缩感知（CS）是一种信号处理框架，用于从通过信号的线性投影获得的少量测量有效地重建信号。在本文中，我们提出了一种用于CS的端到端深度学习方法，其中完全连接的网络执行线性感知和非线性重建阶段。在训练阶段，传感矩阵和非线性重建算子联合优化使用结构相似性指数（SSIM）作为损失，而不是标准的均方误差（MSE）损失。我们比较所提出的方法与国家的最先进的重建质量下的损失，即SSIM分数和MSE分数。

2019-06-25cs.CVcs.LGeess.IV

Equivariant Priors for Compressed Sensing with Unknown Orientation

Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Qualcomm AI Research（高通人工智能研究院）；Qualcomm Technologies Netherlands B.V.（高通技术荷兰有限公司）；Qualcomm Technologies, Inc.（高通技术公司）

In compressed sensing, the goal is to reconstruct the signal from an underdetermined system of linear measurements. Thus, prior knowledge about the signal of interest and its structure is required. Additionally, in many scenarios, the signal has an unknown orientation prior to measurements. To address such recovery problems, we propose using equivariant generative models as a prior, which encapsulate orientation information in their latent space. Thereby, we show that signals with unknown orientations can be recovered with iterative gradient descent on the latent space of these models and prov…

2022-06-28cs.LGeess.SPstat.ML

压缩计数满足压缩感知

Compressed Counting Meets Compressed Sensing

Rutgers University（罗格斯大学）

压缩感知（稀疏信号恢复）是近年来的一个热门和重要的研究课题。通过观察自然信号往往是非负的，我们提出了一个新的框架，使用压缩计数（CC）的非负信号恢复。CC是一种建立在最大偏斜p-稳定随机投影上的技术，最初是为数据流计算而开发的。我们的恢复过程在计算上是非常有效的，因为它只需要一个线性扫描的坐标。我们的分析表明，当0<p<=0.5时，使用M= O（C/eps^p log N）测量就足够了，使得在坐标的一次扫描中，所有坐标都将在eps加性精度内恢复。当p->0时，常数C=1，当p=0.5时，常数C=pi/2。特别地，当p->0时，所需的测量次数基本上是M=K \log N，其中K是信号的非零坐标的数量。

2013-10-03cs.DScs.ITcs.LG

压缩感知中重构的相干性和足够的采样密度

Coherence and sufficient sampling densities for reconstruction in compressed sensing

University College London（伦敦大学学院）；FU-Berlin（柏林自由大学）

我们给出了一个新的，非常普遍的，制定的压缩感知问题的坐标投影的分析品种，并获得足够的采样率信号重建。我们的边界是线性的信号空间的一致性，一个几何参数独立的特定的信号和测量，和对数的环境维度的信号。我们通过推导出独立于真矩阵的低秩矩阵完备化和距离矩阵完备化的足够的采样密度来证明我们的方法。

2013-11-02cs.ITcs.LGmath.AG