Minimum Variance Estimation of a Sparse Vector within the Linear Gaussian Model: An RKHS Approach
我们考虑稀疏线性高斯模型(SLGM)中的最小方差估计。稀疏向量是从嵌入高斯噪声中的线性变换版本中估计的。我们的分析是基于再生核希尔伯特空间(RKHS)的理论。与SLGM的RKHS的表征后,我们推导出新的最小方差估计与规定的偏置函数的下界。这包括无偏估计的重要情况。方差界是通过一个正交投影到与SLGM相关的RKHS的子空间上的规定的平均函数。此外,我们专门压缩感知测量矩阵的界限,并表示他们的限制等距和相干参数。对于由稀疏信号噪声模型(SSNM)给出的SLGM的特殊情况,我们推导出最小可达方差(Barankin界)和相应的局部最小方差估计的封闭形式的表达式。我们还分析了精确和近似稀疏性信息的影响,并表明精确稀疏性的最小可实现方差不是近似稀疏性的极限情况。最后,我们比较我们的界限与三个著名的估计,即最大似然估计,硬阈值估计,压缩重建使用正交匹配追求的方差。
2013-04-14 cs.IT math.IT
Estimation in Gaussian Noise: Properties of the Minimum Mean-Square Error
考虑由受高斯噪声污染的观测值估计任意随机变量的最小均方误差(MMSE)问题。MMSE可以被认为是信噪比(SNR)的函数以及(待估计的随机变量的)输入分布的函数。结果表明,在任何给定的SNR的MMSE是凹的输入分布。对于一个给定的输入分布,MMSE被发现是无穷可微的,在所有积极的SNR,实际上是一个真正的解析函数的SNR在温和的条件下。这些规律性结果的关键是,通过高斯通道的观察条件下的后验分布总是衰减至少与一些高斯密度一样快。此外,简单的表达式的前三个衍生物的MMSE相对于SNR。它还示出,作为SNR的函数,高斯输入的MMSE曲线和非高斯输入的MMSE曲线在所有SNR上最多交叉一次。这些属性导致简单的事实证明,高斯输入实现标量高斯窃听信道的保密能力和标量高斯广播信道的能力,以及一个简单的证明熵功率不等式的特殊情况下,其中一个变量是高斯。
2010-04-20 cs.IT math.IT
Dense Gaussian Sensor Networks: Minimum Achievable Distortion and the Order Optimality of Separation
通过研究信源-信道编码问题,研究了密集传感器网络的最优性能.传感器网络的总体目标是从一个潜在的随机过程中进行测量,编码并将这些测量样本发送到一个具有潜在反馈的协作多址信道中的收集器节点,并在收集器节点处重建整个随机过程。我们提供的最小可实现的预期失真时,基本的随机过程是高斯的下限和上限。当高斯随机过程满足一些一般条件时,我们明确地评估了上下界,并证明了它们在广泛的功率约束下具有相同的阶数。因此,对于这些随机过程,在这些功率约束下,我们将最小可实现的预期失真表示为功率约束的函数。此外,我们表明,可扩展性方案,实现了下界的失真是一个基于分离的方案,它是由多终端率失真编码和放大和转发信道编码。因此,我们的结论是,分离是顺序最优的密集高斯传感器网络的情况下考虑,当潜在的随机过程满足一些一般条件。
2006-11-20 cs.IT math.IT
Robust Gaussian Joint Source-Channel Coding Under the Near-Zero Bandwidth Regime
实现失真噪声分布所需的最小功率,即,一个函数表示的最大允许失真值为每个噪声水平,研究了高斯源传输高斯信道下的制度下的带宽接近零。一个简单的,但工具下限的最低所需的功率为一个给定的配置文件。对于上界,提出了一种基于脏纸的编码方案,并分析了其功率失真折衷。最后,上界和下界的最小功率进行了分析和比较特定的失真噪声配置文件,即合理的配置文件与一阶和二。
2020-01-17 cs.IT math.IT
Mutual Information and Minimum Mean-square Error in Gaussian Channels
本文讨论了通过加性高斯噪声信道观测到的任意分布的有限功率输入信号。它显示了一个新的公式,连接的输入输出互信息和最小均方误差(MMSE)的最佳估计的输入给定的输出。也就是说,互信息(nats)相对于信噪比(SNR)的导数等于MMSE的一半,而与输入统计无关。这种关系适用于标量和矢量信号,以及离散时间和连续时间的非因果MMSE估计。这个基本的信息理论的结果有一个意想不到的后果,在连续时间的非线性估计:对于任何输入信号与有限的功率,因果滤波MMSE在SNR达到等于平均值的非因果平滑MMSE实现与信道的信噪比选择均匀分布在0和SNR之间。
2004-12-23 cs.IT math.IT
Caching and Coded Delivery over Gaussian Broadcast Channels for Energy Efficiency
考虑了高速缓存辅助的$K$ -用户高斯广播信道(BC)。发射机有一个$N$等速率文件库,每个用户都需要一个。研究了等容量接收机缓存对满足所有用户需求所需的最小发射功率的影响。考虑到整个库中的均匀随机需求,研究了最小平均功率(所有需求组合的平均值)和最小峰值功率(满足所有需求组合所需的最小功率)。上限上的最小所需的平均和峰值发射功率作为缓存容量的函数,考虑集中式和分散式缓存。假设未编码的高速缓存放置的最小所需的平均和峰值功率值的下限也来自。峰值和平均功率值的界限被证明是紧密的集中的情况下,通过数值模拟。本文中的结果表明,主动缓存和编码交付可以提供显着的节能无线网络。
2018-04-30 cs.IT math.IT
Limitations of state estimation: absolute lower bound of minimum variance estimation/filtering, Gaussianity-whiteness measure (joint Shannon-Wiener entropy), and Gaussianing-whitening filter (maximum Gaussianity-whiteness measure principle)
本文通过信息论方法研究状态估计的性能限制,提出高斯性-白性度量等新概念,并讨论高斯化-白化滤波原理。
2014-12-19 cs.IT cs.SY eess.SY
On the Decrease Rate of the Non-Gaussianness of the Sum of Independent Random Variables
本文给出了n个独立同分布(i.i.d.)随机变量已发布。我们给出了一个上界的减少率的非高斯性,这是成比例的n的倒数,对于大的n。证明是基于时间连续高斯信道中的非高斯性和最小均方误差(MMSE)和因果最小均方误差(CMMSE)之间的关系。
2006-12-17 cs.IT math.IT
The Reliability Function for the Additive White Gaussian Noise Channel at Rates above the Capacity
我们考虑加性高斯白噪声信道。我们证明了解码的错误概率趋于指数为1以上的容量和导出的最佳指数函数。我们将证明,信息谱的方法是非常有用的调查这个问题。
2017-02-06 cs.IT math.IT
Cooperative spectrum sensing with enhanced energy detection under GAUSSIAN noise uncertainty in cognitive radios
针对一般高斯噪声,研究了协作频谱感知(CSS)中能量检测(ED)门限的优化问题。提出了增强ED阈值以克服多个噪声不确定性的敏感性。在高斯噪声不确定性下,提出了两步判决模式和凸样本阈值。通过推导独立同分布(i.i.d.)因此,我们在低信噪比(SNR)条件下,使用建议的ED阈值获得较低的总出错率(Qe)。此外,仿真结果表明,所提出的方案优于大多数其他噪声不确定性计划。
2017-12-29 cs.IT math.IT
Worst-Case Additive Noise in Wireless Networks
信息论中的一个经典结果指出,高斯噪声是点对点信道中最坏情况的加性噪声,这意味着,对于固定的噪声方差,高斯噪声使加性噪声信道的容量最小化。在本文中,我们显着推广这一结果,并表明,高斯噪声也是最坏情况下的加性噪声在无线网络中的加性噪声是独立于发射信号。更具体地说,我们表明,如果我们固定在每个节点的噪声方差,那么与高斯噪声的容量区域是一个子集的容量区域与任何其他一组噪声分布。我们证明了这一结果表明,一个编码方案,实现了一组给定的速率在网络上的高斯加性噪声可以用来构建一个编码方案,实现了相同的一组速率在网络上,具有相同的拓扑结构和流量需求,但与非高斯加性噪声。
2013-01-29 cs.IT math.IT
Submodularity of Mutual Information for Multivariate Gaussian Sources with Additive Noise
本文证明了在非退化多元高斯分布假设下,网络状态与受加性高斯白噪声影响的k个节点子集之间的互信息具有子模性和非递减性,为传感器布置提供了理论依据。
2024-09-05 cs.IT math.IT
On Noisy Network Coding for a Gaussian Relay Chain Network with Correlated Noises
噪声网络编码是传统的压缩转发中继策略和网络编码思想的完美结合,它以其简单性和最优性在多播高斯网络容量的恒定间隙内得到了广泛的关注。然而,恒定间隙的结果仅适用于具有独立噪声的高斯中继网络。研究了带噪网络编码在相关噪声网络中的应用。通过对一个具有特定噪声相关结构的四节点高斯中继链网络的研究,证明了在高斯输入和高斯量化的选择下,噪声网络编码不再能够达到恒定的容量间隙.然而,在这种特定情况下,中继链网络的割集界限可以通过相关感知噪声网络编码策略和解码转发方案的简单级联来实现到半比特内。
2011-12-10 cs.IT math.IT
Covert Communication over Two Types of Additive Noise Channels
我们扩展了以前的结果在加性高斯白噪声信道上的隐蔽通信到其他两种类型的加性噪声信道。第一种是具有记忆的高斯信道,其中噪声序列是具有任意可逆协方差矩阵的高斯向量。我们表明,在这样一个通道上的隐蔽通信的基本限制是相同的白色通道,即,无记忆的高斯噪声我们考虑的第二种类型的通道是一个无记忆的广义高斯噪声。对于这样一个通道,我们证明了一个一般的上限上的主导项在最大数目的nats,可以隐蔽地沟通,在n个通道使用。当广义高斯噪声分布的形状参数p在区间(0,1]内时,我们还证明了一个匹配下界。
2023-03-21 cs.IT math.IT
Sparse Representation of White Gaussian Noise with Application to L0-Norm Decoding in Noisy Compressed Sensing
在大系统的限制下,给出了基于超完备字典的高斯白噪声稀疏表示的可达域和逆域。此外,这种稀疏表示的边缘分布也被推断。结果是通过统计力学中的统计方法得到的。这些结果的一个直接结果是引入尖锐的阈值$\ell_{0}$范数解码噪声压缩感知,其均方误差欠定高斯矢量信道。
2017-02-10 cs.IT math.IT
On the MMSE Estimation of Norm of a Gaussian Vector under Additive White Gaussian Noise with Randomly Missing Input Entries
本文考虑了根据在向量的许多条目是\emph{missed}并且仅保留$K\ (0\le K\le n)$条目并且其他条目设置为$0$之后进行的有噪测量来估计$n$维随机高斯向量的$l_2$范数的任务。具体而言,我们评估的最小均方误差(MMSE)估计的$l_2$范数的未知高斯向量进行测量下的加性高斯白噪声(AWGN)的向量数据丢失后,并推导出相应的均方误差(MSE)的表达式。我们发现,当$K/n$保持不变时,相应的MSE由$n$归一化后趋于$0$为$n\to \infty$。此外,当AWGN噪声的方差趋向于$0$或$\infty$时,推导了MSE的表达式。这些结果推广了Dytso等人的\cite{dytso2019estimating}的结果,其中考虑了$K=n$的情况,即在不考虑数据缺失现象的情况下,由AWGN噪声下的测量值导出随机高斯向量范数的MMSE估计。
2020-10-16 cs.IT math.IT
On Powers of Gaussian White Noise
经典高斯白噪声在通信和信号处理中被看作是零均值二阶高斯过程的极限,当支撑趋于无穷大时,具有紧支撑平坦谱密度。发展一个理论来处理白噪声的非线性变换的困难在于解释相应的极限。本文证明了带限高斯过程的幂的重正化和中心化是高斯白噪声,因此,在适当的重正化下的齐次多项式仍然是白噪声。
2010-10-14 cs.IT math.IT math.PR
Minimum Rate For Partially Observable Linear System with Side Information: LQG Plant and Gaussian-Markov Source
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文针对带边信息的部分可观测线性系统,以LQG装置与高斯-马尔可夫源为对象,证明线性策略可优化条件定向信息下界,对应标量情况的优化问题为凸,结果推广了过往相关研究,数值仿真验证了边信息的作用。
2026-09-10 cs.IT cs.SY eess.SY
Gaussian Belief Space Path Planning for Minimum Sensing Navigation
University of Texas at Austin(德克萨斯大学奥斯汀分校);Tokyo Institute of Technology(东京工业大学)
我们提出了一种路径规划方法的移动机器人导航通过充满障碍的环境中产生一个参考路径是可追溯的适度的传感努力。所需的参考路径的特点是在一个充满障碍的高斯信念流形配备了一个新的信息几何距离函数的最短路径。我们引入的距离函数被证明是一个非对称的准伪度量,可以被解释为引导高斯信念所需的最小信息增益。提出了一种基于RRT * 的数值求解算法来求解最短路径问题。为了深入了解所提出的算法的渐近最优性,我们考虑的路径长度函数是连续的拓扑结构的总变分。仿真结果表明,所提出的方法是有效的,在各种机器人导航方案,以减少传感器的成本,如所需的频率的传感器测量和必须同时操作的传感器的数量。
2022-12-07 cs.IT cs.RO math.IT
Optimality of codes with respect to error probability in Gaussian noise
我们考虑几何最优化问题有关优化的错误概率存在的高斯噪声。该领域的一个著名问题是“弱单形猜想”。本文讨论了它的可能途径,并陈述了关于高斯测度的相关猜想,特别是关于单形的高斯测度极小化的猜想。我们还考虑了对跖码,应用Šidák不等式,并建立了一些理论和数值结果,他们的最优性。
2017-01-27 cs.IT math.IT math.MG
Isotropically Random Orthogonal Matrices: Performance of LASSO and Minimum Conic Singular Values
最近,广义LASSO算法从压缩噪声测量中恢复结构化信号的精确性能,通过i.i.d.高斯矩阵,已被特征化。该分析是基于一个框架引入Stojnic和严重依赖于使用戈登的高斯最小-最大定理(GMT),高斯过程的比较原则。其结果是,相应的表征测量矩阵的其他合奏尚未开发。在这项工作中,我们分析了各向同性随机正交(i.r.o.)测量.我们考虑广义LASSO的约束版本,并推导出其归一化平方误差在大系统极限的尖锐表征。当它的高斯对应相比,我们的结果分析证实了在性能的i.r.o.合奏。我们的第二个结果,得出了一个渐近下界的最小锥奇异值的i.r.o.矩阵这个界大于高斯矩阵的相应界。为了证明我们的结果,我们表示i.r.o.矩阵的高斯和显示,经过一些修改,GMT框架仍然适用。
2015-03-24 cs.IT math.IT math.ST
State estimation under non-Gaussian Levy noise: A modified Kalman filtering method
Huazhong University of Science and Technology(华中科技大学);Illinois Institute of Technology(伊利诺伊理工学院)
卡尔曼滤波器广泛用于高斯噪声下线性系的状态估计。当存在非高斯Lévy噪声时,由于非高斯Lévy噪声可能具有无穷大方差的事实,常规卡尔曼滤波器可能失效。针对非高斯Lévy噪声下的线性系设计了一种改进的Kalman滤波器。它以合理的计算成本有效地工作。仿真结果说明了这种非高斯滤波方法。
2013-03-10 cs.IT cs.LG math.DS
Near-Optimality of Linear Strategies for Static Teams with `Big' Non-Gaussian Noise
我们研究具有静态信息结构的随机团队问题,假设控制器具有线性信息和二次成本,但允许噪声来自非高斯类。当噪声为高斯噪声时,这些问题允许线性最优控制器。我们表明,对于这样的线性二次静态团队与任何对数凹噪声,如果噪声或数据向量的长度变得大相比,团队的大小和他们的意见,然后线性策略接近最优的“大多数”问题。近似的质量随着噪声向量长度的增长而提高,并且近似渐近不精确的一类问题接近一组测量零。我们表明,如果对数凹噪声问题的最优策略逐点收敛,他们这样做的(线性)最优策略的高斯噪声问题。并且我们得到了非高斯问题的最优费用与线性策略下的最优费用之差的渐近紧误差界。
2018-12-28 cs.GT cs.IT math.IT
Multi-Orientation Edge-Minimum Repair for Non-Redundant Fault-Tolerant Broadcasting in Dense Gaussian Networks
Department of Computer Science, Faculty of Science, Kuwait University(科威特大学理学院计算机科学系)
针对密集高斯网络中的非冗余广播修复问题,提出多方向边最小修复(MOEM)方法,通过选择容错方向、收缩故障剪枝树并利用跨组件修复边重构生成树,证明在单双故障下修复边数最少且深度不超过k+2。
2026-06-17 cs.DC cs.IT cs.NI
Toward Fast Reliable Communication at Rates Near Capacity with Gaussian Noise
Yale University(耶鲁大学);Barron Field, LLC(巴伦菲尔德有限责任公司)
针对加性高斯噪声信道中码字平均功率受限的情况,提出了稀疏叠加码和自适应逐次译码方法。码字是向量子集的线性组合,消息由子集的选择索引。提出了一种可行的译码算法。通信是可靠的错误概率指数小的香农容量以下的所有速率。
2010-06-19 cs.IT cs.LG math.IT
State distributions and minimum relative entropy noise sequences in uncertain stochastic systems: the discrete time case
School of Engineering and Information Technology, University of New South Wales at the Australian Defence Force Academy(新南威尔士大学澳大利亚国防军学院工程与信息技术学院)
本文针对离散时间随机系统,通过条件相对熵量化噪声不确定性,研究耗散性理论、鲁棒性能分析以及最小化驱动系统所需相对熵供应的Schrödinger桥问题,并给出线性高斯情形的闭式解与可计算鲁棒性指标。
2012-08-19 cs.IT cs.SY eess.SY