We consider the problem of learning high-dimensional, nonparametric and structured (e.g. Gaussian) distributions in distributed networks, where each node in the network observes an independent sample from the underlying distribution and can use $k$ bits to communicate its sample to a central processor. We consider three different models for communication. Under the independent model, each node communicates its sample to a central processor by independently encoding it into $k$ bits. Under the more general sequential or blackboard communication models, nodes can share information interactively but each node is restricted to write at most $k$ bits on the final transcript. We characterize the impact of the communication constraint $k$ on the minimax risk of estimating the underlying distribution under $\ell^2$ loss. We develop minimax lower bounds that apply in a unified way to many common statistical models and reveal that the impact of the communication constraint can be qualitatively different depending on the tail behavior of the score function associated with each model. A key ingredient in our proofs is a geometric characterization of Fisher information from quantized samples.
Distribution of the Sum of Fisher-Snedecor $\mathcal{F}$ Random Variables and Its Applications
随机变量之和的统计特性对于研究无线通信系统的性能是非常有用的。我们推导出独立但不相同分布（i.n.i.d.）的和的概率密度函数（PDF）和累积分布函数（CDF）的精确封闭形式的表达式。Fisher-Snedecor $\mathcal{F}$房车。PDF和CDF都是用多变量Fox $H$函数给出的。此外，还提出了一种简单而精确的i. n. i. d. Fisher-Snedecor的$\mathcal{F}$变量使用矩匹配方法。利用所得到的PDF和CDF对无线通信系统在4种不同自适应传输策略下的中断概率、有效容量和信道容量进行了性能评估。此外，相应的近似表达式得到的无线通信系统的设计和部署提供了有用的见解。此外，我们推导出简单的渐近表达式，建议在高信噪比制度的数学分析。最后，数值结果验证了所推导的表达式的准确性。
Comparison of Accuracy for Methods to Approximate Fisher Information in the Scalar Case
Fisher信息矩阵（Fisher information matrix）在统计学和其他领域一直很受关注。它被广泛用于度量信息量和计算最大似然估计（MLE）方差的下限。在实践中，我们并不总是知道实际的时间。这通常是因为获得对数似然函数的一阶或二阶导数很困难，或者仅仅是因为计算对数似然函数太难了。在这种情况下，我们需要利用近似的。一般来说，有两种方法可以估计职能指令手册。一种是利用梯度与自身转置的乘积，另一种是计算Hessian矩阵并取负号。大多数人在实践中使用后一种方法。然而，这不一定是最佳方式。为了找出这两种方法中哪一种更好，我们需要进行理论研究，比较它们的效率。在本文中，我们主要关注的情况下，需要估计的未知参数MLE是标量和随机变量，我们有是独立的。在这种情况下，Fisher信息矩阵实际上是Fisher信息数（FIN）。利用中心极限定理（CLT），我们得到了两种方法的渐近方差，并比较了它们的精度。泰勒展开有助于估计两个渐近方差。数值研究提供了一个说明的结论。其次是对本文局限性的总结。最后，我们还列举了几个值得进一步研究的领域。关键词：Fisher信息矩阵，Fisher信息数，中心极限定理，泰勒展开，渐近方差。
