我们研究了多维直方图的鲁棒学习问题。$d$维函数$h: D \rightarrow \mathbb{R}$称为$k$直方图,如果存在域$D \subseteq \mathbb{R}^d$到$k$轴对齐矩形的分区,使得$h$在每个这样的矩形内是恒定的.令$f: D \rightarrow \mathbb{R}$是$d$维概率密度函数,并假设$f$在$L_1$ -距离上与未知$k$ -直方图(具有未知分区)是$\mathrm{OPT}$ -接近的.我们的目标是输出一个假设,即$O(\mathrm{OPT}) + ε$接近$f$,在$L_1$ -距离。我们给这个学习问题,使用$n = \tilde{O}_d(k/ε^2)$样本和运行时间$\tilde{O}_d(n)$的算法。对于任何固定的维度,我们的算法具有最佳的样本复杂度,对数因子,并在近线性时间运行。在我们的工作之前,$d=1$案例的时间复杂性已经被很好地理解,但是即使对于$d=2$,我们的理解仍然存在重大差距。
英文摘要:
We study the problem of robustly learning multi-dimensional histograms. A $d$-dimensional function $h: D \rightarrow \mathbb{R}$ is called a $k$-histogram if there exists a partition of the domain $D \subseteq \mathbb{R}^d$ into $k$ axis-aligned rectangles such that $h$ is constant within each such rectangle. Let $f: D \rightarrow \mathbb{R}$ be a $d$-dimensional probability density function and suppose that $f$ is $\mathrm{OPT}$-close, in $L_1$-distance, to an unknown $k$-histogram (with unknown partition). Our goal is to output a hypothesis that is $O(\mathrm{OPT}) + ε$ close to $f$, in $L_1$-distance. We give an algorithm for this learning problem that uses $n = \tilde{O}_d(k/ε^2)$ samples and runs in time $\tilde{O}_d(n)$. For any fixed dimension, our algorithm has optimal sample complexity, up to logarithmic factors, and runs in near-linear time. Prior to our work, the time complexity of the $d=1$ case was well-understood, but significant gaps in our understanding remained even for $d=2$.
A new estimate of mutual information based measure of dependence between two variables: properties and fast implementation
Indian Statistical Institute(印度统计研究所)
本文提出了一种新的方法来估计现有的互信息的依赖性度量使用直方图密度估计。为直方图寻找合适的区间长度是一个悬而未决的问题。我们提出了一种新的方法来计算直方图的bin长度使用点之间的最大分离函数。所选择的箱长导致直方图方法的一致密度估计。由此获得的密度值用于计算现有依赖性度量的估计。该估计被命名为基于互信息的依赖性指数(Intermediate Information Based Dependence Index,简称为DSI)。还叙述了它的一些重要性质。所提出的方法的性能进行了比较,普遍接受的措施,如距离相关(dcor),最大信息系数(MINE)的准确性和计算复杂性的帮助下,几个人工数据集与不同数量的噪声。所提出的方法是能够检测变量之间的多种类型的关系,而不作任何假设的关系的函数形式。所提出的方法的功率统计说明他们在检测非线性关系的有效性。因此,它能够实现通用性而没有高的假阳性率。在现实生活中的数据集上,我们发现它比其他方法更有效。所提出的方法被发现,以克服一些与装饰和矿山发生的限制。在计算方面,我们发现在时间和内存方面,dcor比dcor和MINE更好,这使得它适用于大型数据集。
A novel application of Shapley values for large multidimensional time-series data: Applying explainable AI to a DNA profile classification neural network
Adelaide Data Science Centre(阿德莱德数据科学中心);University of Adelaide(阿德莱德大学);Forensic Science SA(南澳大利亚法医科学中心);College of Science and Engineering, Flinders University(弗林德斯大学科学与工程学院)