通过 $L_2(\mathbb{R}^n)$ 的仿射不变子空间研究的改进神经网络泛逼近性
Improved universal approximation with neural networks studied via affine-invariant subspaces of $L_2(\mathbb{R}^n)$
AI总结:
本文证明 $L_2(\mathbb{R}^n)$ 无非平凡仿射不变闭子空间,据此推广神经网络泛逼近性,证明任意非零 $L_2(\mathbb{R})$ 函数均可作为单隐层网络激活函数以任意精度逼近目标,结果扩展至 $p>1$ 的 $L_p(\mathbb{R})$ 空间。
摘要:
我们证明 $L_2(\mathbb{R}^n)$ 中不存在在可逆仿射变换下不变的非平凡闭子空间。我们将此结果应用于神经网络,证明任何非零 $L_2(\mathbb{R})$ 函数均可作为单隐层神经网络的激活函数,以任意精度逼近 $L_2(\mathbb{R})$ 中的所有函数。这推广了与 Wiener 陶伯定理相关的 $L_2(\mathbb{R})$ 神经网络泛逼近性。我们的结果可推广至 $p>1$ 的 $L_p(\mathbb{R})$ 空间。
英文摘要:
We show that there are no non-trivial closed subspaces of $L_2(\mathbb{R}^n)$ that are invariant under invertible affine transformations. We apply this result to neural networks showing that any nonzero $L_2(\mathbb{R})$ function is an adequate activation function in a one hidden layer neural network in order to approximate every function in $L_2(\mathbb{R})$ with any desired accuracy. This generalizes the universal approximation properties of neural networks in $L_2(\mathbb{R})$ related to Wiener's Tauberian Theorems. Our results extend to the spaces $L_p(\mathbb{R})$ with $p>1$.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。