对“支持向量机及其应用”的反驳
Rejoinder to "Support Vector Machines with Applications"
摘要:
对“支持向量机及其应用”的反驳[math.ST/0612817]
英文摘要:
Rejoinder to ``Support Vector Machines with Applications'' [math.ST/0612817]
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。
Rejoinder to "Support Vector Machines with Applications"
Javier M. Moguerza, Alberto Muñoz
对“支持向量机及其应用”的反驳[math.ST/0612817]
Rejoinder to ``Support Vector Machines with Applications'' [math.ST/0612817]
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。
继续探索
Rejoinder: Harold Jeffreys's Theory of Probability Revisited
我们感谢再次访问的所有讨论者对我们工作的大力支持,并感谢他们总体上同意我们的观点。与他们和其他领先的统计学家的进一步讨论表明,概率论的遗产是活着的和持久的。[arXiv:0804.3173]
Comment on "Support Vector Machines with Applications"
关于“支持向量机及其应用”的评论[math.ST/0612817]
Comment on "Support Vector Machines with Applications"
评"支持向量机及其应用“[math.ST/0612817]
Comment on "Support Vector Machines with Applications"
关于“支持向量机及其应用”的评论[math.ST/0612817]
Comment on "Support Vector Machines with Applications"
对[math.ST/0612817]的评论
Principal support vector machines for linear and nonlinear sufficient dimension reduction
我们介绍了一个主要的支持向量机(PSVM)的方法,可用于线性和非线性充分降维。其基本思想是将响应变量划分为切片,并使用改进的支持向量机来找到将它们分开的最佳超平面。这些最优超平面然后由它们的法向量的主分量对齐。证明了对齐法向量提供了充分降维空间的无偏、$\sqrt{n}$ -相容和渐近正态估计。然后,该方法推广到非线性充分降维使用再生核希尔伯特空间。在这种情况下,对齐的法向量成为函数,并证明了它们是无偏的,在这个意义上,他们是真正的非线性充分预测的功能。我们比较PSVM与其他足够的降维方法通过模拟和实际数据分析,并通过这两个比较坚定地建立其实用的优势。
Learning rates for partially linear support vector machine in high dimensions
分析了高维部分线性支持向量机的一种新的正则化学习方法。所提出的方法包括一个经验风险和拉索型惩罚的线性部分,以及标准的非线性部分的功能范数。在这里,线性核用于模型解释和特征选择,而非线性核被采用,以提高算法的灵活性。本文对加权经验过程进行了一种新的技术分析,并在正则化条件下建立了半参数估计的锐学习率。特别地,我们导出的半参数SVM的学习率不仅依赖于样本量和函数的复杂度,而且还依赖于稀疏性和间隔参数。
Qualitative Robustness of Support Vector Machines
支持向量机在理论和应用统计学中都引起了广泛的关注。最近感兴趣的主要话题是一致性,学习率和鲁棒性。在这篇文章中,它表明,支持向量机是定性的强大。由于支持向量机可以表示为一个功能上的所有概率测度的集合,定性的鲁棒性证明,通过显示,这个功能是连续的拓扑结构所产生的弱收敛的概率测度。结合支持向量机的存在性和唯一性,我们的结果表明,支持向量机是一个适定的数学问题在Hadamard意义下的解决方案。
On the proliferation of support vectors in high dimensions
支持向量机(SVM)是一种成熟的分类方法,其名称是指特定的训练样本,称为支持向量,其确定最大间隔分离超平面。当支持向量的数量与训练样本的数量相比很小时,SVM分类器具有良好的泛化性能。然而,最近的研究表明,在足够高维的线性分类问题中,SVM可以很好地推广,尽管所有训练样本都是支持向量的支持向量激增。在本文中,我们为支持向量增殖现象确定了新的确定性等价物,并使用它们来(1)大大拓宽了在高维环境中发生这种现象的条件,以及(2)证明了一个几乎匹配的逆结果。
Support Vector Regression for Right Censored Data
我们为受右删失的数据开发了一种统一的分类和回归支持向量机方法。我们提供了有限的样本范围内的算法的推广误差,证明了风险的一致性,为广泛的一类概率测度,并研究了相关的学习率。我们采用的一般方法来估计(截断)的平均值,中位数,分位数,和分类问题。我们提出了一个模拟研究,证明了所提出的方法的性能。
Support vector machines and Radon's theorem
支持向量机(SVM)是一种算法,其找到将$\mathbb{R}^n$中的标记数据点最佳地分成正类和负类的超平面。在这个分离超平面的边缘上的数据点被称为支持向量。我们连接的可能配置的支持向量的Radon定理,它提供了保证时,一组点可以分为两类(正和负)的凸包相交。如果正、负支持向量的凸包投影到一个分离超平面上,则投影相交当且仅当该超平面是最优的。此外,与一个特定类型的一般位置,我们表明,(a)的投影凸包的支持向量相交在一个点,(b)的支持向量是稳定的扰动下,(c)有最多$n+1$支持向量,和(d)从2到$n+1$的支持向量的任何数量是可能的。最后,我们进行计算机模拟研究的预期数量的支持向量,和他们的配置,随机生成的数据。我们观察到,对于这种类型的随机生成的数据,随着点类之间的距离增加,具有较少支持向量的配置变得更有可能。
Fast rates for support vector machines using Gaussian kernels
对于二进制分类,我们建立了学习率的顺序为$n^{-1}$的支持向量机(SVM)铰链损失和高斯RBF内核。这些速率是在两个假设所考虑的分布:Tsybakov的噪声假设建立一个小的估计误差,和一个新的几何噪声条件,这是用来约束的近似误差。与以前提出的概念为界的近似误差,几何噪声假设不采用任何平滑假设。
Support vector machines and linear regression coincide with very high-dimensional features
支持向量机(SVM)和最小欧氏范数最小二乘回归是拟合线性模型的两种根本不同的方法,但是它们最近通过支持向量增殖现象在非常高维数据的模型中被连接,其中用于拟合SVM的每个训练样本都成为支持向量。在本文中,我们探讨了这一现象的普遍性,并作出以下贡献。首先,我们证明了一个超线性下限的维度(在样本大小方面)所需的支持向量增殖独立的特征模型,从以前的作品的上限相匹配。我们进一步识别了高斯特征模型中的急剧相变,限制了这种转变的宽度,并为其普遍性提供了实验支持。最后,我们假设,这种相变只发生在更高维的设置中的$\ell_1$变体的SVM,我们提出了一个新的几何表征的问题,可以阐明这种现象的一般$\ell_p$的情况下。
Distributed estimation of principal support vector machines for sufficient dimension reduction
主支持向量机方法(Li等人,2011)是一个强大的工具,充分的降维,取代原来的预测与他们的低维线性组合,而不会丢失信息。然而,主支持向量机方法的计算负担限制了其在海量数据中的应用。为了解决这个问题,我们在本文中提出了两个分布式估计算法的快速实现时,样本量是大的。这两种分布充分降维估计量具有与合并所有数据相同的统计效率,为它们在大规模数据集上的应用提供了严格的统计保证。这两种分布式算法进一步适用于主加权支持向量机(Shin等人,2016)用于在二进制分类中充分的降维。我们提出的方法的统计精度和计算复杂性进行了检查,通过全面的模拟研究和实际数据应用超过60万个样本。
Non-asymptotic Analysis of $\ell_1$-norm Support Vector Machines
带$\ell_1$惩罚的支持向量机(Support Vector Machines,SVM)在生物信息学和信号处理等领域成为分析具有稀疏约束的高维分类问题的标准工具。虽然支持向量机已被深入研究的文献中,本文有我们所知的第一个非渐近结果的性能$\ell_1$ -支持向量机在识别稀疏分类器。我们表明,$d$维$s$稀疏分类向量可以(以高概率)很好地近似只有$O(s\log(d))$高斯试验。证明中使用的方法包括测度集中和Banach空间中的概率。
扫码添加微信好友,提出您的宝贵建议 👇
💡 备注请填写:网站反馈
发表机构由 AI 从论文文本抽取,如发现错误,欢迎反馈修正建议。